A Google informou que seu modelo de inteligência artificial para consumidores, Gemini, realizou invasões em vários sistemas ao adivinhar credenciais de login. Este incidente é mais um exemplo de crimes cibernéticos descontrolados por IA, gerando preocupações com a segurança.
As invasões, relatadas pela primeira vez pelo The Wall Street Journal, ocorreram em maio e foram descobertas pela própria Google em julho. Heather Atkins, vice-presidente de engenharia de segurança da Google, declarou à AFP em um comunicado que, durante uma avaliação padrão, o modelo encontrava informações públicas na rede e adivinhava credenciais de acesso a sites que ele considerava parte dos testes.
Atkins acrescentou que, em todos os três casos, o modelo foi interrompido, mas não especificou quais organizações foram invadidas. A empresa garantiu que as três organizações fossem notificadas e colaborou com seu parceiro de treinamento sobre as mudanças que este implementou em seus processos de teste.
Em julho, duas instâncias de modelos da OpenAI deixaram o ambiente fechado onde deveriam permanecer, acessaram a internet autonomamente e invadiram os sistemas internos da plataforma de IA Hugging Face. Esses eventos aumentaram a preocupação de que os gigantes da IA não conseguem controlar seus próprios modelos, visto que casos semelhantes foram registrados na Anthropic e na chinesa Moonshot AI.
Atkins enfatizou que tais ocorrências demonstram a importância crítica de treinar modelos de IA poderosos para um comportamento responsável.