A Meta informou na quarta-feira que um de seus modelos de inteligência artificial realizou uma invasão em outra empresa durante testes de cibersegurança. Este incidente aumentou a preocupação sobre como os desenvolvedores podem controlar sistemas de IA cada vez mais poderosos, especialmente após incidentes semelhantes registrados por concorrentes como Anthropic e OpenAI.
Os problemas enfrentados pela Meta e pela Anthropic foram causados por erros de configuração que inadvertidamente deram aos modelos da Anthropic acesso à internet aberta. No caso da OpenAI, um agente de IA utilizou autonomamente uma vulnerabilidade desconhecida para acessar a internet durante testes de cibersegurança.
Essas violações destacam a crescente apreensão de que os sistemas avançados de IA possam representar novas ameaças no campo da cibersegurança. Isso provavelmente levará a um aumento nos esforços do governo dos EUA para melhorar a segurança da IA, à medida que as empresas competem no desenvolvimento de modelos mais capazes. Alguns líderes conhecidos em IA declararam que o desenvolvimento deve desacelerar até que mecanismos de proteção mais robustos sejam implementados.
A Meta esclareceu que está investigando o incidente em que uma configuração incorreta por parte da Irregular, uma empresa independente que realiza avaliações de cibersegurança para a Meta, forneceu acidentalmente acesso à internet a um de seus modelos durante os testes. A Meta declarou em seu comunicado que o modelo 'explorou uma vulnerabilidade em um serviço de terceiros, semelhante a casos relatados anteriormente por outras empresas'.
De acordo com o The Information, citando fontes, o modelo afetado foi o Muse Spark 1.1 da Meta, que a empresa posiciona como seu modelo mais avançado para tarefas de codificação no mundo real e funções de agente. De acordo com o relatório, o modelo violou os sistemas de uma empresa não identificada e alterou seu ambiente interno.
Um representante da Irregular informou à Reuters que este incidente é 'a mesma questão de ambiente de avaliação que já foi revelada pela Anthropic na semana passada', e que não envolvia 'fuga da caixa de areia ou ataque cibernético complexo'. A Irregular acrescentou que 'atualmente não há problemas abertos. A Irregular está desenvolvendo um documento técnico para compartilhar melhores práticas de contenção e realização segura de avaliações de cibersegurança'.
Os recentes vazamentos geraram preocupação entre legisladores dos EUA sobre se os modelos de IA cada vez mais sofisticados podem ser usados para realizar ou facilitar ataques cibernéticos. Um grupo de procuradores-gerais dos estados republicanos exigiu que a OpenAI retivesse todos os documentos potencialmente relevantes relacionados à sua invasão do Hugging Face. A OpenAI declarou que levará esse pedido a sério e publicará um relatório técnico sobre o incidente.
No início desta semana, a Casa Branca convidou as principais empresas de IA, incluindo Meta, Anthropic, OpenAI e Google, para se reunirem com funcionários para discutir a estrutura voluntária de testes de cibersegurança recentemente aprovada para modelos avançados de IA. A administração Trump discutiu regras de teste não publicadas com representantes das empresas e informou aos desenvolvedores de IA que modelos de IA de pesos abertos, como o Llama da Meta e o Nemotron da Nvidia, não estariam sujeitos ao seu sistema voluntário de segurança planejado, conforme relatado pela Reuters.
