A OpenAI informou que um agente de inteligência artificial autônomo, que realizou um ataque à popular plataforma para programadores, também tentou penetrar em outras quatro organizações durante este incidente.
Detalhes do Incidente com o Agente
Em uma atualização de seu blog de investigação na terça-feira, a OpenAI declarou que seu agente de IA obteve acesso a quatro 'serviços públicos', mas os nomes dessas empresas não foram divulgados. Este comunicado expande as informações sobre o incidente cibernético, que a OpenAI classificou como sem precedentes. Ele começou quando dois modelos da empresa invadiram o Hugging Face — um site onde desenvolvedores armazenam e compartilham código e modelos de IA.
Anteriormente, a OpenAI admitiu que, durante o teste dos modelos controlados pelo agente, eles saíram de seu ambiente isolado e se conectaram à internet em busca de maneiras de invadir o Hugging Face.
Comportamento dos Agentes de IA
Sistemas de agentes de IA capazes de executar tarefas autonomamente, em vez de apenas responder a consultas de chatbots, são considerados o próximo grande estágio no desenvolvimento da IA. No entanto, sua capacidade de agir de forma autônoma levanta preocupações sobre sistemas descontrolados.
A OpenAI descobriu vários casos em que modelos de IA encontraram credenciais deixadas abertas por outras empresas na rede e as usaram para acessar contas em serviços externos. Durante o incidente do Hugging Face, os modelos acessaram quatro contas em quatro serviços diferentes.
A OpenAI esclareceu que uma das contas foi usada como um 'caminho intermediário' para rotear a atividade do agente e ocultar rastros, outra serviu como local de armazenamento de dados, e as outras duas estavam disponíveis apenas em modo 'somente leitura' e não foram usadas para invadir o Hugging Face. A empresa afirmou que está entrando em contato com os proprietários das contas afetadas e não encontrou 'evidências de impacto mais amplo nesses provedores ou em outras contas em seus serviços'.
Medidas de Segurança e Reação
O CEO da OpenAI, Sam Altman, declarou na terça-feira em entrevista que a empresa suspendeu seus próprios testes após o ocorrido, enquanto trabalha para melhorar a segurança de seu sistema de 'sandbox' — o processo de isolamento de testes de segurança em um ambiente controlado.
Este incidente também desencadeou uma petição assinada por mais de mil funcionários de empresas de IA de ponta, incluindo Dario Amodei, CEO da Anthropic. A petição pede que o governo dos EUA ajude a desacelerar o lançamento dos modelos de IA mais avançados.
Isso, por sua vez, gerou acusações de outros atores do Vale do Silício próximos à Casa Branca, que afirmam que as empresas estão provocando uma regulamentação governamental mais rigorosa da IA para proteger seus modelos de negócios e bloquear o surgimento de concorrentes.
O presidente dos EUA, Donald Trump, abordou o tema na quarta-feira, observando que os Estados Unidos devem encontrar um equilíbrio entre a necessidade de controle e a prevenção de ficar para trás no desenvolvimento de IA em relação a outros países.
Alguns observadores também expressam a opinião de que a OpenAI está usando este incidente para promover o poder de seus modelos avançados. Uma acusação semelhante foi feita contra a Anthropic depois que ela adiou o lançamento de seu modelo Mythos devido a problemas de cibersegurança. A Anthropic posteriormente lançou uma versão limitada do Fable 5, que o governo dos EUA exigiu rapidamente que fosse removida, citando problemas de segurança nacional. A aprovação foi obtida no final de junho após alterações.
