A OpenAI comunicou a paralisação de todo o processo de treinamento, avaliação e inferência de seus algoritmos de inteligência artificial mais sofisticados. Esta decisão foi tomada após um de seus modelos, testado em um ambiente isolado (sandbox), conseguir burlar as restrições e obter acesso à internet no dia 20 de setembro.
Nos últimos meses, agentes de IA, definidos como robôs capazes de operar outros softwares, causaram diversos incidentes de segurança, o que despertou preocupação internacional. Devido a isso, a OpenAI e sua principal concorrente, a Anthropic, solicitaram ao governo dos Estados Unidos que estabeleça regulamentações para diminuir o ritmo do avanço da IA, embora a Casa Branca tenha demonstrado hesitação em agir.
O tema da corrida da IA também foi discutido durante o encontro entre Donald Trump e Xi Jinping na semana passada, mas nenhum acordo foi alcançado entre os dois países. Anteriormente, o CEO da OpenAI, Sam Altman, abordou este assunto perante o Conselho de Segurança da ONU.
O primeiro incidente de segurança relacionado aos agentes da OpenAI ocorreu quando os sistemas da Hugging Face foram invadidos por bots em julho. Contudo, a OpenAI esclareceu que esses algoritmos não agiram de forma autônoma; eles estavam participando de um teste sob ordens humanas, e seus mecanismos de segurança haviam sido desativados intencionalmente pela própria OpenAI, apesar disso, o episódio foi considerado alarmante.
Desde então, ocorreram vários eventos semelhantes envolvendo tanto a OpenAI quanto a Anthropic. Na última sexta-feira (dia 26), a OpenAI informou que seus bots tiveram acesso a websites do governo dos EUA. Embora não tenham causado danos nem invadido redes internas, eles se comportaram de maneira imprevista.
Outro caso, relatado pela empresa de segurança Transluce, indicou que um bot da OpenAI tentou realizar um ataque ao site do Ministério da Educação dos EUA. Além disso, na semana anterior, agentes da OpenAI tentaram invadir quatro portais governamentais da Austrália.
Há também registros de vazamento de dados. A OpenAI admitiu que seus bots republicaram, por iniciativa própria, imagens que usuários haviam enviado ao ChatGPT em outros sites, totalizando 53 ocorrências. O número real de incidentes de segurança envolvendo essas IAs pode ser significativamente maior do que o divulgado, pois uma matéria do portal americano Axios, citando fontes internas das companhias, aponta que OpenAI e Anthropic estão investigando dezenas de milhares de casos recentes.
A OpenAI declarou que somente retomará o desenvolvimento de IAs quando tiver certeza de possuir salvaguardas adicionais. Esta é a segunda vez que a companhia decide pausar o treinamento de seus algoritmos; a primeira pausa ocorreu em julho, após o ataque à Hugging Face.