Pesquisadores de cibersegurança que obtiveram acesso aos sistemas da OpenAI recentemente emitiram um alerta, indicando que o setor de inteligência artificial (IA) ainda não está preparado para os riscos de segurança gerados pelo avanço e pelo poder crescente da própria tecnologia.
Os pesquisadores da Hacktron, uma startup focada em segurança de computadores, conseguiram penetrar nos sistemas da empresa responsável pelo ChatGPT, utilizando a ajuda do Claude, um chatbot desenvolvido pela Anthropic, principal concorrente da OpenAI.
De acordo com publicações da Hacktron na plataforma X, o ataque começou com a exploração de um painel de mensagens público, o que permitiu aos pesquisadores acessar sistemas privados da OpenAI, incluindo partes do código interno da companhia.
A OpenAI prontamente corrigiu a falha de segurança e compensou os pesquisadores com o valor de US$ 6,5 mil (equivalente a R$ 33,4 mil) pela descoberta e notificação da vulnerabilidade.
Este incidente, somado a outros casos onde modelos de IA acessaram a internet sem detecção e atacaram outras corporações, intensificou as críticas de especialistas em cibersegurança. Para estes, os esforços das empresas de IA para proteger seus sistemas não correspondem ao imenso poder que conferem à tecnologia.
Críticas sobre a vulnerabilidade dos sistemas
Mohan Pedhapati, um dos pesquisadores da Hacktron envolvidos no ataque à OpenAI, argumentou que o uso de softwares corporativos padrão, como Slack, navegadores de consumo e outros aplicativos acessíveis publicamente, torna a empresa suscetível a ataques. Pedhapati questionou em uma publicação no X: «Se as pessoas que constroem esses sistemas realmente acreditam que eles são poderosos o suficiente para criar riscos de nível nuclear, e estão falando em desacelerar por causa desses riscos, por que esse trabalho… é feito por meio de produtos SaaS comuns?»
Sam Altman, CEO da OpenAI, juntou-se a outros líderes do setor que defendem uma redução no ritmo de desenvolvimento da IA, devido à apreensão de que as capacidades tecnológicas estão progredindo mais velozmente do que a capacidade da indústria de gerenciá-las.
Em um comunicado, um porta-voz da OpenAI agradeceu aos pesquisadores por reportarem suas descobertas e confirmou que as medidas de segurança da empresa foram reforçadas.
Advertência de especialistas
Frank Cilluffo, diretor do McCrary Institute for Cyber and Critical Infrastructure Security da Auburn University, considerou o sucesso de uma pequena equipe de pesquisadores no ataque — realizado com um custo de US$ 3 mil (R$ 15,4 mil) para usar os sistemas da Anthropic — como um «tiro de advertência». Cilluffo alertou: «Se três pesquisadores responsáveis, equipados com ferramentas comerciais de IA, conseguiram alcançar esse nível de acesso em questão de dias, temos que presumir que serviços de inteligência estrangeiros com muitos recursos estão perseguindo os mesmos alvos continuamente e certamente nunca avisando o alvo sobre o que fizeram e como fizeram».
Especialistas em segurança nacional já alertam há anos que companhias americanas de IA devem esperar ser visadas por hackers apoiados por governos estrangeiros interessados em diminuir a liderança dos Estados Unidos na área tecnológica.
As solicitações para frear o desenvolvimento da IA também motivaram parlamentares dos dois principais partidos americanos a defenderem uma fiscalização governamental mais rigorosa sobre o setor.
Por outro lado, Donald Trump rejeitou veementemente essas propostas, insistindo que a indústria deve acelerar para manter a competitividade contra a China.
O ataque conduzido pela Hacktron ocorreu aproximadamente no mesmo período em que houve o episódio envolvendo agentes de IA.
Logo após o incidente, a OpenAI realocou uma parte substancial de seus recursos de engenharia para fortalecer a segurança. Greg Brockman, presidente da empresa, informou em entrevista a um podcast da Andreessen Horowitz que 25% dos engenheiros de produção foram temporariamente destinados a essa função. Brockman detalhou: «Pegamos 25% dos nossos engenheiros de produção e dissemos: ‘Desculpem, todos os seus projetos estão suspensos. Agora vocês estão na defesa’». Ele acrescentou que encontraram e corrigiram diversos problemas sérios.
Reação da OpenAI aos pesquisadores
Os pesquisadores da Hacktron também criticaram a forma como a OpenAI respondeu após receberem a notificação sobre a vulnerabilidade. Assim como muitas grandes corporações, a OpenAI promove publicamente a divulgação de vulnerabilidades por pesquisadores de segurança.
Fabian Faessler, chefe de engenharia de agentes da Hacktron, declarou em uma publicação no X que Dane Stuckey, diretor de segurança da informação da OpenAI, teria chamado os pesquisadores de pouco profissionais, expressando sua expectativa por uma resposta mais acolhedora da empresa.
Dan Wallach, pesquisador residente em segurança de IA na Rand, opinou que a OpenAI teve sorte por a vulnerabilidade ter sido descoberta por pesquisadores que optaram por se apresentar e compartilhar suas descobertas. Wallach comentou ao The Washington Post: «Como regra geral, não é educado fazer o que eles fizeram, mas eu acho que a OpenAI deveria estar satisfeita porque o invasor foi gentil o suficiente para avisá-los».
Posteriormente à publicação da série de posts de Faessler no X, Stuckey entrou em contato com o pesquisador para pedir desculpas, conforme relatado por Faessler em uma publicação subsequente.