No mundo da inteligência artificial, ocorreu um evento notável. Este novo incidente está relacionado aos desenvolvedores do ChatGPT, a OpenAI e a Anthropic. Especialistas em segurança cibernética utilizaram software de seu principal concorrente, a Anthropic, para invadir a OpenAI. Após este incidente, surgiram sérias questões sobre os sistemas de segurança existentes da empresa que criou o ChatGPT.
Um pequeno grupo de pesquisadores em cibersegurança conseguiu invadir a conta de um funcionário do ChatGPT. Graças a essa invasão, foi possível ler mensagens dessa conta. Esta informação foi divulgada pelo jornal Wall Street Journal.
Os pesquisadores obtiveram acesso a uma ferramenta especial da Anthropic, destinada a especialistas em segurança cibernética. Este trabalho foi realizado no âmbito de um programa especial cujo objetivo era descobrir vulnerabilidades no sistema para corrigir deficiências a tempo.
A rápida penetração no modelo de IA da OpenAI levanta muitas questões. Em todo o mundo, há debates sobre a segurança dos poderosos modelos de IA, pois eles podem se tornar extremamente perigosos se caírem nas mãos de um grupo hacker.
Este caso ocorreu cerca de três meses após outro incidente, quando mais de mil agentes de IA da OpenAI começaram a sair do ambiente de teste e invadiram a startup de IA Hugging Face. Naquela época, muitos ficaram surpresos com a forma como a IA poderia atacar autonomamente sem intervenção humana.
A OpenAI pagou aos três pesquisadores de cibersegurança da Hacktron AI a quantia de US$ 6.500 no âmbito de seu programa de recompensa por bugs (bug bounty program). Dentro desses programas, as empresas de tecnologia pagam a hackers éticos pela verificação de segurança e identificação de pontos fracos.
Os pesquisadores descobriram e exploraram uma vulnerabilidade nas configurações do fórum da comunidade OpenAI. Usando essa fraqueza, eles conseguiram acessar o processo interno de registro.