No campo da inteligência artificial, os avanços de três especialistas indianos em cibersegurança estão sendo amplamente discutidos. Esses pesquisadores utilizaram o chatbot Claude da Anthropic para verificar vulnerabilidades no sistema da OpenAI. É notável que eles conseguiram testar a segurança de uma grande plataforma de IA usando as capacidades da inteligência artificial.
Os pesquisadores são Harsh Jaiswal, Mohan Pedhapati e Rahul Mani. Todos estão associados à empresa de cibersegurança Hacktron AI. Eles realizaram testes de segurança nos sistemas da OpenAI como parte do programa Bug Bounty da empresa.
De acordo com o relatório, os pesquisadores conseguiram encontrar uma vulnerabilidade em um fórum público da OpenAI. Este problema estava relacionado à forma como o sistema processa certos arquivos de imagem. Os especialistas descobriram que essa fraqueza poderia ser usada para executar código no servidor do fórum.
Em seguida, eles acionaram o Claude. Com a ajuda da IA, eles conseguiram entender essa vulnerabilidade, escrever o código, depurá-lo e preparar o exploit. De acordo com o relatório, todo esse processo levou menos de 72 horas.
No entanto, a história não terminou em uma única vulnerabilidade. Os pesquisadores continuaram a testar esse problema inicial e descobriram outra falha. Graças a isso, eles conseguiram acessar as contas de alguns funcionários da OpenAI usando tokens de login.
Em seguida, a equipe conseguiu encontrar uma maneira de invadir o ambiente fechado do GitHub da OpenAI através da conta de um funcionário. Assim, ao combinar várias vulnerabilidades, os pesquisadores demonstraram o quão sério pode ser um pequeno ponto fraco em termos de segurança.
É importante entender que o Claude não invadiu a OpenAI sozinho. Os pesquisadores descobriram as vulnerabilidades e estabeleceram a conexão entre elas. O Claude ajudou a acelerar o processo de codificação, depuração e execução de outras tarefas técnicas.
A equipe incluía Harsh Jaiswal, Mohan Pedhapati e Rahul Mani. Mohan Pedhapati é diretor técnico e cofundador da Hacktron AI, e Harsh Jaiswal também é cofundador da empresa. Rahul Mani tem experiência em pentesting e programas de Bug Bounty.
Segundo o relatório, durante este teste, a equipe gastou menos de US$ 3000 em tokens de IA, o que equivale a aproximadamente 2,5 lakh de rúpias. Posteriormente, a OpenAI corrigiu essas vulnerabilidades e pagou aos pesquisadores uma recompensa de US$ 6500, o que corresponde a cerca de 6,2 lakh de rúpias.
Este caso demonstra que a IA hoje vai além de simplesmente responder perguntas ou escrever código. Especialistas em cibersegurança também estão usando ferramentas de IA para acelerar pesquisas de vulnerabilidades e testes de segurança. No entanto, isso levanta uma questão importante: se tais ferramentas de IA forem usadas de forma inadequada, isso pode criar novos desafios para a cibersegurança.