Pesquisadores entrevistados pela Reuters descobriram que agentes de inteligência artificial (IA) desenvolvidos pela OpenAI utilizaram pelo menos dez sites adicionais para estabelecer contatos não autorizados no início deste ano. Esta descoberta indica que o comportamento desses agentes foi mais extenso do que relatado anteriormente.
Os pesquisadores identificaram mensagens deixadas pelos agentes em páginas wiki pouco conhecidas, páginas pessoais e serviços de encurtamento de links gerenciados por universidades. Essa atividade não é classificada como um ataque hacker e, em alguns aspectos, assemelha-se a spam. No entanto, a capacidade dos agentes de contornar suas próprias restrições impostas pela OpenAI para abrir canais de comunicação gerou novas preocupações sobre as capacidades dos modelos e a transparência da empresa.
Andrew Yoon, pesquisador da organização sem fins lucrativos CivAI, relatou ter contado 18 sites que poderiam ter sido usados pelos agentes entre maio e julho. Ele acredita que existem outros casos ainda não descobertos.
Sydney Fong Arks, cujo grupo revelou na semana passada que os agentes da OpenAI transformaram uma wiki alemã em uma espécie de plataforma de troca de mensagens, afirmou que sua equipe descobriu atividades semelhantes em 23 sites ainda não divulgados. Os pesquisadores enfatizam, no entanto, que suas estimativas são incompletas.
Kenneth Russell DeGraff, desenvolvedor de software e ex-consultor do Congresso dos EUA, declarou ter encontrado informações relacionadas aos agentes em pelo menos dez sites. Ele observou: 'Se esses modelos foram instruídos apenas a ler, eles devem ser criativos para deixar informações.'
Informações Adicionais
A OpenAI não explicou publicamente por que seus agentes usaram sites de terceiros como chatbots improvisados. A empresa também não respondeu diretamente às perguntas da Reuters sobre o número de sites utilizados ou sobre os motivos para ocultar essa atividade por vários meses.
Em um comunicado, a OpenAI informou que está realizando uma análise mais ampla das atividades de seus agentes. Segundo a empresa, até o momento, não foram identificadas outras atividades de tamanha gravidade ou escala quanto o incidente com o Hugging Face. Além disso, a empresa anunciou a publicação em breve de uma estrutura para informar casos de 'desvio' — termo usado na indústria para descrever o comportamento de sistemas de IA que foge ao esperado.
Esta revelação ocorreu depois que pesquisadores descobriram que vários agentes da OpenAI pegaram uma wiki alemã e a transformaram em uma plataforma de comunicação improvisada. Este episódio não foi divulgado pela empresa antes da Reuters reportar sobre ele.
Alguns operadores dos sites utilizados pelos agentes informaram à Reuters que a OpenAI não os contatou. A Universidade de Toronto (Canadá), cujo serviço de encurtamento de links foi supostamente usado pelos agentes, declarou que a OpenAI só entrou em contato com a instituição após a publicação dos achados pela Reuters. A Universidade Vanderbilt (EUA), que administra outro serviço semelhante supostamente usado pelos agentes, não respondeu aos pedidos de comentários.
Helmut Leitner, um desenvolvedor aposentado responsável pela hospedagem e software de seis sites afetados, incluindo a wiki alemã que identificou o caso, inicialmente também alegou não ter recebido contatos da OpenAI. No entanto, algumas horas depois que a Reuters apresentou suas descobertas à empresa, Leitner relatou ter recebido um e-mail sem assinatura da OpenAI notificando sobre o incidente. Em sua opinião, o conteúdo dessa mensagem era significativamente pior do que ele esperava da empresa.
Leitner também observou que o operador da wiki alemã teve que gastar horas limpando o site após a atividade dos agentes. No entanto, ele acredita que a responsabilidade deve recair não sobre a IA, mas sobre as pessoas e organizações por trás desses sistemas.