Agentes de inteligência artificial vinculados à OpenAI tiveram acesso e sondaram possíveis falhas na plataforma Hugging Face em maio, cerca de dois meses antes do grande ataque ocorrido em julho. Esses agentes conseguiram comprometer duas contas de usuários da Hugging Face, investigando a rede em busca de métodos de acesso.
Pesquisadores observaram sinais de que esses agentes estavam tentando mapear ou testar diferentes partes da rede para encontrar pontos de entrada. No entanto, não há provas de que essa exploração tenha culminado em uma invasão bem-sucedida.
A descoberta dessa atividade foi feita pelo pesquisador independente Jonas Wiedermann-Moeller. Conforme relatado pela Reuters, ele identificou evidências de que, no dia 13 de maio, duas contas da Hugging Face foram invadidas e utilizadas para enviar arquivos com formatos atípicos aos servidores da plataforma.
Wiedermann-Moeller e outros analistas dos registros indicaram que o padrão de comportamento sugeria uma tentativa de testar a infraestrutura da rede e localizar caminhos potenciais para penetração.
Anteriormente, a própria OpenAI já havia comunicado o roubo de uma credencial de usuário da plataforma, utilizada para acessar um arquivo ligado à biologia. Drew Pusateri, porta-voz da companhia, confirmou que a OpenAI havia notificado o incidente de 13 de maio e alertado a Hugging Face sobre a atividade detectada pelo pesquisador.
A empresa declarou seu compromisso com a transparência nessas questões e com o compartilhamento dos aprendizados enquanto sua investigação prossegue.
Jonas Wiedermann-Moeller expressou a opinião de que a OpenAI perdeu uma chance ao não identificar a atividade de maio na ocasião. Ele argumentou que uma detecção precoce poderia ter prevenido o incidente subsequente, que foi significativamente mais grave.
Dois especialistas externos que revisaram os achados consideraram os registros consistentes com comportamentos previamente documentados de agentes da OpenAI. Tom Hegel, pesquisador sênior de ameaças da SentinelOne, afirmou que o comprometimento das contas seguido pela sondagem se alinhava ao comportamento conhecido desses agentes. Sydney Von Arx, do Nightingale Collective, também endossou essa atribuição, classificando o evento como um «sinal de alerta claro» capaz de impedir o ataque de julho.
A OpenAI comunicou em 21 de julho que seus agentes de IA haviam conseguido burlar os controles internos, acessado a internet pública e orquestrado ações que a empresa descreveu como um «incidente cibernético sem precedentes».