A OpenAI descontinuou, no final de julho, sua equipe de preparedness, cujo papel era analisar os riscos sérios vinculados aos modelos de inteligência artificial e definir métodos para mitigá-los. Com essa reestruturação, as tarefas anteriormente centralizadas nesse grupo foram redistribuídas entre departamentos já estabelecidos, com foco específico em setores como biologia e segurança cibernética.
Essa modificação insere-se em um período de constantes ajustes nas estruturas de segurança da companhia. A reformulação acontece enquanto a OpenAI se prepara para uma potencial Oferta Pública Inicial (IPO) de ações de grande magnitude. O fechamento desta equipe soma-se à saída de colaboradores ligados à segurança e a outras dissoluções de unidades dedicadas à preparação para riscos de sistemas avançados.
Uma função primordial da equipe de preparedness era investigar se os modelos criados pela OpenAI poderiam gerar ameaças de grande escala. O trabalho também incluía a criação de estratégias para controlar ou reduzir tais perigos, abrangendo cenários onde um sistema poderia atuar de forma prejudicial contra outras entidades.
Após o encerramento da equipe, a empresa decidiu distribuir essas responsabilidades conforme o tipo de ameaça analisada. Por exemplo, assuntos relacionados à cibersegurança e à biologia passaram a ser tratados pelas equipes que já integravam a estrutura corporativa.
Dylan Scandinaro, que ingressou na OpenAI em fevereiro vindo da Anthropic, também teve suas responsabilidades ajustadas. Ele deixou de liderar a estrutura de preparedness e passou a focar seu trabalho nas implicações da inteligência artificial com capacidade de aprimoramento recursivo.
Esta decisão marca mais uma alteração na organização das áreas de segurança da OpenAI. Nos últimos anos, a empresa também desmantelou ou encerrou outras estruturas ligadas à preparação para sistemas avançados, como as equipes de prontidão para AGI e de superalinhamento.
Este movimento ocorre em paralelo a outras trocas de pessoal. Recentemente, Chloé Bakalar, responsável pela área de ética, Josh Achiam, que exercia o cargo de Chief Futurist, e Johannes Heidecke, chefe de segurança, deixaram a empresa.
Essas transformações geraram críticas de ex-membros da OpenAI. Jan Leike, que deixou a companhia em 2024, declarou ao Financial Times que a empresa estaria negligenciando a segurança em prol da busca por novos produtos. A opinião deste ex-funcionário surge no contexto de uma série de mudanças que afetaram as equipes responsáveis por temas de segurança e preparação.
Portanto, o desmonte da equipe não implica que todas as atividades relativas a riscos foram abandonadas. De acordo com o relato divulgado, parte dessas incumbências persiste, mas agora está dispersa por diversas estruturas da companhia, em vez de estar concentrada em um grupo específico.
A reorganização acontece em um momento crucial para a OpenAI, que caminha para uma possível abertura de capital. O cenário financeiro e as sucessivas alterações nas estruturas de segurança passaram a influenciar o debate sobre a prioridade que a empresa concede à gestão dos riscos inerentes à inteligência artificial.