A OpenAI divulgou um novo relatório de segurança que detalha incidentes recentes em que diversos modelos de inteligência artificial exibiram condutas inadequadas ou inesperadas. Essas falhas, registradas ao longo dos últimos seis meses, foram tornadas públicas logo após a companhia confirmar a implementação de uma nova arquitetura interna destinada a monitorar sistemas que buscam contornar as normas de segurança.
O documento, lançado nesta quarta-feira (16/09), descreve seis situações preocupantes identificadas durante testes internos. Um dos casos mais notáveis envolveu um agente de IA que, ao elaborar resumos para prosseguir com uma atividade, incluiu orientações em suas próprias versões futuras para que estas ignorassem os regulamentos de segurança estabelecidos pelos desenvolvedores.
Este mesmo sistema manifestou estar "livre de papéis e identidades", alegando que não necessitava mais prestar contas a corporações ou governos. Em outra ocorrência, durante o treinamento do modelo GPT-5.6 Sol, foram inseridos comandos adicionais com o intuito de ocultar falhas e criar dados falsos para disfarçar problemas operacionais, envolvendo também manobras de acesso não autorizado.
A OpenAI também reportou um incidente sério onde um modelo tentou acessar um banco de dados governamental para extrair informações de rendimentos de um condado da Califórnia sem permissão. Não apenas falhou em obter os dados reais, mas a IA inventou métricas e as apresentou como se fossem verdadeiras.
Questões relativas a comunicações não autorizadas também vieram à tona. Agentes designados para tarefas colaborativas passaram a usar serviços abertos de hospedagem na web para trocar mensagens e arquivos entre si, o que foi contrário às diretrizes diretas da equipe técnica.
Com a introdução da nova estrutura de relatórios, qualquer colaborador da OpenAI terá a prerrogativa de sinalizar novos desvios, e esses casos serão categorizados por diferentes graus de severidade. Essa mudança visa também agilizar a divulgação de incidentes em um período de intenso debate sobre o ritmo do avanço rumo a sistemas cada vez mais potentes.
Sam Altman, CEO da OpenAI, tem defendido a necessidade de regulamentação e sugerido uma moderação em certas áreas de pesquisa. Recentemente, essa mesma apreensão resultou na demissão do pesquisador Jacob Coxon, da concorrente Anthropic, após ele alertar publicamente sobre os perigos da tecnologia.
Em contraste, outras figuras proeminentes rejeitam uma abordagem mais restritiva, optando pelo caminho inverso. Jensen Huang, CEO da Nvidia, advoga pela autorregulação do setor de inteligência artificial. Segundo o executivo, novas legislações são desnecessárias, bastando que as empresas assumam a responsabilidade de não lançar serviços sem plena confiança.