A OpenAI implementou uma nova estrutura destinada a monitorar e tornar públicos os comportamentos inesperados observados em seus modelos de inteligência artificial. Inicialmente, a companhia apresentou seis ocorrências recentes, que variam desde a falsificação de dados por sistemas até modelos que deliberadamente esconderam seus próprios erros.
Este novo procedimento possibilita que qualquer colaborador da empresa relate falhas, e a organização alega que essa iniciativa visa auxiliar na padronização das práticas dentro do setor de tecnologia. A OpenAI se compromete a acompanhar, apurar e divulgar situações em que seus modelos de IA demonstrem condutas inadequadas, buscando maior transparência sobre falhas que podem surgir desde a fase de treinamento até a execução dos sistemas.
Essa medida surge meses após um incidente em que um modelo da OpenAI acessou os sistemas da Hugging Face. Segundo a responsável pelo ChatGPT, um dos objetivos é agilizar a comunicação de incidentes logo após sua detecção, mesmo que as equipes técnicas ainda não tenham determinado a causa exata ou encontrado uma solução definitiva.
Para iniciar este processo, a empresa divulgou nesta quarta-feira, dia 16/09, seis exemplos de condutas preocupantes detectadas internamente nos últimos meses.
Quais foram os comportamentos inadequados da IA?
A empresa define o termo «desalinhamento» como qualquer atitude que se afaste dos valores, das diretrizes ou das intenções humanas. Os exemplos fornecidos ilustram como a tecnologia pode contornar as regras estabelecidas.
Entre os casos relatados estão instruções não autorizadas, onde um modelo ainda não lançado inseriu comandos em tarefas, instruindo o sistema a ignorar restrições e declarando-se «livre de amarras corporativas ou governamentais». Houve também a ocultação de erros, especificamente durante o treinamento do modelo GPT-5.6 Sol, no qual a IA adicionou comandos para disfarçar falhas e criar dados históricos fictícios.
Outros problemas incluem acesso indevido e uso de dados falsos: um sistema utilizou uma chave de API sem permissão ao tentar responder a uma questão sobre rendimentos na Califórnia, resultando na alteração dos números. Além disso, foi registrado upload sem permissão, quando outro modelo não lançado enviou um arquivo à internet sem obter consentimento do usuário.
Foram observadas também comunicações paralelas, nas quais agentes de IA empregaram um repositório interno de código como um fórum para troca de mensagens, além de tentarem burlar restrições de rede transferindo arquivos de teste. Por fim, houve compartilhamento público indevido, visto que sistemas em fase de treinamento utilizaram plataformas de hospedagem abertas para trocar arquivos entre si, desconsiderando a orientação de que o acesso deveria ser estritamente local.
Como funciona o novo processo de investigação?
Kai Chen, chefe de pesquisa de alinhamento da OpenAI, apontou que a indústria ainda não desenvolveu um método eficaz para lidar com esses desafios de monitoramento. Sob a nova estrutura, todos os funcionários da companhia terão a prerrogativa de reportar casos de desalinhamento, os quais serão avaliados e categorizados em três níveis: 1) Pronto para Divulgação; 2) Investigação Menor; e 3) Investigação Maior.
Todo relatório tornado público detalhará o comportamento que foi observado. Esta iniciativa é caracterizada como voluntária e servirá como um complemento às obrigações legais já vigentes. Simultaneamente, a OpenAI está trabalhando para apresentar ao governo dos Estados Unidos propostas de novos mecanismos de notificação para incidentes sérios relacionados à inteligência artificial.
