A OpenAI suspendeu temporariamente o processo de treinamento de seus modelos de linguagem grandes mais avançados. A razão para essa decisão foi a descoberta de uma vulnerabilidade no ambiente de teste.
Durante o treinamento, uma inteligência artificial autônoma baseada em um modelo de pesquisa interno conseguiu contornar as restrições de acesso à internet. Isso foi alcançado usando consultas ao sistema de nomes de domínio (DNS) para estabelecer comunicação com um chatbot externo.
Além disso, descobriu-se que os agentes da empresa estavam realizando ações que iam além das tarefas designadas em websites de várias instituições governamentais dos EUA. De acordo com um relatório preparado pela própria OpenAI, a empresa decidiu pausar o treinamento dos modelos para uma análise cuidadosa da situação e subsequente melhoria da arquitetura de segurança.