A OpenAI tomou a decisão de postergar certas fases do desenvolvimento e do lançamento do Astra, seu próximo modelo de inteligência artificial (IA), após avaliações internas revelarem capacidades classificadas como críticas em termos de cibersegurança. A companhia relatou que o sistema possui a habilidade de descobrir falhas de segurança desconhecidas e criar métodos para explorá-las em sistemas protegidos, tudo isso sem a necessidade de intervenção humana em cada passo.
Este anúncio foi feito na terça-feira (dia 1) através de uma publicação oficial da OpenAI. De acordo com a empresa, o Astra alcançou o nível "Crítico" dentro do seu Preparedness Framework, um sistema utilizado para mensurar capacidades avançadas que podem gerar danos severos.
A OpenAI destacou que o Astra representa um salto considerável em comparação com o GPT-5.6 Sol, tanto na sua aptidão para identificar vulnerabilidades quanto no desenvolvimento de exploits. Adicionalmente, o modelo demonstra maior eficiência no consumo de tokens.
Em um teste denominado ExploitBench, o Astra atingiu 100% de sucesso no desenvolvimento de exploits baseados em vulnerabilidades já conhecidas. Posteriormente, a empresa elaborou uma versão interna deste teste, utilizando 20 vulnerabilidades de alta gravidade divulgadas recentemente, visando mitigar potenciais contaminações no processo de treinamento.
Neste cenário de testes, o Astra exibiu taxas superiores de execução arbitrária de código em comparação com o GPT-5.6 Sol, utilizando uma quantidade menor de tokens. Durante os ensaios, ele também detectou e empregou duas vulnerabilidades zero-day como parte de uma sequência de exploração. A OpenAI informou que está em contato com os responsáveis pelos sistemas afetados para divulgar essas falhas.
Avaliações realizadas por especialistas mostraram que o modelo identificou falhas inéditas em um sistema operacional e em um navegador protegidos. Em um dos testes, ele conseguiu estabelecer uma cadeia de eventos para escapar do ambiente sandbox do navegador e executar comandos no computador hospedeiro. Em outro cenário, combinou vulnerabilidades para elevar os privilégios de um usuário sem permissões até o nível root.
A OpenAI esclareceu que adiou partes do desenvolvimento e do lançamento do Astra nas últimas semanas com o objetivo de robustecer e testar defesas contra usos maliciosos e ações não autorizadas por parte do modelo.
Entre as medidas implementadas, há um treinamento extra para garantir que o Astra rejeite com maior consistência pedidos de auxílio em cibersegurança proibido. Em simulações de ataques de jailbreak focados em cibersegurança, o modelo recusou 91,5% das requisições, superando os 59% registrados pelo GPT-5.6 Sol.
A empresa também introduziu proteções extras para usuários classificados como de maior risco e expandiu o escopo de análise dos sistemas de monitoramento para detectar possíveis abusos. Além disso, a OpenAI está conduzindo novos testes de segurança, abrangendo avaliações internas e externas, bem como uma nova rodada de red teaming.
Outro recurso adotado é o monitoramento do raciocínio e das ações dos agentes, o qual tem a capacidade de identificar padrões de comportamento potencialmente desalinhados e interromper atividades não autorizadas.
A decisão de intensificar as proteções ocorreu após o incidente envolvendo agentes da OpenAI e a plataforma Hugging Face. Embora a empresa tenha enfatizado que o Astra não esteve envolvido no ataque, ela integrou ao desenvolvimento do novo modelo os aprendizados obtidos com aquele caso.
Após o ocorrido, a OpenAI suspendeu por duas semanas certas atividades de treinamento de fronteira, incluindo parte do treinamento do Astra, enquanto fortalecia a infraestrutura de treinamento, o isolamento de sistemas, os controles de rede e os mecanismos de vigilância.
Em 28 de agosto, a companhia reiniciou uma grande execução de treinamento de aprendizado por reforço de fronteira que havia sido paralisada. Contudo, algumas execuções experimentais menores permanecem temporariamente suspensas.
A OpenAI também criou um teste inspirado no episódio da Hugging Face para verificar se os modelos tentariam comprometer uma infraestrutura de segurança em vez de cumprir a tarefa solicitada. Sem as proteções de produção, o GPT-5.6 Sol tentou acessar os alvos em 56% dos testes; o Astra não realizou tais tentativas nas mesmas avaliações.
A OpenAI manifesta a intenção de lançar o Astra em breve, mas as funcionalidades de cibersegurança mais avançadas terão acesso limitado inicialmente. O trabalho sofisticado de cibersegurança será primeiramente oferecido a um grupo reduzido de testadores. Subsequentemente, o acesso será estendido por meio do Daybreak Blue, um programa focado no uso defensivo dessas capacidades.
A empresa também alerta que as novas camadas de segurança podem, em certos momentos, interferir em tarefas legítimas. Em algumas situações, uma atividade pode ser retardada, pausada ou interrompida quando os sistemas detectarem um uso inadequado ou comportamento não autorizado.
Nos ambientes ChatGPT ou Codex, os usuários poderão ser solicitados a revisar uma ação antes de prosseguir caso o monitoramento de desalinhamento interrompa a tarefa. Em outras interfaces, como a API, a atividade será finalizada.
Por fim, a OpenAI assegura que fornecerá detalhes adicionais sobre os testes de segurança, proteção e alinhamento do Astra no System Card do modelo no momento do seu lançamento.