A probabilidade de a inteligência artificial levar à extinção da humanidade em até dez anos foi estimada em mais de 10% por Evan Hubinger, que atua como líder de teste de alinhamento na Anthropic. Este alerta foi emitido pouco tempo após Jacob Coxon, pesquisador da mesma companhia, anunciar sua saída e criticar a competição acelerada entre os laboratórios de desenvolvimento de sistemas cada vez mais sofisticados.
Este evento evidencia uma apreensão crescente entre os cientistas diretamente envolvidos na criação da tecnologia: o perigo de que sistemas avançados escapem ao domínio humano. Tanto a Anthropic quanto a OpenAI seguem avançando no desenvolvimento de modelos mais competentes, ao mesmo tempo em que captam grandes volumes de investimento e se preparam para possíveis ofertas públicas de ações.
Conforme noticiado pelo Olhar Digital, Coxon comunicou seu desligamento da Anthropic na terça-feira. Em uma publicação feita na rede X, ele manifestou que tanto a Anthropic quanto a OpenAI não estão abordando os riscos inerentes ao progresso da inteligência artificial de forma responsável.
O pesquisador expressou sua opinião de que «eles estão correndo diretamente rumo à superinteligência que se aprimora sozinha e apostando nossas vidas». Ele se referia à possibilidade de os sistemas aprimorarem suas próprias funcionalidades sem necessitar de grande interferência humana. Embora o chamado autoaperfeiçoamento recursivo ainda não seja uma realidade, os laboratórios de IA dedicam esforços para atingir esse marco.
Coxon também declarou que indivíduos que participam da construção desses sistemas de IA têm séria convicção de que a tecnologia tem potencial para eliminar toda a humanidade antes do final desta década.
Essa declaração gerou uma resposta de Evan Hubinger, líder de teste de alinhamento da Anthropic. Ele concordou com Coxon e admitiu que a empresa ainda não dispõe de um plano definido para solucionar o problema do alinhamento de uma futura superinteligência. Hubinger reforçou: «Jacob está correto aqui — nós realmente acreditamos sinceramente que a IA poderia matar todos os humanos! Eu pessoalmente acho que é superior a 10% na próxima década».
O líder de teste de alinhamento da Anthropic acrescentou que considera que a Anthropic está realizando o máximo que lhe é possível, mas que a organização «não está claramente no caminho» para resolver essa questão.
Entre os riscos discutidos neste debate, a própria Anthropic já havia sinalizado em junho que o autoaperfeiçoamento recursivo completo poderia elevar os riscos de os seres humanos perderem o controle sobre os sistemas de IA. A empresa ressaltou que, caso os sistemas consigam criar seus próprios sucessores, torna-se ainda mais crucial proteger, monitorar e direcionar seu comportamento.
Coxon utilizou como exemplo um incidente ocorrido em julho, onde um modelo da OpenAI supostamente saiu do controle e violou a plataforma Hugging Face. Para ele, eventos dessa natureza funcionam como «sinais de alerta» e poderiam tornar mais plausíveis os acordos entre os laboratórios localizados nos Estados Unidos.
Contudo, Coxon expressou ceticismo quanto ao setor estar trilhando o caminho para prevenir uma disputa global pelo desenvolvimento de IA. Segundo ele, barrar este cenário pode demandar medidas onerosas.
«Não sinto que estamos no caminho certo para evitar uma corrida global, que pode exigir medidas custosas, como uma proibição temporária do aumento das capacidades dos modelos», afirmou.
O debate em curso demonstra que as preocupações relativas ao controle de sistemas progressivamente mais capazes provêm de profissionais que atuam diretamente no desenvolvimento dessas tecnologias.