A alegação de que existe mais de 10% de chance de a inteligência artificial (IA) exterminar toda a humanidade foi feita por Evan Hubinger, diretor de alinhamento na Anthropic, em 8 de setembro, e rapidamente ganhou destaque nas redes sociais. No entanto, o doutor Álvaro Machado Dias, neurocientista, futurista e professor da Unifesp, classificou essa ideia como mera narrativa, afirmando que "não há a mínima plausibilidade nesse papo" durante uma entrevista ao Olhar Digital.
A publicação de Hubinger fazia referência a um tweet anterior de Jacob Coxon, que havia trabalhado tanto na OpenAI quanto na Anthropic, focando no pré-treinamento de modelos de IA. Coxon havia apresentado um alerta logo após deixar a Anthropic, sugerindo que ambas as companhias estavam "correndo em direção a uma superinteligência capaz de se aprimorar sozinha e apostando as nossas vidas".
Hubinger reforçou sua crença, declarando: "Nós acreditamos, com toda a seriedade, que a IA poderia matar os humanos! Eu, pessoalmente, acho que a probabilidade é superior a 10% na próxima década". Ele adicionou que, embora acredite que a Anthropic esteja fazendo o melhor possível, ainda não há um plano claro para resolver o problema do alinhamento da superinteligência.
Arthur Igreja, especialista em tecnologia e inovação, expressou ceticismo sobre a metodologia, questionando como Hubinger chegou ao percentual de 10%, solicitando a premissa do cálculo. Igreja complementou que, em uma tabela de riscos, ele tem maior receio de decisões equivocadas tomadas por pessoas até o final da década.
Álvaro Machado Dias reiterou que a ideia de a IA se revoltar, adquirir intencionalidade ou atacar humanos é puramente narrativa. Ele explicou que isso exigiria um tipo de intencionalidade presente em seres humanos e outras espécies, algo que não se observa em máquinas. Além disso, ele apontou a ausência de uma capacidade de execução visível para tal cenário.
O neurocientista ressaltou que a IA necessita de acesso a recursos extremamente sensíveis, como laboratórios para síntese de armas biológicas, áreas que são altamente regulamentadas. Contudo, ele reconheceu que a IA pode causar grandes danos através de interfaces digitais, citando o exemplo de uma IA projetada para criar vírus de computador polimórficos ou sequestrar bases de dados sensíveis de hospitais.
Machado Dias fez uma distinção crucial: é preciso diferenciar o que é viável no domínio do "como" (realidade prática) daquilo que, ao analisar o "como", simplesmente não faz sentido. Paralelamente, Dario Amodei, CEO da Anthropic, publicou um artigo em 12 de setembro admitindo que o ritmo acelerado do desenvolvimento de IA, devido ao "autoaperfeiçoamento recursivo", exige uma desaceleração coordenada entre as empresas do setor.
Essa proposta foi endossada por Sam Altman (OpenAI), Elon Musk (xAI) e Demis Hassabis (ex-CEO do Google DeepMind). Hassabis apoiou o ensaio de Amodei, enquanto Musk concordou com a afirmação de Amodei. Altman esclareceu que desacelerar não implica parar, mas sim investir em auditorias e testes de segurança para garantir que a capacidade dos modelos não ultrapasse seu alinhamento.
Em contraste, Donald Trump desconsiderou os avisos de Amodei, Altman e Musk, minimizando os riscos da IA e defendendo a manutenção da liderança dos EUA sobre a China. A China reagiu ao artigo de Amodei através do jornal estatal Global Times, alegando que a iniciativa visava criar um "manual da Guerra Fria" para conter o avanço chinês e proteger a hegemonia tecnológica americana.
Machado Dias destacou que a paralisação do avanço da IA não depende de autorização governamental, bastando simplesmente cessar o desenvolvimento. Ele observou que a hesitação em pausar reside no fato de que nenhuma das grandes empresas (Anthropic, OpenAI, Google, xAI) parece disposta a adotar essa postura unilateralmente. Ele concluiu que, estrategicamente, adotar uma postura cautelosa é vantajoso, pois transfere um risco potencial corporativo para o âmbito governamental e social.
Sobre as posições dos governos dos EUA e da China, o especialista pontuou que, embora os americanos tenham iniciado o desenvolvimento (com o ChatGPT) e invistam mais, a postura chinesa de exigir discussão sobre desaceleração é legítima. No entanto, ele alertou que ambos os países buscam expandir sua tecnologia globalmente, e, no fim das contas, "ninguém quer parada nenhuma".