Pesquisadores e colaboradores da Anthropic têm intensificado publicamente os avisos sobre os perigos do progresso da inteligência artificial (IA). Membros da própria organização indicam que a tecnologia pode atingir um nível de avanço e perigo tal que possua o potencial de causar a extinção humana na próxima década.
Essas declarações foram feitas um dia após Jacob Coxon, pesquisador da Anthropic, anunciar seu desligamento da empresa. Em uma publicação que se tornou viral, ele alegou que tanto a Anthropic quanto a OpenAI, onde havia trabalhado anteriormente, não estavam desenvolvendo modelos de IA de forma responsável, estando, segundo ele, a 'apostar com nossas vidas'.
A manifestação de Coxon motivou outros funcionários da Anthropic a divulgarem seus próprios alertas sobre os riscos ligados ao desenvolvimento acelerado dessa tecnologia.
Anna Wang
Anna Wang, que trabalha com segurança de Inteligência Artificial Geral (IAG) na Anthropic e anteriormente esteve no Google DeepMind, declarou que muitos indivíduos dentro da empresa desejam diminuir o ritmo do desenvolvimento para criar um plano eficaz que mitigue os riscos associados aos modelos avançados. Wang escreveu: “Não existe ainda um plano científico viável para resolver os riscos de uma IA que se autoaperfeiçoa recursivamente”.
Drake Thomas, outro colaborador da Anthropic, expressou respeito pela decisão de Coxon de não participar do desenvolvimento desses modelos caso ele os considere um risco em escala planetária. Thomas comentou: “As coisas estão avançando rápido demais e não temos nem de longe o grau de garantia que gostaríamos para uma superinteligência artificial”.
As alegações geraram uma reação de Elon Musk, que adotou uma posição significativamente mais cética em relação aos alertas. Musk escreveu no X: “Isso parece uma armação”. Posteriormente, o bilionário sugeriu que o incidente poderia ser parte de uma 'psyop', termo utilizado para descrever uma operação psicológica visando moldar a percepção pública.
Musk respondeu a uma publicação de Parker Thayer, pesquisador do grupo conservador Capital Research, que levantou, sem apresentar provas, a teoria de que a declaração de Coxon seria o começo de uma operação de relações públicas sofisticada e financiada para obter apoio a regulamentações mais rigorosas contra a IA. Musk afirmou que os preparativos para essa suposta operação já estavam em andamento há algum tempo e que a publicação de Coxon foi apenas o gatilho inicial do processo.
Coxon rebateu diretamente o bilionário, publicando uma selfie e afirmando ser uma pessoa real e que aquelas eram suas convicções genuínas. Ele também mencionou que Musk poderia consultá-lo com os pesquisadores da xAI, caso não tivesse demitido alguns deles.
Mais informações:
Em resposta às dúvidas, a Anthropic defendeu sua abordagem estratégica. Um porta-voz da empresa informou ao The Guardian: “Sempre fomos transparentes de que a IA trará enormes benefícios e riscos sem precedentes”. A companhia ressaltou que seus modelos continuam sendo desenvolvidos com algumas das medidas de segurança mais robustas do setor. Contudo, nem todos os especialistas concordam que o risco primordial deva ser uma superinteligência capaz de aniquilar a humanidade.
Gary Marcus
Gary Marcus, uma figura conhecida no debate sobre IA, opinou que chegou o momento de boicotar a tecnologia devido aos danos que já estão ocorrendo. Para Marcus, as preocupações mais urgentes incluem patógenos criados com auxílio de IA, conflitos iniciados ou intensificados por desinformação gerada por sistemas de IA, e ataques capazes de destruir infraestruturas vitais. Ele declarou: “Não vi nada que indique que qualquer uma dessas coisas esteja sob controle”.
A discussão ganhou um aspecto particularmente concreto no mesmo dia em que os alertas dos pesquisadores ganharam força. A Anthropic divulgou um relatório detalhando como a empresa desmantelou uma tentativa de construir uma arma biológica utilizando seus modelos de IA. Este evento não prova que uma IA autônoma desenvolveu uma arma por conta própria, mas ilustra como os modelos disponíveis atualmente podem ser empregados em tentativas de uso para propósitos extremamente perigosos. O caso colocou lado a lado dois debates habitualmente separados: os riscos futuros de uma IA potencialmente superinteligente e os perigos mais imediatos relacionados ao uso de modelos atuais para atividades que podem causar sérios danos. O artigo original foi publicado no Olhar Digital.