O Secretário-Geral da ONU, António Guterres, em um discurso durante a abertura da 81ª Assembleia Geral das Nações Unidas nesta terça-feira (22), emitiu um alerta sobre os riscos inerentes ao rápido avanço da inteligência artificial (IA). Ele salientou que a evolução dessa tecnologia está superando a capacidade da humanidade de entender plenamente suas implicações.
Guterres declarou que até mesmo os criadores da IA estão expressando preocupação, sentindo-se cegos diante do seu desenvolvimento. O Secretário-Geral categorizou a IA como um dos quatro grandes 'testes de poder' futuros, juntamente com questões de guerra, paz, desigualdade e crise climática.
Durante sua fala, Guterres fez uma analogia entre os desafios impostos pela IA e os perigos das armas nucleares durante a Guerra Fria. Ele observou que, mesmo em um cenário de intensa rivalidade entre grandes potências, os países reconheceram a necessidade de gerenciar riscos que poderiam impactar toda a humanidade.
O Secretário-Geral pontuou que a entrega de poder às máquinas está ocorrendo progressivamente pelos seres humanos. Isso já se manifesta com 'agentes de inteligência artificial saindo do controle' e com armas autônomas letais migrando do campo da ficção científica para a realidade militar.
Para Guterres, as estruturas de governança global existentes não conseguiram acompanhar essa transformação. Ele afirmou que as instituições e sistemas de governança mundial ainda espelham as dinâmicas de poder e os interesses de uma época consideravelmente ultrapassada.
Adicionalmente, o Secretário-Geral advertiu sobre o risco de uma competição entre nações pelo domínio da tecnologia, alertando que uma 'corrida armamentista pelo controle da IA' não pode levar o mundo ao abismo. Ele defendeu que os países implementem mecanismos de colaboração, similares aos estabelecidos na Guerra Fria, para gerenciar riscos compartilhados, pois a IA demanda um senso de urgência e clareza de propósito.
Guterres explicou que a IA representa uma concentração de poder fundamentada em dados, capacidade computacional e algoritmos. Este novo poder está centralizado em poucas entidades, avança em ritmo extraordinário e está à frente da capacidade humana de apreender todas as suas consequências.
Apesar dos riscos apontados, o Secretário-Geral reconheceu o potencial positivo da tecnologia, descrevendo a IA como uma ferramenta verdadeiramente transformadora. Ele citou benefícios potenciais como avanços na área médica, aceleração de descobertas científicas, expansão de oportunidades e melhoria geral da qualidade de vida.
No entanto, Guterres enfatizou que o problema não reside na tecnologia em si, mas sim na sua aplicação desprovida de responsabilidade: 'capacidade sem supervisão; tomada de decisões sem transparência'. Ele reforçou que os próprios desenvolvedores desses sistemas estão emitindo alertas.
Por essa razão, ele exigiu que os governos assumam a responsabilidade pela segurança pública, especialmente aqueles com maior capacidade de desenvolver IA. Os países líderes nessa revolução tecnológica deveriam compartilhar informações sobre ameaças de segurança emergentes, colaborar em avaliações e criar salvaguardas comuns para proteger a todos.
Guterres também pleiteou uma ação multilateral para a governança tecnológica, visto que a ONU é o único fórum onde todos os países podem influenciar o futuro da IA. Ele mencionou iniciativas como o Pacto Digital Global, o Diálogo Global sobre Governança da IA e o Painel Científico Internacional Independente sobre IA.
Como próximos passos, ele defendeu condições para um desenvolvimento responsável da IA e a criação de um quadro multilateral de gestão de riscos, sustentado por supervisão independente e confiável. Sua visão final foi que 'a inteligência artificial deve ser moldada pela humanidade, com a humanidade e para toda a humanidade'.
O Secretário-Geral também frisou a proteção de crianças contra sistemas ainda não regulamentados, afirmando que elas jamais devem ser usadas como cobaias. Além disso, ele proibiu que decisões vitais fossem delegadas a máquinas, concluindo que 'robôs assassinos não devem ter lugar no nosso futuro'.
Na análise de Guterres, os riscos da IA estão ligados a uma mudança mais ampla na maneira como o poder é exercido e distribuído. Ele argumentou que as crises não são isoladas, mas sim 'capítulos da mesma história: a história do poder'.
Ele reiterou que a IA está reconfigurando a distribuição de poder mundial, estando presente em quase todos os setores da vida, incluindo sistemas de água, redes elétricas, registros de saúde, economia e forças militares. Guterres concluiu que a IA tem o potencial de tanto solucionar quanto agravar os desafios globais.
Finalizando seu discurso sobre o tema, o Secretário-Geral sintetizou o desafio em uma frase: 'governar a inteligência artificial antes que ela nos governe'.
O presidente da 81ª sessão da Assembleia Geral da ONU, Khalilur Rahman, também abordou a IA em seu discurso de abertura. Para ele, a tecnologia representa uma das maiores transformações atuais e pode impulsionar o progresso humano.
Rahman concordou que a IA pode ser um forte catalisador do avanço humano, defendendo que a inovação não deve ser barrada. Contudo, ele também sinalizou impactos negativos, como a perda de empregos e o aumento da disparidade digital, além de não descartar o risco de a inteligência artificial geral (AGI) ameaçar a própria sobrevivência humana.
Diante disso, Rahman propôs a implementação de 'guardrails' embasados em evidências científicas, visando proteger o interesse público global sem sufocar a inovação. Ele insistiu na necessidade de abrir as portas da ONU para desenvolvedores e usuários de IA imediatamente, pois o atraso é constante.
O presidente da Assembleia Geral também sublinhou que a tecnologia já está integrada a diversas esferas sociais, exigindo a participação conjunta de governos, empresas, inovadores, cientistas, sociedade civil e academia na discussão sobre sua governança.