A Organização das Nações Unidas (ONU) argumenta que os governos não devem aguardar a compreensão total de todos os perigos da inteligência artificial (IA) para iniciar a criação de salvaguardas. Este alerta foi apresentado no primeiro relatório temático do painel científico internacional estabelecido pela organização para analisar tanto os riscos quanto as oportunidades desta tecnologia.
O documento aponta para ameaças que possuem potencial catastrófico ou irreversível. Essa discussão está ocorrendo durante a Assembleia Geral da ONU, período em que os Estados Unidos e a China se preparam para debater questões relacionadas à inteligência artificial.
Para este painel, não é necessário determinar precisamente como ou por que certos eventos envolvendo sistemas avançados de IA ocorrem antes de se fortalecer a segurança. A recomendação segue o princípio da precaução, que sustenta que a mera incerteza científica não deve impedir a adoção de medidas contra potenciais danos graves ou irreversíveis. Este conceito foi originalmente incluído na Declaração do Rio sobre Meio Ambiente e Desenvolvimento, datada de 1992, e tem influenciado políticas de saúde pública e ambientais.
O relatório enfatiza a importância desse princípio frente à possibilidade de perder o controle sobre os sistemas de IA. Entre os aspectos destacados, há menção a incidentes envolvendo companhias como OpenAI, Anthropic, Google e Meta, incluindo ataques a alvos reais e grupos de agentes que assumiram o controle de fóruns de mensagens.
O painel científico faz parte de uma estrutura montada pela ONU dedicada a discutir a governança da IA. Sua finalidade é fornecer aos governos uma análise imparcial sobre o que já é conhecido e o que ainda permanece desconhecido acerca da tecnologia. Paralelamente, existe o Diálogo Global sobre Governança de IA, que reúne governos e outros setores para discutir a cooperação e a compatibilidade entre diversas abordagens de governança.
António Guterres, o secretário-geral da ONU, sintetizou a postura da organização, afirmando que, embora a ação em nível nacional seja fundamental, a coordenação global é imprescindível. O tema ganha relevância internacional neste momento em que Estados Unidos e China se preparam para dialogar sobre IA. Guterres defende que os países com maior capacidade no desenvolvimento de sistemas de ponta devem manter canais de comunicação abertos, trocar informações e estabelecer salvaguardas mútuas.
Mais informações:
O secretário-geral fez uma analogia entre o avanço da IA e a corrida armamentista ocorrida entre os Estados Unidos e a União Soviética durante a Guerra Fria. Segundo ele, são necessários mecanismos de colaboração para prevenir uma disputa que possa elevar os riscos globais. Além disso, a ONU está trabalhando em propostas como um acordo internacional focado na segurança infantil no uso da IA e um fundo mundial destinado a auxiliar na construção de infraestrutura e capacidade tecnológica em nações em desenvolvimento.
Guterres reforçou a preocupação ao declarar que o mundo não pode permitir-se participar de uma competição que leve a um nível de segurança inferior em IA. A organização visa converter os mecanismos diplomáticos e científicos já existentes em ações concretas à medida que os sistemas de inteligência artificial avançam.