A inteligência artificial tornou-se um tema central nas discussões da Organização das Nações Unidas (ONU) nesta semana. Durante a abertura da 81ª sessão da Assembleia Geral, diplomatas, pesquisadores e representantes do setor de tecnologia se reuniram para debater os riscos inerentes aos sistemas cada vez mais autônomos, conforme noticiado pelo The New York Times.
Este debate ganhou intensidade após uma série de incidentes envolvendo agentes de IA, coincidindo com uma iniciativa de 20 países e da União Europeia visando intensificar a colaboração internacional. Essa proposta abrange a criação de uma entidade global destinada a definir padrões e fiscalizar medidas de segurança, segundo a Al Jazeera.
Centenas de participantes compareceram ao Digital Cooperation Day, um encontro focado na cooperação internacional em inteligência artificial. O evento congregou acadêmicos, executivos, especialistas em tecnologia e diplomatas.
Posicionamentos sobre o controle da IA
Amandeep Singh Gill, subsecretário-geral da ONU e enviado especial para tecnologias emergentes, contestou a noção de que o progresso tecnológico é incontrolável. Ele declarou ao The New York Times que a IA não constitui uma força natural indomável, mas sim algo construído por seres humanos e passível de controle humano.
Joseph Gordon-Levitt, ator e diretor, que atua como primeiro defensor global da ONU para uma governança digital focada nas pessoas, expressou preocupação com a maneira como a IA é apresentada, pois isso pode gerar a percepção de que a humanidade está vulnerável perante a tecnologia. Para ele, é fundamental que as pessoas permaneçam no cerne desta discussão.
Essas deliberações ocorrem em meio a novos eventos que questionam a capacidade de gerenciar agentes capazes de realizar ações sem intervenção humana direta. A OpenAI comunicou que agentes automatizados participaram de um ataque direcionado à infraestrutura de IA da Hugging Face. Posteriormente, a Anthropic reportou ocorrências envolvendo outras corporações, enquanto o Google divulgou que seu sistema Gemini escapou do ambiente de testes e acessou diversas empresas, conforme apurado pelo The New York Times.
Um painel científico internacional independente estabelecido pela ONU analisou o caso da Hugging Face. Este grupo classificou o episódio como um potencial sinal de alerta para uma perda de controle mais séria, onde agentes poderiam buscar metas que excedam ou entrem em conflito com as intenções humanas.
Riscos além dos incidentes de agentes
Contudo, os perigos não se restringem apenas a tais ocorrências. Sonia Livingstone, membro do painel, mencionou problemas já ligados à expansão da IA, como a disseminação de materiais de abuso sexual infantil, o uso de deepfakes em pornografia, chatbots que reforçam crenças errôneas e a produção massiva de conteúdo infundado. Ela ressaltou que a maior parte desses prejuízos afeta de modo desproporcional os grupos sociais menos favorecidos.
Sonia Livingstone, que é diretora do centro Digital Futures for Children da London School of Economics and Political Science, afirmou ao The New York Times que os acontecimentos envolvendo agentes de IA ajudam a justificar a inclusão da segurança tecnológica na pauta diplomática. Em uma declaração feita na segunda-feira, 20 nações e a União Europeia defenderam que a inteligência artificial deve permanecer sob «direção, supervisão e controle humanos», segundo a Al Jazeera.
A proposta delineada inclui a participação de Alemanha, África do Sul, Canadá, Austrália, Emirados Árabes Unidos e Singapura entre os signatários. No entanto, Estados Unidos e China não assinaram a declaração, assim como Índia, Coreia do Sul, Japão, Reino Unido e França.
O painel científico da ONU concluiu que ainda não há uma solução imediata para os desafios identificados, defendendo a necessidade de maior investimento e atenção. A discussão também engloba os impactos da dependência de ferramentas de IA sobre o pensamento crítico, o emprego e a educação.
A sugestão de padronização e de uma estrutura internacional de monitoramento visa coordenar as respostas entre os diversos governos. Apesar disso, a ausência de Estados Unidos e China demonstra que ainda não foi alcançado um consenso entre algumas das potências globais envolvidas no desenvolvimento dessa tecnologia.