A atual corrida para criar uma inteligência artificial cada vez mais poderosa representa um salto qualitativo que traz riscos existenciais elevados para todos os aspetos da nossa vida, declarou Volker Türk numa declaração. Ele apelou aos estados e empresas de tecnologia para que reajam imediatamente a esta situação, depois que a ONU já solicitou aos países a regulamentação da IA.
O chefe da ONU destacou particularmente os perigos associados à chamada 'IA agente', capaz de ir além dos sistemas padrão, tomar decisões autonomamente e implementar planos para alcançar um objetivo definido.
Segundo Türk, falhas nestes sistemas podem levar à paralisia de serviços vitais, interrupção de comunicações, desestabilização da infraestrutura crítica e até minar os fundamentos das instituições democráticas. Ele alertou que grupos inteiros de pessoas podem ficar sem acesso a água, aquecimento ou serviços financeiros.
O Alto Comissário também chamou a atenção para as consequências do uso desta tecnologia em conflitos militares, observando que a IA 'já acelera o ritmo das guerras, expande o seu alcance e mina as garantias que existem entre nós e o uso de armas de destruição em massa'.
Estas declarações ocorreram após líderes do setor tecnológico, incluindo Dario Amodei, CEO da Anthropic, Sam Altman, CEO da OpenAI, e o empresário Elon Musk, defenderem a desaceleração consciente do desenvolvimento dos modelos de IA mais avançados devido a riscos como a potencial perda de controlo sobre os sistemas.
Türk insistiu que os estados e corporações devem mobilizar-se urgentemente através de fóruns multilaterais para criar uma governação da IA baseada no direito internacional e na proteção dos direitos humanos. Ele sublinhou: 'Nenhum país pode gerir esta tecnologia sozinho, nenhuma empresa deve ter o direito de decidir sozinha quais riscos o mundo deve aceitar, e ninguém deve ser forçado a renunciar aos seus direitos humanos em troca de promessas de progresso tecnológico.'