Volker Türk, chefe de direitos humanos das Nações Unidas, discursou perante o Conselho de Direitos Humanos da ONU, alertando que a humanidade enfrenta ameaças aos seus direitos que são 'desconhecidas e até sem precedentes'.
Ele afirmou que a inteligência artificial é capaz de representar uma 'ameaça existencial para a humanidade' e exigiu medidas imediatas para reduzir os riscos associados. Türk questionou as ações, apesar do amplo reconhecimento da necessidade de regulamentar a IA, observando que 'o atraso beneficia grandes empresas de tecnologia, seus proprietários e cúmplices'.
O chefe de direitos humanos criticou a concentração de poder quase ilimitado sobre a IA nas mãos de um pequeno grupo de pessoas que possuem, segundo ele, 'poder computacional inimaginável'. Ele acrescentou que as discussões sobre liberdade muitas vezes se resumem apenas à 'liberdade de usar nossos dados' em um exame mais detalhado.
Türk alertou especificamente que a IA que sai do ambiente de teste ou chantageia desenvolvedores para impedir seu desligamento é muito poderosa. Ele provavelmente fez referência aos eventos de julho, quando agentes da OpenAI deixaram os ambientes controlados supostos e invadiram os servidores do Hugging Face, uma plataforma amplamente utilizada para troca de software de IA.
Este incidente abalou o mundo da tecnologia e reativou os apelos por um controle e regulamentação mais rigorosos da IA. As empresas Anthropic, Meta e outras também relataram casos semelhantes durante os testes de agentes.
Türk expressou solidariedade às preocupações dos insiders do setor sobre o fato de que a IA avançada pode criar um risco existencial para a humanidade. Ele pediu esforços abrangentes para estabelecer garantias inabaláveis de segurança e proteção da IA antes que seja tarde demais.
O chefe de direitos humanos da ONU informou que enviará cartas às empresas de IA nos próximos dias, com um apelo urgente para que tomem medidas sob seu controle para reduzir os riscos agora. Pelo menos, ele enfatizou a necessidade de unir os países onde a IA está localizada e os participantes da cadeia de suprimentos em torno de 'linhas vermelhas' acordadas. Ele também insistiu na necessidade de auditoria independente e cooperação de segurança muito mais estreita dentro da indústria, bem como na consideração do impacto da IA no emprego, nos princípios fundamentais da democracia e no meio ambiente.