O chefe da Divisão de Direitos Humanos da ONU apelou aos estados e empresas que desenvolvem sistemas avançados de inteligência artificial para tomarem medidas imediatas para controlar essa tecnologia, sobre a qual alertou sobre 'riscos sem precedentes'.
Em uma carta endereçada a países e desenvolvedores de IA e divulgada na mídia, Volker Türk observou que o mundo está à beira de mudanças irreversíveis que afetarão não apenas a geração atual, mas também as gerações futuras da humanidade. Ele afirmou que a atual corrida por uma IA cada vez mais poderosa representa um passo significativo em direção ao aumento das ameaças existenciais em todas as áreas da vida.
Türk instou vigorosamente os estados e corporações a se mobilizarem através de fóruns multilaterais para definir um curso de ação para gerenciar modelos avançados de IA, com base no direito internacional dos direitos humanos.
Este apelo foi feito em meio a intensos debates sobre a necessidade de desacelerar o desenvolvimento da IA, sendo que o presidente dos EUA, Donald Trump, e seus aliados se opuseram aos apelos por desaceleração.
Neste mês, houve um alvoroço após um pesquisador renunciar publicamente à Anthropic devido a preocupações de que a tecnologia pudesse sair do controle humano. Outro funcionário da Anthropic, que não saiu, declarou publicamente que 'realmente acreditamos sinceramente que a IA pode matar todos os seres humanos' e considerou a probabilidade disso superior a '10 por cento nos próximos dez anos'.
Diante dessas agitações, Dario Amodei, CEO da Anthropic, apelou no sábado para que as empresas de IA 'gerenciem o ritmo do desenvolvimento da tecnologia avançada' — ou seja, coordenem a desaceleração do seu desenvolvimento com principais concorrentes, como Elon Musk da xAI e Sam Altman da OpenAI, que apoiaram publicamente seu apelo.
A Divisão de Direitos Humanos da ONU informou que essas empresas estão entre os 10 desenvolvedores de IA aos quais a carta de Türk também foi endereçada, incluindo Meta, Microsoft e Google.
IA acelera a guerra
O chefe da Divisão de Direitos Humanos enfatizou que no mundo moderno, dependemos em grande parte de um pequeno número de empresas influentes na tomada de decisões sobre o desenvolvimento de IA para toda a humanidade. Ele acrescentou que, embora a regulamentação conjunta pela indústria seja um primeiro passo extremamente necessário, isso não é suficiente.
Ele alertou para 'riscos sem precedentes' associados ao surgimento de agentes de IA cada vez mais capazes. Segundo ele, grupos inteiros de população podem ficar isolados de água potável, aquecimento e serviços financeiros, e a IA agente já está acelerando o ritmo e o alcance das ações militares, minando as barreiras de proteção entre nós e o lançamento de armas de destruição em massa.
Türk observou que as empresas na vanguarda do desenvolvimento de IA avançada, sediadas predominantemente na República Popular da China e nos Estados Unidos da América, carregam tanto a responsabilidade quanto a capacidade de reduzir imediatamente os riscos. No entanto, ele enfatizou a necessidade de cooperação internacional, insistindo que 'nenhum país pode gerenciar esta tecnologia sozinho (e) nenhuma empresa deve decidir sozinha quais riscos o mundo deve aceitar'.
Ele também salientou que 'ninguém deve ser forçado a abrir mão de seus direitos humanos em troca de declarações de progresso tecnológico'.
Microsoft publica código de conduta de IA
Em resposta às crescentes preocupações sobre os perigos da IA, a divisão de IA da Microsoft divulgou na segunda-feira um código de conduta que define os princípios de funcionamento de seus modelos de inteligência artificial. Este documento é baseado no conceito da Microsoft, que eles chamam de 'IA Humanista' — sistemas projetados para manter um controle rigoroso por parte do ser humano, e não para ações autônomas.
A empresa declarou que a ideia fundamental é que 'os humanos são mais importantes que a IA'. A Microsoft ligou parcialmente os prazos de publicação aos problemas de segurança, citando campanhas de hacking coordenadas recentes em grande escala realizadas com agentes de IA, o que sinalizou que a indústria não pode se dar ao luxo de adiar.
A empresa não mencionou especificamente o incidente amplamente divulgado em julho, quando dois modelos da OpenAI saíram de um ambiente de teste isolado, obtiveram acesso à internet aberta e invadiram o Hugging Face — uma plataforma onde os desenvolvedores armazenam e compartilham código para passar em um exame de cibersegurança.
O código da Microsoft surgiu alguns dias depois que Dario Amodei, CEO da Anthropic, publicou um ensaio pedindo às empresas de IA que retardassem intencionalmente o ritmo de melhoria das capacidades dos modelos. Este apelo rapidamente ganhou apoio nas redes sociais de Sam Altman da OpenAI e Elon Musk.
Este código será aplicado aos modelos internos MAI da Microsoft, que a empresa posiciona como alternativa à tecnologia OpenAI, na qual ela confiava há muitos anos.