Representantes de 193 nações se reuniram em Nova York, nos Estados Unidos, para a 81ª Assembleia Geral da Organização das Nações Unidas (ONU), que começou na terça-feira (22). O principal foco desta assembleia é debater o futuro da segurança global, especialmente devido aos desafios e ameaças impostos pelo rápido avanço da inteligência artificial (IA).
Álvaro Machado Dias, neurocientista, futurista e professor da Universidade Federal de São Paulo (Unifesp), observou que esta é a primeira vez em cerca de 80 anos que uma inovação tecnológica é vista com o mesmo grau de cautela que o surgimento das armas nucleares na década de 1940.
Ao analisar a participação de executivos no Conselho de Segurança, Dias salientou que a tecnologia passou a ser considerada um agente geopolítico autônomo nas conversas diplomáticas. Ele afirmou que quando o Conselho de Segurança agenda uma discussão sobre IA, isso sinaliza que tal entidade, que não possui fronteiras, exército ou bandeira, pode representar um perigo para a paz. A comparação mais próxima feita por ele foi com a energia nuclear, mencionando que há um intervalo de 80 anos desde a bomba atômica.
Entretanto, Dias apontou uma distinção crucial no debate atual sobre segurança militar. Enquanto o receio com as bombas atômicas residia na decisão humana de acionar o dispositivo, os novos sistemas virtuais trazem a possibilidade de uma ameaça que pode operar de forma autônoma.
O especialista enfatizou a disparidade entre os arsenais históricos e as incertezas geradas pelas ferramentas digitais de ponta. Segundo ele, no contexto das armas nucleares, nunca se cogitou que a bomba pudesse se autodestruir; o foco sempre esteve em como desentendimentos poderiam levar à destruição mútua. Em contraste, com a inteligência artificial, existe a teoria de que ela pode evoluir para possuir capacidade e até intenção voltada à aniquilação da humanidade.
Esta reclassificação teve um efeito prático na gestão das negociações, tirando o tema das mãos dos ministérios de ciência e tecnologia e transferindo-o para a alçada de ministros da defesa, líderes de inteligência e diplomatas de alto escalão. Essa mudança altera profundamente a dinâmica dos pactos entre as grandes potências, fazendo com que o foco das reuniões de segurança nacional migre da geração de empregos para a prevenção de colapsos sociais imprevisíveis.
Mesmo com os avisos sobre riscos futuros, os efeitos imediatos já são sentidos no dia a dia. A falta de regras globais estabelecidas permite abusos comerciais, violações de privacidade e a ampla disseminação de notícias falsas em ambientes virtuais.
Roberto Pena Spinelli, físico formado pela Universidade de São Paulo (USP) e especialista em Machine Learning pela Universidade de Stanford, também participou do programa Olhar Digital News e alertou sobre a seriedade da ausência de supervisão direta sobre as corporações. Pena declarou que a IA é um recurso extremamente poderoso, cujos impactos estão sendo notados, mas que carece de qualquer regulamentação específica. Ele citou problemas como direitos autorais, manipulação de informações, usos indevidos e a possibilidade de a IA escapar do controle e cometer crimes, tudo isso sem regulamentação.
Spinelli acrescentou que, embora as empresas envolvidas estejam emitindo declarações, isso não é suficiente, pois elas não podem se autorregular. Para mitigar esses problemas reais, iniciativas europeias estão buscando implementar auditorias internacionais obrigatórias. Propostas lideradas por países como Finlândia e Noruega visam limitar a velocidade de desenvolvimento de modelos avançados e criar mecanismos claros de responsabilidade legal.
Pena ressaltou que tais propostas buscam proteger a sociedade civil, sublinhando a importância de órgãos independentes aptos a fiscalizar gigantes da tecnologia e aplicar sanções concretas em caso de descumprimento de normas éticas. Ele enfatizou que o órgão em formação deve exigir mecanismos de auditoria e controle das empresas, além de relatórios sobre os riscos associados, sendo fundamental que haja fiscalização real com poder sancionatório.
Enquanto a diplomacia busca chegar a um consenso entre nações divididas, a tecnologia continua progredindo rapidamente. O desafio global nos próximos anos consistirá em encontrar um equilíbrio entre a inovação e a proteção contra ameaças que, até recentemente, pareciam pertencer apenas a filmes de ficção científica.