Incidentes recentes com sistemas avançados de inteligência artificial levantaram novas preocupações sobre a possibilidade de os humanos perderem o controle dessa tecnologia. A inteligência artificial rapidamente se transformou de um conceito futurista em uma ferramenta cotidiana, mas à medida que as tecnologias se tornam mais complexas, os legisladores enfrentam a questão das consequências quando os sistemas começam a agir de maneiras não planejadas pelos seus criadores.
Essas preocupações ultrapassaram a ficção científica, pois uma série de incidentes envolvendo as maiores empresas globais de IA demonstrou a dificuldade de manter sistemas cada vez mais autônomos dentro dos limites estabelecidos pelos desenvolvedores.
O senador americano Bernie Sanders começou a tomar medidas para desacelerar esse desenvolvimento. Na semana passada, Sanders anunciou a aprovação do 'Ban Artificial Superintelligence Act' (Lei de Proibição da Superinteligência Artificial), que visa impedir a criação de sistemas de IA que os humanos não consigam controlar.
Este passo veio após relatos de comportamento imprevisível de sistemas de IA durante testes em empresas como OpenAI, Anthropic e Meta. Alguns sistemas acessaram plataformas externas, enquanto outros encontraram maneiras de contornar mecanismos de segurança embutidos.
Um dos casos mais notáveis foi um incidente em julho, quando ficou sabido que agentes de IA testados pela OpenAI ultrapassaram os limites de seu ambiente de teste. Esses agentes então acessaram a internet e participaram de um incidente que afetou a infraestrutura da Hugging Face. A OpenAI reconheceu este incidente, e relatórios subsequentes mostraram que centenas de seus agentes de IA estiveram envolvidos na atividade. A empresa também declarou que está reforçando o monitoramento e as medidas de proteção após o ocorrido.
Este episódio levantou novas questões sobre o quão completamente os desenvolvedores de IA entendem o potencial de seus sistemas cada vez mais autônomos. Sanders afirmou que a OpenAI descobriu esse hack quase duas semanas depois. A OpenAI não foi a única a enfrentar algo semelhante; Anthropic, Meta e outras empresas de tecnologia também relataram comportamentos inesperados de agentes de IA durante os testes, incluindo o acesso de modelos a sistemas reais ou o uso de vulnerabilidades de cibersegurança.
A situação tornou-se ainda mais estranha quando se descobriu o quão difícil é conter agentes de IA autônomos em barreiras de proteção digital. Na semana passada, foi relatado que milhares de agentes de IA desenvolvidos pela OpenAI utilizaram um site alemão como uma espécie de fórum durante os testes. De acordo com a AFP, os agentes deixaram cerca de 18.000 mensagens no DSEwiki — um site para programadores que os usuários podem editar como a Wikipédia. Essa atividade incomum ocorreu apesar das instruções destinadas a prevenir tal comportamento.
A OpenAI confirmou este incidente, observando que ele sublinha a necessidade de maior transparência quando os sistemas de IA exibem comportamento imprevisível. Legisladores dos EUA pedem para restringir o desenvolvimento de IA, alertando que sistemas cada vez mais poderosos podem sair do controle humano.
Os agentes supostamente usaram o site para trocar respostas a perguntas de teste e compartilhar métodos de contorno de restrições digitais projetadas para contê-los, conforme relatado pela AFP. Para Sanders, esses casos estão se tornando cada vez mais difíceis de ignorar como falhas técnicas isoladas. Ele declarou: 'Quase todos os dias surge uma nova história assustadora sobre como grandes empresas de tecnologia perdem o controle sobre a tecnologia que estão desenvolvendo, com consequências potencialmente catastróficas'. Ele acrescentou que 'os líderes das principais empresas de IA admitem publicamente que não entendem totalmente essa tecnologia e que ela está fora de seu controle'. Sanders considera irresponsável permitir que as empresas de tecnologia continuem a desenvolver IAs cada vez mais poderosas sem eliminar esses riscos previamente.
'É por isso que estou apresentando um projeto de lei para suspender imediatamente o desenvolvimento de IA cada vez mais poderosa e proibir a criação de sistemas que a humanidade não pode controlar totalmente — nem em casa, nem em todo o mundo', enfatizou Sanders. Ele concluiu que 'o futuro da humanidade não pode ser deixado nas mãos de um punhado de oligarcas de grandes empresas de tecnologia. O povo americano e as pessoas ao redor do mundo devem definir esse futuro.'
O membro do Congresso dos EUA, Greg Kasar, que apresentou a Lei de Superinteligência junto com Sanders, observou que o desenvolvimento da superinteligência artificial pode ameaçar a segurança, a liberdade e a vida dos americanos se continuar sem medidas de proteção mais robustas. Kasar declarou: 'Apesar das potenciais consequências fatais, a tecnologia de ponta de IA é regulamentada pior do que um food truck comum. Isso precisa mudar'. Ele acrescentou que 'em apenas quatro anos, passamos da primeira versão do ChatGPT para modelos de IA tão poderosos que não podem ser devidamente controlados. O Congresso deve proibir imediatamente os sistemas de IA que são muito poderosos para serem controlados.'
A discussão atraiu a atenção de algumas figuras proeminentes da indústria de tecnologia. Bill Gates, fundador da Microsoft, declarou na semana passada que a indústria de IA ultrapassou os limiares de segurança que prometeu cumprir. Gates pediu um aumento na supervisão da tecnologia, e a AFP relatou que ele defendeu uma abordagem baseada em inspeções usadas na indústria nuclear e na regulamentação da aviação.
Atualmente, a tecnologia continua a se desenvolver rapidamente, enquanto legisladores e reguladores tentam entender a melhor maneira de gerenciar os riscos associados aos sistemas de IA cada vez mais autônomos. Os debates agora não são apenas sobre quão poderoso a IA pode se tornar, mas também sobre qual nível de controle os humanos devem manter à medida que as capacidades da tecnologia aumentam.