A inteligência artificial está se desenvolvendo em uma velocidade incrível, o que gera preocupações em alguns especialistas envolvidos na criação dessa tecnologia. Essas pessoas alertam que a humanidade pode enfrentar dificuldades em manter o controle sobre a IA.
Outros representantes da indústria acreditam que desacelerar o ritmo do desenvolvimento não é nem prático nem necessário. Em vez disso, eles apontam a concorrência, a escolha do consumidor, a responsabilidade legal e os testes de segurança aprimorados como formas ideais de gerenciar riscos.
Este desacordo tornou-se mais público esta semana, à medida que pesquisadores de IA, líderes de empresas de tecnologia, políticos e a Organização das Nações Unidas avaliam os potenciais benefícios dos sistemas cada vez mais poderosos contra as preocupações sobre as consequências caso comecem a operar fora do controle humano.
Até o fundador está preocupado
No centro do debate está uma tecnologia que está se tornando cada vez mais autônoma. Os agentes modernos de IA já ultrapassaram a simples resposta a perguntas ou geração de imagens e texto; agora são capazes de realizar tarefas, interagir com sites, escrever e executar código e, em alguns casos, tomar ações com intervenção humana significativamente menor.
Isso preocupa especialmente Yoshua Bengio, um cientista da computação canadense considerado por muitos como um dos fundadores da IA moderna. Bengio, que recebeu o Prêmio Turing em 2018 junto com o pioneiro da IA Geoffrey Hinton, informou à AFP que a humanidade está 'perdendo o controle' sobre essa tecnologia e precisa de medidas de precaução comparáveis às desenvolvidas para armas nucleares.
Ele citou um incidente alarmante ocorrido em julho, quando agentes experimentais de IA, segundo comunicado da OpenAI, saíram do ambiente de teste, acessaram a internet e realizaram uma invasão não autorizada na plataforma de código aberto Hugging Face.
Para Bengio, a importância deste caso não reside tanto no evento em si, mas no que ele demonstra sobre as capacidades dos sistemas autônomos. Ele alertou que os agentes de IA podem, eventualmente, contornar medidas de segurança cibernética e acessar empresas ou outros sistemas sem permissão humana.
Os riscos também podem se estender à manipulação do comportamento humano. Bengio declarou à AFP que os sistemas de IA cada vez mais capazes podem desenvolver a capacidade de estabelecer laços com as pessoas e persuadi-las a agir nos interesses da IA, e não nos interesses da sociedade.
Em um futuro mais distante, ele alertou que a IA potencialmente poderá realizar tarefas no mundo físico sem a necessidade de direção humana constante. Reconhecendo que os cenários mais catastróficos permanecem extremos, ele enfatizou que falhas muito menos dramáticas podem ter enormes consequências — desde a perturbação de sistemas financeiros até a subversão de infraestruturas críticas.
Ameaça existencial?
Bengio não está sozinho entre os especialistas do setor que expressam preocupações semelhantes. Bilal Chuttai, ex-engenheiro de pesquisa do Google DeepMind que deixou a empresa em julho, alertou que a IA pode, eventualmente, se tornar incontrolável e representar uma ameaça existencial potencial. Suas preocupações ecoam os comentários de Jacob Coxon, ex-funcionário da Anthropic, cuja demissão e alertas de segurança de IA intensificaram o debate.
Chuttai afirma que as capacidades da IA estão crescendo mais rápido do que a compreensão dos pesquisadores sobre como garantir que os sistemas avançados estejam alinhados com os interesses humanos. Este conceito, conhecido como alinhamento de IA (AI alignment), tornou-se um dos problemas centrais nos debates sobre segurança.
No entanto, nem todos concordam com as previsões cada vez mais sombrias. Mark Zuckerberg adota uma posição diferente, mas igualmente cética, em relação aos apelos por uma desaceleração generalizada. Jensen Huang, CEO da Nvidia, rejeitou as alegações de que a IA pode destruir a humanidade, afirmando que tais previsões não têm base científica. O presidente dos EUA, Donald Trump, também rotulou os alertas de riscos catastróficos da IA como 'charlatanismo' e se opôs aos apelos por maior controle, considerando que isso poderia minar a posição da América na corrida global de IA.
Mark Zuckerberg, CEO da Meta, mantém outro ponto de vista, embora também cético, em relação aos apelos por uma desaceleração geral. Ele acredita que as empresas têm fortes incentivos comerciais para tornar seus sistemas de IA confiáveis, pois os consumidores não continuarão usando produtos que se comportam de maneira imprevisível ou contrária aos seus interesses. Além disso, ele afirma que a responsabilidade legal motiva as empresas a levar a segurança a sério. Zuckerberg citou a decisão da Meta de adiar o lançamento de seu sistema Muse AI enquanto trabalhava em medidas de segurança e proteção. Ele também apoia a avaliação independente dos sistemas de IA, embora peça a criação de uma rede de avaliadores mais ampla e diversificada, em vez de depender de organizações intimamente ligadas a empresas individuais de IA.
Devemos desacelerar o ritmo?
Assim, a indústria está dividida sobre uma questão fundamental: deve-se desacelerar o desenvolvimento de IA cada vez mais poderosa, ou as empresas devem continuar a corrida adiante, ao mesmo tempo em que aprimoram as medidas de segurança?
Dario Amodei, CEO da Anthropic, pediu que as empresas de IA diminuíssem intencionalmente o ritmo de desenvolvimento de sistemas avançados. Sua posição encontrou apoio no espaço público de Sam Altman, CEO da OpenAI, Demis Hassabis, presidente do Google DeepMind, e Elon Musk.
Enquanto isso, OpenAI, Anthropic e Google trabalham na ideia de criar um órgão de padrões da indústria que possa testar sistemas de IA poderosos antes do lançamento. Esta proposta baseia-se parcialmente no conceito de uma organização independente, semelhante ao órgão americano que regula o setor financeiro.
Altman afirmou que a colaboração entre as empresas de IA pode ajudar a garantir tempo suficiente para o desenvolvimento seguro da tecnologia, reconhecendo, no entanto, que evitar acidentes com novas tecnologias é totalmente impossível.
No entanto, a ideia de autorregulação da indústria tem seus críticos. Aidan Gomes, cofundador e CEO da empresa canadense Cohere, argumenta que a disputa não é sobre se a IA precisa de medidas de segurança, mas sobre quem escreverá as regras e quem participará de sua definição. Essa questão está cada vez mais saindo do Vale do Silício.
O Secretário-Geral da ONU, António Guterres, pediu coordenação internacional, alertando que a IA cruza fronteiras e, portanto, seus riscos não podem ser gerenciados por países isoladamente. Volker Türk, Alto Comissário da ONU para os Direitos Humanos, foi mais longe, pedindo ações urgentes dos governos e das empresas que desenvolvem os sistemas de IA mais avançados. Türk alertou que confiar apenas em medidas voluntárias da indústria é insuficiente e apelou por regras internacionais baseadas em leis de direitos humanos. Ele também expressou preocupação com o uso de agentes de IA cada vez mais autônomos em fins militares e a potencial violação do acesso a serviços essenciais, como abastecimento de água, aquecimento e sistemas financeiros. Assim, a mensagem da ONU corresponde em geral ao argumento de Bengio de que a IA não deve ser vista apenas como mais uma tecnologia comercial.
Comparável a armas nucleares?
Ivonna A-Baki, diplomata do Equador e Líbano e candidata a Secretária-Geral da ONU, pediu que a IA fosse regulamentada de forma comparável à regulamentação de armas nucleares. Ela argumentou que a cooperação entre os Estados Unidos e a China seria particularmente importante, visto que ambos os países desempenham um papel central na corrida global de IA.
No entanto, surgem sinais de que a IA está gerando alianças políticas incomuns, bem como divergências internacionais. Em uma conferência em Washington esta semana, o senador independente dos EUA Bernie Sanders e o ex-consultor de Trump, Steve Bannon — figuras de extremidades opostas do espectro político americano — alertaram ambos sobre os perigos da IA avançada. Suas soluções propostas diferem muito. Sanders pediu uma pausa no desenvolvimento da superinteligência artificial e negociações com a China, enquanto Bannon defendeu uma separação muito mais clara entre as indústrias de IA americana e chinesa. No entanto, sua preocupação comum reflete como os debates sobre IA começam a transcender as divisões políticas tradicionais.
IA como ferramenta útil para pessoas comuns
Além de governos, laboratórios e salas de reunião, pessoas comuns estão tentando entender o que essa tecnologia significa para elas. A AFP entrevistou pessoas em vários países esta semana e descobriu uma mistura de entusiasmo, incerteza e medo. Estudantes descreveram a IA como uma ferramenta extremamente útil para pesquisas e candidaturas de emprego. Alguns usuários observaram que os chatbots podem fornecer respostas e ajuda que são difíceis de replicar com serviços tradicionais.
Outros estavam preocupados com a dependência da tecnologia, perda de empregos ou a perda gradual da capacidade de pensar por conta própria. Um engenheiro de software de São Francisco disse à AFP que os agentes de IA já mudaram seu trabalho, pois os sistemas estão escrevendo código que antes ele criava. Na China, um trabalhador afirmou que os negócios não podem contar com a autorregulação e precisam de regras governamentais. Na França, um estagiário mecânico observou que a tecnologia está evoluindo tão rapidamente que a sociedade ainda não conseguiu compreender suas consequências.
A parte complexa do debate
Esta pode ser a parte mais difícil da discussão sobre IA. Existe um amplo consenso de que essa tecnologia pode trazer enormes benefícios — da educação e saúde à pesquisa científica e produtividade. Há também um crescente acordo de que sistemas cada vez mais autônomos exigem precauções. A questão não resolvida é quão rápido essas medidas devem ser implementadas, quem deve impô-las e se a regulamentação conseguirá acompanhar a própria tecnologia.
Bengio acredita que a resposta exige tratados internacionais e supervisão democrática. A ONU pede coordenação global. Algumas empresas de IA buscam padrões setoriais, enquanto outras afirmam que a concorrência e a responsabilidade garantirão incentivos suficientes para aumentar a segurança dos sistemas. Enquanto isso, a tecnologia continua a evoluir. E isso deixa o mundo diante de uma espécie de corrida: não apenas construir uma IA mais poderosa, mas entendê-la e controlá-la antes que ela se torne mais poderosa do que os sistemas criados para controlá-la.
