O Papa Leo XIV emitiu um aviso contra a delegação de decisões aos algoritmos de inteligência artificial que devem permanecer prerrogativa da consciência humana. Esta declaração foi feita em meio a crescentes preocupações com os riscos associados ao desenvolvimento da IA.
Durante o apelo geral semanal no Vaticano, o Papa afirmou que o desenvolvimento tecnológico, a disseminação da mídia de massa e das redes sociais, bem como o uso cada vez mais amplo da inteligência artificial, abrem novas possibilidades, derrubando barreiras e distâncias. No entanto, ele também alertou que os relacionamentos estão se tornando menos pessoais e mais virtuais, criando o risco de se acostumar a ter decisões que pertencem exclusivamente à consciência humana transferidas para algoritmos.
Ele enfatizou que a contribuição da comunidade cristã reside em garantir que os laços sociais possuam uma essência real e profundidade pessoal. A preocupação com a IA aumentou nas últimas semanas após vários incidentes de segurança e o surgimento da capacidade dos modelos de IA de se aprimorarem sem intervenção humana. O debate agora também aborda a capacidade do setor de autorregulação.
Em seu primeiro grande documento, a mensagem enciclopédica «Magnifica Humanitas» (Grande Humanidade), publicada em maio, o chefe da Igreja Católica pediu para «desarmar» a IA para «prevenir seu domínio sobre a humanidade». Além disso, nos últimos meses, o Santo Padre intensificou suas iniciativas em apoio à governança internacional da IA baseada na dignidade humana, especialmente nas áreas de tecnologia nuclear, cultura e criação artística.
Preocupações com concorrentes menores
As maiores empresas mundiais em IA estão trabalhando na criação de um órgão de padronização. Assim informou a OpenAI na terça-feira, à medida que a ansiedade sobre os perigos da IA cresce e a pressão aumenta para criar uma versão mais segura dessa tecnologia. A OpenAI declarou que está colaborando com a Anthropic e o Google em uma ideia originada pela proposta de Demis Hassabis do Google DeepMind de criar um órgão de autorregulação, semelhante ao Regulador Financeiro do setor, que supervisiona corretores e firmas de investimento dos EUA.
Em julho, Hassabis pediu que os Estados Unidos criassem uma organização para testar os sistemas de IA mais poderosos antes de serem lançados ao público. Ele observou que «o financiamento deve ser substancial e, provavelmente, vir principalmente da indústria, para atrair talentos técnicos de classe mundial e fornecer os recursos computacionais necessários para testes em larga escala».
O CEO da OpenAI, Sam Altman, apoiou a colaboração intersetorial na terça-feira, reconhecendo as preocupações do público de que a competição entre empresas e países possa relegar questões de segurança a segundo plano. Altman disse em uma conferência organizada pela Salesforce em São Francisco: «Acho ótimo que nosso setor diga que quer se unir e quer ter a capacidade de coordenar e garantir que temos tempo suficiente para fazer isso com segurança». Ele acrescentou que as pessoas ficam muito assustadas quando há insinuação de que alguém no setor «pode agir de forma errada».
Alguns líderes de tecnologia temem que a colaboração entre gigantes da IA possa levar ao empurrar concorrentes menores para fora. Aidan Gomez, cofundador e CEO da empresa canadense de IA Cohere, acusou recentemente os laboratórios de IA dominantes dos EUA de formar um «cartel» sob o pretexto de garantir a segurança. Aidan Gomez escreveu em um blog no domingo: «A IA precisa de restrições. Isso não é um debate, e nunca foi. O debate é sobre quem as escreve, quem tem o direito de participar e cujos interesses as regras protegem».
Escalada dos problemas de segurança da IA
As preocupações com a segurança da IA se agravaram nas últimas semanas, incluindo alertas de funcionários que deixaram grandes empresas de IA devido a preocupações com os riscos no setor. Na semana passada, o pesquisador Jacob Coxon deixou a Anthropic e alertou que os laboratórios de IA «estão brincando com nossas vidas». Ele também trabalhou anteriormente na OpenAI.
Na segunda-feira, Bilal Chuttai, ex-pesquisador do Google DeepMind, reiterou as preocupações expressas por Coxon e outros. Ele escreveu nas redes sociais: «Eu acredito sinceramente que a IA pode potencialmente matar todos nós, e que estamos perdendo tempo para evitar esse resultado».
No sábado, Dario Amodei, CEO da Anthropic, pediu para desacelerar o ritmo do desenvolvimento da IA, uma opinião apoiada pelos CEOs Sam Altman da OpenAI, Elon Musk e Hassabis. O senador americano Bernie Sanders, preocupado com as consequências catastróficas da IA, afirmou que os líderes tecnológicos não podem ser confiáveis para cumprir promessas de desacelerar o desenvolvimento ou estabelecer padrões de segurança. Sanders disse em um evento de segurança de IA em Washington: «Quando o futuro da humanidade está em jogo, precisamos de regras internacionais de segurança obrigatórias, e não de padrões voluntários do setor».
Altman alertou que acidentes com IA, sejam pequenos ou grandes, podem ser inevitáveis. «Acidentes com qualquer nova tecnologia são inevitáveis, e devemos ter uma excelente cultura de comunicação transparente sobre eles», disse Altman. Ele continuou: «Acredito que aprender rapidamente com eles e nos adaptarmos à medida que surgem beneficiará nosso setor, e talvez possamos evitar incidentes maiores e potencialmente catastróficos».
Trump rejeita os avisos
O presidente dos EUA, Donald Trump, chamou na segunda-feira os avisos sobre os riscos da IA de «espetáculos». O CEO da Nvidia, Jensen Huang, também rebateu, insinuando que os avisos sobre a IA faziam parte de uma campanha coordenada. Huang disse na segunda-feira em uma conferência em Los Angeles: «A combinação dessas palavras, e depois previsões, causa ansiedade e preocupação, e isso não deve ser feito. É irresponsável». Durante uma ligação de Trump, que o ligou enquanto ele estava no palco, Huang agradeceu a Trump por ele ter «percebido» os avisos sobre a IA. A Nvidia está no centro da revolução da IA, seus chips alimentam a maioria dos sistemas, e Huang tornou-se um conselheiro não oficial de Trump.
