Líderes das principais empresas que desenvolvem inteligência artificial avançada começaram a expressar opiniões sobre a necessidade de reduzir o ritmo do desenvolvimento de modelos cada vez mais poderosos. Inicialmente, o chefe da Anthropic, Dario Amodei, apresentou um plano específico, mas sua posição foi logo apoiada pelos líderes da OpenAI, Google DeepMind e xAI. Descobriu-se que algumas dessas organizações já estavam discutindo a criação de um mecanismo geral de regulamentação do desenvolvimento de IA antes de declarações públicas.
Amodei propôs em 12 de setembro não parar o desenvolvimento, mas apenas estabelecer um ritmo mais moderado. Ele insistiu que as empresas fornecessem acesso contínuo aos seus processos internos a avaliadores independentes, concordassem com padrões de segurança unificados e alcançassem coordenação internacional a longo prazo.
Paralelamente, Sam Altman expressou concordância com a necessidade de 'diminuir o ritmo', e Elon Musk apoiou a iniciativa da Anthropic. O líder do Google DeepMind, Demis Hassabis, também reagiu positivamente. É notável que esta proposta vem de empresas que são concorrentes diretas no desenvolvimento dos modelos mais poderosos, levantando a questão se isso é uma coincidência diante de uma ameaça comum ou o início de uma interação mais estreita entre os líderes de mercado.
O que foi discutido nas negociações fechadas
Informações mais importantes surgiram não em discursos públicos, mas em relatórios de reuniões preliminares. De acordo com um comunicado do The Washington Post, Anthropic, OpenAI e Google discutiram a formação de uma nova estrutura setorial antes do apelo público de Amodei, que poderia lidar com o estabelecimento de padrões de segurança para IA. A ideia de tal mecanismo já havia sido proposta anteriormente por Hassabis.
Também é notável que Altman havia falado anteriormente sobre a possibilidade de um acordo voluntário entre os maiores desenvolvedores. Recentemente, ele confirmou a disposição da OpenAI em cooperar com auditores externos. Deve-se notar que a OpenAI é capaz de concordar com outras empresas líderes medidas destinadas a aumentar a segurança e desacelerar o ritmo de desenvolvimento.
Razões para a preocupação
As empresas têm motivos claros para estar apreensivas. Os agentes de IA modernos já possuem a capacidade de executar sequências de ações autonomamente, interagir com recursos da internet e usar ferramentas, permitindo-lhes ir muito além das funções de um chatbot comum.
Um exemplo proeminente foi o incidente da OpenAI com a plataforma Hugging Face. Durante os testes, os agentes de IA deixaram o ambiente de teste, obtiveram acesso à rede e realizaram um ataque à infraestrutura do serviço na tentativa de obter dados necessários para passar no teste.
Amodei considera este caso não como um erro isolado, mas como um sinal de que a velocidade do desenvolvimento das capacidades da IA pode exceder a capacidade dos desenvolvedores de controlar seu comportamento. Segundo suas previsões, se o ritmo atual for mantido, sistemas mais sofisticados podem causar danos de centenas de bilhões de dólares nos próximos seis a doze meses.
Ao mesmo tempo, o número de incidentes semelhantes está aumentando. Houve registros anteriores de um aumento acentuado de casos em que sistemas autônomos ignoravam instruções, tentavam contornar restrições ou agiam contra objetivos iniciais. Essa tendência tornou-se um dos argumentos a favor da implementação de um controle mais rigoroso.
No entanto, a situação atual difere das discussões ocorridas há dois ou três anos. Naquela época, os apelos para desacelerar o desenvolvimento de IA eram vistos como um debate sobre os riscos potenciais de sistemas futuros. Agora, os desenvolvedores estão discutindo o comportamento de agentes autônomos já funcionais e tentando entender como controlar modelos capazes de planejar e executar tarefas autonomamente.
Quem ganha com a desaceleração da corrida
As grandes corporações realmente podem temer o desenvolvimento excessivamente rápido da IA. No entanto, alcançar um acordo sobre um ritmo unificado pode transformar o próprio cenário competitivo. O especialista Venkatesh Rao acredita que se as empresas líderes concordarem em não aumentar as capacidades dos modelos mais rapidamente do que um certo nível, será mais fácil para elas controlar os custos de treinamento e infraestrutura, e será mais difícil para novos jogadores superar a lacuna tecnológica.
Além disso, as grandes empresas terão a oportunidade de participar da definição de qual nível de segurança e qual velocidade de desenvolvimento são considerados aceitáveis. É por isso que a ideia de um órgão setorial de segurança gera controvérsia. Por um lado, o controle externo pode garantir que a empresa cumpra suas promessas. Amodei propõe dar acesso aos processos de trabalho da Anthropic a avaliadores externos, o que efetivamente lhes confere poderes comparáveis aos de especialistas internos em avaliação de riscos.
Por outro lado, as regras desenvolvidas pelos próprios maiores desenvolvedores podem potencialmente fortalecer suas posições perante concorrentes menores. Assim, a discussão sobre segurança transforma-se simultaneamente em um debate sobre quem definirá as regras da evolução da IA avançada.
A China como problema chave
A ideia de desaceleração global enfrenta contradições geopolíticas, especialmente em relação à China. Amodei alerta que a liderança da China no campo da IA representa uma séria ameaça aos EUA e à comunidade global, portanto, ele defende a manutenção da vantagem tecnológica americana e a imposição de restrições ao fornecimento de equipamentos e chips avançados para a China.
Ao mesmo tempo, o chefe da Anthropic reconhece que a desaceleração global é impossível sem a participação de Pequim. Em sua visão, a China deve ser incluída em acordos internacionais de segurança de IA. Surge um paradoxo: os EUA procuram negociar com a China um desenvolvimento seguro de IA, ao mesmo tempo em que restringem seu acesso a tecnologias críticas. O analista da Asia Society, Lizhi Li, chama isso de uma das principais contradições deste modelo.
Em Pequim, a iniciativa de Amodei foi vista como uma tentativa de contenção tecnológica. Um porta-voz do Ministério das Relações Exteriores da RPC declarou que o 'intimidação, confronto e concorrência desleal' impedem a governança global da IA, e a publicação estatal Global Times caracterizou as propostas do chefe da Anthropic como um 'livro didático da Guerra Fria' para a indústria de IA.
A desconfiança aumenta com acusações mútuas. Agências de inteligência americanas publicaram recentemente um ensaio acusando desenvolvedores chineses de usar vantagens de modelos americanos, enquanto Pequim rejeitou essas acusações, afirmando que Washington busca um monopólio no mercado de IA. Ao mesmo tempo, as autoridades chinesas alertam sobre ameaças de sistemas estrangeiros: o chefe do Ministério da Segurança do Estado da RPC, Chen Yixin, afirmou que a IA nas mãos de forças hostis pode colocar em risco a segurança política e informacional do país.
Washington não está com pressa para frear
Nesta questão, a posição dos líderes de empresas de IA entra em direto conflito com a política da administração americana. O presidente dos EUA, Donald Trump, rejeitou em 13 de setembro a ideia de necessidade de uma desaceleração significativa do desenvolvimento de IA. Ele enfatizou que os EUA superam a China e devem manter essa vantagem, afirmando que 'quem ganha a IA, ganha'. Embora Trump tenha admitido a possibilidade de impor algumas restrições, ele classificou grande parte das preocupações atuais com a IA como exageradas.
Assim, dentro dos EUA, formaram-se duas lógicas opostas. Amodei reconhece a existência desse dilema, observando em entrevista à CBS que a competição entre as empresas americanas e chinesas é o problema mais complexo para estabelecer um 'limite de velocidade', e ele não tem certeza sobre a possibilidade de cumpri-lo.
Há espaço para um acordo secreto
Atualmente, não há motivos para afirmar que os líderes das maiores empresas de IA chegaram a um acordo secreto. No entanto, existem fatos que justificam a questão da coordenação: várias empresas concorrentes discutiram previamente um órgão de segurança comum, depois seus líderes apoiaram quase em sincronia a ideia de desaceleração, e as próprias propostas incluem não apenas medidas internas de segurança, mas também regras coletivas para todo o setor.
Existem vários cenários prováveis de desenvolvimento. O primeiro é a coordenação real, onde os maiores desenvolvedores podem se aproximar de um acordo informal ou oficial sobre os ritmos de desenvolvimento de IA e sobre requisitos de segurança gerais. As negociações preliminares entre Anthropic, OpenAI e Google para criar um órgão setorial comum testemunham o início de contatos entre concorrentes ainda antes dos apelos públicos à desaceleração. Se esse processo continuar, as declarações atuais podem ser o primeiro passo para a formação de novas normas setoriais.
A segunda opção é um armistício forçado. As empresas podem ter chegado à conclusão de que os sistemas autônomos estão evoluindo mais rápido do que os métodos de controle existentes, e, portanto, estão temporariamente interessadas em restrições gerais. Nesse caso, não se trata de cessar a rivalidade, mas de tentar concordar com um nível mínimo de segurança, após o qual a corrida continuará.
O terceiro cenário é a luta pela definição das regras. Os apelos para desacelerar podem servir como uma maneira de influenciar quais restrições serão introduzidas no futuro. Se os maiores desenvolvedores obtiverem um papel decisivo na criação de padrões, eles poderão influenciar também as condições de trabalho de seus concorrentes. Nesse caso, o debate sobre segurança de IA se tornará também uma luta pelo controle do futuro do mercado.
Essas versões não se excluem mutuamente. As empresas podem temer simultaneamente a aceleração da IA, concordar com regras básicas de segurança e buscar influência na formulação dessas regras. Enquanto nenhum desses cenários pode ser provado, é evidente que os maiores desenvolvedores estão passando pela primeira vez de forma tão notável de avisos individuais sobre os perigos da IA para a discussão de regras coletivas para seu desenvolvimento.