Após o incidente com o desligamento do Fable 5, que demonstrou a capacidade de Washington de parar instantaneamente os modelos de inteligência artificial mais poderosos, a indústria começou a formular um plano para que um cenário caótico semelhante não se repita. Críticos observam que este plano pode apenas substituir o controle direto de Washington por um mecanismo de gestão mais refinado.
Demis Hassabis, cofundador e CEO do Google DeepMind, publicou um manifesto na plataforma X intitulado 'Estrutura para IA Avançada e o Amanhecer de uma Nova Era'. Nele, ele pediu a criação de um novo órgão que verificaria os modelos de IA mais avançados antes do seu lançamento. Em um dia, este apelo recebeu o apoio dos líderes da Microsoft, OpenAI e xAI, um sinal incomum de unidade em uma indústria acostumada à forte concorrência.
O cerne do plano proposto é a criação de um 'órgão de padrões', cujo modelo é semelhante ao Financial Industry Regulatory Authority (Finra). Esta organização privada, financiada pela própria indústria, supervisiona Wall Street sob o controle do governo dos EUA. Este órgão, apoiado por Washington, mas financiado pelos laboratórios de IA, teria que testar os modelos avançados quanto aos riscos mais perigosos — cibernéticos, biológicos e de 'engano' ou agência. A verificação seria conduzida por um colegiado de especialistas técnicos com maioria de membros independentes, incluindo representantes da indústria, do governo e do código aberto.
Hassabis escreveu que inicialmente os laboratórios avançados forneceriam voluntariamente os modelos ao órgão de padrões para revisão trinta dias antes do lançamento. Ele acrescentou que, após demonstrar a eficácia e confiabilidade do protocolo de avaliação, a formalização do processo poderia seguir rapidamente, exigindo que os modelos avançados passassem por essa verificação para serem lançados no mercado dos EUA.
Estas regras deveriam se aplicar a quaisquer modelos avançados, independentemente de sua origem nacional ou se são abertos ou fechados, exceto startups e instituições acadêmicas. Hassabis acredita que o próprio status de 'avançado' serviria como incentivo para a participação, afirmando à Axios que passar pelo teste é um 'ativo de prestígio bastante agradável'.
Hassabis, que consultou por meses a administração Trump, líderes de outros laboratórios e funcionários europeus antes da declaração pública, informou à Axios que gostaria que este órgão começasse a operar 'até o final do ano', pois acredita que a inteligência artificial geral 'provavelmente estará disponível em poucos anos'. Esta ideia desenvolve propostas feitas por líderes de IA a líderes mundiais na cúpula do G7 em Évian em junho.
Satya Nadella, CEO da Microsoft, chamou a iniciativa de 'importante parte de Demis', enfatizando que o objetivo é criar um ecossistema que 'promova a inovação e a escolha, evitando qualquer falha única que destrua o mundo'. Sam Altman, da OpenAI, também expressou apoio, tendo anteriormente usado um artigo no Financial Times para exigir a criação de um fórum internacional liderado pelos EUA com princípios semelhantes.
Até Elon Musk, cuja xAI é o único grande laboratório avançado fora do grupo Frontier Model Forum de segurança, deu um apoio ponderado, escrevendo no X na quarta-feira: 'No geral, esta é uma estrutura bem pensada e, sem dúvida, um bom ponto de partida para discussões'. Isso difere do seu tom de junho, quando ele sugeriu brincando o nome 'AIAIAI' ao discutir o regulador de IA.
Dario Amodei, da Anthropic, concorda com a direção, mas não com o design. Em um ensaio em junho, defendeu uma agência federal no estilo FAA com poderes legislativos para bloquear modelos inseguros. Como notou a Axios, os líderes dos laboratórios agora concordam que Washington deve regulá-los, 'diferindo principalmente em quem detém o poder'.
A lacuna mais óbvia na proposta de Hassabis diz respeito à China. Embora Hassabis insista na aplicação de seus padrões a todos os modelos avançados, independentemente de sua origem, ele não especifica como um órgão sediado nos EUA poderá forçar desenvolvedores chineses — como DeepSeek e Zhipu AI, que estão se aproximando de capacidades avançadas — a fornecerem seus modelos para teste.
Os principais laboratórios em Pequim adotam uma estratégia oposta: Tan Ze da Zhipu afirma que a segurança é alcançada através do acesso amplo, e não barreiras tecnológicas, e lançou seu modelo mais recente com código aberto. Após a publicação dos pesos do modelo, nenhum órgão pode revogá-lo ou suspender.
Outra questão aberta é se esta proposta poderia ter evitado a crise que a inspirou. Em junho, o Secretário de Comércio dos EUA, Howard Lutnick, impôs controle de exportação sobre o Claude Fable 5 e Mythos 5 alguns dias após seu lançamento, aplicando um regime legal criado para bens físicos a um serviço em nuvem. Isso ocorreu depois que pesquisadores da Amazon exploraram a proteção do Fable 5, simplesmente pedindo ao modelo para ler a base de código e corrigir suas deficiências, momento em que ele descobriu vulnerabilidades e gerou código de exploração em um caso.
A Anthropic contestou a gravidade da situação, mostrando que modelos concorrentes menos capazes poderiam fazer o mesmo, mas ela teve que desativar ambos os modelos globalmente durante a noite, restaurando o acesso apenas duas semanas após negociações que, segundo ela, não tinham regras, protocolos ou diretrizes.
Sob o regime de Hassabis, as capacidades do Fable 5 seriam testadas quanto à conformidade com o protocolo publicado antes do lançamento, e após o lançamento, as deficiências seriam resolvidas por meio de um processo gerenciado de correção, e não por uma diretiva enviada na sexta-feira à noite. A promessa é de previsibilidade. No entanto, isso não eliminaria os poderes básicos de controle de exportação de Washington — uma administração decisiva ainda poderia agir fora do protocolo, como aconteceu em junho — e a história mostra que regimes voluntários têm seus limites.
Tom Wheeler, pesquisador do Brookings e ex-presidente da Federal Communications Commission dos EUA, observou que órgãos internacionais de padrões semelhantes, como o Financial Action Task Force e o Comitê de Basileia Bancário, funcionaram porque o não cumprimento acarretava sanções reais. Ele afirmou: 'A adesão voluntária significa que o resultado é apenas uma suposição, e não um padrão.'
Ele também alertou que o processo limitado pelas próprias empresas 'resolve os problemas das empresas, dando às governos cobertura para parecerem estar fazendo algo'. Além disso, não está claro o que impediria este órgão de se tornar uma ferramenta da administração Trump. O design prevê independência no estilo Finra, mas o órgão ainda será, segundo a Axios, 'responsável ao governo dos EUA', e a Casa Branca tratou da regulamentação formal com cautela; Shriram Krishnanan, seu conselheiro sênior de IA até o final de junho, disse ao Financial Times: 'não haverá FDA para IA', referindo-se à Food and Drug Administration dos EUA.
O Instituto R Street alertou após o desligamento que o controle de exportação se tornou uma 'ferramenta política permanente' que pode ser aplicada 'contra qualquer laboratório, modelo ou empresa que se torne inconveniente'. Adicionar um órgão de padrões não anula isso. Para o mundo em desenvolvimento, o acesso a tecnologias avançadas continuará sendo concedido, e não garantido, pelo porteiro em Washington. Nada nesta estrutura dá à África do Sul ou a qualquer outro governo africano voz no órgão que decidirá quais modelos chegarão aos seus mercados; o colegiado representado por Hassabis é composto por representantes da indústria, do governo dos EUA e da comunidade de código aberto. Para países que consomem IA avançada, mas não a criam, portões mais suaves ainda são portões.
Hassabis pretende lançar este órgão em poucos meses, mas questões de coerção, composição do conselho além da indústria financiadora e participação da China permanecem sem solução. Até lá, a lição de junho permanece relevante: quem controla os portões de implantação controla o acesso do mundo à IA avançada, e esses portões permanecem em Washington.
O Secretário-Geral das Nações Unidas fez um apelo em Genebra sobre a importância crítica do desenvolvimento de normas mundiais de regulamentação no campo do desenvolvimento da inteligência artificial.
No âmbito do Diálogo Global das Nações Unidas sobre Inteligência Artificial, que ocorre na terça e quarta-feira, enfatiza-se a necessidade de minimizar as ameaças potenciais associadas a esta tecnologia, com especial atenção à proteção das crianças.
O Primeiro Diálogo Global da ONU sobre Governança de Inteligência Artificial, realizado durante dois dias em Genebra, não visa a conclusão de um tratado. Em vez disso, seu objetivo é discutir métodos para estabelecer regras que permitam reduzir os riscos inerentes à IA, ao mesmo tempo em que se aproveitam os benefícios que esta tecnologia oferece.
Os delegados examinarão um relatório preparado por um grupo científico independente com o apoio das Nações Unidas. Este grupo é composto por 40 especialistas e apresentará os resultados da primeira avaliação científica global independente na área de inteligência artificial.
