Google, OpenAI e Anthropic unem forças para criar órgão de segurança para inteligência artificial

Google, OpenAI e Anthropic estão avançando na criação de uma organização autônoma destinada a definir normas de segurança para sistemas de inteligência artificial (IA) de ponta. Esta iniciativa ocorre em um contexto de crescente discussão sobre como as tecnologias cada vez mais sofisticadas devem ser regulamentadas.

Conforme reportado pelo The Information, este grupo de segurança está tomando forma, e as três companhias apelidaram provisoriamente a entidade de Standards Authority for Frontier AI (SAFA). A intenção é que essa nova estrutura funcione de forma independente, auxiliando a suprir as carências na fiscalização governamental da IA.

A ideia de estabelecer diretrizes mais abrangentes ganhou destaque esta semana após os CEOs da OpenAI, Sam Altman, e da Anthropic, Dario Amodei, debaterem a segurança da IA no Conselho de Segurança das Nações Unidas (ONU). Altman sustentou que as decisões cruciais relativas à IA devem ser guiadas por instituições democráticas e governos. Por sua vez, Amodei advogou por padrões globais e acordos internacionais para testar novos modelos de IA.

Adicionalmente, a OpenAI solicitou separadamente que os Estados Unidos assumam a liderança nos esforços internacionais para definir padrões técnicos para sistemas avançados de IA, incluindo aqueles com capacidade de autoaperfeiçoamento recursivo.

Divergências sobre a regulamentação da IA

A sugestão da SAFA surge em um período marcado por crescentes discordâncias sobre a melhor forma de regular a IA. De um lado, existem defensores de salvaguardas mais rigorosas para mitigar riscos potenciais ligados a sistemas cada vez mais competentes. Do outro lado, há quem argumente que as legislações atuais e os próprios mecanismos de mercado são suficientes para enfrentar tais ameaças.

O governo dos Estados Unidos também participa deste debate. O presidente Donald Trump manifestou oposição a novas restrições regulatórias para a IA, defendendo que tanto os EUA quanto a China devam manter o desenvolvimento tecnológico no ritmo atual.

Neste panorama, o órgão proposto por Google, OpenAI e Anthropic representa uma tentativa das principais desenvolvedoras de IA de padronizar a segurança, enquanto os governos avaliam qual grau de supervisão deve ser imposto aos sistemas de IA mais avançados. A notícia sobre a união de Google, OpenAI e Anthropic para criar o órgão de segurança foi inicialmente publicada no Olhar Digital.

Histórias semelhantes

Rivais como OpenAI, Anthropic e Google DeepMind iniciam discussões secretas sobre regulamentação de inteligência artificial

Empresas rivais, incluindo OpenAI, Anthropic e Google DeepMind, começaram a debater medidas conjuntas de segurança destinadas a sistemas avançados de inteligência artificial. Embora essa colaboração vise diminuir os riscos inerentes à tecnologia, ela gera um dilema, visto que essas corporações são concorrentes diretas e podem enfrentar escrutínio antitruste.

Essas conversas ocorrem em um contexto de crescente demanda por avaliações independentes dos modelos e por mecanismos eficazes para identificar ameaças mais sérias. Paralelamente, o governo Trump manifestou sua oposição à ideia de frear o avanço tecnológico.

Chris Lehane, responsável pela política global da OpenAI, confirmou na terça-feira que as três companhias mantêm conversas há várias semanas focadas na segurança da IA. Ele esteve em Washington para abordar os riscos classificados como catastróficos ligados a essa tecnologia.

A intensificação dessa aproximação ocorreu após Dario Amodei, CEO da Anthropic, advogar que o setor deveria colaborar para moderar o ritmo de desenvolvimento da chamada IA de fronteira. Essa iniciativa recebeu apoio de Sam Altman, da OpenAI; Demis Hassabis, do Google; e Elon Musk.

Altman também indicou que a OpenAI poderia colaborar com a Anthropic para integrar avaliadores externos e monitorar a segurança dos sistemas.

Ideias em Discussão

Entre os temas debatidos, destaca-se o fato de que a proximidade entre competidores constitui um desafio significativo. Altman e outros participantes reconheceram que uma coordenação empresarial poderia acarretar problemas legais relacionados às leis antitruste, caso resultasse na diminuição da concorrência.

Amodei sugeriu até mesmo uma permissão governamental restrita para viabilizar esse tipo de cooperação em segurança. Contudo, Lehane sustentou que tal autorização governamental não seria necessária para as empresas.

Adicionalmente, O The Information relatou que as três empresas estão trabalhando na criação de um padrão setorial para a indústria de IA. Segundo informações, Altman teria comunicado aos seus colaboradores que essa estrutura deveria ser estabelecida sem o suporte do governo dos Estados Unidos.

A concepção de padrões para o setor não é recente. Em julho, Hassabis defendeu a criação de um novo órgão nos Estados Unidos com poder para auditar os modelos mais sofisticados do mundo e coordenar uma possível desaceleração caso os riscos crescessem.

Mais Informações

No mesmo encontro onde confirmou as conversas, Lehane declarou que a OpenAI endossa uma previsão do FRONTIER Act, que exigiria que os principais laboratórios de IA de fronteira permitissem a entrada de «organizações de verificação independentes» para verificar se os modelos estão sendo desenvolvidos de maneira segura.

A proposta de desacelerar o desenvolvimento enfrenta resistência na Casa Branca. Donald Trump rotulou as apreensões sobre a segurança da IA como uma «farsa» e rejeitou regras mais rigorosas, alegando que qualquer freio beneficiaria a China.

David Sacks, principal assessor de Trump para IA, também afirmou que os receios acerca de riscos existenciais da tecnologia são exagerados.

Enquanto empresas concorrentes buscam pontos de convergência para gerenciar os perigos dos sistemas mais avançados, o debate permanece polarizado entre a ampliação da fiscalização e a manutenção da competitividade no setor.