Empresas rivais, incluindo OpenAI, Anthropic e Google DeepMind, começaram a debater medidas conjuntas de segurança destinadas a sistemas avançados de inteligência artificial. Embora essa colaboração vise diminuir os riscos inerentes à tecnologia, ela gera um dilema, visto que essas corporações são concorrentes diretas e podem enfrentar escrutínio antitruste.
Essas conversas ocorrem em um contexto de crescente demanda por avaliações independentes dos modelos e por mecanismos eficazes para identificar ameaças mais sérias. Paralelamente, o governo Trump manifestou sua oposição à ideia de frear o avanço tecnológico.
Chris Lehane, responsável pela política global da OpenAI, confirmou na terça-feira que as três companhias mantêm conversas há várias semanas focadas na segurança da IA. Ele esteve em Washington para abordar os riscos classificados como catastróficos ligados a essa tecnologia.
A intensificação dessa aproximação ocorreu após Dario Amodei, CEO da Anthropic, advogar que o setor deveria colaborar para moderar o ritmo de desenvolvimento da chamada IA de fronteira. Essa iniciativa recebeu apoio de Sam Altman, da OpenAI; Demis Hassabis, do Google; e Elon Musk.
Altman também indicou que a OpenAI poderia colaborar com a Anthropic para integrar avaliadores externos e monitorar a segurança dos sistemas.
Ideias em Discussão
Entre os temas debatidos, destaca-se o fato de que a proximidade entre competidores constitui um desafio significativo. Altman e outros participantes reconheceram que uma coordenação empresarial poderia acarretar problemas legais relacionados às leis antitruste, caso resultasse na diminuição da concorrência.
Amodei sugeriu até mesmo uma permissão governamental restrita para viabilizar esse tipo de cooperação em segurança. Contudo, Lehane sustentou que tal autorização governamental não seria necessária para as empresas.
Adicionalmente, O The Information relatou que as três empresas estão trabalhando na criação de um padrão setorial para a indústria de IA. Segundo informações, Altman teria comunicado aos seus colaboradores que essa estrutura deveria ser estabelecida sem o suporte do governo dos Estados Unidos.
A concepção de padrões para o setor não é recente. Em julho, Hassabis defendeu a criação de um novo órgão nos Estados Unidos com poder para auditar os modelos mais sofisticados do mundo e coordenar uma possível desaceleração caso os riscos crescessem.
Mais Informações
No mesmo encontro onde confirmou as conversas, Lehane declarou que a OpenAI endossa uma previsão do FRONTIER Act, que exigiria que os principais laboratórios de IA de fronteira permitissem a entrada de «organizações de verificação independentes» para verificar se os modelos estão sendo desenvolvidos de maneira segura.
A proposta de desacelerar o desenvolvimento enfrenta resistência na Casa Branca. Donald Trump rotulou as apreensões sobre a segurança da IA como uma «farsa» e rejeitou regras mais rigorosas, alegando que qualquer freio beneficiaria a China.
David Sacks, principal assessor de Trump para IA, também afirmou que os receios acerca de riscos existenciais da tecnologia são exagerados.
Enquanto empresas concorrentes buscam pontos de convergência para gerenciar os perigos dos sistemas mais avançados, o debate permanece polarizado entre a ampliação da fiscalização e a manutenção da competitividade no setor.