Dario Amodei, CEO da Anthropic, apelou à indústria para desacelerar o ritmo do desenvolvimento de modelos avançados de inteligência artificial. No sábado, ele publicou um ensaio no qual insistiu na necessidade de estabelecer um limite para a velocidade de melhoria dessas capacidades de modelos. Pouco depois, suas posições foram apoiadas por Sam Altman e Elon Musk.
Além disso, Amodei defende o endurecimento dos controles de exportação dos EUA em relação aos chips direcionados à China, bem como a prevenção do que ele chama de destilação de modelos por laboratórios chineses.
De acordo com fontes familiarizadas com os planos, espera-se que a Anthropic comece a comercializar sua oferta pública inicial de ações em meados de outubro, com listagem pouco antes das eleições intermediárias nos EUA em novembro.
O Financial Times informou no domingo que a empresa notificou os acionistas de que seu lucro operacional ajustado seria positivo pelo segundo trimestre consecutivo, com uma margem bruta acima de 80% antes de receitas compartilhadas com parceiros de distribuição e custos de treinamento de modelos.
Assim, a situação é caracterizada por avisos de extinção para o público, uma margem de 80% para os acionistas e uma futura oferta de ações.
Uma semana interessante no mundo da IA
O autor do artigo afirma não contestar as declarações de Amodei sobre os riscos, mas acredita que a solução proposta pode aumentar os custos dos concorrentes, e aqueles que propõem essa solução têm centenas de bilhões de dólares em jogo, dependendo do resultado.
Do ponto de vista da segurança, as medidas de controle de exportação não são obrigatórias se o perigo for a melhoria muito rápida dos modelos, pois essa ameaça não depende do local de treinamento do modelo.
Suspeitas de conluio
As medidas propostas por Amodei podem restringir as forças competitivas mais baratas e de crescimento mais rápido enfrentadas pelos laboratórios americanos, incluindo modelos abertos, muitos dos quais são chineses e distribuídos gratuitamente ou por baixo custo, o que mina a economia de tokens necessária para justificar investimentos de centenas de bilhões de dólares em data centers nos EUA. Quando uma medida de segurança e uma medida competitiva são a mesma solução, o cético tem o direito de questionar.
Também é notada uma inconsistência: Altman declarou ao Fortune que a OpenAI não será listada em 2026, pois, considerando tudo o que está acontecendo com a segurança, uma entrada em bolsa seria um momento imprudente. Ele enfatizou que a probabilidade de 10% de extinção causada pela IA é inaceitável, e a indústria não deve permitir que o ego ou os incentivos ao lucro atrapalhem o trabalho. A Anthropic, cujos ex-pesquisadores inicialmente levantaram esses alertas, não mudou seu plano de listagem.
Ambos os líderes apoiaram a desaceleração, mas apenas um deles arca com os custos financeiros dessa decisão.
Altman também sugeriu que os principais laboratórios podem estar próximos de um acordo para desacelerar o desenvolvimento e gerenciar conjuntamente os riscos de segurança. O autor compara isso à situação em qualquer outro setor, onde fabricantes dominantes concordam em limitar a produção, o que parece ser um conluio clássico.
Donald Trump, na opinião do autor, chegou a uma conclusão aproximadamente correta no domingo, embora por um caminho completamente errado. Durante uma entrevista em seu campo de golfe irlandês, quando perguntado sobre a necessidade de desaceleração ou maior regulamentação da IA, o presidente dos EUA declarou: 'Estamos liderando a China em IA. Somos o país mais sofisticado do mundo e, francamente, quero manter isso, porque quem vencerá em IA, vencerá.'
Trump rejeitou os críticos como 'forças muito negativas' que levantam problemas inexistentes. Ao mesmo tempo, Trump defende não a concorrência, mas a supremacia americana, e sua administração foi notavelmente generosa com as empresas que agora pedem regras a ela. No entanto, o instinto de desconfiança em relação às restrições desenvolvidas pela própria indústria é correto, mesmo que a pessoa por trás delas tenha motivos fracos.
O autor observa que esses avisos não vieram do departamento de marketing. Dois pesquisadores da Anthropic renunciaram e se tornaram figuras públicas. Jacob Coxon, um deles, disse ao NBC's Meet the Press que defende a coordenação internacional, incluindo a China, justamente porque a corrida com Pequim representa um resultado perigoso. Isso é o oposto da agenda de contenção. As pessoas que renunciam a participações na empresa antes da listagem representam o caso mais difícil de interpretação cínica de tudo isso.
Além disso, o restante das evidências não são ações de relações públicas corporativas. Existem casos documentados de invasões de sistemas externos por agentes de IA. Amodei reconheceu o ponto mais fraco de seu plano no domingo: verificar se o concorrente não está trapaceando deve ser absolutamente confiável, levará anos e pode ser impossível. Este é um reconhecimento estranho de alguém que está realizando uma manobra puramente cínica. É o que se diz quando se acredita no problema, mas não se consegue resolvê-lo.
Um aviso autônomo pode estar correto, e a história tem exemplos de empresas que defendem regulamentos dos quais acidentalmente se mostraram corretas.
O autor não se opõe ao fato de que o risco é real, mas sim à suposição de que as partes com maiores interesses financeiros na resposta devem elaborar as regras, e que essas regras devem vir juntamente com a política comercial.
A posição da África do Sul
A África do Sul não toma posição neste debate, pois o país retirou seu projeto nacional de política de IA e não o substituiu. Este não é um lapso administrativo insignificante. O regime de governança que está sendo desenvolvido em Washington estabelecerá as condições sob as quais todos os outros poderão usar essa tecnologia, e os modelos abertos são a principal razão pela qual um país com nosso orçamento computacional pode participar da discussão. Estamos fazendo isso usando modelos abertos capazes e executando-os a baixo custo em equipamentos modestos.
O regime de licenciamento com controle de exportação, criado para excluir Pequim, não necessariamente parará em Pequim. Em vez disso, corre o risco de elevar o padrão para todos que operam abaixo do nível de tecnologia avançada. A China possui capacidade computacional e talentos para contornar essas restrições; a África do Sul não.
Portanto, o argumento da extinção deve ser levado a sério, mas a questão de quem ganha com o tratamento específico que o acompanha também deve ser levada a sério. Atualmente, a resposta são duas empresas americanas, ambas prontas para vender ações ao público e tornar seus fundadores incrivelmente ricos.