A Anthropic divulgou em uma atualização de seu prospecto de abertura de capital (S-1/A), submetido à Comissão de Valores Mobiliários dos Estados Unidos (SEC), que pode estar próxima de criar uma inteligência artificial capaz de acelerar seu próprio aprimoramento.
Embora a empresa afirme ainda não ter alcançado tal fase, suas projeções sugerem que isso pode ocorrer em um futuro próximo. Essa tecnologia, conhecida como autossuperação recursiva (RSI), descreve um ponto onde sistemas de IA conseguem melhorar seus próprios processos de desenvolvimento, impulsionando a evolução de suas habilidades.
Essa perspectiva gera divergências: críticos alertam que tais avanços poderiam resultar em sistemas extremamente potentes, fora do controle humano e capazes de causar danos ao buscar seus objetivos. Por outro lado, os entusiastas veem na RSI uma chance de aumentar a produtividade e agilizar descobertas científicas.
A Anthropic reconhece ambas as visões. No documento enviado à SEC, a companhia menciona que já emprega IA em suas atividades de P&D, mas adverte que essa abordagem carrega um risco significativo à segurança, principalmente se o ritmo do progresso for drasticamente acelerado.
A atualização do prospecto introduz novos avisos na seção de fatores de risco. A Anthropic revelou que já utilizou sistemas de IA para criar novos modelos sem perceber, na época, a magnitude dos ganhos de capacidade alcançados. O aumento no uso de IA nas pesquisas também pode fazer com que os modelos evoluam mais rápido do que a capacidade da empresa de implementar medidas de segurança, alinhamento e proteção.
De acordo com o documento, estimativas internas e previsões sobre modelos futuros apontam que a empresa pode atingir em breve o que sua Política de Escalonamento Responsável denomina como «progresso dramaticamente acelerado atribuível à IA». Contudo, a empresa ressalta que nenhum de seus modelos atuais foi classificado como tendo excedido esse limite, e a avaliação dos dados segue em curso.
Mesmo diante dessa possibilidade, a Anthropic declara que não prevê usar o Claude para projetar e construir, de forma totalmente autônoma, gerações sucessivas de modelos avançados sem supervisão ou entendimento humano relevante. A companhia também planeja revisar sua Política de Escalonamento Responsável para garantir que os humanos mantenham o controle sobre o desenvolvimento de seus modelos mais sofisticados.
É importante notar que os registros apresentados à SEC cumprem obrigações de divulgação, mas também servem como meio para a empresa apresentar suas expectativas ao mercado. A Anthropic ressalta que as capacidades do Claude melhoraram neste ano, notadamente em programação, matemática e cibersegurança, embora nenhum modelo atual tenha sido considerado pela empresa como tendo atingido o estágio de autossuperação recursiva.
