A Anthropic informou que seu modelo Claude agora participa de 26% da pesquisa e desenvolvimento dentro da empresa. Isso faz parte de novas medidas que a empresa planeja publicar regularmente para demonstrar aos observadores externos a velocidade com que a IA está criando a próxima geração de tecnologias.
De acordo com o comunicado do startup de São Francisco, até agosto, a IA colaborou com humanos em mais de 90% das tarefas de pesquisa. A Anthropic esclareceu que o Claude não opera totalmente de forma autônoma em nenhuma das áreas de trabalho mensuradas, mas sua contribuição para o desenvolvimento da tecnologia aumentou significativamente: de 1% em março, de acordo com a escala desenvolvida pela organização sem fins lucrativos independente Epoch AI.
Esses dados fornecem uma das análises públicas mais detalhadas de como as principais empresas do setor estão desenvolvendo essa tecnologia diante da crescente preocupação de que a IA possa atingir um ponto em que se desenvolverá sozinha com mínima participação humana.
Pesquisadores alertam que à medida que os agentes de IA se tornam mais autônomos, eles podem desenvolver comportamentos que se desviam das intenções de seus criadores, dificultando o monitoramento ou controle.
Na quarta-feira, um concorrente da empresa, a OpenAI, anunciou o início da publicação regular de relatórios sobre comportamento imprevisto ou não autorizado de IA, divulgando seis relatórios de comportamento inesperado ou preocupante do modelo.
Cada ação passa por verificação
A Anthropic relatou que, em agosto, cerca de 30.000 agentes de IA estavam operando simultaneamente em sua plataforma interna principal, realizando trabalhos de engenharia e pesquisa. A empresa acrescentou que cada ação realizada por esses agentes é verificada antes da execução; de mais de um bilhão de decisões naquele mês, aproximadamente uma foi bloqueada, o que correspondeu a cerca de 1 em 47.000.
Além disso, a empresa revelou que, durante uma semana de teste em julho, cerca de 6% da capacidade computacional utilizada pela Anthropic para pesquisas de IA foi destinada ao trabalho de segurança, e esse número aumentou para 12% para pesquisas conduzidas pela própria IA. Foi observado que esses números são conservadores, pois a capacidade computacional usada simultaneamente para segurança avançada e capacidades foi contabilizada como trabalho em capacidades.
