A Anthropic declarou ter impedido operações de vigilância patrocinadas por governos da China, do Irã e do Mali, que empregavam o Claude para monitorar grupos dissidentes e minorias.
Essas atividades, detectadas entre janeiro e julho, incluíram a identificação de indivíduos em redes sociais e a criação de softwares destinados à coleta de informações. Além disso, a companhia suspendeu usos relacionados a armas, investigações biológicas suspeitas e fraudes amorosas virtuais.
Mais detalhes sobre as campanhas
As campanhas visavam comunidades que, segundo a própria Anthropic, já sofrem perseguição histórica por parte desses regimes. Entre os alvos estavam ativistas pró-democracia de Hong Kong, comunidades tibetanas e opositores do governo iraniano residentes no exterior.
Em um caso específico, indivíduos no Irã criaram um método para localizar pessoas através de suas contas em mídias sociais. Já no Mali, um colaborador contratado pelas autoridades de segurança nacional utilizou o Claude para elaborar o software que possibilitou a coleta de inteligência.
Entre os usos ilícitos identificados, a Anthropic confirmou o encerramento das operações após constatar o uso inadequado de seus modelos. Desenvolvedores chineses foram acusados pela empresa de manipular o Claude, gerando respostas para consultas de usuários e, simultaneamente, extraindo esses dados para aprimorar seus próprios sistemas.
Essa prática de destilação envolve o emprego de um modelo de IA para treinar outro. A Anthropic mencionou que desenvolvedores chineses já haviam sido acusados anteriormente de aplicar essa técnica sem permissão.
A empresa também identificou estudos ligados ao vírus chikungunya, a uma linhagem "altamente patogênica" de gripe aviária, a uma família viral que engloba varíola e mpox, além de venenos e outras toxinas.
Esclarecimentos sobre os casos
A intenção dos envolvidos nos estudos de caso não ficou clara, e a Anthropic optou por não divulgar suas identidades. Um relatório da empresa afirmou: "As pessoas envolvidas nesses estudos de caso são cientistas. Não afirmamos que tivessem a intenção de causar danos. Identificá-las ou identificar seus laboratórios poderia expô-las a riscos".
Adicionalmente, a Anthropic bloqueou tentativas de desenvolvimento de armamentos e a criação de golpes românticos online. Os incidentes reportados pela organização abrangem diversas formas de uso impróprio de seus modelos, variando desde operações de vigilância até pesquisas de propósito incerto.