Pouco tempo depois que a Anthropic divulgou o funcionamento da marca d'água invisível destinada a acompanhar textos produzidos e modificados pelo Claude, desenvolvedores começaram a disponibilizar ferramentas que alegadamente conseguem enfraquecer ou eliminar essa sinalização.
O primeiro código foi desenvolvido pelo programador Guillaume Meyer e ganhou rápida popularidade, acumulando mais de cem mil contribuições no GitHub. Meyer declarou na plataforma X que criou o removedor apenas como um experimento e que seu objetivo não é combater a identificação de conteúdo, mas sim a própria metodologia da marca d'água.
Este mecanismo de detecção do Claude está sendo implementado em consonância com a Lei de Inteligência Artificial da União Europeia, que estabeleceu a obrigatoriedade de sinalizar conteúdos gerados por inteligência artificial. Atualmente, aproximadamente cento e noventa organizações já aderiram ao código de conduta, e espera-se que a marcação textual se torne um padrão no setor até o final deste ano.
A marca d'água da Anthropic opera através de um padrão estatístico estabelecido durante o processo de seleção de palavras. Quando o Claude precisa escolher entre termos sinônimos, o sistema utiliza uma chave para direcionar parte dessas decisões, criando assim uma assinatura passível de detecção.
A própria companhia enfatizou que modificações, mesmo que mínimas, têm o potencial de enfraquecer essa marca. É nesse ponto que a ferramenta de Meyer se concentra: o texto é reescrito, inclusive múltiplas vezes, utilizando outro modelo de linguagem que não emprega a mesma marcação.
Diversos outros métodos surgiram rapidamente, seguindo processos semelhantes, todos baseados em alterações de sinônimos e na reorganização das frases. Visto que a detecção depende de um padrão específico, tais ajustes podem ser suficientes para diminuir a probabilidade de o texto ser classificado como sintético, o que poderia ser alcançado com uma simples revisão humana.
A tecnologia utilizada pela Anthropic fundamenta-se no SynthID-Text, um método que foi publicado pelo Google DeepMind há dois anos. Este sistema atua nas chamadas 'escolhas de baixo risco': quando duas palavras possuem significado similar em uma frase, a IA seleciona uma delas seguindo uma regra pré-definida. A intenção é manter o texto natural para o leitor, enquanto a sequência pode ser identificada por quem possui a chave de verificação.
A Anthropic esclarece que sua verificação indica uma probabilidade e não consegue distinguir com exatidão se um texto foi totalmente gerado por IA ou apenas editado pelo modelo. Contudo, são justamente os potenciais 'falsos positivos' desse tipo de sistema que causam apreensão entre desenvolvedores e certos profissionais.
Existe o temor de que instituições de ensino, universidades, recrutadores ou clientes passem a utilizar detectores como critério factual de avaliação, o que poderia prejudicar indivíduos que utilizam IA para tarefas específicas ou que simplesmente não a utilizam.
Por parte dos usuários, outra crítica levantada é que a implementação dessa tecnologia possa reduzir a qualidade geral do conteúdo produzido pelo Claude, visto que o resultado precisará aderir a esse padrão de marcação. Em sua descrição da nova tecnologia, a Anthropic assegura que testes internos não indicaram qualquer declínio na qualidade.