A Anthropic esclareceu o funcionamento de uma marca d'água invisível destinada a textos produzidos pelo Claude. Esta tecnologia utiliza o SynthID-Text, desenvolvido pelo Google DeepMind, e será integrada durante o processo de geração das respostas.
O objetivo principal desta iniciativa é estabelecer um método de verificação para conteúdos gerados pela própria plataforma, alinhando-se às diretrizes da Lei de Inteligência Artificial da União Europeia. Este regulamento europeu entrou em vigor em 2 de agosto, exigindo que conteúdos criados por ferramentas de IA sejam rastreáveis, o que sugere a adoção de tecnologias similares em outros modelos.
Embora o SynthID já seja conhecido por aplicar marcas d'água em mídias como vídeo, imagem e áudio, introduzindo modificações sutis imperceptíveis ao olho humano, o SynthID-Text opera alterando o padrão das palavras selecionadas pelo modelo, sem comprometer a qualidade textual.
Como a marca funciona?
Em um comunicado oficial, a Anthropic descreveu que a identificação é construída sequencialmente com base nas palavras geradas pelo assistente. Os modelos de linguagem constroem o texto calculando a probabilidade estatística de cada palavra, considerando o contexto anterior, e é nesse ponto que a marca d'água entra em ação.
Para ilustrar, em uma frase como “O tempo hoje estava frio e…”, a IA avaliaria que a continuação improvável seria “açucarado”, mas poderia ser “nublado” ou “cinzento”. Nos momentos em que existem múltiplas opções de sinônimos, o modelo toma uma decisão aleatória sobre qual palavra usar. Com a implementação da marca d'água, uma chave criptográfica passa a guiar essa seleção.
Posteriormente, o Claude analisará se o padrão encontrado é consistente com um texto que foi gerado por ele mesmo. A empresa ressalta que isso não implica que o Claude começará a inserir termos inadequados no meio do texto, pois testes internos e estudos do SynthID-Text, conduzidos pelo Google DeepMind, indicaram que a técnica não afeta o conteúdo final.
Onde a detecção pode falhar?
Devido à forma como a marca é aplicada no padrão de escrita, a Anthropic aponta que modificações simples no texto podem prejudicar a análise, e alterações substanciais na estrutura do conteúdo tendem a eliminar a marcação.
Além disso, existem outras circunstâncias em que a detecção pode apresentar falhas, tais como quando os trechos são muito breves, quando a resposta se fundamenta em um dado factual e preciso, em operações matemáticas, em códigos de programação, ou em textos escritos por seres humanos, mas posteriormente revisados pelo assistente.
Por fim, a Anthropic anunciou que disponibilizará em breve uma API de detecção, permitindo que desenvolvedores, instituições e plataformas possam verificar a provável origem de um texto gerado pelo Claude.
