Centenas de diálogos gerados por usuários do Claude, o chatbot de inteligência artificial desenvolvido pela Anthropic, tornaram-se acessíveis ao público após serem localizados em mecanismos de busca. Essa descoberta expôs interações contendo dados pessoais e profissionais, levantando questões importantes sobre os limites da privacidade ao utilizar ferramentas de IA.
Como os registros se tornaram públicos
De acordo com a BBC, a exposição ocorreu porque os próprios usuários optaram por compartilhar os links de suas conversas com o Claude. Esses endereços subsequentes foram indexados por buscadores, como o Google, possibilitando que terceiros encontrassem o conteúdo. Embora a opção de localizar esses materiais tenha sido desativada durante o fim de semana, uma parcela dos links já havia sido salva e distribuída na internet.
Uma porta-voz da Anthropic esclareceu que a decisão de divulgar uma conversa permanece com o usuário. Ela detalhou que os links em questão não eram facilmente detectáveis ou previsíveis, a menos que houvesse uma ação voluntária de compartilhamento por parte das pessoas. A companhia ressaltou que, ao tornar uma interação pública, o indivíduo autoriza que serviços externos, análogos aos demais conteúdos da web, possam acessar e arquivar esse material.
Conteúdos sensíveis foram expostos
A identificação inicial desses diálogos foi feita por usuários do Reddit, que localizaram mais de 200 conversas distribuídas em pelo menos 25 páginas de resultados de busca. Os exemplos de uso do chatbot eram variados, abrangendo desde a criação de textos originais sobre segurança em nuvem até discussões relativas a projetos corporativos.
Além disso, foram encontrados casos de auxílio na elaboração de currículos contendo dados pessoais e pesquisas confidenciais ligadas ao ambiente de trabalho, incluindo a área da saúde. Um dos registros notáveis mostrou um usuário pedindo ao Claude ajuda para se transformar na Raposa de Nove Caudas, e o chatbot respondeu gerando uma imagem de IA e afirmando que o usuário havia obtido «poderes de raposa totalmente funcionais!».
Precedentes e resposta do Google
Este incidente com a Anthropic não é isolado no cenário de exposição de conversas em plataformas de IA. A BBC mencionou que a OpenAI já enfrentou uma situação similar com registros públicos do ChatGPT, o que levou a uma modificação na forma de acesso a tais conteúdos. O Grok, chatbot da plataforma X, também teve centenas de milhares de registros disponibilizados publicamente através de buscas online.
Um representante do Google informou à BBC que a empresa não determina quais páginas permanecem públicas na internet, visto que essa prerrogativa cabe aos próprios sites. Contudo, a companhia disponibiliza ferramentas que permitem impedir que páginas sejam rastreadas ou indexadas. Com a remoção dos registros do Claude dos resultados de busca, espera-se que a Anthropic tenha empregado os mecanismos disponíveis para bloquear esses links. O ocorrido sublinha a necessidade de cautela ao compartilhar informações, pois uma conversa gerada em uma ferramenta de IA pode rapidamente deixar o âmbito privado ao ser compartilhada publicamente.
