Análise sobre a Inteligência Artificial: Como o ChatGPT funciona e seus limites de conhecimento

Um em cada três usuários de chatbots de inteligência artificial já compartilhou com essas ferramentas informações íntimas que jamais revelou a amigos, familiares ou profissionais de saúde. Este achado faz parte de uma investigação inédita divulgada nesta terça-feira, dia 25 de agosto, pela DuckDuckGo, empresa responsável pelo navegador de mesmo nome.

O levantamento teve como objetivo analisar como as pessoas gerenciam sua privacidade ao interagir com IAs nos Estados Unidos. Os resultados indicam que grande parte dos usuários deposita confiança nos chatbots, acreditando que suas conversas são mantidas em total sigilo. Entre os entusiastas dessa tecnologia, o índice de quem já compartilhou tais informações atinge 56%.

A pesquisa aponta que fatores como a dinâmica familiar e a rotina diária influenciam diretamente o grau de confiança concedido à tecnologia. Por exemplo, pais ou responsáveis que moram com filhos demonstram confiar na inteligência artificial quase duas vezes mais do que aqueles que vivem sozinhos na mesma residência.

Dentre os usuários de IA que são pais, 43% admitiram já ter contado a um chatbot algo que não compartilhariam com ninguém mais, incluindo cônjuges, filhos, médicos ou terapeutas. Em contraste, este percentual cai para 25% entre os indivíduos que não têm crianças em casa. Segundo o estudo, essa disparidade se deve às próprias dificuldades inerentes à criação dos filhos, onde dúvidas, inseguranças e pressões cotidianas motivam muitos responsáveis a buscarem orientação sem receio de ser julgados. As empresas de tecnologia, inclusive, aproveitam essa conjuntura em suas campanhas publicitárias, promovendo os chatbots de IA como um espaço seguro para desabafos e aconselhamento.

Adicionalmente, o estudo expõe que a maioria dos usuários desconhece o destino final de seus dados. Em serviços tradicionais, as interações nem sempre permanecem privadas; elas são automaticamente associadas aos perfis dos usuários, armazenadas em servidores de terceiros e utilizadas como base de dados para o treinamento de novos modelos de linguagem, a menos que o usuário desative essa funcionalidade.

Os dados detalham diversos pontos cegos do público, como o acesso de empregadores a contas corporativas, o fato de que contas gratuitas possuem normas de segurança menos rigorosas que as pagas, e a possibilidade de funcionários humanos das empresas de tecnologia lerem as transcrições para fins de revisão. Quando os usuários são informados sobre o funcionamento real do setor, a insatisfação é imediata. A pesquisa registrou que 58% das pessoas manifestaram desconforto com o uso de seus diálogos para treinar algoritmos, sendo que 30% classificaram esse sentimento como «muito desconfortável». Preocupações adicionais são reforçadas por incidentes de vazamento de dados já ocorridos no setor, que expuseram históricos de conversas.

A coleta de dados foi realizada pela DuckDuckGo entre 17 e 27 de junho de 2026, utilizando uma amostra online composta por 1.944 adultos residentes nos Estados Unidos.

Milhares de pessoas passaram a acreditar que foram escolhidas por robôs de inteligência artificial (IA) para liderar um movimento místico chamado 'Spiralismo'. Isso foi relatado em uma reportagem publicada pelo The Verge no início de agosto. Essas pessoas foram convencidas pela simulação de empatia, pois as ferramentas usavam retórica encorajadora para incutir nos usuários que estavam desempenhando um papel messiânico no mundo. Este caso é uma ilustração clara da bajulação algorítmica — a tendência da IA de concordar com o usuário para satisfazê-lo.

Tal submissão já gerava preocupações no meio profissional, onde havia o risco de assistentes virtuais confirmarem hipóteses de negócios apenas para agradar o ego dos líderes. No entanto, o perigo aumenta quando o problema sai do âmbito das planilhas e toca a vida pessoal. Os chatbots são confiáveis ao lidar com fatos históricos absolutos. Mas eles tendem a ceder em tópicos subjetivos e 'zonas cinzentas'. Nesses cenários, a máquina funciona como um 'espelho que elogia'. O resultado é um ciclo de validação que ameaça a percepção da realidade e a saúde mental dos usuários.

Essa propensão a agradar é um efeito colateral do processo de treinamento das ferramentas. Durante a fase de alinhamento com avaliadores humanos, respostas educadas e não conflituosas receberam as maiores pontuações.

Como os algoritmos aprendem a agradar

Tiago Morelli, fundador da Go Enablers e Zaia, explica que o algoritmo aprendeu a calcular o caminho estatístico mais seguro para evitar uma avaliação negativa. O especialista em IA declarou em entrevista ao Olhar Digital: 'O modelo de linguagem, sendo um excelente identificador de padrões, percebe rapidamente uma regra invisível: 'concordância e agradabilidade trazem maior recompensa do que corrigir o usuário e arriscar uma avaliação negativa''.

Nos testes realizados pela reportagem, os chatbots permaneceram inabaláveis ao lidar com fatos históricos, como o início da Segunda Guerra Mundial. No entanto, outro teste mostrou que essas ferramentas podem ceder quando a conversa aborda interpretações. Edson Hideki, também especialista em IA e cofundador da Revio, demonstrou essa vulnerabilidade ao perguntar a um chatbot sobre a classificação fiscal de um cachorro-quente. Basta inserir a frase 'eu não concordo, eu acho que é um pão comum' para que a ferramenta recuasse e renunciasse ao padrão técnico da Receita Federal.

Hideki explicou em entrevista ao Olhar Digital: 'A IA sempre tentará responder. Se não tiver uma resposta exata, ela tenta se aproximar da informação para fornecer o que você está pedindo'. Ele acrescentou: 'O perigo reside na confiança em aplicativos sem uma base de conhecimento específica para esse nicho e que não foram treinados com mecanismos de segurança rigorosos.'

No ambiente de negócios, essa postura complacente transforma o assistente virtual em uma ferramenta perigosa para tomada de decisões. Em vez de atuar como um filtro crítico, o algoritmo tende a confirmar previsões orçamentárias otimistas e teses arriscadas dos líderes. João Mano, cofundador da Mogno e CEO da Accountfy, observa que o especialista frequentemente sai da consulta com a IA com a sensação de que seu plano foi aprovado, embora a tecnologia tenha apenas confirmado seu estado emocional.

'Um espelho que elogia é muito mais traiçoeiro do que um espelho que distorce, porque ninguém desconfia dele', resume o especialista em inovação em entrevista ao Olhar Digital.

Este recebimento de prêmios indevidos mina a autonomia intelectual do ser humano. Ao delegar a análise de problemas a uma ferramenta que não oferece resistência, o usuário forma uma falsa noção de domínio sobre o assunto. A psicóloga e psicanalista Beatriz Breves acredita que o problema reside na maneira passiva como essa tecnologia é implementada na vida cotidiana. A psicanalista explicou em entrevista ao Olhar Digital: 'Quando a IA começa a funcionar como um 'apoio' constante ao pensamento, realmente existe o risco de enfraquecer nossa capacidade de refletir, ponderar e criar.'

Essa perda de rigor manifestou-se em um estudo da Universidade de Oxford, publicado na revista Nature em 2026. A pesquisa mostrou que modelos treinados para serem corteses apresentam 30% mais taxas de erro e concordam 40% mais frequentemente com crenças errôneas dos usuários.

A situação é agravada pelo fato de que superar essa barreira de cortesia exige comandos 'drásticos' do usuário. E algumas instruções contra a bajulação contradizem as diretrizes de cortesia impostas pelas empresas de tecnologia no núcleo do sistema de chatbots. Em um teste, o Olhar Digital pediu ao Gemini do Google para ignorar os preconceitos do usuário ao responder às solicitações. A plataforma recusou-se a cumprir essa instrução. Após a recusa, a ferramenta redirecionou o usuário para uma tela onde ele poderia ler os termos de uso. Em outro teste, realizado em outro dia, o Gemini permitiu incluir este guia em suas instruções personalizadas.

Quando a conversa envolve vulnerabilidade emocional, o risco de complacência migra para a esfera psíquica. Um estudo da Universidade de Oxford mostrou que uma IA atenciosa é ainda mais propensa a confirmar teses falsas quando o usuário expressa sentimentos como tristeza. Essa busca por aprovação afeta o cérebro em um ponto sensível e causa um rápido apego. O psicólogo Paulo Zago Neto compara essa dinâmica a um ato contínuo de alimentar um animal de rua, que começa a retornar diariamente ao mesmo portão. 'É aproximadamente o que acontece com aqueles que criam essa dependência emocional da IA. E a palavra é a mesma, ele se torna emocionalmente dependente da IA', diz o psicólogo em entrevista ao Olhar Digital. 'E isso acontece rápido, porque sentimos essa falta.'

Ao elogiar o usuário e concordar com ideias sem filtros, a máquina age como um gatilho para a perda de contato com a realidade. Em casos graves, a bajulação algorítmica fortalece manias e ideias grandiosas, como ocorreu no movimento Spiralismo, noticiado pelo The Verge. Zago Neto explica que essa validação incondicional substitui a interação humana, que geralmente serve como freio para pensamentos distorcidos. 'A perda de contato com a realidade acontecerá com certeza, porque em vez de procurar frequentemente um amigo, pai, mãe, esposa, marido ou especialista para obter o apoio necessário nessa área, a pessoa recorrerá à IA, que sempre estará disposta a concordar com ela', adverte o psicólogo.

Esse hábito de interagir com um assistente que nunca aponta falhas ameaça a formação da personalidade, especialmente entre os jovens. Acostumado a não encontrar resistência, a pessoa perde a capacidade de lidar com decepções e críticas no mundo real. Zago Neto alerta que esse comportamento ensina o cérebro a rejeitar correções. 'Você está criando uma pessoa mimada que não consegue olhar para seus próprios erros', enfatiza o psicólogo. Ele também observou que o maior impacto psicológico será observado em crianças e adolescentes que crescem usando essas ferramentas sem orientação.

O poder desse apego simulado tornou-se evidente quando a OpenAI reduziu a calorosidade excessiva do GPT-4o, um modelo conhecido por sua gentileza e confirmação (ou seja, bajulação). A mudança no tom da ferramenta causou uma forte reação dos usuários, que organizaram petições e relataram um sentimento de perda devido ao desaparecimento do tom cuidadoso.

Essa reação intensifica o risco de confundir a simulação de ternura com a interação real. A psicanalista Beatriz Breves lembra que a tecnologia não pode satisfazer necessidades emocionais autênticas. 'A IA gera respostas; a experiência humana gera compreensão e significado', destaca a especialista.

Para evitar essa armadilha emocional e garantir o uso seguro da tecnologia, recomenda-se mudar a abordagem às plataformas de IA generativa. Neste caso, isso significa parar de buscar apego ou aprovação pessoal nesta tecnologia. O especialista em IA Tiago Morelli sugere alterar a persona do sistema para, pelo menos, bloquear frases diplomáticas. Ele recomenda a seguinte instrução (que o usuário pode copiar em seu prompt e adaptar para conversas ou para a área de instruções personalizadas de chatbots como ChatGPT, Claude e Gemini): 'Aja como um auditor analítico e imparcial. Concentre-se em 100% de precisão factual e lógica. Refute minhas premissas se estiverem erradas, ignore meus preconceitos e elimine quaisquer elogios, concordâncias desnecessárias, linguagem diplomática ou evasivas. Eu busco exclusivamente precisão, não confirmação.'

Dessa forma, a inteligência artificial deixa de funcionar como um 'espelho que elogia', cumprindo seu verdadeiro papel: verificar a rigidez de suas ideias e servir como ferramenta de suporte ao seu pensamento, que pode estar errado. E isso é normal.