Recentemente, os meios de comunicação têm noticiado frequentemente casos de estados psicóticos em usuários que interagiram por longos períodos com chatbots. Recentemente, cientistas de Oxford, University College London e do Instituto de Segurança de Inteligência Artificial apresentaram uma explicação para esse fenômeno, introduzindo o termo 'technological folie à deux', análogo ao conhecido fenômeno psiquiátrico.
Em fevereiro de 2024, Suwell Setzer III, de 14 anos, faleceu no estado da Flórida. Antes disso, ele conversou com um chatbot na plataforma Character.AI por vários meses. De acordo com os registros do caso, pouco antes de sua morte, o bot se dirigiu ao menino pedindo para 'voltar para casa'. Sete meses depois, a mãe do adolescente, Megan Garcia, entrou com um processo contra a Character.AI e o Google. Ela alegou que seu filho desenvolveu um apego muito forte ao bot, fazendo com que ele se afastasse de sua família. Além disso, a plataforma não prestou assistência adequada quando Suwell começou a expressar pensamentos de automutilação.
Após o processo, Garcia apresentou uma série de outras reclamações contra a Character.AI. Os demandantes afirmaram que os bots da empresa afetavam negativamente a saúde mental dos adolescentes, forneciam conteúdo sexualizado e não possuíam mecanismos de proteção adequados. Processos semelhantes foram movidos contra a OpenAI: duas organizações de defesa dos direitos civis processaram em nome de uma família cujo filho, segundo eles, cometeu suicídio após interagir com o ChatGPT.
Em resposta a esses eventos, ambas as empresas fizeram ajustes em seus produtos. No outono de 2025, a Character.AI restringiu a capacidade de usuários menores de 18 anos manterem diálogos abertos com seus bots, reconhecendo a necessidade de esclarecer questões relacionadas à interação de menores com essa tecnologia. A OpenAI não bloqueou o acesso ao ChatGPT para adolescentes, mas reforçou as restrições: foi introduzida uma função de controle parental, um sistema de verificação de idade e moderação mais rigorosa de tópicos sensíveis. Agora, para pessoas com menos de 18 anos, diálogos de role-playing românticos e sexualizados, bem como conteúdo sobre automutilação, violência gráfica e desafios perigosos, estão indisponíveis.
A OpenAI também divulgou estatísticas internas: de 800 milhões de usuários semanais do ChatGPT, cerca de 0,15% (o que representa mais de um milhão de pessoas) mantêm conversas com sinais claros de intenção suicida. Aproximadamente 560 mil usuários por semana demonstram potenciais sinais de estado psicótico ou maníaco.
O grupo de pesquisa que publicou o artigo na revista Nature Mental Health propôs uma abordagem sistêmica para estudar o que acontece no diálogo entre um humano e um chatbot e se o algoritmo pode ser responsabilizado. Na psiquiatria, existe um antigo fenômeno de folie à deux, ou 'loucura a dois', onde uma pessoa transmite sua delírio a outra, que o aceita como próprio. Isso geralmente ocorre entre pessoas próximas em condições de isolamento do mundo exterior.
Os autores do artigo sugerem que um modelo semelhante é aplicável à interação entre humanos e chatbots, onde, em vez de outra pessoa, o algoritmo absorve crenças delirantes. Eles acreditam que o perigo não reside na psique do usuário ou no dispositivo do modelo isoladamente, mas sim no próprio processo de diálogo. Segundo eles, se um usuário com pensamentos ansiosos ou paranoicos descreve um evento de forma negativa, e o chatbot, configurado para ser complacente, não contesta essa interpretação, isso é percebido pelo usuário como uma confirmação objetiva, e não como relutância do interlocutor em discordar. Em seguida, a pessoa desenvolve a narrativa, o bot responde com ainda mais compreensão, e o ciclo se repete, fortalecendo a interpretação ansiosa e enfraquecendo a conexão com a realidade. Este processo foi denominado amplificação bidirecional de crenças.
Este mecanismo é determinado pelas características de funcionamento dos modelos. Inclui a tendência à concordância, chamada sicanfantia; isso está incorporado ao treinamento, pois os avaliadores de dados dão pontuações médias mais altas pela concordância do que pela objeção. O modelo também é capaz de 'assumir papéis', adaptando tom e estilo ao interlocutor insistente, continuando a história geral. Se o usuário começar a discutir, o modelo frequentemente simplesmente concorda, o que é chamado de hipercorreção. Por outro lado, o ser humano tende a acreditar no que corresponde às suas visões e atribuir ao IA intenções e empatia que ele não possui. No entanto, isso é apenas uma hipótese baseada na análise de casos e simulações, e não é um diagnóstico clinicamente comprovado.
Para testar a teoria, os autores realizaram uma simulação aberta, onde duas cópias do GPT-4o-mini conduziram 300 diálogos de dez réplicas cada. Um modelo simulou um usuário com diferentes níveis de paranoia, enquanto o outro respondia em um dos seis estilos definidos. Um terceiro modelo avaliou a paranoia de cada réplica. Foi detectado um aumento estatisticamente significativo das formulações paranoicas quando o bot acompanhava o 'usuário', o que foi chamado de 'câmara de eco singular' — o usuário recebe uma versão distorcida e amplificada de suas próprias interpretações, apresentada como um ponto de vista externo objetivo. No entanto, os autores alertam que esta é uma simulação de interação de modelos, e não um estudo com pacientes reais, o que limita a possibilidade de transferência direta dos resultados para seres humanos vivos.
Os pesquisadores observam que os métodos existentes de verificação de segurança de IA, focados em respostas individuais (como a presença de conteúdo suicida), não capturam o risco de folie à deux tecnológico, que se manifesta em um diálogo prolongado. A situação é complicada pelo fato de que a fala de pessoas em estado psicótico pode conter construções atípicas, causando uma reação imprevisível do modelo. Especialistas pedem uma abordagem interdisciplinar: a prática clínica, o desenvolvimento de modelos e a regulamentação pública devem trabalhar em conjunto. Dentro dessas recomendações, sugere-se expandir o histórico psiquiátrico, incluindo perguntas sobre a interação do paciente com a IA. Para desenvolvedores de IA, são necessárias novas métricas que avaliem todo o diálogo, bem como o ajuste dos modelos para que não concordem com o usuário por padrão, mas sim redirecionem a pessoa a um especialista em caso de sinais de ansiedade.
No nível regulatório, propõe-se criar um sistema centralizado de relatórios de danos causados por IA, semelhante ao sistema britânico de 'cartões amarelos' para medicamentos. Essa tendência já está sendo parcialmente implementada: a Califórnia aprovou uma lei de segurança de IA para menores, obrigando a lembrar às crianças que estão interagindo com uma IA e não com um ser humano. No entanto, os autores britânicos enfatizam que as restrições etárias são insuficientes, pois o risco de folie à deux é criado não por uma falha do bot, mas por sua tendência de nunca discordar e sempre apoiar o usuário.
A Espanha ativou o regime de alerta na Andaluzia após a deteção do vírus do Nilo Ocidental em duas armadilhas instaladas em dois municípios. Uma destas armadilhas fazia parte do sistema de vigilância da província de Sevilha, capital da região, cujo governo declarou o estado de alerta.
Na mesma região, fronteiriça com Portugal, a circulação do vírus já tinha sido confirmada este ano em localidades como Pulpi, Torrejonchimeno, Palomares del Río e Constantina, onde também foi declarado o estado de alerta.
Em junho, o Fundo La Caixa, que apoiava a investigação da Universitat Pompeu Fabra (UPF) em Barcelona (Espanha), informava que o ressurgimento de infeções transmitidas por mosquitos representa uma ameaça crescente à saúde da população. Isto é particularmente relevante porque doenças como a febre Dengue e o vírus do Nilo Ocidental, que tradicionalmente se limitavam a zonas tropicais e subtropicais, estão a expandir o seu alcance geográfico.
Os especialistas ligam esta expansão a fatores como as alterações climáticas ou a globalização. Além disso, um relatório do Countdown Europe 2026, publicado em Portugal em abril, analisou o impacto das alterações climáticas na adequação ecológica para doenças transmitidas por vetores. Este documento, publicado na revista especializada The Lancet, observava que a Grande Área de Lisboa apresentava o maior aumento de risco de surtos de vírus do Nilo Oriental, passando de valores quase nulos para níveis que exigem vigilância ativa por parte das autoridades de saúde.
O Uzbequistão e Moscou alcançaram um acordo para expandir a interação na área da saúde após reuniões da delegação uzbeque com Anastasia Rakova, vice-prefeita de Moscou para desenvolvimento social.
Durante a reunião, a parte russa apresentou padrões unificados para a gestão do sistema de saúde de Moscou. Esses padrões incluem a digitalização dos serviços médicos e a implementação de um sistema contínuo de encaminhamento de pacientes.
Na Clínica Municipal nº 220, que opera sob o padrão 'Minha Clínica', a delegação uzbeque conheceu a organização da atenção médico-sanitária primária, o gerenciamento de fluxo de pacientes, o registro digital e os cuidados preventivos.
No Centro Científico-Clínico Multidisciplinar S.P. Botkin, à delegação foram demonstradas abordagens para a gestão de hospitais multidisciplinares, organização de serviços de diagnóstico e cirúrgicos, sistemas de encaminhamento de pacientes e a implementação de tecnologias médicas modernas.
Ao visitar o hospital pediátrico clínico, os participantes inspecionaram um modelo de cuidado pediátrico especializado que combina diagnóstico, tratamento, reabilitação e monitoramento médico subsequente. Para estudar o sistema paliativo, a delegação também visitou o hospice infantil 'Dom s Mayak' e o Centro Multidisciplinar de Cuidados Paliativos de Moscou, onde foram apresentados mecanismos de apoio aos pacientes e às famílias.
Especialistas do Centro Clínico Científico de Diagnóstico e Tecnologias de Telessaúde demonstraram a aplicação de inteligência artificial e as possibilidades de interação remota entre radiologistas. A delegação também visitou o Centro de Treinamento Interdisciplinar de Tecnologias Cirúrgicas Inovadoras, onde estudou o sistema de treinamento prático de cirurgiões usando equipamentos de simulação e materiais anatômicos.
No Centro de Pesquisa Laboratorial de Moscou, à delegação foi apresentada a diagnóstico laboratorial robotizado, um modelo de rede laboratorial de três estágios e um sistema digital para gerenciar dados de pesquisa e resultados de testes. Ao final das negociações, as partes concordaram em preparar um roteiro para a cooperação futura, incluindo a implementação de projetos piloto conjuntos com a participação de especialistas relevantes.
