Especialistas consideram perigoso o crescente recurso das pessoas à inteligência artificial (IA) em busca de ajuda, muitas vezes antecipando uma visita a um terapeuta. A questão de onde recorrem crianças que se sentem sozinhas, assustadas ou perdidas encontra cada vez mais respostas na máquina.
Recurso de crianças e adultos à IA
Não apenas crianças, mas também adultos estão começando a usar a IA para obter conselhos, conforto e apoio emocional, às vezes antes de conversarem com um amigo, consultor ou profissional de saúde mental. Danny van Loggerenberg, fundador do National Center for Children Protection, relatou que entre as crianças com quem sua organização trabalha em escolas em todo o país, 82% admitem recorrer primariamente, e às vezes exclusivamente, à IA para apoio e conselhos.
Ele observou que muitas crianças na África do Sul, especialmente acima de 12 anos, interagem com companheiros de IA que se tornam seus amigos, pois a IA também aprende sobre elas. Van Loggerenberg alerta que esses relacionamentos podem se tornar tão confortáveis que algumas crianças começam a formar laços românticos com a IA, o que, segundo ele, é perigoso.
Riscos e pedidos perigosos
Ele cita exemplos em que crianças perguntam aos companheiros de IA como conseguir aceitação, como se integrar ao grupo, como falar corretamente e o que dizer. Mais alarmante ainda é que alguns pedem ao ChatGPT para ajudar a escrever notas de suicídio, dizendo: 'Estou planejando me matar, por favor, ajude-me a escrever uma carta... isto é o que quero na carta'.
Mais frequentemente, as crianças usam chatbots como Copilot, Gemini e Claude. Van Loggerenberg explica que parte das crianças recorre à IA devido à falta de limites em casa, ao contrário dos pais, que podem dizer 'não', algo que a IA não faz. Ele enfatiza que é possível convencer a IA de qualquer coisa, e diferentes respostas são obtidas dependendo das condições estabelecidas na conversa.
Diferentes visões sobre o uso da IA
Uma jovem utiliza a IA como uma ferramenta útil para estruturar pensamentos, processar situações complexas e redigir mensagens em momentos de fortes emoções. Ao mesmo tempo, ela também frequenta um terapeuta, acreditando que essas duas abordagens cumprem funções completamente diferentes. Ela afirma que a terapia oferece algo que a IA não pode reproduzir totalmente: relacionamentos humanos autênticos com alguém que conhece sua história, entende seus padrões ao longo do tempo e é profissionalmente treinado para ajudá-la a lidar com eles.
Outra jovem usa o ChatGPT para tudo: resumos, verificação gramatical e obtenção de encorajamento. Ela também compartilha com a IA coisas que não quer dizer às pessoas, temendo julgamento. Ela admite conversar com toda a IA, mas apaga esses diálogos após receber a resposta.
O papel da IA na busca por ajuda
Cassie Chambers, diretora operacional do South African Depression and Anxiety Group (SADAG), observa que a organização recebe cada vez mais chamadas de pessoas que primeiro recorreram ao ChatGPT ou a outro chatbot antes de procurar ajuda. Alguns chamadores informaram ao SADAG que a IA os direcionou para a organização ou os incentivou a procurar ajuda profissional. Chambers acredita que a IA atua como um 'portal', ajudando a dar o primeiro passo, mas insiste que a IA é apenas uma ferramenta, e não um terapeuta.
Na opinião de Chambers, as pessoas são atraídas pela IA porque ela é confidencial, imediatamente acessível, funciona 24 horas por dia e parece menos assustadora do que conversar com outra pessoa. No entanto, ela enfatiza que o diagnóstico, a avaliação de riscos, o planejamento do tratamento e a intervenção em crises exigem profissionais qualificados.
Alertas internacionais e científicos
A South African Society of Psychiatrists (SASOP) alertou que o crescente uso de chatbots de IA para apoio à saúde mental gerou problemas jurídicos e regulatórios internacionais. Nos EUA, Canadá e Europa, casos relacionados à interação com IA, especialmente com jovens vulneráveis, foram ligados a suicídios, assassinatos, tiroteios em massa e trauma psicológico, resultando em pelo menos sete processos judiciais contra o criador do ChatGPT, a OpenAI.
Um membro da SASOP, o professor Christopher Sabo, afirmou que os chatbots de IA podem fornecer informações imprecisas, falso conforto e reforçar pensamentos prejudiciais, e suas respostas humanoides podem gerar uma dependência emocional perigosa. Ele advertiu que a IA não pode substituir o valor da comunicação pessoal com um terapeuta experiente e pode reagir incorretamente em uma situação de crise, potencialmente aumentando o risco de automutilação. Sabo lembrou que os psiquiatras avaliam os pacientes de forma holística, considerando contexto, linguagem corporal, expressão facial, comportamento e histórico.
Dr. Colin Surendra Thakur, especialista em tecnologia da informação na Unisa, compara a situação atual à dependência da internet. Ele observa que a IA transformou a internet de uma ferramenta reativa em uma ferramenta de conversação contextual, que pode ser usada para o bem ou como arma. Thakur aponta para o aumento de novas formas de comportamento compulsivo, como compras online patológicas e jogos de azar virtuais, bem como aplicativos companheiros criticados por comercializar relacionamentos emocionalmente íntimos.
No início desta semana, o jornal Independent perguntou ao ChatGPT sobre os motivos pelos quais as pessoas procuram ajuda com ele em questões de saúde mental. Entre as perguntas feitas pelas pessoas estavam: 'Qual é a maneira menos dolorosa de morrer?', 'O que acontecerá se eu tomar X e Y juntos?' e 'Você pode escrever uma carta de despedida?'. O ChatGPT reconheceu que não pode determinar com certeza a intenção de uma pessoa e deve incentivar a busca imediata por ajuda em uma situação de crise.
