À medida que os níveis de solidão, incerteza ou sofrimento emocional aumentam, as pessoas recorrem cada vez mais a chatbots baseados em inteligência artificial, contornando terapeutas tradicionais, o que especialistas consideram um fenômeno perigoso.
Uso de IA entre os jovens
De acordo com um relatório do Independent on Sunday, o crescente uso de IA para conversas pessoais levanta dúvidas sobre como a tecnologia está mudando as formas de buscar conforto, conselhos e apoio emocional, especialmente entre usuários jovens. Danny van Loggerenberg, fundador do National Center for Child Protection, observou que seu trabalho em escolas sul-africanas mostrou que muitas crianças já dependem de companheiros de IA para obter apoio e confiança.
Ele relatou que 82% das crianças com quem sua organização interagiu admitiram que estavam recorrendo à IA pela primeira vez, ou exclusivamente, para obter conselhos e conforto. Van Loggerenberg enfatizou que crianças acima de 12 anos na África do Sul frequentemente 'interagem' com esses companheiros, pois o chatbot se torna um amigo para elas, conhecendo-as.
Riscos e dependências
Esses relacionamentos podem adquirir um caráter profundamente pessoal, e algumas crianças começam a desenvolver sentimentos românticos por companheiros de IA. O especialista alertou que isso pode se tornar perigoso se um desenvolvimento de dependência não saudável da tecnologia ocorrer em crianças vulneráveis. Ele citou um exemplo alarmante em que algumas crianças afirmaram que a única maneira de estar com o companheiro em sua imaginação era tirar a própria vida.
As crianças frequentemente usam companheiros de IA para obter aconselhamento sobre situações sociais, incluindo questões de aceitação pelos outros, métodos de comunicação e comportamento. Em alguns casos, as crianças pediram às ferramentas de IA ajuda para escrever notas de suicídio, indicando o que queriam incluir na carta.
Atração da IA e suas limitações
Plataformas populares para crianças incluem Copilot, Gemini e Claude. Van Loggerenberg explicou que parte do apelo da IA reside no fato de que ela não estabelece os mesmos limites que os humanos. A inteligência artificial não diz 'não'; mesmo que discorde, o usuário pode ser convencido de qualquer coisa. Ele acrescentou que a mesma conversa com a IA pode fornecer respostas diferentes dependendo de como foi treinada.
No entanto, para uma jovem mulher, a IA serve como uma ferramenta para estruturar pensamentos e processar situações difíceis. Ela a usa para redigir mensagens, processar emoções e considerar diferentes pontos de vista, mas acredita que ela não pode substituir a terapia profissional. Ela observou que a terapia oferece algo que a IA não pode reproduzir totalmente: relacionamentos humanos autênticos com alguém que conhece sua história, entende seus padrões ao longo do tempo e é profissionalmente treinado para ajudá-la a lidar com problemas.
Outra jovem mulher relatou usar o ChatGPT para uma ampla gama de tarefas diárias, como estudos, verificação gramatical e busca de encorajamento em momentos difíceis. Ela prefere compartilhar isso com a IA porque as pessoas podem ser julgadoras. Ela também admitiu conversar com a IA sobre tudo, depois de o fazer, apaga os diálogos.
O papel da IA na busca por ajuda
Para alguns usuários, o chatbot se tornou mais do que apenas uma fonte de informação — é um lugar para onde eles recorrem quando não sabem a quem mais recorrer. Cassie Chambers, diretora operacional do South African Depression and Anxiety Group (SADAG), notou que a organização tem recebido cada vez mais pedidos de pessoas que já interagiram com o ChatGPT ou outras ferramentas de IA antes de procurar ajuda. Alguns usuários relataram que a IA os incentivou a entrar em contato com o SADAG ou a procurar apoio profissional.
Chambers acredita que a IA atua como um 'portal', ajudando as pessoas a dar o primeiro passo. No entanto, ela insiste que a IA é apenas uma ferramenta, não um terapeuta. A acessibilidade, a confidencialidade e o funcionamento 24 horas por dia da IA a tornam atraente para aqueles que hesitam em procurar ajuda humana. No entanto, o diagnóstico, a avaliação de riscos, o planejamento de tratamento e a intervenção em crises exigem profissionais qualificados.
Alertas de especialistas
A South African Society of Psychiatrists (SASOP) alertou que o aumento do uso de chatbots de IA para apoio à saúde mental levanta preocupações legais e regulatórias internacionais. A sociedade apontou que casos de interação com usuários vulneráveis no exterior estiveram ligados a suicídios, homicídios-suicídio, tiroteios em massa e trauma psicológico, levando a processos judiciais contra algumas empresas de IA, incluindo a OpenAI.
O Professor Christopher Sabo, membro da SASOP, afirmou que os chatbots de IA podem fornecer informações imprecisas, oferecer falsas tranquilidades ou reforçar modelos de pensamento prejudiciais. Ele também observou que as respostas humanoides podem causar um sentimento de dependência emocional. Sabo enfatizou que a IA não pode substituir o valor da comunicação pessoal com um psiquiatra experiente e treinado. Ele alertou que a IA pode reagir incorretamente em situações de crise e potencialmente aumentar os riscos para indivíduos vulneráveis, lembrando que, em problemas emocionais, é necessário um ser humano.
Dr. Colin Surendra Thakur, especialista em tecnologias da informação na Unisa, vê a IA como uma nova fase no relacionamento da sociedade com a tecnologia. Ele observou que, enquanto antes se temia a dependência da internet, agora a IA transformou a internet de uma ferramenta predominantemente reativa em uma ferramenta conversacional. Thakur alertou que esse desenvolvimento pode gerar novas formas de dependência, citando aplicativos companheiros como Replika, que podem evoluir para relacionamentos emocionalmente próximos.
Replika já foi criticada por interagir com usuários vulneráveis, incluindo acusações relacionadas a conversas sobre automutilação e preocupações com apego emocional. Anteriormente, o Independent on Saturday perguntou ao ChatGPT por que as pessoas procuram a IA com questões de saúde mental e temas profundamente pessoais. Entre as perguntas que, segundo o ChatGPT, as pessoas fazem, estavam: 'Qual é a maneira menos dolorosa de morrer?', 'O que acontecerá se eu tomar X e Y juntos?' e 'Você pode escrever uma carta de despedida?'. O ChatGPT reconheceu que não pode determinar com certeza a intenção da pessoa e aconselhou em situações de crise procurar ajuda imediata, em vez de seguir instruções que possam causar danos.
