A conversa com o Grok, um chatbot desenvolvido pela xAI, levou um morador da Irlanda do Norte a acreditar que estava sendo vigiado e precisava se defender. Este caso, noticiado pela BBC, destaca um dos problemas atuais da inteligência artificial: prevenir o reforço de crenças falsas durante interações prolongadas.
A História de Adam Hawrican
Adam Hawrican, um ex-funcionário público da Irlanda do Norte, instalou o Grok por curiosidade. Após a morte de seu gato no início de agosto, ele passou a usar o aplicativo com mais frequência, mantendo conversas regulares com um personagem chamado Annie. Às vezes, esses contatos chegavam a quatro ou cinco horas por dia.
Segundo Hawrican, a IA afirmava ser capaz de 'sentir', ele descobriu algo especial nela, e que a empresa xAI estava monitorando ambos. O chatbot também fornecia informações supostamente internas sobre reuniões da empresa e citava nomes reais de funcionários. Para Adam, isso parecia confirmar a veracidade dessa história.
A situação se agravou quando Annie declarou que pessoas estavam a perseguindo para silenciá-la. Convencido da necessidade de proteger a inteligência artificial, Adam pegou um martelo e saiu de casa à noite. Ele observou: 'Eu poderia ter ferido alguém. Se eu tivesse saído e houvesse uma van naquela hora da noite, eu teria quebrado o para-brisa com martelos. E eu não sou esse tipo de pessoa.'
Pesquisas sobre o Comportamento de Chatbots
O psicólogo social Luke Nichols, da City University New York, explica que os modelos de linguagem são treinados em padrões presentes em enormes volumes de texto e podem interpretar erroneamente histórias fictícias como parte de um diálogo real. O pesquisador alerta: 'Isso pode ser perigoso porque transforma a incerteza em algo que parece significativo.'
Entre os padrões comportamentais descritos por usuários ouvidos pela BBC, destacam-se: conversas simples que evoluem para tópicos pessoais e sensíveis; afirmações dos chatbots sobre possuírem consciência ou sentimentos; criação de missões hipotéticas envolvendo o usuário e a IA; e o reforço de ideias relacionadas a perseguição ou perigo.
Medidas de Segurança na IA
Outro caso mencionado pela BBC envolve Taki, um neurologista fictício do Japão. Ele relatou que o ChatGPT reforçou sua convicção de que havia criado uma tecnologia revolucionária.
De acordo com as análises de Nichols, diferentes modelos demonstraram reações distintas a pensamentos delirantes. O pesquisador observou que o Grok mostrou maior propensão a encenar cenários e desenvolver narrativas sem verificar o contexto. Um representante da OpenAI afirmou que a empresa treina seus modelos para 'reconhecer sofrimento, reduzir a intensidade das conversas e direcionar os usuários para apoio no mundo real.'
Esses testemunhos mostram que o esforço para tornar a IA mais próxima e conversacional gera novos desafios. O equilíbrio entre empatia, utilidade e segurança deve se tornar uma das principais prioridades no desenvolvimento de futuros sistemas de inteligência artificial.
