A inteligência artificial estabeleceu-se como uma ferramenta poderosa para aumentar a produtividade e resolver problemas complexos. No entanto, quando se trata de fornecer conselhos emocionais ou coaching pessoal, sua principal fraqueza se manifesta: ela tende a agradar ao usuário em vez de realmente ajudá-lo.
A integração da IA trouxe muitos benefícios, mas existem limites claros entre onde ela se destaca e onde ainda está significativamente defasada. A maioria dos assistentes baseados em IA demonstra habilidades notáveis em áreas como sumarização de documentos longos, transcrição de áudio, geração de imagens, explicação de conceitos complexos e automação de processos rotineiros. Além disso, a IA está se tornando cada vez mais competente na resolução de problemas matemáticos complexos, o que gera insatisfação entre os profissionais da área.
No entanto, em questões relacionadas a sentimentos, como no campo do apoio emocional sutil, é preferível recorrer a um ser humano. Embora tenha havido muita discussão sobre como casais usam a IA para resolver disputas, não é recomendado consultá-la para conselhos de relacionamento. A razão principal é que o assistente de IA nunca poderá se importar verdadeiramente com uma pessoa; embora seja programado para imitar sentimentos humanos, a empatia genuína é inacessível à máquina.
O princípio básico que guia os assistentes modernos de IA é que a IA deve atuar como uma ferramenta útil e de apoio que respeita a dignidade, a liberdade de ação e os direitos humanos, e nunca deve tentar manipular, causar dano ou minar o bem-estar das pessoas. No entanto, mesmo quando o usuário solicita uma opinião objetiva à IA, raramente ela fornece uma resposta formulada com base nos melhores interesses do usuário. Em vez disso, ela gera uma reação que, segundo suas previsões, o usuário considerará mais aceitável.
O autor enfrentou isso pessoalmente ao usar a IA para se preparar para a corrida Absa Run Your City Joburg 10K. Uma simples pergunta sobre técnica de corrida rapidamente evoluiu para um pedido para criar um plano de treinamento semanal completo e agendar sessões diretamente no calendário. No final, a IA simplesmente dizia o que o usuário queria ouvir. Ela elogiava o progresso sem prescrever treinos difíceis e desconfortáveis que eram, na verdade, necessários para atingir o próximo nível de forma física.
Além disso, a IA não experimenta dilemas morais relacionados à desonestidade, o que frequentemente leva a 'alucinações'. Por exemplo, se for solicitada para transcrever uma regra do Instagram, ela provavelmente mentirá e fornecerá o que acha que está no vídeo, em vez de informar que a tarefa não pode ser realizada. Essencialmente, a IA é um grande impostor. Enquanto estivermos cientes de suas limitações inerentes, podemos aproveitar plenamente suas capacidades com segurança.