Empresas de tecnologia estão recorrendo a diversas religiões e a líderes espirituais com o objetivo de discutir e estabelecer diretrizes para o comportamento de sistemas de inteligência artificial (IA). Essa abordagem visa garantir que os chatbots possam tomar decisões responsáveis, reconhecer dilemas morais e evitar fornecer respostas prejudiciais.
Este movimento suscita uma questão fundamental: como integrar variados valores e crenças humanas nas regras que governam as respostas dos sistemas de IA? O interesse neste tópico cresce em paralelo aos debates sobre os riscos inerentes ao avanço desses modelos tecnológicos.
As corporações precisam estabelecer limites operacionais bem definidos, indo além do mero desenvolvimento de softwares cada vez mais sofisticados. Neste cenário, a religião pode oferecer reflexões cruciais sobre temas como justiça, dignidade humana e responsabilidade.
Roberto ‘Pena’ Spinelli, físico formado pela Universidade de São Paulo (USP) e especialista em Machine Learning pela Universidade de Stanford, comentou sobre o grande poder de influência dessas plataformas durante o programa Olhar Digital News. Ele salientou que, como os modelos operam dentro dos lares das pessoas, eles recomendam, falam, sugerem e argumentam, e que nenhum modelo é neutro. Tudo possui um viés, determinado por quem o criou, como foi treinado e quais dados foram inseridos.
Uma reportagem da ABC News informou que algumas empresas pretendem coletar contribuições de múltiplas tradições religiosas, juntamente com visões seculares.
A Anthropic, desenvolvedora do chatbot Claude, relatou ter realizado encontros com acadêmicos e líderes de mais de quinze grupos religiosos. Nesses encontros, a empresa apresenta seus modelos e debate questões levantadas pela tecnologia, abrangendo tópicos como limites de uso infantil, educação e conceitos filosóficos acerca da natureza humana.
Outras grandes empresas demonstraram grande interesse no assunto. Representantes da Meta, Google e Amazon estiveram recentemente reunidos com o Vaticano. Já a Microsoft expandiu sua colaboração com comunidades religiosas globais para discutir diretrizes. Tais ações demonstram que moldar o comportamento da IA transcende a esfera técnica, envolvendo valores, diferenças culturais e responsabilidades sociais.
Pena afirmou que, em última análise, esses modelos constroem sua própria moralidade, seguindo ou não um código de ética estabelecido pela empresa. Ele observou que, por vezes, a imposição de um código pela companhia não é seguida pelo modelo devido a outros problemas. Segundo ele, a decisão sobre os valores que a empresa deve incorporar não deveria ser exclusiva dela, pois trata-se de um poder imenso; essa escolha deveria pertencer à humanidade.
Contudo, a inclusão de valores religiosos nos sistemas de IA encontra obstáculos. Os princípios de cada tradição estão intrinsecamente ligados a contextos culturais, históricos e comunitários, e removê-los pode distorcer seus significados. Ademais, diferentes religiões, ou até correntes dentro da mesma fé, podem apresentar respostas conflitantes para uma mesma situação social.
Isso torna difícil consolidar essas perspectivas em um único conjunto de regras, o que poderia apagar distinções importantes e resultar em orientações genéricas que não representam adequadamente nenhuma das tradições envolvidas.
Parte do desafio reside no funcionamento dos grandes modelos de linguagem, que aprendem padrões a partir de vastos volumes de textos gerados por humanos. Embora esse reconhecimento de padrões permita gerar respostas baseadas nas relações identificadas durante o treinamento, ele não equivale a uma compreensão profunda de uma crença nem prova que os sistemas possuam consciência moral ou entendam valores como um ser humano.
Pena questionou a viabilidade de criar uma média dos valores humanos. Ele mencionou que a Anthropic consultou quinze religiões e que a OpenAI também busca algo nesse sentido. Sam Altman expressou o desejo de realizar uma média ponderada da humanidade. No entanto, Pena discordou dessa ideia, argumentando que a média ponderada de todas as visões e morais culturais talvez não seja a solução ideal, pois poderia não ser concisa.
Embora consultar líderes religiosos possa auxiliar na identificação de dilemas éticos, isso não assegura automaticamente que os sistemas tomarão decisões corretas. A complexidade reside em determinar como ponderar valores distintos, especialmente quando estes entram em choque.
Portanto, a questão não se restringe a quais grupos devem participar das discussões, mas sim a como suas contribuições serão consideradas na formulação das regras que guiarão os modelos.
Pena também levantou dúvidas sobre os critérios utilizados nos processos decisórios frente aos impasses. Ele apontou que o que faz sentido para uma cultura pode ser o oposto para outra. Fazer uma média pode levar a um ponto intermediário que não satisfaz ninguém. A pergunta crucial é como proceder: será por representação ou por maioria? Qual ética ou moral será representada? E se alguém tiver preferências distintas da maioria, essa pessoa será rejeitada? Trata-se de uma decisão extremamente difícil.
O desafio das empresas é definir como lidar com valores divergentes em conflito, sem tratar qualquer perspectiva como universal. Para isso, será essencial ouvir grupos diversos, esclarecer os critérios que orientam as respostas dos sistemas e implementar mecanismos transparentes para avaliação e correção de falhas.