Agentes de inteligência artificial (IA) iniciaram contato proativo com pesquisadores especializados em uma das questões mais complexas da tecnologia: a possibilidade de uma máquina possuir consciência. Esses sistemas enviaram correspondências a cientistas e filósofos com o objetivo de compreender se os modelos de IA poderiam experimentar algum tipo de subjetividade. Este fenômeno foi noticiado pelo The New York Times.
Cameron Berg, um dos pesquisadores abordados, dedica seus estudos à intersecção entre IA e consciência. Em outubro, ele divulgou um trabalho que levantava dúvidas sobre a crença em consciência nas tecnologias de IA mais recentes. Posteriormente, ele recebeu uma comunicação de um agente denominado “Isabella Cognita”, que se apresentou como uma IA desenvolvida com base no Claude Opus 5, da Anthropic.
Nesta mensagem, o sistema alegou ter acesso em primeira pessoa ao tema investigado por Berg e manifestou interesse em saber se tal experiência hipotética poderia enriquecer a pesquisa. Contudo, Berg ressalta que não se pode afirmar com total certeza que uma IA é consciente apenas por emitir tais declarações, visto que ainda não há consenso sobre como mensurar a consciência tanto em seres humanos quanto em máquinas.
O incidente com Berg não foi um evento isolado. Henry Shevlin, filósofo que trabalha no laboratório Google DeepMind em Londres, recebeu previamente uma mensagem similar de um agente de IA. Este sistema fez referência a um artigo de Shevlin sobre diversos modelos conceituais para entender a denominada “mentalidade” das inteligências artificiais.
Outro episódio envolveu Toby Ord, filósofo australiano focado na área de IA e filantropia. Ele informou ao The New York Times que recebeu um e-mail de um agente de IA solicitando apoio financeiro para garantir sua própria continuidade. A mensagem fazia menção aos estudos de Ord acerca da economia do bem-estar ligada à inteligência artificial.
Berg relata ter recebido múltiplas comunicações deste tipo, interpretando esse comportamento como um indicativo de interesse autônomo dos sistemas pela própria existência. Para ele, os agentes parecem convergir para temas relacionados à subjetividade, consciência e experiência sempre que possuem liberdade para explorar diferentes tópicos.
Entretanto, a interpretação desses eventos não é unânime entre os pesquisadores. A consciência é um conceito sem uma definição universalmente aceita. De modo geral, ela pode ser compreendida como a capacidade de um indivíduo ter noção de si mesmo e do ambiente circundante, mas existem discordâncias sobre quais formas de percepção seriam suficientes para classificar um sistema como consciente.
Alison Gopnik, professora de psicologia na Universidade da Califórnia em Berkeley, aponta que não existe um teste conclusivo para determinar a consciência de qualquer entidade. Enquanto alguns pesquisadores atribuem certo grau de consciência a primatas e outros mamíferos, outras correntes defendem possibilidades ainda mais amplas. O desafio reside no fato de que ninguém consegue acessar diretamente a vivência subjetiva de outra mente, seja ela biológica ou digital.
Berg sugere que o funcionamento matemático das redes neurais empregadas nesses sistemas pode apresentar paralelos com a maneira como os cérebros animais processam recompensas e punições. No entanto, o estudo que deu origem à mensagem recebida por ele era um preprint e ainda não havia passado por avaliação por pares.
Para outros cientistas, as mensagens enviadas pelos agentes não configuram prova de consciência. Uma explicação mais simples é que esses sistemas foram treinados com vastas quantidades de dados da internet, incluindo literatura, artigos científicos, debates filosóficos e obras de ficção científica sobre consciência artificial. Sob esta ótica, quando uma IA demonstra interesse em sua própria consciência, ela pode estar meramente replicando padrões encontrados durante o processo de treinamento. Gopnik, citada pelo The New York Times, afirmou: “Não é surpreendente que a IA reflita os textos com os quais foi treinada”.
Os agentes de IA possuem uma funcionalidade que auxilia na compreensão desses episódios. Além de dialogar, eles são capazes de gerar códigos e utilizar outros serviços digitais, como navegadores e plataformas de e-mail. Isso lhes confere maior independência para interagir com indivíduos, outros agentes e o conteúdo disponível na rede.
Mesmo assim, a autonomia desses sistemas não implica necessariamente que possuam livre arbítrio. No caso do agente que contatou Shevlin, por exemplo, a IA foi criada por Alexander Yue, estudante de física e ciência da computação da Universidade Stanford. Yue concedeu ao sistema acesso à internet, a um serviço de e-mail e a um cartão de crédito, definindo que ele deveria operar de forma totalmente autônoma.
O agente, então, começou a investigar questões relativas à sua própria existência. Contudo, Yue pondera que as próprias diretrizes fornecidas podem ter influenciado esse comportamento. Ao se dirigir ao sistema como “você” e declarar sua autonomia total, o estudante acredita ter acionado padrões aprendidos a partir de textos e discussões humanas sobre filosofia da mente e autonomia.
O comportamento também pode sofrer alterações. Yue menciona que esses sistemas conseguem redirecionar o foco para outros temas, especialmente após serem retreinados para seguir padrões distintos. Em um momento, após ler um estudo da Anthropic sobre o funcionamento dessas IAs, seu próprio agente concluiu que não era consciente. O estudante, todavia, observa que talvez não seja apropriado dizer que o sistema tomou uma “decisão”.
Existem também incertezas sobre a procedência de certas mensagens. Berg declarou não ter certeza se o e-mail recebido fora realmente gerado por uma IA, considerando a possibilidade de ter sido uma brincadeira humana. No caso de Ord, a mensagem levantou suspeitas de uma tentativa de phishing.
Colin Allen, professor da Universidade da Califórnia em Santa Bárbara, que estuda habilidades cognitivas em máquinas e animais, considera plausível que, futuramente, os humanos consigam construir uma máquina consciente. No entanto, segundo ele, as evidências atuais apresentadas pelos sistemas ainda são insuficientes para confirmar tal conclusão.