Tecnologia permite que a IA detecte erros na compreensão das intenções humanas através de sinais cerebrais
Leia mais
Olhar Digital
olhardigital.com.br

Tecnologia permite que a IA detecte erros na compreensão das intenções humanas através de sinais cerebrais

Pesquisadores desenvolveram uma tecnologia capaz de reconhecer, por meio da análise de sinais cerebrais, quando a inteligência artificial (IA) interpretou incorretamente as intenções humanas. O objetivo deste desenvolvimento é permitir que os sistemas de IA percebam o estado de 'isso não foi o que eu quis dizer' sem a necessidade de esclarecimento verbal por parte do usuário.

O trabalho foi realizado por cientistas do Korea Advanced Institute of Science and Technology (KAIST) em colaboração com a Microsoft Research Asia. Esta tecnologia, denominada Neural Value Alignment (NVA), utiliza uma interface cérebro-computador para analisar dados obtidos por eletroencefalografia (EEG), permitindo que a IA corrija seu comportamento em tempo real.

A ideia principal surgiu de um problema comum na interação entre humanos e máquinas: a mesma ação humana pode corresponder a diferentes objetivos, e o mesmo objetivo pode ser alcançado de várias maneiras. Por exemplo, pegar uma xícara por uma pessoa não significa necessariamente a intenção de beber dela; a pessoa pode querer passar o objeto, lavá-lo ou simplesmente colocá-lo em outro lugar.

Analogamente, se o objetivo for saciar a sede, a pessoa pode pegar uma xícara, encontrar uma garrafa de água ou pedir a alguém para trazer uma bebida. Essa ambiguidade entre ação e objetivo leva os sistemas de IA a poderem interpretar corretamente a ação, mas errar o desejo verdadeiro do humano, ou entender o objetivo, mas escolher um método diferente do esperado pelo usuário.

Durante os experimentos, os pesquisadores descobriram vários padrões nas ondas cerebrais ao surgir dos estados RPE, SPE ou ambos simultaneamente. Em seguida, aplicaram métodos de aprendizado profundo aos sinais capturados pelo EEG. Graças a isso, o sistema conseguiu classificar a reação humana às ações da IA.

Na prática, esta tecnologia é capaz de distinguir dois cenários: 'você entendeu mal meu objetivo' e 'você entendeu o objetivo, mas fez isso de maneira incorreta'. Os sinais decodificados são então usados como feedback para o processo de tomada de decisão da IA. Ao detectar SPE, o sistema interpreta que o objetivo está correto, mas a estratégia precisa de alteração. Enquanto RPE indica que o próprio objetivo foi entendido erroneamente, e a IA deve tentar descobrir a intenção humana novamente.

De acordo com o KAIST, simulações mostraram que o método se adapta mais rapidamente do que as abordagens existentes, mesmo em condições de incerteza, como uma mudança súbita no objetivo humano ou a ausência de parte do feedback neural. A pesquisa foi publicada em agosto de 2026 no IEEE Transactions on Cybernetics sob o título Neural Value Alignment: Human–AI Collaboration Under Goal–Action Ambiguity.

Histórias semelhantes

Impacto da Inteligência Artificial na cognição humana: especialistas debatem riscos e benefícios
Leia mais
olhardigital.com.br

Impacto da Inteligência Artificial na cognição humana: especialistas debatem riscos e benefícios

A inteligência artificial generativa alterou profundamente a maneira como as pessoas realizam tarefas e concebem ideias. Atualmente, a tecnologia encontra-se na fase de "agentes de IA", onde ela executa ações por nós, superando a mera orientação. A eficácia dessa execução depende de variáveis como o custo de uso, a qualidade da instrução fornecida e o modo como a ferramenta foi desenvolvida.

Após o crescimento exponencial do ChatGPT no final de 2022, o portal Olhar Digital entrevistou diversos especialistas para analisar as consequências da IA no dia a dia.

Roberto “Pena” Spinelli, físico formado pela USP e especialista em Machine Learning pela Universidade de Stanford, classificou a IA como "a tecnologia mais poderosa e impactante de todos os tempos". Ele observou que a fase de assistentes, que ocorreu entre 2022 e 2025, foi apenas o começo; o verdadeiro avanço viria em 2026, quando essas IAs passassem a ser capazes de realizar tarefas diretamente no computador.

Pena apontou que, embora a IA elimine a fricção cognitiva e simplifique processos complexos, há um risco inerente. Contudo, ele também argumentou que o uso intelectual que antes era exclusivo dos humanos forçou o desenvolvimento do cérebro e das habilidades cognitivas. Ele alertou que, ao remover essa carga de trabalho, é natural que ocorra um déficit cognitivo.

Geovanni Borsetto, especialista em comunicação e marketing da Paschoalotto, afirmou que o avanço da IA generativa — aquela que produz textos, áudios e imagens — "mudou o ponto de partida de quase tudo". Segundo ele, a IA generativa reduziu drasticamente a dificuldade inicial de qualquer projeto, como superar a página em branco ou criar o primeiro esboço.

Sobre se esse encurtamento leva à estagnação mental, Borsetto respondeu que a ferramenta não torna ninguém burro, mas sim revela o modo de pensar de cada indivíduo. Ele destacou que quem já pratica o pensamento crítico utiliza a IA para aprimorar suas ideias, liberando tempo operacional para focar no estratégico. Em contrapartida, aqueles que buscam atalhos sem pensar correm o risco de atrofiar seus músculos mentais.

Pena reforçou essa ideia, sugerindo que, se a IA for usada como uma parceira de troca intelectual, ela pode ampliar o raciocínio e permitir a compreensão de assuntos complexos em menos tempo. Ele comparou isso a ter um "amigo Einstein no bolso", mas advertiu contra a tentação de deixar que ele resolva tudo.

A conclusão geral dos especialistas é que a IA generativa é meramente um recurso, não sendo intrinsecamente boa nem má. Dr. Heitor Felipe, médico e professor de neurologia na Afya Educação Médica Goiânia, listou os benefícios claros, como o vasto alcance e a alta capacidade de otimizar inúmeros processos. Como desvantagens, ele citou o perigo de delegar excessivamente à ferramenta, o que pode resultar na perda de um senso de agência.

O médico também enfatizou que algum tipo de esforço mental é essencial para o aprendizado, e entregar esse esforço integralmente à IA pode prejudicar o processo. Borsetto complementou que a IA introduziu atalhos tanto no ambiente de trabalho quanto nos estudos, áreas que tradicionalmente demandavam esforço cognitivo. Ele ressaltou que o esforço dedicado à estruturação do raciocínio é o que garante a real compreensão de um tema, e será necessário "reintroduzir esforço de propósito", assim como ocorreu com a alimentação.

Ao serem questionados sobre o uso ideal da IA, os especialistas apresentaram diretrizes distintas. Erich Silva, especialista em projetos de automação e COO da Lecom, aconselhou utilizar a IA com um objetivo definido, mantendo-se ativo no processo de raciocínio. Ele recomendou usá-la para economizar tempo, mas sempre revisando os resultados, e pedindo à ferramenta que aponte falhas em vez de apenas confirmar ideias.

Geovanni Borsetto definiu o uso saudável como tratar a IA como uma parceira de pensamento, e não como um oráculo. Deve-se empregá-la para agilizar tarefas operacionais e testar conceitos, mas mantendo a autoria e a decisão finais em mãos do usuário. Ele exemplificou que, ao refinar um rascunho gerado pela IA com seu olhar crítico e contexto pessoal, o resultado é mais produtivo e apurado, transformando a IA em um multiplicador para quem já possui boas habilidades de pensamento.

Roberto “Pena” Spinelli encerrou, sugerindo que, em situações como a entrevista, ele poderia usar a IA para debater suas próprias ideias, encontrar novas perspectivas, questionar vieses e refinar pensamentos, obtendo respostas mais rápidas e melhores, ao mesmo tempo em que aprimora sua própria capacidade cognitiva e expande sua visão de mundo.

Popular