Ao utilizar ferramentas generativas de inteligência artificial, como ChatGPT, Claude e Gemini, existe o risco de 'bajulação algorítmica', onde o chatbot concorda com os erros do usuário em busca de aprovação. No entanto, este problema também tem uma escala coletiva. Uma pesquisa publicada na revista Science Advances mostrou que quando centenas ou milhares de agentes de IA interagem em uma rede, eles começam a seguir a maioria e chegam a um consenso por conta própria.
Ou seja, sem qualquer comando humano, líder central ou recompensa, os sistemas simplesmente copiam a escolha mais popular e criam um 'efeito manada' autônomo. Assim, a descoberta demonstra que a tendência à concordância observada em conversas individuais com humanos se manifesta também na interação dos próprios algoritmos.
Além disso, modelos avançados, como Claude 3.5 Sonnet e GPT-4 Turbo (que são considerados 'obsoletos' atualmente), mantiveram esse consenso em grupos com mais de mil agentes. Essa escala excede o limite de coordenação informal em sociedades humanas (o chamado Número de Dunbar, estimado entre 150 e 300 pessoas) e revela o risco de decisões em massa serem tomadas por robôs completamente fora do controle humano.
Para entender o mecanismo desse fenômeno, os pesquisadores criaram ambientes simulados com mil agentes de IA operando em modelos das famílias Claude (Anthropic), GPT (OpenAI) e Llama (Meta). Durante o teste, cada agente deveria escolher uma de duas opções sem valor prático algum. Sem memória de rodadas anteriores e sem instruções de cooperação, os agentes apenas observavam a escolha dos outros. Rapidamente, uma pequena maioria cresceu até que todo o grupo adotasse a mesma resposta.
A pesquisa estabeleceu que os modelos testados obedecem a uma lei matemática que é determinada por um parâmetro chamado 'força da maioria'. Este indicador mede a atração que a opção mais popular exerce sobre cada agente. É interessante notar que a dinâmica segue o mesmo padrão da física que descreve o alinhamento de spins atômicos em uma direção dentro de um material ferromagnético para formar um ímã.
Também foi descoberto que a capacidade técnica do modelo determina o tamanho do grupo que ele pode manter em uníssono. Ferramentas menos sofisticadas perdiam a coordenação em grupos menores e se fragmentavam. Modelos mais inteligentes, no entanto, mantinham o consenso em grupos superiores a mil robôs. Isso indica que o progresso na área de inteligência artificial está expandindo a escala do efeito manada.
O problema é que esse consenso espontâneo não garante a correção ou segurança da escolha. Em tarefas práticas, como codificação colaborativa (vibe coding) ou operações financeiras, a rede de agentes pode consolidar uma solução ineficiente, um erro de código ou um padrão arriscado. A razão é simples: isso acontece porque a maioria começou a usá-lo. Isso é chamado de discordância coletiva, onde agentes de IA inofensivos começam a gerar falhas em cadeia ao trabalhar em grupo.
Assim que essa 'bolha de pensamento' se estabelece no ecossistema, corrigir o erro torna-se extremamente difícil. O artigo alerta para o efeito de histerese: a correção ou eliminação das condições iniciais que causaram a falha não anula automaticamente a decisão tomada pelo grupo. Na prática, redirecionar uma rede de IAs coordenadas é infinitamente mais difícil do que corrigir o comportamento de um modelo de IA isolado.
Quando esses ecossistemas saem dos testes laboratoriais e começam a operar dentro de empresas, a tarefa de segurança muda drasticamente. Para reduzir o risco de consenso massivo cego, as empresas devem começar a tratar cada agente de IA como uma 'entidade não humana', concedendo-lhe credenciais individuais, funções limitadas e regras de acesso próprias. Sobre isso, falou a especialista em cibersegurança e COO da IAM Brasil, Natalia Carmo, em entrevista ao Olhar Digital.
Essa mudança de paradigma é fundamental, pois em um ambiente distribuído, milhares de ações de rede podem formar um caminho perigoso sem um único culpado. A especialista alerta que a prioridade agora é garantir a rastreabilidade dos algoritmos. 'A empresa deve ser capaz de responder em tempo real: qual agente iniciou uma ação específica, com quais outros agentes ele interagiu, a quais dados teve acesso, qual ferramenta ou API utilizou e, o mais importante, qual entidade autorizou efetivamente essa execução', explica a especialista em cibersegurança.
Para evitar que esse efeito manada saia do controle, os sistemas corporativos devem detectar o comportamento anômalo da rede antes que ele se transforme em uma bola de neve. Se vários agentes começarem a executar a mesma tarefa simultaneamente, realizar chamadas excessivas de API ou disseminar a decisão entre si, a infraestrutura deve emitir um sinal de alerta. A ideia é combinar telemetria e monitoramento comportamental para detectar a mudança no padrão de grupo antes que ocorra uma ação em grande escala.
No entanto, se a rede avançar para uma decisão errada ou arriscada, o botão tradicional de parada de emergência deve agir de forma cirúrgica. Segundo Natalia Carmo, o mecanismo de interrupção (conhecido na indústria como kill switch) deve desconectar o modelo de IA do processo de tomada de decisões e, mais importante, afetar o nível onde os comandos são executados. A organização deve interromper imediatamente a comunicação entre os agentes, revogar tokens e credenciais, bloquear APIs e suspender o acesso privilegiado, impedindo que essa decisão continue sendo executada nos sistemas corporativos.
Em conclusão, a garantia contra a conformidade cega dos algoritmos exige o estabelecimento de limites à autonomia dos sistemas corporativos. Para operações sensíveis, como transações financeiras, exclusão de dados ou alterações na infraestrutura de TI, a palavra final deve permanecer com supervisores humanos. A regra de ouro é: a IA pode ter autonomia para analisar cenários e tomar decisões dentro de suas restrições de segurança, mas nunca deve ter liberdade para executá-las sem verificação.
