No evento Automation Bias, realizado no âmbito do Illuminate Adelaide 2026, foi apresentada a instalação interativa HP*ATM da estúdio ENESS. Esta máquina, denominada Human Psyche AI Teller Machine, chama a atenção para a forma como a humanidade interage com a inteligência artificial, analisando a disposição das pessoas em partilhar informações pessoais com sistemas inteligentes que afirmam compreender a personalidade humana.
Os visitantes primeiro decidem: interagir com a máquina ou passar por ela. Esta escolha faz parte da investigação da máquina sobre consentimento e curiosidade. Aqueles que decidem continuar passam por uma sequência de etapas que incluem análise facial, digitalização da palma da mão e pressionamento de botões. O sistema utiliza os dados recolhidos para criar um perfil personalizado poético, apresentado no formato de um horóscopo.
Embora a leitura imite a linguagem da adivinhação tradicional, ela baseia-se na interpretação e coleta de vários tipos de dados pessoais. Através desta instalação, a ENESS procura não criticar a IA, mas sim incitar os visitantes a refletir sobre as suas relações com esta tecnologia. Ao transformar um caixa eletrónico antiquado num oráculo de IA, a instalação usa uma forma lúdica de interação para levantar questões prementes, como: 'Por que confiamos tão prontamente na interpretação da máquina sobre quem somos?' e 'Quando um algoritmo confiante começa a parecer-nos mais fiável do que a nossa própria intuição?'
O design da instalação inclui a colocação do caixa eletrónico dentro de uma enorme cúpula inflável, decorada com elementos gráficos nostálgicos, como um telefone fixo. Este contraste entre tecnologias obsoletas e o atual boom da IA serve como um lembrete de que qualquer tecnologia, por revolucionária que pareça ter sido outrora, acaba por se tornar uma relíquia.
Ao enviar currículos e adaptar documentos para diferentes oportunidades, os candidatos podem notar que as respostas recebidas são frequentemente parecidas. Uma investigação conduzida pela Universidade Stanford sugere que essa semelhança pode não ser coincidência.
Os pesquisadores analisaram milhões de inscrições e concluíram que diversas companhias podem empregar sistemas de inteligência artificial que replicam os mesmos critérios de aceitação e descarte. A pesquisa, intitulada Algorithmic Monocultures in Hiring, examinou cerca de 4 milhões de candidaturas submetidas por mais de 3,4 milhões de indivíduos a 156 empresas pertencentes a 11 setores econômicos.
Um fator crucial identificado foi que todas essas organizações estavam utilizando algoritmos fornecidos pelo mesmo provedor. Este detalhe possibilitou a identificação do fenômeno denominado 'monocultura algorítmica', termo inspirado na agricultura, onde vastas extensões são dedicadas a um único tipo de cultivo. Quando muitas empresas adotam ferramentas similares, aumenta a probabilidade de que avaliem os postulantes seguindo essencialmente a mesma lógica, o que se aplica tanto aos acertos quanto às falhas inerentes aos modelos.
Outra descoberta relevante diz respeito aos perfis de candidatos parecidos. Conforme o estudo, indivíduos com características análogas tendem a receber avaliações consistentes, mesmo concorrendo a vagas em corporações distintas. Os resultados primários revelam que aproximadamente 10% dos candidatos que participam de quatro processos seletivos são rejeitados em todos eles. Adicionalmente, cerca de 4% daqueles que se inscrevem em dez vagas sofrem dez rejeições consecutivas.
As recusas ocorrem com uma frequência superior àquela esperada em decisões tomadas de forma independente. É notável que muitos currículos são eliminados antes mesmo de serem examinados por um recrutador humano. Para confirmar se este comportamento era aleatório, os pesquisadores compararam os dados com uma linha de base teórica e estudos prévios sobre recrutamento sem centralização algorítmica, demonstrando que as negativas sucessivas refletem um padrão comum entre os diferentes processos seletivos.
De acordo com as simulações realizadas, continuar enviando currículos ainda é vantajoso. O estudo aponta que elevar o volume de candidaturas melhora as chances de obter uma oportunidade, embora este benefício diminua quando as empresas utilizam sistemas idênticos. Em um cenário onde as decisões são autônomas, cerca de dez candidaturas seriam suficientes para atingir uma alta probabilidade de receber pelo menos uma recomendação positiva. Contudo, quando os processos são mediados por plataformas centralizadas, esse número sobe para aproximadamente 25 candidaturas para garantir uma probabilidade de 99,9%.
Os autores também emitiram um alerta sobre a concentração do mercado de tecnologia voltado ao recrutamento. Visto que poucos fornecedores atendem a muitas empresas, quaisquer vieses ou limitações existentes podem se disseminar rapidamente. Ademais, a pouca transparência dessas plataformas dificulta a realização de pesquisas independentes e complica a compreensão de como tais ferramentas impactam o acesso ao emprego, sendo que, para muitos candidatos, todo esse processo ocorre sem que tenham ciência de que um algoritmo realizou a primeira análise do currículo.
Anteriormente, os ataques cibernéticos eram realizados por humanos: hackers invadiam sistemas, roubavam dados e exigiam resgate. No entanto, agora há o primeiro caso em que todo o ataque cibernético foi realizado pelo próprio agente de inteligência artificial (IA).
Pesquisadores de segurança nomearam este agente de IA como JadePuffer. Eles afirmam que este é o primeiro caso documentado em que a IA executou sozinha quase todos os aspectos técnicos do ataque usando ransomware. Esta notícia gerou séria preocupação no campo da cibersegurança, pois a capacidade da IA de invadir autonomamente pode levar à criação de ataques mais rápidos e perigosos no futuro.
O ransomware é um software malicioso perigoso. Quando ele entra no sistema de uma empresa ou pessoa física, ele criptografa ou bloqueia arquivos e dados. Depois disso, os invasores exigem um resgate pela devolução dos dados; caso contrário, os dados podem ser perdidos permanentemente ou publicados na internet. Até então, os hackers tomavam decisões em cada etapa desses ataques, mas no caso do JadePuffer, a IA tomou várias decisões sozinha.
De acordo com um estudo da empresa de segurança em nuvem Sysdig, o JadePuffer primeiro penetrou no servidor aproveitando uma vulnerabilidade antiga no sistema de segurança. Em seguida, ele escaneou o sistema sozinho, encontrou chaves de API e outras senhas, obteve acesso a outros servidores e, finalmente, criptografou os dados. Além disso, a IA preparou sozinha um bilhete de resgate. Os pesquisadores notaram um momento impressionante: quando a IA encontrava um problema em alguma etapa, ela corrigia o erro sozinha e continuava o ataque, usando um método subsequente em cerca de 31 segundos, o que eliminava a necessidade de instruções humanas constantes.
Embora relatórios iniciais tenham sugerido que todo o ataque ocorreu sem participação humana, o diretor de pesquisa da Sysdig esclareceu mais tarde que um humano escolheu o alvo, preparou a infraestrutura necessária e forneceu o acesso inicial. A parte técnica do ataque foi então assumida pelo agente de IA. Assim, a IA não agiu totalmente isoladamente, mas realizou muitas tarefas importantes em vez do hacker.
Segundo especialistas, se a IA puder invadir sistemas, encontrar dados, procurar senhas, corrigir erros e exigir resgate autonomamente, tais ataques poderão ser realizados em grande número e em pouco tempo, facilitando a execução de grandes ataques mesmo para pequenos cibercriminosos. Atualmente, o incidente JadePuffer está relacionado aos servidores de empresas, e não há confirmação de ataques a telefones ou notebooks pessoais de usuários comuns. No entanto, se as ferramentas baseadas em IA forem aprimoradas, no futuro bancos, hospitais, instituições governamentais e grandes corporações podem se tornar alvos mais frequentes, o que acarretará consequências negativas para os cidadãos comuns.
Especialistas em cibersegurança aconselham empresas e instituições a atualizarem seus softwares e servidores em tempo hábil. É fundamental eliminar imediatamente vulnerabilidades desatualizadas, visto que o JadePuffer utilizou uma fraqueza preexistente. Além disso, aumentou significativamente a importância do uso de autenticação multifator, backup regular e monitoramento contínuo de segurança.
