Google alerta que a era de ataques cibernéticos autônomos já começou
Leia mais
Tecnoblog
tecnoblog.net

Google alerta que a era de ataques cibernéticos autônomos já começou

De acordo com o Google, a fase dos ataques cibernéticos autônomos já se iniciou. Em um recente relatório de segurança, a companhia informou que criminosos estão empregando agentes de inteligência artificial que são capazes de localizar falhas em softwares, criar códigos maliciosos e realizar ataques sem necessitar de intervenção humana direta.

Este aviso foi publicado pelo Google Threat Intelligence Group (GTIG) na segunda-feira, dia 16 de novembro. O grupo observou uma progressão no emprego de IA por hackers, que evoluíram de simples consultas a chatbots para sistemas aptos a gerenciar diversas fases de uma invasão.

Para o Google, a rapidez dessas novas ferramentas impõe um grande desafio às equipes de segurança, visto que estas ainda dependem de processos de análise e resposta realizados manualmente. Uma das descobertas notáveis foi um sistema denominado exploit_agent, que os pesquisadores encontraram em um servidor de testes acessível publicamente na internet.

Essa ferramenta utilizava múltiplos modelos de IA para examinar atualizações de programas e detectar potenciais pontos fracos. Na prática, o sistema fazia comparações entre versões antigas e novas dos softwares para descobrir quais problemas haviam sido corrigidos. Com base nessas informações, ele gerava códigos para explorar essas brechas e realizava testes de forma automática, sem pedir aprovação humana em cada passo.

O Google também recuperou dados obtidos de vítimas e utilitários que poderiam ser usados após a ocorrência da invasão. Os indícios sugerem um foco em portais franceses pertencentes aos segmentos de mídia, entretenimento e educação. O relatório menciona ainda as ferramentas CAIRN e PentAGI, que orquestram diferentes agentes de IA. Segundo o Google, essas ferramentas já foram vistas em ações de invasão e procura por vulnerabilidades tanto nos Estados Unidos quanto na Ásia.

Este avanço marca uma alteração em comparação com os malwares com IA que o Google identificou anteriormente. Naquela época, os especialistas destacaram as limitações das primeiras tentativas de usar modelos generativos para modificar códigos nocivos. Atualmente, a principal apreensão reside na possibilidade de os agentes conseguirem diminuir o tempo entre a revelação de uma vulnerabilidade e sua exploração por criminosos.

Para combater essas novas ameaças, o Google está expandindo o uso de recursos de segurança automatizados. O objetivo é conseguir identificar riscos e agilizar a correção de falhas. A intenção é possibilitar que os sistemas de defesa analisem programas, definam prioridades para vulnerabilidades e respondam a incidentes com uma celeridade próxima à dos ataques automatizados.

O assunto já havia sido abordado em investigações passadas. Em maio, o Google comunicou ter bloqueado uma tentativa de ataque que foi desenvolvida com assistência de IA. Outras corporações também registraram o uso dessa tecnologia em ataques reais. A Anthropic reportou uma campanha que envolvia o Claude, onde criminosos teriam automatizado grande parte das operações direcionadas a organizações de diversos países.

Apesar dos progressos, o relatório do Google enfatiza que as ferramentas autônomas ainda possuem restrições, podendo gerar códigos ineficazes, cometer equívocos e deixar vestígios que facilitam a detecção das invasões. Não obstante, a capacidade de executar mais ataques em menor tempo sublinha a extrema necessidade de corrigir vulnerabilidades com rapidez.

Histórias semelhantes

Inteligência Artificial Acelera Ataques Cibernéticos e Aumenta o Número de Incidentes em Empresas
Leia mais
olhardigital.com.br

Inteligência Artificial Acelera Ataques Cibernéticos e Aumenta o Número de Incidentes em Empresas

O progresso na área de inteligência artificial (IA) coincide com o aumento no número de incidentes cibernéticos, conforme evidenciado por dados da seguradora Marsh. Esta tecnologia acelera o ritmo e a escala dos ataques, criando novos problemas tanto para empresas quanto para organizações de seguros.

Nas últimas duas semanas de outubro, clientes da Marsh relataram 105 incidentes cibernéticos. Este volume é mais do que o dobro dos 48 casos registrados nas últimas duas semanas de maio.

Em uma entrevista à Reuters esta semana, Meredith Schnur, responsável pela prática de riscos cibernéticos da Marsh Risk nos EUA e Canadá, observou sinais de que os invasores estão utilizando ferramentas de IA para encontrar vulnerabilidades em sistemas.

"Existem sinais de que os invasores estão usando ferramentas baseadas em IA e ferramentas de agentes para identificar vulnerabilidades. Portanto, eu diria que podemos atribuir um número significativo desses incidentes à IA," declarou a líder.

Entre as falhas exploradas estão softwares sem atualizações de segurança, sistemas abertos e mecanismos de identificação fracos. A inteligência artificial permite que criminosos encontrem e explorem essas vulnerabilidades muito mais rapidamente.

A popularização dessas ferramentas também facilita a expansão das atividades criminosas com custos menores, aumentando o número potencial de alvos. Segundo Schnur, essa tendência, combinada com a lenta reação das organizações aos ataques e incidentes, explica grande parte do recente aumento de registros.

"A IA em si não é uma ameaça; é um amplificador de risco em todas as áreas," enfatizou a líder.

O aumento da frequência dos ataques também deve impulsionar o mercado de seguros de riscos digitais. De acordo com previsões da GlobalData, os prêmios de seguro cibernético — os valores que as empresas pagam pelos apólices — devem crescer globalmente mais rapidamente nos próximos dois anos, acompanhando o aumento da frequência dos ataques.

A consultoria prevê que o mercado mundial crescerá 6,9% em 2026, atingindo US$ 16,6 bilhões (cerca de 94,62 bilhões de reais brasileiros). Em 2027, o crescimento deve atingir 10%, elevando o volume para US$ 18,3 bilhões (aproximadamente 104,31 bilhões de reais brasileiros).

Popular