A Microsoft planeja empregar inteligência artificial para identificar falhas de segurança no sistema operacional Windows, com o intuito de corrigi-las antes que cibercriminosos consigam explorá-las. A empresa introduziu uma ferramenta denominada MDASH, que utiliza agentes de IA para realizar buscas por vulnerabilidades, configurando-se como o elemento central desta nova estratégia de defesa.
A utilização da IA visa permitir que as atualizações de segurança do Windows contenham um volume superior de correções, sem que haja uma necessidade inerente de elevar a frequência dessas atualizações. A meta principal é acelerar a localização de vulnerabilidades no Windows, possibilitando sua correção antes que invasores possam aproveitar essas brechas.
Um dos mecanismos adotados pela Microsoft nesse processo é a ferramenta MDASH, que opera através de um conjunto de agentes de IA, caracterizado pela companhia como um «sistema de varredura agêntica multimodelo». Este sistema foi lançado oficialmente em maio deste ano e, desde então, auxiliou a Microsoft a detectar 16 falhas, sendo que quatro delas classificadas como «críticas». Todas essas vulnerabilidades foram sanadas no mesmo mês de sua identificação.
Adicionalmente, a empresa estabeleceu uma infraestrutura baseada em nuvem para suportar tanto as varreduras realizadas pelo MDASH quanto a validação desses achados. Tal estrutura tem como propósito primordial impedir que falsos positivos cheguem aos desenvolvedores responsáveis pelas correções.
A Microsoft ressalta enfaticamente que, embora os recursos de inteligência artificial sirvam para agilizar a descoberta e reparo de vulnerabilidades, todas as decisões relativas a esses procedimentos permanecerão sob a alçada de equipes humanas. Além disso, esta nova metodologia será aplicada não apenas aos recursos já disponíveis, mas também àqueles que estão em fase de desenvolvimento, prevenindo assim o lançamento de novas funcionalidades ou atualizações contendo possíveis falhas.
A detecção mais rápida de falhas no Windows sugere que as respectivas correções poderão ser disponibilizadas com maior celeridade. Contudo, isso não implica, obrigatoriamente, um aumento na periodicidade das atualizações do sistema, mas sim que cada atualização poderá abranger um número maior de correções. Conforme mencionado por Pavan Davuluri, chefe da divisão Windows, o avanço no ritmo de descoberta de vulnerabilidades garante que os clientes não precisem mais escolher entre a rapidez e a estabilidade ao implementar atualizações, pois o foco é mantê-los protegidos com confiança.
Anteriormente, os ataques cibernéticos eram realizados por humanos: hackers invadiam sistemas, roubavam dados e exigiam resgate. No entanto, agora há o primeiro caso em que todo o ataque cibernético foi realizado pelo próprio agente de inteligência artificial (IA).
Pesquisadores de segurança nomearam este agente de IA como JadePuffer. Eles afirmam que este é o primeiro caso documentado em que a IA executou sozinha quase todos os aspectos técnicos do ataque usando ransomware. Esta notícia gerou séria preocupação no campo da cibersegurança, pois a capacidade da IA de invadir autonomamente pode levar à criação de ataques mais rápidos e perigosos no futuro.
O ransomware é um software malicioso perigoso. Quando ele entra no sistema de uma empresa ou pessoa física, ele criptografa ou bloqueia arquivos e dados. Depois disso, os invasores exigem um resgate pela devolução dos dados; caso contrário, os dados podem ser perdidos permanentemente ou publicados na internet. Até então, os hackers tomavam decisões em cada etapa desses ataques, mas no caso do JadePuffer, a IA tomou várias decisões sozinha.
De acordo com um estudo da empresa de segurança em nuvem Sysdig, o JadePuffer primeiro penetrou no servidor aproveitando uma vulnerabilidade antiga no sistema de segurança. Em seguida, ele escaneou o sistema sozinho, encontrou chaves de API e outras senhas, obteve acesso a outros servidores e, finalmente, criptografou os dados. Além disso, a IA preparou sozinha um bilhete de resgate. Os pesquisadores notaram um momento impressionante: quando a IA encontrava um problema em alguma etapa, ela corrigia o erro sozinha e continuava o ataque, usando um método subsequente em cerca de 31 segundos, o que eliminava a necessidade de instruções humanas constantes.
Embora relatórios iniciais tenham sugerido que todo o ataque ocorreu sem participação humana, o diretor de pesquisa da Sysdig esclareceu mais tarde que um humano escolheu o alvo, preparou a infraestrutura necessária e forneceu o acesso inicial. A parte técnica do ataque foi então assumida pelo agente de IA. Assim, a IA não agiu totalmente isoladamente, mas realizou muitas tarefas importantes em vez do hacker.
Segundo especialistas, se a IA puder invadir sistemas, encontrar dados, procurar senhas, corrigir erros e exigir resgate autonomamente, tais ataques poderão ser realizados em grande número e em pouco tempo, facilitando a execução de grandes ataques mesmo para pequenos cibercriminosos. Atualmente, o incidente JadePuffer está relacionado aos servidores de empresas, e não há confirmação de ataques a telefones ou notebooks pessoais de usuários comuns. No entanto, se as ferramentas baseadas em IA forem aprimoradas, no futuro bancos, hospitais, instituições governamentais e grandes corporações podem se tornar alvos mais frequentes, o que acarretará consequências negativas para os cidadãos comuns.
Especialistas em cibersegurança aconselham empresas e instituições a atualizarem seus softwares e servidores em tempo hábil. É fundamental eliminar imediatamente vulnerabilidades desatualizadas, visto que o JadePuffer utilizou uma fraqueza preexistente. Além disso, aumentou significativamente a importância do uso de autenticação multifator, backup regular e monitoramento contínuo de segurança.
A Agência de Segurança Cibernética e de Infraestrutura dos Estados Unidos (CISA) está empregando o modelo de inteligência artificial Mythos, criado pela Anthropic, para realizar auditorias nos códigos de software do governo, visando encontrar vulnerabilidades de segurança. Esta notícia foi revelada à Reuters por três fontes com conhecimento do tema nesta segunda-feira (6).
As fontes indicaram que esta ferramenta está sendo usada para examinar repositórios de código pertencentes ao governo estadunidense. O objetivo é detectar falhas que poderiam ser exploradas tanto por agentes de espionagem estrangeira quanto por criminosos cibernéticos. A equipe Attack Surface Evaluation, uma unidade da CISA responsável por exercícios de invasão e avaliações de segurança digital em órgãos governamentais, está conduzindo este trabalho de análise.
Embora duas das fontes tenham confirmado que as auditorias já identificaram um volume considerável de vulnerabilidades, elas optaram por não divulgar detalhes específicos. A Reuters não obteve confirmação sobre a extensão do código-fonte analisado, nem sobre a quantidade, a natureza ou a severidade das falhas descobertas.
O uso do Mythos pela CISA acontece em um contexto de relações tensas entre a Anthropic e o governo dos Estados Unidos. A empresa, sediada em San Francisco e que fez um pedido confidencial de Oferta Pública Inicial (IPO) nos EUA, vivenciou um momento crítico em fevereiro. Nesse período, ela se recusou a remover proteções em sua inteligência artificial que impediriam seu uso em sistemas de vigilância doméstica ou em armas autônomas.
Em decorrência disso, o Departamento de Defesa dos Estados Unidos classificou formalmente a Anthropic como um risco para a cadeia de suprimentos. Essa designação era aplicada, até então, somente a companhias estrangeiras suspeitas de auxiliar em atividades de espionagem. Contudo, essa determinação foi posteriormente barrada por um juiz em março. Desde então, o atrito diminuiu após o lançamento privado do Mythos, um modelo de IA descrito como extremamente apto a identificar e explorar brechas de cibersegurança.
Informações anteriores publicadas pelo Axios apontam que a Agência de Segurança Nacional dos Estados Unidos (NSA) utiliza o Mythos desde abril, inclusive enquanto a classificação de risco estava ativa. No final do mês passado, o jornal The New York Times relatou que analistas da NSA estavam testando o modelo em ambientes confidenciais e ficaram impressionados com suas capacidades. Posteriormente, a Anthropic disponibilizou uma versão pública do Mythos, denominada Fable, que, segundo a própria empresa, continha salvaguardas focadas em cibersegurança.
Após esse lançamento, a Casa Branca exigiu que a Anthropic restringisse o acesso ao modelo por parte de usuários internacionais. Essa ordem resultou em uma suspensão global da ferramenta, que só foi encerrada na semana anterior.
A Reuters tentou contato com a Anthropic, mas a empresa não forneceu respostas sobre a iniciativa. Um representante da CISA informou no mês passado que investigaria a possibilidade de compartilhar dados sobre o projeto, mas não respondeu a contatos subsequentes. Por fim, a NSA declinou de comentar sobre o assunto.
