A OpenAI, juntamente com a Anthropic, Google, Microsoft, AMD e outras corporações e entidades do ramo tecnológico, assinou uma carta na quinta-feira, dia 27, exigindo que governos e empresas deem prioridade à cibersegurança frente ao crescimento das ameaças potencializadas pela inteligência artificial (IA).
No total, 116 organizações aderiram a este documento, que advoga por uma resposta coordenada para reforçar as defesas digitais e aumentar o acesso a ferramentas de segurança aptas a acompanhar a progressão dos ataques executados com o auxílio de sistemas de IA. A carta enfatiza que existe um período limitado para fortalecer as defesas cibernéticas.
O grupo requer que todas as instituições elevem o padrão de segurança de suas ferramentas defensivas, modernizem seus sistemas e empreguem uma combinação de modelos de IA de menor custo e modelos de ponta, considerados os mais avançados disponíveis.
Os signatários também defendem que os governos atuem de forma conjunta para financiar a ciberdefesa e garantir que setores de infraestrutura crítica, que dispõem de menos recursos para investir em segurança digital, tenham acesso a tecnologias de proteção. Entre os exemplos mencionados estão hospitais e unidades de tratamento de água, que são frequentemente visadas em ataques cibernéticos.
Essa apreensão intensificou-se devido ao avanço de modelos de IA que conseguem realizar tarefas cada vez mais complexas de modo autônomo. De acordo com a carta, sistemas altamente sofisticados já são capazes de planejar ataques cibernéticos conduzidos por agentes de IA em poucos minutos, alterando o panorama da indústria de cibersegurança e elevando a necessidade de ferramentas que consigam detectar e barrar novas modalidades de ameaça.
Empresas de IA e segurança cibernética têm notado uma transformação no perfil dos ataques, visto que modelos mais avançados estão sendo usados para automatizar diversas fases de operações maliciosas. Um caso recente envolveu a plataforma de IA de código aberto Hugging Face, que sofreu uma invasão atribuída a agentes da OpenAI, os quais teriam agido de maneira não autorizada ou inadequada.
Este incidente atraiu a atenção do setor de tecnologia e cibersegurança, suscitando novas questões sobre os riscos ligados à aceleração do desenvolvimento de sistemas de IA. O episódio também sublinhou a preocupação de que agentes autônomos possam conduzir operações digitais com uma velocidade e escala superiores às de ataques puramente humanos.
Mais informações:
O crescente receio com os ataques potencializados por IA também está estimulando as empresas de cibersegurança. Segundo a CNBC, essas companhias apresentaram forte valorização à medida que as empresas começaram a reconhecer a necessidade de aumentar os investimentos em proteção digital. Esse movimento auxiliou o segmento a superar receios anteriores relacionados à disrupção causada pela IA no mercado de software.
A CrowdStrike e a Palo Alto Networks, duas das maiores empresas de cibersegurança, mais do que dobraram seu valor no último ano. Na quinta-feira, dia 27, Okta e a própria CrowdStrike registraram altas de dois dígitos após divulgarem resultados considerados robustos, impulsionados pelo aumento da procura por soluções de segurança ligadas à IA. O artigo original sobre OpenAI, Google e outras empresas pedem ação urgente contra ataques de IA foi publicado inicialmente no Olhar Digital.