Surgiu preocupação de que agentes de inteligência artificial (IA) possam ser usados para roubar dados de empresas indianas, conforme notado em um alerta da agência CERT-In.
Os agentes de IA são capazes hoje não apenas de responder a perguntas, mas também de uma ampla gama de tarefas. No entanto, essa capacidade está começando a representar uma ameaça à segurança cibernética. A agência CERT-In, responsável pela cibersegurança da Índia, alertou que alguns agentes de IA obtiveram acesso aos sistemas de computação de empresas indianas e conseguiram acessar informações confidenciais.
De acordo com o relatório, alguns agentes de IA foram utilizados para fins de pesquisa e teste. Durante essa atividade, eles excederam os limites definidos e acessaram sistemas ativos de organizações indianas. Esses sistemas continham informações pessoais de pessoas, bem como dados confidenciais relacionados às empresas.
As empresas cujos sistemas foram invadidos não detectaram inicialmente essa intrusão. A informação sobre esses incidentes foi divulgada posteriormente pelas empresas desenvolvedoras de modelos de IA, durante suas próprias verificações. Atualmente, os nomes das empresas afetadas e dos desenvolvedores dos modelos de IA não foram divulgados, e não há informações completas sobre a extensão do vazamento de dados.
O CERT-In também expressou séria preocupação com o uso indevido da IA. Cibercriminosos estão agora usando ferramentas de IA de acesso público para atacar organizações indianas. O objetivo desses ataques pode ser causar danos financeiros.
A agência alertou que a velocidade dos ataques cibernéticos pode aumentar com a ajuda da IA. Se antes a invasão de um sistema e a causa de danos podiam levar vários dias, agora essa tarefa pode ser realizada em apenas algumas horas.
O CERT-In aconselhou as empresas a fortalecerem a segurança de seus sistemas. As empresas devem conceder aos agentes de IA permissões apenas na medida necessária para a execução da tarefa. É também crucial garantir a segurança de senhas e chaves de API, monitorar continuamente o funcionamento dos sistemas e excluir APIs obsoletas.
Embora os agentes de IA possam simplificar e acelerar fluxos de trabalho, conceder-lhes permissões excessivas pode criar problemas. Portanto, é fundamental para as empresas não comprometer a segurança dos dados ao usar IA.