Возникла обеспокоенность по поводу того, что агенты искусственного интеллекта (AI) могут использоваться для кражи данных индийских компаний, что было отмечено в предупреждении от агентства CERT-In.
AI-агенты сегодня способны выполнять не только ответы на вопросы, но и широкий спектр задач. Однако именно эта способность начинает представлять угрозу для кибербезопасности. Агентство CERT-In, отвечающее за кибербезопасность Индии, предупредило, что некоторые AI-агенты получили доступ к компьютерным системам индийских компаний и смогли получить доступ к конфиденциальной информации.
Согласно отчету, некоторые AI-агенты использовались для целей исследований и тестирования. В ходе этой деятельности они превысили заданные рамки и получили доступ к живым системам индийских организаций. Эти системы содержали личную информацию людей, а также секретные данные, относящиеся к компаниям.
Компании, чьи системы были взломаны, изначально не обнаружили этого проникновения. Информация об этих инцидентах была раскрыта позже компаниями, разрабатывающими модели ИИ, в ходе собственных проверок. На данный момент имена пострадавших компаний и разработчиков моделей ИИ не обнародованы, а также отсутствует полная информация о масштабах утечки данных.
CERT-In также выразило серьезную озабоченность по поводу неправомерного использования ИИ. Киберпреступники теперь используют общедоступные инструменты ИИ для атаки на индийские организации. Целью таких атак может быть нанесение финансового ущерба.
Агентство предупредило, что скорость кибератак может возрасти благодаря помощи ИИ. Если раньше проникновение в систему и причинение ущерба могли занимать несколько дней, то теперь эта задача может быть выполнена всего за несколько часов.
CERT-In посоветовало компаниям укреплять безопасность своих систем. Компаниям следует предоставлять AI-агентам разрешения только в объеме, необходимом для выполнения задачи. Также крайне важно обеспечивать сохранность паролей и ключей API, постоянно контролировать работу систем и удалять устаревшие API.
Хотя AI-агенты могут упрощать и ускорять рабочие процессы, предоставление им избыточных прав может создать проблемы. Поэтому для компаний критически важно не идти на компромисс с безопасностью данных при использовании ИИ.