Исследователи разработали ловушку внедрения промптов для отключения ИИ хакеров

Ранее кибератаки совершали люди: хакеры проникали в системы, крали данные и требовали выкуп. Однако теперь появился первый случай, когда всю кибератаку осуществил сам агент искусственного интеллекта (AI).

Детали атаки JadePuffer

Исследователи безопасности назвали этого AI-агента JadePuffer. Они утверждают, что это первый задокументированный случай, когда AI самостоятельно выполнил почти все технические аспекты атаки с использованием программы-вымогателя. Эта новость вызвала серьезную обеспокоенность в сфере кибербезопасности, поскольку способность AI к самостоятельной взлому может привести к созданию более быстрых и опасных атак в будущем.

Принцип работы программ-вымогателей

Программа-вымогатель представляет собой опасное вредоносное ПО. Когда оно попадает в систему компании или частного лица, оно шифрует или блокирует файлы и данные. После этого злоумышленники требуют выкуп за возврат данных; в противном случае данные могут быть навсегда потеряны или опубликованы в интернете. До этого момента хакеры принимали решения на каждом этапе таких атак, но в случае с JadePuffer AI самостоятельно принял множество решений.

Ход атаки и самокоррекция

Согласно исследованию облачной компании по безопасности Sysdig, JadePuffer сначала проник в сервер, воспользовавшись старой уязвимостью в системе безопасности. Затем он самостоятельно сканировал систему, находил ключи API и другие пароли, получал доступ к другим серверам и, наконец, шифровал данные. Более того, AI сам подготовил записку с требованием выкупа. Исследователи отметили поразительный момент: когда AI сталкивался с проблемой на каком-либо этапе, он самостоятельно исправлял ошибку и продолжал атаку, используя следующий метод примерно через 31 секунду, что исключало необходимость постоянных человеческих указаний.

Роль человека в атаке

Хотя первоначально некоторые отчеты предполагали, что вся атака прошла без участия человека, директор по исследованиям Sysdig позже уточнил, что человек выбрал цель, подготовил необходимую инфраструктуру и предоставил начальный доступ. Техническую часть атаки затем взял на себя AI-агент. Таким образом, AI не действовал полностью изолированно, но он выполнил многие крупные задачи вместо хакера.

Угрозы для общества и защиты

По мнению экспертов, если AI сможет самостоятельно проникать в системы, находить данные, искать пароли, исправлять ошибки и требовать выкуп, то подобные атаки смогут проводиться в большом количестве и за короткое время, что облегчит проведение крупных атак даже для мелких киберпреступников. В настоящее время инцидент JadePuffer связан с серверами компаний, и подтверждений атак на личные телефоны или ноутбуки обычных пользователей нет. Тем не менее, если инструменты, основанные на AI, будут совершенствоваться, в будущем банки, больницы, государственные учреждения и крупные корпорации могут стать более частыми мишенями, что повлечет негативные последствия для рядовых граждан.

Меры противодействия

Киберэксперты советуют компаниям и учреждениям своевременно обновлять свои программное обеспечение и серверы. Критически важно незамедлительно устранять устаревшие уязвимости, поскольку JadePuffer использовал ранее существовавшую слабость. Кроме того, значительно повысилась важность использования многофакторной аутентификации, регулярного резервного копирования и непрерывного мониторинга безопасности.