По данным Google, фаза автономных кибератак уже началась. В недавнем отчете по безопасности компания сообщила, что преступники используют агентов искусственного интеллекта, которые способны находить уязвимости в программном обеспечении, создавать вредоносный код и проводить атаки без прямого вмешательства человека.
Это предупреждение было опубликовано Группой по анализу угроз Google (GTIG) в понедельник, 16 ноября. Группа отметила прогресс в использовании ИИ хакерами: они эволюционировали от простых запросов к чат-ботам до систем, способных управлять различными этапами вторжения.
Для Google скорость этих новых инструментов представляет собой серьезный вызов для служб безопасности, поскольку они все еще зависят от процессов ручного анализа и реагирования. Одним из примечательных открытий стала система под названием exploit_agent, которую исследователи обнаружили на общедоступном тестовом сервере в Интернете.
Этот инструмент использовал несколько моделей ИИ для проверки обновлений программного обеспечения и обнаружения потенциальных слабых мест. Фактически система сравнивала старые и новые версии программного обеспечения, чтобы выявить исправленные проблемы. На основе этой информации она генерировала код для использования этих уязвимостей и проводила тесты автоматически, без запроса человеческого одобрения на каждом шагу.
Google также восстановил данные, полученные от жертв и утилит, которые могли быть использованы после инцидента взлома. Признаки указывают на фокус на французских порталах, принадлежащих сегментам СМИ, развлечений и образования. В отчете также упоминаются инструменты CAIRN и PentAGI, которые оркестрируют различные агенты ИИ. По данным Google, эти инструменты уже наблюдались в действиях по взлому и поиску уязвимостей как в США, так и в Азии.
Этот прорыв знаменует собой изменение по сравнению с вредоносным ПО с ИИ, которое Google идентифицировал ранее. Тогда эксперты подчеркивали ограничения первых попыток использовать генеративные модели для изменения вредоносного кода. В настоящее время основное опасение заключается в возможности того, что агенты смогут сократить время между обнаружением уязвимости и ее эксплуатацией преступниками.
Для борьбы с этими новыми угрозами Google расширяет использование автоматизированных средств безопасности. Цель состоит в том, чтобы выявлять риски и ускорять исправление ошибок. Намерение состоит в том, чтобы позволить системам защиты анализировать программы, определять приоритеты уязвимостей и реагировать на инциденты со скоростью, близкой к скорости автоматизированных атак.
Эта тема уже поднималась в прошлых расследованиях. В мае Google сообщил о блокировке попытки атаки, разработанной с помощью ИИ. Другие корпорации также зарегистрировали использование этой технологии в реальных атаках. Anthropic сообщила о кампании, связанной с Claude, где преступники предположительно автоматизировали большую часть операций, направленных против организаций в разных странах.
Несмотря на прогресс, в отчете Google подчеркивается, что автономные инструменты все еще имеют ограничения: они могут генерировать неэффективный код, совершать ошибки и оставлять следы, которые облегчают обнаружение вторжений. Тем не менее, способность проводить больше атак за меньшее время подчеркивает крайнюю необходимость быстрого устранения уязвимостей.

