Google предупреждает, что эра автономных кибератак началась
Подробнее
Tecnoblog
tecnoblog.net

Google предупреждает, что эра автономных кибератак началась

По данным Google, фаза автономных кибератак уже началась. В недавнем отчете по безопасности компания сообщила, что преступники используют агентов искусственного интеллекта, которые способны находить уязвимости в программном обеспечении, создавать вредоносный код и проводить атаки без прямого вмешательства человека.

Это предупреждение было опубликовано Группой по анализу угроз Google (GTIG) в понедельник, 16 ноября. Группа отметила прогресс в использовании ИИ хакерами: они эволюционировали от простых запросов к чат-ботам до систем, способных управлять различными этапами вторжения.

Для Google скорость этих новых инструментов представляет собой серьезный вызов для служб безопасности, поскольку они все еще зависят от процессов ручного анализа и реагирования. Одним из примечательных открытий стала система под названием exploit_agent, которую исследователи обнаружили на общедоступном тестовом сервере в Интернете.

Этот инструмент использовал несколько моделей ИИ для проверки обновлений программного обеспечения и обнаружения потенциальных слабых мест. Фактически система сравнивала старые и новые версии программного обеспечения, чтобы выявить исправленные проблемы. На основе этой информации она генерировала код для использования этих уязвимостей и проводила тесты автоматически, без запроса человеческого одобрения на каждом шагу.

Google также восстановил данные, полученные от жертв и утилит, которые могли быть использованы после инцидента взлома. Признаки указывают на фокус на французских порталах, принадлежащих сегментам СМИ, развлечений и образования. В отчете также упоминаются инструменты CAIRN и PentAGI, которые оркестрируют различные агенты ИИ. По данным Google, эти инструменты уже наблюдались в действиях по взлому и поиску уязвимостей как в США, так и в Азии.

Этот прорыв знаменует собой изменение по сравнению с вредоносным ПО с ИИ, которое Google идентифицировал ранее. Тогда эксперты подчеркивали ограничения первых попыток использовать генеративные модели для изменения вредоносного кода. В настоящее время основное опасение заключается в возможности того, что агенты смогут сократить время между обнаружением уязвимости и ее эксплуатацией преступниками.

Для борьбы с этими новыми угрозами Google расширяет использование автоматизированных средств безопасности. Цель состоит в том, чтобы выявлять риски и ускорять исправление ошибок. Намерение состоит в том, чтобы позволить системам защиты анализировать программы, определять приоритеты уязвимостей и реагировать на инциденты со скоростью, близкой к скорости автоматизированных атак.

Эта тема уже поднималась в прошлых расследованиях. В мае Google сообщил о блокировке попытки атаки, разработанной с помощью ИИ. Другие корпорации также зарегистрировали использование этой технологии в реальных атаках. Anthropic сообщила о кампании, связанной с Claude, где преступники предположительно автоматизировали большую часть операций, направленных против организаций в разных странах.

Несмотря на прогресс, в отчете Google подчеркивается, что автономные инструменты все еще имеют ограничения: они могут генерировать неэффективный код, совершать ошибки и оставлять следы, которые облегчают обнаружение вторжений. Тем не менее, способность проводить больше атак за меньшее время подчеркивает крайнюю необходимость быстрого устранения уязвимостей.

Похожие сюжеты

Искусственный интеллект ускоряет кибератаки и увеличивает количество инцидентов в компаниях
Подробнее
olhardigital.com.br

Искусственный интеллект ускоряет кибератаки и увеличивает количество инцидентов в компаниях

Прогресс в области искусственного интеллекта (ИИ) совпадает с ростом числа киберинцидентов, о чем свидетельствуют данные страховой компании Marsh. Эта технология ускоряет темп и масштаб атак, создавая новые проблемы как для компаний, так и для страховых организаций.

За последние две недели октября клиенты Marsh сообщили о 105 киберинцидентах. Этот объем более чем вдвое превышает 48 случаев, зарегистрированных за последние две недели мая.

В интервью Reuters на этой неделе Meredith Schnur, ответственная за практику киберрисков Marsh Risk в США и Канаде, отметила признаки того, что злоумышленники используют инструменты ИИ для поиска уязвимостей в системах.

«Есть признаки того, что злоумышленники используют инструменты, основанные на ИИ и агентские инструменты для выявления уязвимостей. Поэтому я бы сказала, что мы можем отнести значительное число этих инцидентов на счет ИИ», — заявила руководительница.

Среди эксплуатируемых недостатков — программное обеспечение без обновлений безопасности, открытые системы и слабые механизмы идентификации. Искусственный интеллект позволяет преступникам находить и использовать эти уязвимости гораздо быстрее.

Популяризация таких инструментов также облегчает расширение преступной деятельности при меньших затратах, увеличивая потенциальное число целей. По мнению Schnur, это движение, в сочетании с медленной реакцией организаций на атаки и инциденты, объясняет значительную часть недавнего роста регистрации.

«ИИ сам по себе не является угрозой; это усиление риска во всех областях», — подчеркнула руководительница.

Увеличение частоты атак также должно стимулировать рынок страхования цифровых рисков. Согласно прогнозам GlobalData, премии по киберстрахованию — суммы, которые компании платят за полисы — должны расти в мире более быстро в ближайшие два года, следуя за возросшей частотой атак.

Консалтинговая фирма прогнозирует, что мировой рынок вырастет на 6,9% в 2026 году, достигнув 16,6 миллиардов долларов США (около 94,62 миллиардов бразильских реалов). В 2027 году рост должен достигнуть 10%, увеличив объем до 18,3 миллиардов долларов США (примерно 104,31 миллиарда бразильских реалов).

Популярное