Япония внедрит искусственный интеллект для обнаружения уязвимостей сетей и противодействия хакерам

С развитием искусственного интеллекта (ИИ) устройства, подключенные к интернету и обменивающиеся данными в так называемом «интернете вещей» (IoT), могут стать источником проблем. Согласно отчету компании Anthropic, опубликованному в октябре, вредоносное программное обеспечение на базе ИИ способно устанавливаться на такие устройства и распространяться автономно.

Компьютерные вирусы, которые самостоятельно перемещаются с одной машины на другую, известны как «черви». Они следуют заранее заданному плану, используя известные уязвимости в безопасности или точки доступа с недостаточной защитой. Обычно решение этой проблемы заключается в исправлении ошибок и закрытии брешей в системе безопасности. Однако в случае с «червями» на основе ИИ ситуация становится значительно сложнее и опаснее.

Это связано с тем, что этот более продвинутый вид «червей» способен самостоятельно решать проблемы и адаптироваться к различным типам устройств. Исследователи из Anthropic, разработчика Claude, продемонстрировали, что приложения ИИ могут функционировать без необходимости использования крупного центра обработки данных.

В контролируемой тестовой среде исследователи создали симуляции восьми устройств Android. Модель ИИ, которая была протестирована, установилась на одном из этих устройств, затем скопировалась с него и заразила остальные. В четырех из пяти попыток модель достигла всех восьми целей, а в одной — заразила семь.

Если бы такая модель ИИ была объединена с вредоносным программным обеспечением, «червь» смог бы научиться обходить меры безопасности. По оценкам разработчиков Anthropic, на это потребуется примерно от одного до двух дней. Кроме того, ИИ потенциально может объединить зараженные устройства в сеть ботов.

Хотя зараженное устройство имеет ограниченные вычислительные возможности, чем больше устройств будет заражено, тем быстрее сможет распространиться «червь». Подключенные устройства теоретически могут быть отключены от сети, а уязвимости безопасности могут быть исправлены. Тем не менее, децентрализованная структура такого вредоносного ПО сильно затруднит его локализацию.

Anthropic описывает данный тип заражения как «цифровой слизистый мох», который медленно растет. Компания полагает, что меньшие модели ИИ смогут достичь такого уровня способности к распространению еще в 2026 году.

Искусственный интеллект ускоряет процесс обнаружения уязвимостей в программном обеспечении, сокращая время, отведенное на их исправление. Эксперты по кибербезопасности, опрошенные Reuters, прогнозируют новые перебои в работе цифровых сервисов, поскольку компании и правительства пытаются подготовиться к эксплуатации этих недостатков.

Исследование, проведенное компанией VulnCheck и запланированное к публикации в ближайшие дни, показывает, что количество обнаруженных цифровых уязвимостей удвоилось по сравнению с предыдущим годом. Проблемы, зарегистрированные на этой неделе на государственных сайтах в Европе, демонстрируют давление, которое могут вызвать подобные открытия.

Перебои начались в среду после обнаружения уязвимостей в PHP, языке программирования, который используется во многих частях интернета. Чтобы предотвратить атаки, операторы спешно занимались исправлением своих систем. Некоторые временно отключили сайты, поскольку не могли применить обновления до возможных вторжений.

Эта гонка за исправлениями произошла в неделю, которая уже была отмечена другими проблемами безопасности. Были раскрыты уязвимости в Node.js и Plex, а также инциденты, связанные с платформой искусственного интеллекта LiteLLM и платформой разработки Railway. Индийский сертификационный орган eMudhra также привлек внимание из-за использования крайне слабого криптографического ключа, что могло поставить под угрозу пользователей интернета.

Мэттью Принс, генеральный директор Cloudflare, заявил Reuters, что знает о других серьезных уязвимостях в программном обеспечении, жизненно важном для функционирования сети. По его оценке, сектор столкнется с трудными месяцами впереди. Он отметил: «Думаю, у нас будет несколько лет, когда каждую неделю будет казаться, что небо падает».

Ранее поиск уязвимостей в сложных программах требовал специализированных знаний. Разработка инструментов для их эксплуатации могла занимать недели или месяцы, предоставляя ответственным за системы время для подготовки исправлений и распространения обновлений. Однако искусственный интеллект сокращает этот промежуток времени. Модели способны непрерывно анализировать большие базы кода, находить проблемы и помогать разрабатывать инструменты для эксплуатации всего за несколько часов.

Шейн Фрай, технический директор RunSafe Security, подчеркнул изменение темпа этого процесса. Он заявил: «То, что фундаментально и неоспоримо меняется, — это время, необходимое как для обнаружения уязвимостей, так и для того, чтобы противники смогли их использовать».

В свете этой ситуации команды безопасности должны справляться с задачами, выходящими за рамки простого выявления ошибок в коде. Специалистов беспокоит сокращение времени реагирования, однако нет единого мнения о том, что ускоренное обнаружение уязвимостей приведет к волне успешных атак.

Даниэль Штенберг, ведущий разработчик инструмента передачи файлов curl, отмечает, что некоторые уязвимости, найденные моделями ИИ, являются сложными и трудноэксплуатируемыми. Рами Рахман из компании по безопасности ArmorCode также подчеркивает, что публикация большего числа уязвимостей не обязательно означает увеличение числа успешных атак. Случай с PHP служит примером этой разницы: компания по разведке угроз Hunt.io обнаружила агрессивные попытки эксплуатации, но сообщила, что к 14 часам четверга по восточному побережью США злоумышленники, которые отслеживались, по-видимому, еще не смогли разработать функциональный инструмент для использования этой уязвимости.

Принс сообщил о признаках вторжений, связанных с уязвимостью. Тем не менее, он считает, что ускоренное обнаружение проблем может принести долгосрочную пользу, позволяя исправлять ошибки, которые оставались скрытыми годами.