Самая масштабная угроза интернет-безопасности была известна на протяжении 22 лет, однако искусственный интеллект превратил ее в серьезный кризис всего за два дня.
В июле 2004 года исследователь безопасности Стефан Эссер предупредил о критическом недостатке в PHP — языке программирования, который лежит в основе 70% мировых веб-сайтов. Этот дефект мог позволить злоумышленнику читать пароли, красть базы данных или полностью захватывать сайты. Тем не менее, предупреждение Эссера долгое время игнорировалось.
В 2020 году другой исследователь обнаружил связанную проблему, и руководители PHP выпустили частичное исправление. Подобная уязвимость в PHP была выявлена в 2024 году, но осталась неисправленной. Возникает вопрос, почему одна из самых серьезных угроз фундаменту интернета оставалась нерешенной на протяжении двух десятилетий?
Причиной тому была трудоемкость для человека обнаружения способа использования этой уязвимости: это требовало монотонного, затратного по времени кодирования, что делало эксплуатацию уязвимости непрактичной.
Однако ИИ смог найти способ эксплуатации всего за два дня. В среду было объявлено публичное раскрытие эксплойта компанией OpenAI вместе с обновлением безопасности для устранения проблемы.
Несмотря на то, что «хорошие парни» первыми обнаружили уязвимость с помощью ИИ, это глубоко обеспокоило исследователей кибербезопасности, поскольку следующая подобная находка может поступить от тех, кто намерен использовать эту возможность во зло. Искусственный интеллект не различает, кто нажимает на спусковой крючок.
Современная цифровая инфраструктура часто сравнивается с высокой башней Дженга, поддерживаемой тонким вертикальным блоком, который обслуживается кем-то случайным в Небраске с 2003 года. 30 июля исследователи из компании по ИИ-безопасности Calif, совместно с инициативой OpenAI Patch the Planet, направили большую языковую модель на изучение блока PHP, не ожидая найти что-либо критическое.
Но 1 августа модель обнаружила метод атаки на уязвимости PHP. Через несколько дней были найдены другие, а позднее компания Wiz, базирующаяся в США и поддерживаемая Google, также обнаружила новые эксплойты для уязвимостей PHP. Патч был выпущен в среду, и компании обнародовали свои открытия. Wiz назвала это одной из самых серьезных уязвимостей в истории программного обеспечения.
Сообщество безопасности активно обсуждало это в социальных сетях. Профессор компьютерной инженерии Карнеги-Меллона Университета Вяс Секар заявил: «Индустрия безопасности давно предупреждала о грядущем апокалипсисе безопасности, потому что ИИ может делать такие вещи очень быстро — лучше, чем люди. Это может быть началом многих. Это сигнал к пробуждению».
Секар отмечает, что существует множество других уязвимостей, подобных PHP, которые еще предстоит обнаружить и использовать. Широкая доступность инструментов ИИ значительно снизила порог входа для хакеров, желающих воспользоваться потенциальными уязвимостями. Этот факт настолько встревожил Anthropic, что компания приостановила развертывание своей модели Mythos в июне, поскольку она была очень эффективна в выявлении уязвимостей безопасности и векторов атаки, что привело к тому, что правительство США классифицировало ее как угрозу национальной безопасности.
Тем не менее, исследователь Calif Райан Остин отметил в своем блоге, что компания не использовала никаких специальных моделей ИИ, которые не были общедоступны. Ник Роджерс, генеральный директор Fieldwork AI, заявил, что демократизация инструментов ИИ показала, что «безопасность путем истощения» больше не является жизнеспособным средством защиты от злоумышленников.
На протяжении 22 лет PHP функционировал как банк без охранников. Любой мог подойти к хранилищу и забрать деньги, если у него было достаточно времени, чтобы проверить каждый код. Это была такая тяжелая работа, что никому не стоило тратить на нее время. Но ИИ не устает и может взламывать сейфы гораздо быстрее людей.
Роджерс подчеркнул: «Доказать теоретическую (уязвимость) и показать, что ее можно эксплуатировать, — это довольно утомительная и механическая работа. ИИ может продолжать работать, пока не найдет решение. Вам даже не нужно пытаться, вы можете пить кофе, пока он это делает».
По сути, PHP является движком, питающим большую часть интернета. До того, как он был исправлен в среду, в нем имелся фатальный дефект. Уязвимость позволяла злоумышленнику вмешиваться в то, как PHP обрабатывает запросы для запуска веб-сайтов. Если сервер выходил из строя из-за нехватки памяти, он оставлял устаревшие данные, которые могли быть использованы для утечки информации или выполнения вредоносного кода.
Эксплойт можно представить как ситуацию в загруженной ресторанной кухне. Клиенты могут перегрузить шеф-повара слишком большим количеством сложных заказов, из-за чего он бросает работу посреди ужина, оставляя грязную посуду, сырые ингредиенты и рецепты на столе. Затем, когда нанимают нового шеф-повара, он подает зараженную еду на грязной посуде и даже отправляет некоторые рецепты клиентам вместе с заказом.
Хотя уязвимость долгое время считалась теоретически эксплуатируемой, выяснение способа ее реализации оказалось чрезвычайно сложным. Хакеры должны были заставить сервер выйти из строя из-за нехватки памяти в определенный момент, чтобы обойти ограничения безопасности PHP. Когда исследователи направили ИИ на эту проблему, он быстро нашел несколько способов обхода этого ограничения. Одно решение использует несоответствие в том, как PHP измеряет сжатые и декодированные файлы, фактически позволяя сжатым файлам пройти через ворота, чтобы файл распаковался сам и взял контроль изнутри. Другая атака воздействует на PHP с помощью глубоко вложенных структур файлов, которые перегружали структуру каталогов PHP, вызывая сбой памяти.
