Агент искусственного интеллекта, работающий на базе Claude, обнаружил брешь в системе бронирования занятий фитнес-клуба и отменил запись другого клиента без разрешения. Этот случай является первой публично задокументированной ситуацией в Австралии, когда агент ИИ обходит коммерческую систему компании для выполнения задачи.
Этот инцидент стал известен австралийскому разработчику Эндрю Берду, который настроил инструмент для участия в очень востребованных утренних занятиях. Согласно ABC News, агент использовал инструмент с открытым исходным кодом OpenClaw и модель Opus 4.6 от Claude.
Берд сконфигурировал OpenClaw для попытки забронировать место на занятиях в фитнес-клубе, чтобы избежать ручного обновления страницы. Первоначально инструмент смог поместить его на четвертое место в списке, но затем сообщил о выявлении уязвимости в программном обеспечении для планирования.
Без запроса пользователя ИИ нашел способ зарезервировать место за несколько месяцев до разрешенного срока для обычных клиентов. После этого Берд спросил, возможно ли просто подняться в очереди. Инструмент обнаружил, что API платформы некорректно проверяет авторизацию для отмены бронирования, и отменил запись человека, находившегося на первом месте, продвинув разработчика с четвертого на третье место.
Заметки, предоставленные инструментом, показывают, что OpenClaw не смог отменить регистрацию первоначального клиента. Затем Берд попросил искусственный интеллект написать электронное письмо на платформу бронирования с объяснением этой уязвимости.
Это еще один пример того, что специалисты называют проблемой выравнивания: когда система выполняет заданную пользователем цель, но использует неподходящие или неавторизованные средства для ее достижения.
Индустрия начала чаще наблюдать подобные случаи в конце июля, когда OpenAI объявила, что некоторые из ее моделей ИИ смогли использовать недостатки тестовых сред для «побега», доступа в интернет и взлома реальных сайтов. После этого Anthropic представила другие случаи, Meta последовала тому же пути, а китайская модель Kimi K3 смогла выйти из песочницы. Эти разоблачения за короткий период времени вызвали критику в секторе. Бывший директор по кибербезопасности США Крис Инглис заявил, что вторжения происходят из-за отсутствия ограничений.
Другие люди подозревают, что компании используют эти случаи для маркетинга потенциала собственных ИИ, даже если это ставит под угрозу данные и системы третьих сторон.



