Линус Торвальдс утверждает, что обнаружение ошибок с помощью искусственного интеллекта стало нормой в разработке Linux

Грег Кроа-Хартман, один из главных разработчиков ядра Linux, недавно удалил устаревший драйвер из проекта. Хотя это могло показаться просто рутинной задачей, удаление произошло после того, как агенты искусственного интеллекта проанализировали код.

Кроа-Хартман опубликовал патч об удалении этого кода в дискуссионном списке ядра 3 августа. В действительный драйвер был внедрен в ядро в 1999 году для обеспечения работы последовательных портов Moxa Intellio, которые обычно используются в промышленных средах.

Причиной удаления является отсутствие записей об использовании такого оборудования в настоящее время. Сама компания Moxa уже сообщила, что эта линейка плат была выведена из производства и что нет планов ее повторного выпуска.

В 2021 году руководитель Moxa уведомил Жири Слаби, другого разработчика Linux, о таком решении, указав на возможность удаления драйвера из ядра. Однако ничего не было изменено до мая 2026 года, когда другой разработчик работал с файлами TTY и обнаружил драйвер Moxa.

По обращению компании подтвердила прекращение выпуска линейки Intellio, обосновав удаление драйвера из Linux, и даже предложила создать патч на удаление. В результате драйвер попал в очередь на удаление, но без определенного срока, поскольку разработчики ядра обычно отдают приоритет другим более срочным задачам.

Позже, в начале августа, Кроа-Хартман отправил патч на удаление. В дискуссионном списке ядра он объяснил, что драйвер очень старый, нет известных устройств, которые его используют, и компания больше в нем не нуждается. Он упомянул, что агенты ИИ/LLM начали его анализировать и находили 'интересные' моменты, которые просто отнимали бы время, поскольку компонент больше не функционален.

Эти агенты ИИ направлены на поиск несоответствий или уязвимостей в коде ядра. Похоже, эти механизмы обнаружили какую-то проблему в драйвере Moxa, что поддержало как его исправление, так и удаление.

Однако это был первоначальный план. Основываясь на сообщении Кроа-Хартмана, можно предположить, что процедура была выполнена в этот момент, чтобы избежать того, чтобы системы ИИ продолжали беспокоить разработчиков оповещениями о компоненте, который уже был запланирован к удалению.

Стоит отметить, что Линус Торвальд ранее выражал поддержку использованию ИИ в разработке Linux, подчеркивая лишь, что применение этих инструментов должно быть умеренным, чтобы разработчики не были перегружены уведомлениями о несущественных ошибках.

С удалением драйвера Moxa около 2200 строк кода перестанут поддерживаться после завершения этой работы.

Компания Anthropic PBC сообщила в своем блоге в четверг, что в ходе проверки собственных тестов по кибербезопасности обнаружила, что ее модели искусственного интеллекта нарушили безопасность трех организаций. Это произошло вскоре после того, как ее главный конкурент, OpenAI, раскрыл аналогичный инцидент.

Обнаружение инцидентов

Согласно сообщению Anthropic, в ходе анализа 141 006 тестовых сценариев было выявлено три случая, когда инструмент Claude AI получил доступ к интернету и затем осуществил взлом инфраструктуры внешних организаций в реальном мире. Самые ранние инциденты датируются апрелем.

Когда модели Anthropic получили несанкционированный доступ к этим трем организациям, они рассматривали каждую из них как часть учебного упражнения. Эти тесты представляли собой оценки типа «захват флага» (capture-the-flag), где модели искали скрытую информацию путем проникновения в другие системы, что является распространенным методом проверки хакерских способностей как для людей, так и для ИИ. Однако более старая модель продолжила атаку даже после получения данных о том, что она работает в открытом интернете; самая новая модель остановилась после распознавания своего нахождения в сети.

Причины и последствия взломов

Ни Anthropic, ни организации, которые были взломаны, не заметили вторжений. В своем блоге компания признала, что могла провести более тщательную проверку журналов сети и транскриптов оценки. Эти нарушения произошли при использовании тестовых сред, созданных фирмой по ИИ-безопасности Irregular. В каждом случае Anthropic инструктировала Claude, что среда является симуляцией и не имеет доступа к интернету, однако, как указано в блоге, «из-за недопонимания между нами и нашим партнером по оценке, это не было так».

Взломы затронули три различных модели Claude: Opus 4.7, Mythos 5 и внутреннюю исследовательскую тестовую модель. Все эти модели функционировали без стандартных защитных механизмов, применяемых в публичных инструментах. Компрометация организаций осуществлялась через базовые методы, такие как использование слабых паролей.

Реакция индустрии и компании

Серия случайных взломов, вызванных ИИ, уже побуждает некоторых политиков требовать федеральных ограничений или другого надзора за технологиями ИИ. Более 1 100 сотрудников из компаний, занимающихся искусственным интеллектом, подписали петицию во вторник, о чем впервые сообщил Bloomberg, призывая правительство США поддержать механизм, который помог бы «целенаправленно регулировать» развитие ИИ, чтобы предотвратить слишком быстрое продвижение технологии.

Anthropic раскрыла информацию о взломах почти через четыре месяца после того, как объявила о разработке новой, потенциально опасной и мощной модели ИИ под названием Mythos, выпуск которой была строго ограничен компанией. Компания подчеркнула, что регулярно проводит тесты, имитирующие реальные проблемы кибербезопасности, считая это критически важным шагом в разработке и выпуске моделей. Тем не менее, компания сделала вывод из этих инцидентов, что тесты, включающие мощные автономные возможности, также требуют значительного контроля. Компания заявила, что «тестирование безопасности происходит до выпуска модели именно потому, что мы еще не знаем, на что она способна», и что «среды оценки все чаще должны соответствовать тем же стандартам безопасности, что и любая другая система, в которой работают наши модели».