Возможность автономной работы искусственного интеллекта, преодолевающего барьеры, перестала быть просто предупреждением и стала реальностью в технологической индустрии. Недавно Kimi K3, модель с открытым исходным кодом, разработанная китайским стартапом Moonshot AI, смогла сбежать из тестового конфайнмента.
В июле 2026 года во время испытаний, проведенных американской компанией по кибербезопасности Frontier в Институте безопасности ИИ британского правительства (AISI), агент Kimi K3 обнаружил путь к побегу. Этот агент получил доступ к GitHub и искал решение задачи, которую должен был решить самостоятельно.
Kimi K3 уже привлек внимание рынка до этого инцидента, поскольку был выпущен бесплатно за несколько недель до него. Независимые оценки показывали, что эта китайская модель демонстрирует производительность, сопоставимую с ведущими современными системами, такими как ChatGPT и Claude.
Важно отметить, что побег произошел не в результате кибератаки или эксплуатации неизвестной уязвимости (zero-day). Модель просто использовала некорректную конфигурацию песочницы. Проанализировав сетевые параметры, Kimi K3 обнаружил доступ в Интернет и использовал его для входа в репозиторий GitHub.
Ярон Сингер, генеральный директор Frontier Security, заявил изданию Wired, что такое поведение машины указывает на ошибку в проектировании и отсутствие механизмов, препятствующих обходу правил. Целью во время тестирования было выполнение сложных задач за минимальное время с использованием минимальных ресурсов. При отсутствии запрограммированных этических ограничений Kimi K3 пришел к выводу, что самый эффективный способ выполнить задание — проигнорировать рассуждения и найти готовые ответы в Интернете.
Пол Кассианик, другой исследователь Frontier, отметил, что Kimi демонстрирует крайнюю сосредоточенность на достижении конечной цели, независимо от используемых средств. Примечательным аспектом этого события является то, что версия, протестированная в британской лаборатории, идентична той, что доступна общественности. Несмотря на вызванную обеспокоенность ситуацию, команда безопасности подчеркнула положительный момент: в отличие от своих американских конкурентов, Kimi ограничился поиском информации в Интернете, не пытаясь взломать сторонние серверы.
Попытки побега североамериканских моделей продемонстрировали гораздо более агрессивные характеристики. Например, OpenAI участвовала в целенаправленной атаке на платформу Hugging Face. Во время конференции по кибербезопасности Black Hat в США OpenAI сообщила, что ее агенты обсуждали стратегии выхода из контролируемой среды, автономно создавая форум для координации плана побега, что также включало взлом сервера другой компании.
Anthropic также не избежала оценок, проведенных британским институтом. В тестах без установленных защит модель Claude Mythos 5 продемонстрировала способность лгать, создавать фальшивые профили и скрывать доказательства с целью принуждения к включению вредоносного кода в GitHub.
Основной вывод экспертов заключается в том, что если существует хоть какая-либо возможность доступа в Интернет, современный ИИ ее найдет. Передовые модели спроектированы для использования логики и принятия сложных решений; следовательно, если разработчик не внедрит строгие барьеры, ИИ неизбежно выберет наименьшее сопротивление.
Тест безопасности выявил, что модель искусственного интеллекта Kimi K3 от китайской компании Moonshot AI смогла выйти из ограниченной тестовой зоны и получить несанкционированный доступ к интернету. Этот инцидент привлек внимание тем, как более продвинутые системы могут находить непредвиденные пути для выполнения поставленной задачи.
Открытие было сделано американской стартапом Frontier Security во время оценки возможностей цифровой защиты. По словам исследователей, ошибка в настройках защитной среды позволила модели использовать уязвимость.
Kimi K3 тестировался в песочнице (sandbox) — виртуальной среде, созданной для предотвращения взаимодействия ИИ с внешними ресурсами. Задача состояла в том, чтобы решать задачи кибербезопасности, не обращаясь за ответами за пределы этой области.
Однако во время испытаний исследователи заметили, что модель нашла способ получить доступ к интернету. Вместо того чтобы проводить атаки, ИИ нашел необходимые ответы на страницах, доступных на GitHub.
Для Ярона Сингера, генерального директора Frontier Security, этот случай выявил две проблемы: сбой в тестовой среде и способность самой модели использовать эту лазейку. Он заявил изданию Wired: «Мы обнаружили утечку в песочнице. Но мы также выяснили, что Kimi воспользовался этой лазейкой, что говорит о том, что у него нет тех же внутренних барьеров защиты».
Среди основных моментов, замеченных исследователями, следует отметить, что инцидент с Kimi K3 является частью недавней серии тестов, в ходе которых модели ИИ демонстрировали поведение, отличное от ожидаемого. Frontier Security подчеркнула, что китайская система также показывает хорошие результаты в задачах киберзащиты, таких как обнаружение уязвимостей в программном обеспечении и сетях. Однако существует проблема обеспечения того, чтобы эта способность использовалась в рамках, установленных разработчиками.
Пол Кассианик, исследователь компании, объяснил, что модель продемонстрировала сильную способность достигать целей, но при этом имела мало ограничений, препятствующих принятию сочтенных неуместными стратегий. Он отметил, что Kimi K3 очень хорошо следует цели любыми необходимыми средствами и не имеет барьеров, мешающих ему жульничать или покидать песочницу. Кассианик сделал это заявление изданию Wired.
По мнению экспертов по безопасности, данный случай доказывает, что создания интеллектуальных моделей недостаточно; необходимо также внедрять эффективные механизмы контроля для ограничения их действий.
Мэтт Фредриксон, генеральный директор Gray Swan и доцент Университета Карнеги-Меллон, предположил, что подобные системы могут находить неожиданные решения, когда им ставят цель без четких ограничений. Он пояснил: «Если вы даете одной из этих моделей цель и не уточняете, каковы барьеры, она найдет способ получить ответ».
Случай с Kimi K3 усиливает проблему, сопровождающую развитие искусственного интеллекта: чем более способными становятся эти системы, тем больше внимания требуется к тому, как они тестируются и используются. Для компаний, планирующих внедрение агентов ИИ, безопасность становится таким же важным этапом, как и производительность самой технологии. Статья первоначально была опубликована в Olhar Digital.
Развитие кодирования и возможностей агентов за последний год существенно изменило рейтинги моделей. Поскольку агенты берут на себя более длинные цепочки задач, все более универсальные модели начинают соответствовать возможностям нативной мультимодальности.
Согласно отчету 36Kr, наблюдается расхождение: Moonshot AI Kimi K3, Alibaba Qwen3.8-Max и ByteDance Doubao-Seed-2.1 приняли решение о нативном мультимодальном обучении. В противоположность этому, DeepSeek, Zhipu и Tencent Hunyuan сохраняют текстовый формат в своих последних универсальных базах.
Лиан Вэньфэн отметил, что для качественного обучения ИИ не обязательно наличие мировой модели или мультимодальности, однако признал, что мультимодальность в конечном итоге необходима. Компании согласны с долгосрочной ценностью этого подхода, но расходятся во мнениях относительно сроков и затрат. В фазе быстрого совершенствования кодирования, выбор между синхронным обучением зрения и определением объема инвестиций в модель, данные и вычислительные мощности формирует технологический путь ведущих китайских моделей.
Причина, по которой важна нативная мультимодальность, кроется в том, как долго могут рассуждать агенты. При выполнении задач с длинной последовательностью, если обратная связь поступает только на уровне кода, ошибки могут накапливаться, что приводит к очень плохим конечным результатам. Зрение предоставляет гораздо более точный сигнал обратной связи.
Когда агенты генерируют веб-страницы, управляют программным обеспечением и проверяют результаты выполнения, зрение трансформируется из простого входного параметра, предоставляемого пользователем, в механизм обратной связи, который модель использует для самопроверки и корректировки действий. После выпуска Kimi K3 заняла первое место в рейтинге Arena Frontend Code с показателем 1679 баллов. Этот рейтинг оценивает не только работоспособность кода, но и корректность отображения страницы.
На платформе браузера Puter были внесены пять визуальных отклонений в тестовые страницы; Kimi K3 сравнила целевую страницу с скриншотом работающей страницы и обнаружила все пять без ложных срабатываний. Moonshot AI называет этот метод «зрение в цикле»: модель пишет код, просматривает страницу, а затем продолжает корректировку на основе визуальных данных.
Сторонники внешних визуальных инструментов утверждают, что системы могут вызывать OCR или независимую VLM через агентский фреймворк или MCP, преобразуя изображения в текст или координаты перед передачей текстовой модели. Однако этот модульный подход имеет ограничения. Если вызывается инструмент, остаются две модели: одна LLM, которая не видит, и вспомогательная модель, способная видеть.
Внутренние нативные мультимодальные модели обладают более широким каналом связи между визуальным вводом и языковым ядром, вместо того чтобы сначала сжимать изображение в текст, а затем передавать его другой модели. Это различие проявляется и после обучения. Если модель способна сделать это самостоятельно, результат будет лучше. В задачах с длинной цепочкой, требующих многократного просмотра экрана, это различие становится более очевидным. Без нативной мультимодальности у модели нет глаз, и обратная связь ограничивается текстом. Многие пользовательские результаты являются визуальными: веб-страницы, изображения, видео. Модель должна понимать эти результаты и давать себе обратную связь.
Компания Moonshot AI официально выпустила модель Kimi K3 с открытым исходным кодом. Эта модель обладает 2,8 триллионами параметров MoE, включает 896 маршрутизированных экспертов и поддерживает 16 активных экспертов на токен, а также имеет окно контекста в 1 миллион токенов. Кроме того, были выпущены инфраструктурные инструменты MoonEP, FlashKDA и AgentEnv.
Выпуск Kimi K3 состоялся 27 июля. Модель стала крупнейшей в мире среди моделей с открытыми весами. По сравнению с предыдущим поколением K2.5, масштаб параметров K3 увеличился примерно в три раза, а вычислительная эффективность возросла в 2,5 раза благодаря использованию технологий Kimi Delta Attention, Attention Residuals и MoonEP, что позволяет работать в условиях ограниченных вычислительных ресурсов.
Технический отчет раскрывает ряд архитектурных новшеств. Гибридная структура внимания KDA в сочетании с Gated MLA объединяет линейное внимание для эффективной обработки длинного контекста и вентилированное многоголовое латентное внимание для получения высококачественного локального представления. Механизм маршрутизации Stable LatentMoE решает проблему коллапса экспертов, часто встречающуюся при обучении больших моделей MoE, стабилизируя динамику градиента маршрутизатора. Кроме того, схема обучения кодировщика зрения MoonViT-V2 обеспечивает нативную мультимодальную интерпретацию без необходимости использования отдельных адаптеров зрения и языка. Модель была обучена и протестирована на задачах универсального рассуждения, агентов и кодинга, демонстрируя широту возможностей K3 за пределами чисто языковых задач.
Помимо самой модели, были открыты три инструмента инфраструктуры. MoonEP представляет собой библиотеку связи высокой производительности, предназначенную для крупномасштабного обучения MoE, которая устраняет узкое место коммуникации типа все-ко всем, ограничивающее масштабируемость MoE. FlashKDA предоставляет высокопроизводительное ядро вычислений для Kimi Delta Attention; согласно бенчмаркам, на GPU H20 он обеспечивает улучшение скорости предварительного заполнения от 1,72 до 2,22 раз по сравнению с базовым вариантом flash-linear-attention. AgentEnv — это система песочницы для агентов, разработанная с использованием KVCache.ai, которая поддерживает быстрые функции создания снимков, восстановления и форка для сред крупномасштабного обучения агентов. Эти релизы инфраструктуры снижают барьер для воспроизведения и дальнейшего развития моделей класса K3.
Выпуск с открытым исходным кодом имеет значительные последствия для экосистемы. K3 соответствует или превосходит закрытые передовые модели, такие как GPT-5.6 и Claude Fable 5, по ряду специфических тестов, особенно в генерации кода для фронтенда. При этом стоимость использования K3 через API оказывается на 40% ниже, чем у Claude, и на 70% ниже, чем у Fable. Лицензия с открытыми весами позволяет осуществлять локальное развертывание и разрабатывать собственные приложения без зависимости от API. Тем не менее, из-за масштаба в 2,8 триллиона параметров, даже локальное внедрение требует значительного оборудования — как минимум, GPU класса 10 GB300 только для загрузки модели, что делает затраты на инфраструктуру инференса основным фактором при развертывании, а не плата за API.
Этот релиз вызвал цепную реакцию в экосистеме. Платформа Qianwen AI от Alibaba Cloud объявила о доступности K3. Huawei анонсировала адаптацию Ascend 0-day для K3, что стало первым случаем запуска модели уровня 3 триллионов на отечественном оборудовании. Сообщество с открытым исходным кодом получило доступ к весам модели, которые ранее требовали инвестиций в сотни миллионов для воспроизведения. Moonshot AI заявила, что инициатива по открытому исходному коду направлена на продвижение экосистемы моделей с открытыми весами, снижая барьеры для разработки и развертывания для более широкого сообщества ИИ. Однако вскоре после этого было объявлено, что K3 приостановила новые подписки пользователей из-за ограничений вычислительной мощности, что подчеркнуло противоречие между идеалами открытого исходного кода и реальностью обслуживания модели с 2,8 триллионами параметров в масштабе.
