DeepBlue Technology и Huawei представили Wowoker — рабочий телефон на HarmonyOS для работы торговых агентов

AI-компания HongYun, базирующаяся в Пекине, представила HyperLM V2.5 — новую версию своей платформы для комбинированного обучения и инференса больших моделей. Об этом сообщили издания IT Home и ifeng Tech 3 ноября. Компания утверждает, что стала первой, кто осуществил глубокую адаптацию к чипу Huawei Ascend 950DT, полностью совместима с системой Atlas 850E SuperPoD с воздушным охлаждением и прошла техническую сертификацию Huawei для Ascend Native.

HongYun считает, что определение поддержки часто бывает слишком расплывчатым, когда модель считается поддерживаемой лишь после установки и генерации токенов. Целью компании является помощь государственным и корпоративным клиентам, использующим частные развертывания, в получении максимальной производительности от новых ускорителей.

Компания описывает Ascend 950DT как флагманский чип для задач, требующих высокой пропускной способности, таких как длительное взаимодействие в чатах, обработка длинных документов и непрерывное рассуждение агентов. Кроме того, отмечается, что система Atlas 850E с воздушным охлаждением может быть интегрирована в существующие центры обработки данных без необходимости модернизации инфраструктуры.

HyperLM V2.5 адаптируется на нескольких уровнях. На уровне межсоединений платформа поддерживает технологию UnifiedBus 2.0 от Huawei, которая обеспечивает пропускную способность системного межсоединения в размере 13,4 ТБ/с, предотвращая узкие места при передаче трафика между картами, что важно для длинных контекстов или разделения этапов предварительного заполнения и декодирования. На уровне оператора система оптимизирована для инференса mxFP4, позволяя использовать 14,2 PFLOPS одного узла.

Платформа поддерживает последние модели с открытым исходным кодом, включая Qwen, GLM и DeepSeek, а ее планировщик был перестроен с учетом профиля памяти и пропускной способности 950DT.

Выпуск HyperLM V2.5 включает пять новых возможностей. Разделение предварительного заполнения и декодирования позволяет изолировать два этапа в независимые пулы ресурсов, чтобы они не конкурировали во время пиковых нагрузок. Многоуровневое кэширование KV повторно использует системные подсказки, часто встречающиеся контексты и фиксированные шаблоны сессий для снижения объема повторяющихся вычислений. Виртуализация vNPU сегментирует чипы Ascend 950DT, 910C и 910B, предоставляя гранулированные квоты и изоляцию для вычислений AI Core и памяти HBM, а также поддерживает горячую миграцию и автоматическое перепланирование при сбое оборудования.

Также добавлена унифицированная шлюзовая модель, совместимая с протоколом OpenAI, которая управляет маршрутизацией, ограничением скорости, бета-релизами и A/B-тестированием. Комплексный мониторинг всего стека отслеживает нагрузку, использование памяти, пропускную способность, задержку и QPS, предоставляя оповещения и автоматическую локализацию сбоев.

Для регулируемых отраслей, таких как государственное управление, энергетика, транспорт и финансы, платформа предусматривает разделение ролей администратора, службы безопасности и аудитора, многоуровневый контроль классификации и полные журналы операций, а также учет вычислительных мощностей, аудит вызовов моделей и статистику использования по каждому проекту.

HongYun была инкубирована Западным институтом вычислительных технологий при Китайской академии наук, а ее основная команда сформирована сотрудниками Института вычислительных технологий и Sugon. В 2020 году компания присоединилась к партнерской программе Ascend от Huawei. Компания планирует продолжать развитие на базе аппаратного обеспечения Ascend и Hygon DCU, уделяя особое внимание гетерогенному планированию, ускорению инференса, кэшированию и приложениям для агентов.

На мероприятии GOSIM Shenzhen 2026, состоявшемся 16 октября, Huawei представила инструменты для разработчиков, которые функционируют поверх ее открытого стека CANN, вместо того чтобы просто повторить ранее сделанное заявление об открытом исходном коде. Лисин Шао, генеральный менеджер бизнеса CANN в Huawei, объяснил, что CANN выступает в роли гетерогенного вычислительного уровня между фреймворками искусственного интеллекта и процессорами Ascend, а также подробно описал сервисы сообщества, предназначенные для практического применения студентами и инженерами.

Ранее в 2025 году в англоязычных изданиях упоминался план Huawei по широкому открытию CANN. Новая информация касается рабочей базы. CANNLab предоставляет бесплатные облачные среды онлайн для работы с Ascend C, PyPTO и связанными операторами, а также включает проверки развертывания моделей и их настройку. CANNBot представлен как многоагентный помощник, способный генерировать код, самостоятельно устранять неполадки, замыкать цикл ремонта и проводить сквозную настройку.

CANNJudge добавляет онлайн-доски для соревнований, позволяя учащимся практиковаться на задачах с оценкой, в то время как CANN-Learning-Hub объединяет учебные пособия и интерактивные примеры для работы с операторами от начального до продвинутого уровня. Управление осуществляется через технический руководящий комитет, комитет по управлению проектами и специальные группы по интересам.

В отраслевых группах по интересам уже перечислены области, такие как интеллектуальный транспорт, воплощенный интеллект, энергетика и науки о жизни, при этом открыты соответствующие репозитории кода для совместной работы университетов, лабораторий и компаний. CANN-Samples содержит примеры оптимизации для обучения и инференса, включая пути для одного чипа, ориентированные на классы с ограниченными вычислительными мощностями.

Huawei связывает все эти элементы в путь «обучение-практика-соревнование-сертификация-найм», стремясь предоставить студентам реальные задачи по операторам и моделям до их выпуска из кампуса. Партнеры экосистемы сообщают о найме сильных участников сообщества, хотя каналы внешних рекомендаций все еще находятся в стадии разработки. При этом компания не утверждает, что весь код CANN полностью готов к открытому исходному коду; она описывает сервисы и управление вокруг тех частей, которые открыты на данный момент.

Для разработчиков Ascend наиболее важной новостью является бесплатная облачная лаборатория, агент-помощник для работы с операторами и публичный рейтинг, объявленные вместе как единая база для разработчиков. Предыдущие отчеты на английском языке освещали направление открытого исходного кода; данная презентация была посвящена инструментам, призванным сделать это направление применимым в повседневной работе.

Компания DeepSeek выпустила DeepInfer, фреймворк для выполнения инференса, который лежит в основе ее сервисов больших моделей. Этот релиз состоялся 20 октября.

DeepInfer обладает поддержкой графических процессоров Nvidia, а также процессоров Huawei Ascend. Фреймворк предоставляет ряд функций, включая распределенный инференс, спекулятивное декодирование и структурированный вывод.

Согласно заявлению DeepSeek, цель этого выпуска — помочь разработчикам и предприятиям повысить пропускную способность и снизить задержки, одновременно уменьшая затраты на вычисления и потребление энергии.

Кроме того, компания сделала общедоступным компонент deepseek-recipe. Он отвечает за преобразование запросов API и обработку ввода и вывода модели в соответствии с собственными сервисами DeepSeek. В настоящее время DeepInfer поддерживает модель DeepSeek-V4.1-Flash-1017, и компания намерена продолжать выпуск кода инференса и оптимизаций для будущих моделей через данный проект.