Компания Qingmao Intelligence представила план совместных операций по созданию сети для инференса искусственного интеллекта, которая будет основана на оборудовании Huawei Ascend 950DT. Согласно плану, к 2027 году сеть должна включать 10 000 ускорительных карт. Более долгосрочная цель, описанная в отчете QbitAI от ноября, предусматривает расширение этой сети до 100 000 карт в течение пяти лет, охватывая различные регионы и платформы чипов.
Эта инициатива была анонсирована 17 ноября при участии партнеров экосистемы Ascend и других отраслевых участников. Предлагаемая «Токеновая фабрика» представляет собой операционную модель для предоставления токенов, сгенерированных моделями, а не объявление о работе уже существующего объекта на 10 000 карт.
Распределение обязанностей
План распределяет задачи между четырьмя группами. Партнеры экосистемы Ascend отвечают за поставку чипов, суперузлов и техническую поддержку. Операторы центров обработки данных предоставляют вычислительные ресурсы, электроэнергию и инфраструктуру. Разработчики моделей и партнеры по трафику обеспечивают спрос и помогают оценивать качество услуг. Qingmao берет на себя координацию оптимизации программного обеспечения, планирования, унифицированного учета и ежедневных операций.
Компания утверждает, что соглашения об уровне обслуживания и общие метрики определят вклад каждой стороны, операционные обязанности и механизм распределения прибыли. Целью является предоставление единой услуги инференса на ресурсах, принадлежащих или управляемых разными участниками, а не просто суммирование общего числа установленных ускорителей.
Qingmao указывает, что ее предыдущий опыт включает совместную работу с более чем 20 вычислительными центрами, планирование почти 20 000 внутренних ускорительных карт и адаптацию свыше 15 типов чипов. Кроме того, компания сообщает о развертывании около 10 суперузлов Ascend 910C. Эти цифры относятся к ранее выполненной работе на различных платформах и не следует рассматривать как завершенную мощность для запланированной программы 950DT.
Компания рассматривает программное обеспечение как связующий слой: движок инференса улучшает выполнение на отдельных аппаратных платформах, тогда как управляющее ПО координирует ресурсы, мониторинг и учет токенов между центрами. Критерии приемки включают эффективную пропускную способность, задержку первого токена, скорость вывода, согласованность точности, доступность и стоимость за миллион эффективных токенов.
Данная дорожная карта отличается от решения для оптимизации инференса на базе BAAI и Qingmao FlagOS, которое было представлено на том же мероприятии и касалось специфических рабочих нагрузок Ascend 910C и 910B. Новый подход акцентирует внимание на том, как емкость и спрос клиентов будут организованы в более крупном масштабе.
Важно отметить, что достижение цели 2027 года и пятилетнее расширение остаются планами компании. Отчет не подтверждает, что предлагаемый пул 950DT на 10 000 карт функционирует, и не проводит независимую проверку его будущей утилизации, качества обслуживания или экономической эффективности предоставления услуг.



