Переосмысление инфраструктуры искусственного интеллекта для Южной Африки с учетом компактных решений
Подробнее
TechCentral
techcentral.co.za

Переосмысление инфраструктуры искусственного интеллекта для Южной Африки с учетом компактных решений

Южноафриканские организации перестали задаваться вопросами о потенциале ИИ; теперь фокус сместился на операционные задачи: как внедрить ИИ, где он должен работать, сколько вычислительной мощности потребуется и как это повлияет на данные, бюджеты и общую технологическую стратегию.

Ранее внедрение ИИ рассматривалось преимущественно как программный вопрос — выбор платформы, модель для обучения и приоритетные сценарии использования. Однако узким местом стали аппаратные компоненты: графические процессоры (GPU), память, хранилище, сетевое оборудование, системы питания, охлаждения, безопасность и управление данными. Доступ к необходимой вычислительной мощности стал столь же критичным, как и доступ к подходящей модели.

Ситуация с инфраструктурой в Южной Африке

Местные компании сталкиваются с рядом специфических ограничений. Высокопроизводительные вычисления дороги, а доступ к передовой инфраструктуре GPU ограничен. Производительность облачного ИИ страдает из-за проблем с пропускной способностью и задержками. Масштабное планирование осложняется вопросами энергоснабжения и емкости центров обработки данных: в Африке менее половины гигаватта активной емкости ЦОД на более чем миллиард человек. Кроме того, вопросы суверенитета данных добавляют сложности тем, кто работает с регулируемой информацией, а квалифицированные специалисты по специализированной инфраструктуре ИИ находятся в дефиците.

Южная Африка не может просто скопировать гипермасштабные модели, созданные в других регионах. Предположение о том, что каждая организация должна иметь крупный центр обработки данных или значительные обязательства перед облачными сервисами, больше не является жизнеспособным и не является необходимым.

Крупный центр обработки данных не всегда требуется

По мере созревания внедрения ИИ рабочие нагрузки становятся более распределенными. Разработчикам необходимы вычислительные ресурсы для тестирования и обучения моделей, а бизнес-подразделения нуждаются в локальном выводе (inference) для аналитики, автоматизации и компьютерного зрения. Операционные среды, будь то фабрики или розничные магазины, все чаще полагаются на периферийный ИИ (edge AI) для обработки данных в режиме реального времени.

Это открывает возможности для компактной, распределенной инфраструктуры. Вместо централизации вычислений в одном ЦОД или облачной среде, организации могут развертывать небольшие системы, способные к работе с ИИ, в различных точках бизнеса. Это обеспечивает значительную вычислительную мощность без затрат и сроков, связанных со строительством традиционного ИИ-центра данных.

Появление доступных вычислительных мощностей ИИ

Для удовлетворения этой потребности появляется новое поколение компактных систем, спроектированных для приближения вычислительной мощности ИИ к пользователям, разработчикам и операционным средам. Это позволяет организациям начинать с малого, проводить локальные эксперименты и масштабироваться по мере роста реального спроса.

Примером служит ASUS Ascent GX10. Он построен на суперчипе GB10 Grace Blackwell от Nvidia — том же кремнии, что и в DGX Spark от Nvidia. Эта система обеспечивает производительность ИИ в размере petaflop FP4 и 128 ГБ унифицированной памяти в корпусе размером 150x150x51 мм, что достаточно для тонкой настройки моделей до 200 миллиардов параметров прямо на столе. Две такие единицы могут быть соединены через сеть ConnectX-7 для удвоения производительности. При этом потребляемая мощность достигает 180 Вт, что важно на рынке, где электроснабжение является ограничивающим фактором планирования, а не просто статьей расходов.

ASUS ExpertCenter Pro ET900N G3 предоставляет рабочую станционную производительность для деловых и профессиональных нужд, поддерживая рабочие нагрузки ИИ, которые должны находиться ближе к пользователю в сферах инженерии, аналитики, проектирования, исследований или операционной деятельности. Для многих организаций это практический компромисс: система достаточно мощная для сложных задач ИИ, но при этом доступна для развертывания в разных командах и отделах.

Практический эффект от таких систем заключается в локальной разработке и тестировании, ускорении циклов экспериментов, выводе данных близко к месту использования, более строгом контроле над конфиденциальными задачами, снижении зависимости от облачной связи и создании реалистичной отправной точки для организации, которая строит собственную ИИ-возможность.

Больше не облако против локального размещения

Годами решения об инфраструктуре сводились к бинарному выбору: облако или локальное размещение. Искусственный интеллект разрушает эту парадигму, поскольку различные рабочие нагрузки имеют разные требования, и именно эти требования определяют место их работы.

Некоторые задачи ИИ выигрывают от эластичности и масштаба облачных сервисов. Другие требуют низкой задержки, локальной обработки, соблюдения суверенитета данных, предсказуемых затрат или возможности автономной работы, что указывает на необходимость локальной или периферийной инфраструктуры.

Таким образом, будущее — гибридное. Организации будут комбинировать облачные, локальные и периферийные вычисления в зависимости от характера каждой рабочей нагрузки, а компактные системы, такие как GX10 и ET900N, станут частью этой модели, позволяя размещать вычисления точно там, где они нужны. Вопрос заключается в том, какое место подходит для какой рабочей нагрузки.

От концепции до производства

Многие технически успешные концепции терпят неудачу на операционном уровне, потому что планирование инфраструктуры рассматривалось как второстепенный вопрос. Преодоление этого разрыва требует оценки текущих и будущих рабочих нагрузок, разделения между обучением и выводом, требований к GPU и памяти, расположения данных, применимых правил суверенитета, вопросов безопасности, энергопотребления и охлаждения, сетевых задержек, общей стоимости владения и масштабируемости среды.

Эта оценка должна быть интегрирована в стратегию ИИ организации, а не находиться рядом с ней. Инфраструктура определяет пределы возможностей, скорость развертывания ИИ и экономическую устойчивость его функционирования.

Роль технологической экосистемы

Сделать ИИ доступным — это больше, чем просто продажа оборудования. Это требует создания целой экосистемы, включающей вычислительные мощности, инфраструктуру, программное обеспечение, кибербезопасность, дистрибуцию, техническую экспертизу и партнеров по каналам сбыта.

Компания Altron Arrow, которая распространяет системы ASUS для ИИ в Южной Африке, участвует в этой экосистеме, помогая организациям и партнерам получить доступ к тому, что требуется для современных развертываний ИИ. Цель состоит в том, чтобы обеспечить вычислительные мощности, которые являются реалистичными, масштабируемыми и экономически выгодными для местных организаций, а не просто уменьшенной копией гипермасштабного решения.

Доступность будет определять следующую фазу внедрения ИИ. Наибольшую выгоду получат те организации, которые понимают свои рабочие нагрузки и строят вокруг них стратегию инфраструктуры, а не те, у кого самые большие бюджеты. Для южноафриканского бизнеса барьер доступности больше не является препятствием; сейчас важно, как быстро ИИ переходит от эксперимента к операционному преимуществу.

Похожие сюжеты

Как агентский ИИ трансформирует стартапы, переводя данные в автономные решения
Подробнее
yourstory.com

Как агентский ИИ трансформирует стартапы, переводя данные в автономные решения

На встрече Snowflake Startup Mixer, прошедшей 17 июля в Хайдарабаде, собрались основатели стартапов, технологические руководители и инвесторы. Центральной темой мероприятия было преобразование данных в принятие решений и последующие действия. В рамках панельной дискуссии, демонстрации продукта и нетворкинга обсуждалось, как стартапы выходят за рамки простого сбора и анализа данных, создавая интеллектуальные системы, способные самостоятельно принимать решения с помощью агентского ИИ.

Панельная сессия под названием «Стартапы, работающие круглосуточно: создание компаний, которые никогда не спят» была модерирована Шивани Мутанной, старшим директором по партнерству контента в YourStory. В ней приняли участие Уткарш Шарма, креативный директор-ассоциат Pocket FM; Кишор Индукури, основатель и генеральный директор Sid’s Farm; Абхишек Дешпанде, операционный директор и соучредитель Recykal; а также Киран Каллури, партнер Dallas Venture Capital.

Дискуссия началась с вопроса о том, что именно означает понятие «круглосуточная работа». Для участников дискуссии это не означало, что сотрудники работают 24 часа в сутки, а скорее создание систем, которые продолжают выполнять критически важные рабочие процессы даже после того, как команды завершили свою работу.

В случае с Pocket FM, который обслуживает аудиторию в разных странах, производство контента фактически никогда не останавливается. ИИ стал неотъемлемым помощником на протяжении всего творческого процесса, ускоряя производство при сохранении качества. Компания использует ИИ для генерации материалов, обработки активов и поддержки производства, при этом люди остаются ответственными за качество и повествование.

Аналогичная концепция применяется в Sid’s Farm. Благодаря тысячам ежедневных доставок, перемещений сырья и взаимодействий с клиентами, данные непрерывно поступают от ферм и производственных объектов в логистические сети и к потребителям. Индукури объяснил, что ИИ помогает компании достаточно быстро интерпретировать эти данные, чтобы реагировать до того, как мелкие операционные проблемы превратятся в более серьезные.

В Recykal рабочий день начинается до рассвета, когда сборщики отходов начинают свои маршруты, и продолжается допоздна, пока грузы перемещаются по городам. Каждый этап генерирует операционные данные, предоставляя возможности для оптимизации решений в цепочке поставок, которая редко бывает остановлена.

С точки зрения инвестора, Каллури отметил, что ключевое различие лежит между компаниями, которые просто используют инструменты ИИ, и теми, которые фундаментально построены вокруг операций, поддерживаемых ИИ. Если удаление ИИ оставляет рабочие процессы в значительной степени неизменными, компания использует ИИ в основном для повышения эффективности. Однако, если отсутствие ИИ требует полной переработки самого бизнеса, тогда организация может считаться по-настоящему ИИ-нативной.

По мере того как ИИ глубже интегрируется в бизнес-процессы, стартапы также переосмысливают масштабирование. Для Recykal ИИ перестал рассматриваться как отдельная технологическая инициатива, а стал общекорпоративным требованием. Дешпанде заявил: «У нас есть внутренний мандат. Каждый понедельник должна появиться новая инициатива ИИ. Мы должны обсуждать это, и любой может ее предложить, от стажера до CXO».

Он пояснил, что компания картировала каждую бизнес-функцию, определила повторяющиеся процессы, подходящие для ИИ, и использовала многолетние операционные данные для перепроектирования рабочих процессов. Результаты оказались существенными: Recykal увеличил годовой доход с 400–500 крор до 1 400 крор при увеличении штата с примерно 80 до 128 сотрудников.

В Pocket FM Шарма подчеркнул, что руководство позиционировало ИИ как инструмент поддержки, а не как замену творческим специалистам. Компания инвестировала в инструменты генерации аудио, видео и изображений с помощью ИИ, одновременно обеспечивая, чтобы люди продолжали проводить проверки качества и сохранять эмоциональный опыт, которого ожидают зрители. Создание историй, состоящих из сотен или даже тысяч эпизодов, по-прежнему требует человеческого суждения, при этом ИИ ускоряет производство, а не заменяет креативность.

В Sid’s Farm усилия по внедрению ИИ сосредоточены на операциях, ориентированных на потребителя. Индукури отметил: «Там, где мы активно используем ИИ, или область, на которую мы постоянно смотрим, — это потребительская сторона». Молочная отрасль ежедневно генерирует огромное количество операционных данных. ИИ все чаще помогает прогнозировать спрос, сокращать потери, оптимизировать планирование производства и динамически регулировать запасы по каналам доставки.

Каллури добавил, что эти примеры демонстрируют, что отличает долговечные компании, использующие ИИ, от предприятий, которые лишь оборачивают существующие языковые модели. Он предупредил: «Если отсутствует способность захватывать эти процессы, то это красные флаги, которые мы видим. И это не компании, которые смогут масштабироваться и расти. Они могут добиться успеха с одним конкретным клиентом и в очень специфическом случае, но если им нужно расширять свой бизнес и атаковать весь TAM, это становится очень сложным, если они не имеют этих основ».

Для инвесторов более сильными показателями долгосрочного масштабирования являются владение дифференцированными данными, построение надежных рабочих процессов и внедрение ИИ во все продукты, функции выхода на рынок и внутренние операции, а не просто брендирование компании как ИИ-ориентированной.

Поскольку стартапы автоматизируют все больше рабочих процессов, все более важным становится вопрос: где должен заканчиваться ИИ и где люди должны сохранять контроль? Панелисты сошлись во мнении, что, хотя ИИ может значительно ускорить выполнение задач, критически важные бизнес-решения по-прежнему требуют человеческого надзора.

Дешпанде предостерег от принятия результатов работы ИИ как неоспоримых. «Мне кажется, что ИИ — это „дающий согласие“, поэтому мы должны быть очень умны. Нужен человеческий вмешательство. Вы не можете заменить людей. Фундаментально, вы должны четко понимать, чего хотите».

Индукури сообщил, что Sid’s Farm интегрирует ИИ в подбор персонала, поддержку клиентов и оперативное планирование, но считает, что ИИ должен сначала обрабатывать рутинные запросы, прежде чем передавать более сложные ситуации людям. Например, служба поддержки может автоматически отвечать на вопросы о доставке или статусе заказа, в то время как недовольные клиенты или проблемы, связанные с качеством, должны направляться в человеческие команды. Вместо замены сотрудников ИИ позволяет им сосредоточиться на проблемах, требующих суждения, эмпатии и контекста.

Обсуждение также подчеркнуло, что одних технологий недостаточно для определения успеха стартапов. Основателям необходимы дисциплинированные организации, надежные процессы, высококачественные данные и четкое понимание того, где ИИ создает реальную бизнес-ценность. Дешпанде заметил, что ИИ уже меняет подход стартапов к талантам: «Я видел, как стажер дает лучший результат, чем человек с 10-летним опытом. Молодое поколение адаптируется быстрее».

Он добавил, что сами основатели должны стать активными пользователями ИИ, прежде чем ожидать, что их команды примут новые инструменты. Успех зависит от определения правильных бизнес-проблем в первую очередь; только тогда ИИ сможет дать значимые результаты, а не добавить ненужную сложность.

Вечер завершился живой демонстрацией под названием «Чертеж: от данных к действию с помощью агентских рабочих процессов», представленной Акшатом Париком, Харишем Чинтакунтой и Наведеей Оджа из Snowflake. Сессия продемонстрировала, как стартапы могут значительно сократить время, необходимое для создания приложений на базе ИИ, объединяя корпоративные данные с возможностями агентского ИИ. Используя Snowflake Cortex Code, специализированного агента кодирования ИИ для рабочих нагрузок данных и ИИ, докладчики показали, как разработчики могут перейти от запроса на естественном языке к готовому к производству приложению за считанные минуты.

Приведенный пример использования для обнаружения мошенничества в финтех-сфере проиллюстрировал этот процесс. Один запрос сгенерировал приложение, которое принимало данные о клиентах и транзакциях, рассчитывало баллы риска мошенничества, создавало панели мониторинга и формировало рабочее пространство для расследования на основе ИИ. Помимо панелей мониторинга, пользователи могли задавать вопросы о тенденциях мошенничества, поведении клиентов и шаблонах транзакций на естественном языке. ИИ разбивал эти запросы на несколько шагов рассуждения перед генерацией действенных выводов.

Команда также осветила гибкость моделей Snowflake. Вместо того чтобы привязывать организации к одной базовой модели, платформа поддерживает несколько ведущих моделей, включая Claude, Llama, DeepSeek, Mistral и OpenAI, позволяя бизнесу выбирать подходящую модель для каждой задачи, сохраняя при этом данные в рамках безопасной системы управления. На протяжении всего вечера оставалось ясным одно послание: ИИ больше не просто помогает стартапам работать быстрее. Он все чаще становится частью того, как проектируются и функционируют предприятия. Стартапы начинают встраивать ИИ в основу своих продуктов, рабочих процессов и повседневного принятия решений, вместо того чтобы рассматривать его как отдельный инструмент.

Популярное