Ниттин Вагулде из VeloDB объясняет причины сбоев ИИ-агентов после демонстрационного этапа
Подробнее
YourStory [india, en]
yourstory.com

Ниттин Вагулде из VeloDB объясняет причины сбоев ИИ-агентов после демонстрационного этапа

Искусственные агенты часто демонстрируют хорошие результаты на этапе пилотного тестирования, поскольку в таких условиях область применения узка, данные контролируются, а запросы предсказуемы. Однако производственная среда отличается, и именно этот разрыв приводит к остановке многих проектов.

Gartner прогнозирует, что к концу 2027 года более 40% проектов агентного ИИ будут отменены из-за растущих затрат, неопределенной бизнес-ценности или недостаточного контроля рисков. По мнению Ниттина Вагулде, регионального директора по Азиатско-Тихоокеанскому региону в VeloDB, значительная часть проблемы кроется не в самой модели, а в уровне данных.

В своем выступлении под названием «ИИ-агенты в масштабе: Выживание после демонстрации» Ниттин подробно рассказал, как ИИ-агенты используют данные иначе, чем люди, что им необходимо для надежной работы в больших объемах и как компании перестраивают свою инфраструктуру данных для поддержки этих систем.

Ниттин начал с примера: в традиционной системе менеджер мог получить данные о продажах прошлого года, запустив готовый отчет. Ситуация кардинально меняется, когда вы просите ИИ-агента объяснить падение продаж за последние три квартала. Агент вынужден извлекать записи заказов из систем ERP и CRM, анализировать тикеты поддержки и чаты на предмет проблем крупных клиентов, а также изучать отчеты отдела продаж о динамике территорий. Если его рассуждения неполны, он возвращается за дополнительной информацией.

Он отметил: «То, что раньше завершалось одним простым поиском или одним простым запросом, теперь требует сотен поисковых операций для получения одной и той же информации». Ранее основными потребителями бизнес-данных были люди и отчеты, а системы строились вокруг фиксированных отчетов с четкими границами.

Теперь, по словам Ниттина, ИИ стал новым клиентом этих данных, и он ведет себя совершенно иначе. Агенты работают круглосуточно, одновременно задают множество вопросов и функционируют в итеративном цикле: спрашивать, думать, искать и повторять попытки до получения ответа. Их вопросы также не являются заранее прописанными, что создает сильную и непредсказуемую нагрузку на слой данных.

Сложность усугубляется тем, что бизнес-данные распределены по множеству мест: транзакционные записи, память чатов, документы, панели мониторинга и векторные хранилища для поиска по смыслу. Агенту приходится искать во всех этих источниках и объединять результаты перед тем, как дать ответ.

Каждый дополнительный запрос к данным увеличивает расходы. Если данные устарели, ответ будет неверным. Ниттин сравнил это с вождением по неточной карте трафика. Кроме того, когда данные поступают из множества источников, становится сложнее определить источник ответа, что порождает проблему доверия.

Он сравнил эту ситуацию с отправкой человека в пять картотечных шкафов для сбора бумаг. К тому моменту, когда человек вернется из пятого шкафа, информация из первого может уже устареть.

Ниттин обозначил четыре требования, которым должны соответствовать агенты, чтобы перейти от пилотного режима к полноценной эксплуатации. Ответ VeloDB заключается в едином движке, который удовлетворяет всем этим потребностям. Компания была основана в 2023 году первоначальными разработчиками Apache Doris, базы данных для аналитики в реальном времени с открытым исходным кодом, которая стала проектом верхнего уровня Фонда программного обеспечения Apache в июне 2022 года. По данным VeloDB, Apache Doris имеет более 14 000 звезд на GitHub и 700 контрибьюторов, и используется более чем 5 000 предприятиями по всему миру.

Чтобы уменьшить количество обратных запросов, замедляющих работу агентов, VeloDB поддерживает гибридные запросы. Один запрос способен комбинировать SQL, векторный поиск и текстовый поиск, выполняя детерминированные и вероятностные поиски параллельно. Результатом является единый достоверный источник вместо разрозненных данных.

Ниттин представил два примера компаний, использующих такую архитектуру в работе. Первая — одна из крупнейших криптовалютных бирж с более чем 120 миллионами пользователей, которую он не назвал. Биржа предоставляет данные о транзакциях ИИ-агентам, которые могут запрашивать розничные инвесторы, например, чтобы увидеть позиции крупных трейдеров по какому-либо активу. Он сообщил, что ее агенты обрабатывают около 33 000 диалогов с конечной задержкой около 3 миллисекунд, работая круглосуточно.

Второй пример — китайская ИИ-компания MiniMax, которая вышла на Хонконгскую фондовую биржу в январе 2026 года и обслуживает 212 миллионов пользователей в более чем 200 странах. MiniMax перестроила свою систему логирования на Apache Doris после отказа от Grafana Loki, поскольку логи стали ценным источником информации, который стоило сохранять и запрашивать.

Ниттин уточнил, что MiniMax загружает данные со скоростью 10 Гбит/с и может запрашивать около 10 петабайт менее чем за две секунды, при этом снизив затраты на 70%. VeloDB отдельно сообщила, что система на базе Doris теперь поддерживает логи во всех бизнес-направлениях MiniMax в петабайтных масштабах с доступностью свыше 99,9%.

Те же проблемы актуальны и для стартапов на ранних стадиях, создающих агентов, добавил Ниттин. VeloDB сотрудничает с финтех-стартапами, которые сталкиваются с теми же проблемами масштабирования, что и MiniMax или криптобиржа, просто на более ранней стадии.

Его заключительный тезис заключался в том, что агенты всегда будут задавать сотни вопросов, поэтому инфраструктура должна обеспечивать, чтобы каждый из них был дешевым, быстрым и актуальным. Для Ниттина масштабирование ИИ-агентов в меньшей степени зависит от поиска лучшей модели, а больше — от предоставления агентам надежных данных в реальном времени из единого источника. Он утверждал, что компании, которые правильно настроят уровень данных, смогут принимать решения быстрее, сокращать расходы и с уверенностью переводить своих агентов из пилотного режима в рабочую эксплуатацию.

Похожие сюжеты

Падение индекса Nasdaq на фоне опасений по поводу расходов на ИИ и расширения центров обработки данных
Подробнее
techcentral.co.za

Падение индекса Nasdaq на фоне опасений по поводу расходов на ИИ и расширения центров обработки данных

Индекс Nasdaq значительно снизился после своего рекордного закрытия в четверг, потеряв более 10%. Это движение указывает на возможное начало коррекции, вызванной беспокойством относительно масштабных затрат на искусственный интеллект и усилением контроля над расширением центров обработки данных.

Композитный индекс Nasdaq, который сильно зависит от технологического сектора, упал почти на 4% в ходе дневной торговли в Нью-Йорке. Это снижение превысило 10% от рекордного максимума закрытия, достигнутого 6 октября.

Падение в четверг стер предыдущие дневные приросты, поскольку демократы одержали победу в обеих палатах Конгресса. Инвесторы начали оценивать потенциал более пристального внимания к дальнейшему строительству инфраструктуры для ИИ.

Самир Самана, старший глобальный рыночный стратег в Wells Fargo Investment Institute, отметил, что переход от полного единого контроля одной партии к полному единому контролю другой может вызвать значительную неопределенность, разрыв и резкое изменение политики.

Он добавил, что когда казалось, что демократы получат значительное большинство как в Палате представителей, так и в Сенате, аналитики предполагали, что это приведет хотя бы к временной паузе на рынках.

Снижение на 10% от последнего рекордного максимума широко рассматривается как коррекция, и это будет вторая коррекция Nasdaq в текущем году. За последние недели настроения в отношении акций, связанных с ИИ, ухудшились, и Nasdaq потерял более 2,5 триллиона долларов рыночной стоимости в октябре.

Несколько крупных технологических компаний привлекают долговые рынки для финансирования многомиллиардных инвестиций, запланированных в центры обработки данных, чипы и другую необходимую инфраструктуру для развития ИИ.

Инвесторы все чаще ставят под сомнение скорость, с которой эти инвестиции превратятся в прибыль, особенно на фоне сохраняющейся геополитической напряженности на Ближнем Востоке и опасений по поводу затяжной инфляции, которые поддерживают высокие заемные ставки.

Отчетность, опубликованная в прошлом месяце компаниями Alphabet и Meta, двумя из крупнейших гиперскейлеров, занимающихся созданием и эксплуатацией самых больших центров обработки данных в мире, не смогла успокоить инвесторов относительно доходности от расходов на ИИ, что способствовало общему распродаже активов, связанных с ИИ.

Главная проблема искусственного интеллекта кроется не в самой модели, а в инфраструктуре данных
Подробнее
yourstory.com

Главная проблема искусственного интеллекта кроется не в самой модели, а в инфраструктуре данных

Несмотря на растущую доступность моделей искусственного интеллекта, превращение их в надежные коммерческие продукты остается сложной задачей, особенно когда предприятия сталкиваются с разрозненной инфраструктурой данных.

На мероприятии TechSparks 2026 Майкл Кронин, вице-президент по продажам в Азиатско-Тихоокеанском регионе, Японии и Индии компании Couchbase, принял участие в дискуссии с Шивани Мутанной, старшим директором по стратегическому контенту и видео YourStory. Они обсуждали переход ИИ от стадии экспериментов к полноценному производству, проблемы управления, клиентский опыт и возрастающую роль Индии в инновациях ИИ.

На протяжении десятилетий крупные корпорации внедряли различные базы данных и узкоспециализированные решения для решения конкретных задач. Хотя каждое из них решало насущную проблему, результатом часто становился фрагментированный уровень данных, состоящий из множества систем, которые плохо взаимодействуют друг с другом.

Кронин считает эту фрагментацию серьезным препятствием для внедрения ИИ. Он приводит отраслевые оценки, согласно которым 70–80% проектов по разработке ИИ никогда не достигают стадии производства, а исследование MIT показало, что 95% таких проектов не становятся прибыльными.

Операционная платформа данных Couchbase разработана для устранения этой проблемы, помогая компаниям консолидировать свою инфраструктуру данных. Вместо попытки исправить все сразу, Кронин посоветовал компаниям начинать с малого, советуя основателям и предприятиям, борющимся с фрагментацией уровня данных, сначала выбирать наиболее критичные сценарии использования.

Он привел в пример розничного продавца Tesco из Великобритании, который имеет крупный глобальный центр компетенций (GCC) в Бенгалуру. Множество систем этого ритейлера негативно влияло на клиентский опыт, особенно во время напряженных периодов покупок, таких как Черная пятница и выходные. Tesco начал консолидировать свой уровень данных, начав с одного экземпляра и одного сценария использования, прежде чем распространить усилия на весь свой технологический стек. Эта консолидация позволила ритейлеру обрабатывать миллионы транзакций в секунду с задержкой менее миллисекунды. По мнению Кронина, этот пример демонстрирует, как компании могут начать решать проблему фрагментации через один сценарий использования, прежде чем расширять изменения на всю свою деятельность.

Давление, связанное с разработкой продуктов ИИ, побудило многие предприятия уделять первоочередное внимание моделям и приложениям. Однако пилотные проекты часто проводятся на небольших наборах данных в контролируемых средах, что не готовит организации к требованиям реального производства. Кронин обратил внимание на растущий масштаб машинного трафика. Он заявил: «За восемнадцать месяцев до графика машинный трафик обогнал человеческий трафик в интернете. Это масштаб ИИ. Это масштаб машинной скорости, на котором должны работать предприятия».

Когда приложения ИИ сталкиваются с рабочими нагрузками реального мира, фрагментированные системы данных могут помешать им надежно функционировать в масштабе. Растущее использование агентов ИИ усугубляет эту проблему. Поскольку агенты становятся более автономными и берут на себя функции принятия решений, предприятия должны гарантировать, что они могут получать доступ к нужным данным в рамках соответствующих структур управления.

Фрагментированные системы могут затруднять коммуникацию и управление, ограничивая способность агентов действовать автономно. Кронин также призвал предприятия пересмотреть подход к распределению инвестиций в ИИ. Хотя модели быстро развиваются, корпоративные данные остаются важнейшим активом. Он подчеркнул: «Модели можно арендовать. Лучшая модель сегодня — это вчерашняя газета. Истинный актив для предприятия — это данные».

По мере того как предприятия начали осознавать, что фрагментированные данные тормозят их инициативы в области ИИ, многие из них отреагировали добавлением API и коннекторов для связи существующих систем. Однако Кронин предупредил, что такой метод может создать дополнительную сложность вместо решения основной проблемы. Каждое дополнительное соединение увеличивает задержку, риск и создает еще одну потенциальную точку отказа.

Вместо этого он рекомендовал консолидировать уровень данных, чтобы приложения и агенты ИИ могли взаимодействовать с ним более напрямую, приближая данные к клиентам. По словам Кронина, многие предприятия, включая крупные GCC в Индии, сейчас пересматривают свою архитектуру для устранения фрагментации данных. Без этих изменений дальнейшие инвестиции в разработку ИИ могут привести к тем же проблемам.

Консолидация данных также может улучшить клиентский опыт, помогая системам справляться с растущим спросом, оставаться доступными и быстро реагировать. Поскольку клиенты ожидают большего от сервисов на базе ИИ, наличие данных на периферии становится все более важным.

Кронин отметил, что деловые культуры различаются в Азиатско-Тихоокеанском регионе, но фрагментированная инфраструктура данных остается общей проблемой для внедрения ИИ. В то же время Индия становится важным центром инноваций и принятия решений в сфере ИИ. Он отметил, что 80% из топ-50 глобальных клиентов Couchbase имеют значительное присутствие в Индии, причем большая часть их инноваций и лидерства в области ИИ базируется в этой стране. Couchbase также расширяет свое присутствие в Индии, перемещая свою штаб-квартиру в Азиатско-Тихоокеанском регионе в Бенгалуру. Среди корпоративных клиентов Couchbase в Индии — Air India, Airtel, BigBasket и Mahindra Finance. По мнению Кронина, роль Индии в мировом бизнесе вышла за рамки экономии затрат; здесь все чаще происходят инновации, лидерство и принятие важных бизнес-решений. Он упомянул платформу развлечений нового поколения Air India, которая строится на Couchbase. Эта платформа призвана обеспечивать пассажирам персонализированный опыт покупок и развлечений даже при отсутствии подключения к сети на борту самолета. Для Кронина этот проект показывает, как индийские предприятия используют технологии для улучшения клиентского опыта в условиях реальной эксплуатации.

Эксперт Forge Code объяснил, почему для эффективной разработки ПО необходима 'программная фабрика' на базе ИИ
Подробнее
yourstory.com

Эксперт Forge Code объяснил, почему для эффективной разработки ПО необходима 'программная фабрика' на базе ИИ

Несмотря на то, что искусственный интеллект способен генерировать код с беспрецедентной скоростью, процесс его тестирования, проверки и вывода в рабочую среду представляет собой отдельную сложную задачу. Инженерные команды все чаще используют агентов ИИ для написания кода, устранения ошибок и создания новых функций, однако ускорение кодирования не гарантирует ускорения доставки программного обеспечения.

По мере того как генерация кода набирает обороты, количество проверок растет, тестирование замедляется, а командам становится трудно координировать увеличивающийся объем изменений.

На конференции TechSparks 2026 Тушар Матур, генеральный директор Forge Code, осветил эту проблему в своей сессии «Анатомия программной фабрики». Он объяснил, как инженерные организации, ориентированные на ИИ, могут выйти за рамки автоматизации отдельных задач кодирования и начать создавать системы, управляющие всем жизненным циклом разработки программного обеспечения (SDLC).

Матур отметил, что просто потому, что генерация кода стала проще и быстрее, это не означает, что общий SDLC ускорится. Он напомнил, что традиционный подход к разработке фокусировался на эффективном написании кода, требуя от команд определения требований, подготовки спецификаций и проектирования архитектуры для снижения нагрузки на этап реализации.

Однако, поскольку ИИ берет на себя большую часть работы по кодированию, узкие места смещаются в другие области. Матур описал ситуацию, когда организации сталкиваются с огромным количеством запросов на слияние (pull requests), ожидающих проверки, более длительными циклами тестирования и большим количеством ошибок, чем могут обнаружить существующие регрессионные наборы.

Он подчеркнул, что решение проблемы не обязательно заключается в найме большего числа инженеров или запуске большего количества агентов ИИ. Дополнительные сотрудники могут увеличить затраты на координацию, а добавление агентов без эффективных механизмов обратной связи может привести к созданию кода, который перегружает системы, отвечающие за проверку и тестирование.

«Причина этого в том, что отсутствует сигнал», — пояснил Матур, объясняя, почему простое соединение автоматизированных шагов не создает эффективной программной фабрики.

Матур представил Forge Code как программную фабрику, которая координирует агентов ИИ на протяжении всего цикла разработки. Процесс начинается с сортировки запросов, создания спецификаций и внедрения функций. Затем агенты проверяют изменения перед тем, как они будут развернуты, при этом человеческие инженеры вмешиваются, когда требуются решения или обратная связь.

Система также осуществляет мониторинг в рабочей среде, используя полученные данные для информирования будущих задач. Это формирует цикл обратной связи, позволяющий фабрике выявлять проблемы, совершенствовать свои рабочие процессы и генерировать новую работу на основе полученного опыта. Во время презентации Матур сообщил, что Forge Code использовал около 100 агентов в фоновом режиме для работы над функциями, совместимостью и обнаружением ошибок.

Он изложил шесть принципов для создания эффективной программной фабрики: автономная работа, масштабируемость, экономическая эффективность, измеримость, самосовершенствование и соответствие бизнес-целям. Последний принцип имеет особое значение.

Фабрика должна работать не как задача по написанию кода для каждого запроса, а быть направленной на достижение определенных результатов, таких как повышение удержания клиентов или соблюдение нормативных требований. Команды затем могут расставлять приоритеты функциям на основе ценности, которую они приносят. В этой модели инженеры тратят меньше времени на управление каждой задачей и больше — на наблюдение за результатами, анализ сигналов и улучшение самой системы. Руководители бизнеса также могут напрямую предоставлять запросы и приоритеты, позволяя фабрике преобразовывать организационные цели в бэклог разработки.

Скорость написания кода — это хорошо, но создание лучшего программного обеспечения — вот настоящая победа. Для инженерных команд ключ заключается в преобразовании скорости, обеспеченной ИИ, в надежные продукты, измеримый прогресс и реальные бизнес-результаты.

Популярное