Искусственные агенты часто демонстрируют хорошие результаты на этапе пилотного тестирования, поскольку в таких условиях область применения узка, данные контролируются, а запросы предсказуемы. Однако производственная среда отличается, и именно этот разрыв приводит к остановке многих проектов.
Gartner прогнозирует, что к концу 2027 года более 40% проектов агентного ИИ будут отменены из-за растущих затрат, неопределенной бизнес-ценности или недостаточного контроля рисков. По мнению Ниттина Вагулде, регионального директора по Азиатско-Тихоокеанскому региону в VeloDB, значительная часть проблемы кроется не в самой модели, а в уровне данных.
В своем выступлении под названием «ИИ-агенты в масштабе: Выживание после демонстрации» Ниттин подробно рассказал, как ИИ-агенты используют данные иначе, чем люди, что им необходимо для надежной работы в больших объемах и как компании перестраивают свою инфраструктуру данных для поддержки этих систем.
Ниттин начал с примера: в традиционной системе менеджер мог получить данные о продажах прошлого года, запустив готовый отчет. Ситуация кардинально меняется, когда вы просите ИИ-агента объяснить падение продаж за последние три квартала. Агент вынужден извлекать записи заказов из систем ERP и CRM, анализировать тикеты поддержки и чаты на предмет проблем крупных клиентов, а также изучать отчеты отдела продаж о динамике территорий. Если его рассуждения неполны, он возвращается за дополнительной информацией.
Он отметил: «То, что раньше завершалось одним простым поиском или одним простым запросом, теперь требует сотен поисковых операций для получения одной и той же информации». Ранее основными потребителями бизнес-данных были люди и отчеты, а системы строились вокруг фиксированных отчетов с четкими границами.
Теперь, по словам Ниттина, ИИ стал новым клиентом этих данных, и он ведет себя совершенно иначе. Агенты работают круглосуточно, одновременно задают множество вопросов и функционируют в итеративном цикле: спрашивать, думать, искать и повторять попытки до получения ответа. Их вопросы также не являются заранее прописанными, что создает сильную и непредсказуемую нагрузку на слой данных.
Сложность усугубляется тем, что бизнес-данные распределены по множеству мест: транзакционные записи, память чатов, документы, панели мониторинга и векторные хранилища для поиска по смыслу. Агенту приходится искать во всех этих источниках и объединять результаты перед тем, как дать ответ.
Каждый дополнительный запрос к данным увеличивает расходы. Если данные устарели, ответ будет неверным. Ниттин сравнил это с вождением по неточной карте трафика. Кроме того, когда данные поступают из множества источников, становится сложнее определить источник ответа, что порождает проблему доверия.
Он сравнил эту ситуацию с отправкой человека в пять картотечных шкафов для сбора бумаг. К тому моменту, когда человек вернется из пятого шкафа, информация из первого может уже устареть.
Ниттин обозначил четыре требования, которым должны соответствовать агенты, чтобы перейти от пилотного режима к полноценной эксплуатации. Ответ VeloDB заключается в едином движке, который удовлетворяет всем этим потребностям. Компания была основана в 2023 году первоначальными разработчиками Apache Doris, базы данных для аналитики в реальном времени с открытым исходным кодом, которая стала проектом верхнего уровня Фонда программного обеспечения Apache в июне 2022 года. По данным VeloDB, Apache Doris имеет более 14 000 звезд на GitHub и 700 контрибьюторов, и используется более чем 5 000 предприятиями по всему миру.
Чтобы уменьшить количество обратных запросов, замедляющих работу агентов, VeloDB поддерживает гибридные запросы. Один запрос способен комбинировать SQL, векторный поиск и текстовый поиск, выполняя детерминированные и вероятностные поиски параллельно. Результатом является единый достоверный источник вместо разрозненных данных.
Ниттин представил два примера компаний, использующих такую архитектуру в работе. Первая — одна из крупнейших криптовалютных бирж с более чем 120 миллионами пользователей, которую он не назвал. Биржа предоставляет данные о транзакциях ИИ-агентам, которые могут запрашивать розничные инвесторы, например, чтобы увидеть позиции крупных трейдеров по какому-либо активу. Он сообщил, что ее агенты обрабатывают около 33 000 диалогов с конечной задержкой около 3 миллисекунд, работая круглосуточно.
Второй пример — китайская ИИ-компания MiniMax, которая вышла на Хонконгскую фондовую биржу в январе 2026 года и обслуживает 212 миллионов пользователей в более чем 200 странах. MiniMax перестроила свою систему логирования на Apache Doris после отказа от Grafana Loki, поскольку логи стали ценным источником информации, который стоило сохранять и запрашивать.
Ниттин уточнил, что MiniMax загружает данные со скоростью 10 Гбит/с и может запрашивать около 10 петабайт менее чем за две секунды, при этом снизив затраты на 70%. VeloDB отдельно сообщила, что система на базе Doris теперь поддерживает логи во всех бизнес-направлениях MiniMax в петабайтных масштабах с доступностью свыше 99,9%.
Те же проблемы актуальны и для стартапов на ранних стадиях, создающих агентов, добавил Ниттин. VeloDB сотрудничает с финтех-стартапами, которые сталкиваются с теми же проблемами масштабирования, что и MiniMax или криптобиржа, просто на более ранней стадии.
Его заключительный тезис заключался в том, что агенты всегда будут задавать сотни вопросов, поэтому инфраструктура должна обеспечивать, чтобы каждый из них был дешевым, быстрым и актуальным. Для Ниттина масштабирование ИИ-агентов в меньшей степени зависит от поиска лучшей модели, а больше — от предоставления агентам надежных данных в реальном времени из единого источника. Он утверждал, что компании, которые правильно настроят уровень данных, смогут принимать решения быстрее, сокращать расходы и с уверенностью переводить своих агентов из пилотного режима в рабочую эксплуатацию.



