Компания Callosum привлекла финансирование в размере 100 миллионов долларов США для разработки программного обеспечения, которое направляет задачи искусственного интеллекта на наиболее экономичные чипы, способные выполнить необходимую работу. Эта инициатива направлена на решение проблемы высоких операционных расходов в сфере ИИ.
Раунд инвестиций возглавила Atomico, при участии Plural и DCVC. Кроме того, это стало первой инвестицией от нового Суверенного фонда Великобритании (Sovereign AI Fund). При сумме в 73,5 миллиона фунтов стерлингов этот раунд входит в число крупнейших посевных раундов в истории Великобритании.
Финансирование поступает в критический момент, поскольку ИИ переходит от обучения масштабных моделей к их широкомасштабному внедрению. В этот период компании обнаруживают, что основная стоимость расходуется именно на запуск этих моделей.
Большинство компаний сегодня выполняют каждую задачу ИИ на дорогих универсальных графических процессорах Nvidia. Независимо от того, требует ли задача огромных вычислительных мощностей или просто базовой обработки, используется один и тот же дорогостоящий чип.
Такой подход, основанный на грубой силе, быстро истощает бюджеты. Для многих компаний, ориентированных на ИИ, этап инференса потребляет более 50% выручки. Хотя обучение привлекает больше внимания, именно инференс определяет прибыльность бизнеса.
Callosum предлагает иной подход, отказываясь от единообразного отношения ко всем вычислительным процессам. Компания была основана нейробиологами из Кембриджа Данялом Акарцей и Яшхой Ахтербергом, которые черпали вдохновение в биологии. Они создали программное обеспечение, имитирующее работу человеческого мозга, который использует небольшие специализированные нейронные цепи для выполнения конкретных действий.
Программное обеспечение Callosum функционирует как интеллектуальный уровень маршрутизации между аппаратным обеспечением и приложениями. Оно разбивает сложные задачи ИИ и автоматически распределяет каждую часть на самый эффективный и недорогой доступный чип и модель.
Вместо того чтобы по умолчанию использовать Nvidia, Callosum сотрудничает со специализированными производителями чипов, такими как Axelera, Cerebras и Rebellions. Простая задача получает простой чип, а сложная — тяжелое оборудование.
Первые результаты уже демонстрируются в ходе раннего внедрения. В партнерстве с производителем чипов Cerebras для агентных финансовых рабочих нагрузок Callosum сообщает о снижении затрат на 70 процентов. Благодаря сопоставлению задач со специализированным кремнием вместо общих ГПУ, компания также обеспечивает четырехкратный прирост скорости.
Основной тезис, который компания представляет инвесторам, заключается в том, что следующий этап развития ИИ связан не с покупкой большего количества чипов, а с максимально эффективным использованием имеющегося оборудования. Компания отмечает, что «запуск генеративных моделей ИИ невероятно дорог» и стремится изменить взаимодействие программного обеспечения с физическими микрочипами, чтобы компании перестали переплачивать.
Рынок ИИ претерпевает изменения: гонка по обучению фундаментальным моделям замедляется, но ускоряется гонка по их дешевому развертыванию. Это делает оркестрацию рабочих нагрузок следующим крупным полем битвы в области аппаратного обеспечения. Благодаря поддержке Atomico и правительства Великобритании, Callosum занимает центральное место в этой тенденции.
Основатели утверждают, что будущее вычислений в сфере ИИ заключается не в выполнении каждой задачи на самом большом доступном ГПУ, а в выборе подходящего инструмента для конкретной работы, подобно тому, как это делает мозг.