Сатья Надела, генеральный директор Microsoft, недавно предупредил, что корпорации, использующие модели искусственного интеллекта, разработанные крупными лабораториями, могут непреднамеренно передавать стратегическую информацию. Это заявление вновь вызвало дебаты о контроле над корпоративными данными в контексте развития ИИ.
Внутренняя информация как ценный актив
В публикации в своем блоге в воскресенье (12) Надела утверждал, что компании платят не только за использование инструментов ИИ, но и предоставляют внутренние данные, которые используются для улучшения этих систем. Он подчеркнул, что эти знания могут представлять собой ценный актив для конкурентов.
Риски проприетарных моделей
Эта обеспокоенность возникает в момент растущего корпоративного внедрения проприетарных моделей, созданных такими компаниями, как OpenAI и Anthropic. Предупреждение указывает на потенциальную технологическую зависимость и подчеркивает необходимость создания структур, гарантирующих, что право собственности на данные остается в руках самих организаций.
Как раскрываются данные
По словам Наделы, способ работы многих современных систем ИИ создает динамику, при которой компании предоставляют важнейшие элементы своей деятельности, стремясь получить более эффективные ответы от инструментов. Руководитель уточнил, что команды (промпты), настройки, выполненные пользователями, и исправления во время использования могут раскрывать детали деловой практики и внутренних процессов.
Он классифицировал эти взаимодействия как своего рода накопленное институциональное обучение. По его мнению, эти знания могли бы быть получены конкурентами с большим трудом, но они в конечном итоге передаются естественным образом во время ежедневного использования моделей.
Двойная плата за интеллект
Сатья Надела заявил в своей публикации об корпоративном использовании ИИ, что «вы по сути платите за интеллект дважды: один раз деньгами, а второй раз чем-то еще более ценным: собственными знаниями, которые необходимо раскрыть, чтобы этот интеллект стал полезным». Обсуждение в основном касается закрытых моделей ИИ, где компании зависят от инфраструктуры и правил, установленных самими поставщиками.
Опасение, высказанное критиками этой модели, заключается в том, что разработчики лабораторий могут собирать информацию о клиентах и в будущем конкурировать в секторах, где работают эти же клиенты.
Дистилляция и адаптация технологий
Надела также поставил под сомнение несоответствие в обращении между обучением моделей ИИ и ограничениями, налагаемыми на использование этих систем третьими сторонами. Он предположил, что если компании, занимающиеся ИИ, используют огромные объемы общедоступных данных для создания своих продуктов, должны существовать аналогичные условия, позволяющие организациям изучать или адаптировать такие технологии.
Этот процесс, называемый «дистилляцией», включает использование ответов, сгенерированных одной моделью, для разработки другой системы, обычно более простой или экономичной. Эта тема получила освещение после того, как Anthropic обвинила китайские модели с открытым исходным кодом в отправке миллионов запросов к Claude для получения данных, улучшающих их собственные системы.
Предложенные альтернативы и рыночные тенденции
Руководитель выступил за то, чтобы компании сохраняли владение своими данными, включая записи взаимодействий, отправленные команды и оценки пользователей. В качестве альтернативного решения он предложил создание собственных обучающих сред и структур, способных интегрировать различные модели искусственного интеллекта.
Это предложение подкрепляет тенденцию миграции к открытым моделям, устанавливаемым локально в компаниях. Идит Левин, основатель и генеральный директор Solo.io, в интервью TechCrunch прокомментировала, что компании, которые изначально тестировали проприетарные решения, начали оценивать внутренне работающие модели с открытым исходным кодом из-за большего контроля и снижения затрат.
Левин отметила это движение среди корпоративных клиентов, упомянув такие организации, как T-Mobile, ADP и SAP. Solo.io, которая предоставляет технологии для проекта Agentgateway Linux Foundation, занимается управлением безопасностью и сетями для систем ИИ.
Рост открытых моделей в секторе
Другие компании в отрасли также заметили рост использования открытых моделей. Vercel, платформа для создания и хостинга веб-сайтов, начала предлагать функции переключения между моделями ИИ, а OpenRouter, сервис маршрутизации между различными системами ИИ, зафиксировал высокий спрос на эти варианты.
Данные показывают, что открытые модели составили 29% всего трафика, направленного через шлюз Vercel в месяц, предшествующий публикации. Это движение подтверждает ожидание того, что этот подход будет расширяться среди организаций, стремящихся уменьшить зависимость от конкретных поставщиков.
Позиция Microsoft
Позиция Наделы имеет значение, учитывая, что Microsoft инвестирует в компании, занимающиеся ИИ, такие как OpenAI и Anthropic. Несмотря на это партнерство, руководитель настаивал на том, что корпоративные пользователи должны сохранять право собственности на знания, полученные в процессе использования этих инструментов. Он заключил: «Потребляя интеллект, вы создаете интеллект. И то, что вы создаете, должно принадлежать вам».
