Генеральный директор Microsoft, Сатья Надела, представил новую концепцию, названную «Обратный парадокс информации». Он отметил, что в эпоху искусственного интеллекта люди вынуждены оплачивать интеллект дважды: один раз деньгами, а второй раз чем-то более ценным — собственными конфиденциальными знаниями.
По словам Сатьи Наделы, по мере того как предприятия спешат внедрять искусственный интеллект (ИИ), они рискуют передать свои самые ценные частные знания. Надела заявил в социальной сети X в воскресенье, что для того, чтобы сделать интеллект полезным, пользователи должны раскрывать свои конфиденциальные данные, платя за это не только деньгами.
Он подчеркнул, что чем выше желаемая производительность модели, тем больше знаний необходимо ей предоставить. Надела сослался на «Парадокс информации» экономиста, лауреата Нобелевской премии Кеннета Арроу, который утверждает, что покупатель не знает истинной ценности информации до ее раскрытия, но после раскрытия фактически получает ее бесплатно.
Надела объяснил, что ИИ породил обратную проблему: покупатели обязаны раскрывать свои собственные конфиденциальные знания, чтобы системы ИИ могли функционировать. Он добавил, что по мере использования моделей ИИ предприятиями асимметрия информации становится все более выраженной. Продавец узнает все больше о покупателе через запросы, взаимодействие и использование, тогда как покупатель узнает очень мало о том, что продавец изучает взамен.
Надела отметил, что в парадоксе Арроу патенты решают один аспект, позволяя изобретателю раскрыть идею, не отдавая ее полностью. Однако, по мнению Наделы, «Обратный парадокс информации» требует своего собственного эквивалента.
Проблема выходит за рамки простого соблюдения конфиденциальности данных. Как пояснил Надела, «Модели учатся на остатках: на запросах, которые пишут люди, на инструментах, которые используют агенты, и особенно на исправлениях, которые люди вносят, когда модель ошибается. Каждое исправление преобразуется в институциональный опыт. Это знание, которое конкурент никогда не сможет купить, и которое утекает почти незаметно: след за следом, исправление за исправлением, оценка за оценкой».
Он заключил, что «потребляя интеллект, вы создаете интеллект. И то, что вы создаете, должно принадлежать вам». Надела также возразил, что, хотя разработчики ИИ должны иметь право обучать модели на общедоступных данных, текущая практика, ограничивающая клиентов в дистилляции моделей, в то время как провайдеры могут учиться на взаимодействиях с клиентами, создает односторонний поток обучения.
Если такая ситуация продолжится, экономическая ценность, генерируемая ИИ, будет все больше накапливаться у владельцев инфраструктуры ИИ, а не у предприятий, создающих базовые знания. Поэтому, по мнению Наделы, предприятиям необходима настоящая граница доверия для своего человеческого и токен-капитала, где накапливаются и улучшаются данные, следы, оценки, адаптированные веса и память организации.
Для противодействия «Обратному парадоксу информации» Надела предложил пять принципов для компаний, внедряющих ИИ: сохранять контроль над своими данными и институциональными знаниями, создавать закрытые среды обучения, избегать зависимости от одной модели ИИ, оптимизировать затраты за счет гибкой инфраструктуры ИИ и формировать непрерывный цикл обучения, который увеличивает ценность инвестиций в ИИ.
