Генеральный директор Meta Марк Цукерберг подверг резкой критике метод разработки искусственного интеллекта (ИИ), используемый его конкурентами, упомянув OpenAI и Anthropic. В интервью The New York Times во вторник (28) руководитель предупредил, что централизация создания передовых моделей в нескольких корпорациях может ограничить доступ общества к этой технологии и, следовательно, нанести ущерб инновационному прогрессу.
Взгляд на развитие ИИ
Хотя он не называл OpenAI и Anthropic напрямую во всех моментах разговора, Цукерберг указал, что его критика была направлена на компании, которые выступают за более строгий контроль над ИИ. По его словам, эта позиция расходится с традиционной культурой технологического сектора в Соединенных Штатах. Руководитель отметил, что большая часть дискуссий в других лабораториях чрезмерно пессимистична, подчеркнув необходимость наличия голосов, которые внесут в обсуждение элемент реализма.
Дискуссии в Кремниевой долине
Эти заявления подкрепляют существующую поляризацию в Кремниевой долине относительно того, как должны распределяться и создаваться передовые системы ИИ. С одной стороны, руководители, такие как Дарио Амодеи из Anthropic и Сэм Альтман, утверждают, что некоторые передовые модели уже представляют чрезмерные риски и требуют строгих механизмов контроля до их выпуска или разработки. С другой стороны, крупные компании, такие как Microsoft, Nvidia, Google и сама Meta, выступают за то, чтобы значительная часть этих моделей оставалась широко доступной для стимулирования новых исследований, бизнеса и технологических достижений.
Этот спор усилился в этом месяце после того, как китайские модели ИИ снизили технологическое лидерство американских компаний, таких как OpenAI и Anthropic, в этом секторе. В ответ эти компании активизировали диалог с регуляторами в Вашингтоне и выразили обеспокоенность по поводу продвижения моделей с открытым исходным кодом из Китая.
Позиция Nvidia и открытый исходный код
В прошлую пятницу (24) Дженсен Хуанг, генеральный директор Nvidia, опубликовал письмо в поддержку использования программного обеспечения с открытым исходным кодом для ИИ, позиция, которую поддерживают многие другие технологические компании. Кроме того, Хуанг объявил о создании коалиции, сосредоточенной на разработке открытых инструментов кибербезопасности и безопасности ИИ, объединившей такие организации, как SpaceX и IBM. Хуанг и Альтман были среди руководителей, посетивших Вашингтон для обсуждения с правительством президента Дональда Трампа возможных руководящих принципов для отрасли.
Персонализированный суперинтеллект
Во время интервью Цукерберг вновь заявил о своей поддержке идеи о том, что ИИ должен быть доступен для наибольшего числа людей. Он оспорил идею создания единого суперинтеллекта, полностью согласованного с человеческими интересами, что является распространенной концепцией в дискуссиях о безопасности ИИ. Руководитель заявил, что скептически относится к представлению о том, что один тип ИИ может быть гарантированно полезен для человечества посредством идеализированного согласования.
В противовес этому он предложил концепцию «персонализированного суперинтеллекта», где помощники ИИ могут быть настроены в соответствии с индивидуальными предпочтениями, ценностями и потребностями каждого пользователя. Цукерберг заявил, что практически невозможно существование единого благожелательного суперинтеллекта, который удовлетворял бы всех одновременно.
Недавние стратегии и инициативы
К моменту публикации интервью ни OpenAI, ни Anthropic не комментировали заявления Цукерберга. Ранее OpenAI заявила о своей поддержке инициатив с открытым исходным кодом и упомянула свою работу с Белым домом по установлению безопасных методов расширения ИИ. Уже в понедельник (27) Амодеи опубликовал текст, в котором подробно описал, что Anthropic сосредоточена на предотвращении попадания передовых чипов в авторитарные режимы, предотвращении массового воспроизведения моделей ИИ и требовании проведения тестов безопасности для высокоспособных систем, независимо от того, являются ли они открытыми или закрытыми.
Несмотря на различия между компаниями, исследователи из Anthropic, OpenAI, Meta и Google совместно подписали открытое письмо под названием «Pacing the Frontier». Этот документ выступает за глобальные усилия по созданию технических инструментов и механизмов управления, которые позволят замедлить прогресс ИИ, когда безопасность этого потребует.
Изменения в стратегии Meta
Подход Meta к ИИ также претерпел недавние изменения. Раньше компания была известна тем, что бесплатно предоставляла модели ИИ с открытым исходным кодом. Однако после потери позиций в пользу OpenAI и Anthropic Цукерберг пересмотрел стратегию. Компания инвестировала 14,3 миллиарда долларов (73,5 миллиарда рублей) в стартап Scale AI и наняла его основателя Александра Ванга для руководства подразделением ИИ, которое было переименовано в Meta Superintelligence Labs. Кроме того, были выделены миллиарды долларов на найм экспертов-исследователей, которые начали разрабатывать новую закрытую модель ИИ вместо полностью открытой. В этом месяце Meta впервые начала продавать доступ к своей модели Muse Spark, продолжая при этом разработку моделей с открытым исходным кодом.
В заключение Цукерберг выразил убежденность в том, что тенденция в технологической отрасли указывает на постепенную демократизацию инструментов ИИ, заключая, что общий курс сектора всегда стремился сделать технологию более доступной для большего числа людей, а не для меньшего.
