Создание NASA в США, которое позволило человеку достичь Луны

Генеральный директор Meta Марк Цукерберг подверг резкой критике метод разработки искусственного интеллекта (ИИ), используемый его конкурентами, упомянув OpenAI и Anthropic. В интервью The New York Times во вторник (28) руководитель предупредил, что централизация создания передовых моделей в нескольких корпорациях может ограничить доступ общества к этой технологии и, следовательно, нанести ущерб инновационному прогрессу.

Взгляд на развитие ИИ

Хотя он не называл OpenAI и Anthropic напрямую во всех моментах разговора, Цукерберг указал, что его критика была направлена на компании, которые выступают за более строгий контроль над ИИ. По его словам, эта позиция расходится с традиционной культурой технологического сектора в Соединенных Штатах. Руководитель отметил, что большая часть дискуссий в других лабораториях чрезмерно пессимистична, подчеркнув необходимость наличия голосов, которые внесут в обсуждение элемент реализма.

Дискуссии в Кремниевой долине

Эти заявления подкрепляют существующую поляризацию в Кремниевой долине относительно того, как должны распределяться и создаваться передовые системы ИИ. С одной стороны, руководители, такие как Дарио Амодеи из Anthropic и Сэм Альтман, утверждают, что некоторые передовые модели уже представляют чрезмерные риски и требуют строгих механизмов контроля до их выпуска или разработки. С другой стороны, крупные компании, такие как Microsoft, Nvidia, Google и сама Meta, выступают за то, чтобы значительная часть этих моделей оставалась широко доступной для стимулирования новых исследований, бизнеса и технологических достижений.

Этот спор усилился в этом месяце после того, как китайские модели ИИ снизили технологическое лидерство американских компаний, таких как OpenAI и Anthropic, в этом секторе. В ответ эти компании активизировали диалог с регуляторами в Вашингтоне и выразили обеспокоенность по поводу продвижения моделей с открытым исходным кодом из Китая.

Позиция Nvidia и открытый исходный код

В прошлую пятницу (24) Дженсен Хуанг, генеральный директор Nvidia, опубликовал письмо в поддержку использования программного обеспечения с открытым исходным кодом для ИИ, позиция, которую поддерживают многие другие технологические компании. Кроме того, Хуанг объявил о создании коалиции, сосредоточенной на разработке открытых инструментов кибербезопасности и безопасности ИИ, объединившей такие организации, как SpaceX и IBM. Хуанг и Альтман были среди руководителей, посетивших Вашингтон для обсуждения с правительством президента Дональда Трампа возможных руководящих принципов для отрасли.

Персонализированный суперинтеллект

Во время интервью Цукерберг вновь заявил о своей поддержке идеи о том, что ИИ должен быть доступен для наибольшего числа людей. Он оспорил идею создания единого суперинтеллекта, полностью согласованного с человеческими интересами, что является распространенной концепцией в дискуссиях о безопасности ИИ. Руководитель заявил, что скептически относится к представлению о том, что один тип ИИ может быть гарантированно полезен для человечества посредством идеализированного согласования.

В противовес этому он предложил концепцию «персонализированного суперинтеллекта», где помощники ИИ могут быть настроены в соответствии с индивидуальными предпочтениями, ценностями и потребностями каждого пользователя. Цукерберг заявил, что практически невозможно существование единого благожелательного суперинтеллекта, который удовлетворял бы всех одновременно.

Недавние стратегии и инициативы

К моменту публикации интервью ни OpenAI, ни Anthropic не комментировали заявления Цукерберга. Ранее OpenAI заявила о своей поддержке инициатив с открытым исходным кодом и упомянула свою работу с Белым домом по установлению безопасных методов расширения ИИ. Уже в понедельник (27) Амодеи опубликовал текст, в котором подробно описал, что Anthropic сосредоточена на предотвращении попадания передовых чипов в авторитарные режимы, предотвращении массового воспроизведения моделей ИИ и требовании проведения тестов безопасности для высокоспособных систем, независимо от того, являются ли они открытыми или закрытыми.

Несмотря на различия между компаниями, исследователи из Anthropic, OpenAI, Meta и Google совместно подписали открытое письмо под названием «Pacing the Frontier». Этот документ выступает за глобальные усилия по созданию технических инструментов и механизмов управления, которые позволят замедлить прогресс ИИ, когда безопасность этого потребует.

Изменения в стратегии Meta

Подход Meta к ИИ также претерпел недавние изменения. Раньше компания была известна тем, что бесплатно предоставляла модели ИИ с открытым исходным кодом. Однако после потери позиций в пользу OpenAI и Anthropic Цукерберг пересмотрел стратегию. Компания инвестировала 14,3 миллиарда долларов (73,5 миллиарда рублей) в стартап Scale AI и наняла его основателя Александра Ванга для руководства подразделением ИИ, которое было переименовано в Meta Superintelligence Labs. Кроме того, были выделены миллиарды долларов на найм экспертов-исследователей, которые начали разрабатывать новую закрытую модель ИИ вместо полностью открытой. В этом месяце Meta впервые начала продавать доступ к своей модели Muse Spark, продолжая при этом разработку моделей с открытым исходным кодом.

В заключение Цукерберг выразил убежденность в том, что тенденция в технологической отрасли указывает на постепенную демократизацию инструментов ИИ, заключая, что общий курс сектора всегда стремился сделать технологию более доступной для большего числа людей, а не для меньшего.

Восемьдесят один год назад Ванневар Буш передал тогдашнему президенту США Гарри С. Трумэну доклад, который определил американскую науку на многие поколения вперед. Документ «Наука: Бесконечный фронтир» обосновал необходимость федерального финансирования фундаментальных исследований и создал институциональную основу, которая помогла выиграть Вторую мировую войну, осуществить полет человека на Луну и породить цифровую эпоху.

Наследник старой модели

Теперь Белый дом обнародовал свой преемник. Доклад «Наука: Новый золотой век», представленный президенту Дональду Трампу Майклом Крациосом, директором Управления по науке и технологической политике Белого дома 21 июля, представляет собой самый масштабный пересмотр политики в области науки США за восемь десятилетий. Он утверждает, что послевоенная модель — так называемая «линейная модель» фундаментальных исследований, перетекающих в прикладные работы, а затем в промышленность — больше не соответствует текущей реальности. Согласно новому отчету, современные открытия представляют собой итеративный цикл, а учреждения, созданные для науки середины века, становятся все более узким местом.

Институциональные реформы и новые инструменты

Первый крупный акцент в докладе сделан на институциональной реформе. Он критикует систему, в которой исследователи тратят почти половину времени на оформление бумаг, гранты занимают около года от подачи до присуждения, а экспертные комиссии склонны вознаграждать консенсус, а не смелые идеи. Предлагаемое решение заключается в возвращении индивидуального ученого в центр внимания. Необходимо расширить портативные стипендии для аспирантов и долгосрочные гранты, аналогичные Премиальной награде директора NIH. Также предлагается диверсифицировать механизмы финансирования помимо экспертной оценки, включив в них «золотые билеты», позволяющие отдельным рецензентам поддерживать амбициозные предложения, быстрые гранты для оперативного принятия решений и конкурсы с призовым фондом за достигнутые результаты. Кроме того, доклад призывает создать новые организационные формы: X-Лаборатории, гибкие временные команды для решения конкретных проблем и Агентства передовых исследовательских проектов (ARPA), где менеджеры программ делают смелые ставки. Послание очевидно: правительство США ежегодно тратит около 200 миллиардов долларов на НИОКР, и авторы доклада считают, что слишком большая часть этих средств уходит на бюрократию, а не на прорывы.

Искусственный интеллект как двигатель науки

Самый футуристический раздел посвящен тому, что доклад называет «революцией в науке», движимой искусственным интеллектом (ИИ). Центральным элементом является Миссия «Генезис» — инициатива ИИ для науки, цель которой — удвоить производительность и влияние исследований США в течение десяти лет. «Генезис» будет интегрировать суперкомпьютеры, модели ИИ, научные приборы и наборы данных по всей национальной лабораторной системе, создавая замкнутый цикл, в котором ИИ генерирует гипотезы, автоматизированные лаборатории их проверяют, а полученные результаты возвращаются обратно в модель. В докладе содержится призыв к построению инфраструктуры верификации в больших масштабах, отмечая, что «хотя стоимость генерации экспоненциально снизилась, стоимость верификации этого не произошло». Также поддерживается автономный эксперимент — самодвижущиеся лаборатории, способные сократить сроки открытия на порядки. Амбиции этой инициативы схожи с тем, что строит Китай в области науки, управляемой ИИ, от PaddlePaddle от Baidu в вычислительной биологии до моделей погоды Pangu от Huawei. Однако американская версия имеет политическое дополнение: доклад одновременно предписывает «Науку золотого стандарта» через исполнительный указ, обеспечивая воспроизводимость и обмен данными как основу для открытий на базе ИИ.

Соединенные Штаты Америки проводят масштабную реорганизацию системы финансирования науки, стремясь опередить мировых конкурентов. Новый отчет Белого дома, состоящий из 123 страниц, отказывается от послевоенной модели, основанной на университетских исследованиях, и вместо этого делает ставку на отдельных ученых, открытия, управляемые искусственным интеллектом, а также на платформу под названием Genesis Mission с бюджетом в 5 миллиардов долларов.

Новая стратегия в науке

Доклад под названием Science: A New Golden Age был представлен Президенту Трампу 21 июля Майклом Крациосом, директором Управления по науке и технологической политике Белого дома (OSTP). Этот документ сознательно отсылает к работе Ванневара Буша 1945 года «Science: The Endless Frontier», которая сформировала исследовательский порядок Америки после войны, однако он переосмысливает научные реформы в контексте долгосрочной стратегической конкуренции.

Критика старой модели

Отчет Буша 1945 года установил «линейную модель»: федеральные средства направлялись на фундаментальные исследования в университетах, а коммерциализация оставалась задачей промышленности. Новый доклад считает эту модель устаревшей. Несмотря на увеличение инвестиций, научная продуктивность замедлилась, а исследования стали чрезмерно сконцентрированы в небольшом числе устоявшихся учреждений. В документе содержится призыв перенаправить федеральное финансирование НИОКР на отдельных исследователей, делая акцент на людях, а не на заявках.

Миссия Genesis и ИИ

Центральным элементом отчета является Genesis Mission, цель которой — удвоить научную производительность США в течение десяти лет. Эта миссия поддерживается федеральными обязательствами на сумму более 5 миллиардов долларов и создает единую платформу, связывающую 17 национальных лабораторий Министерства энергетики США, включая суперкомпьютеры, приборы и наборы данных, с моделями ИИ частного сектора.

Результаты и аргументация

Из более чем 5000 поданных заявок было профинансировано 278 проектов, охватывающих биомедицинские исследования, надежность энергетических сетей, квантовые вычисления и производство микроэлектроники. Самая крупная премия, в размере 600 миллионов долларов, присуждена проекту в области ядерной энергетики, управляемому ИИ. Амбиция состоит в том, чтобы сделать ИИ операционной системой самой американской науки. Доклад ссылается на «подход иностранных конкурентов ко всему обществу в отношении науки и технологий» как на основной аргумент срочности, подчеркивая необходимость восстановления связи между научными открытиями и передовым производством, а также региональными инновационными кластерами, чтобы американские изобретения производились и масштабировались на территории США.

Противодействие плану

Логика плана проста: США стремятся устранить нарушенные звенья собственной цепочки инноваций. Однако этот план уже вызвал критику. Законодатели от Демократической партии и некоторые эксперты по научной политике утверждают, что снижение поддержки университетов может ослабить ту самую систему исследований, которая изначально сделала американскую науку мировым лидером.