Дискуссия о оптимальном темпе развития искусственного интеллекта (ИИ) приобрела новую сложность в Соединенных Штатах. После появления предупреждений о присущих технологии опасностях и призывов замедлить разработку самых сложных моделей, в обсуждении безопасности и нормирования ИИ возникли два различных лагеря.
Одна сторона этого спора включает президента США Дональда Трампа, генерального директора Nvidia Дженсена Хуанга и бывшего главу криптовалют Белого дома Дэвида Сакса. С другой стороны находятся генеральный директор Anthropic Дарио Амодеи, генеральный директор OpenAI Сэм Альтман, бизнесмен Илон Маск и различные исследователи ИИ.
Эта ситуация объединяет политических противников и бывших конкурентов технологического сектора, которые расходятся во мнениях о том, как управлять рисками, связанными с прогрессом ИИ.
Позиция OpenAI относительно замедления
Сара Фрайар, финансовый директор OpenAI, заявила CNBC, что ее не беспокоит потенциальное снижение скорости разработки передовых систем ИИ. Она утверждала, что даже если прогресс будет остановлен на данный момент, «количество доступного в мире интеллекта огромно». Фрайар пояснила, что OpenAI сохранит свои инвестиционные решения, сосредоточенные на получении «высокой отдачи от инвестиций» (ROI), даже если технологическое развитие должно происходить медленнее.
Кроме того, она упомянула, что ее не особенно беспокоит возможность того, что агенты ИИ будут использовать оружие массового уничтожения для убийства людей, но подчеркнула необходимость серьезно относиться к безопасности. Она заявила: «Если это означает, что нам нужно дозировать границу и замедлиться, мы абсолютно выслушаем наших исследователей и сделаем это». Как финансовый директор, она добавила, что ее обязанностью будет принимать деловые решения на основе этого руководства, заявив: «Мы дозируем эту границу и очень серьезно относимся к безопасности и согласованности».
Предложение Anthropic о умеренности в разработке
Во время мероприятия, проведенного Salesforce в Сан-Франциско (США), Дарио Амодеи вновь подтвердил свою поддержку замедления темпов развития ИИ, представив предложение, основанное на трех мерах. Anthropic уже взяла на себя обязательство по первой из этих инициатив. Амодеи провел аналогию с автомобильной промышленностью, объяснив, что когда производитель сталкивается с серьезной проблемой безопасности, такой как отказ тормозов, другие компании должны использовать этот инцидент как возможность пересмотреть свои собственные практики. Он предположил: «Очень соблазнительно нападать на своего конкурента и говорить, что они небезопасны. Но я думаю, что самый ответственный способ ответить — посмотреть на нашу собственную историю».
Руководитель также выразил удивление скоростью прогресса ИИ и его экономическими последствиями, заявив: «Это был темп прогресса — не только технологий, но и экономической стороны».
Отказ Трампа от рисков ИИ и акцент на конкуренции
С другой стороны, Трамп публично отвергает предупреждения о рисках ИИ. В нескольких публикациях в сети Truth Social президент назвал опасения по поводу неконтролируемого ИИ «фарсом» и «мошенничеством». Трамп также раскритиковал сопротивление установке новых центров обработки данных в США, предположив, что те, кто выступает против таких проектов, обслуживают интересы, противоположные расширению, включая, по его анализу, Китай.
В понедельник (14) Трамп во время интервью Дженсена Хуанга на саммите All-In Summit в Лос-Анджелесе (США) направил свое послание непосредственно аудитории технологического сектора. Хуанг ответил президенту: «Вы правы. Мы не позволим этому случиться, сэр». Скотт Бессент, министр финансов США, подтвердил в показаниях перед Конгрессом, что Трамп «полностью согласен» с Хуангом.
Хуанг укрепил эту позицию на мероприятии Dreamforce, заявив: «Нам не нужны новые законы. Нам не нужно новое регулирование». По его мнению, корпорации должны просто определять, готовы ли их системы, и продолжать быстрое развитие. В другой раз генеральный директор Nvidia обобщил свое видение фразой: «Бегите как можно быстрее».
Генеральный директор Nvidia также отклонил опасения по поводу возможного всеобщего коллапса рабочих мест, вызванного ИИ, назвав такой сценарий «абсолютно абсурдным». Для Хуанга использование ИИ станет центральным практически во всех компаниях, поскольку «все компании, все организации... станут компаниями на базе ИИ».
Технологическая конкуренция с Китаем является одним из основных аргументов, представленных группой, выступающей против замедления. Часть послания правительства Трампа заключается в том, что ограничение регулирования имеет решающее значение для сохранения США преимущества в гонке ИИ. Трамп заявил в воскресенье, что «кто выиграет ИИ, тот победит».
Дэвид Сакс, который в настоящее время занимает должность сопредседателя Консультативного совета президента по науке и технологиям, также выступил в защиту продолжения развития компаний. Он призвал компании «двигаться вперед на границе», но раскритиковал аргумент о том, что мотивация для замедления была «чисто альтруистической».
Эмиль Майкл, заместитель министра обороны по исследованиям и разработкам, придерживался схожей точки зрения. В интервью Fox News он утверждал, что нынешние предупреждения являются частью кампании, организованной заинтересованными лицами, идеологиями и НПО, стремящимися напугать американскую общественность.
Майк Джонсон, спикер Палаты представителей, также заявил, что Трамп планирует собрать лидеров отрасли ИИ в Белом доме «в течение следующей недели». Джонсон также опроверг предупреждения о возможном технологическом коллапсе, заявив, что послание Трампа состоит в том, что люди не умрут все через десять лет, и это будет «фарсом».
Политические альянсы в защиту контроля над ИИ
Движение в пользу большего контроля над ИИ также способствовало формированию уникальных альянсов в американской политике. Во вторник (15) сенатор Берни Сандерс, демократ от Вермонта, член Палаты представителей Чип Рой, республиканец от Техаса, и Стив Беннон, бывший стратег Белого дома, приняли участие в мероприятии в Вашингтоне в поддержку мер, касающихся ИИ.
Несмотря на то, что они имеют разные политические взгляды по многим вопросам, они объединились с группой, которая выступает за какую-либо форму ответа на риски, связанные с развитием технологий. Таким образом, дебаты охватили не только конкурирующие компании в сфере ИИ, но и членов разных политических спектров.
Это разделение усилилось, когда некоторые из крупнейших мировых компаний в области ИИ начали публично обсуждать риски, связанные с разработкой все более совершенных моделей. Амодеи выступает за то, чтобы отрасль создала независимые международные механизмы оценки и координации. Альтман приблизился к этой позиции, а Маск также выразил поддержку призыву к замедлению.
Хуанг, с другой стороны, настаивает на том, что развитие должно продолжаться быстро, и что новые законы и правила не нужны. Трамп следует этой линии рассуждений, связывая темпы ИИ с технологической конкуренцией с Китаем. Этот конфликт происходит на фоне того, как OpenAI и Anthropic приближаются к возможным первичным публичным размещениям (IPO). Обе компании входят в число тех, которые могут провести крупные IPO, при этом Альтман сигнализировал, что OpenAI планирует отложить свое размещение до следующего года из-за недавних проблем с безопасностью.
Обсуждение ставит в центр американских дебатов вопрос, охватывающий технологии, безопасность, экономику и международную конкуренцию: каков предел развития ИИ, прежде чем будут внедрены новые меры контроля.
Тема рисков ИИ также необычно сблизила сенатора Берни Сандерса и стратега Стива Беннона, фигуры противоположных краев американской политики. Оба приняли участие в «Про-Human Assembly» в Вашингтоне (США), выступая за более строгие правила для ИИ и критикуя концентрацию власти в руках крупных технологических корпораций.
Однако это сближение ограничивается этим моментом. Сандерс рассматривает ИИ как глобальный риск, сравнимый с ядерной гонкой, и призывает к международному соглашению о приостановлении разработки передовых систем. Беннон, с другой стороны, рассматривает технологический спор с Китаем с точки зрения власти, выступая за изоляцию страны от американской экосистемы исследований, финансов и технологий.
Сандерс заявил: «Суперинтеллект, вышедший из-под контроля человека, не будет американской проблемой. Это не будет китайской проблемой. Это будет проблема человечества». Сенатор также надеялся, что Дональд Трамп договорится с китайским президентом Си Цзиньпином о договоре о приостановке разработки передового ИИ и запрете суперинтеллекта. Беннон занял иную позицию: «Без соглашений, без договоров: вы не в бизнесе ИИ, потому что мы разрушим вашу экосистему». Стратег также заявил, что «американские граждане больше не будут умолять олигархов».
