Dario Amodei, генеральный директор Anthropic, выступил с призывом к индустрии замедлить темпы развития передовых моделей искусственного интеллекта. В субботу он опубликовал эссе, в котором настаивал на установлении ограничения скорости улучшения возможностей этих моделей. Вскоре после этого его позицию поддержали Сэм Альтман и Илон Маск.
Кроме того, Amodei выступает за ужесточение экспортного контроля США в отношении чипов, направленного против Китая, а также за пресечение того, что он называет дистилляцией моделей со стороны китайских лабораторий.
По информации лиц, знакомых с планами, ожидается, что Anthropic начнет маркетинг своего первичного публичного размещения акций в середине октября, а листинг состоится незадолго до промежуточных выборов в ноябре в США.
Financial Times сообщила в воскресенье, что компания уведомила акционеров о том, что ее скорректированная операционная прибыль будет положительной второй квартал подряд, при валовой марже выше 80% до учета доходов, разделенных с партнерами по распространению, и затрат на обучение моделей.
Таким образом, ситуация характеризуется предупреждениями об исчезновении для общественности, маржой в 80% для акционеров и предстоящим размещением акций.
Интересная неделя в мире ИИ
Автор статьи утверждает, что не оспаривает заявления Amodei о рисках, однако считает, что предлагаемое решение может увеличить издержки конкурентов, а те, кто предлагает это решение, имеют на кону сотни миллиардов долларов, зависящих от исхода событий.
С точки зрения безопасности, меры по контролю экспорта не являются обязательными, если опасность заключается в слишком быстром улучшении моделей, поскольку эта угроза не зависит от места обучения модели.
Подозрения в сговоре
Предлагаемые Amodei меры могут ограничить самые дешевые и быстро развивающиеся конкурентные силы, с которыми сталкиваются американские лаборатории, включая открытые модели, многие из которых китайские, распространяемые бесплатно или за низкую плату, что подрывает экономику на токены, необходимую для оправдания инвестиций в центры обработки данных в США на сотни миллиардов долларов. Когда мера безопасности и конкурентная мера оказываются одним и тем же решением, скептик имеет право задавать вопросы.
Также отмечается несоответствие: Альтман заявил изданию Fortune, что OpenAI не будет публиковаться в 2026 году, поскольку, учитывая все происходящее с безопасностью, выход на биржу был бы неразумным моментом. Он подчеркнул, что 10% вероятность вымирания, вызванного ИИ, является неприемлемой, и индустрия не должна позволять эго или стимулам к прибыли мешать делу. Anthropic, чьи бывшие исследователи изначально подняли эти тревоги, не изменила своего плана листинга.
Оба лидера поддержали замедление, но только один из них несет финансовые издержки этого решения.
Альтман также предположил, что ведущие лаборатории могут быть близки к соглашению о замедлении разработки и совместном управлении рисками безопасности. Автор сравнивает это с ситуацией в любой другой отрасли, когда доминирующие производители договариваются ограничить выпуск продукции, что выглядит как классический сговор.
Дональд Трамп, по мнению автора, пришел к примерно верному выводу в воскресенье, хотя и совершенно неверным путем. Во время интервью на своем ирландском поле для гольфа, когда его спросили о необходимости замедления или большего регулирования ИИ, президент США заявил: «Мы лидируем над Китаем в области ИИ. Мы самая изощренная страна в мире, и, откровенно говоря, я хочу сохранить это, потому что кто победит в ИИ, тот победит».
Трамп отверг критиков как «очень негативные силы», поднимающие несуществующие проблемы. При этом Трамп защищает не конкуренцию, а американское первенство, и его администрация была заметно щедра по отношению к фирмам, которые теперь просят у нее правил. Однако инстинкт недоверия к ограничениям, разработанным самой индустрией, верен, даже если человек, стоящий за ними, имеет слабые причины.
Автор отмечает, что эти предупреждения не исходили из отдела маркетинга. Два исследователя Anthropic подали в отставку и стали публичными фигурами. Джейкоб Коксон, один из них, сообщил NBC’s Meet the Press, что он выступает за международную координацию, включая Китай, именно потому, что гонка с Пекином представляет собой опасный исход. Это противоположно повестке дня сдерживания. Люди, отказывающиеся от доли в компании перед листингом, представляют самый сложный случай для циничного толкования всего этого.
Кроме того, остальная часть доказательств не является корпоративными PR-акциями. Имеются задокументированные случаи взлома внешних систем агентами ИИ. Amodei признал самую слабую точку своего плана в воскресенье: проверка того, что конкурент не жульничает, должна быть абсолютно надежной, займет годы и может оказаться невозможной. Это странное признание от человека, проводящего чисто циничный маневр. Это то, что говорят, когда веришь в проблему, но не можешь ее решить.
Самостоятельное предупреждение может быть точным, и история знает примеры компаний, лоббирующих правила, о которых они случайно оказались правы.
Автор возражает не против того, что риск реален, а против предположения, что стороны с наибольшими финансовыми интересами в ответе должны составлять правила, и что эти правила должны поступать в комплекте с торговой политикой.
Позиция Южной Африки
Южная Африка не занимает позиции в этой дискуссии, поскольку страна отозвала свой проект национальной политики в области ИИ и не заменила его. Это не незначительный административный пробел. Режим управления, который разрабатывается в Вашингтоне, установит условия, на которых смогут использовать эту технологию все остальные, а открытые модели являются основной причиной, по которой страна с нашим вычислительным бюджетом может участвовать в обсуждении. Мы делаем это, используя способные открытые модели и запуская их недорого на скромном оборудовании.
Лицензионный режим с экспортным контролем, созданный для исключения Пекина, не обязательно остановится на Пекине. Скорее, он рискует поднять планку для всех, кто работает ниже уровня передовой технологии. Китай обладает вычислительными мощностями и талантами, чтобы обойти эти ограничения; Южная Африка — нет.
Таким образом, следует серьезно относиться к аргументу об исчезновении, но также следует серьезно относиться к вопросу о том, кто выигрывает от конкретного лечения, которое ему сопутствует. В настоящее время ответ — две американские компании, обе готовые продавать акции общественности и сделать своих основателей невероятно богатыми.