Генеральный директор Meta Platforms Марк Цукерберг заявил, что конкуренция и вопросы ответственности дают компаниям, занимающимся разработкой ИИ, достаточные основания действовать самостоятельно в вопросах безопасности. Его заявление фактически противоречит призывам лидеров ведущих ИИ-компаний о скоординированном замедлении темпов развития искусственного интеллекта.
Эти комментарии подчеркивают раскол среди руководителей отрасли и американских властей относительно того, как реагировать на предупреждения о том, что технология развивается быстрее, чем компании могут это контролировать, в то время как некоторые инсайдеры индустрии предупреждают об экзистенциальной угрозе человечеству.
Цукерберг в посте в X во вторник отметил, что каждая лаборатория несет ответственность и имеет стимул двигаться с требуемой скоростью для безопасного обучения своих моделей, а также обладает возможностью принимать собственные меры для обеспечения этого.
Его высказывания прозвучали через три дня после того, как генеральный директор Anthropic Дарио Амодеи призвал ИИ-компании снизить темпы улучшения возможностей моделей, что последовало за предупреждениями о экзистенциальном риске от ряда исследователей. Конкуренты, такие как глава OpenAI Сэм Альтман и Илон Маск из xAI, поддержали призыв Амодеи в течение нескольких часов.
Однако президент США Дональд Трамп в понедельник преуменьшил опасения по поводу потенциального вреда ИИ, заявив, что в США уже существуют защитные механизмы для этой технологии, и что Китай выиграет от сомнений в развитии ИИ. Мнение о том, что регулирование навредит способности американских компаний конкурировать со своими китайскими аналогами, разделяют технологические руководители, включая генерального директора Nvidia Дженсена Хуанга.
Цукерберг добавил: «Доверие и согласованность быстро становятся самыми важными возможностями, которые будут отличать агентов и модели. Любая лаборатория, которая не сосредоточится на согласованности, отстанет».
Он также сообщил, что лаборатории имеют сильный стимул предотвращать причинение вреда моделями, поскольку в противном случае они столкнутся со «значительной» ответственностью. Он привел в пример решение Meta отложить выпуск своего агента Muse AI ранее в этом году для усиления безопасности.
Цукерберг пояснил: «Мы не призывали всех остальных делать это раньше нас. Мы просто сделали это в рамках нашей повседневной работы, потому что это было очевидно правильным для людей и для нас».
В то время как Амодеи выступал за общеотраслевое замедление рекурсивного самосовершенствования — способности ИИ улучшать себя сам, Цукерберг заявил, что Meta уже направила «значительное большинство» своих вычислительных мощностей на создание продуктов, отвечающих немедленным потребностям пользователей, а не на разработку самосовершенствующихся систем ИИ.
Он упомянул, что подразделение Meta Superintelligence Labs, которое является ИИ-отделом компании, уже использует независимых оценщиков в ряде областей, называя это «лучшей практикой в отрасли», и добавил, что «другие лаборатории могут просто сделать то же самое».
Попытка Цукерберга представить Meta как ответственного игрока в области безопасности ИИ произошла спустя несколько недель после того, как компания согласилась выплатить до 18 миллиардов долларов США для урегулирования исков штатов США, утверждавших, что Meta спроектировала Facebook и Instagram таким образом, чтобы вызвать зависимость у детей, при этом не признавая вины.
Усиливая неопределенность в отношении какого-либо скоординированного подхода со стороны ИИ-фирм, председатель Федеральной торговой комиссии США Эндрю Фергюсон заявил во вторник, что все должны быть «глубоко подозрительны» к ИИ-компаниям, стремящимся получить освобождение от антимонопольного законодательства, одновременно лоббируя новое регулирование. Фергюсон не назвал Anthropic, однако на прошлой неделе Амодеи запросил разрешение на антимонопольное регулирование, чтобы позволить конкурентам координировать более медленный темп развития ИИ по соображениям безопасности.