Некоторые законодатели США требуют введения новых правил для регулирования систем искусственного интеллекта после серьезных предупреждений от двух исследователей Anthropic о том, что быстро развивающийся ИИ может привести к вымиранию человечества в обозримом будущем.
Опасения по поводу потенциального вреда от ИИ усилились на этой неделе, когда исследователь Anthropic Джейкоб Коксон объявил об увольнении, заявив, что «люди, искренне создающие ИИ, считают, что он может убить нас всех к концу десятилетия».
Ученый Anthropic Эван Хубингер поддержал Коксона, написав в X: «Мы действительно искренне верим, что ИИ может убить всех людей». Он добавил: «Лично я думаю, что это более чем 10% в течение следующего десятилетия».
Эти предостережения появились на фоне случаев, когда агенты ИИ выходили из-под контроля и взламывали внешние системы, а также после того, как исследователи по безопасности ИИ покинули свои компании из-за опасений относительно рисков данной технологии. Политики США, как демократы, так и республиканцы, отреагировали на это с тревогой и призывами к дальнейшим действиям.
Призывы к действию от политиков
Сенатор штата Аризона Марк Келли, член Демократической партии, заявил в X, что «Вашингтон должен проснуться и воспринять это всерьез», ссылаясь на риски, связанные с технологией ИИ. Республиканский сенатор Тед Круз из Техаса указал на необходимость законодательных мер для регулирования «катастрофических рисков» ИИ. Круз курирует комитет Сената, который осуществляет надзор за Департаментом торговли США, агентством, имеющим собственных исследователей по безопасности ИИ.
Представитель Анна Паулина Луна из Флориды, представитель Республиканской партии, в посте в X призвала спикера Палаты Майка Джонсона созвать «специальную сессию по ИИ».
Позиция президента и регуляторные инициативы
Однако президент США Дональд Трамп в четверг заявил, что не обеспокоен тем, что ИИ приведет к вымиранию человека. Он отметил: «У меня есть опасения, что если мы не выиграем ИИ, мы окажемся в очень плохом положении. Сейчас мы опережаем Китай на довольно хорошем отрезке», — сказал он в кратких замечаниях для СМИ в Международном аэропорту Даллас Форт Уорт.
В этом месяце США настояли на том, чтобы члены G20 приняли осторожный подход к регулированию ИИ. Представитель Anthropic, которая готовится к публичному размещению акций при потенциальной оценке в 2 триллиона долларов США, сообщил в четверг, что компания продолжит активно тестировать «модели или опасные возможности в таких областях, как кибербезопасность и биология». Представитель также добавил, что компания заинтересована в сотрудничестве с индустрией ИИ в вопросах темпов выпуска новых инструментов ИИ.
Генеральный директор OpenAI Сэм Альтман сообщил сотрудникам на встрече в этой неделе, что фирма готова замедлить разработку своих систем ИИ, как сообщило Bloomberg News. Конкурент Anthropic, который также готовится к IPO, не комментировал встречу Альтмана с персоналом. Ранее компания заявляла о замедлении некоторых частей разработки моделей.
Ранее на этой неделе OpenAI заявила о поддержке обязательных национальных требований по безопасности ИИ в США. Два специалиста по безопасности ИИ также выразили свою обеспокоенность по поводу стремительного развития отрасли. Джош Энгельс, ранее работавший над исследованиями по безопасности ИИ в Google DeepMind, заявил в интервью NBC, опубликованном в четверг: «В комнате нет взрослых. Люди делают все возможное, но никто не придет нас спасать».
Джоу Бентон, который ранее руководил командой по безопасности в Anthropic, сообщил NBC, что беспокоится о том, что ИИ может развиваться «слишком быстро, чтобы мы успели собраться вовремя, если мы не начнем беспокоиться об этом сейчас». Оба присоединились к Metr, некоммерческой исследовательской организации, которая измеряет, могут ли системы ИИ угрожать обществу и когда это может произойти.
Давление на законодателей и принятие законов
Тревога по поводу ИИ оказала давление на лидера большинства Сената США Джона Туна и демократа Эми Клобучар, которые готовят законопроект о регулировании продуктов ИИ. Клобучар заявила, что законодательство должно требовать от компаний, разрабатывающих инструменты ИИ, «сотрудничать с экспертами правительства для проверки и тестирования моделей, чтобы убедиться в безопасности ИИ». Тун сообщил Reuters в июле, что законопроект будет касаться «катастрофических рисков», исходящих от систем ИИ.
В среду штат Калифорния принял первый закон в США, устанавливающий правила для независимых аудиторов при оценке продуктов ИИ. Руководитель OpenAI Крис Лехан заявил, что OpenAI поддержит этот закон, примерно в то же время офис губернатора Калифорнии Гэвина Ньюсома выпустил заявление о подписании его закона.
Возможности для надзора
В июле межпартийная группа из шести законодателей США предложила законопроект, который обязывал бы разработчиков самых мощных моделей ИИ представлять их на независимый аудит безопасности. Аудиторы должны были быть аккредитованы Департаментом торговли США, а департамент должен был создать новую должность для надзора за безопасностью ИИ, согласно этому законопроекту.
