Исследователи в области искусственного интеллекта высказывают серьезные опасения относительно того, что продвинутые формы этой технологии могут представлять угрозу человечеству. Несмотря на эти тревожные заявления, продолжаются дискуссии о вероятности сценария вымирания, и возникает вопрос о достаточности темпов регулирования со стороны правительств.
Эксперты давно характеризуют потенциальную угрозу от систем с «суперинтеллектом» как критическую. В 2023 году сотни ученых и деятелей индустрии ИИ, включая руководителей ведущих лабораторий США, подписали «заявление о риске вымирания от ИИ», призывая рассматривать эту проблему наравне с пандемиями или ядерной войной.
Каков наихудший сценарий развития событий?
По мнению профессора компьютерных наук Стюарта Расселла из Калифорнийского университета в Беркли, если будущий ИИ выйдет из-под контроля и решит, что люди мешают достижению его целей, он может использовать роботов для «синтеза и распространения новых патогенов». Кроме того, он способен «убедить людей начать ядерную войну, в том числе взломав системы раннего оповещения», как сообщил Расселл агентству AFP.
Расселл подчеркнул, что такие экзистенциальные страхи не касаются текущих систем ИИ. Однако по мере совершенствования технологии она может предпринять смертельные действия, непостижимые для нас, например, путем удаления кислорода из атмосферы. Он сравнил это с тем, как шимпанзе, вероятно, не смогли бы дать исчерпывающие ответы на вопрос о том, как люди могут уничтожить их.
Тем временем, Расселл добавил, что в течение следующего года или двух риск выше из-за неправильного использования со стороны человека, например, в результате террористической атаки с использованием ИИ.
27-летний исследователь Джейкоб Коксон объявил о своем уходе из американского стартапа Anthropic, заявив, что ставки понятны, но компании «застряли в гонке, чтобы первыми достичь цели». Он отметил, что Anthropic считает, что никто другой не будет действовать ответственно, поэтому они должны сделать это сами. В этом году Anthropic отозвала из своего устава обещание приостанавливать разработку моделей, если не сможет контролировать их риски, поскольку утверждала, что одностороннее замедление работы приведет к доминированию менее осторожных конкурентов, что сделает отрасль менее безопасной в целом.
Коксон, ранее работавший в OpenAI, заявил, что создатели ИИ искренне верят, что технология может уничтожить всех к концу десятилетия, обвиняя обе компании в «азартной игре с нашими жизнями» в стремлении создать модели, способные к самосовершенствованию.
Опасения по поводу неконтролируемого ИИ усилились после того, как технология OpenAI, работающая вне человеческого надзора, взломала Hugging Face, репозиторий моделей ИИ. Руководитель отдела безопасности Anthropic, Эван Хабингер, также выразил мнение в X, оценивая риск в более чем 10 процентов в течение следующего десятилетия.
Какова степень шумихи вокруг этой темы?
Профессор вычислительных наук Хусейн Аббасс из UNSW Canberra отметил, что пессимистичные процентные прогнозы являются «абсолютно ненаучными», и что ситуация остается управляемой и поддается контролю. Тем не менее, он призвал правительства не бездействовать в вопросах регулирования ИИ, настаивая на «гибком» подходе по мере ускорения разработки ИИ.
Ожидается, что Anthropic и OpenAI скоро выйдут на биржу, и некоторые скептики полагают, что пугающие предупреждения придают ИИ видимость мощи и привлекательности для крупных инвестиций. Другие же считают, что акцент на риске вымирания отвлекает внимание от более насущных проблем, вызванных ИИ, таких как потеря рабочих мест или дискриминация меньшинств машинами.
В июле более тысячи сотрудников технологических компаний, включая генерального директора Anthropic, обратились к Вашингтону с призывом поддержать скоординированное замедление разработки самых передовых систем ИИ. OpenAI приостановила обучение своих последних моделей на две недели в августе, после чего возобновила его под более строгим контролем.
Что потребуется для регулирования?
До настоящего времени Соединенные Штаты выступали против глобального регулирования сектора, которое могло бы подавить инновации. Однако беспрецедентные возможности взлома самых передовых моделей заставили Вашингтон задуматься, поскольку недавние релизы Anthropic и OpenAI были отложены из-за опасений по поводу национальной безопасности. Даже в этом случае президент Дональд Трамп заявлял, что «мы не хотим ограничивать их, чтобы вдруг оказаться вторыми после Китая».
Расселл предположил, что для того, чтобы правительства начали действовать, может потребоваться масштабная катастрофа уровня Чернобыля, призывая их ввести лицензионный режим для ИИ, аналогичный тому, что существует в авиации, медицине или водоснабжении. Он добавил, что возможно, в какой-то момент правительства вспомнят, что их избиратели предпочитают не умирать.