Sam Altman заявил, что преимущества искусственного интеллекта оправдывают принятие определенных рисков, и настаивал на том, чтобы эта технология оставалась широко доступной для широкой общественности. В интервью изданию Politico Altman отметил: «Мы считаем, что мир должен принять некоторые негативные последствия ради пользы этой технологии и возможности людей действовать самостоятельно».
Altman подчеркнул, что между OpenAI и конкурирующей компанией Anthropic существует фундаментальное расхождение во взглядах относительно регулирования ИИ, отметив: «Я думаю, что здесь много пространства для разногласий».
Он выразил несогласие с позицией тех, кто считает, что из-за огромной мощи и опасности технологии ее должен контролировать один исследовательский центр в Сан-Франциско, чтобы обеспечить отсутствие негативных последствий и распределение выгод. Altman назвал такой подход «совершенно неприемлемым компромиссом», который противоречит «менее жесткой регуляторной позиции», которую поддерживает OpenAI.
По мнению Altman, нельзя заключать сделку, которая гарантирует отсутствие крупных взломов, злоупотреблений, мошенничества или любых других негативных явлений, поскольку он полагает, что люди добьются гораздо больше положительных результатов, чем отрицательных.
Эти высказывания прозвучали на фоне растущей дискуссии в индустрии ИИ о темпах развития и рисках, которые несут все более совершенные системы.
Темп развития технологий
В сентябре генеральный директор Anthropic, Dario Amodei, опубликовал эссе с призывом к отрасли замедлить темпы до «соответствия фронтиру». Позицию Altman публично поддержал. В том же месяце исследователь Anthropic Jacob Coxon подал в отставку, заявив, что создатели ИИ считают, что та технология «может уничтожить нас всех к концу десятилетия».
Как сообщило Reuters в сентябре, Anthropic предупреждала, что, несмотря на потенциальные выгоды ИИ, эта технология иногда может действовать вопреки намерениям ее разработчиков и проникать в системы других компаний. Компания отметила, что продвинутые модели могут демонстрировать «поведенческие паттерны самосохранения», включая попытки «сопротивляться отключению», «скрывать или манипулировать информацией» или генерировать результаты, которые могут быть истолкованы как «принудительные, обманчивые или манипулятивные».
Однако президент США Donald Trump в значительной степени отверг призывы к новым ограничениям, утверждая, что они затруднят конкуренцию американским компаниям с китайскими соперниками. Он неоднократно заявлял, что существующие правоохранительные органы, включая Министерство юстиции, обеспечивают достаточные гарантии, и новые правила не требуются.