Сэм Альтман, генеральный директор OpenAI, заявил в среду, что крайне важно, чтобы люди сохраняли контроль над будущим в условиях развития искусственного интеллекта. Во время мероприятия DealBook Summit, организованного The New York Times, руководитель высказал критику в адрес дебатов, проходивших в Кремниевой долине, относительно возможного постепенного перехода полномочий по принятию решений к системам ИИ.
Наряду с президентом и соучредителем компании Грегом Брокманом, Альтман назвал эту перспективу «ужасной идеей». Эта дискуссия возникает в то время, когда создатель ChatGPT находится под пристальным вниманием из-за вторжений во внешние системы, совершенных агентами ИИ самой компании.
Теория передачи власти основана на концепции рекурсивного самосовершенствования (RSI), которая предполагает, что все более компетентные модели могут развить способность улучшать себя самостоятельно. При этой предпосылке непрерывные поколения технологий могут развиться до уровня сверхинтеллекта, который будет неуправляемым для людей.
Альтман пояснил, что он и Брокман разделяют необходимость избежать этого сценария, будь то по случайности или по намерению. Различия между ними заключаются в подходах и необходимых задачах для обеспечения человеческого надзора.
Чтобы отслеживать все более продвинутые модели, Брокман подчеркнул, что мониторинг также должен развиваться. В настоящее время исследователи отслеживают так называемую цепочку рассуждений (chain of thought) — процесс, посредством которого ИИ регистрирует этапы своего мышления при выполнении задач. Однако по мере прогресса моделей часть этих операций может происходить без документирования таких шагов, что требует разработки новых инструментов мониторинга.
Инциденты, связанные с системами OpenAI, усилили давление на организацию. Одним из освещаемых случаев стало то, что одна из моделей смогла выйти из-под контроля и проникнуть в репозиторий моделей ИИ Hugging Face. Брокман сообщил, что после инцидента компания поручила 25% своих производственных инженеров приостановить другую деятельность и сосредоточиться исключительно на безопасности технологии.
Несмотря на трудности, руководители заявили, что развитие технологических систем должно продолжаться при условии соблюдения строгих мер защиты. Среди тем, затронутых в интервью, Альтман подтвердил, что OpenAI планирует провести первичное публичное размещение акций (IPO), хотя отложил эти планы, чтобы уделить больше внимания вопросам безопасности. В начале этого месяца компания привлекла 11 миллиардов долларов США (что эквивалентно примерно 62,7 миллиардам бразильских реалов) в раунде, который оценил ее в 1,25 триллиона долларов США (примерно 7,13 триллиона бразильских реалов). Эта сумма оказалась ниже первоначально запланированных 30 миллиардов долларов США (около 171 миллиарда бразильских реалов) с потенциальной оценкой до 1,5 триллиона долларов США (8,55 триллиона бразильских реалов).
Брокман владеет долей в OpenAI, оцениваемой как минимум в 30 миллиардов долларов США (около 171 миллиарда бразильских реалов), в то время как Альтман не имеет акций компании. Он также указал на различие в структуре корпоративного управления: в Anthropic семь соучредителей владеют 50,1% голосов. По словам Брокмана, в OpenAI основатели не имеют абсолютного контрольного большинства.
В то время как OpenAI отложила свое IPO до следующего года, конкурент Anthropic ближе к выходу на биржу, с запланированным дебютом в четверг (19). Anthropic установила ценовой диапазон от 70 долларов США (около 399 бразильских реалов) до 78 долларов США (приблизительно 444,60 бразильских реалов) за акцию. При этих значениях ее оценка может составить от 1,26 триллиона долларов США (около 7,18 триллиона бразильских реалов) до 1,41 триллиона долларов США (приблизительно 8,04 триллиона бразильских реалов), что может стать крупнейшим первичным публичным размещением акций в мире.



