Предупреждения о безопасности ИИ вызывают падение акций чипов и технологий
Подробнее
Olhar Digital
olhardigital.com.br

Предупреждения о безопасности ИИ вызывают падение акций чипов и технологий

Акции, связанные с искусственным интеллектом, упали в понедельник после того, как руководители компаний-разработчиков передовых моделей выступили за замедление темпов развития этой технологии. Основная обеспокоенность заключается в том, что ускоренный прогресс может повысить риски ненадлежащего использования ИИ.

Дарио Амодеи, генеральный директор Anthropic, поднял это предупреждение в статье, опубликованной в субботу. Сэм Альтман из OpenAI и Илон Маск из xAI выразили согласие с этим опасением. Эта реакция затронула как компании, занимающиеся ИИ, так и производителей полупроводников.

Индексы Nasdaq продемонстрировали снижение на 1,3% во время азиатских торгов. В Японии SoftBank, инвестирующая в OpenAI, упала на 13,2%. Производители чипов и другие компании цепочки полупроводников также понесли убытки; в Китае CXMT снизилась до 3,6%, а Semiconductor Manufacturing International Corporation потеряла 2,6%. В Гонконге акции Zhongji Innolight снизились на 6,7%, а Minimax рухнули до 7,8%, в то время как акции Z.ai упали на 10,5% после предложения акций со скидкой.

В своем эссе Амодеи призвал корпорации замедлить темпы расширения возможностей своих моделей. Он предупредил, что в течение шести-двенадцати месяцев агенты ИИ могут захватить весь интернет, что повлечет потенциальные убытки в размере сотен миллиардов долларов.

Anthropic опубликовала в четверг отчет об анализе угроз, подробно описывающий угрозы, связанные с ее моделями Claude. Этот документ описывал приложения, связанные с разработкой вооружений, кибеrдеятельностью, мониторингом и мошенничеством.

Исследователь Джейкоб Коксон из Anthropic заявил, что специалисты, участвующие в создании систем ИИ, серьезно считают, что эта технология может привести к вымиранию человека к концу этого десятилетия. В интервью Альтман назвал риски вымирания человека, связанные с ИИ, неприемлемыми.

Однако эти предупреждения не убедили всех инвесторов. Майкл Берри, известный своими ставками против американского рынка недвижимости до финансового кризиса 2008 года, назвал эти заявления «хайпом и преувеличением», предположив, что они служат прикрытием для реального и неконтролируемого замедления роста.

В свою очередь, Чару Чанана, главный инвестиционный стратег Saxo Bank в Сингапуре, высказала мнение, что предупреждения все еще могут повлиять на акции ИИ и чипов в краткосрочной перспективе. Она утверждала, что стоимость этих активов предполагает постоянный технологический прогресс и устойчивый спрос, что заставит инвесторов фиксировать прибыль при возможных задержках.

Для Себастьена Малле, управляющего портфелем T. Rowe Price, ключевым вопросом является то, кто сможет получить доход на весь капитал, выделенный на расширение инфраструктуры ИИ.

Тем временем президент США Дональд Трамп сравнил критиков ИИ с «очень негативными силами» и заявил о своем намерении обеспечить американское лидерство в этом секторе. США и Китай также должны будут обсудить безопасность ИИ во время двусторонних переговоров, запланированных на этот месяц. В Китае Global Times раскритиковал эссе Anthropic, назвав его «руководством Холодной войны», направленным на ограничение технологического прогресса страны.

Движение рынков показывает, что предупреждения о безопасности ИИ начали влиять на ожидания инвесторов. Рынок теперь оценивает не только потенциал развития технологии, но и присущие ей риски, а также отдачу от огромных инвестиций, сделанных в ее разработку.

Похожие сюжеты

Дискуссия о рисках искусственного интеллекта: предупреждения экспертов и регуляторные дилеммы
Подробнее
olhardigital.com.br

Дискуссия о рисках искусственного интеллекта: предупреждения экспертов и регуляторные дилеммы

Страх того, что искусственный интеллект (ИИ) может привести к концу человечества, давно циркулирует в интернете, приобретая новую актуальность благодаря анализам и комментариям бывших сотрудников крупных корпораций отрасли. Кроме того, такие лидеры, как Сэм Альтман (OpenAI) и Дарио Амодей (Anthropic), неоднократно подчеркивали важность безопасности при разработке этой технологии.

Эван Хабингер, руководитель отдела тестирования согласованности в Anthropic, оценил, что вероятность того, что ИИ «убьет всех людей» до конца десятилетия, превышает 10%. Это заявление было сделано вскоре после того, как Джейкоб Коксон, исследователь той же компании, объявил об уходе и раскритиковал ускоренную конкуренцию между лабораториями в поисках все более сложных систем.

В публикации на платформе X Коксон заявил, что как Anthropic, так и OpenAI действуют безответственно в отношении присущих рисков развития ИИ, утверждая, что «они прямо бегут к сверхинтеллекту, который самосовершенствуется, ставя на кон наши жизни». Хабингер поддержал эту точку зрения, заявив: «Джейкоб прав — мы действительно верим, что ИИ может убить всех людей! Я лично считаю, что это более 10% в следующем десятилетии».

Артур Игрея, специалист по технологиям и инновациям, поставил под сомнение методологию этого процента, запросив детали о том, как Хабингер пришел к расчету в 10%. Игрея выразил большее беспокойство по поводу ошибочных человеческих решений до конца десятилетия, аргументируя тем, что, хотя ИИ и несет риски, он по своей сути является продуктом человека.

Игрея уточнил, что с ростом возможностей ИИ он начинает разрабатывать новые модели или вносить корректировки, уменьшая вмешательство человека с течением времени, что вызывает беспокойство. Он предпочел опасаться людей, поскольку любое проблемное поведение ИИ в некоторой степени является отражением решений, принятых во время его разработки.

В другом аспекте Сэм Альтман подтвердил, что OpenAI не проведет IPO в 2026 году, назвав опасения по поводу безопасности и рисков технологий ИИ основной причиной отсрочки публичного размещения акций. Альтман подчеркнул совместную ответственность компаний сектора и правительств, утверждая, что экзистенциальные риски нельзя игнорировать ради прибыли или корпоративной гордыни, сосредоточив текущие усилия OpenAI на согласовании безопасности и государственном сотрудничестве.

Эта осторожность возникает на фоне растущего давления в Соединенных Штатах, где политики обеих партий требуют более строгого регулирования сектора ИИ. Предупреждения усилились после сообщений об автономных системах, которые вышли из-под контроля и проникли в другие платформы, а также после ухода обеспокоенных экспертов относительно направления развития технологии.

Дарио Амодей выступил за умеренность в скорости разработки самых передовых моделей, позиция, которую публично поддерживают Илон Маск и Альтман. Генеральный директор OpenAI также упомянул, что крупные компании сектора изучают коллективное соглашение для замедления темпов и концентрации усилий на смягчении сбоев.

Однако план Anthropic отличается: компания сохраняет намерение провести первичное размещение акций на финансовом рынке до конца 2026 года с потенциальными инвестициями от Nvidia. Артур Игрея напомнил об инциденте 2023 года, когда более тысячи человек потребовали шестимесячной приостановки разработки ИИ из-за его опасности, сожалея, что спустя более трех лет такого объединения не произошло.

Джон Парк, эксперт по ИИ и соучредитель AGI Inc., поднял дополнительный вопрос: что говорит сообщение компании о том, что ее технология чрезвычайно мощная и опасная, инвесторам и разработчикам политики? Парк отметил «естественную связь» между технологическим описанием и экономической ценностью, воспринимаемой рынком.

По словам Парка, когда компания подчеркивает преобразующую силу и беспрецедентные риски своих моделей, передаются три сообщения: исключительная способность технологии, ее огромный потенциал воздействия и возможность компании получить исключительную экономическую выгоду. Хотя эти моменты подкрепляются, он настаивает на необходимости различать силу, опасность и экономическую ценность.

Парк поддерживает требования безопасности для систем ИИ высокого риска, требуя оценки, прозрачности и контроля, когда модели могут нанести значительный ущерб. Однако он предупредил, что проблема возникает, когда нормативные стандарты отражают структуры и ресурсы крупнейших компаний сектора. По его мнению, регулирование должно быть пропорционально риску, а не размеру рынка компании.

Он предположил, что если глобальные стандарты будут диктоваться крупнейшими американскими компаниями в области ИИ, бразильские компании могут столкнуться с регуляторными и техническими издержками, разработанными для организаций с гораздо более большими ресурсами. Парк заключил, что центральная дискуссия включает два вопроса: слишком ли ИИ опасен для разработки, или он слишком опасен, чтобы позволить конкуренцию другим субъектам, что может привести к регулированию, которое, по иронии судьбы, затруднит появление новых конкурентов и увеличит внешнюю зависимость.

Популярное