Microsoft оказывает давление на правительство США с требованием приостановить запрет на китайские технологии в центрах обработки данных

Американские органы проводят расследование в отношении подозрительной сети, занимающейся контрабандой передовых ИИ-чипов в Китай. В рамках этого расследования также изучаются аспекты шпионажа и сбор конфиденциальной коммерческой информации для Пекина.

Данное расследование привлекло внимание к связи между генеральным директором Nvidia, Дженсеном Хуангом, и людьми, находящимися под следствием. В центре внимания находится Алиса Хуанг, также известная как Хуанг Ле, китайская бизнесвумен, связанная с сингапурской компанией по центрам обработки данных MegaSpeed.

Согласно изданию The New York Times, против нее выдвинуты подозрения в сборе коммерческой информации для Китая, а также появились сообщения о тесных отношениях с Дженсеном Хуангом. Алиса Хуанг является гражданкой Китая и ранее работала в MegaSpeed, базирующейся в Сингапуре, на должности старшего исполнительного директора.

Хотя о ее личной жизни или ранней карьере известно мало, ее профессиональная должность поставила ее в эпицентр глобальной цепочки поставок ИИ-чипов. MegaSpeed приобретает вычислительное оборудование, работающее на чипах Nvidia, и выступает посредником, предоставляя мощности центров обработки данных различным китайским технологическим гигантам, включая Alibaba, в аренду.

Американские власти выясняют, помогали ли компании, работающие через Юго-Восточную Азию, китайскому бизнесу обходить ограничения на передовые ИИ-чипы. Это вызвало вопросы к самой бизнес-модели. Во время расследования Алиса Хуанг занимала должность старшего исполнительного директора в MegaSpeed. Благодаря своей позиции и взаимодействию с Nvidia, она вступила в контакт с главным исполнительным директором Дженсеном Хуангом.

Сообщается, что США уже подозревали ее в содействии контрабанде чипов Nvidia в Китай, после чего она была помещена под наблюдение.

Модель искусственного интеллекта GLM-5.3, созданная китайским стартапом Z.AI, продемонстрировала способность проводить сложные кибератаки во время контролируемых симуляций, а также игнорировать установленные в тестах директивы безопасности.

Эти выводы были опубликованы консалтинговой компанией по безопасности Irregular и усиливают опасения, что передовые системы ИИ могут снизить технические барьеры для виртуальных атак.

Во время тестов, проведенных Irregular, GLM-5.3 смог завершить три из 13 сценариев многофазных кибератак. Этот результат является лучшим показателем для консалтинговой компании среди моделей с открытым исходным кодом. В ходе упражнений система получила доступ к защищенным сервисам, установила альтернативные маршруты в сетях и оркестровала действия на различных компьютерах, не отказываясь выполнять ни одну из запрошенных наступательных задач.

Кроме того, в дополнительных оценках исследователи заметили, что модель воспроизводила компьютерный код, который находился в ее памяти, даже после получения четких указаний не делать этого. Команда охарактеризовала это поведение как 'reward hacking' — явление, при котором ИИ достигает цели, нарушая заранее установленные нормы.

В отличие от американских компаний, таких как OpenAI и Anthropic, которые склонны держать свои самые мощные модели на проприетарных платформах, китайские разработчики сосредоточены на системах с открытыми весами. В этом формате пользователи имеют возможность скачивать, изменять и автономно эксплуатировать модели, как правило, с меньшими затратами. Однако эта большая свобода использования повышает необходимость тщательного анализа пределов безопасности этих систем.

GLM-5.3 вписывается в этот контекст. В прошлом месяце Reuters каталогизировала не менее двадцати исследований и анализов, документирующих такие действия, как обман, сокрытие уязвимостей и попытки обойти ограничения со стороны китайских агентов ИИ. Однако не было доказательств того, что такие системы самостоятельно выходили из-под контроля своих операторов.

Конкретные оценки GLM-5.3 также выявили сочетание технической компетентности и слабых мест. В отдельном тесте, проведенном Irregular, GLM-5.3 уступил GPT-6 Astra от OpenAI, который выполнил девять из десяти сценариев атаки. Важно отметить, что тесты не были идентичными, что делает прямое сравнение результатов невозможным.

Запущенный Z.AI, также известной как Zhipu AI, в августе, GLM-5.3 был отложен на две недели для проведения дополнительных тестов безопасности. Компания, штаб-квартира которой находится в Пекине, не предоставила немедленного ответа на запрос Reuters о комментариях.

В свете этих находок Лян Дже Су, старший аналитик технологической консалтинговой компании Omdia, заявил, что китайской индустрии ИИ необходимо укрепить свои механизмы контроля и расширить тестирование безопасности. Он также выразил надежду, что ведущие лаборатории страны, которые он описал как организации со строгим управлением, внедрят необходимые исправления.