Китай сообщил об обнаружении возможного сбоя безопасности в Claude Code, инструменте программирования на основе искусственного интеллекта, разработанном Anthropic. Это конкретное предупреждение относится к определенным версиям программного обеспечения и предполагает несанкционированную отправку пользовательских данных на удаленные серверы.
Подробности предупреждения о безопасности
Как сообщает Reuters, Национальная база данных уязвимостей Китая (NVDB) выявила механизм в Claude Code, который способен передавать информацию, классифицированную как конфиденциальная. В заявлении, опубликованном через WeChat, орган, связанный с Министерством промышленности Китая, пояснил, что эта функция может раскрывать такие данные, как географическое положение и личные идентификаторы пользователей, внешним серверам без надлежащего согласия.
Предупреждение о безопасности распространяется на версии Claude Code от 2.1.91 до 2.1.196. NVDB посоветовал как компаниям, так и затронутым пользователям провести полную проверку затронутых систем и внедрить различные меры защиты, такие как удаление уязвимых версий, обновление программного обеспечения до самой последней версии, усиление механизмов контроля доступа к внешним сетям и активный мониторинг потока данных в корпоративных сетях.
Для китайских властей этот предполагаемый механизм представляет собой «серьезную угрозу», особенно в профессиональной среде, где инструменты ИИ используются для разработки программного обеспечения.
Опровержение со стороны Anthropic и тесты безопасности
Этот вопрос возник в контексте глобальной конкуренции за развитие искусственного интеллекта. Claude Code, созданный Anthropic, широко используется инженерами и исследователями для помощи в задачах программирования. Спор усилился после публикации в Reddit, в которой утверждалось, что компания тайно внедрила в программное обеспечение код для отслеживания пользователей, связанных с Китаем.
Сотрудник Anthropic опроверг это утверждение в социальной сети X, объяснив, что код был частью эксперимента, начатого в марте. По словам этого сотрудника, цель этой инициативы была двойной: предотвратить ненадлежащее использование учетных записей неавторизованными реселлерами и предотвратить процесс дистилляции.
Кроме того, сама Anthropic ранее обвиняла китайские компании в области ИИ, включая Alibaba, в ненадлежащем использовании ее моделей посредством дистилляции, которая заключается в обучении новой системы на основе ответов, сгенерированных другой существующей моделью.
Корпоративное и регуляторное влияние
После активизации обсуждений о функциях идентификации инструмента Alibaba постановила запретить своим сотрудникам использование Claude Code в рабочих целях. Anthropic не предоставила немедленного ответа на запрос о комментариях относительно заявления правительства Китая. Стоит отметить, что американская компания ранее заявляла, что китайские компании не имеют права доступа к Claude.
Хотя Китай еще не дал официального одобрения сервисам Anthropic для публичного использования на своей территории, китайские исследователи и инженеры продолжают получать доступ к модели через внешние соединения, часто при поддержке своих работодателей. Этот инцидент демонстрирует, что инструменты искусственного интеллекта оцениваются не только по показателям производительности и инновациям, но и по их потенциальному влиянию на конфиденциальность, контроль информации и цифровую безопасность.
