Беседы пользователей на платформе Claude были проиндексированы Google и стали видны в результатах поиска в этот понедельник, 27 июля. Компания-разработчик уже приняла меры по удалению этой индексации, и в настоящее время чаты можно получить только по прямым ссылкам.
Первые сообщения об инциденте появились на Reddit после того, как один пользователь опубликовал скриншот, показывающий несколько бесед, перечисленных поисковой системой. При использовании поискового запроса «site:claude.ai/share» в строке поиска поисковая система возвращала обширный список кликабельных страниц, которые вели пользователей к полным и аутентичным транскрипциям взаимодействий с виртуальным помощником.
Представитель Anthropic сообщил BBC, что ссылки на беседы «не обнаруживались», если только люди сами не решили ими поделиться. Он объяснил, что при обмене диалогом контент становится общедоступным и, как и другие материалы в открытом доступе в Интернете, может быть заархивирован сторонними сервисами.
По данным портала IT Home, раскрытый материал содержал конфиденциальную информацию. Любой человек, выполнивший поиск, мог прочитать юристов, обсуждающих конфиденциальные юридические стратегии, программистов, решающих технические вопросы корпоративных систем, а также личные разговоры с интимными откровениями.
Claude имеет встроенную функцию, которая позволяет создавать публичную ссылку на чат. Эта функция разработана для содействия сотрудничеству, позволяя членам команды отслеживать ход работы над проектом дизайна или программного обеспечения, получив сгенерированный URL-адрес.
Теоретически эти страницы должны быть доступны только получателям ссылки. Адрес должен содержать инструкцию «noindex» в исходном коде, что помешало бы роботам Google сканировать страницу и отображать ее в результатах поиска. Однако, согласно сообщениям, некоторые беседы были опубликованы без этой необходимой пометки. Следовательно, любая ссылка, опубликованная на форумах, в социальных сетях или других веб-сайтах, могла быть нормально проиндексирована Google и включена в его публичный индекс из-за отсутствия этого единственного указания в коде.
Хотя Anthropic еще не предоставила подробностей о масштабах проблемы или точном количестве затронутых пользователей, записи уже были удалены из индекса Google. В настоящее время поиск по запросу «site:claude.ai/share» больше не показывает раскрытые ссылки.
Пользователям Claude рекомендуется проверить свои учетные записи. Процесс включает переход в настройки, навигацию в меню «Конфиденциальность» и вход в раздел «Поделившиеся чаты». В этой панели можно просмотреть все созданные URL-адреса и отключить те, которые больше не требуют внешнего доступа.
Сотни диалогов, сгенерированных пользователями чат-бота Claude от Anthropic, стали общедоступными после того, как их обнаружили поисковые системы. Это открытие выявило взаимодействия, содержащие личные и профессиональные данные, подняв важные вопросы о границах конфиденциальности при использовании инструментов ИИ.
По данным BBC, раскрытие произошло потому, что сами пользователи решили поделиться ссылками на свои беседы с Claude. Эти последующие адреса были проиндексированы поисковиками, такими как Google, что позволило третьим лицам найти контент. Хотя возможность индексации этих материалов была отключена на выходных, часть ссылок уже была сохранена и распространена в интернете.
Представитель Anthropic пояснил, что решение о публикации разговора остается за пользователем. Он уточнил, что упомянутые ссылки не были легко обнаружимы или предсказуемы, если только не было добровольного действия по их распространению со стороны людей. Компания подчеркнула, что, делая взаимодействие публичным, человек разрешает внешним сервисам, аналогично остальному веб-контенту, получать доступ к этому материалу и архивировать его.
Первоначальное обнаружение этих диалогов было сделано пользователями Reddit, которые нашли более 200 бесед, распределенных по как минимум 25 страницам результатов поиска. Примеры использования чат-бота были разнообразны, начиная от создания оригинальных текстов о безопасности в облаке до обсуждений, связанных с корпоративными проектами.
Кроме того, были найдены случаи помощи в составлении резюме, содержащих личные данные и конфиденциальные исследования, связанные с рабочей средой, включая сферу здравоохранения. Один из примечательных записей показал, как пользователь просил Claude помочь ему превратиться в Лису Девяти Хвостов, и чат-бот ответил, сгенерировав изображение ИИ и заявив, что пользователь получил «полностью функциональные лисьи способности!».
Этот инцидент с Anthropic не является единичным случаем в ситуации с утечкой бесед на платформах ИИ. BBC упомянула, что OpenAI уже сталкивалась с подобной ситуацией с публичными записями ChatGPT, что привело к изменению способа доступа к такому контенту. Grok, чат-бот платформы X, также имел сотни тысяч записей, ставших общедоступными через онлайн-поиск.
Представитель Google сообщил BBC, что компания не определяет, какие страницы остаются общедоступными в интернете, поскольку эта прерогатива принадлежит самим сайтам. Однако компания предоставляет инструменты, позволяющие запретить сканирование или индексацию страниц. С удалением записей Claude из результатов поиска ожидается, что Anthropic использовала доступные механизмы для блокировки этих ссылок. Происшествие подчеркивает необходимость осторожности при обмене информацией, поскольку разговор, сгенерированный в инструменте ИИ, может быстро покинуть частную сферу при публичном распространении.
