Дискуссии о конфиденциальности в сфере искусственного интеллекта обострились после того, как Google и Meta продемонстрировали, каким образом данные пользователей могут применяться для совершенствования моделей ИИ. Теперь проблема выходит за рамки просто поисковых запросов; компании, занимающиеся разработкой ИИ, проявляют растущий интерес к данным, которые пользователи генерируют при взаимодействии с их сервисами, включая чаты, фотографии, голосовые записи, документы и активность в поиске.
Google начал внедрение новых настроек Истории служб поиска 26 мая, отделив управление поисковой активностью от более старых настроек Активности в Интернете и приложениях. Согласно этой новой системе, изображения, аудиозаписи, видео и файлы, используемые в таких сервисах, как Поиск, Карты, Переводчик, Новости и Lens, могут храниться и потенциально использоваться для улучшения систем ИИ, если пользователь не отключит соответствующую опцию. Google сообщил, что этот процесс развертывания будет продолжаться в течение следующих нескольких месяцев.
В первую неделю июля 2026 года внимание привлекли инструменты ИИ от Meta. Компания расширила свои функции, включив Muse Image, который способен создавать изображения, сгенерированные ИИ, используя подходящие общедоступные фотографии из Instagram, если пользователи не откажутся от этого.
Google защищает эти изменения, утверждая, что они предоставляют пользователям «больше контроля» над настройками персонализации и истории поиска. Компания подчеркнула, что пользователи могут полностью деактивировать Историю служб поиска или выбрать, сохранять ли изображения, файлы и аудиозаписи. В официальном документе поддержки Google заявила: «Мы серьезно относимся к вашей конфиденциальности и предпринимаем шаги для ее защиты при использовании ваших данных Истории служб поиска для обучения наших моделей ИИ».
Meta же утверждает, что ее функции ИИ предназначены для помощи пользователям в создании и редактировании изображений, и что люди могут управлять соответствующими настройками ИИ через средства управления конфиденциальностью, доступные на ее платформах. Meta сообщила: «В любое время вы можете отключить или разрешить повторное использование для рилсов, видео в ленте и фотографий во всей вашей учетной записи».
Более широкая проблема затрагивает не только Google и Meta. ChatGPT от OpenAI позволяет использовать многие диалоги потребительских аккаунтов для улучшения модели, если пользователи не отключат соответствующие настройки обучения. Microsoft Copilot собирает подсказки, документы и данные об использовании для улучшения сервисов, хотя коммерческие клиенты получают более сильную защиту. Кроме того, Claude от Anthropic и Grok от xAI также могут использовать некоторые взаимодействия и загрузки потребителей для улучшения моделей, в зависимости от их настроек конфиденциальности и возможностей отказа.
Не всегда оплата за сервис гарантирует, что данные не будут использованы. Подписки для потребителей в основном предоставляют дополнительные возможности и более высокие лимиты использования. Наиболее строгие ограничения обычно предусмотрены в корпоративных, образовательных и коммерческих планах, где провайдеры берут на себя договорные обязательства не обучать модели на данных клиентов.
Специалисты по конфиденциальности советуют пользователям, обеспокоенным обучением ИИ, проверять свои настройки, а не полагаться на стандартные параметры. В сервисах Google это означает проверку настроек Истории служб поиска, Активности в Интернете и приложениях, а также настроек автоматического удаления. Пользователи ChatGPT могут отключить «История чата и обучение», если не желают, чтобы их разговоры использовались для улучшения модели. Пользователям Meta следует проверить настройки конфиденциальности Instagram и Meta AI и отказаться от функций ИИ, использующих общедоступные фотографии, где это возможно. Пользователи Claude могут проверить элементы управления данными в настройках и отключить участие в улучшении модели, если такая возможность предлагается, а пользователи Grok должны просмотреть настройки конфиденциальности на X и избегать обмена конфиденциальной личной информацией.
Отправляя резюме и адаптируя документы для разных возможностей, кандидаты могут заметить, что получаемые ответы часто схожи. Исследование, проведенное Стэнфордским университетом, предполагает, что это сходство может быть не совпадением.
Исследователи проанализировали миллионы заявок и пришли к выводу, что различные компании могут использовать системы искусственного интеллекта, которые воспроизводят одни и те же критерии принятия и отбраковки. Исследование под названием «Алгоритмические монокультуры в найме» изучило около 4 миллионов заявок, поданных более чем 3,4 миллионами человек в 156 компаний из 11 секторов экономики.
Ключевым выявленным фактором было то, что все эти организации использовали алгоритмы, предоставленные одним и тем же поставщиком. Эта деталь позволила выявить явление, называемое «алгоритмической монокультурой», термин, заимствованный из сельского хозяйства, где обширные территории посвящены одному типу посевов. Когда многие компании принимают аналогичные инструменты, возрастает вероятность того, что они будут оценивать соискателей, по сути, по одной и той же логике, что относится как к успехам, так и к недостаткам, присущим моделям.
Другое важное открытие касается схожих профилей кандидатов. Согласно исследованию, люди с аналогичными характеристиками, как правило, получают последовательную оценку, даже претендуя на вакансии в разных корпорациях. Основные результаты показывают, что примерно 10% кандидатов, участвующих в четырех отборах, отклоняются во всех них. Кроме того, около 4% тех, кто подает заявки на десять вакансий, сталкиваются с десятью последовательными отказами.
Отказы происходят чаще, чем ожидалось при независимом принятии решений. Примечательно, что многие резюме отсеиваются еще до того, как их рассмотрит человек-рекрутер. Чтобы подтвердить, был ли это поведение случайным, исследователи сравнили данные с теоретической базой и предыдущими исследованиями о найме без алгоритмической централизации, показав, что последовательные отказы отражают общий паттерн между различными процессами отбора.
Согласно проведенным симуляциям, продолжение отправки резюме все еще выгодно. Исследование показывает, что увеличение объема заявок повышает шансы получить возможность, хотя эта выгода снижается, когда компании используют идентичные системы. В сценарии, где решения автономны, около десяти заявок будет достаточно для достижения высокой вероятности получения хотя бы одной положительной рекомендации. Однако, когда процессы опосредованы централизованными платформами, это число возрастает примерно до 25 заявок, чтобы гарантировать вероятность в 99,9%.
Авторы также предупреждают о концентрации рынка технологий, ориентированного на подбор персонала. Поскольку немногие поставщики обслуживают множество компаний, любые существующие предубеждения или ограничения могут быстро распространиться. Более того, низкая прозрачность этих платформ затрудняет проведение независимых исследований и усложняет понимание того, как такие инструменты влияют на доступ к работе, при этом для многих кандидатов весь этот процесс происходит без ведома того, что алгоритм провел первый анализ резюме.
