Расследование, проведенное независимой группой Tech Transparency Project (TTP), выявило, что Meta разрешила показ более 50 платных рекламных объявлений, содержащих изображения сексуального насилия над детьми, созданные с помощью искусственного интеллекта (ИИ).
Эти кампании демонстрировались на платформах Facebook, Instagram, Messenger и Threads в период с ноября прошлого года до начала августа, охватывая пользователей в США, Великобритании и более чем в десяти европейских странах.
По данным TTP, часть этих объявлений рекламировала приложения для 'nudify' — инструменты, использующие ИИ для создания фальшивых изображений наготы, в то время как другие представляли изображения несовершеннолетних с сексуальным содержанием или направляли пользователей к сервисам, генерирующим порнографию с помощью искусственного интеллекта.
TTP подчеркивает, что это второй инцидент за короткий промежуток времени, когда на платформах Meta обнаруживаются объявления, связанные с сексуальной эксплуатацией детей.
Объявления, одобренные самой компанией
Кейти Пол, директор Tech Transparency Project, подчеркнула, что этот случай вызывает обеспокоенность, поскольку материал не состоял из обычных публикаций пользователей, а являлся платными объявлениями, которые были подтверждены самой корпорацией.
Пол заявила журналу WIRED, что такие объявления не пытались замаскировать свой контент, подчеркнув, что это были проверенные, авторизованные и одобренные Meta объявления, и что компания получала оплату за эту рекламу.
Данные, доступные в публичной библиотеке объявлений Meta, показывают, что кампании оставались активными в течение нескольких дней, причем некоторые из них были сегментированы исключительно для мужской аудитории.
Хотя многие объявления имели ограниченный охват, одно из них было показано как минимум 2563 пользователям в таких странах, как Франция, Германия, Ирландия, Италия, Нидерланды, Испания, Швеция и Великобритания. Meta не раскрывает полный охват на всех рынках, включая США, что позволяет предположить, что реальное число пострадавших может быть выше.
Первоначально исследователи выявили около двадцати объявлений, но незадолго до публикации статьи в WIRED они обнаружили примерно еще 30 аналогичных объявлений.
TTP сообщила, что часть этих новых кампаний была запущена после того, как журнал связался с Meta с просьбой о разъяснениях, и некоторые из них все еще просматривались пользователями на момент обнаружения.
Организация немедленно уведомила Национальный центр по пропавшим и эксплуатируемым детям (NCMEC) — американский орган, ответственный за прием сообщений об интернет-эксплуатации детей.
После запроса со стороны WIRED Meta удалила эти объявления из своей публичной библиотеки под предлогом нарушения ее правил, касающихся сексуальной эксплуатации детей, наготы и сексуальной активности.
В заявлении компания заверила, что решительно борется с таким контентом, заявив: «Сексуальная эксплуатация ужасна, и мы активно работаем над тем, чтобы она не попадала на нашу платформу. Большинство этих объявлений имели минимальный охват, и многие из них были деактивированы еще до того, как WIRED поделилась с нами этой информацией».
Компания добавила, что часть кампаний была размещена до внедрения новых функций ИИ, предназначенных для выявления нарушающих объявлений во время отправки.
По данным Meta, за последний год с ее платформ было удалено более 36 миллионов материалов, связанных с сексуальной эксплуатацией детей, и компания также упомянула, что принимает юридические меры против разработчиков приложений для 'nudify'.
Функционирование и политика рекламы
Meta утверждает, что все объявления проходят процесс проверки перед публикацией, и этот процесс в основном осуществляется автоматизированными системами. Политика компании прямо запрещает контент, связанный с сексуальной эксплуатацией детей, а также объявления, содержащие наготу, сексуальную активность или вызывающие изображения.
Однако для Кейти Пол расследование ставит под сомнение эффективность этой системы. Она отметила, что некоторые из найденных объявлений были почти идентичны кампаниям, которые ранее были удалены самой Meta.
Исследователь утверждает, что это демонстрирует, что материалы, уже классифицированные как незаконные, смогли вернуться в оборот через рекламную платформу компании.
Другой аспект, указанный TTP, заключается в том, что публичная библиотека объявлений Meta не имеет функции, позволяющей пользователям сообщать о кампаниях, которые перестали показываться, даже если они доступны в архиве платформы.
Исследователи заметили, что большинство кампаний размещалось аккаунтами с небольшим или нулевым количеством подписчиков. Когда удалось идентифицировать рекламодателей, они преимущественно были связаны с китайскими компаниями.
Один из случаев касался Meet Social, компании, которая ранее выступала в качестве продавца рекламы Meta в Китае, территории, где Facebook и Instagram заблокированы. Эта компания не предоставила комментариев WIRED.
Несколько объявлений направляли пользователей в приложение MaskAI, доступное в App Store Apple. По данным WIRED, приложение не показывало явного контента до установки, но предлагало функции для генерации порнографии с помощью ИИ и создания коллажей с использованием лиц людей на изображениях сексуального характера.
После контакта с изданием Apple подтвердила удаление приложения за нарушение ее норм в отношении приложений для 'nudify', повторив, что «всегда строго запрещала приложения, разработанные для генерации, распространения или потребления порнографии».
Прогресс генеративного ИИ ускорил распространение сервисов, способных создавать фальшивые изображения наготы и порнографии. Эксперты предупреждают, что эти инструменты используются как для производства неконсенсуальной порнографии, так и для создания материалов о сексуальном насилии над детьми.
После обращения WIRED Meta также предоставила изданию заявления партнеров в области цифровой безопасности. Tech Coalition отметила, что компания делится тысячами адресов, связанных с вредоносным контентом, через систему Lantern, в то время как Revenge Porn Helpline указала, что приложения для 'nudify' представляют собой постоянную проблему из-за скорости, с которой их операторы создают новые сервисы для обхода механизмов контроля.
Алексиос Манцарлис, соучредитель издания Indicator и бывший эксперт по доверию и безопасности Google, сообщил, что за последние годы он выявил и сообщил о более чем 25 тысячах объявлений приложений для 'nudify' на платформах Meta.
Он прокомментировал, что, хотя компания заявляет об удалении более 344 тысяч таких объявлений и начале судебных процессов против некоторых разработчиков, виновные продолжают создавать новые учетные записи и домены для поддержания своей деятельности.
Манцарлис заявил WIRED: «Ответственные за эти сети хорошо подготовлены к созданию новых рекламных учетных записей и новых доменов, используя методы, схожие с методами мошеннических сетей. К сожалению, эта индустрия сексуального насилия на основе изображений перестала быть новизной и стала постоянным присутствием в онлайн-экосистеме из-за нерешительного применения правил платформами».
