Материалы о детском сексуальном насилии (CSAM) долгое время распространялись на платформах Meta. Компания, возглавляемая Марком Цукербергом, обвиняется в попытках преуменьшить серьезность проблемы и даже намеренно ослабить правила безопасности для детей.
Согласно результатам недавнего расследования BBC, ситуация продолжает ухудшаться. Выяснилось, что Instagram получает прибыль от платной рекламы, которая пропагандирует CSAM в Индии. Это выявило значительные пробелы в усилиях Meta по предотвращению этой проблемы.
Ранее в этом году Meta объявила о планах снизить зависимость от модераторов-людей третьих сторон, заменив их искусственным интеллектом. Однако существующие системы ИИ оказались неэффективными в остановке потока крайне тревожного контента на платформах компании.
Некоторые отвратительные рекламные объявления, которые проанализировала BBC, содержали такие термины, как «rape video» и «child video». Эти объявления вели на скрытые каналы в Telegram, где материалы можно было приобрести всего за 1 доллар.
Это разоблачение вызвало возмущение среди правительственных структур страны. На выходных Министерство электроники и информационных технологий выпустило уведомление для Meta, требуя немедленно удалить всю рекламу и контент, связанный с продажей CSAM. Согласно индийскому вещателю DD News, министерство предоставило Meta срок до 11 июля для предоставления подробного объяснения.
Когда BBC обратилась к Meta за комментариями, компания заявила, что отключила ряд рекламных объявлений и приостановила связанные с ними аккаунты за нарушение политик. Представитель компании отметил, что «ни одна система не идеальна, и наш процесс проверки может не обнаружить всех нарушений политики. Мы продолжаем использовать проактивные технологии обнаружения в рекламе после ее запуска, и любой может сообщить нам о рекламе, которая, по их мнению, нарушает наши правила».
Telegram сообщил BBC, что в 2026 году удалил «более 274 000 групп и каналов, связанных с материалами о детском сексуальном насилии». Кроме того, Брайан Боланд, бывший вице-президент Facebook, заявил, что алгоритмы Instagram были разработаны для максимизации прибыли. Он отметил: «Мне кажется, что печально и трагично, что со временем компромисс между выручкой и пользовательским опытом стал более центральной частью разговора».
Боланд давал показания против Meta во время судебного процесса, в ходе которого присяжные в Нью-Мексико пришли к выводу, что компания ввела пользователей в заблуждение относительно безопасности своих платформ для детей. В марте присяжные заключили, что Meta позволила CSAM распространяться по своим платформам, фактически превратив их в рынки для торговли детьми сексуально.
Индия занимает второе место в мире по количеству сообщений о CSAM на ведущей горячей линии, насчитывая 1,9 миллиона сообщений, уступая только Соединенным Штатам. Однако остается неизвестным, сколько таких случаев остаются незамеченными.
После получения уведомления от правительства, компания Meta во вторник объявила о внедрении нового комплекса мер, направленных на борьбу с эксплуатацией детей на всех своих платформах. Эти шаги были предприняты на фоне давления со стороны индийского правительства, которое ранее вынесло замечание относительно рекламных объявлений в Instagram, содержащих предполагаемый материал сексуального насилия над детьми.
В своем блоге Meta сообщила, что еще до публичного освещения проблемы компания уже обнаружила и отключила ряд нарушающих рекламу и аккаунтов. Последующее расследование привело к удалению дополнительных рекламных материалов, блокировке большего числа учетных записей и запрету URL-адресов, связанных с контентом, нарушающим политику.
Meta использует передовые инструменты искусственного интеллекта для выявления аккаунтов, которые распространяют подозрительные ссылки вне платформы, а также других признаков, связанных с эксплуатацией детей. Компания уточнила, что только за последние шесть месяцев в Индии благодаря этим мерам было удалено 160 000 аккаунтов.
Компания отвергла утверждения о том, что ее рекламные системы намеренно нацеливались на пользователей с неуместным интересом к детям. Meta заявила, что ее технологии способны распознавать подозрительное поведение, и в прошлом году она удалила более четырех миллионов аккаунтов по всему миру из-за потенциально подозрительной активности, связанной с детьми.
Для проверки рекламы и мониторинга поведения рекламодателей компания сочетает автоматизированные системы с ручной проверкой. Бизнес, который нарушает стандарты сообщества или рекламы Meta, может столкнуться с ограничениями или полной блокировкой рекламы на платформах Meta.
Кроме того, Meta подчеркнула свои инвестиции в развитие искусственного интеллекта для улучшения контроля контента. Теперь системы ИИ компании поддерживают модерацию на языках, используемых 98% интернет-пользователей. Компания подтвердила свою приверженность сотрудничеству с правоохранительными органами и партнерами отрасли, продолжая инвестировать в новые технологии, обмен разведывательными данными и усиление мер защиты детей в сети.
Правительство Индии в субботу вечером направило жесткое уведомление компании Meta, требуя незамедлительно отключить всю платную рекламу и контент в Instagram, который продвигает или облегчает доступ к материалам, связанным с сексуальной эксплуатацией и насилием над детьми (CSEAM).
Министерство электроники и информационных технологий (MeitY) предоставило Meta семь дней для предоставления подробного объяснения относительно того, как такая реклама могла появиться в Instagram, какие проверки проводились перед запуском, и какие корректирующие меры были приняты.
По данным правительственных источников, эти рекламные объявления предположительно использовались для направления пользователей на внешние платформы, где размещался незаконный материал о сексуальном насилии над детьми. Министерство потребовало от Instagram без промедления заблокировать всю подобную рекламу и связанный с ней контент, а также внедрить защитные механизмы для предотвращения подобных инцидентов в будущем.
Правительство рассматривает данный вопрос с максимальной серьезностью, особенно в связи с предполагаемой «алгоритмической амплификацией» сексуально эксплуатирующего контента на крупной социальной медиаплатформе. Официальные лица отметили, что платные промоакции должны проходить более строгий контроль, чем обычные публикации пользователей, и компания должна объяснить, почему ее системы модерации не смогли обнаружить такой контент.
Представитель Meta заявил, что компания придерживается принципа «нулевой терпимости» к запросам или распространению CSEAM, включая его в рекламных объявлениях. Он добавил, что компания использует передовые технологии искусственного интеллекта для проактивного выявления нарушающего контента и лиц, однако постоянно борется с преступниками, которые скрываются среди 3,5 миллиардов пользователей и пытаются избежать обнаружения. Поэтому экспертные команды работают над улучшением защиты, разработкой новых технологий для выявления хищников, блокировкой ссылок на запрещенные сайты и обменом информацией с другими компаниями для совместных действий.
Данное уведомление было направлено после сообщений о том, что реклама в Instagram использовалась в Индии для продвижения материалов о сексуальном насилии над детьми.
Центральные власти выступили с резким предупреждением в адрес компании Meta, требуя незамедлительно прекратить показ рекламы, которая связана с контентом, касающимся жестокого обращения с детьми.
Манаш Пратим Гохайн является опытным журналистом с более чем двадцатилетним стажем работы в издании The Times of India. За время своей карьеры он создал обширный корпус материалов, охватывающих такие темы, как политика в сфере образования, политические процессы и государственное управление.
Гохайн известен своим глубоким освещением Национальной образовательной политики (NEP) 2020 года, реформ аккредитации и программ повышения квалификации. Кроме того, он освещал студенческую политику, городское планирование и социальные движения. Его политическая журналистика, сочетающая аналитический подход с новостным освещением, помогает связывать изменения в политике с их влиянием на общество.
