Meta представила новые меры по защите детей после уведомления правительства Индии

Центральное правительство направило компании Meta директиву об отключении всей рекламы и контента на платформе Instagram, который способствует распространению материалов о сексуальном насилии над детьми (CSAM).

Требования и объяснения

В уведомлении, выпущенном Министерством электроники и информационных технологий (Meity) поздно вечером в субботу, технологический гигант Meta также был обязан предоставить подробное объяснение относительно наличия такого контента в течение семи дней.

Высокий государственный чиновник сообщил, что было направлено строгое предупреждение по поводу CSAM, с требованием объяснить политику Meta в отношении рекламы в Instagram.

Причины вмешательства

На прошлой неделе министерство информационных технологий созвало старших руководителей Meta и Instagram после появления сообщений о том, что платформа размещает рекламу, пропагандирующую CSAM. Директивы об отключении рекламы были выданы министром информационных технологий Союза Ашвини Вайшнавом, который также поручил сотрудникам министерства запросить у Meta разъяснения о том, как такая реклама могла появиться на платформе.

Позиция Meta и Instagram

Представитель Instagram заявил, что как сама платформа, так и ее материнская компания Meta придерживаются политики нулевой терпимости к поиску или распространению CSAM, включая его в рекламных объявлениях. Компания отметила, что использует передовые технологии искусственного интеллекта для активного обнаружения нарушающего контента и лиц, однако признала, что находится в постоянной борьбе с преступниками, скрывающимися среди 3,5 миллиардов пользователей и пытающимися избежать обнаружения.

Другие регуляторные вопросы

Уведомление, выпущенное в субботу вечером, является вторым подобным обращением к Meta за последние две недели. Ранее министерство информационных технологий просило Meta отложить запуск новой функции имен пользователей в WhatsApp до завершения консультаций, опасаясь потенциального неправомерного использования, включая мошенничество, самозванство и онлайн-мошенничество.

Эти инструкции появились после того, как WhatsApp объявил о скором разрешении пользователям резервировать и делиться именем пользователя вместо номера телефона. Центр выразил обеспокоенность тем, что функция может быть использована для киберпреступности и самозванства. В ответ на директиву WhatsApp настаивал на наличии строгих правил и руководств для предотвращения самозванства.

Представитель WhatsApp пояснил, что для использования приложения все равно требуется номер телефона, и что они внедрили множество защитных уровней против мошенничества в систему имен пользователей. Он также отметил, что для связи с пользователем необходим точный идентификатор, и что будут ограничены контакты новых пользователей, заблокированы повторные попытки угадать ключ имени пользователя, а также внедрены системы для обнаружения и удаления активности, демонстрирующей распространенные паттерны злоупотребления и самозванства.

На встрече с руководителями Meta в прошлую пятницу сотрудники министерства информационных технологий также обсудили опасения правительства, связанные с функцией имен пользователей, особенно в части того, как ее могут использовать киберпреступники.

Правительство Индии намерено потребовать от компании Meta официальных разъяснений после появления сообщений о том, что платные рекламные объявления в Instagram продвигали материалы, связанные с сексуальным насилием над детьми, на территории Индии.

Требования правительства

По сообщениям источников, министр информационных технологий Ашвини Вайшнав поручил сотрудникам MeitY запросить у компании подробные объяснения. В частности, MeitY запросит информацию о том, как системы модерации Instagram допустили такую рекламу, проводились ли проверки перед запуском объявлений, и какие меры были приняты после того, как проблема была выявлена. Кроме того, правительство может потребовать детали механизмов фильтрации рекламы и мер защиты, которые использует компания, чтобы предотвратить подобные инциденты в будущем.

Расследование и реакция Meta

Согласно расследованию BBC, в Индии в Instagram демонстрировалась платная реклама, содержащая откровенные термины и ссылки, которые вели пользователей на каналы в Telegram, где предположительно продавались материалы о сексуальном насилии над детьми. Отчет указал, что эти объявления появились через аккаунт, базирующийся в Индии, и прошли систему модерации Instagram. В ответ Meta заявила, что отключила множество аккаунтов и объявлений, а также заблокировала нарушающие URL-адреса, подчеркнув свою «политику нулевой терпимости к поощрению или распространению CSAM (материалов о сексуальном насилии над детьми)».

Технологии и борьба с преступностью

Представитель Meta сообщил изданию TOI, что компания применяет «передовые технологии искусственного интеллекта для проактивного обнаружения запрещенного контента и лиц», однако добавил, что она находится «в постоянной борьбе с преступниками, которые скрываются среди наших 3,5 миллиарда пользователей и пытаются избежать нашего обнаружения». В рамках IT-законодательства Индии посредники обязаны противодействовать вредоносному контенту, особенно тому, который связан с сексуальной эксплуатацией детей. Источники в правительстве отметили, что реклама, в отличие от обычных публикаций, должна проходить предварительную проверку. Один из источников заявил, что «платформа должна объяснить, как такой контент мог появиться, несмотря на заявленные политики».

Контекст и дальнейшие шаги

Этот скандал происходит на фоне усилий Центрального правительства по обеспечению ответственности платформ за онлайн-вреды, включая контент, направленный на детей, непристойные материалы, дипфейки и киберпреступления. Meta заявила, что ее команды непрерывно работают над улучшением систем защиты, разработкой новых технологий для выявления хищников, блокировкой ссылок на запрещенные веб-сайты и обменом информацией с другими компаниями для снижения эксплуатации детей в сети.