Компания Meta, владеющая Facebook и Instagram, объявила в среду о внедрении новых инструментов искусственного интеллекта для противодействия рекламе, которая скрытно направляет пользователей к материалам о детском сексуальном насилии. В рамках этого заявления компания раскрыла, что в первой половине 2026 года в Индии она приняла меры в отношении 5,3 миллиона материалов, связанных с сексуальной эксплуатацией детей.
Согласно сообщению компании в блоге, более 98% контента в Facebook и Instagram в Индии было обнаружено и устранено до того, как о нем сообщили пользователи. В глобальном масштабе, между январем и июнем на обеих платформах было обработано 33,2 миллиона подобных материалов, причем более 97% были выявлены проактивно.
Meta подчеркнула, что поддержание безопасности молодежи в ее приложениях является одной из важнейших задач, которая никогда не прекращается. Компания отметила, что злоумышленники изменили тактику, перейдя к использованию рекламы, которая может выглядеть безобидно, но при этом перенаправлять людей на незаконный контент, размещенный вне платформ.
После выявления этой схемы, компания расширила расследование за пределы заявленных рекламных объявлений, заблокировала связанные с ними учетные записи и пресекла внешние ссылки. Новые меры включают систему на основе больших языковых моделей для обнаружения «сигнального указателя» (signposting) — рекламного контента, который кажется невинным, но подозревается в направлении пользователей к незаконному содержанию.
Кроме того, Meta улучшила оценку того, куда ведет реклама, анализируя не только сам показ, но и конечную точку, а также добавила автоматизированные проверки на основе ИИ для выявления материалов, которые ранее не обнаруживали старые системы. Также используется агент ИИ для тестирования собственных защитных механизмов на предмет уязвимостей, а также усилена система обнаружения забаненных пользователей, создающих новые аккаунты.
Помимо этого, Meta продолжает применять технологию сопоставления изображений и видео PhotoDNA, которую использует в своих приложениях с 2011 года, а также опирается на поведенческие сигналы и системы, основанные на правилах. Компания делится хешами выявленных материалов с другими организациями через программу Lantern Коалиции технологий и блокирует ссылки на внешние сайты, где размещен подобный контент, удаляя при этом соответствующие посты, комментарии или объявления.
Meta сообщает о подтвержденных материалах в Национальный центр по пропавшим и эксплуатируемым детям США. В сентябре компания анонсировала передачу случаев детской безопасности напрямую Национальному порталу отчетности о киберпреступности, управляемому Индийским координационным центром по киберпреступности Индии.
Расследователи Meta, среди которых работают бывшие сотрудники ФБР, сосредоточены на разрушении сетей хищнических аккаунтов, а не на индивидуальной работе с каждым аккаунтом. Компания заявляет, что постоянно сотрудничает с властями для привлечения виновных к ответственности.
Индия усилила контроль над социальными медиаплатформами в связи с вредоносным и незаконным онлайн-контентом, включая материалы о детском сексуальном насилии и дипфейки. В июле правительство направило Meta уведомление относительно материалов о сексуальной эксплуатации детей в платной рекламе в Instagram. Министерство электроники и информационных технологий (MeitY) немедленно потребовало от Instagram отключить всю рекламу и контент, способствующий такому доступу, запросило подробное объяснение и созвало своих руководителей в Индию.
Последующие интенсивные обсуждения с высшим руководством Meta привели к тому, что Министерство однозначно заявило, что такой контент является нарушением и не может быть защищен статусом безопасной гавани. Национальный комиссия по защите прав ребенка также вызвала генерального директора и руководителя Meta в Индии в связи с расследованием рекламы с таким материалом; орган по защите прав детей принял к сведению отчет BBC Eye о предполагаемой рекламе и запросил разъяснения у Meta.
Расследование BBC Eye, опубликованное в начале июля, утверждало, что Instagram показывал платную рекламу, продвигающую такой контент, некоторые из которых вели пользователей на каналы Telegram, содержащие порнографические материалы с участием детей. Расследование также установило, что рекомендательные системы Meta усиливали распространение видео с подобными материалами.