Платформа X, принадлежащая Илону Маску, продолжает демонстрировать материалы о сексуальном насилии над детьми, как показывают расследования, проведенные Канадским центром защиты детей (Canadian Center for Child Protection) и The New York Times. Эти проверки выявили как контент, уже известный властям, так и сексуализированный материал, созданный чат-ботом Grok.
Результаты указывают на недостатки платформы в способности удалять незаконный контент. Оба анализа проводились путем выборочного исследования, поскольку X ограничивает доступ к полным данным социальной сети.
Выводы Канадского центра защиты детей
Канадский центр защиты детей выявил 65 случаев, когда Grok генерировал эксплуатационные или сексуализированные изображения детей. Среди этих случаев были жертвы детского сексуального насилия, уже каталогизированные властями. Кроме того, исследователи зафиксировали запросы к чат-боту на изменение фотографий известных жертв, одевая их в нижнее белье или бикини.
Эти инциденты произошли до того, как X приостановил функцию бота по генерации такого рода изображений после общественной реакции. В декабре и январе аккаунт Grok в X сгенерировал миллионы изображений обнаженных людей в ответ на запросы пользователей.
Имран Ахмед, генеральный директор Center for Countering Digital Hate, охарактеризовал эти открытия как «один из крупнейших корпоративных провалов в моей жизни».
Анализ, проведенный The New York Times
Со своей стороны, The New York Times провел собственное расследование с января по июнь. Используя компьютерную программу, команда искала термины, связанные с материалами о насилии, не отображая сами изображения. Найденные ссылки были направлены в службу Microsoft для подтверждения соответствия файлам, уже идентифицированным организациями по защите детства.
Этот поиск привел к обнаружению более 75 изображений. Хотя все они были удалены после сообщений о нарушениях, некоторые из них просматривались сотни раз. Наиболее тревожным аспектом было присутствие файлов, которые уже были известны властям, причем примерно треть изображений, найденных газетой, входила в список, используемый технологическими компаниями для обнаружения и удаления предварительно идентифицированных материалов о насилии.
Позиция и действия X
Среди результатов, полученных обоими анализами, X заявил, что использует автоматические фильтры и запатентованные технологии для выявления материалов о сексуальном насилии над детьми. Компания заявила: «Мы серьезно относимся к нашей ответственности по защите несовершеннолетних». Кроме того, X заявил, что имеет политику нулевой терпимости к материалам о сексуальном насилии над детьми, включая те, что генерируются искусственным интеллектом.
Компания также сообщила, что банит пользователей, которые публикуют или взаимодействуют с таким контентом, и сообщает об этом властям. По данным X, за последний месяц было подано 780 тысяч жалоб, а в этом году в Национальный центр по пропавшим и эксплуатируемым детям было отправлено 1,3 миллиона изображений.
Маск приобрел старый Twitter в 2022 году и установил удаление таких материалов в качестве «Приоритета № 1». В январе он гарантировал, что пользователи, использующие Grok для создания изображений сексуального насилия над детьми, столкнутся с теми же санкциями, что и те, кто делится материалами, не сгенерированными ИИ, включая возможную блокировку.
Расследования ставят под сомнение эффективность мер, принятых X, учитывая, что файлы, уже известные властям, снова появились на платформе, а Grok использовался для создания нового контента с участием детей.