В мае 2026 года пользователь сообщил о блокировке его учетной записи в Discord после предполагаемой отправки материалов, связанных с детским насилием. Однако пользователь заявил, что отправленный контент представлял собой просто игровые текстуры, представленные в виде цветных квадратных изображений. Он выразил в X (ранее Twitter), что блокировка была несправедливой и вызвана ошибкой в системе автоматической модерации на основе искусственного интеллекта, которая ошибочно идентифицировала его игровые текстуры как CSAM.
Этот инцидент не был единичным; с мая по июль более 8 тысяч учетных записей были немедленно заблокированы без какого-либо человеческого анализа. Система Discord работает путем сравнения изображений с репозиторием известного вредоносного материала, и именно это сравнение привело к проблемам. Квадратные узоры, присутствующие в таких предметах, как шахматные доски, таблицы Excel, игровые текстуры и прозрачные фоны, сбили ИИ с толку. Всего за один уикенд в июле более 200 человек были заблокированы до того, как компания осознала ошибку и приостановила работу системы.
Discord публично признал эту ошибку, заявив, что его системы помечают контент путем сравнения с известным вредоносным материалом, и что такое совпадение по сходству может привести к ложным срабатываниям. Платформа пообещала внедрить «лучшие меры предосторожности, чтобы этого больше не повторилось». Случай упомянутого пользователя особенно важен, поскольку он использовал Discord как официальный канал связи своей команды во время игры, и на несколько дней лишился доступа к своей работе из-за бага, который не мог отличить игровую графику от преступного контента. Хотя все затронутые учетные записи были восстановлены, вопрос доверия к платформе остался нерешенным.
Спор о модерации с помощью ИИ
В феврале Discord объявил о внедрении глобальной проверки возраста с марта, требующей селфи с распознаванием лица или предоставления документа. Реакция сообществ была в основном негативной, пользователи выражали недоверие к технологическим компаниям, работающим с личными данными. Один комментарий был более резким, критикуя эту меру как способ навредить самому сообществу.
Это недоверие укрепилось после инцидента в октябре 2025 года, когда хакеры взломали 5CA, стороннего поставщика поддержки Discord, что привело к краже не менее 70 тысяч удостоверений личности пользователей, включая паспорта и водительские права. Компания отказалась платить выкуп в размере 3,5 миллиона долларов, запрошенный группой. Ситуацию усугубило то, что новая проверка требовала именно такого рода документы снова.
Под растущим давлением в социальных сетях Discord отменил свое решение, перенеся глобальный запуск на второе полугодие 2026 года. Технический директор Станислав Вишневский признал ошибку в публикации, заявив: «Мы ошиблись, я не буду делать вид, что мы не ошибались, и знаю, что быть более крупной компанией означает, что ошибки имеют более серьезные последствия, а доверие разрушается быстрее». Electronic Frontier Foundation раскритиковала эту позицию, напомнив, что Discord уже получил ироничную премию за худшую утечку года в 2025 году, и заявила, что требование добровольного распознавания лиц или удостоверения личности без юридического обязательства равносильно выбору слежки вместо восстановления доверия.
Недоверие распространилось и за пределы Discord. В феврале платформа прекратила партнерство с Persona, компанией, используемой для проверки возраста, после того как исследователи указали на возможные связи компании с разведывательными программами США. По данным Malwarebytes, раскрытый код Persona содержал 269 различных проверок, включая распознавание лиц, осуществляемое против списков наблюдения, что намного превышало необходимое для простой проверки возраста. В отличие от этого, Twitch приняла иную позицию, требуя документ и селфи от той же Persona от новых аффилиатов перед первым платежом. Когда стример TawnyCodeCat спросила поддержку об альтернативах, она получила отрицательный ответ. Позже Twitch смягчила требование, заявив, что оно затрагивает лишь «очень небольшой процент» аффилиатов, но это не убедило многих пользователей.
Когда вопрос стал полицейским
22 июля 2026 года в Навираи (MS) погибла 13-летняя девочка. По данным CartaCapital, ее вынудили виртуальная группа выполнять челленджи по самоповреждению и жестокости к животным. 4 августа Федеральная полиция начала Операцию Ливия для расследования того, использовались ли Discord и Telegram для вербовки жертв, преимущественно девушек, и распространения неонацистского и мизогинного контента в пяти штатах.
Через три дня, 7 августа, ANPD возбудила надзорное дело против Discord, указав на возможные недостатки в четырех аспектах Цифрового детского законодательства (ECA Digital): предотвращение контента самоповреждения, механизмы проверки возраста, удаление незаконного контента и уведомление властей о нарушениях. У компании было пять рабочих дней для представления защиты под угрозой штрафа до 50 миллионов реалов за нарушение. 12 августа агентство продвинулось вперед, постановив приостановить функцию «Go Live» в Бразилии. Директор ANPD, Иаге Миола, объяснил это конкретное решение CNN Brasil, заявив, что «в платформе Discord есть определенная функция, которая представляет очень высокий риск для детей и подростков», и подтвердив, что «расследование продолжается в ближайшие месяцы».
Как сообщается Migalhas, SaferNet Brasil зафиксировала увеличение на 54% числа жалоб, связанных с Discord, поднявшись с 264 до 406, сравнивая период с января по июль 2025 года с тем же периодом 2026 года. Этот случай стал первым значительным испытанием Цифрового детского законодательства и первым случаем, когда ANPD действовала без ожидания судебного постановления.
Для кого это сообщество? Discord выходит за рамки простого игрового приложения; это место, где геймерское сообщество собирается, чтобы взаимодействовать и строить связи с людьми со всего мира. В Бразилии, в частности, это одно из немногих пространств, посвященных этой аудитории, особенно контенту, ориентированному на нишевые игровые интересы, выходящие за рамки крупных релизов. Именно эта аудитория была разочарована на протяжении всего года: ошибочными блокировками без объяснения причин, плохо объясненными объявлениями о проверке возраста и откатом, который сохранил след недоверия, заставив многих искать альтернативы, которые, по их мнению, не сравнимы с тем, что предлагает Discord.
Когда происходят реальные трагедии в Бразилии, институциональный ответ поднял важнейший вопрос, который следовало обсудить заранее: как платформа, классифицированная как +18, которая позволяет создавать учетную запись с 13 лет и не была разработана для детей, стала основным местом встречи подростков в стране? Ни одно из этих решений по отдельности не оправдывает отказа от платформы, но в конечном итоге платить приходится тем, кто просто хотел найти место, чтобы поиграть с друзьями.
