Reddit внедрил использование больших языковых моделей (LLM) в свои системы модерации для обнаружения и предотвращения попадания примерно 23 миллионов ежедневных спам-постов в сообщества. Это обновление направлено на борьбу с фейковыми аккаунтами, организованными кампаниями и другими нарушениями, такими как язык вражды, действуя превентивно, а не полагаясь только на жалобы или ручное удаление материалов после их распространения.
Улучшение пользовательского опыта
С помощью этих новых инструментов платформа сообщила о снижении воздействия спама на пользователей на 20%. Кроме того, воздействие вредоносных публикаций было сокращено на 40%, а процесс удаления контента теперь занимает менее пяти секунд. Также произошло снижение ложных срабатываний на 40%, то есть случаев, когда легитимный контент удалялся по ошибке.
Принцип работы системы модерации
Система модерации Reddit сохраняет гибридный подход, сочетая искусственный интеллект с вмешательством человека, используя администраторов, рецензентов и добровольных модераторов в каждом сообществе. Сами пользователи активно участвуют через механизмы голосования (апвоут и даунвоут), которые помогают снизить видимость публикаций, считающихся низкого качества, что также отслеживается автоматизированными системами.