LinkedIn сообщил, что удалось снизить на 40% количество просмотров низкокачественных публикаций, созданных искусственным интеллектом. Это значительное сокращение произошло всего через несколько недель после того, как социальная сеть предоставила механизм жалоб специально для такого контента. Цель этой инициативы — очистить ленту, наказать материалы, которые не несут ценности, и в дальнейшем уведомлять ответственных за публикации, которые были отмечены общественностью.
Хари Сринивасан, директор по продуктам LinkedIn, подтвердил, что пользователи уже отмечают заметное снижение автоматизированных текстов. Новый инструмент модерации, неофициально называемый «кнопкой против мусора ИИ» или «AI slop» в технологическом жаргоне, быстро получил признание, будучи активирован более миллиона раз с момента запуска.
Несмотря на этот первоначальный успех, компания проявляет осторожность в отношении метода обработки жалоб пользователей для понижения рейтинга того, что она классифицирует как «контент низкого качества». Для предотвращения злоупотреблений или необоснованных преследований были внедрены системы, которые не позволяют использовать чрезмерный объем негативных отзывов для несправедливой атаки или замалчивания других участников.
Это означает, что простое нажатие кнопки жалобы не гарантирует сокрытие публикации, если внутренняя система не подтвердит подозрение на ненадлежащее использование ИИ. Кроме того, платформа внесла алгоритмические корректировки, начиная идентифицировать и ограничивать охват публикаций, которые используют текстовые клише, уже признанные признаками генеративных систем ИИ, например, те, которые организуют аргументы по предсказуемым шаблонам, как в формате «речь идет не о Х, а о Y».
Сеть Microsoft также интегрировала систему прозрачности. Пользователи будут получать уведомление всякий раз, когда одна из их публикаций будет пожалована третьими лицами как «потенциальный общий текст, сгенерированный искусственным интеллектом». Это предупреждение не будет сделано публичным и останется ограниченным панелью «анализа публикаций» в приложении.
Недавнее исследование, проведенное компанией по обнаружению ИИ Pangram, показало, что более 40% объемных публикаций в LinkedIn, вероятно, были созданы искусственным интеллектом. Этот беспрецедентный объем не был случайным; само приложение ранее поощряло использование этой технологии, даже предлагая кнопку в интерфейсе создания, которая предлагала «улучшить» публикации с помощью алгоритмов письма.
Однако это удобство в конечном итоге нанесло ущерб идентичности платформы. Признав негативное влияние на пользовательский опыт, компания решила полностью удалить эту функцию после запуска текущего инструмента жалоб.