Instagram объявил, что больше не будет разрешать публикацию видео, изображающих преследование или унижение неизвестных лиц в общественных местах. Этот тип контента, который набирает популярность в социальных сетях, часто показывает людей, которых тайно снимают во время таких ситуаций, как подходы или шутки.
Адам Моссери, ответственный за Instagram, заявил, что контент, эксплуатирующий или преследующий людей, ссылаясь на примеры видео с флиртом, будет удален с платформы. Он подчеркнул приверженность активной борьбе с распространением видео, на которых люди тайно снимаются во время преследования.
Как стало известно Business Insider, видео с розыгрышами с участием сотрудников, таких как кассиры и обслуживающий персонал, становятся популярными как в TikTok, так и в Reels Instagram, часто вызывая смущение или провокации. Другая наблюдаемая тенденция — это практика подхода к женщинам в спортзалах или на улицах, не зная, что их снимают.
Meta подтвердила, что две страницы, каждая из которых насчитывала более миллиона подписчиков, были деактивированы, поскольку эти аккаунты нарушили политику в отношении публикации контента с преследованием, снятого с помощью умных очков. Тем не менее, компания не уточнила общее количество видео, удаленных в соответствии с этой политикой, а также не детализировала точные критерии мониторинга или то, что считается нарушением правил.
Различные модели умных очков Meta имеют светодиод, который сигнализирует об активной записи, служа предупреждением для окружающих. Однако появились различные тактики для обхода этой системы, включая модификацию, перфорацию или покрытие светодиода. Meta сообщила, что внедрит обновление, которое отключит камеру при обнаружении любых изменений в индикаторе светодиода.
Из-за распространения этих нежелательных видео некоторые пользователи начали маркировать устройства Meta как «очки извращенца». Предотвращение распространения такого негативного контента также рассматривается как способ защиты имиджа продукта. Неправомерное использование очков стало проблемой даже для производителей, которые еще не выпустили свои продукты, таких как Samsung, которая представила свои умные очки в партнерстве с Google и пообещала активно работать над предотвращением отключения индикаторов записи.
YouTube внес изменения в свои правила, чтобы противостоять растущему объему низкокачественных видео, созданных с помощью искусственного интеллекта (ИИ). Платформа разъясняет, что она не запрещает использование ИИ при создании видео, но стремится снизить распространение шаблонного и низкокачественного контента, особенно того, который быстро производится с помощью инструментов ИИ с целью получения монетизации.
Этот тип материала стал чрезвычайно распространенным благодаря развитию ИИ, который позволяет быстро производить постоянный поток контента, который считается «AI slop». Эта практика была воспринята некоторыми как источник дополнительного дохода или модель цифрового предпринимательства, что привело к росту курсов о том, как использовать инструменты ИИ для создания прибыльных видео.
Важно подчеркнуть, что цель YouTube — не запретить технологию, а бороться с низкокачественным контентом. Часто эти видео создаются поверхностно, стремясь стать вирусными в социальных сетях путем использования чувствительных или спорных тем, но при этом содержат поверхностную, неточную или ложную информацию.
Мэтт Халприн, представитель YouTube, отметил, что хотя ИИ может быть ценным инструментом для создания высококачественных видео создателями, он также позволяет создавать контент, который «слишком шаблонный, не имеет последовательного повествования и не демонстрирует креативности», и именно этот аспект борется.
Основная тактика заключается в изменении правил Партнерской программы YouTube (YPP), которые определяют возможность монетизации для авторов. Одно из первых изменений устанавливает, что контент, классифицированный как «шаблонный» — будь то спешно созданный инструментами ИИ или компьютерной графикой, или просто воспроизводящий другие видео с минимальными изменениями — не будет монетизироваться.
Кроме того, платформа ограничит монетизацию видео, манипулирующих чувствами, например, тех, которые имитируют спасение животных или показывают тревожные сцены, чтобы вызвать возмущение и увеличить количество репостов или лайков. Третья мера направлена на предотвращение монетизации видео, использующих «персоны», то есть изображения реальных людей, сгенерированные ИИ, когда они затрагивают деликатные темы, такие как финансы или здоровье.
Хотя YouTube уже пытался справиться с «AI slop», обновление правил монетизации представляет собой значительный прогресс, поскольку оно напрямую нацелено на финансовый стимул, стоящий за созданием этого низкокачественного контента. Если эти изменения окажутся эффективными, ожидается двойная выгода: пользователи будут находить меньше плохого видео, а авторы аутентичного и качественного контента получат приоритет на платформе. Эти изменения в правилах YPP вступили в силу 16 июля.
Instagram анонсировал функцию, которая позволяла бы любому пользователю использовать лицо другого человека в изображениях, созданных искусственным интеллектом. Для этого достаточно было ввести имя пользователя жертвы в приложение, что позволяло манипулировать фотографиями с помощью ИИ и затем повторно публиковать результаты.
Эта новинка активировалась бы автоматически для всех публичных аккаунтов платформы. Чтобы избежать создания дипфейков, у пользователей было бы два варианта: найти специальную настройку, которая была плохо видна в меню приложения, или сделать свой аккаунт приватным.
Первоначально целью внедрения было стимулирование использования Muse Image, нового алгоритма генерации изображений, разработанного отделом ИИ Meta. Однако, даже с учетом стандартов компании, предложение было сочтено чрезмерным с точки зрения конфиденциальности. В пятницу вечером (10-го числа) Meta решила отменить запуск функции.
В заявлении компания объяснила изменение следующим образом: «Наша цель состояла в том, чтобы предоставить полезный творческий инструмент и дать людям контроль над тем, могут ли их публичные материалы быть упомянуты [использованы] таким образом. Мы услышали отзывы о том, что эта функция промахнулась мимо цели, поэтому она больше недоступна».
Этот инцидент не первый случай, когда Meta автоматически активирует инвазивные функции, будь то принудительное согласие или сокрытие деталей в условиях использования своих продуктов и приложений. Ранее произошел скандал в феврале, когда сотрудники Sama, базирующейся в Кении, сообщили, что получили видеозаписи, снятые очками Meta Glasses. Эти записи содержали крайне личную информацию, такую как банковские данные, сцены секса или моменты в ванных комнатах.
После обнародования этого инцидента, который вызвал широкий международный резонанс, Meta расторгла контракт с Sama. Африканская компания нанимала более тысячи человек, ответственных за задачу «аннотирования данных»; они получали контент, снятый устройствами и приложениями Meta, для ручного субтитрирования — процесса, используемого при обучении систем распознавания изображений Meta на базе ИИ.
Meta приостановила в эту пятницу (10-е число) новую функцию искусственного интеллекта (ИИ) в Instagram. Эта функция позволяла создавать изображения на основе публичных профилей платформы.
Решение было принято вскоре после запуска инструмента в ответ на сильную волну критики со стороны пользователей, художников и представителей индустрии развлечений. Обеспокоенность была сосредоточена на вопросах конфиденциальности и использования изображений без должного согласия.
Эта функция была частью запуска Muse Image, генератора изображений на базе ИИ компании, который был представлен во вторник (7-е число). По данным Meta, функция автоматически активировалась для всех пользователей, имеющих открытые профили в Instagram. Фактически это означало, что внешний вид этих людей мог использоваться для генерации изображений с помощью ИИ без предварительного разрешения.
В ответ на жалобы о авторских правах и конфиденциальности Meta выпустила заявление, признав, что инструмент был плохо воспринят. Компания заявила, что ее первоначальным намерением было предоставить полезный творческий инструмент и позволить людям контролировать, будет ли их публичный контент упоминаться таким образом. Поэтому функция была отключена.
Вскоре после запуска тысячи пользователей использовали социальные сети, чтобы выразить свою обеспокоенность по поводу использования их изображений. Многие начали делиться советами о том, как избежать использования этой функции, например, изменить профиль на приватный или настроить определенные параметры приложения.
Реакция также затронула индустрию развлечений в Соединенных Штатах. Creative Artists Agency (CAA), одно из крупных агентств талантов Голливуда, связалось с Meta от имени своих клиентов, назвав эту инициативу безответственной. В заявлении, опубликованном в среду (8-е число), CAA подчеркнула, что артисты должны иметь право самостоятельно решать, как и будет использоваться их образ и работа, требуя согласия и возможности устанавливать собственные условия.
Кроме того, SAG-AFTRA, крупнейший профсоюз актеров США, заявила в четверг (9-е число), что автоматическое включение пользователей в функцию Meta представляло собой «полную ошибку оценки общественного мнения» в отношении использования ИИ.
Несмотря на удаление функции из Instagram, Meta сообщила, что Muse Image остается доступным в WhatsApp и в приложении Meta AI, которое функционирует как чат-бот, независимый от компании. Другие функции ИИ, представленные на той неделе для Instagram, продолжают работать, включая эксклюзивные фильтры, созданные самим Muse Image.
Этот инцидент вписывается в серию споров, связанных с инструментами ИИ, способными манипулировать или создавать изображения. OpenAI уже столкнулась с аналогичными вопросами об авторском праве после выпуска генератора видео Sora в сентябре прошлого года. Хотя компания заключила соглашения со студиями об использовании защищенного контента, она закрыла приложение в марте.
Другая упомянутая платформа — X, которая в этом году заблокировала аккаунт чат-бота Grok после распространения миллионов манипулированных изображений женщин и детей в минимальной одежде. Такие компании, как Google, также подвергались критике в отношении того, как их системы ИИ генерируют изображения.
Несмотря на приостановку функции в Instagram, Meta заверила, что ее инвестиции в ИИ продолжаются. В четверг компания выпустила новую версию своей модели ИИ, Muse Spark, и объявила о планах предоставить генератор видео на базе ИИ в ближайшие месяцы.
