Instagram внедрит новые меры для борьбы с профилями, которые не представляют реальных людей, а являются аватарами, разработанными при поддержке искусственного интеллекта. Платформа планирует ограничить видимость таких аккаунтов, если они не предоставят надлежащей идентификации.
Социальная сеть Meta заявила в своем блоге, что это изменение является частью непрерывных усилий по повышению прозрачности, в надежде, что это поможет пользователям лучше понимать происхождение контента, отображаемого в Instagram.
Платформа заменит текущую метку «AI-креатор» на «профиль, сгенерированный ИИ». Эта модификация послужит основой для внедрения других руководящих принципов. По данным компании, цель состоит в том, чтобы сделать явным, что профиль имеет личность, созданную ИИ, а не человека.
С введением этой новой метки будет установлена дополнительная политика: Instagram ограничит охват профилей, использующих изображения людей, сгенерированные ИИ, без надлежащей идентификации. Следовательно, эти профили перестанут предлагаться пользователям, которые на них не подписаны. Владельцы этих аккаунтов смогут оспорить это решение.
Новое обозначение «профиль, сгенерированный ИИ» будет автоматически применено ко всем профилям, которые ранее имели значок «AI-креатор». Однако Instagram предлагает возможность удалить этот значок, если профиль представляет собой реального человека.
Инфлюенсеры, созданные ИИ, набирают популярность в социальных сетях. Такие фигуры, как Эмили Пеллегрини и Аитана Лопес, выступают в роли реальных людей, публикуя видеоролики, снятые в изысканных ресторанах, на фестивалях и спортивных мероприятиях. Однако это лишь один аспект проблемы.
Меры, принятые Instagram, предпринимаются спустя месяцы после того, как репортажи раскрыли, как аватары, сгенерированные ИИ, используются для рекламы товаров в сети. Хотя дипфейки не являются чем-то новым, они стали намного реалистичнее, а их создание стало доступнее, чем когда-либо.
Расследование, проведенное Guardian, выявило такие профили, которые продвигали как приложения, так и бренды одежды, без каких-либо указаний на то, что материал является рекламой.
Кроме того, The New York Times обнаружил сотни персон, сгенерированных ИИ, которые выдавали себя за врачей и инфлюенсеров для продвижения пищевых добавок и лекарств, обещая превосходство над традиционными методами лечения. Кампании нацелены конкретно на пожилых женщин с проблемами со здоровьем.
То же издание также нашло реальных инфлюенсеров, демонстрирующих, как разрабатываются эти кампании, а также китайскую компанию, специализирующуюся на создании такого рода контента с помощью технологий.