Адам Моссери, глава Instagram, признал, что платформа пока не имеет эффективного решения для борьбы с профилями, использующими дипфейки, созданные искусственным интеллектом, для воспроизведения контента. Этот вопрос сообщали ему авторы внутри самого Instagram, как сообщает британская газета The Independent.
Один из упомянутых случаев касался американского комика Джорджа Бретта Олсона, который обнаружил аккаунт, использующий женский аватар, сгенерированный ИИ, вместо него в одном из своих выступлений. Хотя оригинальный аудио- и текстовый контент был сохранен, изображение было заменено этим дипфейком.
Руководитель социальной сети выразил большую обеспокоенность этой практикой, но решил не запрещать полностью контент, созданный с помощью этой технологии, указав, что обсудит возможные меры с командой платформы.
Олсон сообщил, что подобный материал появляется и в других областях, например, в профилях, которые используют видео танцоров в качестве основы для создания записей, где персонажи ИИ воспроизводят хореографию.
Профиль, имитировавший выступление комика, имел более 300 тысяч подписчиков и направлял пользователей на страницу в OnlyFans. Другой аккаунт, упомянутый комиком Джулией Ясунас, насчитывал около 250 тысяч подписчиков.
Моссери напрямую ответил на пост Олсона в Instagram, заявив, что Meta следит за этими профилями, но широкое ограничение контента ИИ не будет осуществимо. Он объяснил, что «становится все сложнее идентифицировать, и не весь контент плохой, хотя мусора много».
Кроме того, Моссери заявил, что Instagram планирует направлять больше трафика к оригинальным авторам и признал необходимость платформы определить порядок действий, когда контент является точной копией работ этих авторов. Он привел примеры в конкурирующих сетях, таких как X от Илона Маска, где он изменил свой алгоритм рекомендаций, чтобы ограничить охват скопированного контента, и изменил систему монетизации, чтобы способствовать оригинальному творчеству.
В другом комментарии Моссери затронул доступные инструменты для запроса удаления материалов. Платформа предлагает жалобы на нарушение авторских прав, но руководитель отметил, что этот механизм не всегда решает ситуации, поднятые авторами.
По его словам, многие авторы могут не применять формальные процедуры для защиты своих работ, и сети необходимо найти способ «помочь этим авторам, не допуская злоумышленников подавать больше ложных жалоб», что, по мнению Моссери, «происходит постоянно».
Ранее Моссери обсуждал дилемму обработки ИИ на платформе. Он уже говорил, что контент, созданный искусственным интеллектом, не должен показываться тем, кто не проявляет к нему интереса, но отрицал, что пользователи имеют возможность блокировать его, оставляя эту функцию на усмотрение алгоритма.