Адам Моссери, руководитель Instagram, заявил, что контент, созданный искусственным интеллектом, не должен отображаться пользователям, которые не проявляют к нему интереса. Руководитель выступает за адаптацию алгоритма платформы для учета этого предпочтения, хотя и отвергает возможность простого блокирования всего контента ИИ в социальной сети.
Улучшение идентификации медиа
С ростом материалов, созданных ИИ за последние годы, в настоящее время отсутствует простой механизм, позволяющий пользователям скрывать этот тип контента. Моссери объяснил в интервью подкасту Lenny Rachitsky, что цель Meta — улучшить способность идентифицировать видео и изображения, сгенерированные ИИ, чтобы собственные рекомендательные системы могли понимать уровень интереса пользователя.
Моссери ранее публично признавал, что лента Instagram перестала отражать реальные интересы пользователей из-за растущей мощи алгоритма. Это наблюдение возникло после расширения функции «Ваш алгоритм», которая показывает пользователям типы публикаций, которые технология считает релевантными, и предлагает возможность снизить видимость определенных тем, хотя это и не полностью предотвращает показ конкретного контента.
Сложность обнаружения ИИ
По словам Моссери, обнаружение контента ИИ становится все более сложным по мере развития языковых моделей. Поэтому он предложил, чтобы Instagram мог использовать менее категоричные ответы о происхождении медиа. Вместо жесткой категоризации того, был ли контент создан ИИ или нет, сеть могла бы указывать уровни уверенности, такие как «вероятно, да», «не уверены» или «определенно нет».
В настоящее время платформа имеет систему маркировки для использования генеративных инструментов, как и конкуренты, такие как YouTube и TikTok. Эти публикации могут отображать уведомление «Информация об ИИ» в ленте, которое уточняет, что контент «мог быть создан с помощью ИИ». Всплывающее окно разъясняет, что эта метка обычно относится к контенту, полностью сгенерированному ИИ, а не просто измененному с помощью ИИ.
Предложения по разделению и сертификации
Во время подкаста руководитель представил две основные идеи. Первая заключается в создании специального пространства для отделения контента, полностью сгенерированного ИИ — включая спам, мошеннические монтажи и другой «мусор ИИ» — от постов, в которых использовались творческие инструменты редактирования или ремикса контента.
Meta уже экспериментировала с подобными концепциями в приложении Meta AI, представляя ленты изображений, сгенерированных моделями компании, и даже формат Reels с синтетическими видео. Второе предложение, которое Моссери отстаивает с декабря прошлого года, — это внедрение сертификации для аутентичного контента. Аргумент заключается в том, что проще подтвердить происхождение реальной фотографии, чем доказать использование ИИ.
Усилия отрасли в области сертификации
Крупные корпорации ИИ, разрабатывающие модели изображений и видео, такие как OpenAI, Google, Microsoft и сама Meta, используют цифровые сертификаты, такие как C2PA, и невидимые метки в контенте, такие как SynthID. Эти метки генерируются самими инструментами для помощи в идентификации. Помимо заявления, сделанного пользователем во время публикации, Instagram может считывать эту информацию, чтобы предупредить о возможном использовании ИИ. Однако эта практика еще не стандартизирована и ее можно обойти или удалить.
