Компания Meta приняла решение удалить видеоматериалы, созданные с помощью искусственного интеллекта и нацеленные на двух женщин, включая британского политика, после того как Наблюдательный совет подверг критике меры защиты компании против распространения дипфейков, назвав их «фундаментально неадекватными».
Ранее в четверг Наблюдательный совет, квазинезависимый орган, финансируемый компанией для обзора решений по модерации, потребовал от Meta удалить с своих платформ сфабрикованные видео. Совет отметил, что подобные случаи подрывают собственные политики Meta в отношении разжигания ненависти, дезинформации и преследования.
Первое видео, сгенерированное ИИ, изображало члена совета Лейбористской партии в Шотландии, который делал провокационные заявления о беженцах. Общедоступных записей, подтверждающих высказывания политика, не существовало, а видео демонстрировало явные признаки подделки, включая аудио, не синхронизированное с движениями ее лица.
Второе сфабрикованное видео было направлено против активистки-мусульманки в Европе. Целью было дискредитировать ее роль в качестве защитника здоровья путем ложного изображения, как она потребляет фастфуд, давая советы по осознанному питанию и выполняя абсурдные упражнения.
Совет заявил, что политики Meta «последовательно и фундаментально неадекватны» для противодействия растущему потоку контента, созданного ИИ, на ее платформах, к которым относятся Facebook и Instagram.
Сопредседатель Наблюдательного совета Памела Сан Мартин заявила в своем заявлении: «От политиков до частных граждан, дипфейки, созданные ИИ, все чаще используются для преследования и замалчивания женщин, которые участвуют в публичном дискурсе». Она добавила, что «эти случаи демонстрируют более широкую, тревожную закономерность, при которой женщины, публично занимающиеся вопросами, непропорционально подвергаются преследованию и дезинформации».
Решения Наблюдательного совета по отдельным случаям являются обязательными для Meta, однако его более широкие рекомендации по политике не имеют такой силы.
Meta выразила одобрение решению совета по обоим случаям и согласилась выполнить его в течение семи дней. Сан Мартин подчеркнула, что «Meta и другие социальные медиаплатформы нуждаются в более надежных политиках для борьбы с распространением дипфейков, включая гораздо более сильный подход к маркировке вводящего в заблуждение контента, более строгие наказания для нарушителей и удаление дипфейков, преследующих частных лиц».
На прошлой неделе совет призвал Meta не заменять профессиональную проверку фактов функцией «Сообщество Заметок» (Community Notes) — модели, основанной на коллективном участии, для опровержения ложной информации, которая стала популярной на платформе X миллиардера Илона Маска. Этот призыв последовал за тем, как Meta объявила о начале тестирования «Сообщества Заметок» в 16 испаноязычных странах Латинской Америки в рамках шага по замене своей программы проверки фактов.