Прокуратура Сан-Франциско в США официально уведомила Apple и Google, обвиняя обе компании в получении прибыли через приложения искусственного интеллекта, предназначенные для создания фальшивых изображений наготы.
Прокуратура Сан-Франциско в США официально уведомила Apple и Google, обвиняя обе компании в получении прибыли через приложения искусственного интеллекта, предназначенные для создания фальшивых изображений наготы.
Обвинительный орган утверждает, что компании способствуют распространению и коммерциализации этих приложений ИИ, которые используются для изменения фотографий реальных людей, имитируя наготу. Такая практика рассматривается как катализатор преследования, неправомерной эксплуатации изображения и сексуального насилия.
По данным прокуратуры, эта деятельность может нарушать законы Калифорнии, касающиеся неконсенсуальной синтетической порнографии. Кроме того, компании получают финансовую выгоду, получая комиссионные с платежей, совершаемых внутри этих приложений.
Главный прокурор Дэвид Чиу заявил порталу Wired, что создание изображений без согласия является «незаконным, вредоносным и абсолютно неприемлемым». Он подчеркнул, что компании обязаны гарантировать, что их экосистемы приложений не служат платформой для содействия любой форме сексуального насилия.
Прокуратура также отметила, что некоторые из этих приложений были классифицированы с низкими возрастными рейтингами в цифровых магазинах, доходя до представления их как подходящих для детей.
Судебные уведомления требуют, чтобы Apple и Google немедленно удалили идентифицированные приложения и прекратили любые деловые отношения с ответственными разработчиками. Власти Калифорнии постановляют, что техническая или финансовая поддержка услуг, направленных на производство и продажу неконсенсуальной синтетической порнографии, не должна оказываться.
Это давление возникает в момент значительного прогресса инструментов ИИ, которые способны вносить изменения в изображения с высокой точностью. Обычно эти инструменты направлены против женщин и подростков, используя обычные фотографии, доступные в социальных сетях.
Кроме того, в январе штат начал расследование в отношении xAI, стартапа ИИ Илона Маска, ответственного за Grok, после обнаружения постов, в которых чат-бот помогал создавать контент для взрослых с участием реальных людей, включая несовершеннолетних.
В ответ на портал Google сообщил, что магазин Android запрещает приложения, содержащие сексуальный материал, и внедрил меры для обнаружения и удаления такого контента. Компания заявила, что заблокировала сотни приложений с аналогичными функциями, а также приостановила учетные записи разработчиков и платежи, связанные с этими инструментами.
На данный момент Apple не делала официального заявления о судьбе этих приложений в App Store.
В прошлую пятницу (17-го) офис городского прокурора Сан-Франциско направил официальные уведомления как в Apple, так и в Google. Целью было потребовать удаления тринадцати приложений для замены лиц, связанных с созданием изображений искусственно сгенерированного обнажения без согласия изображенных людей.
Муниципальное действие направлено конкретно на инструменты, которые используют искусственный интеллект для изменения фотографий людей, в результате чего получается сексуализированный материал. По данным мэрии, эти цифровые платформы получают прибыль от таких услуг посредством платежей внутри самих приложений.
Эта инициатива возникла после расследований, которые показали, что приложения, изначально представленные как простые редакторы изображений, могут использоваться для создания порнографических дипфейков. Наиболее пострадавшими от такого контента являются женщины и девушки.
Письма, адресованные двум технологическим гигантам, были подписаны городским прокурором Сан-Франциско Дэвидом Чиу. Он подчеркнул, что создание интимных изображений без разрешения является незаконной и вредной практикой, требующей от Apple и Google предотвращения использования их цифровых экосистем для содействия злоупотреблениям.
Представитель города также потребовал, чтобы компании прекратили любые коммерческие отношения с разработчиками, ответственными за такие типы приложений. Кроме того, требование распространяется на платежные системы виртуальных магазинов, где компании получают часть доходов, полученных от этого программного обеспечения.
И Apple, и Google заявили, что имеют строгие правила против порнографии, домогательств и любого злоупотребляющего контента на своих платформах. Apple сообщила, что удалила три приложения, указанных мэрией, и уже начала процесс приостановки учетных записей вовлеченных разработчиков. Компания предупредила, что другие создатели также могут быть исключены, если они не исправят обнаруженные нарушения.
Со своей стороны, Google объявил об удалении сотен приложений, содержащих функции «обнажения» из-за нарушения их политик. Компания также сообщила о приостановке аналогичных инструментов и введении ограничений в поисковых запросах, связанных с этой услугой в магазине приложений.
Исследования, упомянутые в муниципальном расследовании, показали, что проблема не ограничивается только приложениями, явно помеченными как инструменты искусственного обнажения. Исследования обнаружили программы замены лиц, которые, хотя и представлялись как обычные функции редактирования, позволяли создавать сексуализированные изображения без эффективной защиты.
Обзор, упомянутый в тексте, выявил сотни приложений для замены лиц, доступных в магазинах Apple и Google. Значительная часть этих программ позволяла создавать коллажи с голыми изображениями, даже если они официально не рекламировались для этой цели.
Это распространение инструментов произошло параллельно с развитием систем генеративного искусственного интеллекта, что значительно снизило техническую сложность, необходимую для создания фальшивых изображений с высоким уровнем реализма. Эксперты, упомянутые в статье, отметили, что достаточно одной эталонной фотографии и нескольких команд для генерации такого контента.
Мэрия Сан-Франциско заявила, что продолжит оценку судебных исков против компаний, которые позволяют распространять эти инструменты. Заявленная цель органа — заставить платформы улучшить свои механизмы анализа до предоставления новых приложений.
