Google принял решение отключить функцию создания изображений с использованием искусственного интеллекта в Google Earth в прошлую пятницу, 31 июля. Эта функция, которая позволяла генерировать фотореалистичные изображения мировых мест на основе спутниковых данных, была представлена всего за день до этого, в четверг, 30 июля, но столкнулась с серьезной критикой.
Менее чем за двадцать четыре часа пользователи и эксперты продемонстрировали, насколько легко можно было создавать реалистичные изображения, имитирующие катастрофы и нападения, что открывало возможности для использования в кампаниях по дезинформации. Google признал эту озабоченность, заявив в своем аккаунте в X (ранее Twitter), что, хотя он и видел полезное применение со стороны геопространственных специалистов, также наблюдал распространение скриншотов, которые, казалось, нарушали его правила.
В результате компания решила удалить ИИ из Google Earth, пока работает над разработкой более надежных ограничений для предотвращения подобных инцидентов. Компания также подчеркнула, что созданные изображения не были видны всем пользователям и содержали цифровые водяные знаки для идентификации.
Простота создания реалистичных изображений, которые могли быть использованы в фейковых новостях и усилиях по дезинформации, вызвала волну критики в адрес Google. Различные эксперты и пользователи указали на крайнюю легкость использования инструмента в незаконных целях.
Например, команда 404 Media смогла сфабриковать поддельные изображения лагеря бездомных в Лос-Анджелесе, а также разместить протестующих перед штаб-квартирой Google. Исследователь информационной безопасности Хенк ван Эсс добился аналогичных результатов, сообщив, что создал изображения беженцев на границе с Мексикой, атомной электростанции в Иране и смертельного несчастного случая на улице Амстердама, используя в качестве основы собственные спутниковые снимки Google.
Негативные примеры продолжались: BBC генерировала изображения обрушившейся Эйфелевой башни, дыры, поглощающей Великую пирамиду Гизы, и российских танков в столице Украины. В четверг, 30 июля, Google заверил, что серьезно относится к проблеме дезинформации, сообщив, что все сгенерированные изображения имеют цифровой водяной знак SynthID, который можно идентифицировать через Gemini или Lens; однако эта мера оказалась недостаточной для сохранения функции активной.
В прошлую пятницу (17-го) офис городского прокурора Сан-Франциско направил официальные уведомления как в Apple, так и в Google. Целью было потребовать удаления тринадцати приложений для замены лиц, связанных с созданием изображений искусственно сгенерированного обнажения без согласия изображенных людей.
Муниципальное действие направлено конкретно на инструменты, которые используют искусственный интеллект для изменения фотографий людей, в результате чего получается сексуализированный материал. По данным мэрии, эти цифровые платформы получают прибыль от таких услуг посредством платежей внутри самих приложений.
Эта инициатива возникла после расследований, которые показали, что приложения, изначально представленные как простые редакторы изображений, могут использоваться для создания порнографических дипфейков. Наиболее пострадавшими от такого контента являются женщины и девушки.
Письма, адресованные двум технологическим гигантам, были подписаны городским прокурором Сан-Франциско Дэвидом Чиу. Он подчеркнул, что создание интимных изображений без разрешения является незаконной и вредной практикой, требующей от Apple и Google предотвращения использования их цифровых экосистем для содействия злоупотреблениям.
Представитель города также потребовал, чтобы компании прекратили любые коммерческие отношения с разработчиками, ответственными за такие типы приложений. Кроме того, требование распространяется на платежные системы виртуальных магазинов, где компании получают часть доходов, полученных от этого программного обеспечения.
И Apple, и Google заявили, что имеют строгие правила против порнографии, домогательств и любого злоупотребляющего контента на своих платформах. Apple сообщила, что удалила три приложения, указанных мэрией, и уже начала процесс приостановки учетных записей вовлеченных разработчиков. Компания предупредила, что другие создатели также могут быть исключены, если они не исправят обнаруженные нарушения.
Со своей стороны, Google объявил об удалении сотен приложений, содержащих функции «обнажения» из-за нарушения их политик. Компания также сообщила о приостановке аналогичных инструментов и введении ограничений в поисковых запросах, связанных с этой услугой в магазине приложений.
Исследования, упомянутые в муниципальном расследовании, показали, что проблема не ограничивается только приложениями, явно помеченными как инструменты искусственного обнажения. Исследования обнаружили программы замены лиц, которые, хотя и представлялись как обычные функции редактирования, позволяли создавать сексуализированные изображения без эффективной защиты.
Обзор, упомянутый в тексте, выявил сотни приложений для замены лиц, доступных в магазинах Apple и Google. Значительная часть этих программ позволяла создавать коллажи с голыми изображениями, даже если они официально не рекламировались для этой цели.
Это распространение инструментов произошло параллельно с развитием систем генеративного искусственного интеллекта, что значительно снизило техническую сложность, необходимую для создания фальшивых изображений с высоким уровнем реализма. Эксперты, упомянутые в статье, отметили, что достаточно одной эталонной фотографии и нескольких команд для генерации такого контента.
Мэрия Сан-Франциско заявила, что продолжит оценку судебных исков против компаний, которые позволяют распространять эти инструменты. Заявленная цель органа — заставить платформы улучшить свои механизмы анализа до предоставления новых приложений.
