Google принял решение отключить функцию создания изображений с использованием искусственного интеллекта в Google Earth в прошлую пятницу, 31 июля. Эта функция, которая позволяла генерировать фотореалистичные изображения мировых мест на основе спутниковых данных, была представлена всего за день до этого, в четверг, 30 июля, но столкнулась с серьезной критикой.
Менее чем за двадцать четыре часа пользователи и эксперты продемонстрировали, насколько легко можно было создавать реалистичные изображения, имитирующие катастрофы и нападения, что открывало возможности для использования в кампаниях по дезинформации. Google признал эту озабоченность, заявив в своем аккаунте в X (ранее Twitter), что, хотя он и видел полезное применение со стороны геопространственных специалистов, также наблюдал распространение скриншотов, которые, казалось, нарушали его правила.
В результате компания решила удалить ИИ из Google Earth, пока работает над разработкой более надежных ограничений для предотвращения подобных инцидентов. Компания также подчеркнула, что созданные изображения не были видны всем пользователям и содержали цифровые водяные знаки для идентификации.
Инструмент подвергся критике за облегчение фейковых новостей
Простота создания реалистичных изображений, которые могли быть использованы в фейковых новостях и усилиях по дезинформации, вызвала волну критики в адрес Google. Различные эксперты и пользователи указали на крайнюю легкость использования инструмента в незаконных целях.
Например, команда 404 Media смогла сфабриковать поддельные изображения лагеря бездомных в Лос-Анджелесе, а также разместить протестующих перед штаб-квартирой Google. Исследователь информационной безопасности Хенк ван Эсс добился аналогичных результатов, сообщив, что создал изображения беженцев на границе с Мексикой, атомной электростанции в Иране и смертельного несчастного случая на улице Амстердама, используя в качестве основы собственные спутниковые снимки Google.
Негативные примеры продолжались: BBC генерировала изображения обрушившейся Эйфелевой башни, дыры, поглощающей Великую пирамиду Гизы, и российских танков в столице Украины. В четверг, 30 июля, Google заверил, что серьезно относится к проблеме дезинформации, сообщив, что все сгенерированные изображения имеют цифровой водяной знак SynthID, который можно идентифицировать через Gemini или Lens; однако эта мера оказалась недостаточной для сохранения функции активной.