Google решил отозвать запуск новой функции искусственного интеллекта в Google Earth, отключив ее всего через день после внедрения. Этот инструмент, представленный в четверг (30-го числа), обладал возможностью генерировать изображения с помощью ИИ, которые можно было накладывать на реальные изображения, доступные на платформе, будь то спутниковые, аэрофотоснимки или 3D-изображения, и все это с помощью текстовых команд.
О приостановке было объявлено в пятницу после появления контента, опубликованного пользователями, который, по утверждению самой компании, нарушал установленные ею директивы.
Google заявляет о усилении механизмов защиты
В официальном заявлении Google упомянул, что заметил, как специалисты в области геопространственных данных использовали эту функцию для различных полезных применений. Однако компания также обнаружила, что пользователи распространяли скриншоты с сгенерированными изображениями, которые, по-видимому, не соответствовали их политике.
В связи с этой ситуацией компания объявила о временной приостановке доступности функции, пока работает над внедрением более надежных защитных мер. Google уточнил, что этот перерыв является временным и направлен на укрепление гарантий инструмента. Компания не указала, какие типы изображений нарушили правила, но заверила, что материал, созданный ИИ, не отображался в основном интерфейсе Google Earth, и такие изображения были помечены индикатором того, что они были сгенерированы искусственным интеллектом.
Функциональность позволяла любому человеку ввести текстовую команду для создания фотореалистичных представлений в любой точке земного шара, используя в качестве основы изображения Google Earth. На практике это означало возможность добавления вымышленных элементов на монументы, города и другие подлинные места.
Сразу после запуска функция начала получать критику из-за потенциала способствовать созданию и распространению фейковых новостей. Эксперты и пользователи предупредили, что, позволяя накладывать изображения, сгенерированные ИИ, на реальные места в Google Earth, можно фабриковать ложные сценарии, связанные с туристическими достопримечательностями, памятниками и другими географическими районами.
Технологические компании корректируют функции ИИ
Этот инцидент происходит в более широком контексте расширения инструментов генеративного ИИ в продуктах крупных технологических корпораций. В то время как эти новые функции интегрируются во множество сервисов, компании также предпочитают ограничивать или приостанавливать функции после случаев ненадлежащего использования, опасений по поводу внутренней политики или рисков, связанных с дезинформацией.
В качестве примера Meta приостановила работу Muse Image, инструмента, который позволял генерировать изображения с использованием публичных аккаунтов Instagram. Эта мера была принята после критики, связанной с вопросами конфиденциальности, включая заявления профсоюза Голливуда.
