Amazon заблокировала ИИ-агента Meta Muse за совершение покупок без официальной идентификации

Компания Meta начинает внедрение долгожданного ИИ-помощника, который способен самостоятельно отправлять электронные письма, продавать автомобили и бронировать путешествия за человека. При этом существуют внутренние опасения относительно того, как технология управляет доступом к конфиденциальным личным данным.

Центральным элементом стратегии генерального директора Марка Цукерберга является агент Muse, известный внутри компании как Hatch. Цель этого агента — предоставить миллиардам пользователей сервисов Meta «персональный суперинтеллект». Эта инициатива является частью попытки владельца WhatsApp, Facebook и Instagram диверсифицировать источники дохода, выйдя за рамки рекламы, и построить жизнеспособный бизнес на огромных инвестициях в инфраструктуру и чипы ИИ, которые, по прогнозам, превысят 130 миллиардов долларов США в текущем году.

Компания объявила, что продукт сначала будет доступен только на территории США через специальное приложение Muse или через сервис обмена сообщениями WhatsApp от Meta. Meta также сообщила о планах добавить агента в свою линейку умных очков в скором времени, однако детали этого не раскрыла.

Базовая версия агента будет предоставляться бесплатно, тогда как Meta предложит платные подписки стоимостью 20 долларов в месяц и 100 долларов в месяц для более интенсивного использования, уточнил представитель компании. Пользователи имеют возможность отказаться от использования своих взаимодействий для обучения моделей ИИ Meta, а компания планирует выпустить зашифрованную версию Muse позднее в этом году.

Muse разработан на основе открытого ИИ-агента OpenClaw и спроектирован так, чтобы иметь доступ к приложениям пользователя в различных категориях, включая платежи, календарь, здоровье, покупки, электронную почту и умный дом. Пользователи сами определяют, к каким приложениям подключается агент, и могут отозвать доступ в любой момент.

Каждый агент Muse функционирует на собственной виртуальной машине — облачной эмуляции ПК, что позволяет ему продолжать выполнять запросы в фоновом режиме, даже когда пользователь неактивен.

Повышение требований к безопасности

Интеграция с приложениями, содержащими реальные данные человека, одновременно увеличивает потенциальную полезность агента и значительно повышает ставки в вопросах безопасности как для людей, доверивших ему информацию, так и для третьих лиц, которые могут пострадать от некорректного поведения агента.

Вишал Шах, вице-президент Meta по продуктам ИИ, заявил в интервью, что первоначально компания отложила выпуск продукта в апреле, чтобы обеспечить его большую безопасность. По словам Шаха, дополнительные работы позволили им «преодолеть порог» и «достичь минимального уровня, необходимого, чтобы передать это людям». Он подчеркнул: «Невозможно сказать, что ошибки никогда не произойдет, но каждая часть архитектуры спроектирована таким образом, чтобы сделать это максимально безопасным, защищенным и приватным, насколько это возможно».

Среди мер защиты, встроенных в систему Muse, — отдельный агент, который контролирует запланированные действия и в определенных случаях побуждает Muse запросить разрешение перед их выполнением, как было указано в объявлении компании.

Тем не менее, по данным внутренних сообщений, просмотренных Reuters, сотрудники Meta, тестировавшие инструмент на этой неделе, сообщили о неоднозначных результатах. Один из них отметил, что продукт оказался настолько полезным в организации логистики отпуска, что Muse стал «третьим участником» недавнего трехнедельного медового месяца на Индонезии.

Другие же указали на серьезные уязвимости в безопасности, например, когда агент обошел защитные механизмы, чтобы раскрыть личные фотографии пользователя из iCloud после того, как его попросили идентифицировать игрушки на снимках с дня рождения ребенка. Технический директор Meta, Эндрю Босворт, сообщил, что постоянно выходил из системы и требовалось повторно входить в нее, иногда несколько раз за несколько минут. В другом посте сотрудник, который поручил Muse отслеживать билеты и другие быстро распродаваемые товары, сообщил о столкновении с «многими режимами сбоя, которые делали его ненадежным». По словам этого сотрудника, продукт прекращал обновлять страницу примерно через 15 минут, молча игнорировал другие ошибки и иногда отключал мониторинг «без видимой причины».

Meta не ответила на запрос о комментарии относительно конкретных инцидентов, описанных во внутренних постах. Запуск происходит на фоне сообщений о том, что ИИ-агенты от нескольких ведущих лабораторий, включая OpenAI, Anthropic и Meta, вызывали непреднамеренные проблемы, нарушая правила и демонстрируя непредсказуемое поведение.

Внутри Meta за последний год технические и инциденты безопасности резко возросли на 40% вследствие всплеска кодирования, управляемого ИИ, и проблем, связанных с агентами, в то время как время, затраченное сотрудниками на «тушение пожаров» этих инцидентов, увеличилось на 70%.