Meta представила новую функцию под названием Scam Alert для WhatsApp. Эта система использует искусственный интеллект непосредственно на устройстве пользователя для обнаружения подозрительных сообщений и выдачи предупреждений о возможных попытках мошенничества.
В настоящее время Scam Alert находится на стадии тестирования и первоначально будет доступен ограниченной группе участников бета-программы. Как стало известно UOL, эта функция пока недоступна в Бразилии.
WhatsApp признан основным каналом для мошенничества как в Бразилии, так и во всем мире. Согласно данным Febraban за 2025 год, 34% бразильцев получали контакты от людей, выдававших себя за знакомых. В Соединенных Штатах Федеральная торговая комиссия (FTC) отмечает, что в 2025 году ущерб от действий через приложение Meta оценивается в 725 миллионов долларов США.
Принцип работы Scam Alert основан на модели машинного обучения (machine learning), которая работает локально на устройстве, исключая необходимость подключения к облаку. Эта модель специально обучена распознавать шаблоны сообщений, часто используемые в мошеннических схемах.
Когда что-то считается подозрительным, инструмент уведомляет получателя сообщения, гарантируя, что потенциальный мошенник не узнает об оповещении. Пользователь имеет возможность заблокировать или пожаловаться на контакт, либо продолжить разговор в обычном режиме.
Если пользователь указывает, что оповещение было сработано по ошибке, модель регистрирует это взаимодействие как надежное и прекращает выдачу будущих предупреждений безопасности. Кроме того, существует функция, позволяющая пользователю поделиться последними пятью полученными сообщениями с Meta, помогая компании улучшать свой механизм защиты.
По данным Meta, технология выполняет вероятностную классификацию, учитывающую структуру разговора и лингвистические индикаторы, уделяя больше внимания тому, как развивается диалог, а не отдельным ключевым словам. Однако система анализирует только сообщения от номеров, отсутствующих в списке контактов пользователя, что, хотя и логично, создает уязвимость для мошенничества, осуществляемого с использованием клонированных номеров.
Meta неоднократно подчеркивала, что модель ИИ обрабатывается непосредственно на устройстве. Это означает, что сообщения не нужно отправлять на сервер для проверки. Компания разъясняет, что передаются только счетчики оповещений и действия, предпринятые пользователем, и эти данные всегда агрегируются и анонимизируются.
В другой области безопасности компания сообщила, что предоставит веса модели машинного обучения, используемой для анализа сообщений, исследователям, что позволит им тестировать ИИ в различных сценариях и входных данных. Наконец, Meta заверила, что не располагает средствами для направления конкретных моделей отдельным пользователям, помимо предоставления инструментов проверки, чтобы предотвратить любое использование функции в целях наблюдения.
