WhatsApp тестирует ИИ-фильтр для защиты от мошеннических сообщений

Фича опциональная, включается вручную, а пока её обкатывают участники Bug Bounty-программы мессенджера. Для трёх миллиардов пользователей WhatsApp в 180 странах это очередная заплатка в длинной череде антифрод-обновлений — и повод проверить, насколько она вообще пригодна в реальной жизни, а не только в пресс-релизе.

Как устроен «Scam Alert» без отправки данных

Сценарий привычный до зубовного скрежета: поздним вечером прилетает сообщение от неизвестного номера — «мам, скинь на карту», «вам одобрен кредит», «пройди по ссылке, подтверди код». Новая функция пытается перехватить этот момент раньше, чем пользователь успеет среагировать. Модель смотрит на структуру диалога и языковые паттерны, сверяя их с образцами ранее подтверждённых скамов. Если совпадение найдено, в чате появляется предупреждение, невидимое собеседнику. Дальше три кнопки: «заблокировать», «пожаловаться», «продолжить». Если модель ошиблась — чат помечается как доверенный, и предупреждение больше не выскакивает. Дополнительно можно поделиться последними пятью сообщениями с WhatsApp, чтобы дообучить алгоритм.

Ключевой аргумент Meta — приватность. По словам компании, модель работает on-device: содержимое переписки на серверы WhatsApp, Meta или кого-либо ещё не уходит. В Meta передаются лишь обезличенные метаданные, нужные для калибровки алгоритма под новые схемы. Звучит как ответ на вечный упрёк «а вы наши сообщения читаете», но проверить это без публичного аудита, как обычно, невозможно — приходится верить на слово.

Почему это пока заплатка, а не спасение

Включить «Scam Alert» нужно руками — переключатель спрятан в настройках, а не выскакивает баннером при первом запуске. Бета ограничена узким кругом тестировщиков, сроков глобального релиза нет, регионов первого развёртывания компания тоже не называет. Модель учится на разговорах, которые сами пользователи ранее пометили как мошеннические, — то есть реактивно, с задержкой, пока первый уловленный фишинг не превратится в обучающую выборку. Для новых, ещё невиданных схем это не панацея, а сигнал «что-то знакомое», который легко обмануть свежей упаковкой.

Ирония в том, что WhatsApp параллельно уже наклеил несколько слоёв защиты: в марте добавил предупреждения о подозрительных запросах на привязку устройства — классический вектор угона аккаунта через QR-код или код привязки, — а раньше выкатил «Strict Account Settings» для публичных персон и активистов под угрозой шпионского ПО вроде Pegasus. Набор латок растёт, а базовый рефлекс «не переводить деньги незнакомцу» по-прежнему остаётся главной защитой. Никакой ИИ этот рефлекс пока не заменил.

Что отслеживать: выйдет ли функция из беты и в каких регионах появится первой; будет ли она включена по умолчанию в новых установках или так и останется спрятанной в трёх уровнях меню; не превратится ли «опциональность» в алиби для Meta на случай, когда скамер всё-таки проскочит фильтр.