Предупреждение о мошенничестве в WhatsApp: ИИ проверяет только незнакомых людей, а не ваших контактов

12 августа компания Meta опубликовала технический обзор функции Scam Alert — новой функции для WhatsApp. Она предназначена для предупреждения пользователей о мошеннических сообщениях до того, как кто-либо на них попадется. Процесс проверки происходит полностью на телефоне пользователя.

После включения этой функции WhatsApp загружает на устройство небольшую модель искусственного интеллекта. Эта модель анализирует входящие сообщения и сравнивает их с шаблонами, зафиксированными в сообщениях о мошенничестве, то есть с типичными для известных мошеннических схем цепочками переписки и формулировками. При этом никакое содержимое сообщений не покидает телефон. Сквозное шифрование, при котором открытый текст видят только отправитель и получатель, остается неизменным.

Предупреждение видит только получатель

Если модель обнаруживает вероятную попытку мошенничества, прямо в чате появляется уведомление. Отправитель не получает никакого уведомления. После этого пользователь может заблокировать отправителя, пожаловаться на него или просто продолжить разговор. WhatsApp не передает информацию в Meta автоматически. Это происходит только в том случае, если пользователь самостоятельно нажмёт кнопку «Пожаловаться».

Проверке подвергаются только сообщения от отправителей, которых нет в адресной книге

В этом заключается ограничение, о котором говорится в собственном описании компании Meta. Модель классифицирует исключительно сообщения от отправителей, которые не сохранены в списке контактов пользователя. Сообщения от людей, уже находящихся в адресной книге, не проверяются.

Это означает, что, как ни парадоксально, наиболее эффективные мошеннические схемы остаются незамеченными. Если аккаунт в WhatsApp вашего друга или родственника взломан, мошенническое сообщение приходит с реального, знакомого вам аккаунта. В таких случаях функция «Предупреждение о мошенничестве» не срабатывает. Случай с поддельным приложением, взламывающим аккаунты WhatsApp, продемонстрировал, как происходит такой взлом. Даже шокирующий звонок с клонированным голосом обходит эту проверку, поскольку он вообще не проходит через WhatsApp.

Отметьте контакт как «надежный» один раз — и вы больше никогда не увидите предупреждение

Если вы считаете, что предупреждение ложное, вы можете пометить чат как «надежный». После этого предупреждение исчезнет навсегда для данного контакта. Это удобно, но в то же время является слабым местом: именно такое решение вы принимаете под давлением, когда опытный мошенник уже наладил с вами разговор. Любой, кто пометит чат таким образом, также может добровольно отправить в WhatsApp последние пять полученных сообщений.

Разработано с учётом возможности проверки

Что касается прозрачности, Meta идет дальше, чем обычно. Каждая версия модели перед развертыванием регистрируется в общедоступном реестре вместе с контрольной суммой. Подпись предоставляется Cloudflare; у Meta нет ключа, необходимого для этого. Веса модели публикуются, чтобы исследователи могли проверить, действительно ли модель обнаруживает только мошеннические сообщения. Сами пользователи могут найти журнал в разделе «Аккаунт» > «Запросить информацию» > «Активность системы предупреждения о мошенничестве», где указано, какие сообщения были проверены и какая версия модели работала в тот момент.

Статистические данные о частоте выдачи предупреждений и реакции пользователей обрабатываются в изолированных вычислительных средах. Прежде чем эти данные поступят в распоряжение Meta, они агрегируются и зашифровываются таким образом, чтобы невозможно было сделать выводы о конкретных пользователях.

Функция пока недоступна

В настоящее время функция «Предупреждение о мошенничестве» работает в рамках ограниченной бета-версии наряду с программой Meta по поиску уязвимостей. Компания пока не объявила дату полномасштабного запуска или страны, в которых эта функция будет доступна. Пока что не было сделано никаких заявлений в отношении Германии. До тех пор действует старое правило: если вы получили запрос на перевод денег или сообщение с якобы новым номером телефона, свяжитесь с данным человеком через другой канал связи, предпочтительно позвонив на старый номер. Если вы хотите узнать, как быстро учетная запись может быть взломана даже без пароля, ознакомьтесь с отчётом о похищенном сессионном куки.