Система соответствует принципам конфиденциальности WhatsApp, обеспечивая лучшую защиту пользователей без внешнего контроля.
Компания Meta представила предварительную версию своей новой системы оповещения о мошенничестве для WhatsApp , которая предназначена для предупреждения пользователей WhatsApp о потенциально мошеннических сообщениях и контактах без нарушения их конфиденциальности. Система работает в сочетании с расширенной средой конфиденциальности WhatsApp, чтобы лучше защитить пользователей от постоянно меняющихся методов мошенничества.
Компания Meta заявила, что функция Scam Alert будет необязательной в WhatsApp и будет работать на основе модели машинного обучения, встроенной в устройство, поэтому никакие данные не будут отправляться обратно в Meta для обработки.
Это должно гарантировать конфиденциальность данных WhatsApp, что является одним из элементов нового подхода, который компания Meta очень хочет подчеркнуть.
Согласно Meta: «Содержимое сообщений не покидает устройство для классификации и не передается автоматически в WhatsApp, Meta или кому-либо еще. Эта функция дополняет сквозное шифрование, а также позволяет пользователю по желанию получать оповещение о мошенничестве, когда модель считает, что это вероятное мошенничество».
Если пользователь решит активировать функцию оповещения о мошенничестве, на его устройство будет загружена модель машинного обучения, которая будет сканировать входящие сообщения от лиц, не являющихся контактами, чтобы проверить наличие элементов, соответствующих известным схемам мошенничества.
«Модель обучается на основе закономерностей, наблюдаемых в мошеннических переписках, о которых нам сообщают пользователи», — сказала Мета. «Она выполняет вероятностную классификацию на основе структуры разговора и лингвистических сигналов».
Если модель определит сообщение как вероятную попытку мошенничества, пользователю будет показано предупреждение в чате, которое будет видно только ему.
«После этого пользователь может решить, что делать: заблокировать, пожаловаться или продолжить разговор», — сказала Мета. «Если он решит, что предупреждение ошибочно помечено, пользователь может пометить чат как доверенный, в этом случае предупреждение будет удалено, и Scam Alert больше не будет помечать этот чат».
Компания Meta добавила, что единственные данные, которыми Scam Alert будет делиться с Meta, будут касаться частоты оповещений и точности этих предупреждений, в зависимости от того, как часто пользователь блокирует или разрешает последующие сообщения.
Пользователи также смогут по желанию делиться подборкой сообщений из любых переписок, помеченных как потенциально мошеннические, чтобы помочь обучить модель обнаружения.
По сути, Meta стремится решить проблему растущего числа мошеннических контактов в WhatsApp, но еще больше заинтересована в том, чтобы не нарушались строгие настройки конфиденциальности WhatsApp.
Компания Meta сообщила, что в настоящее время тестирует функцию Scam Alert в WhatsApp в бета-версии и продолжит дорабатывать и улучшать этот процесс, прежде чем выпустить его для большего числа пользователей.
