Система відповідає принципам конфіденційності WhatsApp, забезпечуючи кращий захист користувачів без зовнішнього контролю.
Компанія Meta представила попередню версію своєї нової системи оповіщення про шахрайство для WhatsApp, яка призначена для попередження користувачів WhatsApp про потенційно шахрайські повідомлення та контакти без порушення їхньої конфіденційності. Система працює в поєднанні з розширеним середовищем конфіденційності WhatsApp, щоб краще захистити користувачів від постійно мінливих методів шахрайства.
Компанія Meta заявила, що функція Scam Alert буде необов’язковою в WhatsApp і працюватиме на основі моделі машинного навчання, вбудованої в пристрій, тому жодні дані не надсилатимуться назад у Meta для обробки.
Це має гарантувати конфіденційність даних WhatsApp, що є одним з елементів нового підходу, який компанія Meta дуже хоче підкреслити.
Згідно з Meta: «Вміст повідомлень не покидає пристрій для класифікації і не передається автоматично в WhatsApp, Meta або комусь ще. Ця функція доповнює наскрізне шифрування, а також дозволяє користувачеві за бажанням отримувати сповіщення про шахрайство, коли модель вважає, що це ймовірне шахрайство».
Якщо користувач вирішить активувати функцію сповіщення про шахрайство, на його пристрій буде завантажено модель машинного навчання, яка скануватиме вхідні повідомлення від осіб, які не є контактами, щоб перевірити наявність елементів, що відповідають відомим схемам шахрайства.
«Модель навчається на основі закономірностей, що спостерігаються в шахрайських переписках, про які нам повідомляють користувачі», – сказала Meta. «Вона виконує ймовірнісну класифікацію на основі структури розмови та лінгвістичних сигналів».
Якщо модель визначить повідомлення як ймовірну спробу шахрайства, користувачеві буде показано попередження в чаті, яке буде видно тільки йому.
«Після цього користувач може вирішити, що робити: заблокувати, поскаржитися або продовжити розмову», – сказала Meta. «Якщо він вирішить, що попередження помилково позначене, користувач може позначити чат як довірений, у цьому разі попередження буде видалено, і Scam Alert більше не позначатиме цей чат».
Компанія Meta додала, що єдині дані, якими Scam Alert ділитиметься з Meta, стосуватимуться частоти сповіщень і точності цих попереджень, залежно від того, як часто користувач блокує або дозволяє наступні повідомлення.
Користувачі також зможуть за бажанням ділитися добіркою повідомлень з будь-яких переписок, позначених як потенційно шахрайські, щоб допомогти навчити модель виявлення.
По суті, Meta прагне вирішити проблему зростаючої кількості шахрайських контактів у WhatsApp, але ще більше зацікавлена в тому, щоб не порушувалися суворі налаштування конфіденційності WhatsApp.
Компанія Meta повідомила, що наразі тестує функцію Scam Alert у WhatsApp у бета-версії і продовжить доопрацьовувати та покращувати цей процес, перш ніж випустити його для більшої кількості користувачів.
