וואטסאפ נלחמת בנוכלים: הפיצ'ר החדש שיזהיר אתכם לפני שתיפלו בפח

הודעות מתחזות וניסיונות הונאה הפכו לתופעה מטרידה באפליקציות המסרים, וכעת מטא מנסה להוסיף שכבת הגנה נוספת למשתמשי וואטסאפ. חטיבת ההנדסה של החברה חשפה בסוף השבוע האחרון את Scam Alert, כלי חדש שנועד לזהות התנהגות חשודה בשיחות עם משתמשים שאינם נמצאים ברשימת אנשי הקשר.

המערכת בוחנת דפוסים שעשויים לאפיין ניסיונות הונאה, בהם מבנה השיחה והדרך שבה מנוסחות ההודעות. המטרה היא לזהות סימנים מחשידים ולהתריע בפני המשתמש לפני שימשיך להתנהל מול השולח.

הכלי עשוי להיות משמעותי במיוחד עבור אוכלוסיות החשופות יותר לניסיונות הונאה, ובהן קשישים ובני נוער.

ההתראה תופיע אצלכם בלבד

כאשר Scam Alert מזהה פעילות שעשויה להיות ניסיון הונאה, תופיע אצל המשתמש התראה מבלי ששולח ההודעה יידע עליה.

מההתראה ניתן יהיה לבחור בין כמה פעולות: לחסום את איש הקשר, לדווח עליו או לקבוע שהשיחה בטוחה, במקרה שבו המערכת סימנה בטעות התנהלות לגיטימית כחשודה.

אחד המרכיבים המרכזיים בפיתוח הוא המקום שבו מתבצע ניתוח ההודעות. במקום לשלוח את תוכן השיחה לשרתי ענן לצורך העיבוד, המודל פועל באופן מקומי על גבי הטלפון עצמו.

המשמעות היא שההודעות יכולות לעבור ניתוח במכשיר מבלי שתוכן השיחה יצטרך לצאת ממנו.

ומה קורה להצפנה של וואטסאפ?

אחד האתגרים שעמדו בפני מטא היה שילוב מערכת לזיהוי הונאות מבלי לפגוע בהצפנה מקצה לקצה של וואטסאפ.

בחברה מדגישים כי במהלך פעולת המערכת תוכן ההודעות אינו נשלח לשרתי מטא או לגורם חיצוני.

לצורך בדיקת ביצועי הכלי נאספים נתונים סטטיסטיים אנונימיים בלבד, כמו מספר הפעמים שבהן הופעלה התראה. האיסוף מתבצע באמצעות מנגנון המכונה פרטיות מבדלת, Differential Privacy, שמוסיף מידע אקראי לנתונים הסטטיסטיים כדי להקשות על שיוך פעולה מסוימת למשתמש בודד.

מטא מנסה להתמודד גם עם החשש ממעקב

לצד ההגנה מפני הונאות, בחברה מבקשים למנוע מצב שבו המודל יוכל לשמש ככלי מעקב.

לשם כך מטא מפרסמת את משקולות המודל ואת החתימות הדיגיטליות שלו ביומן שקיפות ציבורי שמנוהל בידי צד שלישי, Cloudflare. לפי החברה, המטרה היא לוודא שלא ניתן יהיה להפיץ למשתמש מסוים גרסה שונה של המודל.

חוקרי אבטחה יוכלו לבחון באופן עצמאי את הקוד במסגרת תוכנית Bug Bounty, ומשתמשי וואטסאפ יוכלו לצפות ביומני האבטחה דרך הגדרות החשבון.

לא יופעל בכוח

Scam Alert מתחיל כעת להגיע בגרסת בטא ניסיונית לקבוצה מצומצמת של משתמשים. בשלב זה המערכת אינה מופעלת באופן כפוי כברירת מחדל.

המשתמשים יוכלו לבחור אם להפעיל את שכבת האבטחה החדשה וגם להשבית אותה בכל שלב באמצעות תפריט הפרטיות של וואטסאפ.

הטכנולוגיה מבוססת על מודלי שפה קטנים שפועלים באופן מקומי בטלפון, במטרה לאפשר זיהוי אוטומטי של ניסיונות הונאה תוך שמירה על פרטיות המידע האישי.