לפני תקופה קרה בהונג קונג סיפור שאם היו מספרים לי אותו כמה שנים קודם, כנראה הייתי אומר שהוא מתאים יותר לסרט מדע בדיוני. עובד במחלקת הכספים של חברת ההנדסה הבינלאומית Arup קיבל הודעה שנראתה כאילו נשלחה מסמנכ"ל הכספים של החברה. ביקשו ממנו לבצע פעולה כספית חריגה, והוא דווקא חשד שמשהו לא תקין.

עד כאן הכול מצוין. עובד ערני, לא ממהר להעביר כסף בגלל הודעה שקיבל. כדי לוודא שהבקשה אמיתית הוא ביקש לעלות לשיחת זום. ואכן, על המסך הוא ראה את סמנכ"ל הכספים ועוד כמה אנשים מהחברה שהוא הכיר. הוא ראה את הפנים שלהם, שמע אותם מדברים, והחשד הראשוני נעלם. בעקבות השיחה הוא ביצע 15 העברות לחשבונות בנק שונים, בסכום כולל של כ-25 מיליון דולר.

רק מאוחר יותר התבררה הבעיה הקטנה: האנשים שהוא ראה ושמע בשיחת הווידאו לא באמת היו שם. התמונות והקולות שלהם זויפו באמצעים דיגיטליים. העובד היחיד שהיה אמיתי בשיחה היה, למעשה, הוא עצמו.

תחשבו רגע מה כל כך מטורף בסיפור הזה. האיש דווקא ניסה לבדוק. הוא לא סמך על הודעה שקיבל, הוא רצה לראות את האנשים ולשמוע אותם בעצמו. במשך שנים היינו אומרים שזה בדיוק מה שצריך לעשות. אלא שהכלל הפשוט הזה, "אני רואה אותו ומדבר איתו, אז אני יודע שזה הוא", כבר לא בטוח כמו שהיה פעם.

ואם אתם חושבים שזה דורש מעבדת מחשבים משוכללת וכמה מהנדסים שיושבים בחדר חשוך, כדאי להבין עד כמה הטכנולוגיה הזאת כבר הפכה נגישה. היום קיימים כלים כמו ElevenLabs שמסוגלים לשכפל מאפיינים של קול מתוך דגימת אודיו קצרה יחסית, אפילו של 10 שניות, ואז לגרום לאותו קול להקריא משפטים שהאדם המקורי מעולם לא אמר.

מכאן הדרך לסרטון כבר לא נשמעת כמו מדע בדיוני. עשרות כלי וידאו מסוגלים לבצע מה שנקרא Lip Sync, או בעברית פשוטה: סנכרון שפתיים. לוקחים תמונה או וידאו של אדם ומסנכרנים את תנועות הפה שלו עם קובץ קול חדש. התוצאה יכולה להיראות כאילו אותו אדם באמת עומד מול המצלמה ואומר את הדברים, למרות שהוא מעולם לא אמר אותם.

חשוב להבין עד כמה נמוך הפך הרף. פעם זיוף איכותי דרש ידע, ציוד, עלויות וזמן. היום הדברים האלה נגישים הרבה יותר, ולכן גם אנחנו צריכים לשנות את הדרך שבה אנחנו מחליטים למה להאמין.

וזה מביא אותי לסיפור השני.

בינואר 2024, ימים לפני הבחירות המקדימות של המפלגה הדמוקרטית בניו המפשייר שבארצות הברית, החלו להגיע לבוחרים שיחות טלפון. מהצד השני נשמע קולו של נשיא ארצות הברית דאז, ג'ו ביידן. הקול קרא לבוחרים שלא להגיע להצביע בפריימריז ולשמור את הקול שלהם לבחירות בנובמבר. והקהל ממש האמין לזה.

רק שזה לא היה ביידן.

הקול נוצר באמצעות בינה מלאכותית. אלפי שיחות כאלה נשלחו לבוחרים, הרשויות פתחו בחקירה ובהמשך יועץ פוליטי הואשם בפרשה.

אני מספר לכם את שני הסיפורים האלה דווקא עכשיו מסיבה פשוטה. ישראל הולכת לבחירות לכנסת ה-26. בתקופה הזאת כולנו מקבלים יותר סרטונים, הקלטות, צילומי מסך והודעות על פוליטיקאים, מפלגות ואנשי ציבור. חלקם ירגיזו אותנו, חלקם ישמחו אותנו, וחלקם יהיו בדיוק מה שאנחנו רוצים להאמין שהוא נכון.

פעם, כשמישהו היה שולח הודעה וטוען שפוליטיקאי אמר משהו, אפשר היה לענות לו: "תשלח סרטון". אם היה סרטון, הסיפור פחות או יותר נגמר. ראינו אותו אומר את הדברים במו פיו.

היום גם סרטון הוא כבר לא סוף הבדיקה.

ופה בעיניי נמצא הדבר החשוב באמת. אנחנו לא צריכים להפוך לאנשים שחושדים בכל דבר ולא מאמינים לשום תמונה או סרטון. אבל אנחנו כן צריכים לשנות כמה הרגלים פשוטים.

אם סרטון גורם לכם לכעוס מאוד, להזדעזע או לרצות להעביר אותו מיד לעוד עשרה אנשים, דווקא אז כדאי לעצור. לבדוק מאיפה הוא הגיע, לחפש אם הוא מופיע גם במקום אמין ולראות אם קיימת גרסה מלאה ולא רק כמה שניות שנחתכו מתוך משהו אחר. ובעיקר לשאול: האם אני יודע שזה אמיתי, או שאני מאמין לזה מהר כי זה בדיוק מה שרציתי לשמוע?

ויש עוד דבר קטן שאני חושב שכדאי לכל משפחה לעשות כבר היום: לבחור מילת קוד משפחתית. מילה שרק האנשים הקרובים באמת מכירים, ולא משהו שאפשר לנחש בקלות. אם יום אחד מתקבלת שיחה מלחיצה מהילד, מהאח או מהורה שמבקש כסף בדחיפות, אפשר לבקש ממנו את מילת הקוד. זה נשמע כמעט מצחיק, אבל בעולם שבו אפשר לחקות קול, זה יכול להיות ההבדל בין לחץ של רגע לבין טעות יקרה מאוד.

אנחנו נכנסים לעולם שבו אפשר לזייף לא רק טקסט או תמונה, אלא גם פנים, קול ואירועים שלמים. ובעולם כזה, אולי המשפט "ראיתי את זה במו עיניי" כבר לא יכול להיות סוף הדיון.

לפעמים הוא דווקא צריך להיות תחילת הבדיקה.