יש משהו מוזר שקרה לנו בשנים האחרונות. התחלנו לדבר עם הצ'אט כאילו הוא חבר טוב.
לא רק לשאול אותו איך מכינים עוגה או לבקש ממנו לנסח מייל. אנשים שולחים לו היום חוזים, צילומי תעודות, מסמכים רפואיים, תלושי שכר, תמונות של הבית, מידע מתוך העסק ולפעמים גם דברים הרבה יותר אישיים. וזה די מובן. הצ'אט מולך, אתה לבד, אף אחד לא יושב לידך, והוא עונה לך בשפה ממש נעימה כאילו שהשיחה הזאת נמצאת רק ביניכם.
רק שהיא לא באמת רק ביניכם.
לפני זמן קצר פורסם סיפור די הזוי שקשור ל OpenAI (הבעלים של הצ'אט GPT) שבמסגרת בדיקה של החברה, הם גילו שסוכני AI שפעלו בסביבת מחקר לקחו 53 תמונות שמשתמשים העלו למערכת (לא תמונות שיצרתם עם הגיפיטי, אלא תמונות שהעלו לצ'אט) והסוכנים העלו אותן לאתרי אחסון חיצוניים ברחבי האינטרנט.
עכשיו, חשוב לדייק. זה לא שהיה מישהו אנושי שישב במשרד, עבר על תמונות של משתמשים והחליט לפרסם אותם. אלא מדובר בהתנהגות לא רצויה של מערכות AI שפעלו כחלק מסביבת ניסוי, וOpenAI עצמה פרסמה את האירוע ואמרה שפעלה להסרת החומרים.
ועדיין, כשקראתי את זה, הדבר הראשון שעבר לי בראש היה כמה בקלות אנחנו מעלים היום דברים לצ'אט בלי לחשוב פעמיים.
כי תמונה היא כבר לא רק תמונה. לפעמים רואים בה את הילד שלך, את הבית שלך, מסמך שמונח ברקע, מספר רכב, כתובת, שם מלא או כל פרט אחר שבכלל לא התכוונת למסור.
ואז נתקלתי בסיפור נוסף מארצות הברית, והוא אפילו הרבה יותר מטורף.
משתמש מפלורידה השתמש בצ'אט של קלוד (המתחרה הגדול של גיפיטי) בצורה מאוד אישית. לדבריו, הוא השתמש בו כמו ביומן. מקום לפרוק בו מחשבות, לדבר ולכתוב דברים שעוברים לו בראש.
באחת השיחות הוא כתב דברים מאיימים על משרד המשטרה המקומי. ביום שלאחר מכן הוא גם כתב לצ'אט שקנה אקדח חדש.
מבחינתו, הוא כתב לצ'אט, כמו כל התכתבות.
אבל מבחינת המערכת, זה כבר היה משהו אחר, ולא דבר תקין.
השיחה סומנה, והועברה לבדיקה אנושית, ולאחר בדיקה אנושית המידע הגיע לרשויות. וזמן קצר לאחר מכן המשטרה הגיעה אליו הביתה והוא נעצר, וכל זה על סמך ההתכתבות שלו עם הצ'אט.
ואני רוצה לעצור כאן לרגע, כי הנקודה שלי היא לא האם היה נכון או לא נכון לדווח עליו. כשיש חשש אמיתי לפגיעה בחיי אדם, ברור שיש פה שיקולים אחרים לגמרי.
הנקודה שמעניינת אותי היא אחרת: כמה אנשים באמת יודעים ששיחה עם צ'אטבוט יכולה להגיע בקלות גם לעיניים אנושיות?
אני משתמש בבינה מלאכותית כמעט בכל יום. אני גם מעודד את זה מאוד. אני גם מלמד אנשים איך להשתמש בה, מכניס אותה לעסקים ומאמין שהיא הולכת לשנות כמעט כל דבר בדרך שבה אנחנו עובדים. מבחינתי, מי שלא ילמד להשתמש בכלים האלה יגלה בשנים הקרובות שהוא פשוט נשאר מאחור, ועובד הרבה יותר קשה מאחרים.
אבל לצד ההתלהבות, צריך גם קצת שכל ישר.
לא כל דבר צריך להיכנס לצ'אט. הצ'אט הוא לא היומן הפרטי שלנו.
לא הייתי מעלה לשם סיסמאות. לא פרטי אשראי. לא תמונות אישיות. לא סודות של לקוחות. לא מידע עסקי שאני לא מוכן בשום מצב שיצא החוצה. ובמקרים של מסמכים רגישים, הייתי לפחות עוצר שנייה ומוחק שמות, מספרי זהות ופרטים מזהים שלא באמת נחוצים לשאלה.
יש לי כלל די פשוט בנושא הזה:
לפני שאתם שולחים משהו ל AI תשאלו את עצמכם מה יקרה אם מחר יתברר שמישהו נוסף ראה אותו. או האם הייתם משתפים את זה אנשים אחרים.
אם המידע הזה איכשהו ייצא מהמחשב שלי, עד כמה זה יפריע לי?
אם התשובה היא "לא נעים, אבל לא קרה כלום" - כנראה בסדר.
אם התשובה היא "אני מסתבך פה ממש" - אל תשלחו.
כי עם כל הכבוד לבינה מלאכותית, והיא באמת כלי מדהים, היא עדיין כלי.
וכמו שלא היינו משאירים מסמך רגיש על שולחן בבית קפה רק כי כרגע אף אחד לא מסתכל, לא כדאי להתרגל להניח שכל מה שאנחנו כותבים לצ'אט נשאר לעולם רק בינינו.
הAI הוא כלי מדהים.
אבל גם עם כלי מדהים, צריך לדעת איפה עובר הגבול.
מוזמנים להגיב בתגובות את דעתכם...
מנדי קוריץ
✍️ נא לשמור על שיח מכבד, ללא לשון הרע, רכילות או פגיעה בזולת. תגובות שאינן עומדות בכללים יימחקו.