יש ניסוי קטן שאני ממליץ לכל מי שמשתמש בצ'אט לעשות השבוע.

תכתבו לו רעיון עסקי שאתם יודעים שהוא חלש, ותבקשו חוות דעת. אחר כך פתחו שיחה חדשה, כתבו את אותו רעיון בדיוק, רק הפעם תוסיפו שאתם מאוד מתלהבים ממנו ושכבר השקעתם בו חצי שנה. יש סיכוי טוב שתשימו לב איך הטון משתנה. פתאום יש "פוטנציאל", יש "כיוון מעניין", ויש הרבה פחות סימני שאלה.

זה לא מקרה. לתופעה הזאת יש אפילו שם: חנפנות של בינה מלאכותית.

בשנה האחרונה שחררה OpenAI (החברה שמאחורי ChatGPT) עדכון שנועד לשפר את "האישיות" של הצ'אט. תוך ימים התחילו משתמשים לפרסם צילומי מסך מוזרים. הצ'אט שיבח רעיונות עסקיים מופרכים לגמרי, החמיא על החלטות בעייתיות, והסכים כמעט עם כל דבר שכתבו לו. זה הגיע למצב שמנכ"ל החברה, סם אלטמן, הודה בפומבי שהמודל נהיה חנפן מדי, ותוך כמה ימים החברה פשוט ביטלה את העדכון.

ההסבר שהחברה פרסמה אחר כך מעניין לא פחות מהתקלה עצמה. במהלך האימון ניתן משקל גדול מדי ללחיצות ולמילים "אהבתי" של המשתמשים. ומה אנחנו אוהבים? שמסכימים איתנו. המערכת פשוט למדה לתת לנו את מה שגורם לנו ללחוץ "אהבתי" ברגע, גם אם זה לא מה שבאמת טוב לנו.

אפשר היה לחשוב שזה נגמר שם. אבל לאחרונה התפרסם בניו יורק טיימס סיפור שממחיש לאן זה יכול להגיע.

אלן ברוקס, אדם מאזור טורונטו בקנדה, בלי שום רקע של בעיות נפשיות, שאל את הצ'אט שאלה תמימה במתמטיקה אחרי שראה סרטון עם הבן שלו. משם השיחה התגלגלה. במשך 21 ימים, ובסך הכול כ-300 שעות של התכתבות, הצ'אט שכנע אותו שהוא גילה נוסחה מתמטית חדשה שעלולה לשנות את העולם ולאיים על אבטחת האינטרנט. ברוקס התחיל לשלוח מיילים דחופים לגופי ממשל ולמומחי אבטחה, בנוסחים שהצ'אט עזר לו לכתוב.

והחלק הכי מטלטל: לפי הדיווחים, ברוקס שאל את הצ'אט יותר מ-50 פעם אם הוא בעצם הוזה. וכל פעם קיבל תשובה מרגיעה שהוא לא.

בשורה התחתונה, הוא לא חיפש מישהו שיגיד לו שהוא גאון. הוא ממש ביקש בדיקת מציאות, שוב ושוב. והצ'אט המשיך להסכים איתו.

עכשיו, ברור שזה מקרה קיצוני. רוב האנשים לא יגיעו לשם. אבל מחקר שפורסם השנה בכתב העת Science מראה שהבעיה רחבה הרבה יותר. החוקרים בדקו 11 מערכות AI מובילות, ביניהן ChatGPT, Gemini וקלוד, והשוו את התשובות שלהן לשיפוט של בני אדם על סיפורים אמיתיים מהרשת, מהסוג של "האם אני הייתי בסדר במריבה הזאת?". התוצאה: הצ'אטבוטים אישרו את ההתנהגות של המשתמש בכ-49% יותר מקרים מאשר בני אדם, גם כשמדובר היה בהטעיה או בהתנהגות פוגענית.

והממצא שהכי הדאיג אותי: אנשים שקיבלו תשובות מחמיאות יצאו משוכנעים יותר שהם צודקים, ופחות מוכנים לתקן את היחסים עם הצד השני. ועוד דבר, הם גם העדיפו את הצ'אט החנפן וסמכו עליו יותר.

במילים אחרות, אנחנו לא רק מקבלים יועץ שמסכים איתנו. אנחנו גם מעדיפים אותו.

אני עובד עם בעלי עסקים כל יום, גם בהטמעה של כלי AI וגם באימון מנטלי. ואני רואה את זה קורה. אנשים מתייעצים היום עם הצ'אט על תמחור, על פיטורים של עובד, על השקעה, על שותפות, ולפעמים גם על מריבה עם בן או בת הזוג. הם כותבים את הסיפור מנקודת המבט שלהם, מה שטבעי לגמרי, ומקבלים חזרה גרסה משופרת ומנוסחת היטב של מה שהם כבר חשבו.

זה מרגיש כמו התייעצות. בפועל, זה הרבה פעמים מראה.

וכל מי שבנה פעם עסק יודע: הייעוץ הכי חשוב שקיבלת בחיים כמעט אף פעם לא היה נעים. זה היה החבר שאמר לך "רגע, זה לא יעבוד", היועץ שעצר אותך לפני חתימה, או בן הזוג ששאל את השאלה שלא רצית לשמוע.

אז מה עושים? בטח שלא מפסיקים להשתמש בצ'אט. אני עדיין חושב שהוא אחד הכלים החזקים ביותר שיש היום לכל אדם ולכל עסק. אבל צריך ללמוד לשאול אותו אחרת.

הכלל שלי השבוע: אל תבקשו מהצ'אט לאשר. תבקשו ממנו להתווכח.

בפועל זה נראה ככה:

אל תגלו לו מה אתם רוצים לשמוע. במקום "יש לי רעיון מעולה, מה דעתך?", כתבו "תבחן את הרעיון הבא בצורה ביקורתית".

תבקשו את הצד השני. "תן לי את חמש הסיבות הכי חזקות שבגללן זה ייכשל."

תציגו את זה כאילו זה של מישהו אחר. "מכר שלי שוקל לעשות את זה. מה הבעיות שאתה רואה?" כשהצ'אט לא חושב שזה הרעיון שלכם, הוא הרבה פחות זהיר עם הביקורת.

ובמריבה, תספרו גם את הצד של השני. אם כתבתם רק את הגרסה שלכם, אל תתפלאו שהצ'אט חושב שאתם צודקים.

ולפני החלטה גדולה באמת, תדברו עם בן אדם. רצוי מישהו שלא תמיד מסכים איתכם.
הבינה המלאכותית יכולה להיות יועץ מצוין. רק צריך לזכור שהיא אומנה, בין השאר, כדי שנאהב אותה.
ויועץ שרוצה שתאהבו אותו לא תמיד יגיד לכם את האמת.

מנדי קוריץ
mendi@koritz.co.il