המשטרה הסתמכה על סעיף שהמציא צ’אט GPT - "מעולם לא נתקלתי בזה ב־30 שנות שיפוט"

מי שחושש שהבינה המלאכותית עומדת להחליף את בני האדם בקרוב, אולי ימצא נחמה - או דווקא אזהרה - בסיפור המשונה והמדאיג שנחשף באחרונה בבית משפט השלום בחדרה. בפעם הראשונה בישראל, ואולי גם באחד המקרים הבולטים בעולם המשפט בכלל, הודתה רשמית משטרה כי הסתמכה על טיעונים שנשאבו ישירות מצ’אט בינה מלאכותית - ואף ציטטה "סעיפי חוק" שלא קיימים כלל.

הכול התחיל כאשר יחידת להב 433 הגישה לבית המשפט תגובה רשמית במסגרת הליך חקירה. התגובה, שהייתה אמורה לייצג את עמדת המשטרה בנוגע לבקשה משפטית, נראתה לכל דבר ועניין כתגובה מקצועית ומנומקת היטב. אלא שבדיון שנערך בפני השופט אהוד קפלן, קם סנגורו של אחד המעורבים וטען טענה יוצאת דופן: "יש לי חשד שתגובת המשטרה נלקחה מצ'אט GPT. סעיפי החוק שצוטטו אינם קיימים".

הטענה שהחלה כחשד בלבד, זכתה לאישור מידי מצד נציג המשטרה בדיון. "חברי צודק", הודה הגורם. "הציטוט לא נכון. מי שכתב את זה עשה זאת בתום לב, בשגגה". מסתבר שהטיעון לא רק נבנה בידי בינה מלאכותית, אלא גם הכיל נתונים משפטיים מופרכים - סעיפים שכלל לא קיימים בחוקי מדינת ישראל. השופט עצמו נחרד: "אם חשבתי שראיתי הכול ב-30 שנות שיפוט, טעיתי", כתב בהחלטתו, ואף הוסיף ביקורת חריפה על כך שאפילו חיפוש בסיסי בגוגל לא מצא זכר לסעיפים הללו - לא באינטרנט, לא בחוק, ולא בדמיון של אף אדם.

האירוע חרג הרבה מעבר לגבולות המקרה הפרטי. מדובר באירוע תקדימי שבו זרוע אכיפה ממשלתית הסתמכה בפועל על מענה של מערכת AI לצורך תגובה משפטית רשמית - ללא בדיקה אנושית ראויה, וללא הבנת ההשלכות. אם בעבר חששנו שמערכות כאלה יתחילו לנסח מאמרים או לכתוב מכתבים - הנה הן כבר מנסחות כתבי טענות משפטיים, והבעיה מתחילה כשאף אחד לא בודק אותן.

לזכות המשטרה ייאמר שהודתה בטעות והורתה מיד על תחקיר פנימי, אך עצם המקרה פותח שאלות עמוקות: האם גופים ציבוריים כבר מסתמכים על בינה מלאכותית יותר משהם מוכנים להודות? מי מפקח על תוכן משפטי שמוגש לבתי משפט בשם המדינה? ואולי החמור מכל - האם מערכת המשפט, שדורשת אמינות ואחריות ברמות הגבוהות ביותר, מסוגלת להכיל טכנולוגיה שעדיין שוגה - ולעיתים ממציאה - "עובדות"?

המסקנה ברורה: לא, הצ’אט לא הולך להחליף את השופטים או את עורכי הדין. אבל אם לא נהיה זהירים, הוא בהחלט עלול להכניס אותנו - גם את המערכת המשפטית - לשטח מסוכן שבו הגבול בין עובדה לפיקציה מיטשטש, ולא תמיד יש מי שיעצור בזמן.