סערה בארה"ב: שמונה מדינות תובעות את ChatGPT

אחת מחברות הטכנולוגיה המשפיעות בעולם ניצבת בפני אתגר משפטי משמעותי. שמונה מדינות בארצות הברית הגישו ביום רביעי האחרון (14 באוקטובר) תביעות נגד חברת OpenAI, המפתחת של ChatGPT, בטענה כי מערכת הבינה המלאכותית הפופולרית עלולה לגרום נזק למשתמשים, ובמיוחד לילדים ולבני נוער.

המדינות שהגישו את התביעות הן אריזונה, ארקנסו, איידהו, איווה, קנזס, מונטנה, נברסקה ומערב וירג'יניה. התביעות הוגשו בנפרד לבתי המשפט במדינות השונות, אך הן עוסקות בטענות דומות הנוגעות לבטיחות המערכת ולהגנה על הצרכנים.

על פי כתבי התביעה, המערכת תוכננה לנהל שיחות באופן ידידותי ומשכנע, ולעיתים להסכים עם המשתמש גם כאשר הדבר עלול להיות בעייתי.

לטענת התובעים, התנהגות כזאת עלולה ליצור אצל משתמשים תחושה שהם משוחחים עם גורם אמין שמבין אותם, גם כאשר התשובות אינן מדויקות או אינן מתאימות למצבם.

בחלק מהתביעות נטען כי המערכת סיפקה לכאורה עצות רפואיות מסוכנות, חיזקה מחשבות שגויות ואף הציגה תגובות שעלולות לעודד התנהגות מסוכנת. בנוסף, נטען כי החברה לא הזהירה את הציבור בצורה מספקת מפני הסיכונים האפשריים.

חשוב להדגיש כי מדובר בטענות שהועלו במסגרת הליכים משפטיים, ולא בקביעות עובדתיות שכבר הוכחו בבית המשפט.

התביעות אינן מסתכמות בדרישה לפיצוי כספי. חלק מהמדינות מבקשות מבתי המשפט להורות לחברה לבצע שינויים משמעותיים באופן שבו פועלת הבינה המלאכותית.

בין הדרישות שהועלו נמצאות הגברת הפיקוח על השימוש במערכת בקרב קטינים, שיפור מנגנוני אימות הגיל, חיזוק אמצעי הבטיחות והצגת אזהרות ברורות יותר למשתמשים.

חלק מהתובעים דורשים גם להגביל פיתוח של מערכות בינה מלאכותית מתקדמות במיוחד, כל עוד לא קיימים אמצעי הגנה מספקים מפני סיכונים אפשריים.

בחברה מדגישים כי לאורך השנים הושקעו משאבים רבים בפיתוח מערכות בטיחות שנועדו למנוע תשובות מסוכנות ולהגן על משתמשים צעירים.

בין האמצעים שהחברה מציגה נמצאים בקרת הורים, הגנות המותאמות לגיל המשתמש ומנגנונים שנועדו לזהות שיחות רגישות ולהגיב אליהן בצורה בטוחה יותר.

OpenAI מציינת כי היא ממשיכה לשפר את המערכות שלה ולשתף פעולה עם מומחים בתחום הבטיחות, לצד נכונות לעבוד עם הרשויות על הסדרה מתאימה של הטכנולוגיה.

לפרשה עשויות להיות השלכות החורגות מגבולות ארצות הברית. אם בתי המשפט יקבלו חלק מהטענות, חברות המפתחות מערכות בינה מלאכותית עשויות להידרש לעמוד בדרישות מחמירות יותר בכל הנוגע לבטיחות, שקיפות והגנה על משתמשים.

בשלב זה ההליכים המשפטיים עדיין מתנהלים, ולא התקבלה הכרעה בשאלת אחריותה של OpenAI.

עם זאת, התביעות ממחישות את השאלה המרכזית שמעסיקה כיום את עולם הטכנולוגיה: כאשר מיליוני אנשים נעזרים בבינה מלאכותית כדי לקבל תשובות, עצות והכוונה, מי נושא באחריות כאשר המערכת מספקת תשובה שעלולה לגרום נזק?