הרופא שלך התייעץ עם רובוט? מקרה אמיתי שכמעט הסתיים באסון

האם התקדמות טכנולוגית עלולה לסכן חיי אדם? שאלה זו עומדת בלב דיון סוער שהתקיים בוועדת הבריאות של הכנסת, בעקבות פנייה חריפה שהעביר יו"ר ארגון "למענכם", יוסי ערבליך, למשרד הבריאות, בה התריע מפני שימוש בלתי מבוקר של רופאים בטכנולוגיות בינה מלאכותית - ובראשן הכלי הפופולרי ChatGPT.

לדבריו של ערבליך, במסגרת פעילותו בארגון, נחשף לשורת מקרים מטרידים שבהם רופאים בישראל הסתמכו על מענה שניתן בצ'אט GPT לצורך קבלת החלטות רפואיות, דבר שהוביל - הלכה למעשה - לאבחנות שגויות, טעויות חמורות במינון תרופות, ואף לסיכון ישיר של חיי מטופלים.

בין מענה מהיר לרשלנות רפואית

על אף תרומתה הברורה של הבינה המלאכותית לעולם הרפואה - בהנגשת ידע, חישוב סיכונים והאצת תהליכי עבודה - מדגיש ערבליך כי מדובר בחרב פיפיות.
"אי אפשר להתעלם מהתועלת הרבה שבינה מלאכותית מספקת למערכת הרפואית," אמר היום בראיון ל־mako בריאות, "אך כאשר הרופא מחליף מקור מדעי מבוסס בצ'אט כללי, הסיכון גבוה מאוד. רפואה אינה משחק - זו מערכת שבה כל טעות עלולה להיות שאלה של חיים ומוות".

עוד הדגיש כי פגש במו עיניו מקרה של מטופלת שקיבלה מהרופא מרשם למינון תרופתי גבוה פי שלושה מהנדרש, על סמך מענה שנשאב מצ'אטGPT.
"המקרה הזה כמעט הסתיים באסון," ציין.

ועדה ממלכתית, השלכות מוסריות

הדיון שמתקיים היום בכנסת, אותו מוביל ממלא מקום יו"ר ועדת הבריאות ח"כ רון כץ (יש עתיד), מבקש להתמודד לראשונה בצורה מוסדרת עם ההשלכות הרחבות של השימוש בבינה מלאכותית בתחום הרפואה: לא רק שאלות של רישוי, אחריות ובקרה - אלא גם נושאים אתיים עמוקים.

בדיון משתתפים גם נשיא ארגון "למענכם", פרופ' יוסף פרס, ויו"ר מערך החדשנות בארגון, ד"ר גדי נוימן, אשר צפויים להציג נתונים ודוגמאות נוספות לאירועים שבהם חלה סטייה חמורה מהנורמה הרפואית, בשל הסתמכות עיוורת על טכנולוגיה.

עין תורנית: האם מותר לרופא להסתמך על אלגוריתם?

מן הזווית התורנית, השאלה מקבלת משנה תוקף. רופא בישראל אינו רק בעל מקצוע - הוא שליח נאמן של הציבור ושל הקב"ה כאחד. הרמב"ם כותב (הלכות דעות ד, כג): "הואיל והגוף בריא ושלם - דרך ה' הוא, כי אי אפשר שיבין או ידע דבר מידיעות הבורא והוא חולה". מכאן, שכל החלטה רפואית דורשת אחריות, שקילה, ועבודה מתוך יראת שמים וזהירות כפולה ומכופלת.

כאשר רופא סומך על כלי שכלל אינו מבין את ההקשר האישי, הרפואי או הנפשי של המטופל - ומתוך נוחות או קיצור דרך, מפקיד בידו גורל של חולה - יש בכך לא רק רשלנות מקצועית, אלא גם כשל מוסרי חמור.

לקראת הסדרה: אחריות, גבולות ואתיקה רפואית

המסקנה המתבקשת מהדיון איננה ביטול של השימוש בטכנולוגיה, אלא הגדרת גבולות ברורים, פיקוח הדוק והגדרת תחום השימוש. כפי שנעשה בתחומי תרופות, ציוד רפואי וניסויים קליניים - כך גם כאן: יש לקבוע מנגנוני אישור, הכשרות והנחיות מחייבות, שיבטיחו כי הכלי ישמש לרפואה - אך לא יחליף את הרופא.

בהקשר זה נדרשת התערבות של הכנסת, משרד הבריאות וגורמי הפיקוח - כדי לעגן את השימוש בבינה מלאכותית כחלק מהמערכת, אך בשום אופן לא כתחליף לשיקול דעת אנושי, מדעי, ומוסרי.