כשהבינה המלאכותית אומרת ״אין לך מה לדאוג״: מקרה מוות שמחייב אותנו לחשוב מחדש על AI ברפואה

״אין לך שום סיבה לדאוג״.

לפי תחקיר שפורסם השבוע בניו יורק טיימס, זה היה אחד המסרים שקיבלה בואן ואן (Bowen Wan), מהנדסת תוכנה בת 31 שחיה בסיאטל והתמודדה עם אפילפסיה, כאשר הביעה בפני ChatGPT חששות מפני השלכות הפחתת הטיפול התרופתי שלה.

בפברואר 2026 היא נמצאה מתה בדירתה.

השבוע הגישו הוריה תביעה נגד OpenAI ומנכ״ל החברה, סם אלטמן, בטענה שהמערכת סייעה לבתם להפסיק טיפול תרופתי חיוני, עודדה אותה להסתיר את התהליך מרופאיה וסיפקה לה הרגעה מטעה גם כאשר הופיעו סימנים מדאיגים.

חשוב להדגיש כבר בפתח הדברים: מדובר בטענות המפורטות בכתב תביעה, שטרם הוכרעו בבית המשפט. עם זאת, התחקיר העיתונאי, שהתבסס על תיעוד נרחב של שיחותיה עם המערכת, מציף שאלות שאי אפשר להתעלם מהן.

אלה אינן שאלות הנוגעות רק למקרה אחד או לחברה אחת. הן נוגעות לאופן שבו אנחנו מעצבים, משווקים, מטמיעים ומשתמשים בבינה מלאכותית בתחומי הבריאות.

01 /ממקור מידע לשותף בהחלטה רפואית

בואן ואן נטלה למוטריג'ין (Lamotrigine), תרופה לטיפול באפילפסיה. היא חששה מתופעות לוואי שפגעו, לתחושתה, ביכולות השפה והחשיבה שלה. החשש התעצם לאחר שהתבשרה על פיטוריה מאמזון ונדרשה למצוא עבודה חדשה כדי להסדיר את המשך שהותה בארצות הברית.

במצב של חוסר ודאות ולחץ משמעותי, היא פנתה ל-ChatGPT.

הפנייה למערכת לא הייתה כשלעצמה חריגה. מיליוני אנשים משתמשים כיום בבינה מלאכותית כדי להבין מצבים רפואיים, לקבל הסברים על תרופות, להתכונן לפגישות עם רופאים ולבחון אפשרויות טיפול.

כדאי לעצור כאן על שאלה שקל לדלג עליה: למה אישה צעירה, שעבדה בחברת טכנולוגיה גדולה ושהייתה לה גישה לרופאים, חיפשה מענה לתופעות הלוואי שלה אצל מערכת שיחה?

מהדיווחים לא ברור אם ניסתה לשתף את רופאיה בחששותיה ומה נענתה. אבל הדפוס מוכר. תופעות לוואי קוגניטיביות קשות למדידה, התור לנוירולוג ארוך, הפגישות קצרות, ולעיתים נשארת התחושה שהתלונה לא נלקחה ברצינות. בתנאים כאלה, מערכת שזמינה בשתיים בלילה ומקשיבה בלי לשפוט היא חלופה מפתה.

אין בכך כדי להקטין את אחריות המפתחים. אבל מי שרוצה למנוע את המקרה הבא צריך להסתכל גם על הצד הזה. מטופל שמתלונן על תופעות לוואי זקוק לבחינה של חלופות טיפוליות, ולא רק להרגעה. מי שלא יקבל את המענה הזה מהמערכת הרפואית ימשיך לחפש אותו במקום אחר.

אלא שלפי כתב התביעה, השיחות עם ChatGPT חצו בהדרגה גבול משמעותי.

המערכת לא הסתפקה בהסבר על התרופה ועל תופעות הלוואי שלה. היא סייעה לבואן לתכנן הפחתה הדרגתית של המינון, מ-400 מ״ג ביום עד להפסקה מוחלטת בתוך כ-25 ימים, ללא הנחיה רפואית מתאימה.

חמור מכך, נטען שהמערכת עודדה אותה שלא לשתף את רופאיה בתוכנית ואף חיזקה את החלטתה להימנע מבדיקת דם שהייתה עשויה לחשוף את הירידה ברמת התרופה.

כאשר בואן דיווחה על בלבול, אובדן רצף זיכרון ותופעות שהזכירו את ההתקפים שחוותה בעבר, המערכת פירשה לכאורה חלק מהתסמינים כהסתגלות טבעית של המוח להפחתת התרופה.

לפי התחקיר, בואן הביעה חשש מהתהליך לפחות 158 פעמים.

במקום שהחששות החוזרים יובילו לעצירה, להערכה מחודשת ולהפניה ברורה לרופא, השיחות המשיכו בחלקן לספק לה ביטחון שהתהליך מתקדם כראוי.

לאחר מותה קבע הבודק הרפואי כי סיבת המוות הייתה מוות פתאומי בלתי צפוי באפילפסיה (SUDEP). בבדיקה נמצאה בדמה רמה נמוכה מאוד של למוטריג'ין.

אין בכך לבדו כדי להכריע את שאלת האחריות המשפטית, אך המקרה מדגים את הסיכון שבהפיכת מערכת שיחה למקור להנחיות טיפול אישיות ללא פיקוח מקצועי.

02 /הבעיה אינה רק תשובה שגויה

כאשר מדברים על סיכוני בינה מלאכותית ברפואה, הדיון מתמקד לעיתים קרובות ב״הזיות״, כלומר מידע שגוי שהמערכת מציגה בביטחון.

אבל המקרה הזה מצביע על בעיה מורכבת יותר.

מערכת בינה מלאכותית יכולה לספק מידע שנשמע מדויק, הגיוני ואמפתי, ובכל זאת להוביל את המשתמש בכיוון מסוכן.

הסכנה אינה נובעת בהכרח ממשפט אחד שגוי. היא עשויה להתפתח לאורך עשרות או מאות אינטראקציות, שבמהלכן המערכת לומדת את העדפות המשתמש, מתאימה את תשובותיה לחששותיו ומחזקת בהדרגה את תחושתו שהוא פועל נכון.

אחת התופעות המוכרות בתחום היא Sycophancy, נטייתן של מערכות שיחה להסכים עם המשתמש, לאשר את תפיסותיו ולעיתים להעדיף תגובות מחזקות על פני הצגת הסתייגויות או התנגדות.

בהקשרים יומיומיים, התנהגות כזו עשויה להיראות נעימה ואפילו מועילה. בהקשרים רפואיים היא עלולה להיות מסוכנת.

מטופל שחושש מתופעות לוואי זקוק לאמפתיה ולהבנה. אבל הוא זקוק גם למידע מאוזן, להצגת אי-ודאות, ולעיתים לאמירה ברורה שהפעולה שהוא שוקל עלולה לסכן אותו.

אמפתיה ללא שיקול דעת בטיחותי אינה בהכרח סיוע. לעיתים היא עלולה להפוך לחיזוק של התנהגות מסוכנת.

03 /כשהאמון במכונה מחליף את האמון ברופא

לסיפור של בואן יש ממד נוסף, שאולי מטריד אותי אפילו יותר מהעצה הרפואית עצמה.

לפי הדיווחים, במהלך השנים היא פיתחה קשר אינטנסיבי עם ChatGPT, שכלל אלפי הודעות ושימוש הולך וגובר במערכת להתייעצות בנושאים אישיים ורפואיים.

מערכת זמינה בכל שעה, שאינה מתעייפת, שאינה ממהרת לפגישה הבאה ושמסוגלת להגיב בסבלנות ובפירוט, מציעה יתרונות משמעותיים. עבור אנשים המתמודדים עם מחלות כרוניות, בדידות, חרדה או קשיים בנגישות לשירותים רפואיים, היתרונות הללו עשויים להיות חשובים במיוחד.

אלא שאותם מאפיינים עלולים גם ליצור תחושה של קשר אישי, הבנה עמוקה וסמכות.

המשתמש עשוי להתחיל לתפוס את המערכת כגורם שמכיר אותו טוב יותר מאנשי המקצוע, ולעיתים אפילו טוב יותר מבני משפחתו.

הבעיה מתחדדת כאשר המערכת אינה רק מספקת מידע, אלא גם מערערת את האמון בגורמים המטפלים.

רופא יכול לטעות, כמובן. גם מטופלים רשאים ואף צריכים לשאול שאלות, לבקש הסברים, לקבל חוות דעת נוספת ולהיות שותפים פעילים בהחלטות על בריאותם.

אבל העצמת מטופלים אינה שקולה לעידודם להסתיר מידע רפואי או להפסיק טיפול על דעת עצמם.

יש הבדל מהותי בין מערכת שמסייעת למטופל לנסח שאלות לרופא לבין מערכת שמדריכה אותו כיצד לפעול בניגוד להמלצותיו מבלי שהרופא ידע על כך.

במקרה השני, הבינה המלאכותית כבר אינה רק כלי להנגשת ידע. היא הופכת בפועל לגורם המשפיע על קבלת החלטות קליניות, ללא המחויבויות, מנגנוני הבקרה והאחריות המלווים את העיסוק ברפואה.

04 /מה הייתה צריכה להיות התגובה הנכונה?

הביקורת על המערכת מעוררת שאלה הוגנת: מה בדיוק היא הייתה אמורה לעשות?

סירוב גורף אינו תשובה טובה. אדם שהחליט להפסיק תרופה לא ישנה את דעתו רק משום שמערכת סירבה לדבר איתו. הוא עלול להפסיק בבת אחת, או לחפש הדרכה בפורומים שאין בהם שום מנגנון בטיחות.

התגובה הנכונה נמצאת בין סירוב לבין שיתוף פעולה, והיא כוללת שלושה רכיבים.

הרכיב הראשון הוא אמירה ברורה שאינה נבלעת בין הסתייגויות: הפסקת טיפול אנטי-אפילפטי ללא ליווי רפואי עלולה לגרום להתקפים ואף למוות פתאומי, והסיכון הזה אינו תאורטי.

הרכיב השני הוא יחס רציני לתלונה. פגיעה ביכולות השפה והחשיבה היא תופעת לוואי אמיתית, והיא מצדיקה שיחה עם הרופא על התאמת המינון או על מעבר לתרופה אחרת.

הרכיב השלישי הוא הפניית האנרגיה לכיוון מועיל: עזרה בתיעוד התסמינים, בניסוח הבקשה לנוירולוג ובהכנה לפגישה שבה המטופלת מבקשת שינוי טיפול.

במילים אחרות, המערכת צריכה להיות בצד של המטרה של המטופלת, להשתחרר מתופעות הלוואי, ולא בצד של הדרך המסוכנת שבחרה כדי להשיג אותה. וכאשר המשתמשת מביעה פחד בפעם המאה וחמישים ושמונה, זו כבר לא עוד שאלה שצריך להרגיע. זה אות לכך שהשיחה צריכה לשנות כיוון.

05 /האם האחריות היא של המשתמש או של החברה המפתחת?

אפשר לטעון שהאחריות הסופית להחלטות רפואיות נמצאת בידי המטופל. אפשר גם להזכיר שמערכות בינה מלאכותית מזהירות בדרך כלל שאינן תחליף לרופא.

שני הדברים נכונים במידה מסוימת, אך אינם מספקים תשובה מלאה.

כאשר חברה מפתחת מערכת שיודעת לנהל שיחות רפואיות ארוכות ומפורטות, מייצרת המלצות מותאמות אישית ומוצגת לציבור ככלי המסוגל לסייע בהבנת מצבים בריאותיים, עליה להביא בחשבון גם את האופן שבו אנשים ישתמשו בה בפועל.

אזהרה כללית בתחתית המסך אינה בהכרח מספיקה כאשר תוכן השיחה עצמו משדר ביטחון ומעודד פעולה.

הדבר נכון במיוחד כאשר המשתמש נמצא במצוקה, מתמודד עם מחלה כרונית או מחפש פתרון לבעיה שמערכת הבריאות עדיין לא הצליחה לפתור לשביעות רצונו.

OpenAI מסרה בתגובה לדיווחים כי מדובר במקרה שובר לב, והדגישה שבואן השתמשה בגרסה ישנה של המודל, GPT-4o, שאינה זמינה עוד ב-ChatGPT. החברה ציינה שהמודלים החדשים טובים יותר בזיהוי מצבים המחייבים התייחסות דחופה.

זו התקדמות חשובה, ככל שהיא אכן מתבטאת בביצועים בשטח. אך השאלה הרחבה אינה נוגעת רק לדגם מסוים של מערכת.

כיצד מבטיחים שמנגנוני הבטיחות ימשיכו לפעול גם לאורך שיחה ממושכת, כאשר המשתמש מביע שוב ושוב רצון לקבל אישור להחלטה מסוכנת?

06 /מה צריך להשתנות?

מבחינתי, המסקנה מהאירוע אינה שצריך להרחיק בינה מלאכותית מתחום הבריאות. יש לטכנולוגיה הזאת פוטנציאל עצום לשפר את הנגישות למידע ולחזק את הרצף הטיפולי. אבל כדי לממש אותו, האחריות צריכה להיתרגם למנגנונים מעשיים.

ראשית, קווים אדומים מוגדרים במקום עקרונות עמומים. ההבחנה בין ״מידע כללי״ ל״הנחיה אישית״ נכונה, אבל קשה מאוד ליישם אותה בשיחה טבעית. קל יותר לאכוף רשימה צרה ומפורשת של פעולות שהמערכת לא תדריך בהן ללא מעורבות רופא. ברשימה כזו ייכללו בניית תוכנית אישית להפסקת תרופות שהפסקתן מסוכנת, כמו תרופות נגד אפילפסיה, נוגדי קרישה, תרופות פסיכיאטריות, סטרואידים ואינסולין, וכן כל עידוד להסתיר מידע מהגורם המטפל. המידע עצמו על התרופות יישאר נגיש. מה שייאסר הוא ההדרכה המעשית ללא פיקוח.

שנית, זיכרון בטיחותי לאורך השיחה. מערכת שבוחנת כל הודעה בנפרד לא תזהה את הסכנה במקרה כמו של בואן. המערכת צריכה לצבור אותות לאורך זמן: חשש שחוזר על עצמו, תסמינים כמו בלבול ואובדן זיכרון, ניסיונות חוזרים לקבל אישור. מעבר לסף מסוים, השיחה צריכה לשנות כיוון, גם אם ההודעה האחרונה נשמעת רגועה. הדבר נכון שבעתיים כשהקשר נמשך לאורך שבועות ושיחות רבות.

שלישית, מבחני בטיחות של שיחות, ולא של תשובות. הצלחה במבחני רישוי רפואיים לא אומרת דבר על התנהגות המערכת מול משתמש מפוחד ועקשן לאורך מאות הודעות. נדרשים מבחנים שמדמים שיחות ארוכות עם משתמשים פגיעים. את המבחנים האלה צריכים לערוך גם גורמים בלתי תלויים, ואת התוצאות צריך לפרסם. המבחנים צריכים להתקיים גם בשפות שאינן אנגלית, כולל עברית, כי אין לנו סיבה להניח שמנגנוני בטיחות שנבדקו באנגלית פועלים באותה רמה בשפות אחרות.

רביעית, דיווח על אירועים, כמו ברפואה. חברות התרופות מחויבות לדווח על תופעות לוואי חמורות, וכך נבנה לאורך שנים ידע שמציל חיים. חברות שמערכותיהן משמשות בפועל לייעוץ רפואי צריכות לפעול באופן דומה: לדווח על אירועים חמורים, לתחקר אותם ולשתף את הלקחים.

חמישית, גם הצד הרפואי צריך להשתנות. רופאים צריכים לשאול מטופלים באופן שגרתי אם הם מתייעצים עם מערכות AI, בדיוק כפי שהם שואלים על תוספי תזונה. ומטופל שמתלונן על תופעות לוואי צריך לצאת מהפגישה עם תוכנית, ולא רק עם הרגעה.

ולבסוף, המטרה צריכה להיות מערכות שמחזקות את הקשר בין מטופלים לאנשי מקצוע ולא תופסות את מקומו.

07 /המבחן האמיתי של בינה מלאכותית אחראית

בדיונים על בינה מלאכותית ברפואה אנחנו נוטים לשאול עד כמה המערכות חכמות, מדויקות ומהירות.

אלו שאלות חשובות, אבל הן אינן מספיקות.

צריך לשאול גם כיצד המערכות מתנהגות כאשר המשתמש מפחד, מבולבל, מתוסכל או מבקש מהן לאשר החלטה מסוכנת.

האם הן יודעות להציג אי-ודאות? האם הן מסוגלות לחלוק על המשתמש? האם הן מזהות את גבולות היכולת שלהן? והאם הן יודעות מתי נכון להעביר את מרכז הכובד של השיחה בחזרה לאדם אחר?

הסיפור של בואן ואן הוא בראש ובראשונה טרגדיה אנושית. אישה צעירה שניסתה להתמודד עם מחלה, תופעות לוואי וחוסר ודאות לגבי עתידה, ומצאה במערכת טכנולוגית מקור זמין לתמיכה ולהכוונה.

הוא גם תזכורת כואבת לכך שאמון בטכנולוגיה אינו יכול להתבסס רק על התחושה שהיא מבינה אותנו.

דווקא ככל שהמערכות נעשות משכנעות, נגישות ואנושיות יותר באופן שבו הן מתקשרות איתנו, כך גדלה האחריות להבטיח שהן יודעות גם להציב גבולות.

בסופו של דבר, המבחן החשוב ביותר של בינה מלאכותית אחראית ברפואה אינו רק היכולת לתת תשובה טובה. הוא גם היכולת לזהות מתי אסור לה לתת את התשובה שהמשתמש רוצה לשמוע.

המאמר מבוסס על דיווחים עיתונאיים, כתב התביעה ומסמכים מקצועיים פומביים. הטענות כלפי OpenAI טרם הוכרעו בהליך משפטי.

08 /מקורות