דמיינו אדם שמתייעץ עם ChatGPT בנוגע לתסמינים רפואיים שמטרידים אותו. המערכת משיבה בנימה בטוחה, מסבירה את המצב ומציעה כמה דרכי פעולה. התשובה מנוסחת היטב, נשמעת מקצועית ואפילו מרגיעה. האדם פועל בהתאם להמלצה, אך מצבו מחמיר.
מי יודע שההמלצה שקיבל הייתה שגויה? האם הרופא שיפגוש אותו בהמשך יידע שההחלטה התקבלה בעקבות שיחה עם בינה מלאכותית? האם החברה שפיתחה את המערכת תדע שנגרם נזק? והאם מישהו יוכל ללמוד מהמקרה כדי למנוע פגיעה באנשים נוספים?
אלו בדיוק השאלות שעולות במאמר חדש שפורסם ב־9 באוקטובר 2026 בכתב העת Nature Health, תחת הכותרת "The Invisible Risks of AI-Generated Health Information" (הסיכונים הבלתי נראים של מידע בריאותי שנוצר באמצעות בינה מלאכותית).
המאמר, שנכתב על ידי חוקרים מארבע אוניברסיטאות בארצות הברית, מציע להסתכל על הסיכונים של הבינה המלאכותית מזווית מעט שונה. לא רק לשאול אם המערכות טועות, אלא גם כיצד ניתן לזהות טעויות, לתעד את השלכותיהן ולמנוע את הישנותן.
חשוב להדגיש כי מדובר במאמר עמדה מדעי, ולא במחקר אמפירי חדש שמדד את שכיחות הנזקים. עם זאת, הוא מצביע על בעיה מערכתית משמעותית שראויה להתייחסות.
01 /הבעיה אינה רק שהבינה המלאכותית עלולה לטעות
כבר היום ברור שלמערכות בינה מלאכותית גנרטיבית יש יכולות מרשימות. הן מסוגלות להסביר מידע רפואי מורכב בשפה פשוטה, לסייע לאנשים להבין תוצאות בדיקות, להנגיש ידע רפואי בשפות שונות ולספק מידע בכל שעות היממה.
עבור אנשים המתקשים לקבל שירות רפואי זמין, או כאלה שחוששים לשאול שאלות מביכות, מדובר בהזדמנות משמעותית.
אבל לצד היתרונות קיימים גם סיכונים.
מערכות AI עלולות להציג מידע שגוי בביטחון רב, להתעלם מפרטים חשובים בהיסטוריה הרפואית של האדם או להציע המלצות שאינן מתאימות למצבו. לעיתים, דווקא היכולת שלהן לנסח תשובות משכנעות מקשה על המשתמש לזהות את הטעות.
החוקרים מזכירים מקרה שפורסם בספרות הרפואית, שבו גבר בשנות השישים לחייו שהתייעץ עם ChatGPT בנוגע להפחתת צריכת כלוריד החליף את מלח הבישול בחומר המכיל ברומיד. בהמשך הוא אושפז בעקבות הרעלה, לאחר שסבל בין היתר מהזיות וממחשבות פרנואידיות. המקרה ממחיש כיצד הסתמכות על מידע שנוצר באמצעות AI עשויה להשתלב בשרשרת החלטות המובילה לפגיעה ממשית.
אלא שלדברי החוקרים, הבעיה העמוקה יותר היא הקושי לשחזר את המידע המדויק שקיבל המשתמש ולהבין כיצד השפיע על התנהגותו.
ברפואה קיימות מערכות לתיעוד אירועים חריגים, דיווח על תופעות לוואי ולמידה מטעויות. לעומת זאת, בעולם הצ'אטבוטים עדיין אין תשתית מספקת ושיטתית המאפשרת לעקוב אחר נזקים הנובעים מהמלצות בריאותיות שהמערכות מייצרות.
וכאשר איננו יודעים מה השתבש, קשה מאוד למנוע את הפעם הבאה.
כאשר איננו יודעים מה השתבש, קשה מאוד למנוע את הפעם הבאה.
02 /הסיכון כבר לא נמצא רק בתוך הצ'אט
נקודה חשובה נוספת שעולה במאמר היא שהחשיפה למידע בריאותי שנוצר באמצעות בינה מלאכותית אינה מוגבלת לאנשים שפונים באופן יזום לצ'אטבוט.
מידע כזה מופיע היום גם בסיכומי תוצאות חיפוש, ברשתות החברתיות, בסרטונים ובתכנים המופצים בהיקפים גדולים.
אדם יכול להיחשף להמלצה בריאותית שגויה מבלי לדעת שהיא נוצרה באמצעות AI, ולעיתים אף מבלי שחיפש מידע רפואי מלכתחילה.
יתרה מכך, היכולת לייצר תוכן משכנע ומותאם אישית בעלות נמוכה מאפשרת גם הפצה מכוונת של מידע רפואי מטעה. כך, הסיכון אינו רק טעות תמימה של מערכת טכנולוגית, אלא גם האפשרות להשתמש בה כדי להשפיע על החלטות בריאותיות של ציבור רחב.
03 /ומה המשמעות עבור בריאות הנפש?
בעיניי, בתחום בריאות הנפש השאלות האלה מקבלות משמעות מיוחדת.
יותר ויותר אנשים משתמשים בבינה מלאכותית כדי לשוחח על חרדה, דיכאון, קשיים במערכות יחסים, טראומה ומשברים אישיים. חלקם עושים זאת לצד טיפול מקצועי, ואחרים נעזרים במערכות הללו כמקור תמיכה מרכזי.
יש לכך יתרונות אפשריים: זמינות גבוהה, תחושת פרטיות, נגישות למידע פסיכו־חינוכי ואפשרות לקבל הכוונה ראשונית.
אבל מה קורה כאשר מערכת מחזקת פרשנות שגויה של המציאות? כאשר היא אינה מזהה סימני מצוקה משמעותיים? כאשר היא מעניקה תחושת ביטחון מופרזת, או כאשר אדם מחליט להפסיק טיפול בעקבות שיחה איתה?
אלו דוגמאות לתרחישים המחייבים בחינה מקצועית, ולא טענה שכל אחד מהם מתרחש בהיקף ידוע.
בבריאות הנפש, הנזק הפוטנציאלי גם אינו תמיד מיידי או גלוי לעין. לעיתים הוא עשוי להתבטא בהחמרה הדרגתית במצבו של אדם, בהימנעות מפנייה לעזרה מקצועית או בהתפתחות של תלות במערכת שאינה מסוגלת לשאת באחריות טיפולית.
אם לא נדע לזהות ולחקור מצבים כאלה, יהיה קשה להעריך את בטיחות המערכות לאורך זמן.
וזו נקודה מהותית: לא מספיק שמערכת תצליח במבחני בטיחות במעבדה. עלינו להבין גם מה קורה כאשר אנשים אמיתיים משתמשים בה, לאורך זמן ובנסיבות חיים מורכבות.
04 /אז מי צריך לקחת אחריות?
מחברי המאמר מציעים כמה כיווני פעולה, ובהם מתן אפשרות למשתמשים לגשת לתיעוד השיחות הבריאותיות שלהם, פיתוח מנגנונים לדיווח על המלצות מסוכנות, הגברת השקיפות בנוגע לתוכן רפואי שנוצר באמצעות AI והקמת מערכות פיקוח והערכה עצמאיות.
הם אף מעלים את האפשרות להרחיב את האחריות המשפטית של חברות המפתחות צ'אטבוטים במקרים של נזק רפואי.
אלו הצעות המעוררות שאלות מורכבות, במיוחד בכל הנוגע לפרטיות, לחיסיון המידע הרפואי ולגבולות האחריות של חברות טכנולוגיה.
לדעתי, הפתרון אינו יכול להישען על החברות בלבד. דרוש שיתוף פעולה בין מפתחי הטכנולוגיה, אנשי מקצועות הבריאות, חוקרים, מערכות הבריאות, גופי רגולציה וארגוני מטופלים.
המשמעות המעשית היא שיש להתקדם בכמה מישורים במקביל: לאפשר דיווח נגיש על אירועים חריגים, לפתח מנגנוני הערכת בטיחות עצמאיים, לבחון השפעות ארוכות טווח ולהגדיר מי אחראי לטפל בכשלים שמתגלים.
וכל זאת תוך הגנה קפדנית על פרטיות המשתמשים. שקיפות אינה מחייבת חשיפה גורפת של שיחות אישיות, אלא יצירת מנגנונים בטוחים ומבוקרים המאפשרים ללמוד ממקרים חריגים.
05 /ומה אנחנו, כמשתמשים, יכולים לעשות כבר עכשיו?
ראשית, להבין שבינה מלאכותית יכולה להיות מקור מועיל למידע רפואי, אך אינה תחליף לשיקול דעת קליני המותאם לאדם.
כדאי להשתמש בה כדי ללמוד, להבין מושגים, להתכונן לפגישות רפואיות ולגבש שאלות לאנשי מקצוע. לעומת זאת, אין לקבל החלטות משמעותיות על אבחון, טיפול תרופתי או הפסקת טיפול על סמך תשובת AI בלבד.
כאשר המלצה המתקבלת מהמערכת משפיעה על החלטה בריאותית משמעותית, רצוי לבדוק אותה מול איש מקצוע מוסמך. במקרים המתאימים כדאי גם לשמור את השיחה, כדי שניתן יהיה לחזור אליה בעת הצורך.
ולבסוף, חשוב לזכור שתשובה שנשמעת אמפתית, מקצועית ובטוחה אינה בהכרח תשובה נכונה.
תשובה שנשמעת אמפתית, מקצועית ובטוחה אינה בהכרח תשובה נכונה.
06 /לא לעצור את החדשנות, אלא להפוך אותה לבטוחה יותר
אני מאמין שלבינה מלאכותית יש פוטנציאל משמעותי לשיפור שירותי הבריאות ובריאות הנפש. היא יכולה להרחיב נגישות, להעצים מטופלים, להקל על אנשי מקצוע ולסייע בצמצום פערים.
דווקא משום כך, אסור לנו להסתפק בהתרשמות מהיכולות המרשימות שלה.
מערכת בריאות אחראית אינה נמדדת רק בהצלחותיה, אלא גם ביכולתה לזהות טעויות, לחקור אותן וללמוד מהן. אין סיבה שהעיקרון הזה לא יחול גם על מערכות בינה מלאכותית.
המאמר החדש ב־Nature Health מזכיר לנו שחדשנות ואחריות אינן מטרות מנוגדות. להפך. ככל שהטכנולוגיה תשתלב יותר בחיינו, כך נידרש למנגנונים משמעותיים יותר של שקיפות, הערכה ובקרה.
השאלה אינה רק עד כמה הבינה המלאכותית חכמה, אלא עד כמה אנחנו חכמים באופן שבו אנחנו משלבים אותה בהחלטות הנוגעות לבריאות שלנו.
תגובות
אין עדיין תגובות. מוזמנים להיות הראשונים.