בינה מלאכותית בבריאות הנפש: השאלה כבר אינה אם, אלא איך

בינה מלאכותית כבר נמצאת בתוך עולם בריאות הנפש.

אנשים מתייעצים עם ChatGPT ומודלים אחרים לגבי חרדה, טראומה, תרופות, מערכות יחסים ולעיתים גם ברגעים של מצוקה משמעותית. אנשי מקצוע משתמשים בהם כדי לסכם, לנסח ולתעד, וארגונים מתחילים לבחון שילוב של AI בתהליכי עבודה ובמתן שירות.

כך שהדיון בשאלה האם בינה מלאכותית תיכנס לבריאות הנפש כבר קצת מאחורינו. היא נכנסה.

השאלות המעניינות עכשיו הן אחרות: איפה היא באמת יכולה לעזור, איפה הסיכון גדול מדי, מה אנחנו יודעים על היעילות שלה, ומה צריך להיות מסביב לטכנולוגיה כדי שנוכל להשתמש בה באופן אחראי.

01 /דווקא בגלל המחסור, הפוטנציאל גדול

מערכת בריאות הנפש בישראל נמצאת כבר שנים תחת עומס, והביקוש רק גדל. זמני המתנה, מחסור באנשי מקצוע, עומס תיעוד ומערכת שקשה לעיתים להתמצא בה הם חלק מהמציאות.

בדיוק במקומות האלה AI יכול להיות שימושי מאוד.

הוא יכול לסייע בתיעוד, בסיכום מסמכים, בהנגשת מידע, בניווט בין שירותים וזכאויות, בהכנת חומר מותאם למטופל, בהדרכה ובסימולציה לאנשי מקצוע.

אלה אולי שימושים פחות "סקסיים" מצ'אטבוט שמנהל טיפול, אבל ייתכן שדווקא בהם נמצא חלק גדול מהערך המיידי.

אם מערכת חוסכת לאיש מקצוע זמן אדמיניסטרטיבי ומאפשרת לו להקדיש את הזמן הזה למטופלים, יש לכך משמעות אמיתית.

הבעיה מתחילה כשעוברים מהר מדי מהיכולת של הטכנולוגיה לבצע משימה למסקנה שכדאי לתת לה לבצע אותה.

02 /מודל יכול להישמע מצוין ועדיין לטעות

אחד הדברים המרשימים במודלי שפה הוא היכולת שלהם לייצר תשובות שוטפות, אמפתיות ומשכנעות.

וזה גם חלק מהסיכון.

תשובה יכולה להישמע מקצועית מאוד גם כשהיא שגויה. מערכת יכולה להמציא מידע, לפספס סימנים למשבר או לחזק בלי כוונה מחשבה בעייתית.

בבריאות הנפש המורכבות אפילו גדולה יותר. לא תמיד קיימת תשובה אחת נכונה שאפשר להשוות אליה את המודל. אותה תגובה יכולה להיות מועילה לאדם אחד ולא מתאימה לאחר. ההקשר, התזמון, ההיסטוריה והמצב הנפשי של האדם חשובים מאוד.

לכן ציון מצוין במבחן או ב-benchmark עדיין לא אומר שהמערכת מועילה בשיחה אמיתית עם אדם אמיתי.

הפער הזה חשוב במיוחד כשאנחנו קוראים טענות על "ביצועים ברמת מומחה".

03 /לא כל שימוש ב-AI בבריאות הנפש הוא אותו דבר

בעיניי, אחת הטעויות בדיון הנוכחי היא לדבר על "AI בבריאות הנפש" כאילו מדובר בטכנולוגיה אחת ובשימוש אחד.

אין דין מערכת שמסכמת מסמך שמטפל בודק לאחר מכן כדין מערכת שמנהלת לבדה שיחה עם אדם במצוקה.

תיאום תורים אינו אבחון. ניסוח מכתב אינו המלצה על שינוי תרופתי. כלי שמסייע לאיש מקצוע לחשוב אינו דומה לכלי שפונה ישירות למטופל ומקבל בפועל החלטות.

אפשר לשאול שתי שאלות פשוטות לגבי כל שימוש:

ככל שהמערכת מתקרבת יותר לליבת הטיפול, פועלת באופן עצמאי יותר ונוגעת באנשים במצבים פגיעים יותר, כך צריך לדרוש ממנה יותר: יותר ראיות, יותר פיקוח, יותר שקיפות ויותר אחריות.

04 /גם "אדם בלולאה" לא פותר הכול

נהוג לומר שהפתרון לסיכון הוא להשאיר תמיד human in the loop.

זה נכון, אבל רק חלקית.

אם איש מקצוע מקבל עשרות או מאות התראות, אינו מכיר היטב את מגבלות המערכת או פשוט מתרגל לכך שהיא בדרך כלל צודקת, הפיקוח האנושי עלול להפוך לפורמלי בלבד.

פיקוח אמיתי דורש זמן, הכשרה, סמכות ויכולת לומר למערכת "לא".

וגם האחריות לא יכולה להישאר רק אצל המטפל הבודד. ארגון שבוחר מערכת וספק שמפתח אותה הם חלק מאותה שרשרת אחריות.

05 /והציבור כבר משתמש, גם בלי לחכות למערכת

יש עוד סיבה לכך שהדיון דחוף.

אנשים לא מחכים שמשרד הבריאות, קופת החולים או בית החולים יאשרו להם להשתמש בבינה מלאכותית. הם כבר עושים זאת באופן עצמאי.

ולעיתים דווקא מי שמתקשה להגיע לשירות אנושי עשוי לפנות אליה יותר: אדם שמחכה חודשים לטיפול, צעיר שלא רוצה לשתף את ההורים, מישהו שנמצא לבד בלילה או אדם שחושש מסטיגמה.

הזמינות והאנונימיות יכולות להיות יתרון משמעותי. אבל אותו קשר זמין, סבלני ותמיד נגיש עלול גם לגרום לאנשים לייחס למערכת הבנה, סמכות ואפילו רגשות שאין לה.

לכן בעיניי אוריינות AI צריכה בהדרגה להפוך לחלק מאוריינות הבריאות שלנו. לא רק לדעת איך להשתמש בכלי, אלא להבין מה הוא לא יודע, מתי כדאי לבדוק אותו ומתי צריך לעזוב את המסך ולפנות לאדם.

06 /בישראל צריך לבדוק את הדברים בישראל

יש לנו גם שאלות מקומיות שלא ייפתרו באמצעות מחקרים שנעשו באנגלית בארצות הברית.

מערכת שעובדת היטב באנגלית אינה בהכרח עובדת באותה איכות בעברית או בערבית. שפה רגשית, סלנג, ביטויים של מצוקה ורמזים למשבר הם תלויי תרבות והקשר.

גם מערכת ניווט שמכירה היטב שירותים פרטיים במרכז הארץ ופחות טוב את השירותים הציבוריים בפריפריה יכולה להגדיל פערים במקום לצמצם אותם.

לכן אנחנו צריכים הרבה יותר הערכה בתנאי אמת, באוכלוסיות הישראליות ובשפות שבהן אנשים באמת משתמשים.

לא רק הדגמות.

לא רק benchmarks.

ולא רק הבטחות של ספקים.

07 /לא להתלהב מדי, אבל גם לא לפחד מדי

הדיון על AI בבריאות הנפש נוטה לפעמים לשני קצוות.

מצד אחד יש התלהבות מהירה מדי: אם הטכנולוגיה מסוגלת לעשות משהו, בואו נטמיע אותה.

מצד שני יש חשש שמוביל למסקנה שעדיף פשוט לחכות.

אני לא חושב שאף אחד מהקצוות האלה יעזור לנו.

גם להימנעות מטכנולוגיה יש מחיר.

זמני המתנה, שחיקה של אנשי מקצוע, קשיי נגישות והמשך השקעת שעות במשימות שמכונה יכולה לבצע היטב הם לא "אפס סיכון". גם הם חלק מהמשוואה.

לכן השיחה שאני חושב שכדאי לנו לנהל אינה האם בינה מלאכותית טובה או רעה, וגם לא האם היא "תחליף מטפלים".

צריך לשאול משהו הרבה יותר פרקטי:

איפה היא יכולה לשפר את השירות שאנחנו נותנים לאנשים, איפה היא עלולה לפגוע בו, ואילו תנאים צריכים להתקיים כדי שנוכל לדעת את ההבדל.

הטכנולוגיה כבר כאן.

האתגר עכשיו הוא להשתמש בה בתבונה.