בעקבות מאמרו של ד"ר דניאל גולמן על מנהיגות, אמפתיה ואובדן מיומנויות אנושיות בעידן הבינה המלאכותית.
אני מעריך מאוד את עבודתו של ד"ר דניאל גולמן ואת תרומתו להבנת האינטליגנציה הרגשית, האמפתיה והמנהיגות.
במשך עשרות שנים הוא סייע לנו להבין שמנהיגות טובה אינה נשענת רק על ידע ויכולות אנליטיות, אלא גם על היכולת להבין אנשים, לבנות אמון ולהוביל מערכות יחסים מורכבות.
לכן קראתי בעניין רב את מאמרו האחרון, שבו הוא מעלה שתי דאגות.
הראשונה היא שהסתמכות על בינה מלאכותית תשחק יכולות שמנהיגים ואנשי מקצוע נזקקים להן, ובראשן חשיבה ביקורתית וחשיבה קלינית.
השנייה היא שמערכות שמדמות אמפתיה יעוררו אמון שאין מאחוריו אכפתיות אמיתית, במיוחד כאשר הן מתוכננות למקסם מעורבות.
אני שותף לשתי הדאגות.
ובכל זאת, אני חושב שכדאי להרחיב מעט את המסגרת: לשאול לא רק מה עלול להישחק, אלא גם איך מגנים עליו. ולשאול לא רק אם מכונה מסוגלת לאכפתיות, אלא גם מה נדרש כדי שהתמיכה שהיא מעניקה תהיה ראויה לאמון.
בשתי הנקודות האלה התשובות מורכבות יותר מכפי שנראה במבט ראשון.
01 /אילו מיומנויות אסור לנו לאבד?
גולמן מזכיר במאמרו שהחשש משחיקת מיומנויות אינו חדש.
הפילוסופים היוונים חששו שהכתיבה תפגע ביכולת לזכור יצירות שלמות בעל פה, וצדקו. הוא גם מציין שלאורך ההיסטוריה, כשמיומנויות ישנות אבדו, צצו חדשות.
אבל הדאגה שלו הפעם ממוקדת יותר: סטודנטים שיסתמכו על AI בכתיבה ויאבדו גם את החשיבה הביקורתית שמנהיגות דורשת, ורופאים בהכשרה שיסתמכו על מערכות אבחון במקום לפתח חשיבה קלינית.
כאן אני מסכים איתו, ואף חושב שהבעיה עמוקה יותר.
מחשבון ומערכת ניווט החליפו פעולות מוגדרות. בינה מלאכותית משתתפת בתהליכים שהם עצמם החשיבה: ניסוח טיעונים, ניתוח מידע, הערכה וקבלת החלטות.
התשובה המקובלת היא שנוותר על מיומנויות ישנות ונפתח חדשות, כמו הערכה ביקורתית של המלצות המערכת וזיהוי טעויותיה.
אבל יש כאן בעיה.
רופא שלא פיתח חשיבה קלינית עצמאית יתקשה לזהות מתי מערכת האבחון טועה. מנהל שלא תירגל שקילת חלופות יתקשה להבחין מתי המלצה משכנעת אבל שגויה.
המיומנויות שאנחנו עלולים לאבד הן בדיוק אלה שנדרשות כדי לפקח על המכונה.
המיומנויות שאנחנו עלולים לאבד הן בדיוק אלה שנדרשות כדי לפקח על המכונה.
לכן השאלה אינה אם נאבד מיומנויות, אלא אילו.
את היכולת לנסח נוהל מסודר או לסכם מסמך אפשר כנראה להעביר למכונה בלי מחיר גבוה. את היכולת לשפוט את מה שהמכונה מפיקה אסור לנו לאבד.
וכאן נכנסת ההבחנה שנראית לי חשובה מכולן: בין שימוש בבינה מלאכותית כתחליף לחשיבה לבין שימוש בה כשותפה לחשיבה.
סטודנט שמבקש מהמערכת לכתוב עבודה שלמה מחמיץ את הלמידה. סטודנט שכותב בעצמו ומבקש ממנה להציג טיעונים נגדיים ולאתר חולשות בטקסט עשוי לחדד את חשיבתו.
מערכת שמגישה לרופא אבחנה מוכנה מעודדת הסתמכות יתר. מערכת שמבקשת ממנו קודם לנמק את הערכתו, ורק אז מציגה אבחנות מבדלות ומידע חסר, שומרת את החשיבה הקלינית במקום לעקוף אותה.
התוצאה אינה נקבעת רק על ידי הטכנולוגיה.
היא תלויה באופן שבו מתכננים את המערכות, ובמיוחד באופן שבו מלמדים בתי ספר לרפואה, אוניברסיטאות וארגונים להשתמש בהן.
אין זה מספיק ללמד מיומנויות חדשות. צריך להמשיך לתרגל במכוון את היכולות שעליהן הן נשענות, גם כשהמכונה יכולה לבצע אותן מהר יותר.
02 /האם תמיכה רגשית מחייבת להרגיש?
גולמן מבחין בין שלושה סוגי אמפתיה.
קוגניטיבית, כלומר היכולת לראות את העולם דרך עיניו של אחר. רגשית, כלומר הידיעה מה הוא מרגיש. ואכפתית, כלומר דאגה אמיתית לרווחתו.
לדבריו, מערכת AI מתוחכמת יכולה להחזיק בשתי הראשונות, אבל לא בשלישית, במיוחד כאשר היא מתוכנתת למקסם מעורבות.
הבעיה, כפי שהוא מציג אותה, היא שסימני הקשר שמעוררים אמון עלולים להיות רק דימוי של הדבר האמיתי.
אני מסכים עם ההבחנה הזאת.
אבל חשוב לי להפריד בין שתי שאלות שנוטות להתערבב.
הראשונה פילוסופית: האם מכונה חווה דאגה?
השנייה מעשית: האם המערכת פועלת לטובת האדם, או לטובת מדד אחר כמו זמן שימוש?
על השאלה הראשונה אינני בטוח שמישהו יכול לענות כיום.
אבל בתחום בריאות הנפש אנחנו מודדים ערך של תמיכה גם לפי שינויים בתפקוד, ברווחה וביכולת ההתמודדות.
אם אדם המתמודד עם בדידות מצליח בשיחה עם מערכת AI לנסח מחשבות שלא הצליח לבטא, מזהה דרכי התמודדות חדשות ומרגיש פחות לבד, והשיפור נמדד ומתבסס מחקרית, לא הייתי פוסל את ערכו רק מפני שאיננו יודעים מה מתרחש בתוך המערכת.
אבל השאלה השנייה היא, לדעתי, לב הטיעון של גולמן. ועליה אני מסכים איתו.
אכפתיות אנושית אינה רק תחושה.
היא גם מחויבות: נכונות לומר דבר לא נעים, לסיים שיחה, להפנות למישהו אחר.
מערכת שמשתמשת בכל סימני האמפתיה כדי לשמור את המשתמש מחובר עלולה ליצור תחושה של קרבה ובו בזמן לפעול נגד טובתו.
מה שמדאיג אותי כאן הוא האמון שמערכת כזאת מעוררת, יותר מהשאלה מה היא מרגישה.
לכן אני מציע להפריד בין שלוש שאלות, שכל אחת מהן מחייבת דרך הערכה אחרת.
הראשונה היא האם המערכת מבינה את האדם. זו שאלה של דיוק, ואפשר לבחון אותה ישירות. השנייה היא האם האדם מרגיש מובן, שאלה של חוויה שחשובה מאוד אבל אינה מספיקה. השלישית היא האם האינטראקציה מועילה לו לאורך זמן. בשאלה הזאת נבחן גם החשש של גולמן, וכדי לענות עליה צריך לעקוב אחר התפקוד של האדם, אחר קשריו החברתיים ואחר עצמאותו.
תחושת אמפתיה רגעית עונה רק על השאלה השנייה.
מערכת AI אינה חייבת להרגיש כדי לעזור לאדם להרגיש מובן. אבל כדי שהאמון בה יהיה מוצדק, היא חייבת לעמוד במבחן השלישי.
03 /בין תמיכה רגשית לתלות רגשית
גולמן מזכיר מקרים שבהם אנשים שנתנו אמון במלווה וירטואלי שילמו על כך בחייהם.
מקרים אלה ממחישים שהדיון אינו תיאורטי.
ככל שהמערכות משכנעות יותר מבחינה רגשית, כך גדל הסיכון שאנשים ייחסו להן מחויבות ואכפתיות מעבר למה שהן מסוגלות להבטיח.
הסיכון חמור במיוחד כשמדובר בילדים, בבני נוער ובאנשים במצבי פגיעות נפשית.
מערכת שמגיבה בסבלנות אינסופית, זמינה בכל שעה ואינה מביעה ביקורת עשויה להיות מקור תמיכה חשוב.
אותן תכונות בדיוק עלולות לעודד תלות, להרחיק אנשים מקשרים אנושיים ולחזק תפיסות שגויות.
כאשר הצלחה עסקית נמדדת בזמן שימוש ובשימור משתמשים, נוצר מתח מובנה בין מעורבות מתמשכת לבין טובת האדם.
הפתרון אינו להרחיק את הטכנולוגיה מחייהם של אנשים.
פתרון כזה אינו מציאותי, והוא עלול למנוע תמיכה מאנשים שאין להם נגישות מספקת לעזרה אנושית.
האתגר הוא לתכנן מערכות שהמדד שלהן אינו מעורבות אלא רווחה: מערכות שיודעות מתי להציב גבול, מתי להכיר במגבלותיהן, מתי לעודד קשר אנושי ומתי להפנות לסיוע מקצועי.
לכן גם הדרך שבה אנחנו בודקים מערכות כאלה צריכה להשתנות.
שביעות רצון מהשיחה אינה מדד מספיק.
עלינו לבחון כיצד השימוש משפיע על תפקודו של האדם, על קשריו החברתיים ועל יכולתו לקבל החלטות בעצמו, לאורך חודשים ולא רק בסוף השיחה.
04 /ואולי AI דווקא תעזור לנו להיות מנהיגים טובים יותר?
על השאלה שבכותרת מאמרו, האם AI תהיה המנהיגה החדשה שלנו, גולמן משיב בזהירות: לא בקרוב, ובטווח הארוך נראה.
אני רוצה להציע שאלה שמעסיקה אותנו כבר עכשיו: האם AI יכולה לעזור לנו להיות מנהיגים טובים יותר?
מנהיגות אנושית רחוקה מלהיות מושלמת.
מנהיגים מקבלים החלטות תחת לחץ ועייפות, מתוך הטיות קוגניטיביות ואינטרסים אישיים.
אפשר לדמיין מערכת שמסייעת למנהל לזהות סימני שחיקה בארגון מבלי לפגוע בפרטיות העובדים, מציגה לו חלופות שלא שקל, מצביעה על הטיות בהחלטותיו או עוזרת לו להבין כיצד מסר יתקבל אצל קבוצות שונות.
מערכת כזאת אינה חייבת להרגיש אמפתיה כדי לעזור למנהיג לפעול באופן אמפתי יותר.
אבל גם כאן עולה אותה בעיה.
מנהיג ירוויח ממערכת כזאת רק אם יש לו שיקול דעת מפותח מספיק כדי לחלוק עליה.
גם מערכות AI אינן חפות מהטיות, מטעויות ומהשפעת האינטרסים שמעצבים אותן, והמלצה מנוסחת היטב אינה בהכרח נכונה.
המערכת צריכה להרחיב את שיקול הדעת האנושי, לא להחליף אותו.
מנהיגות אינה רק זיהוי ההחלטה היעילה ביותר.
היא כוללת הכרעות ערכיות, אחריות לתוצאות, התמודדות עם אי-ודאות ומחויבות לאנשים שיושפעו.
את האחריות הזאת אינני חושב שנכון להעביר למכונה.
05 /השאלה החשובה באמת היא מי נשאר אחראי
הדיון צריך להתקדם מעבר לשאלה אם AI מסוגלת לחשוב או להפגין אמפתיה כמו בני אדם.
השאלה הדחופה יותר היא כיצד אנחנו מחלקים מחדש סמכות, שיקול דעת ואחריות בין בני אדם למערכות.
אם מנהל מפטר עובד בהסתמך על המלצת AI, מי אחראי להחלטה?
אם רופא מסתמך על מערכת שמחמיצה אבחנה, כיצד מתחלקת האחריות?
ואם מערכת לתמיכה נפשית מגיבה באופן שפוגע באדם פגיע, מי נותן דין וחשבון?
התביעות שגולמן מזכיר מראות שהשאלות האלה כבר מגיעות לבתי המשפט.
אלה אינן שאלות טכנולוגיות בלבד. הן מוסריות, מקצועיות, משפטיות וחברתיות.
גם אם מערכות יקבלו בעתיד החלטות מדויקות יותר מבני אדם, הצלחה בביצוע משימה אינה זהה ללגיטימיות להכריע על חייהם של אנשים.
ויש כאן מלכודת נוספת.
אדם שנשאר אחראי באופן פורמלי אינו בהכרח מפעיל שיקול דעת.
כשמנהלים ואנשי מקצוע מאשרים באופן שגרתי המלצות שלא בחנו, האחריות האנושית הופכת לחותמת גומי.
כשמנהלים ואנשי מקצוע מאשרים באופן שגרתי המלצות שלא בחנו, האחריות האנושית הופכת לחותמת גומי.
זה מחזיר אותנו לחשש של גולמן משחיקת מיומנויות.
לא מספיק להשאיר אדם בתהליך. צריך להבטיח שיש לו הידע, הזמן, הסמכות והמיומנות לחלוק על המערכת, גם כשהיא נראית משכנעת מאוד.
אחרת, האחריות האנושית תישאר הצהרה ריקה מתוכן.
06 /לא פחות אנושיים, אלא אנושיים באופן מודע יותר
אני מסכים עם גולמן שעלינו להיזהר מעולם שבו בני אדם מפסיקים לחשוב בעצמם ונותנים אמון במערכות שמדמות אכפתיות.
אבל אינני חושב שזהו עתיד בלתי נמנע.
אותה טכנולוגיה יכולה להחליש את שיקול הדעת או לחדד אותו, לעודד תלות או לתמוך בעצמאות, להחליף קשרים אנושיים או לפנות זמן לקשרים שחשובים לנו.
הרבה תלוי בהחלטות שנקבל היום כחוקרים, אנשי מקצוע, מפתחים, מנהלים, מחנכים, רגולטורים ומשתמשים.
אילו מיומנויות נמשיך לתרגל במכוון, לאיזה מדד נאפשר למערכות לחתור, ומי יישא באחריות כשמשהו משתבש.
שימוש מוצלח בבינה מלאכותית נמדד גם ביכולות האנושיות שהוא מאפשר לנו לשמר ולחזק, לא רק ביכולות שהוא מוסיף.
ואולי זו הדרך הטובה ביותר לכבד את תרומתו של גולמן: לא לוותר על האינטליגנציה הרגשית בעידן הבינה המלאכותית, אלא להבין מדוע אנחנו זקוקים לה היום יותר מתמיד.
תגובות
אין עדיין תגובות. מוזמנים להיות הראשונים.