בני זוג מתווכחים שוב על אותו נושא. הוא מרגיש שלא מעריכים את מה שהוא עושה בבית. היא מרגישה שהיא נושאת לבדה באחריות לתכנון ולניהול חיי המשפחה. שניהם משוכנעים שהצד השני פשוט לא מבין אותם. השיחה מתלהטת, כל אחד מתבצר בעמדתו, ובסופו של דבר הם הולכים לישון מתוסכלים.
עכשיו דמיינו אפשרות אחרת.
לכל אחד מבני הזוג יש סוכן בינה מלאכותית אישי שמלווה אותו כבר תקופה ארוכה. הסוכן מכיר את העדפותיו, את הערכים שחשובים לו ואת דפוסי התקשורת שלו. הוא יודע, למשל, שהבעל נוטה להסתגר כשהוא מרגיש מותקף, ושהאישה מתקשה לבקש עזרה ישירות כשהיא מרגישה מוצפת.
במקום להמשיך להתווכח, הם מסכימים לתת לשני הסוכנים לשוחח זה עם זה. הסוכן שלו מסביר מה עומד מאחורי התסכול שלו. הסוכן שלה מציג את הצרכים והחששות שלה. השניים שואלים שאלות, מזהים אי-הבנות ומנסים לגבש הצעה שתיתן מענה לשני הצדדים.
כעבור כמה דקות הם חוזרים לבני הזוג עם תובנות והצעה מעשית. לא פסק דין שקובע מי צודק, אלא דרך אפשרית להתקדם.
נשמע כמו מדע בדיוני? אולי. אבל חלקים משמעותיים מהתרחיש הזה כבר אפשריים מבחינה טכנולוגית. ובכל זאת, השאלה המעניינת באמת אינה האם הסוכנים יוכלו לדבר במקומנו, אלא האם השיחה ביניהם תעזור לנו לדבר טוב יותר בעצמנו.
בקצרה
- סוכני בינה מלאכותית כבר מתקשרים זה עם זה, והשלב הבא עשוי להיות סוכנים אישיים שמגשרים בין אנשים.
- סוכן שמכיר רק את הסיפור שלנו עלול לחזק אותו במקום לאתגר אותו. המחקר על חנפנות של מודלי שפה מראה שהחשש הזה מבוסס.
- מערכת כזו תצטרך להכריע אם הסוכן הוא עורך הדין שלי או המגשר של שנינו, ולהגן על פרטיות ועל הצד החלש.
- השימוש המבטיח ביותר אינו לדבר במקומנו, אלא להכין אותנו לשיחה טובה יותר.
01 /מה קורה כשהבינה המלאכותית מפסיקה לדבר רק איתנו?
עד היום התרגלנו לחשוב על בינה מלאכותית כעל מערכת שאיתה אנחנו משוחחים. אנחנו שואלים, היא עונה. אנחנו מתלבטים, היא מציעה. אבל מה יקרה כאשר מערכות הבינה המלאכותית האישיות שלנו יתחילו לתקשר זו עם זו?
בעולם הטכנולוגי מתפתחת במהירות תפיסה של סוכני בינה מלאכותית (AI Agents): מערכות שמבצעות משימות, מתכננות פעולות ומתקשרות עם מערכות אחרות. כבר היום קיימים כלים שמאפשרים לסוכנים לתאם פגישות, לחפש מידע ולבצע משימות משותפות. חברות טכנולוגיה גדולות אף מפתחות פרוטוקולים ייעודיים לתקשורת בין סוכנים, כמו פרוטוקול Agent2Agent שהציגה גוגל ב-2025.
השלב הבא עשוי להיות הרבה יותר אישי: סוכן דיגיטלי שמכיר אותנו לאורך שנים. לא רק את לוח הזמנים או את העדפות הקנייה שלנו, אלא גם את מה שמטריד אותנו, את השאיפות והרגישויות שלנו ואת הדרך שבה אנחנו מפרשים מצבים חברתיים. שני סוכנים כאלה יוכלו, בהסכמת המשתמשים, לנהל ביניהם שיחה כדי לעזור לשני אנשים לפתור מחלוקת.
במקום שכל אחד ישתמש בבינה המלאכותית שלו כדי לקבל חיזוק לעמדתו, שתי המערכות יידרשו לבחון יחד כיצד אפשר להגיע להסכמה. זה שינוי מהותי בתפקיד של הבינה המלאכותית: ממערכת שמסייעת לאדם להבין את העולם, למערכת שמסייעת לאנשים להבין זה את זה.
02 /לא רק זוגיות: מעסקים ועד דיפלומטיה
היישומים האפשריים רחבים בהרבה מגישור זוגי.
שני שותפים עסקיים שמתקשים להסכים על עתיד החברה מגיעים לדיון עם ניסיון שונה, תפיסת סיכון אחרת וסדרי עדיפויות משלהם. הסוכנים שלהם יכולים להבחין בין עמדות נוקשות לבין אינטרסים אמיתיים, ולהציע פתרונות שלא עלו בשיחה הישירה.
מנהל ועובדת בקונפליקט מתמשך הם דוגמה נוספת. המנהל חושב שהעובדת אינה עומדת בציפיות. העובדת מרגישה שהדרישות אינן ברורות ושמאמציה אינם זוכים להכרה. שני הסוכנים יכולים לסייע בהבהרת הציפיות ובזיהוי מקורות המתח, מבלי להחליף את האחריות האנושית לניהול השיחה.
אפשר לחשוב גם על מחלוקות בין הורים לילדים מתבגרים, בין שכנים, בין אנשי מקצוע ובני משפחה סביב החלטות רפואיות, ואפילו על משא ומתן בין ארגונים ומדינות.
כמובן, ככל שהקונפליקט מורכב יותר וככל שפערי הכוח בין הצדדים גדולים יותר, כך נדרשת זהירות רבה יותר. לא כל מחלוקת מתאימה לגישור אוטומטי, ולא בכל מצב עצם השאיפה לפשרה היא הדבר הנכון.
03 /אבל האם הבינה המלאכותית באמת מכירה אותנו?
כאן מגיעה השאלה הפסיכולוגית החשובה ביותר.
אנחנו נוטים להניח שככל שאנחנו משוחחים יותר עם מערכת בינה מלאכותית, כך היא מכירה אותנו טוב יותר. במידה מסוימת זה נכון: מערכת בעלת זיכרון מתמשך יכולה ללמוד על העדפותינו, לזהות דפוסים חוזרים ולהתאים את תשובותיה להקשר האישי שלנו.
אבל יש הבדל גדול בין להכיר את הסיפור שאדם מספר על עצמו לבין להכיר את האדם.
כאשר אנחנו מספרים לבינה המלאכותית על ויכוח עם בן הזוג, אנחנו מציגים את נקודת המבט שלנו. לעיתים אנחנו מדגישים פרטים מסוימים ומשמיטים אחרים, לא בהכרח מתוך כוונה להטעות, אלא משום שכך פועלים הזיכרון והפרשנות האנושיים.
מערכת בינה מלאכותית עלולה ללמוד את הנרטיב שלנו, לחזק אותו ולהפוך בהדרגה לשותפה דיגיטלית שמסכימה איתנו יותר מדי. זהו אינו חשש תיאורטי בלבד. חוקרים מכנים את התופעה «חנפנות» (sycophancy): נטייה של מודלי שפה להתאים את תשובותיהם לעמדות המשתמש, גם על חשבון הדיוק. מחקר של חברת Anthropic מ-2023 מצא את הנטייה הזו בחמישה עוזרי בינה מלאכותית מובילים, וקשר אותה בין היתר לכך שאנשים מעדיפים תשובות שמסכימות איתם.
מה יקרה כאשר שתי מערכות כאלה ייפגשו? האם הן יצליחו לזהות את העיוותים וההטיות של האנשים שהן מייצגות, או שפשוט ינהלו משא ומתן מתוחכם בין שתי גרסאות חלקיות של המציאות?
כדי שמערכת כזו תועיל באמת, היא תצטרך לא רק לייצג את האדם, אלא גם לאתגר בעדינות את ההנחות שלו: להבחין בין מה שהוא רוצה לבין מה שהוא צריך, בין עובדה לפרשנות, ובין הגנה על האינטרסים שלו לבין התבצרות בעמדה שאינה משרתת אותו.
04 /עורך הדין שלי, או המגשר של שנינו?
כאן מסתתרת דילמה שקל לפספס: למי נאמן הסוכן שלי?
עורך דין מייצג את לקוחו ומנסה לשפר את מצבו. מגשר מחויב לשני הצדדים במידה שווה, ועוזר להם לראות מה כל אחד מהם מפספס. אלה שני תפקידים שונים, ולעיתים סותרים.
סוכן שמאתגר אותי ומסביר לי בעדינות שאני טועה הוא פחות «שלי». סוכן שמייצג אותי בנאמנות מלאה הוא פחות מגשר. סביר שמשתמשים יעדיפו את הסוכן שתמיד לצידם, וחברות הטכנולוגיה ירצו לספק להם בדיוק את זה.
ככל שהסוכנים יהיו עורכי דין טובים יותר, השיחה ביניהם עלולה להיראות פחות כמו גישור ויותר כמו מיקוח. מערכת כזו תצטרך להגדיר מראש, ובשקיפות, את תפקיד הסוכן: האם הוא נציג שלי, או שותף לחיפוש פתרון שיהיה טוב לשנינו.
סוכן שמאתגר אותי הוא פחות «שלי». סוכן שמייצג אותי בנאמנות מלאה הוא פחות מגשר.
05 /מי מחליט מה הבינה שלי מספרת לבינה שלך?
לרעיון הזה יש גם מחיר פוטנציאלי מבחינת פרטיות ואוטונומיה.
אם הסוכן האישי שלי מכיר את הפחדים שלי, את מערכות היחסים שלי ואת החוויות הרגישות ביותר ששיתפתי איתו, האם ארצה שיחשוף אותן בפני מערכת אחרת, גם אם המטרה היא לפתור קונפליקט?
נניח שהבינה המלאכותית שלי יודעת שאני נוטה לוותר מהר מדי בעימותים, או שאני חושש מאוד מדחייה. האם מותר לה להשתמש במידע הזה במהלך משא ומתן? האם היא רשאית לחשוף אותו לצד השני? ומה אם הצד השני משתמש בסוכן שתוכנן לנצל חולשות כאלה?
ויש גם שאלה פשוטה יותר: מה קורה כשלצד אחד יש סוכן מתוחכם ויקר, ולצד השני סוכן בסיסי או בכלל לא? במקרה כזה הטכנולוגיה אינה מצמצמת פערי כוח, אלא מעמיקה אותם. בעל המשאבים הרבים יותר יקבל גם את המגשר הטוב יותר.
מערכת אחראית תצטרך להיבנות על עקרונות ברורים: הסכמה מדעת, שליטה מלאה של המשתמש במידע שמותר לשתף, שקיפות לגבי פעולות הסוכנים ואפשרות לעצור את התהליך בכל שלב.
חשוב לא פחות, היא תצטרך להבחין בין גישור לבין מצבים של שליטה, כפייה או אלימות. במצבים כאלה, מערכת שמנסה למצוא פשרה בכל מחיר עלולה דווקא לפגוע בצד הפגיע יותר.
גם ההצעות עצמן לא צריכות להיות מחייבות. הסוכנים יכולים לנתח, להציע ולסייע, אבל האחריות להחלטה חייבת להישאר בידי האנשים.
06 /האם אפשר בכלל לבדוק אם זה עובד?
לדעתי, זו אחת השאלות המחקריות המעניינות שעולות מהרעיון. אפשר לתכנן מחקר שבו משתתפים המתמודדים עם מחלוקת אמיתית מחולקים לשלוש קבוצות:
- שיחה ישירה בין הצדדים, ללא סיוע טכנולוגי.
- מגשר בינה מלאכותית משותף לשני הצדדים.
- סוכן אישי לכל משתתף, כששני הסוכנים מנהלים דיאלוג לפני שהם מציגים הצעה משותפת.
אפשר לבחון לא רק אם הצדדים הגיעו להסכמה, אלא גם את איכות ההסכמה, תחושת ההוגנות, רמת האמון, שביעות הרצון והיכולת לשמר את הפתרון לאורך זמן.
מעניין במיוחד יהיה לבדוק האם היכרות מתמשכת של הסוכן עם המשתמש באמת משפרת את התוצאה, או שמא דווקא סוכן שאינו מכיר את ההיסטוריה האישית מסוגל להציע פתרון מאוזן יותר. במילים אחרות: האם יותר מידע אישי מוביל להבנה טובה יותר, או לפעמים דווקא להנצחת הדפוסים שהובילו לקונפליקט מלכתחילה?
אלה שאלות שאפשר וצריך לחקור לפני שמציגים טכנולוגיה כזו כפתרון מבוסס.
07 /האם אנחנו עומדים להפסיק לדבר זה עם זה?
יש משהו מפתה מאוד ברעיון ששתי מערכות חכמות ינהלו עבורנו שיחות קשות. הן אינן מתעייפות, אינן מרימות את הקול ואינן חייבות להגיב מתוך עלבון או כעס.
אבל יש גם משהו מטריד באפשרות הזאת. קונפליקטים בין בני אדם אינם רק בעיות שצריך לפתור. לעיתים הם הזדמנויות ללמוד להקשיב, להבין את האחר, לקחת אחריות, לבקש סליחה ולשנות את האופן שבו אנחנו מתנהלים במערכות יחסים. אם הבינה המלאכותית תפתור עבורנו כל מחלוקת, האם נאבד בהדרגה חלק מהיכולות האלה?
כאן, לדעתי, נמצא השימוש המעניין ביותר בטכנולוגיה כזו: לא לאפשר לסוכנים לדבר במקומנו, אלא לאפשר להם להכין אותנו לשיחה טובה יותר. הם יוכלו לעזור לנו להבין מה באמת חשוב לצד השני, להציע ניסוח פחות מאשים, לזהות נקודות הסכמה ולהציג אפשרויות שלא חשבנו עליהן. ואז להחזיר את השיחה לידיים שלנו.
אני יכול לדמיין עתיד שבו, לפני שיחה קשה עם בן זוג, שותף עסקי או עמית לעבודה, נבקש מהבינה המלאכותית האישית שלנו לדבר עם הבינה שלו. לא כדי להכריע מי צודק, אלא כדי לעזור לשנינו להגיע לשיחה עם קצת יותר הבנה וקצת פחות הגנות. ואולי דווקא בעולם שבו יותר ויותר מהתקשורת שלנו מתווכת באמצעות טכנולוגיה, זה יהיה אחד השימושים האנושיים ביותר בבינה מלאכותית.
השאלה אינה רק האם הבינה המלאכותית שלי תוכל לדבר עם הבינה המלאכותית שלך. השאלה היא האם בעקבות השיחה שלהן, אנחנו נצליח לדבר טוב יותר זה עם זה.
08 /מקורות
- Sharma M, Tong M, Korbak T, et al. Towards Understanding Sycophancy in Language Models. arXiv:2310.13548, 2023.
- Surapaneni R, Jha M, Vakoc M, Segal T. Announcing the Agent2Agent Protocol (A2A). Google Developers Blog, April 9, 2025.



תגובות
אין עדיין תגובות. מוזמנים להיות הראשונים.