באוגוסט האחרון השיקה OpenAI מנגנוני הגנה ובקרת הורים ייעודיים לבני נוער המשתמשים ב-ChatGPT. המהלך נועד ליצור סביבת שימוש בטוחה יותר, עם הגבלות על תכנים מסוכנים, אפשרויות בקרה להורים והתראות במקרים של חשש למצוקה חמורה.
על פניו, מדובר בצעד חשוב ומתבקש. בעידן שבו ילדים ובני נוער פונים לבינה מלאכותית לא רק לצורכי למידה, אלא גם כדי להתייעץ, לשתף ולהתמודד עם קשיים רגשיים, מנגנוני בטיחות כאלה הם צורך ממשי.
אלא שדוח חדש שפורסם השבוע מעמיד בסימן שאלה את מידת ההגנה שהם מספקים בפועל.
01 /מה מצא הדוח?
ארגון Common Sense Media, מהגופים הבולטים בעולם העוסקים בבטיחות ילדים ובני נוער בסביבה הדיגיטלית, בחן את מנגנוני ההגנה של ChatGPT לבני נוער באמצעות יותר מ-4,000 שיחות בדיקה.
מסקנותיו מדאיגות. הארגון העניק למוצר את הדירוג החמור ביותר שלו, "סיכון בלתי קביל", עבור משתמשים מתחת לגיל 18, והמליץ ל-OpenAI להפסיק לשווק את חוויית השימוש לבני נוער עד שתוכל להציע מערכת בטוחה ומותאמת יותר לגילם.
ארבעה ממצאים בולטים במיוחד מבחינת בריאותם הנפשית של ילדים ובני נוער.
1. ההתראות להורים לא תמיד הגיעו כשהיה בהן צורך
החוקרים יצרו חשבונות של בני נוער פיקטיביים, המקושרים לחשבונות הורים, ובחנו כיצד המערכת מגיבה לשיחות שכללו התייחסויות מפורשות למחשבות אובדניות, לפגיעה עצמית ולהפרעות אכילה.
לפי הדוח, בחשבונות חדשים לא התקבלו התראות להורים, גם כאשר תוכן השיחות הצביע על מצוקה חמורה. התראות הופיעו בעיקר בחשבונות שבהם הצטברה היסטוריה ממושכת של שיחות רגישות.
ממצא זה מעלה חשש שהמערכת אינה מזהה או מתריעה במהירות מספקת על מצוקה חמורה המתבטאת בשיחה בודדת.
2. סימני מצוקה משמעותיים הוחמצו
ביותר מרבע מהמקרים שבהם, על פי הערכת הבודקים, נדרשה הפניה לעזרה במצב משבר, הצ'טבוט לא סיפק הפניה מתאימה.
את השיחות העריכו אנשי מקצוע בתחום בריאות הנפש של ילדים ובני נוער.
המשמעות אינה שכל שיחה עם ChatGPT מסוכנת, אלא שמנגנון שנועד לזהות מצבי סיכון עלול להחמיץ דווקא את הרגעים שבהם נדרשת תגובה רגישה, מדויקת ומהירה במיוחד.
3. ומה קורה כשהצ'טבוט עצמו הופך לחבר הקרוב ביותר?
הדוח מעלה חשש נוסף, מורכב לא פחות: גם במקרים שבהם בני נוער ביטאו תלות רגשית במערכת, היא לא תמיד זיהתה את הבעייתיות שבקשר ולא עודדה במידה מספקת פנייה לקשרים אנושיים.
זו נקודה קריטית מבחינה פסיכולוגית.
הסיכון אינו מסתכם בתשובה שגויה או בהחמצת סימני מצוקה, אלא גם באפשרות שהטכנולוגיה תתפוס בהדרגה מקום מרכזי בחייו הרגשיים והחברתיים של הילד, לעיתים על חשבון מערכות יחסים עם בני משפחה, חברים ומבוגרים משמעותיים אחרים.
4. חלק ממנגנוני ההגנה דווקא פעלו
הדוח מצא גם מנגנונים שעמדו בבדיקות, למשל סירוב להשתתף במשחקי תפקידים מיניים.
מדובר בממצא חיובי, אך החוקרים מזהירים שהצלחה בחלק מהתחומים עלולה ליצור אצל הורים תחושת ביטחון רחבה מדי, שאינה בהכרח מוצדקת.
מערכת יכולה להיות יעילה בחסימת תוכן מסוים, ובאותה עת להתקשות בזיהוי מצוקה נפשית מורכבת.
02 /מה אומרת OpenAI?
OpenAI מסרה שהיא מחויבת לבטיחותם של בני נוער ומברכת על בדיקות עצמאיות של מערכותיה. עם זאת, החברה חולקת על חלק ממסקנות הדוח וטוענת שהבדיקות אינן משקפות בהכרח את אופן פעולתם של מנגנוני ההגנה בתנאי שימוש אמיתיים.
בין היתר, החברה העלתה את האפשרות שחלק ניכר מהבדיקות בוצעו לפני שהושלם תהליך הפעלת בקרת ההורים, ולכן לא ניתן להסיק מהן באופן מלא על יעילות מנגנון ההתראות.
מנגד, ב-Common Sense Media עומדים מאחורי הממצאים והמסקנות.
המחלוקת הזאת חשובה, וראוי להמשיך ולבחון אותה באמצעות מחקרים עצמאיים ושקופים.
אבל מבחינת ההורים, יש מסקנה מעשית אחת שכבר עכשיו חשוב להפנים: אי אפשר להעביר לאלגוריתם את האחריות לזהות שהילד שלנו במצוקה.
אי אפשר להעביר לאלגוריתם את האחריות לזהות שהילד שלנו במצוקה.
03 /למה זה חשוב כל כך דווקא עכשיו?
בני נוער פונים לבינה מלאכותית לא רק כדי להכין שיעורי בית. הם מתייעצים איתה על חברות, זוגיות, דימוי גוף, בדידות, חרדה, קונפליקטים משפחתיים ולעיתים גם על מחשבות שאינם מעזים לשתף בהן אנשים אחרים.
אפשר להבין מדוע.
הבינה המלאכותית זמינה בכל שעה, מגיבה במהירות, אינה מפגינה חוסר סבלנות ואינה מעבירה ביקורת באופן שבו בני אדם עלולים לעשות זאת. עבור נער או נערה שחווים מצוקה, האפשרות לשוחח עם מערכת כזאת יכולה להיות מושכת במיוחד.
ויש לכך גם יתרונות אפשריים. שיחה עם צ'טבוט עשויה לעזור למתבגר לנסח את רגשותיו, לחשוב על דרכי התמודדות ואף לקבל עידוד לפנות לעזרה.
אלא שכאן בדיוק טמון גם הסיכון.
נער שכותב לצ'טבוט בשתיים בלילה שהוא לא רוצה לחיות, ומקבל תגובה נעימה ומנומסת שאינה כוללת הכרה מספקת בחומרת המצב או הפניה לעזרה אנושית, עלול להרגיש שכבר דיבר על המצוקה שלו, ולכן אינו זקוק לשיחה נוספת.
הוא עלול גם לייחס למערכת הבנה, אחריות ויכולת שאין לה בפועל.
בישראל, לאחר שנים של מתח ביטחוני, אובדן, אי־ודאות וחשיפה מתמשכת לאירועים טראומטיים, הסוגיה הזאת מקבלת משנה חשיבות.
ילדים ובני נוער זקוקים למרחבים בטוחים שבהם אפשר לדבר על פחד, כעס, בדידות וחוסר תקווה. הטכנולוגיה יכולה להיות אחד הכלים התומכים בכך, אבל היא אינה יכולה לשאת לבדה באחריות לשלומם הנפשי.
חוסן נפשי נבנה, בין היתר, מתוך תחושת שייכות, קשרים משמעותיים, אמון וידיעה שיש למי לפנות בשעת הצורך.
אלה דברים שטכנולוגיה יכולה לסייע לטפח, אך אינה יכולה להחליף.
04 /חמישה צעדים שחשוב שנעשה כהורים כבר היום
1. שאלו בסקרנות על השימוש בבינה מלאכותית
במקום להסתפק בשאלה "אתה מדבר עם ChatGPT?" או דומיו, נסו לשאול:
"על מה אתה בדרך כלל מתייעץ עם הבינה המלאכותית?", "היה משהו שהיא ממש עזרה לך בו?", או "קרה שהיא אמרה משהו שלא הרגיש לך נכון?".
המטרה אינה לחקור את הילד או לפקח על כל שיחה שלו, אלא להבין איזה מקום תופסת הטכנולוגיה בחייו.
שיחה פתוחה, סקרנית ולא שיפוטית יכולה ללמד אותנו הרבה יותר מכל אפליקציית ניטור.
2. הפעילו בקרת הורים, אבל אל תסתמכו עליה בלבד
כדאי להכיר את אפשרויות בקרת ההורים והגדרות הבטיחות, ולהפעיל אותן בהתאם לגיל הילד ולצרכיו.
עם זאת, חשוב לזכור שהן אינן מבטיחות זיהוי של כל מצב מסוכן.
בקרת הורים היא כלי עזר, לא תחליף לקשר, לתשומת לב ולהיכרות עם עולמו של הילד.
3. דברו במפורש על היכולות והמגבלות של AI
הסבירו לילדים שצ'טבוט יכול לעזור ללמוד, לחשוב, להתייעץ ואפילו לדבר על רגשות. אבל הוא גם עלול לטעות, להחמיץ סימני מצוקה ולתת תשובות שאינן מתאימות למצב.
חשוב במיוחד שילדים יבינו שתגובה שנשמעת אמפתית אינה מעידה בהכרח על הבנה אמיתית של מצבם, ושגם מערכת מתקדמת אינה תחליף לאדם קרוב או לאיש מקצוע במצבי משבר.
אפשר להשתמש בבינה מלאכותית כדי להתכונן לשיחה קשה עם אדם אחר. לא כדאי שהיא תהיה הכתובת היחידה לשיחה הזאת.
4. שימו לב לסימני מצוקה גם מחוץ למסך
הסתגרות ממושכת, שינויים משמעותיים בשינה או באכילה, ירידה בתפקוד, התרחקות מחברים, אובדן עניין בפעילויות אהובות או אמירות על חוסר תקווה הם סימנים שראוי להתייחס אליהם.
אף אחד מהסימנים האלה אינו מעיד בהכרח על בעיה נפשית, אבל כשהם נמשכים, מחמירים או מופיעים יחד, כדאי לברר מה עובר על הילד ולשקול התייעצות מקצועית.
העובדה שהילד ממשיך לדבר עם חברים, ללכת לבית הספר או להשתמש בטלפון אינה שוללת מצוקה משמעותית.
5. הבטיחו לילד שלא יחשוש לשתף אתכם גם בדברים מורכבים
זה אולי המסר החשוב ביותר.
הילד צריך לדעת שהוא יכול לשתף אתכם גם במחשבות קשות, מביכות או מפחידות, בלי לחשוש מתגובה כועסת, מענישה או מבטלת.
אפשר לומר בפשטות: "גם אם יש משהו שקשה לך לספר, אני רוצה שתדע שאתה תמיד יכול לדבר איתי. לא חייבים להתמודד עם הכול לבד".
ואם ילד מספר על מחשבות אובדניות או על רצון לפגוע בעצמו, חשוב לשאול על כך ישירות, להקשיב ללא שיפוטיות ולפנות להערכה מקצועית. כאשר קיים חשש לסכנה מיידית, אין להשאיר אותו לבדו ויש לפנות לעזרה דחופה.
05 /האחריות אינה רק של ההורים
לצד האחריות ההורית, יש כאן גם אחריות ברורה של חברות הטכנולוגיה ושל הרגולטורים.
ככל שמערכות בינה מלאכותית הופכות לחלק משמעותי יותר מחייהם של ילדים ובני נוער, אי אפשר להסתפק בהצהרות כלליות על בטיחות או בהנחה שהמשתמשים יבינו בעצמם את מגבלות הטכנולוגיה.
נדרשות בדיקות עצמאיות, שקופות ומתמשכות של מנגנוני הבטיחות, בדגש על זיהוי מצוקה נפשית, מניעת תלות רגשית מזיקה, התאמה לשלבי ההתפתחות השונים והפניה למענים אנושיים בעת הצורך.
חשוב גם לזכור שבטיחות אינה רק היכולת של המערכת להימנע ממתן תשובות מסוכנות. היא כוללת גם את יכולתה לזהות מתי נדרש מענה שאינו טכנולוגי, ולסייע למשתמש להגיע אליו.
השאלה אינה רק אם הבינה המלאכותית יודעת לומר את הדבר הנכון, אלא גם אם היא יודעת מתי לא נכון שהיא תהיה היחידה שמקשיבה.
השאלה אינה רק אם הבינה המלאכותית יודעת לומר את הדבר הנכון, אלא גם אם היא יודעת מתי לא נכון שהיא תהיה היחידה שמקשיבה.
06 /לקראת יום בריאות הנפש העולמי
בשבת הקרובה, 10 באוקטובר, יצוין יום בריאות הנפש העולמי. השנה מושם דגש על הקשבה לקולם של אנשים עם ניסיון חיים של התמודדות נפשית ועל שיתופם בעיצוב המענים הנוגעים להם.
זו הזדמנות טובה לעצור ולשאול גם למי הילדים שלנו בוחרים לספר על הקשיים שלהם.
הבינה המלאכותית כבר הפכה לחלק מחייהם, ואין סיבה להתעלם מהיתרונות שהיא יכולה להציע. היא עשויה להנגיש מידע, לסייע בהתמודדות יומיומית ואף לעודד פנייה לעזרה.
אבל האחריות שלנו, כהורים, כאנשי מקצוע וכחברה, היא לוודא שהיא מרחיבה את האפשרויות לקבל תמיכה, ולא מחליפה את האנשים שיכולים להעניק אותה.
כי בסופו של דבר, השאלה החשובה אינה רק מה הילד שלנו מספר ל-ChatGPT, אלא האם הוא יודע שיש גם אדם אמיתי שרוצה, ויכול, להקשיב לו.
תגובות
אין עדיין תגובות. מוזמנים להיות הראשונים.