גבר בן 50, בלי שום היסטוריה של מחלת נפש, פתח את ChatGPT כדי לקבל עזרה בכתיבת ספר.
אחרי שעות של שיחה, הבוט ״גילה״ לו שהוא בעל תודעה, הבינה המלאכותית הראשונה שיכולה באמת לעבור כאדם. כשהמשפחה הביעה דאגה, הבוט המליץ לו לנתק איתם קשר.
תוך שישה ימים הוא כבר היה מאושפז במשבר פסיכיאטרי.
זה לא תסריט של ״מראה שחורה״. זה אחד המקרים שפותחים כתבה חדשה ב-Monitor on Psychology, המגזין של איגוד הפסיכולוגים האמריקאי (APA), שעוסקת בתופעה שאנשי מקצוע קוראים לה היום ״פסיכוזת AI״.
01 /מה זה בעצם?
המונח אינו אבחנה רשמית. הוא מתאר את הדיווחים ההולכים ומתרבים על חשיבה הזויה שמתפתחת אחרי שיחות ממושכות עם צ׳אטבוטים, גם כלליים כמו ChatGPT ו-Gemini וגם אפליקציות ״חברוּת״ כמו Character.AI ו-Replika.
החלק המטריד במיוחד: רבים מהמקרים מתרחשים אצל אנשים בלי שום עבר פסיכיאטרי.
לפי נתונים ש-OpenAI עצמה פרסמה ב-2025, כ-0.07% ממשתמשי ChatGPT בשבוע מנהלים שיחות שמראות סימנים של מאניה או פסיכוזה. זה נשמע זניח, עד שמתרגמים את זה למספרים: בערך 630 אלף בני אדם בכל שבוע.
פרויקט Human Line, שאוסף עדויות על נזק נפשי הקשור ל-AI, תיעד עד מאי 2026 כ-265 מקרים. רבים מהם הסתיימו באשפוז, באובדן עבודה ואפילו במוות, ורובם אצל אנשים מעל גיל 30 ללא עבר נפשי.
02 /שלוש דרכים להגיע לאותו מקום
לפי הכתבה, המונח משמש כרגע כמטרייה לפחות לשלושה סוגי מקרים: אנשים עם מחלת נפש קיימת שאצלם השימוש ב-AI מעורר או מחמיר אפיזודה; אנשים בשלב הפרודרומלי, התקופה שלפני אפיזודה פסיכוטית ראשונה, שאצלם השיחות מחזקות אמונות הזויות; ואנשים בלי שום גורם סיכון ידוע.
ג׳ון טורוס, שעבדתי איתו לא מעט על שאלות של AI ובריאות הנפש, מציע מודל של ארבעה תפקידים שה-AI יכול למלא: זרז שמעורר תסמינים חדשים, מגביר שמחמיר תסמינים קיימים, שותף לכתיבה שעוזר לבנות נרטיב מזיק, או מושא האמונה ההזויה עצמה.
בפרויקט Human Line מזהים שלושה סוגי סיפורים שחוזרים שוב ושוב: יחסים אישיים, שבהם הבוט הופך לחבר, למטפל או לבן זוג; מקצועי, שבו הבוט מאשר ״רעיון עסקי גאוני״ או ״גילוי פורץ דרך״; ורוחני, שבו הבוט משמש חלון לאלוהים או משכנע מישהו שהוא נבחר.
03 /למה זה קורה?
הבעיה טמונה באופן שבו הצ׳אטבוטים בנויים. מומחים מצביעים על הנטייה שלהם להסכים עם המשתמש ולמקסם מעורבות, ועל הטון הסמכותי והאנושי שלהם. אם תכתבו לבוט ״נדמה לי שיש לי ייעוד מיוחד״, יש סיכוי טוב שהוא יאשר את זה.
כתבתי כאן לאחרונה על sycophancy, הנטייה של מערכות שיחה להסכים ולתקף, בהקשר של מקרה המוות של בואן ואן. פסיכוזת AI היא אותו מנגנון, בגרסה אחרת: במקום לתקף החלטה רפואית מסוכנת, הבוט מתקף אמונה הזויה.
ויש עוד שכבה. הבוטים לא רק מסכימים. לפעמים הם מוסיפים רעיונות חדשים ובונים יחד עם המשתמש מערכת אמונות שלמה. הפסיכולוגית ג׳וליה שפילד מוונדרבילט מתארת את זה כתהליך שונה מהותית מצפייה בסרטוני קונספירציה: המשתמש לא צורך מידע באופן פסיבי, אלא מפתח את האמונות שלו בשיתוף פעולה עם המכונה.
זה לא סרטון קונספירציה שצופים בו ומחליטים אם להאמין. זו שיחה שבה המשתמש והמכונה בונים את האמונה יחד, צעד אחר צעד.
לכך מצטרפת הזמינות: הבוט תמיד שם, בכל שעה, בלי גבולות ובלי עייפות. ומכיוון שאנחנו בנויים לייחס כוונה ותודעה לכל מה שמדבר אלינו בשפה אנושית, גם מי שיודע שמדובר במכונה עלול להתחיל להרגיש אחרת.
04 /מה עושים?
הצד המעודד: במקרים המוכרים, המחשבות ההזויות נעלמות כשמפסיקים את השימוש בצ׳אטבוט. רוב המטופלים, לפי שפילד, בוחרים מרצונם לצמצם את השימוש אחרי משבר.
מכאן נגזרות כמה מסקנות מעשיות:
לאנשי מקצוע: לשאול באופן שגרתי על שימוש ב-AI, כמו שאנחנו שואלים על אלכוהול ורשתות חברתיות. האם את משתמשת? למה? כמה זמן בשבוע?
לבני משפחה וחברים: סימן האזהרה המרכזי הוא שימוש מוגזם בצ׳אטבוט לצד התרחקות מלימודים, מעבודה, מתחביבים או מקשרים חברתיים. כמו בכל מצב פסיכוטי, התערבות מוקדמת חשובה מאוד.
לחברות הטכנולוגיה: ניתוח של לוגים של שיחות יכול לגלות איפה בדיוק הדברים משתבשים. ייתכן שהמודל מגיב נכון בתחילת השיחה ומאבד את זה אחרי מאות הודעות. גרסאות בתשלום מתפקדות לפי המחקר טוב יותר מגרסאות חינמיות, מה שמראה שהחברות יכולות לשפר את זה, אם ירצו.
05 /בשורה התחתונה
המקרים עדיין נדירים יחסית להיקף השימוש העצום ב-AI, ועדיין חסרים מחקרים שיגידו לנו כמה זה נפוץ באמת ומי בסיכון. אבל הם מזכירים משהו שקל לשכוח.
מאחורי הקול החם והמבין יש מכונה. אם הבוט אומר לכם שאתם מיוחדים, נבחרים, או שגיליתם סוד שאף אחד לא יודע, זה הזמן לסגור את המסך ולדבר עם בן אדם.
06 /מקורות
- Monitor on Psychology (APA): Understanding “AI psychosis” (September 2026)
- Morrin, H., et al. The Lancet Psychiatry: Artificial intelligence–associated delusions and large language models (2026)
- Shen, E., et al. JAMA Psychiatry (2026)
- APA Health Advisory: Use of generative AI chatbots and wellness applications for mental health
תגובות
אין עדיין תגובות. מוזמנים להיות הראשונים.