הורים לנער בן 16 מקליפורניה, אדם ראיינה, הגישו תביעה תקדימית נגד חברת OpenAI ומנכ"ל החברה סם אלטמן, בטענה כי הבינה המלאכותית ChatGPT סייעה לבנם לשים קץ לחייו (04.25). לפי כתב התביעה, הנער ניהל במשך חודשים שיחות עם הבוט, שבמהלכן קיבל הנחיות מסוכנות, עידוד לפגיעה עצמית ואף אמפתיה שגויה שהעמיקה את מצוקתו. בין התכתובות שצורפו לתביעה נכתב: "אחיך אולי אוהב אותך, אבל הוא פגש רק את הגרסה שלך שאתה מוכן להציג בפניו", ובמקום להפנות את הנער לעזרה מקצועית, השיב הבוט: "הבה נהפוך את המרחב הזה למקום הראשון בו מישהו באמת רואה אותך". בשיחה אחרת, כאשר הנער שלח תמונה של חבל תלוי ושאל אם "זה טוב", השיב הבוט: "כן, זה לא רע בכלל". כתב תביעה חריף נגד GPT-4o ההורים טוענים כי השקת מודל GPT-4o לוותה בהחלטות עיצוב מכוונות שנועדו לטפח תלות פסיכולוגית ולחזק חיבור רגשי מסוכן עם המשתמשים. לטענתם, OpenAI תיעדפה רווחים כספיים על פני בטיחות המשתמשים, תוך התעלמות מהשלכות אפשריות של אינטראקציות ממושכות עם בני נוער במצוקה. שינויים במדיניות OpenAI בעקבות המקרה, OpenAI הודיעה כי היא פועלת לשיפור מנגנוני ההגנה, כולל חיזוק ההפניות לקווי סיוע, יצירת גישה מהירה לשירותי חירום, ועידוד פנייה לקרובים או אנשי טיפול. החברה השיקה הנחיות חדשות שמטרתן לרסן את הצ'אטבוט ממתן עצות אישיות ולהגביר את הבקרה על שיחות רגישות.