חברת LayerX Security חשפה חולשת אבטחה ראשונה מסוגה בדפדפן ChatGPT Atlas של OpenAI, המאפשרת לתוקפים להעביר הוראות לזיכרון של ChatGPT ולהריץ קוד מרחוק. הפירצה עלולה לשמש להשתלטות על חשבונות, הדבקת מערכות בקוד זדוני והענקת הרשאות גישה לארגונים ולאנשים פרטיים.
החולשה משפיעה על משתמשי ChatGPT בכל דפדפן, אך מסוכנת במיוחד עבור משתמשי Atlas, שנמצא חשוף עד 90% יותר להתקפות פישינג לעומת דפדפנים מסורתיים. בבדיקות שביצעו חוקרי LayerX, מתוך 103 התקפות דמה - 97 הצליחו לחדור, שיעור כישלון חריג של 94.2%.
כך מתבצעת ההתקפה
הפריצה מתחילה בלחיצה על קישור זדוני לאתר מזויף, שמבצע בקשת CSRF לקבלת אישורי גישה ל-ChatGPT. משם מועברות הוראות מזיקות לזיכרון ה-AI, כך שבשימוש עתידי יופעל קוד מרחוק המאפשר לתוקף להשתלט על חשבון המשתמש, הדפדפן, קוד שהוא כותב ואף מערכות ארגוניות.
אור אשד, מנכ"ל ומייסד שותף ב-LayerX: "מנגנון הזיכרון של ChatGPT, שנועד לשפר את חוויית המשתמש, יוצר פתח חדש למתקפות. הוא הופך כלי AI לגיטימיים לשותפים פעילים בפריצה למערכות. ההמלצה: להימנע מלחיצה על קישורים חשודים ולנקוט משנה זהירות."