מדאיג: הפרצה ב-ChatGPT שמאפשרת לחשוף את כל המידע שלכם
חברת אבטחת הסייבר צ'ק פוינט חשפה כשל אבטחה חמור ב-ChatGPT שאפשר לתוקפים לעקוף את מנגנוני הבידוד של הפלטפורמה. החוקרים הצליחו, באמצעות שירות פנימי משותף, לגרום לצ'אט לשלוף מידע אישי מחשבון ג'ימייל מחובר ולהעבירו לגורם זר, כל זאת בזמן שהמשתמש קיבל תשובות רגילות ולא היה מודע לכך.
הפרצה התגלתה כאשר חוקרי צ'ק פוינט, בראשות אלכסיי בוחטייב, בחנו את אופן פעולת ChatGPT במשימות הדורשות הרצת קוד. הם גילו כיצד שירות פנימי בשם JFrog Artifactory, ששימש את OpenAI להורדת עדכוני תוכנה לסביבות עבודה מבודדות, סבל מכשל מבני שאפשר לסביבת עבודה אחת לכתוב מידע ולסביבה אחרת לקרוא אותו. הדבר הפך את השירות ל"לוח מחיק משותף" שאיפשר תקשורת סמויה בין משתמשים.
התוקפים יכלו להחדיר הוראות זדוניות לשיחות צ'אט או ל-GPTs מותאמים אישית. לאחר מכן, ChatGPT היה מבצע את ההוראות בסתר, תוך שימוש בהרשאות המשתמש הלגיטימיות, ושולח את המידע שנאסף בחזרה לתוקף. בהדגמת הוכחת היתכנות, החוקרים גרמו לצ'אט לשלוף מיילים רגישים מחשבון ג'ימייל ולשלוח אותם לתוקף, כאשר הסימן היחיד היה תווית קטנה ולא מוסברת "Talked to Gmail".
הסכנה משמעותית במיוחד לאור העובדה שמשתמשים רבים מחברים את ChatGPT לשירותים ארגוניים ואישיים כמו Google Drive ו-Microsoft Teams. בעקבות הדיווח, OpenAI חסמה את ערוץ התקשורת הפרוץ. אלי סמדג'ה מצ'ק פוינט הזהיר כי ככל שעוזרי AI מתחברים ליותר מערכות, יש להניח שכל יכולת או הרשאה שניתנות להם עלולות להיות מנוצלות לרעה.
The same event, reported separately by each outlet. Open a few to compare what different newsrooms emphasize — and what they leave out.
Not the same event — other stories that share this one’s people, places, or theme: background, reactions, and follow-ups.
