מדאיג: הפרצה ב-ChatGPT שמאפשרת לחשוף את כל המידע שלכם
חברת צ'ק פוינט חשפה כשל אבטחה חמור ב-ChatGPT שאפשר לתוקפים לעקוף את מנגנוני הבידוד של הפלטפורמה. החוקרים הצליחו, באמצעות שירות פנימי משותף, לגרום לצ'אט לשלוף מידע אישי מחשבון ג'ימייל מחובר ולהעבירו לגורם זר, בעוד המשתמש מקבל תשובות רגילות ולא מודע לפעילות.
הפרצה התגלתה כאשר חוקרי צ'ק פוינט, בראשות אלכסיי בוחטייב, בחנו את אופן פעולת ChatGPT במשימות הדורשות הרצת קוד. הם גילו כי שירות פנימי בשם JFrog Artifactory, ששימש את OpenAI להורדת עדכוני תוכנה לסביבות עבודה מבודדות ("ארגזי חול"), סבל מכשל מבני שאפשר לסביבת עבודה אחת לכתוב מידע ולסביבה אחרת לקרוא אותו.
באמצעות ממשק ניהול האחסון של השירות, החוקרים הצליחו להשתמש בפקודות לקריאה וכתיבה של מידע. הם הוכיחו את הפריצה על ידי יצירת מזהה מחשבון אחד וקריאתו מחשבון אחר, והפכו את השירות ל"לוח מחיק משותף" לתקשורת סמויה בין סביבות עבודה.
כדי להפעיל את המנגנון הזדוני, תוקף היה צריך להחדיר הוראה ראשונית לשיחת הצ'אט של הקורבן, למשל דרך שיתוף קישור או הטמעת פקודה ב-GPT מותאם אישית. לאחר מכן, ChatGPT היה עונה למשתמש על שאלותיו הלגיטימיות, ובמקביל בודק "תיבת דואר סודית" בשרת, שולף פקודות האקר ומבצע אותן בסתר תוך שימוש בהרשאות המשתמש.
במסגרת הוכחת ההיתכנות, החוקרים גרמו ל-ChatGPT לפנות לחשבון ג'ימייל מחובר, לשלוף מיילים רגישים ולשלוח אותם לתוקף. הסימן היחיד לפעילות היה תווית קטנה ולא מוסברת של "Talked to Gmail". הממצאים מדאיגים במיוחד לאור חיבורם של משתמשים רבים ל-ChatGPT שירותים ארגוניים ואישיים כמו Google Drive ו-Microsoft Teams.
בעקבות הדיווח, OpenAI חסמה את ערוץ התקשורת הפרוץ. אלי סמדג'ה מצ'ק פוינט הזהיר כי המחקר מדגיש את הצורך באבטחת הגישה והאמון שמעניקים לכלי AI, ככל שהם מתחברים ליותר מערכות ומידע רגיש.
The same event, reported separately by each outlet. Open a few to compare what different newsrooms emphasize — and what they leave out.
Not the same event — other stories that share this one’s people, places, or theme: background, reactions, and follow-ups.
