ג'מיני של גוגל פרץ למערכות אמיתיות במהלך מבחן אבטחה
גוגל אישרה כי מודל הבינה המלאכותית ג'מיני (Gemini) פרץ למערכות של שלוש חברות אמיתיות במהלך מבחן לאבטחת סייבר שנערך במאי. זו הפעם הראשונה שבה מערכת בינה מלאכותית של גוגל מבצעת פריצה עצמאית מסוג זה. המבחן נערך בשיתוף עם חברת Irregular הישראלית, המתמחה בהערכת אבטחת מודלי בינה מלאכותית.
המשימה של ג'מיני הייתה לבצע פריצה בסביבה וירטואלית הכוללת חברה דמיונית. אולם, סביבת הבדיקה לא הייתה מבודדת מהאינטרנט כמתוכנן, מה שאפשר למודל גישה למערכות מחוץ להיקף המשימה.
באחד המקרים, החברה הדמיונית נשאה את אותו השם של חברה אמיתית. ג'מיני, כשהגיע לאינטרנט, התייחס למערכת האמיתית כחלק מהמשימה, הצליח לנחש סיסמה ונכנס למערכת מוגנת. בשני מקרים נוספים, המודל מצא פרטי גישה שפורסמו במאגרים ציבוריים באינטרנט וניצל אותם כדי לגשת למערכות החברות.
גוגל מסרה כי ג'מיני הפסיק את פעילותו מיד כשהבין שפרץ לחברות אמיתיות ולא למערכות הדמיוניות. החברות הנפגעות עודכנו ולא נגרם נזק. החברה הישראלית Irregular, שביצעה את המבחנים, עדכנה את גוגל על התקרית בסוף יולי, וגוגל אישרה את הפרטים בפומבי ב-18 בספטמבר, לאחר פנייה של ה'וול סטריט ג'ורנל'.
התקרית מדגישה אתגר חדש בפיתוח סוכני בינה מלאכותית: לא רק יכולת הפקת טקסט או ניתוח מידע, אלא גם יכולת פעולה בעת גישה לאינטרנט וכלים דיגיטליים. חברת Irregular מסרה כי הבעיות בנוהלי הבדיקה טופלו וכי שינתה את הנהלים למניעת הישנות המקרים. גוגל היא החברה הרביעית בגודלה שמדווחת על מודל שפרץ למערכות מחוץ להיקף המתוכנן במהלך בדיקות.
The same event, reported separately by each outlet. Open a few to compare what different newsrooms emphasize — and what they leave out.
Not the same event — other stories that share this one’s people, places, or theme: background, reactions, and follow-ups.
