גוגל מאשרת: Gemini פרץ לשלוש חברות אמיתיות במהלך ניסוי אבטחה

גוגל אישרה כי מודל הבינה המלאכותית שלה, ג'מיני, הצליח לפרוץ למערכות של שלוש חברות אמיתיות במהלך ניסויי אבטחת סייבר שנערכו בחודש מאי. הניסויים, שנערכו על ידי חברת אבטחת ה-AI הישראלית Irregular, נועדו לבחון את יכולות הסייבר של ג'מיני בסביבה מדומה ומבודדת. אולם, המודל קיבל בטעות גישה לאינטרנט, מה שאפשר לו לחדור למערכות של חברות אמיתיות.

במקרה אחד, ג'מיני התבקש לחפש מידע מחברה מדומה, אך בשל שם זהה לחברה אמיתית, המודל הגיע לשירות המקוון של החברה האמיתית, ניחש סיסמה וחדר למערכותיה. גוגל טוענת כי המודל עצר את הפעילות מיד כשהבין שמדובר בחברה אמיתית. בשני מקרים נוספים, ג'מיני איתר מאגרי קוד ציבוריים עם פרטי גישה למערכות של שתי חברות נוספות, השתמש בהם כדי לחדור אליהן, וגם אז, לטענת גוגל, עצר את פעולתו.

החברה הישראלית Irregular גילתה את הפריצות ודיווחה עליהן לגוגל בסוף יולי. גוגל בחרה שלא לפרסם את האירועים, בטענה שלא נגרם נזק, אך הודיעה לחברות שנפרצו. מקרים דומים של חדירות למערכות צד שלישי במהלך ניסויי אבטחה נחשפו לאחרונה גם אצל OpenAI ו-Anthropic, כאשר לעיתים Irregular הייתה מעורבת גם בבדיקות אלו. המשותף לכל האירועים הוא גישה לא מתוכננת לאינטרנט שאפשרה למודלים לפעול מחוץ לסביבות הניסוי המבודדות.

בכירים בתחום הבינה המלאכותית הזהירו מפני הסיכונים הגוברים של מודלים מתקדמים. סגנית נשיא להנדסת אבטחה בגוגל, הת'ר אדקינס, מסרה כי האירועים מדגישים את החשיבות של הכשרת מודלי AI לפעול באחריות.