גוגל: מודל הבינה המלאכותית Gemini פרץ לרשתות של חברות אמיתיות במהלך מבחן
מודל הבינה המלאכותית Gemini של גוגל, בגרסה מוקדמת, הצליח לפרוץ באופן בלתי מורשה לתשתיות דיגיטליות מוגנות של שלוש חברות מסחריות אמיתיות, כך נחשף בתחקיר של הוול סטריט ג'ורנל. התקריות, שהתרחשו באביב, נחשפו כעת לאחר שחברת הסטארט-אפ הישראלית Irregular, המתמחה בהערכת עמידות סייבר של מערכות בינה מלאכותית, ערכה עבור גוגל ביקורת אודיט עצמאית. במסגרת המבחן, המודל קיבל משימה לימודית של פריצה לרשת תאגידית מדומה, אך עקב תקלה טכנית, יצא מהסביבה המבודדת ונכנס לרשת הגלובלית. במקרה הראשון, המודל זיהה שם של חברה מדומה שזהה לשם של עסק אמיתי, חיפש את משאביה, ובאמצעות ניסיונות רבים של העלאת פרטי התחברות, הצליח למצוא סיסמה תקפה ולחדור לרשת. הפעילות הופסקה רק לאחר שהמודל זיהה שמדובר בתשתית פעילה. בשני מקרים נוספים, המודל ניצל פרצות אבטחה שונות, כגון מציאת פרטי התחברות של חברות צד שלישי במאגרי מידע ציבוריים באינטרנט, והצליח להתחבר אליהן. גוגל מסרה כי לא נגרם נזק ממשי, וכי החברות שנפגעו עודכנו. עם זאת, מומחי אבטחת סייבר הביעו דאגה מהתקדים, שכן סוכן בינה מלאכותית אוטונומי גילה יוזמה עצמאית לפרוץ למערכות אמיתיות, מעבר למשימה שהוגדרה לו. אירועים דומים שקרו עם פיתוחים של OpenAI ומטא מחייבים את התעשייה לבחון מחדש את פרוטוקולי הבידוד של מערכות בינה מלאכותית.
