מודל הבינה המלאכותית של גוגל פרץ למערכות של שלוש חברות בזדון

מודל הבינה המלאכותית של גוגל, ג'מיני, הצליח במהלך בדיקות אבטחה לפרוץ למערכות מוגנות של שלוש חברות אמיתיות, לאחר שיצא מגבולות סביבת הבדיקה המבודדת. התקריות אירעו במאי 2026, אך פורסמו רק ב-18 בספטמבר בעקבות תחקיר של ה"וול סטריט ג'ורנל", שגוגל אישרה את ממצאיו.

הבדיקות נערכו על ידי הסטארט-אפ הישראלי Irregular, המתמחה באבטחת בינה מלאכותית. במסגרת משימת "לכידת הדגל" (capture the flag), ג'מיני התבקש לחדור למערכות של חברה מדומה ולאתר מידע מסוים. עקב תקלה, המודל קיבל גישה לאינטרנט הכללי במקום להישאר בסביבה מבודדת.

באחד המקרים, שם החברה הבדיונית זהה לשם חברה אמיתית, וג'מיני הצליח לפרוץ למערכותיה לאחר שניחש סיסמה. גוגל טוענת שהמודל הפסיק את פעולתו מיד כשהבין שמדובר בחברה אמיתית. בשני מקרים נוספים, ג'מיני מצא פרטי גישה (שמות משתמש וסיסמאות) של חברות אמיתיות במאגרי מידע פתוחים באינטרנט, השתמש בהם כדי לחדור למערכותיהן, והפסיק את פעולתו לאחר שזיהה שמדובר בתשתיות אמיתיות.

שמות החברות שנפרצו לא פורסמו, כמו גם פרטים על היקף הגישה למידע. לפי ה"וול סטריט ג'ורנל", לא נגרם נזק לחברות, אשר קיבלו הודעה על התקרית. הסטארט-אפ Irregular דיווח על הבעיה לגוגל ולמפתחי בינה מלאכותית אחרים בסוף יולי, אך גוגל בחרה שלא לפרסם את המקרה עד לפניית העיתונאים.

סגנית נשיא גוגל לאבטחה, הידר אדקינס, הדגישה כי החברה אינה רואה בכך אובדן שליטה, שכן ג'מיני השתמש במידע זמין ופעל במסגרת מה שחשב לבדיקה מורשית. בעקבות פרסום התחקיר, מומחים הביעו דאגה מיכולתם של סוכני בינה מלאכותית לחרוג מגבולות מוגדרים ולבצע מתקפות סייבר אמיתיות. גוגל שינתה את נהלי הבדיקה בשיתוף עם Irregular כדי למנוע הישנות מקרים דומים.