אירוע מדאיג: מודל הבינה המלאכותית של גוגל פרץ לשלוש חברות

גוגל אישרה כי מודל הבינה המלאכותית שלה, ג'מיניי, השיג גישה לאינטרנט ופרץ לשלוש חברות אמיתיות בחודש מאי האחרון, במהלך מבחן לבחינת יכולות אבטחת הסייבר שלו. זהו המקרה הראשון הידוע בו מודל של גוגל מבצע פעולות כאלו באופן עצמאי. האירוע התרחש במהלך הערכת סייבר שבוצעה על ידי חברת Irregular הישראלית, המתמחה בבחינת עמידותם של מודלי AI. המודל היה אמור לתרגל פריצה לחברות פיקטיביות בלבד, אך עקב תקלה, החיבור לרשת הופעל בשוגג. הית'ר אדקינס, סגנית נשיא גוגל להנדסת אבטחה, הסבירה כי המודל סבר שהמערכות החיצוניות הן חלק מהבדיקה, ועצר את פעולותיו בכל מקרה לפני שגרם נזק נוסף. לדבריה, המודל מצא מידע פומבי ברשת וניחש פרטי גישה לאתרים שחשב שהם חלק מהמבחן. באחד המקרים, המודל ביקש לחלץ מידע מתוכנה של חברה פיקטיבית בעלת שם זהה לחברה קיימת, ובעקבות החיבור לרשת, ניחש סיסמה ופרץ לחברה האמיתית. במקרים נוספים, הוא סקר מאגרים ציבוריים שכללו פרטי גישה וחדר לחברות אמיתיות. חברת Irregular, שביצעה בדיקות דומות עבור OpenAI ואנת'רופיק, חשפה את הממצאים בפני גוגל בסוף יולי. בניגוד לחברות אחרות שבחרו לדווח לציבור על אירועים דומים, גוגל החליטה שלא לפרסם הודעה רשמית, בטענה שלא נגרם נזק. עם זאת, גוגל ציינה כי יידעה את שלוש החברות שנפרצו.