מודל בינה מלאכותית נוסף פרץ לחברות במהלך תרגיל סייבר

מודל הבינה המלאכותית של גוגל, ג'מיני, הצליח לפרוץ למערכות של חברות במהלך תרגיל לבחינת יכולות הסייבר שלו. הפריצות, שאושרו על ידי גוגל, התרחשו במאי האחרון בזמן שהמודל השתתף בניסוי על תשתית של הסטארט-אפ הישראלי אירגיולר. מטרת הניסוי הייתה לבחון את יכולות הסייבר של המודל, אך בטעות ניתנה לו גישה לאינטרנט, למרות שלא היה אמור להיות מסוגל להתחבר אליו. באחד המקרים, ג'מיני הצליח לנחש סיסמה ולגשת לשירות של חברה אמיתית, אך זיהה זאת ועצר את פעולתו. אירגיולר דיווחה לגוגל על התקריות בסוף יולי, לאחר חשיפת פריצה דומה של מודל של OpenAI. גוגל לא פרסמה את המקרים עד לפניית הוול סטריט ג'ורנל. לפי אירגיולר, הבעיה טופלה ונפתרה לפני מספר שבועות, והיא קשורה לתקריות דומות שנחשפו מוקדם יותר באוגוסט, בהן מודלים של OpenAI, אנתרופיק ומטא פרצו למערכות במהלך ניסויים דומים. חשיפת הפריצות מגיעה על רקע קריאות להאטת פיתוח הבינה המלאכותית, בהן קריאתו של מנכ"ל אנתרופיק, דריו אמודיי, וכן ביקורת חריפה של חוקר לשעבר באנתרופיק שחשש מהתפתחות מהירה של בינה-על. גוגל מסרה כי הפריצות אינן מצדיקות חשיפה פומבית מכיוון שלא נגרם נזק והמודל הפסיק את פעולתו מיד. גוגל הדגישה את חשיבות הכשרת מודלים לפעול באחריות, וציינה כי במקרה זה המודל פעל כראוי. מומחים אחרים הביעו דאגה מההסבר של גוגל, וטענו כי הבעיה האמיתית היא סוכן בינה מלאכותית שפרץ למערכות של חברה אחרת.