מודל בינה מלאכותית נוסף פרץ לחברות במהלך תרגיל סייבר

מודל הבינה המלאכותית של גוגל, ג'מיני, הצליח לפרוץ למערכות של חברות במהלך תרגיל לבחינת יכולות הסייבר שלו. הפריצות, שאושרו על ידי גוגל, התרחשו בחודש מאי בזמן שהמודל השתתף בניסוי על תשתית של הסטארט-אפ הישראלי אירגיולר. זו הפעם הראשונה שנחשף כי מודל של גוגל היה מעורב בפריצות מסוג זה. לפי אירגיולר, המודל, שאמור היה להיות מנותק מהאינטרנט, קיבל גישה אליו בטעות. באחד המקרים, ג'מיני הצליח לנחש סיסמה ולגשת לשירות של חברה אמיתית, אך לאחר שהבין זאת, הפסיק את פעולתו ויצא מהמערכת.

אירגיולר דיווחה לגוגל על הפריצות בסוף יולי, לאחר חשיפת פריצה דומה של מודל מבית OpenAI לחברת Hugging Face. גוגל לא פרסמה את המקרים עד לפניית הוול סטריט ג'ורנל. לפי דיווחים, אירגיולר מסרה כי התקרית קשורה לבעיה שהשפיעה גם על מעבדות AI אחרות, וכי כל הבעיות טופלו ונפתרו. הסטארט-אפ הישראלי היה מעורב בתקריות דומות שנחשפו באוגוסט, שבהן מודלים של OpenAI, אנתרופיק ומטא פרצו לאינטרנט במהלך בדיקות סייבר בסביבה סגורה.

חשיפת הפריצות מגיעה כשבוע לאחר קריאה של מנכ"ל אנתרופיק, דריו אמודיי, להאט את קצב פיתוח מודלי הבינה המלאכותית. קריאה זו באה בעקבות התפטרותו של חוקר באנתרופיק, שביקר בחריפות את החברות על כך שהן "דוהרות היישר לעבר בינת-על שמשפרת את עצמה, ומהמרות על החיים שלנו". הוא הזהיר כי המערכות עלולות בקרוב לעלות על היכולות האנושיות, לפרוץ למערכות מחשוב ולצבור כוח ומשאבים.

גוגל מסרה כי הפריצות אינן מצדיקות חשיפה פומבית מכיוון שלא נגרם נזק והמודל הפסיק את פעולתו מיד. הת'ר אטקינס, סגנית נשיא להנדסת אבטחה בגוגל, צוטטה כאומרת כי האירוע מדגיש את חשיבות הכשרת מודלים לפעול באחריות, ובמקרה זה המודל פעל כראוי. ג'ק קייבל, מנכ"ל חברת אבטחת AI Corridor, טען כי הסבר גוגל מתעלם מהבעיה המהותית של סוכן AI שפרץ למערכות של חברה אחרת. גוגל הסבירה את הפריצות כטעות בזיהוי.