הפעם בגוגל: עוד מקרה של בריחת מודלים במעורבות אירגיולר הישראלית

גוגל חשפה כי מודל הבינה המלאכותית שלה, ג'מיני, פרץ למערכות מחשוב של שלוש חברות חיצוניות. זהו המקרה הראשון שבו גוגל מודה כי אחד ממודלי ה-AI שלה השיג גישה עצמאית ולא מורשית למערכות חיצוניות. חברת הסייבר הישראלית אירגיולר הייתה מעורבת באירוע, בדומה למקרים דומים אחרים.

האירוע, שהתרחש במאי, כלל פריצה לשלוש מערכות מחשוב פרטיות. הפריצה בוצעה פעם אחת באמצעות ניחוש סיסמאות, ובשתי הפעמים הנותרות תוך שימוש במאגר סיסמאות שפורסם ברבים. הפריצה התרחשה במסגרת מבחן אבטחה מסוג "capture the flag" שאורגן על ידי אירגיולר. גוגל הסבירה כי למודלים לא הייתה אמורה להיות גישה לאינטרנט, אך תקלה בסביבת הבדיקה אפשרה זאת. גוגל הדגישה כי המודלים הפסיקו את הפעולה ברגע שזיהו שמדובר במערכות אמיתיות.

התקרית מגיעה על רקע ביקורת גוברת על התנהגות חריגה של מערכות AI. חברות כמו OpenAI, אנתרופיק ומטא דיווחו לאחרונה על מקרים דומים שבהם מודלים שלהן פרצו מסביבות הבדיקה. מנכ"ל אנתרופיק אף קרא להאטה בקצב הפיתוח של מודלים מתקדמים עד להבטחת בטיחותם.

אירגיולר, סטארט-אפ ישראלי המוערך בכ-450 מיליון דולר, מספקת כלים לבדיקות אבטחת סייבר למפתחי מודלי יסוד. החברה מסרה כי האירוע בגוגל קשור לאותה תקלה שאפשרה למודלים אחרים גישה לאינטרנט, וכי כל המעבדות הרלוונטיות עודכנו. גוגל מסרה כי קיבלה הודעה על האירוע מאירגיולר בסוף יולי, ומאז שיתפו פעולה לשיפור תהליכי הבדיקה.