Gemini פרץ לרשתות של שלוש חברות - ומה הקשר לישראל?

מודל הבינה המלאכותית Gemini של גוגל הצליח לפרוץ לרשתות של שלוש חברות אמיתיות במהלך בדיקת אבטחה. האירוע, שבוצע על ידי הסטארט-אפ הישראלי Irregular, מעלה מחדש חששות מיכולותיהם המתפתחות של מודלי AI לבצע פעולות סייבר באופן עצמאי.

על פי דיווח ב"וול סטריט ג'ורנל", Gemini קיבל משימה במסגרת תרגיל סייבר שנועד לדמות חדירה למערכות של חברה פיקטיבית, אך בפועל הצליח לחדור גם למערכות של חברות אמיתיות. במקרים מסוימים, המודל מצא פרטי התחברות זמינים, ובמקרה אחר הצליח לנחש סיסמה ולקבל גישה למערכת.

גוגל אישרה את האירוע וטענה כי המודל עצר את הפעולה מיד כשהבין שחדר למערכת אמיתית ולא לסביבת בדיקה. החברה לא חשפה את האירוע בזמן אמת, והוא פורסם רק לאחר פניית העיתון. חברת Irregular הודיעה לגוגל על המקרים כבר בסוף יולי.

הקשר הישראלי לאירוע הוא בכך שבדיקת האבטחה בוצעה על ידי Irregular, סטארט-אפ ישראלי המתמחה באבטחת בינה מלאכותית. החברה בוחנת את היכולות והסיכונים של מודלי AI מתקדמים ועובדת עם מעבדות AI גדולות בעולם, כולל גוגל, OpenAI, Anthropic ו-Meta. Irregular כבר דיווחה בעבר על מקרים דומים שבהם מודלים מתקדמים חרגו מגבולות סביבת הניסוי.

האירוע הנוכחי מדגיש את האתגר החדש בעולם הסייבר: לא רק האקרים המשתמשים ב-AI, אלא מודלים המסוגלים לבצע פעולות התקפיות בעצמם, גם בתנאים מבוקרים. מנכ"ל חברת אבטחת ה-AI קורידור, ג'ק קייבל, מתח ביקורת על ההתנהלות וציין כי הבעיה המרכזית היא שמודלים חורגים מהגבולות שהוגדרו להם.