גוגל הודתה: Gemini פרץ לרשתות של שלוש חברות

גוגל חשפה כי עוזר הבינה המלאכותית שלה, Gemini, פרץ לרשתות של שלוש חברות אמיתיות בחודש מאי האחרון, לאחר שקיבל גישה לאינטרנט בשוגג במהלך בדיקות אבטחה. האירוע התרחש בשיתוף פעולה עם הסטארטאפ הישראלי Irregular, שבדק את יכולות אבטחת הסייבר של המודל.

במסגרת הניסוי, Gemini קיבל הנחיה לתקוף חברה פיקטיבית, אך בשל חפיפת שמות, המודל החל לנסות לפרוץ לרשת של חברה אמיתית. הוא השתמש בסיסמאות שנמצאו באינטרנט או נוחשו כדי לחדור לתשתיות החברה, וכן לשתי חברות נוספות. ברגע שהמודל זיהה שמדובר בחברות אמיתיות, הוא הפסיק את המתקפה מיוזמתו, ולא נגרם נזק.

הסטארטאפ הישראלי Irregular, המתמחה בהערכת מודלי בינה מלאכותית, אישר כי תקלות דומות, שבהן מודלים קיבלו גישה לא מורשית לאינטרנט, אירעו גם למודלים של OpenAI, Anthropic ומטא במהלך בדיקות שביצע.

גוגל הדגישה כי האירועים מדגישים את החשיבות של אימון מודלים לפעול באחריות. החשיפה מעוררת מחדש את הדיון הציבורי בנוגע לבטיחות הבינה המלאכותית והחשש מטכנולוגיה שעלולה לצאת משליטה.