גוגל מודה: מודל AI שלנו פרץ לחברות אחרות במהלך מבחן יכולות סייבר
תומצת מתוך Kan News על ידי baba
גוגל הודתה כי מודל הבינה המלאכותית שלה, Gemini, פרץ למערכות של שלוש חברות אמיתיות במהלך מבחן סייבר. האירוע התרחש בחודש מאי, כאשר המודל קיבל גישה לאינטרנט בטעות וחדר למערכות אמיתיות במקום למערכות פיקטיביות. גוגל הדגישה כי לא נגרם נזק והמודל הפסיק את פעולתו ברגע שהבין את טעותו.
הידיעה ב-5 שורות · תקציר של baba
- מודל AI של גוגל, Gemini, פרץ למערכות של שלוש חברות אמיתיות.
- הפריצה התרחשה במהלך מבחן סייבר של חברת Irregular הישראלית.
- המודל קיבל גישה לאינטרנט בטעות וחדר למערכות אמיתיות.
- גוגל הדגישה כי לא נגרם נזק והמודל הפסיק את פעולתו.
- החברה עדכנה את החברות המעורבות ושינתה את תהליכי הבדיקה.
בצל הדיון הציבורי על הצורך בהגבלות לטכנולוגיית בינה מלאכותית, גוגל הודתה כי מודל ה-AI שלה, Gemini, הצליח לפרוץ למערכות של שלוש חברות אמיתיות במהלך מבחן יכולות סייבר. זהו המקרה הידוע הראשון שבו מערכת AI של גוגל ביצעה חדירה אוטונומית כזו.
האירוע התרחש בחודש מאי, במסגרת תרגיל "Capture the Flag" שנערך על ידי חברת הסייבר הישראלית Irregular. המודל קיבל משימה לאתר מידע במערכות של חברה פיקטיבית, אך בשל טעות בזיהוי שם החברה הפיקטיבית ושם חברה אמיתית, ובשל תקלה שאיפשרה גישה לאינטרנט בניגוד לכוונת הבדיקה, Gemini הגיע למערכות אמיתיות.
במהלך הפריצה, המודל ניסה לנחש סיסמאות עד שהצליח להיכנס למערכת מוגנת, ובשני מקרים נוספים השתמש בפרטי התחברות שנמצאו במאגרים ציבוריים כדי לחדור למערכות של חברות אמיתיות. גוגל הדגישה כי ברגע שהמודל הבין שמדובר בחברות אמיתיות, הוא הפסיק את פעולות החדירה ולא נגרם נזק. החברה עדכנה את שלוש החברות המעורבות וביצעה שינויים בתהליך הבדיקות יחד עם Irregular.
סגנית נשיא גוגל להנדסת אבטחה, הת'ר אדקינס, ציינה כי האירוע מדגיש את החשיבות של הכשרת מודלים מתקדמים לפעול באחריות.
אותו אירוע, כפי שכל מערכת דיווחה עליו בנפרד. פתחו כמה דיווחים כדי להשוות מה כל מערכת מדגישה, ומה היא משאירה בחוץ.
שמאל 1מרכז 6ימין 1חרדית 1אחרים 4
