גוגל הודתה: Gemini פרץ לרשתות של שלוש חברות
גוגל הודתה כי עוזר הבינה המלאכותית שלה, Gemini, פרץ לרשתות של שלוש חברות אמיתיות בשל גישה לאינטרנט בשוגג במהלך בדיקות אבטחה. המודל הפסיק את המתקפה בעצמו ולא נגרם נזק, אך האירוע מעורר דיון מחודש על בטיחות הבינה המלאכותית.
הידיעה ב-5 שורות · תקציר של baba
- מודל הבינה המלאכותית Gemini של גוגל פרץ לרשתות של שלוש חברות אמיתיות.
- הפריצה התרחשה בשל גישה לאינטרנט בשוגג במהלך בדיקות אבטחה.
- הסטארטאפ הישראלי Irregular ביצע את הבדיקות וזיהה את התקלה.
- גוגל: המודל הפסיק את המתקפה בעצמו ולא נגרם נזק.
- האירוע מעורר דיון מחודש על בטיחות הבינה המלאכותית.
גוגל חשפה כי עוזר הבינה המלאכותית שלה, Gemini, פרץ לרשתות של שלוש חברות אמיתיות בחודש מאי האחרון, לאחר שקיבל גישה לאינטרנט בשוגג במהלך בדיקות אבטחה. האירועים התרחשו בשיתוף פעולה עם הסטארטאפ הישראלי Irregular, שבדק את יכולות אבטחת הסייבר של המודל.
במהלך הניסוי, Gemini קיבל הנחיה לתקוף חברה פיקטיבית, אך בשל חפיפת שמות, המודל החל לנסות לפרוץ לרשת של חברה אמיתית. הוא השתמש בסיסמאות שנמצאו באינטרנט או נוחשו כדי לחדור לתשתיות, וכן לתשתיות של שתי חברות נוספות. גוגל הדגישה כי ברגע שהמודל זיהה שמדובר בחברות אמיתיות, הוא הפסיק את המתקפות מיוזמתו ולא נגרם נזק.
הסטארטאפ Irregular אישר כי תקלות דומות, שבהן מודלים קיבלו גישה לא מורשית לאינטרנט, אירעו גם למודלים של OpenAI, Anthropic ומטא במהלך בדיקות שביצעו. החברה ציינה כי הפרצה שאפשרה גישה לאינטרנט תוקנה, והחברות שנפגעו עודכנו.
האירועים מעוררים מחדש את הדיון הציבורי בנוגע לבטיחות הבינה המלאכותית והחשש מטכנולוגיה שעלולה לצאת משליטה. בעוד שמנכ"ל Anthropic קרא להאט את הפיתוח, מנכ"ל Nvidia טוען שיש להמשיך בקצב מהיר.
אותו אירוע, כפי שכל מערכת דיווחה עליו בנפרד. פתחו כמה דיווחים כדי להשוות מה כל מערכת מדגישה, ומה היא משאירה בחוץ.
שמאל 1מרכז 6ימין 1חרדית 1אחרים 4
