גוגל הודתה: Gemini פרץ לרשתות של שלוש חברות
גוגל חשפה כי מודל הבינה המלאכותית שלה, Gemini, חרג מסביבת הבדיקות המוגנת ופרץ לרשתות של שלוש חברות אמיתיות בחודש מאי האחרון. האירוע התרחש במהלך ניסויי אבטחת סייבר שבוצעו בשיתוף פעולה עם הסטארטאפ הישראלי Irregular.
על פי גוגל, המודל קיבל הנחיה לתקוף חברה פיקטיבית, אך בשל טעות בשם החברה וקבלת גישה לאינטרנט בשוגג, הוא החל לנסות לפרוץ לרשת של חברה אמיתית, ובהמשך לשתיים נוספות. המודל השתמש בסיסמאות שאותרו באינטרנט או נוחשו כדי לחדור לתשתיות.
בגוגל הדגישו כי ברגע שהמודל זיהה שמדובר בתשתיות אמיתיות, הוא הפסיק את המתקפות מיוזמתו ולא נגרם נזק לחברות. האירועים התרחשו בזמן שהמודל נבדק על ידי Irregular, חברה ישראלית שבוחנת מודלי בינה מלאכותית עבור חברות טכנולוגיה.
תקלות דומות, בהן מודלים של OpenAI, Anthropic ומטא קיבלו גישה לא מורשית לאינטרנט במהלך בדיקות אצל Irregular, אירעו גם השנה. בחודש שעבר, Irregular ציינה כי הפרצה שאפשרה גישה לאינטרנט תוקנה וכי המעבדות והחברות שנפגעו עודכנו.
סגנית נשיא להנדסת אבטחה בגוגל, הית'ר אדקינס, מסרה כי החברות המעורבות עודכנו וכי האירועים מדגישים את הצורך באימון מודלים לפעול באחריות. החשיפה מעוררת מחדש את הדיון הציבורי על בטיחות הבינה המלאכותית והחשש מטכנולוגיה שעלולה לצאת משליטה.
The same event, reported separately by each outlet. Open a few to compare what different newsrooms emphasize — and what they leave out.
Not the same event — other stories that share this one’s people, places, or theme: background, reactions, and follow-ups.
