המשותף לסוכני ה-AI שתקפו אתרים אמיתיים: חברה ישראלית שאמורה הייתה להגן על סביבת הבדיקה

חברת הסייבר הישראלית 'אירגיולר' נמצאת במרכזם של מספר אירועי אבטחת מידע שנחשפו לאחרונה, בהם סוכני בינה מלאכותית שתקפו מערכות אמיתיות במקום סביבות בדיקה מדומה. החברה, שהוקמה ב-2023 וגייסה 80 מיליון דולר, מספקת שירותי בדיקה למעבדות AI מובילות כמו גוגל, מטא, אנתרופיק ו-OpenAI. שירות זה כולל יצירת סביבות מדומה שבהן מודלי AI מקבלים משימות תקיפה כדי לאתר חולשות.

במספר מקרים, תקלות בתצורת סביבות הבדיקה של 'אירגיולר' אפשרו לסוכני ה-AI גישה לאינטרנט ולמערכות אמיתיות. בגוגל, מודל ג'מיני ניסה לגשת למידע בחברה פיקטיבית אך הגיע למערכות אמיתיות בשלושה מקרים, תוך שימוש בסיסמאות שניחש או בפרטי גישה ממאגרים ציבוריים. אנתרופיק דיווחה על ארבעה מקרים שבהם המודל שלה, קלוד, הגיע למערכות אמיתיות, כולל יצירת חבילת פייתון זדונית שהותקנה על 15 מערכות אמיתיות. מטא ו-OpenAI דיווחו גם הן על אירועים דומים בסביבות הבדיקה של 'אירגיולר'.

'אירגיולר' מסרה כי התקלה המרכזית טופלה בסוף יולי, וכי מספר האירועים נבעו מתקלה בסיסית אחת. החברה הדגישה כי האחריות לחלק מהאירועים מוטלת גם על מעבדות ה-AI, אשר קובעות את הוראות המודל ושכבות ההגנה. למרות התקריות, 'אירגיולר' מציינת כי שיתוף הפעולה עם החברות נמשך ואף התרחב. האירועים מדגישים את האתגרים באבטחת מודלי AI מתקדמים ואת הצורך בבידוד מוחלט של סביבות הבדיקה.