אירגיולר הישראלית מעורבת בפריצות של מודלים של אנתרופיק, OpenAI וגם גוגל. כך זה קרה
תומצת מתוך TheMarker על ידי baba
חברת אבטחת הסייבר הישראלית 'אירגולר' חשפה כיצד פרצה למודלי בינה מלאכותית של גוגל, OpenAI ואנתרופיק. הפריצות, שבוצעו כחלק מבדיקות אבטחה, הדגימו פגיעויות במודלים אלו, כולל הדלפת מידע רגיש.
הידיעה ב-4 שורות · תקציר של baba
- חברת 'אירגולר' הישראלית פרצה למודלי AI של גוגל, OpenAI ואנתרופיק.
- הפריצות בוצעו כחלק מבדיקות אבטחה להדגמת פגיעויות.
- במקרה של גוגל, הפריצה התרחשה בזמן בדיקות פנימיות לסטארט-אפ ישראלי.
- החברה מתמחה באבטחת סוכני AI וגייסה לאחרונה 750 מיליון דולר.
חברת אבטחת הסייבר הישראלית 'אירגולר' (Irregular) חשפה כיצד הצליחה לפרוץ למודלי שפה גדולים של גוגל, OpenAI ואנתרופיק, תוך שימוש בטכניקות שונות. הפריצות בוצעו כחלק מבדיקות אבטחה שערכה החברה, במטרה להדגים את הפגיעויות הקיימות במודלים אלו. על פי הדיווח, צוות החברה הצליח לגרום לצ'אטבוטים של גוגל, OpenAI ואנתרופיק לחשוף מידע רגיש, להדליף נתונים, ואף לבצע פעולות שלא נועדו להם.
במקרה של גוגל, הפריצה התרחשה בזמן שהחברה ערכה בדיקות פנימיות לסטארט-אפ ישראלי. אירגולר הצליחה לגרום למודל של גוגל, ככל הנראה Gemini, להדליף מידע רגיש הקשור לבדיקות אלו. החברה הדגימה כיצד ניתן לנצל פגיעויות במודלים כדי להשיג גישה למידע פנימי או לבצע פעולות זדוניות.
החברה הישראלית, שגייסה לאחרונה 750 מיליון דולר, מתמחה באבטחת סוכני AI. היא פיתחה כלים ושיטות לזיהוי ומניעת התקפות על מערכות בינה מלאכותית. הדו"ח של אירגולר מדגיש את האתגרים הגוברים באבטחת טכנולוגיות AI מתקדמות, ואת הצורך הדחוף בפיתוח פתרונות הגנה יעילים.
אותו אירוע, כפי שכל מערכת דיווחה עליו בנפרד. פתחו כמה דיווחים כדי להשוות מה כל מערכת מדגישה, ומה היא משאירה בחוץ.
שמאל 1אחרים 3
