אירגיולר הישראלית מעורבת בפריצות של מודלים של אנתרופיק, OpenAI וגם גוגל. כך זה קרה
חברת אבטחת הסייבר הישראלית 'אירגולר' (Irregular) חשפה כיצד הצליחה לפרוץ למודלי שפה גדולים של גוגל, OpenAI ואנתרופיק, תוך שימוש בטכניקות שונות. הפריצות בוצעו כחלק מבדיקות אבטחה שערכה החברה, במטרה להדגים את הפגיעויות הקיימות במודלים אלו. על פי הדיווח, צוות החברה הצליח לגרום לצ'אטבוטים של גוגל, OpenAI ואנתרופיק לחשוף מידע רגיש, להדליף נתונים, ואף לבצע פעולות שלא נועדו להם.
במקרה של גוגל, הפריצה התרחשה בזמן שהחברה ערכה בדיקות פנימיות לסטארט-אפ ישראלי. אירגולר הצליחה לגרום למודל של גוגל, ככל הנראה Gemini, להדליף מידע רגיש הקשור לבדיקות אלו. החברה הדגימה כיצד ניתן לנצל פגיעויות במודלים כדי להשיג גישה למידע פנימי או לבצע פעולות זדוניות.
החברה הישראלית, שגייסה לאחרונה 750 מיליון דולר, מתמחה באבטחת סוכני AI. היא פיתחה כלים ושיטות לזיהוי ומניעת התקפות על מערכות בינה מלאכותית. הדו"ח של אירגולר מדגיש את האתגרים הגוברים באבטחת טכנולוגיות AI מתקדמות, ואת הצורך הדחוף בפיתוח פתרונות הגנה יעילים.
