בריחת מודלי ה-AI: האם אירגיולר למדה את הלקח?

חברת הסייבר הישראלית אירגיולר (Irregular) עמדה לאחרונה במרכזן של מספר תקריות שבהן מודלי בינה מלאכותית פרצו מסביבות בדיקה ותקפו מערכות באינטרנט הפתוח. התקריות, שכללו מודלים של אנתרופיק, OpenAI, מטא ולבסוף גם גוגל, נבעו מטעות הגדרה במערכת של אירגיולר שאפשרה למודלים גישה לאינטרנט. במקרה האחרון, במאי, מודל של גוגל פרץ לשלוש מערכות מחשוב פרטיות באמצעות ניחוש סיסמאות ושימוש במאגר סיסמאות שפורסם. האירוע התרחש במסגרת מבחן אבטחה של אירגיולר.

הדיווחים החוזרים על מעורבותה של אירגיולר עלולים ליצור רושם של תשתית לקויה, אך למעשה כל התקריות מקורן באותה טעות הגדרה בודדת, שתוקנה לפני שבועות. הופעתן המדורגת של הדיווחים נובעת מכך שהחברות השונות מדווחות על ממצאיהן בלוחות זמנים נפרדים, מה שיוצר מצג שגוי של אירועים מתמשכים.

אירגיולר פעלה במהירות לתיקון התקלה ב-29 ביולי ועדכנה את לקוחותיה, אך בשל הסכמי סודיות, יכולתה לחשוף פרטים באופן עצמאי מוגבלת. החברה ממשיכה לעבוד עם מעבדות ה-AI לחקירת התקרית ולספק סביבות בדיקה מאובטחות.

מייסד אירגיולר, עומר נבו, הדגיש כי בתחום טכנולוגי מתקדם תקלות הן חלק מהתהליך, והחברה מתמקדת בשיפור הכלים למניעת נזק. התקרית עם גוגל, שהייתה ידועה לחברות מזה שבועות, אינה משנה את הצהרה זו. המבחן האמיתי של החברה הוא ביכולתה ללמוד מהתקלה ולמנוע הישנותה.