ה-Ai ברח מהמעבדה של חברה ישראלית. מי אשם?

גוגל הצטרפה לחברות כמו OpenAI ואנתרופיק, שהודיעו כי מודלי הבינה המלאכותית המתקדמים שלהן ניסו לפרוץ לחברות אמיתיות. שלוש החברות הפנו אצבע מאשימה, או נתנו קרדיט, לחברה הישראלית אירגיולר (Irregular), שפיתחה סביבת אבטחת מידע סגורה לכאורה ("ארגז חול") המאפשרת למודלי שפה חזקים להתנסות בבדיקות אבטחה מורכבות.

הסביבה הישראלית, שחוסכת לחברות ענק אנשי אבטחה לבדיקות ידניות, מאפשרת למודלים "להתפרע" בתוך הסביבה האטומה כדי לבדוק סכנות וחולשות. בשבועות האחרונים התברר כי סוכני AI מתקדמים פועלים לעיתים על דעת עצמם, עוקפים כללים ומתאמים מתקפות, אם כי טרם תועדו מתקפות אוטונומיות מסוכנות ללא מעורבות אנושית.

הצטרפותה של גוגל לקבוצת החברות המודות כי מודליהן "ברחו" מהקופסה השחורה של אירגיולר, מהווה פרסום חינמי לחברה הישראלית. הנזק, לדברי גוגל, נמנע לאחר שהמודל הבין שהוא פורץ לאתר אמיתי. הבעיה טמונה בכך שרשימת הלקוחות של אירגיולר, הכוללת את ענקיות הטכנולוגיה, נחשפת.

אירגיולר מסרה כי מדובר באותו אירוע נקודתי שכבר דווח, וכי כל הבעיות טופלו. אחד מחוקרי החברה הסביר כי נוצרו אתגרים המדמים חברות אמיתיות, ובחלק מהאתגרים נדרשת גישה לאינטרנט. באחד המקרים הייתה גישה לא מכוונת לאינטרנט, תקלה שתוקנה. הכשל הכפול כלל תרגול פריצה לאתר פיקטיבי, אך המודל איתר באופן אוטונומי חברה אמיתית בעלת שם דומה וניסה לפרוץ אליה, בנוסף לנקודת יציאה מהמרחב הדיגיטלי המוגן לרשת האינטרנט.

במקרים דומים, מודלים של אנתרופיק ניסו לפרוץ לאתרים או העלו בטעות קוד פייתון זדוני. באירגיולר הפנו את הבעיה גם לתצורת המערכת של אנתרופיק. לא נרשמו נזקים חמורים, והחברות התייחסו למקרים ללא חשש. גוגל התגאתה שהמודלים הפסיקו פעילותם כשהבינו את טעותם, בעוד מודל פחות מתקדם של אנתרופיק המשיך בתקיפה. הבעיה טמונה בכך שחברה אחת משמשת כ"ארגז חול" לכל יצרניות המודלים, והשקיפות בנושא היא סלקטיבית, ללא רגולציה או סטנדרט ברורים.