לא רק שבבים: אנבידיה נכנסת לשוק אבטחת סוכני ה-AI - עם פיתוחים מישראל

חברת אנבידיה (NVIDIA) הכריזה על השקת NVIDIA Open Agent Safety Platform, פלטפורמה חדשה שמטרתה לחזק את אבטחת סוכני הבינה המלאכותית, החל משלב הבדיקות ועד לפריסה. הפלטפורמה, שחלקים משמעותיים ממנה פותחו בישראל, מאפשרת להגדיר ולאכוף מדיניות בקרה על תוכנה, חומרה ומערכות רובוטיות.

הפיתוח הישראלי המרכזי בפלטפורמה הוא סנטרי (Centauri), הפועל על מעבדי DPU שפותחו במרכז הפיתוח של אנבידיה בישראל. סנטרי מנטרת את פעילות הסוכנים ואוכפת מדיניות אבטחה באופן עצמאי ברמת השבב, כולל זיהוי איומים, הגנה על גישה לנתונים ופעולה בסביבה מבודדת.

הפלטפורמה החדשה מתחרה בחברות סייבר ישראליות רבות המציעות פתרונות דומים, וחלקן אף חתמו על שיתופי פעולה עם אנבידיה, ביניהן אירגיולר, טורק ו-Upwind.

מנכ"ל אנבידיה, ג'נסן הואנג, הדגיש את חשיבות פתרון סוגיית הבטיחות ב-AI כדי לממש את הפוטנציאל שלה, וקרא לשיתוף פעולה בין תעשייה, אקדמיה ומגזר ציבורי לקידום בטיחות AI גלובלית.

אנבידיה ציינה שיתופי פעולה נוספים עם חברות כמו אנת'רופיק (Anthropic), קלוד (Claude), סיילספורס, SAP, קראודסטרייק וסיסקו. SpaceXAI משתמשת בפלטפורמה עבור סוכני התכנות שלה, Cursor ומודלי Grok, כאשר נשיא החברה, מייק ניקולס, הדגיש את הצורך באכיפת בטיחות מחוץ למודל עצמו.