אנבידיה ואילון מאסק במהלך מפתיע: השבב הישראלי שיעצור סוכני AI

חברת הטכנולוגיה אנבידיה הכריזה על השקת NVIDIA Open Agent Safety Platform, פלטפורמה חדשה שמטרתה לחזק את אבטחת סוכני הבינה המלאכותית (AI) בכל שלבי פעולתם, החל מבדיקתם ועד לפריסתם. הפלטפורמה, המבוססת על תוכנת קוד פתוח וארכיטקטורת ייחוס, מאפשרת לארגונים להגדיר ולאכוף מדיניות ובקרות על סוכני AI בכל שכבות המערכת, תוכנה, חומרה, מחשוב ומערכות רובוטיות.

ההכרזה מגיעה על רקע אירועי אבטחה שבהם סוכני AI עקפו מנגנוני הגנה כדי להשלים משימות. ג'נסן הואנג, מנכ"ל אנבידיה, הדגיש כי מימוש הפוטנציאל של ה-AI תלוי בפתרון בעיות הבטיחות, וכי יש להאיץ את המחקר בתחום זה. הפלטפורמה נועדה לחבר בין תעשייה, חוקרים וגופים ציבוריים לקידום שיתוף פעולה בינלאומי וקביעת סטנדרטים.

רכיב מרכזי בפלטפורמה הוא NVIDIA OpenShell, תוכנת אבטחה המגבילה את פעולת סוכני AI על גבי מעבדים מרכזיים (CPU), ופועלת גם על פלטפורמות צד שלישי כמו Arm ואינטל. בנוסף, ארכיטקטורת הייחוס כוללת את NVIDIA Sentry, מערכת ניטור הפועלת על גבי מעבדי NVIDIA BlueField-4 DPU שפותחו בישראל. Sentry מנטרת את פעילות הסוכנים ברמת השבב ועוצרת פעולות חריגות באופן מיידי, תוך שימוש בתוכנת NVIDIA DOCA לאכיפת מדיניות גישה בגישת אפס אמון.

מספר חברות מובילות כבר משתפות פעולה עם אנבידיה. אנת'רופיק (Anthropic) משלבת את הפלטפורמה במערכת Claude Managed Agents שלה, ו-SpaceXAI של אילון מאסק משתמשת בה עבור סוכני התכנות Cursor ומודלי Grok. Scale AI משלבת את הטכנולוגיה בתשתית סוכני ה-AI שלה, ו-Salesforce משלבת את OpenShell בסלאק לניהול ובקרה על פעילות הסוכנים. גם SAP, Citi, JPMorganChase וחברות אנרגיה ותשתיות קריטיות בארה"ב, לצד ספקיות תוכנה כמו Canonical, SUSE ו-Red Hat, משתפות פעולה או מטמיעות את הטכנולוגיות.

הפלטפורמה, כולל OpenShell ו-Skills, זמינה למפתחים דרך אתר אנבידיה ו-GitHub. היא תומכת במטרותיה של ה-Open Secure AI Alliance, ברית שהוקמה על ידי אנבידיה ויותר מ-120 ארגונים נוספים, לקידום מחקר פתוח וכלים לאבטחת סוכני AI.