הבכיר מאנבידיה שמסביר איך פיתוח מישראל יפתור את אתגר אבטחת ה־AI

בעוד חברות טכנולוגיה מפתחות סוכני בינה מלאכותית אוטונומיים, חברת אנבידיה מזהה אתגר אבטחתי משמעותי: מערכות האבטחה הקיימות אינן מותאמות לתוכנות הפועלות ללא התערבות אנושית, מה שעלול לאפשר להן גישה למידע רגיש או ביצוע פעולות לא רצויות. עלי גולשן, מנהל בכיר לתוכנת AI באנבידיה, מסביר כי הבעיה נובעת מניסיון להתאים מערכות ישנות לסוכנים חדשים, וכי יש צורך בתשתית אבטחה חדשה ייעודית.

אנבידיה מציעה את OpenShell, סביבת הרצה בקוד פתוח המאפשרת שליטה בפעולות סוכני AI. בסביבה זו, סוכנים מתחילים ללא הרשאות ונדרשים לבקש גישה לכל משימה, כאשר הגישה נבדקת מול מדיניות הארגון ומבוטלת בסיום המשימה. בנוסף, משפחת מעבדי התשתית BlueField של אנבידיה, שמקורה בחברת מלאנוקס הישראלית, מספקת שכבת הגנה נוספת ברמת החומרה. מעבדים אלו מאפשרים לנתק את סביבת הפעילות של סוכן מהרשת במקרה של זיהוי התנהגות מסוכנת ולאסוף יומני פעילות לצורך ניתוח, גם אם התוכנה עצמה נפרצה.

גולשן מבהיר כי אנבידיה אינה מתחרה בחברות הסייבר הקיימות, אלא מספקת תשתית בסיסית שעליה חברות אלו יכולות לבנות מוצרים. OpenShell אינה מחליפה יכולות אבטחה מתקדמות כמו זיהוי מתקפות או ניתוח תעבורת רשת, אך מאפשרת הגדרת מגבלות בסיסיות. חברות כמו CrowdStrike, פאלו אלטו נטוורקס וסיסקו כבר משתפות פעולה עם אנבידיה.

גולשן צופה גל חדש של מאות חברות סייבר חדשות שיתמקדו ב-AI, במיוחד בתחומי אבטחת זהויות, ניטור פעילות ופרטיות. הוא ממליץ ליזמים להתמקד בעבודה מעשית ובפתרון בעיות אמיתיות, ולא רק בתחזיות, ולצאת לשוק עם פתרונות ממוקדים תוך למידה מהלקוחות.