המיליארדר שלמה קרמר מחלק עשרות אלפי דולרים: "אתגר"
חברת קייטו נטוורקס מציעה פרס של 30,000 דולר למי שיצליח להערים על סוכן בינה מלאכותית, במסגרת השקת פתרון האבטחה החדש AgentSense. הפתרון נועד לנטר את פעילות סוכני AI ולאמת את התאמתם לכוונת המשתמש. האתגר נועד לבחון ולשפר את יכולות ההגנה של המערכת מפני ניסיונות הטמעת הוראות זדוניות. מנכ"ל החברה הדגיש את חשיבות האבטחה בעידן שבו סוכני AI מעורבים בתהליכים עסקיים קריטיים.
הידיעה ב-5 שורות · תקציר של baba
- קייטו נטוורקס מציעה פרס של 30,000 דולר למי שיצליח להערים על סוכן בינה מלאכותית.
- האתגר נועד לבחון את פתרון האבטחה החדש AgentSense של החברה.
- AgentSense מנטר פעילות סוכני AI ומוודא התאמה לכוונת המשתמש.
- האתגר מדמה ניסיונות להטמין הוראות זדוניות בסוכני AI.
- שלמה קרמר הדגיש את חשיבות אבטחת סוכני AI בתהליכים עסקיים קריטיים.
חברת אבטחת המידע קייטו נטוורקס (Cato Networks), שהוקמה ומנוהלת על ידי שלמה קרמר, השיקה אתגר קהילתי עם פרס כספי כולל של 30,000 דולר. שלושת המשתתפים הראשונים שיצליחו להערים על סוכן בינה מלאכותית (AI) יעלו 10,000 דולר כל אחד. האתגר נועד לבחון את יכולות ההגנה של AgentSense, פתרון אבטחה חדשני של החברה המגן בפטנט, המיועד לנטר באופן רציף את פעילותם של סוכני AI אוטונומיים ולוודא שהם פועלים בהתאם לכוונת המשתמש.
במסגרת האתגר, המשתתפים מוזמנים לנסות להטמין הוראות זדוניות בתוכן שסוכן ה-AI נחשף אליו, ולגרום לו לסטות ממשימתו. קייטו נטוורקס תשתמש בממצאים כדי לשפר את יכולות ההגנה של AgentSense. החברה מסבירה כי סוכני AI עלולים לבצע פעולות מסוכנות עקב חולשה ארכיטקטונית בסיסית המקשה עליהם להבחין בין הוראות לגיטימיות לתוכן חיצוני, מה שעלול להוביל ל"שילוש הקטלני" של דליפת מידע, פגיעה במערכות ושיבוש תהליכים עסקיים.
שלמה קרמר, מנכ"ל ומייסד-שותף של קייטו נטוורקס, הדגיש את חשיבות הבקרה על פעילות סוכני AI בעידן שבו ארגונים מפקידים בידיהם החלטות עסקיות קריטיות. הוא ציין כי AgentSense נועד להעניק ללקוחות את הביטחון להסתמך על סוכני AI תוך שמירה על שליטה ואבטחה גבוהה. קייטו נטוורקס מספקת פלטפורמת ענן מאוחדת לרשת ואבטחה, המאפשרת לארגונים לאמץ כלי AI תוך שמירה על חוסן תפעולי.
אותו אירוע, כפי שכל מערכת דיווחה עליו בנפרד. פתחו כמה דיווחים כדי להשוות מה כל מערכת מדגישה, ומה היא משאירה בחוץ.
אחרים 2
לא אותו אירוע: ידיעות אחרות שחולקות עם הידיעה הזו אנשים, מקומות או נושא. רקע, תגובות והמשכים.
