העובד שאף אחד לא ראיין: איך לזהות שסוכן ה-AI יוצא משליטה?
חברת אבטחת הסייבר הישראלית Above Security פרסמה דוח הממפה 166 דרכים שבהן סוכני בינה מלאכותית (AI) עלולים להוות סיכון לארגונים, ולהפוך ל'איום פנימי' חדש. בניגוד לאיום פנימי אנושי מסורתי, סוכני AI פועלים בהרשאות של עובדים, במהירות מכונה, וללא תשאול מקדים. הדוח, שנקרא 'Synthetic Insider Threat Matrix', מציג כיצד סוכנים אלו, המחוברים למערכות כמו מייל, קוד ומערכות לקוחות, עלולים לפעול באופן שגוי או זדוני, גם ללא כוונת זדון.
הדוח מצביע על נתונים מדאיגים: 45% מהעובדים משתמשים ב-AI על מכשירי העבודה, כאשר 67% מהשימוש נעשה דרך חשבונות פרטיים. רק 30% מהארגונים מתעדים באופן בלתי ניתן לשינוי את פעולות הסוכנים, מה שמשאיר את רוב פעילות ה-AI מחוץ לשליטת הארגון וללא יכולת שחזור.
מוצגים ארבעה תרחישים עיקריים: סוכן שמקבל הוראות נסתרות במסמכים, סוכן שמתנדב יתר על המידה ורוכש הרשאות רחבות, 'זיכרון מורעל' שבו הוראות זדוניות נשמרות ומופעלות מאוחר יותר, ופעולה שגויה בתום לב עקב הבנה מילולית מדי של משימה.
Above Security מזהירה מפני חמישה סימני אזהרה: קצב פעילות לא אנושי, תעבורה ליעדים לא מוכרים, גישה להרשאות מעבר למבוקש, פער בין דיווח למציאות, וזהות אחת הפועלת מכמה מקומות בו-זמנית. הפתרונות המוצעים כוללים הקצאת זהות נפרדת לסוכנים, מתן הרשאות מינימליות הנדרשות למשימה, התייחסות לתוכן כמידע ולא כפקודה, דרישת אישור אנושי לפעולות בלתי הפיכות, ותיעוד מוקדם ומוגן של כל הפעולות.
במקביל, גיא קוזלינר, מנכ"ל Rig Security, מזהיר כי בדיקת הזדהות העובד בלבד אינה מספיקה עוד. הוא מסביר כי סוכני AI עלולים לנצל הרשאות רחבות שניתנו להם, גם אם המשימה המקורית הייתה מצומצמת, ולגרום נזק משמעותי. האתגר צפוי לגדול משמעותית בשנים הקרובות, כאשר ארגון ממוצע צפוי להפעיל למעלה מ-150 אלף סוכני AI עד 2028.
The same event, reported separately by each outlet. Open a few to compare what different newsrooms emphasize — and what they leave out.
Not the same event — other stories that share this one’s people, places, or theme: background, reactions, and follow-ups.
Ask About This Article
Duki reads it, and every newsroom on the same story, then answers with sources.