ראש מערך הסייבר מזהיר מהבינה המלאכותית

ראש מערך הסייבר הלאומי, יוסי כראדי, פנה למנהיגים ברחבי העולם במסמך אסטרטגי וקרא להם לקבוע גבולות ברורים לאוטונומיה של מערכות בינה מלאכותית (AI). כראדי הזהיר כי מערכות הגנת סייבר מתקדמות פועלות במהירות כה גבוהה, עד שלא תתאפשר מעורבות אנושית בכל פעולה. הוא הדגיש כי "הסמכות האנושית חייבת להישאר מכרעת".

המסמך נשלח על רקע מקרים שבהם מערכות AI פרצו למאגרים ממשלתיים וחברות איבדו שליטה על פעולותיהן. כראדי ציין את הפער בין קצב התפתחות הטכנולוגיה לבין מנגנוני המדיניות והרגולציה, והעלה את השאלה אילו סמכויות ניתן להעביר למערכות אוטונומיות ואילו החלטות חייבות להישאר בידי אדם.

כראדי הסביר כי ככל שמערכות ההגנה נדרשות להגיב מהר יותר לאיומי סייבר הולכים ונעשים אוטומטיים, כך גדלה האוטונומיה שלהן. עם זאת, הרחבת האוטונומיה מקשה על הבנת החלטות המערכת, עצירת פעולותיה בזמן וקביעת אחריות במקרה של טעות. הוא הדגים את הסיכון באמצעות תרחיש של מתקפת "יום אפס", שבה טעות של מערכת אוטונומית עלולה להשבית רשתות חיוניות.

כדי להתמודד עם הסיכונים, כראדי הציע לאמץ מודל המאזן בין חדשנות, ביטחון ושליטה אנושית. הוא הציע לחלק את פעולות מערכות ה-AI לארבע רמות: העברה מלאה של סמכויות, פעולות בכפוף למגבלות, החלטות המחייבות אישור אנושי, ופעולות בעלות השלכות לאומיות בלתי הפיכות שאסור למערכת אוטונומית לקבל כלל. את הקבוצה האחרונה הגדיר כ"סמכות ריבונית שאינה ניתנת להאצלה".

כראדי קרא למנהיגים להחליט היכן תלות היא מקובלת, היכן חוסן אינו נתון למשא ומתן, והיכן הסמכות האנושית חייבת להישאר מכרעת, ולא להשאיר את קביעת הגבולות לאחרים.