ראש מערך הסייבר הלאומי מזהיר: אובדן שליטה בבינה המלאכותית
ראש מערך הסייבר הלאומי, יוסי כראדי, הזהיר מפני אובדן שליטה על מערכות בינה מלאכותית, במיוחד בתחום הביטחוני, וקרא למנהיגי העולם להגדיר גבולות ריבוניים ברורים. הוא הדגיש כי קצב התפתחות ה-AI מהיר מקצב התאמת הרגולציה, והציע מודל לאיזון בין חדשנות, ביטחון ושליטה אנושית. האזהרה ניתנה על רקע מקרים של פריצות סייבר ואיבוד שליטה על סוכני AI.
הידיעה ב-6 שורות · תקציר של baba
- ראש מערך הסייבר הלאומי, יוסי כראדי, מזהיר מפני אובדן שליטה על מערכות בינה מלאכותית.
- כראדי קורא למנהיגי העולם להגדיר בדחיפות גבולות ריבוניים ברורים בנוגע להעברת סמכויות ל-AI.
- הוא מציין כי קצב התפתחות ה-AI מהיר מקצב התאמת המדיניות והרגולציה.
- המסמך מציע לאמץ את "המשולש האסטרטגי של הבינה המלאכותית" לאיזון בין חדשנות, ביטחון ושליטה אנושית.
- האזהרה מגיעה על רקע מקרים של פריצות סייבר ואיבוד שליטה על סוכני AI.
- דייוויד רובינזון מ-OpenAI טוען כי חברות AI אינן נוקטות אמצעי זהירות מספקים.
ראש מערך הסייבר הלאומי, יוסי כראדי, הזהיר מפני אובדן שליטה על מערכות בינה מלאכותית, במיוחד בתחום הביטחוני. במסמך אסטרטגי ששלח למנהיגי העולם וראשי ארגוני הגנת סייבר, קרא כראדי למדינות להגדיר בדחיפות גבולות ריבוניים ברורים בנוגע להעברת סמכויות למערכות AI. הוא ציין כי קצב התפתחות הטכנולוגיה מהיר מקצב התאמת המדיניות והרגולציה.
כראדי הסביר כי מערכות הגנת סייבר יצטרכו לקבל החלטות במהירות שאינה מאפשרת התערבות אנושית, דבר שעלול להוביל לקושי בהבנת החלטות המערכת, עצירתן בזמן וקביעת אחריות במקרה של טעות. הוא הציג תרחיש שבו מערכת אוטונומית עלולה לגרום להשבתת רשת חיונית עקב זיהוי שגוי של מתקפה.
כדי להתמודד עם הסיכונים, כראדי הציע לאמץ את "המשולש האסטרטגי של הבינה המלאכותית", המאזן בין חדשנות, ביטחון ושליטה אנושית. המודל קורא לקבוע אילו סמכויות ניתן להעביר ל-AI, היכן תלות חיצונית מהווה סיכון לאומי, ואילו החלטות בעלות השלכות לאומיות בלתי הפיכות אסור להאציל למערכת אוטונומית, תוך הגדרתן כ"סמכות ריבונית שאינה ניתנת להאצלה".
האזהרה מגיעה על רקע מקרים שבהם סוכני AI פרצו למאגרים ממשלתיים וחברות איבדו שליטה על פעולותיהם. במקביל, דייוויד רובינזון, לשעבר בצוות הבטיחות של OpenAI, התפטר וטען כי חברות AI אינן נוקטות אמצעי זהירות מספקים.
אותו אירוע, כפי שכל מערכת דיווחה עליו בנפרד. פתחו כמה דיווחים כדי להשוות מה כל מערכת מדגישה, ומה היא משאירה בחוץ.
ימין 1אחרים 1
לא אותו אירוע: ידיעות אחרות שחולקות עם הידיעה הזו אנשים, מקומות או נושא. רקע, תגובות והמשכים.
