ברית מפתיעה: ארה"ב ורוסיה פועלות להחלשת הפיקוח על נשק AI אוטונומי

בניגוד להזהרות של ראשי תעשיית הבינה המלאכותית מפני סכנות קיומיות, ארצות הברית ורוסיה משתפות פעולה באופן מפתיע כדי להחליש את הפיקוח על נשק אוטונומי קטלני. במהלך דיונים שנערכו בז'נבה, שתי המעצמות פעלו למחיקת סעיפים מרכזיים מטיוטת אמנה של האו"ם, אשר נועדו להבטיח פיקוח אנושי על החלטות חיים ומוות.

בין הסעיפים שנמחקו נכללו דרישות למערכות שיפעלו באופן צפוי ואמין, שיקולים אתיים בעת הפעלתן, ואישור אנושי מפורש למטרות צבאיות שזוהו על ידי אלגוריתמים לפני ביצוע תקיפה. מהלך זה מציב את ארה"ב ורוסיה בעמדה מנוגדת למדינות אירופה, הדוגלות בהסדרה מחמירה, ומדגיש את העדיפות שניתנת ליתרון טכנולוגי על פני ניסיונות לבלום אוטומציה מוחלטת של מלחמות.

ארגוני זכויות אדם הגדירו את הפגיעה בטיוטה כ"מוות באלף מיתות", והזהירו כי ריקון המסמך מסעיפי פיקוח עלול להוביל ללחימה שבה מכונות יפעלו ללא מעורבות אנושית בזמן אמת, תוך סיכון לחיי אזרחים והיעדר אחריות משפטית ברורה.

המאמר מציין כי צבאות מובילים, כולל הפנטגון וצה"ל, כבר משלבים מערכות אלגוריתמיות מתקדמות לייצור מטרות, כאשר הגבול בין המלצת מכונה לפקודת אש הולך ומטשטש. במקביל, סין וארה"ב מקדמות פיתוח של מערכות אוטונומיות, כאשר ממשל טראמפ דחה ניסיונות פיקוח בינלאומיים שעלולים לבלום חדשנות.

ההיסטוריה מלמדת כי הסכמי פיקוח על נשק נשענו על קונצנזוס מוסרי, אך מערכות נשק אוטונומיות, שהן תוכנה המשולבת בפלטפורמות קיימות, מציבות אתגר חדש. כאשר מעצמות מוותרות על יתרון מבצעי לטובת עקרונות אתיים, המאמץ בז'נבה עלול להסתיים בהצהרות בלתי מחייבות, וההחלטה על לחיצה על ההדק תועבר לשורות הקוד.

המאמר מדגיש את הבעיות של "קופסה שחורה" וחוסר יכולת להבין את תהליך קבלת ההחלטות של הבינה המלאכותית, כמו גם תופעת ה"הזיות" שבה המודל ממציא מידע. לא ברור אם השינויים המוצעים יאומצו, אך ללא מסגרת משפטית שתגדיר את תנאי ההפעלה של מערכות AI בשדה הקרב, הדברים עלולים לצאת משליטה.