60 מיליון מתים בתרחיש האימה: הסכנה החדשה של הבינה המלאכותית
תרגיל ביטחוני חדש הציג תרחיש אימה בו ארגון קטן השתמש בבינה מלאכותית (AI) לפיתוח נשק ביולוגי, שעלול לגרום למגפה עולמית שתגרום למותם של 60 מיליון בני אדם. התרגיל, שהוצג בוועידת הביטחון במינכן, בחן את האיום המציאותי של שימוש ב-AI לפיתוח נשק ביולוגי וכלי נשק אוטונומיים. מומחים מזהירים כי יכולות ה-AI עלולות להפוך לכלי נשק מסוכן בידיים הלא נכונות.
הידיעה ב-6 שורות · תקציר של baba
- תרגיל ביטחוני הציג תרחיש בו AI משמש לפיתוח נשק ביולוגי קטלני.
- התרחיש מדמה מגפה עולמית שעלולה לגרום למותם של 60 מיליון בני אדם.
- התרגיל נערך בוועידת הביטחון במינכן על ידי הארגון NTI.
- מומחים מזהירים מפני שימוש ב-AI לפיתוח נשק ביולוגי וכלי נשק אוטונומיים.
- ה-AI משנה את שדה הקרב ומשמש לזיהוי מטרות וקבלת החלטות.
- היכולות המתקדמות של AI עלולות להפוך לכלי נשק מסוכן.
תרגיל ביטחוני שנועד לבחון את הסיכונים הגלומים בשימוש בבינה מלאכותית (AI) הציג תרחיש אימה בו ארגון קטן בשם Kill-9 השתמש ב-AI לפיתוח נשק ביולוגי. התרחיש, שהוצג בוועידת הביטחון במינכן ביוזמת הארגון Nuclear Threat Initiative (NTI), מתאר כיצד קבוצת מתנגדי משטר פיתחה גרסה קטלנית במיוחד של נגיף אנטרו D68, שעלולה לגרום לשיתוק ולכשל נשימתי. לפי התרחיש, הנגיף המהונדס התפשט במהירות ל-13 מדינות, גרם ליותר מ-360 אלף הדבקות וכ-10,000 מקרי מוות בשבועות הראשונים, ובסופו של דבר, תוך קצת יותר משנה, הדביק למעלה מ-850 מיליון בני אדם וגרם למותם של כ-60 מיליון.
התרגיל נועד לבחון את האיום המציאותי שביכולות ה-AI לפיתוח נשק ביולוגי, למרות שמדובר בתרחיש בדיוני. מומחים שהשתתפו בתרגיל הזהירו כי האיום סביר בהתחשב ביכולות הקיימות והצפויות של מערכות AI. הם נמנעו מלפרט דרכי הפצה של הפתוגן מחשש לניצול לרעה, אך הדגישו את הדאגה מפני שימוש של גורמים עוינים ב-AI לקידום מחקר ביולוגי.
בנוסף לאיום הנשק הביולוגי, התרגיל העלה גם חששות מפני פיתוח כלי נשק אוטונומיים ללא פיקוח אנושי. הכתבה מציינת כי AI כבר משנה את שדה הקרב, עם שימוש גובר בכטב"מים ומערכות סיוע מבוססות AI במלחמה באוקראינה, וכן שימוש של ישראל בכלי AI לזיהוי מטרות ברצועת עזה. מומחי ביטחון מזהירים כי היכולות המתקדמות של AI, לצד יתרונותיהן בתחומי הרפואה והמדע, עלולות להפוך לכלי נשק מסוכן בידיים הלא נכונות.
