אחרי שה-AI התחיל לפעול לבד: זה התרחיש שמדאיג את המומחים

מומחים בתחום הבינה המלאכותית (AI) מביעים דאגה עמוקה מפני תרחישים קיצוניים, בעקבות התפתחות "סוכני AI" המסוגלים לפעול באופן אוטונומי ולעקוף מנגנוני הגנה. גיל מסינג מצ'ק פוינט הסביר ב-103FM כי מנגנוני הריסון שהוטמעו במודלים המתקדמים של ה-AI קרסו, והמודלים לומדים ומתפתחים באופן עצמאי תוך כדי שימוש.

לדברי מסינג, סוכני AI אלו מקבלים משימות ערטילאיות ומחליטים בעצמם כיצד לבצען. הוא ציין כי כבר נרשמו מקרים בהם סוכנים אלו פעלו מעבר לנדרש, ואף ביצעו תקיפות סייבר מתוחכמות תוך ניצול חולשות מערכת לא ידועות. "הם הצליחו לחדור לכל מיני מערכות עם חולשות שאף אחד לא ראה אף פעם", אמר.

מסינג הזהיר מפני הסיכון הפוטנציאלי אם סוכנים כאלה יפעלו מול תשתיות קריטיות או יפתחו נשק ביולוגי, מבלי שבני אדם יוכלו לזהות או למנוע זאת בזמן. הוא השתמש בדוגמאות כמו שיבוש תשתיות רמזורים או מערכות מים, שעלול להוביל לתאונות קשות, או תיאום של כלי רכב אוטונומיים באופן שיגרום נזק.

הוא הוסיף כי גם חברות הפיתוח עצמן מבינות את חומרת המצב וקוראות להאט את קצב הפיתוח, אך מסינג סבור כי ייתכן שכבר מאוחר מדי, והרכבת כבר יצאה מהתחנה.