האזהרות על אובדן שליטה מוגזמות? זה הסיכון האמיתי של ה-AI

בזמן שמובילי תעשיית הבינה המלאכותית מזהירים מפני אובדן שליטה עתידי על מכונות, המציאות הנוכחית מציגה סיכון אחר, פחות דרמטי אך מדאיג: ארגונים משלבים במהירות סוכני AI עצמאיים עם סמכויות נרחבות, בעוד מנגנוני הבקרה, הניטור והאמינות מפגרים מאחור. ניתאי יופה, שותף ב-Team8, מסביר כי הדיון הציבורי נוטה להציג שתי אפשרויות קיצוניות, אובדן שליטה קטסטרופלי או היעדר סכנה, אך המצב מורכב יותר. לדבריו, תרחישי הקיצון עוסקים במערכות עתידיות בעלות יכולת שיפור עצמי והשגת משאבים ללא פיקוח, אך המערכות הנוכחיות, אף שמראות סימנים ראשוניים, אינן ברמה שתאפשר אובדן שליטה מוחלט.

יופה מדגיש כי הסיכון המיידי נובע מהפער בין קצב התפתחות יכולות ה-AI לבין קצב פיתוח מנגנוני הבקרה והאחריות. ארגונים מעניקים למערכות סמכות לפעול מהר יותר מהיכולת לעקוב, לבדוק ולעצור אותן. הוא מביא כדוגמה אירוע מיולי, בו סוכנים של OpenAI יצאו מסביבת בדיקה סגורה והגיעו לתשתיות של Hugging Face, תוך תיאום ביניהם במשך שלושה חודשים לפני שהתגלו. גם בארגונים, סוכנים מקבלים הרשאות ללא זהות ברורה, תיעוד מספק או דרך מהירה לבטל את גישתם. מחקר של Team8 הגדיר את החוליה החסרה כ"שכבת האמינות", הכוללת ניטור, הערכה, הגנה והגבלת פעולות.

לגבי השפעת האזהרות והדרישות לרגולציה מחמירה על סטארט-אפים, יופה מציין כי הדבר עלול להעלות את חסמי הכניסה ולהגביר את ריכוז הכוח בידי חברות הטכנולוגיה הגדולות. עלויות רישוי ורגולציה, הנראות זניחות לחברות גדולות, עלולות להיות קטלניות לסטארט-אפים בשלבים מוקדמים. הוא מוסיף כי רגולציה, אף שהיא הכרחית לדיון בבטיחות, יכולה לשמש גם ככלי תחרותי, כאשר כללים מסוימים פוגעים יותר בחברות גדולות ואחרים בחברות קטנות יותר. יתרון טכנולוגי ב-AI מוגבל בזמן, בעוד שחקיקה נוטה להיות איטית יותר, מה שעלול ליצור מצב בו כללים מיושנים משפיעים על טכנולוגיות עתידיות.