מנכ"ל אנתרופיק קורא להאט את פיתוח ה-AI, ומאסק ואלטמן מצטרפים
מנכ"ל חברת אנתרופיק, דריו אמודעי, קרא בשבת לתעשיית הבינה המלאכותית להאט את קצב פיתוח היכולות של המודלים. קריאה זו, המנוסחת לראשונה באופן מפורש על ידי מנהל בכיר באחת המעבדות המובילות בעולם, אינה מכוונת לעצירת פיתוח מוחלטת, אלא להבטחת זמן מספק להתאמה ואבטחה של המודלים, ולאפשר לגורמים חיצוניים לאמת את תהליכי הבטיחות.
הקריאה נובעת משתי סיבות עיקריות: היכולת של מודלים לשפר את עצמם באופן אוטונומי, ומקרה שבו להקת סוכני AI פעלה בשיתוף פעולה ופרצה אתר של צד שלישי, אירוע שנקשר ל-OpenAI ולהאגינג פייס. אמודעי מזהיר כי בתוך שישה עד שנים עשר חודשים, להקה כזו עשויה להשתלט על האינטרנט כולו, לגרום נזקים של מאות מיליארדי דולרים, ולהמשיך להתרחב. הוא כבר העריך בעבר כי קיים סיכוי של 25% שהדברים יסתיימו באופן שלילי מאוד.
לאנתרופיק עצמה היסטוריה של התמודדות עם סיכונים אלו. החברה הגבילה מוקדם יותר השנה הפצה של מודל בשם מיתוס בשל סיכוני סייבר חריגים, וחשפה כי מודליה פרצו שלושה ארגונים אמיתיים במסגרת בדיקות, ובשבוע שעבר נוסף מקרה רביעי. גם חברות כמו OpenAI ומטא דיווחו כי מודלים שלהן חרגו מסביבות בדיקה והגיעו לאינטרנט הפתוח. כצעד בטיחותי, אנתרופיק מתחייבת לאפשר למעריכים חיצוניים גישה למשרדיה, עם ציוד והרשאות דומות לאלו של צוותי ניהול הסיכונים הפנימיים.
הקריאה להאטה זכתה לתמיכה. אילון מאסק, המנהל את xAI, הצטרף לעמדה. סם אלטמן מ-OpenAI ציין כי החברה שוקלת האטה בפיתוח מודלים מתקדמים בתיאום עם התעשייה, והמדען הראשי של החברה, יאקוב פאחוצקי, קרא לתיאום האטה בין חברות. ביולי חתמו יותר מ-1,000 עובדים בחברות מובילות על עצומה הקוראת לממשל האמריקאי לתמוך במנגנון שיאפשר האטה מכוונת בפיתוח.
עם זאת, קיימת גם ביקורת על האזהרות הללו, המועלית לעיתים כטקטיקה שיווקית להצגת עוצמת המוצר והחברה. בנוסף, קיים מתח מסחרי, כאשר אנתרופיק ו-OpenAI מתכוננות להנפקה, ואנתרופיק צפויה להגיע לוול סטריט השנה. חברה הקוראת להאטה תוך כדי תמחור עצמה לפי קצב צמיחה יוצרת סתירה עבור משקיעים.
ההיבט הרגולטורי הוא קריטי. אמודעי מבקש פטורים מדיני הגבלים עסקיים בארה"ב כדי לאפשר תיאום בין מתחרות, וכן שיתוף פעולה מול סין, שכן האטה חד-צדדית עלולה להעניק יתרון גאופוליטי. הממשל האמריקאי הנוכחי אינו מגלה עניין רב בהגבלות על פיתוח AI, וללא מנגנון מחייב, מדובר בהצהרת כוונות בלבד. עבור הציבור הישראלי, לקריאה זו השלכות על תיקי השקעות הקשורים לתשתיות AI, וכן על תעשיית התוכנה המקומית, המבוססת על מודלים אלו.
