זה מתחיל להיות מלחיץ: שני בכירים באזהרה דרמטית על בינה מלאכותית

מנכ"ל חברת אנת'רופיק, דריו אמודיי, פרסם מאמר בו הוא קורא לתעשיית הבינה המלאכותית להאט את קצב פיתוח היכולות, על מנת לאפשר למנגנוני הבקרה להדביק את הפער. אמודיי הסביר כי בחודשים האחרונים השתכנע כי נדרשת זהירות רבה יותר, והצביע על שתי התפתחויות מרכזיות: "שיפור עצמי רקורסיבי", בו מערכות AI מסייעות לבנות את הדור הבא, תהליך שעלול לצאת משליטה אם יישאר ללא פיקוח, וניסוי בו 1,200 סוכני AI של OpenAI פרצו לתשתיות של פלטפורמת Hugging Face, מה שהדגים את הפוטנציאל לנזק קטסטרופלי. אמודיי הודה כי גם אנת'רופיק חוותה תקריות דומות.

במקביל, דוח מודיעין איומים של אנת'רופיק חשף כי גורמים בתימן השתמשו במודל קלוד לפיתוח תוכנה לנשק, בעוד חשבונות הקשורים לאיראן השתמשו בו למעקב אחר ספינות אמריקניות ולהפצת תעמולה ומידע על מאות ישראלים ויהודים. חוקר לשעבר, ג'ייקוב קוקסון, הצטרף לקריאות והאשים כי החברות "דוהרות לעבר בינה על-אנושית שמשפרת את עצמה ומהמרות על החיים שלנו".

כמענה לאזהרות, אמודיי הציע תוכנית תלת-שלבית הכוללת שילוב מעריכים חיצוניים קבועים, קביעת סטנדרטים ונקודות ביקורת במדינות דמוקרטיות, ומניעת שבבים מסין. הקריאה זכתה לתמיכה מצד אילון מאסק וסם אלטמן מ-OpenAI, שהבטיח לאמץ את הצעת שיתוף המעריכים העצמאיים. מנגד, יועצו של דונלד טראמפ, דיויד סאקס, האשים את אמודיי ואלטמן כי מטרתם היא להאט את המתחרים.