על רקע חששות גוברים מבטיחות הבינה המלאכותית: OpenAI לא תצא להנפקה השנה

מנכ"ל OpenAI, סם אלטמן, הודיע כי החברה לא תצא להנפקה השנה, זאת על רקע חששות גוברים בנוגע לבטיחות הבינה המלאכותית. אלטמן צוטט ב-CNBC כאומר כי הנפקה בשלב זה תהיה "לא נבונה", מה שעשוי לדחות את ההנפקה, שנחשבה לאחת המצופות בהיסטוריה, לפחות עד 2027. זאת בניגוד להערכות קודמות של סמנכ"לית הכספים של החברה, שרה פריאר, שהצביעה על 2027 או מוקדם יותר.

ההחלטה מגיעה על רקע קריאה של מנכ"ל אנתרופיק, דריו אמודיי, להאט את קצב שדרוג מודלי ה-AI המתקדמים. אמודיי הציע תוכנית בת שלושה שלבים הכוללת מתן גישה לגורמי הערכה חיצוניים, יצירת סטנדרטים משותפים לבטיחות וקידום שיתוף פעולה בין ממשלות. הוא הדגיש כי "האטה" אינה עצירת פיתוח, אלא מתן זמן לבדיקת מודלים והבטחת בטיחותם.

קריאתו של אמודיי זכתה לתמיכה מאלטמן ומאילון מאסק, שגם הם הביעו צורך בהאטה בפיתוח יכולות AI מתקדמות. גם המדען הראשי של OpenAI, יאקוב פחוצקי, הזהיר כי בעיות alignment וניטור עדיין לא נפתרו די הצורך, מה שמקשה להצדיק המשך התרחבות בקצב הנוכחי.

החששות מבטיחות AI אינם מוגבלים לתעשייה. בוושינגטון גובר הלחץ מצד מחוקקים משתי המפלגות לקדם רגולציה ואמצעי הגנה, במיוחד לאחר מתקפות סייבר. במקביל, קהילות בארה"ב מתנגדות להקמת חוות שרתים של AI בשל צריכת משאבים גבוהה.

אמודיי מאמין ש-AI יכול לשפר את איכות החיים, אך סבור שהאטה של שנה-שנתיים לבדיקת מנגנוני בטיחות עשויה להפחית סיכונים קטסטרופליים, תוך אזהרה מפני הענקת יתרון למדינות אוטוריטריות אם ההאטה תהיה מוגזמת. במקביל, אוניברסיטת תל-חי פותחת פקולטה להנדסת מערכות בינה מלאכותית.