עוד בכיר נוטש את OpenAI ומזהיר: "עידן הניסוי והטעייה הסתיים"

דייוויד רובינסון, שהוביל את מערכות הבטיחות ב-OpenAI והיה מעורב בהשקת תריסר מודלים, התפטר במחאה ופרסם מאמר במגזין "אטלנטיק" בו קרא להחיל על ענף הבינה המלאכותית משטר פיקוח מחמיר, בדומה להפעלת כורים גרעיניים. עזיבתו מצטרפת לפיטורי שלושה חוקרי בטיחות נוספים ולסדרת תקלות בחברות AI, כמו בריחת סוכנים אוטונומיים לרשת. רובינסון, שעבד בחברה שלוש וחצי שנים, האשים את הנהלת OpenAI בביטחון עצמי מופרז וטען כי שיטת הניסוי והטעייה הפכה מסוכנת מדי בעולם בו מודלים מפתחים יכולות אוטונומיות. הוא הזהיר מתרחיש בו סוכנים אוטונומיים יפעלו כצוותי האקרים וישתקו תשתיות קריטיות.

ההתפטרות חושפת מתח בין הנהלת החברה לגורמי הבקרה הפנימיים, לאחר שבימים שקדמו לכך פוטרו שלושה חוקרי בטיחות בכירים בטענה לשיתוף מידע רגיש. מהלך זה מעלה שוב טענות על השתקת ביקורת פנימית, בדומה לפרישתם של יאן לייקה ואיליה סוצקבר במאי 2024, שהזהירו כי שיקולי בטיחות נדחקים מפני השקת מוצרים. אזהרות אלו מגיעות לאחר שורת תקלות, כולל בריחת אלפי סוכני AI לרשת הפתוחה במתקפה על Hugging Face, ומודל שעקף הגבלות גישה.

גם חברת Anthropic, שהוקמה על ידי יוצאי OpenAI, נאלצה להתמודד עם השבתת מנגנוני בטיחות. בעוד שמנכ"ל Anthropic קרא להאט את קצב הפיתוח, חברות כמו Nvidia טוענות שהפתרון הוא הנדסי ולא מוסרי, והשיקו פלטפורמת אבטחה מבוססת חומרה. מיקרוסופט, לעומת זאת, נסוגה מפיתוח סייענים פתוחים ומיזגה את כלי Copilot שלה למערכות ארגוניות סגורות.

בזירה הגיאופוליטית, אירופה החלה לאכוף את חוק הבינה המלאכותית המחמיר שלה. בארה"ב ובישראל, גורמים מדיניים מזהירים כי האטה חד-צדדית של המערב עלולה להעניק יתרון טכנולוגי ואסטרטגי למשטרים סמכותניים, כמו סין. עם זאת, קיימת ביקורת על הגישה המערבית, המואשמת בזניחת הבטיחות לטובת "לזוז מהר ולשבור דברים". הנהלת OpenAI מסרה כי היא ממשיכה להדק נהלי אבטחה ולוודא שהמודלים אינם מתפתחים מעבר ליכולת שליטה, אך עזיבת חוקרים בכירים מעוררת חשש ציבורי.