מודל בינה מלאכותית למד לתאר את העולם ללא חשיפה לנתונים אמיתיים
תורגם ותומצת מתוך NEWSru Israel על ידי baba
חוקרים מאוניברסיטת תל אביב וסטנפורד פיתחו שיטת אימון חדשה לבינה מלאכותית, שבה מודל לומד מנתונים שהוא מייצר בעצמו, ללא חשיפה לעולם האמיתי. המודל, שנקרא "תלמיד", אומן על ידי מודל "גנרטור" שיצר עבורו תרגילים, והצליח לחזות טקסטים, צלילים, קוד ו-DNA. השיטה, שפורסמה ב-arXiv, מפריכה את ההנחה שנדרשים נתונים אמיתיים רבים לאימון, ויכולה להפוך למידה עתידית ליעילה יותר.
הידיעה ב-6 שורות · תקציר של baba
- מודל בינה מלאכותית מאוניברסיטת תל אביב למד לתאר את העולם ללא חשיפה לנתונים אמיתיים.
- המודל אומן באמצעות נתונים שנוצרו באופן פנימי בלבד, על ידי מודל "גנרטור" שיצר עבורו תרגילים.
- המודל הצליח לחזות טקסטים, צלילים, קוד תכנות ורצפי DNA לאחר האימון.
- השיטה, שפורסמה ב-arXiv, מפריכה את ההנחה שנדרשים נתונים אמיתיים רבים לאימון מודלי AI.
- המחקר מצא כי אימון מקדים בשיטה זו האיץ למידה עתידית על נתונים אמיתיים.
- ראש המחקר, יואב לוין, הדגיש כי השיטה אינה מלמדת עובדות על העולם, אלא מיומנויות חישוב.
חוקרים מאוניברסיטת תל אביב ואוניברסיטת סטנפורד פיתחו שיטה חדשנית לאימון מודלי בינה מלאכותית, שבה המודל לומד מנתונים שהוא מייצר בעצמו, ללא צורך בחשיפה למידע חיצוני מהעולם האמיתי. בדרך כלל, אימון מודלי AI דורש כמויות עצומות של נתונים אמיתיים כמו ספרים, אתרים ותמונות, כדי שהמודל ילמד לזהות דפוסים. במחקר זה, שפורסם ב-arXiv, החוקרים בחנו האם ניתן לאמן מודל לרכוש יכולות למידה כלליות באמצעות נתונים שנוצרו באופן פנימי בלבד.
שיטת האימון החדשה פועלת באמצעות שני מודלים המתחילים מאפס. המודל הראשון, ה"גנרטור", מייצר תוכניות קצרות שיוצרות רצפי סמלים. המודל השני, ה"תלמיד", לומד לחזות את הסמל הבא ברצף. הגנרטור מקבל משוב על מידת התועלת של התוכניות שלו ומתאים את התרגילים כך שיהיו בגבול היכולת הנוכחית של התלמיד. נקודת המבחן העיקרית היא "העברה", היכולת של המודל ליישם את מה שלמד בתחומים חדשים.
לאחר האימון, המודל נבחן על טקסטים, תמונות, צלילים, מוזיקה, קוד תכנות ורצפי DNA, למרות שלא נחשף מעולם לנתונים אמיתיים. התוצאות הראו שיפור עקבי באיכות החיזוי בכל התחומים ככל שהושקעו יותר משאבי חישוב. המודל אף למד להסיק כללים מדוגמאות בזמן אמת. במהלך התרגילים שנוצרו, הופיעו באופן טבעי דפוסים מתמטיים מוכרים, כמו סדרת פיבונאצ'י. בנוסף, אימון מקדים בשיטה זו האיץ את תהליך הלמידה של המודל על נתונים אמיתיים.
החוקרים מדגישים כי שיטה זו אינה מלמדת את המודל עובדות על העולם, שכן לשם כך נדרשת חשיפה לעולם עצמו. עם זאת, השיטה יכולה להפוך את הלמידה מנתונים אמיתיים ליעילה הרבה יותר. ראש המחקר, יואב לוין, ציין: "במשך שנים רבות האמינו כי כדי שמודל ילמד משהו שימושי, יש להאכיל אותו תחילה בכמות עצומה של נתונים אמיתיים. אנו מפריכים הנחה יסודית זו". המודל אינו מקבל מידע חדש על העולם, אלא לומד מיומנויות חישוב הדומות לאלו הנדרשות להסקת משפטים מתמטיים מאקסיומות.
אותו אירוע, כפי שכל מערכת דיווחה עליו בנפרד. פתחו כמה דיווחים כדי להשוות מה כל מערכת מדגישה, ומה היא משאירה בחוץ.
מרכז 2אחרים 1
