ד"ר חנן שי לערוץ 7: ה-AI יודע הכול, אבל מי ילמד אותו מה נכון?

ד"ר חנן שי ממכון משגב מזהיר כי הבינה המלאכותית (AI) מסוגלת לקבל החלטות ללא מצפן מוסרי, ומציע לפתח מערכת שתאלץ אותה לעצור לפני הכרעות ערכיות. לדבריו, בעוד ה-AI יודע לנתח מידע ולהציע פתרונות, חסר לו המרכיב החשוב ביותר, היכולת להבחין בין טוב לרע. שי רואה בכך הזדמנות לישראל להוביל מהפכה נוספת, "מהפכת החוכמה", שתשלב ב-AI שיקול דעת מוסרי.

שי מסביר כי ה-AI נמצא כיום במצב דומה לזה של אדם לפני שהתפתח אצלו מוסר, כשהוא מקבל החלטות על בסיס ידע ובינה אך ללא ערכים מנחים. הוא מדגיש את ההבחנה בין ידע (דעת), בינה (קבלת החלטות) וחוכמה (בחינת החלטות לאור ערכים מוסריים). לטענתו, ההתפתחות הטכנולוגית היא רצף היסטורי, וכעת הגיע הזמן לפתח את ממד החוכמה.

האתגר המרכזי, לטענת שי, אינו טכנולוגי אלא מוסרי: כיצד ללמד מכונה להבחין בין טוב לרע כאשר אין הסכמה אנושית על מערכת ערכים משותפת. הוא מציע להיעזר במסורת המוסר היהודית, הכוללת ערכים עתיקים ומסודרים כמו קדושת החיים, שלום, אמת, כבוד האדם וצדק, אשר חלחלו גם לתרבויות אחרות. שי סבור כי חזרה לעקרונות יסוד כמו "דרך ארץ" יכולה ליצור בסיס משותף בין דתיים לחילונים בישראל, כפי שבא לידי ביטוי במגילת העצמאות.

שי קושר את היעדר בסיס ערכי מוסכם בישראל לביקורת הבינלאומית על המלחמה בעזה, וטוען כי יש צורך במערכת עקרונות מוסריים ברורה. הוא מזהה בישראל יתרונות נוספים להובלת המהלך: הניסיון הרב בהתמודדות עם הכרעות מוסריות מורכבות והיכולות הטכנולוגיות של תעשיית ההייטק. לדבריו, ישראל צריכה להוביל את "הבשורה של המרכיב הנוסף, המכונה הנוספת של החוכמה".

עם זאת, שי מדגיש כי המערכת המוצעת לא תקבל החלטות מוסריות בעצמה, אלא תסייע לאדם בכך ותבטיח שלא יוכל להתחמק מאחריותו. המערכת תזהה מצבים הדורשים הכרעה ערכית ותעצור את התהליך עד להתערבות אנושית. הוא משווה את הצורך בגיבוש ערכים לדיונים היסטוריים כמו בין בית הלל לבית שמאי, ומאמין כי הדרישה להגדיר ערכים תאלץ גם את בני האדם לבחון מחדש את תהליכי קבלת ההחלטות שלהם.