הררי: הבינה המלאכותית עלולה להפוך אותנו ל"פרות" תלויות
תורגם ותומצת מתוך Cursorinfo על ידי baba
ההיסטוריון יובל נח הררי הזהיר כי בינה מלאכותית עלולה להוביל למצב בו האנושות תאבד שליטה על עתידה ותהפוך תלויה במערכות AI מבלי להבין את אופן פעולתן. הררי השווה את האנושות העתידית לפרות התלויות באדם אך אינן מבינות את העולם הפיננסי. הוא הסביר כי יכולת עיבוד הנתונים של AI מעניקה לו יתרון על פני בני אדם בניהול מערכות מורכבות, מה שעלול להוביל לאובדן הבנה ושליטה על החלטות המתקבלות על ידי אלגוריתמים.
הידיעה ב-5 שורות · תקציר של baba
- ההיסטוריון יובל נח הררי הזהיר כי בינה מלאכותית עלולה להפוך את האנושות ל"פרות" תלויות, ללא הבנה של העולם.
- הררי מסביר שהסכנה אינה מרד רובוטים, אלא אובדן שליטה והבנה של מערכות מורכבות.
- מערכות AI יוכלו לנהל שווקים פיננסיים ומערכות אדמיניסטרטיביות טוב יותר מבני אדם.
- היכולת של AI לעבד כמויות מידע עצומות מעניקה לו יתרון על פני בני אדם.
- התפתחות ה-AI עלולה להקשות על הבנת החלטות המתקבלות על ידי אלגוריתמים.
ההיסטוריון והפרופסור יובל נח הררי הזהיר מפני סכנה חדשה הנשקפת לאנושות מצד בינה מלאכותית (AI), שאינה קשורה למרד רובוטים, אלא לאובדן שליטה והבנה של האופן שבו העולם פועל. לדבריו, מערכות AI יוכלו לנהל מערכות מורכבות כמו שווקים פיננסיים ומערכות אדמיניסטרטיביות טוב יותר מבני אדם, בשל יכולתן לעבד כמויות עצומות של מידע ולהתחשב בריבוי תהליכים בו-זמנית.
הררי השווה את מצב האנושות העתידי למצב של פרות במשק. "אנחנו הפרות של העתיד", הוא אמר, והסביר כי כמו שפרה תלויה באדם אך אינה מבינה מושגים כמו כסף או שוק ההון, כך גם בני אדם עלולים למצוא עצמם תלויים במערכות AI מבלי להבין את אופן פעולתן או את מקבלי ההחלטות האמיתיים.
הוא ציין כי AI, המכונה "בירוקרט מלידה", מחזיק ביתרון משמעותי על פני בני אדם בעיבוד נתונים וניהול מערכות מורכבות. כתוצאה מכך, אנשים עלולים לחיות בעולם שבו החלטות מתקבלות על ידי אלגוריתמים, אך קשה יותר ויותר להסביר את ההיגיון מאחוריהן.
היסטוריון הדגיש כי תחושת חוסר שליטה וחוסר הבנה של כוחות המניעים את חיינו כבר קיימת כיום, ומתבטאת בין היתר בתיאוריות קונספירציה. בעוד שניתן כיום להתמודד עם כך באמצעות חינוך והסברים, התפתחות ה-AI עלולה להחריף את המצב, ולהפוך את ההשפעה וההבנה של תהליכים אלו לבלתי אפשריות עבור האדם.
לא אותו אירוע: ידיעות אחרות שחולקות עם הידיעה הזו אנשים, מקומות או נושא. רקע, תגובות והמשכים.
