לחץ חברתי: גרסת ה־AI

מחקר חדש מאוניברסיטת תל אביב, שנערך על ידי החוקרים יותם ליאל ופרופ' ליאור זלמנסון, בחן את השפעתן של מערכות בינה מלאכותית על שיקול הדעת האנושי. בניסוי, 1,445 משתתפים ביצעו משימות פשוטות של תיוג תמונות וזיהוי הבעות פנים. כאשר הוצגה להם המלצת אלגוריתם שגויה במכוון, 19% עד 27% מהמשתתפים אימצו את התשובה השגויה, לעומת פחות מ-1% בקבוצת הביקורת. תופעה זו, המכונה "קונפורמיות אלגוריתמית", משקפת נטייה אנושית להתיישר עם המלצות המערכת, בדומה לניסויים פסיכולוגיים קלאסיים משנות ה-50.

המחקר מצביע על כך שהשפעת הבינה המלאכותית אינה מסתיימת גם כאשר אנו דוחים את המלצתה. מחקר נוסף, שערכו ליילי סולימנוף ופרופ' דריק נויפלד מאוניברסיטת מערב אונטריו, מצא כי גם לאחר דחיית המלצת AI, ביטחונם של המשתתפים בהחלטותיהם ירד. הדבר מעלה שאלות לגבי יעילותו של מנגנון "האדם בלולאה" (Human in the Loop), שנועד להבטיח פיקוח אנושי על מערכות אוטונומיות, שכן הוא מניח הפרדה ברורה בין שיקול דעת אנושי למערכת.

הכותבת, מנכ"לית Humane AI, מדגישה כי ככל שהטכנולוגיה משתלבת יותר בחיינו, כך גוברת המורכבות בהבחנה בין פעולת המערכת לשיקול הדעת האנושי. היא מציינת כי למרות ההשפעה, ניתן להפחית את הנטייה לקונפורמיות אלגוריתמית כאשר ההשלכות של טעות הופכות לממשיות ומוחשיות. במקרים כאלה, כאשר המשתתפים הבינו שהחלטותיהם ישפיעו על בטיחות כלי רכב אוטונומיים, שיעור אימוץ ההמלצות השגויות ירד בכמחצית. הדבר מדגיש את חשיבות תחושת האחריות האישית וההבנה של מחיר ההחלטה.