ה-AI יאזין לכל מילה: התוכנית שמעוררת סערה בבתי הספר בעזה

ארגון סיוע אמריקאי בשם Gaza Children Village, בראשותו של הנוירוכירורג ד"ר דיוויד חסן, מתכנן להטמיע מערכת בינה מלאכותית שתאזין לשיחות בכיתות בבתי ספר בעזה. מטרת המערכת היא לזהות ולדווח על מקרים של אנטישמיות או הסתה נגד ישראל, במטרה לקדם תוכנית לימודים המעודדת סובלנות.

חסן, שגדל על תפיסות שליליות כלפי יהודים וישראלים, הקים את הארגון לאחר שהתנדב בעזה במהלך המלחמה. הארגון מפעיל בתי ספר בשם Academies of Hope, וחסן טוען שהסיר מהתוכנית הלימודים הפלסטינית תכנים המעודדים אלימות ועוינות. עם זאת, הוא לא הציג דוגמאות לשינויים אלו.

המערכת המתוכננת תקליט שיעורים ותנתח אותם באמצעות AI. אם תזוהה אמירה חשודה, חסן יקבל התרעה ויפנה למורה לבירור. ההקלטות יישמרו ל-72 שעות. חסן טוען שהטכנולוגיה נבדקה ומוכנה להפעלה בעשרות כיתות, אך סוכנות הידיעות AP לא הצליחה לאמת זאת.

היוזמה מעוררת התנגדות וחששות. חבר הנהלה בארגון, בישארה בחבח, הביע הפתעה וחוסר הסכמה עם תוכנית המעקב, וטען שהיא עלולה לפגוע בחופש הביטוי של מורים ותלמידים. מורים שפנו אליהם סירבו להגיב, וחלקם חוששים מחקירות חמאס או מחוסר נוחות מעבודה עם ארגון הנתמך על ידי גופי סיוע ישראליים. גורם בארגון סיוע אחר הביע חשש שהמהלך יוביל לבחינה מחדש של שיתוף הפעולה.

עוד עולות שאלות לגבי אבטחת ההקלטות והאפשרות שיגיעו לידיים הלא נכונות. חסן סירב להגיב לשאלות AP, וזהות מפתחי המערכת אינה ברורה. ארגון PollyLabs, שצוין כשותף לפיתוח, הכחיש כל מעורבות.