"בני אדם טועים יותר": איך עובדים עם AI בבית החולים בלי שהרופא יפסיק לחשוב?

בכנס Rambam Tomorrow של ynet ורמב"ם, התריע פרופ' שחר שלי, מנהל המחלקה הנוירולוגית ברמב"ם, מפני ניוון יכולות החשיבה של רופאים עקב הסתמכות יתר על מערכות בינה מלאכותית (AI). שלי, שפיתח את מערכת ה-AI "שקד" המסייעת לרופאים במיון, הדגיש כי יש לבנות מערכות אלו כך שישאירו לרופא חלק מהחשיבה, בדומה לשימוש ב-Waze שעלול לפגוע ביכולת הניווט העצמאית. הוא השווה את המגבלות המובנות במערכת ל"מעקות" ברכב העולה במעלה הר, שמטרתן להגן על המטופל והרופא כאחד.

שלי ציין כי בני אדם טועים הרבה יותר ממערכות AI, אך הדגיש את הרצון האנושי הטבוע בנו לשמור על שליטה בהחלטות. מערכת "שקד" מרכזת מידע ממקורות שונים ומציגה אותו לרופא בצורה ברורה, במטרה לבצע "דמוקרטיזציה של המידע" ולאפשר קבלת החלטות מושכלת. המערכת עוברת תהליך בדיקה קפדני, הכולל בדיקה על מקרים מהעבר לפני הפעלתה בעבודה שוטפת, בדומה לבדיקות רכב לפני הוצאתו לכביש.

תומר אופיר, מנהל תחום הבריאות ב-AWS ישראל, הדגיש כי AI משמשת ככלי תומך החלטה בלבד, ולא כמקבל החלטה. הוא הביא כדוגמה את חברת "איידוק" הישראלית, המשתמשת ב-AI לסריקת CT בזמן אמת לזיהוי דימומים מוחיים, והרופא הוא זה שמקבל את ההחלטה הסופית. שימושים נוספים כוללים ניטור, התראות וסיכום תיקים רפואיים, המסייעים להפחית עומס על רופאים.

הגר טראו, ראש חטיבת הדיגיטל וטכנולוגיות המידע ברמב"ם, תיארה את בניית "מפעל AI" בבית החולים, המבוסס על דאטה ומתפתח כל הזמן. היא ציינה כי פיתוחים נוספים כוללים עיבוד מידע בטיפול נמרץ וחיזוי מטופלים שלא יגיעו לתור. פרופ' טליה מירון שץ הדגישה כי מטופלים מעוניינים בתמיכה של AI לרופא, אך הרופא הוא זה שמחליט. היא הסבירה כי יש להסביר למטופלים את תפקיד ה-AI בצורה שתבטיח את אמון המטופל, תוך הדגשת התובנות שהמערכת מאפשרת לרופא להגיע אליהן.

פרופ' שלי הדגיש את חוסר היכולת האנושית לבחור את הטיפול המתאים ביותר מבין אפשרויות רבות, כמו 88 תרופות לסוכרת, והכריז כי מהפכת ה-AI כבר כאן. הוא הביע דאגה מההשפעה של שימוש יתר ב-AI, כמו צ'אט GPT, על תהליכי החשיבה של הדור הצעיר. כיום, רופאים נדרשים לנמק אי-הסכמה עם המלצות AI, וההחלטה הסופית נותרת בידי האדם. טראו הביעה ספק לגבי מתן שליטה מלאה למערכות AI בהחלטות קריטיות, וציינה כי לא נגיע למצב אוטונומי לחלוטין בהחלטות בעלות משמעות חייהם של אנשים. הליך מסודר, שבו רופא מנמק אי-הסכמה עם המלצת המכונה, הוא הדרך הנכונה קדימה.