ישראלים חשפו מתקפת "הרעלת AI" נגד ענקיות טכנולוגיה

חוקרי סייבר ישראלים חשפו קמפיין "הרעלת בינה מלאכותית" רחב היקף, הגורם למודלים כמו ChatGPT, Gemini ו-Google AI Overview להציג פרטי קשר מזויפים, כתובות מייל, דפי התחברות ועדכוני תוכנה בתשובותיהם. המחקר, שנערך על ידי דן לסקר, אריאל סימון ונאור חזיז, יוצאי יחידות מודיעין מסווגות בצה"ל, מצא כי המתקפות כוונו נגד לקוחות של 374 מותגים וחברות גדולות, כולל בנקים, חברות תעופה ופלטפורמות תיירות. החוקרים מצאו כי התוקפים ממלאים את הרשת בפוסטים, מסמכים ובעיקר קבצי PDF, אתרים, ביקורות ודפי תמיכה מזויפים, המנוסחים באופן שנועד להטות את מערכות הבינה המלאכותית לצטט אותם. שיטות אלו נועדו לגרום למודלים להעדיף מקורות מסוימים ולהציגם כאמינים. התוקפים מנצלים מצבי לחץ וחירום, כמו ביטול טיסה או חסימת חשבון בנק, כדי לגרום למשתמשים לפעול בפזיזות וליצור קשר עם מספר טלפון שגוי המוצג בתוצאות החיפוש. שיחה זו מובילה לרוב לגביית עמלות גבוהות מהרגיל, גניבת פרטי התחברות או הוצאת כספים. מערכת שפותחה על ידי החוקרים זיהתה עשרות אלפי דפי אינטרנט זדוניים. הם הדגישו כי רוב התשובות היו סטטיסטיות, והמתקפה לא תמיד חזרה על עצמה בכל שאילתה. בין החברות שנפגעו נמנות דלתא, לופטהנזה, יונייטד איירליינס, אמירייטס, קטאר איירווייז, אמריקן איירליינס, Airbnb, טריפ אדוויזר, צ'ייס, סיטי, וולס פארגו ובנק אוף אמריקה. הפוסטים הזדוניים פורסמו בפלטפורמות מגוונות, כולל אינסטגרם, טאמבלר, באזפיד, יוטיוב, מדיום, אתרים ממשלתיים ואוניברסיטאיים, וכן פלטפורמות כמו GitHub ו-WordPress. הקמפיינים מתנהלים באופן אוטומטי לחלוטין, עם אלפי פוסטים ביום המכילים תבניות, מספרי טלפון וניסוחים זהים עבור חברות רבות.