חוקרים ישראלים חשפו קמפיין שמרעיל תשובות AI ומפנה למוקדי שירות מזויפים
חוקרי סייבר ישראלים חשפו קמפיין "הרעלת AI" רחב היקף, המכוון להטעות משתמשים של מנועי בינה מלאכותית כמו ChatGPT, ג'מיני ו-Google AI Overview. הקמפיין מציג במכוון מידע שגוי, כגון מספרי שירות לקוחות, כתובות מייל וקישורים מזויפים, עבור 374 מותגים גדולים, ביניהם בנקים וחברות תעופה.
המתקפה מנצלת את האמון הגבוה של הציבור במידע המוצג על ידי AI. התוקפים מציפים את הרשת בתוכן מזויף, כולל פוסטים, מסמכים וקובצי PDF, שנכתבו באופן שמנועי AI יעדיפו לצטט אותם. טכניקות GEO משמשות לגרום למודלים להציג מקורות אלו כתשובות אמינות. התוכן מתוכנן סביב מצבי לחץ, כמו ביטול טיסה או חשבון בנק נעול, כדי לגרום למשתמשים לפעול בחיפזון וליצור קשר עם המספרים המזויפים המוצגים.
המשתמשים המגיבים לפנייה למוקדים אלו עלולים למצוא עצמם משלמים מחירים מופקעים, מוסרים פרטי התחברות או נגנבים כספית. המחקר מצביע על כך ש-92% מהמשתמשים אינם מאמתים תשובות המתקבלות ממנועי AI. התוקפים משתמשים בשיטות מתוחכמות להסתרת מספרי טלפון מפני מסנני ספאם, תוך חזרה על המספרים בצורות שונות ושילוב מידע אמיתי כדי להגביר את האמינות הנתפסת.
הקמפיינים מבוצעים באופן אוטומטי ובהיקף נרחב, עם אלפי פוסטים ביום. הסרת תוכן זדוני אינה תמיד יעילה, שכן הוא נשמר בארכיונים ועדיין מופיע בתוצאות חיפוש. החוקרים, דן לסקר, אריאל סימון ונאור חזיז, פיתחו מערכת לזיהוי התקפות אלו ומנגנון להחזרת מידע מאומת לתשובות AI. הם מציינים כי חברות רבות אינן רואות עצמן אחראיות לטיפול בתופעה, וכי גוגל ו-OpenAI התייחסו לדיווחים בטענות של חוסר אחריות או קושי בשחזור עקבי של הממצאים.
החוקרים מדגישים את הפער המערכתי בהגנה על צרכנים מפני דיסאינפורמציה של AI, ופועלים לסגור פער זה באמצעות חברת הסטארטאפ שהם מקימים.
The same event, reported separately by each outlet. Open a few to compare what different newsrooms emphasize — and what they leave out.
Not the same event — other stories that share this one’s people, places, or theme: background, reactions, and follow-ups.
