חוקרים ישראלים חושפים: שיטת ההונאה החדשה ב- AI
חוקרי סייבר ישראלים, יוצאי יחידות מודיעין, חשפו שיטת הונאה חדשה המנצלת את האמון הגובר של הציבור במנועי בינה מלאכותית. המחקר, שנערך בארה"ב, מצא כי 92% מהמשתמשים אינם מאמתים את המידע המתקבל ממנועי AI, מצב המאפשר להאקרים לבצע הונאות כספיות.
התוקפים משתמשים בשיטת "Generative Engine Optimization" (GEO) כדי להשפיע על המידע שמנועי AI כמו ChatGPT, Gemini ו-Google AI Overview מציגים למשתמשים. הם מחדירים לרשת מידע שנראה אמין, הכולל לעיתים מספרי טלפון עם תווים מיוחדים, שמנועי ה-AI עלולים להציג כמספרים רשמיים. צרכנים המחפשים מידע לגיטימי עלולים ליצור קשר עם מוקדים מתחזים, שיגבו מהם עמלות גבוהות.
המערכת שפיתחו החוקרים איתרה עד כה מתקפות נגד 374 מותגים בינלאומיים, ביניהם חברות תעופה כמו דלתא ולופטהנזה, פלטפורמות תיירות כמו Airbnb, ובנקים כמו Chase ו-Citi. הבעיה מחמירה בשל אלפי פרסומים זדוניים שעולים מדי יום לאתרים ממשלתיים, אקדמיים וברשתות חברתיות, ועלולים להישאר בארכיונים ולהמשיך להזין את מנועי ה-AI גם לאחר הסרתם.
קיים פער באחריות בין החברות הנפגעות לענקיות הטכנולוגיה. החברות הנפגעות טוענות שאינן אחראיות למספרים מזויפים המופיעים ברשת כל עוד שרתיהן לא נפרצו. ענקיות הטכנולוגיה, מצידן, מתקשות לקבל אחריות. גוגל הגדירה דיסאינפורמציה שנוצרה באמצעות AI כמחוץ לתחום תוכנית חשיפת החולשות שלה, ואילו OpenAI סגרה דיווח בטענה לחוסר עקביות בתשובות המודלים. החוקרים מדגישים כי כל עוד ענקיות הטכנולוגיה אינן מכירות בדיסאינפורמציה של AI כחולשת אבטחה, הצרכנים נותרים ללא הגנה.
