מומחי סייבר ישראלים: מתקפת 'Dark Sourcery' מרעילה תשובות AI
מומחי סייבר ישראלים חשפו קמפיין הונאה רחב היקף, המכונה 'Dark Sourcery', שבו תוקפים מצליחים לגרום למערכות בינה מלאכותית כמו ChatGPT ו-Google Gemini להציג פרטי קשר מזויפים של חברות. לפי דיווח ב-Israel Defense, המערכת שפיתחו החוקרים זיהתה התקפות כאלה נגד 374 מותגים מוכרים.
התוקפים מפרסמים ברשת מסרים, קבצי PDF, ביקורות ודפי שירות לקוחות מזויפים, המותאמים לחיפושי מנועי חיפוש ובינה מלאכותית. כתוצאה מכך, מערכות AI עלולות להציג מספר טלפון מתחזה או קישור פישינג כפרטי יצירת קשר רשמיים של חברות.
בין המותגים שנפגעו נמנים חברות תעופה כמו דלתא, לופטהנזה, יונייטד איירליינס, אמירטס וקטאר איירווייז, וכן חברות כמו Airbnb, טריפ-אדווייזר, וגופי פיננסים כמו Chase, Citi ו-Wells Fargo. משתמשים המנסים ליצור קשר עם חברות אלו עלולים לקבל ממרכז שירות מזויף פרטי תשלום או להידרש לתשלום גבוה מהרגיל.
החוקרים מדגישים כי המתקפה אינה מכוונת נגד מודלי ה-AI עצמם, אלא נגד מקורות המידע שהם צורכים. גוגל ו-OpenAI הגיבו לפניות החוקרים: גוגל סברה שהמידע השגוי אינו נופל תחת תוכנית גילוי הפגיעויות שלה, ואילו OpenAI סגרה את הפנייה בשל קושי בשחזור התוצאות באופן עקבי. החוקרים ממליצים למשתמשים לאמת מידע רגיש, כמו מספרי שירות לקוחות, מול האתרים הרשמיים של החברות.
Ask About This Article
Duki reads it, and every newsroom on the same story, then answers with sources.