סכנה בחיפוש: האקרים מרעילים את התשובות של צ'אטGPT וגוגל
חוקרי סייבר ישראלים חשפו קמפיינים זדוניים שמטרתם להשפיע על המידע שמנועי בינה מלאכותית אוספים מהרשת, כך שמספרי טלפון של מוקדי שירות פיקטיביים יופיעו בתשובות למשתמשים. המחקר, שפורסם בארצות הברית, מצא כי תוקפים מפעילים באופן אוטומטי עמודים ופרסומים שנועדו להיכנס למקורות המידע שעליהם מסתמכים מנועי חיפוש וצ'אטבוטים כמו צ'אטGPT, ג'מיני ו-Google AI Overview. המטרה היא לגרום למערכות להציג מידע שנראה אמין, אך למעשה מפנה את המשתמש לגורם שאינו שייך לחברה המקורית.
התוקפים משתמשים בטכניקות של אופטימיזציה למנועי בינה מלאכותית גנרטיבית (GEO), המקבילה לאופטימיזציה למנועי חיפוש. לעיתים, משולבים במספרי הטלפון אימוג'ים ותווי Unicode מיוחדים, שמקשים על מערכות סינון לזהות את התוכן כבעייתי, בעוד שמנועי הבינה המלאכותית עדיין מסוגלים לפרש אותו. חיפוש תמים אחר פרטי שירות עלול להוביל למספר טלפון שנראה רשמי, אך מוביל למוקד שגובה מחירים ועמלות גבוהים מהמחיר הרשמי.
המערכת שפיתחו החוקרים איתרה עד כה מתקפות פעילות נגד 374 מותגים מוכרים, ביניהם חברות תעופה, פלטפורמות תיירות ובנקים. אלפי פרסומים זדוניים חדשים עולים מדי יום, וגם לאחר הסרתם, עותקים שמורים יכולים להמשיך לשמש מקור למנועי בינה מלאכותית.
החוקרים מציינים כי במקרים רבים, החברות הנפגעות אינן רואות בכך פריצה למערכותיהן הפנימיות, ולכן אינן רואות בכך אחריות של צוותי האבטחה שלהן. גוגל מסרה כי דיווחים על מידע מטעה שנוצר באמצעות בינה מלאכותית מוגדרים "מחוץ לתחום" של תוכנית דיווח החולשות שלה. ב-OpenAI טענו כי הדיווח נסגר מחוסר יכולת לשחזר את הממצאים באופן עקבי. חוקר הסייבר דן לסקר הדגיש כי אנשים נוטים לסמוך על מידע המוצג כעובדה מתוך מנוע בינה מלאכותית, וכי כל עוד ענקיות הטכנולוגיה אינן מכירות בדיסאינפורמציה של בינה מלאכותית כחולשת אבטחה, הצרכנים נותרים חשופים.
The same event, reported separately by each outlet. Open a few to compare what different newsrooms emphasize — and what they leave out.
Not the same event — other stories that share this one’s people, places, or theme: background, reactions, and follow-ups.
Ask About This Article
Duki reads it, and every newsroom on the same story, then answers with sources.