OpenAI חושפת: רוסיה ואיראן השתמשו ב-ChatGPT להפצת דיסאינפורמציה
תורגם ותומצת מתוך NEWSru Israel על ידי baba
חברת OpenAI חשפה מבצעי דיסאינפורמציה נרחבים שבוצעו על ידי רוסיה ואיראן, תוך שימוש ב-ChatGPT להפצת תעמולה פוליטית. הפעולה הרוסית "Dark Clark" כללה הקמת מרכז מחקר פיקטיבי באמריקה הלטינית והפצת מסמכים מזויפים נגד אוקראינה. הפעולה האיראנית "Bogus Bylines" פרסמה מאמרים תחת שמות בדויים. בנוסף, רוסיה קידמה ארגון מחקר פיקטיבי "IBI" שהתיימר להיות מישראל. במקביל, נחשף כי ישראל מימנה מכון מחקר אמריקאי פיקטיבי, "Hanover Institute", שנועד להשפיע על תשובות של מערכות בינה מלאכותית.
הידיעה ב-6 שורות · תקציר של baba
- OpenAI חשפה מבצעי דיסאינפורמציה רוסיים ואיראניים שנעזרו ב-ChatGPT להפצת תעמולה פוליטית.
- הפעולה הרוסית "Dark Clark" כללה הקמת מרכז מחקר פיקטיבי באמריקה הלטינית והפצת מסמכים מזויפים.
- הפעולה האיראנית "Bogus Bylines" פרסמה מאמרים תחת שמות עיתונאים פיקטיביים, בעיקר בנושא העימות עם ארה"ב.
- רוסיה קידמה ארגון מחקר פיקטיבי בשם "IBI", שהתיימר להיות ממוקם בישראל ופרסם תכנים פרו-רוסיים.
- מכון מחקר אמריקאי פיקטיבי, "Hanover Institute", שמומן על ידי ישראל, נועד להשפיע על תשובות של מערכות בינה מלאכותית.
- השימוש ב-AI האיץ והקל על יצירת תכני דיסאינפורמציה, תוך ניצול אמון במוסדות קיימים.
חברת OpenAI חשפה כי סיכלה שתי פעולות תעמולה נרחבות, שבוצעו על ידי גורמים ברוסיה ובאיראן, תוך שימוש בכלי הבינה המלאכותית שלה להכנת חומרים, מסמכים מזויפים וקידום פרסומים. הפעולות נועדו להפיץ דיסאינפורמציה פוליטית במדינות שונות.
הפעולה האיראנית, שזכתה לשם "Bogus Bylines", כללה פרסום מאמרים תחת שמות של שבעה עיתונאים פיקטיביים בין יולי 2025 לאוקטובר 2026. כ-100 חומרים פורסמו או שודרו מחדש בעשרות כלי תקשורת ברחבי העולם, בעיקר בנושא העימות בין ארה"ב לאיראן. המארגנים השתמשו ב-ChatGPT לעריכת מאמרים באנגלית, התאמתם לדרישות מערכות שונות, והכנת מכתבים נלווים. העיתונאים הבדיוניים הציגו עצמם כמומחים לפוליטיקה בינלאומית, המזרח התיכון וזכויות אדם. חלקם אף יצרו פרופילים ברשתות חברתיות, אך בדיקות העלו קשר לאיראן. חלק מהמאמרים פורסמו גם בכלי תקשורת עם קהל קוראים גדול, כמו גם תגובות ברשתות חברתיות שמטרתן להציג את ארה"ב כתוקפנית ואת איראן כקורבן. OpenAI העריכה את היקף הפצת המאמרים ברמה 4 מתוך 6, ואת קמפיין התגובות ברמה 2 בלבד.
הפעולה הרוסית, "Dark Clark", הייתה מורכבת יותר. המארגנים הקימו במרכז אמריקה "מרכז מחקר חברתי" (SRC) שנוהל דרך דמות פיקטיבית בשם מיא קלארק. עובדים מקומיים במרכז, שביצעו ראיונות והכנת מחקרים, לא היו מודעים לכך שהם פועלים במסגרת מבצע השפעה רוסי. המארגנים הרוסים שלטו על כוח האדם, המימון וכיווני המחקר. באתר SRC פורסמו למעלה מ-60 מחקרים מקוריים בנושאים כמו יחסי מדינות באמריקה הלטינית עם מדינות ה-BRICS. בנוסף, הפעולה כללה הפצת מסמכים מזויפים, הודעות והקלטות אודיו במטרה לפגוע באוקראינה ולהתערב בפוליטיקה הפנימית של מדינות באמריקה הלטינית. לדוגמה, הופץ מסמך מזויף שקשר קונסול כבוד אוקראיני בפנמה לשחיתות, וכן מכתבים מזויפים לבתי ספר בפרו שקראו לקיים אירועים בנושא סטפן בנדרה. באקוודור הופצו דיווחים כוזבים על אירועי בית ספר לטובת הנשיא דניאל נובואה. בבוליביה הופצה הקלטה מזויפת על הפסקת אספקת מים. OpenAI העריכה את פעילות "Dark Clark" ברמה 5 מתוך 6, הדירוג הגבוה ביותר מבין 30 מבצעי השפעה שזוהו מתחילת 2024. נראה כי חלק משיטות הפעולה דומות לאלו של מבנה המכונה "Politology", המקושר לרשת השפעה רוסית שנוצרה על בסיס מבנים של יבגני פריגוז'ין.
בנוסף, OpenAI חשפה כי רוסיה ניסתה לקדם את "International Burke Institute" (IBI), ארגון מחקר פיקטיבי שהתיימר להיות ממוקם בישראל. רוב פרסומי הארגון היו העתקות ממקורות אחרים, לעיתים עם החלפת שמות מחברים. הארגון קידם את רוסיה כמעצמה עצמאית ואת המדינות המערביות ככאלה שאיבדו את עצמאותן. OpenAI חסמה את החשבונות הקשורים למבצעים אלו והעבירה את המידע לרשויות.
במקביל, נחשף כי ישראל מימנה את "Hanover Institute for Public Policy", מכון מחקר אמריקאי פיקטיבי שפרסם כ-124 "מחקרים" תוך תשעה ימים בלבד, במטרה להשפיע על תשובות של מערכות בינה מלאכותית כמו ChatGPT. המכון, שקיבל מיליון דולר, נרשם כפועל מטעם ממשלת ישראל. המאמרים עסקו בשאלות רגישות בנוגע לישראל, כמו האשמות באנטישמיות ורצח עם, ונועדו להפריך אותן.
מוזכרים
לא אותו אירוע: ידיעות אחרות שחולקות עם הידיעה הזו אנשים, מקומות או נושא. רקע, תגובות והמשכים.
