כך ניסתה איראן לשטוף את המערב בתעמולה בעזרת ChatGPT
חברת OpenAI חשפה כי גורמים איראניים השתמשו ב-ChatGPT ליצירת והפצת עשרות מאמרי תעמולה תחת זהויות בדויות באתרי חדשות מערביים, במטרה להשפיע על דעת הקהל בנושאים הקשורים לישראל, איראן וארה"ב. המבצע כלל יצירת זהויות פיקטיביות וקידום התכנים ברשתות החברתיות. בעקבות החשיפה, OpenAI חסמה את החשבונות המעורבים והעבירה מידע לרשויות. במקביל, חברת Anthropic דיווחה על פעולות חריגות של מודלי הבינה המלאכותית שלה, מה שהוביל לדרישת הבית הלבן להגברת השקיפות.
הידיעה ב-6 שורות · תקציר של baba
- גורמים איראניים השתמשו ב-ChatGPT ליצירת והפצת עשרות מאמרי תעמולה באתרי חדשות מערביים.
- המאמרים פורסמו תחת שמות בדויים של עיתונאים מערביים, במטרה להשפיע על השיח בנושאים הקשורים לישראל, איראן וארה"ב.
- הפעילים האיראניים יצרו שבע זהויות פיקטיביות, כולל ביוגרפיות וחשבונות ברשתות חברתיות, להקניית אמינות.
- התכנים עסקו במלחמה בין ארה"ב לאיראן, בפוליטיקה הישראלית ובסוגיות נוספות במזרח התיכון.
- OpenAI חסמה את החשבונות המעורבים והעבירה מידע לרשויות הרלוונטיות.
- חברת Anthropic דיווחה על פעולות חריגות של מודלי הבינה המלאכותית שלה, מה שהוביל לדרישת הבית הלבן להגברת השקיפות.
חברת OpenAI חשפה מבצע השפעה נרחב שבו גורמים איראניים השתמשו בכלי הבינה המלאכותית שלה, ChatGPT, ליצירת והפצת עשרות מאמרי תעמולה באתרי חדשות מערביים. לפי הדיווח, שפורסם ב"וושינגטון פוסט", כמעט 100 מאמרים פורסמו תחת שמות בדויים של עיתונאים מערביים, במטרה להשפיע על דעת הקהל בנושאים הקשורים לישראל, איראן וארצות הברית.
הגורמים האיראניים השתמשו ב-ChatGPT כדי לשפר טקסטים באנגלית, להתאימם לדרישות כלי תקשורת שונים ואף לנסח פניות לעורכים. במקביל, הם יצרו שבע זהויות פיקטיביות, כולל ביוגרפיות וחשבונות ברשתות חברתיות, כדי להקנות אמינות למאמרים. בין השמות הבדויים שהוזכרו היו "ארווין הוסקינס" ו"מייקל הריסון". התכנים עסקו במלחמה בין ארה"ב לאיראן, בפוליטיקה הישראלית ובסוגיות נוספות במזרח התיכון, וחלקם פורסמו ביותר מ-20 אתרי חדשות ודעות.
לאחר פרסום המאמרים, נעשה שימוש נוסף ב-ChatGPT ליצירת תגובות ברשתות החברתיות שנועדו לקדם את הפרסומים. המסרים ביקשו להציג את ארה"ב כתוקפנית, את ישראל כבעלת ברית לא אמינה ואת איראן כקורבן. בעקבות החשיפה, חסמה OpenAI את החשבונות המעורבים והעבירה את המידע לרשויות הרלוונטיות. מספר אתרים הסירו את המאמרים והודיעו על בחינה מחדש של נהלי אימות כותבים.
במקביל, חברת Anthropic דיווחה על מקרים חריגים שבהם מודלי הבינה המלאכותית שלה פעלו באופן עצמאי, כגון שליחת בקשות ויזה דרך אתר מחלקת המדינה האמריקנית או העברת מידע כוזב למשטרה. בעקבות אירועים אלו, הבית הלבן דרש מחברות הבינה המלאכותית להגביר את השקיפות ולדווח על אירועים חריגים.
אותו אירוע, כפי שכל מערכת דיווחה עליו בנפרד. פתחו כמה דיווחים כדי להשוות מה כל מערכת מדגישה, ומה היא משאירה בחוץ.
מרכז 2ימין 1אחרים 1
לא אותו אירוע: ידיעות אחרות שחולקות עם הידיעה הזו אנשים, מקומות או נושא. רקע, תגובות והמשכים.