צבא הבוטים החדש: איראן, סין וחברות ישראליות הפעילו קמפיינים אוטונומיים באמצעות AI

תחקיר של ה"ניו יורק טיימס" חושף כי איראן, סין ושתי חברות ישראליות פרטיות השתמשו בחודשים האחרונים בבינה מלאכותית (AI) באופן חסר תקדים להקמה וניהול של קמפיינים אוטונומיים ברשתות החברתיות. לפי הדיווח, סוכני AI פתחו בעצמם רשתות של חשבונות מזויפים, בחרו נושאים לפרסום, הפיצו מסרים פוליטיים והגיבו למשתמשים, תוך מעורבות אנושית מינימלית. המפעילים שילבו מודלים סיניים של AI בקוד פתוח עם "סוכנים" אוטונומיים, תוכנות המסוגלות להשלים משימות בכוחות עצמן, ושלחו מאות מהם לפתוח חשבונות בפלטפורמות כמו פייסבוק, אינסטגרם, טיקטוק ו-X.

החידוש המרכזי בפעילות הוא העברת כמעט כל שרשרת הפעילות לידי מערכות ה-AI, החל מפתיחת החשבונות ועד לתיאום המסרים והתגובות. המפעילים השביתו מנגנוני הגנה כדי למנוע זיהוי של הפעילות. הקמפיינים, אף שהיו גולמיים, עוררו את תשומת לבם של גורמי מודיעין אמריקניים וחברות טכנולוגיה. הקמפיינים האיראניים והסיניים הופעלו בחסות המדינות, בעוד שהפעילויות מישראל נקשרו לחברות מסחריות פרטיות.

הפעילות האיראנית, שהוגדרה כמדאיגה במיוחד, כוונה לקהל בארצות הברית, השתמשה בחשבונות שהתחזו לאמריקנים והפיצה תכנים נגד המפלגה הרפובליקנית. קרוב ל-80 אלף משתמשים עקבו אחר החשבונות שפעלו במחצית הראשונה של השנה. לגבי הקמפיין הסיני נמסרו פחות פרטים, אך גם הוא היה בחסות המדינה.

אחת החברות הישראליות שנקשרו לפעילות היא IntelEye, שהוקמה על ידי יוצאי NSO. החברה אישרה שימוש בחשבונות ובמודל סיני, אך דחתה את הטענה שהפעילה קמפיין השפעה, וטענה כי מדובר במחקר הגנתי ובדיקות. מטא אישרה כי זיהתה פעילות של "גורם מסחרי שבסיסו בישראל" וכי רוב החשבונות הוסרו. החברה ציינה כי AI מוטמע כעת במערכות אוטומטיות לייצור והפצת תוכן בהתערבות אנושית מינימלית. גורמים אמריקניים חוששים שהשיטה תשמש להשפעה על בוחרים לקראת בחירות, ותהפוך מבצעים כאלה למהירים, זולים ונרחבים יותר.