הסטארטאפ של לשכת נתניהו פשט רגל

יועץ לראש הממשלה, יונתן אוריך, פיתח מערכת מבוססת בינה מלאכותית למעקב אחר תקשורת וזיהוי ידיעות על בנימין ושרה נתניהו. המערכת, שנועדה לסרוק מקורות חדשותיים ולהתריע לקבוצות ווטסאפ, פותחה באמצעות תוכנת קלוד והועלתה לגיטהאב. אוריך העלה את הקוד למאגר ציבורי מבלי למחוק פרטי גישה רגישים, מה שאפשר גישה בלתי מוצפנת לתכתובות שעברו בחשבונו, שחובר לשירות חיצוני מדובאי.

כשבועיים לאחר חשיפת הכשל האבטחתי, הופצו ברשת שיחות ווטסאפ שיוחסו לאוריך, אם כי מהימנותן לא אומתה והקשר הישיר לדלף לא הוכח. האירוע מדגיש את הסיכונים בשימוש בבינה מלאכותית לפיתוח תוכנה על ידי אנשים ללא רקע טכני, שעלולים להסתפק בכך שהתוכנה עובדת מבלי להבין את חולשותיה האבטחתיות.

השימוש הגובר בכלי AI כמו קלוד מאפשר גם למי שאינו מבין בקוד ליצור תוכנות בקלות, תופעה המכונה "וייב קודינג". עם זאת, תהליך זה עלול להוביל להשארת פרטי גישה רגישים בקוד המועלה למאגרים ציבוריים, כפי שאירע במקרה של אוריך. גיטהאב מזהירה כי סודות דיגיטליים שנחשפים עלולים להיות מנוצלים במהירות, ובשנת 2024 לבדה החברה איתרה למעלה מ-39 מיליון סודות שדלפו.

המאמר מצביע על הצורך של חברות ה-AI לפתח מנגנוני הגנה שימנעו פרסום פרטי גישה רגישים ויגבילו הרשאות, במיוחד במערכות המטפלות במידע רגיש. האחריות לזיהוי חולשות אבטחתיות לא יכולה להיות מוטלת רק על המשתמשים, אלא דורשת פתרונות טכנולוגיים דומים לאלו שנוצרו בתחום החשמל. עד אז, יש להתייחס לתוכנות שנוצרו באמצעות AI כאל צעצוע אישי, ולהימנע משימוש בהן לטיפול במידע רגיש ללא מעורבות אנשי מקצוע.