סטארט-אפ ישראלי פיתח פלטפורמה לבדיקת סוכני בינה מלאכותית
תורגם ותומצת מתוך NEWSru Israel על ידי baba
חברת הסטארט-אפ הישראלית Plurai פיתחה פלטפורמת בדיקה חדשנית לסוכני בינה מלאכותית, המדמה אלפי לקוחות וירטואליים כדי לאתר כשלים. הפלטפורמה, המבוססת על עקרונות מעולם המכוניות האוטונומיות, בונה "תאום דיגיטלי" לסוכן ה-AI ומציבה מולו תרחישים מורכבים. בנוסף, החברה פיתחה "שומר סף" ייעודי לבדיקת פעולות הסוכן בזמן אמת, המאומן ללא התערבות אנושית. החברה, שהוקמה ב-2025, גייסה 13 מיליון דולר ומעסיקה 12 עובדים בישראל ובארה"ב.
הידיעה ב-6 שורות · תקציר של baba
- חברת Plurai הישראלית פיתחה פלטפורמה לבדיקת סוכני AI באמצעות אלפי לקוחות וירטואליים.
- הפלטפורמה מדמה תרחישים מורכבים שבהם סוכני AI עלולים להיכשל.
- הרעיון לפלטפורמה נשאב מעולם המכוניות האוטונומיות, תחום בו עבדו מייסדי החברה.
- החברה פיתחה גם "שומר סף" לבדיקת פעולות הסוכן בזמן אמת.
- ה"שומר" מאומן ללא התערבות אנושית ומדויק וזול יותר ממודלים מסחריים.
- Plurai, שהוקמה ב-2025, גייסה 13 מיליון דולר ומעסיקה 12 עובדים.
חברת Plurai הישראלית פיתחה פלטפורמה חדשנית לבדיקת סוכני בינה מלאכותית (AI), המדמה אלפי לקוחות וירטואליים המתמודדים עם הסוכן במטרה לפרוץ את הגנותיו ולשבש את פעולתו. סוכני AI, בניגוד למערכות AI פשוטות, מסוגלים לפעול באופן עצמאי, לבצע פעולות כמו שינוי הזמנות, עיבוד נתוני לקוחות וטיפול בהחזרים. כל סוכן כזה מחויב לעמוד בעשרות כללים, ושגיאה עלולה להיות יקרה. הקושי טמון בכך שכללים אלו עלולים להתנגש בדרכים בלתי צפויות, מה שהופך בדיקה ידנית של כל התרחישים לבלתי אפשרית.
"מערכות AI קורסות כאשר הן נתקלות בקשיים שלא נצפו מראש", מסביר אילן קדר, מייסד-שותף ומנכ"ל Plurai. הרעיון לפלטפורמה נשאב מעולם המכוניות האוטונומיות, תחום בו עבדו קדר ושותפו, המתמטיקאי אלעד לוי, בחברת Nexar, שפיתחה מערכות עבור Waymo. קדר מציין כי Waymo זכתה לאמון הלקוחות בזכות נסיעות סימולציה רבות יותר מאשר נסיעות בכבישים אמיתיים.
Plurai מיישמת גישה דומה עבור סוכני AI. החברה בונה "תאום דיגיטלי" של הסוכן, הכולל את מאגר הידע, הכלים והכללים של החברה, ומציבה מולו אלפי לקוחות וירטואליים, חלקם מנסים להטעות את הסוכן ולעקוף את מגבלותיו. הפלטפורמה מתבססת על מחקר תיאורטי מעמיק, ומשתמשת ב"מפת כללים" כדי לאסוף תרחישי בדיקה. שיטה זו מאפשרת בחירת צירופי כללים מורכבים באופן הדרגתי, מבלי לבדוק את כל האפשרויות. בדיקות השוו את דירוג המודלים במבחנים סינתטיים לדירוגם במבחנים שנוצרו על ידי בני אדם, והתוצאות היו דומות.
בנוסף, Plurai מציעה את ה"שומר הסף הקטן", רכיב שבודק כל צעד של הסוכן בזמן אמת. אימון רכיב זה דורש אלפי דוגמאות מתויגות, אותן Plurai מפיקה ללא התערבות אנושית: מודל אחד מייצר מקרים מורכבים, ומודלים אחרים דנים באשר לשימוש בהם לבדיקה. לדברי החברה, ה"שומר" המאומן בשיטה זו מדויק יותר ממודלים מסחריים גדולים וזול משמעותית לתפעול. החברה, שהוקמה ב-2025, מעסיקה 12 עובדים בישראל ובארה"ב וגייסה 13 מיליון דולר בסיבוב גיוס ראשוני.
לא אותו אירוע: ידיעות אחרות שחולקות עם הידיעה הזו אנשים, מקומות או נושא. רקע, תגובות והמשכים.
