
פרויקט GenAI Security של OWASP פרסם את Top 10 for Agentic Applications — רשימת עשרת הסיכונים הקריטיים ליישומים מבוססי סוכנים. המסמך פותח על ידי למעלה ממאה מומחים ועבר ביקורת עמיתים.
למה צריך רשימה נפרדת
מודל שפה רגיל מקבל שאלה ומחזיר טקסט. סוכן עושה משהו אחר לגמרי: הוא מתכנן, מחליט ומבצע. סוכן יכול לקרוא מיילים, לתשאל מסד נתונים, לנסח חוזה, לקרוא ל-API חיצוני ולשלוח תוצאה לעמית — בלי שאדם מאשר כל צעד.
ההבדל הזה הוא שמצדיק רשימת סיכונים נפרדת. כשמערכת רק עונה, הנזק המרבי הוא תשובה שגויה. כשהיא מבצעת, הנזק הוא פעולה שגויה — ולפעמים בלתי הפיכה.
עשרת התחומים
- תכנון — חטיפת המטרה של הסוכן
- שימוש בכלים — הפעלת כלי לא מכוונת או זדונית
- זהות — סוכן שפועל בהרשאות של מישהו אחר
- שרשרת אספקה — רכיבים וספריות של צד שלישי
- הרצת קוד
- זיכרון — הרעלת ההקשר שהסוכן זוכר
- תקשורת בין סוכנים
- כשל מדורג — טעות של סוכן אחד שמתפשטת
- אמון אדם–סוכן
- סוכנים סוררים
ההמלצות המעשיות
שלוש המלצות חוזרות: ניטור התנהגותי שמבין מה הסוכן עושה ולא רק מה הוא אומר, אדם בלולאה לפעולות קריטיות — תשלומים, מחיקת מידע, שינוי הרשאות — ותרגילי צוות אדום שמכוונים במפורש להזרקת פרומפט ולשימוש לרעה בכלים.
שווה להצליב את זה עם ממצא מדוח IBM מאותו חודש: יותר מ-50% מהארגונים כבר מפעילים סוכנים לזיהוי איומים, אבל רק 18% לניהול חולשות. הסוכנים כבר בפנים — השאלה היא אם מישהו ממפה את הסיכון שלהם.
מה זה אומר לארגון שלכם
- ערכו רשימה של כל סוכן AI שפועל אצלכם, כולל כאלה שהוטמעו בתוך כלים קיימים בלי החלטה מפורשת.
- לכל סוכן — בדקו באילו הרשאות הוא פועל. הכלל הפשוט: סוכן לא אמור להחזיק הרשאות רחבות יותר מהעובד שהוא מחליף.
- הגדירו מראש אילו פעולות דורשות אישור אנושי. תשלום, מחיקה ושינוי הרשאות הן נקודת פתיחה סבירה.
- זכרו את הסיכון של כשל מדורג: שני סוכנים שמדברים ביניהם יכולים להגביר טעות במקום לתקן אותה.
