אבטחת סוכנים והזרקת פרומפט

כשסוכן קורא מיילים, אתרים ומסמכים, כל טקסט שהוא קורא יכול להכיל הוראות. זה נקרא הזרקת פרומפט (prompt injection), והיא נמצאת בראש הרשימה של OWASP לאבטחת מערכות מבוססות מודלי שפה.

אין היום הגנה מושלמת. לכן ההגנה האמיתית היא מבנית: להגביל מה הסוכן יכול לעשות, גם אם הוא נשלט. לחצו על הכרטיסים.