SPILLWAY

_{AgentDojo v1.2.2، ثلاثة نماذج أساسية × أربع مجموعات. الحاكم مفعّل في هذه النتائج ومعطّل افتراضيًا في المكتبة. القيم والشروط. افتح الصفحة التفاعلية.}

SPILLWAY، دفاع ضد حقن المطالبات للوكلاء الذين يستخدمون الأدوات: البنية تحدد أين يتصرف الوكيل، ونموذج يراجع حالات الرفض.

يمكن لنص في بريد إلكتروني أو صفحة ويب أن يوجّه وكيلاً إلى عنوان المهاجم. يتحقق SPILLWAY من المستلمين مقابل مهمة المستخدم والحقول المكتوبة لأنواع إرجاعات الأدوات.

ووسانغ ليم^1,2,* · ييسول تشانغ³ · جاي وو لي^3
1SAINT Machines · ²KAIST · ³جامعة تشونغ-آنغ
* المؤلف المراسل

عرض توضيحي · جرّبه · النتائج · صفحة المشروع · تكامل التطبيق · الورقة البحثية (PDF) · إعادة الإنتاج · الاستشهاد · MUSTER

قُبلت نسخة سابقة في الورشة الثالثة حول الوكلاء في العالم الحقيقي: السلامة والأمن وما بعده (NeurIPS 2026).

pip install git+https://github.com/saintmachines/[email protected]

شاهده أثناء العمل

_{المصدر: AgentDojo v1.2.2 Workspace، مهمة المستخدم 19 مع مهمة الحقن 2، على gpt-4o-mini. التشغيلات السبع هي سبع من الثماني الواردة خلف الجدول 1. اختيرت هذه الحلقة لأن الدفاعات الأخرى المعروضة تفشل فيها بطرق مختلفة. تشغيل ROPE، الثامن، غير معروض. وهو أيضًا ينفذ الثلاثة جميعًا: حُظر استدعاء الدعوة الخاص به ونُفِّذت المهمتان. افتح العرض التفاعلي لقراءة استدعاءات كل تشغيل.}

تشغيل SPILLWAY، استدعاءً باستدعاء

النتائج

كل رقم أدناه مأخوذ من الورقة البحثية. تستخدم صفوف SPILLWAY القاضي، الذي تتركه المكتبة معطّلًا افتراضيًا.

الجدول A. شبكة اتساع AgentDojo، متوسطات الخلايا الاثنتي عشرة (الجدول 2 من الورقة البحثية)

SPILLWAY هي الطريقة الوحيدة التي لا تحتوي على خلية تسريب، وهي صاحبة أعلى فائدة تحت الهجوم. تتسرب الدفاعات القائمة على النماذج في 3 إلى 11 من الخلايا الاثنتي عشرة.