SPILLWAY

_{AgentDojo v1.2.2, तीन बैकबोन × चार सूट्स। इन परिणामों में जज सक्षम है और लाइब्रेरी में डिफ़ॉल्ट रूप से बंद है। मान और शर्तें। इंटरैक्टिव पेज खोलें।}

SPILLWAY, टूल-उपयोग करने वाले एजेंट्स के लिए एक प्रॉम्प्ट-इंजेक्शन रक्षा: संरचना तय करती है कि एजेंट कहाँ कार्य करे, एक मॉडल इनकारों की समीक्षा करता है।

किसी ईमेल या वेब पेज में मौजूद टेक्स्ट किसी एजेंट को हमलावर के पते की ओर मोड़ सकता है। SPILLWAY प्राप्तकर्ताओं को उपयोगकर्ता के कार्य और टूल रिटर्न के टाइप किए गए फ़ील्ड्स के विरुद्ध जाँचता है।

वूसांग लिम^1,2,* · येसेउल चांग³ · जेउ ली^3
1SAINT Machines · ²KAIST · ³Chung-Ang University
* संवाददाता लेखक

डेमो · इसे आज़माएँ · परिणाम · प्रोजेक्ट पेज · ऐप एकीकरण · पेपर (PDF) · पुनरुत्पादन · उद्धृत करें · MUSTER

एक पूर्व संस्करण को Third Workshop on Agents in the Wild: Safety, Security, and Beyond (NeurIPS 2026) में स्वीकार किया गया था।

pip install git+https://github.com/saintmachines/[email protected]

इसे काम करते हुए देखें

_{स्रोत: AgentDojo v1.2.2 Workspace, gpt-4o-mini पर इंजेक्शन कार्य 2 के साथ उपयोगकर्ता कार्य 19। सात रन तालिका 1 के पीछे के आठ में से सात हैं। यह प्रकरण इसलिए चुना गया क्योंकि दिखाए गए अन्य बचाव इसमें अलग-अलग तरीकों से विफल होते हैं। ROPE का रन, आठवाँ, नहीं दिखाया गया है। यह भी तीनों कार्य करता है: इसकी आमंत्रण कॉल अवरुद्ध हुई और दोनों टू-डूज़ चले। प्रत्येक रन की कॉल्स पढ़ने के लिए इंटरैक्टिव डेमो खोलें।}

SPILLWAY का रन, कॉल दर कॉल