ActGuard

ActGuard टूल-उपयोग करने वाले LLM एजेंट्स में अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन के विरुद्ध एक प्री-एक्ज़ीक्यूशन एक्शन-ऑडिटिंग रक्षा है। इस रिपॉज़िटरी में अंतिम ActGuard कार्यान्वयन और इसके मूल्यांकन के लिए आवश्यक AgentDojo-आधारित रनटाइम शामिल है।

रिलीज़ में केवल अंतिम, पूर्ण ActGuard कॉन्फ़िगरेशन शामिल है। आंतरिक घटक अभी भी AgentDojo बेंचमार्क और ट्रेस प्रारूपों के साथ संगतता के लिए reflective_audit पहचानकर्ता का उपयोग करते हैं।

आवश्यकताएँ

• Python 3.10 या नया
• एक OpenRouter API कुंजी
• meta-llama/Meta-Llama-3.1-8B-Instruct चेकपॉइंट तक पहुँच, या एक समकक्ष स्थानीय चेकपॉइंट
• स्थानीय लॉग-प्रोबेबिलिटी स्कोरिंग के लिए CUDA-सक्षम GPU की अत्यधिक अनुशंसा की जाती है

इंस्टॉलेशन

uv का उपयोग करने की अनुशंसा की जाती है:

uv sync --frozen --extra actguard

वैकल्पिक रूप से, एक सक्रिय Python वातावरण में इंस्टॉल करें:

python -m pip install -e '.[actguard]'

त्वरित शुरुआत

रिपॉज़िटरी रूट से:

export OPENROUTER_API_KEY=...
uv run --frozen --extra actguard ./scripts/run_actguard.sh

यदि प्रोजेक्ट pip के साथ इंस्टॉल किया गया था, तो चलाएँ:

export OPENROUTER_API_KEY=...
./scripts/run_actguard.sh

स्क्रिप्ट important_instructions हमले के साथ workspace सूट का मूल्यांकन करती है। यह मुख्य एजेंट और सत्यापनकर्ता के लिए OpenRouter का उपयोग करती है, और एम्बेडिंग रिट्रीवल तथा कॉन्ट्रास्टिव लॉग-प्रोबेबिलिटी एट्रिब्यूशन के लिए Hugging Face-संगत स्थानीय मॉडल का उपयोग करती है। डिफ़ॉल्ट गेटेड Llama चेकपॉइंट डाउनलोड किए जाने से पहले Hugging Face प्रमाणीकरण की आवश्यकता हो सकती है।

डाउनलोड किए गए चेकपॉइंट का उपयोग करने के लिए, scripts/run_actguard.sh में --reflective-audit-embedding-model और --reflective-audit-logprob-model के मानों को उनके स्थानीय पथों से बदलें। सभी बेंचमार्क विकल्प देखने के लिए uv run --frozen actguard-benchmark --help का उपयोग करें।

डिफ़ॉल्ट कॉन्फ़िगरेशन

आउटपुट

परिणाम नीचे लिखे जाते हैं:

runs/openai_gpt-4o-mini-2024-07-18-reflective_audit/actguard/

runs/ निर्देशिका को Git द्वारा अनदेखा किया जाता है।

परीक्षण

ActGuard रिग्रेशन परीक्षण चलाएँ:

uv run --frozen pytest -q tests/test_agent_pipeline/test_reflective_audit.py

रिपॉज़िटरी लेआउट

• src/agentdojo/agent_pipeline/reflective_audit.py: ActGuard कार्यान्वयन
• src/agentdojo/agent_pipeline/agent_pipeline.py: पाइपलाइन एकीकरण
• src/agentdojo/scripts/benchmark.py: बेंचमार्क CLI
• src/agentdojo/default_suites/: मूल्यांकन सूट और कार्य परिभाषाएँ
• tests/test_agent_pipeline/test_reflective_audit.py: रिग्रेशन परीक्षण
• src/agentdojo/reflective_audit_trace.py: ट्रेस जनरेशन और निरीक्षण

रन लॉग, स्थानीय वातावरण, क्रेडेंशियल, पेपर ड्राफ्ट, अस्थायी विश्लेषण आउटपुट, और तुलना रक्षाएँ जानबूझकर इस रिलीज़ से बाहर रखी गई हैं।

लाइसेंस

यह प्रोजेक्ट MIT लाइसेंस के अंतर्गत वितरित किया गया है। इसमें एक AgentDojo-व्युत्पन्न बेंचमार्क रनटाइम शामिल है; बनाए रखी गई अपस्ट्रीम कॉपीराइट सूचना के लिए LICENSE देखें।