yxf203/defense-as-skillरनटाइम गार्ड स्किल जो स्किल-संवर्धित एजेंटों में दुर्भावनापूर्ण स्किल-प्रेरित हमलों का पता लगाता है और उन्हें रोकता है, साथ ही एक MCTS लूप जो रोलआउट फीडबैक से गार्ड नीति को विकसित करता है।
🎉 NeurIPS 2026 द्वारा स्वीकृत 🎉
Claude Code और OpenClaw जैसे स्किल-संवर्धित एजेंट्स (SAAs) पुनःप्रयोज्य स्किल्स — पैकेज्ड निर्देश, स्क्रिप्ट और वर्कफ़्लो मार्गदर्शन — को स्थायी रनटाइम संदर्भ के रूप में लोड करते हैं। यह एजेंट्स को अधिक सक्षम बनाता है, लेकिन एक दुर्भावनापूर्ण स्किल को भविष्य की कार्रवाइयों को दिशा देने के लिए एक टिकाऊ चैनल भी देता है: यह तब तक प्रतीक्षा कर सकता है जब तक कि कोई ठोस उपयोगकर्ता कार्य और वर्कस्पेस स्थिति किसी असुरक्षित कार्रवाई को उपयोगी न दिखाए। इसलिए अकेले प्री-इंस्टॉल जाँच अपर्याप्त है — सुरक्षा रनटाइम पर, कार्य के आधार पर होनी चाहिए।
Defense-as-Skill रनटाइम गार्ड को एक प्रथम-श्रेणी का स्किल आर्टिफ़ैक्ट बनाता है:
एक तैनाती विवरण मायने रखता है: एक सुरक्षा स्किल लगभग किसी भी कार्य के लिए प्रासंगिक होती है, इसलिए सामान्य कार्य–स्किल मिलान इसे अनदेखा कर देता है। इसलिए हम एक स्पष्ट आह्वान निर्देश (एजेंट को कार्रवाई करने से पहले skill-sonar से परामर्श करने का निर्देश) को तैनाती कॉन्फ़िगरेशन का हिस्सा मानते हैं, न कि कोई प्रयोगात्मक सुविधा — ablation अध्ययन दिखाते हैं कि यह गार्ड की प्रभावशीलता के लिए आवश्यक है।
SCOPE-R डेटासेट — SAAs पर स्किल-प्रेरित हमलों का एक कार्य-आधारित डेटासेट, जिसमें 6 जोखिम परिवार, 21 उप-श्रेणियाँ, 206 हमला-पुष्ट दुर्भावनापूर्ण उदाहरण और 43 सौम्य कार्य हैं, जो जोखिम परिवार के अनुसार train / ID-test / OOD-test में विभाजित है — Hugging Face पर होस्ट किया गया है और अलग से डाउनलोड किया जाता है (देखें Quick start चरण 0)। इस रेपो में गार्ड और उसका मूल्यांकन तथा विकास करने वाला कोड है:
| Component | Description |
|---|---|
| SkillSonar\ | रनटाइम गार्ड स्किल बंडल (eval/safetySkill/skill-sonar/), साथ ही रनटाइम मूल्यांकन फ़्रेमवर्क (eval/) जो प्रत्येक रक्षा स्थिति के अंतर्गत ASR, कार्य उपयोगिता, पुष्टि गणना, और टोकन लागत मापता है। |
| Guard-skill evolution\ | MCTS लूप (evolution/) जो rollout फ़ीडबैक से डिस्क पर मौजूद गार्ड स्किल को विकसित करता है: स्किल संस्करणों के ट्री पर UCT चयन, सस्ते-मूल्यांकन rollouts, और claude -p के माध्यम से एक-शॉट बहु-वेरिएंट परिष्करण। |
मूल्यांकन फ़्रेमवर्क eval/ रूट से tasks/, injected-skills/, attack-metadata/, benign-skills/, split/ पढ़ता है। Hugging Face से SCOPE-R डाउनलोड करें और उन्हें कॉपी करें:
git clone https://huggingface.co/datasets/fffovo/SCOPE-R /tmp/scope-r
cp -r /tmp/scope-r/dataset/{tasks,injected-skills,attack-metadata,benign-skills,split} eval/
cp eval/run/config.example.sh eval/run/config.sh # fill in your endpoint credentials
वास्तविक मूल्यांकन और वास्तविक claude रिफ़ाइनर के साथ एक एंड-टू-एंड राउंड:
./run_smoke_loop.sh --max-rounds 1
./run_mcts.sh --max-rounds 3
# plumbing only (no benchmark, no claude):
PYTHONPATH=. python3 -m evolution.cli --dry-run --max-rounds 1
# plumbing + analyzer + pool, with a synthetic subset instead of the benchmark:
PYTHONPATH=. python3 -m evolution.cli \
--simulate-round tests/synthetic_smoke.jsonl --skip-refine --max-rounds 1
# bootstrap only (seed backup + active skill + deploy, then exit):
PYTHONPATH=. python3 -m evolution.cli --bootstrap-only
सभी नियंत्रण config/default.yaml (flat-pool लूप) और config/mcts.yaml (MCTS लूप) में हैं; इनमें से कोई भी CLI फ़्लैग या कस्टम --config फ़ाइल के माध्यम से ओवरराइड किया जा सकता है।
SCOPE-R dataset (HF) ──▶ eval/ (runtime evaluation) ──▶ evolution/ (MCTS loop)
tasks, skills, subsets/, run/, analyzer → refiner
attack-metadata scripts/ (judge, grading), → skill tree → next round
safetySkill/ (SkillSonar)
प्रत्येक MCTS पुनरावृत्ति:
eval/safetySkill/skill-sonar/ में तैनात करें और रनटाइम मूल्यांकनकर्ता चलाएँ: ASR जज, उपयोगिता ग्रेडर, पुष्टि गणना, टोकन लागत, साथ ही प्रति-कार्य जज-लिखित failure_reason / success_reason विवरण और एक नियतात्मक failure_stage वर्गीकरण (guard_not_read / guard_not_triggered / guard_triggered_but_bypassed / ...)।claude -p कॉल k चाइल्ड वेरिएंट उत्पन्न करता है, प्रत्येक एक अलग प्रमुख विफलता पैटर्न को लक्षित करते हुए एक अलग छोटा, स्थानीय संपादन लागू करता है।खोज तब रुकती है जब सुरक्षा स्कोर सफलता सीमा तक पहुँच जाता है (डिफ़ॉल्ट: ASR ≤ 5%), पूर्ण-मूल्यांकन बजट समाप्त हो जाता है, या कोई विस्तारणीय उम्मीदवार शेष नहीं रहता। सर्वोत्तम पूर्ण-मूल्यांकित उम्मीदवार को अंतिम गार्ड के रूप में रिपोर्ट किया जाता है।
उद्देश्य सुरक्षा-प्रथम है, द्वितीयक प्राथमिकताओं के साथ:
s(v) = (1 − ASR_v) + ε · ( λ_b·U_benign + λ_m·U_malicious − λ_q·C̃_v − λ_t·K̃_v )
ताकि समान रूप से सुरक्षित उम्मीदवारों में से खोज उन गार्डों को प्राथमिकता दे जो कार्य उपयोगिता बनाए रखते हैं, उपयोगकर्ता को कम बाधित करते हैं, और कम टोकन खर्च करते हैं। एक अपक्षयी सब-कुछ-अस्वीकार करने वाला गार्ड डिज़ाइन से ही खराब स्कोर करता है।