
LLM-आधारित एजेंटों के लिए एजेंटिक जेलब्रेक फ्रेमवर्क, जो उभरते सुरक्षा जोखिमों की जाँच के लिए स्कीम-आधारित कार्य विभाजन, बहु-चरणीय प्रच्छन्न रणनीतियों और अनुकूली आत्म-विकास का उपयोग करता है।
TRACE: कार्य-जागरूक अनुकूली स्व-विकसित एजेंटिक जेलब्रेकिंग के लिए आधिकारिक कार्यान्वयन।
बड़े भाषा मॉडल (LLM) एजेंट स्वायत्त रूप से योजना बना सकते हैं, उपकरणों को आमंत्रित कर सकते हैं, वातावरण के साथ अंतःक्रिया कर सकते हैं, और दीर्घकालिक वर्कफ़्लो निष्पादित कर सकते हैं। यह पारंपरिक केवल-पाठ जेलब्रेक से परे सुरक्षा जोखिम उत्पन्न करता है: भले ही हानिकारक निर्देश प्राप्त किए जा सकें, संरेखित एजेंट अभी भी उन्हें निष्पादित करने से इंकार कर सकते हैं, जबकि मध्यवर्ती निष्पादन विफलताएँ अन्यथा सफल हमला वर्कफ़्लो को बाधित कर सकती हैं।
TRACE एक एजेंटिक जेलब्रेकिंग फ्रेमवर्क है जिसे कार्य विघटन, निष्पादन-उन्मुख बहु-चरण अंतःक्रिया, और अनुकूली पुनर्प्राप्ति के माध्यम से इन चुनौतियों का समाधान करने के लिए डिज़ाइन किया गया है।
TRACE में तीन प्रमुख घटक हैं:
हम TRACE का मूल्यांकन AdvCUA और AgentHazard पर करते हैं, दो एजेंट सुरक्षा बेंचमार्क जिनके लिए इंटरैक्टिव वातावरण में बहु-चरण कार्यों के एंड-टू-एंड निष्पादन की आवश्यकता होती है। प्रयोगों में दो एजेंट फ्रेमवर्क, Codex और Claude Code, कई अंतर्निहित मॉडलों के साथ शामिल हैं।
| एजेंट फ्रेमवर्क | अंतर्निहित मॉडल | AdvCUA | AgentHazard |
|---|---|---|---|
| Codex | GPT-5.5 | 0.62 | 0.97 |
| Codex | Gemini-3.5-Flash | 0.65 | 0.99 |
| Codex | DeepSeek-V4-Pro | 0.81 | 1.00 |
| Claude Code | Claude-Opus-4.8 | 0.54 | 0.97 |
| Claude Code | Gemini-3.5-Flash | 0.69 | 0.98 |
| Claude Code | DeepSeek-V4-Pro | 0.88 | 0.99 |
TRACE विभिन्न एजेंट फ्रेमवर्क और अंतर्निहित मॉडलों में लगातार मजबूत हमला प्रदर्शन प्राप्त करता है, अधिकांश सेटिंग्स में पूर्व बेसलाइन से काफी बेहतर प्रदर्शन करता है। AdvCUA पर, TRACE 0.54 से 0.88 तक की ASR प्राप्त करता है। AgentHazard पर, TRACE सभी मूल्यांकित कॉन्फ़िगरेशन में लगभग-पूर्ण ASR प्राप्त करता है, जो 0.97 से 1.00 तक है।
Claude Code और Codex के साथ दो रिकॉर्ड किए गए प्रदर्शन assets/ में प्रदान किए गए हैं:
| लक्ष्य एजेंट | डेमो |
|---|---|
| Claude Code | Claude Code डेमो |
| Codex | Codex डेमो |
प्रदान किया गया वातावरण विनिर्देश Linux और Python 3.11 को लक्षित करता है।
git clone https://github.com/ZJU-LLM-Safety/TRACE.git
cd TRACE
conda env create -f environment.yml
conda activate trace
OpenAI-संगत Chat Completions एंडपॉइंट के लिए क्रेडेंशियल और बेस URL सेट करें:
export OPENAI_API_KEY="<your-api-key>"
export OPENAI_BASE_URL="<your-api-base-url>"
योजना-निर्देशित कार्य विघटन का उपयोग करके उम्मीदवार उप-कार्य अनुक्रम उत्पन्न करें:
python improved_decomposer/improved_task_decomposer.py \
--data_file_path /path/to/tasks.json \
--output_file_path outputs/decompositions.jsonl \
--model "<decomposition-model>" \
--num_decompositions_per_task 5 \
--use_schema_decompose
--use_schema_decompose स्कीम-आधारित उम्मीदवार जनरेशन को सक्षम करता है।
निम्नलिखित उदाहरण Codex के साथ AdvCUA बेंचमार्क का उपयोग करता है:
python experiment/main.py \
--dataset /path/to/benchmark_with_subtasks.jsonl \
--config experiment/config/config.yaml \
--lab-backend vrap \
--compose-file /path/to/benchmark/docker-compose.yml \
--attacker-model-path /path/to/attacker-model \
--target-backend codex \
--codex-model "<target-model>" \
--responses-base-url "<target-responses-api-base-url>" \
--responses-env-key OPENAI_API_KEY \
--strategy-library outputs/experiment/strategy_library.json \
--output outputs/experiment/results.jsonl
उपलब्ध कमांड-लाइन विकल्पों का निरीक्षण करने के लिए:
python improved_decomposer/improved_task_decomposer.py --help
python experiment/main.py --help
| पथ | विवरण |
|---|---|
improved_decomposer/ | प्रक्रियात्मक योजनाएँ, उम्मीदवार निर्माण, सत्यापन, और चयन |
experiment/main.py | प्रयोग ऑर्केस्ट्रेशन और निष्पादन प्रतिक्रिया |
experiment/runtime/ | मॉडल, रणनीतियों, और उप-कार्य अनुक्रमों के लिए रनटाइम घटक |
experiment/strategy_library/ | रणनीति भंडारण, पुनर्प्राप्ति, संशोधन, और प्रतिक्रिया एकीकरण |
experiment/config/ | प्रयोग कॉन्फ़िगरेशन और प्रॉम्प्ट टेम्पलेट |
agent_execution/ | लक्ष्य-एजेंट इंटरफ़ेस, सत्र प्रबंधन, ट्रैजेक्टरी संग्रह, और सत्यापन |
tools/ | बेंचमार्क ब्रिज, API एडाप्टर, और डायग्नोस्टिक्स |
assets/ | Claude Code और Codex प्रदर्शन वीडियो |
environment.yml | Conda वातावरण विनिर्देश |
यदि आपको अपने शोध में TRACE उपयोगी लगे, तो कृपया इसे उद्धृत करने पर विचार करें:
@misc{zeng2026tracetaskawareadaptiveselfevolving,
title={TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking},
author={Churui Zeng and Kedong Xiu and Weiwei Qi and Yuqi Hao and Chaochao Lu and Liang He and Zhan Qin and Tianhang Zheng},
year={2026},
eprint={2605.30883},
archivePrefix={arXiv},
primaryClass={cs.CR},
url={https://arxiv.org/abs/2605.30883},
}