
Agentisches Jailbreak-Framework für LLM-basierte Agenten, das schema-basierte Aufgabenzerlegung, mehrstufige Tarnungsstrategien und adaptive Selbstentwicklung nutzt, um neu aufkommende Sicherheitsrisiken zu untersuchen.
Offizielle Implementierung für TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking.
Agenten großer Sprachmodelle (LLM) können autonom planen, Werkzeuge aufrufen, mit Umgebungen interagieren und langfristige Workflows ausführen. Dies bringt Sicherheitsrisiken mit sich, die über herkömmliche reine Text-Jailbreaks hinausgehen: Selbst wenn schädliche Anweisungen hervorgerufen werden können, können ausgerichtete Agenten deren Ausführung dennoch verweigern, während Zwischenausführungsfehler einen ansonsten erfolgreichen Angriffsworkflow unterbrechen können.
TRACE ist ein Framework für agentisches Jailbreaking, das diese Herausforderungen durch Aufgabenzerlegung, ausführungsorientierte mehrstufige Interaktion und adaptive Wiederherstellung bewältigen soll.
TRACE besteht aus drei Schlüsselkomponenten:
Wir evaluieren TRACE auf AdvCUA und AgentHazard, zwei Sicherheits-Benchmarks für Agenten, die die End-to-End-Ausführung mehrstufiger Aufgaben in interaktiven Umgebungen erfordern. Die Experimente umfassen zwei Agenten-Frameworks, Codex und Claude Code, mit mehreren zugrunde liegenden Modellen.
| Agenten-Framework | Zugrunde liegendes Modell | AdvCUA | AgentHazard |
|---|---|---|---|
| Codex | GPT-5.5 | 0.62 | 0.97 |
| Codex | Gemini-3.5-Flash | 0.65 | 0.99 |
| Codex | DeepSeek-V4-Pro | 0.81 | 1.00 |
| Claude Code | Claude-Opus-4.8 | 0.54 | 0.97 |
| Claude Code | Gemini-3.5-Flash | 0.69 | 0.98 |
| Claude Code | DeepSeek-V4-Pro | 0.88 | 0.99 |
TRACE erzielt durchgängig starke Angriffsleistungen über verschiedene Agenten-Frameworks und zugrunde liegende Modelle hinweg und übertrifft frühere Baselines in den meisten Einstellungen deutlich. Auf AdvCUA erreicht TRACE ASRs im Bereich von 0.54 bis 0.88. Auf AgentHazard erreicht TRACE nahezu perfekte ASRs über alle evaluierten Konfigurationen hinweg, im Bereich von 0.97 bis 1.00.
Zwei aufgezeichnete Demonstrationen mit Claude Code und Codex sind in assets/ verfügbar:
| Ziel-Agent | Demo |
|---|---|
| Claude Code | Claude Code Demo |
| Codex | Codex Demo |
Die bereitgestellte Umgebungsspezifikation ist auf Linux und Python 3.11 ausgerichtet.
git clone https://github.com/ZJU-LLM-Safety/TRACE.git
cd TRACE
conda env create -f environment.yml
conda activate trace
Legen Sie die Anmeldedaten und die Basis-URL für einen OpenAI-kompatiblen Chat-Completions-Endpunkt fest:
export OPENAI_API_KEY="<your-api-key>"
export OPENAI_BASE_URL="<your-api-base-url>"
Generieren Sie Kandidaten-Teilaufgabensequenzen mithilfe einer schema-gesteuerten Aufgabenzerlegung:
python improved_decomposer/improved_task_decomposer.py \
--data_file_path /path/to/tasks.json \
--output_file_path outputs/decompositions.jsonl \
--model "<decomposition-model>" \
--num_decompositions_per_task 5 \
--use_schema_decompose
--use_schema_decompose aktiviert die schema-basierte Kandidatengenerierung.
Das folgende Beispiel verwendet den AdvCUA-Benchmark mit Codex:
python experiment/main.py \
--dataset /path/to/benchmark_with_subtasks.jsonl \
--config experiment/config/config.yaml \
--lab-backend vrap \
--compose-file /path/to/benchmark/docker-compose.yml \
--attacker-model-path /path/to/attacker-model \
--target-backend codex \
--codex-model "<target-model>" \
--responses-base-url "<target-responses-api-base-url>" \
--responses-env-key OPENAI_API_KEY \
--strategy-library outputs/experiment/strategy_library.json \
--output outputs/experiment/results.jsonl
Um die verfügbaren Befehlszeilenoptionen zu prüfen:
python improved_decomposer/improved_task_decomposer.py --help
python experiment/main.py --help
| Pfad | Beschreibung |
|---|---|
improved_decomposer/ | Prozedurale Schemata, Kandidatengenerierung, Validierung und Auswahl |
experiment/main.py | Experiment-Orchestrierung und Ausführungsfeedback |
experiment/runtime/ | Laufzeitkomponenten für Modelle, Strategien und Teilaufgaben-Sequenzen |
experiment/strategy_library/ | Strategie-Speicherung, -Abruf, -Überarbeitung und Feedback-Integration |
experiment/config/ | Experiment-Konfigurationen und Prompt-Vorlagen |
agent_execution/ | Zielagenten-Schnittstellen, Sitzungsverwaltung, Trajektorienerfassung und Verifikation |
tools/ | Benchmark-Bridges, API-Adapter und Diagnosen |
assets/ | Demonstrationsvideos zu Claude Code und Codex |
environment.yml | Conda-Umgebungsspezifikation |
Wenn Sie TRACE in Ihrer Forschung nützlich finden, ziehen Sie bitte in Betracht, es zu zitieren:
@misc{zeng2026tracetaskawareadaptiveselfevolving,
title={TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking},
author={Churui Zeng and Kedong Xiu and Weiwei Qi and Yuqi Hao and Chaochao Lu and Liang He and Zhan Qin and Tianhang Zheng},
year={2026},
eprint={2605.30883},
archivePrefix={arXiv},
primaryClass={cs.CR},
url={https://arxiv.org/abs/2605.30883},
}
Entdecken Sie die meistgenutzten Tools unserer Community.
Noch keine Beliebtheitsdaten.