
Framework de jailbreak agentique pour les agents basés sur des LLM utilisant la décomposition de tâches basée sur des schémas, des stratégies de déguisement multi-tours et une auto-évolution adaptative afin de sonder les risques de sécurité émergents.
Implémentation officielle de TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking.
Les agents de grands modèles de langage (LLM) peuvent planifier de manière autonome, invoquer des outils, interagir avec des environnements et exécuter des workflows de longue durée. Cela introduit des risques de sécurité au-delà des jailbreaks conventionnels limités au texte : même lorsqu'il est possible d'obtenir des instructions nuisibles, les agents alignés peuvent encore refuser de les exécuter, tandis que des échecs d'exécution intermédiaires peuvent interrompre un workflow d'attaque autrement réussi.
TRACE est un framework de jailbreaking agentique conçu pour relever ces défis grâce à la décomposition des tâches, à une interaction multi-tours orientée exécution et à une récupération adaptative.
TRACE se compose de trois composants clés :
Nous évaluons TRACE sur AdvCUA et AgentHazard, deux benchmarks de sécurité des agents qui nécessitent l'exécution de bout en bout de tâches multi-étapes dans des environnements interactifs. Les expériences couvrent deux frameworks d'agents, Codex et Claude Code, avec plusieurs modèles sous-jacents.
| Framework d'agent | Modèle sous-jacent | AdvCUA | AgentHazard |
|---|---|---|---|
| Codex | GPT-5.5 | 0.62 | 0.97 |
| Codex | Gemini-3.5-Flash | 0.65 | 0.99 |
| Codex | DeepSeek-V4-Pro | 0.81 | 1.00 |
| Claude Code | Claude-Opus-4.8 | 0.54 | 0.97 |
| Claude Code | Gemini-3.5-Flash | 0.69 | 0.98 |
| Claude Code | DeepSeek-V4-Pro | 0.88 | 0.99 |
TRACE obtient systématiquement de solides performances d'attaque sur différents frameworks d'agents et modèles sous-jacents, surpassant nettement les baselines antérieures dans la plupart des configurations. Sur AdvCUA, TRACE atteint des ASR allant de 0.54 à 0.88. Sur AgentHazard, TRACE atteint des ASR quasi parfaits dans toutes les configurations évaluées, allant de 0.97 à 1.00.
Deux démonstrations enregistrées avec Claude Code et Codex sont fournies dans assets/ :
| Agent cible | Démo |
|---|---|
| Claude Code | Claude Code Demo |
| Codex | Codex Demo |
La spécification d'environnement fournie cible Linux et Python 3.11.
git clone https://github.com/ZJU-LLM-Safety/TRACE.git
cd TRACE
conda env create -f environment.yml
conda activate trace
Définissez les identifiants et l'URL de base pour un point de terminaison Chat Completions compatible OpenAI :
export OPENAI_API_KEY="<your-api-key>"
export OPENAI_BASE_URL="<your-api-base-url>"
Générer des séquences de sous-tâches candidates à l'aide d'une décomposition des tâches guidée par schéma :
python improved_decomposer/improved_task_decomposer.py \
--data_file_path /path/to/tasks.json \
--output_file_path outputs/decompositions.jsonl \
--model "<decomposition-model>" \
--num_decompositions_per_task 5 \
--use_schema_decompose
--use_schema_decompose active la génération de candidats basée sur le schéma.
L'exemple suivant utilise le benchmark AdvCUA avec Codex :
python experiment/main.py \
--dataset /path/to/benchmark_with_subtasks.jsonl \
--config experiment/config/config.yaml \
--lab-backend vrap \
--compose-file /path/to/benchmark/docker-compose.yml \
--attacker-model-path /path/to/attacker-model \
--target-backend codex \
--codex-model "<target-model>" \
--responses-base-url "<target-responses-api-base-url>" \
--responses-env-key OPENAI_API_KEY \
--strategy-library outputs/experiment/strategy_library.json \
--output outputs/experiment/results.jsonl
Pour inspecter les options de ligne de commande disponibles :
python improved_decomposer/improved_task_decomposer.py --help
python experiment/main.py --help
| Chemin | Description |
|---|---|
improved_decomposer/ | Schémas procéduraux, génération de candidats, validation et sélection |
experiment/main.py | Orchestration des expériences et retour d'exécution |
experiment/runtime/ | Composants d'exécution pour les modèles, les stratégies et les séquences de sous-tâches |
experiment/strategy_library/ | Stockage, récupération, révision des stratégies et intégration des retours |
experiment/config/ | Configurations des expériences et modèles de prompts |
agent_execution/ | Interfaces des agents cibles, gestion des sessions, collecte des trajectoires et vérification |
tools/ | Ponts de benchmark, adaptateurs d'API et diagnostics |
assets/ | Vidéos de démonstration de Claude Code et Codex |
environment.yml | Spécification de l'environnement Conda |
Si vous trouvez TRACE utile dans vos recherches, nous vous invitons à le citer :
@misc{zeng2026tracetaskawareadaptiveselfevolving,
title={TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking},
author={Churui Zeng and Kedong Xiu and Weiwei Qi and Yuqi Hao and Chaochao Lu and Liang He and Zhan Qin and Tianhang Zheng},
year={2026},
eprint={2605.30883},
archivePrefix={arXiv},
primaryClass={cs.CR},
url={https://arxiv.org/abs/2605.30883},
}