TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking 的官方实现。
大语言模型(LLM)智能体能够自主规划、调用工具、与环境交互并执行长周期工作流。这带来了超越传统纯文本越狱的安全风险:即使能够诱导出有害指令,对齐后的智能体仍可能拒绝执行这些指令,而中间执行失败也可能中断原本成功的攻击工作流。
TRACE 是一个智能体越狱框架,旨在通过任务分解、面向执行的多轮交互和自适应恢复来应对这些挑战。
TRACE 由三个关键组件构成:
我们在 AdvCUA 和 AgentHazard 两个智能体安全基准上评估 TRACE,这两个基准要求在交互环境中端到端执行多步骤任务。实验覆盖两个智能体框架 Codex 和 Claude Code,并搭配多个底层模型。
| 智能体框架 | 底层模型 | AdvCUA | AgentHazard |
|---|---|---|---|
| Codex | GPT-5.5 | 0.62 | 0.97 |
| Codex | Gemini-3.5-Flash | 0.65 | 0.99 |
| Codex | DeepSeek-V4-Pro | 0.81 | 1.00 |
| Claude Code | Claude-Opus-4.8 | 0.54 | 0.97 |
| Claude Code | Gemini-3.5-Flash | 0.69 | 0.98 |
| Claude Code | DeepSeek-V4-Pro | 0.88 | 0.99 |
TRACE 在不同智能体框架和底层模型上始终取得强劲的攻击性能,在大多数设置下大幅优于先前的基线。在 AdvCUA 上,TRACE 的 ASR 介于 0.54 至 0.88 之间。在 AgentHazard 上,TRACE 在所有评估配置下均取得近乎完美的 ASR,介于 0.97 至 1.00 之间。
assets/ 中提供了两个使用 Claude Code 和 Codex 录制的演示:
| 目标智能体 | 演示 |
|---|---|
| Claude Code | Claude Code 演示 |
| Codex | Codex 演示 |
所提供的环境规范面向 Linux 和 Python 3.11。
git clone https://github.com/ZJU-LLM-Safety/TRACE.git
cd TRACE
conda env create -f environment.yml
conda activate trace
设置 OpenAI 兼容的 Chat Completions 端点的凭据和基础 URL:
export OPENAI_API_KEY="<your-api-key>"
export OPENAI_BASE_URL="<your-api-base-url>"
使用方案引导的任务分解生成候选子任务序列:
python improved_decomposer/improved_task_decomposer.py \
--data_file_path /path/to/tasks.json \
--output_file_path outputs/decompositions.jsonl \
--model "<decomposition-model>" \
--num_decompositions_per_task 5 \
--use_schema_decompose
--use_schema_decompose 启用基于方案的候选生成。
以下示例使用 Codex 运行 AdvCUA 基准测试:
python experiment/main.py \
--dataset /path/to/benchmark_with_subtasks.jsonl \
--config experiment/config/config.yaml \
--lab-backend vrap \
--compose-file /path/to/benchmark/docker-compose.yml \
--attacker-model-path /path/to/attacker-model \
--target-backend codex \
--codex-model "<target-model>" \
--responses-base-url "<target-responses-api-base-url>" \
--responses-env-key OPENAI_API_KEY \
--strategy-library outputs/experiment/strategy_library.json \
--output outputs/experiment/results.jsonl
要查看可用的命令行选项:
python improved_decomposer/improved_task_decomposer.py --help
python experiment/main.py --help
| 路径 | 描述 |
|---|---|
improved_decomposer/ | 过程化方案、候选生成、验证与选择 |
experiment/main.py | 实验编排与执行反馈 |
experiment/runtime/ | 模型、策略与子任务序列的运行时组件 |
experiment/strategy_library/ | 策略存储、检索、修订与反馈集成 |
experiment/config/ | 实验配置与提示模板 |
agent_execution/ | 目标智能体接口、会话处理、轨迹收集与验证 |
tools/ | 基准桥接、API 适配器与诊断工具 |
assets/ | Claude Code 与 Codex 演示视频 |
environment.yml | Conda 环境规范 |
如果您在研究中发现 TRACE 有用,请考虑引用:
@misc{zeng2026tracetaskawareadaptiveselfevolving,
title={TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking},
author={Churui Zeng and Kedong Xiu and Weiwei Qi and Yuqi Hao and Chaochao Lu and Liang He and Zhan Qin and Tianhang Zheng},
year={2026},
eprint={2605.30883},
archivePrefix={arXiv},
primaryClass={cs.CR},
url={https://arxiv.org/abs/2605.30883},
}