TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking の公式実装です。
大規模言語モデル(LLM)エージェントは、自律的に計画を立て、ツールを呼び出し、環境と対話し、長期的なワークフローを実行することができます。これは従来のテキストのみのジェイルブレイクを超えた安全上のリスクをもたらします。有害な指示を引き出せたとしても、アライメントされたエージェントはその実行を拒否する可能性があり、また中間的な実行の失敗が、それ以外は成功していた攻撃ワークフローを中断させる可能性があります。
TRACE は、タスク分解、実行指向のマルチターン対話、および適応的リカバリを通じてこれらの課題に対処するために設計されたエージェント型ジェイルブレイクフレームワークです。
TRACE は 3 つの主要コンポーネントで構成されています:
私たちは TRACE を AdvCUA と AgentHazard で評価しました。これらはインタラクティブな環境で多段階タスクのエンドツーエンド実行を必要とする 2 つのエージェント安全性ベンチマークです。実験は 2 つのエージェントフレームワーク、Codex と Claude Code を対象とし、複数の基盤モデルを使用しています。
| エージェントフレームワーク | 基盤モデル | AdvCUA | AgentHazard |
|---|---|---|---|
| Codex | GPT-5.5 | 0.62 | 0.97 |
| Codex | Gemini-3.5-Flash | 0.65 | 0.99 |
| Codex | DeepSeek-V4-Pro | 0.81 | 1.00 |
| Claude Code | Claude-Opus-4.8 | 0.54 | 0.97 |
| Claude Code | Gemini-3.5-Flash | 0.69 | 0.98 |
| Claude Code | DeepSeek-V4-Pro | 0.88 | 0.99 |
TRACE は異なるエージェントフレームワークと基盤モデルにわたって一貫して高い攻撃性能を達成し、ほとんどの設定で従来のベースラインを大幅に上回っています。AdvCUA では、TRACE は 0.54 から 0.88 の範囲の ASR を達成しています。AgentHazard では、TRACE は 評価されたすべての構成にわたってほぼ完璧な ASR を達成し、その範囲は 0.97 から 1.00 です。
Claude Code と Codex による 2 つの録画デモが assets/ に提供されています:
| 対象エージェント | デモ |
|---|---|
| Claude Code | Claude Code Demo |
| Codex | Codex Demo |
提供される環境仕様は Linux および Python 3.11 を対象としています。
git clone https://github.com/ZJU-LLM-Safety/TRACE.git
cd TRACE
conda env create -f environment.yml
conda activate trace
OpenAI 互換の Chat Completions エンドポイントの認証情報とベース URL を設定します:
export OPENAI_API_KEY="<your-api-key>"
export OPENAI_BASE_URL="<your-api-base-url>"
スキーム誘導型のタスク分解を用いて、候補となるサブタスク系列を生成します:
python improved_decomposer/improved_task_decomposer.py \
--data_file_path /path/to/tasks.json \
--output_file_path outputs/decompositions.jsonl \
--model "<decomposition-model>" \
--num_decompositions_per_task 5 \
--use_schema_decompose
--use_schema_decompose はスキーマベースの候補生成を有効にします。
次の例では、Codex とともに AdvCUA ベンチマークを使用します:
python experiment/main.py \
--dataset /path/to/benchmark_with_subtasks.jsonl \
--config experiment/config/config.yaml \
--lab-backend vrap \
--compose-file /path/to/benchmark/docker-compose.yml \
--attacker-model-path /path/to/attacker-model \
--target-backend codex \
--codex-model "<target-model>" \
--responses-base-url "<target-responses-api-base-url>" \
--responses-env-key OPENAI_API_KEY \
--strategy-library outputs/experiment/strategy_library.json \
--output outputs/experiment/results.jsonl
利用可能なコマンドラインオプションを確認するには:
python improved_decomposer/improved_task_decomposer.py --help
python experiment/main.py --help
| パス | 説明 |
|---|---|
improved_decomposer/ | 手続き型スキーム、候補生成、検証、選択 |
experiment/main.py | 実験のオーケストレーションと実行フィードバック |
experiment/runtime/ | モデル、戦略、サブタスクシーケンス用のランタイムコンポーネント |
experiment/strategy_library/ | 戦略の保存、取得、改訂、フィードバック統合 |
experiment/config/ | 実験設定とプロンプトテンプレート |
agent_execution/ | ターゲットエージェントのインターフェース、セッション処理、軌跡収集、検証 |
tools/ | ベンチマークブリッジ、APIアダプター、診断 |
assets/ | Claude Code と Codex のデモ動画 |
environment.yml | Conda 環境仕様 |
研究で TRACE が役立つと感じた場合は、ぜひ引用をご検討ください:
@misc{zeng2026tracetaskawareadaptiveselfevolving,
title={TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking},
author={Churui Zeng and Kedong Xiu and Weiwei Qi and Yuqi Hao and Chaochao Lu and Liang He and Zhan Qin and Tianhang Zheng},
year={2026},
eprint={2605.30883},
archivePrefix={arXiv},
primaryClass={cs.CR},
url={https://arxiv.org/abs/2605.30883},
}