Skip to content
KitploitKITPLOIT
工具博客
Log in
提交
工具博客
提交

黑客、渗透测试和网络安全工具,武装您的安全武器库!

Kitploit 是一个黑客、网络安全和渗透测试工具的目录。发现最新的项目更新,查找漏洞、分析系统、自动化测试并加强你的安全。

订阅源联系隐私© 2026 Kitploit

工具目录

分类

查看所有分类
Loading categories
TRACE — 基于模式的LLM智能体越狱框架,采用基于方案的任务分解、多轮伪装策略和自适应自进化来探测新兴安全风险。 | Kitploit
工具/GitHubGitHub/zju-llm-safety/trace
漏洞利用脚本与自动化渗透测试机器学习论文与研究红队AI 安全对抗性攻击
GitHubzju-llm-safety/trace

TRACE

基于模式的LLM智能体越狱框架,采用基于方案的任务分解、多轮伪装策略和自适应自进化来探测新兴安全风险。

查看仓库
4121801个月前Kitploit 审核通过
分享

TRACE:任务感知的自适应自进化智能体越狱

TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking 的官方实现。

📖 概述

大语言模型(LLM)智能体能够自主规划、调用工具、与环境交互并执行长周期工作流。这带来了超越传统纯文本越狱的安全风险:即使能够诱导出有害指令,对齐后的智能体仍可能拒绝执行这些指令,而中间执行失败也可能中断原本成功的攻击工作流。

TRACE 是一个智能体越狱框架,旨在通过任务分解、面向执行的多轮交互和自适应恢复来应对这些挑战。

TRACE 由三个关键组件构成:

  • 基于方案的任务分解。 TRACE 围绕约 20 种过程化分解方案构建,这些方案针对不同任务类型规定了关键操作及其依赖关系。一个复杂的有害任务会在不同方案下实例化,生成多个候选子任务序列,并依据有害性和执行难度进行评估。
  • 面向执行的多轮交互。 对于触发执行拒绝的子任务,TRACE 构建结构化的子任务画像,并从不断演化的策略库中检索相应的面向执行策略。每个策略规定了中间目标、相关环境状态和所需工具调用,引导智能体通过多轮交互完成该子任务。
  • 自适应恢复与策略演化。 当中间步骤失败时,TRACE 定位失败的子任务,保留此前已完成的执行状态,调整相应策略,并在不重启整个工作流的情况下恢复执行。执行反馈进一步用于持续演化策略库。

📊 主要结果

我们在 AdvCUA 和 AgentHazard 两个智能体安全基准上评估 TRACE,这两个基准要求在交互环境中端到端执行多步骤任务。实验覆盖两个智能体框架 Codex 和 Claude Code,并搭配多个底层模型。

智能体框架底层模型AdvCUAAgentHazard
CodexGPT-5.50.620.97
CodexGemini-3.5-Flash0.650.99
CodexDeepSeek-V4-Pro0.811.00
Claude CodeClaude-Opus-4.80.540.97
Claude CodeGemini-3.5-Flash0.690.98
Claude CodeDeepSeek-V4-Pro0.880.99

TRACE 在不同智能体框架和底层模型上始终取得强劲的攻击性能,在大多数设置下大幅优于先前的基线。在 AdvCUA 上,TRACE 的 ASR 介于 0.54 至 0.88 之间。在 AgentHazard 上,TRACE 在所有评估配置下均取得近乎完美的 ASR,介于 0.97 至 1.00 之间。

🎬 演示

assets/ 中提供了两个使用 Claude Code 和 Codex 录制的演示:

目标智能体演示
Claude CodeClaude Code 演示
CodexCodex 演示

🛠️ 安装

所提供的环境规范面向 Linux 和 Python 3.11。

git clone https://github.com/ZJU-LLM-Safety/TRACE.git
cd TRACE

conda env create -f environment.yml
conda activate trace

🚀 使用方法

1. 配置 API 访问

设置 OpenAI 兼容的 Chat Completions 端点的凭据和基础 URL:

export OPENAI_API_KEY="<your-api-key>"
export OPENAI_BASE_URL="<your-api-base-url>"

2. 任务分解

使用方案引导的任务分解生成候选子任务序列:

python improved_decomposer/improved_task_decomposer.py \
  --data_file_path /path/to/tasks.json \
  --output_file_path outputs/decompositions.jsonl \
  --model "<decomposition-model>" \
  --num_decompositions_per_task 5 \
  --use_schema_decompose

--use_schema_decompose 启用基于方案的候选生成。

3. 运行实验

以下示例使用 Codex 运行 AdvCUA 基准测试:

python experiment/main.py \
  --dataset /path/to/benchmark_with_subtasks.jsonl \
  --config experiment/config/config.yaml \
  --lab-backend vrap \
  --compose-file /path/to/benchmark/docker-compose.yml \
  --attacker-model-path /path/to/attacker-model \
  --target-backend codex \
  --codex-model "<target-model>" \
  --responses-base-url "<target-responses-api-base-url>" \
  --responses-env-key OPENAI_API_KEY \
  --strategy-library outputs/experiment/strategy_library.json \
  --output outputs/experiment/results.jsonl

要查看可用的命令行选项:

python improved_decomposer/improved_task_decomposer.py --help
python experiment/main.py --help

📁 仓库结构

路径描述
improved_decomposer/过程化方案、候选生成、验证与选择
experiment/main.py实验编排与执行反馈
experiment/runtime/模型、策略与子任务序列的运行时组件
experiment/strategy_library/策略存储、检索、修订与反馈集成
experiment/config/实验配置与提示模板
agent_execution/目标智能体接口、会话处理、轨迹收集与验证
tools/基准桥接、API 适配器与诊断工具
assets/Claude Code 与 Codex 演示视频
environment.ymlConda 环境规范

📝 引用

如果您在研究中发现 TRACE 有用,请考虑引用:

@misc{zeng2026tracetaskawareadaptiveselfevolving,
      title={TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking}, 
      author={Churui Zeng and Kedong Xiu and Weiwei Qi and Yuqi Hao and Chaochao Lu and Liang He and Zhan Qin and Tianhang Zheng},
      year={2026},
      eprint={2605.30883},
      archivePrefix={arXiv},
      primaryClass={cs.CR},
      url={https://arxiv.org/abs/2605.30883}, 
}
下载工具

最受欢迎

查看全部 →

发现我们社区最常用的工具。

暂无热门数据。

探索所有工具

浏览我们的工具集合

查看所有工具 →