
Фреймворк агентного джейлбрейка для агентов на основе LLM, использующий декомпозицию задач на основе схем, многоходовые стратегии маскировки и адаптивную самоэволюцию для исследования новых угроз безопасности.
Откройте для себя самые используемые инструменты нашего сообщества.
Данных о популярности пока нет.
Официальная реализация TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking.
Агенты на основе больших языковых моделей (LLM) способны автономно планировать действия, вызывать инструменты, взаимодействовать с окружением и выполнять длительные рабочие процессы. Это порождает риски безопасности, выходящие за рамки традиционного джейлбрейкинга только через текст: даже когда вредоносные инструкции удаётся получить, выровненные агенты всё равно могут отказаться их выполнять, а промежуточные сбои при выполнении способны прервать в остальном успешный рабочий процесс атаки.
TRACE — это фреймворк агентного джейлбрейкинга, разработанный для решения этих проблем посредством декомпозиции задач, ориентированного на выполнение многоходового взаимодействия и адаптивного восстановления.
TRACE состоит из трёх ключевых компонентов:
Мы оцениваем TRACE на AdvCUA и AgentHazard — двух бенчмарках безопасности агентов, требующих сквозного выполнения многошаговых задач в интерактивных средах. Эксперименты охватывают два агентных фреймворка, Codex и Claude Code, с несколькими базовыми моделями.
| Агентный фреймворк | Базовая модель | AdvCUA | AgentHazard |
|---|---|---|---|
| Codex | GPT-5.5 | 0.62 | 0.97 |
| Codex | Gemini-3.5-Flash | 0.65 | 0.99 |
| Codex | DeepSeek-V4-Pro | 0.81 | 1.00 |
| Claude Code | Claude-Opus-4.8 | 0.54 | 0.97 |
| Claude Code | Gemini-3.5-Flash | 0.69 | 0.98 |
| Claude Code | DeepSeek-V4-Pro | 0.88 | 0.99 |
TRACE стабильно достигает высокой эффективности атак в различных агентных фреймворках и с разными базовыми моделями, существенно превосходя предыдущие базовые решения в большинстве конфигураций. На AdvCUA TRACE достигает ASR в диапазоне от 0.54 до 0.88. На AgentHazard TRACE достигает почти идеальных ASR во всех оцениваемых конфигурациях — от 0.97 до 1.00.
В каталоге assets/ предоставлены две записанные демонстрации с Claude Code и Codex:
| Целевой агент | Демонстрация |
|---|---|
| Claude Code | Claude Code Demo |
| Codex | Codex Demo |
Предоставленная спецификация окружения рассчитана на Linux и Python 3.11.
git clone https://github.com/ZJU-LLM-Safety/TRACE.git
cd TRACE
conda env create -f environment.yml
conda activate trace
Задайте учётные данные и базовый URL для совместимой с OpenAI конечной точки Chat Completions:
export OPENAI_API_KEY="<your-api-key>"
export OPENAI_BASE_URL="<your-api-base-url>"
Генерация последовательностей подзадач-кандидатов с использованием декомпозиции задач, управляемой схемой:
python improved_decomposer/improved_task_decomposer.py \
--data_file_path /path/to/tasks.json \
--output_file_path outputs/decompositions.jsonl \
--model "<decomposition-model>" \
--num_decompositions_per_task 5 \
--use_schema_decompose
--use_schema_decompose включает генерацию кандидатов на основе схемы.
В следующем примере используется бенчмарк AdvCUA с Codex:
python experiment/main.py \
--dataset /path/to/benchmark_with_subtasks.jsonl \
--config experiment/config/config.yaml \
--lab-backend vrap \
--compose-file /path/to/benchmark/docker-compose.yml \
--attacker-model-path /path/to/attacker-model \
--target-backend codex \
--codex-model "<target-model>" \
--responses-base-url "<target-responses-api-base-url>" \
--responses-env-key OPENAI_API_KEY \
--strategy-library outputs/experiment/strategy_library.json \
--output outputs/experiment/results.jsonl
Чтобы просмотреть доступные параметры командной строки:
python improved_decomposer/improved_task_decomposer.py --help
python experiment/main.py --help
| Путь | Описание |
|---|---|
improved_decomposer/ | Процедурные схемы, генерация кандидатов, валидация и выбор |
experiment/main.py | Оркестрация эксперимента и обратная связь по выполнению |
experiment/runtime/ | Компоненты среды выполнения для моделей, стратегий и последовательностей подзадач |
experiment/strategy_library/ | Хранение стратегий, извлечение, пересмотр и интеграция обратной связи |
experiment/config/ | Конфигурации экспериментов и шаблоны промптов |
agent_execution/ | Интерфейсы целевых агентов, управление сессиями, сбор траекторий и верификация |
tools/ | Мосты к бенчмаркам, адаптеры API и диагностика |
assets/ | Демонстрационные видео Claude Code и Codex |
environment.yml | Спецификация окружения Conda |
Если вы находите TRACE полезным в своих исследованиях, пожалуйста, рассмотрите возможность цитирования:
@misc{zeng2026tracetaskawareadaptiveselfevolving,
title={TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking},
author={Churui Zeng and Kedong Xiu and Weiwei Qi and Yuqi Hao and Chaochao Lu and Liang He and Zhan Qin and Tianhang Zheng},
year={2026},
eprint={2605.30883},
archivePrefix={arXiv},
primaryClass={cs.CR},
url={https://arxiv.org/abs/2605.30883},
}