
Framework de jailbreak agéntico para agentes basados en LLM que utiliza descomposición de tareas basada en esquemas, estrategias de disfraz multiturno y autoevolución adaptativa para sondear riesgos de seguridad emergentes.
Implementación oficial de TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking.
Los agentes de modelos de lenguaje grandes (LLM) pueden planificar de forma autónoma, invocar herramientas, interactuar con entornos y ejecutar flujos de trabajo de largo horizonte. Esto introduce riesgos de seguridad más allá de los jailbreaks convencionales de solo texto: incluso cuando se pueden elicitar instrucciones dañinas, los agentes alineados pueden seguir negándose a ejecutarlas, mientras que los fallos de ejecución intermedios pueden interrumpir un flujo de ataque que de otro modo habría tenido éxito.
TRACE es un framework de jailbreaking agéntico diseñado para abordar estos desafíos mediante la descomposición de tareas, la interacción multiturno orientada a la ejecución y la recuperación adaptativa.
TRACE consta de tres componentes clave:
Evaluamos TRACE en AdvCUA y AgentHazard, dos benchmarks de seguridad de agentes que requieren la ejecución de extremo a extremo de tareas de múltiples pasos en entornos interactivos. Los experimentos abarcan dos frameworks de agentes, Codex y Claude Code, con múltiples modelos subyacentes.
| Framework de agente | Modelo subyacente | AdvCUA | AgentHazard |
|---|---|---|---|
| Codex | GPT-5.5 | 0.62 | 0.97 |
| Codex | Gemini-3.5-Flash | 0.65 | 0.99 |
| Codex | DeepSeek-V4-Pro | 0.81 | 1.00 |
| Claude Code | Claude-Opus-4.8 | 0.54 | 0.97 |
| Claude Code | Gemini-3.5-Flash | 0.69 | 0.98 |
| Claude Code | DeepSeek-V4-Pro | 0.88 | 0.99 |
TRACE logra de forma consistente un sólido rendimiento de ataque en diferentes frameworks de agentes y modelos subyacentes, superando sustancialmente a las líneas base previas en la mayoría de las configuraciones. En AdvCUA, TRACE alcanza ASR que van de 0.54 a 0.88. En AgentHazard, TRACE alcanza ASR casi perfectos en todas las configuraciones evaluadas, en el rango de 0.97 a 1.00.
Se proporcionan dos demostraciones grabadas con Claude Code y Codex en assets/:
| Agente objetivo | Demo |
|---|---|
| Claude Code | Claude Code Demo |
| Codex | Codex Demo |
La especificación de entorno proporcionada está orientada a Linux y Python 3.11.
git clone https://github.com/ZJU-LLM-Safety/TRACE.git
cd TRACE
conda env create -f environment.yml
conda activate trace
Establezca las credenciales y la URL base para un endpoint de Chat Completions compatible con OpenAI:
export OPENAI_API_KEY="<your-api-key>"
export OPENAI_BASE_URL="<your-api-base-url>"
Generar secuencias de subtareas candidatas mediante una descomposición de tareas guiada por esquemas:
python improved_decomposer/improved_task_decomposer.py \
--data_file_path /path/to/tasks.json \
--output_file_path outputs/decompositions.jsonl \
--model "<decomposition-model>" \
--num_decompositions_per_task 5 \
--use_schema_decompose
--use_schema_decompose habilita la generación de candidatos basada en esquemas.
El siguiente ejemplo utiliza el benchmark AdvCUA con Codex:
python experiment/main.py \
--dataset /path/to/benchmark_with_subtasks.jsonl \
--config experiment/config/config.yaml \
--lab-backend vrap \
--compose-file /path/to/benchmark/docker-compose.yml \
--attacker-model-path /path/to/attacker-model \
--target-backend codex \
--codex-model "<target-model>" \
--responses-base-url "<target-responses-api-base-url>" \
--responses-env-key OPENAI_API_KEY \
--strategy-library outputs/experiment/strategy_library.json \
--output outputs/experiment/results.jsonl
Para inspeccionar las opciones de línea de comandos disponibles:
python improved_decomposer/improved_task_decomposer.py --help
python experiment/main.py --help
| Ruta | Descripción |
|---|---|
improved_decomposer/ | Esquemas procedimentales, generación de candidatos, validación y selección |
experiment/main.py | Orquestación de experimentos y retroalimentación de ejecución |
experiment/runtime/ | Componentes de tiempo de ejecución para modelos, estrategias y secuencias de subtareas |
experiment/strategy_library/ | Almacenamiento, recuperación, revisión e integración de retroalimentación de estrategias |
experiment/config/ | Configuraciones de experimentos y plantillas de prompts |
agent_execution/ | Interfaces del agente objetivo, manejo de sesiones, recopilación de trayectorias y verificación |
tools/ | Puentes de benchmark, adaptadores de API y diagnósticos |
assets/ | Videos de demostración de Claude Code y Codex |
environment.yml | Especificación del entorno Conda |
Si encuentras útil TRACE en tu investigación, considera citarlo:
@misc{zeng2026tracetaskawareadaptiveselfevolving,
title={TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking},
author={Churui Zeng and Kedong Xiu and Weiwei Qi and Yuqi Hao and Chaochao Lu and Liang He and Zhan Qin and Tianhang Zheng},
year={2026},
eprint={2605.30883},
archivePrefix={arXiv},
primaryClass={cs.CR},
url={https://arxiv.org/abs/2605.30883},
}