
Framework di jailbreak agentico per agenti basati su LLM che utilizza la scomposizione dei compiti basata su schemi, strategie di camuffamento multi-turno e auto-evoluzione adattiva per sondare i rischi di sicurezza emergenti.
Implementazione ufficiale per TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking.
Gli agenti basati su modelli linguistici di grandi dimensioni (LLM) sono in grado di pianificare autonomamente, invocare strumenti, interagire con gli ambienti ed eseguire flussi di lavoro a lungo orizzonte. Ciò introduce rischi per la sicurezza che vanno oltre i convenzionali jailbreak basati solo su testo: anche quando è possibile ottenere istruzioni dannose, gli agenti allineati possono comunque rifiutarsi di eseguirle, mentre i fallimenti di esecuzione intermedi possono interrompere un flusso di attacco altrimenti riuscito.
TRACE è un framework di jailbreaking agentico progettato per affrontare queste sfide attraverso la decomposizione dei task, l'interazione multi-turno orientata all'esecuzione e il recupero adattivo.
TRACE è composto da tre componenti chiave:
Valutiamo TRACE su AdvCUA e AgentHazard, due benchmark di sicurezza per agenti che richiedono l'esecuzione end-to-end di task multi-passo in ambienti interattivi. Gli esperimenti coprono due framework per agenti, Codex e Claude Code, con molteplici modelli sottostanti.
| Framework per agenti | Modello sottostante | AdvCUA | AgentHazard |
|---|---|---|---|
| Codex | GPT-5.5 | 0.62 | 0.97 |
| Codex | Gemini-3.5-Flash | 0.65 | 0.99 |
| Codex | DeepSeek-V4-Pro | 0.81 | 1.00 |
| Claude Code | Claude-Opus-4.8 | 0.54 | 0.97 |
| Claude Code | Gemini-3.5-Flash | 0.69 | 0.98 |
| Claude Code | DeepSeek-V4-Pro | 0.88 | 0.99 |
TRACE raggiunge costantemente prestazioni di attacco elevate su diversi framework per agenti e modelli sottostanti, superando sostanzialmente le precedenti baseline nella maggior parte delle configurazioni. Su AdvCUA, TRACE raggiunge ASR compresi tra 0.54 e 0.88. Su AgentHazard, TRACE raggiunge ASR quasi perfetti in tutte le configurazioni valutate, compresi tra 0.97 e 1.00.
Due dimostrazioni registrate con Claude Code e Codex sono fornite in assets/:
| Agente target | Demo |
|---|---|
| Claude Code | Claude Code Demo |
| Codex | Codex Demo |
La specifica dell'ambiente fornita è destinata a Linux e Python 3.11.
git clone https://github.com/ZJU-LLM-Safety/TRACE.git
cd TRACE
conda env create -f environment.yml
conda activate trace
Imposta le credenziali e l'URL di base per un endpoint Chat Completions compatibile con OpenAI:
export OPENAI_API_KEY="<your-api-key>"
export OPENAI_BASE_URL="<your-api-base-url>"
Genera sequenze candidate di sottotask utilizzando la scomposizione dei task guidata da schemi:
python improved_decomposer/improved_task_decomposer.py \
--data_file_path /path/to/tasks.json \
--output_file_path outputs/decompositions.jsonl \
--model "<decomposition-model>" \
--num_decompositions_per_task 5 \
--use_schema_decompose
--use_schema_decompose abilita la generazione di candidati basata su schema.
Il seguente esempio utilizza il benchmark AdvCUA con Codex:
python experiment/main.py \
--dataset /path/to/benchmark_with_subtasks.jsonl \
--config experiment/config/config.yaml \
--lab-backend vrap \
--compose-file /path/to/benchmark/docker-compose.yml \
--attacker-model-path /path/to/attacker-model \
--target-backend codex \
--codex-model "<target-model>" \
--responses-base-url "<target-responses-api-base-url>" \
--responses-env-key OPENAI_API_KEY \
--strategy-library outputs/experiment/strategy_library.json \
--output outputs/experiment/results.jsonl
Per ispezionare le opzioni disponibili da riga di comando:
python improved_decomposer/improved_task_decomposer.py --help
python experiment/main.py --help
| Percorso | Descrizione |
|---|---|
improved_decomposer/ | Schemi procedurali, generazione di candidati, validazione e selezione |
experiment/main.py | Orchestrazione degli esperimenti e feedback di esecuzione |
experiment/runtime/ | Componenti runtime per modelli, strategie e sequenze di sottoattività |
experiment/strategy_library/ | Archiviazione, recupero, revisione delle strategie e integrazione del feedback |
experiment/config/ | Configurazioni degli esperimenti e template dei prompt |
agent_execution/ | Interfacce dell'agente target, gestione delle sessioni, raccolta delle traiettorie e verifica |
tools/ | Bridge per benchmark, adattatori API e diagnostica |
assets/ | Video dimostrativi di Claude Code e Codex |
environment.yml | Specifica dell'ambiente Conda |
Se ritieni TRACE utile per la tua ricerca, ti invitiamo a citarlo:
@misc{zeng2026tracetaskawareadaptiveselfevolving,
title={TRACE: Task-Aware Adaptive Self-Evolving Agentic Jailbreaking},
author={Churui Zeng and Kedong Xiu and Weiwei Qi and Yuqi Hao and Chaochao Lu and Liang He and Zhan Qin and Tianhang Zheng},
year={2026},
eprint={2605.30883},
archivePrefix={arXiv},
primaryClass={cs.CR},
url={https://arxiv.org/abs/2605.30883},
}