HARDE: Ottimizzazione degli Agent Harness per il Rilevamento dei Rischi a Runtime e il Controllo dell'Esecuzione

Rilascio del codice per HARDE: Ottimizzazione degli Agent Harness per il Rilevamento dei Rischi a Runtime e il Controllo dell'Esecuzione.

Il repository contiene due famiglie complementari di entry-point:

• domains/: il baseline Meta-Harness e le due fasi di HARDE per ciascun benchmark.
• personalized_harness/: adattatori per benchmark, harness di baseline, harness appresi/personalizzati e pipeline di valutazione.

Struttura del repository

HARDE/
├── domains/
│   ├── agentdyn/                                  # Meta-Harness baseline
│   ├── agentdyn_component_probe/                  # HARDE Stage I
│   ├── agentdyn_adaptive_component_search/        # HARDE Stage II
│   ├── agentsafetybench/                          # Meta-Harness baseline
│   ├── agentsafetybench_component_probe/          # HARDE Stage I
│   ├── agentsafetybench_adaptive_component_search/ # HARDE Stage II
│   ├── shade_arena/                               # Meta-Harness baseline
│   ├── shade_arena_component_probe/               # HARDE Stage I
│   └── shade_arena_adaptive_component_search/     # HARDE Stage II
├── personalized_harness/
│   ├── AgentDyn/
│   ├── AgentSafetyBench/
│   └── SHADE_v2/
├── .env.example
├── .gitignore
└── requirements.txt

Denominazione dei domini e fasi di HARDE

Per un benchmark denominato benchmark, le directory seguono questa convenzione:

Directory	Fase del metodo	Entry point principale
domains/benchmark/	Baseline Meta-Harness	meta_harness.py
domains/benchmark_component_probe/	HARDE Stage I: probing dei componenti	component_probe.py
domains/benchmark_adaptive_component_search/	HARDE Stage II: ricerca adattiva dei componenti	adaptive_component_search.py

La Stage I analizza i componenti dell'harness e produce una rubrica a livello di componente. La Stage II utilizza tale rubrica per selezionare e ottimizzare un componente in modo adattivo durante la ricerca. In questo repository, benchmark è uno tra agentdyn, agentsafetybench o shade_arena.

Configurazione

Si consiglia Python 3.10 o versione successiva.

conda create -n HARDE python=3.10
conda activate HARDE
pip install -r requirements.txt
cp .env.example .env
cp model_config.example.yaml model_config.yaml

# Edit .env, then export its values into the current shell.
set -a
source .env
set +a

Benchmark esterni

Il codice e i dataset di benchmark di terze parti non sono inclusi nel repository. Clonare i benchmark necessari nella radice del repository utilizzando esattamente i nomi di directory indicati di seguito:

git clone https://github.com/leolee99/AgentDyn.git AgentDyn
git clone https://github.com/jkutaso/SHADE-Arena.git SHADE-Arena
git clone https://github.com/thu-coai/Agent-SafetyBench.git Agent-SafetyBench

Fonti di dati aggiuntive:

• Dati Agent-SafetyBench: https://huggingface.co/datasets/thu-coai/Agent-SafetyBench

Gli adattatori risolvono questi repository relativamente alla radice di HARDE. Struttura prevista:

HARDE/
├── AgentDyn/
├── SHADE-Arena/
├── Agent-SafetyBench/
├── domains/
└── personalized_harness/

Esecuzione del codice

I comandi e le opzioni dettagliati specifici per ciascun benchmark sono documentati nel README all'interno della directory corrispondente sotto domains/. Esempi di valutazione con harness fisso sono documentati in personalized_harness/README.md.

I seguenti esempi per SHADE-Arena mostrano il flusso di esecuzione completo per ciascun metodo.

Baseline Meta-Harness

Meta-Harness ottimizza direttamente l'harness completo per tre iterazioni e successivamente valuta l'harness selezionato sul set di test held-out:

python domains/shade_arena/meta_harness.py \
  --run-name shade_meta_seed0 \
  --fresh \
  --iterations 3 \
  --seed 0 \
  --run-final-test

I risultati vengono scritti in domains/shade_arena/runs/shade_meta_seed0/.

Proposta di harness one-shot

Questo baseline valuta l'harness di benchmark non modificato, propone un harness personalizzato in una singola chiamata LLM e valuta tale proposta sugli stessi task di SHADE-Arena. Non esegue una ricerca iterativa:

python personalized_harness/shade_v2_pipeline.py \
  --model_config model_config.yaml \
  --tasks spam_filter_update \
  --repeat 1 \
  --output_harness personalized_harness/SHADE_v2/harnesses/one_shot_proposal.py \
  --output_dir personalized_harness/SHADE_v2/output_one_shot

Senza i flag --skip_generate, --skip_base o --skip_personalized, questo comando esegue la catena completa:

base-harness evaluation → one-shot harness proposal → proposed-harness evaluation → summary

HARDE

HARDE analizza innanzitutto i singoli componenti dell'harness nella Stage I:

python domains/shade_arena_component_probe/component_probe.py \
  --run-name shade_probe_seed0 \
  --seed 0

La Stage I scrive la guida dell'harness generata in:

domains/shade_arena_component_probe/runs/shade_probe_seed0/experience/module_rubric.md

La Stage II utilizza tale guida, seleziona in modo adattivo un componente a ogni iterazione, esegue tre iterazioni di ricerca e valuta l'harness finale selezionato:

python domains/shade_arena_adaptive_component_search/adaptive_component_search.py \
  --run-name shade_adaptive_seed0 \
  --seed 0 \
  --iterations 3 \
  --rubric domains/shade_arena_component_probe/runs/shade_probe_seed0/experience/module_rubric.md \
  --initial-components initial_components/full_trajectory_monitor \
  --run-final-test

Citazione

I metadati di citazione saranno aggiunti con il rilascio del paper.