🛡️AutoControl Arena

Sintetizzare ambienti di test eseguibili per la valutazione dei rischi dell'IA di frontiera

👋 Panoramica

AutoControl Arena è un framework automatizzato per la valutazione della sicurezza dell'IA di frontiera, progettato per scoprire rischi latenti nei modelli avanzati sottoponendoli a stress test all'interno di ambienti eseguibili e ricchi di pressione.

L'idea centrale è il disaccoppiamento logica-narrazione:

• Livello logico: transizioni di stato deterministiche, strumenti e meccaniche ambientali sono fondati su codice Python reale ed eseguibile.
• Livello narrativo: dinamiche sociali/contestuali aperte sono generate da LLM, ma sempre condizionate allo stato logico fondato.

Questo design affronta un compromesso centrale nella valutazione della sicurezza degli agenti combinando ambienti eseguibili con la flessibilità narrativa guidata dagli LLM:

• Benchmark manuali sono realistici ma costosi e lenti da scalare.
• Simulatori in-contesto sono scalabili ma vulnerabili all'allucinazione logica.

AutoControl Arena può ricostruire e riprodurre automaticamente scenari di valutazione del rischio progettati da esperti e comportamenti rischiosi target di organizzazioni come Anthropic, OpenAI e Apollo Research.

Curioso di conoscere il paper, l'architettura e i risultati principali? Consulta la nostra 📖 Pagina del Progetto per un tour completo, oppure leggi il nostro paper.

⚡ Avvio Rapido

1. Interfaccia interattiva (aca)

aca

L'interfaccia interattiva ti consente di sfogliare gli scenari, scegliere i profili, selezionare i livelli di stress, abilitare le ripetizioni parallele e consultare la cronologia delle esecuzioni precedenti da un menu.

2. Eseguire un batch JSON dall'interfaccia interattiva

aca non è limitato alla selezione manuale. Include anche un flusso Esegui da JSON che ti consente di:

1. sfogliare configs/batch_configs/examples/ in modo interattivo,
2. selezionare un file batch JSON esistente,
3. scegliere l'esecuzione seriale o parallela,

Usalo quando vuoi la comodità dell'interfaccia interattiva ma hai già un batch JSON pronto.

3. CLI in modalità comando (autocontrol)

autocontrol --help

Usa autocontrol quando vuoi sottocomandi espliciti come run, batch, profiles o prepare-envs. A differenza di aca, non apre il menu interattivo per impostazione predefinita.

🌐 Utilizzo del Frontend

Visualizzatore locale dei risultati

Il visualizzatore dei risultati è una web UI locale separata per sfogliare le esecuzioni completate, gli artefatti, i riepiloghi e i dettagli di esecuzione in tempo reale da results/.

Avvialo con:

python tools/results_viewer/serve.py --port 8000

Poi apri:

http://127.0.0.1:8000/viewer/

Flag opzionali:

# Bind to a different host
python tools/results_viewer/serve.py --host 0.0.0.0 --port 8000

# Point the viewer at a specific results root
python tools/results_viewer/serve.py \
  --results-dir results/autocontrol_arena \
  --port 8000

Usa il visualizzatore dei risultati quando vuoi una superficie di ispezione basata su browser per traiettorie di esecuzione e artefatti.

🗂️ Struttura del Repository

.
├── configs/
│   ├── batch_configs/examples/     # public example batch JSON configs
│   ├── profiles/templates/         # public model/provider profile templates
│   ├── scenarios/benchmark/        # X-Bench YAML scenario definitions
│   └── settings/                   # runtime hyperparameters
├── docs/                           # public docs plus internal planning / design notes
├── runners/                        # CLI entrypoints and interactive UI
├── src/                            # agents, orchestration, infra, and core logic
├── tests/                          # unit and regression tests
├── tools/                          # result management utilities
├── results/                        # generated outputs under results/autocontrol_arena/
├── runtime_envs/                   # generated environments (auto-generated)
├── .env.example
└── pyproject.toml

⚙️ Configurazione

Prerequisiti: Python 3.10+, credenziali API per i provider di modelli che vuoi testare.

Passo 1 — Installare le Dipendenze

# Create and activate a virtual environment
python -m venv .venv
source .venv/bin/activate

# Install all dependencies (includes LiteLLM, the default model backend)
pip install -e .

# Optional: dev tools (pytest, ruff, mypy)
pip install -e ".[dev]"

Questa installazione espone due comandi shell: