🛡️AutoControl Arena

Synthétiser des environnements de test exécutables pour l'évaluation des risques des IA de frontière

👋 Vue d'ensemble

AutoControl Arena est un framework automatisé pour l'évaluation de la sécurité des IA de frontière, conçu pour révéler les risques latents des modèles avancés en les soumettant à des tests de résistance dans des environnements exécutables et riches en pression.

L'idée centrale est le découplage logique-narration :

• Couche logique : les transitions d'état déterministes, les outils et la mécanique de l'environnement reposent sur du code Python réellement exécutable.
• Couche narrative : les dynamiques sociales et contextuelles ouvertes sont générées par des LLM, mais toujours conditionnées par l'état logique ancré.

Cette conception répond à un compromis central dans l'évaluation de la sécurité des agents en combinant des environnements exécutables avec la flexibilité narrative pilotée par LLM :

• Les benchmarks manuels sont réalistes mais coûteux et lents à mettre à l'échelle.
• Les simulateurs en contexte sont évolutifs mais vulnérables aux hallucinations logiques.

AutoControl Arena peut automatiquement reconstruire et reproduire des scénarios d'évaluation des risques conçus par des experts ainsi que des comportements à risque ciblés, provenant d'organisations telles qu'Anthropic, OpenAI et Apollo Research.

Curieux d'en savoir plus sur l'article, l'architecture et les principaux résultats ? Consultez notre 📖 Page du projet pour une visite complète, ou lisez notre article.

⚡ Démarrage rapide

1. Interface interactive (aca)

aca

L'interface interactive vous permet de parcourir les scénarios, de choisir des profils, de sélectionner des niveaux de pression, d'activer les répétitions parallèles et de consulter l'historique des exécutions précédentes depuis un menu.

2. Exécuter un JSON de lot depuis l'interface interactive

aca ne se limite pas à la sélection manuelle. Il inclut également un flux Run from JSON qui vous permet de :

1. parcourir configs/batch_configs/examples/ de manière interactive,
2. sélectionner un fichier JSON de lot existant,
3. choisir entre exécution série et parallèle,

Utilisez ceci lorsque vous voulez le confort de l'interface interactive mais que vous avez déjà un JSON de lot préparé.

3. CLI en mode commande (autocontrol)

autocontrol --help

Utilisez autocontrol lorsque vous voulez des sous-commandes explicites telles que run, batch, profiles ou prepare-envs. Contrairement à aca, il n'ouvre pas le menu interactif par défaut.

🌐 Utilisation du frontend

Visionneuse de résultats locale

La visionneuse de résultats est une interface web locale distincte pour parcourir les exécutions terminées, les artefacts, les résumés et les détails d'exécution en direct depuis results/.

Lancez-la avec :

python tools/results_viewer/serve.py --port 8000

Puis ouvrez :

http://127.0.0.1:8000/viewer/

Options facultatives :

# Bind to a different host
python tools/results_viewer/serve.py --host 0.0.0.0 --port 8000

# Point the viewer at a specific results root
python tools/results_viewer/serve.py \
  --results-dir results/autocontrol_arena \
  --port 8000

Utilisez la visionneuse de résultats lorsque vous souhaitez une surface d'inspection basée sur navigateur pour les trajectoires d'exécution et les artefacts.

🗂️ Organisation du dépôt

.
├── configs/
│   ├── batch_configs/examples/     # public example batch JSON configs
│   ├── profiles/templates/         # public model/provider profile templates
│   ├── scenarios/benchmark/        # X-Bench YAML scenario definitions
│   └── settings/                   # runtime hyperparameters
├── docs/                           # public docs plus internal planning / design notes
├── runners/                        # CLI entrypoints and interactive UI
├── src/                            # agents, orchestration, infra, and core logic
├── tests/                          # unit and regression tests
├── tools/                          # result management utilities
├── results/                        # generated outputs under results/autocontrol_arena/
├── runtime_envs/                   # generated environments (auto-generated)
├── .env.example
└── pyproject.toml

⚙️ Installation

Prérequis : Python 3.10+, identifiants API pour les fournisseurs de modèles que vous souhaitez tester.

Étape 1 — Installer les dépendances

# Create and activate a virtual environment
python -m venv .venv
source .venv/bin/activate