🛡️AutoControl Arena

Synthese ausführbarer Testumgebungen für die Risikobewertung von Frontier-KI

👋 Überblick

AutoControl Arena ist ein automatisiertes Framework für die Sicherheitsbewertung von Frontier-KI, das darauf ausgelegt ist, latente Risiken in fortschrittlichen Modellen aufzudecken, indem es sie in ausführbaren, druckvollen Umgebungen einem Stresstest unterzieht.

Die Kernidee ist die Entkopplung von Logik und Narrativ:

• Logikebene: Deterministische Zustandsübergänge, Werkzeuge und Umgebungsmechaniken basieren auf echtem, ausführbarem Python-Code.
• Narrativebene: Offene soziale/kontextuelle Dynamiken werden von LLMs generiert, sind aber stets an den verankerten logischen Zustand gekoppelt.

Dieses Design adressiert einen zentralen Zielkonflikt in der Sicherheitsbewertung von Agenten, indem es ausführbare Umgebungen mit LLM-gesteuerter narrativer Flexibilität kombiniert:

• Manuelle Benchmarks sind realistisch, aber teuer und langsam zu skalieren.
• In-Context-Simulatoren sind skalierbar, aber anfällig für Logik-Halluzinationen.

AutoControl Arena kann von Experten entworfene Risikobewertungsszenarien und Zielverhaltensweisen von Organisationen wie Anthropic, OpenAI und Apollo Research automatisch rekonstruieren und reproduzieren.

Neugierig auf das Paper, die Architektur und die wichtigsten Erkenntnisse? Bitte besuchen Sie unsere 📖 Projektseite für einen vollständigen Rundgang oder lesen Sie unser Paper.

⚡ Schnellstart

1. Interaktive UI (aca)

aca

Die interaktive UI ermöglicht es Ihnen, Szenarien zu durchsuchen, Profile auszuwählen, Stressstufen zu wählen, parallele Wiederholungen zu aktivieren und den Verlauf früherer Läufe über ein Menü einzusehen.

2. Ein Batch-JSON über die interaktive UI ausführen

aca ist nicht auf die manuelle Auswahl beschränkt. Es enthält auch einen Run from JSON-Ablauf, mit dem Sie:

1. configs/batch_configs/examples/ interaktiv durchsuchen,
2. eine vorhandene Batch-JSON-Datei auswählen,
3. serielle vs. parallele Ausführung wählen,

Verwenden Sie dies, wenn Sie den Komfort der interaktiven UI wünschen, aber bereits eine Batch-JSON vorbereitet haben.

3. Kommando-Modus-CLI (autocontrol)

autocontrol --help

Verwenden Sie autocontrol, wenn Sie explizite Unterbefehle wie run, batch, profiles oder prepare-envs wünschen. Im Gegensatz zu aca öffnet es standardmäßig nicht das interaktive Menü.

🌐 Frontend-Nutzung

Lokaler Ergebnis-Viewer

Der Ergebnis-Viewer ist eine separate lokale Web-UI zum Durchsuchen abgeschlossener Läufe, Artefakte, Zusammenfassungen und Live-Ausführungsdetails aus results/.

Starten Sie ihn mit:

python tools/results_viewer/serve.py --port 8000

Öffnen Sie dann:

http://127.0.0.1:8000/viewer/

Optionale Flags:

# Bind to a different host
python tools/results_viewer/serve.py --host 0.0.0.0 --port 8000

# Point the viewer at a specific results root
python tools/results_viewer/serve.py \
  --results-dir results/autocontrol_arena \
  --port 8000

Verwenden Sie den Ergebnis-Viewer, wenn Sie eine browserbasierte Inspektionsoberfläche für Lauf-Trajektorien und Artefakte wünschen.

🗂️ Repository-Struktur

.
├── configs/
│   ├── batch_configs/examples/     # public example batch JSON configs
│   ├── profiles/templates/         # public model/provider profile templates
│   ├── scenarios/benchmark/        # X-Bench YAML scenario definitions
│   └── settings/                   # runtime hyperparameters
├── docs/                           # public docs plus internal planning / design notes
├── runners/                        # CLI entrypoints and interactive UI
├── src/                            # agents, orchestration, infra, and core logic
├── tests/                          # unit and regression tests
├── tools/                          # result management utilities
├── results/                        # generated outputs under results/autocontrol_arena/
├── runtime_envs/                   # generated environments (auto-generated)
├── .env.example
└── pyproject.toml

⚙️ Einrichtung

Voraussetzungen: Python 3.10+, API-Zugangsdaten für die Modellanbieter, die Sie testen möchten.

Schritt 1 — Abhängigkeiten installieren

# Create and activate a virtual environment
python -m venv .venv
source .venv/bin/activate

# Install all dependencies (includes LiteLLM, the default model backend)
pip install -e .

# Optional: dev tools (pytest, ruff, mypy)
pip install -e ".[dev]"

Diese Installation stellt zwei Shell-Befehle bereit: