🛡️AutoControl Arena

Sintetizando entornos de prueba ejecutables para la evaluación de riesgos de IA de frontera

👋 Descripción general

AutoControl Arena es un framework automatizado para la evaluación de seguridad de IA de frontera, diseñado para descubrir riesgos latentes en modelos avanzados mediante pruebas de estrés dentro de entornos ejecutables y ricos en presión.

La idea central es el desacoplamiento lógica-narrativa:

• Capa de lógica: las transiciones de estado deterministas, las herramientas y la mecánica del entorno se fundamentan en código Python real y ejecutable.
• Capa narrativa: las dinámicas sociales/contextuales abiertas son generadas por LLMs, pero siempre condicionadas al estado lógico fundamentado.

Este diseño aborda un compromiso central en la evaluación de seguridad de agentes al combinar entornos ejecutables con la flexibilidad narrativa impulsada por LLMs:

• Benchmarks manuales son realistas pero costosos y lentos de escalar.
• Simuladores en contexto son escalables pero vulnerables a la alucinación lógica.

AutoControl Arena puede reconstruir y reproducir automáticamente escenarios de evaluación de riesgos diseñados por expertos y comportamientos de riesgo objetivo de organizaciones como Anthropic, OpenAI y Apollo Research.

¿Tienes curiosidad por el artículo, la arquitectura y los hallazgos clave? Consulta nuestra 📖 Página del proyecto para un recorrido completo, o lee nuestro artículo.

⚡ Inicio rápido

1. Interfaz interactiva (aca)

aca

La interfaz interactiva te permite explorar escenarios, elegir perfiles, seleccionar niveles de estrés, habilitar repeticiones en paralelo e inspeccionar el historial de ejecuciones anteriores desde un menú.

2. Ejecutar un JSON por lotes desde la interfaz interactiva

aca no se limita a la selección manual. También incluye un flujo Run from JSON que te permite:

1. explorar configs/batch_configs/examples/ de forma interactiva,
2. seleccionar un archivo JSON de lote existente,
3. elegir ejecución en serie o en paralelo,

Usa esto cuando quieras la comodidad de la interfaz interactiva pero ya tengas un JSON de lote preparado.

3. CLI en modo comando (autocontrol)

autocontrol --help

Usa autocontrol cuando quieras subcomandos explícitos como run, batch, profiles o prepare-envs. A diferencia de aca, no abre el menú interactivo por defecto.

🌐 Uso del frontend

Visor de resultados local

El visor de resultados es una interfaz web local independiente para explorar ejecuciones completadas, artefactos, resúmenes y detalles de ejecución en vivo desde results/.

Inícialo con:

python tools/results_viewer/serve.py --port 8000

Luego abre:

http://127.0.0.1:8000/viewer/

Opciones adicionales:

# Bind to a different host
python tools/results_viewer/serve.py --host 0.0.0.0 --port 8000

# Point the viewer at a specific results root
python tools/results_viewer/serve.py \
  --results-dir results/autocontrol_arena \
  --port 8000

Usa el visor de resultados cuando quieras una superficie de inspección basada en navegador para trayectorias de ejecución y artefactos.

🗂️ Estructura del repositorio

.
├── configs/
│   ├── batch_configs/examples/     # public example batch JSON configs
│   ├── profiles/templates/         # public model/provider profile templates
│   ├── scenarios/benchmark/        # X-Bench YAML scenario definitions
│   └── settings/                   # runtime hyperparameters
├── docs/                           # public docs plus internal planning / design notes
├── runners/                        # CLI entrypoints and interactive UI
├── src/                            # agents, orchestration, infra, and core logic
├── tests/                          # unit and regression tests
├── tools/                          # result management utilities
├── results/                        # generated outputs under results/autocontrol_arena/
├── runtime_envs/                   # generated environments (auto-generated)
├── .env.example
└── pyproject.toml

⚙️ Configuración

Requisitos previos: Python 3.10+, credenciales de API para los proveedores de modelos que quieras probar.

Paso 1 — Instalar dependencias

# Create and activate a virtual environment
python -m venv .venv
source .venv/bin/activate

# Install all dependencies (includes LiteLLM, the default model backend)
pip install -e .

# Optional: dev tools (pytest, ruff, mypy)
pip install -e ".[dev]"

Esta instalación expone dos comandos de shell: