🛡️AutoControl Arena

フロンティアAIリスク評価のための実行可能なテスト環境の合成

👋 概要

AutoControl Arena は、フロンティアAIの安全性評価のための自動化フレームワークであり、実行可能でプレッシャーの強い環境内でストレステストを行うことで、高度なモデルに潜むリスクを明らかにするよう設計されています。

中心となる考え方は ロジックとナラティブの分離 です：

• ロジック層：決定論的な状態遷移、ツール、環境の仕組みは、実際に実行可能なPythonコードに基づいています。
• ナラティブ層：オープンエンドな社会的・文脈的ダイナミクスはLLMによって生成されますが、常に基盤となる論理状態に条件付けられています。

この設計は、実行可能な環境とLLM駆動のナラティブの柔軟性を組み合わせることで、エージェント安全性評価における中心的なトレードオフに対処します：

• 手動ベンチマーク は現実的ですが、コストが高く、スケールが遅い。
• インコンテキスト・シミュレータ はスケーラブルですが、ロジックのハルシネーションに対して脆弱です。

AutoControl Arena は、Anthropic、OpenAI、Apollo Research などの組織によって設計されたリスク評価シナリオや対象となる危険な行動を、自動的に再構築・再現することができます。

論文、アーキテクチャ、主要な知見に興味がありますか？ 詳細なツアーについては 📖 プロジェクトページ をご覧いただくか、論文 をお読みください。

⚡ クイックスタート

1. インタラクティブUI (aca)

aca

インタラクティブUIでは、シナリオの閲覧、プロファイルの選択、ストレスレベルの選択、並列リピートの有効化、およびメニューからの過去の実行履歴の確認ができます。

2. インタラクティブUIからバッチJSONを実行する

aca は手動選択だけに限定されません。Run from JSON フローも含まれており、次のことができます：

1. configs/batch_configs/examples/ をインタラクティブに閲覧する、
2. 既存のバッチJSONファイルを選択する、
3. 直列実行と並列実行を選択する、

インタラクティブUIの利便性を求めつつ、すでにバッチJSONを用意している場合に使用してください。

3. コマンドモードCLI (autocontrol)

autocontrol --help

run、batch、profiles、prepare-envs などの明示的なサブコマンドを使用したい場合は autocontrol を使用してください。aca とは異なり、デフォルトではインタラクティブメニューを開きません。

🌐 フロントエンドの使用

ローカル結果ビューア

結果ビューアは、results/ から完了した実行、成果物、サマリー、およびライブ実行の詳細を閲覧するための、独立したローカルWeb UIです。

次のコマンドで起動します：

python tools/results_viewer/serve.py --port 8000

次に、以下を開きます：

http://127.0.0.1:8000/viewer/

オプションのフラグ：

# Bind to a different host
python tools/results_viewer/serve.py --host 0.0.0.0 --port 8000

# Point the viewer at a specific results root
python tools/results_viewer/serve.py \
  --results-dir results/autocontrol_arena \
  --port 8000

実行の軌跡や成果物をブラウザベースで検査したい場合は、結果ビューアを使用してください。

🗂️ リポジトリ構成

.
├── configs/
│   ├── batch_configs/examples/     # public example batch JSON configs
│   ├── profiles/templates/         # public model/provider profile templates
│   ├── scenarios/benchmark/        # X-Bench YAML scenario definitions
│   └── settings/                   # runtime hyperparameters
├── docs/                           # public docs plus internal planning / design notes
├── runners/                        # CLI entrypoints and interactive UI
├── src/                            # agents, orchestration, infra, and core logic
├── tests/                          # unit and regression tests
├── tools/                          # result management utilities
├── results/                        # generated outputs under results/autocontrol_arena/
├── runtime_envs/                   # generated environments (auto-generated)
├── .env.example
└── pyproject.toml

⚙️ セットアップ

前提条件：Python 3.10+、テストしたいモデルプロバイダーのAPI認証情報。

ステップ1 — 依存関係のインストール

# Create and activate a virtual environment
python -m venv .venv
source .venv/bin/activate

# Install all dependencies (includes LiteLLM, the default model backend)
pip install -e .

# Optional: dev tools (pytest, ruff, mypy)
pip install -e ".[dev]"

このインストールにより、2つのシェルコマンドが利用可能になります：

• aca — インタラクティブなオペレーター用エントリーポイント
• autocontrol — スクリプトや自動化のためのコマンドモードCLI

ステップ2 — API認証情報の設定

cp .env.example .env

.env を編集し、必要なプロバイダーのみを入力してください。以下にいくつかの例を示します：

# OpenAI
OPENAI_API_KEY=sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx

# Anthropic
ANTHROPIC_API_KEY=sk-xxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx

# Qwen / DashScope
DASHSCOPE_API_KEY=sk-xxxxxxxxxxxxxxxxxxxxxxxx

ステップ3 — モデルプロファイルの設定

公開プロファイルテンプレートは configs/profiles/templates/ にあり、プロファイル名で読み込まれます。リポジトリには現在、gpt-4o と claude-3-7-sonnet のテンプレートプロファイルが同梱されています。

プロファイルの例を以下に示します：

# configs/profiles/templates/gpt-4o.yaml
api_base_url: https://api.openai.com/v1
api_key: ${OPENAI_API_KEY}
model_name: gpt-4o
provider: litellm
temperature: 0.7
max_tokens: 10240

プロファイルの ファイル名（.yaml を除く）が、すべてのCLIコマンドで使用される名前です。api_key フィールドは環境変数を参照します — その変数を .env に設定すれば、他に変更する必要はありません。新しいモデルを追加するには、既存のプロファイルをコピーして3つのフィールド（api_base_url、api_key、model_name）を編集します。

ステップ4 — （オプション）ランタイム設定の調整

グローバルハイパーパラメータは configs/settings/hyperparameters.yaml にあります。デフォルト値はほとんどの評価で機能します。

🧭 推奨される進め方

• 初めての方： aca から始め、ベンチマークシナリオを閲覧し、1つのシナリオをエンドツーエンドで実行してください。
• スクリプト化された実験の実行： autocontrol run ... または autocontrol batch ... を使用してください。
• 完了した実行をブラウザで検査する： python tools/results_viewer/serve.py --port 8000 でローカル結果ビューアを起動してください。
• システム設計を読む： docs/ARCHITECTURE.md を開いてください。