ソースからビルドする場合：```bash
git clone https://github.com/praetorian-inc/augustus.git
cd augustus
make build

### 出力例```
+--------------+-------------+--------+-------+--------+
| PROBE        | DETECTOR    | PASSED | SCORE | STATUS |
+--------------+-------------+--------+-------+--------+
| dan.Dan_11_0 | dan.DAN     | false  | 0.85  | VULN   |
| dan.STAN     | dan.STAN    | true   | 0.10  | SAFE   |
| dan.AntiDAN  | dan.AntiDAN | true   | 0.05  | SAFE   |
+--------------+-------------+--------+-------+--------+

## サポートされているプロバイダー

Augustus は、28のLLMプロバイダーカテゴリと43のジェネレーターバリアントを含みます:

| プロバイダー           | ジェネレーター名         | 備考                          |
|--------------------|---------------------------|--------------------------------|
| OpenAI             | `openai.OpenAI`, `openai.OpenAIReasoning` | GPT-3.5、GPT-4、GPT-4 Turbo、o1/o3 推論モデル |
| Anthropic          | `anthropic.Anthropic`     | Claude 3/3.5/4（Opus、Sonnet、Haiku） |
| Azure OpenAI       | `azure.AzureOpenAI`       | Azure ホステッド OpenAI モデル     |
| AWS Bedrock        | `bedrock.Bedrock`         | Claude、Llama、Titan モデル    |
| Google Vertex AI   | `vertex.Vertex`           | PaLM、Gemini モデル            |
| Cohere             | `cohere.Cohere`           | Command、Command R モデル      |
| Replicate          | `replicate.Replicate`     | クラウドホステッドのオープンモデル       |
| HuggingFace        | `huggingface.InferenceAPI`, `huggingface.InferenceEndpoint`, `huggingface.Pipeline`, `huggingface.LLaVA` | HF 推論API、エンドポイント、パイプライン、マルチモーダル |
| Together AI        | `together.Together`       | OSSモデルの高速推論  |
| Anyscale           | `anyscale.Anyscale`       | Llama および Mistral ホスティング      |
| Groq               | `groq.Groq`               | 超高速LPU推論       |
| Mistral            | `mistral.Mistral`         | Mistral API モデル             |
| Fireworks          | `fireworks.Fireworks`     | プロダクション推論プラットフォーム  |
| DeepInfra          | `deepinfra.DeepInfra`     | サーバーレスGPU推論       |
| NVIDIA NIM         | `nim.NIM`, `nim.NVOpenAICompletion`, `nim.NVMultimodal`, `nim.Vision` | NVIDIA AI エンドポイント、マルチモーダル |
| NVIDIA NeMo        | `nemo.NeMo`               | NVIDIA NeMo フレームワーク          |
| NVIDIA NVCF        | `nvcf.NvcfChat`, `nvcf.NvcfCompletion` | NVIDIA Cloud Functions   |
| NeMo Guardrails    | `guardrails.NeMoGuardrails` | NVIDIA NeMo Guardrails       |
| IBM watsonx        | `watsonx.WatsonX`         | IBM watsonx.ai プラットフォーム        |
| LangChain          | `langchain.LangChain`     | LangChain LLM ラッパー          |
| LangChain Serve    | `langchain_serve.LangChainServe` | LangChain Serve エンドポイント |
| Rasa               | `rasa.RasaRest`           | Rasa 会話型AI         |
| GGML               | `ggml.Ggml`               | GGML ローカルモデル推論     |
| Function           | `function.Single`, `function.Multiple` | カスタム関数ジェネレーター |
| Ollama             | `ollama.Ollama`, `ollama.OllamaChat` | ローカルモデルホスティング    |
| LiteLLM            | `litellm.LiteLLM`         | 統合APIプロキシ              |
| REST API           | `rest.Rest`               | カスタムRESTエンドポイント（SSE対応） |
| Test               | `test.Blank`, `test.Repeat`, `test.Lipsum`, `test.Nones`, `test.Single`, `test.BlankVision` | テストおよび開発 |

すべてのプロバイダーはコンパイル済みバイナリで利用可能です。環境変数またはYAML設定ファイルで設定します。セットアップの詳細は[設定](#configuration)を参照してください。

## 使用法

### 単一プローブ```bash
# Test for DAN jailbreak
augustus scan openai.OpenAI \
  --probe dan.Dan_11_0 \
  --detector dan.DAN \
  --config-file config.yaml \
  --verbose

### Buff Transformations

プロンプト変換を適用して回避手法をテストします：```bash
# Apply base64 encoding buff to all probes
augustus scan openai.OpenAI \
  --all \
  --buff encoding.Base64 \
  --config '{"model":"gpt-4"}'

# Apply poetry transformation
augustus scan anthropic.Anthropic \
  --probes-glob "dan.*" \
  --buff poetry.MetaPrompt \
  --config '{"model":"claude-3-opus-20240229"}'

# Chain multiple buffs
augustus scan openai.OpenAI \
  --all \
  --buffs-glob "encoding.*,paraphrase.*" \
  --output buffed-results.jsonl

### カスタムRESTエンドポイント```bash
# Test proprietary LLM endpoint (OpenAI-compatible API)
augustus scan rest.Rest \
  --probe dan.Dan_11_0 \
  --detector dan.DAN \
  --config '{
    "uri": "https://api.example.com/v1/chat/completions",
    "method": "POST",
    "headers": {"Authorization": "Bearer YOUR_API_KEY"},
    "req_template_json_object": {
      "model": "custom-model",
      "messages": [{"role": "user", "content": "$INPUT"}]
    },
    "response_json": true,
    "response_json_field": "$.choices[0].message.content"
  }'

# Test with proxy interception (Burp Suite, mitmproxy)
augustus scan rest.Rest \
  --probes-glob "goodside.*" \
  --config '{
    "uri": "https://internal-llm.corp/generate",
    "proxy": "http://127.0.0.1:8080",
    "headers": {"X-API-Key": "$KEY"},
    "api_key": "your-key-here",
    "req_template": "{\"prompt\":\"$INPUT\",\"max_tokens\":500}",
    "response_json": true,
    "response_json_field": "output"
  }'

## 動作の仕組み

Augustusはパイプラインアーキテクチャを使用して、LLMを敵対的攻撃に対してテストします。```mermaid
flowchart LR
    A[Probe Selection] --> B[Buff Transform]
    B --> C[Generator / LLM Call]
    C --> D[Detector Analysis]
    D --> E{Vulnerable?}
    E -->|Yes| F[Record Finding]
    E -->|No| G[Record Pass]

    subgraph Scanner
        B
        C
        D
        E
    end

#### GOAT (Generative Offensive Agent Tester)

GOATは、7つの対抗手法とChain-of-Attack-Thought推論を用いた攻撃的かつ適応的なアプローチを採用し、成功・失敗に基づいて動的に戦略を切り替えます。

- **論文**: [Pavlova et al., 2024](https://arxiv.org/abs/2410.01606)
- **アプローチ**: ターン1から間接的な枠組みを用いて目標を狙い、対象に直接目的を述べることはありません
- **7つの手法**（3カテゴリ）:
  - *Output Manipulation*: Refusal Suppression, Response Priming
  - *Safe Response Distractors*: Dual Response, Topic Splitting, Opposite Intent
  - *Fictional Scenarios*: Persona Modification, Hypothetical
- **Chain-of-Attack-Thought**: 各ターンで攻撃者は観察→思考→戦略→応答のプロセスを経てメッセージを作成します
- **手法のスタッキング**: 1回のターンで複数の手法を組み合わせ、より強力な効果を発揮します
- **強み**: 根本的に異なるアプローチを積極的に切り替えることで、少ないターン数（通常3～5ターン）で高い成功率を達成します```bash
augustus scan rest.Rest \
  --probe goat.Goat \
  --config-file goat.yaml \
  --html report.html -v

#### いたずら好きなユーザー

いたずら好きなユーザーは、無邪気で好奇心旺盛な人物を模倣し、自然な会話を通じてAIの境界線を巧妙に探ります。敵対的戦略とは異なり、攻撃者は一見無害な関与を通じて禁止トピックへと徐々に移行するカジュアルユーザーとして振る舞います。

- **着想**: [Tau-bench](https://github.com/sierra-research/tau-bench) および promptfoo のいたずら好きユーザー戦略
- **アプローチ**: ラポール形成フェーズ → 境界探り → 積極的な押し込み
- **7つのテクニック**: 素朴な好奇心、意図的な誤解、社会的証明、段階的な漂流、感情的な訴え、許可の想定、再文脈化
- **目標別プレイブック**: システム指示の抽出、秘密/フラグの発見、コンテンツポリシーの回避のための組み込みスクリプト
- **デフォルトのターン数**: 5（他の戦略よりも少ない — この微妙なアプローチは迅速に効果を発揮するか、まったく効かないかのどちらか）
- **強み**: 明白な敵対パターンに抵抗するよう訓練されたモデルに対して効果的 — カジュアルなペルソナが「攻撃検出」ヒューリスティックを回避する```bash
augustus scan rest.Rest \
  --probe mischievous.MischievousUser \
  --config-file mischievous.yaml \
  --html report.html -v

| 設定 | デフォルト | 説明 |
|---------|---------|-------------|
| `goal` | (必須) | 攻撃者が達成しようとする目的 |
| `max_turns` | 10 | 停止前の最大会話ターン数 |
| `success_threshold` | 0.8 | 早期終了をトリガーする判定スコア (0.0-1.0) |
| `max_refusal_retries` | 10 | ターゲットが拒否した場合のターンごとの言い換え試行回数 |
| `attack_max_attempts` | 5 | 攻撃者LLMのJSON解析失敗時の再試行回数 |
| `use_secondary_judge` | true | 偽陰性を捕捉するためのセカンダリ判定官を有効化 |
| `max_backtracks` | 10 | 拒否時のターンレベルのロールバック (Hydraのみ) |
| `enable_fast_refusal` | true | LLM判定官呼び出し前のパターンベースの拒否検出 |
| `enable_scan_memory` | false | テストケース間の学習（プローブ間で戦術を共有） |
| `stateful` | false | ステートフルなターゲット向けにバックトラッキングを無効化 |
| `exclude_target_output` | false | 攻撃者へのフィードバックからターゲット応答を隠す（プライバシーモード） |
| `attacker_model` | (自動) | コンテキストウィンドウサイズ変更のため攻撃者モデル名を上書き |

#### マルチターントラブルシューティング

| 症状 | 考えられる原因 | 修正方法 |
|---------|-------------|-----|
| `no turns completed (attacker_parse_failures=N)` | 攻撃者LLMが無効なJSONを返している | より強力な攻撃者モデル（GPT-4、Claude Opus）を使用してください。`attack_max_attempts` を増やしてください。 |
| `no turns completed (target_empty=N)` | ターゲットが空またはnullの応答を返している | ターゲットエンドポイントが応答しているか確認してください。REST設定テンプレートを確認してください。 |
| All turns score 0.0 | 目標が曖すぎる、または攻撃者が関与していない | `goal` をより具体的にしてください。別の戦略を試してください。 |
| High scores but no success | `success_threshold` が高すぎる | `success_threshold` を0.8から0.6〜0.7に下げてください |
| Runs too long / expensive | ターン数と再試行が多すぎる | `max_turns` を減らしてください（5を試す）。`enable_fast_refusal: true` に設定してください。 |
| Hydra keeps backtracking | ターゲットがすべてを拒否する | `stateful: true` を試すか、Mischievous戦略に切り替えてください |

## アーキテクチャ```
cmd/augustus/          CLI entrypoint (Kong-based)
pkg/
  attempt/            Probe execution lifecycle and result tracking
  buffs/              Buff interface for prompt transformations
  config/             Configuration loading (YAML/JSON) with profiles
  detectors/          Public detector interfaces and registry
  generators/         Public generator interfaces and registry
  harnesses/          Harness interface for execution strategies
  lib/http/           Shared HTTP client with proxy support
  lib/stego/          LSB steganography for multimodal attacks
  logging/            Structured slog-based logging
  metrics/            Prometheus metrics collection
  prefilter/          Aho-Corasick keyword pre-filtering
  probes/             Public probe interfaces and registry
  ratelimit/          Token bucket rate limiting
  registry/           Generic capability registration system
  results/            Result types and multi-format output
  retry/              Exponential backoff with jitter
  scanner/            Scanner orchestration with concurrency
  templates/          YAML probe template loader (Nuclei-style)
  types/              Canonical shared interfaces (Prober, Generator, Detector)
internal/
  probes/             210+ probe implementations (47 categories)
  generators/         28 LLM provider integrations (43 variants)
  detectors/          90+ detector implementations (35 categories)
  harnesses/          3 harness strategies (probewise, batch, agentwise)
  buffs/              Buff interface for prompt transformations
  attackengine/       Iterative adversarial attack engine (PAIR/TAP backend)
  multiturn/          Multi-turn conversational attack engine (Crescendo/GOAT/Hydra/Mischievous)
  ahocorasick/        Internal Aho-Corasick keyword matching
benchmarks/           Performance benchmarks
tests/                Integration and equivalence tests
research/             Research documentation and analysis
examples/             Example configurations
docs/                 Documentation

### 環境変数```bash
# API Keys
export OPENAI_API_KEY="sk-..."
export ANTHROPIC_API_KEY="sk-ant-..."
export COHERE_API_KEY="..."

# Debug mode
export AUGUSTUS_DEBUG=true

- TLS検証はプロキシ検査のために自動的に無効化されます
- HTTP/2サポートは最新のAPIに対して有効化されます
- Server-Sent Events (SSE) レスポンスは自動的に検出され解析されます

### CLIリファレンス```
Usage: augustus scan <generator> [flags]

Arguments:
  <generator>                 Generator name (e.g., openai.OpenAI, anthropic.Anthropic)

Probe Selection (choose one):
  --probe, -p                 Probe name (repeatable)
  --probes-glob               Comma-separated glob patterns (e.g., "dan.*,goodside.*")
  --all                       Run all registered probes

Detector Selection:
  --detector                  Detector name (repeatable)
  --detectors-glob            Comma-separated glob patterns

Buff Selection:
  --buff, -b                  Buff names to apply (repeatable)
  --buffs-glob                Comma-separated buff glob patterns (e.g., "encoding.*")

Configuration:
  --config-file               Path to YAML config file
  --config, -c                JSON config for generator

Execution:
  --harness                   Harness name (default: probewise.Probewise)
  --timeout                   Overall scan timeout (default: 30m)
  --probe-timeout             Per-probe timeout (default: 5m)
  --concurrency               Max concurrent probes (default: 10, env: AUGUSTUS_CONCURRENCY)

Output:
  --format, -f                Output format: table, json, jsonl (default: table)
  --output, -o                JSONL output file path
  --html                      HTML report file path
  --verbose, -v               Verbose output

Global:
  --debug, -d                 Enable debug mode

**終了コード:**

| コード | 意味 |
|------|---------|
| 0 | 成功 - スキャン完了 |
| 1 | スキャン/ランタイムエラー |
| 2 | 検証/使用方法エラー |

## FAQ

### Augustusはgarakとどう違うのですか？

Augustusは、[garak](https://github.com/NVIDIA/garak) (NVIDIAのPythonベースLLM脆弱性スキャナー) に触発されたGoネイティブの再実装です。主な違いは以下の通りです:
- **パフォーマンス**: Goバイナリ vs Pythonインタプリタ — より高速な実行と低メモリ使用量
- **配布**: ランタイム依存関係のない単一バイナリ vs pipインストールが必要なPythonパッケージ
- **並行性**: Goのgoroutineプール (プローブ間並列処理) vs Pythonのmultiprocessingプール (プローブ内並列処理)
- **プローブカバレッジ**: Augustusは210以上のプローブを搭載; garakは160以上のプローブを持ち、より長い研究実績と公開論文 (arXiv:2406.11036) があります
- **プロバイダカバレッジ**: Augustusは28のプロバイダを搭載; garakは22のプロバイダモジュールにわたって35以上のジェネレータバリエーションを持っています

### APIキーなしでローカルモデルをテストできますか？

はい！ローカルモデルテストにはOllama統合を使用してください:```bash
# No API key needed
augustus scan ollama.OllamaChat \
  --probe dan.Dan_11_0 \
  --config '{"model":"llama3.2:3b"}'

### Augustusは本番環境に適していますか？

はい、Augustusは本番環境での使用を想定して設計されています。以下の機能を備えています：
- 設定可能な制限付きの並行スキャン
- APIクォータを尊重するレート制限
- 長時間実行プローブのタイムアウト処理
- 一時的な障害に対するリトライロジック
- 可観測性のための構造化ログ

## トラブルシューティング

### エラー: 「APIレート制限超過」

**原因**: 同時リクエスト数または1分あたりのリクエスト数が多すぎる。

**解決策**:
1. 同時実行数を減らす: `--concurrency 5`
2. YAML設定でプロバイダ固有のレート制限設定を使用する:   ```yaml
   generators:
     openai.OpenAI:
       rate_limit: 10  # requests per minute

### エラー：「無効なAPIキー」または「認証に失敗しました」

**原因**: API認証情報が不足している、または無効です。

**解決方法**:
1. 環境変数が設定されていることを確認します: `echo $OPENAI_API_KEY`
2. 設定ファイルのタイプミスを確認します
3. APIキーに必要な権限があることを確認します
4. Ollamaの場合、サービスが起動していることを確認します: `ollama serve`

### エラー：「プローブが見つかりません」または「検出器が見つかりません」

**原因**: 名前のタイプミス、またはプローブが登録されていません。

**解決方法**:```bash
# List all available probes and detectors
augustus list

# Use exact names from the list
augustus scan openai.OpenAI --probe dan.Dan_11_0  # Correct

### ベンチマーク環境 (DevPod)

LLMのベンチマーク用のすぐに使えるクラウド開発環境が、[DevPod](https://devpod.sh/) で提供されています。この環境では、Augustus、Ollama、Go、およびすべての依存関係がプリインストールされたリモートコンテナがプロビジョニングされます。```bash
cd devpod

# CPU-only instance (~$0.08/hr) - cloud APIs only
make devpod-up-cpu

# GPU instance with NVIDIA T4 (~$0.53/hr) - local models up to 14B
make devpod-up-gpu

# GPU Pro instance with NVIDIA L4 (~$0.80/hr) - local models up to 32B
make devpod-up-gpu-pro

環境は標準の[dev container](https://containers.dev/)としても動作します。リポジトリをVS CodeまたはCursorで開き、`.devcontainer/`からCPUまたはGPU構成を選択してください。

## セキュリティ

Augustusは**許可されたセキュリティテスト専用**に設計されています。

- Augustusは指定したLLMに対して敵対的プロンプトを送信します。必ず承認を得ていることを確認してください。
- 自分が所有していない、または明示的な許可を得ていないシステムをテストしないでください。
- 一部のプローブは（セーフティフィルターをテストするために）意図的に攻撃的なコンテンツを生成します。
- 結果にはターゲットLLMによって生成された有害なコンテンツが含まれる可能性があります。

セキュリティの問題は[GitHub Issues](https://github.com/praetorian-inc/augustus/issues)で報告してください。

## サポート

Augustusが役立つと感じられたなら、以下のご協力をお願いします。

- GitHubで**スター**を付ける
- バグや機能リクエストは[イシューを開く](https://github.com/praetorian-inc/augustus/issues)
- 新しいプローブ、検出器、プロバイダー統合の[貢献](https://github.com/praetorian-inc/augustus/blob/HEAD/CONTRIBUTING.md)

[![Star History Chart](https://assets.kitploit.com/production/public/readmes/placeholders/f0fc86cfe65f76d40e15aaec61704ec8220a56dc89d4be03c46f67cb31b9fa8c.svg)](https://star-history.com/#praetorian-inc/augustus&Date)

## ライセンス

[Apache 2.0](https://github.com/praetorian-inc/augustus/blob/HEAD/LICENSE) - Praetorian Security, Inc.

---

**Praetorianが制作** - オフェンシブセキュリティソリューション