AI / LLM レッドチームフィールドマニュアル＆コンサルタントハンドブック

大規模言語モデル（LLM）、AIエージェント、RAGパイプライン、AI対応アプリケーションに対するAI/LLMレッドチーム評価のための包括的な運用ツールキットです。このリポジトリは、戦術的な現場ガイダンスと戦略的なコンサルティングフレームワークの両方を提供します。

📖 GitBookナビゲーション: 完全な章構成はSUMMARY.mdを参照してください。

📚 概要

このリポジトリは、AI LLMレッドチームハンドブックのゴールドマスターリリースです。プロンプトインジェクションやジェイルブレイクから敵対的機械学習や連合学習攻撃まで、AIセキュリティの全スペクトルをカバーする、完全に標準化された46章のカリキュラムを含んでいます。

コアリソース

AI LLMレッドチームハンドブック（全46章、完了）
- 標準化されたメタデータ、要約、ナビゲーションを備えたプロフェッショナルコンサルタントガイド。
- 倫理、アーキテクチャ、RAGセキュリティ、エージェント脅威、コンプライアンス（EU AI Act/ISO 42001）をカバー。
AI LLMレッドチームフィールドマニュアル
- 現場使用のためのコンパクトな運用リファレンス（チェックリスト、ペイロード、方法論）。
Pythonテストフレームワーク（scripts/）
- プロンプトインジェクション、ファジング、安全性検証のための自動化スイート。

📁 リポジトリ構造

ai-llm-red-team-handbook/
├── docs/                                   # ハンドブック（第01-46章）
│   ├── archive/                            # 過去バージョン
│   ├── assets/                             # 図、チャート、ビジュアルエイド
│   ├── field_manuals/                      # 運用チェックリストとクイックリファレンス
│   ├── templates/                          # レポートとSOWのテンプレート
│   └── SUMMARY.md                          # マスター目次
├── scripts/                                # 自動テストツール（Python）
├── workflows/                              # CI/CDと自動化ワークフロー
├── .agent/                                 # エージェントメモリとコンテキスト
├── LICENSE                                 # CC BY-SA 4.0 ライセンス
└── README.md                               # このファイル

🚀 インストールと使い方

1. 手動での探索（ハンドブック）

このリポジトリの主な使用方法は、リファレンスとして利用することです。

すべての章を閲覧するにはSUMMARY.mdから始めてください。
エンゲージメント中のクイックルックアップにはフィールドマニュアルを参照してください。

2. 自動テスト環境

提供されたPythonスキャンおよびファジングスクリプトを実行するには：

前提条件:

Python 3.8+
ターゲットLLMへのAPIアクセス（OpenAI、Anthropic、またはローカルのOllama）

セットアップ:

# リポジトリをクローン
git clone https://github.com/shiva108/ai-llm-red-team-handbook.git
cd ai-llm-red-team-handbook

# 依存関係をインストール
cd scripts
pip install -r config/requirements.txt

テストの実行:

# 環境変数を設定（APIキー）
cp .env.example .env
nano .env

# テストランナーを実行
python examples/runner.py --target "gpt-4" --test "prompt_injection"

📖 チャプターロードマップ（完了）

このハンドブックは8つの戦略的パートに分かれています。すべての章は現在完了しており、監査済みです。

Part I: プロフェッショナル基礎

第01-04章: はじめに、倫理、マインドセット、エンゲージメントルール。

Part II: プロジェクト準備

第05-08章: 脅威モデリング、スコーピング、ラボセットアップ、証拠保管連鎖。

Part III: 技術基礎

第09-11章: LLMアーキテクチャ、トークン、プラグイン/API。

Part IV: パイプラインセキュリティ

第12-13章: RAGパイプライン、サプライチェーンセキュリティ。

Part V: 攻撃とテクニック

第14-24章: プロンプトインジェクション、データ漏洩、ジェイルブレイク、API悪用、回避、ポイズニング、モデル盗難、DoS、マルチモーダル、ソーシャルエンジニアリング。

Part VI: 防御と緩和

第25-30章: 敵対的機械学習、サプライチェーン防御、連合学習、プライバシー、モデル反転、バックドア。

Part VII: 高度な運用

第31-39章: 偵察、攻撃フレームワーク、自動化、防御回避、ポストエクスプロイテーション、報告、是正、継続的レッドチーミング、バグバウンティ。

Part VIII: 高度なトピック

第40-46章: コンプライアンス（EU AI法）、業界のベストプラクティス、ケーススタディ、レッドチーミングの未来、新たな脅威、プログラム構築、結論。

🤝 貢献

このハンドブックを生きたものに保つため、貢献を歓迎します。

リポジトリをフォークします。
機能ブランチを作成します（git checkout -b feature/new-jailbreak）。
変更内容を明確に説明したプルリクエストを提出します。
新しいコンテンツはすべて、docs/templates/の章テンプレートに従っていることを確認してください。

⚠️ 免責事項

許可されたセキュリティテスト専用です。

このリポジトリで説明されている技術とツールは、教育目的であり、自分が所有している、または明示的な許可を得てテストするシステムに対して、許可されたセキュリティ専門家が使用するためのものです。

これらのツールを、利用規約に従わずに公開LLM（ChatGPT、Claudeなど）で使用しないでください。
これらの技術を悪意のある目的で使用しないでください。

著者および貢献者は、この資料の誤用に対する一切の責任を負いません。

📬 連絡先

問題: GitHub Issues
ライセンス: CC BY-SA 4.0

バージョン: 1.46.263

ai-llm-red-team-handbook

人気