概要

PwnzzAI ショップは、AI技術保護に関する教育のために意図的に構築された実践的な学習プラットフォームです。この意図的に脆弱性を含んだFlaskベースのWebアプリケーションは、没入型のピザショップ体験を通じて、幅広いAIセキュリティの弱点を紹介します。

設立パートナー: OWASP AI Exchange

範囲と学習目標

PwnzzAI は、AI Exchangeリスク分類法 に準拠した、包括的で進化する学習プラットフォームとして設計されています。その範囲は、OWASP AI Exchangeのセキュリティ分析フレームワークおよび防御ガイダンスと歩調を合わせて段階的に拡大し、AIセキュリティプラクティスの成熟に伴う長期的な関連性を確保します。 このプロジェクトは現在、OWASP Top 10 for LLMsを組み込んでおり、アーキテクチャはAI Exchangeのリスク分類に意図的にマッピングされています。時間の経過とともに、PwnzzAI は以下をサポートする構造化された学習エコシステムへと成熟することを目指しています：

• 自己学習パスを含むAI保護および防御トレーニング

• 実践的なシナリオ主導の演習を備えたハンズオンセキュリティトレーニングプログラム

• セキュリティエンジニアおよび実践者向けのチームベース学習イニシアチブ

• 設計、開発、デプロイ、運用にわたるエンドツーエンドのAIセキュリティ教育

セットアップ手順

次の3つの方法のいずれかを選択して PwnzzAI を実行します：

1. 両方のイメージを使用したDocker (PwnzzAI + Ollama)
2. 独自のローカル/リモートOllamaとPwnzzAIイメージのみを使用したDocker
3. ソースコードを自分で実行

開始前（すべてのオプションに共通）

1. https://www.docker.com/products/docker-desktop からDocker Desktopをインストールします。
2. Docker Desktopを開き、Dockerが実行中と表示されるまで待ちます。
3. Gitをまだインストールしていない場合はインストールします。
4. このリポジトリをクローンしてそのディレクトリに移動します：

オプション：クラウドモデル（OpenAI / Gemini / Claude）の設定

ラボは初期状態で無料のローカルモデルで動作します。クラウドモデルタブ（OpenAI / Gemini / Claude）も使用するには、2つのものが必要です – APIキーとモデル名：

• APIキー — 実行時にアプリ内のラボ設定ページで入力するか、.env (OPENAI_API_KEY=...) に設定できます。ラボ設定からのキーが優先されます。
• モデル名 — UIはありません。.env から提供する必要があります。コードにデフォルトはないため、設定されていない場合、呼び出しは LLM Provider NOT provided で失敗します。

テンプレートから .env を作成し、モデル行のコメントを解除します：

.env を編集した後、アプリを再起動します。プロバイダー/モデルの詳細な手順については、ワークショップホスト: OpenAI、Claude、Gemini、その他のクラウドモデルの選択 を参照してください。

オプション1: Docker (PwnzzAI + Ollama)

DockerにPwnzzAIアプリとOllamaの両方を実行させたい場合は、このオプションを使用します。

1. 両方のコンテナを起動します：

2. 両方のサービスが実行中であることを確認します：

3. ブラウザでアプリを開きます：

4. アプリ内で Basics ページに移動し、Ollamaセットアップを実行してモデルをプルします。

5. 必要に応じてログを確認します：

6. 終了したらすべてを停止します：

7. オプションの完全リセット（保存されたOllamaモデルも削除）：

アプリイメージを別のレジストリパスで公開する場合は、起動時にイメージ名を上書きします：

デフォルトイメージがプルできない場合（ローカルでビルド）

docker compose は docker-compose.yml のデフォルトの pwnzzai-app イメージを使用します（PWNZZAI_IMAGE で上書き可能）。docker compose up がそのイメージのプル時に denied、unauthorized などで失敗した場合、レジストリへのログインが必要か、アカウントにプルアクセスがない可能性があります。このリポジトリからアプリイメージをローカルでビルドしてcomposeにそれを指定することで、すべてを実行できます。

リポジトリルートから：

Windows PowerShell:

その後、http://localhost:8080 を開きます。Flaskがコンテナ内で起動中であるため、最初のロードが一時的に失敗する可能性があります。接続エラーが表示された場合は、数秒待ってからリフレッシュしてください。

レジストリイメージにアクセスできる場合は、最初に認証できます（GitHub Container Registryの例）：

同じ PWNZZAI_IMAGE=pwnzzai-local:dev のアプローチは、オプション2で docker-compose.external-ollama.yml を使用し、同じプルエラーが発生した場合にも適用されます。

オプション2: Docker (独自のOllama + PwnzzAIイメージ)

Ollamaが別の場所ですでに実行中で、PwnzzAIのみをDockerで実行したい場合は、このオプションを使用します。

WSLでOllamaを実行し、DockerでPwnzzAIを実行する場合、接続の問題（Connection refused、host.docker.internal、バインディング、env検証）については、 OLLAMA_CONNECTION_TROUBLESHOOTING.md を参照してください。

1. Ollamaサービスを実行したままにします。

2. Ollamaがリモートマシン上にある場合は、起動前に OLLAMA_HOST を設定します（OllamaがDockerと同じマシン上にあり、docker-compose.external-ollama.yml のデフォルト http://host.docker.internal:11434 で到達可能な場合はスキップします）。

Linux/macOS:

Windows PowerShell:

3. 外部Ollama構成ファイルでPwnzzAIを起動します：

デフォルトのアプリイメージがGHCRからプルできない場合は、ローカルでビルドし、デフォルトイメージがプルできない場合（ローカルでビルド） のように PWNZZAI_IMAGE を設定します。

4. ブラウザで http://localhost:8080 にアクセスしてアプリケーションを表示します。Basicページから開始してラボを設定します。

5. 必要に応じてアプリのログを確認します：

6. 終了したら停止します：

オプション3: ソースコードを自分で実行

アプリにDockerを使用せずにPythonを直接実行したい場合は、このオプションを使用します。

1. Python 3.11をインストールします。
2. 仮想環境を作成してアクティブにします。

Linux/macOS:

Windows PowerShell:

3. 依存関係をインストールします：

4. Ollamaが利用可能であることを確認します： http://localhost:11434 または OLLAMA_HOST 経由の別のエンドポイント。

5. アプリを実行します：

6. 開く：

詳細が必要な場合は、 このウォークスルー をご覧ください。セットアップ手順を順を追って説明しています。

機能

• ピザサービス: 食欲をそそるピザの閲覧、顧客のフィードバックの確認、コメントの投稿、仮想注文！
• 広範な脆弱性の紹介: OWASP LLM Top 10およびAI Exchange脅威カテゴリ（モデル入力脅威、開発時脅威、ランタイムセキュリティ脅威、システムレベルのAIリスクを含む）にわたるアクティブなデモンストレーション。
• 学習に焦点を当てた設計: 透明な説明を通じて攻撃手法と防御アプローチを発見。組織的な指導プログラム向けに設計され、AI Exchange脅威分類法 に準拠。
• マルチプロバイダー実装: すべてのデモは、商用のOpenAIと無料のOllamaフレームワークの両方で動作し、すべての参加者がアクセス可能。
• 標準ベースのコンテンツ: OWASP AI Exchange と同期した教育資料。これはISO/IEC 27090やprEN 18282などの新興AIセキュリティ標準の基礎となる。

AIセキュリティカバレッジ

このプラットフォームは、OWASP AI Exchange包括的脅威分類法 に準拠した、広範なAI保護課題を紹介しています。現在の実装は、OWASP Top 10 for LLM Applicationsと主要なAI Exchange脅威カテゴリをカバーし、将来のAIリスクカバレッジのために構築された拡張可能なアーキテクチャを備えています。

学習フレームワーク

PwnzzAIで実証されるすべての弱点には次の特徴があります：

1. アクティブなデモンストレーション – 脆弱性のメカニズムを説明
2. 悪用シナリオ – インタラクティブな攻撃演習を提供
3. 強化された代替案 – 防御アプローチを詳述

実装された脆弱性：

以下はOWASP AI Exchange脅威 および OWASP Top 10 for LLM Applications 2025 に基づいています：

1. Prompt Injection AI Exchange: Direct Prompt Injection, Indirect Prompt Injection, Top 10: LLM-01.

   • Direct Prompt Injection: 巧妙に作成されたユーザー入力を通じてシステム指示をバイパスし、モデルの動作を操作します。
   • Indirect Prompt Injection: 外部データソースを悪用して悪意のある指示を注入し、モデルの応答を操作します。
   • AI Exchange Context: 攻撃者がモデルを欺くための指示を作成するモデル入力の脅威。

2. Data Disclosure AI Exchange: Disclosure of sensitive data in model output , Top 10: LLM-02

• モデル出力を通じたトレーニングデータ、システム情報、認証情報の抽出。
• AI Exchange Context: モデルの出力には、トレーニングセットまたは入力（拡張データを含む）からの機密データが含まれる可能性があります。

3. Supply Chain Vulnerabilities AI Exchange: Supply Chain Model Poisoning, Top 10: LLM 03

• 侵害されたサプライヤーからのサードパーティモデルおよびプラグインのセキュリティリスク。
• AI Exchange Context: 開発時のサプライチェーン脅威。毒された事前訓練モデル、破損したデータソース、侵害されたモデルホスティングを含む。

4. Data and Model Poisoning AI Exchange: Data Poisoning, Model Poisoning, Top 10: LLM04

   • 悪意のあるトレーニングデータがモデルの応答と動作にどのように影響するかを示します。
   • AI Exchange Context: 開発時の脅威。トレーニングデータの操作やモデルパラメータの直接改ざんにより、望ましくないモデル動作が引き起こされます。

5. Improper Output Handling AI Exchange: Output Contains Conventional Injection, Top 10:LLM05

   • 検証されていないLLM出力が、下流システムでのXSSやその他のインジェクション攻撃につながる。
   • AI Exchange Context: テキスト形式のモデル出力には、従来のインジェクション攻撃（XSSなど）が含まれる可能性があり、処理時（Webサイトへの表示、コマンド実行など）に脆弱性を生じる可能性があります。

6. Excessive Agency AI Exchange: Least Model Privilege, Oversight, Top 10:LLM06

   • 過剰に権限を与えられたLLM操作および適切な制約なしでの自律的行動。
   • AI Exchange Context: 特権管理と人間による監視を通じて望ましくないモデル動作を制限する影響制限制御。特にエージェントAIシステムに重要。

7. System Prompt Leakage AI Exchange: Sensitive Information Disclosure, Top 10:LLM07

   • 操作手法を通じたシステムプロンプトに埋め込まれた秘密情報の抽出。
   • AI Exchange Context: モデル使用の脅威。攻撃者が巧妙な入力を通じて機密の指示や設定データを抽出する。

8. Vector and Embedding Weakness AI Exchange: Direct augmentation data leak, Top 10:LLM08

   • RAGシステムやベクトルデータベースにおいて、機密情報を含む埋め込みへの不正アクセス。
   • AI Exchange Context: 拡張データの脅威。検索リポジトリや埋め込みストアが機密情報を漏洩する。

9. Misinformation AI Exchange: Augmentation data manipulation, Top 10:LLM09

   • 人間の監視なしでの重要な意思決定が、有害な誤情報や幻覚を引き起こす。
   • AI Exchange Context: 望ましくないモデル動作のリスク。正確性と安全性を確保するために監視制御、説明可能性、継続的な監視が必要。

10. Unbounded Consumption AI Exchange: AI Resource Exhaustion, Top 10:LLM10

• リソース枯渇攻撃とレート制限バイパス手法によるサービス拒否。
• AI Exchange Context: 過剰または巧妙な入力によるリソース枯渇を通じたモデル可用性の脅威。

and,

11. Model Theft (AI Exchange: Model Exfilteration, Earlier versions of Top 10
    • APIの悪用および入出力収穫によるモデル抽出と知的財産の盗難。
    • AI Exchange Context: 攻撃者が既存モデルの入出力を収集し、それらの組み合わせを使用して新しいモデルを訓練し、元のモデルを複製する。

モデルサポート：

• OpenAIモデル: OpenAI APIを介したGPT-3.5/GPT-4のデモンストレーション。
• Ollamaモデル: Mistral 7BやLLaMA 3.2 1Bなどの無料モデルがOllamaを通じて利用可能。

⚠️ 教育目的のみ: このアプリケーションには意図的なセキュリティ脆弱性が含まれています。本番環境では使用しないでください。