DonkAI

OWASP Top 10 for LLM Applications (2025) のハンズオンラボ - 実際のLLMは不要です。

DonkAIは、1つのコマンドで実行できる意図的に脆弱なWebアプリで、LLM統合システムがどのように壊されるのかを、実際に壊しながら学ぶために使用します。OWASP LLM Top 10のすべてのカテゴリが、少なくとも1つのプレイ可能なチャレンジで表現されており、文書化されたブリーフ、ペイロードエディタ、回避すべき能動的防御、段階的なヒント、ユーザーごとの全試行履歴が用意されています。固定された演習セット以上の、拡張可能な教育ラボです。モジュール式アーキテクチャ(カテゴリごとに1ファイル、バックエンドとフロントエンド)により、新しい脆弱性の追加、既存の防御の強化、ワークショップ、コース、CTF向けのまったく新しいトラックの構築が簡単に行えます。

警告 このアプリケーションは、実際に機能する攻撃面(プロンプトインジェクション、IDOR、SQLインジェクション、ハードコードされた認証情報など)を意図的に露出しています。分離されたラボ環境でのみ実行し、できれば専用の仮想マシン内で実行し、オープンインターネット上に決してデプロイしないでください。

なぜ存在するのか

OWASP Top 10 for LLM Applicationsはリスクを明確にし、それらを議論するための語彙を提供します。これはLLMセキュリティに携わるすべての人にとって必読の書です。DonkAIは、その取り組みのハンズオン拡張版として設計されています。自分で攻撃を試し、偽物でありながら現実的なチャットボットに対して攻撃が成功するのを確認し、何が機能したのか、実際のシステムがどのように防御するのかを説明する解説を読むことができる、小さく決定論的なプレイグラウンドです。**舞台裏に実際のLLMはなく、スタック全体がルールベースです。**そのため、このラボは安価で、オフライン対応で、再現可能です。

クイックスタート

2つのコマンドでフルスタックをクローン、ビルド、起動します:

git clone https://github.com/OWASP/DonkAI.git && cd DonkAI
docker compose up --build

その後、http://localhost:3000 を開き、alice / password123 でサインインし、左側のOWASPパネルから最初のチャレンジを選択します。

サービス

デフォルトアカウント

ヒント — すべての状態(ユーザー、セッション、試行履歴)を消去して、クリーンな状態から開始するには:

root@kitploit:~

docker compose down -v

OWASP LLM Top 10 カバレッジ

OWASP LLM Top 10のすべてのカテゴリが、少なくとも1つのプレイ可能なチャレンジで表現されています。

カテゴリやチャレンジを追加・変更するには、チャレンジの拡張 を参照してください。

アーキテクチャ

   ┌──────────────────┐      ┌──────────────────┐      ┌────────────────┐
   │   React SPA      │ ───► │     FastAPI      │ ───► │   PostgreSQL   │
   │   :3000          │      │     :8000        │      │     :5432      │
   │   webapp/        │      │   ml-service/    │      │   database/    │
   └──────────────────┘      └──────────────────┘      └────────────────┘

免責事項

このアプリケーションは意図的に脆弱です。デフォルト(パスワード、データベース認証情報、システムプロンプト内のハードコードされたシークレット)は教育コンテンツの一部であり、セキュリティ上の見落としではありません。ローカルまたは分離されたラボで実行し、共有ホストや公開インターネット上では決して実行しないでください。また、実際の本番データに対して決して実行しないでください。

ここで学んだテクニックは、自分が所有するシステム、またはテストするための明示的な書面による許可を得たシステムにのみ適用してください。