protectai/ai-exploits責任を持って開示された脆弱性に対する実際のAI/MLエクスプロイトのコレクション
AIの世界にはセキュリティ問題が存在します。それはChatGPTなどのLLMへの入力だけに限りません。Protect AIおよびHuntrバグ報奨金プラットフォーム上の独立したセキュリティ専門家による調査に基づくと、機械学習モデルの構築、トレーニング、デプロイに使用されるツール、ライブラリ、フレームワークに対する、よりインパクトが大きく実用的な攻撃が数多く存在します。これらの攻撃の多くは、認証を必要とせずにシステム全体の乗っ取りや、機密データ、モデル、認証情報の損失につながります。
このリポジトリの公開により、Protect AIは情報セキュリティコミュニティに対して、AI/機械学習インフラストラクチャに対する実際の攻撃が現実世界でどのようなものかを明らかにし、現在AI/MLエコシステムに存在する脆弱なコンポーネントの多さに対する認識を高めることを希望しています。その他の脆弱性はこちらでご覧いただけます:
このリポジトリ ai-exploits は、機械学習ツールに影響を及ぼす責任ある開示済み脆弱性に対するエクスプロイトおよびスキャンテンプレートのコレクションです。
各脆弱なツールには、Metasploit モジュール、Nuclei テンプレート、CSRF テンプレートの3種類のユーティリティを含む複数のサブフォルダが存在します。Metasploit モジュールはセキュリティ専門家が脆弱性を悪用するためのもので、Nuclei テンプレートは多数のリモートサーバーをスキャンして脆弱性の有無を確認するためのものです。
Ray に対して Metasploit モジュールを実行する様子を示すビデオ:
モジュールとスキャンテンプレートを使用する最も簡単な方法は、このリポジトリの Dockerfile が提供する Docker イメージをビルドして実行することです。Docker イメージには Metasploit と Nuclei が既にインストールされており、必要な設定もすべて完了しています。
イメージをビルド:
git clone https://github.com/protectai/ai-exploits && cd ai-exploits
docker build -t protectai/ai-exploits .
Docker イメージを実行:
docker run -it --rm protectai/ai-exploits /bin/bash
後者のコマンドを実行すると、コンテナ内で msfconsole と nuclei が使用可能な bash セッションが開始されます。
Metasploit コンソールを起動します（新しいモジュールは exploits/protectai カテゴリで利用可能になります）。モジュールを読み込み、オプションを設定し、エクスプロイトを実行します。
msfconsole
msf6 > use exploit/protectai/ray_job_rce
msf6 exploit(protectai/ray_job_rce) > set RHOSTS <ターゲットIP>
msf6 exploit(protectai/ray_job_rce) > run
~/.msf4/modules/exploits/protectai フォルダを作成し、エクスプロイトモジュールをその中にコピーします。
mkdir -p ~/.msf4/modules/exploits/protectai
cp ai-exploits/ray/msfmodules/* ~/.msf4/modules/exploits/protectai
msfconsole
msf6 > use exploit/protectai/<エクスプロイト名.py>
Nuclei は脆弱性スキャンエンジンであり、Web アプリケーションやネットワークの既知の脆弱性について多数のサーバーをスキャンするために使用できます。
nuclei テンプレートフォルダ（例: ai-exploits/mlflow/nuclei-templates）に移動します。Docker コンテナ内では、これらは /root/nuclei-templates フォルダに保存されています。その後、テンプレートファイルとターゲットサーバーを指定します。
cd ai-exploits/mlflow/nuclei-templates
nuclei -t mlflow-lfi.yaml -u http://<ターゲット>:<ポート>
クロスサイトリクエストフォージェリ (CSRF) 脆弱性により、攻撃者は悪意のある HTML ページをホストする Web サーバーを立ち上げ、被害者に代わってターゲットサーバーにリクエストを実行させることができます。これは、ローカルホストインターフェースのみに公開され、広域ネットワークには公開されていない Web アプリケーションを含む、Web アプリケーションの脆弱性を悪用する一般的な攻撃ベクトルです。以下は、CSRF テンプレートを使用して Web アプリケーションの脆弱性を悪用する簡単なデモ例です。
csrf-templates フォルダ内で Web サーバーを起動します。Python を使用すると、任意のディレクトリで簡単な Web サーバーを立ち上げることができます。テンプレートフォルダに移動してサーバーを起動します。
cd ai-exploits/ray/csrf-templates
python3 -m http.server 9999
次に、立ち上げた Web サーバーのアドレス (http://127.0.0.1:9999) にアクセスし、F12 キーを押して開発者ツールを開き、Network タブをクリックします。ray-cmd-injection-csrf.html へのリンクをクリックします。ブラウザがあなたに代わって脆弱なサーバーにリクエストを送信したことが確認できるはずです。
このリポジトリへの貢献を歓迎します。貢献方法の詳細については、貢献ガイドラインをお読みください。
このプロジェクトは Apache 2.0 ライセンス の下でライセンスされています。