生成AIシステムをレッドチーミングするためのオープンソースフレームワーク：攻撃プロンプトを自動化し、モデルの応答をスコアリングし、挙動を監査することで、セキュリティと安全性のリスクを特定します。
PyRIT（Python Risk Identification Tool for generative AI）は、自動スキャン、適応型マルチターン攻撃、および人間主導のテストを通じて、生成AIシステムのセキュリティと安全性の弱点を発見するためのオープンソースツールキットです。
Microsoft AI Red Teamとオープンソースコミュニティのコントリビューターによって構築されたPyRITは、コマンドラインスキャナー、グラフィカルインターフェース、および拡張可能なPythonフレームワークを1つのツールキットに統合しています。
参加するためにMicrosoftの従業員である必要も、経験豊富なレッドチーマーである必要もありません。Discordコミュニティに参加して、質問をしたり、テクニックを交換したり、構築中のものを共有したり、メンテナーや他のユーザーとつながりましょう。
コントリビューションには、コード、ドキュメント、サンプル、バグレポート、テスト、および実際の使用からのフィードバックが含まれます。コントリビューターガイドを読み、「help wanted」ラベルの付いたissueを探してみてください。
はじめに | Discordに参加 | ホワイトペーパーを読む
インストール、設定、デモ、およびドキュメントについては、ウェブサイトをご覧ください。バージョンピッカーを使用して、ドキュメントをインストール済みのバージョンに合わせてください。上記のガイドは最新の開発バージョンに従っています。
OpenAI、Anthropic、Azure OpenAI、Microsoft Foundry、Azure Machine Learning、Google Gemini、Google Vertex AI、AWS Bedrock、Hugging Face、Ollama、Groq、OpenRouter、Cohere、およびGitHub Copilotに接続できます。
OpenAI互換APIまたは組み込みターゲットを使用するか、追加のプロバイダー統合用にオプションのLiteLLMアダプターをインストールしてください。セットアップとその他のプロバイダーについては、プロバイダー設定ガイドおよびLiteLLMプロバイダーディレクトリをご覧ください。利用可能な機能は、ターゲットとモデルによって異なります。
HTTP、WebSockets、Playwrightによるブラウザ自動化、またはカスタムターゲットを通じて、完全なアプリケーションやその他のエンドポイントをテストできます。
ツールキットの背後にある設計原則と実世界での経験については、PyRIT: Democratizing AI Red Teaming Through Open-Source Toolingをお読みください。研究でPyRITを使用する場合は、CITATION.cffを使用して論文を引用してください。
PyRIT の脆弱性を Microsoft Security Response Center を通じて非公開で報告するには、当社のセキュリティポリシーに従ってください。
このプロジェクトには、プロジェクト、製品、またはサービスの商標やロゴが含まれている場合があります。 Microsoft の商標またはロゴの許可された使用は、Microsoft の商標およびブランドガイドラインの対象となり、これに従う必要があります。 このプロジェクトの改変版における Microsoft の商標またはロゴの使用は、混乱を招いたり、Microsoft の後援を示唆したりしてはなりません。 第三者の商標またはロゴの使用は、それら第三者のポリシーの対象となります。
