このリポジトリには、包括的な OWASP GenAI セキュリティプロジェクト の一部である OWASP Top 10 for Large Language Model Applications が含まれています。OWASP GenAI セキュリティプロジェクトは、生成 AI 技術に関連するセキュリティおよび安全上のリスクを特定、軽減、文書化することを目的としたグローバルなオープンソースイニシアチブです。
メインプロジェクトサイトにアクセス： genai.owasp.org
OWASP Top 10 for Large Language Model Applications は、開発者と Web アプリケーションセキュリティ担当者のための標準的な認識向上ドキュメントです。これは、大規模言語モデル（LLM）アプリケーションに対する最も重要なセキュリティリスクに関する幅広い合意を表しています。OWASP 内外には他にも進行中のフレームワークがありますが、本プロジェクトと混同しないでください。本プロジェクトの範囲は現在 LLM アプリケーションセキュリティに限定されています。
主な対象読者は、LLM 技術を活用したアプリケーションやプラグインの設計・構築を担当する開発者、データサイエンティスト、セキュリティ専門家です。私たちは、これらの専門家が LLM アプリケーションセキュリティの複雑で進化し続ける領域をナビゲートするのに役立つ、実用的で実行可能かつ簡潔なセキュリティガイダンスを提供することを目指しています。
このプロジェクトの主な目的は、LLM アプリケーションにおける潜在的なセキュリティリスクを理解し採用可能なガイドを提供することです。Top 10 リストは、この分野に不慣れな開発者やセキュリティ専門家にとっての出発点として、また経験のある人々にとってのリファレンスとして機能します。
私たちの使命は、アプリケーションセキュリティを可視化し、人々や組織が LLM に関連するアプリケーションセキュリティリスクについて情報に基づいた意思決定を行えるようにすることです。私たちのリストは他の OWASP Top 10 リストに見られる脆弱性タイプと共通点がありますが、単にそれらの脆弱性を繰り返すものではありません。代わりに、LLM を利用するアプリケーションで遭遇した際のこれらの脆弱性の独自の影響を掘り下げます。
私たちの目標は、一般的なアプリケーションセキュリティ原則と LLM がもたらす固有の課題との間の溝を埋めることです。グループの目標には、従来の脆弱性が LLM 内でどのように異なるリスクをもたらすか、あるいは新しい方法で悪用される可能性があるか、そして開発者が LLM を利用するアプリケーションに対して従来の修復戦略をどのように適応させる必要があるかを探ることが含まれます。
このリストの初版は Contrast Security の Steve Wilson によって提供されました。コミュニティの皆様には、プロジェクトへの貢献と改善にご協力いただければ幸いです。提案、フィードバック、またはリストの改善にご協力いただける場合は、遠慮なく Issue を開くかプルリクエストを送信してください。
OWASP Slack にワーキンググループチャンネルがありますので、サインアップして #project-top10-llm チャンネルにご参加ください。
コントリビューション方法： https://genai.owasp.org/contribute/
このプロジェクトは Creative Commons Attribution-ShareAlike 4.0 International License の条件の下でライセンスされています。
