OWASP 人工知能セキュリティ検証標準 (AISVS)

この作品は クリエイティブ・コモンズ 表示-継承 4.0 国際ライセンス の下で提供されています。

AISVS とは？

人工知能セキュリティ検証標準 (AISVS) は、AI 対応システムのためのテスト可能なセキュリティ要件をまとめたコミュニティ主導のカタログです。開発者、アーキテクト、セキュリティエンジニア、監査人に対し、データ収集とモデルトレーニングからデプロイ、モニタリング、廃止に至るまでのライフサイクル全体を通じて、AI アプリケーションのセキュリティを設計、構築、テスト、検証するための構造化されたフレームワークを提供します。

AISVS は OWASP アプリケーションセキュリティ検証標準 (ASVS) をモデルとしており、同じ哲学に従っています。すなわち、すべての要件は 検証可能、テスト可能、実装可能 であるべきです。

プロジェクトリーダー

このプロジェクトは Jim Manico によって設立されました。現在のプロジェクトリーダーは Jim Manico、Otto Sulin、Rico Komenda、Russ Memisyazici です。

AISVS が対象としないもの

• ガバナンスフレームワークではありません。 ガバナンスは NIST AI RMF、ISO/IEC 42001、EU AI 法コンプライアンスガイドによって十分にカバーされています。
• リスクマネジメントフレームワークではありません。 AISVS はリスクフレームワークが参照する技術的コントロールを提供しますが、リスク評価の方法論を定義するものではありません。
• ツール推奨リストではありません。 AISVS はベンダー中立的であり、特定の製品やフレームワークを推奨するものではありません。

AISVS が他の標準を補完する方法

最新の安定版

最新の安定版は AISVS 1.0 で、以下から入手できます：

検証レベル

AISVS の各要件には、セキュリティ保証の深さを示す検証レベル (1、2、または 3) が割り当てられています：

組織は、AI システムのリスクプロファイルに基づいて目標レベルを選択する必要があります。ほとんどの本番システムは、少なくともレベル 2 を目指すべきです。

AISVS の使い方

• 設計時。 AI システムを設計する際に、要件をセキュリティチェックリストとして使用します。
• 開発時。 要件を CI/CD パイプライン、コードレビュー、テストに組み込みます。
• セキュリティ評価時。 ペネトレーションテストや監査のための検証フレームワークとして使用します。
• 調達時。 AI ベンダーやサードパーティモデルを評価する際に、特定の要件を参照します。

要件章

1. トレーニングデータの完全性とトレーサビリティ
2. 入力検証
3. モデルライフサイクル管理と変更管理
4. インフラストラクチャ、構成、デプロイのセキュリティ
5. AI コンポーネントとユーザーのアクセス制御とアイデンティティ
6. モデルのサプライチェーンセキュリティ
7. モデルの動作、出力制御、安全性保証
8. メモリ、エンベディング、ベクターデータベースのセキュリティ
9. オーケストレーションとエージェンティックセキュリティ
10. モデルコンテキストプロトコル (MCP) のセキュリティ
11. 敵対的ロバスト性
12. モニタリング、ロギング、異常検知

付録

• 付録 A: 用語集
• 付録 B: AI セキュリティコントロール一覧
• 付録 C: AI 支援によるセキュアコーディング

リサーチ Wiki

標準のすべての要件について、リサーチ Wiki は要件テキストを超えた実装コンテキストを提供します：

この Wiki は 60 ページにわたって全 191 要件をカバーし、セクションごとの脅威ランドスケープの要約、ツールの推奨事項、現在の標準と研究文献への参照を提供します。

AISVS 要件の参照方法

各要件には C<chapter>.<section>.<requirement> という形式の識別子があり、各要素は番号です。例えば C9.4.3 です。

• C<chapter> の値は、要件が属する章に対応します。例えば、すべての C9.#.# 要件は「オーケストレーションとエージェンティックセキュリティ」章に由来します。
• <section> の値は、その章内で要件が登場するセクションに対応します。例えば、すべての C9.4.# 要件は「エージェントとオーケストレーターのアイデンティティ」セクションにあります。
• <requirement> の値は、章とセクション内の特定の要件を識別します。例えば、この標準のバージョン 1.0 時点での C9.4.3 は次のとおりです：

エージェントのアイデンティティ認証情報が定義されたスケジュールでローテーションされることを検証します。

識別子は標準のバージョン間で変更される可能性があるため、他のドキュメント、レポート、ツールでは v<version>-C<chapter>.<section>.<requirement> という形式を使用することが推奨されます。ここで version は AISVS のバージョンタグです。例：v1.0-C9.4.3。

注：バージョン番号の前の v は常に小文字でなければなりません。

識別子を v<version> 要素を含めずに使用する場合、それらは最新の AISVS コンテンツを参照していると見なされます。標準が成長し変化するにつれて、これは問題となるため、執筆者や開発者はバージョン要素を含めるべきです。

バージョニング

AISVS は 2 部構成のバージョン番号 v<MAJOR>.<MINOR> を使用します（例：v1.0、v1.01、v2.0）。メジャーバージョンは章とセクションの変更を対象とし、マイナーバージョンは既存の構造内での要件の追加、削除、および実質的な編集を対象とします。パッチ修正は個別のバージョンなしでブランチ内で提供されます。完全なポリシーは RELEASE.md に文書化されています。

AISVS の各安定版リリースは、このリポジトリ内の番号付きフォルダとして公開されます。バージョンがリリースされるとそのフォルダはロックされ、以降のすべての作業は新しいフォルダで行われます。これは OWASP ASVS が採用しているアプローチと同じです。

/
├── 1.0/        <- published stable release (locked)
├── 1.01-dev/   <- next minor release (in progress)

コントリビューション

コミュニティからのコントリビューションを歓迎します。バグの報告や改善の提案は、issue を開いてください。議論に基づいて pull request を送信していただくこともあります。

AISVS プロジェクト自体のセキュリティ問題を報告する場合は、セキュリティポリシー に従ってください。

ライセンス

プロジェクトの全コンテンツは クリエイティブ・コモンズ 表示-継承 4.0 国際 ライセンスの下に提供されています。