OWASP Artificial Intelligence Security Verification Standard (AISVS)

Dieses Werk ist lizenziert unter einer Creative Commons Attribution-ShareAlike 4.0 International License.

Was ist AISVS?

Der Artificial Intelligence Security Verification Standard (AISVS) ist ein von der Community getragener Katalog testbarer Sicherheitsanforderungen für KI-gestützte Systeme. Er bietet Entwicklern, Architekten, Sicherheitsingenieuren und Prüfern ein strukturiertes Framework, um die Sicherheit von KI-Anwendungen während ihres gesamten Lebenszyklus zu entwerfen, zu entwickeln, zu testen und zu verifizieren – von der Datenerfassung und dem Modelltraining bis hin zu Bereitstellung, Überwachung und Außerbetriebnahme.

AISVS ist dem OWASP Application Security Verification Standard (ASVS) nachempfunden und folgt derselben Philosophie: Jede Anforderung sollte verifizierbar, testbar und implementierbar sein.

Projektleiter

Dieses Projekt wurde von Jim Manico gegründet. Zur aktuellen Projektleitung gehören Jim Manico, Otto Sulin, Rico Komenda und Russ Memisyazici.

Was AISVS NICHT ist

• Kein Governance-Framework. Governance wird durch NIST AI RMF, ISO/IEC 42001 und Leitfäden zur Einhaltung des EU AI Act gut abgedeckt.
• Kein Risikomanagement-Framework. AISVS bietet die technischen Kontrollen, auf die Risiko-Frameworks verweisen, definiert jedoch keine Risikobewertungsmethodik.
• Keine Liste von Tool-Empfehlungen. AISVS ist herstellerneutral und bewirbt keine bestimmten Produkte oder Frameworks.

Wie AISVS andere Standards ergänzt

Neueste stabile Version

Die neueste stabile Version ist AISVS 1.0, die hier zu finden ist:

Verifizierungsstufen

Jeder AISVS-Anforderung ist eine Verifizierungsstufe (1, 2 oder 3) zugeordnet, die die Tiefe der Sicherheitszusicherung angibt:

Organisationen sollten eine Zielstufe basierend auf dem Risikoprofil ihres KI-Systems wählen. Die meisten Produktionssysteme sollten mindestens Stufe 2 anstreben.

So verwenden Sie AISVS

• Während des Designs. Verwenden Sie die Anforderungen als Sicherheits-Checkliste bei der Architektur von KI-Systemen.
• Während der Entwicklung. Integrieren Sie die Anforderungen in CI/CD-Pipelines, Code-Reviews und Tests.
• Bei Sicherheitsüberprüfungen. Verwenden Sie sie als Verifizierungsframework für Penetrationstests und Audits.
• Für die Beschaffung. Verweisen Sie bei der Bewertung von KI-Anbietern und Modellen von Drittanbietern auf spezifische Anforderungen.

Anforderungskapitel

1. Integrität und Rückverfolgbarkeit von Trainingsdaten
2. Eingabevalidierung
3. Modell-Lebenszyklusverwaltung und Änderungskontrolle
4. Sicherheit von Infrastruktur, Konfiguration und Bereitstellung
5. Zugriffskontrolle und Identität für KI-Komponenten und -Benutzer
6. Sicherheit der Lieferkette für Modelle
7. Modellverhalten, Ausgabesteuerung und Sicherheitszusicherung
8. Sicherheit von Speicher, Embeddings und Vektordatenbanken
9. Orchestrierung und agentische Sicherheit
10. Sicherheit des Model Context Protocol (MCP)
11. Adversarische Robustheit
12. Überwachung, Protokollierung und Anomalieerkennung

Anhänge

• Anhang A: Glossar
• Anhang B: Inventar der KI-Sicherheitskontrollen
• Anhang C: KI-gestützte sichere Codierung

Forschungs-Wiki

Für jede Anforderung im Standard liefert das Forschungs-Wiki Implementierungskontext, der über den Anforderungstext hinausgeht:

Das Wiki umfasst alle 191 Anforderungen auf 60 Seiten, mit Zusammenfassungen der Bedrohungslandschaft pro Abschnitt, Tool-Empfehlungen und Verweisen auf aktuelle Standards und Forschungsliteratur.

So referenzieren Sie AISVS-Anforderungen

Jede Anforderung hat eine Kennung im Format C<chapter>.<section>.<requirement>, wobei jedes Element eine Zahl ist, zum Beispiel C9.4.3.

• Der C<chapter>-Wert entspricht dem Kapitel, aus dem die Anforderung stammt; zum Beispiel stammen alle C9.#.#-Anforderungen aus dem Kapitel „Orchestrierung und agentische Sicherheit“.
• Der <section>-Wert entspricht dem Abschnitt in diesem Kapitel, in dem die Anforderung erscheint; zum Beispiel befinden sich alle C9.4.#-Anforderungen im Abschnitt „Agenten- und Orchestrator-Identität“.
• Der <requirement>-Wert identifiziert die spezifische Anforderung innerhalb des Kapitels und Abschnitts; zum Beispiel C9.4.3, das in Version 1.0 dieses Standards wie folgt lautet:

Stellen Sie sicher, dass Anmeldeinformationen für Agentenidentitäten nach einem festgelegten Zeitplan rotiert werden.

Da sich Kennungen zwischen Versionen des Standards ändern können, ist es für andere Dokumente, Berichte oder Tools vorzuziehen, das folgende Format zu verwenden: v<version>-C<chapter>.<section>.<requirement>, wobei version das AISVS-Versionstag ist. Beispiel: v1.0-C9.4.3.

Hinweis: Das v vor der Versionsnummer sollte immer kleingeschrieben sein.

Wenn Kennungen ohne das v<version>-Element verwendet werden, sollte davon ausgegangen werden, dass sie sich auf den neuesten AISVS-Inhalt beziehen. Da der Standard wächst und sich verändert, wird dies problematisch, weshalb Autoren oder Entwickler das Versionselement einfügen sollten.

Versionierung

AISVS verwendet eine zweiteilige Versionsnummer, v<MAJOR>.<MINOR> (zum Beispiel v1.0, v1.01, v2.0). Hauptversionen umfassen Änderungen an Kapiteln und Abschnitten, Nebenversionen umfassen Ergänzungen, Entfernungen und inhaltliche Änderungen an Anforderungen innerhalb der bestehenden Struktur, und Patch-Fixes werden im Branch ausgeliefert, ohne eine separate Version zu erhalten. Die vollständige Richtlinie ist in RELEASE.md dokumentiert.

Jede stabile Version von AISVS wird als nummerierter Ordner in diesem Repository veröffentlicht. Sobald eine Version veröffentlicht ist, wird ihr Ordner gesperrt; alle zukünftigen Arbeiten finden in einem neuen Ordner statt. Dies spiegelt den Ansatz von OWASP ASVS wider.

/
├── 1.0/        <- published stable release (locked)
├── 1.01-dev/   <- next minor release (in progress)

Mitwirken

Wir begrüßen Beiträge aus der Community. Bitte eröffnen Sie eine Issue, um Fehler zu melden oder Verbesserungen vorzuschlagen. Auf der Grundlage der Diskussion bitten wir Sie möglicherweise, einen Pull Request einzureichen.

Um ein Sicherheitsproblem mit dem AISVS-Projekt selbst zu melden, folgen Sie bitte der Sicherheitsrichtlinie.

Lizenz

Der gesamte Projektinhalt steht unter der Lizenz Creative Commons Attribution-ShareAlike 4.0 International.