owasp/aisvsDer AI Security Verification Standard (AISVS) unterstützt Entwickler, Architekten und Sicherheitsexperten mit einer strukturierten Checkliste zur Überprüfung der Sicherheit von KI-gesteuerten Anwendungen.
Dieses Werk ist unter einer Creative Commons Attribution-ShareAlike 4.0 International License lizenziert.
Der Artificial Intelligence Security Verification Standard (AISVS) ist ein von der Community getragener Katalog testbarer Sicherheitsanforderungen für KI-gestützte Systeme. Er bietet Entwicklern, Architekten, Sicherheitsingenieuren und Auditoren ein strukturiertes Framework, um die Sicherheit von KI-Anwendungen über ihren gesamten Lebenszyklus hinweg zu entwerfen, zu entwickeln, zu testen und zu verifizieren – von der Datenerfassung und dem Modelltraining bis hin zu Deployment, Monitoring und Außerbetriebnahme.
AISVS ist nach dem Vorbild des OWASP Application Security Verification Standard (ASVS) gestaltet und folgt derselben Philosophie: Jede Anforderung sollte verifizierbar, testbar und implementierbar sein.
Dieses Projekt wurde von Jim Manico gegründet. Zur aktuellen Projektleitung gehören Jim Manico, Otto Sulin, Rico Komenda und Russ Memisyazici.
| Standard | Fokus | Beziehung zu AISVS |
|---|---|---|
| OWASP ASVS | Sicherheit von Webanwendungen | AISVS erweitert ASVS-Konzepte auf KI-spezifische Bedrohungen |
| OWASP Top 10 for LLMs | Bewusstsein für die wichtigsten LLM-Risiken | AISVS liefert die detaillierten Kontrollen zur Mitigation dieser Risiken |
| OWASP Top 10 for Agentic Applications | Bewusstsein für die wichtigsten agentischen KI-Risiken | AISVS liefert die detaillierten Kontrollen zur Adressierung agentischer Bedrohungen |
| NIST AI RMF | KI-Risiko-Governance | AISVS stellt die testbaren technischen Kontrollen bereit, auf die AI RMF verweist |
| ISO/IEC 42001 | KI-Managementsysteme | AISVS ergänzt durch Sicherheitsverifikation auf Implementierungsebene |
Die neueste stabile Version ist AISVS 1.0, verfügbar unter:
| Format | Link |
|---|---|
| AISVS 1.0 PDF | |
| Markdown (Quelle) | Online durchsuchen |
Jeder AISVS-Anforderung ist eine Verifikationsstufe (1, 2 oder 3) zugewiesen, die die Tiefe der Sicherheitsgewährleistung angibt:
| Stufe | Beschreibung | Wann zu verwenden |
|---|---|---|
| 1 | Wesentliche Basiskontrollen, die jedes KI-System implementieren sollte. | Alle KI-Anwendungen, einschließlich interner Tools und Systeme mit geringem Risiko. |
| 2 | Standardkontrollen für Systeme, die sensible Daten verarbeiten oder folgenreiche Entscheidungen treffen. | Produktionssysteme, kundenorientierte KI, Systeme zur Verarbeitung personenbezogener Daten. |
| 3 | Erweiterte Kontrollen für Umgebungen mit hohen Sicherheitsanforderungen, die Schutz gegen ausgefeilte Angriffe erfordern. | Kritische Infrastruktur, sicherheitskritische KI, hochwertige Ziele, regulierte Branchen. |
Organisationen sollten eine Zielstufe basierend auf dem Risikoprofil ihres KI-Systems wählen. Die meisten Produktionssysteme sollten mindestens Stufe 2 anstreben.
Für jede Anforderung im Standard bietet das Research Wiki Implementierungskontext über den Anforderungstext hinaus:
| Spalte | Was sie aussagt |
|---|---|
| Threat Mitigated | Spezifische Angriffstechniken, CVEs und reale Vorfälle, gegen die die Kontrolle schützt |
| Verification Approach | Konkrete Audit-Schritte, Tools und zu sammelnde Nachweise |
| Gaps & Notes | Bewertungen der Tool-Reife, offene Forschungsfragen und Implementierungshinweise |
