OWASP Model Card Security Standard

Status: Entwurf – Inkubierendes OWASP-Projekt
Dieser Standard wird aktiv weiterentwickelt. Beiträge und Feedback sind sehr willkommen.

Worum geht es hier?

Wenn du ein vortrainiertes Modell von HuggingFace oder einem anderen Repository herunterlädst, vertraust du im Grunde einer Blackbox. Du weißt nicht, mit welchen Daten es trainiert wurde, ob diese Daten personenbezogene Informationen enthielten, wie es auf adversariale Angriffe getestet wurde oder welche bekannten Fehlermodi es hat. Für die meisten Hobbyprojekte ist das in Ordnung. Für alles, was echte Nutzer, regulierte Branchen oder sensible Daten betrifft – eben nicht.

Model Cards gibt es schon seit einiger Zeit, und sie sind eine gute Idee. Aber die bestehenden Formate konzentrieren sich fast ausschließlich auf Leistungskennzahlen und Fairness-Aspekte. Sicherheit ist weitgehend ein nachträglicher Gedanke, wenn sie überhaupt vorkommt.

Dieses Projekt versucht, das zu beheben. Wir bauen einen offenen Standard, der festlegt, welche sicherheitsrelevanten Informationen eine Model Card enthalten sollte – etwa Herkunft der Trainingsdaten, Risiko der Offenlegung personenbezogener Daten (PII), bekannte Schwachstellen, Lieferketten-Details und Status der regulatorischen Konformität. Etwas, das ein Sicherheitsteam tatsächlich nutzen kann, um zu bewerten, ob ein Modell sicher bereitgestellt werden kann.

Warum ist das jetzt wichtig?

Mehrere Dinge kommen gleichzeitig zusammen:

• Der EU AI Act schafft echte Compliance-Verpflichtungen in Bezug auf Transparenz und Dokumentation von KI
• DSGVO und ähnliche Gesetze werfen berechtigte Fragen auf, ob personenbezogene Daten in Trainingsdatensätzen gelandet sind und was dagegen unternommen wurde
• Die Sicherheits-Community ist sich zunehmend bewusst, dass Modelle selbst eine Angriffsfläche darstellen – Prompt Injection, Data Poisoning, Modelldiebstahl – aber die Dokumentationsstandards haben nicht Schritt gehalten
• Organisationen setzen Modelle von Drittanbietern in großem Umfang ein, mit sehr wenig Einblick darin, was sie tatsächlich ausführen

Ein sicherheitsfokussierter Model-Card-Standard gibt Entwicklern, Prüfern und Beschaffungsteams eine gemeinsame Sprache und eine Checkliste, nach der sie tatsächlich handeln können.

Ein kurzes Beispiel

Hier ein Eindruck davon, wie eine sicherheitsfokussierte Model Card unter diesem Standard aussieht:

model_card_version: "0.1"
model_name: "example-text-classifier"
model_version: "1.2.0"

training_data:
  sources:
    - name: "Common Crawl (filtered)"
      pii_assessment: "Presidio scan applied; residual risk: low"
      license: "CC0"
  pii_removal_method: "Microsoft Presidio + manual review on 5% sample"
  data_cutoff_date: "2024-01-01"

security:
  known_vulnerabilities: []
  adversarial_testing: "Red-teamed against prompt injection; results in /security/redteam-report.md"
  supply_chain:
    base_model: "bert-base-uncased"
    base_model_source: "https://huggingface.co/bert-base-uncased"

compliance:
  eu_ai_act_risk_tier: "Limited"
  gdpr_considerations: "No personal data retained post-training"

Dies ist ein vereinfachter Auszug. Das vollständige Schema deckt weitere Felder ab, etwa Vorfallhistorie, Ausgabefilterung, Bereitstellungsrandbedingungen und mehr.

Was ist in diesem Repository enthalten

/
├── README.md                          ← you are here
├── standard/
│   └── OWASP-Modelcard-Standard-Proposal.md   ← the specification
├── templates/
│   └── model-card-template.md            ← blank template to copy and fill in
├── examples/
│   └── llm-example.md                    ← worked example for a large language model
├── schema/
│   └── model-card-schema.json            ← machine-readable JSON schema
├── mappings/
│   └── owasp-nist-euaiact-mapping.md     ← how this standard relates to other frameworks
├── CONTRIBUTING.md                    ← how to get involved
├── CHANGELOG.md
└── LICENSE                            ← CC BY 4.0

Wie dieser Standard zu anderen Standards und Frameworks steht

Dieser Standard soll bestehende Arbeiten ergänzen, nicht ersetzen:

Mitwirken

Dies ist ein Projekt in einem frühen Stadium, und es gibt viel Spielraum, um seine Richtung zu gestalten. Ein paar Möglichkeiten, einen Beitrag zu leisten:

• Den Standardentwurf überprüfen und Issues eröffnen, wenn Felder fehlen, falsch oder unklar sind
• Beispiele von Model Cards aus der eigenen Arbeit teilen (anonymisiert ist in Ordnung), damit wir das Schema an der Realität testen können
• An der Diskussion im OWASP-Slack in #ai-ml-security teilnehmen
• Einen Pull Request einreichen – siehe CONTRIBUTING.md für Hinweise

Wenn du nicht weißt, wo du anfangen sollst, sind die offenen Issues mit dem Label good first issue ein guter Ausgangspunkt.

Projektstatus

Dieses Projekt durchläuft derzeit den OWASP-Prozess für neue Projekte. Nach der Annahme wird es in die OWASP-GitHub-Organisation unter github.com/OWASP/owasp-model-card-security-standard verschoben.

Lizenz

Dieser Standard ist unter Creative Commons Attribution 4.0 International (CC BY 4.0) veröffentlicht. Du kannst ihn frei nutzen, anpassen und weiterverbreiten – auch kommerziell – solange du angemessen nennst.

Jegliche Werkzeuge in diesem Repository sind unter Apache 2.0 lizenziert.