🛡️ KI-Sicherheitsleitfaden — LLM + MCP-Sicherheit

Der umfassendste, aktuellste, praxisorientierte Sicherheitsleitfaden für LLM-Anwendungen und Model Context Protocol (MCP)-Bereitstellungen.
Behandelt echte CVEs, Live-Angriffsmuster, OWASP-Frameworks, Red-Teaming-Tools und handlungsorientierte Checklisten — wöchentlich aktualisiert.

---

Warum dieser Leitfaden existiert

Die KI-Sicherheitslandschaft hat sich in den Jahren 2025–2026 dramatisch verändert:

• 🔴 492 MCP-Server öffentlich ohne Authentifizierung zugänglich (Trend Micro, 2026)
• 🔴 CVE-2025-6514 kompromittierte 437.000+ Entwicklerumgebungen über den mcp-remote OAuth-Proxy
• 🔴 1,184 bösartige Skills bestätigt im ClawHub-Agentenregister (Antiy CERT, 2026)
• 🔴 Claude Code RCE-Sicherheitslücke (CVE-2025-59536, CVSS 8.7) — ausgelöst durch Öffnen eines Repos
• 🔴 OWASP hat 2 neue Frameworks veröffentlicht: LLM Top 10 (2025) + Agentic Top 10 / ASI (Dez. 2025)

Die meisten Tutorials zeigen, wie man mit MCP und LLMs baut. Fast keines zeigt, wie man sie schützt. Dies ist dieser Leitfaden.

---

Inhaltsverzeichnis

Teil 1 — LLM-Sicherheit (OWASP LLM Top 10)

• LLM01: Prompt-Injektion
• LLM02: Unsichere Ausgabeverarbeitung
• LLM03: Vergiftung von Trainingsdaten
• LLM04: Modell-Denial-of-Service
• LLM05: Lieferketten-Schwachstellen
• LLM06: Offenlegung sensibler Informationen
• LLM07: Unsicheres Plugin-Design
• LLM08: Übermäßige Handlungsfreiheit
• LLM09: Übermäßiges Vertrauen
• LLM10: Modelldiebstahl

Teil 2 — MCP-Sicherheit (OWASP MCP Top 10)

• MCP-Angriffsflächenübersicht
• MCP01: Token-Fehlmanagement
• MCP02: Werkzeugvergiftung
• MCP03: Prompt-Injektion via MCP
• MCP04: Verwirrte-Angestellte-Angriffe
• MCP05: Lieferkettenangriffe
• MCP06: Kontextvergiftung
• MCP07: OAuth-Fehlkonfiguration
• MCP08: SSRF über Fetch-Server
• MCP09: Umfangserweiterung
• MCP10: Unsicherer Transport
• Echte CVE-Datenbank

Teil 3 — OWASP Agentic Top 10 (ASI 2026)

• ASI01: Zielentführung des Agenten
• ASI02: Werkzeugmissbrauch
• ASI03: Identitäts- und Privilegienmissbrauch
• ASI04–ASI10: Vollständige Abdeckung

Teil 4 — Red Teaming

• Methodik
• Werkzeugreferenz
• Angriffsbibliothek

Teil 5 — Checklisten

• MCP-Sicherheitscheckliste
• LLM-App-Checkliste
• Agentensystem-Checkliste

---

Echte CVE-Kurzreferenz

Live-Tracker: vulnerablemcp.info

---

Abgedeckte Frameworks

---

Red-Teaming-Tools

---

Mitwirken

Beiträge sind willkommen. Siehe CONTRIBUTING.md.

• Ein neues CVE gefunden? Eröffne ein Issue.
• Besseren Abmilderungscode? Reiche einen PR ein.
• Neues Angriffsmuster? Dokumentiere es.

---

Lizenz

CC BY 4.0 — Frei verwendbar, teilbar und erweiterbar mit Namensnennung.

---

⭐ Star dieses Repository, wenn es dir geholfen hat, etwas zu sichern. Es hilft anderen, es zu finden.