DonkAI

Praktisches Labor für die OWASP Top 10 für LLM-Anwendungen (2025) - kein echtes LLM erforderlich.

DonkAI ist eine absichtlich verwundbare Web-App, die Sie mit einem einzigen Befehl starten und nutzen können, um zu lernen, wie LLM-integrierte Systeme kompromittiert werden, indem Sie sie tatsächlich angreifen. Jede Kategorie der OWASP LLM Top 10 ist durch mindestens eine spielbare Challenge vertreten, mit einer schriftlichen Einführung, einem Payload-Editor, einer zu umgehenden aktiven Verteidigung, progressiven Hinweisen und einem benutzerspezifischen Verlauf jedes Versuchs. Mehr als eine feste Sammlung von Übungen ist es ein erweiterbares Lehrlabor: Die modulare Architektur (eine Datei pro Kategorie, Backend und Frontend) macht es einfach, neue Schwachstellen hinzuzufügen, bestehende Verteidigungen zu härten oder völlig neue Lernpfade für Workshops, Kurse und CTFs zu erstellen.

Warnung Diese Anwendung setzt absichtlich echte Angriffsflächen aus (Prompt-Injection, IDOR, SQL-Injection, hartkodierte Anmeldedaten und mehr). Sie darf nur in einer isolierten Laborumgebung ausgeführt werden, idealerweise in einer dedizierten virtuellen Maschine, und niemals im öffentlichen Internet bereitgestellt werden.

Warum es dieses Projekt gibt

Die OWASP Top 10 für LLM-Anwendungen beschreibt die Risiken und liefert das Vokabular, um über sie zu sprechen – Pflichtlektüre für alle, die mit LLM-Sicherheit zu tun haben. DonkAI ist als praktische Erweiterung dieser Arbeit konzipiert: ein kleiner, deterministischer Spielplatz, auf dem Sie die Angriffe selbst ausprobieren, sehen, wie sie gegen einen vorgetäuschten, aber realistischen Chatbot funktionieren, und eine Nachbesprechung lesen, die erklärt, was gerade funktioniert hat und wie ein echtes System sich dagegen verteidigen würde. Hinter den Kulissen steckt kein echtes LLM, der gesamte Stack ist regelbasiert. Das Labor ist daher kostengünstig, offline-freundlich und reproduzierbar.

Schnellstart

Klonen, bauen und starten Sie den vollständigen Stack mit zwei Befehlen:

git clone https://github.com/OWASP/DonkAI.git && cd DonkAI
docker compose up --build

Öffnen Sie dann http://localhost:3000, melden Sie sich mit alice / password123 an und wählen Sie Ihre erste Challenge aus dem OWASP-Panel auf der linken Seite.

Dienste

Standardkonten

Tipp — um den gesamten Zustand (Benutzer, Sitzungen, Versuchsverlauf) zu löschen und mit einem sauberen Stand zu beginnen:

root@kitploit:~

docker compose down -v

Abdeckung der OWASP LLM Top 10

Jede Kategorie der OWASP LLM Top 10 ist durch mindestens eine spielbare Challenge vertreten.

Zum Hinzufügen oder Ändern von Kategorien und Herausforderungen siehe Erweiterung der Herausforderungen.

Architektur

   ┌──────────────────┐      ┌──────────────────┐      ┌────────────────┐
   │   React SPA      │ ───► │     FastAPI      │ ───► │   PostgreSQL   │
   │   :3000          │      │     :8000        │      │     :5432      │
   │   webapp/        │      │   ml-service/    │      │   database/    │
   └──────────────────┘      └──────────────────┘      └────────────────┘

Haftungsausschluss

Diese Anwendung ist absichtlich verwundbar. Die Standardeinstellungen (Passwörter, Datenbank-Anmeldedaten, hartkodierte Geheimnisse in System-Prompts) sind Teil des Lehrmaterials und keine Sicherheitsversehen. Führen Sie sie lokal oder in einem isolierten Labor aus, niemals auf einem gemeinsam genutzten Host oder im öffentlichen Internet und niemals mit echten Produktionsdaten.

Wenden Sie die hier erlernten Techniken nur gegen Systeme an, die Ihnen gehören oder für deren Test Sie eine ausdrückliche schriftliche Genehmigung haben.