owasp/pwnzzaiPraktische KI-Sicherheitslernplattform mit absichtlich anfälligen LLM-Anwendungen. Entdecken Sie die OWASP Top 10 für LLMs durch interaktive Pizzeria-Szenarien, die Prompt-Injection, Datenoffenlegung und Lieferkettenrisiken abdecken.
Im PwnzzAI Shop serviert jedes Stück eine Portion ganzheitlicher KI-Sicherheitsschulung. Diese praxisorientierte Lernplattform bereitet Fachkräfte darauf vor, den Schutz von KI-Technologien im weiteren Sinne zu verstehen – vermittelt durch ein ansprechendes, praxisnahes Pizzaladen-Szenario.
Genau wie eine falsche Zutat eine Pizza verderben kann, kann ein fehlerhafter Prompt oder eine unzureichende Architektur KI-Technologien für schwerwiegende Bedrohungen anfällig machen, darunter Informationslecks, Diebstahl geistigen Eigentums oder unberechtigter Zugriff.
Hier erkunden Sie praktische Beispiele dafür, wie Schwachstellen entstehen, ausgenutzt und entschärft werden. Für einige Seiten müssen Sie sich als alice/alice oder bob/bob anmelden. Greifen Sie zu einem Stück, stürzen Sie sich hinein und entdecken Sie, wie köstlich das Lernen über KI-Sicherheit sein kann.
Inhaltsverzeichnis
Der PwnzzAI Shop ist eine praxisorientierte Lernplattform, die gezielt für die Schulung zum Schutz von KI-Technologien entwickelt wurde. Diese bewusst unsichere, auf Flask basierende Webanwendung präsentiert eine umfangreiche Reihe von KI-Sicherheitsschwachstellen durch ein immersives Pizzaladen-Erlebnis.
Gründungspartner: OWASP AI Exchange
PwnzzAI ist als umfassende, sich weiterentwickelnde Lernplattform konzipiert, die an der AI-Exchange-Risikotaxonomie ausgerichtet ist. Ihr Umfang erweitert sich schrittweise im Gleichschritt mit den Sicherheitsanalyse-Frameworks und Verteidigungsempfehlungen des OWASP AI Exchange, wodurch langfristige Relevanz gewährleistet wird, während KI-Sicherheitspraktiken reifer werden. Das Projekt integriert derzeit die OWASP Top 10 für LLMs, mit einer Architektur, die bewusst auf die Risikoklassifikationen des AI Exchange abgebildet ist. Im Laufe der Zeit soll PwnzzAI zu einem strukturierten Lern-Ökosystem heranreifen, das Folgendes unterstützt:
Ausbildung in KI-Schutz und -Verteidigung, einschließlich selbstgesteuerter Lernpfade
Praxisnahe Sicherheitstrainingsprogramme mit praktischen, szenariobasierten Übungen
Teamorientierte Lerninitiativen für Sicherheitsingenieure und -praktiker
Ende-zu-Ende-KI-Sicherheitsausbildung über Design, Entwicklung, Bereitstellung und Betrieb
Wählen Sie eine dieser 3 Möglichkeiten, um PwnzzAI auszuführen:
https://www.docker.com/products/docker-desktop.git clone https://github.com/OWASP/PwnzzAI.git
cd PwnzzAI
Die Labore laufen standardmäßig mit einem kostenlosen lokalen Modell. Um auch die Cloud-Modell-Tabs (OpenAI / Gemini / Claude) zu nutzen, benötigen Sie zwei Dinge – einen API-Schlüssel und einen Modellnamen:
.env gesetzt werden (OPENAI_API_KEY=...). Der Schlüssel aus dem Lab-Setup hat Vorrang..env stammen. Es gibt keinen Standardwert im Code, daher schlagen Aufrufe mit LLM Provider NOT provided fehl, wenn er nicht gesetzt ist.Erstellen Sie .env aus der Vorlage und entfernen Sie die Auskommentierung der Modellzeile:
cp .env.example .env
# then edit .env and set, for example:
# OPENAI_MODEL=gpt-4o-mini
# (or LITELLM_MODEL=gemini/gemini-2.5-flash, etc.)
Starten Sie die App nach dem Bearbeiten von .env neu. Eine vollständige Anleitung zu Providern und Modellen finden Sie unter Workshop-Hosts: OpenAI, Claude, Gemini oder andere Cloud-Modelle auswählen.
Verwenden Sie diese Option, wenn Docker sowohl die PwnzzAI-App als auch Ollama für Sie ausführen soll.
docker compose up -d
docker compose ps
http://localhost:8080
Gehen Sie in der App zur Seite „Basics“ und führen Sie das Ollama-Setup aus, um Modelle zu laden.
Verfolgen Sie bei Bedarf die Logs:
# App logs
docker compose logs -f pwnzzai-app
# Ollama logs (optional)
docker compose logs -f ollama
docker compose down
docker compose down -v
Wenn Sie das App-Image unter einem anderen Registry-Pfad veröffentlichen, überschreiben Sie den Imagenamen beim Start:
PWNZZAI_IMAGE=ghcr.io/owasp/pwnzzai:latest docker compose up -d
docker compose verwendet das Standard-pwnzzai-app-Image aus docker-compose.yml (überschreibbar mit PWNZZAI_IMAGE). Wenn docker compose up beim Laden dieses Images mit denied, unauthorized oder Ähnlichem fehlschlägt, erfordert die Registry möglicherweise eine Anmeldung oder Ihr Konto verfügt nicht über Pull-Zugriff. Sie können trotzdem alles aus diesem Repository ausführen, indem Sie das App-Image lokal bauen und compose darauf verweisen lassen.
Vom Repository-Stammverzeichnis aus:
docker build -t pwnzzai-local:dev .
PWNZZAI_IMAGE=pwnzzai-local:dev docker compose up -d
Windows PowerShell:
docker build -t pwnzzai-local:dev .
$env:PWNZZAI_IMAGE="pwnzzai-local:dev"; docker compose up -d
Öffnen Sie dann http://localhost:8080. Der erste Ladevorgang kann kurz fehlschlagen, während Flask im Container startet; warten Sie ein paar Sekunden und aktualisieren Sie die Seite, wenn Sie einen Verbindungsfehler sehen.
Wenn Sie Zugriff auf das Registry-Image haben, können Sie sich zuerst authentifizieren (Beispiel für GitHub Container Registry):
docker login ghcr.io
Derselbe PWNZZAI_IMAGE=pwnzzai-local:dev-Ansatz gilt für Option 2, wenn Sie docker-compose.external-ollama.yml verwenden und auf denselben Pull-Fehler stoßen.