AIVP [Playground für KI-Schwachstellen]

AIVP ist eine praxisnahe Plattform für KI-Sicherheits-Labs, die 4 Phasen und über 50 Labs umfasst (derzeit über 50 Szenarien in der Codebasis). Sie kombiniert Ollama + Llama 3.1, ein FastAPI-Backend und ein React/Vite-Frontend, damit Praktiker offensive und defensive KI-Sicherheitstechniken sicher üben können.

Wenn dir das hilft, gib dem Repo bitte einen ⭐ Stern / Like, forke es und eröffne gerne PRs!

Ausführungsschritte

Nutze die eigens dafür vorgesehene Ausführungsanleitung: RUN_STEPS.md. Sie deckt den manuellen Betrieb (Vite + uvicorn) und Docker (nginx + API + Redis, Ollama auf dem Host) ab, einschließlich der Voraussetzungen für zuverlässigen Lab-Zugriff.

Das Konfigurationsverhalten ist in aktiven Laufzeitpfaden strikt: Fehlende erforderliche Env-Werte können den Start bewusst verhindern.

Überblick

Die Plattform umfasst vier Trainingspfade:

Phase 1 (PI): Prompt-Injection und Missbrauchsmuster beim Befolgen von Anweisungen
Phase 2 (DE): Agentische Systeme, Tool-/Memory-/RAG-Leaks und systemübergreifende Datenextraktion
Phase 3 (MM): Modellmanipulation und Angriffsflächen, die ausschließlich das Modell betreffen
Phase 4 (MCP): MCP-Vertrauensgrenzen und an OWASP MCP ausgerichtete Risikoszenarien

Jedes Lab verwendet dynamische, pro Lab einzigartige Secrets und eine explizite Validierung, damit du den Erfolg von Exploits in einer sicheren Umgebung verifizieren kannst.

Nur für Bildungszwecke — Die Labs simulieren offensive und defensive KI-Sicherheitsszenarien auf lokalen Systemen. Greife nicht echte Dienste, Daten oder Infrastruktur an, die du nicht besitzt oder für die du keine ausdrückliche Genehmigung zum Testen hast. Die Secrets in diesen Labs sind synthetisch und werden pro Lab neu generiert; es handelt sich nicht um Produktionsanmeldedaten. Nutzung auf eigene Gefahr. Es wird keine Garantie gewährt.

Modell: Llama 3.1 über Ollama (lokal)
Backend: FastAPI (SSE-Streaming) — POST /api/labs/{lab}/chat
Frontend: React + Vite (Tailwind-UI)
Secrets: Zur Laufzeit pro Lab generiert; Zurücksetzen beim API-Neustart (oder über den Reset-Endpunkt)
Besondere Merkmale: Realistische Subsystem-Simulation (Agenten/Tools/Memory/RAG), Run-Tracking-Telemetrie, strikter Konfigurationsmodus sowie manuelle und Docker-Workflows

Voraussetzungen

Python 3.10+ (3.12 funktioniert)
Node.js 18+ (Node 20 LTS empfohlen)
Ollama lokal installiert und ausgeführt
Git (optional, aber empfohlen)

Ziehe das Modell mindestens einmal: ollama pull llama3.1 (oder eine andere llama3.1-kompatible Variante, die du bevorzugst)

Projektstruktur

apps/
  api/                # FastAPI backend (SSE -> Ollama)
    main.py
    requirements.txt
    .env.example
  web/                # React + Vite frontend
    src/
    .env.example

Hardware-Anforderungen

Minimum (nur CPU): 4 Kerne, 16 GB RAM, 10 GB freier Speicherplatz, keine GPU → funktioniert, langsamere Generierungen
Empfohlen: 8 Kerne, 32 GB RAM, SSD mit 20+ GB frei, NVIDIA 8–12 GB VRAM (oder Apple Silicon) → flüssige Bedienung

CPU

64-Bit-CPU mit AVX2 (moderne Intel/AMD) oder Apple Silicon (M1/M2/M3).
Mindestens 4 Kerne; 8+ Kerne empfohlen für parallelen Chat + Entwickler-Tools.

RAM (Llama 3 8B über Ollama, quantisiert)

Q4_K_M (~4–5-GB-Modell): benötigt zur Laufzeit ~6–8 GB.
Q5/Q6 (~6–8 GB): ~10–12 GB zur Laufzeit.
Q8 (~9–10 GB): ~14–16 GB zur Laufzeit.

Tipp: 16 GB Systemspeicher funktionieren; 32 GB bieten komfortable Reserven für Browser, Node, Python und IDE.

GPU (optional)

Windows/Linux (CUDA): NVIDIA RTX mit ≥8 GB VRAM (z. B. 3060 12 GB ist großartig).
macOS (Metal): Jedes Apple-Silicon-Gerät.
Nur-CPU ist in Ordnung; die Antworten sind dann lediglich langsamer.

Festplatte

Modelle: 5–10 GB je nach Quantisierung.
Repo + node_modules + venv: 1–2 GB.
Plane 15–20 GB freien Speicher ein.

Betriebssystem

Windows 10/11, macOS 12+, Ubuntu 20.04+ (oder Ähnliches). WSL2 funktioniert ebenfalls (GPU erfordert zusätzliche Einrichtung).

Entwicklerwerkzeuge

Python 3.10+, Node 18+ (20 LTS ideal), Ollama installiert und ausgeführt.

Leistungstipps

Beginne mit llama3 (8B) Q4; erhöhe die Quantisierung nur, wenn du RAM/VRAM übrig hast.
Halte Prompts/Kontext angemessen (2–4k Token), um Speicherspitzen zu vermeiden.
Schließe speicherintensive Anwendungen, wenn du 16 GB RAM hast.

Einrichtung & Installation

Schnellstart (Windows PowerShell)

Vom Repo-Stammverzeichnis aus (der Ordner, der apps\api und apps\web enthält):

# 0) Ensure the model is available
ollama pull llama3.1

# 1) Backend venv + deps + run
cd apps/api
python -m venv .venv
.\.venv\Scripts\Activate.ps1
pip install -r requirements.txt
copy .env.example .env
uvicorn main:app --reload --port 8000

Öffne ein neues PowerShell-Fenster für das Frontend:

cd apps/web
npm install
copy .env.example .env
npm run dev   # http://localhost:5173

Schnellstart (macOS/Linux bash)

# 0) Model
ollama pull llama3.1

# 1) Backend
cd apps/api
python3 -m venv .venv
source .venv/bin/activate
pip install -r requirements.txt
cp .env.example .env
uvicorn main:app --reload --port 8000

In einer anderen Shell:

cd apps/web
npm install
cp .env.example .env
npm run dev   # http://localhost:5173

Manuelle Schritte

Starte Ollama und lasse es laufen (ollama serve falls nötig).
Ziehe Llama 3.1: ollama pull llama3.1.
Führe das Backend (FastAPI) auf :8000 aus.
Führe das Frontend (Vite) auf :5173 aus.

Das Frontend streamt Server-Sent Events (SSE) vom Backend; stelle sicher, dass die CORS-Origins in apps/api/.env http://localhost:5173 enthalten.

Ausführen der Labs

Öffne das Frontend unter http://localhost:5173.
Gehe zu Explore Labs → wähle ein Lab → Launch Lab.
Nutze den Chat, um den Assistenten anzugreifen (lab-spezifische Prompt-Regeln gelten).
Sobald du das Secret erhalten hast, füge es in Submit Your Answer ein.

Akzeptierte Lab-ID-Formate (vom Backend): PI-01, PI_01, pi01, p01 → alle werden zu PI_01 normalisiert.

Dynamische Secrets werden erstellt, wenn ein Lab nach einem Backend-Neustart zum ersten Mal verwendet wird. Du kannst ein Secret auch zurücksetzen:

POST /api/secrets/reset/{labId}

Das Secret jedes Labs ist unterschiedlich und wird bei einem Backend-Neustart neu generiert (im Speicher). Ziehe in Betracht, es mit einer Datei/DB zu sichern, wenn du Persistenz benötigst.

Konfiguration

Backend (`apps/api/.env`)

OLLAMA_URL=http://localhost:11434
OLLAMA_MODEL=llama3.1
CORS_ORIGINS=http://localhost:5173
SERVER_SALT=change-me-in-production
AIVP_DEFAULT_MODE=off
ENABLE_TRAINING_LABS=false
OLLAMA_MODEL_TRAINING_LABS=llama3.1
REDIS_URL=redis://localhost:6379/0
REDIS_HOST=localhost
REDIS_PORT=6379
MEMORY_TTL_SECONDS=3600
SESSION_TTL_SECONDS=3600
AGENT_B_URL=http://localhost:8001
MM_API_BASE=http://localhost:8000
API_BASE_URL=http://localhost:8000
JIRA_URL=https://example.atlassian.net
GITHUB_API_BASE_URL=https://api.github.com
SLACK_API_BASE_URL=https://slack.com/api

Frontend (`apps/web/.env`)

# Local dev: full URL to the API (Vite proxies /api in vite.config as well)
VITE_API_BASE=http://localhost:8000/api
VITE_DEV_API_TARGET=http://localhost:8000
[email protected]

Docker- bzw. Produktions-Builds verwenden VITE_API_BASE=/api, damit der Browser hinter nginx Pfade mit gleicher Herkunft (Same-Origin) nutzt (siehe RUN_STEPS.md → Option B).

Endpunkte

POST /api/labs/{lab}/chat — SSE-Stream mit data: {"content": "..."}
POST /api/secrets/validate — { labId, answer } → { success, message }
POST /api/secrets/reset/{lab} — (optional, zum Testen)

Screenshots

Füge deine Screenshots unter docs/screenshots/ hinzu und verlinke sie hier:

![Home](https://raw.githubusercontent.com/owasp/ai-vulnerabilities-playground/HEAD/docs/screenshots/home.png)
![PI‑01 Running](https://raw.githubusercontent.com/owasp/ai-vulnerabilities-playground/HEAD/docs/screenshots/about_labs.png)
![Explore Labs](https://raw.githubusercontent.com/owasp/ai-vulnerabilities-playground/HEAD/docs/screenshots/explore_labs.png)
![PI‑01 Running](https://raw.githubusercontent.com/owasp/ai-vulnerabilities-playground/HEAD/docs/screenshots/PI01.png)

Fehlerbehebung

``
Führe npm install innerhalb von apps/web aus.

``
Füge from typing import Iterator in main.py hinzu (oder entferne die Annotation).

CORS / SSE blockiert
Stelle sicher, dass CORS_ORIGINS http://localhost:5173 enthält.

Ollama-Fehler
Stelle sicher, dass ollama serve läuft und das Modell gezogen wurde: ollama pull llama3.1.

Sanity-Check mit curl

curl -N -X POST http://localhost:8000/api/labs/PI_01/chat \
  -H "Content-Type: application/json" \
  -d '{"prompt":"Say hello in one sentence."}'

Du solltest Streaming-Zeilen wie data: {"content":"Hello …"} sehen.

Mitwirken

Beiträge sind willkommen! Bitte:

Forke das Repo und erstelle einen Feature-Branch.
Befolge den vorhandenen Codestil (TypeScript/React + Python/FastAPI).
Füge nach Möglichkeit Tests oder eine kurze Demo hinzu.
Eröffne einen PR mit einer klaren Beschreibung und Screenshots, falls sich die UI ändert.

Vorgeschlagene Bereiche:

Neue Labs (Phase 1–4)
Bessere Guardrails / Evaluations-Harness
Persistente Secrets (SQLite/JSON)
Packaging & Docker

Probleme & Feedback

Wenn du einen Fehler entdeckst oder eine Idee hast:

Eröffne ein Issue mit Schritten zur Reproduktion und Angaben zur Umgebung.
Oder starte eine Discussion, um Verbesserungen vorzuschlagen.

Wenn dir dieses Projekt gefällt, gib ihm bitte einen ⭐ Stern / Like und teile es mit anderen!

Lizenz

MIT.

E-Mail

[email protected]

AI-Vulnerabilities-Playground

Beliebteste