DonkAI

Laboratoire pratique pour le Top 10 de l'OWASP pour les applications LLM (2025) - aucun LLM réel requis.

DonkAI est une application web délibérément vulnérable que vous pouvez lancer en une seule commande et utiliser pour apprendre comment les systèmes intégrant des LLM sont compromis en les compromettant réellement. Chaque catégorie du Top 10 LLM de l'OWASP est représentée par au moins un défi jouable, avec un énoncé écrit, un éditeur de payload, une défense active à contourner, des indices progressifs et un historique par utilisateur de chaque tentative. Plus qu'un ensemble fixe d'exercices, c'est un laboratoire d'enseignement extensible : l'architecture modulaire (un fichier par catégorie, backend et frontend) permet d'ajouter facilement de nouvelles vulnérabilités, de durcir les défenses existantes ou de créer des parcours entièrement nouveaux pour des ateliers, des cours et des CTF.

Avertissement : cette application expose intentionnellement des surfaces d'attaque réelles (injection de prompt, IDOR, injection SQL, identifiants codés en dur, etc.). Elle doit être exécutée uniquement dans un environnement de laboratoire isolé, de préférence dans une machine virtuelle dédiée, et ne doit jamais être déployée sur l'Internet public.

Pourquoi ce projet existe

Le Top 10 de l'OWASP pour les applications LLM cartographie les risques et fournit le vocabulaire pour en parler, une lecture essentielle pour toute personne travaillant sur la sécurité des LLM. DonkAI est conçu comme une extension pratique de ce travail : un petit terrain de jeu déterministe où vous essayez vous-même les attaques, voyez celles-ci réussir contre un chatbot faux mais réaliste, et lisez un débriefing expliquant ce qui vient de fonctionner et comment un système réel se défendrait contre cela. Il n'y a aucun vrai LLM derrière le rideau, toute la pile est basée sur des règles, ce qui rend le laboratoire peu coûteux, utilisable hors ligne et reproductible.

Démarrage rapide

Clonez, construisez et lancez toute la pile avec deux commandes :

git clone https://github.com/OWASP/DonkAI.git && cd DonkAI
docker compose up --build

Ouvrez ensuite http://localhost:3000, connectez-vous avec alice / password123 et choisissez votre premier défi dans le panneau OWASP sur la gauche.

Services

Comptes par défaut

Astuce — pour effacer tout l'état (utilisateurs, sessions, historique des tentatives) et repartir de zéro :

root@kitploit:~

docker compose down -v

Couverture du Top 10 LLM de l'OWASP

Chaque catégorie du Top 10 LLM de l'OWASP est représentée par au moins un défi jouable.

Pour ajouter ou modifier des catégories et des défis, consultez Extension des défis.

Architecture

   ┌──────────────────┐      ┌──────────────────┐      ┌────────────────┐
   │   React SPA      │ ───► │     FastAPI      │ ───► │   PostgreSQL   │
   │   :3000          │      │     :8000        │      │     :5432      │
   │   webapp/        │      │   ml-service/    │      │   database/    │
   └──────────────────┘      └──────────────────┘      └────────────────┘

Avis de non-responsabilité

Cette application est intentionnellement vulnérable. Les valeurs par défaut (mots de passe, identifiants de base de données, secrets codés en dur dans les prompts système) font partie du contenu pédagogique, et non des oublis de sécurité. Exécutez-la localement ou dans un laboratoire isolé, jamais sur un hôte partagé ni sur l'Internet public, et jamais contre des données de production réelles.

N'appliquez les techniques apprises ici que contre des systèmes que vous possédez ou pour lesquels vous avez une autorisation écrite explicite de tester.