DonkAI

Практическая лаборатория для OWASP Top 10 для LLM-приложений (2025) — без необходимости в реальной LLM.

DonkAI — это намеренно уязвимое веб-приложение, которое можно запустить одной командой и использовать для изучения того, как взламываются системы, интегрированные с LLM, на практике. Каждая категория из OWASP LLM Top 10 представлена как минимум одним воспроизводимым заданием с письменным описанием, редактором полезной нагрузки, активной защитой, которую нужно обойти, прогрессивными подсказками и историей каждой попытки для каждого пользователя. Это не просто фиксированный набор упражнений, а расширяемая учебная лаборатория: модульная архитектура (один файл на категорию, бэкенд и фронтенд) позволяет легко добавлять новые уязвимости, усиливать существующие защиты или создавать совершенно новые треки для воркшопов, курсов и CTF.

Warning Это приложение намеренно предоставляет живые поверхности атаки (инъекции промптов, IDOR, SQL-инъекции, жёстко заданные учётные данные и другое). Его следует запускать только в изолированной лабораторной среде, желательно внутри выделенной виртуальной машины, и ни в коем случае не разворачивать в открытом интернете.

Зачем это нужно

OWASP Top 10 для LLM-приложений описывает риски и даёт словарь для их обсуждения — обязательное чтение для всех, кто работает над безопасностью LLM. DonkAI задуман как практическое дополнение к этой работе: небольшая, детерминированная песочница, где вы пробуете атаки сами, видите, как они срабатывают против вымышленного, но реалистичного чат-бота, и читаете разбор того, что именно сработало и как реальная система защищалась бы от этого. За кулисами нет настоящей LLM, весь стек работает на правилах, поэтому лаборатория недорогая, работает офлайн и воспроизводима.

Быстрый старт

Клонируйте, соберите и запустите полный стек двумя командами:

git clone https://github.com/OWASP/DonkAI.git && cd DonkAI
docker compose up --build

Затем откройте http://localhost:3000, войдите под учётной записью alice / password123 и выберите первое задание на панели OWASP слева.

Сервисы

Учётные записи по умолчанию

Совет — чтобы сбросить всё состояние (пользователей, сессии, историю попыток) и начать с чистого листа:

root@kitploit:~

docker compose down -v

Покрытие OWASP LLM Top 10

Каждая категория из OWASP LLM Top 10 представлена как минимум одним воспроизводимым заданием.

Чтобы добавить или изменить категории и задания, см. Расширение заданий.

Архитектура

   ┌──────────────────┐      ┌──────────────────┐      ┌────────────────┐
   │   React SPA      │ ───► │     FastAPI      │ ───► │   PostgreSQL   │
   │   :3000          │      │     :8000        │      │     :5432      │
   │   webapp/        │      │   ml-service/    │      │   database/    │
   └──────────────────┘      └──────────────────┘      └────────────────┘

Отказ от ответственности

Это приложение намеренно уязвимо. Настройки по умолчанию (пароли, учётные данные базы данных, жёстко заданные секреты в системных промптах) являются частью образовательного контента, а не упущениями безопасности. Запускайте локально или в изолированной лаборатории, никогда на общем хостинге или в публичном интернете, и никогда против реальных продуктивных данных.

Применяйте полученные здесь техники только к системам, которыми вы владеете или на тестирование которых получили явное письменное разрешение.