🛡️ Полевое руководство по безопасности ИИ — Безопасность LLM и MCP

Самое полное, актуальное и практическое руководство по безопасности для приложений LLM и развертываний Model Context Protocol (MCP).
Охватывает реальные CVE, живые шаблоны атак, фреймворки OWASP, инструменты red teaming и действенные чек-листы — обновляется еженедельно.

---

Зачем нужно это руководство

Ландшафт безопасности ИИ кардинально изменился в 2025–2026 годах:

• 🔴 492 MCP-сервера открыто доступны без аутентификации (Trend Micro, 2026)
• 🔴 CVE-2025-6514 скомпрометировал более 437 000 сред разработчиков через OAuth-прокси mcp-remote
• 🔴 1184 вредоносных навыка подтверждено в реестре агентов ClawHub (Antiy CERT, 2026)
• 🔴 Уязвимость RCE в Claude Code (CVE-2025-59536, CVSS 8.7) — активируется при открытии репозитория
• 🔴 OWASP выпустил 2 новых фреймворка: LLM Top 10 (2025) + Agentic Top 10 / ASI (декабрь 2025)

Большинство руководств показывают, как строить с помощью MCP и LLM. Почти ни одно не показывает, как защищать их. Это именно то руководство.

---

Содержание

Часть 1 — Безопасность LLM (OWASP LLM Top 10)

• LLM01: Инъекция промптов
• LLM02: Небезопасная обработка вывода
• LLM03: Отравление обучающих данных
• LLM04: Отказ в обслуживании модели
• LLM05: Уязвимости цепочки поставок
• LLM06: Раскрытие конфиденциальной информации
• LLM07: Небезопасный дизайн плагинов
• LLM08: Чрезмерная автономность
• LLM09: Чрезмерная зависимость
• LLM10: Кража модели

Часть 2 — Безопасность MCP (OWASP MCP Top 10)

• Обзор поверхности атак MCP
• MCP01: Неправильное управление токенами
• MCP02: Отравление инструментов
• MCP03: Инъекция промптов через MCP
• MCP04: Атаки с подменой полномочий
• MCP05: Атаки на цепочку поставок
• MCP06: Отравление контекста
• MCP07: Неправильная конфигурация OAuth
• MCP08: SSRF через Fetch-серверы
• MCP09: Расширение полномочий
• MCP10: Небезопасная транспортировка
• База данных реальных CVE

Часть 3 — OWASP Agentic Top 10 (ASI 2026)

• ASI01: Перехват целей агента
• ASI02: Неправильное использование инструментов
• ASI03: Злоупотребление идентификацией и привилегиями
• ASI04–ASI10: Полное покрытие

Часть 4 — Red Teaming

• Методология
• Справочник инструментов
• Библиотека атак

Часть 5 — Чек-листы

• Чек-лист безопасности MCP
• Чек-лист для LLM-приложений
• Чек-лист для агентных систем

---

Краткий справочник реальных CVE

Трекер в реальном времени: vulnerablemcp.info

---

Охваченные фреймворки

---

Инструменты Red Teaming

---

Участие в разработке

Приветствуются любые вклады. Смотрите CONTRIBUTING.md.

• Нашли новый CVE? Откройте issue.
• Есть лучший код для смягчения? Отправьте PR.
• Новый шаблон атаки? Документируйте его.

---

Лицензия

CC BY 4.0 — Можно свободно использовать, делиться и развивать с указанием авторства.

---

⭐ Поставьте звезду этому репозиторию, если он помог вам что-то защитить. Это помогает другим найти его.