OWASP Artificial Intelligence Security Verification Standard (AISVS)

Эта работа распространяется на условиях Creative Commons Attribution-ShareAlike 4.0 International License.

Что такое AISVS?

Artificial Intelligence Security Verification Standard (AISVS) — это создаваемый сообществом каталог проверяемых требований безопасности для систем с поддержкой ИИ. Он даёт разработчикам, архитекторам, инженерам по безопасности и аудиторам структурированную основу для проектирования, создания, тестирования и проверки безопасности ИИ-приложений на протяжении всего их жизненного цикла — от сбора данных и обучения моделей до развёртывания, мониторинга и вывода из эксплуатации.

AISVS создан по образцу OWASP Application Security Verification Standard (ASVS) и следует той же философии: каждое требование должно быть проверяемым, тестируемым и реализуемым.

Руководители проекта

Проект был основан Jim Manico. В текущее руководство проекта входят Jim Manico, Otto Sulin, Rico Komenda и Russ Memisyazici.

---

Чем AISVS НЕ является

• Не является фреймворком управления. Управление хорошо охвачено NIST AI RMF, ISO/IEC 42001 и руководствами по соответствию EU AI Act.
• Не является фреймворком управления рисками. AISVS предоставляет технические меры контроля, на которые ссылаются фреймворки управления рисками, но не определяет методологию оценки рисков.
• Не является списком рекомендаций инструментов. AISVS нейтрален по отношению к поставщикам и не поддерживает конкретные продукты или фреймворки.

Как AISVS дополняет другие стандарты

Стандарт	Фокус	Связь с AISVS
OWASP ASVS	Безопасность веб-приложений	AISVS расширяет концепции ASVS на угрозы, специфичные для ИИ
OWASP Top 10 for LLMs	Осведомлённость о главных рисках LLM	AISVS предоставляет детальные меры контроля для снижения этих рисков
OWASP Top 10 for Agentic Applications	Осведомлённость о главных рисках агентного ИИ	AISVS предоставляет детальные меры контроля для устранения угроз, специфичных для агентов
NIST AI RMF	Управление рисками ИИ	AISVS поставляет проверяемые технические меры контроля, на которые ссылается AI RMF
ISO/IEC 42001	Системы управления ИИ	AISVS дополняет их верификацией безопасности на уровне реализации

---

Последняя стабильная версия

Последняя стабильная версия — AISVS 1.0, доступная в следующих форматах:

Формат	Ссылка
PDF	AISVS 1.0 PDF
Markdown (исходный код)	Просмотреть онлайн

---

Уровни верификации

Каждому требованию AISVS присваивается уровень верификации (1, 2 или 3), указывающий на глубину обеспечения безопасности:

Уровень	Описание	Когда использовать
1	Базовые обязательные меры контроля, которые должна реализовать каждая система ИИ.	Все ИИ-приложения, включая внутренние инструменты и системы с низким риском.
2	Стандартные меры контроля для систем, обрабатывающих конфиденциальные данные или принимающих значимые решения.	Продакшн-системы, клиентские ИИ-сервисы, системы, обрабатывающие персональные данные.
3	Продвинутые меры контроля для сред с высокими требованиями к защите от сложных атак.	Критическая инфраструктура, критичный для безопасности ИИ, высокоценные цели, регулируемые отрасли.

Организациям следует выбирать целевой уровень исходя из профиля риска их системы ИИ. Большинству продакшн-систем следует стремиться как минимум к уровню 2.

Как использовать AISVS

• На этапе проектирования. Используйте требования как чек-лист безопасности при проектировании архитектуры систем ИИ.
• На этапе разработки. Интегрируйте требования в CI/CD-пайплайны, код-ревью и тестирование.
• При оценке безопасности. Используйте как фреймворк верификации для пентестов и аудитов.
• При закупках. Ссылайтесь на конкретные требования при оценке поставщиков ИИ и сторонних моделей.

Главы требований

1. Training Data Integrity & Traceability
2. Input Validation
3. Model Lifecycle Management & Change Control
4. Infrastructure, Configuration & Deployment Security
5. Access Control & Identity for AI Components & Users
6. Supply Chain Security for Models
7. Model Behavior, Output Control & Safety Assurance
8. Memory, Embeddings & Vector Database Security
9. Orchestration & Agentic Security
10. Model Context Protocol (MCP) Security
11. Adversarial Robustness
12. Monitoring, Logging & Anomaly Detection

Приложения

• Appendix A: Glossary
• Appendix B: AI Security Controls Inventory
• Appendix C: AI-Assisted Secure Coding

Research Wiki

Для каждого требования стандарта Research Wiki предоставляет контекст реализации помимо текста требования:

Столбец	Что он сообщает
Threat Mitigated	Конкретные техники атак, CVE и реальные инциденты, от которых защищает мера контроля
Verification Approach	Конкретные шаги аудита, инструменты и доказательства для сбора
Gaps & Notes	Оценки зрелости инструментов, открытые исследовательские вопросы и оговорки по реализации