
Стандарт проверки безопасности ИИ (AISVS) направлен на предоставление разработчикам, архитекторам и специалистам по безопасности структурированного контрольного списка для проверки безопасности приложений на основе ИИ.
Эта работа распространяется на условиях Creative Commons Attribution-ShareAlike 4.0 International License.
Artificial Intelligence Security Verification Standard (AISVS) — это создаваемый сообществом каталог проверяемых требований безопасности для систем с поддержкой ИИ. Он даёт разработчикам, архитекторам, инженерам по безопасности и аудиторам структурированную основу для проектирования, создания, тестирования и проверки безопасности ИИ-приложений на протяжении всего их жизненного цикла — от сбора данных и обучения моделей до развёртывания, мониторинга и вывода из эксплуатации.
AISVS создан по образцу OWASP Application Security Verification Standard (ASVS) и следует той же философии: каждое требование должно быть проверяемым, тестируемым и реализуемым.
Проект был основан Jim Manico. В настоящее время руководство проектом осуществляют Jim Manico, Otto Sulin, Rico Komenda и Russ Memisyazici.
| Стандарт | Направление | Связь с AISVS |
|---|---|---|
| OWASP ASVS | Безопасность веб-приложений | AISVS распространяет концепции ASVS на угрозы, специфичные для ИИ |
| OWASP Top 10 for LLMs | Осведомлённость об основных рисках LLM | AISVS предоставляет детальные меры контроля для снижения этих рисков |
| OWASP Top 10 for Agentic Applications | Осведомлённость об основных рисках агентного ИИ | AISVS предоставляет детальные меры контроля для противодействия угрозам, специфичным для агентных систем |
| NIST AI RMF | Управление рисками ИИ | AISVS предоставляет проверяемые технические меры контроля, на которые ссылается AI RMF |
| ISO/IEC 42001 | Системы менеджмента ИИ | AISVS дополняет их верификацией безопасности на уровне реализации |
Последняя стабильная версия — AISVS 1.01, доступная здесь:
| Формат | Ссылка |
|---|---|
| AISVS 1.01 PDF | |
| Markdown (исходный код) | Просмотреть онлайн |
AISVS 1.02 — единственная активно разрабатываемая версия. Вклад направляется в 1.02-dev. Версия 2.0 отложена, а 2.0-dev/ удалена. В 1.02 могут добавляться новые главы и разделы при сохранении нумерации и организации существующих требований. Полные правила см. в политике выпуска.
Каждому требованию AISVS присваивается уровень верификации (1, 2 или 3), указывающий глубину гарантий безопасности:
| Уровень | Описание | Когда использовать |
|---|---|---|
| 1 | Базовые обязательные меры контроля, которые должна реализовать каждая AI-система. | Все AI-приложения, включая внутренние инструменты и системы с низким уровнем риска. |
| 2 | Стандартные меры контроля для систем, обрабатывающих конфиденциальные данные или принимающих значимые решения. | Продакшн-системы, клиентские AI-системы, системы, обрабатывающие персональные данные. |
| 3 | Продвинутые меры контроля для сред с высокими требованиями к защите от изощрённых атак. | Критическая инфраструктура, AI-системы, критичные для безопасности, высокоценные цели, регулируемые отрасли. |
Организациям следует выбирать целевой уровень исходя из профиля риска их AI-системы. Большинству продакшн-систем следует стремиться как минимум к уровню 2.