本作品采用 知识共享署名-相同方式共享 4.0 国际许可协议进行许可。
人工智能安全验证标准(AISVS) 是一个由社区驱动的、面向 AI 系统的可测试安全需求目录。它为开发者、架构师、安全工程师和审计人员提供了一个结构化框架,用于在 AI 应用的整个生命周期中(从数据收集和模型训练到部署、监控和退役)设计、构建、测试和验证其安全性。
AISVS 以 OWASP 应用安全验证标准(ASVS)为蓝本,并遵循相同的理念:每项需求都应当是可验证、可测试且可实施的。
本项目由 Jim Manico 创立。现任项目负责人包括 Jim Manico、Otto Sulin、Rico Komenda 和 Russ Memisyazici。
| 标准 | 关注点 | 与 AISVS 的关系 |
|---|---|---|
| OWASP ASVS | Web 应用安全 | AISVS 将 ASVS 的概念扩展到 AI 特有的威胁 |
| OWASP Top 10 for LLMs | 对主要 LLM 风险的认知 | AISVS 提供缓解这些风险的详细控制措施 |
| OWASP Top 10 for Agentic Applications | 对主要智能体 AI 风险的认知 | AISVS 提供应对智能体特有威胁的详细控制措施 |
| NIST AI RMF | AI 风险治理 | AISVS 提供 AI RMF 所引用的可测试技术控制措施 |
| ISO/IEC 42001 | AI 管理体系 | AISVS 以实施层面的安全验证作为补充 |
最新稳定版本为 AISVS 1.01,可通过以下方式获取:
| 格式 | 链接 |
|---|---|
| AISVS 1.01 PDF | |
| Markdown(源文件) | 在线浏览 |
AISVS 1.02 是唯一活跃的开发版本。 贡献内容提交至 1.02-dev。2.0 版本已推迟,2.0-dev/ 目录已被移除。1.02 版本可能会新增章节和小节,同时保留现有需求的编号和组织结构。完整规则请参阅发布政策。
每项 AISVS 需求都被分配一个验证级别(1、2 或 3),表示安全保证的深度:
| 级别 | 描述 | 适用场景 |
|---|---|---|
| 1 | 每个 AI 系统都应实施的基本基线控制。 | 所有 AI 应用,包括内部工具和低风险系统。 |
| 2 | 适用于处理敏感数据或做出重大决策的系统的标准控制。 | 生产系统、面向客户的 AI、处理个人数据的系统。 |
| 3 | 适用于需要防御复杂攻击的高保障环境的高级控制。 | 关键基础设施、安全关键型 AI、高价值目标、受监管行业。 |
组织应根据其 AI 系统的风险状况选择目标级别。大多数生产系统应至少达到级别 2。
每个需求都有一个格式为 C<chapter>.<section>.<requirement> 的标识符,其中每个元素都是一个数字,例如 C9.4.3。
C<chapter> 值对应于该需求所属的章节;例如,所有 C9.#.# 需求都来自“编排与智能体安全”章节。<section> 值对应于该需求在该章节中所属的小节;例如,所有 C9.4.# 需求都位于“智能体与编排器身份”小节中。<requirement> 值标识该章节和小节中的具体需求;例如 C9.4.3,截至本标准 1.0 版本,其内容为:验证智能体身份凭据按既定计划轮换。
由于标识符可能会在标准的不同版本之间发生变化,其他文档、报告或工具最好使用以下格式:v<version>-C<chapter>.<section>.<requirement>,其中 version 是 AISVS 版本标签。例如:v1.0-C9.4.3。
注意:版本号前面的 v 应始终为小写。
不带 v<version> 元素的标识符指的是 AISVS 最新发布的次版本,如 RELEASE.md 中所定义。在需要跨版本保持稳定的报告、工具和其他引用中,请包含版本元素。
AISVS 使用由两部分组成的版本号,v<MAJOR>.<MINOR>(例如 v1.0、v1.01、v1.02)。次版本发布允许更改需求以及追加章节或小节,同时保留现有的编号、组织结构和控制目标。重新组织现有内容则需要主版本发布。补丁修复在分支内发布,不单独分配版本号。完整策略记录在 RELEASE.md 中。
AISVS 的每个稳定版本都作为编号文件夹发布在此仓库中。版本一旦发布,其文件夹即被锁定;所有后续工作都在新文件夹中进行。这与 OWASP ASVS 所采用的方式一致。
/
├── 1.0/ <- published release (locked)
├── 1.01/ <- latest stable release (locked)
├── 1.02-dev/ <- next minor release (in progress)
我们欢迎来自社区的贡献。请提交 issue来报告缺陷或提出改进建议。根据讨论情况,我们可能会请您提交 pull request。
如需报告 AISVS 项目本身的安全问题,请遵循安全策略。
整个项目内容均采用 Creative Commons Attribution-ShareAlike 4.0 International 许可证。