owasp/aisvsO Padrão de Verificação de Segurança de IA (AISVS) concentra-se em fornecer a desenvolvedores, arquitetos e profissionais de segurança uma lista de verificação estruturada para verificar a segurança de aplicações orientadas por IA.
Este trabalho está licenciado sob uma Licença Internacional Creative Commons Atribuição-CompartilhaIgual 4.0.
O Artificial Intelligence Security Verification Standard (AISVS) é um catálogo orientado pela comunidade de requisitos de segurança testáveis para sistemas habilitados para IA. Ele fornece a desenvolvedores, arquitetos, engenheiros de segurança e auditores uma estrutura estruturada para projetar, construir, testar e verificar a segurança de aplicações de IA ao longo de todo o seu ciclo de vida, desde a coleta de dados e treinamento de modelos até a implantação, monitoramento e descontinuação.
O AISVS é modelado a partir do OWASP Application Security Verification Standard (ASVS) e segue a mesma filosofia: todo requisito deve ser verificável, testável e implementável.
Este projeto foi fundado por Jim Manico. A liderança atual do projeto inclui Jim Manico, Otto Sulin, Rico Komenda e Russ Memisyazici.
| Padrão | Foco | Relação com o AISVS |
|---|---|---|
| OWASP ASVS | Segurança de aplicações web | O AISVS estende os conceitos do ASVS para ameaças específicas de IA |
| OWASP Top 10 for LLMs | Conscientização sobre os principais riscos de LLMs | O AISVS fornece os controles detalhados para mitigar esses riscos |
| OWASP Top 10 for Agentic Applications | Conscientização sobre os principais riscos de IA agêntica | O AISVS fornece os controles detalhados para lidar com ameaças específicas de agentes |
| NIST AI RMF | Governança de riscos de IA | O AISVS fornece os controles técnicos testáveis aos quais o AI RMF se refere |
| ISO/IEC 42001 | Sistemas de gestão de IA | O AISVS complementa com verificação de segurança em nível de implementação |
A versão estável mais recente é o AISVS 1.0, que pode ser encontrada em:
| Formato | Link |
|---|---|
| AISVS 1.0 PDF | |
| Markdown (fonte) | Navegar online |
Cada requisito do AISVS recebe um nível de verificação (1, 2 ou 3) que indica a profundidade da garantia de segurança:
| Nível | Descrição | Quando usar |
|---|---|---|
| 1 | Controles de linha de base essenciais que todo sistema de IA deve implementar. | Todas as aplicações de IA, incluindo ferramentas internas e sistemas de baixo risco. |
| 2 | Controles padrão para sistemas que lidam com dados sensíveis ou tomam decisões consequentes. | Sistemas em produção, IA voltada ao cliente, sistemas que processam dados pessoais. |
| 3 | Controles avançados para ambientes de alta garantia que exigem defesa contra ataques sofisticados. | Infraestrutura crítica, IA de segurança crítica, alvos de alto valor, setores regulados. |
As organizações devem selecionar um nível-alvo com base no perfil de risco de seu sistema de IA. A maioria dos sistemas em produção deve buscar pelo menos o Nível 2.
Para cada requisito do padrão, a Wiki de Pesquisa fornece contexto de implementação além do texto do requisito:
| Coluna | O que ela informa |
|---|---|
| Ameaça Mitigada | Técnicas de ataque específicas, CVEs e incidentes do mundo real contra os quais o controle defende |
| Abordagem de Verificação | Etapas de auditoria concretas, ferramentas e evidências a coletar |
| Lacunas e Notas | Classificações de maturidade de ferramentas, questões de pesquisa em aberto e ressalvas de implementação |
