Padrão OWASP de Verificação de Segurança em Inteligência Artificial (AISVS)

Este trabalho está licenciado sob uma Creative Commons Attribution-ShareAlike 4.0 International License.

O que é o AISVS?

O Padrão de Verificação de Segurança em Inteligência Artificial (AISVS) é um catálogo orientado pela comunidade de requisitos de segurança testáveis para sistemas com IA. Ele fornece a programadores, arquitetos, engenheiros de segurança e auditores uma estrutura organizada para conceber, construir, testar e verificar a segurança de aplicações de IA ao longo de todo o seu ciclo de vida, desde a recolha de dados e o treino de modelos até à implementação, monitorização e descontinuação.

O AISVS é modelado com base no Padrão OWASP de Verificação de Segurança de Aplicações (ASVS) e segue a mesma filosofia: todos os requisitos devem ser verificáveis, testáveis e implementáveis.

Líderes do Projeto

Este projeto foi fundado por Jim Manico. A liderança atual do projeto inclui Jim Manico, Otto Sulin, Rico Komenda e Russ Memisyazici.

O que o AISVS NÃO é

• Não é uma estrutura de governança. A governança é bem coberta pelo NIST AI RMF, pela ISO/IEC 42001 e por guias de conformidade com o AI Act da UE.
• Não é uma estrutura de gestão de risco. O AISVS fornece os controlos técnicos para os quais as estruturas de risco remetem, mas não define metodologia de avaliação de risco.
• Não é uma lista de recomendações de ferramentas. O AISVS é neutro em relação a fornecedores e não endossa produtos ou estruturas específicas.

Como o AISVS complementa outras normas

Última Versão Estável

A versão estável mais recente é a AISVS 1.0, que pode ser encontrada em:

Níveis de Verificação

A cada requisito do AISVS é atribuído um nível de verificação (1, 2 ou 3) que indica a profundidade da garantia de segurança:

As organizações devem selecionar um nível-alvo com base no perfil de risco do seu sistema de IA. A maioria dos sistemas de produção deve visar, pelo menos, o Nível 2.

Como utilizar o AISVS

• Durante a conceção. Utilize os requisitos como uma lista de verificação de segurança ao arquitetar sistemas de IA.
• Durante o desenvolvimento. Integre os requisitos em pipelines de CI/CD, revisões de código e testes.
• Durante avaliações de segurança. Utilize como uma estrutura de verificação para testes de penetração e auditorias.
• Para aquisições. Referencie requisitos específicos ao avaliar fornecedores de IA e modelos de terceiros.

Capítulos de Requisitos

1. Integridade e Rastreabilidade dos Dados de Treino
2. Validação de Entradas
3. Gestão do Ciclo de Vida do Modelo e Controlo de Alterações
4. Segurança da Infraestrutura, Configuração e Implementação
5. Controlo de Acesso e Identidade para Componentes e Utilizadores de IA
6. Segurança da Cadeia de Fornecimento para Modelos
7. Comportamento do Modelo, Controlo de Saída e Garantia de Segurança
8. Segurança da Memória, Embeddings e Base de Dados Vetorial
9. Orquestração e Segurança de Agentes
10. Segurança do Model Context Protocol (MCP)
11. Robustez Adversarial
12. Monitorização, Registo e Deteção de Anomalias

Apêndices

• Apêndice A: Glossário
• Apêndice B: Inventário de Controlos de Segurança de IA
• Apêndice C: Codificação Segura Assistida por IA

Wiki de Investigação

Para cada requisito da norma, a Wiki de Investigação fornece contexto de implementação para além do texto do requisito:

A wiki cobre todos os 191 requisitos em 60 páginas, com resumos do panorama de ameaças por secção, recomendações de ferramentas e referências a normas atuais e literatura de investigação.

Como Referenciar Requisitos do AISVS

Cada requisito tem um identificador no formato C<chapter>.<section>.<requirement>, em que cada elemento é um número, por exemplo C9.4.3.

• O valor C<chapter> corresponde ao capítulo de onde provém o requisito; por exemplo, todos os requisitos C9.#.# são do capítulo 'Orquestração e Segurança de Agentes'.
• O valor <section> corresponde à secção desse capítulo onde o requisito aparece; por exemplo, todos os requisitos C9.4.# estão na secção 'Identidade do Agente e do Orquestrador'.
• O valor <requirement> identifica o requisito específico dentro do capítulo e da secção; por exemplo, C9.4.3, que na versão 1.0 desta norma é:

Verifique se as credenciais de identidade do agente são renovadas segundo um calendário definido.

Uma vez que os identificadores podem mudar entre versões da norma, é preferível que outros documentos, relatórios ou ferramentas utilizem o seguinte formato: v<version>-C<chapter>.<section>.<requirement>, em que version é a etiqueta de versão do AISVS. Por exemplo: v1.0-C9.4.3.

Nota: O v que precede o número de versão deve estar sempre em minúsculas.

Se os identificadores forem utilizados sem incluir o elemento v<version>, deve assumir-se que se referem ao conteúdo AISVS mais recente. À medida que a norma cresce e muda, isto torna-se problemático, razão pela qual os escritores ou programadores devem incluir o elemento de versão.

Versionamento

O AISVS utiliza um número de versão em duas partes, v<MAJOR>.<MINOR> (por exemplo, v1.0, v1.01, v2.0). As versões principais abrangem alterações de capítulos e secções, as versões menores abrangem adições, remoções e edições materiais aos requisitos dentro da estrutura existente, e as correções pontuais (patches) são disponibilizadas no mesmo ramo sem uma versão separada. A política completa está documentada em RELEASE.md.

Cada lançamento estável do AISVS é publicado como uma pasta numerada neste repositório. Assim que uma versão é lançada, a sua pasta é bloqueada; todo o trabalho futuro acontece numa nova pasta. Isto espelha a abordagem utilizada pelo OWASP ASVS.

/
├── 1.0/        <- published stable release (locked)
├── 1.01-dev/   <- next minor release (in progress)

Contribuições

Agradecemos contribuições da comunidade. Por favor, abra um issue para reportar erros ou sugerir melhorias. Poderemos pedir-lhe que submeta um pull request com base na discussão.

Para reportar um problema de segurança com o próprio projeto AISVS, siga a Política de Segurança.

Licença

Todo o conteúdo do projeto está sob a licença Creative Commons Attribution-ShareAlike 4.0 International.