owasp/aisvsLa norme de vérification de la sécurité de l'IA (AISVS) se concentre sur la fourniture aux développeurs, architectes et professionnels de la sécurité d'une liste de contrôle structurée pour vérifier la sécurité des applications basées sur l'IA.
Ce travail est sous licence Creative Commons Attribution-ShareAlike 4.0 International License.
La Norme de Vérification de Sécurité de l'Intelligence Artificielle (AISVS) est un catalogue piloté par la communauté d'exigences de sécurité testables pour les systèmes basés sur l'IA. Elle offre aux développeurs, architectes, ingénieurs sécurité et auditeurs un cadre structuré pour concevoir, construire, tester et vérifier la sécurité des applications IA tout au long de leur cycle de vie, de la collecte de données et l'entraînement des modèles au déploiement, à la surveillance et à la mise hors service.
L'AISVS s'inspire de l'OWASP Application Security Verification Standard (ASVS) et suit la même philosophie : chaque exigence doit être .
Ce projet a été fondé par Jim Manico. La direction actuelle du projet inclut Jim Manico, Otto Sulin, Rico Komenda, et Russ Memisyazici.
| Norme | Concentration | Relation avec l'AISVS |
|---|---|---|
| OWASP ASVS | Sécurité des applications web | L'AISVS étend les concepts d'ASVS aux menaces spécifiques à l'IA |
| OWASP Top 10 for LLMs | Sensibilisation aux principaux risques LLM | L'AISVS fournit les contrôles détaillés pour atténuer ces risques |
| OWASP Top 10 for Agentic Applications | Sensibilisation aux principaux risques des applications agentiques | L'AISVS fournit les contrôles détaillés pour traiter les menaces spécifiques aux agents |
| NIST AI RMF | Gouvernance des risques IA | L'AISVS fournit les contrôles techniques testables que le AI RMF référence |
| ISO/IEC 42001 | Systèmes de management de l'IA | L'AISVS complète avec une vérification de sécurité au niveau de l'implémentation |
La dernière version stable est AISVS 1.0, disponible ici :
| Format | Lien |
|---|---|
| AISVS 1.0 PDF | |
| Markdown (source) | Consulter en ligne |
Chaque exigence AISVS se voit attribuer un niveau de vérification (1, 2 ou 3) indiquant la profondeur de l'assurance de sécurité :
| Niveau | Description | Quand l'utiliser |
|---|---|---|
| 1 | Contrôles de base essentiels que tout système IA devrait mettre en œuvre. | Toutes les applications IA, y compris les outils internes et les systèmes à faible risque. |
| 2 | Contrôles standards pour les systèmes traitant des données sensibles ou prenant des décisions conséquentes. | Systèmes de production, IA orientée client, systèmes traitant des données personnelles. |
| 3 | Contrôles avancés pour des environnements à haute assurance nécessitant une défense contre des attaques sophistiquées. | Infrastructures critiques, IA critique pour la sécurité, cibles de haute valeur, secteurs réglementés. |
Les organisations devraient choisir un niveau cible en fonction du profil de risque de leur système IA. La plupart des systèmes de production devraient viser au moins le niveau 2.
Pour chaque exigence de la norme, le Wiki de recherche fournit un contexte d'implémentation au-delà du texte de l'exigence :
| Colonne | Ce qu'elle vous indique |
|---|---|
| Menace atténuée | Techniques d'attaque spécifiques, CVE et incidents réels contre lesquels le contrôle protège |
| Approche de vérification | Étapes d'audit concrètes, outils et preuves à recueillir |
| Lacunes et notes | Évaluations de maturité des outils, questions de recherche ouvertes et mises en garde d'implémentation |
Le wiki couvre les 191 exigences sur 60 pages, avec des résumés des menaces par section, des recommandations d'outils et des références aux normes actuelles et à la littérature de recherche.
Chaque exigence possède un identifiant au format C<chapitre>.<section>.<exigence>, où chaque élément est un nombre, par exemple C9.4.3.
C<chapitre> correspond au chapitre d'où provient l'exigence ; par exemple, toutes les exigences C9.#.# proviennent du chapitre 'Sécurité de l'orchestration et des agents'.<section> correspond à la section de ce chapitre où apparaît l'exigence ; par exemple, toutes les exigences C9.4.# se trouvent dans la section 'Identité de l'agent et de l'orchestrateur'.<exigence> identifie l'exigence spécifique dans le chapitre et la section ; par exemple, C9.4.3 qui, dans la version 1.0 de cette norme, est :Vérifier que les identifiants des agents sont renouvelés selon un calendrier défini.
Étant donné que les identifiants peuvent changer entre les versions de la norme, il est préférable que d'autres documents, rapports ou outils utilisent le format suivant : v<version>-C<chapitre>.<section>.<exigence>, où version est le tag de version AISVS. Par exemple : v1.0-C9.4.3.
Remarque : le v précédant le numéro de version doit toujours être en minuscule.
Si les identifiants sont utilisés sans inclure l'élément v<version>, ils doivent être considérés comme faisant référence au contenu AISVS le plus récent. À mesure que la norme évolue et change, cela devient problématique, c'est pourquoi les rédacteurs ou développeurs devraient inclure l'élément de version.
AISVS utilise un numéro de version en deux parties, v<MAJEUR>.<MINEUR> (par exemple, v1.0, v1.01, v2.0). Les versions majeures couvrent les changements de chapitres et de sections, les versions mineures couvrent les ajouts, suppressions et modifications substantielles des exigences dans la structure existante, et les correctifs sont livrés dans la branche sans version distincte. La politique complète est documentée dans RELEASE.md.
Chaque version stable d'AISVS est publiée sous forme de dossier numéroté dans ce dépôt. Une fois une version publiée, son dossier est verrouillé ; tout travail futur se fait dans un nouveau dossier. Cela reflète l'approche utilisée par OWASP ASVS.
/
├── 1.0/ <- version stable publiée (verrouillée)
├── 1.01-dev/ <- prochaine version mineure (en cours)
Nous accueillons les contributions de la communauté. Veuillez ouvrir un ticket pour signaler des bogues ou suggérer des améliorations. Nous pourrions vous demander de soumettre une pull request suite à la discussion.
Pour signaler un problème de sécurité concernant le projet AISVS lui-même, veuillez suivre la Politique de sécurité.
L'ensemble du contenu du projet est sous licence Creative Commons Attribution-ShareAlike 4.0 International.