<<<<<<< HEAD

Norme de sécurité des fiches de modèles OWASP

Statut : Brouillon — Projet OWASP en incubation
Cette norme est en cours de développement actif. Les contributions et les retours sont les bienvenus.

Qu'est-ce que c'est ?

Lorsque vous téléchargez un modèle pré-entraîné depuis HuggingFace ou tout autre dépôt, vous faites essentiellement confiance à une boîte noire. Vous ne savez pas sur quelles données il a été entraîné, si ces données contenaient des informations personnelles, comment il a été testé contre des attaques adverses, ni quels sont ses modes de défaillance connus. Pour la plupart des projets de loisir, c'est acceptable. Pour tout ce qui touche à de vrais utilisateurs, à des secteurs réglementés ou à des données sensibles, ça ne l'est vraiment pas.

Les fiches de modèles existent depuis un certain temps, et c'est une bonne idée. Mais les formats existants se concentrent presque exclusivement sur les métriques de performance et les considérations d'équité. La sécurité est souvent reléguée au second plan, quand elle n'est pas absente.

Ce projet essaie de remédier à cela. Nous construisons une norme ouverte qui définit les informations de sécurité pertinentes qu'une fiche de modèle devrait contenir — comme la provenance des données d'entraînement, le risque d'exposition des données personnelles (PII), les vulnérabilités connues, les détails de la chaîne d'approvisionnement et le statut de conformité réglementaire. Quelque chose qu'une équipe de sécurité peut réellement utiliser pour évaluer si un modèle peut être déployé en toute sécurité.

Pourquoi est-ce important maintenant ?

Plusieurs éléments ont convergé en même temps :

• La loi européenne sur l'IA (EU AI Act) crée de réelles obligations de conformité autour de la transparence et de la documentation de l'IA
• Le RGPD et les lois similaires soulèvent des questions légitimes sur la présence de données personnelles dans les ensembles d'entraînement, et sur ce qui a été fait à ce sujet
• La communauté de la sécurité prend de plus en plus conscience que les modèles eux-mêmes sont une surface d'attaque — injection de prompts, empoisonnement de données, vol de modèles — mais les normes de documentation n'ont pas suivi
• Les organisations déploient des modèles tiers à grande échelle avec très peu de visibilité sur ce qu'elles exécutent réellement

Une norme de fiche de modèle axée sur la sécurité donne aux développeurs, aux auditeurs et aux équipes d'achat un langage commun et une liste de contrôle sur laquelle ils peuvent réellement agir.

Un exemple rapide

Voici un aperçu de ce à quoi ressemble une fiche de modèle axée sur la sécurité selon cette norme :

model_card_version: "0.1"
model_name: "example-text-classifier"
model_version: "1.2.0"

training_data:
  sources:
    - name: "Common Crawl (filtered)"
      pii_assessment: "Presidio scan applied; residual risk: low"
      license: "CC0"
  pii_removal_method: "Microsoft Presidio + manual review on 5% sample"
  data_cutoff_date: "2024-01-01"

security:
  known_vulnerabilities: []
  adversarial_testing: "Red-teamed against prompt injection; results in /security/redteam-report.md"
  supply_chain:
    base_model: "bert-base-uncased"
    base_model_source: "https://huggingface.co/bert-base-uncased"

compliance:
  eu_ai_act_risk_tier: "Limited"
  gdpr_considerations: "No personal data retained post-training"

Ceci est un extrait simplifié. Le schéma complet couvre des champs supplémentaires pour l'historique des incidents, le filtrage des sorties, les contraintes de déploiement, et plus encore.

Ce que contient ce dépôt

/
├── README.md                          ← vous êtes ici
├── standard/
│   └── OWASP-Modelcard-Standard-Proposal.md   ← la spécification
├── templates/
│   └── model-card-template.md            ← modèle vierge à copier et à remplir
├── examples/
│   └── llm-example.md                    ← exemple détaillé pour un grand modèle de langage
├── schema/
│   └── model-card-schema.json            ← schéma JSON lisible par machine
├── mappings/
│   └── owasp-nist-euaiact-mapping.md     ← comment cette norme se rapporte à d'autres cadres
├── CONTRIBUTING.md                    ← comment participer
├── CHANGELOG.md
└── LICENSE                            ← CC BY 4.0

Comment cela se rapporte aux autres normes et cadres

Cette norme est conçue pour compléter, et non remplacer, les travaux existants :

Participer

C'est un projet à un stade précoce et il y a beaucoup de place pour orienter sa direction. Quelques façons de contribuer :

• Examiner le projet de norme et soulever des problèmes si des champs sont manquants, incorrects ou peu clairs
• Partager des exemples de fiches de modèles issues de votre propre travail (l'anonymisation est acceptable) afin que nous puissions mettre le schéma à l'épreuve de la réalité
• Rejoindre la discussion sur le Slack d'OWASP dans #ai-ml-security
• Soumettre une demande de tirage (pull request) — voir CONTRIBUTING.md pour les conseils

Si vous ne savez pas par où commencer, les tickets ouverts étiquetés good first issue sont un bon point de départ.

État du projet

Ce projet passe actuellement par le processus des nouveaux projets OWASP. Une fois accepté, il sera transféré vers l'organisation GitHub d'OWASP à l'adresse github.com/OWASP/owasp-model-card-security-standard.

Licence

Cette norme est publiée sous licence Creative Commons Attribution 4.0 International (CC BY 4.0). Vous êtes libre de l'utiliser, de l'adapter et de la redistribuer — y compris à des fins commerciales — à condition d'accorder le crédit approprié.

Tous les outils de ce dépôt sont sous licence Apache 2.0.

OWASP-Model-Card-Security-Standard

owasp/main