owasp/mosaicStructure de coordination pour les normes et directives de sécurité de l'IA, réduisant la fragmentation et fournissant des orientations claires pour sécuriser les systèmes d'IA dans les organisations.
MOSAIC offre une structure de coordination pour les organisations qui créent des normes et des directives de sécurité en IA, réduisant les incohérences, les doublons, les désalignements et les lacunes. L'objectif final est de permettre au paysage des normes et directives de fournir des orientations claires pour sécuriser et superviser les systèmes d'IA que nous connectons de plus en plus à tout et à qui nous confions nos données sensibles.
Voir Membres de MOSAIC.
Voir feuille de route.
Voir MOSAICstandards.org.
Plus d'informations dans ce post LinkedIn et dans les notes de la réunion de lancement.
Pour participer : consultez le guide de contribution. Les discussions se trouvent ici.
Pour lire : consultez ce README, le dossier docs, ou le site web.
Types d'utilisateurs :
La promesse de l'IA pousse les organisations à la connecter à tout et à lui confier des données sensibles. Dans tous les secteurs, cette exploration se fait à grande vitesse.
En même temps, l'IA introduit de nouveaux risques. Les systèmes sont vulnérables à la fois aux types d'attaques existants et nouveaux, et ceux-ci nécessitent des contre-mesures spécifiques. De nombreuses organisations ne sont pas encore préparées à cela. En conséquence, les systèmes d'IA deviennent rapidement des cibles attrayantes pour les adversaires.
Nous voyons déjà cela dans un nombre croissant d'incidents. Lorsque les risques se matérialisent, l'innovation ralentit : les projets sont mis en pause, les conceptions sont revues, et des efforts significatifs sont consacrés à la réponse et à la reprise après incident. Ce qui ressemble à de la rapidité au début conduit souvent à des retards par la suite.
Il existe un besoin clair d'orientations pratiques : comment identifier les menaces spécifiques à l'IA et que faire à leur sujet. Cela n'a pas besoin d'être complexe. Bien fait, cela accélère en fait le développement en évitant les retouches et en réduisant l'incertitude.
Aujourd'hui, de nombreuses initiatives travaillent sur de telles orientations. Cependant, le paysage est fragmenté. Les praticiens sont confrontés à de multiples cadres, des recommandations qui se chevauchent et une terminologie incohérente. Chaque initiative a des forces, mais aussi des angles morts.
Le résultat est la confusion. Les équipes ont du mal à décider quoi suivre, combinent des approches incompatibles, ou se désengagent complètement et comptent sur l'espoir. C'est une position risquée, surtout dans un domaine où les échecs peuvent rapidement prendre de l'ampleur.
Un appétit pour le risque élevé dans un domaine en évolution rapide comme l'IA est compréhensible. Mais fonctionner sans orientations de sécurité claires et alignées n'est pas un risque calculé—c'est une exposition. L'IA appelle à une exploration stratégique.
Les avancées récentes dans la découverte de vulnérabilités en IA, comme le système Mythos AI vulnerability discovery system, augmentent encore l'urgence. Elles montrent que les faiblesses des systèmes d'IA peuvent maintenant être trouvées plus rapidement et à grande échelle—souvent avant que les développeurs n'en aient conscience. Cela déplace l'équilibre en faveur des attaquants et réduit la marge d'erreur.
C'est pourquoi la coordination est importante. Aligner les normes et les orientations entre les initiatives réduit la fragmentation, améliore la clarté et donne aux praticiens une voie cohérente à suivre. Cela permet aux organisations d'aller vite sans perdre le contrôle.
Le site public est un site statique Hugo (contenu en markdown, layouts partagés, CSS dans static/assets/), déployé sur Firebase Hosting depuis GitHub Actions.
content/mosaic/content/*.md (markdown uniquement)content/mosaic/data/menu.yamlLe site utilise GoatCounter pour des statistiques de pages vues respectueuses de la vie privée et sans cookies (https://mosaic.goatcounter.com). Aucune donnée personnelle n'est collectée. Voir CONTRIBUTING.md pour plus de détails.