telefonica/omlaspFramework pour l'audit d'algorithmes de machine learning contre les attaques adversariales et les biais, fournissant des outils éducatifs et un article académique pour combler le fossé des connaissances en sécurité ML pour les professionnels de la cybersécurité.
_____ _______ _______ _______ _____
| | | | | | |_____| |______ |_____]
|_____| | | | |_____ | | ______| |
OMLASP - Open Machine Learning Application Security Project a pour objectif de devenir une norme pour l'audit des algorithmes de Machine Learning. Il ne se concentrera pas seulement sur la sécurité des algorithmes, mais aussi sur leurs biais. En général, lorsque des applications utilisant des algorithmes de Machine Learning ou Deep Learning sont déployées, seules les vulnérabilités traditionnelles sont vérifiées lors des audits de sécurité. Cependant, ces algorithmes sont également exposés à d'autres vulnérabilités qui pourraient être exploitées par des attaquants et qui seront abordées tout au long de ce framework ou ensemble d'outils. Il existe beaucoup d'informations sur Internet concernant ces attaques, mais elles sont fragmentées, généralement éducatives ou directement issues de publications académiques. Nous souhaitons apporter ces techniques d'attaque au monde de la cybersécurité qui n'est pas expert en Machine Learning. Nous avons pensé à quelque chose que nous connaissons tous dans le monde de la cybersécurité : la matrice MITRE ATT&CK ou les tactiques, techniques et connaissances communes des attaquants.
OMLASP nous fournit l'implémentation d'outils simples orientés vers la réalisation de certaines des attaques que nous avons mentionnées et que nous allons voir maintenant en pratique. Tout le code source d'OMLASP, réalisé en Python et open source, est préparé pour être modifié selon les besoins de l'auditeur de sécurité. Un article académique a également été inclus avec toute la théorie associée utilisée pour l'implémentation de ces outils.
Tous les prérequis nécessaires pour exécuter les différents outils se trouvent dans leurs répertoires respectifs. Il y a également un fichier README avec toutes les informations nécessaires pour les exécuter correctement. Nous avons testé les outils sous Linux et Windows 11. Il est important pour de meilleures performances (bien que non requis) d'avoir 16 Go de RAM et un GPU.
Consultez les fichiers README situés dans chaque dossier correspondant à chaque outil.
Ce projet est sous licence GNU General Public License - voir le fichier LICENSE pour plus de détails
LE LOGICIEL EST FOURNI « EN L'ÉTAT », SANS GARANTIE D'AUCUNE SORTE, EXPRESSE OU IMPLICITE, Y COMPRIS MAIS SANS S'Y LIMITER LES GARANTIES DE QUALITÉ MARCHANDE, D'ADÉQUATION À UN USAGE PARTICULIER ET D'ABSENCE DE CONTREFAÇON. EN AUCUN CAS LES AUTEURS OU TITULAIRES DU DROIT D'AUTEUR NE POURRONT ÊTRE TENUS RESPONSABLES DE TOUTE RÉCLAMATION, DOMMAGE OU AUTRE RESPONSABILITÉ, QUE CE SOIT DANS LE CADRE D'UNE ACTION CONTRACTUELLE, DÉLICTUELLE OU AUTRE, DÉCOULANT DE, OU EN RELATION AVEC LE LOGICIEL OU L'UTILISATION OU D'AUTRES INTERACTIONS AVEC LE LOGICIEL. LORSQUE VOUS APPORTEZ UNE CONTRIBUTION À UN DÉPÔT CONTENANT UN AVIS DE LICENCE, VOUS LICENCIEZ VOTRE CONTRIBUTION SELON LES MÊMES CONDITIONS, ET VOUS ACCEPTEZ QUE VOUS AVEZ LE DROIT DE LICENCIER VOTRE CONTRIBUTION SELON CES CONDITIONS. SI VOUS AVEZ UN ACCORD SÉPARÉ POUR LICENCIER VOS CONTRIBUTIONS SELON DES CONDITIONS DIFFÉRENTES, TELLE QU'UN ACCORD DE LICENCE DE CONTRIBUTEUR, CET ACCORD PRÉVAUDRA.
Ce logiciel n'a pas de processus d'assurance qualité. Ce logiciel est une preuve de concept.
Si vous avez des problèmes ou des questions, veuillez contacter :