telefonica/omlaspFramework per audit di algoritmi di machine learning contro attacchi avversari e bias, fornendo strumenti educativi e un articolo accademico per colmare il divario di conoscenza sulla sicurezza del ML per i professionisti della cybersecurity.
_____ _______ _______ _______ _____
| | | | | | |_____| |______ |_____]
|_____| | | | |_____ | | ______| |
OMLASP - Open Machine Learning Application Security Project è destinato a diventare uno standard per il controllo degli algoritmi di Machine Learning. Non si concentrerà solo sulla sicurezza degli algoritmi, ma anche sui loro bias. Tipicamente, quando vengono distribuite applicazioni che utilizzano algoritmi di Machine Learning o Deep Learning, dai controlli di sicurezza vengono verificate solo le vulnerabilità tradizionali. Tuttavia, questi algoritmi sono esposti anche ad altre vulnerabilità che potrebbero essere sfruttate dagli aggressori e che saranno affrontate in questo Framework o insieme di strumenti. Ci sono molte informazioni su Internet su questi attacchi, ma sono frammentate, solitamente di carattere educativo o direttamente in articoli accademici. Vogliamo portare queste tecniche di attacco nel mondo della cybersecurity che non è esperto di Machine Learning. Abbiamo pensato a qualcosa che tutti conosciamo nel mondo della cybersecurity: la matrice MITRE ATT&CK o Attacker Tactic, Techniques, and Common Knowledge.
OMLASP fornisce l'implementazione di semplici strumenti orientati a eseguire alcuni degli attacchi che abbiamo menzionato e che ora vedremo in pratica. Tutto il codice sorgente di OMLASP, realizzato in Python e open source, è predisposto per essere modificato in base alle esigenze dell'auditor di sicurezza. È stato inoltre incluso un articolo accademico con tutta la teoria correlata utilizzata per l'implementazione di questi strumenti.
Tutti i requisiti per poter eseguire i diversi strumenti si trovano nelle rispettive directory. È presente anche un file README con tutte le informazioni necessarie per eseguirlo correttamente. Abbiamo testato gli strumenti in Linux e Windows 11. È importante per prestazioni migliori (anche se non richiesto), avere 16 GB di RAM e una GPU.
Controlla i file README presenti in ciascuna cartella corrispondente a ogni strumento.
Questo progetto è concesso in licenza secondo la GNU General Public License - consulta il file LICENSE per i dettagli
IL SOFTWARE È FORNITO "COSÌ COM'È", SENZA GARANZIA DI ALCUN TIPO, ESPRESSA O IMPLICITA, INCLUSE MA NON LIMITATE ALLE GARANZIE DI COMMERCIABILITÀ, IDONEITÀ PER UN PARTICOLARE SCOPO E NON VIOLAZIONE. IN NESSUN CASO GLI AUTORI O I TITOLARI DEL COPYRIGHT SARANNO RESPONSABILI PER QUALSIASI RECLAMO, DANNO O ALTRA RESPONSABILITÀ, SIA IN UN'AZIONE CONTRATTUALE, ILLECITO O ALTRO, DERIVANTE DA O IN CONNESSIONE CON IL SOFTWARE O L'USO O ALTRE OPERAZIONI DEL SOFTWARE. OGNI VOLTA CHE EFFETTUI UN CONTRIBUTO A UN REPOSITORY CONTENENTE UNA NOTA DI LICENZA, CONCEDI IN LICENZA IL TUO CONTRIBUTO AGLI STESSI TERMINI E ACCETTI DI AVERE IL DIRITTO DI CONCEDERE IN LICENZA IL TUO CONTRIBUTO A TALI TERMINI. SE HAI UN ACCORDO SEPARATO PER CONCEDERE IN LICENZA I TUOI CONTRIBUTI A TERMINI DIVERSI, COME UN ACCORDO DI LICENZA PER CONTRIBUTORI, TALE ACCORDO PREVARRÀ.
Questo software non ha un processo di QA. Questo software è una Prova di Concetto.
Se hai problemi o domande, contatta: