telefonica/omlaspFramework para auditoria de algoritmos de machine learning contra ataques adversariais e vieses, fornecendo ferramentas educacionais e um artigo acadêmico para preencher a lacuna de conhecimento em segurança de ML para profissionais de cibersegurança.
_____ _______ _______ _______ _____
| | | | | | |_____| |______ |_____]
|_____| | | | |_____ | | ______| |
OMLASP - Open Machine Learning Application Security Project destina-se a tornar-se um padrão para auditoria de algoritmos de Machine Learning. Ele não se concentrará apenas na segurança dos algoritmos, mas também nos seus vieses. Normalmente, quando aplicações que usam algoritmos de Machine Learning ou Deep Learning são implantadas, apenas vulnerabilidades tradicionais são verificadas nas auditorias de segurança. No entanto, esses algoritmos também estão expostos a outras vulnerabilidades que podem ser exploradas por atacantes e que serão vistas ao longo deste Framework ou conjunto de ferramentas. Há muita informação na Internet sobre esses ataques, mas é fragmentada, geralmente educacional ou diretamente em artigos acadêmicos. Queremos trazer essas técnicas de ataque para o mundo da cibersegurança que não é especialista em Machine Learning. Pensamos em algo que todos conhecemos no mundo da cibersegurança: a matriz MITRE ATT&CK ou Táticas, Técnicas e Conhecimento Comum do Atacante.
O OMLASP nos fornece a implementação de ferramentas simples orientadas a realizar alguns dos ataques que mencionamos e veremos agora na prática. Todo o código-fonte do OMLASP, feito em Python e de código aberto, está preparado para ser modificado de acordo com as necessidades do auditor de segurança. Um artigo acadêmico também foi incluído com toda a teoria relacionada usada para a implementação dessas ferramentas.
Todos os requisitos para poder executar as diferentes ferramentas estão localizados nos seus respectivos diretórios. Há também um arquivo README com todas as informações necessárias para executá-lo corretamente. Testamos as ferramentas no Linux e no Windows 11. É importante, para melhor desempenho (embora não seja obrigatório), ter 16GB de RAM e uma GPU.
Verifique os arquivos README encontrados dentro de cada pasta correspondente a cada ferramenta.
Este projeto é licenciado sob a GNU General Public License - veja o arquivo LICENSE para detalhes
O SOFTWARE É FORNECIDO "NO ESTADO EM QUE SE ENCONTRA", SEM QUALQUER TIPO DE GARANTIA, EXPRESSA OU IMPLÍCITA, INCLUINDO MAS NÃO SE LIMITANDO ÀS GARANTIAS DE COMERCIALIZAÇÃO, ADEQUAÇÃO A UM PROPÓSITO ESPECÍFICO E NÃO VIOLAÇÃO. EM NENHUM CASO OS AUTORES OU TITULARES DE DIREITOS AUTORAIS SERÃO RESPONSÁVEIS POR QUALQUER REIVINDICAÇÃO, DANOS OU OUTRA RESPONSABILIDADE, SEJA EM AÇÃO DE CONTRATO, ATO ILÍCITO OU DE OUTRA FORMA, DECORRENTE DE, OU EM CONEXÃO COM O SOFTWARE OU O USO OU OUTRAS NEGOCIAÇÕES NO SOFTWARE. QUANDO VOCÊ FIZER UMA CONTRIBUIÇÃO A UM REPOSITÓRIO QUE CONTENHA UM AVISO DE LICENÇA, VOCÊ LICENCIA SUA CONTRIBUIÇÃO SOB OS MESMOS TERMOS, E CONCORDA QUE TEM O DIREITO DE LICENCIAR SUA CONTRIBUIÇÃO SOB ESSES TERMOS. SE VOCÊ TIVER UM ACORDO SEPARADO PARA LICENCIAR SUAS CONTRIBUIÇÕES SOB TERMOS DIFERENTES, COMO UM ACORDO DE LICENÇA DE CONTRIBUIDOR, ESSE ACORDO PREVALECERÁ.
Este software não possui um Processo de QA. Este software é uma Prova de Conceito.
Se tiver algum problema ou dúvida, entre em contato: