telefonica/omlaspMarco para auditar algoritmos de aprendizaje automático contra ataques adversarios y sesgos, proporcionando herramientas educativas y un artículo académico para tender un puente entre el conocimiento de seguridad en ML y los profesionales de ciberseguridad.
_____ _______ _______ _______ _____
| | | | | | |_____| |______ |_____]
|_____| | | | |_____ | | ______| |
OMLASP - Open Machine Learning Application Security Project tiene como objetivo convertirse en un estándar para auditar algoritmos de Machine Learning. No solo se centrará en la seguridad de los algoritmos, sino también en sus sesgos. Normalmente, cuando se despliegan aplicaciones que utilizan algoritmos de Machine Learning o Deep Learning, solo se verifican vulnerabilidades tradicionales en las auditorías de seguridad. Sin embargo, estos algoritmos también están expuestos a otras vulnerabilidades que podrían ser explotadas por atacantes y que se abordarán a lo largo de este Framework o conjunto de herramientas. Hay mucha información en Internet sobre estos ataques, pero está fragmentada, suele ser educativa o directamente se encuentra en artículos académicos. Queremos acercar estas técnicas de ataque al mundo de la ciberseguridad que no es experto en Machine Learning. Hemos pensado en algo que todos conocemos en el mundo de la ciberseguridad: la matriz MITRE ATT&CK o Tácticas, Técnicas y Conocimiento Común del Atacante.
OMLASP nos proporciona la implementación de herramientas simples orientadas a realizar algunos de los ataques que hemos mencionado y que veremos ahora en la práctica. Todo el código fuente de OMLASP, hecho en Python y de código abierto, está preparado para ser modificado según las necesidades del auditor de seguridad. También se ha incluido un artículo académico con toda la teoría relacionada utilizada para la implementación de estas herramientas.
Todos los requisitos necesarios para ejecutar las diferentes herramientas se encuentran en sus respectivos directorios. También hay un archivo README con toda la información necesaria para ejecutarlo correctamente. Hemos probado las herramientas en Linux y Windows 11. Es importante para un mejor rendimiento (aunque no es obligatorio) tener 16 GB de RAM y una GPU.
Consulte los archivos README que se encuentran dentro de cada carpeta correspondiente a cada herramienta.
Este proyecto está bajo la licencia GNU General Public License; consulte el archivo LICENSE para obtener más detalles.
EL SOFTWARE SE PROPORCIONA "TAL CUAL", SIN GARANTÍA DE NINGÚN TIPO, EXPRESA O IMPLÍCITA, INCLUYENDO PERO NO LIMITADO A LAS GARANTÍAS DE COMERCIABILIDAD, IDONEIDAD PARA UN PROPÓSITO PARTICULAR Y NO INFRACCIÓN. EN NINGÚN CASO LOS AUTORES O TITULARES DE LOS DERECHOS DE AUTOR SERÁN RESPONSABLES DE NINGUNA RECLAMACIÓN, DAÑO U OTRA RESPONSABILIDAD, YA SEA EN UNA ACCIÓN DE CONTRATO, AGRAVIO O DE OTRO MODO, QUE SURJA DE, O EN CONEXIÓN CON, EL SOFTWARE O EL USO U OTRO TIPO DE ACCIONES EN EL SOFTWARE. SIEMPRE QUE REALICES UNA CONTRIBUCIÓN A UN REPOSITORIO QUE CONTENGA UN AVISO DE LICENCIA, LICENCIAS TU CONTRIBUCIÓN BAJO LOS MISMOS TÉRMINOS, Y ACEPTAS QUE TIENES EL DERECHO DE LICENCIAR TU CONTRIBUCIÓN BAJO ESOS TÉRMINOS. SI TIENES UN ACUERDO SEPARADO PARA LICENCIAR TUS CONTRIBUCIONES BAJO TÉRMINOS DIFERENTES, COMO UN ACUERDO DE LICENCIA DE CONTRIBUYENTE, ESE ACUERDO PREVALECERÁ.
Este software no tiene un proceso de control de calidad. Este software es una Prueba de Concepto.
Si tiene algún problema o pregunta, póngase en contacto con: