telefonica/omlaspФреймворк для аудита алгоритмов машинного обучения на предмет атак и предвзятости, предоставляющий образовательные инструменты и академическую статью для преодоления разрыва в знаниях о безопасности ML для специалистов по кибербезопасности.
_____ _______ _______ _______ _____
| | | | | | |_____| |______ |_____]
|_____| | | | |_____ | | ______| |
OMLASP - Open Machine Learning Application Security Project предназначен для того, чтобы стать стандартом аудита алгоритмов машинного обучения. Он будет сосредоточен не только на безопасности алгоритмов, но и на их предвзятости. Как правило, когда разворачиваются приложения, использующие алгоритмы машинного обучения или глубокого обучения, во время аудита безопасности проверяются только традиционные уязвимости. Однако эти алгоритмы также подвержены другим уязвимостям, которые могут быть использованы злоумышленниками и которые будут рассмотрены в этой платформе или наборе инструментов. В Интернете много информации об этих атаках, но она разрознена, обычно носит образовательный характер или содержится непосредственно в научных статьях. Мы хотим донести эти техники атак до мира кибербезопасности, не являющегося экспертом в области машинного обучения. Мы подумали о том, что всем известно в мире кибербезопасности: матрица MITRE ATT&CK или Тактики, Техники и Общие Знания Атакующего.
OMLASP предоставляет нам реализацию простых инструментов, ориентированных на выполнение некоторых атак, которые мы упомянули и увидим сейчас на практике. Весь исходный код OMLASP, написанный на Python и являющийся открытым, подготовлен для изменения в соответствии с потребностями аудитора безопасности. Также прилагается научная статья со всей соответствующей теорией, использованной для реализации этих инструментов.
Все требования для запуска различных инструментов находятся в их соответствующих каталогах. Там также есть файл README со всей информацией, необходимой для правильного запуска. Мы тестировали инструменты в Linux и Windows 11. Для лучшей производительности (хотя это не обязательно) важно иметь 16 ГБ оперативной памяти и GPU.
Ознакомьтесь с файлами README, находящимися в каждой папке, соответствующей каждому инструменту.
Этот проект лицензирован в соответствии с GNU General Public License — подробности смотрите в файле LICENSE.
ПРОГРАММНОЕ ОБЕСПЕЧЕНИЕ ПРЕДОСТАВЛЯЕТСЯ «КАК ЕСТЬ», БЕЗ КАКИХ-ЛИБО ГАРАНТИЙ, ЯВНЫХ ИЛИ ПОДРАЗУМЕВАЕМЫХ, ВКЛЮЧАЯ, НО НЕ ОГРАНИЧИВАЯСЬ, ГАРАНТИЯМИ ТОВАРНОЙ ПРИГОДНОСТИ, ПРИГОДНОСТИ ДЛЯ ОПРЕДЕЛЁННОЙ ЦЕЛИ И НЕНАРУШЕНИЯ ПРАВ. НИ ПРИ КАКИХ ОБСТОЯТЕЛЬСТВАХ АВТОРЫ ИЛИ ПРАВООБЛАДАТЕЛИ НЕ НЕСУТ ОТВЕТСТВЕННОСТИ ПО КАКИМ-ЛИБО ИСКАМ, УБЫТКАМ ИЛИ ИНЫМ ОБЯЗАТЕЛЬСТВАМ, ВОЗНИКАЮЩИМ В РЕЗУЛЬТАТЕ ДОГОВОРА, ДЕЛИКТА ИЛИ ИНЫМ ОБРАЗОМ, СВЯЗАННЫМ С ПРОГРАММНЫМ ОБЕСПЕЧЕНИЕМ ИЛИ ЕГО ИСПОЛЬЗОВАНИЕМ, ИЛИ ИНЫМИ ДЕЙСТВИЯМИ С ПРОГРАММНЫМ ОБЕСПЕЧЕНИЕМ. КОГДА ВЫ ВНОСИТЕ ВКЛАД В РЕПОЗИТОРИЙ, СОДЕРЖАЩИЙ УВЕДОМЛЕНИЕ О ЛИЦЕНЗИИ, ВЫ ЛИЦЕНЗИРУЕТЕ СВОЙ ВКЛАД НА ТЕХ ЖЕ УСЛОВИЯХ И СОГЛАШАЕТЕСЬ, ЧТО ИМЕЕТЕ ПРАВО ЛИЦЕНЗИРОВАТЬ СВОЙ ВКЛАД НА ЭТИХ УСЛОВИЯХ. ЕСЛИ У ВАС ЕСТЬ ОТДЕЛЬНОЕ СОГЛАШЕНИЕ О ЛИЦЕНЗИРОВАНИИ ВАШИХ ВКЛАДОВ НА ДРУГИХ УСЛОВИЯХ, НАПРИМЕР, ЛИЦЕНЗИОННОЕ СОГЛАШЕНИЕ УЧАСТНИКА (CLA), ТО ЭТО СОГЛАШЕНИЕ БУДЕТ ИМЕТЬ ПРЕИМУЩЕСТВЕННУЮ СИЛУ.
Данное программное обеспечение не имеет процесса обеспечения качества. Данное программное обеспечение является концептуальным прототипом.
Если у вас возникли проблемы или вопросы, пожалуйста, обращайтесь: