telefonica/omlasp머신러닝 알고리즘을 적대적 공격과 편향으로부터 감사하는 프레임워크로, 교육 도구와 학술 논문을 제공하여 사이버보안 전문가를 위한 ML 보안 지식 격차를 해소합니다.
_____ _______ _______ _______ _____
| | | | | | |_____| |______ |_____]
|_____| | | | |_____ | | ______| |
OMLASP - Open Machine Learning Application Security Project은 머신러닝 알고리즘 감사를 위한 표준이 되는 것을 목표로 합니다. 알고리즘의 보안뿐만 아니라 편향성에도 초점을 맞춥니다. 일반적으로 머신러닝 또는 딥러닝 알고리즘을 사용하는 애플리케이션이 배포될 때, 보안 감사에서는 전통적인 취약점만 점검됩니다. 하지만 이러한 알고리즘은 공격자가 악용할 수 있는 다른 취약점에도 노출되어 있으며, 이 프레임워크 또는 도구 세트에서 이들을 다룰 것입니다. 인터넷에는 이러한 공격에 관한 많은 정보가 있지만, 파편화되어 있거나 일반적으로 교육용이거나 학술 논문에 직접 포함되어 있습니다. 우리는 머신러닝 전문가가 아닌 사이버보안 분야에 이러한 공격 기법을 도입하고자 합니다. 우리 모두가 사이버보안 분야에서 알고 있는 MITRE ATT&CK 매트릭스 또는 공격자 전술, 기법 및 일반 지식(Attacker Tactic, Techniques, and Common Knowledge)을 활용하기로 했습니다.
OMLASP는 앞서 언급한 공격 중 일부를 실제로 수행할 수 있는 간단한 도구의 구현을 제공합니다. 모든 OMLASP 소스 코드는 Python으로 작성되었고 오픈 소스이며, 보안 감사자의 필요에 따라 수정할 수 있도록 준비되어 있습니다. 또한 이러한 도구 구현에 사용된 모든 관련 이론을 포함한 학술 논문도 포함되어 있습니다.
각 도구를 실행하는 데 필요한 모든 요구사항은 해당 디렉토리에 위치해 있습니다. 또한 올바르게 실행하는 데 필요한 모든 정보가 담긴 README 파일도 있습니다. 우리는 Linux와 Windows 11에서 도구를 테스트했습니다. 더 나은 성능을 위해 (필수는 아니지만) 16GB RAM과 GPU를 보유하는 것이 중요합니다.
각 도구에 해당하는 폴더 내부의 README 파일을 확인하세요.
이 프로젝트는 GNU General Public License에 따라 라이선스가 부여됩니다. 자세한 내용은 LICENSE 파일을 참조하세요.
본 소프트웨어는 "있는 그대로(AS IS)" 제공되며, 상품성, 특정 목적에의 적합성 및 비침해에 대한 묵시적 보증을 포함하되 이에 국한되지 않는 어떠한 종류의 명시적 또는 묵시적 보증도 없이 제공됩니다. 어떠한 경우에도 저작자 또는 저작권 보유자는 계약, 불법행위 또는 기타 행위로 인해 발생하는 모든 청구, 손해 또는 기타 책임에 대해 책임을 지지 않습니다. 본 소프트웨어의 사용 또는 기타 거래와 관련하여 발생하는 모든 책임은 제외됩니다. 귀하가 라이선스 고지가 포함된 저장소에 기여하는 경우, 동일한 조건으로 귀하의 기여에 라이선스를 부여하며, 귀하는 해당 조건에 따라 귀하의 기여에 라이선스를 부여할 권리가 있음에 동의합니다. 귀하의 기여에 대해 다른 조건으로 라이선스를 부여하는 별도의 계약(예: 기여자 라이선스 계약)이 있는 경우, 해당 계약이 우선합니다.
이 소프트웨어에는 QA 프로세스가 없습니다. 이 소프트웨어는 개념 증명(Proof of Concept)입니다.
문제나 문의사항이 있으면 다음 주소로 연락하세요: