telefonica/omlaspमशीन लर्निंग एल्गोरिदम की विरोधी हमलों और पूर्वाग्रहों के विरुद्ध ऑडिट करने का ढांचा, जो साइबर सुरक्षा पेशेवरों के लिए एमएल सुरक्षा ज्ञान को जोड़ने हेतु शैक्षिक उपकरण और एक अकादमिक पेपर प्रदान करता है।
_____ _______ _______ _______ _____
| | | | | | |_____| |______ |_____]
|_____| | | | |_____ | | ______| |
OMLASP - ओपन मशीन लर्निंग एप्लिकेशन सुरक्षा परियोजना का उद्देश्य मशीन लर्निंग एल्गोरिदम के ऑडिटिंग के लिए एक मानक बनना है। यह न केवल एल्गोरिदम की सुरक्षा पर ध्यान केंद्रित करेगा बल्कि उनके पूर्वाग्रहों पर भी ध्यान केंद्रित करेगा। आमतौर पर, जब मशीन लर्निंग या डीप लर्निंग एल्गोरिदम का उपयोग करने वाले एप्लिकेशन तैनात किए जाते हैं, तो सुरक्षा ऑडिट में केवल पारंपरिक कमजोरियों की जाँच की जाती है। हालाँकि, ये एल्गोरिदम अन्य कमजोरियों के भी संपर्क में आते हैं जिनका हमलावर शोषण कर सकते हैं और जो इस फ्रेमवर्क या उपकरणों के सेट में देखी जाएंगी। इंटरनेट पर इन हमलों के बारे में बहुत सारी जानकारी है, लेकिन यह खंडित है, आमतौर पर शैक्षिक है या सीधे अकादमिक पेपर में है। हम इन हमले की तकनीकों को साइबर सुरक्षा की दुनिया में लाना चाहते हैं जो मशीन लर्निंग में विशेषज्ञ नहीं है। हमने साइबर सुरक्षा की दुनिया में कुछ ऐसा सोचा है जो हम सभी जानते हैं: MITRE ATT&CK मैट्रिक्स या हमलावर रणनीति, तकनीक और सामान्य ज्ञान।
OMLASP हमें कुछ ऐसे हमलों को करने के लिए उन्मुख सरल उपकरणों का कार्यान्वयन प्रदान करता है जिनका हमने उल्लेख किया है और अब व्यवहार में देखेंगे। OMLASP का सभी स्रोत कोड, जो Python में बनाया गया है और ओपन सोर्स है, सुरक्षा ऑडिटर की आवश्यकताओं के अनुसार संशोधित करने के लिए तैयार है। इन उपकरणों के कार्यान्वयन के लिए उपयोग किए जाने वाले सभी संबंधित सिद्धांत के साथ एक अकादमिक पेपर भी शामिल किया गया है।
विभिन्न उपकरणों को चलाने में सक्षम होने के लिए सभी आवश्यकताएँ उनके संबंधित निर्देशिका में स्थित हैं। इसे ठीक से चलाने के लिए आवश्यक सभी जानकारी के साथ एक README फ़ाइल भी है। हमने Linux और Windows 11 में उपकरणों का परीक्षण किया है। बेहतर प्रदर्शन के लिए (हालाँकि आवश्यक नहीं), 16GB RAM और GPU होना महत्वपूर्ण है।
प्रत्येक उपकरण के अनुरूप प्रत्येक फ़ोल्डर के अंदर स्थित README फ़ाइलों की जाँच करें।
यह परियोजना GNU जनरल पब्लिक लाइसेंस के तहत लाइसेंस प्राप्त है - विवरण के लिए LICENSE फ़ाइल देखें
सॉफ्टवेयर "जैसा है" प्रदान किया जाता है, बिना किसी प्रकार की वारंटी के, स्पष्ट या निहित, जिसमें व्यापारिकता, किसी विशेष उद्देश्य के लिए उपयुक्तता और उल्लंघन न होने की वारंटी शामिल है, लेकिन इन्हीं तक सीमित नहीं है। किसी भी स्थिति में लेखक या कॉपीराइट धारक किसी भी दावे, क्षति या अन्य देयता के लिए उत्तरदायी नहीं होंगे, चाहे वह अनुबंध की कार्रवाई, टोर्ट या अन्यथा में हो, सॉफ्टवेयर से या सॉफ्टवेयर के उपयोग या अन्य लेन-देन से उत्पन्न हो। जब भी आप किसी लाइसेंस की सूचना वाले रिपॉजिटरी में योगदान करते हैं, तो आप अपने योगदान को समान शर्तों के तहत लाइसेंस देते हैं, और आप सहमत हैं कि आपके पास उन शर्तों के तहत अपने योगदान को लाइसेंस देने का अधिकार है। यदि आपके पास अपने योगदान को अलग-अलग शर्तों पर लाइसेंस देने का कोई अलग समझौता है, जैसे कि योगदानकर्ता लाइसेंस समझौता, तो वह समझौता प्रबल होगा।
इस सॉफ्टवेयर में QA प्रक्रिया नहीं है। यह सॉफ्टवेयर एक अवधारणा प्रमाण है।
यदि आपको कोई समस्या या प्रश्न हैं, तो कृपया संपर्क करें: