protectai/ai-exploitsवास्तविक दुनिया के AI/ML शोषणों का एक संग्रह, जो जिम्मेदारीपूर्वक खुलासा की गई कमजोरियों के लिए है।
AI जगत में एक सुरक्षा समस्या है और यह केवल LLMs (जैसे ChatGPT) को दिए गए इनपुट तक सीमित नहीं है। Protect AI और Huntr बग बाउंटी प्लेटफ़ॉर्म पर स्वतंत्र सुरक्षा विशेषज्ञों द्वारा किए गए शोध के आधार पर, मशीन लर्निंग मॉडल बनाने, प्रशिक्षित करने और तैनात करने के लिए उपयोग किए जाने वाले टूल, लाइब्रेरी और फ्रेमवर्क के विरुद्ध कहीं अधिक प्रभावशाली और व्यावहारिक हमले मौजूद हैं। इनमें से कई हमले बिना प्रमाणीकरण की आवश्यकता के पूर्ण सिस्टम अधिग्रहण और/या संवेदनशील डेटा, मॉडल या क्रेडेंशियल्स के नुकसान का कारण बनते हैं।
इस रिपॉजिटरी के जारी होने के साथ, Protect AI सूचना सुरक्षा समुदाय को यह स्पष्ट करने की उम्मीद करता है कि वास्तविक दुनिया में AI/ML बुनियादी ढांचे के विरुद्ध व्यावहारिक हमले कैसे दिखते हैं और AI/ML इकोसिस्टम में वर्तमान में मौजूद कमजोर घटकों की संख्या के बारे में जागरूकता बढ़ाना चाहता है। अधिक भेद्यताएँ यहाँ पाई जा सकती हैं:
यह रिपॉजिटरी, ai-exploits, मशीन लर्निंग टूल को प्रभावित करने वाली जिम्मेदारी से खुलासा की गई भेद्यताओं के लिए एक्सप्लॉइट और स्कैनिंग टेम्पलेट का संग्रह है।
प्रत्येक कमजोर टूल में तीन प्रकार की उपयोगिताओं वाले कई उपफ़ोल्डर होते हैं: Metasploit मॉड्यूल, Nuclei टेम्पलेट और CSRF टेम्पलेट। Metasploit मॉड्यूल सुरक्षा पेशेवरों के लिए हैं जो भेद्यताओं का शोषण करना चाहते हैं, और Nuclei टेम्पलेट बड़ी संख्या में दूरस्थ सर्वरों को स्कैन करने के लिए हैं ताकि यह निर्धारित किया जा सके कि वे कमजोर हैं या नहीं।
Ray के विरुद्ध Metasploit मॉड्यूल में से एक को चलाने का प्रदर्शन करने वाला वीडियो:
मॉड्यूल और स्कैनिंग टेम्पलेट का उपयोग करने का सबसे आसान तरीका इस रिपॉजिटरी में Dockerfile द्वारा प्रदान की गई Docker इमेज का निर्माण करना और चलाना है। Docker इमेज में Metasploit और Nuclei पहले से इंस्टॉल होंगे, साथ ही सभी आवश्यक कॉन्फ़िगरेशन भी होंगे।
इमेज बनाएँ:
git clone https://github.com/protectai/ai-exploits && cd ai-exploits
docker build -t protectai/ai-exploits .
Docker इमेज चलाएँ:
docker run -it --rm protectai/ai-exploits /bin/bash
बाद वाला कमांड आपको कंटेनर में bash सत्र में ले जाएगा, जहाँ msfconsole और nuclei उपयोग के लिए तैयार हैं।
Metasploit कंसोल प्रारंभ करें (नए मॉड्यूल exploits/protectai श्रेणी के अंतर्गत उपलब्ध होंगे), एक मॉड्यूल लोड करें, विकल्प सेट करें और एक्सप्लॉइट चलाएँ।
msfconsole
msf6 > use exploit/protectai/ray_job_rce
msf6 exploit(protectai/ray_job_rce) > set RHOSTS <लक्ष्य IP>
msf6 exploit(protectai/ray_job_rce) > run
एक फ़ोल्डर ~/.msf4/modules/exploits/protectai बनाएँ और उसमें एक्सप्लॉइट मॉड्यूल कॉपी करें।
mkdir -p ~/.msf4/modules/exploits/protectai
cp ai-exploits/ray/msfmodules/* ~/.msf4/modules/exploits/protectai
msfconsole
msf6 > use exploit/protectai/<एक्सप्लॉइट_नाम.py>
Nuclei एक भेद्यता स्कैनिंग इंजन है जिसका उपयोग वेब अनुप्रयोगों और नेटवर्क में ज्ञात भेद्यताओं के लिए बड़ी संख्या में सर्वरों को स्कैन करने के लिए किया जा सकता है।
Nuclei टेम्पलेट फ़ोल्डर जैसे ai-exploits/mlflow/nuclei-templates पर जाएँ। Docker कंटेनर में ये /root/nuclei-templates फ़ोल्डर में संग्रहीत हैं। फिर बस टेम्पलेट फ़ाइल और लक्ष्य सर्वर को इंगित करें।
cd ai-exploits/mlflow/nuclei-templates
nuclei -t mlflow-lfi.yaml -u http://<लक्ष्य>:<पोर्ट>
क्रॉस-साइट रिक्वेस्ट फोर्जरी (CSRF) भेद्यताएँ हमलावरों को एक वेब सर्वर स्थापित करने में सक्षम बनाती हैं जो एक दुर्भावनापूर्ण HTML पेज होस्ट करता है जो पीड़ित की ओर से लक्ष्य सर्वर पर एक अनुरोध निष्पादित करेगा। यह वेब अनुप्रयोगों में भेद्यताओं का शोषण करने का एक सामान्य हमला वेक्टर है, जिसमें वे वेब अनुप्रयोग भी शामिल हैं जो केवल लोकलहोस्ट इंटरफ़ेस पर उजागर होते हैं और व्यापक नेटवर्क पर नहीं। नीचे CSRF टेम्पलेट का उपयोग करके वेब अनुप्रयोग में भेद्यता का शोषण करने का एक सरल डेमो उदाहरण दिया गया है।
csrf-templates फ़ोल्डर में एक वेब सर्वर प्रारंभ करें। Python किसी भी निर्देशिका में एक सरल वेब सर्वर स्थापित करने की अनुमति देता है। टेम्पलेट फ़ोल्डर पर जाएँ और सर्वर प्रारंभ करें।
cd ai-exploits/ray/csrf-templates
python3 -m http.server 9999
अब आपके द्वारा अभी स्थापित किए गए वेब सर्वर पते (http://127.0.0.1:9999) पर जाएँ और डेवलपर टूल खोलने के लिए F12 दबाएँ, फिर Network टैब पर क्लिक करें। ray-cmd-injection-csrf.html के लिंक पर क्लिक करें। आपको देखना चाहिए कि ब्राउज़र ने आपकी ओर से कमजोर सर्वर पर एक अनुरोध भेजा है।
हम इस रिपॉजिटरी में योगदान का स्वागत करते हैं। कृपया योगदान कैसे करें, इस बारे में अधिक जानकारी के लिए हमारे योगदान दिशानिर्देश पढ़ें।
यह प्रोजेक्ट Apache 2.0 लाइसेंस के तहत लाइसेंस प्राप्त है।