trailofbits/privacyraven
गहन अधिगम (डीप लर्निंग) प्रणालियों के लिए गोपनीयता परीक्षण लाइब्रेरी, जो सदस्यता अनुमान (membership inference), मॉडल निष्कर्षण (model extraction), और मॉडल विलोमन आक्रमणों (model inversion attacks) के प्रति संवेदनशीलता का आकलन तथा गोपनीयता-संरक्षण तकनीकों का मूल्यांकन सक्षम बनाती है।
नोट: यह प्रोजेक्ट फिलहाल रुका हुआ है।
PrivacyRaven एक डीप लर्निंग प्रणालियों के लिए गोपनीयता परीक्षण लाइब्रेरी है। आप इसका उपयोग यह निर्धारित करने के लिए कर सकते हैं कि कोई मॉडल विभिन्न गोपनीयता हमलों के प्रति कितना संवेदनशील है; गोपनीयता संरक्षण मशीन लर्निंग तकनीकों का मूल्यांकन करने के लिए; नए गोपनीयता मेट्रिक्स और हमले विकसित करने के लिए; और डेटा उत्पत्ति (data provenance) और अन्य उपयोग मामलों के लिए हमलों का पुनः उपयोग करने के लिए।
PrivacyRaven लेबल-ओनली ब्लैक-बॉक्स मॉडल एक्सट्रैक्शन, मेंबरशिप इन्फ्रेंस, और (जल्द ही) मॉडल इन्वर्ज़न हमलों का समर्थन करता है। हम डिफरेंशियल प्राइवेसी सत्यापन, स्वचालित हाइपरपैरामीटर ऑप्टिमाइज़ेशन, हमलों के अधिक वर्गों, और अन्य सुविधाओं को शामिल करने की योजना बना रहे हैं; अधिक जानकारी के लिए GitHub issues देखें। PrivacyRaven को OpenMined Privacy Conference, Empire Hacking, और Trail of Bits blog में प्रदर्शित किया गया है।
डीप लर्निंग प्रणालियाँ, विशेष रूप से तंत्रिका नेटवर्क, कई अनुप्रयोगों में फैल गई हैं, जिनमें चेहरे की पहचान और चिकित्सा निदान जैसे गोपनीयता-संवेदनशील उपयोग के मामले शामिल हैं। हालाँकि, ये मॉडल गोपनीयता हमलों के प्रति संवेदनशील हैं जो मॉडल की बौद्धिक संपदा और प्रशिक्षण डेटा की गोपनीयता दोनों को लक्षित करते हैं। हालिया साहित्य में विभिन्न प्रणालियों पर गोपनीयता हमलों और बचावों के बीच एक हथियारों की दौड़ देखी गई है। और अब तक, इंजीनियरों और शोधकर्ताओं के पास इस प्रवृत्ति का मुकाबला करने के लिए आवश्यक गोपनीयता विश्लेषण उपकरण नहीं थे। इसलिए, हमने PrivacyRaven विकसित किया - एक मशीन लर्निंग आश्वासन उपकरण जिसका उद्देश्य है:
PrivacyRaven प्रत्येक हमले को कई अनुकूलन योग्य और अनुकूलनीय चरणों में विभाजित करता है। प्रत्येक हमले के लिए अलग-अलग इंटरफ़ेस भी प्रदान किए जाते हैं। नीचे दिखाया गया इंटरफ़ेस कोर इंटरफ़ेस के रूप में जाना जाता है। PrivacyRaven साहित्य में पाए जाने वाले विशिष्ट हमले कॉन्फ़िगरेशन के आसपास रैपर और एक रन-ऑल-अटैक्स सुविधा भी प्रदान करता है।
PrivacyRaven में मॉडल एक्सट्रैक्शन हमला लॉन्च करने का तरीका यहाँ दिया गया है:
#examples/extract_mnist_gpu.py
import privacyraven as pr
from privacyraven.utils.data import get_emnist_data
from privacyraven.extraction.core import ModelExtractionAttack
from privacyraven.utils.query import get_target
from privacyraven.models.victim import train_four_layer_mnist_victim
from privacyraven.models.four_layer import FourLayerClassifier
# Create a query function for a target PyTorch Lightning model
model = train_four_layer_mnist_victim()
def query_mnist(input_data):
# PrivacyRaven provides built-in query functions
return get_target(model, input_data, (1, 28, 28, 1))
# Obtain seed (or public) data to be used in extraction
emnist_train, emnist_test = get_emnist_data()
# Run a model extraction attack
attack = ModelExtractionAttack(
query_mnist, # query function
200, # query limit
(1, 28, 28, 1), # victim input shape
10, # number of targets
(3, 1, 28, 28), # substitute input shape
"copycat", # synthesizer name
FourLayerClassifier, # substitute model architecture
784, # substitute input size
emnist_train, # seed train data
emnist_test, # seed test data
)
चूंकि विक्टिम मॉडल से एकमात्र मुख्य आवश्यकता एक क्वेरी फ़ंक्शन है, PrivacyRaven का उपयोग फ्रेमवर्क और वितरण विधि की परवाह किए बिना कई प्रकार के मॉडलों पर हमला करने के लिए किया जा सकता है।
हमलों के अन्य वर्गों को भी समान तरीके से लॉन्च किया जा सकता है। अधिक जानकारी के लिए examples फ़ोल्डर देखें।
poetry update चलाएँpoetry install चलाएँ।यदि आप Jupyter Notebook वातावरण का उपयोग करना चाहते हैं, तो poetry shell और फिर jupyter notebook चलाएँ।
इसके अतिरिक्त, यदि आप PrivacyRaven को Docker कंटेनर में चलाना चाहते हैं, तो chmod +x build.sh और फिर ./build.sh चलाएँ। ध्यान दें कि आप Docker को आवंटित संसाधनों की मात्रा के आधार पर, PrivacyRaven का प्रदर्शन काफी प्रभावित हो सकता है।
यदि आपको PrivacyRaven का उपयोग करने या विस्तार करने में सहायता चाहिए, तो Empire Hacking में हमारे #privacyraven चैनल से जुड़ने के लिए स्वतंत्र महसूस करें। आधिकारिक pip रिलीज़ जल्द ही आएगी।
कृपया ध्यान दें कि PrivacyRaven अभी भी विकास के शुरुआती चरण में है और तेजी से बदल रहा है। उपयोगकर्ताओं को सलाह दी जाती है कि वे बार-बार अपडेट करें और PrivacyRaven को महत्वपूर्ण उपयोग मामलों पर लागू करने से बचें।
PrivacyRaven अभी भी कार्य प्रगति पर है। हम आपको आमंत्रित करते हैं कि आप जितना भी योगदान दे सकते हैं, चाहे आप एक नई संश्लेषण तकनीक शामिल करना चाहें या किसी हमले के फ़ंक्शन को अधिक पठनीय बनाना चाहें। आरंभ करने के लिए कृपया CONTRIBUTING.md पर जाएँ।
रेवेन (कौआ) समय के साथ विभिन्न संस्कृतियों में कई अवधारणाओं से जुड़ा रहा है। इनमें से, रेवेन आमतौर पर भविष्यवाणी और अंतर्दृष्टि से जुड़ा है। स्वाभाविक रूप से, हमने इस उपकरण का नाम PrivacyRaven रखा क्योंकि इसे डीप लर्निंग की गोपनीयता में अंतर्दृष्टि प्रदान करने के लिए डिज़ाइन किया गया है।
मुख्य अनुरक्षक हैं:
यह लाइब्रेरी Apache License 2.0 के अंतर्गत उपलब्ध है। नियमों के अपवाद के लिए, कृपया हमसे संपर्क करें।
जबकि PrivacyRaven को मशीन लर्निंग गोपनीयता पर हमला करने वाले अनेक शोधों पर बनाया गया था, PrivacyRaven के विकास के लिए सबसे महत्वपूर्ण शोध हैं:
यह PrivacyRaven पर चर्चा करने वाले प्रकाशनों, प्रस्तुतियों, ब्लॉग पोस्टों और अन्य सार्वजनिक मीडिया की सूची है।