जनरेटिव AI सिस्टम की रेड-टीमिंग के लिए ओपन-सोर्स फ्रेमवर्क: अटैक प्रॉम्प्ट्स को स्वचालित करें, मॉडल प्रतिक्रियाओं को स्कोर करें, और सुरक्षा व सेफ्टी जोखिमों की पहचान करने के लिए व्यवहार का ऑडिट करें।
PyRIT (Python Risk Identification Tool for generative AI) एक ओपन-सोर्स टूलकिट है जो स्वचालित स्कैन, अनुकूली बहु-टर्न हमलों और मानव-नेतृत्व वाले परीक्षण के माध्यम से जनरेटिव AI प्रणालियों में सुरक्षा और संरक्षा संबंधी कमजोरियों को खोजने के लिए है।
Microsoft AI Red Team और योगदानकर्ताओं के एक ओपन-सोर्स समुदाय द्वारा निर्मित, PyRIT एक कमांड-लाइन स्कैनर, एक ग्राफ़िकल इंटरफ़ेस और एक विस्तारणीय Python फ़्रेमवर्क को एक ही टूलकिट में एक साथ लाता है।
शामिल होने के लिए आपको Microsoft का कर्मचारी या अनुभवी रेड टीमर होने की आवश्यकता नहीं है। प्रश्न पूछने, तकनीकों का आदान-प्रदान करने, आप जो बना रहे हैं उसे साझा करने और मेंटेनरों तथा अन्य उपयोगकर्ताओं से जुड़ने के लिए हमारे Discord समुदाय से जुड़ें।
योगदान में कोड, दस्तावेज़ीकरण, उदाहरण, बग रिपोर्ट, परीक्षण और वास्तविक दुनिया के उपयोग से प्राप्त प्रतिक्रिया शामिल हैं। योगदानकर्ता गाइड पढ़ें और "help wanted" लेबल वाले issues देखें।
शुरू करें | Discord से जुड़ें | व्हाइटपेपर पढ़ें
इंस्टॉलेशन, कॉन्फ़िगरेशन, डेमो और दस्तावेज़ीकरण के लिए हमारी वेबसाइट पर जाएँ। अपने इंस्टॉलेशन से दस्तावेज़ों का मिलान करने के लिए वर्ज़न पिकर का उपयोग करें; ऊपर दिए गए गाइड नवीनतम विकास संस्करण का अनुसरण करते हैं।
OpenAI, Anthropic, Azure OpenAI, Microsoft Foundry, Azure Machine Learning, Google Gemini, Google Vertex AI, AWS Bedrock, Hugging Face, Ollama, Groq, OpenRouter, Cohere, और GitHub Copilot से कनेक्ट करें।
OpenAI-संगत APIs या अंतर्निहित targets का उपयोग करें, या अतिरिक्त प्रदाता एकीकरण के लिए वैकल्पिक LiteLLM adapter इंस्टॉल करें। सेटअप और अधिक प्रदाताओं के लिए प्रदाता कॉन्फ़िगरेशन गाइड और LiteLLM प्रदाता निर्देशिका देखें। उपलब्ध सुविधाएँ target और मॉडल पर निर्भर करती हैं।
HTTP, WebSockets, Playwright के साथ ब्राउज़र ऑटोमेशन, या कस्टम targets के माध्यम से संपूर्ण अनुप्रयोगों और अन्य endpoints का परीक्षण करें।
टूलकिट के पीछे के डिज़ाइन सिद्धांतों और वास्तविक दुनिया के अनुभव के लिए
PyRIT: Democratizing AI Red Teaming Through Open-Source Tooling
पढ़ें।
यदि आप अपने अनुसंधान में PyRIT का उपयोग करते हैं, तो कृपया
CITATION.cff का उपयोग करके पेपर को उद्धृत करें।
Microsoft Security Response Center के माध्यम से PyRIT में कमज़ोरियों की निजी तौर पर रिपोर्ट करने के लिए, हमारी security policy का पालन करें।
इस प्रोजेक्ट में प्रोजेक्ट्स, उत्पादों या सेवाओं के लिए ट्रेडमार्क या लोगो शामिल हो सकते हैं। Microsoft ट्रेडमार्क या लोगो का अधिकृत उपयोग Microsoft's Trademark & Brand Guidelines के अधीन है और उसका पालन करना आवश्यक है। इस प्रोजेक्ट के संशोधित संस्करणों में Microsoft ट्रेडमार्क या लोगो का उपयोग भ्रम उत्पन्न नहीं करना चाहिए और न ही Microsoft के प्रायोजन का संकेत देना चाहिए। किसी भी तृतीय-पक्ष ट्रेडमार्क या लोगो का उपयोग उन तृतीय-पक्षों की नीतियों के अधीन है।
