जनरेटिव AI सिस्टम की रेड-टीमिंग के लिए ओपन-सोर्स फ्रेमवर्क: अटैक प्रॉम्प्ट्स को स्वचालित करें, मॉडल प्रतिक्रियाओं को स्कोर करें, और सुरक्षा व सेफ्टी जोखिमों की पहचान करने के लिए व्यवहार का ऑडिट करें।
जनरेटिव AI के लिए Python जोखिम पहचान उपकरण (PyRIT) एक ओपन सोर्स फ्रेमवर्क है जिसे सुरक्षा पेशेवरों और इंजीनियरों को सशक्त बनाने के लिए बनाया गया है ताकि वे जनरेटिव AI प्रणालियों में सक्रिय रूप से जोखिमों की पहचान कर सकें।
इस परियोजना में परियोजनाओं, उत्पादों या सेवाओं के ट्रेडमार्क या लोगो हो सकते हैं। Microsoft ट्रेडमार्क या लोगो का अधिकृत उपयोग Microsoft की ट्रेडमार्क और ब्रांड दिशानिर्देशों के अधीन है और उनका पालन करना चाहिए। इस परियोजना के संशोधित संस्करणों में Microsoft ट्रेडमार्क या लोगो के उपयोग से भ्रम नहीं होना चाहिए या Microsoft प्रायोजन का संकेत नहीं मिलना चाहिए। किसी भी तृतीय-पक्ष ट्रेडमार्क या लोगो का उपयोग उन तृतीय-पक्ष की नीतियों के अधीन है।
यदि आप अपने शोध में PyRIT का उपयोग करते हैं, तो कृपया इस रिपॉजिटरी के रूट में मौजूद CITATION.cff फ़ाइल के अनुसार टूल को उद्धृत करें।
