#1LLM सुरक्षा, प्रॉम्प्ट इंजेक्शन, मॉडल एक्सट्रैक्शन, एडवर्सरियल AI और AI रेड टीमिंग उपकरण।
Kitploit अनुशंसित

बेंचमार्क हार्नेस जो लंबी-अवधि के कार्यों के अंतर्गत LLM एजेंट टूल-कॉलिंग सुरक्षा का मूल्यांकन करता है, प्रॉम्प्ट-इंजेक्शन और टूल-पॉइज़निंग हमले…
"सात बड़े भाषा मॉडलों में एडवर्सेरियल जेलब्रेकिंग हमलों और रक्षाओं का व्यवस्थित मूल्यांकन" के लिए कोड

गहन अधिगम (डीप लर्निंग) प्रणालियों के लिए गोपनीयता परीक्षण लाइब्रेरी, जो सदस्यता अनुमान (membership inference), मॉडल निष्कर्षण (model extraction), और…

AI अनुप्रयोगों के लिए बहु-स्तरीय प्रॉम्प्ट इंजेक्शन डिटेक्टर, जो ह्यूरिस्टिक्स, LLM-आधारित विश्लेषण, vectorDB हमले के सिग्नेचर और कैनरी टोकन लीक का…

LLM इंटरैक्शन के लिए सुरक्षा टूलकिट

GPT के साथ सबडोमेन खोजें, मुफ्त में

3D Passive Face Liveness Detection (Anti-Spoofing) और Deepfake detection. लाइवनेस स्कोर की गणना के लिए एक एकल छवि की आवश्यकता होती है। हमारे डेटासेट…

The Python Risk Identification Tool for generative AI (PyRIT) एक ओपन सोर्स फ्रेमवर्क है जो सुरक्षा पेशेवरों और इंजीनियरों को जनरेटिव AI सिस्टम में…

AI कोडिंग एजेंट जो रहस्यों को बाहर नहीं निकाल सकते या अपने स्वयं के PRs को मर्ज नहीं कर सकते।