#1LLM सुरक्षा, प्रॉम्प्ट इंजेक्शन, मॉडल एक्सट्रैक्शन, एडवर्सरियल AI और AI रेड टीमिंग उपकरण।
Kitploit अनुशंसित

हमलों का निर्माण करने, सुरक्षा उपाय बनाने और दोनों की बेंचमार्किंग करने के लिए एक एडवर्सेरियल उदाहरण लाइब्रेरी

PyTorch, TensorFlow और JAX में न्यूरल नेटवर्क को धोखा देने वाले विरोधी उदाहरण बनाने के लिए एक Python टूलबॉक्स

मॉडल सीरियलाइज़ेशन हमलों से सुरक्षा

बाह्य मान, प्रतिकूल और ड्रिफ्ट पहचान के लिए एल्गोरिदम

आपके LLM एजेंटिक वर्कफ़्लो के लिए एक सुरक्षा स्कैनर

बैकडोर लर्निंग पेपर्स, सर्वेक्षणों और टूलबॉक्सों की एक क्यूरेटेड सूची, जो शोधकर्ताओं और सुरक्षा पेशेवरों के लिए डीप लर्निंग में पॉइज़निंग-आधारित…

न्यूरल नेटवर्क को प्रशिक्षित करें, मूल्यांकन करें और अन्वेषण करें, जिसमें अंतर्निहित प्रतिकूल मजबूती उपकरण शामिल हैं, जिनमें PGD हमले, प्रतिकूल…

मल्टीमॉडल AI मॉडल (GPT-4o, Gemini) और Selenium के साथ CAPTCHA समाधान को स्वचालित करता है, जो कमांड-लाइन इंटरफ़ेस के माध्यम से टेक्स्ट, ऑडियो, स्लाइडर…

मानकीकृत विरोधात्मक मजबूती बेंचमार्क जिसमें सार्वजनिक लीडरबोर्ड और डाउनलोड करने योग्य मॉडल ज़ू शामिल है, जो Lp हमलों और सामान्य विकृतियों के विरुद्ध…

डेटा और मशीन लर्निंग मॉडल की व्याख्यात्मकता और स्पष्टीकरणीयता

🥂 मल्टीमॉडल लार्ज लैंग्वेज मॉडल के साथ hCaptcha चुनौती का सामना सहजता से करें।

आक्रामक AI को कवर करने वाले उपयोगी संसाधनों की एक चुनिंदा सूची।

जानबूझकर असुरक्षित बैंकिंग प्लेटफ़ॉर्म, जो यथार्थवादी व्यावहारिक लैब्स के माध्यम से वेब एप्लिकेशन, API, और AI/LLM सुरक्षा परीक्षण, सुरक्षित कोड…

क्लाउड कोडिंग एजेंट्स से निजी डेटा, आंतरिक इंफ्रास्ट्रक्चर और सीक्रेट्स को बाहर रखें, बिना अपना वर्कफ़्लो तोड़े।

जनरेटिव AI सिस्टम की रेड-टीमिंग के लिए ओपन-सोर्स फ्रेमवर्क: अटैक प्रॉम्प्ट्स को स्वचालित करें, मॉडल प्रतिक्रियाओं को स्कोर करें, और सुरक्षा व सेफ्टी…

Security scanner for AI/ML model files. Detects malicious code, backdoors, and vulnerabilities before deployment

🐢 LLM एजेंटों के लिए ओपन-सोर्स मूल्यांकन एवं परीक्षण लाइब्रेरी

LLM सुरक्षा का आकलन और सुधार करने के लिए उपकरणों का सेट।