#1LLM सुरक्षा, प्रॉम्प्ट इंजेक्शन, मॉडल एक्सट्रैक्शन, एडवर्सरियल AI और AI रेड टीमिंग उपकरण।
Kitploit अनुशंसित
jeet-ganguly/birdy-edwardsस्वचालित AI-संचालित Facebook खुफिया उपकरण, जो लक्ष्य प्रोफाइलिंग, नेटवर्क विश्लेषण और खतरे की रिपोर्टिंग के लिए है। यह पूरी तरह से Ollama के माध्यम…
promptfoo/modelauditAI/ML मॉडल फ़ाइलों के लिए सुरक्षा स्कैनर। परिनियोजन से पहले दुर्भावनापूर्ण कोड, बैकडोर और कमज़ोरियों का पता लगाता है।
cookiengineer/exocompGo के लिए स्व-होस्टेड मल्टी-एजेंट वातावरण जिसमें LLM-संचालित पेंटेस्टिंग एजेंट (एक्सप्लॉइटर, रिवर्सर, थ्रेटहंटर, वेबस्कैनर) शामिल हैं, जो पर्यवेक्षित…
atsukisato/pgm-attackशोध कोड जो PGM-index पर पॉइज़निंग अटैक के लिए है, यह दर्शाता है कि कैसे सीखे गए इंडेक्स के प्रदर्शन को खराब करने के लिए प्रतिकूल डेटा तैयार किया जाए।
huhusmang/awesome-llms-for-vulnerability-detectionसमुदाय का सबसे व्यापक, निरंतर अद्यतन होने वाला सूचकांक जो सॉफ्टवेयर भेद्यता पहचान के लिए लार्ज लैंग्वेज मॉडल्स पर शोध को दर्शाता है — फ़ंक्शन-स्तर,…
0xsojalsec/uncensored-aiभाषा मॉडलों के लिए पूर्णतः स्वचालित सेंसरशिप हटाना
santanderai/autoguardrailsसंरेखण-अनुसंधान स्कैफोल्ड (ऑटोरिसर्च-शैली) LLM गार्डरेल्स के लिए: एकल policy.md सतह पर खोजें
xhowenma/ropeरक्षा ढांचा जो रूटेड ओरिजिन नीति लागू करता है, ताकि टूल-उपयोग करने वाले LLM एजेंटों में अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन को रोका जा सके, जिसमें…
elder-plinius/cl4r1t4sलीक्ड सिस्टम प्रॉम्प्ट्स ChatGPT, Claude, Gemini, Grok, Perplexity, Cursor, Lovable, Replit, और अधिक के लिए! - AI प्रणालियों की पारदर्शिता सभी के…
chanwoochoi316/kidnapragब्लैक-बॉक्स आक्रमण ढांचा जो एजेंटिक रिट्रीवल-ऑगमेंटेड जनरेशन प्रणालियों में ज़हरीले दस्तावेज़ इंजेक्ट करके तर्क-प्रक्रिया को हाईजैक करता है, जिसमें…
commando-x/vuln-bankजानबूझकर असुरक्षित बैंकिंग प्लेटफ़ॉर्म, जो यथार्थवादी व्यावहारिक लैब्स के माध्यम से वेब एप्लिकेशन, API, और AI/LLM सुरक्षा परीक्षण, सुरक्षित कोड…
owasp/donkaiDonkAI, OWASP Top 10 for LLM Applications (2025) के लिए एक व्यावहारिक प्रयोगशाला है - इसमें वास्तविक LLM की आवश्यकता नहीं है।
sushegaad/claude-skills-governance-risk-and-complianceInstallable Claude Skills providing expert-level compliance guidance for 30+ frameworks including ISO 27001, SOC 2, FedRAMP, GDPR, HIPAA, NIST CSF,…
bethgelab/foolboxPyTorch, TensorFlow और JAX में न्यूरल नेटवर्क को धोखा देने वाले विरोधी उदाहरण बनाने के लिए एक Python टूलबॉक्स
vxcontrol/pentagiपूरी तरह से स्वायत्त एआई एजेंट प्रणाली जो जटिल पैठ परीक्षण कार्यों को करने में सक्षम है।
amnsecurity/litellm-command-injection-security-assessmentLiteLLM कमांड इंजेक्शन जोखिम के लिए पेशेवर भेद्यता आकलन रिपोर्ट, जिसमें कार्यकारी सारांश, तकनीकी प्रभाव, उपचार और शमन रणनीति शामिल है।
pwnhyo/t-mapMCP सर्वरों पर LLM एजेंटों के रेड-टीमिंग के लिए ट्रैजेक्टरी-जागरूक विकासवादी खोज ढांचा, जो जोखिम श्रेणियों में भेद्यता परिदृश्यों को मैप करने के लिए…
madrylab/robustnessन्यूरल नेटवर्क को प्रशिक्षित करें, मूल्यांकन करें और अन्वेषण करें, जिसमें अंतर्निहित प्रतिकूल मजबूती उपकरण शामिल हैं, जिनमें PGD हमले, प्रतिकूल…
