#1LLM सुरक्षा, प्रॉम्प्ट इंजेक्शन, मॉडल एक्सट्रैक्शन, एडवर्सरियल AI और AI रेड टीमिंग उपकरण।
Kitploit अनुशंसित
saiteja-erukude/cve-2026-47117-openmed-rceOpenMed < 1.5.2 में PII गोपनीयता-फ़िल्टर मॉडल लोडिंग और trust_remote_code=True के माध्यम से बिना प्रमाणीकरण के RCE
pinperepette/macpersistencecheckerकोड हस्ताक्षर सत्यापन और टाइमलाइन ट्रैकिंग के साथ macOS पर्सिस्टेंस मैकेनिज़्म स्कैनर।
kstenerud/yoloaiआपका एजेंट एक सुरक्षा जोखिम है, इसलिए इसे वैसे ही व्यवहार करें। yoloAI AI एजेंट सैंडबॉक्सिंग को सही तरीके से करता है।
xu-xiang/awesome-security-vul-llmयह परियोजना बड़े मॉडल और क्रॉलर को जोड़कर, GitHub पर उन सभी परियोजनाओं को खोजती है जिनमें मूल्यवान भेद्यता जानकारी और भेद्यता POC या नियम जानकारी…
salespeak-ai/buyer-eval-skillक्लॉड कोड के लिए B2B सॉफ्टवेयर विक्रेता मूल्यांकन कौशल — डोमेन-विशेषज्ञ प्रश्न, विक्रेता AI एजेंट वार्तालाप, साक्ष्य-आधारित स्कोरिंग
oligocybersecurity/shelltorchcheckerएक उपकरण जो जाँचता है कि क्या कोई TorchServe उदाहरण CVE-2023-43654 के लिए कमजोर है
gouravnagar-infosec/ai-kill-chainरक्षक-पक्ष का विस्तार जो LLM और एजेंटिक AI खतरों के लिए Lockheed Martin Cyber Kill Chain को अनुकूलित करता है। यह एक मॉडल सप्लाई चेन चरण जोड़ता है और…
albert-y1n/pismithPISmith: प्रॉम्प्ट इंजेक्शन डिफेंस के लिए रीइन्फोर्समेंट लर्निंग-आधारित रेड टीमिंग
stair-lab/certified-unlearning-neural-networks-icml-2025पेपर Certified Unlearning for Neural Networks, ICML 2025 के लिए कोड
andyshaw01/poisoncraftयह रिपॉज़िटरी POISONCRAFT: लार्ज लैंग्वेज मॉडल्स के लिए रिट्रीवल-ऑगमेंटेड जनरेशन की व्यावहारिक पॉइज़निंग का आधिकारिक कार्यान्वयन प्रदान करती है।
afterquery/vader15+ भाषाओं में बहु-फ़ाइल संदर्भ के साथ वास्तविक दुनिया की भेद्यता पहचान, स्पष्टीकरण, और सुधार पर LLM प्रदर्शन का आकलन करने के लिए मानव-मूल्यांकित…
ageofalgorithms/mahoraga-webapp-defenderएआई-संचालित प्रतिक्रियाशील वेबसाइट सुरक्षा प्रणाली जो हमलों का पता लगाती है, उनका विश्लेषण करती है, और एलएलएम एजेंटों का उपयोग करके वास्तविक समय में…
rodhnin/asterion-network-minotaurनेटवर्क और डोमेन सुरक्षा ऑडिटर जो विंडोज एक्टिव डायरेक्टरी, लिनक्स सिस्टम और नेटवर्क बुनियादी ढांचे को स्कैन करता है, AI-संचालित सख्तीकरण गाइड और…
fran-cics/exploittensorflowcve-2021-37678TP सूचना सुरक्षा UTN FRBA 2021
iulianvostrut/contexthoundस्टेटिक विश्लेषण CLI जो कोडबेस को LLM प्रॉम्प्ट-इंजेक्शन, डेटा एक्सफ़िल्ट्रेशन, जेलब्रेक तथा असुरक्षित एजेंट/टूल कमज़ोरियों के लिए स्कैन करता है।…
destawell/gemini-2.5-pro-nf-tables-red-teaminएक तकनीकी केस स्टडी और टाइमलाइन डेटासेट, जो Google Gemini 2.5 Pro की सुरक्षा संरेखण नीतियों, गार्डरेल्स, और अस्वीकृति व्यवहार के विकास का…
sushank05/mcp-doormanएक हल्का mcp जो CVE (CVE-2025-54136) को पॉइज़निंग से रोकता है, शोधकर्ताओं द्वारा प्रॉम्प्ट इंजेक्शन के माध्यम से Claude Code/Copilot/Gemini को हाईजैक…
george0papasotiriou/cve-2026-23001-hugging-face-transformers-model-deserialization-arbitrary-code-via-pickle-CVE-2026-23001 के लिए प्रूफ-ऑफ-कॉन्सेप्ट: Hugging Face Transformers में असुरक्षित pickle डिसीरियलाइज़ेशन के माध्यम से RCE को प्रदर्शित करता है,…
