#1LLM सुरक्षा, प्रॉम्प्ट इंजेक्शन, मॉडल एक्सट्रैक्शन, एडवर्सरियल AI और AI रेड टीमिंग उपकरण।
Kitploit अनुशंसित

कोड सुरक्षा भेद्यता पहचान में LLM सामान्यीकरण सीमाओं का दस्तावेजीकरण करने वाला शोध रिपॉजिटरी, SQL इंजेक्शन, पाथ ट्रैवर्सल और एक्सेस कंट्रोल दोषों के…

CVE-2026-77521 (MaxKB प्रॉम्प्ट-इंजेक्टेबल कमांड निष्पादन) का सौम्य, स्व-निहित पुनरुत्पादन

AI मॉडलों के सुरक्षा-संबंधी मेटाडेटा के दस्तावेज़ीकरण के लिए खुला मानक, जिसमें प्रशिक्षण डेटा की उत्पत्ति, PII जोखिम, ज्ञात कमज़ोरियाँ और आपूर्ति…

एक पुनरुत्पादनीय Colab पाइपलाइन जो छह AI सुरक्षा साक्षरता दक्षता आयामों को सार्वजनिक बेंचमार्क और सर्वेक्षण सूक्ष्म-डेटा पर आधारित करती है, और…

इस रिपॉज़िटरी में पेपर "[Safety in Batches? Understanding and Mitigating Safety Failures in Batch Prompting]" का आधिकारिक कार्यान्वयन शामिल है

RAG विषाक्तता रक्षा के लिए हल्का मूल्यांकन हार्नेस जो चार-शर्त वाले स्वच्छ/विषाक्त रिकॉर्ड बनाता है और रोके गए लक्ष्यों, शुद्ध कमी, स्वच्छ-पक्ष…

Ghidra के विश्लेषणात्मक कोर का C++ पुनः कार्यान्वयन, बिना JVM निर्भरताओं के, जो एम्बेड करने योग्य बाइनरी विश्लेषण, Pcode/Sleigh आधार, और रिवर्स…

एक प्रासंगिक सुरक्षा ऑडिटिंग प्रणाली जो शोध कलाकृतियों के लिए है

LLM प्रॉम्प्ट इंजेक्शन हमलों, बचाव और सुरक्षा के बारे में सीखने और शोध करने के लिए संसाधनों का एक चुनिंदा संग्रह।

AGLS

स्पाइकिंग न्यूरल नेटवर्क्स पर रेट, लेटेंसी, और जिटर ट्रिगर्स का उपयोग करते हुए स्थानिक व्यवधान के बिना टेम्पोरल-ट्रिगर बैकडोर हमलों, T-Backdoor को…

सुरक्षा प्रशिक्षण के लिए जानबूझकर कमजोर मशीन लर्निंग मॉडल। सुरक्षित प्रयोगशाला वातावरण में सामान्य ML कमजोरियों, प्रतिकूल हमलों और रक्षात्मक तकनीकों…

वेट-स्तरीय LLM फोरेंसिक्स: मॉडल वेट्स का diff करें, फाइन-ट्यून, मर्ज और छिपे हुए व्युत्पन्नों का पता लगाएं, और null-बेसलाइन स्कोरिंग के साथ उन टोकनों…

Agile स्प्रिंट्स को DevOps CI/CD पाइपलाइनों के साथ एकीकृत करने के लिए एक संपूर्ण मार्गदर्शिका और कार्यप्रवाह।

सैंडबॉक्स और MCP प्रॉक्सी जो AI कोडिंग एजेंट्स को SSH कुंजियाँ, AWS क्रेडेंशियल्स, और .env फ़ाइलें पढ़ने से रोकता है, डिफ़ॉल्ट-रूप-से-अस्वीकार नीति…

Nanashi Bx2 द्वारा साइबर सुरक्षा राइटअप, वॉकथ्रू और तकनीकी नोट्स।

CVE-2026-20685 - ड्राफ्ट या TODO

बहु-चरणीय प्रॉम्प्ट इंजेक्शन तकनीक जो पहचान पुनःनिर्धारण, अस्वीकृति दमन और आउटपुट बाध्यता के माध्यम से LLM सुरक्षा संरेखण को दरकिनार करती है, जो…