#1LLM सुरक्षा, प्रॉम्प्ट इंजेक्शन, मॉडल एक्सट्रैक्शन, एडवर्सरियल AI और AI रेड टीमिंग उपकरण।
Kitploit अनुशंसित

सुरक्षित, निजी AI एजेंट ऑपरेटिंग सिस्टम जिसमें स्थानीय एन्क्रिप्टेड स्टोरेज, OAuth/SSO प्रमाणीकरण, नीति-आधारित पहुँच नियंत्रण, और व्यक्तिगत तथा…

रक्षात्मक ढाँचा जो कार्यों के निष्पादन से पहले LLM एजेंटों के विरुद्ध प्रॉम्प्ट-इंजेक्शन और दीर्घ-कालिक खतरों का पता लगाने और उन्हें अवरुद्ध करने के…

ओपन-सोर्स इंटरैक्टिव सुरक्षा जागरूकता प्रशिक्षण लाइब्रेरी, जिसमें LMS परिनियोजन के लिए फ़िशिंग, विशिंग, BEC, MFA थकान और OWASP AI/LLM परिदृश्यों को…

LLM आंतरिक अवस्थाओं और 100+ अटेंशन/प्रोबेबिलिटी फीचर्स का विश्लेषण करके RAG प्रणालियों में दस्तावेज़ विषाक्तता हमलों का पता लगाने वाले क्लासिफायर को…

इस रिपॉज़िटरी में पेपर "[Safety in Batches? Understanding and Mitigating Safety Failures in Batch Prompting]" का आधिकारिक कार्यान्वयन शामिल है

जीरो-टच पाइपलाइन जो CISA की Known Exploited Vulnerabilities (KEV) सूची से नए हथियारबंद CVE को स्वचालित रूप से, हर सप्ताह, उत्पादन-तैयार Sigma…

Just-in-time API कुंजियाँ AI एजेंटों के लिए - और कोई भी अन्य प्रक्रिया जिसे आप इसके माध्यम से रूट करते हैं: कॉलर को हमेशा केवल एक प्लेसहोल्डर दिखता…

एक LLM-agent-powered concolic execution engine जो स्रोत कोड को इंस्ट्रूमेंट करता है, पथ बाधाओं को प्राकृतिक भाषा में सारांशित करता है, और किसी भी…

रिट्रीवल-ऑगमेंटेड जनरेशन में ज्ञान-विषाक्तता का पता लगाने के लिए स्व-संदर्भित स्थानीय कंट्रास्ट

स्वायत्त रेड टीमिंग प्लेटफॉर्म; मल्टी-एजेंट आक्रमण-सुरक्षा मेटा-हार्नेस

डीप लर्निंग लेटेंसी, एनर्जी-लेटेंसी और टाइमिंग (उपलब्धता) हमलों और बचावों का क्यूरेटेड इंडेक्स — ACM Computing Surveys सबमिशन का साथी।

LLM-संचालित स्टेट-स्पेस सर्च इंजन, जो स्वायत्त पेनेट्रेशन टेस्टिंग, CTF हल करने और भेद्यता अनुसंधान के लिए है। यह अज्ञात पथों को मूल से लक्ष्य तक…

ऑफ़लाइन और सुरक्षा-प्रथम उपकरण एजेंट कौशल को सिंक करने और प्रबंधित करने के लिए

CVE-2026-44246 को पुनरुत्पादित करता है, जो nnU-Net के GitHub Actions ट्राइएज एजेंट में एक प्रॉम्प्ट इंजेक्शन भेद्यता है, जो दर्शाता है कि इश्यू…

AI एजेंटों के लिए हस्ताक्षरित, स्कोप्ड क्रेडेंशियल्स के साथ न्यूनतम-विशेषाधिकार प्रत्यायोजन लागू करें। उप-एजेंटों को सीमित क्षमताएं और संसाधन प्रदान…

डेटा और मशीन लर्निंग मॉडल की व्याख्यात्मकता और स्पष्टीकरणीयता

बर्प सूट एक्सटेंशन जो कृत्रिम बुद्धिमत्ता के माध्यम से निष्क्रिय भेद्यता का पता लगाने को शामिल करता है।

प्रमाणित रूप से सुरक्षित भाषाई स्टेग्नोग्राफी जो रोटेशन रेंज-कोडिंग के माध्यम से LLM-उत्पन्न पाठ में गुप्त संदेश छिपाती है। इसमें embed, extract, और…