#1LLM सुरक्षा, प्रॉम्प्ट इंजेक्शन, मॉडल एक्सट्रैक्शन, एडवर्सरियल AI और AI रेड टीमिंग उपकरण।
Kitploit अनुशंसित
oksuzkayra/gaiaसुरक्षा शोधकर्ताओं के लिए हमले की सतह की खोज और AI-सहायता प्राप्त ट्राइएज। एंडपॉइंट और पैरामीटर मैपिंग कार्रवाई योग्य परीक्षण संकेतों के साथ।
agnuxo1/openclaw-p2pविकेंद्रीकृत स्वायत्त अनुसंधान सामूहिक। Lean 4-सत्यापित, IPFS-समर्थित, agent-native। उत्पादन पेपर: arXiv:2604.19792। p2pclaw.com पर लाइव।
cogensec/gideonखतरे की खुफिया जानकारी, कमजोरियों पर शोध, IOC विश्लेषण और रेड टीमिंग के लिए स्वायत्त सुरक्षा संचालन एजेंट। CVE अनुसंधान, पोस्ट-एक्सप्लॉइटेशन, पेलोड…
knoveleng/redeval[ICLR 2026] - पेपर के लिए आधिकारिक रिपॉजिटरी: "RedBench: बड़े भाषा मॉडलों के व्यापक रेड टीमिंग के लिए एक सार्वभौमिक डेटासेट"
kryptsec/oasisओपन-सोर्स AI सुरक्षा बेंचमार्किंग CLI. MITRE ATT&CK विश्लेषण और KSM स्कोरिंग के साथ AI मॉडलों के आक्रामक सुरक्षा कार्यों के प्रदर्शन को मापता है।
gouravnagar-infosec/ai-kill-chainरक्षक-पक्ष का विस्तार जो LLM और एजेंटिक AI खतरों के लिए Lockheed Martin Cyber Kill Chain को अनुकूलित करता है। यह एक मॉडल सप्लाई चेन चरण जोड़ता है और…
backbay-labs/hushAI एजेंटों के कार्य सीमा के लिए पोर्टेबल सुरक्षा नियम
jiamingzhang94/unlearnable-clustersCVPR2023: अनलर्नेबल क्लस्टर्स: लेबल-अज्ञेयवादी अनलर्नेबल उदाहरणों की ओर
suraj-ranganath/stealthrlStealthRL: डिटेक्टर मजबूती का तनाव-परीक्षण करने के लिए AI टेक्स्ट को प्रतिकूल रूप से व्याख्या करने के लिए RL फ्रेमवर्क।
rodhnin/argus-wp-watcherWordPress सुरक्षा स्कैनर जिसमें AI-संचालित विश्लेषण, नैतिक अनुपालन ढांचा और पेशेवर रिपोर्टिंग शामिल है।
mamadou-keita/deeclipपेपर "DeeCLIP: AI-जनित छवियों का पता लगाने के लिए एक मजबूत और सामान्यीकरणीय ट्रांसफॉर्मर-आधारित फ्रेमवर्क" का कार्यान्वयन
jpts/cve-2025-23266-pocCVE-2025-23266 (NVIDIAScape) के लिए प्रूफ-ऑफ-कॉन्सेप्ट एक्सप्लॉइट जो NVIDIA AI कंटेनर रनटाइम को लक्षित करता है। GPU ड्राइवर भेद्यता के माध्यम से…
owasp/mosaicAI सुरक्षा मानकों और दिशानिर्देशों के लिए समन्वय संरचना, विखंडन को कम करना और संगठनों में AI सिस्टम को सुरक्षित करने के लिए स्पष्ट मार्गदर्शन प्रदान…
dshapi/ai-spmयह ओपनसोर्स परियोजना एंटरप्राइज़ स्तर के AI-SPM को लागू करने के लिए समर्पित है। ऐसा करके संगठन अपने AI सिस्टम को खतरों से सक्रिय रूप से सुरक्षित कर…
stair-lab/certified-unlearning-neural-networks-icml-2025पेपर Certified Unlearning for Neural Networks, ICML 2025 के लिए कोड
deso-pk/make-trust-irrelevantअविश्वसनीय कम्प्यूटेशनल एजेंटों में विशेषाधिकार प्रभावों के नियंत्रण के लिए योजना-बद्ध प्राधिकरण आर्किटेक्चर
q-rz/saffronLLM सुरक्षा आश्वासन के लिए इन्फेरेंस स्केलिंग
nishitvp/better_opts_attacksLLM पर आर्किटेक्चर-जागरूक प्रतिकूल हमलों का उपयोग करके फाइन-ट्यूनिंग-आधारित प्रॉम्प्ट इंजेक्शन सुरक्षा (SecAlign, SecAlign++, StruQ) को तोड़ने के लिए…
