#1LLM सुरक्षा, प्रॉम्प्ट इंजेक्शन, मॉडल एक्सट्रैक्शन, एडवर्सरियल AI और AI रेड टीमिंग उपकरण।
Kitploit अनुशंसित

प्रॉम्प्ट से परे: सिम्युलेटेड मॉडरेशन ट्रेस के माध्यम से फंक्शन-कॉलिंग LLM को जेलब्रेक करना
एआई कोडिंग एजेंट इंफ्रास्ट्रक्चर पर खुला सुरक्षा अनुसंधान। CVE-2026-22812 और CVE-2026-22813 के लिए एजेंट-निष्पादन योग्य सुधार मैनिफेस्ट।

साइबर सुरक्षा में LLM अनुप्रयोगों पर 756+ पेपरों की क्यूरेटेड व्यवस्थित साहित्य समीक्षा, जिसमें थ्रेट इंटेलिजेंस, भेद्यता पहचान, फ़ज़िंग, आक्रमण/बचाव…

DECEIVE (मूल्यांकनात्मक एकीकृत सत्यापन इंजन के साथ धोखा): एक LLM को सारा कठिन हनीपॉट काम करने दें!

[NeurIPS 2025] पेपर "GuardReasoner-VL: Safeguarding VLMs via Reinforced Reasoning" के लिए आधिकारिक सोर्स कोड।

EU AI Act अनुपालन उपकरण - जोखिम वर्गीकरण और पूर्वाग्रह परीक्षण

व्यवहारिक मूल्यांकन प्रयोगशाला (Quorum) superpowers परियोजना के लिए जो वास्तविक कोडिंग-एजेंट CLI (Claude, Codex, Gemini, Kimi, और अन्य) को एक QA…

व्यावहारिक AI सुरक्षा सीखने का मंच जिसमें जानबूझकर कमजोर LLM अनुप्रयोग शामिल हैं। इंटरैक्टिव पिज़्ज़ा शॉप परिदृश्यों के माध्यम से LLMs के लिए OWASP…

AMBER ICI v5: केस-स्कोप्ड साक्ष्य, एजेंट चेन, हाइब्रिड रिट्रीवल, स्ट्रीमिंग विश्लेषण, ग्राफ़ और टाइमलाइन दृश्य, OCR, नियंत्रित वेब रिसर्च और GPU…

ऑफलाइन एआई के साथ पोर्टेबल इंटेलिजेंट पहचान नेटवर्क

ओपन-सोर्स प्रॉम्प्ट इंजेक्शन हमला कंसोल। किसी भी एंडपॉइंट पर वर्गीकृत हमलों को चलाकर AI सुरक्षा का परीक्षण करें।

AGLS

सॉफ्टवेयर भेद्यता का पता लगाने और मरम्मत के लिए एक एन्सेम्बल फ्रेमवर्क जो कई बड़े भाषा मॉडलों का उपयोग करता है, जिसमें सटीकता-पुनरावृत्ति व्यापार-बंद…

LLM के लिए बैकडोर हमले और बचाव विधियों को लागू करने वाला शोध कोड, जिसमें IBSD, SLIP, BeDKD और BadApex एल्गोरिद्म शामिल हैं।

Python लाइब्रेरी जो Ghidra बाइनरी विश्लेषण, C/C++ भेद्यता स्कैनिंग, और स्वचालित रिवर्स इंजीनियरिंग तथा रिपोर्ट निर्माण के लिए MCP टूल एकीकरण के साथ…

NetLogic ट्रैफ़िक निरीक्षण, पैकेट विश्लेषण और खतरे का पता लगाने के लिए एक उन्नत नेटवर्क विश्लेषण और साइबर सुरक्षा टूलकिट है

mlx-metal importlib के माध्यम से Docker कंटेनर एस्केप POC

SafeForge एक ओपन-सोर्स मोबाइल ऐप हब है जो GitLab पर बनाया गया है, जो डेवलपर्स को एक सुरक्षित, AI-सत्यापित पारिस्थितिकी तंत्र में एप्लिकेशन बनाने,…