#1LLM सुरक्षा, प्रॉम्प्ट इंजेक्शन, मॉडल एक्सट्रैक्शन, एडवर्सरियल AI और AI रेड टीमिंग उपकरण।
Kitploit अनुशंसित

DonkAI, OWASP Top 10 for LLM Applications (2025) के लिए एक व्यावहारिक प्रयोगशाला है - इसमें वास्तविक LLM की आवश्यकता नहीं है।
पेपर "Rethinking Latency Denial-of-Service: Attack the LLM Serving Framework, Not the Model" का कार्यान्वयन

आक्रामक AI को कवर करने वाले उपयोगी संसाधनों की एक चुनिंदा सूची।

PyTorch, TensorFlow और JAX में न्यूरल नेटवर्क को धोखा देने वाले विरोधी उदाहरण बनाने के लिए एक Python टूलबॉक्स

MCP (Model Context Protocol) सर्वर के लिए एक स्टैटिक + रनटाइम सुरक्षा स्कैनर

Self-hostable AI SOC that fuses security alerts, auto-triages via agentic AI, runs MITRE ATT&CK investigations, and logs every agent decision in a…

AI द्वारा लिखे गए सॉफ़्टवेयर के लिए स्वतंत्र सुरक्षा एजेंट। समस्याएँ ढूँढता है, जाँचता है कि वे वास्तविक हैं या नहीं, और आपको प्रमाण दिखाता है।…

AI एजेंट्स के लिए एक्सेस कंट्रोल। Claude Code, Codex, Gemini, Cursor और किसी भी MCP सर्वर को क्या करने की अनुमति है, यह सेट करें, जोखिम भरे कार्यों…

टेक्स्ट-टू-इमेज डिफ्यूज़न मॉडल में बैकडोर का पता लगाने और उन्हें हटाने (डीटॉक्सीफाई) के लिए शोध कोड, जिसमें Stable Diffusion v1.4, v1.5, XL, और 3…

मानकीकृत विरोधात्मक मजबूती बेंचमार्क जिसमें सार्वजनिक लीडरबोर्ड और डाउनलोड करने योग्य मॉडल ज़ू शामिल है, जो Lp हमलों और सामान्य विकृतियों के विरुद्ध…

केवल-अनुसंधान AI वॉटरमार्क मजबूती टूलकिट: स्थानीय रिवर्स प्रॉक्सी C2PA/EXIF/XMP, यूनिकोड, इमेज/ऑडियो स्टेगो, OOXML/PDF मेटाडेटा हटाता है, और ट्रोजन…

एक साइबर सुरक्षा शोध गेम जो मापता है कि मनुष्य AI-जनित फिशिंग ईमेल का पता कैसे लगाते हैं। एक रेट्रो टर्मिनल अनुभव के रूप में निर्मित।

Secret-Use Delegation Protocol — एजेंटिक सिस्टम्स के लिए प्रोटोकॉल-स्तरीय सीक्रेट उपयोग

एंडपॉइंट्स पर AI एजेंट गतिविधि में दृश्यता, ऑन-डिवाइस डिटेक्शन, वैकल्पिक प्री-एक्शन ब्लॉकिंग, और फोरेंसिक पुनर्निर्माण के साथ।

ब्लैक-बॉक्स इनपुट-चरण शुद्धिकरण रक्षा जो भ्रष्टाचार, विसरण पुनर्निर्माण, और DBSCAN सर्वसम्मति मतदान के माध्यम से ऑब्जेक्ट डिटेक्टरों पर बैकडोर हमलों…

Iterative एजेंट हार्नेस जो LLMs और Certora Prover का उपयोग करके स्मार्ट-कॉन्ट्रैक्ट CVL स्पेक्स उत्पन्न और परिष्कृत करता है, सफलता या अधिकतम…

कोड डिफ़्स को संदर्भ के साथ स्कैन करके एक प्रभाव ग्राफ़ बनाता है और कमज़ोरियों का पता लगाने के लिए LLM का उपयोग करता है, जो मल्टी-रेपो स्कैन और SARIF…

☸️ एजेंटिक SDLC के लिए परीक्षण प्लेटफ़ॉर्म