#1LLM सुरक्षा, प्रॉम्प्ट इंजेक्शन, मॉडल एक्सट्रैक्शन, एडवर्सरियल AI और AI रेड टीमिंग उपकरण।
Kitploit अनुशंसित

एक संरेखण ऑडिटिंग एजेंट जो संरेखण परिकल्पना को तेजी से खोजने में सक्षम है

HopLa Burp Suite Extender प्लगइन - Burp Suite में AI क्षमताएँ, ऑटोकम्प्लीशन समर्थन, और उपयोगी पेलोड्स का एक सेट लाता है

ExploitGym एक बड़े पैमाने का, यथार्थवादी बेंचमार्क है जो वास्तविक दुनिया की सुरक्षा भेद्यताओं पर आधारित है, जिसे AI एजेंटों की एक्सप्लॉइट विकसित करने…

Burp Suite के लिए AI-संचालित भेद्यता स्कैनर एक्सटेंशन, जिसमें बहु-प्रदाता समर्थन (Ollama, OpenAI, Claude, Gemini) है

Ghidra के साथ AI-सहायता प्राप्त रिवर्स इंजीनियरिंग

opensource repo for validating agentic AI applications: redteam, behavior, supply-chain, static analysis एजेंटिक AI अनुप्रयोगों को मान्य करने के लिए…

बहु-स्रोत विश्लेषण और खतरा सूचना खोज

फाइन-ट्यूनिंग फ्रेमवर्क जो LLMs पर प्रथम-क्रम इष्टतम सुरक्षा अंशांकन और आवधिक पुनर्अंशांकन लागू करता है, जो सुरक्षा-संगत अपडेट को संरक्षित करते हुए…

LLM-जनित Python, Java, और C++ कोड में keyed, style-based watermarks को CST rewriting के माध्यम से embed और detect करता है, functional correctness…

Open-source antivirus and firewall for AI agents: block risky tools, secret access, prompt injection, malicious packages, MCP servers, plugins, and…

Policy-शासित LLMSecOps फ्रेमवर्क जो AST-आधारित SAST, secret स्कैनिंग, supply-chain और multi-cloud CSPM जाँच, AI-BoM जनरेशन, और CI/CD सुरक्षा गेट्स…

Burp Suite एक्सटेंशन जो अंतर्निहित MCP टूलिंग, AI-सहायित विश्लेषण, गोपनीयता नियंत्रण, निष्क्रिय और सक्रिय स्कैनिंग और अधिक जोड़ता है

एलएलएम एजेंट टूल कॉल्स को सुरक्षित करने के लिए कर्नेल-स्तरीय eBPF सैंडबॉक्स, जो मॉडल कॉन्टेक्स्ट प्रोटोकॉल (MCP) के माध्यम से किए जाते हैं।

टोकन दर टोकन, समझौता: एकीकृत ऑटोरेग्रेसिव मॉडल में बैकडोर भेद्यताएँ (NeurIPS'26)

GraphRAG पाइपलाइनों में LLMs के साथ संरचनात्मक सहायक इंडेक्सिंग भेद्यताओं को उजागर करते हुए, Hop-Decayed Influence (HDI) और 3S attack framework का…

LLM सुरक्षा: विश्लेषण करें कि फाइन-ट्यूनिंग कैसे इनकार व्यवहार को बदलती है और लेयर-फ्रीज़िंग तथा लो-रैंक रक्षा का मूल्यांकन करें।

पेंटेस्टर्स, AI एजेंट्स, CI/CD पाइपलाइनों और टीमों के लिए एक खुला, स्थानीय-प्रथम सुरक्षा परीक्षण प्लेटफ़ॉर्म।

एक अनुभवजन्य सुरक्षा परीक्षण मंच जो LLM एजेंटों में प्रॉम्प्ट इंजेक्शन, भ्रमित-डिप्टी कमजोरियों, और टूल-कॉलिंग सुरक्षा उपायों का मूल्यांकन करता है।