#1LLM सुरक्षा, प्रॉम्प्ट इंजेक्शन, मॉडल एक्सट्रैक्शन, एडवर्सरियल AI और AI रेड टीमिंग उपकरण।
Kitploit अनुशंसित

गहन अधिगम (डीप लर्निंग) प्रणालियों के लिए गोपनीयता परीक्षण लाइब्रेरी, जो सदस्यता अनुमान (membership inference), मॉडल निष्कर्षण (model extraction), और…

बहु-एजेंट LLM प्रणाली जो स्वायत्त रूप से वेब एप्लिकेशन सुरक्षा का आकलन करती है, टूल-आधारित निष्पादन का संचालन करती है और एक्सप्लॉइट्स को शुरू से अंत…

CVE-2024-3660 के लिए एक PoC। Keras में मनमाना कोड निष्पादन।

क्लॉड AI में एक उच्च-गंभीरता वाली प्रॉम्प्ट इंजेक्शन खामी यह साबित करती है कि सबसे समझदार भाषा मॉडल को भी हथियारों में बदला जा सकता है—बस कोड की कुछ…

भाषा मॉडलों में बैकडोर का पता लगाने और उन्हें हटाने के लिए अनुसंधान ढाँचा, जो BERT, BART, LLaMA और Qwen में विशेषता-आधारित विसंगति पहचान को…

CVE-2025-23266 (NVIDIAScape) के लिए प्रूफ-ऑफ-कॉन्सेप्ट एक्सप्लॉइट जो NVIDIA AI कंटेनर रनटाइम को लक्षित करता है। GPU ड्राइवर भेद्यता के माध्यम से…

स्वचालित वेब डोमेन पुनर्ज्ञान और सुरक्षा मूल्यांकन उपकरण जो सबडोमेन गणना, पोर्ट स्कैनिंग, भेद्यता स्कैनिंग और AI-संचालित खोज को पेनिट्रेशन टेस्टिंग…

एप्लिकेशन-एकीकृत LLMs के विरुद्ध अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन हमलों पर प्रूफ-ऑफ-कॉन्सेप्ट डेमो और शोध, जिसमें डेटा एक्सफिल्ट्रेशन, रिमोट कंट्रोल,…

जेलब्रेक, प्रॉम्प्ट लीक, प्रॉम्प्ट इंजेक्शन, LLM अटैक। बड़े भाषा मॉडल हमला प्रॉम्प्ट संग्रह

यह अध्ययन Python pickle deserialization कमजोरियों का विश्लेषण करता है, विशेष रूप से Hugging Face Transformers के TFAutoModel में CVE-2024-3568 पर…

स्वायत्त LLM-आधारित वेब एजेंटों को नियंत्रित करने के लिए अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन हमलों का अनुसंधान प्रदर्शन, ट्रिगर अनुकूलन और मूल्यांकन के लिए…

PowerShell-आधारित पहचान और सुधार टूलकिट CVE-2025-32711 (EchoLeak) के लिए, जो Microsoft 365 Copilot में एक गंभीर ज़ीरो-क्लिक AI कमांड इंजेक्शन भेद्यता…

Burp Suite एक्सटेंशन जो IDOR और एक्सेस-कंट्रोल खामियों का पता लगाने के लिए AI-जनित regex strike नियमों का उपयोग करता है, फिर बड़े पैमाने पर समान…

AI सेवाओं के साथ इंटरैक्ट करते समय prompt injection, jailbreak हमलों और हानिकारक सामग्री से सुरक्षा प्रदान करने की एक सेवा।

Langflow AI Remote Code Execution (Unauthenticated) के लिए एक्सप्लॉइट

पेपर Certified Unlearning for Neural Networks, ICML 2025 के लिए कोड

[CVPR 2025-ADVML] `Attacking Attention of Foundation Models Effectively Disrupts Downstream Tasks` के लिए आधिकारिक रिपॉज़िटरी

विभिन्न तकनीकों में वास्तविक-विश्व खतरे के मॉडल उदाहरणों का एक संग्रह, जो सुरक्षा जोखिमों की पहचान और शमन में व्यावहारिक अंतर्दृष्टि प्रदान करता है।