#1प्रतिकूल ML हमला फ्रेमवर्क, इवेजन तकनीक और मॉडल मजबूती मूल्यांकन उपकरण।
Kitploit अनुशंसित

LLMs के विरुद्ध jailbreak हमलों की सफलता दरों (ASR और stepwise ASR) को मापने के लिए शोध कोड, जिसमें GCG जैसे हमलों के कार्यान्वयन और मूल्यांकन…
हार्डवेयर ब्रेकपॉइंट (DR0-DR7) पर आधारित पैच-रहित यूज़र-मोड हुकिंग और टेलीमेट्री इंस्ट्रूमेंटेशन इंजन (AMSI, WLDP और ETW PoC)।

एक पुनरुत्पादनीय Colab पाइपलाइन जो छह AI सुरक्षा साक्षरता दक्षता आयामों को सार्वजनिक बेंचमार्क और सर्वेक्षण सूक्ष्म-डेटा पर आधारित करती है, और…

लक्ष्य रीबाइंडिंग हमलों के लिए शोध कोड, बेंचमार्क और रक्षा, जो LLM सुरक्षा गार्डों को धोखा देकर जाली डिकॉय सामग्री को ग्रेड करने के लिए प्रेरित करते…

प्रॉम्प्ट इंजेक्शन हमलों को आपके LLM तक पहुँचने से पहले रोकें — शून्य API लागत, पूरी तरह से लोकल चलता है, 2 मिनट में इंटीग्रेट होता है। प्रॉम्प्ट…

CVE-2026-47644 के लिए प्रूफ-ऑफ-कॉन्सेप्ट और पूर्ण राइटअप: अटैचमेंट टैग ब्रेकआउट के माध्यम से Edge Copilot प्रॉम्प्ट इंजेक्शन, जिससे रेंडर किए गए ईमेल…

क्लाइंट-साइड पर JavaScript के माध्यम से फ़ाइलों को एम्बेड और पुनर्निर्मित करने वाले HTML स्मगलिंग पेज जनरेट करता है, जिसमें पेलोड एन्कोडिंग, चंकिंग,…

AI प्रणालियों के विरोधी परीक्षण और सुरक्षा मूल्यांकन के लिए एक व्यापक मार्गदर्शिका, जो संगठनों को हमलावरों द्वारा उनका शोषण करने से पहले कमज़ोरियों…

LLM-संचालित एजेंटिक समूह शिलिंग हमला ढांचा जो अनुकूली बहु-भूमिका रणनीतियों का उपयोग करके ब्लैक-बॉक्स सहयोगी-फ़िल्टरिंग सिफ़ारिश रैंकिंग में हेरफेर…

RAG विषाक्तता रक्षा के लिए हल्का मूल्यांकन हार्नेस जो चार-शर्त वाले स्वच्छ/विषाक्त रिकॉर्ड बनाता है और रोके गए लक्ष्यों, शुद्ध कमी, स्वच्छ-पक्ष…

LLM एजेंट बैकडोर को benign fine-tuning से बचाने वाले adapters के प्रशिक्षण के लिए शोध कोड, जिसमें trigger-rate scoring, SWE-bench मूल्यांकन, और…

प्रारंभिक-निकास गहराइयों वाले LLMs में जेलब्रेक भेद्यता। NeurIPS 2026 में FLMSec कार्यशाला में प्रकाशित

वाणिज्यिक इमेज जनरेटर में विज़ुअल गलत सूचना जोखिमों के मूल्यांकन के लिए रेड-टीमिंग बेंचमार्क और ब्लैक-बॉक्स अटैक फ्रेमवर्क, जिसमें 10k झूठे-दावे वाले…

विज़न-लैंग्वेज वेब एजेंट्स पर विरोधात्मक छवि हमले, विज़ुअल ग्राउंडिंग से ब्राउज़र निष्पादन तक

प्रॉम्प्ट से परे: सिम्युलेटेड मॉडरेशन ट्रेस के माध्यम से फंक्शन-कॉलिंग LLM को जेलब्रेक करना

LLM सुरक्षा: विश्लेषण करें कि फाइन-ट्यूनिंग कैसे इनकार व्यवहार को बदलती है और लेयर-फ्रीज़िंग तथा लो-रैंक रक्षा का मूल्यांकन करें।

फाइन-ट्यूनिंग फ्रेमवर्क जो LLMs पर प्रथम-क्रम इष्टतम सुरक्षा अंशांकन और आवधिक पुनर्अंशांकन लागू करता है, जो सुरक्षा-संगत अपडेट को संरक्षित करते हुए…

पेपर "Rethinking Latency Denial-of-Service: Attack the LLM Serving Framework, Not the Model" का कार्यान्वयन