#1प्रतिकूल ML हमला फ्रेमवर्क, इवेजन तकनीक और मॉडल मजबूती मूल्यांकन उपकरण।
Kitploit अनुशंसित

रिट्रीवल-ऑगमेंटेड जनरेशन सुरक्षा पर शोध पत्रों का क्यूरेटेड संग्रह, जिसे SLOT टैक्सोनॉमी द्वारा व्यवस्थित किया गया है, जो नॉलेज पॉइज़निंग, रिट्रीवल…

LLM एजेंट बैकडोर को benign fine-tuning से बचाने वाले adapters के प्रशिक्षण के लिए शोध कोड, जिसमें trigger-rate scoring, SWE-bench मूल्यांकन, और…

अनुसंधान पाइपलाइन जो सत्यापित सफल अनुभवों का निर्माण करती है और उन्हें HTS, LEGSA, और GCTIR चरणों के माध्यम से मॉडल कौशलों को उत्तरोत्तर दूषित करने…

फाइन-ट्यूनिंग फ्रेमवर्क जो LLMs पर प्रथम-क्रम इष्टतम सुरक्षा अंशांकन और आवधिक पुनर्अंशांकन लागू करता है, जो सुरक्षा-संगत अपडेट को संरक्षित करते हुए…

पेपर Jailbreaking Open-Weight LLMs via Random Embedding Perturbations के लिए कोड, प्रतिक्रिया लॉग और लेबल

GraphRAG पाइपलाइनों में LLMs के साथ संरचनात्मक सहायक इंडेक्सिंग भेद्यताओं को उजागर करते हुए, Hop-Decayed Influence (HDI) और 3S attack framework का…

एप्लिकेशन-एकीकृत LLMs के विरुद्ध अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन हमलों पर प्रूफ-ऑफ-कॉन्सेप्ट डेमो और शोध, जिसमें डेटा एक्सफिल्ट्रेशन, रिमोट कंट्रोल,…

OpenClaw-शैली कंप्यूटर-उपयोग एजेंटों पर स्थायी मेमोरी हमलों के लिए बेंचमार्क और रक्षा कोड, जिसमें मेमोरी-ज़ोनिंग शमन, हमला परिदृश्य, और मूल्यांकन…

ब्लैक-बॉक्स LLM एक्सट्रैक्शन हमलों, रक्षाओं और अनुकूली हमलों के लिए एक जीवनचक्र बेंचमार्क।

LLM सुरक्षा: विश्लेषण करें कि फाइन-ट्यूनिंग कैसे इनकार व्यवहार को बदलती है और लेयर-फ्रीज़िंग तथा लो-रैंक रक्षा का मूल्यांकन करें।

टूल-उपयोग करने वाले LLM एजेंट पाइपलाइनों में प्रॉम्प्ट इंजेक्शन सुरक्षा कहाँ सक्रिय होती है, इसका मापन करने वाला बेंचमार्क हार्नेस, जो एक्सपोज़्ड,…

डीप लर्निंग लेटेंसी, एनर्जी-लेटेंसी और टाइमिंग (उपलब्धता) हमलों और बचावों का क्यूरेटेड इंडेक्स — ACM Computing Surveys सबमिशन का साथी।

प्रॉम्प्ट इंजेक्शन हमलों से बचाव के लिए ओपन-वेट LLMs और प्रशिक्षण/मूल्यांकन कोड, साथ ही एजेंटिक टूल-कॉलिंग और निर्देश-अनुसरण सुरक्षा के लिए बेंचमार्क।

मल्टीमॉडल स्किल इमेज में छिपे दुर्भावनापूर्ण निर्देशों का LLM एजेंट्स द्वारा प्रतिरोध किए जाने की जाँच करने वाला बेंचमार्क और मूल्यांकन हार्नेस,…

LLM-आधारित एजेंटों के लिए एजेंटिक जेलब्रेक फ्रेमवर्क, जो उभरते सुरक्षा जोखिमों की जाँच के लिए स्कीम-आधारित कार्य विभाजन, बहु-चरणीय प्रच्छन्न…

विकासवादी LLM जेलब्रेक और गार्डरेल फ्रेमवर्क जो सुरक्षा मूल्यांकन के लिए आनुवंशिक उत्परिवर्तन, मार्कोव चयन और ऑनलाइन विरोधी प्रशिक्षण के माध्यम से एक…

RL-आधारित प्रॉम्प्ट इंजेक्शन रेड टीमिंग के लिए खुला फ्रेमवर्क, जिसमें एक साझा ट्रेनर, करिकुलम लर्निंग, और AgentDojo, InjecAgent, और PIArena जैसे…

वेब-आधारित एडवर्सरी एमुलेशन प्लेटफ़ॉर्म जो Go एजेंट्स के माध्यम से Windows एंडपॉइंट्स पर Atomic Red Team परीक्षणों को ऑर्केस्ट्रेट करता है, MITRE…