#1प्रतिकूल ML हमला फ्रेमवर्क, इवेजन तकनीक और मॉडल मजबूती मूल्यांकन उपकरण।
Kitploit अनुशंसित

[ICLR 2026] - पेपर के लिए आधिकारिक रिपॉजिटरी: "RedBench: बड़े भाषा मॉडलों के व्यापक रेड टीमिंग के लिए एक सार्वभौमिक डेटासेट"
AGLS

LLM पर आर्किटेक्चर-जागरूक प्रतिकूल हमलों का उपयोग करके फाइन-ट्यूनिंग-आधारित प्रॉम्प्ट इंजेक्शन सुरक्षा (SecAlign, SecAlign++, StruQ) को तोड़ने के लिए…

Project Mantis: AI-हैकर की जवाबी हैकिंग; LLM-संचालित साइबर हमलों के विरुद्ध बचाव के रूप में प्रॉम्प्ट इंजेक्शन

एक्सपोनेंशिएटेड ग्रेडिएंट डीसेंट तकनीक पर आधारित LLM पर एक नवीन प्रतिकूल हमला।

प्रतिकूल-सहनशील गहन शिक्षण वास्तुकला सुरक्षित 5G इनडोर स्थानीयकरण के लिए, जो सिग्नल स्पूफिंग और प्रतिकूल व्यवधानों से बचाव के लिए CNN और मल्टी-हेड…

स्वायत्त LLM-आधारित वेब एजेंटों को नियंत्रित करने के लिए अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन हमलों का अनुसंधान प्रदर्शन, ट्रिगर अनुकूलन और मूल्यांकन के लिए…

ACM MM2024 के लिए कोड (मल्टीमॉडल अनलर्नेबल उदाहरण: मल्टीमॉडल कंट्रास्टिव लर्निंग के खिलाफ डेटा की सुरक्षा)

StealthRL: डिटेक्टर मजबूती का तनाव-परीक्षण करने के लिए AI टेक्स्ट को प्रतिकूल रूप से व्याख्या करने के लिए RL फ्रेमवर्क।

एलएलएम की भावात्मक प्रासंगिक क्षरण (ACE) और संबंधित सीमांत हमले वैक्टरों के प्रति संवेदनशीलता को मापने के लिए एक नैदानिक ढांचा। **Delirium** एक शोषण…

CS5446 परियोजना के लिए कोड रिपॉजिटरी, जो बड़े भाषा मॉडलों पर जेलब्रेक हमलों के विरुद्ध बचावों की खोज करती है; इसमें डेटासेट, नोटबुक, मॉडल/स्टीयरिंग…

कारणात्मक संदर्भ आरोपण और नियम-आधारित मॉनिटर LLM एजेंटों में अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन के विरुद्ध LLM रक्षा, जो AgentDyn और अन्य बेंचमार्क पर…

OpenClaw एजेंटों का मूल्यांकन करने के लिए सुरक्षा बेंचमार्क, जो प्रतिकूल निष्पादन संदर्भों (adversarial execution contexts) के विरुद्ध काम करता है,…

हैंड्स-ऑन AI सुरक्षा लैब प्लेटफ़ॉर्म जिसमें प्रॉम्प्ट इंजेक्शन, एजेंटिक सिस्टम शोषण, मॉडल हेरफेर, और MCP ट्रस्ट बाउंड्री हमलों पर 50+ परिदृश्य शामिल…

AI सुरक्षा सत्यापन मानक (AISVS) डेवलपर्स, आर्किटेक्ट्स और सुरक्षा पेशेवरों को AI-संचालित अनुप्रयोगों की सुरक्षा सत्यापित करने के लिए एक संरचित…

विभिन्न LLM, मुख्य रूप से Claude को जेलब्रेक करने के लिए एक रेपो

सुरक्षा प्रशिक्षण के लिए जानबूझकर कमजोर मशीन लर्निंग मॉडल। सुरक्षित प्रयोगशाला वातावरण में सामान्य ML कमजोरियों, प्रतिकूल हमलों और रक्षात्मक तकनीकों…

दो-चरणीय प्रॉम्प्ट-इंजेक्शन और जेलब्रेक डिटेक्टर: रेगेक्स गेट्स के साथ एक क्वांटाइज्ड DeBERTa-v3 ONNX क्लासिफायर, जिसमें इमेज, डॉक्यूमेंट और ऑडियो…