#1LLM सुरक्षा, प्रॉम्प्ट इंजेक्शन, मॉडल एक्सट्रैक्शन, एडवर्सरियल AI और AI रेड टीमिंग उपकरण।
Kitploit अनुशंसित

Code for 'Steering the CensorShip: Uncovering Representation Vectors for LLM "Thought" Control'

CVPR2023: अनलर्नेबल क्लस्टर्स: लेबल-अज्ञेयवादी अनलर्नेबल उदाहरणों की ओर

Flow Integrity Deterministic Enforcement System. सूचना-प्रवाह नियंत्रण के साथ AI एजेंटों को सुरक्षित करने के लिए तंत्र।

[ICLR 2026] - पेपर के लिए आधिकारिक रिपॉजिटरी: "RedBench: बड़े भाषा मॉडलों के व्यापक रेड टीमिंग के लिए एक सार्वभौमिक डेटासेट"

CVE-फैक्ट्री

AGLS

LLM पर आर्किटेक्चर-जागरूक प्रतिकूल हमलों का उपयोग करके फाइन-ट्यूनिंग-आधारित प्रॉम्प्ट इंजेक्शन सुरक्षा (SecAlign, SecAlign++, StruQ) को तोड़ने के लिए…

OpenAnt, Knostic की ओर से, अग्रणी ओपन सोर्स LLM-आधारित भेद्यता खोज उत्पाद है, जो रक्षकों को सक्रिय रूप से सत्यापित सुरक्षा खामियों को खोजने में मदद…

Project Mantis: AI-हैकर की जवाबी हैकिंग; LLM-संचालित साइबर हमलों के विरुद्ध बचाव के रूप में प्रॉम्प्ट इंजेक्शन

LLM सुरक्षा आश्वासन के लिए इन्फेरेंस स्केलिंग

एक्सपोनेंशिएटेड ग्रेडिएंट डीसेंट तकनीक पर आधारित LLM पर एक नवीन प्रतिकूल हमला।

प्रतिकूल-सहनशील गहन शिक्षण वास्तुकला सुरक्षित 5G इनडोर स्थानीयकरण के लिए, जो सिग्नल स्पूफिंग और प्रतिकूल व्यवधानों से बचाव के लिए CNN और मल्टी-हेड…

स्वायत्त LLM-आधारित वेब एजेंटों को नियंत्रित करने के लिए अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन हमलों का अनुसंधान प्रदर्शन, ट्रिगर अनुकूलन और मूल्यांकन के लिए…

पेपर Certified Unlearning for Neural Networks, ICML 2025 के लिए कोड

ACM MM2024 के लिए कोड (मल्टीमॉडल अनलर्नेबल उदाहरण: मल्टीमॉडल कंट्रास्टिव लर्निंग के खिलाफ डेटा की सुरक्षा)

StealthRL: डिटेक्टर मजबूती का तनाव-परीक्षण करने के लिए AI टेक्स्ट को प्रतिकूल रूप से व्याख्या करने के लिए RL फ्रेमवर्क।

[NeurIPS 2025] पेपर "GuardReasoner-VL: Safeguarding VLMs via Reinforced Reasoning" के लिए आधिकारिक सोर्स कोड।

[NeurIPS '25] पेपर के लिए कोड "IF-Guide: Influence Function-Guided Suppression of Harmful Training Data for Reducing LLM Toxicity"