#1LLM सुरक्षा, प्रॉम्प्ट इंजेक्शन, मॉडल एक्सट्रैक्शन, एडवर्सरियल AI और AI रेड टीमिंग उपकरण।
Kitploit अनुशंसित

पेपर Certified Unlearning for Neural Networks, ICML 2025 के लिए कोड

[CVPR 2025-ADVML] `Attacking Attention of Foundation Models Effectively Disrupts Downstream Tasks` के लिए आधिकारिक रिपॉज़िटरी

विभिन्न तकनीकों में वास्तविक-विश्व खतरे के मॉडल उदाहरणों का एक संग्रह, जो सुरक्षा जोखिमों की पहचान और शमन में व्यावहारिक अंतर्दृष्टि प्रदान करता है।

Flow Integrity Deterministic Enforcement System. सूचना-प्रवाह नियंत्रण के साथ AI एजेंटों को सुरक्षित करने के लिए तंत्र।

AISA-Scanner एक AI-संचालित स्वायत्त भेद्यता स्कैनर है जो CVEs को metasploit exploits, MITRE, CEH, और SANS से मैप करता है, और बुद्धिमान, वास्तविक समय…

वेबसाइटों, वेब सर्वरों और स्थानीय निर्देशिकाओं को स्कैन करने वाला स्वचालित स्टेग्नोग्राफ़ी पहचान उपकरण, जो AI-संचालित वस्तु/पाठ पहचान और छवियों,…

प्रतिकूल-सहनशील गहन शिक्षण वास्तुकला सुरक्षित 5G इनडोर स्थानीयकरण के लिए, जो सिग्नल स्पूफिंग और प्रतिकूल व्यवधानों से बचाव के लिए CNN और मल्टी-हेड…

यह रिपॉज़िटरी POISONCRAFT: लार्ज लैंग्वेज मॉडल्स के लिए रिट्रीवल-ऑगमेंटेड जनरेशन की व्यावहारिक पॉइज़निंग का आधिकारिक कार्यान्वयन प्रदान करती है।

प्रमाणित जुपिटर इंस्टेंस के साथ इंटरैक्ट करने के लिए एक इंटरैक्टिव CLI एप्लिकेशन।

LLM-जनित टेक्स्ट में पता लगाने योग्य सिग्नल एम्बेड करने के लिए इष्टतम युग्मन-आधारित विरूपण-मुक्त टेक्स्ट वॉटरमार्किंग का कार्यान्वयन, गुणवत्ता बनाए…

AI-संवर्धित भेद्यता मूल्यांकन और शोषण टूलकिट, वेब एप्लिकेशनों की मॉड्यूलर स्कैनिंग, SQLi, XSS, RCE, CSRF और अधिक का पता लगाने के लिए इंटरैक्टिव CLI…

दस्तावेज़ रैंकिंग के लिए LLMs का उपयोग करें

CVE-2025-492025 के लिए विस्तृत सुरक्षा सलाह, Copilot AI में एक UI गलत प्रस्तुति भेद्यता का दस्तावेजीकरण करता है जो वेब क्वेरी परिणामों में अनपेक्षित…

मानकीकृत विरोधात्मक मजबूती बेंचमार्क जिसमें सार्वजनिक लीडरबोर्ड और डाउनलोड करने योग्य मॉडल ज़ू शामिल है, जो Lp हमलों और सामान्य विकृतियों के विरुद्ध…

vllm-project vllm version 0.5.2.2 Denial of Service हमलों के प्रति संवेदनशील है।

YARA-प्रेरित प्रॉम्प्ट पैटर्न मिलान इंजन जो कीवर्ड, रेगेक्स, सिमैंटिक समानता और LLM मूल्यांकन नियमों को संयोजित करके जेलब्रेक और दुरुपयोगकारी LLM…

CVE-2024-5452 का विस्तृत तकनीकी विश्लेषण, जो DeepDiff डेल्टा संपत्ति प्रदूषण के माध्यम से PyTorch Lightning में रिमोट कोड निष्पादन भेद्यता है,…

Shodan में सार्वजनिक रूप से उजागर Ollama और llama.cpp सर्वरों को स्कैन करता है, सुरक्षा अनुसंधान के लिए होस्ट, स्थान और उपलब्ध मॉडलों की गणना करता है।