#1LLM सुरक्षा, प्रॉम्प्ट इंजेक्शन, मॉडल एक्सट्रैक्शन, एडवर्सरियल AI और AI रेड टीमिंग उपकरण।
Kitploit अनुशंसित

बाह्य मान, प्रतिकूल और ड्रिफ्ट पहचान के लिए एल्गोरिदम
OWASP वेब सुरक्षा परीक्षण गाइड RAG सिस्टम ChromaDB, Claude Code के लिए MCP के साथ

एक्सपोनेंशिएटेड ग्रेडिएंट डीसेंट तकनीक पर आधारित LLM पर एक नवीन प्रतिकूल हमला।

कस्टम LLM अनुप्रयोगों के लिए एक सुरक्षा स्कैनर

CAWODOG एक proof-of-concept परियोजना है जो दर्शाती है कि ऑफ़लाइन औद्योगिक मशीनों पर तैनात Python-आधारित AI मॉडलों की सुरक्षा कैसे की जाए। तीन क्रमिक…

CVE-2025-32434 के लिए अवधारणा-प्रमाण शोषण, PyTorch के weights_only मोड में एक पिकल डीसेरियलाइज़ेशन कमजोरी, दुर्भावनापूर्ण tar फ़ाइल निर्माण और…

Burp Suite Repeater एक्सटेंशन जो स्वचालित रूप से पेलोड को म्यूटेट करता है और पाथ ट्रैवर्सल, SQL इंजेक्शन, XSS, और अन्य वेब कमजोरियों को उजागर करने के…

मेरा घोषणापत्र, और कहानियाँ, चित्र, और मज़ेदार सामग्री

[ICCV 2025] अनधिकृत व्यक्तिगत छवि निर्माण हेतु छेड़छाड़-रोधी सुरक्षा

CS5446 परियोजना के लिए कोड रिपॉजिटरी, जो बड़े भाषा मॉडलों पर जेलब्रेक हमलों के विरुद्ध बचावों की खोज करती है; इसमें डेटासेट, नोटबुक, मॉडल/स्टीयरिंग…

CVE-2025-37899 को o3 के साथ खोजने पर ब्लॉग पोस्ट के लिए आर्टिफैक्ट्स

बड़े भाषा मॉडल (LLM) सिस्टम प्रॉम्प्ट को प्रतिकूल निष्कर्षण हमलों से बचाने के लिए एक ब्लैक-बॉक्स अनुकूलन दृष्टिकोण।

[NeurIPS '25] पेपर के लिए कोड "IF-Guide: Influence Function-Guided Suppression of Harmful Training Data for Reducing LLM Toxicity"

कोड कार्यान्वयन: "पैटर्न-संवर्धित मल्टी-टर्न जेलब्रेकिंग: लार्ज लैंग्वेज मॉडल्स में संरचनात्मक भेद्यताओं का शोषण"

बड़े तर्क मॉडल में सुरक्षा तर्क को हाईजैक करने के लिए स्वचालित ढांचा, सिम्युलेटेड तर्क निशान और पुनरावृत्त प्रॉम्प्ट शोधन के माध्यम से प्रभावी…

AI रेड टीमिंग प्रशिक्षण चलाने के लिए AI रेड टीमिंग प्लेग्राउंड लैब्स, जिसमें इंफ्रास्ट्रक्चर भी शामिल है।

टूल-एकीकृत LLM एजेंटों को प्रतिकूल हमलों से बचाने के लिए शोध कोड और प्रयोग, जिसमें नई रक्षा रणनीतियों और हमला परिदृश्यों के साथ Agent Security Bench…

बेंचमार्क जो कंप्यूटर-उपयोग करने वाले एजेंटों के सुरक्षा जोखिमों का मूल्यांकन करता है, जिसमें सात दुर्भावनापूर्ण श्रेणियों में 104 यथार्थवादी…