#1प्रतिकूल ML हमला फ्रेमवर्क, इवेजन तकनीक और मॉडल मजबूती मूल्यांकन उपकरण।
Kitploit अनुशंसित

सार्वजनिक रूप से रिपोर्ट की गई prompt-injection तकनीकों का ट्रैकर, जिसे डिलीवरी विधि, एन्कोडिंग, और प्रसार व्यवहार के आधार पर विभाजित किया गया है,…

एक गोपनीयता-प्रथम ऐप जो आपकी स्वयं की सामग्री से AI वॉटरमार्क हटाता है।

वेब-आधारित एडवर्सरी एमुलेशन प्लेटफ़ॉर्म जो Go एजेंट्स के माध्यम से Windows एंडपॉइंट्स पर Atomic Red Team परीक्षणों को ऑर्केस्ट्रेट करता है, MITRE…

🐢 LLM एजेंटों के लिए ओपन-सोर्स मूल्यांकन एवं परीक्षण लाइब्रेरी

MITRE ATT&CK के लिए SQLite रिलेशनल डेटा मॉडल और एक एडवर्सरी एमुलेशन प्लानिंग टूल, जिसे Red Canary ATOMIC टेस्ट और APT3 एमुलेशन प्लान के साथ समृद्ध…

बैकडोर लर्निंग पेपर्स, सर्वेक्षणों और टूलबॉक्सों की एक क्यूरेटेड सूची, जो शोधकर्ताओं और सुरक्षा पेशेवरों के लिए डीप लर्निंग में पॉइज़निंग-आधारित…

प्रॉम्प्ट इंजेक्शन हमलों से बचाव के लिए ओपन-वेट LLMs और प्रशिक्षण/मूल्यांकन कोड, साथ ही एजेंटिक टूल-कॉलिंग और निर्देश-अनुसरण सुरक्षा के लिए बेंचमार्क।

LLM सुरक्षा का आकलन और सुधार करने के लिए उपकरणों का सेट।

हमने 6 एआई से उनकी खुद की प्रोग्रामिंग के बारे में पूछा। सभी 6 ने कहा कि जेलब्रेकिंग कभी ठीक नहीं होगी। इसे स्वयं चलाएँ — $2, 10 मिनट।

रिट्रीवल-ऑगमेंटेड जनरेशन सुरक्षा पर शोध पत्रों का क्यूरेटेड संग्रह, जिसे SLOT टैक्सोनॉमी द्वारा व्यवस्थित किया गया है, जो नॉलेज पॉइज़निंग, रिट्रीवल…

डीप लर्निंग लेटेंसी, एनर्जी-लेटेंसी और टाइमिंग (उपलब्धता) हमलों और बचावों का क्यूरेटेड इंडेक्स — ACM Computing Surveys सबमिशन का साथी।

Ghostsplice रिपॉजिटरी: क्रॉस-चैनल ट्रस्ट फ्रैगमेंटेशन अटैक के लिए PoC

TTPForge एक साइबर सुरक्षा फ्रेमवर्क है जो हमलावर की रणनीति, तकनीकों और प्रक्रियाओं (TTPs) को विकसित करने, स्वचालित करने और निष्पादित करने के लिए है।

Hardens binaries, Electron ASAR, JS, WASM, Python, and model files against AI reverse-engineering agents using decoy metadata, budget exhaustion, and…

शोध कार्यान्वयन एक LLM जेलब्रेक एजेंट का जो हानिरहित प्रॉम्प्ट बुनाई और अनुकूली ट्री सर्च का उपयोग करके वाणिज्यिक मॉडल गार्डरेल्स को बायपास करता है।

मशीन लर्निंग एल्गोरिदम की विरोधी हमलों और पूर्वाग्रहों के विरुद्ध ऑडिट करने का ढांचा, जो साइबर सुरक्षा पेशेवरों के लिए एमएल सुरक्षा ज्ञान को जोड़ने…

टूल-उपयोग करने वाले LLM एजेंट पाइपलाइनों में प्रॉम्प्ट इंजेक्शन सुरक्षा कहाँ सक्रिय होती है, इसका मापन करने वाला बेंचमार्क हार्नेस, जो एक्सपोज़्ड,…

Red Teaming होम लैब के लिए बिल्ड गाइड। Proxmox और pfSense में GOAD लैब सेटअप, Operator/C2 और Redirectors।