#1प्रतिकूल ML हमला फ्रेमवर्क, इवेजन तकनीक और मॉडल मजबूती मूल्यांकन उपकरण।
Kitploit अनुशंसित

🐢 LLM एजेंटों के लिए ओपन-सोर्स मूल्यांकन एवं परीक्षण लाइब्रेरी
एक ओपन-सोर्स AI सुरक्षा प्लेटफ़ॉर्म जो स्वार्म विश्लेषण, नीति प्रवर्तन, विरोधी परीक्षण और रीयल-टाइम खतरे का पता लगाने के माध्यम से LLMs और AI एजेंटों…

जनरेटिव AI सिस्टम की रेड-टीमिंग के लिए ओपन-सोर्स फ्रेमवर्क: अटैक प्रॉम्प्ट्स को स्वचालित करें, मॉडल प्रतिक्रियाओं को स्कोर करें, और सुरक्षा व सेफ्टी…

अपने प्रॉम्प्ट, एजेंट और RAG का परीक्षण करें। AI के लिए रेड टीमिंग/पेंटेस्टिंग/भेद्यता स्कैनिंग। GPT, Claude, Gemini, DeepSeek और अधिक के प्रदर्शन की…

AI सुरक्षा सत्यापन मानक (AISVS) डेवलपर्स, आर्किटेक्ट्स और सुरक्षा पेशेवरों को AI-संचालित अनुप्रयोगों की सुरक्षा सत्यापित करने के लिए एक संरचित…

विभिन्न LLM, मुख्य रूप से Claude को जेलब्रेक करने के लिए एक रेपो

LLM सुरक्षा परीक्षण ढांचा जो prompt injection, jailbreaks, और adversarial attacks का पता लगाने के लिए है — 190+ probes, 28 providers, एकल Go binary

AI सुरक्षा से संबंधित बेहतरीन संसाधनों का एक संग्रह

PISmith: प्रॉम्प्ट इंजेक्शन डिफेंस के लिए रीइन्फोर्समेंट लर्निंग-आधारित रेड टीमिंग

Red Teaming होम लैब के लिए बिल्ड गाइड। Proxmox और pfSense में GOAD लैब सेटअप, Operator/C2 और Redirectors।

प्रतिद्वंद्वी अनुकरण ढांचा

एक गोपनीयता-प्रथम ऐप जो आपकी स्वयं की सामग्री से AI वॉटरमार्क हटाता है।

MISP घटनाओं या विशेषताओं (जैसे खतरा अभिनेता) से जोड़ने के लिए क्लस्टर और तत्व

एक AD लैब के विरुद्ध स्वचालित adversary emulation (Caldera) Sigma डिटेक्शन कवरेज को मान्य करने और परिणामों को MITRE ATT&CK पर मैप करने के लिए।

A curated list of AI Security materials and resources for Pentesters, Bug Hunters, and Security Researchers.

:cloud: :zap: क्लाउड के लिए सूक्ष्म, कार्रवाई योग्य प्रतिद्वंद्वी अनुकरण

LLM जेलब्रेक प्रॉम्प्ट्स और बायपास तकनीकों का क्यूरेटेड संग्रह, जो AI मॉडल सुरक्षा गार्डरेल्स को बायपास करने वाले एडवर्सेरियल इनपुट्स का…

Hardware Breakpoint (DR0-DR7) based patch-less user-mode hooking & telemetry instrumentation engine (AMSI, WLDP & ETW PoC).