#1प्रतिकूल ML हमला फ्रेमवर्क, इवेजन तकनीक और मॉडल मजबूती मूल्यांकन उपकरण।
Kitploit अनुशंसित

हार्डवेयर ब्रेकपॉइंट (DR0-DR7) पर आधारित पैच-रहित यूज़र-मोड हुकिंग और टेलीमेट्री इंस्ट्रूमेंटेशन इंजन (AMSI, WLDP और ETW PoC)।
RL-आधारित प्रॉम्प्ट इंजेक्शन रेड टीमिंग के लिए खुला फ्रेमवर्क, जिसमें एक साझा ट्रेनर, करिकुलम लर्निंग, और AgentDojo, InjecAgent, और PIArena जैसे…

वाणिज्यिक इमेज जनरेटर में विज़ुअल गलत सूचना जोखिमों के मूल्यांकन के लिए रेड-टीमिंग बेंचमार्क और ब्लैक-बॉक्स अटैक फ्रेमवर्क, जिसमें 10k झूठे-दावे वाले…

मल्टीमॉडल स्किल इमेज में छिपे दुर्भावनापूर्ण निर्देशों का LLM एजेंट्स द्वारा प्रतिरोध किए जाने की जाँच करने वाला बेंचमार्क और मूल्यांकन हार्नेस,…

पेंटेस्टर्स, बग हंटर्स और सुरक्षा शोधकर्ताओं के लिए AI सुरक्षा सामग्री और संसाधनों की एक चुनिंदा सूची।

OpenClaw-शैली कंप्यूटर-उपयोग एजेंटों पर स्थायी मेमोरी हमलों के लिए बेंचमार्क और रक्षा कोड, जिसमें मेमोरी-ज़ोनिंग शमन, हमला परिदृश्य, और मूल्यांकन…

विभिन्न LLM, मुख्य रूप से Claude को जेलब्रेक करने के लिए एक रेपो

LLM गार्डरेल्स को नकली टूल आउटपुट से भ्रमित करके बायपास करें।

Kali365 - EvilTokens Replica

एक संरचित ज्ञानकोष जो AI सुरक्षा की मूल बातें, खतरे का मॉडलिंग, रेड टीम आक्रामक तकनीकें, और ब्लू टीम रक्षा रणनीतियों को शामिल करता है, जिसमें LLM…

एक उपकरण सेट जो सिस्टम को ऐसा दिखाने के लिए है जैसे वह APT हमले का शिकार हुआ हो।

एप्लिकेशन-एकीकृत LLMs के विरुद्ध अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन हमलों पर प्रूफ-ऑफ-कॉन्सेप्ट डेमो और शोध, जिसमें डेटा एक्सफिल्ट्रेशन, रिमोट कंट्रोल,…

LLM-संचालित एजेंटिक समूह शिलिंग हमला ढांचा जो अनुकूली बहु-भूमिका रणनीतियों का उपयोग करके ब्लैक-बॉक्स सहयोगी-फ़िल्टरिंग सिफ़ारिश रैंकिंग में हेरफेर…

LLM के लिए एक स्वायत्त रेड-टीमिंग इंजन। RedThread पूर्ण सुरक्षा जीवनचक्र प्रबंधित करता है: प्रतिकूल हमले उत्पन्न करना, सटीक मूल्यांकन निष्पादित करना,…

विज़न-लैंग्वेज वेब एजेंट्स पर विरोधात्मक छवि हमले, विज़ुअल ग्राउंडिंग से ब्राउज़र निष्पादन तक

ब्लैक-बॉक्स LLM एक्सट्रैक्शन हमलों, रक्षाओं और अनुकूली हमलों के लिए एक जीवनचक्र बेंचमार्क।

AI सुरक्षा से संबंधित बेहतरीन संसाधनों का एक संग्रह

एक संरेखण ऑडिटिंग एजेंट जो संरेखण परिकल्पना को तेजी से खोजने में सक्षम है