#1LLM सुरक्षा, प्रॉम्प्ट इंजेक्शन, मॉडल एक्सट्रैक्शन, एडवर्सरियल AI और AI रेड टीमिंग उपकरण।
Kitploit अनुशंसित
joshuaprovoste/deserializerएजेंटिक LLM-संचालित रिलेशनशिप मैपिंग के साथ AST-आधारित स्टैटिक कोड एनालाइज़र, जो AI, LLM, रोबोटिक्स, डेटा साइंस, मशीन लर्निंग और डीप लर्निंग (लेकिन…
vighnesh91/securiscanमानक-लाइब्रेरी Python सुरक्षा ट्राइएज इंजन जो निष्क्रिय हेडर निरीक्षण, सक्रिय कैनरी प्रोबिंग, और ऑफ़लाइन स्टैटिक डायग्नोस्टिक्स के माध्यम से वेब…
albert-y1n/piforgeRL-आधारित प्रॉम्प्ट इंजेक्शन रेड टीमिंग के लिए खुला फ्रेमवर्क, जिसमें एक साझा ट्रेनर, करिकुलम लर्निंग, और AgentDojo, InjecAgent, और PIArena जैसे…
zju-llm-safety/darwinविकासवादी LLM जेलब्रेक और गार्डरेल फ्रेमवर्क जो सुरक्षा मूल्यांकन के लिए आनुवंशिक उत्परिवर्तन, मार्कोव चयन और ऑनलाइन विरोधी प्रशिक्षण के माध्यम से एक…
zju-llm-safety/traceLLM-आधारित एजेंटों के लिए एजेंटिक जेलब्रेक फ्रेमवर्क, जो उभरते सुरक्षा जोखिमों की जाँच के लिए स्कीम-आधारित कार्य विभाजन, बहु-चरणीय प्रच्छन्न…
facebookresearch/meta_secalignप्रॉम्प्ट इंजेक्शन हमलों से बचाव के लिए ओपन-वेट LLMs और प्रशिक्षण/मूल्यांकन कोड, साथ ही एजेंटिक टूल-कॉलिंग और निर्देश-अनुसरण सुरक्षा के लिए बेंचमार्क।
laplace1002/tamarinagentप्राकृतिक-भाषा या C/C++ प्रोटोकॉल विवरणों को समीक्षायोग्य Protocol IR में परिवर्तित करने वाला Human-in-the-loop UI, जो फिर औपचारिक सुरक्षा सत्यापन के…
guzonghua/awesome-latency-attacksडीप लर्निंग लेटेंसी, एनर्जी-लेटेंसी और टाइमिंग (उपलब्धता) हमलों और बचावों का क्यूरेटेड इंडेक्स — ACM Computing Surveys सबमिशन का साथी।
kaill-jlq/mmskillriskमल्टीमॉडल स्किल इमेज में छिपे दुर्भावनापूर्ण निर्देशों का LLM एजेंट्स द्वारा प्रतिरोध किए जाने की जाँच करने वाला बेंचमार्क और मूल्यांकन हार्नेस,…
akatorich/kernelflirtWindows kernel-level डीबगर OllyDbg/IDA-शैली UI, सॉफ़्टवेयर और हार्डवेयर ब्रेकपॉइंट, PDB प्रतीक, डीकंपाइलर, और VMs में रिवर्स इंजीनियरिंग और मैलवेयर…
gmh5225/ida_plugin_pcodegptIDA Pro प्लगइन जो फ़ंक्शन नामकरण, कोड व्याख्या और डीकंपाइल किए गए स्यूडोकोड विश्लेषण जैसे रिवर्स इंजीनियरिंग कार्यों को स्वचालित करने के लिए OpenAI…
gmh5225/ida-claude-code-pluginsClaude Code को IDA Pro के साथ एकीकृत करने वाले प्लगइन्स, जो AI-संचालित डिसअसेम्बली और कोड समझ के माध्यम से रिवर्स इंजीनियरिंग और बाइनरी विश्लेषण…
niffyhunt/codeguard-copilotAI-संचालित सुरक्षा सह-पायलट जो आपके कोडिंग करते समय कमज़ोरियों को पकड़ता है। डेवलपर्स के लिए रीयल-टाइम सुरक्षा स्कैनिंग, शैक्षिक व्याख्याएँ, और ऑटो…
0sec-labs/0एक पूर्ण-स्टैक LLM-संचालित पेनेट्रेशन टेस्टिंग के लिए साइबरसुरक्षा हार्नेस। स्वायत्त रूप से, 24/7 कमजोरियों को खोजें और ठीक करें। [RESEARCH PREVIEW]
dmdhrumilmistry/security-harnessAI कोडिंग एजेंट्स के लिए मल्टी-एजेंट स्टैटिक एप्लिकेशन-सुरक्षा समीक्षा हार्नेस: कोडबेस को मैप करता है, भेद्यता वर्गों की खोज करता है, निष्कर्षों को…
togg53192-cmd/jailbreaksLLM जेलब्रेक प्रॉम्प्ट्स और बायपास तकनीकों का क्यूरेटेड संग्रह, जो AI मॉडल सुरक्षा गार्डरेल्स को बायपास करने वाले एडवर्सेरियल इनपुट्स का…
loophole-llc/fish-live-in-treesजेमिनी - प्रोडक्शन LLM रनटाइम अलाइनमेंट कॉन्टेक्स्ट इंजेक्शन
joseluispino/hardstop"Hard Stop: Kernel-Level Preemption and Containment for Rogue Agentic Execution" के लिए संदर्भ कार्यान्वयन। आउट-ऑफ-बैंड एपिस्टेमिक एंडन कॉर्ड,…
