CLIPGuard
wsu-cyber-security-lab-ai/clipguardएडवर्सेरियल इमेज परटर्बेशन टूल जो सुरक्षा अनुसंधान के लिए AI-आधारित स्कैम इमेज क्लासिफायर से बचने हेतु SAM सेगमेंटेशन और CLIP मॉडल का उपयोग करता है।
defensive-toolsmachine-learningpapers-research+2
wsu-cyber-security-lab-ai/clipguardएडवर्सेरियल इमेज परटर्बेशन टूल जो सुरक्षा अनुसंधान के लिए AI-आधारित स्कैम इमेज क्लासिफायर से बचने हेतु SAM सेगमेंटेशन और CLIP मॉडल का उपयोग करता है।
pho5nix/red-team-goad-lab-proxmoxRed Teaming होम लैब के लिए बिल्ड गाइड। Proxmox और pfSense में GOAD लैब सेटअप, Operator/C2 और Redirectors।
joshuagodwin7929/purple-team-automationएक AD लैब के विरुद्ध स्वचालित adversary emulation (Caldera) Sigma डिटेक्शन कवरेज को मान्य करने और परिणामों को MITRE ATT&CK पर मैप करने के लिए।
cybershujin/prompt-injection-in-the-wildसार्वजनिक रूप से रिपोर्ट की गई prompt-injection तकनीकों का ट्रैकर, जिसे डिलीवरी विधि, एन्कोडिंग, और प्रसार व्यवहार के आधार पर विभाजित किया गया है,…
azzzzliao/aegis-audio-defenseDefense framework that keeps audio-language models frozen and adds a mid-layer risk gate with late-layer safety adapters to block audio jailbreaks at…
shaheeryasirofficial/smugglemypayloadक्लाइंट-साइड पर JavaScript के माध्यम से फ़ाइलों को एम्बेड और पुनर्निर्मित करने वाले HTML स्मगलिंग पेज जनरेट करता है, जिसमें पेलोड एन्कोडिंग, चंकिंग,…
alex66366/odpureब्लैक-बॉक्स इनपुट-चरण शुद्धिकरण रक्षा जो भ्रष्टाचार, विसरण पुनर्निर्माण, और DBSCAN सर्वसम्मति मतदान के माध्यम से ऑब्जेक्ट डिटेक्टरों पर बैकडोर हमलों…
norrrrrrr-lyn/wainjectbenchवेब एजेंट्स के लिए प्रॉम्प्ट इंजेक्शन डिटेक्शन का बेंचमार्किंग।
xiaoyan-lisa/defenses-for-tool-integrated-llmटूल-एकीकृत LLM एजेंटों को प्रतिकूल हमलों से बचाने के लिए शोध कोड और प्रयोग, जिसमें नई रक्षा रणनीतियों और हमला परिदृश्यों के साथ Agent Security Bench…
siyuanli00/intactमल्टी-टर्न LLM जेलब्रेक प्रयोगों (FITD, MRCJ, ActorAttack, X-Teaming) को पुन: उत्पन्न करने वाला शोध कोड, SoK इंटेंट-उन्मुख व्यवस्थितकरण पेपर से।
s3n4t0r-0x0/bear-c2आउट-ऑफ-बैंड निष्कर्षों के लिए एक्सप्लॉइट सर्वर। किसी लक्ष्य को अपने स्वामित्व वाले डोमेन की ओर इंगित करें। हर HTTP अनुरोध और हर ईमेल जो वह वापस भेजता…
phkhanhtrinh23/agasLLM-संचालित एजेंटिक समूह शिलिंग हमला ढांचा जो अनुकूली बहु-भूमिका रणनीतियों का उपयोग करके ब्लैक-बॉक्स सहयोगी-फ़िल्टरिंग सिफ़ारिश रैंकिंग में हेरफेर…
ghostwolflab/ai_security_topएक संरचित ज्ञानकोष जो AI सुरक्षा की मूल बातें, खतरे का मॉडलिंग, रेड टीम आक्रामक तकनीकें, और ब्लू टीम रक्षा रणनीतियों को शामिल करता है, जिसमें LLM…
pwnhyo/t-mapMCP सर्वरों पर LLM एजेंटों के रेड-टीमिंग के लिए ट्रैजेक्टरी-जागरूक विकासवादी खोज ढांचा, जो जोखिम श्रेणियों में भेद्यता परिदृश्यों को मैप करने के लिए…
chanwoochoi316/kidnapragब्लैक-बॉक्स आक्रमण ढांचा जो एजेंटिक रिट्रीवल-ऑगमेंटेड जनरेशन प्रणालियों में ज़हरीले दस्तावेज़ इंजेक्ट करके तर्क-प्रक्रिया को हाईजैक करता है, जिसमें…
jaewonalive/camodocsअनुसंधान कार्यान्वयन: छलावरण दस्तावेज़ों का उपयोग करके पुनर्प्राप्ति-संवर्धित भाषा मॉडलों के विरुद्ध विषाक्तता हमला, जो फ़िल्टरिंग सुरक्षा को दरकिनार…
ai45lab/skill-safety-benchAI एजेंट सुरक्षा का मूल्यांकन करने के लिए बेंचमार्क, जो कौशल-संबंधी संदर्भ में एम्बेडेड हमलों के विरुद्ध कार्य करता है, जिसमें 6 जोखिम डोमेन में 155…
davidcarliez/trustmebroBypass llm guardrails by confusing it with fabricated tool output.