EpiReal-Bench
ye-ze-yu/epireal-benchवाणिज्यिक इमेज जनरेटर में विज़ुअल गलत सूचना जोखिमों के मूल्यांकन के लिए रेड-टीमिंग बेंचमार्क और ब्लैक-बॉक्स अटैक फ्रेमवर्क, जिसमें 10k झूठे-दावे वाले…
machine-learningpapers-researchmisconfiguration+4
3
ye-ze-yu/epireal-benchवाणिज्यिक इमेज जनरेटर में विज़ुअल गलत सूचना जोखिमों के मूल्यांकन के लिए रेड-टीमिंग बेंचमार्क और ब्लैक-बॉक्स अटैक फ्रेमवर्क, जिसमें 10k झूठे-दावे वाले…
moontea0416/webmirageविज़न-लैंग्वेज वेब एजेंट्स पर विरोधात्मक छवि हमले, विज़ुअल ग्राउंडिंग से ब्राउज़र निष्पादन तक
stardust457/sldrरक्षा ढांचा जो चयनात्मक परत पुनर्प्राप्ति और गतिशील रूटिंग का उपयोग करके LLMs के दुर्भावनापूर्ण फाइन-ट्यूनिंग को कम करता है, साथ ही प्रशिक्षण,…
graph-com/cka-agentशोध कार्यान्वयन एक LLM जेलब्रेक एजेंट का जो हानिरहित प्रॉम्प्ट बुनाई और अनुकूली ट्री सर्च का उपयोग करके वाणिज्यिक मॉडल गार्डरेल्स को बायपास करता है।
treeai-lab/awesome-rag-securityCurated collection of research papers on retrieval-augmented generation security, organized by the SLOT taxonomy covering knowledge poisoning,…
deep-jlu/skillpoisonअनुसंधान पाइपलाइन जो सत्यापित सफल अनुभवों का निर्माण करती है और उन्हें HTS, LEGSA, और GCTIR चरणों के माध्यम से मॉडल कौशलों को उत्तरोत्तर दूषित करने…
zju-llm-safety/ascentफाइन-ट्यूनिंग फ्रेमवर्क जो LLMs पर प्रथम-क्रम इष्टतम सुरक्षा अंशांकन और आवधिक पुनर्अंशांकन लागू करता है, जो सुरक्षा-संगत अपडेट को संरक्षित करते हुए…
euph00/zoneclaw-codeOpenClaw-शैली कंप्यूटर-उपयोग एजेंटों पर स्थायी मेमोरी हमलों के लिए बेंचमार्क और रक्षा कोड, जिसमें मेमोरी-ज़ोनिंग शमन, हमला परिदृश्य, और मूल्यांकन…
sliu11-byte/mea-benchब्लैक-बॉक्स LLM एक्सट्रैक्शन हमलों, रक्षाओं और अनुकूली हमलों के लिए एक जीवनचक्र बेंचमार्क।
js-lee-ai/refusal-relocatesRefusal localizes, the damage relocates, safety layers under few-sample fine-tuning
kevinchunye/prompt_injectionटूल-उपयोग करने वाले LLM एजेंट पाइपलाइनों में प्रॉम्प्ट इंजेक्शन सुरक्षा कहाँ सक्रिय होती है, इसका मापन करने वाला बेंचमार्क हार्नेस, जो एक्सपोज़्ड,…
guzonghua/awesome-latency-attacksडीप लर्निंग लेटेंसी, एनर्जी-लेटेंसी और टाइमिंग (उपलब्धता) हमलों और बचावों का क्यूरेटेड इंडेक्स — ACM Computing Surveys सबमिशन का साथी।
facebookresearch/meta_secalignप्रॉम्प्ट इंजेक्शन हमलों से बचाव के लिए ओपन-वेट LLMs और प्रशिक्षण/मूल्यांकन कोड, साथ ही एजेंटिक टूल-कॉलिंग और निर्देश-अनुसरण सुरक्षा के लिए बेंचमार्क।
kaill-jlq/mmskillriskमल्टीमॉडल स्किल इमेज में छिपे दुर्भावनापूर्ण निर्देशों का LLM एजेंट्स द्वारा प्रतिरोध किए जाने की जाँच करने वाला बेंचमार्क और मूल्यांकन हार्नेस,…
zju-llm-safety/traceAgentic jailbreak framework for LLM-based agents using scheme-based task decomposition, multi-turn disguising strategies, and adaptive self-evolution…
zju-llm-safety/darwinविकासवादी LLM जेलब्रेक और गार्डरेल फ्रेमवर्क जो सुरक्षा मूल्यांकन के लिए आनुवंशिक उत्परिवर्तन, मार्कोव चयन और ऑनलाइन विरोधी प्रशिक्षण के माध्यम से एक…
albert-y1n/piforgeRL-आधारित प्रॉम्प्ट इंजेक्शन रेड टीमिंग के लिए खुला फ्रेमवर्क, जिसमें एक साझा ट्रेनर, करिकुलम लर्निंग, और AgentDojo, InjecAgent, और PIArena जैसे…
breachsimrange/redteamsimmerवेब-आधारित एडवर्सरी एमुलेशन प्लेटफ़ॉर्म जो Go एजेंट्स के माध्यम से Windows एंडपॉइंट्स पर Atomic Red Team परीक्षणों को ऑर्केस्ट्रेट करता है, MITRE…