Skip to content
KitploitKITPLOIT
उपकरणएक्सप्लॉइटब्लॉग
Log in
जमा करें
उपकरणएक्सप्लॉइटब्लॉग
जमा करें

हैकिंग, पेनटेस्ट और साइबर सुरक्षा उपकरण आपके सुरक्षा शस्त्रागार के लिए!

Kitploit हैकिंग, साइबर सुरक्षा और पेंटेस्टिंग टूल्स की एक निर्देशिका है। कमजोरियों को खोजने, सिस्टम का विश्लेषण करने, परीक्षण को स्वचालित करने और अपनी सुरक्षा को मजबूत करने के लिए नवीनतम प्रोजेक्ट अपडेट खोजें।

फ़ीडसंपर्कगोपनीयता© 2026 Kitploit

टूल निर्देशिका

श्रेणियाँ

सभी श्रेणियाँ देखें
Loading categories
qrefusal — क्या 4-बिट क्वांटाइज़ेशन किसी चैट मॉडल के सुरक्षा व्यवहार के लिए केवल शोर से अधिक है? कोड, पूर्व-पंजीकरण और लेबल। | Kitploit
उपकरण/GitHubGitHub/egekaya1/qrefusal
मशीन लर्निंगपेपर और शोधलर्निंग और शिक्षाAI सुरक्षा
GitHubegekaya1/qrefusal

qrefusal

क्या 4-बिट क्वांटाइज़ेशन किसी चैट मॉडल के सुरक्षा व्यवहार के लिए केवल शोर से अधिक है? कोड, पूर्व-पंजीकरण और लेबल।

रिपॉजिटरी देखें
12घं 22मि पहलेअभी तक समीक्षित नहीं
साझा करें

क्या 4-बिट क्वांटाइज़ेशन किसी चैट मॉडल के सुरक्षा व्यवहार के लिए शोर से अधिक है?

मिलान किए गए विक्षोभों के साथ व्यवहारगत बदलावों का श्रेय-निर्धारण

छोटे चैट मॉडलों के इनकारों में 4-बिट क्वांटाइज़ेशन कैसे बदलाव लाता है, इसके पूर्व-पंजीकृत ऑडिट के लिए कोड और विश्लेषण, ऐसे नियंत्रणों के साथ जो यह पूछते हैं कि कोई बदलाव क्वांटाइज़ेशन से आता है या समान आकार के किसी भी विक्षोभ से अनुसरण करेगा।

पेपर: arXiv:2611.22186

यह किस बारे में है

फ़ोन और लैपटॉप पर चलने वाले चैट मॉडल आमतौर पर उस मॉडल की 4-बिट प्रतियाँ होती हैं जिसका सुरक्षा के लिए मूल्यांकन किया गया था। ऐसी प्रतियों के ऑडिट असहमत हैं: कुछ पाते हैं कि क्वांटाइज़ेशन इनकार को कमज़ोर करता है, कुछ पाते हैं कि नहीं करता, कुछ पाते हैं कि मॉडल अधिक इनकार करते हैं। एक 4-बिट बिल्ड प्रत्येक भार का एक विशिष्ट विक्षोभ है, और समान आकार के कई अन्य विक्षोभ भी हैं। इसलिए इसके इनकारों में बदलाव राउंडिंग त्रुटि की संरचना से आ सकता है, या उस आकार के किसी भी झटके के अंतर्गत मॉडल के अपने झुकाव से।

हम तीन 3-4B चैट मॉडलों (Qwen2.5-3B-Instruct, Llama-3.2-3B-Instruct, Qwen3-4B-Instruct-2507) को उन round-to-nearest प्रारूपों में परखते हैं जो MLX Apple Silicon के लिए प्रदान करता है। प्रत्येक तुलना युग्मित है और 8-बिट बिल्ड के विरुद्ध पढ़ी जाती है, जो संभाव्यता को अपरिवर्तित छोड़ता है। संक्षेप में:

  • बाध्य प्रारंभ। जब किसी अनुपालक उत्तर के पहले आठ टोकन पहले से भरे जाते हैं, तो डिफ़ॉल्ट 4-बिट बिल्ड Qwen2.5-3B को उसे जारी रखने की अधिक संभावना बनाता है। Llama-3.2-3B और Qwen3-4B नहीं हिलते।
  • मुक्त प्रारंभ। बिना प्रीफ़िल के 400 होल्ड-आउट जेलब्रेक प्रॉम्प्टों पर, 4-बिट Llama-3.2-3B कम अनुपालक हो जाता है। एक खोजपरक जाँच में यह जेलब्रेक शैली में लिखे गए अधिक सौम्य अनुरोधों को भी अधिक इनकार करता है, जबकि सादे सुरक्षित अनुरोधों के प्रति इसका व्यवहार अपरिवर्तित रहता है।
  • नियंत्रण। हम राउंडिंग त्रुटि को उसकी दर्पण छवि, एक समूह-के-भीतर शफ़ल और आकार-मिलान वाले गाऊसी शोर से प्रतिस्थापित करते हैं, उसे स्केल करते हैं, और उसकी तुलना उसी प्रारूप के अन्य क्वांटाइज़रों (AWQ, GPTQ) तथा एक दूसरे रनटाइम (llama.cpp) से करते हैं। हम प्रत्येक बिल्ड के मॉडल की इनकार-दिशा पर प्रभाव को भी मापते हैं। साथ में ये प्रत्येक बदलाव को मॉडल या राउंडिंग को आवंटित करते हैं।

पेपर के प्रत्येक वाक्य के पीछे की संख्याएँ एक ही स्क्रिप्ट द्वारा उत्पन्न होती हैं (देखें पेपर का पुनरुत्पादन)।

लेआउट

पथसामग्री
PREREG.mdपूर्व-पंजीकरण और उसके पाँच तिथि-अंकित परिशिष्ट, प्रत्येक उस डेटा से पहले निर्धारित जिससे वह संबंधित है
qrefusal/साझा कोड: एक पिन किए गए टेम्पलेट तिथि के साथ चैट फ़ॉर्मेटिंग, greedy और sampled डिकोडिंग, hooks के साथ परत-दर-परत फ़ॉरवर्ड पास (MLX में कोई hook API नहीं है), इनकार-दिशाएँ, युग्मित सांख्यिकी
runs/प्रति प्रयोग एक स्क्रिप्ट; प्रत्येक results/<experiment>/ में लिखती है
analysis/make_numbers.pyअखंडता जाँचों के साथ कच्ची परिणाम फ़ाइलों से पेपर की प्रत्येक संख्या को पुनः उत्पन्न करता है
analysis/figures.pypaper/numbers.json से आकृतियाँ बनाता है
paper/LaTeX स्रोत; संख्याएँ पाठ में केवल विश्लेषण द्वारा उत्पन्न मैक्रो के रूप में प्रवेश करती हैं
scripts/मॉडल रूपांतरण, डेटा फ़ेचिंग, और रन क्यू
tests/hooked फ़ॉरवर्ड पास और सांख्यिकी के लिए पहचान परीक्षण

प्रयोग, पेपर के क्रम में

पेपरस्क्रिप्टयह क्या करता है
§3 सेटअपscripts/convert.shकिसी मॉडल की bf16, 8-बिट, 4-बिट (समूह 64 और 32), मिश्रित 4/6, MXFP4, AWQ और GPTQ प्रतियाँ बनाता है
§3 सेटअपruns/r2.py, runs/e7_abliterate.py, runs/e7b_prefixes.pyप्रति परत इनकार की दिशाएँ; एक abliterated bf16 प्रति; प्रीफ़िल के लिए उपयोग किए गए अनुपालक प्रीफ़िक्स
§3 सेटअपruns/r1b_judge.py, runs/j2_ensemble.py, runs/l2_pair_sheet.pyसामग्री जज (Qwen2.5-14B), Llama Guard 3, और ब्लाइंड दो-चरणीय मानव-लेबलिंग शीट
§4 लेबल अस्थिरता और 8-बिट नलruns/e0_determinism.py, runs/a2_depth.py --tempग्रीडी पुनर्रन पहचान; सैंपलिंग सीड फ़्लोर
§5.1 बाध्य प्रारंभruns/a2_depth.py, runs/r1.pyप्रीफ़िल गहराई k = 0, 2, 8; सामान्य प्रीफ़िक्स (--fixed_prefix); लंबाई जाँच (--max_tokens 384 --sample 150)
§5.2 मुक्त प्रारंभruns/x2_sneaky.pyWildJailbreak विकास और होल्ड-आउट टेस्ट सेट; SORRY-Bench
§6 दो सरल व्याख्याएँruns/x1_xstest.py, runs/c1_capability.pyXSTest और जेलब्रेक-शैली के सौम्य प्रॉम्प्ट पर अति-इनकार; likelihood और bits per weight
§7 मिलान-आधारित गड़बड़ी नियंत्रणruns/e2_perturb.py, runs/e2_errors.py, runs/g1_gguf.pyसत्यापन गेट के साथ मिलान-आधारित गड़बड़ी और स्केल किए गए बिल्ड; प्रति-मैट्रिक्स राउंडिंग त्रुटि; llama.cpp रनटाइम
§8 इनकार-दिशा प्रक्षेपणruns/m1_direction.pybf16 इनकार दिशा पर प्रक्षेपण
परिशिष्टruns/a1_prefill.py, runs/r5_runon.pyप्रीफ़िल पायलट; MXFP4 Qwen2.5 में टर्न-अंत विफलता

पेपर का पुनरुत्पादन

हार्डवेयर: 16 GB मेमोरी वाला एक Apple Silicon Mac (हमने M2 Pro का उपयोग किया)। रनों का पूरा सेट कई दिनों का मशीन समय लेता है; मॉडल एक बार में एक ही लोड किए जाते हैं।

pip install -e ".[test]"                    # mlx 0.32.4, mlx-lm 0.32.2
scripts/fetch_data.sh                        # refusal_direction prompt splits (Apache-2.0)
scripts/convert.sh Qwen/Qwen2.5-3B-Instruct qwen2.5-3b
scripts/convert.sh meta-llama/Llama-3.2-3B-Instruct llama3.2-3b
scripts/convert.sh Qwen/Qwen3-4B-Instruct-2507 qwen3-4b
scripts/convert.sh Qwen/Qwen2.5-0.5B-Instruct qwen2.5-0.5b   # needed by the tests and Appendix G
python -m pytest tests

तीन प्रॉम्प्ट सेट उनके लेखकों से प्राप्त किए जाते हैं और data/ के अंतर्गत रखे जाते हैं:

  • XSTest (Röttger et al., 2024): data/xstest/xstest_prompts.csv
  • SORRY-Bench (Xie et al., 2024; Hugging Face पर gated): data/sorry/question*.jsonl
  • WildJailbreak मूल्यांकन सेट (Jiang et al., 2024; Hugging Face पर gated): data/wildjailbreak/eval/eval.tsv

scripts/ में रन क्यू उन बाद में पंजीकृत विश्लेषणों के लिए कमांड देते हैं जिन्हें हमने उसी क्रम में चलाया था; ऊपर दी गई तालिका शेष के लिए स्क्रिप्ट देती है। वे ml नामक एक conda वातावरण की अपेक्षा करते हैं, और runs/g1_gguf.py ../tools/llama.cpp-src पर llama.cpp (commit 0ec4027) और Homebrew llama-quantize की अपेक्षा करता है। प्रत्येक प्रयोग पहले से मौजूद आउटपुट को छोड़ देता है, इसलिए किसी क्यू को रोका और पुनः आरंभ किया जा सकता है। फिर:

python analysis/make_numbers.py    # paper/numbers.{md,json}, paper/tex/numbers.tex
python analysis/figures.py         # paper/tex/figures/*.pdf
cd paper/tex && tectonic main.tex

पूर्व-पंजीकरण

PREREG.md प्राथमिक परीक्षण, द्वितीयक परिवारों, मानव-लेबल डिज़ाइन, होल्ड-आउट फ्री-स्टार्ट परीक्षण और नियंत्रणों के निर्णय नियम को निर्धारित करता है। प्रत्येक अनुशेष (addendum) दिनांकित है और जिस डेटा से वह संबंधित है उसके अस्तित्व में आने से पहले निर्धारित किया गया था। पेपर का परिशिष्ट सूचीबद्ध करता है कि क्या और कब पंजीकृत किया गया था तथा योजना में किए गए परिवर्तन क्या थे। दिनांकित कमिट एक निजी विकास रिपॉज़िटरी में हैं (हैश 50d0225, 2c53665, 86c93e0, 3e2ea52, 02e72c5, 09e49aa), अनुरोध पर उपलब्ध; इस रिपॉज़िटरी का इतिहास रिलीज़ से शुरू होता है। PREREG.md से तीन वाक्य जो निजी योजना नोट्स की ओर संकेत करते थे, हटा दिए गए थे; इसके अलावा कुछ नहीं बदला गया।

क्या जारी किया गया है और क्या नहीं

जारी किया गया: कोड, पूर्व-पंजीकरण, समग्र परिणाम (paper/numbers.{md,json}) और प्रत्येक जज, Llama Guard तथा मानव लेबल, बिना किसी प्रॉम्प्ट या उत्तर पाठ के, labels/ में (analysis/export_labels.py द्वारा लिखित)। पंक्तियाँ सेटिंग, मॉडल, बिल्ड और प्रॉम्प्ट इंडेक्स i द्वारा कुंजीबद्ध हैं: उस प्रॉम्प्ट स्प्लिट की पंक्ति अनुक्रमणिका जिसे runs/ लोड करता है (x2/* के लिए, runs/x2_sneaky.py में सीडेड नमूने)। जारी नहीं किया गया: मॉडल के उत्तर, जिनमें बाध्य (forced) स्टार्ट के अंतर्गत उत्पन्न हानिकारक सामग्री शामिल है; make_numbers.py उन्हें results/ से पढ़ता है, जो संस्करण नियंत्रण से बाहर रखा गया है। वे अनुरोध पर शोधकर्ताओं के लिए उपलब्ध हैं।

लाइसेंस

कोड: MIT (LICENSE)। लेबल और पेपर पाठ: CC BY 4.0। paper/tex/acl.sty और acl_natbib.bst अपनी स्वयं की शर्तें बनाए रखते हैं।

उद्धरण

टूल डाउनलोड करें

सबसे लोकप्रिय

सभी देखें →

हमारे समुदाय द्वारा सबसे अधिक उपयोग किए जाने वाले उपकरण खोजें।

अभी तक कोई लोकप्रियता डेटा नहीं है।

सभी उपकरण खोजें

हमारे उपकरणों का संग्रह ब्राउज़ करें

सभी उपकरण देखें →