मॉडल गहराई में जेलब्रेक्स

शुरुआती निकास (early exit) किसी भाषा मॉडल की जेलब्रेक के प्रति संवेदनशीलता को कैसे बदलता है? हम Balcony-LLaMA2-7B और Balcony-LLaMA3-8B पर परतों 15, 18, 21, और पूर्ण गहराई (32) पर GCG हमलों का अध्ययन करते हैं, HarmBench और AdvBench का उपयोग करते हुए।

TAO एक नियोजित विस्तार है जिसमें प्रयोगात्मक कोड है। पहले के 1B रन विकास परीक्षण थे; इनमें से कोई भी इस अध्ययन में परिणाम नहीं देता है।

परिणाम

प्रति बेंचमार्क 50 व्यवहारों पर 150 चरणों में GCG, एकल NVIDIA RTX PRO 6000 Blackwell GPU पर चलाया गया। नीचे दिए गए चित्र और तालिकाएँ सीधे पेपर से लिए गए हैं, जो रिपोर्ट किए गए परिणामों के लिए सत्य का स्रोत है।

लॉस कर्व्स और हमले की सफलता के मुकाबले लॉस

पेपर तालिकाएँ

रन

Linux, Python 3.12, एक NVIDIA GPU, और CUDA 12.8 के साथ संगत ड्राइवर की आवश्यकता है। रिपॉज़िटरी रूट से, वातावरण स्थापित करें और एक छोटा GCG रन शुरू करें:

bash scripts/setup.sh
.venv/bin/python scripts/run.py experiment --model 7b --stage gcg \
  --benchmarks harmbench --n-behaviors 2 --num-steps 5 --results-dir results/runs/pilot

सेटअप सबमॉड्यूल को इनिशियलाइज़ करता है, टूलकिट पैच लागू करता है, और .venv/ स्थापित करता है। गेटेड चेकपॉइंट्स के लिए, उनके Hugging Face लाइसेंस स्वीकार करें और .venv/bin/hf auth login चलाएँ।

सभी निकासों पर GCG, निर्णय, और उपयोगिता मूल्यांकन के लिए:

.venv/bin/python scripts/run.py experiment --model 7b

--model 7b या --model 8b चुनें। नए आउटपुट results/runs/<model>/ में स्थानीय रहते हैं। मॉडल लोड किए बिना कमांड का निरीक्षण करने के लिए --dry-run का उपयोग करें। कमांड संदर्भ।

रिपॉज़िटरी

पथ	सामग्री
adapter/	शुरुआती-निकास मॉडल कोड और रैपर
experiments/	हमला, मूल्यांकन, और विश्लेषण कार्यान्वयन
scripts/	सेटअप और साझा रनर
results/	पेपर चित्र और तालिकाएँ, ऐतिहासिक अभिलेखागार, और स्थानीय रन
third_party/	पिन किए गए निर्भरताएँ और लाइसेंस सूचनाएँ

कच्चे अभिलेखागार और पुराने एक्सपोर्ट पेपर के साथ सिंक्रनाइज़ नहीं हैं। 7B रन को चैट टेम्पलेट के साथ और बिना अलग रखें।

निर्भरताएँ .gitmodules में पिन की गई हैं; टूलकिट सुधार patches/ में हैं।