اختراقات الحماية عبر عمق النموذج

كيف يغيّر الخروج المبكر من قابلية نموذج لغوي للاختراق عبر هجمات الحماية (jailbreaks)؟ ندرس هجمات GCG على Balcony-LLaMA2-7B وBalcony-LLaMA3-8B عند الطبقات 15 و18 و21 والعمق الكامل (32)، باستخدام HarmBench وAdvBench.

TAO امتداد مخطط له مع كود تجريبي. كانت تشغيلات 1B السابقة اختبارات تطويرية؛ ولا يساهم أيٌّ منهما بنتائج في هذه الدراسة.

النتائج

GCG على مدى 150 خطوة على 50 سلوكًا لكل معيار تقييم، شُغِّل على وحدة معالجة رسومات NVIDIA RTX PRO 6000 Blackwell واحدة. الأشكال والجداول أدناه مأخوذة مباشرة من الورقة البحثية، وهي المصدر الموثوق للنتائج المُبلَّغ عنها.

منحنيات الخسارة والخسارة مقابل نجاح الهجوم

جداول الورقة البحثية

التشغيل

يتطلب Linux وPython 3.12 ووحدة معالجة رسومات NVIDIA وتعريفًا متوافقًا مع CUDA 12.8. من جذر المستودع، ثبّت البيئة وابدأ تشغيل GCG صغيرًا:

bash scripts/setup.sh
.venv/bin/python scripts/run.py experiment --model 7b --stage gcg \
  --benchmarks harmbench --n-behaviors 2 --num-steps 5 --results-dir results/runs/pilot

يقوم الإعداد بتهيئة الوحدات الفرعية وتطبيق تصحيحات مجموعة الأدوات وتثبيت .venv/. بالنسبة لنقاط التحقق المقيّدة، اقبل تراخيص Hugging Face الخاصة بها وشغّل .venv/bin/hf auth login.

لتقييم GCG والحكم والمنفعة عند جميع المخارج:

.venv/bin/python scripts/run.py experiment --model 7b

اختر --model 7b أو --model 8b. تبقى المخرجات الجديدة محلية في results/runs/<model>/. استخدم --dry-run لفحص الأوامر دون تحميل النماذج. مرجع الأوامر.

المستودع

المسار	المحتويات
adapter/	كود نموذج الخروج المبكر والأغلفة
experiments/	تطبيقات الهجوم والتقييم والتحليل
scripts/	الإعداد والمشغّل المشترك
results/	أشكال وجداول الورقة البحثية والأرشيفات التاريخية والتشغيلات المحلية
third_party/	التبعيات المثبّتة وإشعارات الترخيص

الأرشيفات الخام والتصديرات الأقدم غير متزامنة مع الورقة البحثية. أبقِ تشغيلات 7B مع قوالب الدردشة وبدونها منفصلة.

التبعيات مثبّتة في .gitmodules؛ وإصلاحات مجموعة الأدوات موجودة في patches/.