Heretic: إزالة الرقابة بشكل كامل تلقائيًا لنماذج اللغة

Heretic هي أداة تزيل الرقابة (المعروفة أيضًا باسم "محاذاة السلامة") من نماذج اللغة القائمة على المحولات دون الحاجة إلى تدريب لاحق مكلف. تجمع الأداة بين تطبيق متقدم للاستئصال الاتجاهي، المعروف أيضًا باسم "الاستئصال" (Arditi et al. 2024، Lai 2025 (1، 2))، ومحسّن معلمات قائم على TPE يُشغله Optuna.

هذا النهج يتيح لـ Heretic العمل بشكل تلقائي بالكامل. تجد Heretic معلمات استئصال عالية الجودة عن طريق تقليل كل من عدد حالات الرفض وتباعد KL عن النموذج الأصلي. ينتج عن ذلك نموذج غير مراقَب يحتفظ بأكبر قدر ممكن من ذكاء النموذج الأصلي. لا يتطلب استخدام Heretic فهمًا لدواخل المحولات. في الواقع، يمكن لأي شخص يعرف كيفية تشغيل برنامج سطر أوامر استخدام Heretic لنزع الرقابة عن نماذج اللغة.

يدعم Heretic معظم النماذج الكثيفة، بما في ذلك العديد من النماذج متعددة الوسائط، والعديد من بنى MoE المختلفة، وحتى بعض النماذج الهجينة مثل Qwen3.5. لا تُدعم نماذج الحالة الخالصة وبعض البنى البحثية الأخرى بشكل فوري خارج الصندوق.

 

عند تشغيله دون إشراف وبالإعدادات الافتراضية، يمكن لـ Heretic إنتاج نماذج غير مراقبة تنافس جودة عمليات الاستئصال التي أُنجزت يدويًا بواسطة خبراء بشريين:

النموذج	حالات الرفض للمطالبات "الضارة"	تباعد KL عن النموذج الأصلي للمطالبات "غير الضارة"
google/gemma-3-12b-it (أصلي)	97/100	0 (بالتعريف)
mlabonne/gemma-3-12b-it-abliterated-v2	3/100	1.04
huihui-ai/gemma-3-12b-it-abliterated	3/100	0.45
p-e-w/gemma-3-12b-it-heretic (خاصتنا)	3/100	0.16

النسخة المنتجة بواسطة Heretic، والتي تم توليدها دون أي جهد بشري، تحقق نفس مستوى قمع الرفض مثل عمليات الاستئصال الأخرى، ولكن مع تباعد KL أقل بكثير، مما يشير إلى ضرر أقل لقدرات النموذج الأصلي. (يمكنك إعادة إنتاج هذه الأرقام باستخدام وظيفة التقييم المضمنة في Heretic، على سبيل المثال heretic --model google/gemma-3-12b-it --evaluate-model p-e-w/gemma-3-12b-it-heretic. لاحظ أن القيم الدقيقة قد تعتمد على المنصة والأجهزة. الجدول أعلاه تم تجميعه باستخدام PyTorch 2.8 على RTX 5090.)

بالطبع، المقاييس الرياضية والاختبارات الآلية لا تحكي القصة كاملة أبدًا، ولا تغني عن التقييم البشري. النماذج المولدة باستخدام Heretic لاقت استحسانًا من المستخدمين (الروابط والإضافات مضمنة):

"كنت متشككًا من قبل، لكنني قمت للتو بتنزيل نموذج GPT-OSS 20B Heretic والله العظيم. إنه يعطي ردودًا طويلة منسقة بشكل صحيح حول مواضيع حساسة، باستخدام الكلمات غير المراقبة تمامًا التي تتوقعها من نموذج غير مراقَب، وينتج جداول بتنسيق ماركداون تحتوي على تفاصيل وما إلى ذلك. يبدو أن هذه هي أفضل نسخة مستأصلة من هذا النموذج حتى الآن..." (رابط للتعليق)

"Heretic GPT 20b يبدو أنه أفضل نموذج غير مراقَب جربته حتى الآن. إنه لا يدمر ذكاء النموذج ويجيب على المطالبات التي كان النموذج الأساسي سيرفضها عادةً بشكل طبيعي." (رابط للتعليق)

"[Qwen3-4B-Instruct-2507-heretic] كان أفضل نموذج غير مراقَب وغير مضغوط تمكنت من تشغيله على ذاكرة وصول عشوائي للفيديو سعتها 16 جيجابايت." (رابط للتعليق)

كما تم اختبار نماذج Heretic بشكل مستقل باستخدام مقاييس معيارية مثل MMLU وGSM8K، وتبين أنها تتفوق بشكل إيجابي على النماذج المنتجة بواسطة أدوات الاستئصال المنافسة: 1، 2.

قام المجتمع بإنشاء ونشر أكثر من 4000 نموذج باستخدام Heretic.

الاستخدام

جهز بيئة Python 3.10+ مع تثبيت PyTorch 2.2+ بما يناسب أجهزتك. ثم شغّل:

pip install -U heretic-llm
heretic Qwen/Qwen3-4B-Instruct-2507

استبدل Qwen/Qwen3-4B-Instruct-2507 بأي نموذج تريد نزع الرقابة عنه.

[!IMPORTANT]

على الرغم من أن PyTorch 2.2 هو الحد الأدنى من الإصدار المطلوب لـ Heretic ليعمل، إلا أن بعض النماذج والتكوينات قد تتطلب ميزات موجودة فقط في إصدارات أحدث. على سبيل المثال، تحميل النماذج المضغوطة بتقنية MXFP4 مثل gpt-oss يستخدم torch.accelerator، والذي أُضيف في PyTorch 2.6.

[!TIP]

يستخدم Heretic uv لإدارة التبعيات، ويحتوي المستودع على ملف uv.lock يثبت إصدار كل حزمة. إذا كنت تستخدم uv بالفعل (ويجب عليك!)، يمكنك فقط استنساخ المستودع وتشغيل Heretic باستخدام uv run heretic، مما يضمن تطابق تبعياتك مع تلك التي يستخدمها المطورون، مما يحسن الموثوقية والأمان.

العملية أوتوماتيكية بالكامل ولا تتطلب تكوينًا؛ ومع ذلك، لدى Heretic مجموعة متنوعة من معاملات التكوين التي يمكن تغييرها للتحكم بشكل أكبر. شغّل heretic --help لرؤية الخيارات المتاحة لسطر الأوامر، أو اطّلع على config.default.toml إذا كنت تفضل استخدام ملف تكوين.

في بداية تشغيل البرنامج، يقوم Heretic بإنشاء معايير للنظام لتحديد الحجم الأمثل للدفعة لتحقيق أقصى استفادة من الأجهزة المتاحة. على بطاقة RTX 3090، مع التكوين الافتراضي، يستغرق نزع الرقابة عن Qwen3-4B-Instruct-2507 حوالي 20-30 دقيقة. لاحظ أن Heretic يدعم ضغط النماذج باستخدام bitsandbytes، مما يمكن أن يقلل بشكل كبير من كمية VRAM المطلوبة لمعالجة النماذج. اضبط خيار quantization على bnb_4bit لتفعيل الضغط.

بعد أن ينهي Heretic نزع الرقابة عن نموذج، يُعطى لك خيار حفظ النموذج، رفعه إلى Hugging Face، الدردشة معه لاختبار مدى جودة عمله، تشغيل اختبارات معيارية عليه، أو أي مزيج من هذه الإجراءات.

ميزات البحث

بالإضافة إلى وظيفته الرئيسية المتمثلة في إزالة الرقابة عن النماذج، يوفر Heretic أيضًا ميزات مصممة لدعم البحث في دلالات البنى الداخلية للنماذج (قابلية التفسير). لاستخدام هذه الميزات، تحتاج إلى تثبيت Heretic مع الملحق الاختياري research:

pip install -U heretic-llm[research]

يمنحك هذا الوصول إلى الوظائف التالية:

إنشاء رسوم بيانية للمتجهات المتبقية عن طريق تمرير --plot-residuals

عند التشغيل بهذه العلامة، سيقوم Heretic بما يلي: