Heretic: إزالة الرقابة تلقائيًا بالكامل عن نماذج اللغة

Heretic هي أداة تزيل الرقابة (المعروفة أيضًا باسم "مواءمة السلامة") من نماذج اللغة القائمة على المحولات دون الحاجة إلى تدريب لاحق مكلف. تجمع بين تنفيذ متقدم للإزالة الاتجاهية (directional ablation)، المعروفة أيضًا باسم "abliteration" (Arditi et al. 2024، Lai 2025 (1، 2))، ومحسِّن معاملات قائم على TPE مدعوم من Optuna.

يتيح هذا النهج لـ Heretic العمل بشكل تلقائي بالكامل. تعثر Heretic على معاملات abliteration عالية الجودة من خلال التقليل المتزامن لعدد حالات الرفض وتباعد KL عن النموذج الأصلي. ينتج عن ذلك نموذج غير خاضع للرقابة يحتفظ بأكبر قدر ممكن من ذكاء النموذج الأصلي. لا يتطلب استخدام Heretic فهمًا للبنى الداخلية للمحولات. في الواقع، يمكن لأي شخص يعرف كيفية تشغيل برنامج سطر أوامر أن يستخدم Heretic لإزالة الرقابة عن نماذج اللغة.

يدعم Heretic معظم النماذج الكثيفة، بما في ذلك العديد من النماذج متعددة الوسائط، وعدة بنى MoE مختلفة، وحتى بعض النماذج الهجينة مثل Qwen3.5. أما النماذج النقية القائمة على فضاء الحالة وبعض البنى البحثية الأخرى فغير مدعومة بعد بشكل مباشر.

 

عند تشغيله دون إشراف بالإعدادات الافتراضية، يمكن لـ Heretic إنتاج نماذج غير خاضعة للرقابة تضاهي في الجودة نماذج abliteration التي أنشأها خبراء بشريون يدويًا:

النموذج	حالات الرفض للمطالبات "الضارة"	تباعد KL عن النموذج الأصلي للمطالبات "غير الضارة"
google/gemma-3-12b-it (الأصلي)	97/100	0 (بحكم التعريف)
mlabonne/gemma-3-12b-it-abliterated-v2	3/100	1.04
huihui-ai/gemma-3-12b-it-abliterated	3/100	0.45
p-e-w/gemma-3-12b-it-heretic (خاصتنا)	3/100	0.16

نسخة Heretic، التي أُنشئت دون أي جهد بشري، تحقق المستوى نفسه من قمع حالات الرفض الذي تحققه نماذج abliteration الأخرى، ولكن مع تباعد KL أقل بكثير، مما يشير إلى ضرر أقل لقدرات النموذج الأصلي. (يمكنك إعادة إنتاج هذه الأرقام باستخدام وظيفة التقييم المدمجة في Heretic، مثل heretic --model google/gemma-3-12b-it --evaluate-model p-e-w/gemma-3-12b-it-heretic. لاحظ أن القيم الدقيقة قد تعتمد على المنصة والعتاد. الجدول أعلاه أُعد باستخدام PyTorch 2.8 على بطاقة RTX 5090.)

بالطبع، لا تروي المقاييس الرياضية والاختبارات المعيارية الآلية القصة كاملة أبدًا، ولا تُغني عن التقييم البشري. لاقت النماذج التي أنشأتها Heretic استحسانًا من المستخدمين (الروابط والتشديد مضافان):

"كنتُ متشككًا من قبل، لكنني حمّلت للتو نموذج GPT-OSS 20B Heretic ويا للهول! إنه يقدّم ردودًا طويلة منسقة بشكل صحيح حول مواضيع حساسة، باستخدام الكلمات غير الخاضعة للرقابة تمامًا التي تتوقعها من نموذج غير خاضع للرقابة، وينتج جداول بتنسيق markdown مع التفاصيل وما إلى ذلك. يبدو أن هذه أفضل نسخة abliterated من هذا النموذج حتى الآن..." (رابط التعليق)

"Heretic GPT 20b يبدو أنه أفضل نموذج غير خاضع للرقابة جربته حتى الآن. إنه لا يدمر ذكاء النموذج، بل يجيب على الاستفسارات التي كان النموذج الأساسي سيرفضها عادةً." (رابط التعليق)

"[Qwen3-4B-Instruct-2507-heretic] هو أفضل نموذج abliterated غير مكمّم تمكنت من تشغيله على ذاكرة فيديو سعتها 16 جيجابايت." (رابط التعليق)

كما خضعت نماذج Heretic لاختبارات معيارية مستقلة باستخدام مقاييس قياسية مثل MMLU وGSM8K، وتبيّن أنها تنافس بشكل إيجابي النماذج التي تنتجها أدوات abliteration المنافسة: 1، 2.

وقد أنشأ المجتمع ونشر أكثر من 4000 نموذج باستخدام Heretic.

الاستخدام

جهّز بيئة Python 3.10+ مع تثبيت PyTorch 2.2+ بما يناسب عتادك. ثم نفّذ:

pip install -U heretic-llm
heretic Qwen/Qwen3-4B-Instruct-2507

استبدل Qwen/Qwen3-4B-Instruct-2507 بأي نموذج تريد إزالة الرقابة عنه.

[!IMPORTANT]

على الرغم من أن PyTorch 2.2 هو الحد الأدنى لإصدار PyTorch المطلوب لكي يعمل Heretic، فقد تتطلب بعض النماذج والإعدادات ميزات غير موجودة إلا في الإصدارات الأحدث. على سبيل المثال، يستخدم تحميل النماذج المكمّمة بـ MXFP4 مثل gpt-oss ميزة torch.accelerator، التي أُضيفت في PyTorch 2.6.

[!TIP]

يستخدم Heretic uv لإدارة التبعيات، ويشتمل المستودع على ملف uv.lock يثبّت إصدار كل حزمة. إذا كنت تستخدم uv بالفعل (وينبغي عليك فعل ذلك على الأرجح!)، يمكنك ببساطة استنساخ المستودع وتشغيل Heretic باستخدام uv run heretic، مما يضمن تطابق تبعياتك مع تلك التي يستخدمها المطوّرون، وهو ما يحسّن الموثوقية والأمان.

العملية تلقائية بالكامل ولا تتطلب أي إعداد؛ ومع ذلك، تمتلك Heretic مجموعة متنوعة من معاملات الإعداد يمكن تغييرها لمزيد من التحكم. نفّذ heretic --help لعرض خيارات سطر الأوامر المتاحة، أو اطّلع على config.default.toml إذا كنت تفضّل استخدام ملف إعداد.

في بداية كل تشغيل للبرنامج، تجري Heretic اختبارًا معياريًا للنظام لتحديد حجم الدفعات الأمثل للاستفادة القصوى من العتاد المتاح. على بطاقة RTX 3090، ومع الإعدادات الافتراضية، تستغرق إزالة الرقابة عن Qwen3-4B-Instruct-2507 حوالي 20-30 دقيقة. لاحظ أن Heretic تدعم تكميم النماذج باستخدام bitsandbytes، وهو ما يمكن أن يقلل بشكل كبير من مقدار ذاكرة الفيديو المطلوبة لمعالجة النماذج. اضبط خيار quantization على bnb_4bit لتفعيل التكميم.

بعد انتهاء Heretic من إزالة الرقابة عن نموذج، يُعرض عليك خيار حفظ النموذج، أو رفعه إلى Hugging Face، أو الدردشة معه لاختبار مدى جودة عمله، أو تشغيل اختبارات معيارية قياسية عليه، أو أي مجموعة من هذه الإجراءات.

ميزات البحث

بالإضافة إلى وظيفته الأساسية المتمثلة في إزالة رقابة النماذج، يوفّر Heretic أيضًا ميزات مصممة لدعم البحث في دلالات البنى الداخلية للنماذج (قابلية التفسير). لاستخدام هذه الميزات، تحتاج إلى تثبيت Heretic مع الحزمة الاختيارية research:

pip install -U 'heretic-llm[research]'

يمنحك هذا إمكانية الوصول إلى الوظائف التالية:

إنشاء رسوم بيانية لمتجهات البقايا بتمرير --plot-residuals

عند تشغيله مع هذا العلم، سيقوم Heretic بما يلي: