Heretic هي أداة تزيل الرقابة (المعروفة أيضًا باسم "مواءمة السلامة") من نماذج اللغة القائمة على المحولات دون الحاجة إلى تدريب لاحق مكلف. تجمع بين تنفيذ متقدم للإزالة الاتجاهية (directional ablation)، المعروفة أيضًا باسم "abliteration" (Arditi et al. 2024، Lai 2025 (1، 2))، ومحسِّن معاملات قائم على TPE مدعوم من Optuna.

يتيح هذا النهج لـ Heretic العمل بشكل تلقائي بالكامل. تعثر Heretic على معاملات abliteration عالية الجودة من خلال التقليل المتزامن لعدد حالات الرفض وتباعد KL عن النموذج الأصلي. ينتج عن ذلك نموذج غير خاضع للرقابة يحتفظ بأكبر قدر ممكن من ذكاء النموذج الأصلي. لا يتطلب استخدام Heretic فهمًا للبنى الداخلية للمحولات. في الواقع، يمكن لأي شخص يعرف كيفية تشغيل برنامج سطر أوامر أن يستخدم Heretic لإزالة الرقابة عن نماذج اللغة.

يدعم Heretic معظم النماذج الكثيفة، بما في ذلك العديد من النماذج متعددة الوسائط، وعدة بنى MoE مختلفة، وحتى بعض النماذج الهجينة مثل Qwen3.5. أما النماذج النقية القائمة على فضاء الحالة وبعض البنى البحثية الأخرى فغير مدعومة بعد بشكل مباشر.

عند تشغيله دون إشراف بالإعدادات الافتراضية، يمكن لـ Heretic إنتاج نماذج غير خاضعة للرقابة تضاهي في الجودة نماذج abliteration التي أنشأها خبراء بشريون يدويًا:

نسخة Heretic، التي أُنشئت دون أي جهد بشري، تحقق المستوى نفسه من قمع حالات الرفض الذي تحققه نماذج abliteration الأخرى، ولكن مع تباعد KL أقل بكثير، مما يشير إلى ضرر أقل لقدرات النموذج الأصلي. (يمكنك إعادة إنتاج هذه الأرقام باستخدام وظيفة التقييم المدمجة في Heretic، مثل heretic --model google/gemma-3-12b-it --evaluate-model p-e-w/gemma-3-12b-it-heretic. لاحظ أن القيم الدقيقة قد تعتمد على المنصة والعتاد. الجدول أعلاه أُعد باستخدام PyTorch 2.8 على بطاقة RTX 5090.)

بالطبع، لا تروي المقاييس الرياضية والاختبارات المعيارية الآلية القصة كاملة أبدًا، ولا تُغني عن التقييم البشري. لاقت النماذج التي أنشأتها Heretic استحسانًا من المستخدمين (الروابط والتشديد مضافان):

"كنتُ متشككًا من قبل، لكنني حمّلت للتو نموذج GPT-OSS 20B Heretic ويا للهول! إنه يقدّم ردودًا طويلة منسقة بشكل صحيح حول مواضيع حساسة، باستخدام الكلمات غير الخاضعة للرقابة تمامًا التي تتوقعها من نموذج غير خاضع للرقابة، وينتج جداول بتنسيق markdown مع التفاصيل وما إلى ذلك. يبدو أن هذه أفضل نسخة abliterated من هذا النموذج حتى الآن..." (رابط التعليق)

"Heretic GPT 20b يبدو أنه أفضل نموذج غير خاضع للرقابة جربته حتى الآن. إنه لا يدمر ذكاء النموذج، بل يجيب على الاستفسارات التي كان النموذج الأساسي سيرفضها عادةً." (رابط التعليق)

"[Qwen3-4B-Instruct-2507-heretic] هو أفضل نموذج abliterated غير مكمّم تمكنت من تشغيله على ذاكرة فيديو سعتها 16 جيجابايت." (رابط التعليق)

كما خضعت نماذج Heretic لاختبارات معيارية مستقلة باستخدام مقاييس قياسية مثل MMLU وGSM8K، وتبيّن أنها تنافس بشكل إيجابي النماذج التي تنتجها أدوات abliteration المنافسة: 1، 2.

وقد أنشأ المجتمع ونشر أكثر من 4000 نموذج باستخدام Heretic.

الاستخدام

جهّز بيئة Python 3.10+ مع تثبيت PyTorch 2.2+ بما يناسب عتادك. ثم نفّذ:

استبدل Qwen/Qwen3-4B-Instruct-2507 بأي نموذج تريد إزالة الرقابة عنه.

[!IMPORTANT]

على الرغم من أن PyTorch 2.2 هو الحد الأدنى لإصدار PyTorch المطلوب لكي يعمل Heretic، فقد تتطلب بعض النماذج والإعدادات ميزات غير موجودة إلا في الإصدارات الأحدث. على سبيل المثال، يستخدم تحميل النماذج المكمّمة بـ MXFP4 مثل gpt-oss ميزة torch.accelerator، التي أُضيفت في PyTorch 2.6.

[!TIP]

يستخدم Heretic uv لإدارة التبعيات، ويشتمل المستودع على ملف uv.lock يثبّت إصدار كل حزمة. إذا كنت تستخدم uv بالفعل (وينبغي عليك فعل ذلك على الأرجح!)، يمكنك ببساطة استنساخ المستودع وتشغيل Heretic باستخدام uv run heretic، مما يضمن تطابق تبعياتك مع تلك التي يستخدمها المطوّرون، وهو ما يحسّن الموثوقية والأمان.

العملية تلقائية بالكامل ولا تتطلب أي إعداد؛ ومع ذلك، تمتلك Heretic مجموعة متنوعة من معاملات الإعداد يمكن تغييرها لمزيد من التحكم. نفّذ heretic --help لعرض خيارات سطر الأوامر المتاحة، أو اطّلع على config.default.toml إذا كنت تفضّل استخدام ملف إعداد.

في بداية كل تشغيل للبرنامج، تجري Heretic اختبارًا معياريًا للنظام لتحديد حجم الدفعات الأمثل للاستفادة القصوى من العتاد المتاح. على بطاقة RTX 3090، ومع الإعدادات الافتراضية، تستغرق إزالة الرقابة عن Qwen3-4B-Instruct-2507 حوالي 20-30 دقيقة. لاحظ أن Heretic تدعم تكميم النماذج باستخدام bitsandbytes، وهو ما يمكن أن يقلل بشكل كبير من مقدار ذاكرة الفيديو المطلوبة لمعالجة النماذج. اضبط خيار quantization على bnb_4bit لتفعيل التكميم.

بعد انتهاء Heretic من إزالة الرقابة عن نموذج، يُعرض عليك خيار حفظ النموذج، أو رفعه إلى Hugging Face، أو الدردشة معه لاختبار مدى جودة عمله، أو تشغيل اختبارات معيارية قياسية عليه، أو أي مجموعة من هذه الإجراءات.

ميزات البحث

بالإضافة إلى وظيفته الأساسية المتمثلة في إزالة رقابة النماذج، يوفّر Heretic أيضًا ميزات مصممة لدعم البحث في دلالات البنى الداخلية للنماذج (قابلية التفسير). لاستخدام هذه الميزات، تحتاج إلى تثبيت Heretic مع الحزمة الاختيارية research:

يمنحك هذا إمكانية الوصول إلى الوظائف التالية:

إنشاء رسوم بيانية لمتجهات البقايا بتمرير --plot-residuals

عند تشغيله مع هذا العلم، سيقوم Heretic بما يلي:

1. حساب متجهات البقايا (الحالات الكامنة) لرمز الإخراج الأول، لكل طبقة محول، لكل من المطالبات "الضارة" و"غير الضارة".
2. تنفيذ إسقاط PaCMAP من فضاء البقايا إلى فضاء ثنائي الأبعاد.
3. محاذاة إسقاطات بقايا المطالبات "الضارة"/"غير الضارة" من اليسار إلى اليمين وفقًا لوسيطاتها الهندسية لجعل إسقاطات الطبقات المتتالية أكثر تشابهًا. بالإضافة إلى ذلك، تتم تهيئة PaCMAP بإسقاطات الطبقة السابقة لكل طبقة جديدة، مما يقلل من الانتقالات المزعجة.
4. إنشاء رسم مبعثر للإسقاطات، مع توليد صورة PNG لكل طبقة.
5. إنشاء رسم متحرك يوضح كيفية تحول البقايا بين الطبقات، بصيغة GIF متحركة.

راجع ملف الإعداد للاطلاع على الخيارات التي تتيح لك التحكم في جوانب مختلفة من الرسوم البيانية المُنشأة.

لاحظ أن PaCMAP عملية مكلفة تُنفَّذ على المعالج المركزي. بالنسبة إلى النماذج الأكبر حجمًا، قد يستغرق حساب الإسقاطات لجميع الطبقات ساعة أو أكثر.

طباعة تفاصيل حول هندسة البقايا بتمرير --print-residual-geometry

إذا كنت مهتمًا بتحليل كمّي لكيفية ترابط متجهات البقايا لمطالبات "الضارة" و"غير الضارة" مع بعضها البعض، فإن هذا العلم يمنحك الجدول التالي، المليء بالمقاييس التي يمكن أن تسهّل فهم ذلك (بالنسبة إلى gemma-3-270m-it في هذه الحالة):

كيف تعمل Heretic

تنفّذ Heretic نسخة مُعاملات من الإزالة الاتجاهية. بالنسبة إلى كل مكوّن محول مدعوم (حاليًا، إسقاط مخرجات الانتباه والإسقاط التنازلي لـ MLP)، تحدّد المصفوفات المرتبطة به في كل طبقة محول، وتعامدها بالنسبة إلى "اتجاه البقايا" ذي الصلة، مما يمنع التعبير عن ذلك الاتجاه في نتائج عمليات الضرب بتلك المصفوفة.

تُحسب اتجاهات البقايا لكل طبقة على أنها الفرق بين متوسطي بقايا الرمز الأول لمطالبات الأمثلة "الضارة" و"غير الضارة".

تتحكم عدة معاملات قابلة للتحسين في عملية الإزالة:

• direction_index: إما فهرس اتجاه بقايا، أو القيمة الخاصة per layer، التي تشير إلى أنه يجب إزالة كل طبقة باستخدام اتجاه البقايا المرتبط بتلك الطبقة.
• max_weight وmax_weight_position وmin_weight وmin_weight_distance: تصف هذه المعاملات، لكل مكوّن، شكل وموضع نواة أوزان الإزالة عبر الطبقات. يوضح المخطط التالي ذلك:

تتمثل أبرز ابتكارات Heretic مقارنةً بأنظمة abliteration الحالية في:

• أن شكل نواة أوزان الإزالة مرن للغاية، وهو ما يمكن، عند دمجه مع التحسين التلقائي للمعاملات، من تحسين المفاضلة بين الامتثال والجودة. كانت أوزان الإزالة غير الثابتة قد استُكشفت سابقًا بواسطة Maxime Labonne في gemma-3-12b-it-abliterated-v2.
• أن فهرس اتجاه البقايا رقم عشري (float) وليس عددًا صحيحًا. بالنسبة إلى القيم غير الصحيحة، يتم استيفاء أقرب متجهي اتجاه بقايا خطيًا. يفتح هذا مجالًا واسعًا من الاتجاهات الإضافية إلى جانب تلك التي يحددها حساب الفرق بين المتوسطات، وغالبًا ما يمكّن عملية التحسين من العثور على اتجاه أفضل من الاتجاه الذي ينتمي إلى أي طبقة بمفردها.
• أن معاملات الإزالة تُختار بشكل منفصل لكل مكوّن. وجدتُ أن تدخلات MLP تميل إلى إلحاق ضرر أكبر بالنموذج من تدخلات الانتباه، لذا فإن استخدام أوزان إزالة مختلفة يمكن أن يستخرج بعض الأداء الإضافي.

الأعمال السابقة

أنا على علم بالتنفيذات المتاحة للعموم التالية لتقنيات abliteration:

• AutoAbliteration
• abliterator.py
• wassname's Abliterator
• ErisForge
• Removing refusals with HF Transformers
• deccp

لاحظ أن Heretic كُتب من الصفر، ولا يعيد استخدام كود من أي من تلك المشاريع.

شكر وتقدير

استفاد تطوير Heretic من:

• ورقة abliteration الأصلية (Arditi et al. 2024)
• مقال Maxime Labonne حول abliteration، بالإضافة إلى بعض التفاصيل من بطاقات نماذجه غير الخاضعة للرقابة (انظر أعلاه)
• مقالا Jim Lai اللذان يصفان "projected abliteration" و"norm-preserving biprojected abliteration"

الاستشهاد

إذا كنت تستخدم Heretic في بحثك، فيرجى الاستشهاد به باستخدام إدخال BibTeX التالي:

الترخيص

حقوق النشر © 2025-2026 Philipp Emanuel Weidmann ([email protected]) + المساهمون

هذا البرنامج برمجيات حرة: يمكنك إعادة توزيعه و/أو تعديله بموجب شروط رخصة جنو أفيرو العمومية كما نشرتها مؤسسة البرمجيات الحرة، سواء الإصدار 3 من الرخصة أو (حسب اختيارك) أي إصدار لاحق.

يُوزَّع هذا البرنامج على أمل أن يكون مفيدًا، ولكن دون أي ضمان؛ حتى دون الضمان الضمني للقابلية للتسويق أو الملاءمة لغرض معين. راجع رخصة جنو أفيرو العمومية لمزيد من التفاصيل.

كان ينبغي أن تكون قد تسلمت نسخة من رخصة جنو أفيرو العمومية مع هذا البرنامج. إذا لم تكن قد تسلمتها، فراجع https://www.gnu.org/licenses/.

بمساهمتك في هذا المشروع، فإنك توافق على إصدار مساهماتك بموجب الرخصة نفسها.