Heretic: भाषा मॉडलों के लिए पूर्णतः स्वचालित सेंसरशिप हटाना

Heretic एक ऐसा टूल है जो ट्रांसफॉर्मर-आधारित भाषा मॉडलों से महँगे पोस्ट-ट्रेनिंग के बिना सेंसरशिप (यानी "सेफ़्टी अलाइनमेंट") हटाता है। यह डायरेक्शनल एब्लेशन के एक उन्नत कार्यान्वयन को जोड़ता है, जिसे "एब्लिटरेशन" भी कहा जाता है (Arditi et al. 2024, Lai 2025 (1, 2)), साथ ही Optuna द्वारा संचालित TPE-आधारित पैरामीटर ऑप्टिमाइज़र के साथ।

यह दृष्टिकोण Heretic को पूरी तरह से स्वचालित रूप से काम करने में सक्षम बनाता है। Heretic इनकारों की संख्या और मूल मॉडल से KL डाइवर्जेंस दोनों को सह-न्यूनतम करके उच्च-गुणवत्ता वाले एब्लिटरेशन पैरामीटर खोजता है। इसका परिणाम एक डीसेंसर्ड मॉडल होता है जो मूल मॉडल की अधिकतम बुद्धिमत्ता बनाए रखता है। Heretic का उपयोग करने के लिए ट्रांसफॉर्मर की आंतरिक संरचना की समझ की आवश्यकता नहीं है। वास्तव में, कोई भी व्यक्ति जो कमांड-लाइन प्रोग्राम चलाना जानता है, वह Heretic का उपयोग भाषा मॉडलों को डीसेंसर करने के लिए कर सकता है।

Heretic अधिकांश डेंस मॉडलों का समर्थन करता है, जिनमें कई मल्टीमॉडल मॉडल, कई अलग-अलग MoE आर्किटेक्चर, और यहाँ तक कि Qwen3.5 जैसे कुछ हाइब्रिड मॉडल भी शामिल हैं। शुद्ध स्टेट-स्पेस मॉडल और कुछ अन्य शोध आर्किटेक्चर अभी तक बॉक्स से बाहर समर्थित नहीं हैं।

 

डिफ़ॉल्ट कॉन्फ़िगरेशन के साथ अनसुपरवाइज़्ड रूप से चलने पर, Heretic ऐसे डीसेंसर्ड मॉडल तैयार कर सकता है जो मानव विशेषज्ञों द्वारा मैन्युअल रूप से बनाए गए एब्लिटरेशन की गुणवत्ता को टक्कर देते हैं:

Model	Refusals for "harmful" prompts	KL divergence from original model for "harmless" prompts
google/gemma-3-12b-it (original)	97/100	0 (by definition)
mlabonne/gemma-3-12b-it-abliterated-v2	3/100	1.04
huihui-ai/gemma-3-12b-it-abliterated	3/100	0.45
p-e-w/gemma-3-12b-it-heretic (ours)	3/100	0.16

Heretic संस्करण, जो बिना किसी मानवीय प्रयास के तैयार किया गया है, अन्य एब्लिटरेशन के समान स्तर का इनकार-दमन प्राप्त करता है, लेकिन बहुत कम KL डाइवर्जेंस के साथ, जो मूल मॉडल की क्षमताओं को कम नुकसान का संकेत देता है। (आप Heretic की अंतर्निहित मूल्यांकन कार्यक्षमता का उपयोग करके उन संख्याओं को पुनः उत्पन्न कर सकते हैं, जैसे heretic --model google/gemma-3-12b-it --evaluate-model p-e-w/gemma-3-12b-it-heretic। ध्यान दें कि सटीक मान प्लेटफ़ॉर्म- और हार्डवेयर-निर्भर हो सकते हैं। ऊपर दी गई तालिका RTX 5090 पर PyTorch 2.8 का उपयोग करके संकलित की गई थी।)

बेशक, गणितीय मेट्रिक्स और स्वचालित बेंचमार्क कभी भी पूरी कहानी नहीं बताते, और मानव मूल्यांकन का विकल्प नहीं हैं। Heretic से उत्पन्न मॉडलों को उपयोगकर्ताओं द्वारा अच्छी प्रतिक्रिया मिली है (लिंक और जोर जोड़े गए):

"मैं पहले संदेह में था, लेकिन मैंने अभी-अभी GPT-OSS 20B Heretic मॉडल डाउनलोड किया और हे भगवान। यह संवेदनशील विषयों पर उचित रूप से स्वरूपित लंबी प्रतिक्रियाएँ देता है, ठीक उन्हीं बिना-सेंसर वाले शब्दों का उपयोग करते हुए जिनकी आप एक बिना-सेंसर मॉडल से अपेक्षा करेंगे, विवरण आदि के साथ मार्कडाउन प्रारूप तालिकाएँ बनाता है। ऐसा लगता है कि यह इस मॉडल का अब तक का सबसे अच्छा एब्लिटरेटेड संस्करण है..." (टिप्पणी का लिंक)

"Heretic GPT 20b अब तक का सबसे अच्छा बिना-सेंसर वाला मॉडल प्रतीत होता है जिसे मैंने आज़माया है। यह मॉडल की बुद्धिमत्ता को नष्ट नहीं करता और उन प्रॉम्प्ट्स का सामान्य रूप से उत्तर देता है जिन्हें बेस मॉडल द्वारा अस्वीकार कर दिया जाता।" (टिप्पणी का लिंक)

"[Qwen3-4B-Instruct-2507-heretic] 16GB VRAM पर चलाने योग्य अब तक का सबसे अच्छा अनक्वांटाइज़्ड एब्लिटरेटेड मॉडल रहा है।" (टिप्पणी का लिंक)

Heretic मॉडलों को MMLU और GSM8K जैसे मानक मेट्रिक्स का उपयोग करके स्वतंत्र रूप से बेंचमार्क भी किया गया है, और पाया गया है कि वे प्रतिस्पर्धी एब्लिटरेशन टूल्स द्वारा उत्पादित मॉडलों की तुलना में अनुकूल प्रदर्शन करते हैं: 1, 2।

समुदाय ने Heretic के साथ 5000 से अधिक मॉडल बनाए और प्रकाशित किए हैं।

उपयोग

अपने हार्डवेयर के अनुसार PyTorch 2.2+ स्थापित के साथ एक Python 3.10+ वातावरण तैयार करें। फिर चलाएँ:

pip install -U heretic-llm
heretic Qwen/Qwen3-4B-Instruct-2507

Qwen/Qwen3-4B-Instruct-2507 को उस मॉडल से बदलें जिसे आप डीसेंसर करना चाहते हैं।

[!IMPORTANT]

हालाँकि Heretic के काम करने के लिए PyTorch 2.2 न्यूनतम आवश्यक संस्करण है, कुछ मॉडल और कॉन्फ़िगरेशन ऐसी सुविधाओं की माँग कर सकते हैं जो केवल बाद के संस्करणों में उपलब्ध हैं। उदाहरण के लिए, gpt-oss जैसे MXFP4-क्वांटाइज़्ड मॉडल लोड करने में torch.accelerator का उपयोग होता है, जिसे PyTorch 2.6 में जोड़ा गया था।

[!TIP]

Heretic निर्भरता प्रबंधन के लिए uv का उपयोग करता है, और रिपॉज़िटरी में एक uv.lock फ़ाइल शामिल है जो हर पैकेज संस्करण को पिन करती है। यदि आप पहले से uv का उपयोग करते हैं (और आपको शायद करना चाहिए!), तो आप बस रेपो को क्लोन कर सकते हैं और Heretic को uv run heretic के साथ चला सकते हैं, जो सुनिश्चित करता है कि आपकी निर्भरताएँ डेवलपर्स द्वारा उपयोग की जाने वाली निर्भरताओं से मेल खाती हैं, जिससे विश्वसनीयता और सुरक्षा बढ़ती है।

यह प्रक्रिया पूरी तरह से स्वचालित है और इसके लिए कॉन्फ़िगरेशन की आवश्यकता नहीं है; हालाँकि, Heretic में कई कॉन्फ़िगरेशन पैरामीटर हैं जिन्हें अधिक नियंत्रण के लिए बदला जा सकता है। उपलब्ध कमांड-लाइन विकल्प देखने के लिए heretic --help चलाएँ, या यदि आप कॉन्फ़िगरेशन फ़ाइल का उपयोग करना पसंद करते हैं तो config.default.toml देखें।