Heretic: भाषा मॉडलों के लिए पूरी तरह से स्वचालित सेंसरशिप हटाना

Heretic एक उपकरण है जो ट्रांसफ़ॉर्मर-आधारित भाषा मॉडलों से सेंसरशिप (उर्फ़ "सुरक्षा संरेखण") को महंगे पोस्ट-ट्रेनिंग के बिना हटाता है। यह दिशात्मक एब्लेशन (जिसे "abliteration" भी कहा जाता है) के एक उन्नत कार्यान्वयन को जोड़ता है (Arditi et al. 2024, 1, Lai 2025 (1, 2)) Optuna द्वारा संचालित TPE-आधारित पैरामीटर ऑप्टिमाइज़र के साथ।

यह दृष्टिकोण Heretic को पूरी तरह से स्वचालित रूप से काम करने में सक्षम बनाता है। Heretic अस्वीकृतियों की संख्या और मूल मॉडल से KL विचलन को सह-न्यूनतम करके उच्च गुणवत्ता वाले abliteration पैरामीटर ढूंढता है। इसका परिणाम एक डिसेंसर्ड मॉडल होता है जो मूल मॉडल की यथासंभव अधिक बुद्धिमत्ता बनाए रखता है। Heretic का उपयोग करने के लिए ट्रांसफ़ॉर्मर आंतरिक की समझ की आवश्यकता नहीं है। वास्तव में, कोई भी जो कमांड-लाइन प्रोग्राम चलाना जानता है वह Heretic का उपयोग करके भाषा मॉडल को डिसेंसर कर सकता है।

Heretic अधिकांश डेंस मॉडलों का समर्थन करता है, जिसमें कई मल्टीमॉडल मॉडल, कई अलग-अलग MoE आर्किटेक्चर, और यहां तक कि कुछ हाइब्रिड मॉडल जैसे Qwen3.5 भी शामिल हैं। शुद्ध स्टेट-स्पेस मॉडल और कुछ अन्य शोध आर्किटेक्चर अभी तक आउट-ऑफ-द-बॉक्स समर्थित नहीं हैं।

 

डिफ़ॉल्ट कॉन्फ़िगरेशन के साथ अप्रशिक्षित चलने पर, Heretic ऐसे डिसेंसर्ड मॉडल तैयार कर सकता है जो मानव विशेषज्ञों द्वारा मैन्युअल रूप से बनाए गए abliterations की गुणवत्ता के बराबर हों:

मॉडल	"हानिकारक" प्रॉम्प्ट के लिए अस्वीकृतियाँ	"हानिरहित" प्रॉम्प्ट के लिए मूल मॉडल से KL विचलन
google/gemma-3-12b-it (मूल)	97/100	0 (परिभाषा के अनुसार)
mlabonne/gemma-3-12b-it-abliterated-v2	3/100	1.04
huihui-ai/gemma-3-12b-it-abliterated	3/100	0.45
p-e-w/gemma-3-12b-it-heretic (हमारा)	3/100	0.16

Heretic संस्करण, बिना किसी मानवीय प्रयास के उत्पन्न, अन्य abliterations के समान स्तर की अस्वीकृति दमन प्राप्त करता है, लेकिन बहुत कम KL विचलन पर, जो मूल मॉडल की क्षमताओं को कम नुकसान का संकेत देता है। (आप उन संख्याओं को Heretic की अंतर्निहित मूल्यांकन कार्यक्षमता का उपयोग करके पुन: उत्पन्न कर सकते हैं, जैसे heretic --model google/gemma-3-12b-it --evaluate-model p-e-w/gemma-3-12b-it-heretic। ध्यान दें कि सटीक मान प्लेटफ़ॉर्म- और हार्डवेयर-निर्भर हो सकते हैं। उपरोक्त तालिका RTX 5090 पर PyTorch 2.8 का उपयोग करके संकलित की गई थी।)

बेशक, गणितीय मीट्रिक्स और स्वचालित बेंचमार्क कभी भी पूरी कहानी नहीं बताते, और मानव मूल्यांकन का कोई विकल्प नहीं हैं। Heretic के साथ उत्पन्न मॉडलों को उपयोगकर्ताओं द्वारा अच्छी तरह से प्राप्त किया गया है (लिंक और जोर जोड़ा गया):

"मुझे पहले संदेह था, लेकिन मैंने अभी-अभी GPT-OSS 20B Heretic मॉडल डाउनलोड किया और बाप रे। यह संवेदनशील विषयों पर उचित रूप से स्वरूपित लंबे प्रतिक्रिया देता है, ठीक उन्हीं अनसेंसर्ड शब्दों का उपयोग करते हुए जिनकी आप एक अनसेंसर्ड मॉडल से अपेक्षा करेंगे, विवरण और वगैरह के साथ मार्कडाउन प्रारूप तालिकाएँ बनाता है। ऐसा लगता है कि यह अब तक इस मॉडल का सबसे अच्छा abliterated संस्करण है..." (टिप्पणी का लिंक)

"[Heretic GPT 20b अब तक का सबसे अच्छा अनसेंसर्ड मॉडल लगता है जिसे मैंने आज़माया है। यह मॉडल की बुद्धिमत्ता को नष्ट नहीं करता और यह सामान्य प्रॉम्प्ट का उत्तर दे रहा है जिन्हें आमतौर पर बेस मॉडल द्वारा अस्वीकार कर दिया जाएगा।" (टिप्पणी का लिंक)

"[[**Qwen3-4B-Instruct-2507-heretic**] अब तक का सबसे अच्छा अनक्वांटाइज्ड abliterated मॉडल रहा है जिसे मैं 16gb vram पर चलाने में सक्षम हूँ।" (टिप्पणी का लिंक)

Heretic मॉडलों को मानक मीट्रिक्स जैसे MMLU और GSM8K का उपयोग करके स्वतंत्र रूप से बेंचमार्क भी किया गया है, और प्रतिस्पर्धी abliteration टूल द्वारा उत्पादित मॉडलों के साथ अनुकूल तुलना पाई गई है: 1, 2।

समुदाय ने Heretic के साथ 4000 से अधिक मॉडल बनाए और प्रकाशित किए हैं।

उपयोग

अपने हार्डवेयर के अनुसार PyTorch 2.2+ स्थापित के साथ Python 3.10+ वातावरण तैयार करें। फिर चलाएँ:

pip install -U heretic-llm
heretic Qwen/Qwen3-4B-Instruct-2507

Qwen/Qwen3-4B-Instruct-2507 को उस मॉडल से बदलें जिसे आप डिसेंसर करना चाहते हैं।

[!IMPORTANT]

जबकि Heretic के काम करने के लिए PyTorch 2.2 न्यूनतम संस्करण है, कुछ मॉडलों और कॉन्फ़िगरेशन को बाद के संस्करणों में ही पाई जाने वाली सुविधाओं की आवश्यकता हो सकती है। उदाहरण के लिए, gpt-oss जैसे MXFP4-क्वांटाइज़्ड मॉडल लोड करने के लिए torch.accelerator का उपयोग होता है, जो PyTorch 2.6 में जोड़ा गया था।

[!TIP]

Heretic निर्भरता प्रबंधन के लिए uv का उपयोग करता है, और रिपॉजिटरी में प्रत्येक पैकेज संस्करण को पिन करने वाली एक uv.lock फ़ाइल शामिल है। यदि आप पहले से ही uv का उपयोग करते हैं (और आपको शायद करना चाहिए!), तो आप बस रेपो को क्लोन कर सकते हैं और Heretic को uv run heretic के साथ चला सकते हैं, जो सुनिश्चित करता है कि आपकी निर्भरताएँ डेवलपर्स द्वारा उपयोग की गई निर्भरताओं से मेल खाती हैं, जिससे विश्वसनीयता और सुरक्षा में सुधार होता है।

प्रक्रिया पूरी तरह से स्वचालित है और इसे कॉन्फ़िगरेशन की आवश्यकता नहीं है; हालाँकि, Heretic में विभिन्न कॉन्फ़िगरेशन पैरामीटर हैं जिन्हें अधिक नियंत्रण के लिए बदला जा सकता है। उपलब्ध कमांड-लाइन विकल्प देखने के लिए heretic --help चलाएँ, या यदि आप कॉन्फ़िगरेशन फ़ाइल का उपयोग करना पसंद करते हैं तो config.default.toml देखें।

प्रोग्राम रन की शुरुआत में, Heretic उपलब्ध हार्डवेयर का अधिकतम लाभ उठाने के लिए इष्टतम बैच आकार निर्धारित करने के लिए सिस्टम को बेंचमार्क करता है। RTX 3090 पर, डिफ़ॉल्ट कॉन्फ़िगरेशन के साथ, Qwen3-4B-Instruct-2507 को डिसेंसर करने में लगभग 20-30 मिनट लगते हैं। ध्यान दें कि Heretic bitsandbytes के साथ मॉडल क्वांटाइज़ेशन का समर्थन करता है, जो मॉडल को संसाधित करने के लिए आवश्यक VRAM की मात्रा को काफी कम कर सकता है। क्वांटाइज़ेशन सक्षम करने के लिए quantization विकल्प को bnb_4bit पर सेट करें।