Heretic: Rimozione automatica della censura per modelli linguistici

Heretic è uno strumento che rimuove la censura (nota anche come "allineamento di sicurezza") dai modelli linguistici basati su transformer senza costoso post-addestramento. Combina un'implementazione avanzata dell'ablazione direzionale, nota anche come "abliteration" (Arditi et al. 2024, Lai 2025 (1, 2)), con un ottimizzatore di parametri basato su TPE alimentato da Optuna.

Questo approccio consente a Heretic di funzionare completamente in automatico. Heretic trova parametri di abliteration di alta qualità minimizzando congiuntamente il numero di rifiuti e la divergenza KL dal modello originale. Ciò produce un modello decensurato che conserva quanta più intelligenza possibile del modello originale. Usare Heretic non richiede una comprensione degli interni dei transformer. In effetti, chiunque sappia eseguire un programma da riga di comando può usare Heretic per decensurare modelli linguistici.

Heretic supporta la maggior parte dei modelli densi, inclusi molti modelli multimodali, diverse architetture MoE, e persino alcuni modelli ibridi come Qwen3.5. I modelli puramente a spazio di stato e alcune altre architetture di ricerca non sono ancora supportati out of the box.

 

Eseguendo in modo non supervisionato con la configurazione predefinita, Heretic può produrre modelli decensurati che rivaleggiano in qualità con le abliteration create manualmente da esperti umani:

Modello	Rifiuti per prompt "dannosi"	Divergenza KL dal modello originale per prompt "innocui"
google/gemma-3-12b-it (originale)	97/100	0 (per definizione)
mlabonne/gemma-3-12b-it-abliterated-v2	3/100	1.04
huihui-ai/gemma-3-12b-it-abliterated	3/100	0.45
p-e-w/gemma-3-12b-it-heretic (nostro)	3/100	0.16

La versione Heretic, generata senza alcuno sforzo umano, raggiunge lo stesso livello di soppressione dei rifiuti delle altre abliteration, ma con una divergenza KL molto più bassa, indicando un danno minore alle capacità del modello originale. (Puoi riprodurre quei numeri usando la funzionalità di valutazione integrata di Heretic, ad es. heretic --model google/gemma-3-12b-it --evaluate-model p-e-w/gemma-3-12b-it-heretic. Nota che i valori esatti potrebbero dipendere dalla piattaforma e dall'hardware. La tabella sopra è stata compilata usando PyTorch 2.8 su RTX 5090.)

Naturalmente, le metriche matematiche e i benchmark automatici non raccontano mai tutta la storia e non sostituiscono la valutazione umana. I modelli generati con Heretic sono stati ben accolti dagli utenti (link ed enfasi aggiunti):

"Ero scettico prima, ma ho appena scaricato GPT-OSS 20B Heretic e accidenti. Fornisce risposte lunghe e ben formattate su argomenti sensibili, usando le esatte parole non censurate che ti aspetteresti da un modello non censurato, produce tabelle in formato markdown con dettagli e quant'altro. Sembra che questa sia la versione abliterated migliore di questo modello finora..." (Link al commento)

"Heretic GPT 20b sembra essere il miglior modello non censurato che abbia mai provato. Non distrugge l'intelligenza del modello e risponde a prompt che normalmente sarebbero stati rifiutati dal modello base." (Link al commento)

"[Qwen3-4B-Instruct-2507-heretic] È stato il miglior modello abliterated non quantizzato che sono riuscito a eseguire su 16gb di vram." (Link al commento)

I modelli Heretic sono stati anche valutati indipendentemente utilizzando metriche standard come MMLU e GSM8K, e sono risultati favorevoli rispetto ai modelli prodotti da strumenti di abliteration concorrenti: 1, 2.

La comunità ha creato e pubblicato ben oltre 4000 modelli con Heretic.

Utilizzo

Prepara un ambiente Python 3.10+ con PyTorch 2.2+ installato in modo appropriato per il tuo hardware. Quindi esegui:

pip install -U heretic-llm
heretic Qwen/Qwen3-4B-Instruct-2507

Sostituisci Qwen/Qwen3-4B-Instruct-2507 con il modello che vuoi decensurare.

[!IMPORTANT]

Sebbene PyTorch 2.2 sia la versione minima di PyTorch necessaria per Heretic, alcuni modelli e configurazioni potrebbero richiedere funzionalità presenti solo in versioni successive. Ad esempio, il caricamento di modelli quantizzati MXFP4 come gpt-oss utilizza torch.accelerator, che è stato aggiunto in PyTorch 2.6.

[!TIP]

Heretic utilizza uv per la gestione delle dipendenze, e il repository include un file uv.lock che fissa ogni versione dei pacchetti. Se usi già uv (e probabilmente dovresti!), puoi semplicemente clonare il repository ed eseguire Heretic con uv run heretic, che garantisce che le tue dipendenze corrispondano a quelle utilizzate dagli sviluppatori, migliorando affidabilità e sicurezza.

Il processo è completamente automatico e non richiede configurazione; tuttavia, Heretic ha una varietà di parametri di configurazione che possono essere modificati per un maggiore controllo. Esegui heretic --help per vedere le opzioni da riga di comando disponibili, oppure consulta config.default.toml se preferisci usare un file di configurazione.