Heretic: Rimozione completamente automatica della censura per modelli linguistici

Heretic è uno strumento che rimuove la censura (nota anche come "safety alignment") dai modelli linguistici basati su transformer senza costosi post-training. Combina un'implementazione avanzata dell'ablazione direzionale, nota anche come "abliteration" (Arditi et al. 2024, Lai 2025 (1, 2)), con un ottimizzatore di parametri basato su TPE alimentato da Optuna.

Questo approccio consente a Heretic di funzionare completamente in automatico. Heretic trova parametri di abliteration di alta qualità minimizzando contemporaneamente il numero di rifiuti e la divergenza KL dal modello originale. Il risultato è un modello decensurato che conserva quanta più intelligenza possibile del modello originale. Usare Heretic non richiede una comprensione degli interni dei transformer. Infatti, chiunque sappia eseguire un programma da riga di comando può usare Heretic per decensurare modelli linguistici.

Heretic supporta la maggior parte dei modelli dense, inclusi molti modelli multimodali, diverse architetture MoE, e persino alcuni modelli ibridi come Qwen3.5. I modelli puramente state-space e alcune altre architetture di ricerca non sono ancora supportati out of the box.

 

Eseguendo in modo non supervisionato con la configurazione predefinita, Heretic può produrre modelli decensurati che rivaleggiano con la qualità delle abliteration create manualmente da esperti umani:

Modello	Rifiuti per prompt "dannosi"	Divergenza KL dal modello originale per prompt "innocui"
google/gemma-3-12b-it (originale)	97/100	0 (per definizione)
mlabonne/gemma-3-12b-it-abliterated-v2	3/100	1.04
huihui-ai/gemma-3-12b-it-abliterated	3/100	0.45
p-e-w/gemma-3-12b-it-heretic (nostro)	3/100	0.16

La versione Heretic, generata senza alcuno sforzo umano, raggiunge lo stesso livello di soppressione dei rifiuti delle altre abliteration, ma con una divergenza KL molto inferiore, indicando meno danni alle capacità del modello originale. (Puoi riprodurre quei numeri usando la funzionalità di valutazione integrata di Heretic, ad esempio heretic --model google/gemma-3-12b-it --evaluate-model p-e-w/gemma-3-12b-it-heretic. Nota che i valori esatti potrebbero dipendere dalla piattaforma e dall'hardware. La tabella sopra è stata compilata usando PyTorch 2.8 su una RTX 5090.)

Naturalmente, le metriche matematiche e i benchmark automatizzati non raccontano mai tutta la storia, e non sostituiscono la valutazione umana. I modelli generati con Heretic sono stati ben accolti dagli utenti (link ed enfasi aggiunti):

"Ero scettico prima, ma ho appena scaricato GPT-OSS 20B Heretic e porca miseria. Fornisce risposte lunghe ben formattate a argomenti sensibili, usando le esatte parole non censurate che ti aspetteresti da un modello non censurato, produce tabelle in formato markdown con dettagli e quant'altro. Sembra che questa sia la migliore versione abliterated di questo modello finora..." (Link al commento)

"Heretic GPT 20b sembra essere il miglior modello non censurato che abbia mai provato. Non distrugge l'intelligenza del modello e risponde a prompt che normalmente sarebbero rifiutati dal modello base." (Link al commento)

"[Qwen3-4B-Instruct-2507-heretic] È stato il miglior modello abliterated non quantizzato che sono riuscito a eseguire su 16gb di vram." (Link al commento)

I modelli Heretic sono stati anche sottoposti a benchmark indipendenti usando metriche standard come MMLU e GSM8K, e si è scoperto che si confrontano favorevolmente con i modelli prodotti da strumenti di abliteration concorrenti: 1, 2.

La comunità ha creato e pubblicato ben oltre 5000 modelli con Heretic.

Utilizzo

Prepara un ambiente Python 3.10+ con PyTorch 2.2+ installato in modo appropriato per il tuo hardware. Poi esegui:

pip install -U heretic-llm
heretic Qwen/Qwen3-4B-Instruct-2507

Sostituisci Qwen/Qwen3-4B-Instruct-2507 con qualunque modello tu voglia decensurare.

[!IMPORTANT]

Sebbene PyTorch 2.2 sia la versione minima di PyTorch necessaria per il funzionamento di Heretic, alcuni modelli e configurazioni potrebbero richiedere funzionalità presenti solo in versioni successive. Ad esempio, il caricamento di modelli quantizzati MXFP4 come gpt-oss usa torch.accelerator, che è stato aggiunto in PyTorch 2.6.

[!TIP]

Heretic usa uv per la gestione delle dipendenze, e il repository include un file uv.lock che fissa ogni versione dei pacchetti. Se usi già uv (e probabilmente dovresti!), puoi semplicemente clonare il repo ed eseguire Heretic con uv run heretic, il che garantisce che le tue dipendenze corrispondano a quelle usate dagli sviluppatori, migliorando affidabilità e sicurezza.

Il processo è completamente automatico e non richiede configurazione; tuttavia, Heretic ha una varietà di parametri di configurazione che possono essere modificati per un maggiore controllo. Esegui heretic --help per vedere le opzioni disponibili da riga di comando, oppure guarda config.default.toml se preferisci usare un file di configurazione.