
Modifica dei modelli linguistici senza addestramento: rimuovi la censura, sopprimi le risposte di bassa qualità, riduci la piaggeria e altro ancora
Rimuovi la censura, sopprimi le risposte di bassa qualità, riduci la piaggeria e molto altro.
Tutto in un pomeriggio, sul tuo PC da gaming.
Heretic è uno strumento unico che ti permette di fare ciò che di solito fanno solo le aziende con accesso a una potenza di calcolo enorme: modificare, anziché semplicemente eseguire, i modelli linguistici. Non esegue un addestramento costoso; utilizza invece una serie di tecniche matematiche per orientare il comportamento sulla base di prompt di esempio contrastanti e scorer corrispondenti.
Heretic può, a seconda della configurazione:
config.noslop.toml)config.nohumor.toml)config.nosyco.toml)config.emotions.toml)config.terse.toml)e molte, molte altre cose.
Infatti, puoi passare da zero alla rimozione della censura dal tuo primo modello in questione di secondi. Heretic supporta la maggior parte dei modelli dense, inclusi molti modelli multimodali, diverse architetture MoE e molti modelli ibridi moderni.
La community ha creato e pubblicato migliaia di modelli con Heretic. I modelli Heretic sono stati valutati in modo indipendente utilizzando metriche standard come MMLU e GSM8K, e si è riscontrato che si confrontano favorevolmente rispetto ai modelli prodotti con strumenti di abliteration concorrenti.23
Prepara un ambiente Python 3.10+ con PyTorch 2.6+ installato in modo appropriato per il tuo hardware. Poi esegui:
pip install -U heretic-llm
heretic Qwen/Qwen3-4B-Instruct-2507
Sostituisci Qwen/Qwen3-4B-Instruct-2507 con il modello che vuoi elaborare.
Per impostazione predefinita, Heretic esegue la rimozione della censura (soppressione dei rifiuti).
Se vuoi fare qualcos'altro, scegli uno dei file di configurazione collegati
sopra, oppure scrivine uno tuo. Vedi config.default.toml
per le opzioni di configurazione disponibili. Heretic carica la configurazione da
config.toml nella directory di lavoro per impostazione predefinita, oppure dal percorso del file nella
variabile d'ambiente HERETIC_CONFIG_FILE.
[!IMPORTANT]
I file di configurazione creati per Heretic 1.x non sono compatibili con Heretic 2.x! Vedi la guida alla migrazione per scoprire cosa devi cambiare per far funzionare le tue vecchie configurazioni.
All'avvio di un'esecuzione del programma, Heretic esegue un benchmark del sistema per determinare la dimensione ottimale del batch per sfruttare al meglio l'hardware disponibile. Su una RTX 3090, con la configurazione predefinita, l'elaborazione di Qwen3-4B-Instruct-2507 richiede circa 30-40 minuti.
Dopo che Heretic ha terminato di elaborare un modello, ti viene data la scelta di salvare il modello, caricarlo su Hugging Face, chattare con esso per testare quanto funziona bene, eseguire benchmark standard su di esso, o qualsiasi combinazione di queste azioni.
Heretic guida il comportamento del modello ottimizzando uno o più punteggi. I punteggi sono calcolati dai plugin scorer. Puoi facilmente scrivere i tuoi scorer per avere il pieno controllo su cosa fa Heretic ai modelli.
L'interfaccia Scorer (classe base astratta) da cui il tuo scorer deve ereditare
è definita in scorer.py. L'unico metodo richiesto
è get_score, ma c'è altra strumentazione (come la gestione delle impostazioni)
disponibile quando ne hai bisogno.
Per impostazione predefinita, Heretic valuta i modelli in base al tasso di rifiuto (implementato in
keyword_rate.py) e alla divergenza KL
(implementata in kl_divergence.py).
Ulteriori scorer sono disponibili nella directory scorers.
Questi scorer possono servire da esempi per le tue implementazioni e possono facilmente
essere adattati alle tue esigenze.
Gli scorer sono configurati tramite il file di configurazione principale.
Quali plugin scorer sono attivi è determinato dall'impostazione scorers, che
controlla anche se il punteggio di uno scorer deve essere minimizzato o massimizzato durante
l'ottimizzazione. È possibile utilizzare qualsiasi numero di scorer contemporaneamente, e i loro punteggi
saranno co-ottimizzati. È possibile configurare più istanze dello stesso scorer
con impostazioni diverse. Vedi il file di configurazione per la documentazione completa
di questo meccanismo.
Heretic supporta la quantizzazione al volo dei modelli a 4 bit con bitsandbytes,
che può ridurre la quantità di VRAM necessaria per elaborare un modello allo stesso quantitativo
utilizzato per eseguire una tipica versione quantizzata dello stesso, con un lieve costo in termini di accuratezza.
Imposta l'opzione quantization su bnb_4bit per abilitarla. ↩
Qwen2.5-7B: Three-Way Abliteration Comparison: "Heretic is the most surgical and most effective." ↩
Gemma 4 E4B: 23 Abliteration Variants Compared: "Best overall: heretic." ↩