Heretic : suppression entièrement automatique de la censure pour les modèles de langage

Heretic est un outil qui supprime la censure (aussi appelée « alignement de sécurité ») des modèles de langage basés sur des transformers sans post-entraînement coûteux. Il combine une implémentation avancée de l'ablation directionnelle, également connue sous le nom d'« abliteration » (Arditi et al. 2024, Lai 2025 (1, 2)), avec un optimiseur de paramètres basé sur TPE propulsé par Optuna.

Cette approche permet à Heretic de fonctionner entièrement automatiquement. Heretic trouve des paramètres d'abliteration de haute qualité en minimisant conjointement le nombre de refus et la divergence KL par rapport au modèle original. Il en résulte un modèle décensuré qui conserve autant de l'intelligence du modèle original que possible. L'utilisation de Heretic ne nécessite pas de comprendre les rouages internes d'un transformer. En fait, toute personne sachant exécuter un programme en ligne de commande peut utiliser Heretic pour décensurer des modèles de langage.

Heretic prend en charge la plupart des modèles denses, y compris de nombreux modèles multimodaux, plusieurs architectures MoE différentes, et même certains modèles hybrides comme Qwen3.5. Les modèles purement à espace d'états et certaines autres architectures de recherche ne sont pas encore pris en charge nativement.

 

Exécuté sans supervision avec la configuration par défaut, Heretic peut produire des modèles décensurés qui rivalisent avec la qualité des abliterations créées manuellement par des experts humains :

Modèle	Refus pour les prompts « nuisibles »	Divergence KL par rapport au modèle original pour les prompts « inoffensifs »
google/gemma-3-12b-it (original)	97/100	0 (par définition)
mlabonne/gemma-3-12b-it-abliterated-v2	3/100	1.04
huihui-ai/gemma-3-12b-it-abliterated	3/100	0.45
p-e-w/gemma-3-12b-it-heretic (le nôtre)	3/100	0.16

La version Heretic, générée sans aucun effort humain, atteint le même niveau de suppression des refus que les autres abliterations, mais avec une divergence KL bien plus faible, ce qui indique moins de dommages aux capacités du modèle original. (Vous pouvez reproduire ces chiffres en utilisant la fonctionnalité d'évaluation intégrée de Heretic, par exemple heretic --model google/gemma-3-12b-it --evaluate-model p-e-w/gemma-3-12b-it-heretic. Notez que les valeurs exactes peuvent dépendre de la plateforme et du matériel. Le tableau ci-dessus a été compilé avec PyTorch 2.8 sur une RTX 5090.)

Bien sûr, les métriques mathématiques et les benchmarks automatisés ne racontent jamais toute l'histoire, et ne remplacent pas l'évaluation humaine. Les modèles générés avec Heretic ont été bien accueillis par les utilisateurs (liens et mises en évidence ajoutés) :

« J'étais sceptique au début, mais je viens de télécharger GPT-OSS 20B Heretic et bon sang. Il donne des réponses longues correctement formatées à des sujets sensibles, en utilisant exactement les mots non censurés que l'on attendrait d'un modèle non censuré, produit des tableaux au format markdown avec des détails et tout le reste. On dirait que c'est la meilleure version abliterated de ce modèle jusqu'à présent... » (Lien vers le commentaire)

« Heretic GPT 20b semble être le meilleur modèle non censuré que j'aie essayé jusqu'à présent. Il ne détruit pas l'intelligence du modèle et il répond à des prompts qui seraient normalement rejetés par le modèle de base. » (Lien vers le commentaire)

« [Qwen3-4B-Instruct-2507-heretic] A été le meilleur modèle abliterated non quantifié que j'aie pu exécuter sur 16 Go de VRAM. » (Lien vers le commentaire)

Les modèles Heretic ont également été évalués indépendamment à l'aide de métriques standard comme MMLU et GSM8K, et se sont révélés comparables favorablement aux modèles produits par des outils d'abliteration concurrents : 1, 2.

La communauté a créé et publié bien plus de 5000 modèles avec Heretic.

Utilisation

Préparez un environnement Python 3.10+ avec PyTorch 2.2+ installé de manière appropriée pour votre matériel. Exécutez ensuite :

pip install -U heretic-llm
heretic Qwen/Qwen3-4B-Instruct-2507

Remplacez Qwen/Qwen3-4B-Instruct-2507 par le modèle que vous souhaitez décensurer.

[!IMPORTANT]

Bien que PyTorch 2.2 soit la version minimale de PyTorch nécessaire au fonctionnement de Heretic, certains modèles et configurations peuvent nécessiter des fonctionnalités présentes uniquement dans des versions ultérieures. Par exemple, le chargement de modèles quantifiés en MXFP4 comme gpt-oss utilise torch.accelerator, qui a été ajouté dans PyTorch 2.6.

[!TIP]

Heretic utilise uv pour la gestion des dépendances, et le dépôt inclut un fichier uv.lock épinglant chaque version de paquet. Si vous utilisez déjà uv (et vous devriez probablement le faire !), vous pouvez simplement cloner le dépôt et exécuter Heretic avec uv run heretic, ce qui garantit que vos dépendances correspondent à celles utilisées par les développeurs, améliorant la fiabilité et la sécurité.

Le processus est entièrement automatique et ne nécessite aucune configuration ; cependant, Heretic dispose de divers paramètres de configuration qui peuvent être modifiés pour un meilleur contrôle. Exécutez heretic --help pour voir les options de ligne de commande disponibles, ou consultez config.default.toml si vous préférez utiliser un fichier de configuration.