Heretic : Suppression automatique de la censure pour les modèles de langage

Heretic est un outil qui supprime la censure (alias « alignment de sécurité ») des modèles de langage basés sur transformer sans post-entraînement coûteux. Il combine une implémentation avancée de l'ablation directionnelle, également connue sous le nom d'« abliteration » (Arditi et al. 2024, Lai 2025 (1, 2)), avec un optimiseur de paramètres basé sur TPE propulsé par Optuna.

Cette approche permet à Heretic de fonctionner de manière complètement automatique. Heretic trouve des paramètres d'abliteration de haute qualité en minimisant conjointement le nombre de refus et la divergence KL par rapport au modèle d'origine. Il en résulte un modèle décensuré qui conserve autant que possible l'intelligence du modèle d'origine. Utiliser Heretic ne nécessite pas de comprendre les mécanismes internes des transformers. En fait, toute personne sachant exécuter un programme en ligne de commande peut utiliser Heretic pour décensurer des modèles de langage.

Heretic prend en charge la plupart des modèles denses, y compris de nombreux modèles multimodaux, plusieurs architectures MoE différentes, et même certains modèles hybrides comme Qwen3.5. Les modèles purement state-space et certaines autres architectures de recherche ne sont pas encore pris en charge nativement.

 

Exécuté sans supervision avec la configuration par défaut, Heretic peut produire des modèles décensurés dont la qualité rivalise avec les abliterations créées manuellement par des experts humains :

Modèle	Refus pour les requêtes « nuisibles »	Divergence KL par rapport au modèle d'origine pour les requêtes « inoffensives »
google/gemma-3-12b-it (original)	97/100	0 (par définition)
mlabonne/gemma-3-12b-it-abliterated-v2	3/100	1.04
huihui-ai/gemma-3-12b-it-abliterated	3/100	0.45
p-e-w/gemma-3-12b-it-heretic (le nôtre)	3/100	0.16

La version Heretic, générée sans aucun effort humain, atteint le même niveau de suppression des refus que les autres abliterations, mais avec une divergence KL beaucoup plus faible, indiquant moins de dommages aux capacités du modèle d'origine. (Vous pouvez reproduire ces chiffres en utilisant la fonctionnalité d'évaluation intégrée de Heretic, par exemple heretic --model google/gemma-3-12b-it --evaluate-model p-e-w/gemma-3-12b-it-heretic. Notez que les valeurs exactes peuvent dépendre de la plateforme et du matériel. Le tableau ci‑dessus a été compilé avec PyTorch 2.8 sur un RTX 5090.)

Bien sûr, les métriques mathématiques et les benchmarks automatisés ne racontent jamais toute l'histoire et ne remplacent pas l'évaluation humaine. Les modèles générés avec Heretic ont été bien accueillis par les utilisateurs (liens et emphase ajoutés) :

« J'étais sceptique avant, mais je viens de télécharger le modèle GPT-OSS 20B Heretic et, purée. Il donne des réponses longues et bien formatées sur des sujets sensibles, en utilisant exactement les mots non censurés que l'on attend d'un modèle non censuré, produit des tableaux en markdown avec des détails et tout. On dirait que c'est la meilleure version abliterée de ce modèle jusqu'à présent... » (Lien vers le commentaire)

« Heretic GPT 20b semble être le meilleur modèle non censuré que j'aie essayé jusqu'à présent. Il ne détruit pas l'intelligence du modèle et répond aux requêtes qui seraient normalement rejetées par le modèle de base. » (Lien vers le commentaire)

« [ Qwen3-4B-Instruct-2507-heretic ] a été le meilleur modèle abliteré non quantifié que j'aie pu faire tourner sur 16 Go de VRAM. » (Lien vers le commentaire)

Les modèles Heretic ont également été évalués indépendamment à l'aide de métriques standard comme MMLU et GSM8K, et se sont avérés comparables favorablement aux modèles produits par d'autres outils d'abliteration : 1, 2.

La communauté a créé et publié bien plus de 4000 modèles avec Heretic.

Utilisation

Préparez un environnement Python 3.10+ avec PyTorch 2.2+ installé de manière appropriée pour votre matériel. Exécutez ensuite :

pip install -U heretic-llm
heretic Qwen/Qwen3-4B-Instruct-2507

Remplacez Qwen/Qwen3-4B-Instruct-2507 par le modèle que vous souhaitez décensurer.

[!IMPORTANT]

Bien que PyTorch 2.2 soit la version minimale nécessaire pour qu'Heretic fonctionne, certains modèles et configurations peuvent nécessiter des fonctionnalités uniquement disponibles dans des versions ultérieures. Par exemple, le chargement de modèles quantifiés MXFP4 comme gpt-oss utilise torch.accelerator, qui a été ajouté dans PyTorch 2.6.

[!TIP]

Heretic utilise uv pour la gestion des dépendances, et le dépôt inclut un fichier uv.lock épinglant chaque version de paquet. Si vous utilisez déjà uv (et vous devriez probablement le faire !), vous pouvez simplement cloner le dépôt et exécuter Heretic avec uv run heretic, ce qui garantit que vos dépendances correspondent à celles utilisées par les développeurs, améliorant ainsi la fiabilité et la sécurité.

Le processus est entièrement automatique et ne nécessite pas de configuration ; cependant, Heretic dispose de divers paramètres de configuration qui peuvent être modifiés pour un contrôle plus poussé. Exécutez heretic --help pour voir les options de ligne de commande disponibles, ou consultez config.default.toml si vous préférez utiliser un fichier de configuration.