Heretic : suppression automatique de la censure pour les modèles de langage

Heretic est un outil qui supprime la censure (également appelée « alignement de sécurité ») des modèles de langage basés sur les transformeurs, sans post-entraînement coûteux. Il combine une implémentation avancée de l'ablation directionnelle, également connue sous le nom d'« abliteration » (Arditi et al. 2024, Lai 2025 (1, 2)), avec un optimiseur de paramètres basé sur TPE, propulsé par Optuna.

Cette approche permet à Heretic de fonctionner de manière entièrement automatique. Heretic trouve des paramètres d'abliteration de haute qualité en minimisant conjointement le nombre de refus et la divergence KL par rapport au modèle d'origine. Il en résulte un modèle décensuré qui conserve autant que possible l'intelligence du modèle d'origine. Utiliser Heretic ne nécessite pas de comprendre les mécanismes internes des transformeurs. En fait, toute personne sachant exécuter un programme en ligne de commande peut utiliser Heretic pour décensurer des modèles de langage.

Heretic prend en charge la plupart des modèles denses, y compris de nombreux modèles multimodaux, plusieurs architectures MoE différentes, et même certains modèles hybrides comme Qwen3.5. Les modèles purement à espace d'état et certaines autres architectures de recherche ne sont pas encore pris en charge nativement.

 

Exécuté sans supervision avec la configuration par défaut, Heretic peut produire des modèles décensurés qui rivalisent avec la qualité des abliterations créées manuellement par des experts humains :

Modèle	Refus pour les invites « nuisibles »	Divergence KL par rapport au modèle d'origine pour les invites « inoffensives »
google/gemma-3-12b-it (original)	97/100	0 (par définition)
mlabonne/gemma-3-12b-it-abliterated-v2	3/100	1.04
huihui-ai/gemma-3-12b-it-abliterated	3/100	0.45
p-e-w/gemma-3-12b-it-heretic (le nôtre)	3/100	0.16

La version Heretic, générée sans aucun effort humain, atteint le même niveau de suppression des refus que les autres abliterations, mais avec une divergence KL beaucoup plus faible, ce qui indique moins de dommages aux capacités du modèle d'origine. (Vous pouvez reproduire ces chiffres à l'aide de la fonctionnalité d'évaluation intégrée de Heretic, par ex. heretic --model google/gemma-3-12b-it --evaluate-model p-e-w/gemma-3-12b-it-heretic. Notez que les valeurs exactes peuvent dépendre de la plateforme et du matériel. Le tableau ci-dessus a été compilé avec PyTorch 2.8 sur une RTX 5090.)

Bien entendu, les métriques mathématiques et les benchmarks automatisés ne disent jamais tout, et ne remplacent pas une évaluation humaine. Les modèles générés avec Heretic ont été bien accueillis par les utilisateurs (liens et emphase ajoutés) :

« J'étais sceptique avant, mais je viens de télécharger le modèle GPT-OSS 20B Heretic et putain. Il fournit des réponses longues et correctement formatées sur des sujets sensibles, en utilisant exactement les mots non censurés que l'on attend d'un modèle non censuré, il produit des tableaux au format markdown avec des détails et tout. On dirait que c'est la meilleure version abliterée de ce modèle jusqu'à présent... » (Lien vers le commentaire)

« Heretic GPT 20b semble être le meilleur modèle non censuré que j'aie essayé jusqu'à présent. Il ne détruit pas l'intelligence du modèle et il répond à des invites qui seraient normalement rejetées par le modèle de base. » (Lien vers le commentaire)

« [Qwen3-4B-Instruct-2507-heretic] C'est le meilleur modèle abliteré non quantifié que j'ai pu exécuter sur 16 Go de VRAM. » (Lien vers le commentaire)

Les modèles Heretic ont également été évalués indépendamment à l'aide de métriques standard comme MMLU et GSM8K, et se sont révélés comparables, voire supérieurs, aux modèles produits par d'autres outils d'abliteration concurrents : 1, 2.

La communauté a créé et publié plus de 4000 modèles avec Heretic.

Utilisation

Préparez un environnement Python 3.10+ avec PyTorch 2.2+ installé de manière appropriée pour votre matériel. Puis exécutez :

pip install -U heretic-llm
heretic Qwen/Qwen3-4B-Instruct-2507

Remplacez Qwen/Qwen3-4B-Instruct-2507 par le modèle que vous souhaitez décensurer.

[!IMPORTANT]

Bien que PyTorch 2.2 soit la version minimale de PyTorch requise pour que Heretic fonctionne, certains modèles et configurations peuvent nécessiter des fonctionnalités présentes uniquement dans des versions ultérieures. Par exemple, le chargement de modèles quantifiés MXFP4 comme gpt-oss utilise torch.accelerator, qui a été ajouté dans PyTorch 2.6.

[!TIP]

Heretic utilise uv pour la gestion des dépendances, et le dépôt inclut un fichier uv.lock épinglant chaque version de paquet. Si vous utilisez déjà uv (et vous devriez probablement le faire !), vous pouvez simplement cloner le dépôt et exécuter Heretic avec uv run heretic, ce qui garantit que vos dépendances correspondent à celles utilisées par les développeurs, améliorant ainsi la fiabilité et la sécurité.

Le processus est entièrement automatique et ne nécessite aucune configuration ; toutefois, Heretic dispose d'une variété de paramètres de configuration qui peuvent être modifiés pour un contrôle plus fin. Exécutez heretic --help pour voir les options disponibles en ligne de commande, ou consultez config.default.toml si vous préférez utiliser un fichier de configuration.