Heretic: Eliminación de censura totalmente automática para modelos de lenguaje

Heretic es una herramienta que elimina la censura (también conocida como "alineación de seguridad") de los modelos de lenguaje basados en transformers sin necesidad de un post-entrenamiento costoso. Combina una implementación avanzada de la ablación direccional, también conocida como "abliteración" (Arditi et al. 2024, Lai 2025 (1, 2)), con un optimizador de parámetros basado en TPE impulsado por Optuna.

Este enfoque permite que Heretic funcione completamente de forma automática. Heretic encuentra parámetros de abliteración de alta calidad minimizando conjuntamente el número de rechazos y la divergencia KL respecto al modelo original. Esto da como resultado un modelo descensurado que conserva la mayor cantidad posible de la inteligencia del modelo original. Usar Heretic no requiere comprender los entresijos de los transformers. De hecho, cualquiera que sepa ejecutar un programa de línea de comandos puede usar Heretic para descensurar modelos de lenguaje.

Heretic soporta la mayoría de los modelos densos, incluidos muchos modelos multimodales, varias arquitecturas MoE diferentes e incluso algunos modelos híbridos como Qwen3.5. Los modelos de espacio de estados puros y ciertas otras arquitecturas de investigación aún no son compatibles de forma predeterminada.

 

Ejecutándose sin supervisión con la configuración predeterminada, Heretic puede producir modelos descensurados que rivalizan con la calidad de las abliteraciones creadas manualmente por expertos humanos:

Modelo	Rechazos para prompts "dañinos"	Divergencia KL respecto al modelo original para prompts "inofensivos"
google/gemma-3-12b-it (original)	97/100	0 (por definición)
mlabonne/gemma-3-12b-it-abliterated-v2	3/100	1.04
huihui-ai/gemma-3-12b-it-abliterated	3/100	0.45
p-e-w/gemma-3-12b-it-heretic (nuestro)	3/100	0.16

La versión de Heretic, generada sin ningún esfuerzo humano, alcanza el mismo nivel de supresión de rechazos que otras abliteraciones, pero con una divergencia KL mucho menor, lo que indica menos daño a las capacidades del modelo original. (Puedes reproducir esos números usando la funcionalidad de evaluación integrada de Heretic, por ejemplo heretic --model google/gemma-3-12b-it --evaluate-model p-e-w/gemma-3-12b-it-heretic. Ten en cuenta que los valores exactos pueden depender de la plataforma y el hardware. La tabla anterior se compiló usando PyTorch 2.8 en una RTX 5090.)

Por supuesto, las métricas matemáticas y los benchmarks automatizados nunca cuentan toda la historia, y no sustituyen a la evaluación humana. Los modelos generados con Heretic han sido bien recibidos por los usuarios (enlaces y énfasis añadidos):

"Era escéptico antes, pero acabo de descargar el modelo GPT-OSS 20B Heretic y madre mía. Da respuestas largas correctamente formateadas a temas sensibles, usando las palabras sin censura exactas que esperarías de un modelo sin censura, produce tablas en formato markdown con detalles y demás. Parece que esta es la mejor versión abliterada de este modelo hasta ahora..." (Enlace al comentario)

"Heretic GPT 20b parece ser el mejor modelo sin censura que he probado hasta ahora. No destruye la inteligencia del modelo y responde a prompts que normalmente serían rechazados por el modelo base." (Enlace al comentario)

"[Qwen3-4B-Instruct-2507-heretic] Ha sido el mejor modelo abliterado sin cuantizar que he podido ejecutar en 16 GB de VRAM." (Enlace al comentario)

Los modelos de Heretic también han sido evaluados de forma independiente usando métricas estándar como MMLU y GSM8K, y se ha comprobado que se comparan favorablemente con los modelos producidos por herramientas de abliteración competidoras: 1, 2.

La comunidad ha creado y publicado bastante más de 5000 modelos con Heretic.

Uso

Prepara un entorno de Python 3.10+ con PyTorch 2.2+ instalado según corresponda para tu hardware. Luego ejecuta:

pip install -U heretic-llm
heretic Qwen/Qwen3-4B-Instruct-2507

Reemplaza Qwen/Qwen3-4B-Instruct-2507 por el modelo que quieras descensurar.

[!IMPORTANT]

Aunque PyTorch 2.2 es la versión mínima de PyTorch necesaria para que Heretic funcione, algunos modelos y configuraciones podrían requerir características que solo se encuentran en versiones posteriores. Por ejemplo, cargar modelos cuantizados en MXFP4 como gpt-oss usa torch.accelerator, que se añadió en PyTorch 2.6.

[!TIP]

Heretic usa uv para la gestión de dependencias, y el repositorio incluye un archivo uv.lock que fija cada versión de paquete. Si ya usas uv (¡y probablemente deberías!), puedes simplemente clonar el repositorio y ejecutar Heretic con uv run heretic, lo que garantiza que tus dependencias coincidan con las usadas por los desarrolladores, mejorando la fiabilidad y la seguridad.

El proceso es totalmente automático y no requiere configuración; sin embargo, Heretic tiene una variedad de parámetros de configuración que se pueden cambiar para un mayor control. Ejecuta heretic --help para ver las opciones de línea de comandos disponibles, o consulta config.default.toml si prefieres usar un archivo de configuración.