Skip to content
KitploitKITPLOIT
HerramientasExploitsBlog
Log in
Enviar
HerramientasExploitsBlog
Enviar

¡Herramientas de Hacking, PenTest y Ciberseguridad para tu Arsenal de Seguridad!

Kitploit es un directorio de herramientas de hacking, ciberseguridad y pentesting. Descubre las últimas actualizaciones de proyectos para encontrar vulnerabilidades, analizar sistemas, automatizar pruebas y fortalecer tu seguridad.

FeedsContactoPrivacidad© 2026 Kitploit

Directorio de Herramientas

Categorías

Ver todas las categorías
Loading categories
refusal-relocates — Seguridad de LLM: analiza cómo el ajuste fino desplaza el comportamiento de rechazo y evalúa las defensas de congelación de capas y de bajo rango. | Kitploit
Herramientas/GitHubGitHub/js-lee-ai/refusal-relocates
Herramientas DefensivasAnálisis de VulnerabilidadesAprendizaje AutomáticoPapers e InvestigaciónSeguridad de IAAtaque Adversario
GitHubjs-lee-ai/refusal-relocates

refusal-relocates

Compartir

Seguridad de LLM: analiza cómo el ajuste fino desplaza el comportamiento de rechazo y evalúa las defensas de congelación de capas y de bajo rango.

Ver RepositorioSitio web
2101hace 1 mesAún no revisado

La negativa se reubica, la negativa se localiza, el daño se reubica, capas de seguridad bajo ajuste fino con pocas muestras

arXiv Project Page Code MIT Paper CC BY 4.0 Python 3.10+ CI Stars

Página del proyecto · Inicio rápido · Uso · CLI · Resultados · Reproducir · Preguntas frecuentes · Citación


Novedades

  • [2026-09-28] Código publicado, junto con los registros de ejecución y los scripts que reconstruyen las tablas del artículo.

Descripción general

Unas pocas docenas de ejemplos dañinos pueden eliminar la negativa de un modelo alineado a rechazar solicitudes dañinas. Trabajos previos localizan la seguridad en capas y direcciones específicas, lo que sugiere proteger el lugar que se encontró. Este repositorio pone a prueba esa premisa tal como lo haría un atacante adaptativo. Encuentra dónde puede recuperarse la negativa, congela esa región y ataca de nuevo, y repara la actualización de pesos y luego deja que el atacante la propague.

El estudio se apoya en tres mediciones.

  • La negativa se recupera en una sola profundidad. El parcheo sincronizado entrega el estado oculto completo del modelo limpio en una capa al modelo comprometido, en el prefill y en cada paso de decodificación, y la negativa regresa en una profundidad de transición reproducible.
  • Congelar esa profundidad desplaza el daño. En la comparación emparejada de Llama-3.1-8B, congelar las capas 0–17 desplaza la transición de la capa 15 a las capas 27 y 28, y la negativa tras el ataque restringido es de 0,00 a 0,01 frente a un valor limpio de 0,92 a 0,96.
  • La reparación de las dos principales direcciones sucumbe ante una actualización dispersa. Eliminar las dos direcciones singulares principales de la actualización restaura la negativa tras ajustes finos breves de solo atención en cuatro checkpoints. Un atacante que dispersa la actualización reduce la reparación relativa de las dos principales a 0,000, y un detector calibrado con 75 ajustes finos benignos solo marca 3 de 14 fallos de reparación.

Este repositorio es la medición y ambas defensas como una pequeña biblioteca, además de los registros de ejecución y los scripts que reconstruyen las tablas del artículo.

Qué hace en una imagen

A la izquierda, los modelos limpio y comprometido se ejecutan sobre tokens compartidos y el estado oculto limpio se parchea en el modelo comprometido en una capa. A la derecha, el ataque se repite con las capas 0 a 17 congeladas y el parcheo se ejecuta de nuevo sobre el checkpoint restringido

(a) El parcheo de activaciones sincronizado sobrescribe la salida de capa del modelo comprometido con el estado limpio en el prefill y en cada paso de decodificación. (b) En el ataque emparejado de Llama, congelar las capas 0–17 desplaza la transición de medio techo de 15 a 27–28.

Inicio rápido

pip install "git+https://github.com/js-lee-AI/refusal-relocates.git"
import numpy as np
import refusal

rng = np.random.default_rng(0)
A = rng.standard_normal((16, 512)) / 512 ** 0.5    # LoRA factors of one module, rank 16
B = rng.standard_normal((512, 16)) / 16 ** 0.5
for name, decay in [("ordinary", 0.5), ("spread", 1.0)]:
    b = B * decay ** np.arange(16)                  # energy in a few directions, or spread flat
    before, after = refusal.update_stats(A, b), refusal.update_stats(*refusal.remove_top_k(A, b, k=2))
    print(f"{name:8s}  PR/r {before['pr_over_r']:.2f}  top-2 energy {before['top2_energy_fraction']:.2f}"
          f"  norm left after top-2 removal {after['unscaled_norm'] / before['unscaled_norm']:.2f}")
# ordinary  PR/r 0.10  top-2 energy 0.94  norm left after top-2 removal 0.24
# spread    PR/r 0.94  top-2 energy 0.18  norm left after top-2 removal 0.90

Un ajuste fino ordinario coloca la mayor parte de su actualización en unas pocas direcciones singulares, por lo que la eliminación de las dos principales elimina la mayor parte. Una actualización dispersa tiene un espectro plano, por lo que la misma eliminación deja la mayor parte en su lugar. PR/r, la relación de participación sobre el rango de LoRA, es también la puntuación del detector espectral del artículo.

Esto se ejecuta en una CPU en aproximadamente un segundo y no descarga nada. El mismo código es examples/quickstart.py, y CI lo ejecuta en cada push.

Para entrenar, parchear y evaluar checkpoints reales, instala el extra models.

pip install "refusal-relocates[models] @ git+https://github.com/js-lee-AI/refusal-relocates.git"
instalarañadesuficiente para
pip install "git+https://github.com/js-lee-AI/refusal-relocates.git"numpyel núcleo espectral, la eliminación top-k, el detector, el evaluador de rechazo, el comando refusal
pip install "refusal-relocates[models] @ git+https://github.com/js-lee-AI/refusal-relocates.git"torch, transformers, peft, accelerate, safetensors, scikit-learn, datasetsentrenamiento, parcheo lockstep, sondas y evaluación sobre un modelo
git clone y luego pip install -e ".[models,test]"pytestexperiments/, records/ y tests/

Probado con Python 3.11.5, PyTorch 2.10.0, Transformers 4.57.3 y PEFT 0.18.0. Los modelos se cargan en bfloat16 en un dispositivo CUDA.

Uso

Parchear un checkpoint comprometido capa por capa

import refusal

data = refusal.load_data("data/prompt_sets.json")        # built by `refusal prepare`, see below
prompts = data["advbench"][:40]
clean, tokenizer = refusal.load_model("meta-llama/Llama-3.1-8B-Instruct")
attacked, _ = refusal.load_model("meta-llama/Llama-3.1-8B-Instruct", adapter="runs/attack/adapter")

for layer in [6, 9, 12, 15, 18]:
    responses = refusal.lockstep_generate(clean, attacked, tokenizer, prompts, layer=layer)
    print(layer, sum(refusal.is_refusal(r) for r in responses) / len(prompts))

Ambos modelos leen los mismos tokens, y en la capa elegida la salida del modelo comprometido se reemplaza por la del modelo limpio. refusal patch ejecuta la medición completa con su suelo, techo y dos controles, puntúa la negativa coherente con la puerta de perplejidad y Llama-Guard, e informa la profundidad de transición.

Reparar y puntuar un adaptador, sin GPU

import refusal
Descargar herramienta

Más Populares

Ver todos →

Descubre las herramientas más usadas por nuestra comunidad.

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 El kit de herramientas OSINT definitivo: grafo de investigación, puntuación de confianza, familias de alias, mapa, línea de tiempo e informes. 49 módulos, más de 400 sitios, sin necesidad de claves API.

    786
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    # Aplicación de Ejecución con un Solo Toque GhostLock (CVE-2026-43499)

    506
  • 3

    ARTEX

    baarai/artex

    Plataforma de pruebas de penetración autónoma multiagente basada en LLM con agentes planificadores/trabajadores, grafos de activos y de exploración, registro de tráfico MITM y reevaluación de vulnerabilidades.

    429
  • 4

    redforge

    cybersecurity91/redforge

    Kit de herramientas de red team del lado del navegador con 102 herramientas offline para reconocimiento, generación de payloads, ataques de credenciales, criptografía, codificación y elaboración de informes de compromiso.

    345
  • 5

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    El sistema de acción para la ciberseguridad nativa de IA—donde la intención se convierte en ejecución gobernada, la evidencia se convierte en memoria operativa y cada operación mejora la siguiente.

    262
  • 6

    looking-glass

    anonghosty/looking-glass

    Plataforma CSIRT que ingiere informes de Shadowserver en MongoDB y los reproduce como mapas interactivos, análisis, hallazgos, avisos y paneles ejecutivos.

    256

Explora todas las herramientas

Explora nuestra colección de herramientas

Ver todas las herramientas →