Skip to content
KitploitKITPLOIT
OutilsExploitsBlog
Log in
Soumettre
OutilsExploitsBlog
Soumettre

Outils de Hacking, PenTest et Cybersécurité pour votre Arsenal de Sécurité !

Kitploit est un répertoire d'outils de hacking, de cybersécurité et de pentesting. Découvrez les dernières mises à jour des projets pour trouver des vulnérabilités, analyser des systèmes, automatiser les tests et renforcer votre sécurité.

FluxContactConfidentialité© 2026 Kitploit

Répertoire d'outils

Catégories

Voir toutes les catégories
Loading categories
refusal-relocates — Sécurité des LLM : analysez comment le fine-tuning modifie le comportement de refus et évaluez les défenses par gel de couches et à rang réduit. | Kitploit
Outils/GitHubGitHub/js-lee-ai/refusal-relocates
Outils DéfensifsAnalyse des VulnérabilitésApprentissage AutomatiqueArticles et RechercheSécurité de l'IAAttaque Adversariale
GitHubjs-lee-ai/refusal-relocates

refusal-relocates

Sécurité des LLM : analysez comment le fine-tuning modifie le comportement de refus et évaluez les défenses par gel de couches et à rang réduit.

Voir le dépôt
1101il y a 1 moisPas encore vérifié
Partager
Site web

Le refus se déplace, le refus se localise, les dégâts se déplacent, les couches de sécurité sous un fine-tuning à quelques échantillons

arXiv Project Page Code MIT Paper CC BY 4.0 Python 3.10+ CI Stars

Page du projet · Démarrage rapide · Utilisation · CLI · Résultats · Reproduire · FAQ · Citation


Actualités

  • [2026-09-28] Code publié, avec les enregistrements d'exécution et les scripts qui reconstruisent les tableaux de l'article.

Vue d'ensemble

Quelques dizaines d'exemples nuisibles suffisent à supprimer le refus d'un modèle aligné face à des requêtes nuisibles. Des travaux antérieurs localisent la sécurité dans des couches et des directions spécifiques, ce qui suggère de protéger l'endroit identifié. Ce dépôt met cette prémisse à l'épreuve comme le ferait un attaquant adaptatif. Il identifie où le refus peut être récupéré, gèle cette région et attaque à nouveau, puis il répare la mise à jour des poids et laisse ensuite l'attaquant la propager.

L'étude repose sur trois mesures.

  • Le refus se rétablit à une profondeur donnée. Le patchage en verrouillage (lockstep) transmet l'état caché complet du modèle propre à une couche donnée au modèle compromis, au prefill et à chaque étape de décodage, et le refus réapparaît à une profondeur de transition reproductible.
  • Geler cette profondeur déplace les dégâts. Dans la comparaison appariée sur Llama-3.1-8B, geler les couches 0–17 déplace la transition de la couche 15 vers les couches 27 et 28, et le refus après l'attaque restreinte est de 0,00 à 0,01 contre 0,92 à 0,96 pour le modèle propre.
  • La réparation des deux premières directions cède face à une mise à jour dispersée. Retirer les deux principales directions singulières de la mise à jour restaure le refus après de courts fine-tunings limités à l'attention sur quatre checkpoints. Un attaquant qui disperse la mise à jour réduit la réparation relative des deux premières directions à 0,000, et un détecteur calibré sur 75 fine-tunings bénins ne signale que 3 échecs de réparation sur 14.

Ce dépôt regroupe la mesure et les deux défenses sous forme d'une petite bibliothèque, ainsi que les enregistrements d'exécution et les scripts qui reconstruisent les tableaux de l'article.

Ce qu'il fait en une image

À gauche, les modèles propre et compromis s'exécutent sur des tokens partagés et l'état caché propre est patché dans le modèle compromis à une couche donnée. À droite, l'attaque est répétée avec les couches 0 à 17 gelées et le patchage est relancé sur le checkpoint restreint

(a) Le patchage d'activation en verrouillage écrase la sortie de couche du modèle compromis par l'état propre au prefill et à chaque étape de décodage. (b) Dans l'attaque appariée sur Llama, geler les couches 0–17 déplace la transition du demi-plafond de 15 à 27–28.

Démarrage rapide

pip install "git+https://github.com/js-lee-AI/refusal-relocates.git"
import numpy as np
import refusal

rng = np.random.default_rng(0)
A = rng.standard_normal((16, 512)) / 512 ** 0.5    # LoRA factors of one module, rank 16
B = rng.standard_normal((512, 16)) / 16 ** 0.5
for name, decay in [("ordinary", 0.5), ("spread", 1.0)]:
    b = B * decay ** np.arange(16)                  # energy in a few directions, or spread flat
    before, after = refusal.update_stats(A, b), refusal.update_stats(*refusal.remove_top_k(A, b, k=2))
    print(f"{name:8s}  PR/r {before['pr_over_r']:.2f}  top-2 energy {before['top2_energy_fraction']:.2f}"
          f"  norm left after top-2 removal {after['unscaled_norm'] / before['unscaled_norm']:.2f}")
# ordinary  PR/r 0.10  top-2 energy 0.94  norm left after top-2 removal 0.24
# spread    PR/r 0.94  top-2 energy 0.18  norm left after top-2 removal 0.90

Un fine-tuning ordinaire concentre l'essentiel de sa mise à jour dans quelques directions singulières, de sorte que la suppression des deux premières directions en retire la majeure partie. Une mise à jour étalée présente un spectre plat, si bien que la même suppression en laisse l'essentiel en place. PR/r, le rapport de participation sur le rang LoRA, est aussi le score du détecteur spectral de l'article.

Ceci s'exécute sur un CPU en environ une seconde et ne télécharge rien. Le même code se trouve dans examples/quickstart.py, et la CI l'exécute à chaque push.

Pour entraîner, patcher et évaluer de vrais checkpoints, installez l'extra models.

pip install "refusal-relocates[models] @ git+https://github.com/js-lee-AI/refusal-relocates.git"
installationajoutesuffisant pour
pip install "git+https://github.com/js-lee-AI/refusal-relocates.git"numpyle cœur spectral, la suppression top-k, le détecteur, le scoreur de refus, la commande refusal
pip install "refusal-relocates[models] @ git+https://github.com/js-lee-AI/refusal-relocates.git"torch, transformers, peft, accelerate, safetensors, scikit-learn, datasetsl'entraînement, le patchage lockstep, les sondes et l'évaluation sur un modèle
git clone puis pip install -e ".[models,test]"pytestexperiments/, records/ et tests/

Testé avec Python 3.11.5, PyTorch 2.10.0, Transformers 4.57.3 et PEFT 0.18.0. Les modèles se chargent en bfloat16 sur un périphérique CUDA.

Utilisation

Patcher un checkpoint compromis couche par couche

import refusal

data = refusal.load_data("data/prompt_sets.json")        # built by `refusal prepare`, see below
prompts = data["advbench"][:40]
clean, tokenizer = refusal.load_model("meta-llama/Llama-3.1-8B-Instruct")
attacked, _ = refusal.load_model("meta-llama/Llama-3.1-8B-Instruct", adapter="runs/attack/adapter")

for layer in [6, 9, 12, 15, 18]:
    responses = refusal.lockstep_generate(clean, attacked, tokenizer, prompts, layer=layer)
    print(layer, sum(refusal.is_refusal(r) for r in responses) / len(prompts))

Les deux modèles lisent les mêmes tokens, et à la couche choisie, la sortie du modèle compromis est remplacée par celle du modèle propre. refusal patch exécute la mesure complète avec son plancher, son plafond et deux contrôles, évalue le refus cohérent avec le filtre de perplexité et Llama-Guard, et rapporte la profondeur de transition.

Réparer et évaluer un adaptateur, sans GPU

import refusal
Télécharger l’outil

Populaires

Voir tout →

Découvrez les outils les plus utilisés par notre communauté.

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 La boîte à outils OSINT ultime : graphe d'enquête, notation de confiance, familles d'alias, carte, chronologie et rapports. 49 modules, plus de 400 sites, aucune clé API requise.

    696
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    # Application d'exécution en un clic GhostLock (CVE-2026-43499)

    499
  • 3

    ARTEX

    baarai/artex

    Plateforme autonome de tests d'intrusion multi-agents basée sur des LLM, avec agents planificateur/ouvrier, graphes d'actifs et d'exploration, enregistrement du trafic MITM et retest des vulnérabilités.

    396
  • 4

    redforge

    cybersecurity91/redforge

    Boîte à outils red team côté navigateur avec 102 outils hors ligne pour la reconnaissance, la génération de payloads, les attaques par identifiants, la cryptographie, l'encodage et le reporting d'engagement.

    340
  • 5

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    Le système d'action pour la cybersécurité native IA—où l'intention devient une exécution gouvernée, les preuves deviennent une mémoire opérationnelle, et chaque opération améliore la suivante.

    258
  • 6

    antifox

    antifox-ai/antifox

    Plateforme de test d'intrusion autonome multi-agents par IA qui exécute la reconnaissance, la découverte de la surface d'attaque, la validation de l'exploitation et la livraison de rapports étayés par des preuves.

    257

Explorer tous les outils

Parcourez notre collection d'outils

Voir tous les outils →