Jailbreaks selon la profondeur du modèle

Comment la sortie anticipée modifie-t-elle la vulnérabilité d'un modèle de langage aux jailbreaks ? Nous étudions les attaques GCG sur Balcony-LLaMA2-7B et Balcony-LLaMA3-8B aux couches 15, 18, 21 et à pleine profondeur (32), en utilisant HarmBench et AdvBench.

TAO est une extension prévue avec du code expérimental. Les exécutions antérieures sur 1B étaient des tests de développement ; aucune des deux ne contribue de résultats à cette étude.

Résultats

GCG sur 150 étapes pour 50 comportements par benchmark, exécuté sur un seul GPU NVIDIA RTX PRO 6000 Blackwell. Les figures et tableaux ci-dessous proviennent directement de l'article, qui fait foi pour les résultats rapportés.

Pipeline d'évaluation avec sorties anticipées aux couches 15, 18, 21 et à pleine profondeur.

Taux de réussite des attaques GCG par profondeur de sortie pour les modèles 7B et 8B sur HarmBench et AdvBench.

Courbes de perte et perte en fonction du succès de l'attaque

Perte GCG sur 150 étapes, par modèle, benchmark et profondeur de sortie.

Perte GCG finale en fonction du taux de réussite de l'attaque sur HarmBench.

Tableaux de l'article

Configuration du modèle (Tableau 1).

Utilité propre sur six benchmarks (Tableau 2).

Utilité avec le suffixe GCG le plus fort de chaque sortie (Tableau 3).

Exécution

Nécessite Linux, Python 3.12, un GPU NVIDIA et un pilote compatible avec CUDA 12.8. Depuis la racine du dépôt, installez l'environnement et lancez une petite exécution GCG :

bash scripts/setup.sh
.venv/bin/python scripts/run.py experiment --model 7b --stage gcg \
  --benchmarks harmbench --n-behaviors 2 --num-steps 5 --results-dir results/runs/pilot

La configuration initialise les sous-modules, applique les correctifs de la boîte à outils et installe .venv/. Pour les checkpoints à accès restreint, acceptez leurs licences Hugging Face et exécutez .venv/bin/hf auth login.

Pour GCG, l'évaluation et l'évaluation de l'utilité à toutes les sorties :

.venv/bin/python scripts/run.py experiment --model 7b

Choisissez --model 7b ou --model 8b. Les nouvelles sorties restent locales dans results/runs/<model>/. Utilisez --dry-run pour inspecter les commandes sans charger les modèles. Référence des commandes.

Dépôt

Chemin	Contenu
`adapter/`	Code et wrappers du modèle à sortie anticipée
`experiments/`	Implémentations des attaques, de l'évaluation et de l'analyse
`scripts/`	Configuration et lanceur partagé
`results/`	Figures et tableaux de l'article, archives historiques et exécutions locales
`third_party/`	Dépendances épinglées et avis de licence

Les archives brutes et les anciens exports ne sont pas synchronisés avec l'article. Conservez les exécutions 7B avec et sans templates de chat séparément.

Les dépendances sont épinglées dans .gitmodules ; les correctifs de la boîte à outils se trouvent dans patches/.

balcony-jailbreaking

Populaires

Jailbreaks selon la profondeur du modèle

Résultats

Exécution

Dépôt