モデル深度全体にわたるジェイルブレイク

早期終了は言語モデルのジェイルブレイクに対する脆弱性をどのように変えるのでしょうか？ 私たちはBalcony-LLaMA2-7BとBalcony-LLaMA3-8Bに対するGCG攻撃を、レイヤー15、18、21、およびフル深度（32）で、HarmBenchとAdvBenchを用いて研究しています。

TAOは実験的コードを伴う計画中の拡張です。以前の1Bの実行は開発テストであり、どちらもこの研究に結果を提供するものではありません。

結果

各ベンチマーク50個の振る舞いに対して150ステップのGCGを、単一のNVIDIA RTX PRO 6000 Blackwell GPU上で実行しました。以下の図と表は論文から直接引用したものであり、報告された結果の信頼できる情報源です。

損失曲線と損失対攻撃成功率

論文の表

実行

Linux、Python 3.12、NVIDIA GPU、およびCUDA 12.8と互換性のあるドライバが必要です。 リポジトリのルートから、環境をインストールし、小規模なGCG実行を開始します：

bash scripts/setup.sh
.venv/bin/python scripts/run.py experiment --model 7b --stage gcg \
  --benchmarks harmbench --n-behaviors 2 --num-steps 5 --results-dir results/runs/pilot

セットアップはサブモジュールを初期化し、ツールキットのパッチを適用し、.venv/をインストールします。 ゲート付きチェックポイントについては、Hugging Faceのライセンスに同意し、.venv/bin/hf auth loginを実行してください。

すべての終了におけるGCG、判定、およびユーティリティ評価の場合：

.venv/bin/python scripts/run.py experiment --model 7b

--model 7bまたは--model 8bを選択してください。新しい出力はresults/runs/<model>/にローカルに保持されます。 モデルをロードせずにコマンドを確認するには--dry-runを使用してください。 コマンドリファレンス。

リポジトリ

パス	内容
adapter/	早期終了モデルのコードとラッパー
experiments/	攻撃、評価、および分析の実装
scripts/	セットアップと共有ランナー
results/	論文の図と表、過去のアーカイブ、およびローカル実行
third_party/	固定された依存関係とライセンス通知

生のアーカイブと古いエクスポートは論文と同期されていません。チャットテンプレートありとなしの7Bの実行は分けておいてください。

依存関係は.gitmodulesに固定されています。ツールキットの修正はpatches/にあります。