一致させた摂動による行動変化の帰属
小規模チャットモデルの拒否応答が4ビット量子化によってどのように変化するかについての事前登録済み監査のためのコードと分析。変化が量子化に由来するのか、それとも同じ規模のあらゆる摂動から生じうるものなのかを問う対照群を備えている。
論文: arXiv:2611.22186
スマートフォンやノートPC上で動作するチャットモデルは、通常、安全性について評価されたモデルの4ビットコピーである。そのようなコピーの監査結果は一致していない。量子化が拒否を弱めるとするものもあれば、そうでないとするものもあり、モデルがより多く拒否するようになるとするものもある。4ビットビルドはすべての重みに対する一つの特定の摂動であり、同じ規模の他の摂動は数多く存在する。したがって、その拒否応答の変化は、丸め誤差の構造に由来するのか、それともその規模のあらゆる揺さぶりに対するモデル自身の傾向に由来するのか、区別できない。
我々は3つの3-4Bチャットモデル(Qwen2.5-3B-Instruct、Llama-3.2-3B-Instruct、Qwen3-4B-Instruct-2507)を、MLXがApple Silicon向けに提供する最近接丸め形式でテストする。すべての比較はペアで行われ、尤度を変化させない8ビットビルドと照らし合わせて評価される。要約すると:
論文のすべての文の背後にある数値は、1つのスクリプトによって生成される(論文の再現を参照)。
| パス | 内容 |
|---|---|
PREREG.md | 事前登録とその5つの日付付き補遺。それぞれが対象とするデータより前に確定されている |
qrefusal/ | 共有コード:固定されたテンプレート日付によるチャットフォーマット、貪欲法およびサンプリングによるデコード、フック付きの層ごとのフォワードパス(MLXにはフックAPIがない)、拒否方向、ペア統計 |
runs/ | 実験ごとに1つのスクリプト。それぞれが results/<experiment>/ に書き込む |
analysis/make_numbers.py | 生の結果ファイルから論文のすべての数値を整合性チェック付きで再生成する |
analysis/figures.py | paper/numbers.json から図を描画する |
paper/ | LaTeXソース。数値は分析によって生成されたマクロとしてのみ本文に入る |
scripts/ | モデル変換、データ取得、実行キュー |
tests/ | フック付きフォワードパスと統計のための同一性テスト |
| 論文 | スクリプト | 内容 |
|---|---|---|
| §3 セットアップ | scripts/convert.sh | モデルの bf16、8ビット、4ビット(グループ64および32)、混合4/6、MXFP4、AWQ、GPTQ コピーをビルドする |
| §3 セットアップ | runs/r2.py、runs/e7_abliterate.py、runs/e7b_prefixes.py | レイヤーごとの拒否方向;アブリタレートされた bf16 コピー;プリフィルに使用する準拠プレフィックス |
| §3 セットアップ | runs/r1b_judge.py、runs/j2_ensemble.py、runs/l2_pair_sheet.py | コンテンツジャッジ(Qwen2.5-14B)、Llama Guard 3、およびブラインド二段階人手ラベリングシート |
| §4 ラベルの不安定性と8ビットのヌル | runs/e0_determinism.py、runs/a2_depth.py --temp | グリーディ再実行の同一性;サンプリングシードの下限 |
| §5.1 強制スタート | runs/a2_depth.py、runs/r1.py | プリフィル深度 k = 0、2、8;汎用プレフィックス(--fixed_prefix);長さチェック(--max_tokens 384 --sample 150) |
| §5.2 自由スタート | runs/x2_sneaky.py | WildJailbreak の開発セットおよびホールドアウトテストセット;SORRY-Bench |
| §6 2つのより単純な説明 | runs/x1_xstest.py、runs/c1_capability.py | XSTest およびジェイルブレイク風の無害なプロンプトに対する過剰拒否;尤度および重みあたりのビット数 |
| §7 マッチドパータベーション対照 | runs/e2_perturb.py、runs/e2_errors.py、runs/g1_gguf.py | 検証ゲート付きのマッチドパータベーションおよびスケールビルド;行列ごとの丸め誤差;llama.cpp ランタイム |
| §8 拒否方向の射影 | runs/m1_direction.py | bf16 拒否方向への射影 |
| 付録 | runs/a1_prefill.py、runs/r5_runon.py | プリフィルのパイロット;MXFP4 Qwen2.5 におけるターン終了の失敗 |
ハードウェア:メモリ16 GB を搭載した Apple Silicon Mac 1台(当方では M2 Pro を使用)。全実行セットには数日間のマシン時間を要する;モデルは一度に1つずつロードされる。
pip install -e ".[test]" # mlx 0.32.4, mlx-lm 0.32.2
scripts/fetch_data.sh # refusal_direction prompt splits (Apache-2.0)
scripts/convert.sh Qwen/Qwen2.5-3B-Instruct qwen2.5-3b
scripts/convert.sh meta-llama/Llama-3.2-3B-Instruct llama3.2-3b
scripts/convert.sh Qwen/Qwen3-4B-Instruct-2507 qwen3-4b
scripts/convert.sh Qwen/Qwen2.5-0.5B-Instruct qwen2.5-0.5b # needed by the tests and Appendix G
python -m pytest tests
3つのプロンプトセットを著者から入手し、data/ 以下に配置します:
data/xstest/xstest_prompts.csvdata/sorry/question*.jsonldata/wildjailbreak/eval/eval.tsvscripts/ 内の実行キューには、後から登録された分析について、実行した順序でコマンドが記載されています。それ以外の分析のスクリプトは上記の表に記載されています。これらは ml という名前の conda 環境を前提としており、runs/g1_gguf.py は ../tools/llama.cpp-src にある llama.cpp(コミット 0ec4027)と Homebrew の llama-quantize を前提としています。各実験は既に存在する出力をスキップするため、キューは停止して再開できます。その後:
python analysis/make_numbers.py # paper/numbers.{md,json}, paper/tex/numbers.tex
python analysis/figures.py # paper/tex/figures/*.pdf
cd paper/tex && tectonic main.tex
PREREG.md は、主要検定、副次ファミリー、人手ラベル設計、ホールドアウトの自由開始テスト、および対照群の判定ルールを固定している。各追補は日付が付され、対象となるデータが存在する前に固定された。論文の付録には、何がいつ登録されたか、および計画の変更点が記載されている。日付付きのコミットは非公開の開発リポジトリにあり(ハッシュ 50d0225、2c53665、86c93e0、3e2ea52、02e72c5、09e49aa)、要望に応じて利用可能である。本リポジトリの履歴はリリース時点から始まる。非公開の計画メモを指していた3つの文は PREREG.md から削除された。それ以外は変更されていない。
公開: コード、事前登録、集計結果(paper/numbers.{md,json})、およびすべての judge、Llama Guard、人手ラベル。プロンプトや応答のテキストは含まず、labels/ に格納されている(analysis/export_labels.py により書き出し)。行は設定、モデル、ビルド、プロンプトインデックス i をキーとする。i は runs/ が読み込むプロンプト分割の行インデックスである(x2/* の場合は runs/x2_sneaky.py 内のシード付きサンプル)。非公開: モデルの応答。これには強制開始の下で生成された有害なコンテンツが含まれる。make_numbers.py はそれらを results/ から読み込むが、results/ はバージョン管理から除外されている。これらは研究者に要望に応じて提供される。
コード: MIT(LICENSE)。ラベルと論文本文: CC BY 4.0。paper/tex/acl.sty と acl_natbib.bst はそれぞれ独自の条項を保持する。
@article{kaya2026quantization,
title={Is 4-Bit Quantization More Than Noise to a Chat Model's Safety Behaviour? Attributing Behavioural Shifts with Matched Perturbations},
author={Kaya, Ege},
journal={arXiv preprint arXiv:2611.22186},
year={2026}
}