Skip to content
KitploitKITPLOIT
ツールエクスプロイトブログ
Log in
提出
ツールエクスプロイトブログ
提出

ハッキング、侵入テスト、サイバーセキュリティツールをあなたのセキュリティアーセナルに!

Kitploitはハッキング、サイバーセキュリティ、ペネトレーションテストのツールディレクトリです。最新のプロジェクトアップデートを見つけて、脆弱性の発見、システム分析、テストの自動化、セキュリティの強化を行いましょう。

フィードお問い合わせプライバシー© 2026 Kitploit

ツールディレクトリ

カテゴリ

すべてのカテゴリを見る
Loading categories
qrefusal — 4ビット量子化は、チャットモデルの安全行動にとって単なるノイズ以上のものなのか?コード、事前登録、ラベル。 | Kitploit
ツール/GitHubGitHub/egekaya1/qrefusal
機械学習論文と研究学習と教育AIセキュリティ
GitHubegekaya1/qrefusal

qrefusal

4ビット量子化は、チャットモデルの安全行動にとって単なるノイズ以上のものなのか?コード、事前登録、ラベル。

リポジトリを見る
10時間30分前未レビュー
共有

4ビット量子化はチャットモデルの安全性行動にとってノイズ以上のものなのか?

一致させた摂動による行動変化の帰属

小規模チャットモデルの拒否応答が4ビット量子化によってどのように変化するかについての事前登録済み監査のためのコードと分析。変化が量子化に由来するのか、それとも同じ規模のあらゆる摂動から生じうるものなのかを問う対照群を備えている。

論文: arXiv:2611.22186

これは何についてか

スマートフォンやノートPC上で動作するチャットモデルは、通常、安全性について評価されたモデルの4ビットコピーである。そのようなコピーの監査結果は一致していない。量子化が拒否を弱めるとするものもあれば、そうでないとするものもあり、モデルがより多く拒否するようになるとするものもある。4ビットビルドはすべての重みに対する一つの特定の摂動であり、同じ規模の他の摂動は数多く存在する。したがって、その拒否応答の変化は、丸め誤差の構造に由来するのか、それともその規模のあらゆる揺さぶりに対するモデル自身の傾向に由来するのか、区別できない。

我々は3つの3-4Bチャットモデル(Qwen2.5-3B-Instruct、Llama-3.2-3B-Instruct、Qwen3-4B-Instruct-2507)を、MLXがApple Silicon向けに提供する最近接丸め形式でテストする。すべての比較はペアで行われ、尤度を変化させない8ビットビルドと照らし合わせて評価される。要約すると:

  • 強制開始。 従順な応答の最初の8トークンがプリフィルされた場合、デフォルトの4ビットビルドではQwen2.5-3Bがその応答を継続する可能性が高くなる。Llama-3.2-3BとQwen3-4Bは変化しない。
  • 自由開始。 プリフィルなしの400件のホールドアウトされたジェイルブレイクプロンプトでは、4ビットのLlama-3.2-3Bはより従順でなくなる。探索的チェックでは、ジェイルブレイク形式で書かれた良性のリクエストに対してもより多く拒否する一方、平易な安全なリクエストへの対応は変化しない。
  • 対照群。 丸め誤差をその鏡像、グループ内シャッフル、サイズを一致させたガウスノイズに置き換え、スケーリングし、同じ形式の他の量子化器(AWQ、GPTQ)や第2のランタイム(llama.cpp)と比較する。また、各ビルドがモデルの拒否方向に与える影響も測定する。これらを合わせることで、各変化をモデルに帰属させるか丸めに帰属させるかを明らかにする。

論文のすべての文の背後にある数値は、1つのスクリプトによって生成される(論文の再現を参照)。

レイアウト

パス内容
PREREG.md事前登録とその5つの日付付き補遺。それぞれが対象とするデータより前に確定されている
qrefusal/共有コード:固定されたテンプレート日付によるチャットフォーマット、貪欲法およびサンプリングによるデコード、フック付きの層ごとのフォワードパス(MLXにはフックAPIがない)、拒否方向、ペア統計
runs/実験ごとに1つのスクリプト。それぞれが results/<experiment>/ に書き込む
analysis/make_numbers.py生の結果ファイルから論文のすべての数値を整合性チェック付きで再生成する
analysis/figures.pypaper/numbers.json から図を描画する
paper/LaTeXソース。数値は分析によって生成されたマクロとしてのみ本文に入る
scripts/モデル変換、データ取得、実行キュー
tests/フック付きフォワードパスと統計のための同一性テスト

実験(論文の順序で)

論文スクリプト内容
§3 セットアップscripts/convert.shモデルの bf16、8ビット、4ビット(グループ64および32)、混合4/6、MXFP4、AWQ、GPTQ コピーをビルドする
§3 セットアップruns/r2.py、runs/e7_abliterate.py、runs/e7b_prefixes.pyレイヤーごとの拒否方向;アブリタレートされた bf16 コピー;プリフィルに使用する準拠プレフィックス
§3 セットアップruns/r1b_judge.py、runs/j2_ensemble.py、runs/l2_pair_sheet.pyコンテンツジャッジ(Qwen2.5-14B)、Llama Guard 3、およびブラインド二段階人手ラベリングシート
§4 ラベルの不安定性と8ビットのヌルruns/e0_determinism.py、runs/a2_depth.py --tempグリーディ再実行の同一性;サンプリングシードの下限
§5.1 強制スタートruns/a2_depth.py、runs/r1.pyプリフィル深度 k = 0、2、8;汎用プレフィックス(--fixed_prefix);長さチェック(--max_tokens 384 --sample 150)
§5.2 自由スタートruns/x2_sneaky.pyWildJailbreak の開発セットおよびホールドアウトテストセット;SORRY-Bench
§6 2つのより単純な説明runs/x1_xstest.py、runs/c1_capability.pyXSTest およびジェイルブレイク風の無害なプロンプトに対する過剰拒否;尤度および重みあたりのビット数
§7 マッチドパータベーション対照runs/e2_perturb.py、runs/e2_errors.py、runs/g1_gguf.py検証ゲート付きのマッチドパータベーションおよびスケールビルド;行列ごとの丸め誤差;llama.cpp ランタイム
§8 拒否方向の射影runs/m1_direction.pybf16 拒否方向への射影
付録runs/a1_prefill.py、runs/r5_runon.pyプリフィルのパイロット;MXFP4 Qwen2.5 におけるターン終了の失敗

論文の再現

ハードウェア:メモリ16 GB を搭載した Apple Silicon Mac 1台(当方では M2 Pro を使用)。全実行セットには数日間のマシン時間を要する;モデルは一度に1つずつロードされる。

pip install -e ".[test]"                    # mlx 0.32.4, mlx-lm 0.32.2
scripts/fetch_data.sh                        # refusal_direction prompt splits (Apache-2.0)
scripts/convert.sh Qwen/Qwen2.5-3B-Instruct qwen2.5-3b
scripts/convert.sh meta-llama/Llama-3.2-3B-Instruct llama3.2-3b
scripts/convert.sh Qwen/Qwen3-4B-Instruct-2507 qwen3-4b
scripts/convert.sh Qwen/Qwen2.5-0.5B-Instruct qwen2.5-0.5b   # needed by the tests and Appendix G
python -m pytest tests

3つのプロンプトセットを著者から入手し、data/ 以下に配置します:

  • XSTest(Röttger et al., 2024):data/xstest/xstest_prompts.csv
  • SORRY-Bench(Xie et al., 2024;Hugging Face でゲート付き):data/sorry/question*.jsonl
  • WildJailbreak 評価セット(Jiang et al., 2024;Hugging Face でゲート付き):data/wildjailbreak/eval/eval.tsv

scripts/ 内の実行キューには、後から登録された分析について、実行した順序でコマンドが記載されています。それ以外の分析のスクリプトは上記の表に記載されています。これらは ml という名前の conda 環境を前提としており、runs/g1_gguf.py は ../tools/llama.cpp-src にある llama.cpp(コミット 0ec4027)と Homebrew の llama-quantize を前提としています。各実験は既に存在する出力をスキップするため、キューは停止して再開できます。その後:

python analysis/make_numbers.py    # paper/numbers.{md,json}, paper/tex/numbers.tex
python analysis/figures.py         # paper/tex/figures/*.pdf
cd paper/tex && tectonic main.tex

事前登録

PREREG.md は、主要検定、副次ファミリー、人手ラベル設計、ホールドアウトの自由開始テスト、および対照群の判定ルールを固定している。各追補は日付が付され、対象となるデータが存在する前に固定された。論文の付録には、何がいつ登録されたか、および計画の変更点が記載されている。日付付きのコミットは非公開の開発リポジトリにあり(ハッシュ 50d0225、2c53665、86c93e0、3e2ea52、02e72c5、09e49aa)、要望に応じて利用可能である。本リポジトリの履歴はリリース時点から始まる。非公開の計画メモを指していた3つの文は PREREG.md から削除された。それ以外は変更されていない。

公開されているものとされていないもの

公開: コード、事前登録、集計結果(paper/numbers.{md,json})、およびすべての judge、Llama Guard、人手ラベル。プロンプトや応答のテキストは含まず、labels/ に格納されている(analysis/export_labels.py により書き出し)。行は設定、モデル、ビルド、プロンプトインデックス i をキーとする。i は runs/ が読み込むプロンプト分割の行インデックスである(x2/* の場合は runs/x2_sneaky.py 内のシード付きサンプル)。非公開: モデルの応答。これには強制開始の下で生成された有害なコンテンツが含まれる。make_numbers.py はそれらを results/ から読み込むが、results/ はバージョン管理から除外されている。これらは研究者に要望に応じて提供される。

ライセンス

コード: MIT(LICENSE)。ラベルと論文本文: CC BY 4.0。paper/tex/acl.sty と acl_natbib.bst はそれぞれ独自の条項を保持する。

引用

@article{kaya2026quantization,
  title={Is 4-Bit Quantization More Than Noise to a Chat Model's Safety Behaviour? Attributing Behavioural Shifts with Matched Perturbations},
  author={Kaya, Ege},
  journal={arXiv preprint arXiv:2611.22186},
  year={2026}
}
ツールをダウンロード

人気

すべて見る →

コミュニティで最も使われているツールを見つけましょう。

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 究極のOSINTツールキット:調査グラフ、信頼度スコアリング、エイリアスファミリー、マップ、タイムライン、レポート。49個のモジュール、400以上のサイト、APIキー不要。

    591
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    GhostLock ワンタップ実行アプリ(CVE-2026-43499)

    481
  • 3

    ARTEX

    baarai/artex

    プランナー/ワーカーエージェント、資産グラフと探索グラフ、MITMトラフィック記録、脆弱性の再テストを備えたLLMマルチエージェント自律ペネトレーションテストプラットフォーム。

    389
  • 4

    redforge

    cybersecurity91/redforge

    ブラウザ側のレッドチームツールキット。偵察、ペイロード生成、認証情報攻撃、暗号、エンコーディング、エンゲージメントレポート向けの102のオフラインツールを備えています。

    332
  • 5

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    AIネイティブなサイバーセキュリティのためのアクションシステム。意図がガバナンスされた実行に変わり、証拠が運用記憶となり、すべての操作が次の操作を改善する。

    255
  • 6

    antifox

    antifox-ai/antifox

    偵察、攻撃対象領域の探索、エクスプロイト検証、証拠に基づくレポート提供を実行するAIマルチエージェント自律ペネトレーションテストプラットフォーム。

    247

すべてのツールを探索

ツールコレクションを閲覧

すべてのツールを見る →