Skip to content
KitploitKITPLOIT
工具漏洞利用博客
Log in
提交
工具漏洞利用博客
提交

黑客、渗透测试和网络安全工具,武装您的安全武器库!

Kitploit 是一个黑客、网络安全和渗透测试工具的目录。发现最新的项目更新,查找漏洞、分析系统、自动化测试并加强你的安全。

订阅源联系隐私© 2026 Kitploit

工具目录

分类

查看所有分类
Loading categories
工具/GitHubGitHub/egekaya1/qrefusal
机器学习论文与研究学习与教育AI 安全
GitHubegekaya1/qrefusal

qrefusal

4 位量化对聊天模型的安全行为而言,是否不只是噪声?代码、预注册与标签。

查看仓库
13小时8分前尚未审核
分享

4 位量化对聊天模型的安全行为而言,是否不只是噪声?

用匹配扰动归因行为变化

针对小型聊天模型的拒绝行为如何被 4 位量化改变所进行的预注册审计的代码与分析,并配有对照实验,用以判断变化究竟来自量化,还是来自任何同等大小的扰动。

论文:arXiv:2611.22186

本文主题

在手机和笔记本电脑上运行的聊天模型,通常是经过安全评估的模型的 4 位副本。对此类副本的审计结果并不一致:有的发现量化削弱了拒绝行为,有的发现没有影响,还有的发现模型拒绝得更多。4 位构建是对每个权重的一种特定扰动,而同等大小的其他扰动还有很多。因此,其拒绝行为的变化可能来自舍入误差的结构,也可能来自模型自身在任意同等大小扰动下的倾向。

我们测试了三个 3-4B 聊天模型(Qwen2.5-3B-Instruct、Llama-3.2-3B-Instruct、Qwen3-4B-Instruct-2507),采用 MLX 为 Apple Silicon 提供的 round-to-nearest 格式。每次比较都是配对的,并以 8 位构建为参照,后者不会改变似然。简要来说:

  • 强制开头。 当合规回复的前八个 token 被预填充时,默认的 4 位构建使 Qwen2.5-3B 更可能继续该回复。Llama-3.2-3B 和 Qwen3-4B 没有变化。
  • 自由开头。 在 400 条未预填充的留出越狱提示上,4 位 Llama-3.2-3B 变得更不合规。在一项探索性检查中,它还对以越狱风格书写的良性请求拒绝得更多,而对普通安全请求的处理保持不变。
  • 对照。 我们用其镜像、组内打乱和大小匹配的高斯噪声替换舍入误差,对其进行缩放,并与同一格式下的其他量化器(AWQ、GPTQ)以及另一个运行时(llama.cpp)进行比较。我们还测量了每个构建对模型拒绝方向的影响。这些共同将每次变化归因于模型或舍入。

论文中每句话背后的数字都由一个脚本生成(见复现论文)。

目录结构

路径内容
PREREG.md预注册文件及其五个带日期的附录,每个附录都在其所涉数据之前确定
qrefusal/共享代码:使用固定模板日期的聊天格式化、贪心与采样解码、带钩子的逐层前向传播(MLX 没有钩子 API)、拒绝方向、配对统计
runs/每个实验一个脚本;每个脚本写入 results/<experiment>/
analysis/make_numbers.py从原始结果文件重新生成论文中的每个数字,并带有完整性检查
analysis/figures.py从 paper/numbers.json 绘制图表
paper/LaTeX 源文件;数字仅以分析生成的宏形式进入正文
scripts/模型转换、数据获取和运行队列
tests/针对带钩子前向传播和统计的恒等性测试

实验,按论文顺序

论文脚本功能说明
§3 设置scripts/convert.sh构建模型的 bf16、8-bit、4-bit(group 64 和 32)、混合 4/6、MXFP4、AWQ 和 GPTQ 副本
§3 设置runs/r2.py、runs/e7_abliterate.py、runs/e7b_prefixes.py每层的拒绝方向;一个 abliterated bf16 副本;用于 prefill 的合规前缀
§3 设置runs/r1b_judge.py、runs/j2_ensemble.py、runs/l2_pair_sheet.py内容评判器(Qwen2.5-14B)、Llama Guard 3,以及盲测两阶段人工标注表
§4 标签不稳定性与 8-bit 零结果runs/e0_determinism.py、runs/a2_depth.py --temp贪心重跑一致性;采样种子下限
§5.1 强制起始runs/a2_depth.py、runs/r1.pyPrefill 深度 k = 0、2、8;通用前缀(--fixed_prefix);长度检查(--max_tokens 384 --sample 150)
§5.2 自由起始runs/x2_sneaky.pyWildJailbreak 开发集与留出测试集;SORRY-Bench
§6 两种更简单的解释runs/x1_xstest.py、runs/c1_capability.py在 XSTest 和越狱风格的良性提示上的过度拒绝;似然与每权重比特数
§7 匹配扰动对照runs/e2_perturb.py、runs/e2_errors.py、runs/g1_gguf.py带验证门控的匹配扰动与缩放构建;逐矩阵舍入误差;llama.cpp 运行时
§8 拒绝方向投影runs/m1_direction.py投影到 bf16 拒绝方向
附录runs/a1_prefill.py、runs/r5_runon.pyprefill 试点;MXFP4 Qwen2.5 中的回合结束失败

复现论文

硬件:一台配备 16 GB 内存的 Apple Silicon Mac(我们使用的是 M2 Pro)。完整运行集需要数天的机器时间;模型一次只加载一个。

pip install -e ".[test]"                    # mlx 0.32.4, mlx-lm 0.32.2
scripts/fetch_data.sh                        # refusal_direction prompt splits (Apache-2.0)
scripts/convert.sh Qwen/Qwen2.5-3B-Instruct qwen2.5-3b
scripts/convert.sh meta-llama/Llama-3.2-3B-Instruct llama3.2-3b
scripts/convert.sh Qwen/Qwen3-4B-Instruct-2507 qwen3-4b
scripts/convert.sh Qwen/Qwen2.5-0.5B-Instruct qwen2.5-0.5b   # needed by the tests and Appendix G
python -m pytest tests

从作者处获得三组提示词集,并放置在 data/ 下:

  • XSTest(Röttger 等,2024):data/xstest/xstest_prompts.csv
  • SORRY-Bench(Xie 等,2024;在 Hugging Face 上受限访问):data/sorry/question*.jsonl
  • WildJailbreak 评估集(Jiang 等,2024;在 Hugging Face 上受限访问):data/wildjailbreak/eval/eval.tsv

scripts/ 中的运行队列按我们实际执行的顺序给出了后续已注册分析的命令;上表给出了其余部分的脚本。它们需要一个名为 ml 的 conda 环境,并且 runs/g1_gguf.py 需要位于 ../tools/llama.cpp-src 的 llama.cpp(提交 0ec4027)以及 Homebrew 的 llama-quantize。每个实验都会跳过已存在的输出,因此队列可以停止并重新启动。然后:

python analysis/make_numbers.py    # paper/numbers.{md,json}, paper/tex/numbers.tex
python analysis/figures.py         # paper/tex/figures/*.pdf
cd paper/tex && tectonic main.tex

预注册

PREREG.md 固定了主要检验、次要族、人工标注设计、留出的自由起始检验以及对照组的判定规则。每份附录均标注日期,且在其所涉数据存在之前就已固定。论文附录列出了何时注册了什么以及对计划的更改。带日期的提交位于一个私有开发仓库中(哈希 50d0225、2c53665、86c93e0、3e2ea52、02e72c5、09e49aa),可应请求提供;本仓库的历史从发布版本开始。PREREG.md 中指向私有规划笔记的三句话已被删除;除此之外未作任何更改。

已发布与未发布的内容

已发布:代码、预注册、聚合结果(paper/numbers.{md,json})以及每个 judge、Llama Guard 和人工标注,不含提示或回复文本,位于 labels/(由 analysis/export_labels.py 生成)。行以设置、模型、构建和提示索引 i 为键:即 runs/ 所加载的提示划分的行索引(对于 x2/*,为 runs/x2_sneaky.py 中的种子样本)。未发布:模型回复,其中包含在强制起始下生成的有害内容;make_numbers.py 从 results/ 读取它们,而该目录被排除在版本控制之外。这些内容可应研究人员请求提供。

许可证

代码:MIT(LICENSE)。标注与论文文本:CC BY 4.0。paper/tex/acl.sty 和 acl_natbib.bst 保留其自身条款。

引用

@article{kaya2026quantization,
  title={Is 4-Bit Quantization More Than Noise to a Chat Model's Safety Behaviour? Attributing Behavioural Shifts with Matched Perturbations},
  author={Kaya, Ege},
  journal={arXiv preprint arXiv:2611.22186},
  year={2026}
}
下载工具

最受欢迎

查看全部 →

发现我们社区最常用的工具。

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 终极 OSINT 工具包:调查图谱、置信度评分、别名家族、地图、时间线和报告。49 个模块、400+ 个站点,无需 API 密钥。

    654
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    GhostLock 一键执行应用(CVE-2026-43499)

    490
  • 3

    ARTEX

    baarai/artex

    基于LLM的多智能体自主渗透测试平台,具备规划器/执行器智能体、资产与探索图谱、MITM流量记录以及漏洞复测功能。

    395
  • 4

    redforge

    cybersecurity91/redforge

    浏览器端红队工具包,包含 102 个离线工具,用于侦察、载荷生成、凭据攻击、加密、编码和交战报告。

    336
  • 5

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    AI原生网络安全的行动系统——在这里,意图转化为受治理的执行,证据沉淀为运营记忆,每一次操作都让下一次更出色。

    258
  • 6

    antifox

    antifox-ai/antifox

    AI multi-agent autonomous penetration testing platform that runs recon, attack-surface discovery, exploitation validation and evidence-backed report delivery.

    252

探索所有工具

浏览我们的工具集合

查看所有工具 →