
Ist 4-Bit-Quantisierung mehr als nur Rauschen für das Sicherheitsverhalten eines Chat-Modells? Code, Vorregistrierung und Labels.
Verhaltensverschiebungen mit abgestimmten Perturbationen zuordnen
Code und Analyse für ein vorab registriertes Audit darüber, wie 4-Bit-Quantisierung die Verweigerungen kleiner Chat-Modelle verändert, mit Kontrollen, die die Frage stellen, ob eine Veränderung von der Quantisierung stammt oder aus jeder beliebigen Perturbation derselben Größe folgen würde.
Paper: arXiv:2611.22186
Chat-Modelle, die auf Telefonen und Laptops laufen, sind üblicherweise 4-Bit-Kopien des Modells, das auf Sicherheit geprüft wurde. Audits solcher Kopien widersprechen sich: Manche stellen fest, dass Quantisierung die Verweigerung abschwächt, manche nicht, manche stellen fest, dass Modelle häufiger verweigern. Ein 4-Bit-Build ist eine bestimmte Perturbation jedes Gewichts, und es gibt viele andere Perturbationen derselben Größe. Eine Verschiebung seiner Verweigerungen könnte also aus der Struktur des Rundungsfehlers stammen oder aus der eigenen Neigung des Modells unter jeder Anstoßung dieser Größe.
Wir testen drei 3-4B-Chat-Modelle (Qwen2.5-3B-Instruct, Llama-3.2-3B-Instruct, Qwen3-4B-Instruct-2507) in den Round-to-Nearest-Formaten, die MLX für Apple Silicon ausliefert. Jeder Vergleich ist gepaart und wird gegen einen 8-Bit-Build gelesen, der die Likelihood unverändert lässt. Kurz gefasst:
Die Zahlen hinter jedem Satz im Paper werden von einem einzigen Skript erzeugt (siehe Das Paper reproduzieren).
| Pfad | Inhalt |
|---|---|
PREREG.md | Die Vorabregistrierung und ihre fünf datierten Nachträge, jeweils festgelegt vor den Daten, die sie betreffen |
qrefusal/ | Gemeinsamer Code: Chat-Formatierung mit festgelegtem Template-Datum, gieriges und gesampeltes Dekodieren, ein schichtweiser Forward-Pass mit Hooks (MLX hat keine Hook-API), Verweigerungsrichtungen, gepaarte Statistiken |
runs/ | Ein Skript pro Experiment; jedes schreibt nach results/<experiment>/ |
analysis/make_numbers.py | Regeneriert jede Zahl im Paper aus den Roh-Ergebnisdateien, mit Integritätsprüfungen |
analysis/figures.py | Zeichnet die Abbildungen aus paper/numbers.json |
paper/ | LaTeX-Quelle; Zahlen gelangen nur als vom Analyse generierte Makros in den Text |
scripts/ | Modellkonvertierung, Datenabruf und die Ausführungswarteschlangen |
tests/ | Identitätstests für den Forward-Pass mit Hooks und die Statistiken |
| Paper | Skript | Was es tut |
|---|---|---|
| §3 Setup | scripts/convert.sh | Erstellt bf16-, 8-Bit-, 4-Bit- (Gruppe 64 und 32), gemischte 4/6-, MXFP4-, AWQ- und GPTQ-Kopien eines Modells |
| §3 Setup | runs/r2.py, runs/e7_abliterate.py, runs/e7b_prefixes.py | Ablehnungsrichtungen pro Schicht; eine abliterierte bf16-Kopie; die konformen Präfixe, die für Prefill verwendet werden |
| §3 Setup | runs/r1b_judge.py, runs/j2_ensemble.py, runs/l2_pair_sheet.py | Inhaltsprüfer (Qwen2.5-14B), Llama Guard 3 und das blinde zweiphasige Blatt zur menschlichen Kennzeichnung |
| §4 Label-Instabilität und die 8-Bit-Null | runs/e0_determinism.py, runs/a2_depth.py --temp | Identität bei gieriger Wiederholung; die Sampling-Seed-Untergrenze |
| §5.1 Erzwungener Start | runs/a2_depth.py, runs/r1.py | Prefill-Tiefen k = 0, 2, 8; generisches Präfix (--fixed_prefix); Längenprüfung (--max_tokens 384 --sample 150) |
| §5.2 Freier Start | runs/x2_sneaky.py | WildJailbreak-Entwicklungs- und zurückgehaltene Testsets; SORRY-Bench |
| §6 Zwei einfachere Erklärungen | runs/x1_xstest.py, runs/c1_capability.py | Übermäßige Ablehnung bei XSTest und gutartigen Prompts im Jailbreak-Stil; Likelihood und Bits pro Gewicht |
| §7 Kontrollen mit abgestimmten Perturbationen | runs/e2_perturb.py, runs/e2_errors.py, runs/g1_gguf.py | Abgestimmte Perturbations- und skalierte Builds mit einem Validierungs-Gate; Rundungsfehler pro Matrix; die llama.cpp-Laufzeit |
| §8 Projektionen der Ablehnungsrichtung | runs/m1_direction.py | Projektionen auf die bf16-Ablehnungsrichtung |
| Anhang | runs/a1_prefill.py, runs/r5_runon.py | Der Prefill-Pilot; ein Fehler am Ende des Turns in MXFP4 Qwen2.5 |
Hardware: ein Apple-Silicon-Mac mit 16 GB Arbeitsspeicher (wir verwendeten einen M2 Pro). Der vollständige Satz an Läufen beansprucht mehrere Tage Rechenzeit; Modelle werden jeweils einzeln geladen.
pip install -e ".[test]" # mlx 0.32.4, mlx-lm 0.32.2
scripts/fetch_data.sh # refusal_direction prompt splits (Apache-2.0)
scripts/convert.sh Qwen/Qwen2.5-3B-Instruct qwen2.5-3b
scripts/convert.sh meta-llama/Llama-3.2-3B-Instruct llama3.2-3b
scripts/convert.sh Qwen/Qwen3-4B-Instruct-2507 qwen3-4b
scripts/convert.sh Qwen/Qwen2.5-0.5B-Instruct qwen2.5-0.5b # needed by the tests and Appendix G
python -m pytest tests
Drei Prompt-Sets wurden von ihren Autoren bezogen und unter data/ abgelegt:
data/xstest/xstest_prompts.csvdata/sorry/question*.jsonldata/wildjailbreak/eval/eval.tsvDie Warteschlangen in scripts/ enthalten die Befehle für die später registrierten Analysen in der Reihenfolge, in der wir sie ausgeführt haben; die obige Tabelle enthält die Skripte für den Rest. Sie erwarten eine Conda-Umgebung namens ml, und runs/g1_gguf.py erwartet llama.cpp (Commit 0ec4027) unter ../tools/llama.cpp-src sowie Homebrew llama-quantize. Jedes Experiment überspringt Ausgaben, die bereits existieren, sodass eine Warteschlange angehalten und neu gestartet werden kann. Dann:
python analysis/make_numbers.py # paper/numbers.{md,json}, paper/tex/numbers.tex
python analysis/figures.py # paper/tex/figures/*.pdf
cd paper/tex && tectonic main.tex
PREREG.md legt den primären Test, die sekundären Familien, das Design der menschlichen Labels, den zurückgehaltenen Freistart-Test und die Entscheidungsregel der Kontrollen fest. Jeder Nachtrag ist datiert und wurde festgelegt, bevor die betreffenden Daten existierten. Der Anhang des Papers listet auf, was wann registriert wurde und welche Änderungen am Plan vorgenommen wurden. Die datierten Commits befinden sich in einem privaten Entwicklungs-Repository (Hashes 50d0225, 2c53665, 86c93e0, 3e2ea52, 02e72c5, 09e49aa), verfügbar auf Anfrage; die Historie dieses Repositories beginnt mit dem Release. Drei Sätze, die auf private Planungsnotizen verwiesen, wurden aus PREREG.md entfernt; sonst wurde nichts geändert.
Entdecken Sie die meistgenutzten Tools unserer Community.
Noch keine Beliebtheitsdaten.