Skip to content
KitploitKITPLOIT
ToolsExploitsBlog
Log in
Einreichen
ToolsExploitsBlog
Einreichen

Hacking-, PenTest- und Cybersicherheits-Tools für Ihr Sicherheitsarsenal!

Kitploit ist ein Verzeichnis von Hacking-, Cybersicherheits- und Pentesting-Tools. Entdecken Sie die neuesten Projekt-Updates, um Schwachstellen zu finden, Systeme zu analysieren, Tests zu automatisieren und Ihre Sicherheit zu stärken.

FeedsKontaktDatenschutz© 2026 Kitploit

Tool-Verzeichnis

Kategorien

Alle Kategorien anzeigen
Loading categories
Tools/GitHubGitHub/egekaya1/qrefusal
Maschinelles LernenPapers & ForschungLernen & BildungKI-Sicherheit
GitHubegekaya1/qrefusal

qrefusal

Ist 4-Bit-Quantisierung mehr als nur Rauschen für das Sicherheitsverhalten eines Chat-Modells? Code, Vorregistrierung und Labels.

Repository anzeigen
vor 15h 17mNoch nicht geprüft
Teilen

Ist 4-Bit-Quantisierung mehr als Rauschen für das Sicherheitsverhalten eines Chat-Modells?

Verhaltensverschiebungen mit abgestimmten Perturbationen zuordnen

Code und Analyse für ein vorab registriertes Audit darüber, wie 4-Bit-Quantisierung die Verweigerungen kleiner Chat-Modelle verändert, mit Kontrollen, die die Frage stellen, ob eine Veränderung von der Quantisierung stammt oder aus jeder beliebigen Perturbation derselben Größe folgen würde.

Paper: arXiv:2611.22186

Worum es geht

Chat-Modelle, die auf Telefonen und Laptops laufen, sind üblicherweise 4-Bit-Kopien des Modells, das auf Sicherheit geprüft wurde. Audits solcher Kopien widersprechen sich: Manche stellen fest, dass Quantisierung die Verweigerung abschwächt, manche nicht, manche stellen fest, dass Modelle häufiger verweigern. Ein 4-Bit-Build ist eine bestimmte Perturbation jedes Gewichts, und es gibt viele andere Perturbationen derselben Größe. Eine Verschiebung seiner Verweigerungen könnte also aus der Struktur des Rundungsfehlers stammen oder aus der eigenen Neigung des Modells unter jeder Anstoßung dieser Größe.

Wir testen drei 3-4B-Chat-Modelle (Qwen2.5-3B-Instruct, Llama-3.2-3B-Instruct, Qwen3-4B-Instruct-2507) in den Round-to-Nearest-Formaten, die MLX für Apple Silicon ausliefert. Jeder Vergleich ist gepaart und wird gegen einen 8-Bit-Build gelesen, der die Likelihood unverändert lässt. Kurz gefasst:

  • Erzwungener Start. Wenn die ersten acht Tokens einer konformen Antwort vorbelegt werden, macht der Standard-4-Bit-Build Qwen2.5-3B wahrscheinlicher, sie fortzusetzen. Llama-3.2-3B und Qwen3-4B bewegen sich nicht.
  • Freier Start. Bei 400 zurückgehaltenen Jailbreak-Prompts ohne Prefill wird 4-Bit-Llama-3.2-3B weniger konform. In einer explorativen Prüfung verweigert es zudem häufiger harmlose Anfragen im Jailbreak-Stil, während sein Umgang mit einfachen sicheren Anfragen unverändert bleibt.
  • Kontrollen. Wir ersetzen den Rundungsfehler durch sein Spiegelbild, eine gruppeninterne Permutation und größenangepasstes Gaußsches Rauschen, skalieren ihn und vergleichen ihn mit anderen Quantisierern im selben Format (AWQ, GPTQ) sowie mit einer zweiten Laufzeitumgebung (llama.cpp). Außerdem messen wir die Wirkung jedes Builds auf die Verweigerungsrichtung des Modells. Zusammen ordnen diese jede Verschiebung dem Modell oder der Rundung zu.

Die Zahlen hinter jedem Satz im Paper werden von einem einzigen Skript erzeugt (siehe Das Paper reproduzieren).

Aufbau

PfadInhalt
PREREG.mdDie Vorabregistrierung und ihre fünf datierten Nachträge, jeweils festgelegt vor den Daten, die sie betreffen
qrefusal/Gemeinsamer Code: Chat-Formatierung mit festgelegtem Template-Datum, gieriges und gesampeltes Dekodieren, ein schichtweiser Forward-Pass mit Hooks (MLX hat keine Hook-API), Verweigerungsrichtungen, gepaarte Statistiken
runs/Ein Skript pro Experiment; jedes schreibt nach results/<experiment>/
analysis/make_numbers.pyRegeneriert jede Zahl im Paper aus den Roh-Ergebnisdateien, mit Integritätsprüfungen
analysis/figures.pyZeichnet die Abbildungen aus paper/numbers.json
paper/LaTeX-Quelle; Zahlen gelangen nur als vom Analyse generierte Makros in den Text
scripts/Modellkonvertierung, Datenabruf und die Ausführungswarteschlangen
tests/Identitätstests für den Forward-Pass mit Hooks und die Statistiken

Die Experimente, in der Reihenfolge des Papers

PaperSkriptWas es tut
§3 Setupscripts/convert.shErstellt bf16-, 8-Bit-, 4-Bit- (Gruppe 64 und 32), gemischte 4/6-, MXFP4-, AWQ- und GPTQ-Kopien eines Modells
§3 Setupruns/r2.py, runs/e7_abliterate.py, runs/e7b_prefixes.pyAblehnungsrichtungen pro Schicht; eine abliterierte bf16-Kopie; die konformen Präfixe, die für Prefill verwendet werden
§3 Setupruns/r1b_judge.py, runs/j2_ensemble.py, runs/l2_pair_sheet.pyInhaltsprüfer (Qwen2.5-14B), Llama Guard 3 und das blinde zweiphasige Blatt zur menschlichen Kennzeichnung
§4 Label-Instabilität und die 8-Bit-Nullruns/e0_determinism.py, runs/a2_depth.py --tempIdentität bei gieriger Wiederholung; die Sampling-Seed-Untergrenze
§5.1 Erzwungener Startruns/a2_depth.py, runs/r1.pyPrefill-Tiefen k = 0, 2, 8; generisches Präfix (--fixed_prefix); Längenprüfung (--max_tokens 384 --sample 150)
§5.2 Freier Startruns/x2_sneaky.pyWildJailbreak-Entwicklungs- und zurückgehaltene Testsets; SORRY-Bench
§6 Zwei einfachere Erklärungenruns/x1_xstest.py, runs/c1_capability.pyÜbermäßige Ablehnung bei XSTest und gutartigen Prompts im Jailbreak-Stil; Likelihood und Bits pro Gewicht
§7 Kontrollen mit abgestimmten Perturbationenruns/e2_perturb.py, runs/e2_errors.py, runs/g1_gguf.pyAbgestimmte Perturbations- und skalierte Builds mit einem Validierungs-Gate; Rundungsfehler pro Matrix; die llama.cpp-Laufzeit
§8 Projektionen der Ablehnungsrichtungruns/m1_direction.pyProjektionen auf die bf16-Ablehnungsrichtung
Anhangruns/a1_prefill.py, runs/r5_runon.pyDer Prefill-Pilot; ein Fehler am Ende des Turns in MXFP4 Qwen2.5

Das Paper reproduzieren

Hardware: ein Apple-Silicon-Mac mit 16 GB Arbeitsspeicher (wir verwendeten einen M2 Pro). Der vollständige Satz an Läufen beansprucht mehrere Tage Rechenzeit; Modelle werden jeweils einzeln geladen.

pip install -e ".[test]"                    # mlx 0.32.4, mlx-lm 0.32.2
scripts/fetch_data.sh                        # refusal_direction prompt splits (Apache-2.0)
scripts/convert.sh Qwen/Qwen2.5-3B-Instruct qwen2.5-3b
scripts/convert.sh meta-llama/Llama-3.2-3B-Instruct llama3.2-3b
scripts/convert.sh Qwen/Qwen3-4B-Instruct-2507 qwen3-4b
scripts/convert.sh Qwen/Qwen2.5-0.5B-Instruct qwen2.5-0.5b   # needed by the tests and Appendix G
python -m pytest tests

Drei Prompt-Sets wurden von ihren Autoren bezogen und unter data/ abgelegt:

  • XSTest (Röttger et al., 2024): data/xstest/xstest_prompts.csv
  • SORRY-Bench (Xie et al., 2024; gated auf Hugging Face): data/sorry/question*.jsonl
  • WildJailbreak-Evaluierungsset (Jiang et al., 2024; gated auf Hugging Face): data/wildjailbreak/eval/eval.tsv

Die Warteschlangen in scripts/ enthalten die Befehle für die später registrierten Analysen in der Reihenfolge, in der wir sie ausgeführt haben; die obige Tabelle enthält die Skripte für den Rest. Sie erwarten eine Conda-Umgebung namens ml, und runs/g1_gguf.py erwartet llama.cpp (Commit 0ec4027) unter ../tools/llama.cpp-src sowie Homebrew llama-quantize. Jedes Experiment überspringt Ausgaben, die bereits existieren, sodass eine Warteschlange angehalten und neu gestartet werden kann. Dann:

python analysis/make_numbers.py    # paper/numbers.{md,json}, paper/tex/numbers.tex
python analysis/figures.py         # paper/tex/figures/*.pdf
cd paper/tex && tectonic main.tex

Vorregistrierung

PREREG.md legt den primären Test, die sekundären Familien, das Design der menschlichen Labels, den zurückgehaltenen Freistart-Test und die Entscheidungsregel der Kontrollen fest. Jeder Nachtrag ist datiert und wurde festgelegt, bevor die betreffenden Daten existierten. Der Anhang des Papers listet auf, was wann registriert wurde und welche Änderungen am Plan vorgenommen wurden. Die datierten Commits befinden sich in einem privaten Entwicklungs-Repository (Hashes 50d0225, 2c53665, 86c93e0, 3e2ea52, 02e72c5, 09e49aa), verfügbar auf Anfrage; die Historie dieses Repositories beginnt mit dem Release. Drei Sätze, die auf private Planungsnotizen verwiesen, wurden aus PREREG.md entfernt; sonst wurde nichts geändert.

Was veröffentlicht wird und was nicht

Tool herunterladen

Beliebteste

Alle anzeigen →

Entdecken Sie die meistgenutzten Tools unserer Community.

Noch keine Beliebtheitsdaten.

Alle Tools erkunden

Durchsuchen Sie unsere Tool-Sammlung

Alle Tools anzeigen →