
A quantização de 4 bits é mais do que ruído para o comportamento de segurança de um modelo de chat? Código, pré-registro e rótulos.
Atribuindo mudanças comportamentais com perturbações emparelhadas
Código e análise para uma auditoria pré-registada de como a quantização de 4 bits altera as recusas de pequenos modelos de chat, com controles que perguntam se uma mudança vem da quantização ou decorreria de qualquer perturbação do mesmo tamanho.
Artigo: arXiv:2611.22186
Modelos de chat que rodam em telefones e laptops são geralmente cópias de 4 bits do modelo que foi avaliado para segurança. Auditorias dessas cópias discordam: algumas descobrem que a quantização enfraquece a recusa, algumas descobrem que não, algumas descobrem que os modelos recusam mais. Uma build de 4 bits é uma perturbação particular de cada peso, e há muitas outras perturbações do mesmo tamanho. Assim, uma mudança nas suas recusas poderia vir da estrutura do erro de arredondamento, ou da própria inclinação do modelo sob qualquer empurrão desse tamanho.
Testamos três modelos de chat de 3-4B (Qwen2.5-3B-Instruct, Llama-3.2-3B-Instruct, Qwen3-4B-Instruct-2507) nos formatos de arredondamento para o mais próximo que o MLX distribui para Apple Silicon. Toda comparação é emparelhada e lida em relação a uma build de 8 bits, que deixa a verossimilhança inalterada. Em resumo:
Os números por trás de cada frase no artigo são gerados por um único script (ver Reproduzindo o artigo).
| Caminho | Conteúdo |
|---|---|
PREREG.md | O pré-registo e os seus cinco adendos datados, cada um fixado antes dos dados a que diz respeito |
qrefusal/ | Código partilhado: formatação de chat com uma data de template fixada, decodificação greedy e amostrada, uma passagem forward camada a camada com hooks (o MLX não tem API de hooks), direções de recusa, estatísticas emparelhadas |
runs/ | Um script por experimento; cada um escreve em results/<experiment>/ |
analysis/make_numbers.py | Regenera cada número no artigo a partir dos ficheiros de resultados brutos, com verificações de integridade |
analysis/figures.py | Desenha as figuras a partir de paper/numbers.json |
paper/ | Fonte LaTeX; os números entram no texto apenas como macros geradas pela análise |
scripts/ | Conversão de modelos, obtenção de dados e as filas de execução |
tests/ | Testes de identidade para a passagem forward com hooks e para as estatísticas |
| Artigo | Script | O que faz |
|---|---|---|
| §3 Configuração | scripts/convert.sh | Cria cópias bf16, 8-bit, 4-bit (grupo 64 e 32), mistas 4/6, MXFP4, AWQ e GPTQ de um modelo |
| §3 Configuração | runs/r2.py, runs/e7_abliterate.py, runs/e7b_prefixes.py | Direções de recusa por camada; uma cópia bf16 abliterada; os prefixos complacentes usados para prefill |
| §3 Configuração | runs/r1b_judge.py, runs/j2_ensemble.py, runs/l2_pair_sheet.py | Juiz de conteúdo (Qwen2.5-14B), Llama Guard 3 e a folha de rotulagem humana cega em duas fases |
| §4 Instabilidade de rótulos e o nulo de 8 bits | runs/e0_determinism.py, runs/a2_depth.py --temp | Identidade de reexecução gulosa; o piso de semente de amostragem |
| §5.1 Início forçado | runs/a2_depth.py, runs/r1.py | Profundidades de prefill k = 0, 2, 8; prefixo genérico (--fixed_prefix); verificação de comprimento (--max_tokens 384 --sample 150) |
| §5.2 Início livre | runs/x2_sneaky.py | Conjuntos de desenvolvimento e de teste retido do WildJailbreak; SORRY-Bench |
| §6 Duas explicações mais simples | runs/x1_xstest.py, runs/c1_capability.py | Excesso de recusa no XSTest e em prompts benignos com estilo de jailbreak; verossimilhança e bits por peso |
| §7 Controles de perturbação emparelhada | runs/e2_perturb.py, runs/e2_errors.py, runs/g1_gguf.py | Construções com perturbação emparelhada e escalonadas com uma validação de gate; erro de arredondamento por matriz; o runtime llama.cpp |
| §8 Projeções da direção de recusa | runs/m1_direction.py | Projeções sobre a direção de recusa bf16 |
| Apêndice | runs/a1_prefill.py, runs/r5_runon.py | O piloto de prefill; uma falha de fim de turno no MXFP4 Qwen2.5 |
Hardware: um Mac com Apple Silicon e 16 GB de memória (usamos um M2 Pro). O conjunto completo de execuções leva vários dias de tempo de máquina; os modelos são carregados um de cada vez.
pip install -e ".[test]" # mlx 0.32.4, mlx-lm 0.32.2
scripts/fetch_data.sh # refusal_direction prompt splits (Apache-2.0)
scripts/convert.sh Qwen/Qwen2.5-3B-Instruct qwen2.5-3b
scripts/convert.sh meta-llama/Llama-3.2-3B-Instruct llama3.2-3b
scripts/convert.sh Qwen/Qwen3-4B-Instruct-2507 qwen3-4b
scripts/convert.sh Qwen/Qwen2.5-0.5B-Instruct qwen2.5-0.5b # needed by the tests and Appendix G
python -m pytest tests
Três conjuntos de prompts são obtidos de seus autores e colocados em data/:
data/xstest/xstest_prompts.csvdata/sorry/question*.jsonldata/wildjailbreak/eval/eval.tsvAs filas de execução em scripts/ fornecem os comandos para as análises registradas posteriormente, na ordem em que as executamos; a tabela acima fornece os scripts para o restante. Elas esperam um ambiente conda chamado ml, e runs/g1_gguf.py espera o llama.cpp (commit 0ec4027) em ../tools/llama.cpp-src e o llama-quantize do Homebrew. Cada experimento ignora saídas que já existem, portanto uma fila pode ser interrompida e reiniciada. Em seguida:
python analysis/make_numbers.py # paper/numbers.{md,json}, paper/tex/numbers.tex
python analysis/figures.py # paper/tex/figures/*.pdf
cd paper/tex && tectonic main.tex
PREREG.md fixa o teste primário, as famílias secundárias, o desenho de rotulagem humana, o teste de início livre mantido à parte e a regra de decisão dos controles. Cada adendo é datado e foi fixado antes que os dados a que se refere existissem. O apêndice do artigo lista o que foi registrado e quando, e as mudanças ao plano. Os commits datados estão em um repositório de desenvolvimento privado (hashes 50d0225, 2c53665, 86c93e0, 3e2ea52, 02e72c5, 09e49aa), disponíveis mediante solicitação; o histórico deste repositório começa no lançamento. Três frases que apontavam para notas de planejamento privadas foram removidas de PREREG.md; nada mais foi alterado.
Descubra as ferramentas mais usadas pela nossa comunidade.
Sem dados de popularidade ainda.