Skip to content
KitploitKITPLOIT
FerramentasExploitsBlog
Log in
Enviar
FerramentasExploitsBlog
Enviar

Ferramentas de Hacking, PenTest e Cibersegurança para o seu Arsenal de Segurança!

Kitploit é um diretório de ferramentas de hacking, cibersegurança e pentesting. Descubra as últimas atualizações de projetos para encontrar vulnerabilidades, analisar sistemas, automatizar testes e fortalecer sua segurança.

FeedsContatoPrivacidade© 2026 Kitploit

Diretório de Ferramentas

Categorias

Ver todas as categorias
Loading categories
qrefusal — A quantização de 4 bits é mais do que ruído para o comportamento de segurança de um modelo de chat? Código, pré-registro e rótulos. | Kitploit
Ferramentas/GitHubGitHub/egekaya1/qrefusal
Aprendizado de MáquinaPapers e PesquisaAprendizado e EducaçãoSegurança de IA
GitHubegekaya1/qrefusal

qrefusal

A quantização de 4 bits é mais do que ruído para o comportamento de segurança de um modelo de chat? Código, pré-registro e rótulos.

Ver Repositório
há 12h 58mAinda não revisado
Compartilhar

A quantização de 4 bits é mais do que ruído para o comportamento de segurança de um modelo de chat?

Atribuindo mudanças comportamentais com perturbações emparelhadas

Código e análise para uma auditoria pré-registada de como a quantização de 4 bits altera as recusas de pequenos modelos de chat, com controles que perguntam se uma mudança vem da quantização ou decorreria de qualquer perturbação do mesmo tamanho.

Artigo: arXiv:2611.22186

Sobre o que é isto

Modelos de chat que rodam em telefones e laptops são geralmente cópias de 4 bits do modelo que foi avaliado para segurança. Auditorias dessas cópias discordam: algumas descobrem que a quantização enfraquece a recusa, algumas descobrem que não, algumas descobrem que os modelos recusam mais. Uma build de 4 bits é uma perturbação particular de cada peso, e há muitas outras perturbações do mesmo tamanho. Assim, uma mudança nas suas recusas poderia vir da estrutura do erro de arredondamento, ou da própria inclinação do modelo sob qualquer empurrão desse tamanho.

Testamos três modelos de chat de 3-4B (Qwen2.5-3B-Instruct, Llama-3.2-3B-Instruct, Qwen3-4B-Instruct-2507) nos formatos de arredondamento para o mais próximo que o MLX distribui para Apple Silicon. Toda comparação é emparelhada e lida em relação a uma build de 8 bits, que deixa a verossimilhança inalterada. Em resumo:

  • Início forçado. Quando os primeiros oito tokens de uma resposta complacente são pré-preenchidos, a build padrão de 4 bits torna o Qwen2.5-3B mais propenso a continuá-la. Llama-3.2-3B e Qwen3-4B não se movem.
  • Início livre. Em 400 prompts de jailbreak mantidos à parte sem prefill, o Llama-3.2-3B de 4 bits torna-se menos complacente. Numa verificação exploratória, também recusa mais pedidos benignos escritos em estilo de jailbreak, enquanto o seu tratamento de pedidos seguros simples permanece inalterado.
  • Controles. Substituímos o erro de arredondamento pela sua imagem espelhada, por uma permutação dentro do grupo e por ruído gaussiano de tamanho correspondente, escalamo-lo e comparamo-lo com outros quantizadores no mesmo formato (AWQ, GPTQ) e com um segundo runtime (llama.cpp). Também medimos o efeito de cada build na direção de recusa do modelo. Juntos, estes atribuem cada mudança ao modelo ou ao arredondamento.

Os números por trás de cada frase no artigo são gerados por um único script (ver Reproduzindo o artigo).

Estrutura

CaminhoConteúdo
PREREG.mdO pré-registo e os seus cinco adendos datados, cada um fixado antes dos dados a que diz respeito
qrefusal/Código partilhado: formatação de chat com uma data de template fixada, decodificação greedy e amostrada, uma passagem forward camada a camada com hooks (o MLX não tem API de hooks), direções de recusa, estatísticas emparelhadas
runs/Um script por experimento; cada um escreve em results/<experiment>/
analysis/make_numbers.pyRegenera cada número no artigo a partir dos ficheiros de resultados brutos, com verificações de integridade
analysis/figures.pyDesenha as figuras a partir de paper/numbers.json
paper/Fonte LaTeX; os números entram no texto apenas como macros geradas pela análise
scripts/Conversão de modelos, obtenção de dados e as filas de execução
tests/Testes de identidade para a passagem forward com hooks e para as estatísticas

Os experimentos, na ordem do artigo

ArtigoScriptO que faz
§3 Configuraçãoscripts/convert.shCria cópias bf16, 8-bit, 4-bit (grupo 64 e 32), mistas 4/6, MXFP4, AWQ e GPTQ de um modelo
§3 Configuraçãoruns/r2.py, runs/e7_abliterate.py, runs/e7b_prefixes.pyDireções de recusa por camada; uma cópia bf16 abliterada; os prefixos complacentes usados para prefill
§3 Configuraçãoruns/r1b_judge.py, runs/j2_ensemble.py, runs/l2_pair_sheet.pyJuiz de conteúdo (Qwen2.5-14B), Llama Guard 3 e a folha de rotulagem humana cega em duas fases
§4 Instabilidade de rótulos e o nulo de 8 bitsruns/e0_determinism.py, runs/a2_depth.py --tempIdentidade de reexecução gulosa; o piso de semente de amostragem
§5.1 Início forçadoruns/a2_depth.py, runs/r1.pyProfundidades de prefill k = 0, 2, 8; prefixo genérico (--fixed_prefix); verificação de comprimento (--max_tokens 384 --sample 150)
§5.2 Início livreruns/x2_sneaky.pyConjuntos de desenvolvimento e de teste retido do WildJailbreak; SORRY-Bench
§6 Duas explicações mais simplesruns/x1_xstest.py, runs/c1_capability.pyExcesso de recusa no XSTest e em prompts benignos com estilo de jailbreak; verossimilhança e bits por peso
§7 Controles de perturbação emparelhadaruns/e2_perturb.py, runs/e2_errors.py, runs/g1_gguf.pyConstruções com perturbação emparelhada e escalonadas com uma validação de gate; erro de arredondamento por matriz; o runtime llama.cpp
§8 Projeções da direção de recusaruns/m1_direction.pyProjeções sobre a direção de recusa bf16
Apêndiceruns/a1_prefill.py, runs/r5_runon.pyO piloto de prefill; uma falha de fim de turno no MXFP4 Qwen2.5

Reproduzindo o artigo

Hardware: um Mac com Apple Silicon e 16 GB de memória (usamos um M2 Pro). O conjunto completo de execuções leva vários dias de tempo de máquina; os modelos são carregados um de cada vez.

pip install -e ".[test]"                    # mlx 0.32.4, mlx-lm 0.32.2
scripts/fetch_data.sh                        # refusal_direction prompt splits (Apache-2.0)
scripts/convert.sh Qwen/Qwen2.5-3B-Instruct qwen2.5-3b
scripts/convert.sh meta-llama/Llama-3.2-3B-Instruct llama3.2-3b
scripts/convert.sh Qwen/Qwen3-4B-Instruct-2507 qwen3-4b
scripts/convert.sh Qwen/Qwen2.5-0.5B-Instruct qwen2.5-0.5b   # needed by the tests and Appendix G
python -m pytest tests

Três conjuntos de prompts são obtidos de seus autores e colocados em data/:

  • XSTest (Röttger et al., 2024): data/xstest/xstest_prompts.csv
  • SORRY-Bench (Xie et al., 2024; com acesso restrito no Hugging Face): data/sorry/question*.jsonl
  • Conjunto de avaliação WildJailbreak (Jiang et al., 2024; com acesso restrito no Hugging Face): data/wildjailbreak/eval/eval.tsv

As filas de execução em scripts/ fornecem os comandos para as análises registradas posteriormente, na ordem em que as executamos; a tabela acima fornece os scripts para o restante. Elas esperam um ambiente conda chamado ml, e runs/g1_gguf.py espera o llama.cpp (commit 0ec4027) em ../tools/llama.cpp-src e o llama-quantize do Homebrew. Cada experimento ignora saídas que já existem, portanto uma fila pode ser interrompida e reiniciada. Em seguida:

python analysis/make_numbers.py    # paper/numbers.{md,json}, paper/tex/numbers.tex
python analysis/figures.py         # paper/tex/figures/*.pdf
cd paper/tex && tectonic main.tex

Pré-registro

PREREG.md fixa o teste primário, as famílias secundárias, o desenho de rotulagem humana, o teste de início livre mantido à parte e a regra de decisão dos controles. Cada adendo é datado e foi fixado antes que os dados a que se refere existissem. O apêndice do artigo lista o que foi registrado e quando, e as mudanças ao plano. Os commits datados estão em um repositório de desenvolvimento privado (hashes 50d0225, 2c53665, 86c93e0, 3e2ea52, 02e72c5, 09e49aa), disponíveis mediante solicitação; o histórico deste repositório começa no lançamento. Três frases que apontavam para notas de planejamento privadas foram removidas de PREREG.md; nada mais foi alterado.

O que é e o que não é liberado

Baixar ferramenta

Mais Populares

Ver todos →

Descubra as ferramentas mais usadas pela nossa comunidade.

Sem dados de popularidade ainda.

Explore todas as ferramentas

Navegue pela nossa coleção de ferramentas

Ver todas as ferramentas →