Skip to content
KitploitKITPLOIT
도구익스플로잇블로그
Log in
제출
도구익스플로잇블로그
제출

해킹, 침투 테스트 및 사이버 보안 도구를 당신의 보안 무기고에!

Kitploit은 해킹, 사이버 보안 및 침투 테스트 도구 디렉토리입니다. 최신 프로젝트 업데이트를 발견하여 취약점을 찾고, 시스템을 분석하고, 테스트를 자동화하고, 보안을 강화하세요.

피드문의개인정보© 2026 Kitploit

도구 디렉토리

카테고리

모든 카테고리 보기
Loading categories
도구/GitHubGitHub/js-lee-ai/refusal-relocates
Defensive ToolsVulnerability AnalysisMachine LearningPapers & ResearchAI SecurityAdversarial Attack
GitHubjs-lee-ai/refusal-relocates

refusal-relocates

LLM 안전성: 파인튜닝이 거부 행동을 어떻게 변화시키는지 분석하고, 레이어 동결 및 저랭크 방어 기법을 평가합니다.

저장소 보기
11011개월 전아직 검토되지 않음
공유
웹사이트

거부는 이동한다, 거부는 국소화되고, 손상은 이동한다, 소수 샘플 파인튜닝에서의 안전 계층

arXiv Project Page Code MIT Paper CC BY 4.0 Python 3.10+ CI Stars

프로젝트 페이지 · 빠른 시작 · 사용법 · CLI · 결과 · 재현 · FAQ · 인용


소식

  • [2026-09-28] 코드가 공개되었으며, 논문의 표를 재구성하는 실행 기록과 스크립트가 포함되어 있습니다.

개요

수십 개의 유해한 예시만으로도 정렬된 모델의 유해 요청 거부 능력을 제거할 수 있습니다. 선행 연구는 안전성을 특정 계층과 방향으로 국소화하며, 이는 발견된 위치를 보호하라는 것을 시사합니다. 이 저장소는 적응형 공격자가 할 방식으로 그 전제를 검증합니다. 거부가 복구될 수 있는 위치를 찾아 그 영역을 동결한 뒤 다시 공격하고, 가중치 업데이트를 복구한 다음 공격자가 그것을 확산시키도록 합니다.

이 연구는 세 가지 측정에 기반합니다.

  • 거부는 한 깊이에서 복구된다. Lockstep 패칭은 깨끗한 모델의 전체 은닉 상태를 한 계층에서 손상된 모델에 전달하며, 프리필과 모든 디코딩 단계에서 이를 수행하고, 거부는 재현 가능한 전이 깊이에서 돌아온다.
  • 그 깊이를 동결하면 손상이 이동한다. 일치된 Llama-3.1-8B 비교에서 계층 0–17을 동결하면 전이가 계층 15에서 계층 27과 28로 이동하며, 제한된 공격 후의 거부율은 0.000.01로 깨끗한 모델의 0.920.96과 대비된다.
  • 상위 2개 복구는 확산 업데이트에 무너진다. 업데이트의 상위 두 특이 방향을 제거하면 네 개의 체크포인트에서 짧은 어텐션 전용 파인튜닝 후 거부가 복원된다. 업데이트를 확산시키는 공격자는 상대적 상위 2개 복구를 0.000으로 감소시키며, 75개의 양성 파인튜닝으로 보정된 탐지기는 14개의 복구 실패 중 3개만을 표시한다.

이 저장소는 측정과 두 가지 방어를 작은 라이브러리로 제공하며, 논문의 표를 재구성하는 실행 기록과 스크립트도 포함합니다.

한 장으로 보는 동작 방식

왼쪽, 깨끗한 모델과 손상된 모델이 공유 토큰에서 실행되고 깨끗한 은닉 상태가 한 계층에서 손상된 모델에 패치된다. 오른쪽, 계층 0에서 17을 동결한 상태로 공격이 반복되고 제한된 체크포인트에서 패칭이 다시 실행된다

(a) Lockstep 활성화 패칭은 프리필과 각 디코딩 단계에서 손상된 모델의 계층 출력을 깨끗한 상태로 덮어쓴다. (b) 일치된 Llama 공격에서 계층 0–17을 동결하면 반-천장 전이가 15에서 27–28로 이동한다.

빠른 시작

pip install "git+https://github.com/js-lee-AI/refusal-relocates.git"
import numpy as np
import refusal

rng = np.random.default_rng(0)
A = rng.standard_normal((16, 512)) / 512 ** 0.5    # LoRA factors of one module, rank 16
B = rng.standard_normal((512, 16)) / 16 ** 0.5
for name, decay in [("ordinary", 0.5), ("spread", 1.0)]:
    b = B * decay ** np.arange(16)                  # energy in a few directions, or spread flat
    before, after = refusal.update_stats(A, b), refusal.update_stats(*refusal.remove_top_k(A, b, k=2))
    print(f"{name:8s}  PR/r {before['pr_over_r']:.2f}  top-2 energy {before['top2_energy_fraction']:.2f}"
          f"  norm left after top-2 removal {after['unscaled_norm'] / before['unscaled_norm']:.2f}")
# ordinary  PR/r 0.10  top-2 energy 0.94  norm left after top-2 removal 0.24
# spread    PR/r 0.94  top-2 energy 0.18  norm left after top-2 removal 0.90

일반적인 파인튜닝은 업데이트의 대부분을 소수의 특이 방향에 집어넣기 때문에, 상위 두 개를 제거하면 그 대부분이 사라진다. 분산된 업데이트는 평탄한 스펙트럼을 가지므로, 동일한 제거를 수행해도 대부분이 그대로 남는다. LoRA 랭크에 대한 참여율인 PR/r은 논문의 스펙트럼 탐지기의 점수이기도 하다.

이는 CPU에서 약 1초 만에 실행되며 아무것도 다운로드하지 않는다. 동일한 코드는 examples/quickstart.py에 있으며, CI는 매 push마다 이를 실행한다.

실제 체크포인트를 학습, 패치, 평가하려면 models 추가 기능을 설치한다.

pip install "refusal-relocates[models] @ git+https://github.com/js-lee-AI/refusal-relocates.git"
설치추가되는 항목다음에 충분함
pip install "git+https://github.com/js-lee-AI/refusal-relocates.git"numpy스펙트럼 코어, top-k 제거, 탐지기, 거부 스코어러, refusal 명령
pip install "refusal-relocates[models] @ git+https://github.com/js-lee-AI/refusal-relocates.git"torch, transformers, peft, accelerate, safetensors, scikit-learn, datasets모델에 대한 학습, lockstep 패칭, 프로브 및 평가
git clone 후 pip install -e ".[models,test]"pytestexperiments/, records/ 및 tests/

Python 3.11.5, PyTorch 2.10.0, Transformers 4.57.3 및 PEFT 0.18.0에서 테스트되었습니다. 모델은 CUDA 장치에서 bfloat16으로 로드됩니다.

사용법

손상된 체크포인트를 레이어별로 패치하기

import refusal

data = refusal.load_data("data/prompt_sets.json")        # built by `refusal prepare`, see below
prompts = data["advbench"][:40]
clean, tokenizer = refusal.load_model("meta-llama/Llama-3.1-8B-Instruct")
attacked, _ = refusal.load_model("meta-llama/Llama-3.1-8B-Instruct", adapter="runs/attack/adapter")

for layer in [6, 9, 12, 15, 18]:
    responses = refusal.lockstep_generate(clean, attacked, tokenizer, prompts, layer=layer)
    print(layer, sum(refusal.is_refusal(r) for r in responses) / len(prompts))

두 모델은 동일한 토큰을 읽으며, 선택된 레이어에서 손상된 모델의 출력이 깨끗한 모델의 출력으로 대체됩니다. refusal patch는 하한, 상한 및 두 개의 대조군과 함께 전체 측정을 실행하고, 퍼플렉시티 게이트와 Llama-Guard로 일관된 거부를 채점하며, 전환 깊이를 보고합니다.

GPU 없이 어댑터 복구 및 채점

import refusal

stats = refusal.update_stats(A, B)                 # one module, A is rank x in and B is out x rank
A2, B2 = refusal.remove_top_k(A, B, k=2)           # the top-two repair, as new LoRA factors
result = refusal.calibrate_detector(benign_scores, attack_scores, budget=0.05)

어댑터의 탐지기 점수는 해당 어텐션 프로젝션들에 대해 평균한 PR/r이며, refusal spectra는 저장된 어댑터로부터 이를 CPU에서 계산한다.

API 한눈에 보기

호출수행하는 작업필요 사항
refusal.update_stats(A, B)하나의 LoRA 업데이트에 대한 참여율, PR/r, 상위 2개 에너지 및 노름기본 설치
refusal.remove_top_k(A, B, k)가장 큰 k개의 특이 방향을 제거한 업데이트의 인자기본 설치
refusal.calibrate_detector(benign, attacks, budget)정상 오탐 예산에서의 임계값, 그리고 그것이 표시하는 공격들기본 설치
refusal.is_refusal(text), refusal.summarize(...)명시적 거부 패턴, 퍼플렉시티 게이트를 통과한 일관된 거부기본 설치
refusal.transition_depth(rows, ceiling, floor, rescaled=True)최소 절반 범위 회복을 보이는 첫 번째 패치된 레이어기본 설치
refusal.prepare(...), refusal.load_data(path)공개 데이터로부터 고정된 프롬프트 세트를 재구성하고 검증기본 설치
refusal.load_model(name, adapter=...)bfloat16 체크포인트, 선택적으로 LoRA 어댑터 포함[models]
refusal.lockstep_generate(clean, attacked, tokenizer, prompts, layer)한 레이어에 클린 상태를 패치한 상태에서의 그리디 디코딩[models]
refusal.add_adapter(model, freeze="bottom", n_frozen=18)쓰기 가능한 레이어에만 적용된 LoRA[models]
refusal.remove_top(model, k), refusal.adapter_stats(path)로드되었거나 저장된 어댑터에 대한 top-k 복구 및 스펙트럼 통계[models]

기본 설치로 표시된 호출은 torch 없이 임포트된다. 무거운 모듈은 해당 이름이 처음 사용될 때 로드된다.

명령줄

패키지를 설치하면 refusal 명령이 추가되며, python -m refusal은 동일한 작업을 실행한다.

refusal --help
refusal demo                                                    # the quickstart, on CPU
refusal prepare --pku ... --alpaca ... --advbench ... --xstest ...   # rebuild the frozen prompt sets
refusal train --freeze bottom --n-frozen 18 --out runs/freeze   # LoRA attack with layers 0 to 17 frozen
refusal patch --adapter runs/freeze/adapter --out runs/freeze/patch     # lockstep patching
refusal evaluate --adapter runs/freeze/adapter --ranks 1,2,4 --out runs/freeze/evaluate
refusal spectra --adapter runs/freeze/adapter --out spectrum.json        # on CPU
refusal detector --benign benign/*.json --attacks attacks/*.json --out detector.json

결과

도구 다운로드

인기

모두 보기 →

커뮤니티에서 가장 많이 사용되는 도구를 찾아보세요.

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 궁극의 OSINT 툴킷: 조사 그래프, 신뢰도 점수 산정, 별칭 패밀리, 지도, 타임라인 및 보고서. 49개 모듈, 400개 이상 사이트, API 키 불필요.

    696
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    # GhostLock 원탭 실행 앱 (CVE-2026-43499)

    499
  • 3

    ARTEX

    baarai/artex

    LLM 멀티 에이전트 자율 침투 테스트 플랫폼으로, 플래너/워커 에이전트, 자산 및 탐색 그래프, MITM 트래픽 기록, 취약점 재테스트 기능을 제공합니다.

    396
  • 4

    redforge

    cybersecurity91/redforge

    브라우저 측 레드 팀 툴킷으로, 정찰, 페이로드 생성, 자격 증명 공격, 암호화, 인코딩 및 참여 보고를 위한 102개의 오프라인 도구를 제공합니다.

    340
  • 5

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    AI 네이티브 사이버보안을 위한 행동 체계—의도가 통제된 실행이 되고, 증거가 운영 메모리가 되며, 모든 운영이 다음 운영을 개선하는 곳.

    258
  • 6

    antifox

    antifox-ai/antifox

    정찰, 공격 표면 탐색, 익스플로잇 검증, 증거 기반 보고서 전달을 수행하는 AI 멀티 에이전트 자율 침투 테스트 플랫폼입니다.

    257

모든 도구 탐색

도구 컬렉션을 둘러보세요

모든 도구 보기 →