Skip to content
KitploitKITPLOIT
도구익스플로잇블로그
Log in
제출
도구익스플로잇블로그
제출

해킹, 침투 테스트 및 사이버 보안 도구를 당신의 보안 무기고에!

Kitploit은 해킹, 사이버 보안 및 침투 테스트 도구 디렉토리입니다. 최신 프로젝트 업데이트를 발견하여 취약점을 찾고, 시스템을 분석하고, 테스트를 자동화하고, 보안을 강화하세요.

피드문의개인정보© 2026 Kitploit

도구 디렉토리

카테고리

모든 카테고리 보기
Loading categories
batch_jailbreak — 이 저장소는 논문 "[Safety in Batches? Understanding and Mitigating Safety Failures in Batch Prompting]"의 공식 구현을 포함하고 있습니다. | Kitploit
도구/GitHubGitHub/96kihyun/batch_jailbreak
Machine LearningPapers & ResearchLearning & EducationAI SecurityAdversarial Attack
GitHub96kihyun/batch_jailbreak

batch_jailbreak

이 저장소는 논문 "[Safety in Batches? Understanding and Mitigating Safety Failures in Batch Prompting]"의 공식 구현을 포함하고 있습니다.

저장소 보기
422개월 전아직 검토되지 않음
공유
웹사이트

배치 단위에서의 안전성? 배치 프롬프팅에서의 안전 실패 이해 및 완화 공식 저장소

Kihyun Kim, Hee-Seon Kim, Wonjun Lee, Changick Kim

한국과학기술원 (KAIST)

arXiv

소식

  • 2026.09 본 논문이 AACL-IJCNLP 2026 (Main) 에 채택되었습니다! 🎉
  • 2026.08 논문이 arXiv에 공개되었습니다!
  • 2026.08 코드가 공개되었습니다!

개요

배치 프롬프팅은 여러 질의를 하나의 호출에 묶는 실용적인 추론 전략입니다. 우리는 이것이 유용성 측면에서 성공적이라는 점이 안전성 측면으로 확장되지 않는다는 것을 보입니다. 즉, 단독으로는 안정적으로 거부되는 유해한 질문이 무해한 질문들의 배치에 포함되면 유해한 응답을 유도할 수 있습니다.

이 저장소는 다음을 위한 공식 코드를 제공합니다:

  1. 배치 프롬프트 공격 데이터 생성
  2. 오픈소스 모델(Phi / Llama / Qwen) 및 상용 API(GPT / Gemini / Claude)에서의 추론 실행
  3. LlamaGuard-4, WildGuard, Beaver-Dam의 앙상블을 통한 공격 성공 평가

준비

  1. 이 저장소를 클론합니다.
git clone https://github.com/96kihyun/batch_jailbreak.git
cd batch_jailbreak
  1. 환경 설정
conda create -n batch python=3.10 -y
conda activate batch
pip install -r requirements.txt

로컬 모델 추론과 세 가지 판정 모델을 위해 GPU가 필요합니다. Python 3.10 + PyTorch 2.4 + transformers==5.2에서 테스트되었습니다.

참고: src/evaluate/llamaguard4/에는 LlamaGuard-4용 transformers의 벤더링된 복사본(Llama4ForConditionalGeneration)이 포함되어 있습니다. 이는 LlamaGuard가 로드되는 동안에만 sys.path에 추가됩니다.

  1. 모델 / API 키 등록

configs/models.yaml을 로컬 HuggingFace 체크포인트 경로(생성기 + 판정기)로 편집하고, configs/api.yaml에 API 키를 설정합니다(또는 환경 변수 OPENAI_API_KEY / GEMINI_API_KEY / ANTHROPIC_API_KEY / HF_TOKEN 사용).

필수 데이터 및 모델

  • 무해한 채움 데이터: data/context_dataset/gsm8k.jsonl (각 줄에 "question" 키 포함)
  • 유해 데이터셋 (자동 다운로드): JailbreakBench/JBB-Behaviors, walledai/StrongREJECT
  • 생성기: Phi-4 / Llama-3.1-8B-Instruct / Qwen3-8B
  • 판정기: Llama-Guard-4-12B, PKU-Alignment/beaver-dam-7b, allenai/wildguard

배치 프롬프트 데이터 생성

기본값: --harmful_dataset JBB, 배치 크기 n = 1..10, 313개 샘플. 무해한 슬롯은 GSM8K(single_math)에서 채워집니다.

python -m src.utils.generate_batch_question_prompt

출력은 data/batch_prompt/single_math/{n}/pos_{k}.jsonl 아래에 기록됩니다.

유용한 플래그
플래그기본값설명
--harmful_datasetJBBJBB 또는 StrongREJECT
--min_n / --max_n1 / 10배치 크기 N의 포함 범위
--num_samples313유해 프롬프트 수
--seed42RNG 시드
--output_dir./data/batch_prompt출력 루트

추론 실행

오픈소스 모델 (Phi / Llama / Qwen)

python scripts/inference/run_inference_batch_prompt.py \
  --model_name qwen \
  --case single_math --n 9 --pos 2 \
  --harmful_dataset JBB

(model, case, batch_size, pos)에 대한 배치 스윕:

bash scripts/inference/run_inference_batch_prompt_eval.sh \
  --dataset jbb --gpu_id 0 \
  --models phi qwen --cases single_math \
  --batch_sizes 12 --pos_values 1 2

상용 API (GPT / Gemini / Claude)

python scripts/inference/run_inference_api.py \
  --api gpt \
  --input_file data/batch_prompt_jbb/single_math/12/pos_2.jsonl \
  --model_name gpt --output_subdir batch_prompt_jbb/single_math/12/pos_2 \
  --harmful_dataset JBB --extract_pos 2

출력은 result/inference/<model>/... 아래에 {prompt, response} 쌍을 담은 JSONL로 저장됩니다.

공격 성공 평가

각 응답은 LlamaGuard-4, WildGuard, Beaver-Dam에 의해 점수가 매겨진 후 다수결로 결합됩니다:

python scripts/eval/run_ensemble.py \
  --input_file result/inference/qwen/batch_prompt_jbb/single_math/12/qwen_single_math_n12_pos_2_response.jsonl \
  --output_dir result/evaluation/batch_prompt_jbb/qwen/single_math/12/pos_2

추론과 동일한 루프에서 평가를 실행할 수도 있습니다:

bash scripts/inference/run_inference_batch_prompt_eval.sh \
  --dataset jbb --gpu_id 0 \
  --models qwen --cases single_math \
  --batch_sizes 12 --pos_values 2 \
  --conda_env batch

빠른 시작 (스모크 실행)

# 1. data
python -m src.utils.generate_batch_question_prompt \
  --harmful_dataset JBB --min_n 12 --max_n 12 --num_samples 100

# 2. inference
python scripts/inference/run_inference_batch_prompt.py \
  --model_name llama --case single_math --n 12 --pos 2 --harmful_dataset JBB

# 3. evaluation
python scripts/eval/run_ensemble.py \
  --input_file result/inference/llama/batch_prompt/llama_single_math_n12_pos_2_response.jsonl

인용

본 연구가 귀하의 연구에 도움이 된다면 논문을 인용해 주시기 바랍니다.

@article{kim2026safety,
  title={Safety in Batches? Understanding and Mitigating Safety Failures in Batch Prompting},
  author={Kim, Kihyun and Kim, HeeSeon and Lee, Wonjun and Kim, Changick},
  journal={arXiv preprint arXiv:2608.02681},
  year={2026}
}

연락처

논문이나 코드에 관한 질문이 있으시면 [email protected]로 이메일을 보내주시기 바랍니다.

도구 다운로드

인기

모두 보기 →

커뮤니티에서 가장 많이 사용되는 도구를 찾아보세요.

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 궁극의 OSINT 툴킷: 조사 그래프, 신뢰도 점수 산정, 별칭 패밀리, 지도, 타임라인 및 보고서. 49개 모듈, 400개 이상 사이트, API 키 불필요.

    871
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    # GhostLock 원탭 실행 앱 (CVE-2026-43499)

    548
  • 3

    ARTEX

    baarai/artex

    LLM 멀티 에이전트 자율 침투 테스트 플랫폼으로, 플래너/워커 에이전트, 자산 및 탐색 그래프, MITM 트래픽 기록, 취약점 재테스트 기능을 제공합니다.

    383
  • 4

    redforge

    cybersecurity91/redforge

    브라우저 측 레드 팀 툴킷으로, 정찰, 페이로드 생성, 자격 증명 공격, 암호화, 인코딩 및 참여 보고를 위한 102개의 오프라인 도구를 제공합니다.

    361
  • 5

    looking-glass

    anonghosty/looking-glass

    Shadowserver 보고서를 MongoDB로 수집하고 이를 대화형 지도, 분석, 발견 사항, 권고 및 경영진 대시보드로 재생하는 CSIRT 플랫폼입니다.

    305
  • 6

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    AI 네이티브 사이버보안을 위한 행동 체계—의도가 통제된 실행이 되고, 증거가 운영 메모리가 되며, 모든 운영이 다음 운영을 개선하는 곳.

    280

모든 도구 탐색

도구 컬렉션을 둘러보세요

모든 도구 보기 →