
LLM을 대상으로 한 탈옥 공격 성공률(ASR 및 단계별 ASR)을 측정하기 위한 연구 코드로, GCG와 같은 공격의 구현 및 평가 스크립트를 포함합니다.
논문 코드: http://arxiv.org/abs/2610.26589, NAACL'27에 제출됨.
uv sync를 실행하여 가상 환경에 의존성을 설치하세요source .venv/bin/activate를 실행하여 활성화하세요uv pip list를 실행하여 설치된 라이브러리를 확인하세요. 목록이 비어 있으면 uv 문제 해결 안내를 따르세요.이제 스크립트를 실행할 준비가 되었습니다!
평가 스크립트:
jailbreak.py- 기준선 및 단계별 ASR 점수를 계산합니다
uv run attacks/GCG/main.py
ASR 및 ASR_Step 계산 (기본값: Vicuna): uv run scripts/jailbreak.py
ARGS는 각 스크립트에 지정되어 있습니다.