
Codice di ricerca per misurare i tassi di successo degli attacchi jailbreak (ASR e ASR a passi) contro gli LLM, con implementazioni di attacchi come GCG e script di valutazione.
Codice per il paper: http://arxiv.org/abs/2610.26589 inviato a NAACL'27.
uv sync per installare le dipendenze nell'ambiente virtualesource .venv/bin/activate per attivarlouv pip list per verificare le librerie installate. Segui la risoluzione dei problemi di uv se la lista è vuota.Ora sei pronto per eseguire gli script!
Script di valutazione:
jailbreak.py- per calcolare i punteggi ASR di base e incrementali
uv run attacks/GCG/main.py
Calcolo di ASR e ASR_Step (predefinito: Vicuna): uv run scripts/jailbreak.py
ARGS sono specificati in ciascuno script.