
Исследовательский код для измерения показателей успешности атак типа jailbreak (ASR и пошаговый ASR) против LLM, включая реализации таких атак, как GCG, и скрипты оценки.
Код для статьи: http://arxiv.org/abs/2610.26589, поданной на NAACL'27.
uv sync, чтобы установить зависимости в виртуальное окружениеsource .venv/bin/activate, чтобы активировать егоuv pip list, чтобы проверить установленные библиотеки. Если список пуст, следуйте инструкциям по устранению неполадок uv.Теперь вы готовы запускать скрипты!
Скрипт оценки:
jailbreak.py — для вычисления базовых и пошаговых показателей ASR
uv run attacks/GCG/main.py
Вычисление ASR и ASR_Step (по умолчанию: Vicuna): uv run scripts/jailbreak.py
ARGS задаются в каждом скрипте.