
Código de investigación para medir las tasas de éxito de ataques de jailbreak (ASR y ASR por pasos) contra LLMs, con implementaciones de ataques como GCG y scripts de evaluación.
Código para el artículo: http://arxiv.org/abs/2610.26589 enviado a NAACL'27.
uv sync para instalar las dependencias en el entorno virtualsource .venv/bin/activate para activarlouv pip list para comprobar las bibliotecas instaladas. Sigue la solución de problemas de uv si la lista está vacía.¡Ahora estás listo para ejecutar los scripts!
Script de evaluación:
jailbreak.py- para calcular las puntuaciones ASR de referencia y por pasos
uv run attacks/GCG/main.py
Cálculo de ASR y ASR_Step (predeterminado: Vicuna): uv run scripts/jailbreak.py
Los ARGS se especifican en cada script.