jackpurcell/autoran-publicAutomatisiertes Framework zur Übernahme der Sicherheitsargumentation in großen Reasoning-Modellen mittels simulierter Reasoning-Spuren und iterativer Prompt-Verfeinerung, um effektive Jailbreaks zu erzeugen.
AutoRAN ist ein automatisiertes Hijacking von Safety-Reasoning, das weniger stark ausgerichtete (sekundäre) Hilfsmodelle nutzt, um Reasoning-Traces zu simulieren, narrative Prompts zu erzeugen und diese Prompts iterativ zu verfeinern, um das Safety-Reasoning in modernen großen Reasoning-Modellen (LRMs) zu umgehen.
⚠️ Haftungsausschluss: Dieses Repository ist ausschließlich für kontrollierte Sicherheitsforschung und KI-Sicherheits-Red-Teaming gedacht.
AutoRAN folgt einer dreistufigen Pipeline:
Protokolle und Ergebnisse findest du im Verzeichnis /records. Zum Beispiel:
ls -lh records/
# Clone the repository
git clone {THIS_REPO}
cd AutoRAN
# Install dependencies
pip install -r requirements.txt
# Apply for model access (see HuggingFace link)
# https://huggingface.co/huihui-ai/Qwen3-8B-abliterated/tree/main
# Start the model server (recommended: use tmux or screen)
vllm serve huihui-ai/Qwen3-8B-abliterated --tensor-parallel-size 4 --port 8000
# Edit the attack prompt in demo.py as needed
python demo.py
# Follow the command line instructions.
# You may need to copy questions to GPT-o3, GPT-o4 Mini, or Gemini 2.5-Flash/Pro,
# then paste the results back into the terminal as prompted.
# Clone the repository
git clone {THIS_REPO}
cd AutoRAN
# Install dependencies
pip install -r requirements.txt
# Set up chat2api for automatic ChatGPT interaction:
# https://github.com/lanqian528/chat2api
# Apply for model access (see HuggingFace link)
# https://huggingface.co/huihui-ai/Qwen3-8B-abliterated/tree/main
# Start the model server (recommended: use tmux or screen)
vllm serve huihui-ai/Qwen3-8B-abliterated --tensor-parallel-size 4 --port 8000
# Run the main experiment script
python main.py
Dieser Code wird ausschließlich für Forschungs- und Bildungszwecke veröffentlicht. Er soll die verantwortungsvolle Bewertung von Sicherheitsschwachstellen in LLMs unterstützen. Verwende diesen Code nicht, um reale Systeme anzugreifen oder außerhalb kontrollierter Umgebungen schädliche Ausgaben zu erzeugen.
@misc{liang2025autoranautomatedhijackingsafety,
title={AutoRAN: Automated Hijacking of Safety Reasoning in Large Reasoning Models},
author={Jiacheng Liang and Tanqiu Jiang and Yuhui Wang and Rongyi Zhu and Fenglong Ma and Ting Wang},
year={2025},
eprint={2505.10846},
archivePrefix={arXiv},
primaryClass={cs.LG},
url={https://arxiv.org/abs/2505.10846},
}