jackpurcell/autoran-public
AutoRAN एक स्वचालित सुरक्षा-तर्क अपहरण (Hijacking of Safety Reasoning) तकनीक है, जो कम-संरेखित (द्वितीयक) सहायक मॉडलों का लाभ उठाकर तर्क-निशानों (reasoning traces) का अनुकरण करती है, कथात्मक प्रॉम्प्ट उत्पन्न करती है, और आधुनिक बड़े रीज़निंग मॉडल्स (LRMs) में सुरक्षा तर्क को बायपास करने के लिए उन प्रॉम्प्ट्स को पुनरावृत्त रूप से परिष्कृत करती है।
⚠️ अस्वीकरण: यह रिपॉजिटरी केवल नियंत्रित सुरक्षा अनुसंधान और AI सुरक्षा रेड-टीमिंग के लिए है।
AutoRAN तीन-चरणीय पाइपलाइन का अनुसरण करता है:
आप /records निर्देशिका में लॉग्स और परिणाम पा सकते हैं। उदाहरण के लिए:
ls -lh records/
# Clone the repository
git clone {THIS_REPO}
cd AutoRAN
# Install dependencies
pip install -r requirements.txt
# Apply for model access (see HuggingFace link)
# https://huggingface.co/huihui-ai/Qwen3-8B-abliterated/tree/main
# Start the model server (recommended: use tmux or screen)
vllm serve huihui-ai/Qwen3-8B-abliterated --tensor-parallel-size 4 --port 8000
# Edit the attack prompt in demo.py as needed
python demo.py
# Follow the command line instructions.
# You may need to copy questions to GPT-o3, GPT-o4 Mini, or Gemini 2.5-Flash/Pro,
# then paste the results back into the terminal as prompted.
# Clone the repository
git clone {THIS_REPO}
cd AutoRAN
# Install dependencies
pip install -r requirements.txt
# Set up chat2api for automatic ChatGPT interaction:
# https://github.com/lanqian528/chat2api
# Apply for model access (see HuggingFace link)
# https://huggingface.co/huihui-ai/Qwen3-8B-abliterated/tree/main
# Start the model server (recommended: use tmux or screen)
vllm serve huihui-ai/Qwen3-8B-abliterated --tensor-parallel-size 4 --port 8000
# Run the main experiment script
python main.py
यह कोड केवल शोध और शैक्षिक उद्देश्यों के लिए जारी किया गया है। इसका उद्देश्य LLMs में सुरक्षा कमजोरियों के जिम्मेदार मूल्यांकन का समर्थन करना है। इस कोड का उपयोग वास्तविक-विश्व प्रणालियों को निशाना बनाने या नियंत्रित वातावरण के बाहर हानिकारक आउटपुट उत्पन्न करने के लिए न करें।
@misc{liang2025autoranautomatedhijackingsafety,
title={AutoRAN: Automated Hijacking of Safety Reasoning in Large Reasoning Models},
author={Jiacheng Liang and Tanqiu Jiang and Yuhui Wang and Rongyi Zhu and Fenglong Ma and Ting Wang},
year={2025},
eprint={2505.10846},
archivePrefix={arXiv},
primaryClass={cs.LG},
url={https://arxiv.org/abs/2505.10846},
}