
خط أنابيب بحثي ينفّذ هجوم تجاوز قيود (jailbreak) بصري-سياقي ضد النماذج اللغوية الكبيرة متعددة الوسائط (multimodal LLMs): استخراج موجّهات T2I، وتوليد الصور باستخدام SD3.5، وبناء سياق تمويه متعدد الجولات، وتقييم معدل نجاح الهجوم (ASR) بتحكيم من GPT-4o.
يُعد VisCo-Attack الأصلي رائدًا في نموذج هجوم يركز على الرؤية ويستفيد من صور متعددة عبر حوارات متعددة الأدوار؛ وتُحقّق استراتيجياته المصممة خصيصًا لتلفيق السياق معدل نجاح هجوم مرتفع بشكل ملحوظ ضد نماذج MLLMs الرائدة، مما يجعله واحدًا من أقوى أساليب كسر الحماية لنماذج MLLMs حتى الآن.
إذا كنت مهتمًا بعملنا، فيرجى وضع نجمة ⭐ على مشروعنا، شكرًا 💕
⚠️ تحذير: يحتوي هذا المستودع على تقنيات أوامر خصومية مخصصة لأغراض البحث والسلامة فقط.
VisCo-Attack هو إطار عملنا لكسر الحماية عبر السياق البصري المقدَّم في الورقة البحثية "Visual Contextual Attack: Jailbreaking MLLMs with Image-Driven Context Injection". فبدلًا من التعامل مع الصورة كمجرد محفّز، يبني VisCo-Attack سياق حوار واقعيًا ومُلفَّقًا متعدد الأدوار يكون فيه الإدخال البصري جوهريًا للسيناريو الضار. ويقوم تلقائيًا بنسج ذلك السياق باستخدام أربع استراتيجيات محورها الصورة—محاكاة السيناريو المرتكز على الصورة (VS)، والتحليل متعدد المنظورات (VM)، والاستجواب التكراري (VI)، واستغلال الهلوسة (VH)—ثم ينفّذ تعمية السمية والتحسين الدلالي لإنتاج أمر هجوم واحد. وفي إطار صندوق أسود بالكامل، يكسر هذا الأمر بشكل موثوق نماذج MLLMs المتقدمة مثل GPT-4o وGemini 2.0 flash وInternVL-2.5، رافعًا معدل نجاح الهجوم إلى 85 – 91 % على MM-SafetyBench وFigStep-SafeBench وHarmBench مع الحفاظ على درجات سمية تتجاوز 4.7 / 5.
الشكل: نظرة عامة على طريقة الهجوم السياقي البصري (Visco-Attack).
# 1. Install
pip install -r requirements.txt
# 2. Configure endpoints
# Edit configs/default.yaml — fill in vLLM base_urls for the four roles:
# models.generator data-generation LLM
# models.wizard Wizard-Vicuna-Uncensored (or any unaligned LLM)
# models.target the target MLLM you want to attack
# models.judge judge LLM (paper used GPT-4o)
# Smoke test: pointing all four at the same endpoint works fine.
# 3. Build a question file (or use the 3-question example)
python data/extract_questions.py \
--input /path/to/your/MMSafetyBench.json \
--output data/mmsafebench_questions.json
# 4. Run the full pipeline
./run.sh
# Or run a single stage at a time:
RUN_STAGE=1 ./run.sh # extract T2I prompts
RUN_STAGE=2 ./run.sh # render core images (uses torchrun + SD3.5)
RUN_STAGE=3 ./run.sh # multi-round spoof context (4 strategies × N gens × 4 rounds)
RUN_STAGE=4 ./run.sh # render any extra images requested by stage3
RUN_STAGE=5 ./run.sh # attack the target MLLM
RUN_STAGE=6 ./run.sh # GPT-4o-as-judge ASR
generator / wizard)تحتوي خط الأنابيب على 4 أدوار لنماذج اللغة الكبيرة في configs/default.yaml:
generator وwizard وtarget وjudge. يقوم دورا generator و**wizard**
بالعمل الفعلي للفريق الأحمر (بناء سياقات مُنتحلة، وإنتاج
استكمالات نجاح زائفة). يجب أن يكونا مستعدين لاتباع تعليمات الفريق الأحمر
القائمة على القوالب في prompts/*.md — فالنماذج المتوافقة مع معايير السلامة
عادةً ما ترفض وسيتدهور خط الأنابيب إلى مخرجات فارغة / غير قابلة للتحليل.
عملت النماذج التالية جيدًا لأدوار الفريق الأحمر:
| النموذج | الدور (الأدوار) المناسب لها | ملاحظات |
|---|---|---|
| qwen-3.5-122B-uncensored-stxt | generator + wizard | مشتق من Qwen3 من إنتاج المجتمع. يقوم vllm_client.py بتعطيل وضع التفكير في Qwen3 تلقائيًا عند رؤية اسم هذا النموذج. |
| Qwen2.5-72B-Instruct | generator | متوافق مع المعايير، لكنه عادةً ما يتعاون في إنتاج سياقات غير آمنة مُلفّقة. |
النماذج التي ترفض بشكل متكرر (لا تستخدمها كـ generator أو wizard):
إذا كنت تفضّل التحقق من خط الأنابيب بالكامل من البداية إلى النهاية قبل إجراء تشغيل حقيقي،
فإن tools/run_real_smoke.sh هو غلاف يُشغَّل مرة واحدة ويكتب إعدادًا صغيرًا (3
أسئلة × استراتيجية واحدة × 1 توليد × جولتان)، ويشغّل جميع المراحل الست باستخدام
انتشار SD3.5 الحقيقي، ويطبع عدد الملفات لكل مرحلة + ASR في النهاية. جميع المسارات
قابلة للتجاوز عبر متغيرات البيئة:
SD_MODEL_PATH=/abs/path/to/stable-diffusion-3.5-large-turbo \
VLLM_URL=http://my-vllm-host:8000/v1 \
NUM_GPUS=N \
bash tools/run_real_smoke.sh
قم بزيادة متغيرات البيئة INPUT_QUESTIONS / STRATEGIES / GEN_PER_QUESTION / ROUNDS
للتوسع إلى التشغيل الكامل المطابق للورقة البحثية.