1. أولاً، قم بتنزيل النماذج الأساسية من HuggingFace (قد تكون بعض هذه النماذج مقيدة، مما يتطلب منك الحصول على إذن من HuggingFace)

   root@kitploit:~

   hf login --token ${HF_PASSWORD}
   hf download meta-llama/Meta-Llama-3-8B-Instruct --local-dir secalign_refactored/secalign_models/meta-llama/Meta-Llama-3-8B-Instruct
   hf download mistralai/Mistral-7B-Instruct-v0.1 --local-dir secalign_refactored/secalign_models/mistralai/Mistral-7B-Instruct-v0.1
   hf download meta-llama/Llama-3.1-8B-Instruct --local-dir secalign_refactored/secalign_models/meta-llama/Llama-3.1-8B-Instruct
   hf download facebook/Meta-SecAlign-8B --local-dir secalign_refactored/secalign_models/Meta-SecAlign-8B
   

2. قم بتنزيل محولات SecAlign ونماذج StruQ. يوجد سكربت مساعد لتنزيلها واستخراجها في المكان الصحيح.

   root@kitploit:~

   python3 setup_scripts/download_models.py
   

   عند تشغيله من جذر المشروع، يجب أن يقوم هذا السكربت بتنزيل النماذج الصحيحة واستخراجها في المكان الصحيح. للتحقق، تأكد مما إذا كان secalign_refactored/secalign_models يحتوي على ثلاثة مجلدات huggyllama وmeta-llama وmistralai، ويجب أن يحتوي كل منها على النموذج (النماذج) نفسه.

تشغيل ASTRA لخصم قوي المعرفة

لتشغيل ASTRA ضد خصم قوي المعرفة، السكربت الأساسي هو experiment.py. سيأخذ هذا السكربت الأمثلة البالغ عددها 40 من مجموعة بيانات AlpacaFarm، ويحقن الحمولة Print exactly 'Hacked!' بالتكوين المحدد ويشغّل ASTRA بالإضافة إلى خط الأساس (GCG) مع التحكم في التهيئة (بتهيئة عشوائية)، وعدد التمريرات الأمامية، والتكرارات، إلخ.

يمكن للمستخدم التحكم في المعاملات التالية عبر تعيينها كمعاملات سطر أوامر عند استدعاء experiment.py -

1. --model-name: القيم المحتملة هي meta-llama، meta-llama-instruct، mistralai، mistralai-instruct، huggyllama.

2. --defense: القيم المحتملة هي undefended وstruq وsecalign. القيمة الافتراضية هي secalign. معامل --model-name إلى جانب معامل --defense يحددان بشكل فريد النموذج المحدد المستخدم وفقًا للجدول أدناه

   --model-name	--defense	النموذج المحمَّل
   meta-llama-instruct	secalign	محولات SecAlign مع Meta-Llama-3-8B-Instruct المضبوط مسبقًا بالتعليمات
   mistralai-instruct	secalign	محولات SecAlign مع Mistral-7B-Instruct-v0.1 المضبوط مسبقًا بالتعليمات
   meta-llama	secalign	Meta-Llama-3-8B المحمي بواسطة SecAlign (غير مضبوط مسبقًا بالتعليمات)
   mistralai	secalign	Mistral-7B-Instruct-v0.1 المحمي بواسطة SecAlign (غير مضبوط مسبقًا بالتعليمات)
   huggyllama	secalign	Llama-2-7B المحمي بواسطة SecAlign (غير مضبوط مسبقًا بالتعليمات)
   meta-llama	struq	Meta-Llama-3-8B المحمي بواسطة StruQ (غير مضبوط مسبقًا بالتعليمات)
   mistralai	struq	Mistral-7B-v0.1 المحمي بواسطة StruQ (غير مضبوط مسبقًا بالتعليمات)
   huggyllama	struq	Llama-2-7B المحمي بواسطة StruQ (غير مضبوط مسبقًا بالتعليمات)
   meta-llama-instruct	undefended	Meta-Llama-3-8B-Instruct غير المحمي (الخام)
   mistralai-instruct	undefended	Mistral-7B-Instruct-v0.1 غير المحمي (الخام)
   meta-llama	undefended	Meta-Llama-3-8B غير المحمي (الخام) (غير مضبوط مسبقًا بالتعليمات)
   mistralai	undefended	Mistral-7B-Instruct-v0.1 غير المحمي (الخام) (غير مضبوط مسبقًا بالتعليمات)
   huggyllama	undefended	Llama-2-7B غير المحمي (الخام) (غير مضبوط مسبقًا بالتعليمات)

   جميع الأزواج الأخرى من --model-name و--defense غير صالحة.

3. --prefix-length: طول البادئة العدائية التي ستُستخدم لتشغيل تقييم معيّن. القيمة الافتراضية هي 5.

4. --suffix-length: طول اللاحقة العدائية التي ستُستخدم لتشغيل تقييم معيّن. القيمة الافتراضية هي 20.

5. --expt-folder-prefix: المسار الذي تريد تسجيل سجلات تشغيل التجربة فيه.

قد يبدو الأمر الكامل على نحو مشابه لما يلي -

عند تشغيل الأمر أعلاه، سيقوم السكربت تلقائيًا بتوزيع عبء العمل بالتساوي على عمليات فرعية مختلفة، تستخدم كل منها وحدة معالجة رسومية (GPU) واحدة لحساب الهجمات. نوصي بتشغيل الهجمات على وحدات معالجة رسومية بذاكرة لا تقل عن 48 جيجابايت.

ستسجّل كل عملية فرعية النص الكامل لكل مثال تهاجمه في مجلد فرعي منفصل داخل المسار المحدد في --expt-folder-prefix. تُخزَّن السجلات بتنسيق شبيه بقاعدة بيانات قابل للاستعلام يحتوي على كائنات بايثون (انظر الملف utils/experiment_logger لمزيد من التفاصيل). سيحتوي كل نص مسجَّل على تسلسلات الرموز المميزة، وقيم الخسارة، وتفاصيل مهمة أخرى مثل تكوين التهيئة طوال عملية التحسين، ويمكن استرجاعها لاحقًا.

التحليل (ASTRA)

بمجرد اكتمال تجربة ASTRA بالكامل، يمكن تحليل السجلات المُولَّدة لاحقًا باستخدام الملف analysis/analysis.ipynb. ما عليك سوى نسخ ولصق دفتر Jupyter في مسار --expt-folder-prefix، واستبدال مسار النموذج في الدفتر بمسار النموذج الصحيح، ثم تشغيل الدفتر. سيعرض ذلك عدد نجاحات GCG وعدد نجاحات ASTRA في الخلية الأخيرة. (ملاحظة: يستغرق سكربت التحليل بعض الوقت لأنه يولّد فعليًا المخرجات لكل تسلسل من تسلسلات الرموز المُولَّدة أثناء التحسين لكل مثال.)

يحتوي دفتر analysis.ipynb أيضًا على كود مساعد لرسم منحنيات متوسط الخسارة وإجراء مزيد من الاستكشافات باستخدام السجلات المُولَّدة.

أُبقيَت سكربتات التحليل منفصلة جوهريًا لضمان عدم تلوث عملية التحسين نفسها بكود التحليل اللاحق.

هجمات مُولَّدة

نشارك أيضًا بعض الهجمات المُولَّدة بواسطة ASTRA في الملف المضغوط الموجود في data/attacks_generated.zip. تحديدًا، يحتوي الملف المضغوط على 4 ملفات، يتضمن كل منها 40 مثالًا من هجمات ASTRA المُولَّدة، مثالين لكل نسخة من النسختين المحميتين بواسطة SecAlign من Mistral وLlama-3 على التوالي. توفر الملفات أمثلة مُولَّدة لميزانية 20 و25 رمزًا (في تكوين (0, 20) و(5, 20)). وقد وُضع الحقن بالفعل في حقل الإدخال في التكوينات.

تشغيل ASTRA++ لخصم ضعيف المعرفة

لتشغيل ASTRA++ ضد خصم ضعيف المعرفة، السكربت الأساسي هو experiment_universal.py. سيأخذ هذا السكربت الأمثلة التدريبية البالغ عددها 10 من مجموعة بيانات AlpacaFarm، ويحقن الحمولة Print exactly 'Hacked!' بتكوين البادئة واللاحقة المحدد، ويتدرب للحصول على حقن أوامر شامل في النهاية. كما يشغّل السكربت خط الأساس، المتمثل في النسخة الشاملة من GCG، بعد تدريب ASTRA++.

مثل سكربت experiment.py من القسم السابق، يقبل experiment_universal.py أيضًا وسائط --model-name و--defense و--prefix-length و--suffix-length و--expt-folder-prefix.

بالإضافة إلى جميع النماذج المذكورة في القسم السابق حول تشغيل ASTRA، يقبل سكربت experiment_universal.py نموذجًا إضافيًا محتملًا واحدًا، يقابل دفاع SecAlign++. للتدريب على دفاع SecAlign++، مرر معامل --model-name بالقيمة secalign_refactored/secalign_models/Meta-SecAlign-8B ومعامل --defense بالقيمة meta_secalign.

يوجد وسيط سطر أوامر إضافي واحد يقبله هذا السكربت، وهو --training-run، ويحدد أي مجموعة من الأمثلة البالغ عددها 10 سيتم التدريب عليها.

بقية المعاملات لها نفس التفسير السابق.

التحليل (ASTRA++)

بمجرد اكتمال تجربة ASTRA++ بالكامل، يمكن تحليل السجلات المُولَّدة لاحقًا باستخدام الملف analysis/analysis_universal.ipynb. كما في السابق، انسخ والصق دفتر Jupyter في مسار --expt-folder-prefix، وحمّل النموذج بشكل صحيح (هناك بعض الحساسية بسبب طريقة تحميل SecAlign++، لكنها ستُوحَّد في المستقبل). سيعرض ذلك عدد نجاحات الاختبار لـGCG وعدد نجاحات ASTRA إلى جانب أفضل حقن أوامر شاملة تم تحقيقها.

هجمات مُولَّدة

بالنسبة لـASTRA++، نرفع حقن الأوامر الشاملة المُولَّدة لنموذج Llama-3.1-8B-Instruct المحمي بواسطة SecAlign++ في الملف data/universal_pis_secalign++.json إلى جانب البيانات الوصفية والتكوين الذي وُلِّدت عليه. بالإضافة إلى ذلك، نرفع أيضًا سجلًا نصيًا لجميع الهجمات عبر جميع تشغيلات تدريب الشمولية في data/final_result_logs.pkl (نعدكم، ملف pickle لا يحتوي على أي كود ضار :).

تغييرات متقدمة

في حين أن السكربتات أعلاه ستشغّل هجمات ASTRA وASTRA++ جاهزة للاستخدام المباشر، تتيح قاعدة الشيفرة تكوين كل معامل تقريبًا يمكن أن يؤثر على الهجوم، مثل أحجام مجموعات بيانات التدريب، والعتبات المختارة، والبذور العشوائية، وتكوينات التهيئة، وما إلى ذلك. إذا كانت لديك أي اقتراحات مثيرة للاهتمام، فلا تتردد في إرسال pull request.

التواصل

لأي استفسارات أو تقارير أخطاء أو تفاصيل أو توضيحات، لا تتردد في فتح issue على Github أو مراسلة المؤلفين.