ali-bana/olmo-twinشفرة إعادة إنتاج لدراسة مضبوطة لهجمات استدلال العضوية على OLMo 2، تشمل إدراج المستندات، والتدريب الأوسط، والتدريب اللاحق، والتنقيط، والتحليل.
يحتوي هذا المستودع على الشيفرة الخاصة بالورقة البحثية
From Training Exposure to Membership Evidence: A Controlled Study of OLMo 2
Ali Banaei, Muhammad Shahab Shahzad, Gerald Q. Maguire Jr., Marco Chiesa, Dejan Kostić
KTH Royal Institute of Technology. arXiv preprint (to appear).
أعدنا تشغيل مرحلة التدريب المتوسط الرسمية البالغة 50 مليار رمز (token) الخاصة بـ OLMo 2 1B مع مجموعة من المستندات أُدرجت في تدفق التدريب، اختيرت عشوائيًا من أزواج متطابقة. تُعدّ عملية التشغيل التي أصدرتها AI2 للمرحلة نفسها بمثابة الضابط (control). قرأت عمليتا التشغيل بيانات التدريب نفسها بالترتيب نفسه، باستثناء المواضع التي أدرجنا فيها المستندات. ثم خضع كلا النموذجين لوصفة التدريب اللاحق (post-training) الخاصة بـ AI2. جرى تقييم كل مستند في ظل كلا النموذجين في كل مرحلة، ما يتيح لنا قياس مقدار ما يغيّره التدريب على مستند واحد في النموذج، ومقدار ذلك التغيير الذي يمكن لهجمات استدلال العضوية (membership-inference) اكتشافه.
يسأل استدلال العضوية عمّا إذا كان مستند معيّن قد كان جزءًا من بيانات تدريب نموذج ما. وهذا مهم لحقوق النشر وإثبات مصدر البيانات، ولشفافية بيانات التدريب ولتلوث المعايير القياسية (benchmark contamination). تجمع معظم تقييمات هجمات استدلال العضوية على نماذج اللغة الأعضاء وغير الأعضاء بعد وقوع الأمر، مثل المستندات المنشورة قبل حدّ زمني للتدريب وبعده. وعندها تختلف المجموعتان في الموضوع والأسلوب والتاريخ فضلاً عن العضوية. ويمكن للهجوم أن ينجح عبر كشف هذا الانزياح في التوزيع. وعندما يفشل الهجوم، فإن ذلك لا يُظهر أن التدريب لم يترك أثرًا.
ولفصل هذه التفسيرات عن بعضها، نحتاج إلى إعداد تكون فيه العضوية معلومة، وتُسنَد بشكل مستقل عن كل خصائص المستند، وتترك بقية التدريب دون تغيير. تطرح الورقة السؤال التالي: عندما يُضمَّن مستند حقيقي مرة واحدة في وصفة تدريب راسخة، فما مقدار ما يتغيّر في النموذج، وما مقدار ذلك التغيير الذي يمكن للهجمات القائمة أن تستفيد منه؟
AI2's released stage-1 checkpoint (4T tokens)
|
+--------------------------+---------------------------+
| |
AI2's released seed-42 run our re-run of the same stage:
of the 50B-token stage same start, data and order;
(23,852 updates) 24,081 of 12,212,224 chunks replaced
| by copies of inserted documents
v v
control treated model
| |
v v
SFT -> DPO -> RLVR stage 1 -> RLVR stage 2 (same data, order and seeds for both)
ما لم يُذكر خلاف ذلك، فإن الأرقام أدناه تخص 4,832 زوجًا من المستندات التي تحُقِّق من عدم رؤيتها وأُدرجت مرة واحدة، مقيسة مقابل المجموعة الضابطة. تقدم الورقة فترات الثقة ومزيدًا من التحفظات.