carol-long/cc_watermarkتنفيذ علامة مائية نصية خالية من التشويه قائمة على الاقتران الأمثل (optimal coupling) لتضمين إشارات قابلة للكشف في النصوص المولّدة بواسطة نماذج اللغة الكبيرة (LLM) مع الحفاظ على الجودة.
الكود الرسمي لـ التزاوجات المثلى للعلامة المائية النصية الخالية من التشويه
أصبحت النماذج اللغوية الكبيرة (LLMs) قادرة الآن على إنتاج نص لا يمكن تمييزه عن المحتوى البشري. وقد حفّز هذا تطوير علامات مائية تطبع "إشارة" في النص المولّد بواسطة النماذج اللغوية الكبيرة مع أقل تشويش على مخرجات النموذج. تقدّم هذه الورقة تحليلاً للعلامة المائية النصية في سياق اللقطة الواحدة. من خلال عدسة اختبار الفرضيات مع المعلومات الجانبية، نقوم بصياغة وتحليل المفاضلة الأساسية بين قوة كشف العلامة المائية والتشويه في جودة النص المولّد. نُجادل بأن المكوّن الرئيسي في تصميم العلامة المائية هو توليد تزاوج بين المعلومات الجانبية المشتركة مع كاشف العلامة المائية وتقسيم عشوائي لمفردات النموذج اللغوي الكبير. يحدد تحليلنا التزاوج الأمثل واستراتيجية العشوائية في ظل توزيع الرمز التالي الأسوأ حالةً، بالنسبة للنموذج اللغوي الكبير، والذي يفي بقيد الإنتروبيا الدنيا. نقدّم تعبيرًا بالشكل المغلق لمعدل الكشف الناتج في إطار المخطط المقترح ونكمّم التكلفة بمعنى الأقصى-الأدنى (max-min). أخيرًا، نقارن عدديًا المخطط المقترح مع الأمثل النظري.
