SASS King

هندسة عكسية لـ NVIDIA SASS من النوى المتحكم بها إلى تدقيقات الإنتاج.

المقال 1 · المقال 2 · قاعدة المعرفة · مكتبة الأنماط · قاموس تعليمات SM120 · ملاحظات الترميز · ابدأ من هنا · هيكل المشروع · فصول نوى التنسور · المساهمة

SASS King هو مشروع منهجي للهندسة العكسية لـ NVIDIA SASS، وهي مجموعة التعليمات الأصلية لوحدة معالجة الرسوميات (GPU) المنبعثة داخل ملفات CUDA الثنائية المترجمة. يبدأ المشروع بأجهزة Blackwell الاستهلاكية SM120 / SM120a ويتوسع نحو مكتبة ISA شاملة عبر البنى ومكتبة أنماط بمرور الوقت.

الهدف عملي: مساعدة مهندس النوى على فتح تفريغ SASS، والتعرف على أنماط المترجم، وتحديد الهياكل ذات الصلة بالأداء، وربط الثنائي بقرارات التحسين على مستوى المصدر.

أكمل المشروع مكتبة الأنماط الأولية للمرحلة الثالثة: 29 توقيع SASS قابل لإعادة الاستخدام موثّقة الآن تحت patterns/، مع الاحتفاظ بـ knowledge/FINDINGS.md كمسار أدلة كامل. الخطوة الرئيسية التالية هي المرحلة الرابعة: تطبيق تلك الأنماط على نوى الإنتاج الحقيقية.

تصفح سريع

المستودع منظم كخط أنابيب للأدلة:

corpus/      نوى محكومة وأدلة SASS خام
knowledge/   نتائج على مستوى المشروع، ملاحظات التعليمات، وملاحظات الترميز
patterns/    توقيعات تدقيق قابلة لإعادة الاستخدام من المرحلة الثالثة
production/  تدقيقات نوى حقيقية من المرحلة الرابعة

لماذا هو موجود

آخر عمل واسع النطاق للهندسة العكسية لـ SASS العامة المشابه في الروح كان لـ Jia et al. على Volta و Turing في 2018. لقد غيرت Ampere و Hopper و Blackwell مزيج التعليمات بشكل جوهري: مسارات النسخ غير المتزامن، عائلات نوى التنسور، تعليمات تحميل/تخزين المصفوفات، أشكال MMA المتناثرة والموزونة، وتدفقات السجلات الموحدة الجديدة.

يسد SASS King هذه الفجوة من خلال الجمع بين النوى الدقيقة المتحكم بها، وقراءة SASS الخام، والمسابير الزمنية، وتدقيقات نوى الإنتاج.

الحالة الحالية

تسليمات المرحلة الثالثة

مكتبة الأنماط الرسمية هي الناتج الرئيسي للمرحلة الثالثة. تحوّل الأدلة المحلية لكل فصل إلى توقيعات تدقيق قابلة لإعادة الاستخدام، بحيث يمكن للتدقيق أن يستشهد بنمط مسمى بدلاً من إعادة كتابة مسار البحث الكامل في كل مرة.

تعتبر المرحلة الثالثة مكتملة لأن:

• الهياكل المتكررة الموجودة في الفصول 01-25 تم ترقيتها إلى 29 صفحة نمط مسماة؛
• كل نمط له شرح باللغة الإنجليزية المبسّطة، توقيع SASS، متغيرات، أنماط مضادة، فجوات مفتوحة، ومستوى ثقة؛
• وسوم الادعاءات تظل مرتبطة بأدلة المصدر في knowledge/FINDINGS.md؛
• التنقل المخصص للتدقيق يبدأ الآن من patterns/README.md؛
• العناصر غير المحلولة تُحمل صراحةً كفجوات بدلاً من إخفائها داخل نص النمط.

تشمل كل صفحة نمط:

• المعنى باللغة الإنجليزية المبسّطة؛
• توقيع SASS؛
• المتغيرات المرصودة؛
• حدود التفسير؛
• الأنماط المضادة؛
• الفجوات المفتوحة؛
• مستوى الثقة.

استخدم patterns/README.md كفهرس مخصص للتدقيق. استخدم knowledge/FINDINGS.md عندما تحتاج إلى سياق البحث الأطول وراء نمط ما.

لا تدّعي المرحلة الثالثة أن كل سلوك NVIDIA SASS قد تم فك شفرته. إنها تؤسس طبقة أنماط SM120 / SM120a قابلة لإعادة الاستخدام كافية لبدء تدقيقات الإنتاج اليدوية. فك ترميز التخطيط الزمني، وتحديد مواضع بتات رموز التحكم الكاملة، وإعداد تقارير cubin الآلية، وإعادة التشغيل عبر البنى تظل أعمالاً مستقبلية.

ابدأ من هنا

• جديد في المشروع: اقرأ ابدأ من هنا.
• تريد خريطة المشروع بالكامل: اقرأ فهرس قاعدة المعرفة.
• تريد خريطة التعليمات الحالية: اقرأ تعليمات SASS على SM120 / SM120a.
• تريد ملاحظات الترميز: اقرأ ملاحظات الترميز.
• تريد مصدر الحقيقة الخام: اقرأ النتائج.
• تريد توقيعات تدقيق قابلة لإعادة الاستخدام: اقرأ مكتبة الأنماط.
• تريد أدلة نوى التنسور: ابدأ بـ فصول نوى التنسور.
• تريد المساهمة بتفريغات أو تصحيحات: اقرأ المساهمة.
• تريد حدود الإصدار v0.1: اقرأ ملاحظات الإصدار.

كتابات عامة:

• الجزء 1 - قراءة NVIDIA SASS من المبادئ الأولى
• الجزء 2 - قراءة عقل المترجم

المنهجية

التباين المتحكم به. نواتان تختلفان بمتغير واحد بالضبط: dtype، ترتيب المعاملات، عامل فك اللف، تخطيط الذاكرة، أو هدف الترجمة. يحدد فرق SASS قرار المترجم.

وسوم ادعاءات صارمة. كل ادعاء تقني يستخدم وسماً:

من الأعلى إلى الأسفل ومن الأسفل إلى الأعلى معاً. تقوم النوى الدقيقة بعزل التعليمات الفردية وقرارات المترجم. تظهر النوى الشبيهة بالإنتاج أي الأنماط مهمة في الكود الحقيقي.

تدقيقات تعتمد على الأنماط. يجب أن يستشهد تدقيق الإنتاج بصفحة PATTERN-NN رسمية فقط بعد مطابقة توقيع SASS المرئي ونقل حدود ثقته وأنماطه المضادة وفجواته المفتوحة.

ما يغطيه المشروع

يركز المسح الأول على خط أنابيب نوى التنسور والذاكرة لـ SM120:

• HMMA، QMMA، OMMA
• LDSM، STSM
• LDGSTS، LDGDEPBAR، DEPBAR
• LDG، STG، LDS، STS، REDG
• BRA، EXIT، BSSY، ،

لا يدّعي المشروع أن ISA مكتملة بعد. يتتبع القاموس العام ما تم ملاحظته وشرحه؛ الصفحات الأعمق تحت knowledge/encoding/ تتبع العائلات التي لديها أدلة كافية لتوثيق شبيه بالمطابق.

لا ينافس SASS King مُفكّكات SASS على مستوى البت. يستخدم المشروع التفريغات المحلية كدليل أساسي وقد يستخدم redplait/denvdis كفحص متبادل لحقول التعليمات، جداول الجدولة، المسندات، وتتبع السجلات. يمكن لـ denvdis التحقق من تفسيرات الترميز منخفضة المستوى؛ SASS King يملك أدلة التباين المتحكم به، طبقة الأنماط الدلالية، وتفسير تدقيق الإنتاج.

خارطة الطريق

flowchart LR
    P1["المرحلة 1<br/>نوى تعليمية<br/>01-12"] --> P2["المرحلة 2<br/>مجموعة نوى التنسور SM120<br/>13-25"]
    P2 --> P25["المرحلة 2.5<br/>التحقق المتبادل مع denvdis<br/>الجزء الخلفي على مستوى البت"]
    P25 --> P3["المرحلة 3<br/>مكتبة الأنماط<br/>توقيعات المترجم"]
    P3 --> P4["المرحلة 4<br/>تدقيقات الإنتاج<br/>نوى حقيقية"]
    P4 --> P5["المرحلة 5<br/>أداة التدقيق<br/>تقارير cubin"]
    P5 --> P6["المرحلة 6<br/>إعادة التشغيل عبر البنى<br/>SM80/86/89/90a/100a/120"]

    classDef done fill:#0b6d55,color:#fff,stroke:#0b6d55;
    classDef active fill:#f4c95d,color:#111,stroke:#b89422;
    classDef planned fill:#1f2937,color:#fff,stroke:#6b7280;
    class P1,P2,P25,P3 done;
    class P4 active;
    class P5,P6 planned;

المرحلة 1 - النوى التعليمية

تؤسس النوى 01-12 مفاهيم SASS الأساسية: دمج FMA، سلوك لوحة النتائج، خفض الحلقات، الذاكرة المشتركة، الذاكرة العالمية، أساسيات الالتفاف، الرياضيات بطيئة المسار، وانسكابات الذاكرة المحلية.

المرحلة 2 - نوى التنسور وتغطية SM120

تغطي النوى 13-25 مسار نوى التنسور الحالي لـ SM120:

المرحلة 2.5 - التحقق المتبادل مع denvdis

التحقق من redplait/denvdis كخلفية فحص متبادل على مستوى البت لـ SM120 / SM120a قبل أن تعتمد تدقيقات الإنتاج على مكتبة الأنماط. يقوم المسح بتشغيل nvd -O، nvd -S، nvd -p، وحيث يكون مفيداً nvd -T على cubins أو تفريغات محلية ممثلة تغطي HMMA، QMMA، QMMA.SF، QMMA.SP، OMMA، LDSM، STSM b16/b8، LDGSTS، DEPBAR، وعلامات التفرع.

المخرجات هي knowledge/DENVDIS_INTEGRATION.md: جدول توافق واقعي من العائلة إلى حالة التعرف في denvdis، تغطية المُعدِّلات، حقول رموز التحكم المكشوفة، وإجراء SASS King. مخرجات denvdis هي أدلة داعمة، وليست بديلاً عن ملاحظات التفريغ المحلية.

المرحلة 3 - مكتبة الأنماط

صياغة الهياكل المتكررة في توقيعات قابلة لإعادة الاستخدام:

• LDGSTS -> DEPBAR -> LDSM -> MMA
• HMMA / QMMA / OMMA المتسلسلة
• STSM -> BAR -> LDS -> STG
• اختزالات الالتفاف والتجمعات عبر المسارات
• توقيعات انسكاب السجلات
• أنماط تدفق التحكم العددية والموحدة

تحتوي مكتبة المرحلة الثالثة الأولية على 29 صفحة نمط تحت patterns/. يبقى knowledge/FINDINGS.md سجل البحث ومصدر الحقيقة؛ patterns/ هي نقطة الدخول المخصصة للتدقيق.

المرحلة الثالثة مكتملة على مستوى المكتبة الأولية. العناصر المتبقية مثل فك ترميز التخطيط الزمني، ومواضع بتات رموز التحكم الكاملة، وإعادة التشغيل عبر البنى تُتتبع كفجوات أو مراحل مستقبلية، وليست عوائق لبدء تدقيقات الإنتاج في المرحلة الرابعة.

المرحلة 4 - تدقيقات الإنتاج

تطبيق مكتبة الأنماط على نوى حقيقية من مكتبات مثل FlashAttention و CUTLASS و xFormers و Transformer Engine و FlashInfer و llama.cpp / ggml و tinygrad والمشاريع ذات الصلة. الهدف هو تغطية تمثيلية حسب النمط الخوارزمي، وليس ملف Markdown واحد لكل نواة.

يجب أن يكون أول تسليم للمرحلة الرابعة تقرير تدقيق يدوي يقوم بما يلي:

• تقسيم نواة حقيقية واحدة إلى مناطق SASS؛
• الاستشهاد بصفحات PATTERN-NN المطابقة؛
• تعيين مستويات ثقة لكل استنتاج؛
• تسجيل المناطق غير المفسرة كفجوات جديدة؛
• تجنب بناء أداة تدقيق حتى يستقر تقرير يدوي واحد على الأقل.

المرحلة 5 - أداة التدقيق

بناء خط أنابيب يأخذ cubin، ويكتشف الأنماط المعروفة، ويصدر تقريراً موجهاً نحو التحسين.

المرحلة 6 - عبر البنى

إعادة تطبيق المنهجية على أهداف إضافية:

خريطة المستودع

.
├── corpus/                                # نوى محكومة، تفريغات، وكتابات الفصول
│   ├── basics/                            # النوى 01-08: أساسيات العددية/المتجهة والذاكرة
│   ├── warp_collectives/                  # النوى 09-10: الخلط، التصويت، الاختزال
│   ├── math_and_spills/                   # النوى 11-12: مسارات بطيئة وانسكابات
│   └── tensor_cores/                      # النوى 13-25: دراسات نوى التنسور
├── knowledge/                              # النتائج، القاموس، ملاحظات الترميز
│   ├── FINDINGS.md
│   ├── SASS_INSTRUCTIONS_SM120.md
│   └── encoding/
├── patterns/                               # مكتبة الأنماط الرسمية للمرحلة الثالثة
├── production/                             # تدقيقات نوى الإنتاج للمرحلة الرابعة
├── docs/                                   # ملاحظات الإعداد والهيكل والإصدار
└── guide/                                  # الوحدة الفرعية لدليل قراءة SASS الخارجي

يحتوي كل مجلد فصل على نوى المصدر، وأعمال مترجمة عند الاقتضاء، وتفريغات SASS عندما تكون جزءاً من مجموعة الأدلة المُتحقق منها، وكتابة conclusion<N>.md.

للحصول على شرح أكثر اكتمالاً لما ينتمي إلى كل دليل، اقرأ هيكل المشروع.

الأدوات

• cuobjdump --dump-sass للتفكيك الخام.
• gpuasm.com للوحات النتائج، والتوقفات، والضغط، وأسهم التبعية.
• Nsight Compute للتنميط وإرجاع التوقفات.
• %clock لقياسات زمن انتقال التعليمات.
• nvcc -Xptxas -v لبيانات السجلات والانسكابات.

الأعمال ذات الصلة

• Jia et al. 2018, "Dissecting the NVIDIA Volta GPU Architecture via Microbenchmarking" لنهج القياس الدقيق التجريبي وراء التحقق من زمن الانتقال، الإنتاجية، والتبعية.
• kuterdinel.com/nv_isa لأعمال ترميز ISA NVIDIA المهجنة، خاصة فكرة استخلاص قواعد ترميز قابلة للقراءة آلياً من سلوك المفكك.
• redplait/denvdis لجداول الأوبكود، التفكيك على مستوى البت، فحص حقول الترميز، تحليل الجدولة، تتبع السجلات، ومعالجة cubin. تُستخدم جداول SM120 data12 المستخرجة كفحص متبادل منخفض المستوى بينما تبقى التفريغات المحلية الأدلة الأساسية.
• أدوات وملاحظات Redplait: محرر cubin ced، روابط Perl لتفكيك SASS، تحليل زمن انتقال SASS، وملاحظات libcuda/nvasm_internal.
• Huerta et al. 2025 للهندسة العكسية للجدولة الموجهة من المترجم، رموز التحكم، عدادات التبعية، علامات إعادة الاستخدام، وسلوك العائد.
• Yan et al. 2026 لتحليل طبقة التشغيل و pushbuffer أسفل SASS.
• MaxAS و TuringAS كجهود سابقة لمجمّع SASS عام للهندسات الأقدم من NVIDIA.
• وثائق NVIDIA CUDA Binary Utilities لأدوات cubin و fatbin والتفكيك الرسمية.

يعمل SASS King في طبقة الأنماط الخوارزمية: التعرف على كيفية تنظيم النوى المترجمة وربط تلك الهياكل بقرارات التحسين على مستوى المصدر.

المساهمة

المساهمات مرحب بها، خاصة:

• تفريغات SASS خام من أجهزة غير متاحة مباشرة هنا؛
• دراسات نوى محكومة تعزل قراراً واحداً للمترجم؛
• تصحيحات للملاحظات الحالية؛
• مقترحات أنماط جديدة لنوى الإنتاج؛
• مقارنات عبر البنى.

انظر CONTRIBUTING.md للبيانات الوصفية المتوقعة ومعيار الكتابة.

المؤلف

Florian Mattana. florianmattana.com