SASS King

Обратная разработка NVIDIA SASS: от контролируемых ядер до продукционных аудитов.

Статья 1 · Статья 2 · База знаний · Библиотека шаблонов · Глоссарий инструкций SM120 · Заметки по кодированию · Начать отсюда · Структура проекта · Главы о тензорных ядрах · Участие

SASS King — это проект систематической обратной разработки NVIDIA SASS, родного набора инструкций GPU, генерируемого внутри скомпилированных двоичных файлов CUDA. Проект начинается с потребительского оборудования Blackwell SM120 / SM120a и со временем расширяется до полной кроссплатформенной библиотеки ISA и шаблонов.

Цель — практическая: помочь инженеру по ядрам открыть дамп SASS, распознать шаблоны компилятора, выявить значимые для производительности структуры и связать двоичный код с решениями по оптимизации на уровне исходного кода.

Проект завершил начальную библиотеку шаблонов Фазы 3: 29 повторно используемых сигнатур SASS теперь формализованы в patterns/; knowledge/FINDINGS.md сохраняется как полная цепочка доказательств. Следующий крупный шаг — Фаза 4: применение этих шаблонов к реальным продукционным ядрам.

Быстрая навигация

Если вы хотите...	Начать отсюда	Затем прочитайте
Понять проект за 10 минут	docs/README.md	docs/START_HERE.md, затем docs/PROJECT_STRUCTURE.md
Воспроизвести доказательства	corpus/README.md	одну главу conclusion*.md, затем её дамп .sass
Найти источник истины	knowledge/FINDINGS.md	knowledge/SASS_INSTRUCTIONS_SM120.md, knowledge/encoding/README.md
Распознать шаблон в новом дампе	patterns/README.md	соответствующую страницу patterns/NN-*.md
Начать продукционный аудит	production/README.md	соответствующие страницы PATTERN-NN и исходные доказательства
Внести исправление или дамп	CONTRIBUTING.md	docs/START_HERE.md

Репозиторий организован как конвейер доказательств:

corpus/      контролируемые ядра и исходные дампы SASS
knowledge/   общепроектные выводы, заметки об инструкциях и кодировании
patterns/    повторно используемые сигнатуры аудита Фазы 3
production/  аудиты реальных ядер Фазы 4

Зачем это существует

Последняя широкая публичная работа по обратной разработке SASS, сопоставимая по духу, была работа Jia et al. по Volta и Turing в 2018 году. Ampere, Hopper и Blackwell значительно изменили набор инструкций: пути асинхронного копирования, семейства тензорных ядер, инструкции матричной загрузки/сохранения, разреженные и масштабированные формы MMA, а также новые потоки униформных регистров.

SASS King заполняет этот пробел, сочетая контролируемые микроядра, чтение сырого SASS, время выполнения экспериментов и аудиты продукционных ядер.

Текущее состояние

Область	Статус	Где
Обучающие ядра SM120	Завершены ядра 01–12	corpus/basics/01_vector_add/ — corpus/math_and_spills/12_register_spill/
Исследования тензорных ядер	Завершены до ядра 25	corpus/tensor_cores/
Глобальные выводы	Активный источник истины	knowledge/FINDINGS.md
Глоссарий инструкций SM120	Активный, основанный на доказательствах	knowledge/SASS_INSTRUCTIONS_SM120.md
Пилоты по кодированию	Начаты с LDSM, STSM, QMMA	knowledge/encoding/
Кросс-валидация denvdis	Первый проход завершён; остаются пробелы в размещении управляющих кодов	knowledge/DENVDIS_INTEGRATION.md
Библиотека шаблонов	Начальная библиотека Фазы 3 завершена	patterns/
Продукционные аудиты	Следующая фаза	production/

Результат Фазы 3

Формальная библиотека шаблонов является основным результатом Фазы 3. Она превращает доказательства из глав в повторно используемые сигнатуры аудита, чтобы аудит мог ссылаться на именованный шаблон вместо того, чтобы каждый раз переписывать полную цепочку исследований.

Фаза 3 считается завершённой, потому что:

• повторяющиеся структуры, найденные в главах 01–25, были повышены до 29 именованных страниц шаблонов;
• каждый шаблон содержит объяснение на простом английском, сигнатуру SASS, варианты, анти-шаблоны, открытые пробелы и уровень достоверности;
• теги утверждений остаются привязанными к исходным доказательствам в knowledge/FINDINGS.md;
• навигация для аудита теперь начинается с patterns/README.md;
• нерешённые вопросы явно переносятся как пробелы, а не скрываются внутри текста шаблона.

Семейство шаблонов	Примеры	Где
Вычисления на тензорных ядрах	Цепочки аккумуляторов HMMA, QMMA, OMMA; разреженные метаданные; узкие фрагменты	patterns/02-* — patterns/04-*, patterns/10-*, patterns/21-*
Матричная память и эпилоги	LDSM, STSM, конвейеры асинхронного копирования, эпилоги редукции REDG	patterns/05-*, patterns/06-*, patterns/07-*, patterns/28-*
Поток управления	расхождение/схождение, обратные рёбра циклов, предикатные выходы, холодные ловушки, локальные CALL	patterns/08-*, patterns/14-*, patterns/16-*, patterns/26-*, patterns/29-*
Память и регистры	векторизованная глобальная память, разливы, общая память с стадиированием, дескрипторы, поток униформных регистров	patterns/09-*, patterns/11-*, patterns/17-*, patterns/19-*, patterns/20-*
Арифметика и планирование	слияние FFMA, константы, медленные пути MUFU, scoreboards, переработка жизненного цикла	patterns/12-*, patterns/18-*, patterns/22-*, patterns/23-*, patterns/24-*
Варп-коллективы	варп-редукции, shuffle/vote/match/sync примитивы	patterns/01-*, patterns/25-*

Каждая страница шаблона включает:

• значение на простом английском;
• сигнатуру SASS;
• наблюдаемые варианты;
• границы интерпретации;
• анти-шаблоны;
• открытые пробелы;
• уровень достоверности.

Используйте patterns/README.md в качестве индекса для аудита. Используйте knowledge/FINDINGS.md, когда вам нужен более длинный исследовательский контекст, стоящий за шаблоном.

Фаза 3 не утверждает, что всё поведение NVIDIA SASS декодировано. Она устанавливает повторно используемый уровень шаблонов SM120 / SM120a, достаточный для начала ручных продукционных аудитов. Декодирование макета времени выполнения, полное размещение битов управляющих кодов, автоматическое отчётность по cubin и кроссплатформенное воспроизведение остаются будущей работой.

Начать отсюда