
実行中のGPUを、同一のGPUの中でも、アトミック加算が到着する順序から正確にフィンガープリントします。99.1%の精度で、再起動後も維持され、偽装できず、デフォルトのtorch.index_add_呼び出しで漏洩します。
ブログ記事: Telling identical GPUs apart from their numerical output
同じモデルの2つのGPUは、わずかに異なる順序で同じ和を計算し、その違いだけで両者を見分けるのに十分である。 小さなCUDAカーネルは、計算した数値のみを用いて、19台の同一のNVIDIA A40のうちどれで実行されたかを99.1%の精度で識別する。シリアル番号は読まず、タイマーも使用しない。
torch.index_add_呼び出しからも漏洩する。 この演算の通常の出力のみを読むことで、同じドライバ上のGPU間では100%の精度でチップを識別でき、ドライバが混在する場合でも78%の精度で識別できる。動作する理由: 数千のスレッドブロックが1つのカウンタを更新しようと競合するとき、どのブロックが最初に到達するかはハードウェアが決定する。チップのコア間の微小な製造差が、その順序を毎回同じように偏らせる。
PyTorchの決定論的モードはindex_add_の漏洩を除去する。リポジトリには、プローブ、以下の数値の背後にあるすべての測定結果、および各結果をラップトップのCPU上で再現するスクリプトが含まれている。
| 結果 | 数値 | 再現方法 |
|---|---|---|
アクティブプローブ、同一のA40 19台、P3チャネル(数値出力のみ、%smidなし) | 99.1% LOO (111/112)、偶然確率5.3%、分離度4.28倍 | analysis/pooled_analyze.py |
| アクティブプローブ、A40 8台 | P3 100% LOO、分離度4.09倍、順列検定 p = 0.0005 | analysis/analyze_puf.py |
| ドライバ交絡: 同一ドライバ(580.159.04)上のA40 4台 | P3 100%(6.10倍)、P2 100%(5.43倍) | analysis/analyze_puf.py |
| 再起動: コンテナ再起動、UUIDで同一ダイを検証(A40 4台) | 100% 再識別 (12/12)、両チャネル | analysis/temporal_analyze.py |
| RTX 3090、4つのドライババージョンにまたがる7チップ | P3 100% LOO(4.55倍)、P2 100%(8.12倍)、p = 0.0005 | analysis/cross_model_analyze.py |
| RTX 4090、同一ホスト・同一ドライバ上の2チップ | P3 6/6(12.5倍)、P2 6/6(17.8倍) | analysis/cross_model_analyze.py |
| L40S、2チップ | P3 4/4(17.2倍)、P2 4/4(13.8倍) | analysis/cross_model_analyze.py |
パッシブ torch.index_add_、K=65536、A40 6台 | 同一ドライバ100% (9/9)、クロスドライバ78% | analysis/passive_analyze.py |
| パッシブ署名容量、K=65536 | 約217独立ビット(A40)、約239(RTX 4090) | analysis/roc_capacity.py |
| 偽造: 攻撃者が制御可能なすべての起動パラメータを掃引 | 最良の偽造でも相関0.616、本物の下限は0.92 | analysis/forge_analyze.py |
| 境界: バニラtransformerの順伝播/逆伝播、密なGEMM、TF32 matmul | チップ間でビット単位で同一、漏洩なし | analysis/leak_analyze.py、analysis/channel_analyze.py |
防御: torch.use_deterministic_algorithms(True) | パッシブチャネルを排除、逆伝播コスト2.5〜3.6倍、アクティブプローブは影響なし | analysis/defense_analyze.py |
LOO = 単一測定をチップごとのセントロイドに対して分類するleave-one-out最近傍セントロイド法。分離度 = チップ間距離 / チップ内距離。
プローブ(probes/probe_puf.py)は小さなcupyカーネルである。128スレッドからなる4096ブロックを起動する。各スレッドは同じ固定のFMA連鎖を実行し、その後各ブロックのスレッド0がatomicAdd(counter, 1)でグローバルカウンタからチケットを取得する。チケットはそのブロックの到着スロットである。入力に関してチップ間で異なるものは何もなく、変動するのはどのブロックが最初に到達するかだけである。
その順序はランダムではない。ワークディストリビュータはブロックインデックスをほぼ固定のパターンでSMにマッピングし、特定のダイ上の各SMは製造ばらつきにより兄弟SMよりもわずかに速くまたは遅く動作する。3000回の起動で平均すると、各ブロックインデックスは、それが配置されるSMの速度を反映した平均到着順位に収束する。
fixed kernel, fixed input
|
v
blocks race to atomicAdd --> arrival slot per block (hardware-decided)
|
v average over 3000 launches
mean arrival rank per block index (P3) / per physical SM via %smid (P2)
|
v subtract the cross-chip mean (removes the architecture)
per-chip residual --> nearest-centroid match against enrolled chips
1回の実行から3つのチャネルが得られます:
%smid も、タイマーも、特権カウンターも不要です。これが主要なチャネルです。%smid レジスタ経由で物理SMごとにビン分けしたもの。物理SMによるビン分けは熱ノイズを平均化するため、P2は負荷時でも安定します:60秒間のフルロードストレス後でも100%の再識別(18/18)を達成します。チップ間の平均を差し引くことで、チップが共有するすべて(アーキテクチャ、ドライバ、コンパイラ)が除去され、ダイごとの残差が残ります。同じチップの2回の測定は近い値になりますが、異なるチップの測定はそうなりません。
git clone https://github.com/divagr18/gpu-instance-fingerprint.git
cd gpu-instance-fingerprint
pip install -r requirements.txt # numpy + scipy, enough for every analysis
同梱データで解析を実行する(CPU のみ、GPU 不要):
python analysis/pooled_analyze.py # 19 A40s: 111/112 = 99.1%
python analysis/analyze_puf.py "a40_8chip/*.json" # 8 A40s: P3 100%
GPU でプローブを実行する:
pip install numpy cupy-cuda12x
python probes/probe_puf.py 3 0 > gpu_a_r0.json # 3 epochs, replicate 0 (about 2 s per epoch)
python probes/probe_puf.py 3 1 > gpu_a_r1.json
同じモデルの2台以上のGPUからそれぞれ複数のレプリケートを収集し、次に:
python analysis/analyze_puf.py "path/to/*.json"
各JSONレコードには、GPU UUID、ドライバ、cupyのバージョン、および測定値と並んでエポックごとのクロックと温度が記録されます。分析ではモデル名でグループ化し、チップをUUIDでラベル付けします。
SSH経由でリモートマシン上で実行するには、scripts/run_remote.shがプローブをプッシュし、複数のホストで並列に実行してJSONを収集します:
OUT_DIR=data/my_run REPS=4 scripts/run_remote.sh probe gpu1=root@HOST1:PORT gpu2=root@HOST2:PORT
docker/Dockerfile は CUDA 12.8、cupy、およびプローブをプリインストールしたイメージをビルドします(docker build -f docker/Dockerfile -t gpu-instance-fingerprint .)。
すべてのコマンドは CPU 上でリポジトリのルートから実行します。スクリプトは各自で data/ 内のデータを見つけます。
| 結果 | コマンド | データ |
|---|---|---|
| 8 台の A40: P3 100%(4.09x、p=0.0005)、P2 94%(4.63x)、P1 28%(1.20x) | python analysis/analyze_puf.py "a40_8chip/*.json" | data/a40_8chip(8 チップ x 4 回反復) |
| 同一ドライバの 4 台の A40: P3 100%(6.10x)、P2 100%(5.43x) | python analysis/analyze_puf.py "a40_8chip/puf8_[4678]_*.json" | data/a40_8chip |
| プール: 12 チップ 98.6%(71/72)、19 チップ 99.1%(111/112)、4.28x、チップペアの 97% がチップ内ノイズの 2 倍超で分離 | python analysis/pooled_analyze.py | a40_8chip、a40_stability(T1)、a40_reboot(T1)、a40_scale |
| 再起動: P3(マージン 5.07x)と P2(マージン 5.03x)で 100% 再識別(12/12) | python analysis/temporal_analyze.py a40_reboot | data/a40_reboot(4 チップ) |
| 60 秒ストレス: ベースライン LOO 96%(23/24)、再識別 P2 100%(18/18) | python analysis/temporal_analyze.py a40_stability | data/a40_stability(6 チップ) |
| RTX 3090 x7、RTX 4090、3090 ペア、L40S ペア | python analysis/cross_model_analyze.py | data/rtx3090、data/rtx4090、data/cross_model |
| パッシブ index_add(K=65536、K=4096)、デンス対照、scatter-overwrite | python analysis/passive_analyze.py | data/passive_* |
| ROC とビット容量 | python analysis/roc_capacity.py | すべての A40 プローブデータ、passive_k4096、passive_k65536、rtx4090 |
| 偽造: 最良の偽造 0.616 対 真正 0.946(下限 0.916)、なりすまし 0.174 | python analysis/forge_analyze.py | data/forge(3 台の A40) |
| Transformer 境界と決定論モードのコスト | python analysis/leak_analyze.py | data/transformer_leak(3 台の A40) |
| TF32 matmul と DVFS 境界 | python analysis/channel_analyze.py | data/channels(3 台の A40) |
| パッシブチャネルに対する防御 | python analysis/defense_analyze.py | data/defense(2 台の A40) |
analysis/analyze_puf.py はチャネルごとに 2000 回のシャッフル置換検定を実行するため、大きなセットでは数分かかります。
単一測定のすべてのペアがスコアリングされ(真正 = 同一 UUID、なりすまし = 異なる UUID)、登録時の平均化は行わないため、これらは悲観的な単発動作点です。自由度は iris 方式で、なりすましハミング距離に対して DoF = p(1-p)/var(HD) と計算されます。
| シグネチャ | ペア | スコア | AUC | EER | 容量 |
|---|---|---|---|---|---|
| アクティブ P3、19 台の A40 | 644 真正 / 9367 なりすまし | 残差相関 | 0.974 | 9.3%(d' = 2.95) | |
| アクティブ P3、19 台の A40 | 符号ハミング | 0.847 | 26.9% | ~5 ビット | |
| パッシブ K=4096、8 台の A40 | 符号ハミング | 0.878 | 21.0% | ~97 ビット | |
| パッシブ K=65536、6 台の A40 | 符号ハミング | 0.952 | 11.1% | ~217 ビット | |
| パッシブ K=65536、3 台の RTX 4090 | 符号ハミング | 0.0% | ~239 ビット |
アクティブチャネルは残差相関を通じて読むのが最適です。その符号パターンは空間的に相関しているため、同一性は大きさの中に存在します。パッシブ符号シグネチャは長いビット列のように振る舞い、その容量は K とともに増加します。K=65536 では約 200 以上の独立ビットとなり、非常に大規模なフリートをインデックス化するのに十分です。
torch.index_add_アクティブプローブはカスタムカーネルの実行を必要とします。パッシブ版は、標準の PyTorch 演算の通常の出力以外は何も読み取りません。
CUDA 上の torch.index_add_ はアトミック演算で累積するため、各出力ビンに寄与が到着する順序はハードウェアが決定します。通常のデンス領域(ビンあたり多数の寄与)では、float32 の和がその順序を平均化してしまいます。256 ビンへの 2^20 個の寄与では、すべての特徴がチャンスレベルで分類されます(6 台の A40 で統合 17% 対チャンス 17%)。解決策はスパースで高ダイナミックレンジな領域です:
各チップの安定したアトミック順序付けにより、安定した出力が得られます。シグネチャは、float64 リファレンスに対する平均 ULP 残差のビンごとの符号であり、K ビットの文字列です。
pip install numpy torch
python probes/passive_index_add.py 0 65536 > passive_r0.json # replicate 0, K=65536