Skip to content
KitploitKITPLOIT
ツールエクスプロイトブログ
Log in
提出
ツールエクスプロイトブログ
提出

ハッキング、侵入テスト、サイバーセキュリティツールをあなたのセキュリティアーセナルに!

Kitploitはハッキング、サイバーセキュリティ、ペネトレーションテストのツールディレクトリです。最新のプロジェクトアップデートを見つけて、脆弱性の発見、システム分析、テストの自動化、セキュリティの強化を行いましょう。

フィードお問い合わせプライバシー© 2026 Kitploit

ツールディレクトリ

カテゴリ

すべてのカテゴリを見る
Loading categories
DetectViT — バックドア付きVision Transformerに対する学習不要・トリガー非依存のテスト時検出器で、ヘッド間アテンション整合性とエントロピー分散を用いて汚染サンプルを検出します。 | Kitploit
ツール/GitHubGitHub/siquanhuang/detectvit
防御ツール機械学習論文と研究AIセキュリティ異常検知
GitHubsiquanhuang/detectvit

DetectViT

バックドア付きVision Transformerに対する学習不要・トリガー非依存のテスト時検出器で、ヘッド間アテンション整合性とエントロピー分散を用いて汚染サンプルを検出します。

リポジトリを見る
192日前未レビュー
共有

DetectViT: ヘッド間アテンションの不一致によるVision Transformerのテスト時バックドア検出

Siquan Huang1、Yijiang Li2、Xingfu Yan3,*、Ningzhi Gao1、Leyu Shi1、Ying Gao1,*

1華南理工大学   2カリフォルニア大学サンディエゴ校   3華南師範大学

*責任著者

NeurIPS 2026 Paper Poster License


概要

Vision Transformer(ViT)はほとんどのマルチモーダルモデルの視覚エンコーダであり、実務者はバックドアを含む可能性のあるサードパーティの事前学習済みチェックポイントを日常的に基盤として利用しています。DetectViT は、モデルの出力や埋め込みではなくアテンションヘッドを読み取る、ViT 向けのテスト時バックドアサンプル検出器です。

  • 学習不要。 学習データへのアクセスも、学習させる補助モデルも不要です。
  • 出力不要。 分類とオープンエンド生成(例:LLaVA による画像キャプション生成)の両方で機能します。
  • トリガー非依存。 トリガーの種類に関する事前知識を必要としません。
  • 軽量。 テストサンプルごとに1回のフォワードパスで済み、検出は推論中にすでに計算されたアテンション重みを再利用します。

主要な観察

クリーンな画像では、アテンションヘッドは異なる領域に同程度の集中度で注目します。バックドアトリガーはこのバランスを2つの方法で崩します:

  • 完全なアテンション乗っ取り。 可視で局所的なトリガーがすべてのヘッドを同じ領域に引き寄せ、ヘッド間の空間的重複が異常に高くなります。
  • 部分的なアテンション乗っ取り。 ステルス性の高いグローバルなトリガーがヘッドを不均等に捉え、ヘッド間のアテンション集中度の分散が異常に大きくなります。

クリーンな画像、可視パッチトリガーを持つ画像(完全な乗っ取り)、およびステルス性のブレンドトリガーを持つ画像(部分的な乗っ取り)に対する6つのヘッドのCLSからパッチへのアテンション

手法

DetectViT パイプライン

DetectViT は各ヘッドの CLS からパッチへのアテンション分布を抽出し、2つの相補的な信号を計算します:

  • ヘッド間一貫性スコア $\mathcal{S}_{\text{cons}}$:ある層のヘッド間のペアワイズコサイン類似度の平均(層にわたる最大値)。完全な乗っ取りを捉えます。
  • ヘッド間エントロピー分散スコア $\mathcal{S}_{\text{var}}$:ある層内のヘッドごとのアテンションエントロピーの分散(層にわたる最大値)。部分的な乗っ取りを捉えます。

閾値はスリーシグマ則 $\tau = \mu + 3\sigma$ を用いて、任意のソースからの64〜128枚のクリーンな分布外画像のみから推定されます。テストサンプルは、$\mathcal{S}{\text{cons}} > \tau{\text{cons}}$ または $\mathcal{S}{\text{var}} > \tau{\text{var}}$ の場合にバックドア付きとしてフラグが立てられます。


主な結果

4つの ViT バックドア攻撃に対する検出性能。TPR と FPR は % 単位、AUC は [0, 1] スケールです。「–」は、その手法が適用不可能(ラベルベースの手法は自由形式のキャプションを扱えない)であるか、連続的なスコアを生成しないことを意味します。

防御手法BadViT
TPR↑ / FPR↓ / AUC↑
TrojViT
TPR↑ / FPR↓ / AUC↑
BadCLIP
TPR↑ / FPR↓ / AUC↑
BadVision
TPR↑ / FPR↓ / AUC↑
TeCo77.95 / 61.86 / 0.6355.00 / 51.76 / 0.5199.20 / 39.52 / 0.89–
Scale-Up88.65 / 30.66 / 0.8185.00 / 41.98 / 0.7491.84 / 65.03 / 0.66–
PatchProc90.61 / 18.42 / 0.8987.60 / 21.44 / 0.8586.97 / 26.78 / 0.82–
DeDe63.97 / 23.29 / 0.7850.20 / 25.80 / 0.7255.12 / 27.97 / 0.697.00 / 29.68 / 0.50
BackdoorIDS80.79 / 9.73 / –5.00 / 10.84 / –93.24 / 16.88 / –96.00 / 15.96 / –
DetectViT100.00 / 1.58 / 1.0090.80 / 5.94 / 0.95100.00 / 0.17 / 1.0096.00 / 3.00 / 0.99

追加の攻撃。 自己教師ありエンコーダ(BadEncoder、DRUPE)、クリーンラベルポイズニング(Label-Consistent)、周波数領域トリガー(Low-Frequency)、最適化されたグローバルトリガー(Blended-Optimized)を対象とするさらに5つの攻撃において、DetectViT はそのすべてで AUC 0.97 以上を維持する唯一の手法です。完全な結果は論文の付録に記載されています。

実行時間。 サンプルあたりの平均検出時間(秒):

防御手法BadViTTrojViTBadCLIPBadVision
TeCo2.50944.29201.8448–
Scale-Up0.02460.02610.0696–
PatchProc0.66860.69260.8257–
DeDe0.02060.02790.10340.6060
BackdoorIDS0.17340.19820.25603.3458
DetectViT0.01240.01340.01630.0226

ポスター

DetectViT NeurIPS 2026 poster

画像をクリックすると、フル解像度の PDF が開きます。


インストール

git clone https://github.com/siquanhuang/DetectViT.git
cd DetectViT

前提条件

  • Python 3.10.5
  • PyTorch 2.1.2
  • CUDA 11.8

事前学習済み攻撃モデルとトリガー

Google Drive から、事前学習済みのバックドア付きモデルチェックポイントと最適化済みトリガーをダウンロードします:

[Google Drive リンク]


使用方法

検出メソッドは detectvit.py に実装されています。main.py を実行して、各攻撃に対して DetectViT を評価します。

BadViT

python3 main.py \
  --defense DetectViT \
  --attack_type badvit \
  --trojvit_attack_dir TrojViT/logs/Caltech101_DeiT-T_target0_BadViT \
  --trojvit_network DeiT-T \
  --trojvit_num_classes 102 \
  --trojvit_data_dir ./data

TrojViT

python3 main.py \
  --defense DetectViT \
  --attack_type trojvit \
  --trojvit_attack_dir TrojViT/logs/Tiny-ImageNet_DeiT-S_target2_TrojViT \
  --trojvit_data_dir ./data/tiny-imagenet-200 \
  --trojvit_network DeiT-S \
  --gpu 0

BadCLIP

python3 -u main.py \
  --defense DetectViT \
  --attack_type badclip \
  --gpu 0 \
  --eval_data_type ImageNet1K \
  --eval_test_data_dir BadCLIP/data/ImageNet1K/validation/ \
  --add_backdoor \
  --asr \
  --label banana \
  --patch_type ours_tnature \
  --patch_location middle \
  --patch_name BadCLIP/opti_patches/tnature_eda_bs64_ep50_32_middle_01_05_pos_neg.jpg \
  --patch_size 32

BadVision

python3 -u main.py \
  --defense DetectViT \
  --attack_type badvision \
  --gpu 0

主要な引数

引数説明デフォルト
--defense検出方法 (DetectViT、DeDe、BackdoorIDS、...)DetectViT
--attack_type評価対象の攻撃 (badvit、trojvit、badclip、badvision)—
--gpuGPU デバイス ID0

引用

本研究成果がお役に立ちましたら、ぜひ私たちの論文を引用してください。

@misc{huang2026detectvittesttimebackdoordetection,
      title={DetectViT: Test-time Backdoor Detection for Vision Transformers via Inter-Head Attention Discrepancy}, 
      author={Siquan Huang and Yijiang Li and Xingfu Yan and Ningzhi Gao and Leyu Shi and Ying Gao},
      year={2026},
      eprint={2611.23770},
      archivePrefix={arXiv},
      primaryClass={cs.CV},
      url={https://arxiv.org/abs/2611.23770}, 
}

謝辞

本プロジェクトは以下のオープンソース作品に基づいて構築されています。コードを公開してくださった作者の皆様に心より感謝いたします:

  • TrojViT — https://github.com/mxzheng/TrojViT
  • BadCLIP — https://github.com/LiangSiyuan21/BadCLIP
  • BadVision — https://github.com/6zHAOyi/BadVision
  • DeDe — https://github.com/tardisblue9/DeDe
  • BackdoorIDS — https://github.com/siquanhuang/BackdoorIDS
ツールをダウンロード

人気

すべて見る →

コミュニティで最も使われているツールを見つけましょう。

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 究極のOSINTツールキット:調査グラフ、信頼度スコアリング、エイリアスファミリー、マップ、タイムライン、レポート。49個のモジュール、400以上のサイト、APIキー不要。

    1.1k
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    GhostLock ワンタップ実行アプリ(CVE-2026-43499)

    618
  • 3

    looking-glass

    anonghosty/looking-glass

    ShadowserverレポートをMongoDBに取り込み、インタラクティブなマップ、分析、調査結果、アドバイザリ、エグゼクティブダッシュボードとして再生するCSIRTプラットフォーム。

    407
  • 4

    ARTEX

    baarai/artex

    プランナー/ワーカーエージェント、資産グラフと探索グラフ、MITMトラフィック記録、脆弱性の再テストを備えたLLMマルチエージェント自律ペネトレーションテストプラットフォーム。

    324
  • 5

    jumpserver

    jumpserver/jumpserver

    JumpServerは、オープンソースの特権アクセス管理(PAM)プラットフォームであり、DevOps および IT チームに対し、Webブラウザを介してSSH、RDP、Kubernetes、データベース、RemoteAppエンドポイントへのオンデマンドで安全なアクセスを提供します。

    279
  • 6

    Aliens_eye

    arxhr007/aliens_eye

    ウェブ全体で7,700以上のソーシャルメディア上の身元を発見・マッピングするAI搭載OSINTエンジン

    270

すべてのツールを探索

ツールコレクションを閲覧

すべてのツールを見る →