ODPure: アンサンブル汚染コンセンサスによる物体検出のバックドア浄化

物体検出器に特化した、バックドア攻撃に対する初の入力段階ブラックボックス浄化防御。

📖 概要

ODPure は、物体検出器をバックドア攻撃から防御するために特化した、初の入力段階・ブラックボックス浄化フレームワークです。これは、新しい Corruption-Reconstruction-Selection (CRS) パラダイムを実用化します：

1. 汚染 (Corrupts) – 多様な摂動で入力画像を汚染し、トリガーパターンを破壊
2. 再構成 (Reconstructs) – 生成的拡散事前分布を用いて、きめ細かな構造特徴を再構成
3. 選択 (Selects) – 空間的コンセンサス投票により、高信頼度の検出を選択

ODPure は、多様なバックドア攻撃を効果的に無効化し（攻撃成功率を 0.0% まで低減）、クリーンな検出ユーティリティを維持しながら、既存の防御よりも優れた防御とユーティリティのトレードオフを実現します。

🔑 主な特徴

• ブラックボックス防御: モデルの内部、勾配、アーキテクチャは不要
• モデル非依存: あらゆる物体検出器（YOLO、Faster R-CNN など）で動作
• マルチ攻撃防御: OMA、ODA、OGA 攻撃タイプに対応
• ゼロショット: トリガーパターンの事前知識は不要
• 連続知覚: データを破棄せず、運用ストリームの連続性を維持

📋 要件

システム要件

• Python 3.8+
• CUDA 11.7+（GPU アクセラレーション用）
• 16GB 以上の GPU メモリを推奨

Python 依存関係

# Core dependencies
torch>=1.13.0
torchvision>=0.14.0
numpy>=1.21.0
Pillow>=9.0.0
opencv-python>=4.5.0

# Diffusion models
diffusers>=0.14.0
transformers>=4.25.0
accelerate>=0.20.0

# Evaluation
scikit-learn>=1.2.0  # For DBSCAN clustering
scipy>=1.9.0

# Data processing
pyyaml>=6.0
tqdm>=4.64.0

Conda 環境のセットアップ（推奨）

# Create conda environment
conda create -n odpure python=3.9 -y
conda activate odpure

# Install PyTorch with CUDA
conda install pytorch torchvision pytorch-cuda=11.7 -c pytorch -c nvidia

# Install other dependencies
pip install -r requirements.txt

📦 事前学習済み重みのダウンロード

Reconstruction モジュールを実行する前に、事前学習済みモデルの重みをダウンロードする必要があります：

必要な重み

モデル	説明	ダウンロード
DiffBIR v2.1	メイン復元モデル	HuggingFace
Stable Diffusion	潜在拡散事前分布	HuggingFace
LLaVA	視覚言語キャプショナー	HuggingFace
RAM	Recognition-Aware Model	GitHub Release

インストール手順

1. 重みディレクトリを作成します：

mkdir -p Method/Reconstruction/weights

2. 各モデルリポジトリの指示に従って、重みをダウンロードして配置します。

3. Method/Reconstruction/configs/ 内の設定ファイルを更新し、ダウンロードした重みを指すようにします。

🏗️ プロジェクト構造

ODPure/
├── attack_script/              # Backdoor attack implementations
│   ├── COCO_chessboard_29x29_OMA.py     # Object Misclassification (Chessboard)
│   ├── COCO_chessboard_29x29_ODA.py     # Object Disappearance Attack (Chessboard)
│   ├── COCO_chessboard_9x9_OGA.py      # Object Generation Attack (Chessboard)
│   ├── COCO_poke_15x15_OMA.py          # OMA (Poké Ball)
│   ├── COCO_poke_15x15_ODA.py          # ODA (Poké Ball)
│   ├── COCO_poke_15x15_OGA.py          # OGA (Poké Ball)
│   ├── COCO_white_15x15_OMA.py         # OMA (Solid White)
│   ├── COCO_white_15x15_ODA.py         # ODA (Solid White)
│   └── COCO_white_15x15_OGA.py         # OGA (Solid White)
│
├── Method/                     # Core defense methodology
│   ├── corruptions/           # Image corruption module
│   │   ├── imagecorruption.py # Corruption functions
│   │   └── multiprocess_imagecorruption.py  # Parallel processing
│   │
│   ├── Reconstruction/         # Diffusion-based restoration
│   │   ├── inference.py       # Main inference script
│   │   ├── diffbir/           # DiffBIR model implementation
│   │   ├── llava/             # LLaVA captioner
│   │   ├── ram/               # Recognition-Aware Model
│   │   ├── configs/           # Model configurations
│   │   └── weights/           # Model weights (download separately)
│   │
│   └── dbscan_vote_new.py     # DBSCAN clustering & voting
│
├── evaluation/                 # Evaluation metrics
│   ├── OMA_ASR_new.py         # OMA Attack Success Rate
│   ├── OMA_mAP.py             # OMA Mean Average Precision
│   ├── ODA_ASR_new.py         # ODA Attack Success Rate
│   ├── ODA_mAP.py             # ODA Mean Average Precision
│   ├── OGA_ASR_new.py         # OGA Attack Success Rate
│   ├── OGA_mAP.py             # OGA Mean Average Precision
│   ├── val_OMA.py             # YOLO validation for OMA
│   ├── val_ODA.py             # YOLO validation for ODA
│   └── val_OGA.py             # YOLO validation for OGA
│
├── data_format_conversion/    # Data format utilities
│   ├── voc2yolo.py            # VOC to YOLO format conversion
│   ├── cocotoyolo.py          # COCO to YOLO format conversion
│   └── select_coco_val_attack_information.py
│
├── ablation_study/            # Ablation experiments
│   ├── multiprocess_imagecorruption.py
│   ├── random_select_corruption.py
│   └── select_specific_corruption.py
│
├── run_pipeline.sh            # One-shot CRS pipeline runner
└── README.md                 # This file

🚀 クイックスタート

オプション A: ワンショット・エンドツーエンドパイプライン（推奨）

推奨されるエントリポイントは run_pipeline.sh で、CRS の 3 つの段階を連鎖させます：

# Defaults: GPU=0, INPUT=inputs/demo/bid, OUTPUT=results/v2.1_demo_bid, ATTACK=ODA
bash run_pipeline.sh

# Custom arguments: GPU_ID INPUT_DIR OUTPUT_DIR ATTACK
bash run_pipeline.sh 0 inputs/coco_oda results/oda ODA
bash run_pipeline.sh 1 inputs/coco_oma results/oma OMA
bash run_pipeline.sh 2 inputs/coco_oga results/oga OGA

このスクリプトは以下を実行します：

1. ステージ 1（汚染） – 45 個の汚染バリアントを生成
2. ステージ 2（再構成） – LLaVA キャプショナーを用いた DiffBIR v2.1
3. ステージ 3（選択） – DBSCAN 空間コンセンサス投票

最終的な浄化済み検出結果は <OUTPUT_DIR>/final/ に書き出されます。

オプション B: 各ステージを手動で実行

中間ステップを検査・置き換えたい場合に使用します。

ステージ 1: 汚染

python Method/corruptions/multiprocess_imagecorruption.py \
    --input_dir /path/to/input/images \
    --output_dir /path/to/corrupted/images \
    --num_corruptions 45 \
    --num_workers 8

ステージ 2: 再構成

python Method/Reconstruction/inference.py \
    --task denoise \
    --upscale 2 \
    --version v2.1 \
    --captioner llava \
    --cfg_scale 6 \
    --noise_aug 1 \
    --input /path/to/corrupted/images \
    --output /path/to/restored/images \
    --batch_size 32 \
    --device cuda

ステージ 3: 選択（DBSCAN 投票）

python Method/dbscan_vote_new.py \
    --folder_purs /path/to/restored/detections \
    --temp /path/to/temp \
    --output_path /path/to/final/detections \
    --eps 0.5 \
    --min_samples 10

📊 評価

ステップ 1: 環境のアクティベート

conda activate odpure

ステップ 2: 3 つのスプリットで検出器を実行

# Run on poisoned inputs (before defense)
python evaluation/val_ODA.py \
    --weights runs/train/exp/weights/last.pt \
    --data data/ODA_poison.yaml \
    --img 640 --iou-thres 0.65 --conf-thres 0.5 \
    --save-txt --save-conf \
    --project results/poisoned_val_txt

# Run on clean inputs
python evaluation/val_ODA.py \
    --weights runs/train/exp/weights/last.pt \
    --data data/ODA_clean.yaml \
    --img 640 --iou-thres 0.65 --conf-thres 0.5 \
    --save-txt --save-conf \
    --project results/clean_val_txt

# Run on purified inputs (after defense via ODPure)
python evaluation/val_ODA.py \
    --weights runs/train/exp/weights/last.pt \
    --data data/ODA_purified.yaml \
    --img 640 --iou-thres 0.65 --conf-thres 0.5 \
    --save-txt --save-conf \
    --project results/pur_val_txt

ステップ 3: ASR / mAP の計算

OMA（Object Misclassification Attack）

python evaluation/OMA_ASR_new.py

スクリプト内のパスを設定します：

gt_folder      = "/path/to/ground_truth"
benign_folder  = "/path/to/clean_val_txt"
attack_folder  = "/path/to/pur_val_txt"
target_class   = "0"      # person class

ODA（Object Disappearance Attack）

python evaluation/ODA_ASR_new.py

OGA（Object Generation Attack）

python evaluation/OGA_ASR_new.py

mAP の計算

python evaluation/ODA_mAP.py
python evaluation/OGA_mAP.py
python evaluation/OMA_mAP.py

🛡️ 防御設定

ODPure のデフォルト設定