
스파이킹 신경망에 대한 rate, latency, jitter 트리거를 사용한 시간적 트리거 백도어 공격인 T-Backdoor를 구현한 연구 코드로, 공간적 교란 없이 동작한다.
백도어 공격은 심층 신경망(DNN)에 대한 심각한 보안 위협이지만, 스파이킹 신경망(SNN)에 대해서는 아직 충분히 연구되지 않은 상태이다. 기존의 공격은 주로 오염된 샘플의 스파이크 분포가 정상 샘플과 비교하여 편차를 유발하는 시공간 트리거를 도입한다. 이러한 한계를 해결하기 위해, 본 연구는 \textbf{T-Backdoor}라고 명명된 SNN에 대한 새로운 백도어 공격을 제안하며, 이는 \textit{Rate}, \textit{Latency}, \textit{Jitter}와 같은 순수 시간적 트리거를 사용하여 어떠한 공간적 교란도 도입하지 않으므로 스파이크 분포의 변화를 탐지하기가 훨씬 더 어렵게 만든다. 세 가지 벤치마크 뉴로모픽 데이터셋인 N-MNIST, CIFAR10-DVS, N-Caltech101에 대한 광범위한 실험과 일곱 가지 기준 백도어 방어 방법에 대한 평가를 통해, T-Backdoor가 단일 대상 및 다중 대상 설정 모두에서 정상 정확도의 경미한 저하만으로 거의 완벽한 100% 공격 성공률(ASR)을 달성하며 기존의 백도어 탐지 및 완화 기법에 대해 견고함을 유지함을 입증한다.
├── models.py # Architectures for all datasets (shared)
├── datasets.py # Neuromorphic dataset loading (shared)
│
├── main_single.py # 1. Single-target entry point
├── single_poisoned_dataset.py # Trigger implementations + loaders
├── single_utils.py # Train/eval loop, saving, plots
├── single_target.sh # Paper runs
│
├── main_multi_target.py # 2. Multi-target entry point
├── multi_target_poisoned_dataset.py # Per-target parameter assignment
├── multi_target_utils.py # Per-target ASR tracking, saving
├── multi_target.sh # Paper runs
│
├── main_mtmt.py # 3. Multi-trigger multi-target entry point
├── mtmt_poisoned_dataset.py # Per-target trigger-type config
├── mtmt_utils.py # Per-target ASR tracking, saving
└── mtmt.sh # Paper runs
python -m venv venv
source venv/bin/activate
pip install torch torchvision # CUDA build matching your driver
pip install spikingjelly
pip install numpy scipy matplotlib seaborn tqdm
보고된 결과에 사용된 참조 환경:
| 패키지 | 버전 |
|---|---|
| Python | 3.11.10 |
| torch | 2.11.0+cu128 |
| torchvision | 0.26.0+cu128 |
| numpy | 2.2.6 |
| scipy | 1.16.0 |
| matplotlib | 3.8.4 |
| seaborn | 0.13.2 |
| spikingjelly | 소스에서 최신 버전 |
원시 뉴로모픽 데이터셋을 다운로드하여 각각을 data/의 자체 하위 디렉터리에 배치하며,
디렉터리 이름은 --dataset 값과 정확히 일치해야 합니다:
data/
├── mnist/ # N-MNIST
├── cifar10/ # CIFAR10-DVS
├── caltech/ # N-Caltech101
└── gesture/ # DVS128-Gesture
data/는 작업 디렉터리에 있는 실제 디렉터리여야 합니다main_single.py)하나의 트리거, 하나의 대상 클래스.
python main_single.py --dataset cifar10 --type latency --delay_frames 1 \
--T 10 --epochs 100 --epsilon 0.1 --data_dir 'data/'
핵심 인수
| 인수 | 기본값 | 설명 |
|---|---|---|
--dataset | gesture | mnist, cifar10, caltech, gesture |
--type | static | static, moving, smart, latency, rate, jitter, jitter_fixed |
--epsilon | 0.1 | 포이즈닝할 훈련 세트의 비율 |
--trigger_label | 0 | 대상 클래스 |
--T | 10 | 시뮬레이션 시간 단계 |
--epochs | 10 | 훈련 에포크 |
--batch_size | 16 | 배치 크기 |
--lr | 0.001 | 학습률 |
--loss | mse | mse 또는 cross |
--optim | adam | adam 또는 sgd |
--amp | 꺼짐 | 자동 혼합 정밀도 활성화 |
--seed | 42 | 랜덤 시드 |
--data_dir | data/ | 데이터셋 루트 |
--save_path | experiments_single | 출력 루트 |
--model_path | None | 사전 훈련된 체크포인트에서 시작 |
트리거별 인수
| 인수 | 기본값 | 적용 대상 |
|---|---|---|
--delay_frames | 2 | latency — 지연 프레임 수 |
--scale_factor | 0.5 | rate — <1 느리게, >1 빠르게 |
--n_shift | 3 | jitter_fixed — 교체되는 프레임 쌍 수 |
--trigger_size | 0.1 | static/moving/smart — 너비 대비 패치 크기 비율 |
--pos | top-left | static — top-left, top-right, bottom-left, bottom-right, middle, random |
--polarity | 3 | static/moving/smart — 0=검정, 1=진한 파랑, 2=초록, 3=연한 파랑 |
--n_masks | 2 | smart — 후보 영역 수 |
--least | 꺼짐 | smart — 가장 활성화된 영역 대신 가장 덜 활성화된 영역을 대상으로 함 |
--most_polarity | 꺼짐 | smart — 영역에서 가장 활성화된 극성 사용 |
--epsilon 0.0을 설정하면 깨끗한 기준 모델을 훈련합니다.
main_multi_target.py)하나의 트리거 유형, 트리거의 매개변수 값으로 구분되는 N개의 대상 클래스.
# Latency: delay 1 -> class 0, delay 3 -> class 1, delay 5 -> class 2
python main_multi_target.py --dataset mnist --type latency --n_targets 3 \
--trigger_labels 0 1 2 --delay_params 1 3 5 \
--epsilon 0.2 --T 10 --epochs 10 --data_dir 'data/'
| 인수 | 기본값 | 설명 |
|---|---|---|
--type | rate | static, latency, rate, jitter, jitter_fixed |
--n_targets | 3 | 대상 클래스 수 |
--trigger_labels | [0..n-1] | 명시적 대상 레이블; 길이는 --n_targets와 같아야 함 |
--epsilon | 0.1 | 총 예산, 대상별로 균등하게 분할됨 |
대상별 매개변수. 명시적으로 지정하거나, 범위에 걸쳐 np.linspace에 의해 자동 할당되도록 둡니다. 명시적 목록은 길이가 --n_targets여야 하며 범위 인수를 재정의합니다.
| 트리거 | 명시적 | 자동 범위 | 자동 기본값 |
|---|---|---|---|
latency | --delay_params 1 3 5 | --delay_min, --delay_max | 1 … T//2 |
rate | --rate_params 0.3 0.6 0.9 | --rate_min, --rate_max | 0.1 … 6.0 |
jitter | --jitter_params 0.05 0.15 0.25 | --jitter_std_min, --jitter_std_max | 0.05 … 0.3 |
jitter_fixed | --nshift_params 1 3 5 | --n_shift_min, --n_shift_max | 1 … max(n_shift_min+1, T//4) |
static | — | — | T가 n_targets개의 프레임 그룹으로 분할됨 |
자동 할당된 정수 매개변수(latency, jitter_fixed)는 충돌 시 값을 증가시켜 중복이 제거되므로, 두 대상이 같은 값을 공유하지 않습니다.
static의 경우, 대상은 어떤 프레임이 패치를 운반하는지에 따라 구분됩니다. 즉, 패치 모양이 아니라 시간 축이 대상을 구분합니다.
대상별 ASR은 매 에포크마다 clean 정확도와 함께 출력됩니다.
main_mtmt.py)대상별로 다른 트리거 유형을 사용합니다.
python main_mtmt.py --dataset mnist --T 10 --n_targets 5 \
--target_types latency latency rate rate jitter_fixed \
--trigger_labels 0 1 2 3 4 \
--latency_delays 1 2 --rate_scales 0.5 2.0 --jitter_fixed_shifts 3 \
--epsilon 0.3 --epochs 100 --data_dir 'data/'
| 인수 | 기본값 | 설명 |
|---|---|---|
--n_targets | 3 | 대상 수; 3과 5에는 내장 프리셋이 있음 |
--target_types | None | 대상별 트리거 유형 — static, latency, rate, jitter, jitter_fixed. 길이는 --n_targets와 같아야 함. 프리셋을 재정의함 |
--trigger_labels | [0..n-1] | 대상 레이블 |
--epsilon | 0.2 | 총 예산, 대상 간에 균등하게 분할됨 |
유형별 매개변수 목록. 각 목록은 해당 유형의 대상마다 하나의 항목을 가짐 — --target_types latency latency rate rate jitter_fixed를 사용하면 두 개의 지연, 두 개의 비율, 하나의 이동 값을 전달함:
| 인수 | 적용 대상 |
|---|---|
--latency_delays 1 2 | 각 latency 대상 |
--rate_scales 0.5 2.0 | 각 rate 대상 |
--jitter_fixed_shifts 3 | 각 jitter_fixed 대상 |
--jitter_stds 0.1 0.3 | 각 jitter 대상 |
--static_positions top-left bottom-right | 각 static 대상 |
--static_polarities 3 1 | 각 static 대상 |
목록을 생략하면 일치하는 *_min / *_max 범위에서 자동으로 할당됨.
내장 프리셋 (--target_types가 주어지지 않았을 때 사용됨):
--n_targets 3 — static (프레임 0..T/3), latency (--delay), rate (--scale_factor)--n_targets 5 — 두 개의 static (서로 다른 프레임 그룹과 위치), 두 개의 latency
(--delay, --delay_2), 하나의 rate다른 --n_targets 값은 반드시 --target_types가 필요함.
모든 실행은 공유 CSV에 한 행을 기록하고 자체 포함된 실험 디렉터리를 생성함.
| 설정 | 요약 CSV | 실험 디렉터리 |
|---|---|---|
| 단일 | <save_path>/results.csv | <dataset>_<type>_<eps>_<size>_<param>_<seed>/ |
| 다중 대상 | <save_path>/multi_target_results.csv | multi_<type>_<dataset>_<n>targets_<labels>_eps<eps>_<params>_seed<seed>/ |
| MTMT | <save_path>/mtmt_results.csv | mtmt_<dataset>_<n>t_<params>_eps<eps>_seed<seed>/ |
트리거 매개변수는 디렉터리 이름에 인코딩됨 (df1 = 지연 1, sf0.1 = 비율
0.1, ns3 = 3회 교체), 따라서 트리거 매개변수만 다른 실행은 서로를 덮어쓰지 않음.
이 코드베이스의 일부는 Gorka Abad 등이 작성한 Sneaky Spikes 저장소에서 각색되었으며, 이는 논문 "Sneaky Spikes: Uncovering Stealthy Backdoor Attacks in Spiking Neural Networks with Neuromorphic Data" (NDSS 2024)를 accompanies함. 코드를 공개해 주신 저자들께 감사드립니다.
이 작업이 연구에 유용하다고 생각되시면 다음을 인용해 주시기 바랍니다: