バックドア学習リソース

このGithubリポジトリは、バックドア学習リソースの一覧をまとめたものです。詳細と分類基準については、私たちのサーベイを参照してください。

私たちは、このGithubリポジトリを毎月継続的にメンテナンスするよう最善を尽くします。

なぜバックドア学習なのか？

バックドア学習は、機械学習アルゴリズムの学習プロセスにおけるセキュリティ問題を扱う、新興の研究分野です。実際に第三者提供の学習リソースやモデルを安全に採用するためには極めて重要です。

注: 「Backdoor」は「Neural Trojan」または「Trojan」とも呼ばれることがよくあります。

ニュース

2023/7/24: ICLR'23の論文10本を追加しました。この会議の全論文は現在含まれているはずです。
2023/7/23: NeurIPS'22の論文7本とAAAI'23の論文4本を追加しました。これらの会議の全論文は現在含まれているはずです。
2023/01/25: この度、病気や博士論文の執筆などの個人的な事情により、関連論文の購読と本リポジトリの更新を一時中断していたことを深くお詫び申し上げます。2023年6月以降に更新を再開します。
2022/12/05: リポジトリの形式を少し変更し、会議論文をジャーナル論文の前に配置するようにしました。具体的には、同じ年の場合、ジャーナル論文は通常かなり前に投稿されるためタイムラグがあるので、会議論文をジャーナル論文の前に配置してください。
2022/12/05: ECCV'22の論文3本を追加しました。この会議の全論文は現在含まれているはずです。

参考文献

本リポジトリまたはサーベイがあなたの研究に役立つ場合は、以下のように論文を引用してください。``` @article{li2022backdoor, title={Backdoor learning: A survey}, author={Li, Yiming and Jiang, Yong and Li, Zhifeng and Xia, Shu-Tao}, journal={IEEE Transactions on Neural Networks and Learning Systems}, year={2022} }

## 貢献
<p align="center">
  <img src="https://assets.kitploit.com/production/public/readmes/placeholders/f0fc86cfe65f76d40e15aaec61704ec8220a56dc89d4be03c46f67cb31b9fa8c.svg" alt="あなたが必要です！">
</p>

このリストへの貢献にご協力ください。[私](http://liyiming.tech) に連絡するか、[プルリクエスト](https://github.com/THUYimingLi/awesome-backdoor-learning/pulls) を送信してください。

Markdown形式:```markdown
- Paper Name. 
  [[pdf]](link) 
  [[code]](link)
  - Author 1, Author 2, **and** Author 3. *Conference/Journal*, Year.

注記: 同じ年の場合、会議論文をジャーナル論文の前に配置してください。ジャーナルは通常かなり前に投稿されるため、タイムラグが生じることがあります。(すなわち、会議-->ジャーナル-->プレプリント)

バックドア学習：サーベイ。 [pdf]
- Yiming Li, Yong Jiang, Zhifeng Li, and Shu-Tao Xia. IEEE Transactions on Neural Networks and Learning Systems, 2022.
深層学習に対するバックドア攻撃と対策：包括的レビュー。 [pdf]
- Yansong Gao, Bao Gia Doan, Zhi Zhang, Siqi Ma, Anmin Fu, Surya Nepal, and Hyoungshick Kim. arXiv, 2020.
機械学習のデータセキュリティ：データポイズニング、バックドア攻撃、防御。 [pdf]
- Micah Goldblum, Dimitris Tsipras, Chulin Xie, Xinyun Chen, Avi Schwarzschild, Dawn Song, Aleksander Madry, Bo Li, and Tom Goldstein. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2022.
機械学習におけるポイズニング攻撃と対策に関する包括的サーベイ。 [link]
- Zhiyi Tian, Lei Cui, Jie Liang, and Shui Yu. ACM Computing Surveys, 2022.
連合学習におけるバックドア攻撃と防御：最新技術、分類学、将来の方向性。 [link]
- Xueluan Gong, Yanjiao Chen, Qian Wang, and Weihan Kong. IEEE Wireless Communications, 2022.
深層ニューラルネットワークにおける画像分類モデルへのバックドア攻撃。 [link]
- Quanxin Zhang, Wencong Ma, Yajie Wang, Yaoyuan Zhang, Zhiwei Shi, and Yuanzhang Li. Chinese Journal of Electronics, 2022.
ニューラルトロイの木馬攻撃に対する防御：サーベイ。 [link]
- Sara Kaviani and Insoo Sohn. Neurocomputing, 2021.
ニューラルトロイの木馬に関するサーベイ。 [pdf]
- Yuntao Liu, Ankit Mondal, Abhishek Chakraborty, Michael Zuzak, Nina Jacobsen, Daniel Xing, and Ankur Srivastava. ISQED, 2020.
音声認識システムに対するバックドア攻撃：サーベイ。 [pdf]
- Baochen Yan, Jiahe Lan, and Zheng Yan. arXiv, 2023.
深層学習におけるニューラルトロイの木馬攻撃と防御のサーベイ。 [pdf]

ツールボックス

学位論文

コンピュータビジョンにおけるポイズニングベースのバックドア攻撃。 [pdf]
- Yiming Li. 清華大学博士論文, 2023.
深層ニューラルネットワーク分類器に対するバックドア攻撃の防御。 [pdf]
- Zhen Xiang. ペンシルベニア州立大学博士論文, 2022.
深層学習の敵対的・バックドア堅牢性に向けて。 [link]
- Yifan Guo. ケース・ウェスタン・リザーブ大学博士論文, 2022.
堅牢で通信効率の高い分散機械学習を目指して。 [pdf]
- Hongyi Wang. ウィスコンシン大学マディソン校博士論文, 2021.
深層学習による堅牢な画像分類とモバイル上でのリアルタイムDNN推論に向けて。 [pdf]
- Pu Zhao. ノースイースタン大学博士論文, 2021.
バックドア、データポイズニング、敵対的攻撃に対する対策。 [pdf]
- Henry Daniel. テキサス大学サンアントニオ校博士論文, 2021.
深層ニューラルネットワークへのバックドア攻撃の影響の理解と緩和。 [pdf]
- Kang Liu. ニューヨーク大学博士論文, 2021.
アンフェア・トロイの木馬：モデルの公平性に対する標的型バックドア攻撃。 [pdf]
- Nicholas Furth. ニュージャージー工科大学修士論文, 2022.
もう一つの扉を確認せよ：周波数領域におけるバックドア攻撃の作成。 [pdf]
- Hasan Abed Al Kader Hammoud. キング・アブドラ科学技術大学修士論文, 2022.
ニューラルネットワークにおけるバックドア攻撃。 [link]
- Stefanos Koffas. デルフト工科大学修士論文, 2021.
バックドア防御。 [pdf]

画像・動画分類

ポイズニングベース攻撃

2023

バックドア防御における潜在分離可能性の仮定の再考。 [pdf] [code]
- Xiangyu Qi, Tinghao Xie, Yiming Li, Saeed Mahloujifar, and Prateek Mittal. ICLR, 2023.
ニューラルタンジェントカーネルによる少数ショットバックドア攻撃。 [pdf] [code]
- Jonathan Hayase and Sewoong Oh. ICLR, 2023.
Color Backdoor：色空間における堅牢なポイズニング攻撃。 [pdf]
- Wenbo Jiang, Hongwei Li, Guowen Xu, and Tianwei Zhang. CVPR, 2023.

2022

非標的型バックドア透かし：無害かつステルスなデータセット著作権保護に向けて。 [pdf] [code]
- Yiming Li, Yang Bai, Yong Jiang, Yong Yang, Shu-Tao Xia, and Bo Li. NeurIPS, 2022.
DEFEAT：知覚不可能な摂動と潜在表現制約による深層隠れ特徴バックドア攻撃。 [pdf]
- Zhendong Zhao, Xiaojun Chen, Yuexin Xuan, Ye Dong, Dakui Wang, and Kaitai Liang. CVPR, 2022.
Marksman Backdoor：任意のターゲットクラスへのバックドア攻撃。 [pdf]
- Khoa D Doan, Yingjie Lao, and Ping Li. NeurIPS, 2022.
周波数領域を通じた不可視のブラックボックスバックドア攻撃。 [pdf] [code]
- Tong Wang, Yuan Yao, Feng Xu, Shengwei An, Hanghang Tong, and Ting Wang. ECCV, 2022.
BppAttack：画像量子化と対照的敵対的学習による深層ニューラルネットワークへのステルスかつ効率的なトロイの木馬攻撃。 [pdf] [code]
- Zhenting Wang, Juan Zhai, and Shiqing Ma. CVPR, 2022.
機械学習モデルに対する動的バックドア攻撃。 [pdf]
- Ahmed Salem, Rui Wen, Michael Backes, Shiqing Ma, and Yang Zhang. EuroS&P, 2022.
知覚不可能なバックドア攻撃：入力空間から特徴表現へ。 [pdf] [code]
- Nan Zhong, Zhenxing Qian, and Xinpeng Zhang. IJCAI, 2022.
敵対的訓練を用いたステルスなバックドア攻撃。 [link]

2021

サンプル固有トリガーによる不可視バックドア攻撃。 [pdf] [code]
- Yuezun Li, Yiming Li, Baoyuan Wu, Longkang Li, Ran He, and Siwei Lyu. ICCV, 2021.
データ順序攻撃によるSGDの操作。 [pdf]
- Ilia Shumailov, Zakhar Shumaylov, Dmitry Kazhdan, Yiren Zhao, Nicolas Papernot, Murat A. Erdogdu, and Ross Anderson. NeurIPS, 2021.
知覚不可能な入力と潜在変数変更を伴うバックドア攻撃。 [pdf]
- Khoa Doan, Yingjie Lao, and Ping Li. NeurIPS, 2021.
LIRA：学習可能、知覚不可能、堅牢なバックドア攻撃。 [pdf]
- Khoa Doan, Yingjie Lao, Weijie Zhao, and Ping Li. ICCV, 2021.
深層学習モデルにおけるブラインドバックドア。 [pdf] [code]
- Eugene Bagdasaryan, and Vitaly Shmatikov. USENIX Security, 2021.
物理世界における深層学習システムに対するバックドア攻撃。 [pdf] [修士論文]
- Emily Wenger, Josephine Passanati, Yuanshun Yao, Haitao Zheng, and Ben Y. Zhao. CVPR, 2021.
制御された無毒化によるニューラルネットワークの深層特徴空間トロイの木馬攻撃。 [pdf] [code]
- Siyuan Cheng, Yingqi Liu, Shiqing Ma, and Xiangyu Zhang. AAAI, 2021.
WaNet - 知覚不可能なワーピングベースのバックドア攻撃。 [pdf] [code]
- Tuan Anh Nguyen, and Anh Tuan Tran. ICLR, 2021.

2020

既存の良性特徴を混合したディープニューラルネットワークへの複合バックドア攻撃。 [pdf]
- Junyu Lin, Lei Xu, Yingqi Liu, Xiangyu Zhang. CCS, 2020.
入力認識型動的バックドア攻撃。 [pdf] [code]
- Anh Nguyen, and Anh Tran. NeurIPS, 2020.
ディープラーニングにおけるバックドア検出アルゴリズムの迂回。 [pdf]
- Te Juin Lester Tan, and Reza Shokri. EuroS&P, 2020.
不可視の摂動による畳み込みニューラルネットワークモデルへのバックドア埋め込み。 [pdf]
- Cong Liao, Haoti Zhong, Anna Squicciarini, Sencun Zhu, and David Miller. ACM CODASPY, 2020.
ビデオ認識モデルに対するクリーンラベルバックドア攻撃。 [pdf] [code]
- Shihao Zhao, Xingjun Ma, Xiang Zheng, James Bailey, Jingjing Chen, and Yu-Gang Jiang. CVPR, 2020.
ディープラーニングのバックドア攻撃検出からの回避。 [link]
- Yayuan Xiong, Fengyuan Xu, Sheng Zhong, and Qun Li. IFIP SEC, 2020.
Reflection Backdoor: ディープニューラルネットワークに対する自然なバックドア攻撃。 [pdf] [code]
- Yunfei Liu, Xingjun Ma, James Bailey, and Feng Lu. ECCV, 2020.
ディープニューラルネットワークに対するライブトロイの木馬攻撃。 [pdf] [code]
- Robby Costales, Chengzhi Mao, Raphael Norwitz, Bryan Kim, and Junfeng Yang. CVPR Workshop, 2020.
画像スケーリング攻撃によるニューラルネットワークへのバックドア注入とポイズニング。 [pdf]

2019

ラベルポイズニングを伴わないトレーニングセットの改ざんによるCNNへの新しいバックドア攻撃。 [pdf]
- M.Barni, K.Kallas, and B.Tondi. ICIP, 2019.
ラベル整合バックドア攻撃。 [pdf] [code]
- Alexander Turner, Dimitris Tsipras, and Aleksander Madry. arXiv, 2019.

2018

ニューラルネットワークに対するトロイの木馬化攻撃。 [pdf] [code]
- Yingqi Liu, Shiqing Ma, Yousra Aafer, Wen-Chuan Lee, and Juan Zhai. NDSS, 2018.

2017

BadNets: 機械学習モデルのサプライチェーンにおける脆弱性の特定。 [pdf] [journal]
- Tianyu Gu, Brendan Dolan-Gavitt, and Siddharth Garg. arXiv, 2017 (IEEE Access, 2019).
データポイズニングを用いたディープラーニングシステムへの標的型バックドア攻撃。 [pdf] [code]
- Xinyun Chen, Chang Liu, Bo Li, Kimberly Lu, and Dawn Song. arXiv, 2017.

ポイズニングに基づかない攻撃

重み指向攻撃

ディープニューラルネットワークにおける手作りバックドア。 [pdf]
- Sanghyun Hong, Nicholas Carlini, and Alexey Kurakin. NeurIPS, 2022.
ビットフリップによるニューラルネットワークに対するほぼ知覚不能なトロイの木馬攻撃。 [pdf] [code]
- Jiawang Bai, Kuofeng Gao, Dihong Gong, Shu-Tao Xia, Zhifeng Li, and Wei Liu. ECCV, 2022.
ProFlip: 段階的ビットフリップによる標的型トロイの木馬攻撃。 [pdf]
- Huili Chen, Cheng Fu, Jishen Zhao, and Farinaz Koushanfar. ICCV, 2021.
TBT: ビットトロイの木馬による標的型ニューラルネットワーク攻撃。 [pdf] [code]
- Adnan Siraj Rakin, Zhezhi He, and Deliang Fan. CVPR, 2020.
より良い一貫性でバックドアを注入する方法: クリーンデータ上のロジットアンカリング。 [pdf]
- Zhiyuan Zhang, Lingjuan Lyu, Weiqiang Wang, Lichao Sun, and Xu Sun. ICLR, 2022.
敵対的ウェイト摂動はニューラルバックドアを注入できるか？ [pdf]
- Siddhant Garg, Adarsh Kumar, Vibhor Goel, and Yingyu Liang. CIKM, 2020.
限られたビットのフリップによる多用途ウェイト攻撃。 [pdf]
- Jiawang Bai, Baoyuan Wu, Zhifeng Li, and Shu-Tao Xia. arXiv, 2022.
Rowhammerを用いたDNNへの現実的なバックドア注入攻撃に向けて。 [pdf]
- M. Caner Tol, Saad Islam, Berk Sunar, and Ziming Zhang. 2022.
TrojanNet: ニューラルネットワークへの隠れたトロイの木馬モデルの埋め込み。 [pdf]
- Chuan Guo, Ruihan Wu, and Kilian Q. Weinberger. arXiv, 2020.

構造変更攻撃

LoneNeuron: 不可視かつ多態的な透かしを用いた高効果な特徴領域ニューラルトロイの木馬。 [pdf]
- Zeyan Liu, Fengjun Li, Zhu Li, and Bo Luo. CCS, 2022.
ディープニューラルネットワークに対する実用的な展開段階バックドア攻撃に向けて。 [pdf] [code]
- Xiangyu Qi, Tinghao Xie, Ruizhe Pan, Jifeng Zhu, Yong Yang, and Kai Bu. CVPR, 2022.
干し草の山に針を隠す: 検証を回避するニューラルネットワークの構築に向けて。 [link] [code]
- Árpád Berta, Gábor Danner, István Hegedűs and Márk Jelasity. ACM IH&MMSec, 2022.
ディープラーニングフレームワークにおけるステルス性と柔軟性を備えたトロイの木馬。 [link]
- Yajie Wang, Kongyang Chen, Yu-An Tan, Shuxin Huang, Wencong Ma, and Yuanzhang Li. IEEE Transactions on Dependable and Secure Computing, 2022.
FooBaR: ニューラルネットワークトレーニングに対するフォールトフーリングバックドア攻撃。 [link] [code]
- Jakub Breier, Xiaolu Hou, Martín Ochoa and Jesus Solano. IEEE Transactions on Dependable and Secure Computing, 2022.
DeepPayload: ニューラルペイロード注入によるディープラーニングモデルへのブラックボックスバックドア攻撃。 [pdf]
- Yuanchun Li, Jiayi Hua, Haoyu Wang, Chunyang Chen, and Yunxin Liu. ICSE, 2021.
ディープニューラルネットワークにおけるトロイの木馬攻撃に対する驚くほど単純なアプローチ。 [pdf] [code]
- Ruixiang Tang, Mengnan Du, Ninghao Liu, Fan Yang, and Xia Hu. KDD, 2020.
BadRes: 残差接続によるバックドアの検出。 [pdf]
- Mingrui He, Tianyu Chen, Haoyi Zhou, Shanghang Zhang, and Jianxin Li. arXiv, 2022.
ニューラルネットワークにおけるアーキテクチャバックドア。

その他の攻撃

ImpNet: コンパイルされたニューラルネットワークにおける知覚不能かつブラックボックス検出不能なバックドア。 [pdf] [website] [code]
- Tim Clifford, Ilia Shumailov, Yiren Zhao, Ross Anderson, and Robert Mullins. arXiv, 2022.
私をトリガーしないで！ディープニューラルネットワークに対するトリガーレスバックドア攻撃。 [pdf]
- Ahmed Salem, Michael Backes, and Yang Zhang. arXiv, 2020.

バックドア防御

前処理ベースの経験的防御

物理世界におけるバックドア攻撃。 [pdf] [extension]
- Yiming Li, Tongqing Zhai, Yong Jiang, Zhifeng Li, and Shu-Tao Xia. ICLR Workshop, 2021.
DeepSweep: データ拡張を用いたDNNバックドア攻撃緩和のための評価フレームワーク。 [pdf] [code]
- Han Qiu, Yi Zeng, Shangwei Guo, Tianwei Zhang, Meikang Qiu, and Bhavani Thuraisingham. AsiaCCS, 2021.
Februus: ディープニューラルネットワークシステムに対するトロイの木馬攻撃への入力浄化防御。 [pdf] [code]
- Bao Gia Doan, Ehsan Abbasnejad, and Damith C. Ranasinghe. ACSAC, 2020.
ニューラルトロイの木馬。 [pdf]
- Yuntao Liu, Yang Xie, and Ankur Srivastava. ICCD, 2017.
デトリガーオートエンコーダを使用したバックドア攻撃に対するディープニューラルネットワークの防御。 [pdf]
- Hyun Kwon. IEEE Access, 2021.
ConFoc: ニューラルネットワークに対するトロイの木馬攻撃へのコンテンツフォーカス保護。 [pdf]
- Miguel Villarreal-Vasquez, and Bharat Bhargava. arXiv, 2021.
機械学習におけるバックドア攻撃に対するモデル非依存防御。 [pdf]
- Sakshi Udeshi, Shanshan Peng, Gerald Woo, Lionell Loh, Louth Rawshan, and Sudipta Chattopadhyay. arXiv, 2019.

モデル再構築ベースの経験的防御

ラベルなしデータによるバックドアの浄化。 [pdf] [code]
- Lu Pang, Tao Sun, Haibin Ling, and Chao Chen. CVPR, 2023.
暗黙的超勾配によるバックドアの敵対的忘却。 [pdf] [code]
- Yi Zeng, Si Chen, Won Park, Z. Morley Mao, Ming Jin, and Ruoxi Jia. ICLR, 2022.
チャネルリプシッツ性に基づくデータフリーバックドア除去。 [pdf] [code]
- Runkai Zheng, Rongjun Tang, Jianze Li, and Li Liu. ECCV, 2022.
アテンション関係グラフ蒸留を用いたディープニューラルネットワークのバックドアトリガー除去。 [pdf]
- Jun Xia, Ting Wang, Jieping Ding, Xian Wei, and Mingsong Chen. IJCAI, 2022.
事前活性化分布はバックドアニューロンを露呈する。 [pdf] [code]
- Runkai Zheng, Rongjun Tang, Jianze Li, and Li Liu. NeurIPS, 2022.
敵対的ニューロンプルーニングによるバックドア埋め込み深層モデルの浄化。 [pdf] [code]
- Dongxian Wu and Yisen Wang. NeurIPS, 2021.
ニューラルアテンション蒸留: ディープニューラルネットワークからのバックドアトリガーの消去。 [pdf] [code]
- Yige Li, Xingjun Ma, Nodens Koren, Lingjuan Lyu, Xixiang Lyu, and Bo Li. ICLR, 2021.
解釈可能性に基づくディープニューラルネットワークへのバックドア攻撃に対する防御。 [link]
- Wei Jiang, Xiangyu Wen, Jinyu Zhan, Xupeng Wang, and Ziwei Song. , 2021.

トリガー合成ベースの経験的防御

画像内の認知バックドアパターンの蒸留。 [pdf] [code]
- Hanxun Huang, Xingjun Ma, Sarah Monazam Erfani, and James Bailey. ICLR, 2023.
UNICORN: 統合バックドアトリガー反転フレームワーク。 [pdf] [code]
- Zhenting Wang, Zhenting Wang, Kai Mei, Juan Zhai, and Shiqing Ma. ICLR, 2023.- Quarantine: スパース性はトロイの木馬攻撃トリガーを追加コストなしで発見できる。 [pdf] [code]
- Tianlong Chen, Zhenyu Zhang, Yihua Zhang*, Shiyu Chang, Sijia Liu, and Zhangyang Wang. CVPR, 2022.
バックドアスキャンにおけるより優れたトリガー逆変換最適化。 [pdf] [code]
- Guanhong Tao, Guangyu Shen, Yingqi Liu, Shengwei An, Qiuling Xu, Shiqing Ma, Pan Li, and Xiangyu Zhang. CVPR, 2022.
Shapley推定を用いたFew-shotバックドア防御。 [pdf]
- Jiyang Guan, Zhuozhuo Tu, Ran He, and Dacheng Tao. CVPR, 2022.
トロイの木馬トリガーのリバースエンジニアリングの再考。 [pdf] [code]
- Zhenting Wang, Kai Mei, Hailun Ding, Juan Zhai, and Shiqing Ma. NeurIPS, 2022.
敵対的ウェイトマスキングによるOne-shotニューラルバックドア消去。 [pdf] [code]
- Shuwen Chai and Jinghui Chen. NeurIPS, 2022.
AEVA: 敵対的極値分析を用いたブラックボックスバックドア検出。 [pdf]

モデル診断に基づく経験的防御

対称的特徴差分による複雑なバックドア検出。 [pdf] [code]
- Yingqi Liu, Guangyu Shen, Guanhong Tao, Zhenting Wang, Shiqing Ma, and Xiangyu Zhang. CVPR, 2022.
二クラスおよびマルチ攻撃シナリオにおけるバックドア攻撃のトレーニング後検出。 [pdf] [code]
- Zhen Xiang, David J. Miller, and George Kesidis. ICLR, 2022.
ランダム化チャネルシャッフリング: クリーンデータセットなしの最小オーバーヘッドバックドア攻撃検出。 [pdf] [code]
- Ruisi Cai, Zhenyu Zhang, Tianlong Chen, Xiaohan Chen, and Zhangyang Wang. NeurIPS, 2022.
バックドアが仕込まれたニューラルネットワークの異常検出アプローチ: 顔認識をケーススタディとして。 [pdf]
- Alexander Unnervik and Sébastien Marcel. BIOSIG, 2022.
ディープニューラルネットワークのクリティカルパスベースのバックドア検出。 [link]
- Wei Jiang, Xiangyu Wen, Jinyu Zhan, Xupeng Wang, Ziwei Song, and Chen Bian. IEEE Transactions on Neural Networks and Learning Systems, 2022.
メタニューラル分析を用いたAIトロイの木馬の検出。 [pdf]
- Xiaojun Xu, Qi Wang, Huichen Li, Nikita Borisov, Carl A. Gunter, and Bo Li. IEEE S&P, 2021.
トロイの木馬化されたニューラルネットワークのトポロジー検出。 [pdf]
- Songzhu Zheng, Yikai Zhang, Hubert Wagner, Mayank Goswami, and Chao Chen. NeurIPS, 2021.
限られた情報とデータによるバックドア攻撃のブラックボックス検出。 [pdf]
- Yinpeng Dong, Xiao Yang, Zhijie Deng, Tianyu Pang, Zihao Xiao, Hang Su, and Jun Zhu. ICCV, 2021.
ユニバーサルリトマスパターン: CNNにおけるバックドア攻撃の解明。 [pdf]

ポイズン抑制に基づく経験的防御

トレーニングプロセスの分離によるバックドア防御。 [pdf] [code]
- Kunzhe Huang, Yiming Li, Baoyuan Wu, Zhan Qin, and Kui Ren. ICLR, 2022.
ポイズン化されたサンプルの感度を活用した効果的なバックドア防御。 [pdf] [code]
- Weixin Chen, Baoyuan Wu, and Haoqian Wang. NeurIPS, 2022.
Trap and Replace: 交換が容易なサブネットワークに閉じ込めることでバックドア攻撃を防御する。 [pdf] [code]
- Haotao Wang, Junyuan Hong, Aston Zhang, Jiayu Zhou, and Zhangyang Wang. NeurIPS, 2022.
より高い信頼度でのトレーニング: トレーニング中の注入型および自然型バックドアの軽減。 [pdf] [code]
- Zhenting Wang, Zhenting_Wang, Hailun Ding, Juan Zhai, and Shiqing Ma. NeurIPS, 2022.
アンチバックドア学習: ポイズン化されたデータでのクリーンモデルのトレーニング。 [pdf] [code]
- Yige Li, Xixiang Lyu, Nodens Koren, Lingjuan Lyu, Bo Li, and Xingjun Ma. NeurIPS, 2021.
差分プライバシーによるロバストな異常検出とバックドア攻撃検出。 [pdf] [code]
- Min Du, Ruoxi Jia, and Dawn Song. ICLR, 2020.
強力なデータ拡張は精度のトレードオフなしにポイズニングおよびバックドア攻撃を無害化する。 [pdf]
- Eitan Borgnia, Valeriia Cherepanova, Liam Fowl, Amin Ghiasi, Jonas Geiping, Micah Goldblum, Tom Goldstein, and Arjun Gupta. ICASSP, 2021.
あなたを殺さないものはあなたをよりロバストにする: ポイズンとバックドアに対する敵対的トレーニング。 [pdf]

サンプルフィルタリングに基づく経験的防御

SCALE-UP: スケーリングされた予測一貫性の分析による効率的なブラックボックス入力レベルバックドア検出。 [pdf] [code]
- Junfeng Guo, Yiming Li, Xun Chen, Hanqing Guo, Lichao Sun, and Cong Liu. ICLR, 2023.
画像内の認知的バックドアパターンの蒸留。 [pdf] [code]
- Hanxun Huang, Xingjun Ma, Sarah Monazam Erfani, and James Bailey. ICLR, 2023.
バックドアポイズニング攻撃に対する防御としての非互換性クラスタリング。 [pdf] [code]
- Charles Jin, Melinda Sun, and Martin Rinard. ICLR, 2023.
"Beatrix''の復活: グラム行列によるロバストなバックドア検出。 [pdf] [code]
- Wanlun Ma, Derui Wang, Ruoxi Sun, Minhui Xue, Sheng Wen, and Yang Xiang. NDSS, 2023.
ポイズン化されたサンプルの感度を活用した効果的なバックドア防御。 [pdf] [code]
- Weixin Chen, Baoyuan Wu, and Haoqian Wang. NeurIPS, 2022.
入力フィルタリングによる効果的でロバストなニューラルトロイの木馬防御に向けて。 [pdf] [code]
- Kien Do, Haripriya Harikumar, Hung Le, Dung Nguyen, Truyen Tran, Santu Rana, Dang Nguyen, Willy Susilo, and Svetha Venkatesh. ECCV, 2022.
敵対的検出手法を用いてバックドア攻撃を軽減できるか? [link]
- Kaidi Jin, Tianwei Zhang, Chao Shen, Yufei Chen, Ming Fan, Chenhao Lin, and Ting Liu. IEEE Transactions on Dependable and Secure Computing, 2022.
LinkBreaker: ニューロン整合性チェックによるDNNのバックドア・トリガーリンクの切断。 [link]

証明付き防御

ユニバーサル摂動に対するロバスト性証明に向けて. [pdf] [code]
- Yi Zeng, Zhouxing Shi, Ming Jin, Feiyang Kang, Lingjuan Lyu, Cho-Jui Hsieh、および Ruoxi Jia. ICLR, 2023.
BagFlip: データポイズニングに対する証明付き防御. [pdf] [code]
- Yuhao Zhang, Aws Albarghouthi、および Loris D'Antoni. NeurIPS, 2022.
RAB: バックドア攻撃に対する証明可能なロバスト性. [pdf] [code]
- Maurice Weber, Xiaojun Xu, Bojan Karlas, Ce Zhang、および Bo Li. IEEE S&P, 2022.
データポイズニングとバックドア攻撃に対する近傍法の証明付きロバスト性. [pdf]
- Jinyuan Jia, Yupei Liu, Xiaoyu Cao、および Neil Zhenqiang Gong. AAAI, 2022.
Deep Partition Aggregation: 一般的なポイズニング攻撃に対する証明可能な防御 [pdf] [code]
- Alexander Levine、および Soheil Feizi. ICLR, 2021.
データポイズニング攻撃に対するバギングの本質的証明付きロバスト性 [pdf] [code]
- Jinyuan Jia, Xiaoyu Cao、および Neil Zhenqiang Gong. AAAI, 2021.
ランダム平滑化によるラベル反転攻撃に対する証明付きロバスト性. [pdf]
- Elan Rosenfeld, Ezra Winston, Pradeep Ravikumar、および J. Zico Kolter. ICML, 2020.
ランダム平滑化によるバックドア攻撃に対するロバスト性の証明について. [pdf]
- Binghui Wang, Xiaoyu Cao, Jinyuan jia、および Neil Zhenqiang Gong. CVPR Workshop, 2020.
BagFlip: データポイズニングに対する証明付き防御. [pdf]

他のパラダイムとタスクに対する攻撃と防御

フェデレーテッドラーニング

FLIP: フェデレーテッドラーニングにおけるバックドア緩和のための証明可能な防御フレームワーク. [pdf] [code]
- Kaiyuan Zhang, Guanhong Tao, Qiuling Xu, Siyuan Cheng, Shengwei An, Yingqi Liu, Shiwei Feng, Guangyu Shen, Pin-Yu Chen, Shiqing Ma、および Xiangyu Zhang. ICLR, 2023.
フェデレーテッドラーニングに対するバックドア防御の脆弱性について. [link] [code]
- Pei Fang、および Jinghui Chen. AAAI, 2023.
Cerberusによるポイズニング: フェデレーテッドラーニングに対するステルスで共謀したバックドア攻撃. [link]
- Xiaoting Lyu, Yufei Han, Wei Wang, Jingkai Liu, Bin Wang, Jiqiang Liu、および Xiangliang Zhang. AAAI, 2023.
Neurotoxin: フェデレーテッドラーニングにおける永続的なバックドア. [pdf]
- Zhengming Zhang, Ashwinee Panda, Linyue Song, Yaoqing Yang, Michael W. Mahoney, Joseph E. Gonzalez, Kannan Ramchandran、および Prateek Mittal. ICML, 2022.
FLAME: フェデレーテッドラーニングにおけるバックドアの制御. [pdf]
- Thien Duc Nguyen, Phillip Rieger, Huili Chen, Hossein Yalame, Helen Möllering, Hossein Fereidooni, Samuel Marchal, Markus Miettinen, Azalia Mirhoseini, Shaza Zeitouni, Farinaz Koushanfar, Ahmad-Reza Sadeghi、および Thomas Schneider. USENIX Security, 2022.
DeepSight: 深層モデル検査によるフェデレーテッドラーニングにおけるバックドア攻撃の緩和. [pdf]
- Phillip Rieger, Thien Duc Nguyen, Markus Miettinen、および Ahmad-Reza Sadeghi. NDSS, 2022.
垂直フェデレーテッドラーニングにおけるラベル推論とバックドア攻撃の防御. [pdf]
- Yang Liu, Zhihao Yi, Yan Kang, Yuanqin He, Wenhan Liu, Tianyuan Zou、および Qiang Yang. AAAI, 2022.
フェデレーテッドラーニングにおけるモデルポイズニングに対するビザンチン耐性集約メカニズムの分析. [link]
- Mary Roszel, Robert Norvill、および Radu State. , 2022.

転移学習

インクリメンタル学習、インクリメンタルなバックドア脅威。 [link]
- Wenbo Jiang, Tianwei Zhang, Han Qiu, Hongwei Li, and Guowen Xu. IEEE Transactions on Dependable and Secure Computing, 2022.
ネットワーク転移への耐性を持つロバストなバックドア注入。 [link]
- Le Feng, Sheng Li, Zhenxing Qian, and Xinpeng Zhang. Information Sciences, 2022.
アンチ蒸留バックドア攻撃：バックドアは知識蒸留においても実際に生存できる。 [pdf]
- Yunjie Ge, Qian Wang, Baolin Zheng, Xinlu Zhuang, Qi Li, Chao Shen, and Cong Wang. ACM MM, 2021.
隠れたトリガーバックドア攻撃。 [pdf] [code]
- Aniruddha Saha, Akshayvarun Subramanya, and Hamed Pirsiavash. AAAI, 2020.
事前学習モデルに対する重みポイズニング攻撃。 [pdf] [code]
- Keita Kurita, Paul Michel, and Graham Neubig. ACL, 2020.
事前学習済み深層学習モデルを用いた転移学習に対するバックドア攻撃。 [pdf]
- Shuo Wang, Surya Nepal, Carsten Rudolph, Marthie Grobler, Shangyu Chen, and Tianle Chen. IEEE Transactions on Services Computing, 2020.
深層ニューラルネットワークに対する潜在バックドア攻撃。 [pdf]
- Yuanshun Yao, Huiying Li, Haitao Zheng and Ben Y. Zhao. CCS, 2019.
ニューラルネットワークにおけるアーキテクチャバックドア。 [pdf]
- Mikel Bober-Irizar, Ilia Shumailov, Yiren Zhao, Robert Mullins, and Nicolas Papernot. arXiv, 2022.
事前学習モデルへのレッドアラーム：ニューロンレベルのバックドア攻撃による普遍的脆弱性。 [pdf] [code]

強化学習

強化学習におけるバックドア方策に対する証明可能な防御。 [pdf] [code]
- Shubham Kumar Bharti, Xuezhou Zhang, Adish Singla, and Jerry Zhu. NeurIPS, 2022.
MARNet：協調型マルチエージェント強化学習に対するバックドア攻撃。 [link]
- Yanjiao Chen, Zhicong Zheng, and Xueluan Gong. IEEE Transactions on Dependable and Secure Computing, 2022.
BACKDOORL：競争型強化学習に対するバックドア攻撃。 [pdf]
- Lun Wang, Zaynah Javed, Xian Wu, Wenbo Guo, Xinyu Xing, and Dawn Song. IJCAI, 2021.
Stop-and-Go：深層強化学習に基づく交通渋滞制御システムへのバックドア攻撃の調査。 [pdf]
- Yue Wang, Esha Sarkar, Michail Maniatakos, and Saif Eddin Jabari. IEEE Transactions on Information Forensics and Security, 2021.
Agent Manipulator：深層強化学習に対するステルスな戦略攻撃。 [link]
- Jinyin Chen, Xueke Wang, Yan Zhang, Haibin Zheng, Shanqing Yu, and Liang Bao. Applied Intelligence, 2022.
TrojDRL：深層強化学習に対するバックドア攻撃の評価。 [pdf] [code]
- Panagiota Kiourti, Kacper Wardega, Susmit Jha, and Wenchao Li. DAC, 2020.
分布内トリガーによる深層強化学習エージェントへのポイズニング。 [pdf]
- Chace Ashcraft and Kiran Karra. ICLR Workshop, 2021.
深層強化学習に対する時間パターンバックドア攻撃。 [pdf]
- Yinbo Yu, Jiajia Liu, Shouqing Li, Kepu Huang, and Xudong Feng. arXiv, 2022.
強化学習におけるバックドア検出。 [pdf]
- Junfeng Guo, Ang Li, and Cong Liu. arXiv, 2022.
系列モデルにおける意図的バックドアの設計。

半教師あり学習と自己教師あり学習

自己教師あり学習に対するバックドア攻撃。 [pdf] [code]
- Aniruddha Saha, Ajinkya Tejankar, Soroush Abbasi Koohpayegani, and Hamed Pirsiavash. CVPR, 2022.
対照学習へのポイズニングとバックドア注入。 [pdf]
- Nicholas Carlini and Andreas Terzis. ICLR, 2022.
BadEncoder：自己教師あり学習における事前学習済みエンコーダへのバックドア攻撃。 [pdf] [code]
- Jinyuan Jia, Yupei Liu, and Neil Zhenqiang Gong. IEEE S&P, 2022.
DeHiB：敵対的摂動による半教師あり学習への深い隠れバックドア攻撃。 [pdf]
- Zhicong Yan, Gaolei Li, Yuan Tian, Jun Wu, Shenghong Li, Mingzhe Chen, and H. Vincent Poor. AAAI, 2021.
半教師あり学習における深層ニューラルバックドア：脅威と対策。 [link]
- Zhicong Yan, Jun Wu, Gaolei Li, Shenghong Li, and Mohsen Guizani. IEEE Transactions on Information Forensics and Security, 2021.
マスク画像モデリングのサプライチェーンにおけるバックドア攻撃。 [pdf]
- Xinyue Shen, Xinlei He, Zheng Li, Yun Shen, Michael Backes, and Yang Zhang. arXiv, 2022.
対照学習における事前学習済みエンコーダへの透かし入れ。 [pdf]
- Yutong Wu, Han Qiu, Tianwei Zhang, Jiwei Li, and Meikang Qiu. arXiv, 2022.

量子化

RIBAC：コンパクトDNNに対するロバストかつ知覚不可能なバックドア攻撃を目指して。 [pdf] [code]
- Huy Phan, Cong Shi, Yi Xie, Tianfang Zhang, Zhuohang Li, Tianming Zhao, Jian Liu, Yan Wang, Yingying Chen, and Bo Yuan. ECCV, 2022.
Qu-ANTI-zation：敵対的成果を達成するための量子化アーティファクトの悪用。 [pdf] [code]
- Sanghyun Hong, Michael-Andrei Panaitescu-Liess, Yiğitcan Kaya, and Tudor Dumitraş. NeurIPS, 2021.
モデルサプライチェーンにおけるトロイの木馬化された量子化ニューラルネットワークの脅威の理解。 [pdf]
- Xudong Pan, Mi Zhang, Yifan Yan, and Min Yang. ACSAC, 2021
深層学習モデルに対する量子化バックドア。 [pdf]
- Hua Ma, Huming Qiu, Yansong Gao, Zhi Zhang, Alsharif Abuadbba, Anmin Fu, Said Al-Sarawi, and Derek Abbott. arXiv, 2021.
圧縮アーティファクトとしてのステルスなバックドア。 [pdf]
- Yulong Tian, Fnu Suya, Fengyuan Xu, and David Evans. arXiv, 2021.

自然言語処理

TrojText：テスト時不可視テキストトロイの挿入。 [pdf] [code]
- Qian Lou, Yepeng Liu, and Bo Feng. ICLR, 2023.
自然言語生成におけるバックドア攻撃への防御。 [link]
- Xiaofei Sun, Xiaoya Li, Yuxian Meng, Xiang Ao, Lingjuan Lyu, Jiwei Li, and Tianwei Zhang. AAAI, 2023.
正則化された継続的事前学習による事前学習モデルのバックドア除去。 [pdf] [code]
- Biru Zhu, Ganqu Cui, Yangyi Chen, Yujia Qin, Lifan Yuan, Chong Fu, Yangdong Deng, Zhiyuan Liu, Maosong Sun, Ming Gu. Transactions of the Association for Computational Linguistics, 2023.
BadPrompt：連続プロンプトに対するバックドア攻撃。 [pdf] [code]
- Xiangrui Cai, haidong xu, Sihan Xu, Ying Zhang, and Xiaojie Yuan. NeurIPS, 2022.
事前学習言語モデルのための自然なバックドアディフェンダーとしてのModerate-fitting [pdf] [code]
- Biru Zhu, Yujia Qin, Ganqu Cui, Yangyi Chen, Weilin Zhao, Chong Fu, Yangdong Deng, Zhiyuan Liu, Jingang Wang, Wei Wu, Maosong Sun, and Ming Gu. NeurIPS, 2022.
テキストバックドア学習の統一的評価：フレームワークとベンチマーク。 [pdf] [code]
- Ganqu Cui, Lifan Yuan, Bingxiang He, Yangyi Chen, Zhiyuan Liu, and Maosong Sun. NeurIPS, 2022.
スピニング言語モデル：プロパガンダ・アズ・ア・サービスのリスクと対策 [pdf] [code]
- Eugene Bagdasaryan and Vitaly Shmatikov. IEEE S&P, 2022.
PICCOLO：NLPトランスフォーマーモデルにおける複雑なバックドアの暴露。 [pdf]

グラフニューラルネットワーク

Transferable Graph Backdoor Attack. [pdf]
- Shuiqiao Yang, Bao Gia Doan, Paul Montague, Olivier De Vel, Tamas Abraham, Seyit Camtepe, Damith C. Ranasinghe, and Salil S. Kanhere. RAID, 2022.
More is Better (Mostly): On the Backdoor Attacks in Federated Graph Neural Networks. [pdf]
- Jing Xu, Rui Wang, Kaitai Liang, and Stjepan Picek. ACSAC, 2022.
Graph Backdoor. [pdf] [code]
- Zhaohan Xi, Ren Pang, Shouling Ji, and Ting Wang. USENIX Security, 2021.
Backdoor Attacks to Graph Neural Networks. [pdf]
- Zaixi Zhang, Jinyuan Jia, Binghui Wang, and Neil Zhenqiang Gong. SACMAT, 2021.
Defending Against Backdoor Attack on Graph Nerual Network by Explainability. [pdf]
- Bingchen Jiang and Zhao Li. arXiv, 2022.
Link-Backdoor: Backdoor Attack on Link Prediction via Node Injection. [pdf] [code]
- Haibin Zheng, Haiyang Xiong, Haonan Ma, Guohan Huang, and Jinyin Chen. arXiv, 2022.
Neighboring Backdoor Attacks on Graph Convolutional Network. [pdf]
- Liang Chen, Qibiao Peng, Jintang Li, Yang Liu, Jiawei Chen, Yong Li, and Zibin Zheng. arXiv, 2022.
Dyn-Backdoor: Backdoor Attack on Dynamic Link Prediction. [pdf]
- Jinyin Chen, Haiyang Xiong, Haibin Zheng, Jian Zhang, Guodong Jiang, and Yi Liu. arXiv, 2021.
Explainability-based Backdoor Attacks Against Graph Neural Networks. [pdf]
- Jing Xu, Minhui, Xue, and Stjepan Picek. arXiv, 2021.

点群

A Backdoor Attack against 3D Point Cloud Classifiers. [pdf] [code]
- Zhen Xiang, David J. Miller, Siheng Chen, Xi Li, and George Kesidis. ICCV, 2021.
PointBA: Towards Backdoor Attacks in 3D Point Cloud. [pdf]
- Xinke Li, Zhiru Chen, Yue Zhao, Zekun Tong, Yabang Zhao, Andrew Lim, and Joey Tianyi Zhou. ICCV, 2021.
Imperceptible and Robust Backdoor Attack in 3D Point Cloud. [pdf]
- Kuofeng Gao, Jiawang Bai, Baoyuan Wu, Mengxi Ya, and Shu-Tao Xia. arXiv, 2022.
Detecting Backdoor Attacks Against Point Cloud Classifiers. [pdf]
- Zhen Xiang, David J. Miller, Siheng Chen, Xi Li, and George Kesidis. arXiv, 2021.
Poisoning MorphNet for Clean-Label Backdoor Attack to Point Clouds. [pdf]
- Guiyu Tian, Wenhao Jiang, Wei Liu, and Yadong Mu. arXiv, 2021.

音響信号処理

Toward Stealthy Backdoor Attacks against Speech Recognition via Elements of Sound. [pdf] [code]
- Hanbo Cai, Pengcheng Zhang, Hai Dong, Yan Xiao, Stefanos Koffas, Yiming Li. IEEE Transactions on Information Forensics and Security, 2024.
Breaking Speaker Recognition with Paddingback. [link]
- Zhe Ye, Diqun Yan, Li Dong, Kailai Shen. ICASSP, 2024.
Inaudible Backdoor Attack via Stealthy Frequency Trigger Injection in Audio Spectrogram. [link]
- Tianfang Zhang, Huy Phan, Zijie Tang, Cong Shi, Yan Wang, Bo Yuan, Yingying Chen. ACM MobiCom, 2024.
SilentTrig: An imperceptible backdoor attack against speaker identification with hidden triggers. [link]
- Yu Tang, Lijuan Sun, Xiaolong Xu. Pattern Recognition Letters, 2024.
Devil in the Room: Triggering Audio Backdoors in the Physical World. [pdf]
- Meng Chen, Xiangyu Xu, Li Lu, Zhongjie Ba, Feng Lin, and Kui Ren. USENIX, 2023.
The Silent Manipulator: A Practical and Inaudible Backdoor Attack against Speech Recognition Systems. [link]
- Zhicong Zheng, Xinfeng Li, Chen Yan, Xiaoyu Ji, Wenyuan Xu. ACM MM, 2023.
Going in Style: Audio Backdoors Through Stylistic Transformations. [pdf]
- Stefanos Koffas, Luca Pajola, Stjepan Picek, and Mauro Conti. ICASSP, 2023.
VenoMave: Targeted Poisoning Against Speech Recognition. [pdf]
- Hojjat Aghakhani, Lea Schönherr, Thorsten Eisenhofer, Dorothea Kolossa, Thorsten Holz, Christopher Kruegel, Giovanni Vigna. SaTML, 2023.

医学

FIBA: Frequency-Injection based Backdoor Attack in Medical Image Analysis. [pdf]
- Yu Feng, Benteng Ma, Jing Zhang, Shanshan Zhao, Yong Xia, and Dacheng Tao. CVPR, 2022.
Exploiting Missing Value Patterns for a Backdoor Attack on Machine Learning Models of Electronic Health Records: Development and Validation Study. [link]
- Byunggill Joe, Yonghyeon Park, Jihun Hamm, Insik Shin, and Jiyeon Lee. JMIR Medical Informatics, 2022.
Machine Learning with Electronic Health Records is vulnerable to Backdoor Trigger Attacks. [pdf]
- Byunggill Joe, Akshay Mehra, Insik Shin, and Jihun Hamm. AAAI Workshop, 2021.
Explainability Matters: Backdoor Attacks on Medical Imaging. [pdf]
- Munachiso Nwadike, Takumi Miyawaki, Esha Sarkar, Michail Maniatakos, and Farah Shamout. AAAI Workshop, 2021.
TRAPDOOR: Repurposing Backdoors to Detect Dataset Bias in Machine Learning-based Genomic Analysis. [pdf]
- Esha Sarkar and Michail Maniatakos. arXiv, 2021.

ビジョントランスフォーマー

You Are Catching My Attention: Are Vision Transformers Bad Learners Under Backdoor Attacks? [pdf]
- Zenghui Yuan, Pan Zhou, Kai Zou, and Yu Cheng. CVPR, 2023.
TrojViT: Trojan Insertion in Vision Transformers. [pdf]
- Mengxin Zheng, Qian Lou, and Lei Jiang. CVPR, 2023.
Defending Backdoor Attacks on Vision Transformer via Patch Processing. [link]
- Khoa D. Doan, Yingjie Lao, Peng Yang, and Ping Li. AAAI, 2023.
Backdoor Attacks on Vision Transformers. [pdf] [code]
- Akshayvarun Subramanya, Aniruddha Saha, Soroush Abbasi Koohpayegani, Ajinkya Tejankar, and Hamed Pirsiavash. arXiv, 2022.
TrojViT: Trojan Insertion in Vision Transformers. [pdf]
- Mengxin Zheng, Qian Lou, and Lei Jiang. arXiv, 2022.
Attention Hijacking in Trojan Transformers. [pdf]
- Weimin Lyu, Songzhu Zheng, Tengfei Ma, Haibin Ling, and Chao Chen. arXiv, 2022.
DBIA: Data-free Backdoor Injection Attack against Transformer Networks. [pdf] [code]
- Peizhuo Lv, Hualong Ma, Jiachen Zhou, Ruigang Liang, Kai Chen, Shengzhi Zhang, and Yunfei Yang. arXiv, 2021.

拡散モデル

How to Backdoor Diffusion Models? [pdf] [code]
- Sheng-Yen Chou, Pin-Yu Chen, and Tsung-Yi Ho. CVPR, 2023.
TrojDiff: Trojan Attacks on Diffusion Models With Diverse Targets. [pdf] [code]
- Weixin Chen, Dawn Song, and Bo Li. CVPR, 2023.

サイバーセキュリティ

VulnerGAN: A Backdoor Attack through Vulnerability Amplification against Machine Learning-based Network Intrusion Detection Systems. [link] [code]
- Guangrui Liu, Weizhe Zhang, Xinjie Li, Kaisheng Fan, and Shui Yu. Information Sciences, 2022.
Explanation-Guided Backdoor Poisoning Attacks Against Malware Classifiers. [pdf]
- Giorgio Severi, Jim Meyer, Scott Coull, and Alina Oprea. USENIX Security, 2021.
Backdoor Attack on Machine Learning Based Android Malware Detectors. [link]
- Chaoran Li, Xiao Chen, Derui Wang, Sheng Wen, Muhammad Ejaz Ahmed, Seyit Camtepe, and Yang Xiang. IEEE Transactions on Dependable and Secure Computing, 2021.
Jigsaw Puzzle: Selective Backdoor Attack to Subvert Malware Classifiers. [pdf]
- Limin Yang, Zhi Chen, Jacopo Cortellazzi, Feargus Pendlebury, Kevin Tu, Fabio Pierazzi, Lorenzo Cavallaro, and Gang Wang. arXiv, 2022.

検出と追跡

Clean-image Backdoor: Attacking Multi-label Models with Poisoned Labels Only. [pdf] [code]
- Kangjie Chen, Xiaoxuan Lou, Guowen Xu, Jiwei Li, and Tianwei Zhang. ICLR, 2023.
Untargeted Backdoor Attack against Object Detection. [pdf] [code]
- Chengxiao Luo, Yiming Li, Yong Jiang, and Shu-Tao Xia. ICASSP, 2023.
Few-Shot Backdoor Attacks on Visual Object Tracking. [pdf] [code]
- Yiming Li, Haoxiang Zhong, Xingjun Ma, Yong Jiang, and Shu-Tao Xia. ICLR, 2022.
BadDet: Backdoor attacks on object detection. [pdf]
- Shih-Han Chan, Yinpeng Dong, Jun Zhu, Xiaolu Zhang, and Jun Zhou. ECCV Workshop, 2022.
Attacking by Aligning: Clean-Label Backdoor Attacks on Object Detection. [pdf]
- Yize Cheng, Wenbin Hu, Minhao Cheng. arXiv, 2023.
Mask-based Invisible Backdoor Attacks on Object Detection. [pdf]
- Jeongjin Shin. arXiv, 2024.
TAT: Targeted Backdoor Attacks against Visual Object Tracking. [link] [code]
- Ziyi Cheng, Baoyuan Wu, Zhenya Zhang, and Jianjun Zhao. Pattern Recognition, 2023.

その他

The Dark Side of AutoML: Towards Architectural Backdoor Search. [pdf] [code]
- Ren Pang, Changjiang Li, Zhaohan Xi, Shouling Ji, and Ting Wang. ICLR, 2023.
Backdoor Attacks Against Deep Image Compression via Adaptive Frequency Trigger. [pdf] Yi Yu, Yufei Wang, Wenhan Yang, Shijian Lu, Yap-Peng Tan, and Alex C. Kot. CVPR, 2023.
The Dark Side of Dynamic Routing Neural Networks: Towards Efficiency Backdoor Injection. [pdf]
- Simin Chen, Hanlin Chen, Mirazul Haque, Cong Liu, and Wei Yang. CVPR, 2023.
Backdoor Attacks on Crowd Counting. [pdf]
- Yuhua Sun, Tailai Zhang, Xingjun Ma, Pan Zhou, Jian Lou, Zichuan Xu, Xing Di, Yu Cheng, and Lichao Sun. ACM MM, 2022.
Backdoor Attacks on the DNN Interpretation System. [pdf]
- Shihong Fang and Anna Choromanska. AAAI, 2022.
The Devil is in the GAN: Defending Deep Generative Models Against Backdoor Attacks. [pdf] [code] [demo]
- Ambrish Rawat, Killian Levacher, and Mathieu Sinn. ESORICS, 2022.
Object-Oriented Backdoor Attack Against Image Captioning. [link]
- Meiling Li, Nan Zhong, Xinpeng Zhang, Zhenxing Qian, and Sheng Li. ICASSP, 2022.
When Does Backdoor Attack Succeed in Image Reconstruction? A Study of Heuristics vs. Bi-Level Solution. [link]

backdoor-learning-resources

人気