Ресурсы по Backdoor Learning

Этот репозиторий Github содержит список ресурсов по Backdoor Learning. Более подробную информацию и критерии категоризации см. в нашем обзоре.

Мы будем стараться регулярно обновлять этот репозиторий Github ежемесячно.

Зачем нужно Backdoor Learning?

Backdoor learning — это новая область исследований, в которой рассматриваются проблемы безопасности процесса обучения алгоритмов машинного обучения. Это критически важно для безопасного использования сторонних обучающих ресурсов или моделей на практике.

Примечание: «Backdoor» также часто называют «Neural Trojan» или «Trojan».

Новости

2023/7/24: Я добавил десять статей ICLR'23. Теперь должны быть включены все статьи с этой конференции.
2023/7/23: Я добавил семь статей NeurIPS'22 и четыре статьи AAAI'23. Теперь должны быть включены все статьи с этих конференций.
2023/01/25: Приношу свои извинения за то, что в последнее время приостановил чтение соответствующих статей и обновление этого репозитория из-за личных обстоятельств, таких как болезнь и написание докторской диссертации. Я возобновлю обновления после июня 2023 года.
2022/12/05: Я немного изменил формат репозитория, разместив статьи конференций перед журнальными статьями. В частности, в пределах одного года следует размещать конференционную статью перед журнальной, поскольку журнальные статьи обычно подаются задолго до публикации и поэтому имеют некоторую задержку.
2022/12/05: Я добавил три статьи ECCV'22. Теперь должны быть включены все статьи с этой конференции.

Ссылка

Если наш репозиторий или обзор окажутся полезными для вашего исследования, пожалуйста, процитируйте нашу статью следующим образом:``` @article{li2022backdoor, title={Backdoor learning: A survey}, author={Li, Yiming and Jiang, Yong and Li, Zhifeng and Xia, Shu-Tao}, journal={IEEE Transactions on Neural Networks and Learning Systems}, year={2022} }

## Вклад
<p align="center">
  <img src="https://assets.kitploit.com/production/public/readmes/placeholders/f0fc86cfe65f76d40e15aaec61704ec8220a56dc89d4be03c46f67cb31b9fa8c.svg" alt="Вы нам нужны!">
</p>

Пожалуйста, помогите внести вклад в этот список, связавшись со [мной](http://liyiming.tech) или отправив [pull request](https://github.com/THUYimingLi/awesome-backdoor-learning/pulls)

Формат Markdown:```markdown
- Paper Name. 
  [[pdf]](link) 
  [[code]](link)
  - Author 1, Author 2, **and** Author 3. *Conference/Journal*, Year.

Примечание: В том же году, пожалуйста, размещайте статью конференции перед статьёй журнала, поскольку журналы обычно подаются задолго до этого и поэтому имеют некоторую задержку. (т.е., Конференции-->Журналы-->Препринты)

Обзор

Бэкдор-обучение: обзор. [pdf]
- Yiming Li, Yong Jiang, Zhifeng Li, and Shu-Tao Xia. IEEE Transactions on Neural Networks and Learning Systems, 2022.
Бэкдор-атаки и контрмеры в глубоком обучении: всесторонний обзор. [pdf]
- Yansong Gao, Bao Gia Doan, Zhi Zhang, Siqi Ma, Anmin Fu, Surya Nepal, and Hyoungshick Kim. arXiv, 2020.
Безопасность данных для машинного обучения: отравление данных, бэкдор-атаки и защита. [pdf]
- Micah Goldblum, Dimitris Tsipras, Chulin Xie, Xinyun Chen, Avi Schwarzschild, Dawn Song, Aleksander Madry, Bo Li, and Tom Goldstein. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2022.
Всесторонний обзор атак отравлением и контрмер в машинном обучении. [ссылка]
- Zhiyi Tian, Lei Cui, Jie Liang, and Shui Yu. ACM Computing Surveys, 2022.
Бэкдор-атаки и защита в федеративном обучении: современное состояние, таксономия и будущие направления. [ссылка]
- Xueluan Gong, Yanjiao Chen, Qian Wang, and Weihan Kong. IEEE Wireless Communications, 2022.
Бэкдор-атаки на модели классификации изображений в глубоких нейронных сетях. [ссылка]
- Quanxin Zhang, Wencong Ma, Yajie Wang, Yaoyuan Zhang, Zhiwei Shi, and Yuanzhang Li. Chinese Journal of Electronics, 2022.
Защита от нейронных троянских атак: обзор. [ссылка]
- Sara Kaviani and Insoo Sohn. Neurocomputing, 2021.
Обзор нейронных троянов. [pdf]
- Yuntao Liu, Ankit Mondal, Abhishek Chakraborty, Michael Zuzak, Nina Jacobsen, Daniel Xing, and Ankur Srivastava. ISQED, 2020.
Бэкдор-атаки на системы распознавания голоса: обзор.

Инструменты

Диссертации и дипломные работы

Бэкдор-атаки на основе отравления в компьютерном зрении. [pdf]
- Yiming Li. Докторская диссертация, Университет Цинхуа, 2023.
Защита от бэкдор-атак на классификаторы глубоких нейронных сетей. [pdf]
- Zhen Xiang. Докторская диссертация, Университет штата Пенсильвания, 2022.
К устойчивости глубокого обучения к состязательным и бэкдор-атакам. [ссылка]
- Yifan Guo. Докторская диссертация, Университет Кейс Вестерн Резерв, 2022.
К устойчивому и коммуникационно-эффективному распределённому машинному обучению. [pdf]
- Hongyi Wang. Докторская диссертация, Висконсинский университет в Мадисоне, 2021.
К устойчивой классификации изображений с помощью глубокого обучения и вывода DNN в реальном времени на мобильных устройствах. [pdf]
- Pu Zhao. Докторская диссертация, Северо-Восточный университет, 2021.
Контрмеры против бэкдор-атак, отравления данных и состязательных атак. [pdf]
- Henry Daniel. Докторская диссертация, Техасский университет в Сан-Антонио, 2021.
Понимание и снижение влияния бэкдор-атак на глубокие нейронные сети. [pdf]
- Kang Liu. Докторская диссертация, Нью-Йоркский университет, 2021.
Несправедливый троян: целенаправленные бэкдор-атаки против справедливости моделей. [pdf]
- Nicholas Furth. Магистерская диссертация, Технологический институт Нью-Джерси, 2022.
Проверьте свою другую дверь: создание бэкдор-атак в частотной области.

Классификация изображений и видео

Атака на основе отравления

2023

Пересмотр предположения о разделимости в скрытом пространстве для защиты от бэкдоров. [pdf] [code]
- Xiangyu Qi, Tinghao Xie, Yiming Li, Saeed Mahloujifar, and Prateek Mittal. ICLR, 2023.
Бэкдор-атаки в режиме нескольких примеров с помощью нейронных касательных ядер. [pdf] [code]
- Jonathan Hayase and Sewoong Oh. ICLR, 2023.
Цветовой бэкдор: устойчивая атака отравлением в цветовом пространстве. [pdf]
- Wenbo Jiang, Hongwei Li, Guowen Xu, and Tianwei Zhang. CVPR, 2023.

2022

Ненаправленный бэкдор-водяной знак: к безвредной и скрытной защите авторских прав на наборы данных. [pdf] [code]
- Yiming Li, Yang Bai, Yong Jiang, Yong Yang, Shu-Tao Xia, and Bo Li. NeurIPS, 2022.
DEFEAT: бэкдор-атаки на глубокие скрытые признаки с помощью незаметных возмущений и ограничений на скрытые представления. [pdf]
- Zhendong Zhao, Xiaojun Chen, Yuexin Xuan, Ye Dong, Dakui Wang, and Kaitai Liang. CVPR, 2022.
Marksman Backdoor: бэкдор-атаки с произвольным целевым классом. [pdf]
- Khoa D Doan, Yingjie Lao, and Ping Li. NeurIPS, 2022.
Невидимая black-box бэкдор-атака через частотную область. [pdf] [code]
- Tong Wang, Yuan Yao, Feng Xu, Shengwei An, Hanghang Tong, and Ting Wang. ECCV, 2022.
BppAttack: скрытые и эффективные троянские атаки на глубокие нейронные сети с помощью квантования изображений и контрастного состязательного обучения. [pdf] [code]
- Zhenting Wang, Juan Zhai, and Shiqing Ma. CVPR, 2022.
Динамические бэкдор-атаки на модели машинного обучения. [pdf]
- Ahmed Salem, Rui Wen, Michael Backes, Shiqing Ma, and Yang Zhang. EuroS&P, 2022.
Незаметная бэкдор-атака: от пространства входных данных к представлению признаков. [pdf] [code]

2021

Невидимая бэкдор-атака с триггерами, специфичными для образца. [pdf] [code]
- Yuezun Li, Yiming Li, Baoyuan Wu, Longkang Li, Ran He, and Siwei Lyu. ICCV, 2021.
Манипулирование SGD с помощью атак на порядок данных. [pdf]
- Ilia Shumailov, Zakhar Shumaylov, Dmitry Kazhdan, Yiren Zhao, Nicolas Papernot, Murat A. Erdogdu, and Ross Anderson. NeurIPS, 2021.
Бэкдор-атака с незаметным входом и модификацией скрытого пространства. [pdf]
- Khoa Doan, Yingjie Lao, and Ping Li. NeurIPS, 2021.
LIRA: обучаемые, незаметные и устойчивые бэкдор-атаки. [pdf]
- Khoa Doan, Yingjie Lao, Weijie Zhao, and Ping Li. ICCV, 2021.
Слепые бэкдоры в моделях глубокого обучения. [pdf] [code]
- Eugene Bagdasaryan, and Vitaly Shmatikov. USENIX Security, 2021.
Бэкдор-атаки на системы глубокого обучения в физическом мире. [pdf] [Магистерская диссертация]
- Emily Wenger, Josephine Passanati, Yuanshun Yao, Haitao Zheng, and Ben Y. Zhao. CVPR, 2021.
Троянская атака на глубокое пространство признаков нейронных сетей с помощью контролируемой детоксикации. [pdf] [code]
- Siyuan Cheng, Yingqi Liu, Shiqing Ma, and Xiangyu Zhang. AAAI, 2021.
WaNet — незаметная бэкдор-атака на основе деформации. [pdf]

2020

Композитная бэкдор-атака на глубокие нейронные сети путём смешивания существующих безвредных признаков. [pdf]
- Junyu Lin, Lei Xu, Yingqi Liu, Xiangyu Zhang. CCS, 2020.
Динамическая бэкдор-атака с учётом входных данных. [pdf] [код]
- Anh Nguyen, and Anh Tran. NeurIPS, 2020.
Обход алгоритмов обнаружения бэкдоров в глубоком обучении. [pdf]
- Te Juin Lester Tan, and Reza Shokri. EuroS&P, 2020.
Встраивание бэкдоров в модели свёрточных нейронных сетей с помощью невидимого возмущения. [pdf]
- Cong Liao, Haoti Zhong, Anna Squicciarini, Sencun Zhu, and David Miller. ACM CODASPY, 2020.
Бэкдор-атаки с чистыми метками на модели распознавания видео. [pdf] [код]
- Shihao Zhao, Xingjun Ma, Xiang Zheng, James Bailey, Jingjing Chen, and Yu-Gang Jiang. CVPR, 2020.
Уклонение от обнаружения бэкдор-атак в глубоком обучении. [ссылка]
- Yayuan Xiong, Fengyuan Xu, Sheng Zhong, and Qun Li. IFIP SEC, 2020.
Reflection Backdoor: естественная бэкдор-атака на глубокие нейронные сети. [pdf] [код]
- Yunfei Liu, Xingjun Ma, James Bailey, and Feng Lu. ECCV, 2020.
«Живые» троянские атаки на глубокие нейронные сети. [pdf] [код]

2019

Новая бэкдор-атака на CNN путём повреждения обучающего набора без отравления меток. [pdf]
- M.Barni, K.Kallas, and B.Tondi. ICIP, 2019.
Бэкдор-атаки с согласованными метками. [pdf] [код]
- Alexander Turner, Dimitris Tsipras, and Aleksander Madry. arXiv, 2019.

2018

Троянская атака на нейронные сети. [pdf] [код]
- Yingqi Liu, Shiqing Ma, Yousra Aafer, Wen-Chuan Lee, and Juan Zhai. NDSS, 2018.

2017

BadNets: выявление уязвимостей в цепочке поставок моделей машинного обучения. [pdf] [журнал]
- Tianyu Gu, Brendan Dolan-Gavitt, and Siddharth Garg. arXiv, 2017 (IEEE Access, 2019).
Целенаправленные бэкдор-атаки на системы глубокого обучения с использованием отравления данных. [pdf] [код]
- Xinyun Chen, Chang Liu, Bo Li, Kimberly Lu, and Dawn Song. arXiv, 2017.

Атаки, не основанные на отравлении данных

Атаки, направленные на веса

Созданные вручную бэкдоры в глубоких нейронных сетях. [pdf]
- Sanghyun Hong, Nicholas Carlini, and Alexey Kurakin. NeurIPS, 2022.
Едва заметная троянская атака на нейронные сети с переворотом битов. [pdf] [код]
- Jiawang Bai, Kuofeng Gao, Dihong Gong, Shu-Tao Xia, Zhifeng Li, and Wei Liu. ECCV, 2022.
ProFlip: целенаправленная троянская атака с прогрессивным переворотом битов. [pdf]
- Huili Chen, Cheng Fu, Jishen Zhao, and Farinaz Koushanfar. ICCV, 2021.
TBT: целенаправленная атака на нейронную сеть с битовым трояном. [pdf] [код]
- Adnan Siraj Rakin, Zhezhi He, and Deliang Fan. CVPR, 2020.
Как внедрять бэкдоры с лучшей согласованностью: якорение логитов на чистых данных. [pdf]
- Zhiyuan Zhang, Lingjuan Lyu, Weiqiang Wang, Lichao Sun, and Xu Sun. ICLR, 2022.
Могут ли состязательные возмущения весов внедрять нейронные бэкдоры? [pdf]
- Siddhant Garg, Adarsh Kumar, Vibhor Goel, and Yingyu Liang. CIKM, 2020.
Универсальная атака на веса посредством переворота ограниченного числа битов. [pdf]
- Jiawang Bai, Baoyuan Wu, Zhifeng Li, and Shu-Tao Xia. arXiv, 2022.
К реалистичным атакам внедрения бэкдоров в DNN с использованием Rowhammer. [pdf]
- M. Caner Tol, Saad Islam, Berk Sunar, and Ziming Zhang. 2022.

Атаки с модификацией структуры

LoneNeuron: высокоэффективный нейронный троян в пространстве признаков, использующий невидимые и полиморфные водяные знаки. [pdf]
- Zeyan Liu, Fengjun Li, Zhu Li, and Bo Luo. CCS, 2022.
К практической бэкдор-атаке на этапе развёртывания глубоких нейронных сетей. [pdf] [код]
- Xiangyu Qi, Tinghao Xie, Ruizhe Pan, Jifeng Zhu, Yong Yang, and Kai Bu. CVPR, 2022.
Прятать иголки в стоге сена: к созданию нейронных сетей, уклоняющихся от верификации. [ссылка] [код]
- Árpád Berta, Gábor Danner, István Hegedűs and Márk Jelasity. ACM IH&MMSec, 2022.
Скрытный и гибкий троян в фреймворке глубокого обучения. [ссылка]
- Yajie Wang, Kongyang Chen, Yu-An Tan, Shuxin Huang, Wencong Ma, and Yuanzhang Li. IEEE Transactions on Dependable and Secure Computing, 2022.
FooBaR: бэкдор-атака с обманом сбоев на обучение нейронной сети. [ссылка] [код]
- Jakub Breier, Xiaolu Hou, Martín Ochoa and Jesus Solano. IEEE Transactions on Dependable and Secure Computing, 2022.
DeepPayload: black-box бэкдор-атака на модели глубокого обучения посредством инъекции нейронной полезной нагрузки. [pdf]
- Yuanchun Li, Jiayi Hua, Haoyu Wang, Chunyang Chen, and Yunxin Liu. ICSE, 2021.
До неприличия простой подход к троянской атаке в глубоких нейронных сетях. [pdf] [код]
- Ruixiang Tang, Mengnan Du, Ninghao Liu, Fan Yang, and Xia Hu. KDD, 2020.
BadRes: выявление бэкдоров через остаточные соединения.

Прочие атаки

ImpNet: незаметные и необнаруживаемые black-box бэкдоры в скомпилированных нейронных сетях. [pdf] [сайт] [код]
- Tim Clifford, Ilia Shumailov, Yiren Zhao, Ross Anderson, and Robert Mullins. arXiv, 2022.
Не триггерь меня! Бэкдор-атака без триггера на глубокие нейронные сети. [pdf]
- Ahmed Salem, Michael Backes, and Yang Zhang. arXiv, 2020.

Защита от бэкдоров

Эмпирическая защита на основе предобработки

Бэкдор-атака в физическом мире. [pdf] [расширение]
- Yiming Li, Tongqing Zhai, Yong Jiang, Zhifeng Li, and Shu-Tao Xia. ICLR Workshop, 2021.
DeepSweep: фреймворк для оценки смягчения бэкдор-атак на DNN с использованием аугментации данных. [pdf] [код]
- Han Qiu, Yi Zeng, Shangwei Guo, Tianwei Zhang, Meikang Qiu, and Bhavani Thuraisingham. AsiaCCS, 2021.
Februus: защита путём очистки входных данных от троянских атак на системы глубоких нейронных сетей. [pdf] [код]
- Bao Gia Doan, Ehsan Abbasnejad, and Damith C. Ranasinghe. ACSAC, 2020.
Нейронные трояны. [pdf]
- Yuntao Liu, Yang Xie, and Ankur Srivastava. ICCD, 2017.
Защита глубоких нейронных сетей от бэкдор-атак с помощью де-триггерного автоэнкодера. [pdf]
- Hyun Kwon. IEEE Access, 2021.
ConFoc: защита с фокусом на содержимое от троянских атак на нейронные сети. [pdf]
- Miguel Villarreal-Vasquez, and Bharat Bhargava. arXiv, 2021.
Не зависящая от модели защита от бэкдор-атак в машинном обучении. [pdf]
- Sakshi Udeshi, Shanshan Peng, Gerald Woo, Lionell Loh, Louth Rawshan, and Sudipta Chattopadhyay. arXiv, 2019.

Эмпирическая защита на основе реконструкции модели

Очистка бэкдоров с использованием немаркированных данных. [pdf] [код]
- Lu Pang, Tao Sun, Haibin Ling, and Chao Chen. CVPR, 2023.
Состязательное разучивание бэкдоров с помощью неявного гиперградиента. [pdf] [код]
- Yi Zeng, Si Chen, Won Park, Z. Morley Mao, Ming Jin, and Ruoxi Jia. ICLR, 2022.
Удаление бэкдоров без использования данных на основе липшицевости каналов. [pdf] [код]
- Runkai Zheng, Rongjun Tang, Jianze Li, and Li Liu. ECCV, 2022.
Устранение бэкдор-триггеров для глубоких нейронных сетей с помощью дистилляции графа отношений внимания. [pdf]
- Jun Xia, Ting Wang, Jieping Ding, Xian Wei, and Mingsong Chen. IJCAI, 2022.
Распределения пред-активации выявляют бэкдор-нейроны. [pdf] [код]
- Runkai Zheng, Rongjun Tang, Jianze Li, and Li Liu. NeurIPS, 2022.
Состязательное прореживание нейронов очищает заражённые бэкдором глубокие модели. [pdf] [код]
- Dongxian Wu and Yisen Wang. NeurIPS, 2021.
Дистилляция нейронного внимания: стирание бэкдор-триггеров из глубоких нейронных сетей. [pdf] [код]
- Yige Li, Xingjun Ma, Nodens Koren, Lingjuan Lyu, Xixiang Lyu, and Bo Li. ICLR, 2021.

Эмпирическая защита на основе синтеза триггеров

Дистилляция когнитивных бэкдор-паттернов внутри изображения. [pdf] [код]
- Hanxun Huang, Xingjun Ma, Sarah Monazam Erfani, and James Bailey. ICLR, 2023.
UNICORN: унифицированный фреймворк инверсии бэкдор-триггеров. [pdf] [код]
- Zhenting Wang, Zhenting Wang, Kai Mei, Juan Zhai, and Shiqing Ma. ICLR, 2023.- Quarantine: разреженность позволяет без затрат выявить триггер троянской атаки. [pdf] [code]
- Tianlong Chen, Zhenyu Zhang, Yihua Zhang*, Shiyu Chang, Sijia Liu, and Zhangyang Wang. CVPR, 2022.
Улучшенная оптимизация инверсии триггеров при сканировании бэкдоров. [pdf] [code]
- Guanhong Tao, Guangyu Shen, Yingqi Liu, Shengwei An, Qiuling Xu, Shiqing Ma, Pan Li, and Xiangyu Zhang. CVPR, 2022.
Защита от бэкдоров в режиме few-shot с использованием оценки Шепли. [pdf]
- Jiyang Guan, Zhuozhuo Tu, Ran He, and Dacheng Tao. CVPR, 2022.
Переосмысление обратной разработки троянских триггеров. [pdf] [code]
- Zhenting Wang, Kai Mei, Hailun Ding, Juan Zhai, and Shiqing Ma. NeurIPS, 2022.
Одношаговое устранение нейронных бэкдоров с помощью состязательного маскирования весов. [pdf] [code]

Эмпирическая защита на основе диагностики модели

Обнаружение сложных бэкдоров с помощью симметричной разности признаков. [pdf] [code]
- Yingqi Liu, Guangyu Shen, Guanhong Tao, Zhenting Wang, Shiqing Ma, and Xiangyu Zhang. CVPR, 2022.
Обнаружение бэкдор-атак после обучения для сценариев с двумя классами и множественными атаками. [pdf] [code]
- Zhen Xiang, David J. Miller, and George Kesidis. ICLR, 2022.
Случайное перемешивание каналов: обнаружение бэкдор-атак с минимальными накладными расходами без чистых наборов данных. [pdf] [code]
- Ruisi Cai, Zhenyu Zhang, Tianlong Chen, Xiaohan Chen, and Zhangyang Wang. NeurIPS, 2022.
Подход к обнаружению аномалий для нейронных сетей с бэкдорами: на примере распознавания лиц. [pdf]
- Alexander Unnervik and Sébastien Marcel. BIOSIG, 2022.
Обнаружение бэкдоров в глубоких нейронных сетях на основе критических путей. [link]
- Wei Jiang, Xiangyu Wen, Jinyu Zhan, Xupeng Wang, Ziwei Song, and Chen Bian. IEEE Transactions on Neural Networks and Learning Systems, 2022.
Обнаружение троянов в ИИ с помощью мета-нейронного анализа. [pdf]
- Xiaojun Xu, Qi Wang, Huichen Li, Nikita Borisov, Carl A. Gunter, and Bo Li. IEEE S&P, 2021.
Топологическое обнаружение троянизированных нейронных сетей. [pdf]
- Songzhu Zheng, Yikai Zhang, Hubert Wagner, Mayank Goswami, and Chao Chen. NeurIPS, 2021.
Обнаружение бэкдор-атак в условиях чёрного ящика при ограниченной информации и данных.

Эмпирическая защита на основе подавления отравляющих данных

Защита от бэкдоров путём разделения процесса обучения. [pdf] [code]
- Kunzhe Huang, Yiming Li, Baoyuan Wu, Zhan Qin, and Kui Ren. ICLR, 2022.
Эффективная защита от бэкдоров за счёт использования чувствительности отравленных образцов. [pdf] [code]
- Weixin Chen, Baoyuan Wu, and Haoqian Wang. NeurIPS, 2022.
Trap and Replace: защита от бэкдор-атак путём заманивания их в легкозаменяемую подсеть. [pdf] [code]
- Haotao Wang, Junyuan Hong, Aston Zhang, Jiayu Zhou, and Zhangyang Wang. NeurIPS, 2022.
Обучение с большей уверенностью: смягчение внедрённых и естественных бэкдоров во время обучения. [pdf] [code]
- Zhenting Wang, Zhenting_Wang, Hailun Ding, Juan Zhai, and Shiqing Ma. NeurIPS, 2022.
Anti-Backdoor Learning: обучение чистых моделей на отравленных данных. [pdf] [code]
- Yige Li, Xixiang Lyu, Nodens Koren, Lingjuan Lyu, Bo Li, and Xingjun Ma. NeurIPS, 2021.
Устойчивое обнаружение аномалий и бэкдор-атак с помощью дифференциальной приватности. [pdf] [code]
- Min Du, Ruoxi Jia, and Dawn Song. ICLR, 2020.
Сильная аугментация данных нейтрализует атаки отравлением и бэкдоры без ущерба для точности. [pdf]
- Eitan Borgnia, Valeriia Cherepanova, Liam Fowl, Amin Ghiasi, Jonas Geiping, Micah Goldblum, Tom Goldstein, and Arjun Gupta. , 2021.

Эмпирическая защита на основе фильтрации выборок

SCALE-UP: эффективное обнаружение бэкдоров на уровне входных данных в условиях чёрного ящика путём анализа согласованности масштабированных предсказаний. [pdf] [code]
- Junfeng Guo, Yiming Li, Xun Chen, Hanqing Guo, Lichao Sun, and Cong Liu. ICLR, 2023.
Дистилляция когнитивных бэкдор-паттернов внутри изображения. [pdf] [code]
- Hanxun Huang, Xingjun Ma, Sarah Monazam Erfani, and James Bailey. ICLR, 2023.
Кластеризация несовместимости как защита от бэкдор-атак с отравлением. [pdf] [code]
- Charles Jin, Melinda Sun, and Martin Rinard. ICLR, 2023.
Воскрешения "Beatrix'': устойчивое обнаружение бэкдоров с помощью матриц Грама. [pdf] [code]
- Wanlun Ma, Derui Wang, Ruoxi Sun, Minhui Xue, Sheng Wen, and Yang Xiang. NDSS, 2023.
Эффективная защита от бэкдоров за счёт использования чувствительности отравленных образцов. [pdf] [code]
- Weixin Chen, Baoyuan Wu, and Haoqian Wang. NeurIPS, 2022.
К эффективной и устойчивой защите от нейронных троянов с помощью фильтрации входных данных. [pdf] [code]
- Kien Do, Haripriya Harikumar, Hung Le, Dung Nguyen, Truyen Tran, Santu Rana, Dang Nguyen, Willy Susilo, and Svetha Venkatesh. ECCV, 2022.
Можно ли смягчить бэкдор-атаку с помощью методов состязательного обнаружения? [link]

Сертифицированная защита

К сертификации робастности против универсальных возмущений. [pdf] [code]
- Yi Zeng, Zhouxing Shi, Ming Jin, Feiyang Kang, Lingjuan Lyu, Cho-Jui Hsieh, and Ruoxi Jia. ICLR, 2023.
BagFlip: сертифицированная защита от отравления данных. [pdf] [code]
- Yuhao Zhang, Aws Albarghouthi, and Loris D'Antoni. NeurIPS, 2022.
RAB: доказуемая робастность против бэкдор-атак. [pdf] [code]
- Maurice Weber, Xiaojun Xu, Bojan Karlas, Ce Zhang, and Bo Li. IEEE S&P, 2022.
Сертифицированная робастность ближайших соседей против отравления данных и бэкдор-атак. [pdf]
- Jinyuan Jia, Yupei Liu, Xiaoyu Cao, and Neil Zhenqiang Gong. AAAI, 2022.
Глубокая агрегация разбиений: доказуемая защита от общих атак с отравлением [pdf] [code]
- Alexander Levine and Soheil Feizi. ICLR, 2021.
Собственная сертифицированная робастность бэггинга против атак с отравлением данных [pdf] [code]
- Jinyuan Jia, Xiaoyu Cao, and Neil Zhenqiang Gong. AAAI, 2021.
Сертифицированная робастность к атакам с инвертированием меток с помощью рандомизированного сглаживания. [pdf]
- Elan Rosenfeld, Ezra Winston, Pradeep Ravikumar, and J. Zico Kolter. ICML, 2020.
О сертификации робастности против бэкдор-атак с помощью рандомизированного сглаживания. [pdf]

Атаки и защита в других парадигмах и задачах

Федеративное обучение

FLIP: доказуемая структура защиты для смягчения бэкдоров в федеративном обучении. [pdf] [code]
- Kaiyuan Zhang, Guanhong Tao, Qiuling Xu, Siyuan Cheng, Shengwei An, Yingqi Liu, Shiwei Feng, Guangyu Shen, Pin-Yu Chen, Shiqing Ma, and Xiangyu Zhang. ICLR, 2023.
Об уязвимости защит от бэкдоров для федеративного обучения. [link] [code]
- Pei Fang and Jinghui Chen. AAAI, 2023.
Отравление с помощью Цербера: скрытая бэкдор-атака на основе сговора против федеративного обучения. [link]
- Xiaoting Lyu, Yufei Han, Wei Wang, Jingkai Liu, Bin Wang, Jiqiang Liu, and Xiangliang Zhang. AAAI, 2023.
Neurotoxin: устойчивые бэкдоры в федеративном обучении. [pdf]
- Zhengming Zhang, Ashwinee Panda, Linyue Song, Yaoqing Yang, Michael W. Mahoney, Joseph E. Gonzalez, Kannan Ramchandran, and Prateek Mittal. ICML, 2022.
FLAME: укрощение бэкдоров в федеративном обучении. [pdf]
- Thien Duc Nguyen, Phillip Rieger, Huili Chen, Hossein Yalame, Helen Möllering, Hossein Fereidooni, Samuel Marchal, Markus Miettinen, Azalia Mirhoseini, Shaza Zeitouni, Farinaz Koushanfar, Ahmad-Reza Sadeghi, and Thomas Schneider. USENIX Security, 2022.
DeepSight: смягчение бэкдор-атак в федеративном обучении посредством глубокой инспекции моделей. [pdf]
- Phillip Rieger, Thien Duc Nguyen, Markus Miettinen, and Ahmad-Reza Sadeghi. NDSS, 2022.
Защита от атак на вывод меток и бэкдор-атак в вертикальном федеративном обучении. [pdf]
- Yang Liu, Zhihao Yi, Yan Kang, Yuanqin He, Wenhan Liu, Tianyuan Zou, and Qiang Yang. AAAI, 2022.
Анализ византийско-устойчивых механизмов агрегации при отравлении моделей в федеративном обучении.

Трансферное обучение

Инкрементальное обучение, инкрементальные угрозы бэкдоров. [link]
- Wenbo Jiang, Tianwei Zhang, Han Qiu, Hongwei Li, and Guowen Xu. IEEE Transactions on Dependable and Secure Computing, 2022.
Устойчивая инъекция бэкдоров с возможностью противостоять переносу сети. [link]
- Le Feng, Sheng Li, Zhenxing Qian, and Xinpeng Zhang. Information Sciences, 2022.
Атаки бэкдорами, устойчивые к дистилляции: бэкдоры действительно могут выживать при дистилляции знаний. [pdf]
- Yunjie Ge, Qian Wang, Baolin Zheng, Xinlu Zhuang, Qi Li, Chao Shen, and Cong Wang. ACM MM, 2021.
Атаки бэкдорами со скрытым триггером. [pdf] [code]
- Aniruddha Saha, Akshayvarun Subramanya, and Hamed Pirsiavash. AAAI, 2020.
Атаки отравлением весов на предварительно обученные модели. [pdf] [code]
- Keita Kurita, Paul Michel, and Graham Neubig. ACL, 2020.
Атаки бэкдорами против трансферного обучения с предварительно обученными моделями глубокого обучения. [pdf]
- Shuo Wang, Surya Nepal, Carsten Rudolph, Marthie Grobler, Shangyu Chen, and Tianle Chen. IEEE Transactions on Services Computing, 2020.
Латентные атаки бэкдорами на глубокие нейронные сети. [pdf]
- Yuanshun Yao, Huiying Li, Haitao Zheng and Ben Y. Zhao. CCS, 2019.
Архитектурные бэкдоры в нейронных сетях. [pdf]
- Mikel Bober-Irizar, Ilia Shumailov, Yiren Zhao, Robert Mullins, and Nicolas Papernot. arXiv, 2022.

Обучение с подкреплением

Доказуемая защита от политик-бэкдоров в обучении с подкреплением. [pdf] [code]
- Shubham Kumar Bharti, Xuezhou Zhang, Adish Singla, and Jerry Zhu. NeurIPS, 2022.
MARNet: атаки бэкдорами против кооперативного мультиагентного обучения с подкреплением. [link]
- Yanjiao Chen, Zhicong Zheng, and Xueluan Gong. IEEE Transactions on Dependable and Secure Computing, 2022.
BACKDOORL: атака бэкдором против соревновательного обучения с подкреплением. [pdf]
- Lun Wang, Zaynah Javed, Xian Wu, Wenbo Guo, Xinyu Xing, and Dawn Song. IJCAI, 2021.
Stop-and-Go: исследование атак бэкдорами на системы управления дорожными заторами на основе глубокого обучения с подкреплением. [pdf]
- Yue Wang, Esha Sarkar, Michail Maniatakos, and Saif Eddin Jabari. IEEE Transactions on Information Forensics and Security, 2021.
Agent Manipulator: скрытые атаки на стратегии глубокого обучения с подкреплением. [link]
- Jinyin Chen, Xueke Wang, Yan Zhang, Haibin Zheng, Shanqing Yu, and Liang Bao. Applied Intelligence, 2022.
TrojDRL: оценка атак бэкдорами на глубокое обучение с подкреплением. [pdf] [code]
- Panagiota Kiourti, Kacper Wardega, Susmit Jha, and Wenchao Li. DAC, 2020.
Отравление агентов глубокого обучения с подкреплением триггерами из распределения данных. [pdf]
- Chace Ashcraft and Kiran Karra. ICLR Workshop, 2021.
Атака бэкдором с временным паттерном на глубокое обучение с подкреплением. [pdf]

Полуконтролируемое и самоконтролируемое обучение

Атаки бэкдорами на самоконтролируемое обучение. [pdf] [code]
- Aniruddha Saha, Ajinkya Tejankar, Soroush Abbasi Koohpayegani, and Hamed Pirsiavash. CVPR, 2022.
Отравление и внедрение бэкдоров в контрастивное обучение. [pdf]
- Nicholas Carlini and Andreas Terzis. ICLR, 2022.
BadEncoder: атаки бэкдорами на предварительно обученные энкодеры в самоконтролируемом обучении. [pdf] [code]
- Jinyuan Jia, Yupei Liu, and Neil Zhenqiang Gong. IEEE S&P, 2022.
DeHiB: глубокая скрытая атака бэкдором на полуконтролируемое обучение с помощью состязательного возмущения. [pdf]
- Zhicong Yan, Gaolei Li, Yuan Tian, Jun Wu, Shenghong Li, Mingzhe Chen, and H. Vincent Poor. AAAI, 2021.
Глубокий нейронный бэкдор в полуконтролируемом обучении: угрозы и меры противодействия. [link]
- Zhicong Yan, Jun Wu, Gaolei Li, Shenghong Li, and Mohsen Guizani. IEEE Transactions on Information Forensics and Security, 2021.
Атаки бэкдорами в цепочке поставок моделирования изображений с маскированием. [pdf]
- Xinyue Shen, Xinlei He, Zheng Li, Yun Shen, Michael Backes, and Yang Zhang. arXiv, 2022.
Нанесение водяных знаков на предварительно обученные энкодеры в контрастивном обучении. [pdf]
- Yutong Wu, Han Qiu, Tianwei Zhang, Jiwei Li, and Meikang Qiu. arXiv, 2022.

Квантование

RIBAC: к устойчивой и незаметной атаке бэкдором против компактных DNN. [pdf] [code]
- Huy Phan, Cong Shi, Yi Xie, Tianfang Zhang, Zhuohang Li, Tianming Zhao, Jian Liu, Yan Wang, Yingying Chen, and Bo Yuan. ECCV, 2022.
Qu-ANTI-zation: использование артефактов квантования для достижения состязательных результатов. [pdf] [code]
- Sanghyun Hong, Michael-Andrei Panaitescu-Liess, Yiğitcan Kaya, and Tudor Dumitraş. NeurIPS, 2021.
Понимание угроз троянизированных квантованных нейронных сетей в цепочках поставок моделей. [pdf]
- Xudong Pan, Mi Zhang, Yifan Yan, and Min Yang. ACSAC, 2021
Бэкдоры на основе квантования для моделей глубокого обучения. [pdf]
- Hua Ma, Huming Qiu, Yansong Gao, Zhi Zhang, Alsharif Abuadbba, Anmin Fu, Said Al-Sarawi, and Derek Abbott. arXiv, 2021.
Скрытые бэкдоры как артефакты сжатия. [pdf]
- Yulong Tian, Fnu Suya, Fengyuan Xu, and David Evans. arXiv, 2021.

Обработка естественного языка

TrojText: невидимая вставка текстовых троянов во время тестирования. [pdf] [code]
- Qian Lou, Yepeng Liu, and Bo Feng. ICLR, 2023.
Защита от атак бэкдорами в генерации естественного языка. [link]
- Xiaofei Sun, Xiaoya Li, Yuxian Meng, Xiang Ao, Lingjuan Lyu, Jiwei Li, and Tianwei Zhang. AAAI, 2023.
Удаление бэкдоров из предварительно обученных моделей с помощью регуляризованного непрерывного предобучения. [pdf] [code]
- Biru Zhu, Ganqu Cui, Yangyi Chen, Yujia Qin, Lifan Yuan, Chong Fu, Yangdong Deng, Zhiyuan Liu, Maosong Sun, Ming Gu. Transactions of the Association for Computational Linguistics, 2023.
BadPrompt: атаки бэкдорами на непрерывные промпты. [pdf] [code]
- Xiangrui Cai, haidong xu, Sihan Xu, Ying Zhang, and Xiaojie Yuan. NeurIPS, 2022.
Moderate-fitting как естественный защитник от бэкдоров для предварительно обученных языковых моделей [pdf] [code]
- Biru Zhu, Yujia Qin, Ganqu Cui, Yangyi Chen, Weilin Zhao, Chong Fu, Yangdong Deng, Zhiyuan Liu, Jingang Wang, Wei Wu, Maosong Sun, and Ming Gu. NeurIPS, 2022.
Унифицированная оценка обучения текстовым бэкдорам: фреймворки и бенчмарки. [pdf] [code]
- Ganqu Cui, Lifan Yuan, Bingxiang He, Yangyi Chen, Zhiyuan Liu, and Maosong Sun. NeurIPS, 2022.
Искажение языковых моделей: риски пропаганды-как-услуги и меры противодействия [pdf] [code]

Популярное

backdoor-learning-resources