Recursos de Backdoor Learning

Este repositorio de Github resume una lista de recursos de Backdoor Learning. Para más detalles y los criterios de categorización, consulte nuestro estudio.

Haremos todo lo posible por mantener continuamente este repositorio de Github de forma mensual.

¿Por qué Backdoor Learning?

Backdoor learning es un área de investigación emergente que aborda los problemas de seguridad del proceso de entrenamiento de los algoritmos de aprendizaje automático. Es fundamental para adoptar de forma segura recursos o modelos de entrenamiento de terceros en la realidad.

Nota: 'Backdoor' también se conoce comúnmente como 'Neural Trojan' o 'Trojan'.

Noticias

• 2023/7/24: Añado diez artículos de ICLR'23. Todos los artículos de esta conferencia deberían estar ya incluidos.
• 2023/7/23: Añado siete artículos de NeurIPS'22 y cuatro artículos de AAAI'23. Todos los artículos de estas conferencias deberían estar ya incluidos.
• 2023/01/25: Lamento profundamente haber suspendido recientemente la lectura de artículos relacionados y las actualizaciones de este repositorio, debido a algunos problemas personales como enfermedad y la redacción de mi tesis doctoral. Reanudaré la actualización después de junio de 2023.
• 2022/12/05: Cambio ligeramente el formato del repositorio colocando los artículos de conferencias antes que los de revistas. Específicamente, en el mismo año, coloque el artículo de conferencia antes que el de revista, ya que las revistas suelen enviarse mucho tiempo antes y, por lo tanto, tienen cierto desfase.
• 2022/12/05: Añado tres artículos de ECCV'22. Todos los artículos de esta conferencia deberían estar ya incluidos.

Referencia

Si nuestro repositorio o estudio es útil para su investigación, cite nuestro artículo de la siguiente manera:``` @article{li2022backdoor, title={Backdoor learning: A survey}, author={Li, Yiming and Jiang, Yong and Li, Zhifeng and Xia, Shu-Tao}, journal={IEEE Transactions on Neural Networks and Learning Systems}, year={2022} }

## Contribuciones
<p align="center">
  <img src="https://assets.kitploit.com/production/public/readmes/placeholders/f0fc86cfe65f76d40e15aaec61704ec8220a56dc89d4be03c46f67cb31b9fa8c.svg" alt="¡Te necesitamos!">
</p>

Por favor, ayuda a contribuir a esta lista contactando [conmigo](http://liyiming.tech) o añadiendo un [pull request](https://github.com/THUYimingLi/awesome-backdoor-learning/pulls)

Formato Markdown:```markdown
- Paper Name. 
  [[pdf]](link) 
  [[code]](link)
  - Author 1, Author 2, **and** Author 3. *Conference/Journal*, Year.

Nota: En el mismo año, coloque el artículo de conferencia antes del artículo de revista, ya que las revistas suelen enviarse con mucha antelación y, por tanto, tienen cierto desfase. (es decir, Conferencias-->Revistas-->Preprints)

Tabla de Contenidos

• Revisión
• Caja de herramientas
• Disertaciones y Tesis
• Clasificación de Imágenes y Vídeos
  • Ataque basado en envenenamiento
  • Ataque no basado en envenenamiento
    • Ataque orientado a pesos
    • Ataque con estructura modificada
    • Otros ataques
  • Defensa contra backdoors
    • Defensa empírica basada en preprocesamiento
    • Defensa empírica basada en reconstrucción del modelo
    • Defensa empírica basada en síntesis de disparadores
    • Defensa empírica basada en diagnóstico del modelo
    • Defensa empírica basada en supresión de veneno
    • Defensa empírica basada en filtrado de muestras
    • Defensa certificada
• Ataque y defensa en otros paradigmas y tareas
  • Aprendizaje federado
  • Aprendizaje por transferencia
  • Aprendizaje por refuerzo
  • Aprendizaje semisupervisado y autosupervisado
  • Cuantización
  • Procesamiento del lenguaje natural
  • Redes neuronales de grafos
  • Nube de puntos
  • Procesamiento de señales acústicas
  • Ciencias médicas
  • Detección y seguimiento
  • Vision Transformer
  • Modelo de difusión
  • Ciberseguridad
  • Otros
• Evaluación y discusión
• Ataque backdoor con fines positivos
• Competición

Revisión

• Backdoor Learning: A Survey. [pdf]

  • Yiming Li, Yong Jiang, Zhifeng Li, and Shu-Tao Xia. IEEE Transactions on Neural Networks and Learning Systems, 2022.

• Backdoor Attacks and Countermeasures on Deep Learning: A Comprehensive Review. [pdf]

  • Yansong Gao, Bao Gia Doan, Zhi Zhang, Siqi Ma, Anmin Fu, Surya Nepal, and Hyoungshick Kim. arXiv, 2020.

• Data Security for Machine Learning: Data Poisoning, Backdoor Attacks, and Defenses. [pdf]

  • Micah Goldblum, Dimitris Tsipras, Chulin Xie, Xinyun Chen, Avi Schwarzschild, Dawn Song, Aleksander Madry, Bo Li, and Tom Goldstein. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2022.

• A Comprehensive Survey on Poisoning Attacks and Countermeasures in Machine Learning. [link]

  • Zhiyi Tian, Lei Cui, Jie Liang, and Shui Yu. ACM Computing Surveys, 2022.

• Backdoor Attacks and Defenses in Federated Learning: State-of-the-art, Taxonomy, and Future Directions. [link]

  • Xueluan Gong, Yanjiao Chen, Qian Wang, and Weihan Kong. IEEE Wireless Communications, 2022.

• Backdoor Attacks on Image Classification Models in Deep Neural Networks. [link]

  • Quanxin Zhang, Wencong Ma, Yajie Wang, Yaoyuan Zhang, Zhiwei Shi, and Yuanzhang Li. Chinese Journal of Electronics, 2022.

• Defense against Neural Trojan Attacks: A Survey. [link]

  • Sara Kaviani and Insoo Sohn. Neurocomputing, 2021.

• A Survey on Neural Trojans. [pdf]

  • Yuntao Liu, Ankit Mondal, Abhishek Chakraborty, Michael Zuzak, Nina Jacobsen, Daniel Xing, and Ankur Srivastava. ISQED, 2020.

• Backdoor Attacks against Voice Recognition Systems: A Survey. [pdf]

  • Baochen Yan, Jiahe Lan, and Zheng Yan. arXiv, 2023.

• A Survey of Neural Trojan Attacks and Defenses in Deep Learning. [pdf]

  • Jie Wang, Ghulam Mubashar Hassan, and Naveed Akhtar. arXiv, 2022.

• Threats to Pre-trained Language Models: Survey and Taxonomy. [pdf]

  • Shangwei Guo, Chunlong Xie, Jiwei Li, Lingjuan Lyu, and Tianwei Zhang. arXiv, 2022.

• An Overview of Backdoor Attacks Against Deep Neural Networks and Possible Defences. [pdf]

  • Wei Guo, Benedetta Tondi, and Mauro Barni. arXiv, 2021.