Recursos de Backdoor Learning

Este repositório do Github resume uma lista de recursos de Backdoor Learning. Para mais detalhes e os critérios de categorização, consulte nossa pesquisa.

Faremos o possível para manter continuamente este Repositório do Github mensalmente.

Por que Backdoor Learning?

Backdoor learning é uma área de pesquisa emergente que discute as questões de segurança do processo de treinamento de algoritmos de aprendizado de máquina. É crucial para adotar com segurança recursos ou modelos de treinamento de terceiros na prática.

Nota: 'Backdoor' também é comumente chamado de 'Neural Trojan' ou 'Trojan'.

Notícias

• 2023/7/24: Adicionei dez artigos do ICLR'23. Todos os artigos desta conferência já devem ter sido incluídos agora.
• 2023/7/23: Adicionei sete artigos do NeurIPS'22 e quatro artigos do AAAI'23. Todos os artigos dessas conferências já devem ter sido incluídos agora.
• 2023/01/25: Lamento profundamente ter recentemente suspendido a leitura dos artigos relacionados e as atualizações deste Repo, devido a algumas questões pessoais, como doença e redação da tese de doutorado. Retomarei as atualizações após junho de 2023.
• 2022/12/05: Altere ligeiramente o formato do repositório colocando os artigos de conferências antes dos artigos de periódicos. Especificamente, no mesmo ano, coloque o artigo de conferência antes do artigo de periódico, pois os periódicos geralmente são submetidos há muito tempo e, portanto, têm um certo atraso.
• 2022/12/05: Adicionei três artigos do ECCV'22. Todos os artigos desta conferência já devem ter sido incluídos agora.

Referência

Se nosso repositório ou pesquisa for útil para sua pesquisa, cite nosso artigo da seguinte forma:``` @article{li2022backdoor, title={Backdoor learning: A survey}, author={Li, Yiming and Jiang, Yong and Li, Zhifeng and Xia, Shu-Tao}, journal={IEEE Transactions on Neural Networks and Learning Systems}, year={2022} }

## Contribuindo
<p align="center">
  <img src="https://assets.kitploit.com/production/public/readmes/placeholders/f0fc86cfe65f76d40e15aaec61704ec8220a56dc89d4be03c46f67cb31b9fa8c.svg" alt="Precisamos de Você!">
</p>

Por favor, ajude a contribuir com esta lista entrando em contato com [mim](http://liyiming.tech) ou adicione um [pull request](https://github.com/THUYimingLi/awesome-backdoor-learning/pulls)

Formato Markdown:```markdown
- Paper Name. 
  [[pdf]](link) 
  [[code]](link)
  - Author 1, Author 2, **and** Author 3. *Conference/Journal*, Year.

Nota: No mesmo ano, coloque o artigo de conferência antes do artigo de periódico, pois os periódicos geralmente são submetidos há muito tempo e, portanto, apresentam algum atraso. (ou seja, Conferências-->Periódicos-->Pré-impressões)

Table of Contents

• Pesquisa
• Ferramentas
• Dissertação e Tese
• Classificação de Imagens e Vídeos
  • Ataque Baseado em Envenenamento
  • Ataque Não Baseado em Envenenamento
    • Ataque Orientado a Pesos
    • Ataque com Estrutura Modificada
    • Outros Ataques
  • Defesa contra Backdoor
    • Defesa Empírica Baseada em Pré-processamento
    • Defesa Empírica Baseada em Reconstrução de Modelo
    • Defesa Empírica Baseada em Síntese de Gatilho
    • Defesa Empírica Baseada em Diagnóstico de Modelo
    • Defesa Empírica Baseada em Supressão de Envenenamento
    • Defesa Empírica Baseada em Filtragem de Amostras
    • Defesa Certificada
• Ataque e Defesa em Outros Paradigmas e Tarefas
  • Aprendizado Federado
  • Aprendizado por Transferência
  • Aprendizado por Reforço
  • Aprendizado Semissupervisionado e Autossupervisionado
  • Quantização
  • Processamento de Linguagem Natural
  • Redes Neurais de Grafos
  • Nuvem de Pontos
  • Processamento de Sinais Acústicos
  • Ciências Médicas
  • Detecção e Rastreamento
  • Vision Transformer
  • Modelo de Difusão
  • Segurança Cibernética
  • Outros
• Avaliação e Discussão
• Ataque Backdoor para Fins Positivos
• Competição

Pesquisa

• Aprendizado Backdoor: Uma Pesquisa. [pdf]

  • Yiming Li, Yong Jiang, Zhifeng Li e Shu-Tao Xia. IEEE Transactions on Neural Networks and Learning Systems, 2022.

• Ataques Backdoor e Contramedidas em Aprendizado Profundo: Uma Revisão Abrangente. [pdf]

  • Yansong Gao, Bao Gia Doan, Zhi Zhang, Siqi Ma, Anmin Fu, Surya Nepal e Hyoungshick Kim. arXiv, 2020.

• Segurança de Dados para Aprendizado de Máquina: Envenenamento de Dados, Ataques Backdoor e Defesas. [pdf]

  • Micah Goldblum, Dimitris Tsipras, Chulin Xie, Xinyun Chen, Avi Schwarzschild, Dawn Song, Aleksander Madry, Bo Li e Tom Goldstein. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2022.

• Uma Pesquisa Abrangente sobre Ataques de Envenenamento e Contramedidas em Aprendizado de Máquina. [link]

  • Zhiyi Tian, Lei Cui, Jie Liang e Shui Yu. ACM Computing Surveys, 2022.

• Ataques e Defesas Backdoor em Aprendizado Federado: Estado da Arte, Taxonomia e Direções Futuras. [link]

  • Xueluan Gong, Yanjiao Chen, Qian Wang e Weihan Kong. IEEE Wireless Communications, 2022.

• Ataques Backdoor em Modelos de Classificação de Imagens em Redes Neurais Profundas. [link]

  • Quanxin Zhang, Wencong Ma, Yajie Wang, Yaoyuan Zhang, Zhiwei Shi e Yuanzhang Li. Chinese Journal of Electronics, 2022.

• Defesa contra Ataques Trojan Neurais: Uma Pesquisa. [link]

  • Sara Kaviani e Insoo Sohn. Neurocomputing, 2021.

• Uma Pesquisa sobre Trojans Neurais. [pdf]

  • Yuntao Liu, Ankit Mondal, Abhishek Chakraborty, Michael Zuzak, Nina Jacobsen, Daniel Xing e Ankur Srivastava. ISQED, 2020.

• Ataques Backdoor contra Sistemas de Reconhecimento de Voz: Uma Pesquisa. [pdf]

  • Baochen Yan, Jiahe Lan e Zheng Yan. arXiv, 2023.

• Uma Pesquisa sobre Ataques Trojan Neurais e Defesas em Aprendizado Profundo. [pdf]

  • Jie Wang, Ghulam Mubashar Hassan e Naveed Akhtar. arXiv, 2022.

• Ameaças a Modelos de Linguagem Pré-treinados: Pesquisa e Taxonomia. [pdf]

  • Shangwei Guo, Chunlong Xie, Jiwei Li, Lingjuan Lyu e Tianwei Zhang. arXiv, 2022.

• Uma Visão Geral dos Ataques Backdoor contra Redes Neurais Profundas e Possíveis Defesas. [pdf]

  • Wei Guo, Benedetta Tondi e Mauro Barni. arXiv, 2021.