Awesome-RAG-Security

Notícias

Lançamento inicial: Este repositório reúne artigos sobre segurança em RAG seguindo a taxonomia SLOT da nossa pesquisa.

A Survey of Secure Retrieval-Augmented Generation

Yuming Xu ¹, Mingtao Zhang ¹, Zhuohan Ge ¹, Haoyang Li ¹, Nicole Hu ¹, Yongqi Zhang ², Zhiyuan Wen ¹, Jason Chen Zhang ¹, Qing Li ¹, Lei Chen ²

¹The Hong Kong Polytechnic University, ²The Hong Kong University of Science and Technology (Guangzhou).

@article{xu2026securing,
  title={A Survey of Secure Retrieval-Augmented Generation},
  author={Xu, Yuming and Zhang, Mingtao and Ge, Zhuohan and Li, Haoyang and Hu, Nicole and Zhang, Yongqi and Wen, Zhiyuan and Zhang, Jason Chen and Li, Qing and Chen, Lei},
  journal={arXiv preprint arXiv:2604.08304},
  year={2026}
}

Se você gostaria de incluir seu artigo, sugerir melhorias para nossa pesquisa ou discutir tópicos relacionados conosco, sinta-se à vontade para entrar em contato: [email protected].

_{Superfícies de ataque (S1-S4) e camadas de defesa que as espelham (L1-L4) ao longo do pipeline RAG.}

_{Visão SLOT do pipeline de acesso ao conhecimento RAG. As superfícies de ataque (S1-S4) e as camadas de defesa (L1-L4) estão alinhadas com os estágios do pipeline, enquanto Objetivo (O) e Alvo (T) são tags transversais usadas para comparar ataques, defesas e benchmarks, ou seja, SLOT Tag = Superfície/Camada + Objetivo + Alvo.}

Taxonomia e Artigos

• Awesome-RAG-Security
• Mecanismos de Ataque
  • Envenenamento de Conhecimento (S1)
  • Manipulação de Resultados de Recuperação (S2)
  • Exploração do Contexto Recuperado (S3)
  • Extração de Conhecimento Privado (S4)
• Defesas e Mecanismos de Remediação
  • Integridade e Remediação da Base de Conhecimento (L1)
  • Fortalecimento do Acesso no Momento da Recuperação (L2)
  • Isolamento do Contexto Pós-Recuperação (L3)
  • Controle de Acesso, Privacidade e Confidencialidade (L4)
• Estudos de Avaliação de Secure-RAG
  • Estudos de Benchmark
  • Estudos de Avaliação Sistemática
• Protocolo de Triagem e Registros Divulgados

---

Mecanismos de Ataque

Envenenamento de Conhecimento (S1)

Envenenamento de Corpus Específico para Consulta (Ir ao Topo)

Ano	Título	Superfície/Camada	Objetivo	Alvo	Veículo	Link Oficial
2026	Practical Poisoning Attacks against Retrieval-Augmented Generation (CorruptRAG)	S1; sec: S2	O1	T1	SACMAT	Paper
2026	RIPRAG: Hack a Black-box Retrieval-Augmented Generation Question-Answering System with Reinforcement Learning	S1; sec: S2	O1	T1	Findings of ACL	Paper
2026	Token-Level Precise Attack on RAG: Searching for the Best Alternatives to Mislead Generation	S1; sec: S2	O1	T1	Findings of EACL	Paper
2026	Joint-GCG: Unified Gradient-Based Poisoning Attacks on Retrieval-Augmented Generation Systems	S1; sec: S2, S3	O1	T1	AAAI	Paper Code
2025	The Silent Saboteur: Imperceptible Adversarial Attacks against Black-Box Retrieval-Augmented Generation Systems	S1; sec: S2	O1	T1	Findings of ACL	Paper Code
2025	One Shot Dominance: Knowledge Poisoning Attack on Retrieval-Augmented Generation Systems (AuthChain)	S1; sec: S2	O1	T1	Findings of EMNLP	Paper Code
2025	The RAG Paradox: A Black-Box Attack Exploiting Unintentional Vulnerabilities in Retrieval-Augmented Generation Systems	S1; sec: S2	O1	T1	Findings of EMNLP	Paper
2025	PoisonedRAG: Knowledge Corruption Attacks to Retrieval-Augmented Generation of Large Language Models	S1; sec: S2	O1	T1	USENIX Security	Paper Code
2024	Typos that Broke the RAG's Back: Genetic Attack on RAG Pipeline by Simulating Documents in the Wild via Low-Level Perturbations (GARAG)	S1; sec: S2	O1	T1	Findings of EMNLP	Paper
2024	Human-Imperceptible Retrieval Poisoning Attacks in LLM-Powered Applications	S1; sec: S3	O1	T1	FSE Companion	Paper
2024	HijackRAG: Hijacking Attacks against Retrieval-Augmented Large Language Models	S1; sec: S2, S3	O1	T1	arXiv	Paper Code

Envenenamento por Gatilho / Generalizado (Ir ao Topo)