Awesome-RAG-Security

뉴스

최초 릴리스: 이 저장소는 우리의 서베이에서 제시한 SLOT 분류법에 따라 RAG 보안 관련 논문들을 기록합니다.

A Survey of Secure Retrieval-Augmented Generation

Yuming Xu ¹, Mingtao Zhang ¹, Zhuohan Ge ¹, Haoyang Li ¹, Nicole Hu ¹, Yongqi Zhang ², Zhiyuan Wen ¹, Jason Chen Zhang ¹, Qing Li ¹, Lei Chen ²

¹홍콩 폴리테크닉 대학교, ²홍콩과학기술대학교 (광저우).

@article{xu2026securing,
  title={A Survey of Secure Retrieval-Augmented Generation},
  author={Xu, Yuming and Zhang, Mingtao and Ge, Zhuohan and Li, Haoyang and Hu, Nicole and Zhang, Yongqi and Wen, Zhiyuan and Zhang, Jason Chen and Li, Qing and Chen, Lei},
  journal={arXiv preprint arXiv:2604.08304},
  year={2026}
}

저희 조사에 논문을 포함하거나, 개선안을 제안하거나, 관련 주제에 대해 논의하고 싶으시다면 언제든지 다음 이메일로 연락해 주세요: [email protected].

_{RAG 파이프라인을 따라 공격 표면(S1-S4)과 이를 반영하는 방어 계층(L1-L4).}

_{RAG 지식 접근 파이프라인의 SLOT 관점. 공격 표면(S1-S4)과 방어 계층(L1-L4)은 파이프라인 단계와 정렬되며, 목표(O)와 대상(T)은 공격, 방어 및 벤치마크를 비교하는 데 사용되는 횡단 태그입니다. 즉, SLOT 태그 = 표면/계층 + 목표 + 대상입니다.}

분류 및 논문

• Awesome-RAG-Security
• 공격 메커니즘
  • 지식 독살 공격 (S1)
  • 검색 결과 조작 (S2)
  • 검색된 컨텍스트 악용 (S3)
  • 비밀 지식 추출 (S4)
• 방어 및 복구 메커니즘
  • 지식베이스 무결성 및 복구 (L1)
  • 검색 시점 접근 강화 (L2)
  • 검색 후 컨텍스트 격리 (L3)
  • 접근 제어, 개인정보 보호 및 기밀성 (L4)
• 보안 RAG 평가 연구
  • 벤치마크 연구
  • 체계적 평가 연구
• 선별 프로토콜 및 공개 기록

---

공격 메커니즘

지식 독살 공격 (S1)

쿼리별 코퍼스 독살 (상단으로 이동)

연도	제목	Surface/Layer	Objective	Target	발표처	공식 링크
2026	Practical Poisoning Attacks against Retrieval-Augmented Generation (CorruptRAG)	S1; sec: S2	O1	T1	SACMAT	논문
2026	RIPRAG: Hack a Black-box Retrieval-Augmented Generation Question-Answering System with Reinforcement Learning	S1; sec: S2	O1	T1	Findings of ACL	논문
2026	Token-Level Precise Attack on RAG: Searching for the Best Alternatives to Mislead Generation	S1; sec: S2	O1	T1	Findings of EACL	논문
2026	Joint-GCG: Unified Gradient-Based Poisoning Attacks on Retrieval-Augmented Generation Systems	S1; sec: S2, S3	O1	T1	AAAI	논문 코드
2025	The Silent Saboteur: Imperceptible Adversarial Attacks against Black-Box Retrieval-Augmented Generation Systems	S1; sec: S2	O1	T1	Findings of ACL	논문 코드
2025	One Shot Dominance: Knowledge Poisoning Attack on Retrieval-Augmented Generation Systems (AuthChain)	S1; sec: S2	O1	T1	Findings of EMNLP	논문 코드
2025	The RAG Paradox: A Black-Box Attack Exploiting Unintentional Vulnerabilities in Retrieval-Augmented Generation Systems	S1; sec: S2	O1	T1	Findings of EMNLP	논문
2025	PoisonedRAG: Knowledge Corruption Attacks to Retrieval-Augmented Generation of Large Language Models	S1; sec: S2	O1	T1	USENIX Security	논문 코드
2024	Typos that Broke the RAG's Back: Genetic Attack on RAG Pipeline by Simulating Documents in the Wild via Low-Level Perturbations (GARAG)	S1; sec: S2	O1	T1	Findings of EMNLP	논문
2024	Human-Imperceptible Retrieval Poisoning Attacks in LLM-Powered Applications	S1; sec: S3	O1	T1	FSE Companion	논문
2024	HijackRAG: Hijacking Attacks against Retrieval-Augmented Large Language Models	S1; sec: S2, S3	O1	T1	arXiv	논문 코드

트리거 / 일반화 독살 (상단으로 이동)