Awesome-RAG-Security

Новости

Первый выпуск: Этот репозиторий собирает статьи по безопасности RAG в соответствии с таксономией SLOT из нашего обзора.

Обзор безопасной генерации с дополненной выборкой

Yuming Xu ¹, Mingtao Zhang ¹, Zhuohan Ge ¹, Haoyang Li ¹, Nicole Hu ¹, Yongqi Zhang ², Zhiyuan Wen ¹, Jason Chen Zhang ¹, Qing Li ¹, Lei Chen ²

¹Гонконгский политехнический университет, ²Гонконгский университет науки и технологий (Гуанчжоу).

@article{xu2026securing,
  title={A Survey of Secure Retrieval-Augmented Generation},
  author={Xu, Yuming and Zhang, Mingtao and Ge, Zhuohan and Li, Haoyang and Hu, Nicole and Zhang, Yongqi and Wen, Zhiyuan and Zhang, Jason Chen and Li, Qing and Chen, Lei},
  journal={arXiv preprint arXiv:2604.08304},
  year={2026}
}

Если вы хотите включить свою статью, предложить улучшения для нашего обзора или обсудить с нами смежные темы, пожалуйста, свяжитесь с нами: [email protected].

_{Поверхности атак (S1-S4) и зеркально отражающие их уровни защиты (L1-L4) вдоль конвейера RAG.}

_{Представление SLOT конвейера доступа к знаниям RAG. Поверхности атак (S1-S4) и уровни защиты (L1-L4) выровнены с этапами конвейера, тогда как Цель (O) и Мишень (T) — это сквозные теги, используемые для сравнения атак, защит и бенчмарков, т.е. SLOT Tag = Surface/Layer + Objective + Target.}

Таксономия и статьи

• Awesome-RAG-Security
• Механизмы атак
  • Отравление знаний (S1)
  • Манипуляция результатами поиска (S2)
  • Эксплуатация извлечённого контекста (S3)
  • Извлечение приватных знаний (S4)
• Защитные и восстановительные механизмы
  • Целостность базы знаний и восстановление (L1)
  • Усиление защиты доступа во время поиска (L2)
  • Изоляция контекста после поиска (L3)
  • Контроль доступа, приватность и конфиденциальность (L4)
• Исследования по оценке Secure-RAG
  • Бенчмарк-исследования
  • Систематические оценочные исследования
• Протокол отбора и опубликованные записи

---

Механизмы атак

Отравление знаний (S1)

Отравление корпуса под конкретный запрос (К началу)

Год	Название	Поверхность/Слой	Цель	Мишень	Место проведения	Официальная ссылка
2026	Practical Poisoning Attacks against Retrieval-Augmented Generation (CorruptRAG)	S1; sec: S2	O1	T1	SACMAT	Статья
2026	RIPRAG: Hack a Black-box Retrieval-Augmented Generation Question-Answering System with Reinforcement Learning	S1; sec: S2	O1	T1	Findings of ACL	Статья
2026	Token-Level Precise Attack on RAG: Searching for the Best Alternatives to Mislead Generation	S1; sec: S2	O1	T1	Findings of EACL	Статья
2026	Joint-GCG: Unified Gradient-Based Poisoning Attacks on Retrieval-Augmented Generation Systems	S1; sec: S2, S3	O1	T1	AAAI	Статья Код
2025	The Silent Saboteur: Imperceptible Adversarial Attacks against Black-Box Retrieval-Augmented Generation Systems	S1; sec: S2	O1	T1	Findings of ACL	Статья Код
2025	One Shot Dominance: Knowledge Poisoning Attack on Retrieval-Augmented Generation Systems (AuthChain)	S1; sec: S2	O1	T1	Findings of EMNLP	Статья Код
2025	The RAG Paradox: A Black-Box Attack Exploiting Unintentional Vulnerabilities in Retrieval-Augmented Generation Systems	S1; sec: S2	O1	T1	Findings of EMNLP	Статья
2025	PoisonedRAG: Knowledge Corruption Attacks to Retrieval-Augmented Generation of Large Language Models	S1; sec: S2	O1	T1	USENIX Security	Статья Код
2024	Typos that Broke the RAG's Back: Genetic Attack on RAG Pipeline by Simulating Documents in the Wild via Low-Level Perturbations (GARAG)	S1; sec: S2	O1	T1	Findings of EMNLP	Статья
2024	Human-Imperceptible Retrieval Poisoning Attacks in LLM-Powered Applications	S1; sec: S3	O1	T1	FSE Companion	Статья
2024	HijackRAG: Hijacking Attacks against Retrieval-Augmented Large Language Models	S1; sec: S2, S3	O1	T1	arXiv	Статья Код

Триггерное / обобщённое отравление (Наверх)