#1
🐢 用于 LLM 智能体的开源评估与测试库

2026 年红队行动命令与控制框架精选目录,包含各工具的植入体、监听器、载荷和规避功能详解。

与AI安全相关的精彩资源合集

开源AI安全平台,通过集群分析、策略执行、对抗性测试和实时威胁检测,为LLM和AI代理提供边界防御。

Local test range for agent memory poisoning - watch a planted memory steer an agent, then prove the repair. Synthetic targets, scripted deterministic…

面向 LLM 智能体中持久记忆投毒的确定性基准测试与评估框架,包含配对的干净/投毒用例、LangChain/LlamaIndex 运行器以及防御措施。

用于你的 LLM 智能体工作流的安全扫描器

动手实操的AI安全实验室平台,涵盖50多个场景,涉及提示注入、智能体系统利用、模型操纵以及MCP信任边界攻击。采用Ollama + FastAPI + React构建,用于安全的攻防演练实践。

用于评估和改进LLM安全性的一组工具。

一个用于跨表格、时间序列、图、文本、图像和音频数据进行异常检测的 Python 库。提供 60+ 检测器、基准测试支撑的 ADEngine 编排,以及面向 AI 代理的智能体工作流。

This repository contains detailed adversary simulation APT campaigns targeting various critical sectors. Each simulation includes custom tools, C2…

AI安全验证标准(AISVS)专注于为开发者、架构师和安全专业人员提供一套结构化的检查清单,用于验证AI驱动应用程序的安全性。

用于审计学习型网络防御基准的复现测试框架、补丁和分析工具:捕获智能体轨迹、运行红方智能体消融实验,并基于已发布数据重新计算论文中的每一张图表。

用于对抗性机器学习安全的Python库,使红队和蓝队能够在主流机器学习框架中运行规避、投毒、提取和推断攻击及防御。

逐Token攻陷:统一自回归模型中的后门漏洞(NeurIPS'26)

“跨七个大型语言模型对对抗性越狱攻击与防御的系统性评估”的代码

研究代码实现了T-Backdoor,即针对脉冲神经网络的时序触发后门攻击,使用速率、延迟和抖动触发器,无需空间扰动。