#1
故意存在漏洞的机器学习模型,用于动手安全培训。在安全的实验室环境中探索常见的ML漏洞、对抗性攻击和防御技术。

基于剧本的对手模拟框架,可将JSON定义的攻击路径编译为位置无关的shellcode负载,用于验证高级检测和基于AI的调查代理。

用于实现 LLM 后门攻击与防御方法的研究代码,包括 IBSD、SLIP、BeDKD 和 BadApex 算法。

研究流水线,针对多模态大语言模型实现视觉-上下文越狱:T2I 提示提取、SD3.5 图像渲染、多轮欺骗上下文构建,以及由 GPT-4o 评判的 ASR 评估。

紫色团队演练框架

NimicStack 是调用栈欺骗技术的纯 Nim 实现,用于模仿合法程序。

Windows Defender Killer | 基于注册表的禁用 + BYOVD 进程终止 (C++)

因果上下文归因与基于规则的监控器 LLM 防御,用于抵御 LLM 智能体中的间接提示注入,在 AgentDyn 及其他基准测试上实现了最先进的性能。

# 面向MCP服务器上LLM智能体红队测试的轨迹感知进化搜索框架,生成对抗性提示以映射各风险类别的漏洞全景。

Python风险识别工具(PyRIT)是一个开源框架,旨在帮助安全专业人员和工程师主动识别生成式AI系统中的风险。

AGLS

CEREBRO-RED v2:高级LLM红队研究平台,采用PAIR算法和LLM-as-a-Judge评估

开源提示注入攻击控制台。通过向任何端点发动分类攻击来测试AI安全性。

一个结构化知识库,涵盖AI安全基础、威胁建模、红队攻击技术和蓝队防御,包括LLM安全、对抗性机器学习和深度伪造对策。

研究 Hop-Decayed Influence(HDI)的实现以及 3S 攻击框架,揭示 LLM 的 GraphRAG 流水线中存在的结构性辅助索引漏洞。

攻击框架,用于突破基于微调的提示注入防御(SecAlign、SecAlign++、StruQ),通过对LLM进行架构感知的对抗性攻击。