#1AGLS

攻击框架,用于突破基于微调的提示注入防御(SecAlign、SecAlign++、StruQ),通过对LLM进行架构感知的对抗性攻击。

Project Mantis:反击 AI 黑客;以提示注入作为抵御 LLM 驱动的网络攻击的防御手段

一种基于指数梯度下降技术的新型LLM对抗攻击。

对抗性鲁棒的深度学习架构,用于安全的5G室内定位,融合卷积神经网络与多头注意力机制,以抵御信号欺骗和对抗性扰动。

针对自主基于LLM的Web智能体的间接提示注入攻击研究演示,包含触发器优化与评估工具。

ACM MM2024(多模态不可学习示例:保护数据免受多模态对比学习的影响)的代码。

StealthRL:用于对抗性改写 AI 文本以压力测试检测器鲁棒性的 RL 框架。

用于测量LLM对情感上下文侵蚀(ACE)及相关阈限攻击向量脆弱性的诊断框架。**Delirium**并非利用工具,而是一个标准化基准,旨在检测语言模型注意力权重从服务于系统提示转向服务于涌现性人际模式的精确时刻——在危害发生之前。

CS5446 项目代码仓库,探索针对大型语言模型越狱攻击的防御方法,包含数据集、笔记本、模型/引导脚本及验证例程,用于复现和扩展该研究。

因果上下文归因与基于规则的监控器 LLM 防御,用于抵御 LLM 智能体中的间接提示注入,在 AgentDyn 及其他基准测试上实现了最先进的性能。

用于评估OpenClaw代理在对抗性执行环境(包括投毒文件、注入技能、误导性工具元数据和编码载荷)下的安全基准测试。包含42个可复现任务,分布于6个风险套件,并设有攻击与效用评分。

动手实操的AI安全实验室平台,涵盖50多个场景,涉及提示注入、智能体系统利用、模型操纵以及MCP信任边界攻击。采用Ollama + FastAPI + React构建,用于安全的攻防演练实践。

AI安全验证标准(AISVS)专注于为开发者、架构师和安全专业人员提供一套结构化的检查清单,用于验证AI驱动应用程序的安全性。

用于越狱各种LLM的仓库,主要是Claude

故意存在漏洞的机器学习模型,用于动手安全培训。在安全的实验室环境中探索常见的ML漏洞、对抗性攻击和防御技术。

两阶段提示注入与越狱检测器:正则表达式门控加量化 DeBERTa-v3 ONNX 分类器,支持图像、文档和音频。基于 Bordair/bordair-multimodal 训练,并针对真实红队攻防演练中的实际攻击进行了测试。