#1一份关于 AI 系统对抗性测试与安全评估的全面指南,帮助组织在攻击者利用漏洞之前识别这些漏洞。

一个使用 libtins 的 C++ 工具,用于在 IP 池中利用随机 MAC 地址构造并广播 DHCP 请求,耗尽 DHCP 租约以演示 DHCP 饥饿攻击。

针对目标重绑定攻击的研究代码、基准测试与防御方案,该攻击诱使 LLM 安全防护机制对伪造的诱饵内容进行评分,另含分段最大蒸馏加固。

用于测量针对 LLM 的越狱攻击成功率(ASR 和逐步 ASR)的研究代码,包含 GCG 等攻击的实现以及评估脚本。

针对 Claude、Gemini 和 ChatGPT 中通过记忆功能实施的持久性提示注入研究,包含复现步骤、数据集以及针对隐私、完整性和可用性攻击的验证。

早期退出深度大语言模型中的越狱漏洞。发表于 NeurIPS 2026 的 FLMSec 研讨会

可复现的 Colab 流水线,将六个 AI 安全素养能力维度建立在公开基准和调查微观数据之上,生成图表、表格和可续跑的结果。

来自 USENIX Security 2026 的研究成果,演示了通过滥用隧道节点和 IPv6 扩展头实施 DDoS 攻击,并附有配套的分析与评估代码。

针对编码智能体中上下文压缩的安全研究:展示不可信内容中伪造的角色标签如何经受住摘要处理并被实际执行,并附有测量数据、演示和修复方案。

GitLab Duo DevSecOps 循环:由第二个 AI 对每个 AI 编写的修复进行再次攻击,将每次成功绕过保存为永久抗体,并在 CI 和生产环境中重放。

针对黑洞攻击的研究实现:该攻击通过中心性驱动的枢纽性(hubness)污染向量数据库索引,包含 FAISS 流水线以及检测/缓解防御评估。

越狱、提示泄露、提示注入、LLM 攻击。大型语言模型攻击提示集合

面向商业图像生成器的红队测试基准与黑盒攻击框架,用于评估视觉虚假信息风险,包含1万条虚假声明提示词及评分脚本。

实现论文《重新思考延迟拒绝服务:攻击 LLM 服务框架,而非模型》

逐Token攻陷:统一自回归模型中的后门漏洞(NeurIPS'26)

针对视觉-语言网络代理的对抗性图像攻击:从视觉定位到浏览器执行

防御框架,通过选择性层恢复和动态路由来缓解LLM的恶意微调,并附带训练、危害性评分和越狱评估脚本。