#1
一个隐私优先的应用,可从您拥有的内容中去除AI水印。

基于Web的对手仿真平台,通过Go代理在Windows终端上编排Atomic Red Team测试,具备MITRE ATT&CK映射、APT仿真计划和检测规则关联功能。

🐢 用于 LLM 智能体的开源评估与测试库

用于 MITRE ATT&CK 的 SQLite 关系数据模型,以及一个对手模拟规划工具,并补充了 Red Canary ATOMIC 测试和 APT3 模拟计划。

精选的后门学习论文、综述和工具箱列表,为研究人员和安全从业者系统整理了深度学习中的基于投毒的攻击与防御。

用于防御提示注入攻击的开源权重LLM及训练/评估代码,附带针对代理工具调用和指令遵循安全性的基准测试。

用于评估和改进LLM安全性的一组工具。

我们询问了6个AI关于它们自身编程的问题。所有6个都说越狱永远不会被修复。自己运行——2美元,10分钟。

关于检索增强生成安全性的研究论文精选合集,按SLOT分类法组织,涵盖知识投毒、检索操纵、上下文利用和防御措施。

深度学习延迟、能耗-延迟与定时(可用性)攻击及防御的精选索引——ACM Computing Surveys 投稿的配套资料。

# Ghostsplice 仓库:跨通道信任碎片化攻击的 PoC

TTPForge 是一个网络安全框架,用于开发、自动化并执行攻击者的战术、技术与程序(TTP)。

加固二进制文件、Electron ASAR、JS、WASM、Python 和模型文件,通过诱饵元数据、预算耗尽和运行时等效防护来抵御 AI 逆向工程代理。

研究实现了一种LLM越狱代理,该代理利用无害提示编织和自适应树搜索绕过商业模型的防护栏。

一个用于审计机器学习算法对抗性攻击和偏见的框架,提供教育工具和一篇学术论文,以弥合网络安全专业人员在机器学习安全方面的知识差距。

用于衡量提示注入防御在工具调用型LLM代理流水线中何处触发的基准测试框架,跟踪金丝雀令牌在暴露、持久化、中继和执行各阶段的情况。

红队家庭实验室搭建指南。在 Proxmox 和 pfSense 中搭建 GOAD 实验室,Operator/C2 与重定向器。