#1LLM 安全、提示注入、模型提取、对抗性 AI 和 AI 红队工具。
Kitploit 推荐

自助式渗透测试平台,仅扫描已证明所有权的域名,并在扫描时重新核验该证明。提供 OWASP、TLS、DNS 和端口检查,以及有上限的只读 AI 分析。

“跨七个大型语言模型对对抗性越狱攻击与防御的系统性评估”的代码

用于深度学习系统的隐私测试库,能够评估其对成员推断、模型提取和模型反演攻击的敏感性,并评估隐私保护技术。

用于 AI 应用的多层提示注入检测器,采用启发式规则、基于 LLM 的分析、vectorDB 攻击特征以及 canary token 泄露检测。



3D被动式人脸活体检测(防欺骗)与深度伪造检测。仅需一张图像即可计算活体分数。在我们的数据集上准确率达到99,67%,并在多个公共数据集(NUAA、CASIA FASD、MSU...)上获得满分。

Python风险识别工具(PyRIT)是一个开源框架,旨在帮助安全专业人员和工程师主动识别生成式AI系统中的风险。

AI 编码代理无法窃取秘密或合并自己的 PR。