#1LLM 安全、提示注入、模型提取、对抗性 AI 和 AI 红队工具。
Kitploit 推荐
keygraphhq/shannonShannon is an autonomous, white-box AI pentester for web applications and APIs. It analyzes your source code, identifies attack vectors, and executes…
0xsteph/pentest-ai-agents将 Claude Code 转变为你的攻击性安全研究助手。专门的 AI 子代理可用于：规划经授权的渗透测试任务、分析侦察结果、研究漏洞利用、构建检测规则、审计 STIG 以及编写报告。
trailofbits/privacyraven用于深度学习系统的隐私测试库，能够评估其对成员推断、模型提取和模型反演攻击的敏感性，并评估隐私保护技术。
protectai/rebuff用于 AI 应用的多层提示注入检测器，采用启发式规则、基于 LLM 的分析、vectorDB 攻击特征以及 canary token 泄露检测。
azure/pyritPython风险识别工具（PyRIT）是一个开源框架，旨在帮助安全专业人员和工程师主动识别生成式AI系统中的风险。
doubangotelecom/facelivenessdetection-sdk3D被动式人脸活体检测（防欺骗）与深度伪造检测。仅需一张图像即可计算活体分数。在我们的数据集上准确率达到99,67%，并在多个公共数据集（NUAA、CASIA FASD、MSU...）上获得满分。
