#1
p-e-w/hereticTraining-free language model modification: Remove censorship, suppress slop, reduce sycophancy, and more
togg53192-cmd/jailbreaks精选的 LLM 越狱提示词与绕过技术集合，记录了绕过 AI 模型安全防护的对抗性输入。
promptfoo/promptfoo测试你的提示词、代理和RAG。对AI进行红队测试/渗透测试/漏洞扫描。比较GPT、Claude、Gemini、DeepSeek等的性能。简单的声明式配置，支持命令行和CI/CD集成。被OpenAI和Anthropic使用。
guillaumemeyer/watermarks-remover一个隐私优先的应用，可从您拥有的内容中去除AI水印。
nvidia/garak模块化LLM漏洞扫描器，利用静态、动态和自适应探测手段，跨多个模型提供商检测幻觉、数据泄露、提示注入、越狱及毒性内容。
yzhao062/pyod一个用于跨表格、时间序列、图、文本、图像和音频数据进行异常检测的 Python 库。提供 60+ 检测器、基准测试支撑的 ADEngine 编排，以及面向 AI 代理的智能体工作流。
goochbeater/spiritual-spell-red-teaming用于越狱各种LLM的仓库，主要是Claude
meta-llama/purplellama用于评估和改进LLM安全性的一组工具。
guardicore/monkeyInfection Monkey - 一个开源对手模拟平台
trusted-ai/adversarial-robustness-toolbox用于对抗性机器学习安全的Python库，使红队和蓝队能够在主流机器学习框架中运行规避、投毒、提取和推断攻击及防御。
bishopfox/unredacter永远、永远、永远不要使用像素化作为编辑技术
microsoft/pyrit用于对生成式AI系统进行红队测试的开源框架：自动化攻击提示、对模型响应进行评分，并审计行为以识别安全与安全性风险。
giskard-ai/giskard-oss🐢 用于 LLM 智能体的开源评估与测试库
gtworek/psbits相对简单的东西，让你能比平时挖得更深一点。
ottosulin/awesome-ai-security与AI安全相关的精彩资源合集
