对抗性攻击

vectra-ai-research/maad-af

MAAD Attack Framework - 一种用于对 M365 和 Entra ID（Azure AD）进行简单、快速且有效的安全测试的攻击工具。

redcanaryco/chain-reactor

生成可模拟对手行为和技术的Linux可执行文件，用于测试检测与响应覆盖范围。通过JSON配置实现轻松定制。

thunlp/openattack

一个用于文本对抗攻击的开源软件包。

lightspin-tech/red-kube

基于 kubectl 的红队 K8S 对抗模拟

kennbroorg/shit-bucket/fecalface

本项目（目前仅为PoC，是Shit Bucket的一部分）涉及人脸检测、人脸识别和对抗输入，以保护头像。

secdev02/easytokens

Kali365 - EvilTokens 复制品

keyvaluesoftwaresystems/agent-opfor

用于AI智能体和MCP服务器的开源对抗仿真。

mastyf-ai/mastyf.ai

开源AI安全平台，通过集群分析、策略执行、对抗性测试和实时威胁检测，为LLM和AI代理提供边界防御。

jinxhy/awesome-moai-security

针对移动端设备上AI系统的攻击与防御研究精选阅读清单及分类体系，涵盖对抗攻击、后门攻击、模型窃取攻击及能耗-延迟攻击，同时涉及混淆、TEE与水印防御措施。

barre/privaxy

Privaxy 是下一代跟踪器和广告拦截器。它通过中间人攻击 HTTP(s) 流量来拦截广告和跟踪器。同时也可以看看我的新项目：https://github.com/Barre/ZeroFS

protectai/rebuff

用于 AI 应用的多层提示注入检测器，采用启发式规则、基于 LLM 的分析、vectorDB 攻击特征以及 canary token 泄露检测。

protectai/llm-guard

LLM 交互安全工具包

es3n1n/no-defender

一种稍微更有趣的禁用 Windows Defender + 防火墙的方法。（通过 WSC api）

yosangwon/arp-dns-spoof

使用 ARP 欺骗进行 DNS 欺骗的示例代码。

azure/pyrit

Python风险识别工具（PyRIT）是一个开源框架，旨在帮助安全专业人员和工程师主动识别生成式AI系统中的风险。