对抗性攻击

wsu-cyber-security-lab-ai/clipguard

使用SAM分割和CLIP模型来规避基于AI的诈骗图像分类器的对抗性图像扰动工具，用于安全研究。

pho5nix/red-team-goad-lab-proxmox

红队家庭实验室搭建指南。在 Proxmox 和 pfSense 中搭建 GOAD 实验室，Operator/C2 与重定向器。

joshuagodwin7929/purple-team-automation

针对 AD 实验环境进行自动化对手模拟（Caldera），以验证 Sigma 检测覆盖范围并将结果映射到 MITRE ATT&CK。

cybershujin/prompt-injection-in-the-wild

按投递方式、编码方式和传播行为分类的公开报告提示注入技术追踪器，包含已确认的模型、来源和 MITRE ATLAS 标签。

sisl-uri/t-backdoor

研究代码实现了T-Backdoor，即针对脉冲神经网络的时序触发后门攻击，使用速率、延迟和抖动触发器，无需空间扰动。

azzzzliao/aegis-audio-defense

防御框架，保持音频语言模型冻结，并添加中层风险门控与后层安全适配器，以在推理时阻止音频越狱。

shaheeryasirofficial/smugglemypayload

生成HTML走私页面，通过JavaScript在客户端嵌入并重建文件，支持载荷编码、分块、混淆以及钓鱼诱饵模板。

alex66366/odpure

黑盒输入阶段净化防御，通过损坏、扩散重建和DBSCAN共识投票来中和针对目标检测器的后门攻击。

norrrrrrr-lyn/wainjectbench

针对 Web 代理的提示注入检测基准测试。

usama1002/deleting-the-trace

针对使用工具的LLM代理的控制令牌思维链抑制与解析器宽松攻击实验

ml-security-research-lab/cachetrap

针对灰盒木马攻击的研究代码，该攻击通过翻转微调LLM分类器中单个KV缓存位，并测量各类别的攻击成功率。

xiaoyan-lisa/defenses-for-tool-integrated-llm

面向工具集成型 LLM 智能体的对抗攻击防御研究与实验代码，扩展 Agent Security Bench，加入新的防御策略与攻击场景。

zhou-cybersecurity-ai/synghost

Syntactic Ghost：一种针对预训练语言模型的不可感知通用后门攻击

siyuanli00/intact

研究代码，复现了来自SoK意图导向系统化论文的多轮LLM越狱实验（FITD、MRCJ、ActorAttack、X-Teaming）。

zdcslab/rubrics-as-an-attack-surface

针对评分标准诱导偏好漂移（RIPD）的研究代码：进化式评分标准搜索、保持基准的选择，以及LLM评判者中的DPO策略错位评估。

96kihyun/batch_jailbreak

此仓库包含论文“[Safety in Batches? Understanding and Mitigating Safety Failures in Batch Prompting]”的官方实现。