工具

moontea0416/webmirage

针对视觉-语言网络代理的对抗性图像攻击：从视觉定位到浏览器执行

stardust457/sldr

防御框架，通过选择性层恢复和动态路由来缓解LLM的恶意微调，并附带训练、危害性评分和越狱评估脚本。

graph-com/cka-agent

研究实现了一种LLM越狱代理，该代理利用无害提示编织和自适应树搜索绕过商业模型的防护栏。

treeai-lab/awesome-rag-security

关于检索增强生成安全性的研究论文精选合集，按SLOT分类法组织，涵盖知识投毒、检索操纵、上下文利用和防御措施。

deep-jlu/skillpoison

研究流水线，通过构建已验证的成功经验并将其组织为形成记录，经由HTS、LEGSA和GCTIR阶段逐步毒化模型技能。

zju-llm-safety/ascent

微调框架，对LLM应用一阶最优安全校准和周期性重校准，在提升下游任务效用的同时保留安全兼容的更新。

euph00/zoneclaw-code

针对OpenClaw风格计算机使用代理的持久内存攻击的基准测试与防御代码，包含内存分区缓解措施、攻击场景及评估脚本。

sliu11-byte/mea-bench

面向黑盒LLM提取攻击、防御与自适应攻击的生命周期基准测试。

js-lee-ai/refusal-relocates

Refusal localizes, the damage relocates, safety layers under few-sample fine-tuning

kevinchunye/prompt_injection

用于衡量提示注入防御在工具调用型LLM代理流水线中何处触发的基准测试框架，跟踪金丝雀令牌在暴露、持久化、中继和执行各阶段的情况。

guzonghua/awesome-latency-attacks

深度学习延迟、能耗-延迟与定时（可用性）攻击及防御的精选索引——ACM Computing Surveys 投稿的配套资料。

facebookresearch/meta_secalign

用于防御提示注入攻击的开源权重LLM及训练/评估代码，附带针对代理工具调用和指令遵循安全性的基准测试。

kaill-jlq/mmskillrisk

基准测试与评估框架，用于测试LLM代理是否能抵御隐藏在多模态技能图像中的恶意指令，包含跨五个风险类别的108个案例，并采用ASR/TSR评分。

zju-llm-safety/trace

Agentic jailbreak framework for LLM-based agents using scheme-based task decomposition, multi-turn disguising strategies, and adaptive self-evolution…

zju-llm-safety/darwin

进化式LLM越狱与防护栏框架，通过遗传变异、马尔可夫选择和在线对抗训练培育可复用策略池，用于安全评估。

albert-y1n/piforge

基于强化学习的提示注入红队测试开放框架，包含共享训练器、课程学习，以及 AgentDojo、InjecAgent 和 PIArena 等基准测试。

breachsimrange/redteamsimmer

基于Web的对手仿真平台，通过Go代理在Windows终端上编排Atomic Red Team测试，具备MITRE ATT&CK映射、APT仿真计划和检测规则关联功能。