#1基于强化学习的提示注入红队测试开放框架,包含共享训练器、课程学习,以及 AgentDojo、InjecAgent 和 PIArena 等基准测试。

面向商业图像生成器的红队测试基准与黑盒攻击框架,用于评估视觉虚假信息风险,包含1万条虚假声明提示词及评分脚本。

基准测试与评估框架,用于测试LLM代理是否能抵御隐藏在多模态技能图像中的恶意指令,包含跨五个风险类别的108个案例,并采用ASR/TSR评分。

为渗透测试人员、漏洞猎手和安全研究人员精选的AI安全材料与资源列表。

针对OpenClaw风格计算机使用代理的持久内存攻击的基准测试与防御代码,包含内存分区缓解措施、攻击场景及评估脚本。

用于越狱各种LLM的仓库,主要是Claude

绕过LLM护栏,通过用伪造的工具输出迷惑它。

Kali365 - EvilTokens 复制品

一个结构化知识库,涵盖AI安全基础、威胁建模、红队攻击技术和蓝队防御,包括LLM安全、对抗性机器学习和深度伪造对策。

一套工具集,用于让系统看起来像是遭受了APT攻击

针对应用集成式LLM的间接提示注入攻击的概念验证演示与研究,涵盖数据窃取、远程控制、持久化和代码补全投毒。

LLM驱动的智能体群体刷单攻击框架,利用自适应多角色策略操纵黑盒协同过滤推荐排名,同时规避检测。

用于 LLM 的自主红队引擎。RedThread 管理完整的安全生命周期:生成对抗性攻击、执行精确评估,并综合经过验证的护栏以实现安全的自我改进。

针对视觉-语言网络代理的对抗性图像攻击:从视觉定位到浏览器执行

面向黑盒LLM提取攻击、防御与自适应攻击的生命周期基准测试。

A collection of awesome resources related AI security

一个能够快速探索对齐假设的对齐审计代理。