#1逐Token攻陷:统一自回归模型中的后门漏洞(NeurIPS'26)

研究 Hop-Decayed Influence(HDI)的实现以及 3S 攻击框架,揭示 LLM 的 GraphRAG 流水线中存在的结构性辅助索引漏洞。

LLM 安全:分析微调如何改变拒绝行为,并评估层冻结与低秩防御。

用于通过在线策略蒸馏缓解自适应提示注入的研究实现,包含针对 SEP、PISmith 和 AgentDojo 基准的训练方案与评估器。

防御框架,通过选择性层恢复和动态路由来缓解LLM的恶意微调,并附带训练、危害性评分和越狱评估脚本。

内核态钩子,用于拦截、解密并消除 BEDaisy 到服务的报告流量,从而在 UEFI 和非 UEFI 系统上抑制反作弊检测。

用于 AI/ML 模型文件的安全扫描器。在部署前检测恶意代码、后门和漏洞。

通过注入 Unicode 变体选择符来规避 LLM 文本水印;包含 SynthID 生成器、mean-g 检测器、归一化防御和熵实验。

研究流水线,通过构建已验证的成功经验并将其组织为形成记录,经由HTS、LEGSA和GCTIR阶段逐步毒化模型技能。

防御框架,保持音频语言模型冻结,并添加中层风险门控与后层安全适配器,以在推理时阻止音频越狱。

用于评估AI代理在面对嵌入技能上下文中的攻击时的安全性的基准测试,涵盖6个风险领域的155个案例,衡量任务成功率与攻击抵抗能力。

针对 Web 代理的提示注入检测基准测试。

AI / LLM 红队实战手册与顾问指南

Syntactic Ghost:一种针对预训练语言模型的不可感知通用后门攻击

用于你的 LLM 智能体工作流的安全扫描器

通过训练基于对数概率的轻量级行为探针来检测 LLM 上下文泄露攻击,并提供 vLLM 离线/服务器检测管线。