#1
AI Security Newsletter - 一份月度 关于AI安全研究、见解、报告、即将举办的活动以及工具与资源的摘要

PISmith:基于强化学习的红队测试,用于提示注入防御

演示了使用机器学习预测随机数生成器序列,通过对抗性分析凸显密码学弱点。

轻量级CLI工具,在隔离的Bubblewrap沙箱中运行AI编码代理,具有严格的文件系统、网络和凭据隔离,以防止提示注入和供应链攻击。

提取自Meta AI支持助手的系统提示,日期为2026年6月1日

基准测试与评估框架,用于测试LLM代理是否能抵御隐藏在多模态技能图像中的恶意指令,包含跨五个风险类别的108个案例,并采用ASR/TSR评分。

基于强化学习的提示注入红队测试开放框架,包含共享训练器、课程学习,以及 AgentDojo、InjecAgent 和 PIArena 等基准测试。


面向长时间运行的代码审计、Web 渗透测试和漏洞赏金狩猎的 AI 框架,围绕真实调查失败的方式构建:锚定假设、假阴性和不可复现的报告。

防御性交互与威胁情报研究实验室。通过受控的、策略驱动的AI交互,将入站诈骗邮件转化为可操作的IOC(失陷指标)。采用具有自适应策略选择的多智能体LLM架构。

ENDGAME C2 FRAMEWORK — AI-powered command and control for professional red team operations

协作式 Web 应用渗透测试套件

基于模式的LLM智能体越狱框架,采用基于方案的任务分解、多轮伪装策略和自适应自进化来探测新兴安全风险。

用于基准测试大型语言模型的基于生成式 AI 的网络安全焦点提示数据集