#1用于负责任AI模型调试的交互式仪表盘和库,涵盖错误分析、公平性、可解释性、反事实分析、因果分析和数据平衡。

LLM 安全测试框架,用于检测提示注入、越狱和对抗性攻击 — 190+ 探针、28 个提供商、单个 Go 二进制文件

A post exploitation framework / C2 for advanced Red Team operations

用于越狱各种LLM的仓库,主要是Claude

Empire 是一个后渗透与对手模拟框架,用于协助红队和渗透测试人员。

模块化LLM漏洞扫描器,利用静态、动态和自适应探测手段,跨多个模型提供商检测幻觉、数据泄露、提示注入、越狱及毒性内容。

用于对生成式AI系统进行红队测试的开源框架:自动化攻击提示、对模型响应进行评分,并审计行为以识别安全与安全性风险。

用于 AI/ML 模型文件的安全扫描器。在部署前检测恶意代码、后门和漏洞。

测试你的提示词、代理和RAG。对AI进行红队测试/渗透测试/漏洞扫描。比较GPT、Claude、Gemini、DeepSeek等的性能。简单的声明式配置,支持命令行和CI/CD集成。被OpenAI和Anthropic使用。

:cloud: :zap: 针对云端的细粒度、可操作对手模拟

Benchmark harness that evaluates LLM agent tool-calling security under long-horizon tasks, generating prompt-injection and tool-poisoning attacks and…

用于附加到 MISP 事件或属性(如威胁行为者)的集群和元素



一个能够快速探索对齐假设的对齐审计代理。