#1模块化LLM漏洞扫描器,利用静态、动态和自适应探测手段,跨多个模型提供商检测幻觉、数据泄露、提示注入、越狱及毒性内容。

开源跨模态与多模态提示注入测试套件。包含 250,000+ 个攻击载荷,覆盖文本、图像、文档和音频模态。研究依据包括 OWASP LLM Top 10、CrossInject(ACM MM 2025)、FigStep(AAAI 2025)、DolphinAttack 和 CSA 2026。

Claude AI 中的一个高风险提示注入漏洞证明,即使是最智能的语言模型也能被变成武器——只需几行代码。

在攻击到达您的 LLM 之前阻止提示注入攻击 — 零 API 成本,完全本地运行,2 分钟集成。提示注入是 LLM 应用的第一大安全风险。aco-prompt-shield 捕获已知的越狱模式,通过 ML 理解语义意图,并检测混淆 — 全部本地化,全部私密。

一个能够快速探索对齐假设的对齐审计代理。

开源提示注入攻击控制台。通过向任何端点发动分类攻击来测试AI安全性。

评估框架,用于测试大型语言模型是否遵循嵌入在正常文本中的不可见 Unicode 编码指令,并跨多个模型和工具条件进行统计分析。

基于语音的侦探审讯游戏。Mistral Large 3 + Voxtral STT + ElevenLabs TTS。为 Mistral Worldwide Hackathon 2026 而构建。

基于剧本的对手模拟框架,可将JSON定义的攻击路径编译为位置无关的shellcode负载,用于验证高级检测和基于AI的调查代理。

与AI安全相关的精彩资源合集

对抗模拟与红队作战平台(集成AI)

测试你的提示词、代理和RAG。对AI进行红队测试/渗透测试/漏洞扫描。比较GPT、Claude、Gemini、DeepSeek等的性能。简单的声明式配置,支持命令行和CI/CD集成。被OpenAI和Anthropic使用。

用于机器学习的 Metasploit

一套工具集,用于让系统看起来像是遭受了APT攻击
