
PyRIT v1.1.0
用于对生成式AI系统进行红队测试的开源框架:自动化攻击提示、对模型响应进行评分,并审计行为以识别安全与安全性风险。

PyRIT:面向模型和应用的 AI 红队测试
PyRIT(Python Risk Identification Tool for generative AI,生成式 AI 的 Python 风险识别工具)是一个开源工具包, 用于通过自动化扫描、自适应多轮攻击和人工主导的测试, 发现生成式 AI 系统中的安全与保障弱点。
PyRIT 由 Microsoft AI Red Team 和开源贡献者社区共同构建, 将命令行扫描器、图形界面和可扩展的 Python 框架整合在一个工具包中。
你无需是 Microsoft 员工或经验丰富的红队成员即可参与。 加入我们的 Discord 社区 来提问、交流 技术、分享你正在构建的内容,并与维护者和其他用户建立联系。
贡献形式包括代码、文档、示例、缺陷报告、测试以及来自真实使用场景的反馈。 请阅读 贡献者指南 并 浏览标记为 "help wanted" 的 issue。
开始使用 | 加入 Discord | 阅读白皮书
探索 PyRIT
- 扫描器: 从命令行运行可重复的评估。
- CoPyRIT GUI: 在浏览器中交互式探索 AI 系统并查看结果。
- Python 框架: 组合并扩展组件,构建自定义红队测试工作流。
访问我们的网站获取安装、配置、 演示和文档。使用版本选择器使文档与你的安装版本相匹配; 上述指南对应最新的开发版本。
模型与系统
连接 OpenAI、Anthropic、Azure OpenAI、Microsoft Foundry、Azure Machine Learning、 Google Gemini、Google Vertex AI、AWS Bedrock、Hugging Face、Ollama、Groq、OpenRouter、 Cohere 和 GitHub Copilot。
使用 OpenAI 兼容 API 或内置目标,或安装可选的 LiteLLM 适配器 以支持更多提供商集成。有关设置和更多提供商,请参阅 提供商配置指南 和 LiteLLM 提供商目录。 可用功能取决于目标和模型。
通过 HTTP、 WebSockets、 使用 Playwright 的浏览器自动化 或自定义目标 测试完整应用和其他端点。
研究与引用
阅读 PyRIT: Democratizing AI Red Teaming Through Open-Source Tooling
了解该工具包背后的设计原则和真实实践经验。
如果你在研究中使用了 PyRIT,请使用
CITATION.cff 引用该论文。
安全
如需通过 Microsoft 安全响应中心私下报告 PyRIT 中的漏洞,请遵循我们的安全策略。
商标
本项目可能包含项目、产品或服务的商标或徽标。 经授权使用 Microsoft 商标或徽标须遵守并遵循 Microsoft 商标与品牌指南。 在修改版本中使用 Microsoft 商标或徽标不得 引起混淆或暗示 Microsoft 的赞助。 任何第三方商标或徽标的使用均须遵守相应第三方的 政策。