[!WARNING] 此项目已被归档。

此项目及其在 Hugging Face 上的相关模型不再积极开发或维护。

LLM Guard - LLM 交互安全工具包

由 Protect AI 开发的 LLM Guard 是一款旨在强化大语言模型（LLM）安全性的综合工具。

文档 | 演示环境 | 更新日志

LLM Guard 是什么？

通过提供数据清洗、有害语言检测、数据泄露防护以及对提示注入攻击的抵御能力，LLM-Guard 确保您与 LLM 的交互始终保持安全可靠。

安装

通过下载软件包开始您的 LLM Guard 之旅：

pip install llm-guard

快速开始

重要说明：

• LLM Guard 专为在生产环境中轻松集成和部署而设计。虽然它可以开箱即用，但请注意我们一直在不断改进和更新该仓库。
• 基础功能只需要少量库。当您探索更高级的功能时，所需的库将自动安装。
• 请确保您使用的是 Python 3.9 或更高版本。可通过 python --version 确认。
• 遇到库安装问题？请考虑升级 pip：python -m pip install --upgrade pip。

示例：

• 从 ChatGPT 和 LLM Guard 开始。
• 将 LLM Guard 部署为 API

支持的扫描器

提示词扫描器

• Anonymize
• BanCode
• BanCompetitors
• BanSubstrings
• BanTopics
• Code
• Gibberish
• InvisibleText
• Language
• PromptInjection
• Regex
• Secrets
• Sentiment
• TokenLimit
• Toxicity

输出扫描器

• BanCode
• BanCompetitors
• BanSubstrings
• BanTopics
• Bias
• Code
• Deanonymize
• JSON
• Language
• LanguageSame
• MaliciousURLs
• NoRefusal
• ReadingTime
• FactualConsistency
• Gibberish
• Regex
• Relevance
• Sensitive
• Sentiment
• Toxicity
• URLReachability

社区、贡献、文档与支持

LLM Guard 是一个开源解决方案。

我们致力于透明的开发流程，并非常感谢任何贡献。无论您是在帮助我们修复错误、提出新功能、改进文档还是进行宣传，我们都希望您能成为我们社区的一员。

• 在本页顶部给我们一个 ⭐️ github star ⭐️ 以支持我们所做的工作，这对开源项目意义重大！
• 阅读我们的文档，了解如何使用和自定义 LLM Guard，以及查看分步教程。
• 发布 Github Issue 来提交错误报告、功能请求或提出改进建议。
• 如需为软件包做贡献，请查看我们的贡献指南，并提交 PR。

加入我们的 Slack，向我们提供反馈、与维护者和其他用户交流、提出问题、获得软件包使用或贡献方面的帮助，或参与有关 LLM 安全的讨论！

生产支持

我们非常乐意为您将 LLM Guard 部署到生产环境时提供个性化协助。

• 发送邮件 ✉️