[!WARNING] ЭТОТ ПРОЕКТ БЫЛ ЗААРХИВИРОВАН.

Этот проект и связанные с ним модели на Hugging Face больше не находятся в активной разработке и не поддерживаются.

LLM Guard — набор инструментов для обеспечения безопасности взаимодействий с LLM

LLM Guard от Protect AI — это комплексное решение, предназначенное для укрепления безопасности больших языковых моделей (LLM).

Документация | Playground | Журнал изменений

Что такое LLM Guard?

Благодаря санитизации входных данных, обнаружению вредоносного языка, предотвращению утечки данных и защите от prompt-инъекций, LLM-Guard обеспечивает безопасность и защищённость ваших взаимодействий с LLM.

Установка

Начните работу с LLM Guard, загрузив пакет:

pip install llm-guard

Начало работы

Важные замечания:

• LLM Guard разработан для простой интеграции и развёртывания в производственных средах. Несмотря на готовность к использованию из коробки, учтите, что мы постоянно совершенствуем и обновляем репозиторий.
• Базовая функциональность требует ограниченного набора библиотек. По мере изучения более продвинутых функций необходимые библиотеки будут установлены автоматически.
• Убедитесь, что вы используете Python версии 3.9 или выше. Проверить можно командой: python --version.
• Возникли проблемы с установкой библиотек? Попробуйте обновить pip: python -m pip install --upgrade pip.

Примеры:

• Начните с ChatGPT и LLM Guard.
• Разверните LLM Guard в качестве API

Поддерживаемые сканеры

Сканеры промптов (входных данных)

• Anonymize — анонимизация
• BanCode — запрет кода
• BanCompetitors — запрет упоминания конкурентов
• BanSubstrings — запрет подстрок
• BanTopics — запрет тем
• Code — код
• Gibberish — бессмыслица
• InvisibleText — невидимый текст
• Language — язык
• PromptInjection — prompt-инъекции
• Regex — регулярные выражения
• Secrets — секреты
• Sentiment — тональность
• TokenLimit — лимит токенов
• Toxicity — токсичность

Сканеры выходных данных

• BanCode — запрет кода
• BanCompetitors — запрет упоминания конкурентов
• BanSubstrings — запрет подстрок
• BanTopics — запрет тем
• Bias — предвзятость
• Code — код
• Deanonymize — деанонимизация
• JSON — JSON
• Language — язык
• LanguageSame — тот же язык
• MaliciousURLs — вредоносные URL
• NoRefusal — запрет отказов
• ReadingTime — время чтения
• FactualConsistency — фактическая согласованность
• Gibberish — бессмыслица
• Regex — регулярные выражения
• Relevance — релевантность
• Sensitive — чувствительные данные
• Sentiment — тональность

Сообщество, вклад в проект, документация и поддержка

LLM Guard — это решение с открытым исходным кодом. Мы стремимся к прозрачному процессу разработки и высоко ценим любой вклад. Помогаете ли вы нам исправлять ошибки, предлагать новые функции, улучшать документацию или распространять информацию — мы будем рады видеть вас в нашем сообществе.

• Поставьте нам ⭐️ звёздочку на GitHub ⭐️ в верхней части этой страницы, чтобы поддержать нашу работу: это много значит для проектов с открытым исходным кодом!
• Читайте нашу документацию для получения дополнительной информации о том, как использовать и настраивать LLM Guard, а также пошаговые руководства.
• Создавайте Issue на GitHub, чтобы сообщить об ошибке, запросить новую функцию или предложить улучшение.
• Чтобы внести вклад в пакет, ознакомьтесь с нашими правилами внесения вклада и отправьте PR.

Присоединяйтесь к нашему Slack, чтобы оставить отзыв, связаться с мейнтейнерами и другими пользователями, задать вопросы, получить помощь по использованию пакета или внесению вклада, а также участвовать в обсуждениях безопасности LLM!

Поддержка при производственном развёртывании

Мы готовы оказать персональную помощь при развёртывании вашего LLM Guard в производственной среде.

• Отправить письмо ✉️