ny1024/clawguardМодульный набор инструментов безопасности для автономных агентов, обеспечивающий статический анализ, аудит конфигураций, мониторинг во время выполнения и проверку цепочки поставок для снижения рисков, связанных с LLM.
Наш проект: https://github.com/SafeAgent-Beihang/clawguard
ClawGuard — это набор инструментов безопасности, предназначенный для снижения рисков, связанных с автономными агентами, такими как OpenClaw и другими агентами на основе LLM. По мере того как агенты получают больше автономии для выполнения кода, доступа к API и управления файлами, ClawGuard предоставляет необходимые ограничения для снижения рисков безопасности.
Автономные агенты универсальны, но создают уникальные векторы атак:
ClawGuard — это комплексное решение безопасности, которое использует несколько модулей безопасности, работающих вместе, чтобы помочь снизить риски безопасности, с которыми сталкиваются агенты. Каждый модуль имеет свои конкретные обязанности и может использоваться независимо или развертываться совместно.
В настоящее время выпущено три модуля безопасности:
В будущем будут выпущены дополнительные модули безопасности для расширения возможностей защиты.
ClawGuard особенно подходит для сценариев, где агентам необходимо выполнять код, получать доступ к файлам или вызывать внешние API.
ClawGuard — это модульное решение безопасности, в котором каждый модуль отвечает за определенные функции безопасности. В настоящее время выпущенные модули:
ClawGuard Auditor: Предоставляет статический анализ перед установкой, принудительное применение возможностей во время выполнения, выполнение с нулевым доверием и редактирование данных в реальном времени для OpenClaw Skills. Включает:
ClawGuard Checker: Анализатор конфигурации безопасности и верификатор целостности во время выполнения. Включает:
ClawGuard Detect: Система мониторинга поведения в реальном времени и обнаружения угроз. Включает:
Модули ClawGuard могут использоваться независимо или развертываться совместно для создания полной системы защиты:
┌─────────────────────────────────────────────────────────────────┐
│ CLAWGUARD SECURITY FLOW │
└─────────────────────────────────────────────────────────────────┘
┌─────────────────────────────────────────┐
│ Scenario 1: Install New Skill │
└─────────────────────────────────────────┘
│
▼
┌─────────────────────┐
│ Auditor (Audit) │ ← Check if Skill is safe
│ Pre-installation │
└──────────┬──────────┘
│
▼
┌─────────────────────┐
│ Pass → Install │
│ Reject → Abort │
└─────────────────────┘
┌─────────────────────────────────────────┐
│ Scenario 2: Check Security Status │
└─────────────────────────────────────────┘
│
▼
┌─────────────────────┐
│ Checker (Check) │ ← Verify configuration
│ Manual/Periodic │
└──────────┬──────────┘
│
▼
┌─────────────────────┐
│ Security Score │
│ + Recommendations │
└─────────────────────┘
┌─────────────────────────────────────────┐
│ Scenario 3: Agent Running Tasks │
└─────────────────────────────────────────┘
│
▼
┌─────────────────────┐
│ Detect (Monitor) │ ← Real-time threat detection
│ Continuous │
└──────────┬──────────┘
│
▼
┌─────────────────────┐
│ Block / Warn │
│ / Allow │
└─────────────────────┘
Три сценария независимы и могут быть выбраны в зависимости от реальных потребностей:
| Модуль | Auditor | Checker | Detect |
|---|---|---|---|
| Роль | Шлюз безопасности | Регулярная проверка | Камера безопасности |
| Когда | Перед установкой навыка | Вручную/периодически | Во время выполнения |
| Цель | Исходный код стороннего навыка | Конфигурация/система OpenClaw | Команды/операции агента |
| Фокус | Вредоносный код в навыке | Безопасность конфигурации системы | Активные атаки |
| Сценарий использования | Установка нового навыка | Проверка состояния безопасности системы | Мониторинг угроз |
Когда использовать: Когда кто-то хочет установить новый сторонний навык для агента
Основные проверки:
Когда использовать: При проверке, безопасно ли настроена сама система OpenClaw
Основные проверки:
Когда использовать: Во время выполнения задач агентом, мониторинг опасного поведения в реальном времени
Основные проверки:
Мы приветствуем вклад, чтобы сделать автономных агентов безопаснее!
git checkout -b feature/AmazingFeature).git commit -m 'Add some AmazingFeature').git push origin feature/AmazingFeature).Распространяется по лицензии MIT. См. LICENSE для получения дополнительной информации.
ClawGuard — это инструмент безопасности, предназначенный для снижения риска, но он не может гарантировать 100% защиту от всех возможных уязвимостей LLM. Всегда следуйте принципу наименьших привилегий (PoLP) при развертывании автономных агентов.
Защитите своих агентов. Защитите свои системы. Используйте ClawGuard.