ClawGuard 🛡️

中文版

Notre projet : https://github.com/SafeAgent-Beihang/clawguard

ClawGuard est une boîte à outils de sécurité conçue pour atténuer les risques associés aux agents autonomes, tels que OpenClaw et d'autres entités pilotées par LLM. Alors que les agents gagnent en autonomie pour exécuter du code, accéder à des API et gérer des fichiers, ClawGuard fournit les garde-fous nécessaires pour contribuer à réduire les risques de sécurité.

📖 Pourquoi ClawGuard ?

Les agents autonomes sont polyvalents mais introduisent des vecteurs d'attaque uniques :

• Injection de prompt : Des entrées malveillantes qui détournent la logique de l'agent.
• Élévation de privilèges : Des agents effectuant des opérations système non autorisées.
• Exfiltration de données : Fuite accidentelle de PII (informations personnelles identifiables) ou de clés API vers les fournisseurs de LLM.
• Épuisement des ressources : Boucles infinies ou tâches récursives entraînant des coûts de tokens massifs.

ClawGuard est une solution de sécurité complète qui utilise plusieurs modules de sécurité fonctionnant ensemble pour contribuer à réduire les risques de sécurité auxquels sont confrontés les agents. Chaque module a des responsabilités spécifiques et peut être utilisé indépendamment ou déployé conjointement.

Trois modules de sécurité sont actuellement publiés :

1. Auditor : Audit pré-installation
2. Checker : Vérification de configuration
3. Detect : Surveillance à l'exécution

D'autres modules de sécurité seront publiés à l'avenir pour étendre les capacités de protection.

ClawGuard est particulièrement adapté aux scénarios où les agents doivent exécuter du code, accéder à des fichiers ou appeler des API externes.

🧩 Modules

ClawGuard est une solution de sécurité modulaire, chaque module étant responsable de fonctions de sécurité spécifiques. Modules actuellement publiés :

• ClawGuard Auditor : Fournit une analyse statique pré-installation, un contrôle des capacités à l'exécution, une exécution zéro confiance et une censure des données en temps réel pour les compétences OpenClaw. Comprend :

  • SAST avancé (test statique de sécurité des applications)
  • Analyse sémantique des intentions
  • Sécurité de la chaîne d'approvisionnement (vérification des dépendances, analyse des CVE)
  • Détection d'anomalies basée sur le ML
  • Exécution en bac à sable

• ClawGuard Checker : Analyseur de configuration de sécurité et vérificateur d'intégrité à l'exécution. Comprend :

  • Analyse de la sécurité de la configuration
  • Détection d'exposition des identifiants (analyse multi-modèles)
  • Modélisation des permissions
  • Vérification d'intégrité à l'exécution (SHA-256)
  • Analyse de la sécurité réseau
  • Forensique des journaux
  • Vérification de conformité (référentiels CIS, NSA, CISA)

• ClawGuard Detect : Système de surveillance comportementale en temps réel et de détection des menaces. Comprend :

  • Surveillance des commandes en temps réel
  • Surveillance des accès aux fichiers
  • Analyse du trafic réseau
  • Détection d'injection de prompt
  • Détection de chaînes d'attaque multi-étapes
  • Couverture MITRE ATT&CK
  • Détection d'anomalies basée sur le ML

Architecture

Les modules de ClawGuard peuvent être utilisés indépendamment ou déployés ensemble pour former un système de protection complet :

┌─────────────────────────────────────────────────────────────────┐
│                     CLAWGUARD SECURITY FLOW                      │
└─────────────────────────────────────────────────────────────────┘

    ┌─────────────────────────────────────────┐
    │       Scenario 1: Install New Skill     │
    └─────────────────────────────────────────┘
                         │
                         ▼
              ┌─────────────────────┐
              │  Auditor (Audit)    │  ← Check if Skill is safe
              │  Pre-installation   │
              └──────────┬──────────┘
                         │
                         ▼
              ┌─────────────────────┐
              │  Pass → Install    │
              │  Reject → Abort   │
              └─────────────────────┘

    ┌─────────────────────────────────────────┐
    │       Scenario 2: Check Security Status │
    └─────────────────────────────────────────┘
                         │
                         ▼
              ┌─────────────────────┐
              │  Checker (Check)   │  ← Verify configuration
              │  Manual/Periodic   │
              └──────────┬──────────┘
                         │
                         ▼
              ┌─────────────────────┐
              │  Security Score    │
              │  + Recommendations │
              └─────────────────────┘

    ┌─────────────────────────────────────────┐
    │      Scenario 3: Agent Running Tasks    │
    └─────────────────────────────────────────┘
                         │
                         ▼
              ┌─────────────────────┐
              │  Detect (Monitor) │  ← Real-time threat detection
              │  Continuous        │
              └──────────┬──────────┘
                         │
                         ▼
              ┌─────────────────────┐
              │  Block / Warn     │
              │  / Allow          │
              └─────────────────────┘

Les trois scénarios sont indépendants et peuvent être sélectionnés en fonction des besoins réels :

Auditor - Audit pré-installation

Quand l'utiliser : Lorsque quelqu'un souhaite installer une nouvelle compétence tierce pour l'agent

Vérifications principales :

• La compétence contient-elle du code malveillant (reverse shell, exfiltration de données)
• La fonctionnalité annoncée de la compétence correspond-elle à son comportement réel (analyse d'intention)
• Les dépendances sont-elles sûres, existence éventuelle d'un empoisonnement de la chaîne d'approvisionnement

Checker - Vérification de configuration

Quand l'utiliser : Lorsqu'il s'agit de vérifier si le système OpenClaw lui-même est configuré de manière sécurisée

Vérifications principales :

• Des clés API sont-elles exposées dans les fichiers de configuration
• Les permissions des fichiers sont-elles correctes (les fichiers de configuration ne devraient pas être lisibles par d'autres)
• Le réseau est-il correctement isolé
• L'exécution se fait-elle en tant que root (dangereux)

Detect - Surveillance à l'exécution

Quand l'utiliser : Pendant que l'agent exécute des tâches, pour surveiller en temps réel les comportements dangereux

Vérifications principales :

• La commande actuelle est-elle dangereuse (par exemple, curl avec des identifiants)
• Y a-t-il une tentative d'injection de prompt
• Y a-t-il des accès aux fichiers ou des requêtes réseau anormaux

🤝 Contribuer

Nous accueillons les contributions pour rendre les agents autonomes plus sûrs !

1. Forkez le projet.
2. Créez votre branche de fonctionnalité (git checkout -b feature/AmazingFeature).
3. Commitez vos modifications (git commit -m 'Add some AmazingFeature').
4. Poussez vers la branche (git push origin feature/AmazingFeature).
5. Ouvrez une pull request.

📄 Licence

Distribué sous la licence MIT. Voir LICENSE pour plus d'informations.

⚠️ Avertissement

ClawGuard est un outil de sécurité conçu pour réduire les risques, mais il ne peut pas garantir une protection à 100 % contre toutes les vulnérabilités possibles des LLM. Suivez toujours le principe du moindre privilège (PoLP) lors du déploiement d'agents autonomes.

Sécurisez vos agents. Protégez vos systèmes. Utilisez ClawGuard.

Documentation | Signaler un bug | Contacter l'équipe