GuardModel

Bloquez les modèles d'IA malveillants dans votre pipeline avec une seule ligne de YAML.

GuardModel est une GitHub Action qui scanne automatiquement les fichiers de modèles ML pour détecter les codes malveillants, les vulnérabilités et les risques de sécurité dans les pipelines CI/CD. Il bloque les modèles dangereux avant qu'ils n'atteignent la production en détectant les attaques de désérialisation pickle, les malwares intégrés et les CVE connues.

Démarrage rapide

Ajoutez à votre workflow :

name: GuardModel Security Scan
on: [push, pull_request]

jobs:
  scan:
    runs-on: ubuntu-latest
    steps:
      - uses: actions/checkout@v4
      - uses: guardmodel/scan@v1

C'est tout ! GuardModel scannera tous les fichiers de modèles et échouera la vérification si des menaces sont détectées.

Fonctionnalités

• Détection automatique - Scanne tous les fichiers de modèles lors des push/PR
• Formats multiples - Prend en charge pickle, PyTorch, Keras, ONNX, SafeTensors
• 70+ règles de détection - Exécution de code, shells inversés, accès au système de fichiers, activité réseau
• Intégration GitHub - Sortie SARIF pour l'onglet Sécurité, commentaires PR, rapports JSON
• Configurable - Listes blanches, seuils de sévérité, règles personnalisées

Formats pris en charge

Configuration

Créez .guardmodel.yml dans votre dépôt :

version: 1

# Directories to scan
include:
  - models/
  - weights/

# Directories to ignore
exclude:
  - tests/fixtures/

# Severity threshold to fail CI
fail_on: high  # critical, high, medium, low, none

# Allowlist known-safe models by SHA256
allowlist:
  - sha256: "abc123..."
    reason: "Verified by security team"

# Maximum file sizes
max_file_size: 5GB
max_total_size: 20GB

Entrées de l'action

Sorties de l'action

Détection des menaces

GuardModel détecte :

• Exécution de code - os.system, subprocess, eval, exec
• Shells inversés - Connexions socket avec exécution de shell
• Activité réseau - Requêtes HTTP, téléchargements, exfiltration de données
• Système de fichiers - Suppression de fichiers, modifications de permissions
• Importations dangereuses - ctypes, importations dynamiques
• Obscurcissement - Base64, marshal, pickles imbriqués
• Malwares connus - Correspondance de hachages et signatures
• Vulnérabilités CVE - Problèmes de sécurité connus

Exemple de sortie

Commentaire PR

Scan de sécurité GuardModel

Statut : ÉCHEC - 2 menaces détectées

Intégration SARIF

Les résultats apparaissent dans l'onglet Sécurité GitHub avec :

• Descriptions des règles
• Emplacements des fichiers
• Guide de correction

Développement

# Install dependencies
npm install
pip install -r requirements.txt

# Build
npm run build

# Test
npm test
pytest tests/

# Package for release
npm run package

Architecture

guardmodel/
├── action.yml              # GitHub Action definition
├── src/                    # TypeScript source
│   ├── index.ts           # Entry point
│   ├── orchestrator.ts    # Scan coordination
│   ├── config.ts          # Configuration
│   ├── walker.ts          # File discovery
│   └── reporters/         # Output formatters
├── python/
│   ├── agents/            # Scanner agents
│   │   ├── pickle_agent.py
│   │   ├── keras_agent.py
│   │   ├── onnx_agent.py
│   │   └── safetensors_agent.py
│   └── rules/             # Detection rules
└── tests/                 # Test suite

Sécurité

GuardModel :

• Scanne localement - aucun fichier téléversé vers des serveurs externes
• Pas de télémétrie sans consentement
• S'exécute dans un environnement de runner GitHub isolé
• Dépendances épinglées avec vérification de hachage

Licence

MIT

Contribution

Les contributions sont les bienvenues ! Veuillez consulter CONTRIBUTING.md.

Liens

• Documentation
• Référence des règles
• GitHub Marketplace