GuardModel

Blockieren Sie bösartige KI-Modelle in Ihrer Pipeline mit einer Zeile YAML.

GuardModel ist eine GitHub Action, die automatisch ML-Modelldateien auf bösartigen Code, Schwachstellen und Sicherheitsrisiken in CI/CD-Pipelines scannt. Es blockiert gefährliche Modelle, bevor sie die Produktion erreichen, indem es Pickle-Deserialisierungsangriffe, eingebettete Malware und bekannte CVEs erkennt.

Schnellstart

Fügen Sie Ihrem Workflow hinzu:

name: GuardModel Security Scan
on: [push, pull_request]

jobs:
  scan:
    runs-on: ubuntu-latest
    steps:
      - uses: actions/checkout@v4
      - uses: guardmodel/scan@v1

Das war's! GuardModel scannt alle Modelldateien und schlägt die Prüfung fehl, falls Bedrohungen erkannt werden.

Funktionen

• Automatische Erkennung - Scannt alle Modelldateien bei Push/PR
• Mehrere Formate - Unterstützt pickle, PyTorch, Keras, ONNX, SafeTensors
• 70+ Erkennungsregeln - Code-Ausführung, Reverse Shells, Dateisystemzugriff, Netzwerkaktivität
• GitHub-Integration - SARIF-Ausgabe für den Sicherheits-Tab, PR-Kommentare, JSON-Berichte
• Konfigurierbar - Whitelists, Schweregradschwellen, benutzerdefinierte Regeln

Unterstützte Formate

Konfiguration

Erstellen Sie eine .guardmodel.yml in Ihrem Repository:

version: 1

# Directories to scan
include:
  - models/
  - weights/

# Directories to ignore
exclude:
  - tests/fixtures/

# Severity threshold to fail CI
fail_on: high  # critical, high, medium, low, none

# Allowlist known-safe models by SHA256
allowlist:
  - sha256: "abc123..."
    reason: "Verified by security team"

# Maximum file sizes
max_file_size: 5GB
max_total_size: 20GB

Action-Eingaben

Action-Ausgaben

Bedrohungserkennung

GuardModel erkennt:

• Code-Ausführung - os.system, subprocess, eval, exec
• Reverse Shells - Socket-Verbindungen mit Shell-Ausführung
• Netzwerkaktivität - HTTP-Anfragen, Downloads, Datenerfassung
• Dateisystem - Dateilöschung, Berechtigungsänderungen
• Gefährliche Importe - ctypes, dynamische Importe
• Verschleierung - Base64, marshal, verschachtelte Pickles
• Bekannte Malware - Hash- und Signaturabgleich
• CVE-Schwachstellen - Bekannte Sicherheitsprobleme

Beispielausgabe

PR-Kommentar

GuardModel Sicherheitsscan

Status: FEHLGESCHLAGEN - 2 Bedrohungen erkannt

SARIF-Integration

Die Funde erscheinen im GitHub-Sicherheits-Tab mit:

• Regelbeschreibungen
• Dateispeicherorten
• Leitfaden zur Behebung

Entwicklung

# Install dependencies
npm install
pip install -r requirements.txt

# Build
npm run build

# Test
npm test
pytest tests/

# Package for release
npm run package

Architektur

guardmodel/
├── action.yml              # GitHub Action definition
├── src/                    # TypeScript source
│   ├── index.ts           # Entry point
│   ├── orchestrator.ts    # Scan coordination
│   ├── config.ts          # Configuration
│   ├── walker.ts          # File discovery
│   └── reporters/         # Output formatters
├── python/
│   ├── agents/            # Scanner agents
│   │   ├── pickle_agent.py
│   │   ├── keras_agent.py
│   │   ├── onnx_agent.py
│   │   └── safetensors_agent.py
│   └── rules/             # Detection rules
└── tests/                 # Test suite

Sicherheit

GuardModel:

• Scannt lokal - keine Dateien werden an externe Server hochgeladen
• Keine Telemetrie ohne Zustimmung
• Läuft in isolierter GitHub-Runner-Umgebung
• Abhängigkeiten mit Hash-Überprüfung fixiert

Lizenz

MIT

Mitwirken

Beiträge willkommen! Bitte siehe CONTRIBUTING.md.

Links

• Dokumentation
• Regelreferenz
• GitHub Marketplace