GuardModel

Blocca i modelli AI dannosi nella tua pipeline con una riga di YAML.

GuardModel è una GitHub Action che scansiona automaticamente i file dei modelli ML alla ricerca di codice dannoso, vulnerabilità e rischi di sicurezza nelle pipeline CI/CD. Blocca i modelli pericolosi prima che raggiungano la produzione rilevando attacchi di deserializzazione pickle, malware incorporato e CVE note.

Avvio rapido

Aggiungi al tuo workflow:

name: GuardModel Security Scan
on: [push, pull_request]

jobs:
  scan:
    runs-on: ubuntu-latest
    steps:
      - uses: actions/checkout@v4
      - uses: guardmodel/scan@v1

Tutto qui! GuardModel scansionerà tutti i file dei modelli e farà fallire il check se vengono rilevate minacce.

Funzionalità

• Rilevamento automatico - Scansiona tutti i file dei modelli a ogni push/PR
• Multipli formati - Supporta pickle, PyTorch, Keras, ONNX, SafeTensors
• 70+ regole di rilevamento - Esecuzione di codice, reverse shell, accesso al file system, attività di rete
• Integrazione con GitHub - Output SARIF per la scheda Sicurezza, commenti sulle PR, report JSON
• Configurabile - Allowlist, soglie di gravità, regole personalizzate

Formati supportati

Configurazione

Crea .guardmodel.yml nel tuo repository:

version: 1

# Directories to scan
include:
  - models/
  - weights/

# Directories to ignore
exclude:
  - tests/fixtures/

# Severity threshold to fail CI
fail_on: high  # critical, high, medium, low, none

# Allowlist known-safe models by SHA256
allowlist:
  - sha256: "abc123..."
    reason: "Verified by security team"

# Maximum file sizes
max_file_size: 5GB
max_total_size: 20GB

Input dell'azione

Output dell'azione

Rilevamento delle minacce

GuardModel rileva:

• Esecuzione di codice - os.system, subprocess, eval, exec
• Reverse shell - Connessioni socket con esecuzione di shell
• Attività di rete - Richieste HTTP, download, esfiltrazione di dati
• File system - Eliminazione di file, modifiche ai permessi
• Import pericolosi - ctypes, import dinamici
• Offuscamento - Base64, marshal, pickle annidati
• Malware noti - Corrispondenza di hash e firme
• Vulnerabilità CVE - Problemi di sicurezza noti

Esempio di output

Commento sulla PR

Scansione di sicurezza GuardModel

Stato: FAILED - 2 minacce rilevate

Integrazione SARIF

I rilevamenti vengono visualizzati nella scheda Sicurezza di GitHub con:

• Descrizioni delle regole
• Posizioni dei file
• Linee guida per la correzione

Sviluppo

# Install dependencies
npm install
pip install -r requirements.txt

# Build
npm run build

# Test
npm test
pytest tests/

# Package for release
npm run package

Architettura

guardmodel/
├── action.yml              # GitHub Action definition
├── src/                    # TypeScript source
│   ├── index.ts           # Entry point
│   ├── orchestrator.ts    # Scan coordination
│   ├── config.ts          # Configuration
│   ├── walker.ts          # File discovery
│   └── reporters/         # Output formatters
├── python/
│   ├── agents/            # Scanner agents
│   │   ├── pickle_agent.py
│   │   ├── keras_agent.py
│   │   ├── onnx_agent.py
│   │   └── safetensors_agent.py
│   └── rules/             # Detection rules
└── tests/                 # Test suite

Sicurezza

GuardModel:

• Esegue la scansione localmente - nessun file viene caricato su server esterni
• Nessuna telemetria senza consenso esplicito
• Esegue in un ambiente GitHub runner isolato
• Dipendenze bloccate con verifica tramite hash

Licenza

MIT

Contributi

Contributi benvenuti! Consulta CONTRIBUTING.md.

Link

• Documentazione
• Riferimento regole
• GitHub Marketplace