GuardModel

Bloquea modelos de IA maliciosos en tu pipeline con una línea de YAML.

GuardModel es una GitHub Action que escanea automáticamente archivos de modelos de ML en busca de código malicioso, vulnerabilidades y riesgos de seguridad en pipelines CI/CD. Bloquea modelos peligrosos antes de que lleguen a producción detectando ataques de deserialización pickle, malware incrustado y CVEs conocidos.

Inicio rápido

Añade a tu flujo de trabajo:

name: GuardModel Security Scan
on: [push, pull_request]

jobs:
  scan:
    runs-on: ubuntu-latest
    steps:
      - uses: actions/checkout@v4
      - uses: guardmodel/scan@v1

¡Eso es todo! GuardModel escaneará todos los archivos de modelo y fallará la verificación si se detectan amenazas.

Características

• Detección Automática - Escanea todos los archivos de modelo en push/PR
• Múltiples Formatos - Soporta pickle, PyTorch, Keras, ONNX, SafeTensors
• Más de 70 Reglas de Detección - Ejecución de código, shells inversos, acceso al sistema de archivos, actividad de red
• Integración con GitHub - Salida SARIF para la pestaña Security, comentarios en PR, informes JSON
• Configurable - Listas permitidas, umbrales de severidad, reglas personalizadas

Formatos Soportados

Configuración

Crea un archivo .guardmodel.yml en tu repositorio:

version: 1

# Directories to scan
include:
  - models/
  - weights/

# Directories to ignore
exclude:
  - tests/fixtures/

# Severity threshold to fail CI
fail_on: high  # critical, high, medium, low, none

# Allowlist known-safe models by SHA256
allowlist:
  - sha256: "abc123..."
    reason: "Verified by security team"

# Maximum file sizes
max_file_size: 5GB
max_total_size: 20GB

Entradas de la Acción

Salidas de la Acción

Detección de Amenazas

GuardModel detecta:

• Ejecución de Código - os.system, subprocess, eval, exec
• Shells Inversos - Conexiones de socket con ejecución de shell
• Actividad de Red - Peticiones HTTP, descargas, exfiltración de datos
• Sistema de Archivos - Eliminación de archivos, cambios de permisos
• Importaciones Peligrosas - ctypes, importaciones dinámicas
• Ofuscación - Base64, marshal, pickles anidados
• Malware Conocido - Coincidencia de hash y firmas
• Vulnerabilidades CVE - Problemas de seguridad conocidos

Ejemplo de Salida

Comentario en PR

Escaneo de Seguridad de GuardModel

Estado: FALLIDO - 2 amenazas detectadas

Integración SARIF

Los hallazgos aparecen en la pestaña Security de GitHub con:

• Descripciones de reglas
• Ubicaciones de archivos
• Guía de remediación

Desarrollo

# Install dependencies
npm install
pip install -r requirements.txt

# Build
npm run build

# Test
npm test
pytest tests/

# Package for release
npm run package

Arquitectura

guardmodel/
├── action.yml              # GitHub Action definition
├── src/                    # TypeScript source
│   ├── index.ts           # Entry point
│   ├── orchestrator.ts    # Scan coordination
│   ├── config.ts          # Configuration
│   ├── walker.ts          # File discovery
│   └── reporters/         # Output formatters
├── python/
│   ├── agents/            # Scanner agents
│   │   ├── pickle_agent.py
│   │   ├── keras_agent.py
│   │   ├── onnx_agent.py
│   │   └── safetensors_agent.py
│   └── rules/             # Detection rules
└── tests/                 # Test suite

Seguridad

GuardModel:

• Escanea localmente - no se suben archivos a servidores externos
• Sin telemetría sin consentimiento
• Se ejecuta en un entorno de runner de GitHub aislado
• Dependencias fijadas con verificación de hash

Licencia

MIT

Contribuciones

¡Las contribuciones son bienvenidas! Consulta CONTRIBUTING.md.

Enlaces

• Documentación
• Referencia de Reglas
• Marketplace de GitHub