GuardModel

Bloqueie modelos de IA maliciosos no seu pipeline com uma linha de YAML.

O GuardModel é uma GitHub Action que verifica automaticamente arquivos de modelos de ML em busca de código malicioso, vulnerabilidades e riscos de segurança em pipelines de CI/CD. Ele bloqueia modelos perigosos antes que cheguem à produção, detectando ataques de desserialização pickle, malware embutido e CVEs conhecidas.

Início Rápido

Adicione ao seu workflow:

name: GuardModel Security Scan
on: [push, pull_request]

jobs:
  scan:
    runs-on: ubuntu-latest
    steps:
      - uses: actions/checkout@v4
      - uses: guardmodel/scan@v1

É isso! O GuardModel verificará todos os arquivos de modelo e fará a verificação falhar se ameaças forem detectadas.

Recursos

• Detecção Automática - Verifica todos os arquivos de modelo em push/PR
• Múltiplos Formatos - Suporta pickle, PyTorch, Keras, ONNX, SafeTensors
• 70+ Regras de Detecção - Execução de código, reverse shells, acesso ao sistema de arquivos, atividade de rede
• Integração com GitHub - Saída SARIF para a aba de Segurança, comentários em PRs, relatórios JSON
• Configurável - Listas de permissão, limites de gravidade, regras personalizadas

Formatos Suportados

Configuração

Crie .guardmodel.yml no seu repositório:

version: 1

# Directories to scan
include:
  - models/
  - weights/

# Directories to ignore
exclude:
  - tests/fixtures/

# Severity threshold to fail CI
fail_on: high  # critical, high, medium, low, none

# Allowlist known-safe models by SHA256
allowlist:
  - sha256: "abc123..."
    reason: "Verified by security team"

# Maximum file sizes
max_file_size: 5GB
max_total_size: 20GB

Entradas da Action

Saídas da Action

Detecção de Ameaças

O GuardModel detecta:

• Execução de Código - os.system, subprocess, eval, exec
• Reverse Shells - Conexões de socket com execução de shell
• Atividade de Rede - Requisições HTTP, downloads, exfiltração de dados
• Sistema de Arquivos - Exclusão de arquivos, alterações de permissão
• Imports Perigosos - ctypes, imports dinâmicos
• Ofuscação - Base64, marshal, pickles aninhados
• Malware Conhecido - Correspondência de hash e assinatura
• Vulnerabilidades CVE - Problemas de segurança conhecidos

Exemplo de Saída

Comentário no PR

Verificação de Segurança do GuardModel

Status: FALHOU - 2 ameaças detectadas

Integração SARIF

As descobertas aparecem na aba de Segurança do GitHub com:

• Descrições de regras
• Localizações de arquivos
• Orientação de correção

Desenvolvimento

# Install dependencies
npm install
pip install -r requirements.txt

# Build
npm run build

# Test
npm test
pytest tests/

# Package for release
npm run package

Arquitetura

guardmodel/
├── action.yml              # GitHub Action definition
├── src/                    # TypeScript source
│   ├── index.ts           # Entry point
│   ├── orchestrator.ts    # Scan coordination
│   ├── config.ts          # Configuration
│   ├── walker.ts          # File discovery
│   └── reporters/         # Output formatters
├── python/
│   ├── agents/            # Scanner agents
│   │   ├── pickle_agent.py
│   │   ├── keras_agent.py
│   │   ├── onnx_agent.py
│   │   └── safetensors_agent.py
│   └── rules/             # Detection rules
└── tests/                 # Test suite

Segurança

O GuardModel:

• Verifica localmente - nenhum arquivo é enviado para servidores externos
• Sem telemetria sem consentimento
• Executa em ambiente isolado do GitHub runner
• Dependências fixadas com verificação de hash

Licença

MIT

Contribuição

Contribuições são bem-vindas! Consulte CONTRIBUTING.md.

Links

• Documentação
• Referência de Regras
• GitHub Marketplace