GuardModel

Блокируйте вредоносные модели ИИ в вашем пайплайне одной строкой YAML.

GuardModel — это GitHub Action, который автоматически сканирует файлы моделей машинного обучения на наличие вредоносного кода, уязвимостей и угроз безопасности в CI/CD-пайплайнах. Он блокирует опасные модели до того, как они попадут в продакшен, обнаруживая атаки десериализации pickle, встроенные вредоносные программы и известные CVE.

Быстрый старт

Добавьте в ваш workflow:

name: GuardModel Security Scan
on: [push, pull_request]

jobs:
  scan:
    runs-on: ubuntu-latest
    steps:
      - uses: actions/checkout@v4
      - uses: guardmodel/scan@v1

Всё! GuardModel просканирует все файлы моделей и завершит проверку с ошибкой, если будут обнаружены угрозы.

Возможности

• Автоматическое обнаружение — сканирует все файлы моделей при push/PR
• Несколько форматов — поддерживает pickle, PyTorch, Keras, ONNX, SafeTensors
• 70+ правил обнаружения — выполнение кода, обратные шеллы, доступ к файловой системе, сетевая активность
• Интеграция с GitHub — вывод SARIF на вкладку Security, комментарии к PR, JSON-отчёты
• Настраиваемость — белые списки, пороги критичности, пользовательские правила

Поддерживаемые форматы

Конфигурация

Создайте файл .guardmodel.yml в вашем репозитории:

version: 1

# Directories to scan
include:
  - models/
  - weights/

# Directories to ignore
exclude:
  - tests/fixtures/

# Severity threshold to fail CI
fail_on: high  # critical, high, medium, low, none

# Allowlist known-safe models by SHA256
allowlist:
  - sha256: "abc123..."
    reason: "Verified by security team"

# Maximum file sizes
max_file_size: 5GB
max_total_size: 20GB

Входные параметры Action

Выходные параметры Action

Обнаружение угроз

GuardModel обнаруживает:

• Выполнение кода — os.system, subprocess, eval, exec
• Обратные шеллы — сокетные соединения с выполнением команд оболочки
• Сетевую активность — HTTP-запросы, загрузки, эксфильтрация данных
• Файловую систему — удаление файлов, изменение прав доступа
• Опасные импорты — ctypes, динамические импорты
• Обфускацию — Base64, marshal, вложенные pickle
• Известные вредоносные программы — сопоставление хэшей и сигнатур
• CVE-уязвимости — известные проблемы безопасности

Пример вывода

Комментарий к PR

GuardModel Security Scan

Статус: FAILED — обнаружено 2 угрозы

Интеграция SARIF

Находки отображаются на вкладке GitHub Security с:

• Описаниями правил
• Расположением файлов
• Рекомендациями по устранению

Разработка

# Install dependencies
npm install
pip install -r requirements.txt

# Build
npm run build

# Test
npm test
pytest tests/

# Package for release
npm run package

Архитектура

guardmodel/
├── action.yml              # Определение GitHub Action
├── src/                    # Исходный код на TypeScript
│   ├── index.ts           # Точка входа
│   ├── orchestrator.ts    # Координация сканирования
│   ├── config.ts          # Конфигурация
│   ├── walker.ts          # Обнаружение файлов
│   └── reporters/         # Форматтеры вывода
├── python/
│   ├── agents/            # Агенты-сканеры
│   │   ├── pickle_agent.py
│   │   ├── keras_agent.py
│   │   ├── onnx_agent.py
│   │   └── safetensors_agent.py
│   └── rules/             # Правила обнаружения
└── tests/                 # Тестовый набор

Безопасность

GuardModel:

• Сканирует локально — файлы не загружаются на внешние серверы
• Не собирает телеметрию без явного согласия
• Работает в изолированной среде GitHub runner
• Зависимости фиксированы с проверкой хэшей

Лицензия

MIT

Участие в разработке

Приветствуются любые вклады! Пожалуйста, смотрите CONTRIBUTING.md.

Ссылки

• Документация
• Справочник правил
• GitHub Marketplace