ModelAudit

Обеспечьте безопасность ваших моделей ИИ перед развертыванием. Статический сканер, который обнаруживает вредоносный код, потенциальные индикаторы бэкдоров и уязвимости безопасности в файлах моделей машинного обучения — без их загрузки или выполнения.

Полная документация | Примеры использования | Поддерживаемые форматы

Зачем нужен ModelAudit

Модели загружаются из ненадёжных реестров, проходят через CI и в итоге работают в продакшене. Традиционные инструменты SAST не анализируют опкоды pickle, структуру групп HDF5, графы proto ONNX или сигнатуры TensorFlow SavedModel — ModelAudit делает это:

• Статическое сканирование. Модель никогда не загружается, не десериализуется и не выполняется.
• Покрытие используемых вами форматов. Более 40 сканеров для pickle, PyTorch, SafeTensors, ONNX, TensorFlow, Keras, GGUF, архивов и конфигов.
• Интеграция в CI. Машиночитаемый вывод (JSON, SARIF), строгий режим, коды возврата и выбираемые сканеры.
• Прозрачность границ покрытия. Распознанные сканеры сообщают об ограниченном анализе, например, при усечённом чтении или исчерпании бюджета, а не выдают результаты как полностью покрытые.

Аналогичные инструменты: picklescan (только pickle, на Python), fickling (только pickle, на основе AST), modelscan (pickle + подмножество TensorFlow + Keras). ModelAudit обеспечивает более широкое покрытие и поставляется с нативным pickle-движком на Rust через сопутствующий пакет modelaudit-picklescan.

Быстрый старт

Требуется Python 3.10-3.13```bash pip install "modelaudit[all]"

Scan a file or directory

modelaudit model.pkl modelaudit ./models/

Export results for CI/CD

modelaudit model.pkl --format json --output results.json

The input chunk is empty — there is no source text to translate. Please provide the actual content for chunk 3 of 23.```
$ modelaudit suspicious_model.pkl

Files scanned: 1 | Issues found: 2 critical, 1 warning

1. suspicious_model.pkl (pos 28): [CRITICAL] Malicious code execution attempt
   Why: Contains os.system() call that could run arbitrary commands

2. suspicious_model.pkl (pos 52): [WARNING] Dangerous pickle deserialization
   Why: Could execute code when the model loads

Что обнаруживает

• Атаки с выполнением кода в файлах Pickle, PyTorch, NumPy и Joblib
• Потенциальные индикаторы бэкдора — подозрительные паттерны весов, аномальные тензоры или сигналы скрытого кода
• Встроенные секреты — ключи API, токены и учётные данные в весах модели или метаданных
• Сетевые индикаторы — URL, IP-адреса и использование сокетов, которые могут обеспечить эксфильтрацию данных
• Эксплойты архивов — обход пути, атаки через симлинки в файлах ZIP/TAR/7z
• Небезопасные операции ML — Lambda-слои, пользовательские операции, TorchScript/JIT, инъекции шаблонов
• Риски цепочки поставок — подделка, нарушения лицензий, подозрительные конфигурации

Поддерживаемые форматы

ModelAudit включает 45 зарегистрированных сканеров, охватывающих форматы моделей, архивов и конфигураций: