ModelAudit

Asegura tus modelos de IA antes del despliegue. Escáner estático que detecta código malicioso, posibles indicadores de puerta trasera y vulnerabilidades de seguridad en archivos de modelos de ML — sin cargarlos ni ejecutarlos nunca.

Documentación completa | Ejemplos de uso | Formatos admitidos

Por qué ModelAudit

Los modelos se descargan de registros no confiables, pasan por CI y terminan ejecutándose en producción. Las herramientas SAST tradicionales no examinan los opcodes de pickle, los diseños de grupos HDF5, los grafos proto de ONNX ni las firmas de TensorFlow SavedModel; ModelAudit sí lo hace:

• Escaneo estático. Ningún modelo se carga, deserializa ni ejecuta jamás.
• Cubre los formatos que realmente distribuyes. Más de 40 escáneres que abarcan pickle, PyTorch, SafeTensors, ONNX, TensorFlow, Keras, GGUF, archivos comprimidos y configuraciones.
• Se integra en CI. Salida legible por máquina (JSON, SARIF), modo estricto, códigos de salida y escáneres seleccionables.
• Expone los límites de cobertura. Los escáneres reconocidos informan de lagunas de análisis acotado, como lecturas truncadas o presupuestos agotados, en lugar de presentarlos como resultados totalmente cubiertos.

Herramientas comparables: picklescan (solo pickle, basado en Python), fickling (solo pickle, basado en AST), modelscan (subconjunto de pickle + TensorFlow + Keras). ModelAudit tiene una cobertura más amplia e incluye un motor pickle nativo en Rust a través de su paquete complementario modelaudit-picklescan.

Inicio rápido

Requiere Python 3.10-3.13```bash pip install "modelaudit[all]"

Scan a file or directory

modelaudit model.pkl modelaudit ./models/

Export results for CI/CD

modelaudit model.pkl --format json --output results.json

No se proporcionó contenido para traducir en esta entrada.```
$ modelaudit suspicious_model.pkl

Files scanned: 1 | Issues found: 2 critical, 1 warning

1. suspicious_model.pkl (pos 28): [CRITICAL] Malicious code execution attempt
   Why: Contains os.system() call that could run arbitrary commands

2. suspicious_model.pkl (pos 52): [WARNING] Dangerous pickle deserialization
   Why: Could execute code when the model loads

Qué detecta

• Ataques de ejecución de código en archivos Pickle, PyTorch, NumPy y Joblib
• Posibles indicadores de puerta trasera — patrones de pesos sospechosos, tensores anómalos o señales de código oculto
• Secretos incrustados — claves de API, tokens y credenciales en pesos de modelos o metadatos
• Indicadores de red — URLs, IPs y uso de sockets que podrían permitir la exfiltración de datos
• Explotación de archivos comprimidos — traversal de rutas, ataques de enlaces simbólicos en archivos ZIP/TAR/7z
• Operaciones de ML no seguras — capas Lambda, operaciones personalizadas, TorchScript/JIT, inyección de plantillas
• Riesgos de la cadena de suministro — manipulación, violaciones de licencia, configuraciones sospechosas

Formatos admitidos

ModelAudit incluye 45 escáneres registrados que cubren formatos de modelos, archivos y configuración: