ModelAudit

Proteja seus modelos de IA antes da implantação. Scanner estático que detecta código malicioso, possíveis indicadores de backdoor e vulnerabilidades de segurança em arquivos de modelos de ML — sem nunca carregá-los ou executá-los.

Documentação Completa | Exemplos de Uso | Formatos Suportados

Por que ModelAudit

Modelos são baixados de registries não confiáveis, passam pela CI e acabam rodando em produção. Ferramentas SAST tradicionais não analisam opcodes de pickle, layouts de grupos HDF5, grafos proto ONNX ou assinaturas de TensorFlow SavedModel — o ModelAudit analisa:

• Faça varredura estática. Nenhum modelo é carregado, desserializado ou executado.
• Cubra os formatos que você realmente utiliza. 40+ scanners abrangendo pickle, PyTorch, SafeTensors, ONNX, TensorFlow, Keras, GGUF, arquivos compactados e configurações.
• Integre-se à CI. Saída legível por máquina (JSON, SARIF), modo estrito, códigos de saída e scanners selecionáveis.
• Evidencie limites de cobertura. Scanners reconhecidos relatam lacunas de análise limitada, como leituras truncadas ou orçamentos esgotados, em vez de apresentá-las como resultados totalmente cobertos.

Ferramentas comparáveis: picklescan (somente pickle, baseado em Python), fickling (somente pickle, baseado em AST), modelscan (pickle + TensorFlow + subconjunto de Keras). O ModelAudit tem cobertura mais ampla e vem com um mecanismo pickle nativo em Rust por meio de seu pacote complementar modelaudit-picklescan.

Início Rápido

Requer Python 3.10-3.13```bash pip install "modelaudit[all]"

Scan a file or directory

modelaudit model.pkl modelaudit ./models/

Export results for CI/CD

modelaudit model.pkl --format json --output results.json

(empty)```
$ modelaudit suspicious_model.pkl

Files scanned: 1 | Issues found: 2 critical, 1 warning

1. suspicious_model.pkl (pos 28): [CRITICAL] Malicious code execution attempt
   Why: Contains os.system() call that could run arbitrary commands

2. suspicious_model.pkl (pos 52): [WARNING] Dangerous pickle deserialization
   Why: Could execute code when the model loads

O que ele detecta

• Ataques de execução de código em arquivos Pickle, PyTorch, NumPy e Joblib
• Possíveis indicadores de backdoor — padrões de pesos suspeitos, tensores anômalos ou sinais de código oculto
• Segredos incorporados — chaves de API, tokens e credenciais em pesos ou metadados do modelo
• Indicadores de rede — URLs, IPs e uso de sockets que possam permitir exfiltração de dados
• Explorações de arquivos compactados — path traversal, ataques de symlink em arquivos ZIP/TAR/7z
• Operações de ML inseguras — camadas Lambda, operações personalizadas, TorchScript/JIT, injeção de templates
• Riscos na cadeia de suprimentos — adulteração, violações de licença, configurações suspeitas

Formatos Suportados

O ModelAudit inclui 45 scanners registrados cobrindo formatos de modelo, arquivo e configuração: