ModelAudit

Proteggi i tuoi modelli AI prima della distribuzione. Scanner statico che rileva codice malevolo, potenziali indicatori di backdoor e vulnerabilità di sicurezza nei file di modelli ML — senza mai caricarli o eseguirli.

Documentazione completa | Esempi di utilizzo | Formati supportati

Perché ModelAudit

I modelli vengono scaricati da registry non affidabili, passano attraverso la CI e finiscono in produzione. Gli strumenti SAST tradizionali non esaminano gli opcode pickle, i layout dei gruppi HDF5, i grafi proto ONNX o le firme TensorFlow SavedModel — ModelAudit lo fa:

• Scansionare staticamente. Nessun modello viene mai caricato, unpicklato o eseguito.
• Coprire i formati che distribuisci realmente. Oltre 40 scanner che coprono pickle, PyTorch, SafeTensors, ONNX, TensorFlow, Keras, GGUF, archivi e configurazioni.
• Integrarsi nella CI. Output leggibili dalle macchine (JSON, SARIF), modalità strict, codici di uscita e scanner selezionabili.
• Evidenziare i limiti di copertura. Gli scanner riconosciuti segnalano lacune dell'analisi limitata, come letture troncate o budget esauriti, invece di presentarli come risultati completamente coperti.

Strumenti comparabili: picklescan (solo pickle, basato su Python), fickling (solo pickle, basato su AST), modelscan (sottoinsieme pickle + TensorFlow + Keras). ModelAudit offre una copertura più ampia e include un motore pickle Rust nativo tramite il pacchetto complementare modelaudit-picklescan.

Avvio rapido

Richiede Python 3.10-3.13```bash pip install "modelaudit[all]"

Scan a file or directory

modelaudit model.pkl modelaudit ./models/

Export results for CI/CD

modelaudit model.pkl --format json --output results.json

I received no content to translate. The input after "INPUT:" is empty. Please provide chunk 3 of 23.```
$ modelaudit suspicious_model.pkl

Files scanned: 1 | Issues found: 2 critical, 1 warning

1. suspicious_model.pkl (pos 28): [CRITICAL] Malicious code execution attempt
   Why: Contains os.system() call that could run arbitrary commands

2. suspicious_model.pkl (pos 52): [WARNING] Dangerous pickle deserialization
   Why: Could execute code when the model loads

Cosa rileva

• Attacchi di esecuzione di codice in file Pickle, PyTorch, NumPy e Joblib
• Indicatori di potenziali backdoor — pattern di pesi sospetti, tensori anomali o segnali di codice nascosto
• Segreti incorporati — chiavi API, token e credenziali nei pesi o nei metadati del modello
• Indicatori di rete — URL, IP e uso di socket che potrebbero consentire l'esfiltrazione di dati
• Exploit di archivi — path traversal, attacchi tramite symlink in file ZIP/TAR/7z
• Operazioni ML non sicure — layer Lambda, operazioni personalizzate, TorchScript/JIT, injection di template
• Rischi della supply chain — manomissioni, violazioni di licenza, configurazioni sospette

Formati supportati

ModelAudit include 45 scanner registrati che coprono formati di modelli, archivi e configurazioni: