ModelAudit

Sichern Sie Ihre KI-Modelle vor der Bereitstellung. Statischer Scanner, der bösartigen Code, potenzielle Backdoor-Indikatoren und Sicherheitslücken in ML-Modelldateien erkennt – ohne sie jemals zu laden oder auszuführen.

Vollständige Dokumentation | Anwendungsbeispiele | Unterstützte Formate

Warum ModelAudit

Modelle werden aus nicht vertrauenswürdigen Registries heruntergeladen, durchlaufen CI und laufen am Ende in der Produktion. Herkömmliche SAST-Tools untersuchen weder Pickle-Opcodes, HDF5-Gruppenlayouts, ONNX-Protografen noch TensorFlow-SavedModel-Signaturen – ModelAudit schon:

• Statische Analyse. Es wird nie ein Modell geladen, entpickelt oder ausgeführt.
• Decken Sie die Formate ab, die Sie tatsächlich ausliefern. 40+ Scanner für pickle, PyTorch, SafeTensors, ONNX, TensorFlow, Keras, GGUF, Archive und Konfigurationen.
• Integration in CI. Maschinenlesbare Ausgabe (JSON, SARIF), strenger Modus, Exit-Codes und wählbare Scanner.
• Analysegrenzen aufzeigen. Erkannte Scanner melden begrenzte Analyse-Lücken wie abgeschnittene Lesevorgänge oder erschöpfte Budgets, statt sie als vollständig abgedeckte Ergebnisse auszugeben.

Vergleichbare Tools: picklescan (nur pickle, Python-basiert), fickling (nur pickle, AST-basiert), modelscan (pickle + TensorFlow + Keras-Teilmenge). ModelAudit bietet eine breitere Abdeckung und liefert über das Begleitpaket modelaudit-picklescan eine native Rust-Pickle-Engine mit.

Schnellstart

Erfordert Python 3.10-3.13```bash pip install "modelaudit[all]"

Scan a file or directory

modelaudit model.pkl modelaudit ./models/

Export results for CI/CD

modelaudit model.pkl --format json --output results.json

No input content was provided for translation. Please supply the chunk text.```
$ modelaudit suspicious_model.pkl

Files scanned: 1 | Issues found: 2 critical, 1 warning

1. suspicious_model.pkl (pos 28): [CRITICAL] Malicious code execution attempt
   Why: Contains os.system() call that could run arbitrary commands

2. suspicious_model.pkl (pos 52): [WARNING] Dangerous pickle deserialization
   Why: Could execute code when the model loads

Was erkannt wird

• Codeausführungsangriffe in Pickle-, PyTorch-, NumPy- und Joblib-Dateien
• Potenzielle Backdoor-Indikatoren — verdächtige Gewichtsmuster, anomale Tensoren oder Signale versteckten Codes
• Eingebettete Geheimnisse — API-Schlüssel, Tokens und Anmeldeinformationen in Modellgewichten oder Metadaten
• Netzwerkindikatoren — URLs, IPs und Socket-Nutzung, die eine Datenexfiltration ermöglichen könnten
• Archiv-Exploits — Pfad-Traversal, Symlink-Angriffe in ZIP-/TAR-/7z-Dateien
• Unsichere ML-Operationen — Lambda-Schichten, benutzerdefinierte Operationen, TorchScript/JIT, Template-Injection
• Lieferkettenrisiken — Manipulation, Lizenzverstöße, verdächtige Konfigurationen

Unterstützte Formate

ModelAudit umfasst 45 registrierte Scanner für Modell-, Archiv- und Konfigurationsformate: