ModelAudit

अपने AI मॉडलों को परिनियोजन से पहले सुरक्षित करें। स्टैटिक स्कैनर जो ML मॉडल फ़ाइलों में दुर्भावनापूर्ण कोड, संभावित बैकडोर संकेतकों और सुरक्षा कमजोरियों का पता लगाता है — बिना उन्हें कभी लोड या निष्पादित किए।

पूर्ण दस्तावेज़ | उपयोग उदाहरण | समर्थित प्रारूप

ModelAudit क्यों

मॉडल अविश्वसनीय रजिस्ट्रियों से डाउनलोड होते हैं, CI से गुजरते हैं, और प्रोडक्शन में चलते हैं। पारंपरिक SAST उपकरण pickle opcodes, HDF5 group layouts, ONNX proto graphs, या TensorFlow SavedModel signatures पर ध्यान नहीं देते — ModelAudit देखता है:

स्टैटिक रूप से स्कैन करें। कोई मॉडल कभी लोड, unpickle, या निष्पादित नहीं किया जाता।
उन प्रारूपों को कवर करें जिन्हें आप वास्तव में शिप करते हैं। 40+ स्कैनर pickle, PyTorch, SafeTensors, ONNX, TensorFlow, Keras, GGUF, archives और configs में फैले हुए हैं।
CI में फ़िट करें। मशीन-पठनीय आउटपुट (JSON, SARIF), सख्त मोड, exit codes, और चयन योग्य स्कैनर।
कवरेज सीमाएँ सतह पर लाएँ। मान्यता प्राप्त स्कैनर सीमित-विश्लेषण अंतराल जैसे ट्रंकेटेड रीड या समाप्त बजट की रिपोर्ट करते हैं, बजाय उन्हें पूरी तरह से कवर किए गए परिणामों के रूप में प्रस्तुत करने के।

तुलनीय उपकरण: picklescan (केवल pickle, Python-आधारित), fickling (केवल pickle, AST-आधारित), modelscan (pickle + TensorFlow + Keras सबसेट)। ModelAudit कवरेज में व्यापक है और अपने साथी पैकेज modelaudit-picklescan के माध्यम से एक नेटिव Rust pickle इंजन शिप करता है।

त्वरित प्रारंभ

Python 3.10-3.13 आवश्यक है```bash pip install "modelaudit[all]"

Scan a file or directory

modelaudit model.pkl modelaudit ./models/

Export results for CI/CD

modelaudit model.pkl --format json --output results.json

The input chunk is empty — no source text was provided to translate. Please supply the actual chunk content (chunk 3 of 23) so I can translate it into Hindi.```
$ modelaudit suspicious_model.pkl

Files scanned: 1 | Issues found: 2 critical, 1 warning

1. suspicious_model.pkl (pos 28): [CRITICAL] Malicious code execution attempt
   Why: Contains os.system() call that could run arbitrary commands

2. suspicious_model.pkl (pos 52): [WARNING] Dangerous pickle deserialization
   Why: Could execute code when the model loads

यह क्या पहचानता है

कोड निष्पादन हमले Pickle, PyTorch, NumPy और Joblib फ़ाइलों में
संभावित बैकडोर संकेतक — संदिग्ध वेट पैटर्न, असामान्य टेंसर, या छिपे-कोड सिग्नल
एम्बेडेड रहस्य — मॉडल वेट या मेटाडेटा में API कुंजियाँ, टोकन और क्रेडेंशियल्स
नेटवर्क संकेतक — URL, IP और सॉकेट उपयोग जो डेटा बाहर निकालने (exfiltration) को सक्षम कर सकते हैं
आर्काइव शोषण — ZIP/TAR/7z फ़ाइलों में पाथ ट्रैवर्सल, सिमलिंक हमले
असुरक्षित ML ऑपरेशन — Lambda परतें, कस्टम ops, TorchScript/JIT, टेम्पलेट इंजेक्शन
सप्लाई चेन जोखिम — छेड़छाड़, लाइसेंस उल्लंघन, संदिग्ध कॉन्फ़िगरेशन

समर्थित प्रारूप

ModelAudit में मॉडल, संग्रह और कॉन्फ़िगरेशन प्रारूपों को कवर करने वाले 45 पंजीकृत स्कैनर शामिल हैं:

साथ ही ZIP, TAR, 7-Zip, OCI परतें, Jinja2 टेम्पलेट, JSON/YAML मेटाडेटा, मैनिफ़ेस्ट, मॉडल कार्ड, टेक्स्ट फ़ाइलें, और RAR पहचान के लिए स्कैनर शामिल हैं। RAR आर्काइव को स्किप किए जाने के बजाय असमर्थित/फेल-क्लोज़ के रूप में रिपोर्ट किया जाता है।

संरचनात्मक रूप से मान्य TensorFlow SavedModel और MetaGraph प्रोटोबफ़ को भी गैर-मॉडल प्रत्ययों में नाम बदले जाने पर पहचाना जाता है। CoreML मॉडल को भी नाम बदले जाने पर पहचाना जा सकता है, अपूर्ण कवरेज स्पष्ट रूप से रिपोर्ट की जाती है। अत्यधिक आकार के लेकिन संभावित फ्रेमिंग वाली SafeTensors फ़ाइलें, अन्यथा बिना दावे वाले प्रत्ययों (जैसे .jpg) के अंतर्गत सीमित, अनिर्णायक विश्लेषण के लिए बनाए रखी जाती हैं। संरचनात्मक रूप से संभावित Flax/JAX MessagePack चेकपॉइंट भी गैर-मॉडल प्रत्ययों में नाम बदले जाने पर पहचाने जाते हैं; पूरी तरह वर्गीकृत न किए जा सकने वाले नाम-परिवर्तित ढाँचे अपूर्ण कवरेज के रूप में रिपोर्ट किए जाते हैं। संरचित JAX/Orbax JSON चेकपॉइंट मेटाडेटा भी नाम बदले जाने पर पहचाना जाता है; अत्यधिक आकार के अस्पष्ट उम्मीदवार अपूर्ण कवरेज के रूप में रिपोर्ट किए जाते हैं; सीमित निरीक्षित प्रीफ़िक्स में देखे जा सकने वाले सुरक्षा पैटर्न अभी भी रूढ़िवादी रूप से रिपोर्ट किए जा सकते हैं।

संपूर्ण प्रारूप दस्तावेज़ देखें

रिमोट स्रोत

रिमोट रजिस्ट्रियों और क्लाउड स्टोरेज से सीधे मॉडल स्कैन करें:```bash

Hugging Face

modelaudit https://huggingface.co/gpt2 modelaudit hf://microsoft/DialoGPT-medium

Cloud storage

modelaudit s3://bucket/model.pt modelaudit gs://bucket/models/

MLflow registry

Non-local artifact stores: export MODELAUDIT_MLFLOW_ALLOWED_ARTIFACT_URIS=s3://trusted-bucket/models

modelaudit models:/MyModel/Production

JFrog Artifactory (files and folders)

Auth: export JFROG_API_TOKEN=...

modelaudit https://company.jfrog.io/artifactory/repo/model.pt modelaudit https://company.jfrog.io/artifactory/repo/models/

DVC-tracked models

modelaudit model.dvc

### प्रमाणीकरण पर्यावरण चर

- `HF_TOKEN` निजी Hugging Face रिपॉजिटरी के लिए
- `AWS_ACCESS_KEY_ID` / `AWS_SECRET_ACCESS_KEY` (और वैकल्पिक `AWS_SESSION_TOKEN`) S3 के लिए
- `GOOGLE_APPLICATION_CREDENTIALS` GCS के लिए
- `MLFLOW_TRACKING_URI` MLflow रजिस्ट्री एक्सेस के लिए
- `MODELAUDIT_MLFLOW_ALLOWED_ARTIFACT_URIS` गैर-लोकल MLflow आर्टिफैक्ट रूट्स के लिए (कॉमा-सेपरेटेड URI प्रीफिक्स)
- ठोस बैकएंड रूट्स जैसे `s3://bucket/prefix` उपयोग करें; लॉजिकल `models:/` या `runs:/` URI और प्रतिशत-एन्कोडेड रिमोट पाथ अस्वीकार कर दिए जाते हैं।
- `JFROG_API_TOKEN` या `JFROG_ACCESS_TOKEN` JFrog Artifactory के लिए
- `MODELAUDIT_JFROG_ALLOWED_HOSTS` कॉमा-सेपरेटेड कस्टम JFrog होस्टनामों के लिए जिन्हें क्रेडेंशियल प्राप्त हो सकते हैं
- `MODELAUDIT_JFROG_ALLOWED_REDIRECT_HOSTS` कॉमा-सेपरेटेड बाहरी रीडायरेक्ट होस्टनामों के लिए जिन्हें बिना क्रेडेंशियल्स के डाउनलोड किया जा सकता है
- क्रेडेंशियल्स को पर्यावरण चर या सीक्रेट्स मैनेजर में रखें, और टोकन/कुंजियाँ कभी कमिट न करें।

## इंस्टॉलेशन```bash
# Broad scanner coverage (recommended; excludes the TensorFlow runtime and platform-specific TensorRT)
pip install "modelaudit[all]"

# Core only (static scanners, pickle, NumPy, archives, manifests, metadata)
pip install modelaudit

# Specific frameworks (TensorFlow installs on Python 3.11-3.12; ONNX installs on Python 3.10-3.12)
pip install "modelaudit[tensorflow,pytorch,h5,onnx,safetensors]"

# CI/CD environments
pip install "modelaudit[all-ci]"

# On Python 3.11-3.12, add TensorFlow only when you need runtime-dependent checkpoint or weight analysis
pip install "modelaudit[all,tensorflow]"

# Docker
docker run --rm -v "$(pwd)":/app ghcr.io/promptfoo/modelaudit:latest model.pkl

ONNX एक्स्ट्रा, जिसमें modelaudit[all] का ONNX भाग शामिल है, Python 3.10-3.12 के लिए पैकेज किया गया है। PyTorch युक्त एक्स्ट्रा के लिए Python 3.10-3.12 या मानक (GIL-सक्षम) CPython 3.13 की आवश्यकता होती है; पैच किए गए PyTorch 2.13 व्हील्स free-threaded CPython 3.13t का समर्थन नहीं करते हैं। मानक CPython का उपयोग करें, क्योंकि ModelAudit का नेटिव pickle स्कैनर भी CPython 3.13t का समर्थन नहीं करता है। Apple Silicon पर, PyTorch युक्त एक्स्ट्रा के लिए macOS 14 या नए की आवश्यकता होती है क्योंकि व्हील्स macosx_14_0_arm64 को लक्षित करते हैं; कोर-केवल इंस्टॉलेशन macOS 11-13 पर स्टैटिक स्कैनिंग के लिए उपलब्ध रहता है।

CLI विकल्प

प्राथमिक कमांड:```bash modelaudit [PATHS...] # Default scan command modelaudit scan [OPTIONS] PATHS... # Explicit scan command modelaudit scan --list-scanners # List scanner IDs for targeted scans modelaudit metadata [OPTIONS] PATH # Extract model metadata safely (no deserialization by default) modelaudit doctor [--show-failed] # Diagnose scanner/dependency availability modelaudit debug [--json] [--verbose] # Environment and configuration diagnostics modelaudit cache [stats|clear|cleanup] [OPTIONS]

सामान्य स्कैन विकल्प:```text
--format {text,json,sarif}   Output format (default: auto-detected)
--output FILE                Write results to file
--strict                     Fail on warnings, scan all file types, strict license validation
--sbom FILE                  Generate CycloneDX SBOM
--stream                     Process files one-by-one; remote downloads are deleted after scanning
--assume-shard-family        Treat explicitly listed cross-directory shards as one model family
--max-size SIZE              Size limit (e.g., 10GB)
--timeout SECONDS            Override scan timeout
--dry-run                    Preview what would be scanned
--verbose / --quiet          Control output detail
--blacklist PATTERN          Additional patterns to flag
--no-cache                   Disable result caching
--cache-dir DIR              Set cache directory for downloads and scan results
--progress                   Force progress display
--scanners LIST              Only run selected scanners (IDs/classes; comma-separated or repeated)
--exclude-scanner NAME       Exclude a scanner from the active set (comma-separated or repeated)
--list-scanners              List scanner IDs, class names, extensions, and dependencies

लक्षित स्कैनर चयन:```bash

Discover scanner IDs and class names

modelaudit scan --list-scanners modelaudit scan --list-scanners --format json

Run only selected scanners

modelaudit scan ./models --scanners pickle,tf_savedmodel modelaudit scan ./model.pkl --scanners PickleScanner

Run the default scanner set except a noisy or slow scanner

modelaudit scan ./models --exclude-scanner weight_distribution

For container formats, include both the container scanner and nested scanner

modelaudit scan ./archive.zip --scanners zip,pickle

`--scanners` एक स्पष्ट अनुमत सूची से शुरू होता है। `--exclude-scanner` उस अनुमत सूची या डिफ़ॉल्ट स्कैनर सेट में से स्कैनरों को घटा देता है। स्कैनर चयन `scanner_selection` के अंतर्गत JSON आउटपुट में दर्शाया जाता है।

दूरस्थ फ़ोल्डरों के लिए, ModelAudit सुरक्षित होने पर चयनित स्कैनर एक्सटेंशन द्वारा डाउनलोड को सीमित करता है। सामग्री-आधारित renamed-wrapper रूटिंग अधिग्रहण के बाद लागू होती है; जब रिपॉज़िटरी फ़ाइलनाम जानबूझकर भ्रामक हो सकते हैं, तो सीधे फ़ाइल URL को स्कैन करें।

## मेटाडेटा निष्कर्षण```bash
# Human-readable summary (safe default: no model deserialization)
modelaudit metadata model.safetensors

# Machine-readable output
modelaudit metadata ./models --format json --output metadata.json

# Focus only on security-relevant metadata fields
modelaudit metadata model.onnx --security-only

--trust-loaders स्कैनर मेटाडेटा लोडर्स को सक्षम करता है जो मॉडल सामग्री को डिसीरियलाइज़ कर सकते हैं। इसका उपयोग केवल विश्वसनीय आर्टिफैक्ट्स पर पृथक वातावरण में करें।

एग्ज़िट कोड

0: कोई सुरक्षा समस्या नहीं मिली
1: सुरक्षा समस्याएँ मिलीं
2: स्कैन त्रुटियाँ

टेलीमेट्री और गोपनीयता

ModelAudit उत्पाद विश्वसनीयता और उपयोग विश्लेषण के लिए टेलीमेट्री शामिल करता है।

एकत्रित मेटाडेटा में कमांड और फीचर उपयोग, स्कैन और डाउनलोड समय या आकार मेटाडेटा, स्कैनर/फ़ाइल-प्रकार उपयोग, स्थिर नियम या CVE पहचानकर्ता, गंभीरता समुच्चय, पंजीकृत फ़ाइल एक्सटेंशन, मोटे तौर पर स्रोत या प्रदाता श्रेणियाँ, और रनटाइम संस्करण, प्लेटफ़ॉर्म तथा CI मेटाडेटा शामिल हो सकते हैं।
टेलीमेट्री में कच्चे स्थानीय पथ, फ़ाइलनाम, मॉडल ID या नाम, रिपॉज़िटरी या आर्टिफैक्ट पहचानकर्ता, बकेट या ऑब्जेक्ट कुंजियाँ, रिमोट URL पथ, मुक्त-रूप समस्या या त्रुटि पाठ, URL यूज़रइन्फो, क्वेरी स्ट्रिंग्स, फ़्रैगमेंट्स, या मॉडल बाइनरी सामग्री शामिल नहीं होती।
पैकेज्ड इंस्टॉल में टेलीमेट्री डिफ़ॉल्ट रूप से सक्षम होती है। जब CI=true सेट हो या IS_TESTING=true सेट हो, और एडिटेबल डेवलपमेंट इंस्टॉल में तब तक टेलीमेट्री स्वचालित रूप से अक्षम रहती है जब तक MODELAUDIT_TELEMETRY_DEV=1 न हो। अन्य CI प्रदाताओं (TeamCity, CodeBuild, Bitbucket Pipelines, Jenkins) से भेजी गई इवेंट्स को isRunningInCi=true के साथ टैग किया जाता है ताकि उन्हें बाद में फ़िल्टर किया जा सके।
एक स्थायी छद्मनामी उपयोगकर्ता पहचानकर्ता Promptfoo के साथ क्रॉस-टूल सहसंबंध के लिए ~/.promptfoo/promptfoo.yaml में संग्रहीत किया जाता है, और प्रत्येक टेलीमेट्री सत्र एक नया सत्र पहचानकर्ता उपयोग करता है। ~/.modelaudit/user_config.json से मौजूदा ID अपग्रेड के बाद पहली बार चलाने पर माइग्रेट हो जाती हैं। उस फ़ाइल में विरासत में मिला ईमेल मान, यदि मौजूद हो, तो एनालिटिक्स उपयोगकर्ता प्रोफ़ाइल से जोड़ा जा सकता है।

इनमें से किसी भी पर्यावरण चर के साथ स्पष्ट रूप से ऑप्ट आउट करें:```bash export PROMPTFOO_DISABLE_TELEMETRY=1

or

export NO_ANALYTICS=1

एडिटेबल/डेवलपमेंट इंस्टॉल के दौरान ऑप्ट-इन करने के लिए:```bash
export MODELAUDIT_TELEMETRY_DEV=1

आउटपुट उदाहरण```bash

JSON for CI/CD pipelines