ModelAudit

तैनाती से पहले अपने AI मॉडल सुरक्षित करें। स्थिर स्कैनर जो ML मॉडल फ़ाइलों में दुर्भावनापूर्ण कोड, संभावित बैकडोर संकेतक और सुरक्षा कमज़ोरियों का पता लगाता है — बिना उन्हें कभी लोड या निष्पादित किए।

पूर्ण दस्तावेज़ीकरण | उपयोग उदाहरण | समर्थित प्रारूप

ModelAudit क्यों

मॉडल अविश्वसनीय रजिस्ट्रियों से डाउनलोड होते हैं, CI से गुज़रते हैं, और अंततः उत्पादन में चलते हैं। पारंपरिक SAST उपकरण pickle opcodes, HDF5 group layouts, ONNX proto graphs, या TensorFlow SavedModel signatures को नहीं देखते — ModelAudit देखता है:

• स्थिर रूप से स्कैन करें। कोई भी मॉडल कभी लोड, unpickle, या निष्पादित नहीं किया जाता।
• उन प्रारूपों को कवर करें जिन्हें आप वास्तव में शिप करते हैं। pickle, PyTorch, SafeTensors, ONNX, TensorFlow, Keras, GGUF, archives, और configs तक फैले 40+ स्कैनर।
• CI में फ़िट हों। मशीन-पठनीय आउटपुट (JSON, SARIF), strict mode, exit codes, और चयन योग्य स्कैनर।
• कवरेज सीमाओं को उजागर करें। मान्यता प्राप्त स्कैनर सीमित-विश्लेषण अंतरालों जैसे truncated reads या exhausted budgets की रिपोर्ट करते हैं, बजाय उन्हें पूर्ण रूप से कवर किए गए परिणामों के रूप में प्रस्तुत करने के।

तुलनीय उपकरण: picklescan (केवल pickle, Python-आधारित), fickling (केवल pickle, AST-आधारित), modelscan (pickle + TensorFlow + Keras उपसमुच्चय)। ModelAudit कवरेज में व्यापक है और अपने साथी पैकेज modelaudit-picklescan के माध्यम से एक मूल Rust pickle इंजन प्रदान करता है।

त्वरित शुरुआत

Python 3.10-3.14 आवश्यक है

pip install "modelaudit[all]"

# Scan a file or directory
modelaudit model.pkl
modelaudit ./models/

# Export results for CI/CD
modelaudit model.pkl --format json --output results.json

$ modelaudit suspicious_model.pkl

Files scanned: 1 | Issues found: 2 critical, 1 warning

1. suspicious_model.pkl (pos 28): [CRITICAL] Malicious code execution attempt
   Why: Contains os.system() call that could run arbitrary commands

2. suspicious_model.pkl (pos 52): [WARNING] Dangerous pickle deserialization
   Why: Could execute code when the model loads

स्कैन साक्ष्य और स्रोत त्रुटियों में मूल क्रेडेंशियल मान शामिल हो सकते हैं, जिनमें JSON, SARIF, SBOM और साझा की गई रिपोर्टें भी शामिल हैं। क्रेडेंशियल सामान्यीकरण वहीं रहता है जहाँ यह पहचान, समूहीकरण या दमन को प्रभावित करता है।

यह क्या पहचानता है

• कोड निष्पादन हमले Pickle, PyTorch, NumPy और Joblib फ़ाइलों में
• संभावित बैकडोर संकेतक — संदिग्ध वेट पैटर्न, असामान्य टेंसर, या छिपे-कोड संकेत
• एम्बेडेड सीक्रेट्स — मॉडल वेट या मेटाडेटा में API कुंजियाँ, टोकन और क्रेडेंशियल
• नेटवर्क संकेतक — URL, IP, और सॉकेट उपयोग जो डेटा एक्सफ़िल्ट्रेशन सक्षम कर सकते हैं
• आर्काइव एक्सप्लॉइट — ZIP/TAR/7z फ़ाइलों में पाथ ट्रैवर्सल, सिमलिंक हमले
• असुरक्षित ML संचालन — Lambda लेयर, कस्टम ऑप्स, TorchScript/JIT, टेम्पलेट इंजेक्शन
• सप्लाई चेन जोखिम — छेड़छाड़, लाइसेंस उल्लंघन, संदिग्ध कॉन्फ़िगरेशन

समर्थित फ़ॉर्मेट

ModelAudit में मॉडल, आर्काइव और कॉन्फ़िगरेशन फ़ॉर्मेट को कवर करने वाले 45 पंजीकृत स्कैनर शामिल हैं: