promptfoo/modelauditAI/ML मॉडल फ़ाइलों के लिए सुरक्षा स्कैनर। परिनियोजन से पहले दुर्भावनापूर्ण कोड, बैकडोर और कमज़ोरियों का पता लगाता है।
अपने AI मॉडलों को परिनियोजन से पहले सुरक्षित करें। स्टैटिक स्कैनर जो ML मॉडल फ़ाइलों में दुर्भावनापूर्ण कोड, संभावित बैकडोर संकेतकों और सुरक्षा कमजोरियों का पता लगाता है — बिना उन्हें कभी लोड या निष्पादित किए।
पूर्ण दस्तावेज़ | उपयोग उदाहरण | समर्थित प्रारूप
मॉडल अविश्वसनीय रजिस्ट्रियों से डाउनलोड होते हैं, CI से गुजरते हैं, और प्रोडक्शन में चलते हैं। पारंपरिक SAST उपकरण pickle opcodes, HDF5 group layouts, ONNX proto graphs, या TensorFlow SavedModel signatures पर ध्यान नहीं देते — ModelAudit देखता है:
तुलनीय उपकरण: picklescan (केवल pickle, Python-आधारित), fickling (केवल pickle, AST-आधारित), modelscan (pickle + TensorFlow + Keras सबसेट)। ModelAudit कवरेज में व्यापक है और अपने साथी पैकेज modelaudit-picklescan के माध्यम से एक नेटिव Rust pickle इंजन शिप करता है।
Python 3.10-3.13 आवश्यक है```bash pip install "modelaudit[all]"
modelaudit model.pkl modelaudit ./models/
modelaudit model.pkl --format json --output results.json
The input chunk is empty — no source text was provided to translate. Please supply the actual chunk content (chunk 3 of 23) so I can translate it into Hindi.```
$ modelaudit suspicious_model.pkl
Files scanned: 1 | Issues found: 2 critical, 1 warning
1. suspicious_model.pkl (pos 28): [CRITICAL] Malicious code execution attempt
Why: Contains os.system() call that could run arbitrary commands
2. suspicious_model.pkl (pos 52): [WARNING] Dangerous pickle deserialization
Why: Could execute code when the model loads
ModelAudit में मॉडल, संग्रह और कॉन्फ़िगरेशन प्रारूपों को कवर करने वाले 45 पंजीकृत स्कैनर शामिल हैं: