ModelAudit

قم بتأمين نماذج الذكاء الاصطناعي الخاصة بك قبل النشر. ماسح ثابت يكشف الشيفرات الخبيثة ومؤشرات الباب الخلفي المحتملة وثغرات الأمان في ملفات نماذج تعلّم الآلة — دون تحميلها أو تنفيذها أبدًا.

التوثيق الكامل | أمثلة الاستخدام | الصيغ المدعومة

لماذا ModelAudit

تُنزَّل النماذج من سجلات غير موثوقة، وتمر عبر خطوط التكامل المستمر (CI)، وينتهي بها الأمر في بيئة الإنتاج. أدوات فحص أمان التطبيقات التقليدية (SAST) لا تفحص أكواد pickle opcodes، أو تخطيطات مجموعات HDF5، أو رسوم ONNX proto البيانية، أو توقيعات TensorFlow SavedModel — بينما يقوم ModelAudit بذلك:

• فحص ثابت. لا يتم أبدًا تحميل أي نموذج أو إلغاء تسلسله (unpickle) أو تنفيذه.
• تغطية الصيغ التي تنتجها فعليًا. أكثر من 40 ماسحًا تغطي pickle وPyTorch وSafeTensors وONNX وTensorFlow وKeras وGGUF والملفات المضغوطة وملفات الإعدادات.
• التكامل مع CI. مخرجات قابلة للقراءة آليًا (JSON وSARIF)، ووضع صارم، وأكواد خروج، وماسحات قابلة للاختيار.
• إظهار حدود التغطية. الماسحات المعتمدة تُبلّغ عن فجوات التحليل المحدودة مثل القراءات المقتطعة أو استنفاد الميزانيات بدلًا من تقديمها كنتائج مغطاة بالكامل.

أدوات مشابهة: picklescan (pickle فقط، مبني على Python)، fickling (pickle فقط، مبني على AST)، modelscan (pickle + مجموعة فرعية من TensorFlow + Keras). يقدّم ModelAudit تغطية أوسع ويشتمل على محرك Rust أصلي لملفات pickle عبر الحزمة المرافقة modelaudit-picklescan.

البدء السريع

يتطلب Python 3.10-3.13```bash pip install "modelaudit[all]"

Scan a file or directory

modelaudit model.pkl modelaudit ./models/

Export results for CI/CD

modelaudit model.pkl --format json --output results.json

- [المسح والاكتشاف والفيزينغ](#scanning-discovery-and-fuzzing)```
$ modelaudit suspicious_model.pkl

Files scanned: 1 | Issues found: 2 critical, 1 warning

1. suspicious_model.pkl (pos 28): [CRITICAL] Malicious code execution attempt
   Why: Contains os.system() call that could run arbitrary commands

2. suspicious_model.pkl (pos 52): [WARNING] Dangerous pickle deserialization
   Why: Could execute code when the model loads

ما الذي يكتشفه

• هجمات تنفيذ الكود في ملفات Pickle وPyTorch وNumPy وJoblib
• مؤشرات الباب الخلفي المحتملة — أنماط أوزان مشبوهة، وموترات شاذة، أو إشارات كود مخفي
• الأسرار المضمّنة — مفاتيح API ورموز الوصول وبيانات الاعتماد في أوزان النموذج أو البيانات الوصفية
• مؤشرات الشبكة — عناوين URL وعناوين IP واستخدام المقابس (sockets) التي قد تتيح تسريب البيانات
• استغلال الأرشيفات — اجتياز المسار (path traversal) وهجمات الروابط الرمزية (symlink) في ملفات ZIP/TAR/7z
• عمليات تعلم الآلة غير الآمنة — طبقات Lambda، والعمليات المخصصة، وTorchScript/JIT، وحقن القوالب
• مخاطر سلسلة التوريد — العبث، وانتهاكات التراخيص، والإعدادات المشبوهة

الصيغ المدعومة

يتضمن ModelAudit 45 ماسحًا مسجلاً يغطي صيغ النماذج والأرشيفات والتهيئة: