GuardModel

احظر نماذج الذكاء الاصطناعي الخبيثة في خط أنابيبك بسطر واحد من YAML.

GuardModel هو إجراء GitHub يقوم تلقائيًا بمسح ملفات نماذج التعلم الآلي بحثًا عن البرامج الضارة والثغرات الأمنية والمخاطر في خطوط أنابيب CI/CD. فهو يمنع النماذج الخطيرة قبل وصولها إلى الإنتاج من خلال كشف هجمات إزالة التسلسل (pickle deserialization) والبرامج الضارة المضمنة و CVEs المعروفة.

بداية سريعة

أضفه إلى سير العمل الخاص بك:

name: GuardModel Security Scan
on: [push, pull_request]

jobs:
  scan:
    runs-on: ubuntu-latest
    steps:
      - uses: actions/checkout@v4
      - uses: guardmodel/scan@v1

هذا كل شيء! سيقوم GuardModel بمسح جميع ملفات النماذج وسيفشل الفحص إذا تم اكتشاف تهديدات.

الميزات

• الكشف التلقائي - يمسح جميع ملفات النماذج عند الدفع/PR
• تنسيقات متعددة - يدعم pickle و PyTorch و Keras و ONNX و SafeTensors
• أكثر من 70 قاعدة كشف - تنفيذ التعليمات البرمجية، الصدف العكسية، الوصول إلى نظام الملفات، النشاط الشبكي
• التكامل مع GitHub - إخراج SARIF لعلامة التبويب الأمنية، تعليقات PR، تقارير JSON
• قابل للتكوين - قوائم السماح، عتبات الخطورة، قواعد مخصصة

التنسيقات المدعومة

التكوين

أنشئ .guardmodel.yml في مستودعك:

version: 1

# Directories to scan
include:
  - models/
  - weights/

# Directories to ignore
exclude:
  - tests/fixtures/

# Severity threshold to fail CI
fail_on: high  # critical, high, medium, low, none

# Allowlist known-safe models by SHA256
allowlist:
  - sha256: "abc123..."
    reason: "Verified by security team"

# Maximum file sizes
max_file_size: 5GB
max_total_size: 20GB

مدخلات الإجراء

مخرجات الإجراء

كشف التهديدات

يكتشف GuardModel:

• تنفيذ التعليمات البرمجية - os.system, subprocess, eval, exec
• الصدف العكسية - اتصالات المقبس مع تنفيذ شل
• النشاط الشبكي - طلبات HTTP، تنزيلات، تسريب البيانات
• نظام الملفات - حذف الملفات، تغييرات الصلاحيات
• واردات خطيرة - ctypes, imports ديناميكية
• الإبهام - Base64, marshal, pickles متداخلة
• البرامج الضارة المعروفة - مطابقة التجزئة والتوقيع
• ثغرات CVE - مشاكل أمنية معروفة

مثال على المخرجات

تعليق PR

فحص أمان GuardModel

الحالة: فشل - تم اكتشاف تهديدين

تكامل SARIF

تظهر النتائج في علامة تبويب الأمان في GitHub مع:

• أوصاف القواعد
• مواقع الملفات
• إرشادات المعالجة

التطوير

# Install dependencies
npm install
pip install -r requirements.txt

# Build
npm run build

# Test
npm test
pytest tests/

# Package for release
npm run package

البنية

guardmodel/
├── action.yml              # GitHub Action definition
├── src/                    # TypeScript source
│   ├── index.ts           # Entry point
│   ├── orchestrator.ts    # Scan coordination
│   ├── config.ts          # Configuration
│   ├── walker.ts          # File discovery
│   └── reporters/         # Output formatters
├── python/
│   ├── agents/            # Scanner agents
│   │   ├── pickle_agent.py
│   │   ├── keras_agent.py
│   │   ├── onnx_agent.py
│   │   └── safetensors_agent.py
│   └── rules/             # Detection rules
└── tests/                 # Test suite

الأمان

• يمسح محليًا - لا يتم رفع الملفات إلى خوادم خارجية
• لا توجد تتبع بدون موافقة
• يعمل في بيئة مشغل GitHub معزولة
• الاعتماديات مثبتة مع التحقق من التجزئة

الترخيص

MIT

المساهمة

المساهمات مرحب بها! رجاءً انظر CONTRIBUTING.md.

الروابط

• الوثائق
• مرجع القواعد
• سوق GitHub