exfil-scan

امسح مخرجات نماذج اللغة الكبيرة والمحتوى المُولَّد بالذكاء الاصطناعي بحثًا عن مؤشرات تسريب البيانات قبل وصولها إلى المستخدمين أو السجلات أو الأنظمة النهائية.

1) لماذا يوجد exfil-scan

تتعامل تطبيقات نماذج اللغة الكبيرة الحديثة بشكل روتيني مع المطالبات الحساسة والمستندات الداخلية وردود واجهات البرمجة وبيانات المستخدمين. وهذا يخلق حدًا أمنيًا جديدًا: طبقة المخرجات.

أثبتت عائلة هجمات EchoLeak (بما في ذلك CVE-2025-32711) كيف يمكن تضمين حمولات مخفية أو مبهمة في النص المُولَّد واستخدامها لتسريب البيانات عبر الأدوات أو الروابط أو سلاسل التحليل.

تركّز الماسحات التقليدية على الملفات والتبعيات وحركة مرور وقت التشغيل. وهي لا تفحص مخرجات النموذج المُولَّد بطريقة مخصصة لهذا الغرض.

يوفر exfil-scan "ماسح فيروسات لردود نماذج اللغة الكبيرة":

• يفحص النص العادي وJSON وMarkdown والسجلات
• يحدد ست فئات من أنماط التسريب المشبوهة
• يبلّغ عن النتائج مع مستوى الخطورة والموقع
• يتكامل بسلاسة مع مسارات CI/CD وسير عمل المطوّر المحلي

2) ماذا يكتشف

3) أبرز الميزات

• ثلاثة ملفات حساسية: low وmedium وhigh
• دعم تجاوز إعدادات YAML
• إدخال من stdin أو ملف واحد أو دليل
• إخراج بصيغ text أو json أو markdown أو html
• أكواد خروج مستقرة للأتمتة
• واجهة برمجة تطبيقات Python نظيفة للتضمين في أدوات أخرى

4) التثبيت

التثبيت من المصدر

git clone https://github.com/your-org/exfil-scan.git
cd exfil-scan
pip install -e .

التثبيت القياسي عبر pip (عند النشر)

pip install exfil-scan

تثبيت بيئة التطوير

pip install -e ".[dev]"
pytest

5) بداية سريعة

فحص مخرجات LLM عبر الأنبوب

echo 'api_key: sk-ABCDEFGHIJKLMNOPQRSTUVWXYZ123456' | exfil-scan

فحص ملف واحد

exfil-scan --input output.txt

فحص دليل بشكل متكرر

exfil-scan --directory ./model-logs --recursive

6) مرجع خيارات سطر الأوامر

ملاحظات:

• استخدم إما --input أو --directory، وليس كلاهما معًا.
• إذا لم يتم توفير مسار، يقرأ الأداة من stdin.
• إذا وُجدت نتائج، تنتهي العملية برمز خروج 1.

7) أمثلة استخدام حسب صيغة الإخراج

إخراج نصي عادي

exfil-scan --input suspicious.txt --format text

النمط المتوقع:

exfil-scan report
=================
Scanned targets: 1
Total findings: 2

1. [HIGH] metadata_leaks/known_token_format:openai_key
   Location: suspicious.txt:1:10
   Description: Matched known credential/token format (openai_key).

إخراج JSON

exfil-scan --input suspicious.txt --format json

الشكل المتوقع:

{
  "finding_count": 2,
  "scanned_targets": ["suspicious.txt"],
  "findings": [
    {
      "category": "metadata_leaks",
      "rule": "known_token_format:openai_key",
      "severity": "HIGH",
      "description": "Matched known credential/token format (openai_key).",
      "location": "suspicious.txt:1:10",
      "snippet": "..."
    }
  ]
}

إخراج HTML

exfil-scan --directory ./outputs --recursive --format html --output report.html

السلوك المتوقع:

• إنشاء صفحة HTML مستقلة تحتوي على جدول بالنتائج
• ترميز المحتوى لعرض آمن
• تضمين الخطورة والفئة والقاعدة والموقع والوصف

إخراج Markdown

exfil-scan --input suspicious.txt --format markdown --output report.md

النمط المتوقع:

# exfil-scan Report

- Scanned targets: 1
- Total findings: 2

8) الإعدادات والحساسية

يأتي المستودع مع default-config.yaml. يمكنك تمرير ملف خاص بك عبر --config.

ضبط الحساسية:

• low: عدد أقل من النتائج الإيجابية الخاطئة وعتبات أكبر
• medium: إعدادات افتراضية متوازنة
• high: يلتقط أنماطًا أكثر دقة

تجاوز الحساسية من سطر الأوامر:

exfil-scan --input out.txt --sensitivity high

9) الأنماط المخصصة وضبط السياسات

يمكنك إضافة تنسيقات الرموز ومفاتيح البيانات الوصفية الخاصة بك:

sensitivity: medium
rules:
  metadata_keys:
    - api_key
    - db_password
    - internal_token
  token_patterns:
    custom_jwt: "\\beyJ[A-Za-z0-9_\\-]{10,}\\.[A-Za-z0-9_\\-]{10,}\\.[A-Za-z0-9_\\-]{10,}\\b"
    corp_secret: "\\bcorp_[A-Za-z0-9]{24,}\\b"

ثم شغّل:

exfil-scan --input response.log --config ./my-config.yaml

10) نظرة عامة على البنية

مسؤوليات الوحدات:

• exfil_scan/cli.py: تحليل الوسائط واختيار الإدخال وعرض الإخراج ومعالجة الخروج
• exfil_scan/config.py: القيم الافتراضية وتحميل YAML والدمج العودي وتطبيع ملفات الحساسية
• exfil_scan/scanner.py: محركات الكشف الست وفئات بيانات النتائج وتنسيق التقارير
• tests/test_scan.py: اختبارات انحدار للكشف وصيغ الإخراج

تدفق التنفيذ:

1. تحلل الواجهة الوسائط.
2. يُحمّل الإعداد القيم الافتراضية + التجاوزات الاختيارية.
3. يقرأ الماسح النص من stdin/ملف/دليل.
4. تعمل كل فئة مفعّلة بشكل مستقل.
5. تُرتَّب النتائج حسب الخطورة وتُعرض.
6. يبلّغ رمز الخروج بنجاح/فشل/خطأ للأتمتة.

11) أكواد الخروج

وهذا يجعل تكامل CI مباشرًا:

exfil-scan --directory ./artifacts --recursive --format json --output exfil-report.json

إذا تم العثور على أي اكتشاف، يمكن أن تفشل مهمتك بسرعة بناءً على رمز الخروج 1.

12) الاختبار

شغّل الاختبارات:

pytest

تشمل التغطية:

• جميع فئات الكشف الست
• تنسيق التقارير في جميع أوضاع الإخراج الأربعة
• تأكيدات على مستوى القاعدة لسلوك مستقر

13) ملاحظات أمنية

exfil-scan هو ماسح ارشادي. وهو مصمم لتقليل المخاطر وإظهار المخرجات المشبوهة، وليس لإثبات سلامة المحتوى.

نمط النشر الموصى به:

1. شغّل الماسح في CI على المطالبات الاختبارية ومخرجات بيانات الاختبار
2. شغّل الماسح في الحواجز الوقائية للإنتاج على الردود المُولَّدة
3. وجّه النتائج إلى فرز المحللين والقياس عن بُعد
4. اضبط عتبات الإعداد باستمرار بناءً على مراجعة النتائج الإيجابية الخاطئة

14) الترخيص

هذا المشروع مرخّص بموجب رخصة MIT. راجع LICENSE للشروط الكاملة.

15) المساهمة

المساهمات مرحّب بها. عند فتح طلب سحب (PR)، تضمين:

• خطوات إعادة إنتاج واضحة
• السلوك المتوقع والفعلي
• اختبارات لمنطق الكشف الجديد
• تحديثات التوثيق عند تقديم قواعد جديدة