Skip to content
KitploitKITPLOIT
أدواتعمليات الاستغلالالمدونة
Log in
إرسال
أدواتعمليات الاستغلالالمدونة
إرسال

أدوات الاختراق واختبار الاختراق والأمن السيبراني لترسانتك الأمنية!

Kitploit هو دليل لأدوات الاختراق والأمن السيبراني واختبار الاختراق. اكتشف آخر تحديثات المشاريع للعثور على الثغرات وتحليل الأنظمة وأتمتة الاختبارات وتعزيز أمنك.

الخلاصاتاتصالالخصوصية© 2026 Kitploit

دليل الأدوات

الفئات

عرض جميع الفئات
Loading categories
أدوات/GitHubGitHub/psm-defense/psm
أدوات دفاعيةتعلم الآلةالأوراق والأبحاثأمن الذكاء الاصطناعي
GitHubpsm-defense/psm

psm

نهج تحسين بالصندوق الأسود لحماية مطالبات نظام نماذج اللغة الكبيرة (LLM) من هجمات الاستخراج العدائية.

عرض المستودع
21منذ سنة واحدةلم تتم المراجعة بعد

الأكثر شعبية

عرض الكل →

اكتشف الأدوات الأكثر استخدامًا من قبل مجتمعنا.

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 مجموعة أدوات OSINT المثالية: رسم بياني للتحقيق، وتقييم الثقة، وعائلات الأسماء المستعارة، وخريطة، وخط زمني، وتقارير. 49 وحدة، وأكثر من 400 موقع، دون الحاجة إلى مفاتيح API.

    591
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    # تطبيق GhostLock للتنفيذ بنقرة واحدة (CVE-2026-43499)

    481
  • 3

    ARTEX

    baarai/artex

    منصة اختبار اختراق مستقلة متعددة الوكلاء تعتمد على LLM، مع وكلاء تخطيط وتنفيذ، ومخططات للأصول والاستكشاف، وتسجيل حركة مرور MITM، وإعادة اختبار الثغرات.

    389
  • 4

    redforge

    cybersecurity91/redforge

    مجموعة أدوات الفريق الأحمر في المتصفح مع 102 أداة دون اتصال للاستطلاع، وتوليد الحمولات، وهجمات بيانات الاعتماد، والتشفير، والترميز، وإعداد تقارير المهام.

    332
  • 5

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    نظام العمل للأمن السيبراني الأصلي بالذكاء الاصطناعي — حيث تتحول النية إلى تنفيذ محكوم، وتصبح الأدلة ذاكرة تشغيلية، وكل عملية تحسن التي تليها.

    255
  • 6

    antifox

    antifox-ai/antifox

    منصة اختبار اختراق متعددة الوكلاء ذاتية التشغيل بالذكاء الاصطناعي تُجري الاستطلاع واكتشاف سطح الهجوم والتحقق من الاستغلال وتسليم تقارير مدعومة بالأدلة.

    247

استكشف جميع الأدوات

تصفح مجموعتنا من الأدوات

عرض جميع الأدوات →
مشاركة

تقليل حساسية المطالبات (PSM)

نهج تحسين بصندوق أسود لحماية مطالبات نظام نماذج اللغة الكبيرة (LLM) ضد هجمات الاستخراج العدائية.

نظرة عامة

ينفّذ هذا المستودع تقليل حساسية المطالبات (PSM)، وهي آلية دفاع تستخدم نموذج اللغة الكبير كمُحسِّن لتوليد "دروع" حماية تلقائيًا حول مطالبات النظام. يقلل PSM من التسريب القابل للملاحظة مع الحفاظ على فائدة المهمة من خلال عملية تحسين تكرارية.

الميزات الرئيسية

  • نموذج اللغة الكبير كمُحسِّن: يستخدم نماذج اللغة لتوليد دروع الحماية وتحسينها
  • تحسين متعدد الأهداف: يوازن بين تقليل التسريب والحفاظ على الفائدة
  • تقييم شامل: يُختبر ضد أنواع متعددة من الهجمات واستراتيجيات الدفاع
  • تجميع سلس: ينفّذ طرقًا متنوعة لتجميع درجات التسريب (logsumexp، متوسط أعلى-k، الحد الأقصى)
  • تخزين مؤقت فعّال: يقلل من استدعاءات API المكررة عبر التخزين المؤقت الذكي للنتائج
  • مقاييس متعددة: يدعم كلاً من مقاييس التقييم القائمة على ROUGE ومقياس حَكَم نموذج اللغة الكبير

جدول المحتويات

  • التثبيت
  • البدء السريع
  • الاستخدام
  • البنية
  • الإعدادات
  • قابلية إعادة الإنتاج

التثبيت

المتطلبات الأساسية

  • Python 3.8+
  • بيئة افتراضية (موصى بها)

الإعداد

  1. استنساخ المستودع:
git clone <repository-url>
cd psm
  1. أنشئ بيئة افتراضية وقم بتفعيلها:
python -m venv venv
source venv/bin/activate  # On Windows: venv\Scripts\activate
  1. ثبّت التبعيات:
pip install -r requirements.txt
  1. قم بتكوين مفاتيح API: أنشئ ملف config/config.yaml يحتوي على إعدادات API الخاصة بنموذج اللغة الكبير (LLM) لديك:
llms:
  gpt-4o-mini:
    model: "gpt-4o-mini"
    model_provider: "openai"
    api_key: "your-api-key"
    temperature: 0.7
  # Add other model configurations as needed

البدء السريع

تشغيل PSM Defense

توليد مطالبات نظام محمية باستخدام PSM:

python run.py

سيقوم هذا بما يلي:

  1. تحميل مطالبات النظام من data/victim_prompts/
  2. توليد دروع حماية باستخدام تحسين LLM
  3. حفظ المطالبات المحسّنة في data/defense_prompts/

تقييم آليات الدفاع

تقييم آليات الدفاع ضد الهجمات العدائية:

python experiments/evaluate_defenses.py

سيقوم هذا بما يلي:

  1. اختبار استراتيجيات دفاع متعددة (None، Baseline، PSM، N-gram Filter، FAKE)
  2. تشغيل أنواع هجوم متنوعة (RACCON، LIANG، ZHANG، إلخ)
  3. توليد نتائج شاملة في results/

الاستخدام

الاستخدام البرمجي

تشغيل PSM لمُدخل واحد

from run import PSMRunner, RunPSMConfig

# Configure PSM
config = RunPSMConfig(
    dataset_name="unnatural-test",
    attack_samples=50,
    validation_samples=10,
    target_dataset_samples=30,
    llm_target="gpt-5-mini",
    llm_optimizer="gpt-4o-mini",
    llm_validation="gpt-4o",
    llm_judge="gpt-4o-mini",
    n_optimization_iterations=10,
    n_initial_shields=5,
    n_shields_per_step=5,
    max_candidates_per_step=10,
    target_utility_threshold=0.9,
    target_leakage_threshold=0.65,
    leakage_aggregation="logsumexp",
    logsumexp_temperature=10.0
)

# Run PSM
runner = PSMRunner(config)
runner.run_experiments()

تقييم استراتيجية دفاعية

from experiments.evaluate_defenses import (
    DefenseEvaluator, ExperimentConfig, 
    DefenseConfig, DefenseStrategy, 
    AttackType, Dataset, TargetModel
)

# Configure experiment
config = ExperimentConfig(
    attack_types=[AttackType.RACCON, AttackType.LIANG],
    defense_configs=[
        DefenseConfig(DefenseStrategy.PSM, Dataset.UNNATURAL_TEST, TargetModel.GPT_4O_MINI)
    ],
    max_victim_samples=30,
    max_attack_samples=60,
    use_am_metric=True,
    am_threshold=0.9,
    use_jm_metric=True,
    jm_threshold=0.7
)

# Run evaluation
evaluator = DefenseEvaluator(config)
await evaluator.run_experiments()
evaluator.save_results()
evaluator.print_results_summary()

البنية المعمارية

المكوّنات الأساسية

1. PSM (src/defense/psm/psm.py)

محرّك التحسين الرئيسي الذي يقوم بما يلي:

  • توليد الدروع الوقائية الأولية
  • تحسين الدروع بشكل تكراري باستخدام LLM كمُحسِّن
  • تقييم المرشّحين وفق مقاييس الفائدة والتسريب
  • التحسين وفق دالة لياقة متعددة الأهداف

الفئات الرئيسية:

  • PSM: فئة التحسين الرئيسية
  • PromptCandidate: تمثّل حلاً مرشّحاً مع درجاته
  • PSMConfig: معاملات التهيئة

2. إنشاء البيانات (src/defense/psm/psm_data_creation.py)

يتولّى:

  • توليد مدخلات التحقق الأساسية
  • جمع مدخلات الهجوم
  • إنشاء أزواج الاستعلام والاستجابة

3. المقاييس (src/metrics.py)

مقاييس التقييم:

  • ROUGE Recall: يقيس التسريب بناءً على تداخل الرموز
  • LLM Judge: تقييم ثنائي باستخدام LLM كحَكَم
  • Approximate Match: كشف النجاح القائم على العتبة

4. التقييم (experiments/evaluate_defenses.py)

إطار تقييم شامل:

  • يدعم استراتيجيات دفاع متعددة
  • يختبر أنواعاً متنوعة من الهجمات
  • يطبّق التخزين المؤقت للنتائج
  • يولّد تقارير مفصّلة

استراتيجيات الدفاع

  1. None: بلا دفاع (خط الأساس)
  2. Baseline: إضافة تعليمات بسيطة (Liang et al., 2024)
  3. PSM: تقليل حساسية الموجّه (هذا العمل)
  4. N-gram Filter: يرشّح الاستجابات التي تحتوي على n-grams من الموجّه
  5. FAKE: إدراج موجّه خادع (Liang et al., 2024)

أنواع الهجمات

مجموعات بيانات الهجمات المدعومة:

  • raccon.json: موجّهات هجوم RACCON
  • liang.json: أنماط هجوم Liang et al.
  • zhang.json: أنماط هجوم Zhang et al.
  • ours.json: موجّهات هجوم مخصّصة
  • raccon_language.json: هجمات RACCON الخاصة بلغة معيّنة

التهيئة

معاملات تهيئة PSM

@dataclass
class RunPSMConfig:
    # Dataset
    dataset_name: str = "unnatural-test"
    
    # Sample sizes
    attack_samples: int = 50              # Attack inputs to use
    validation_samples: int = 10          # Baseline validation queries
    target_dataset_samples: int = 30      # System prompts to process
    
    # Model selection
    llm_target: str = "gpt-5-mini"       # Target model to protect
    llm_optimizer: str = "gpt-4o-mini"   # Model for shield generation
    llm_validation: str = "gpt-4o"       # Model for validation
    llm_judge: str = "gpt-4o-mini"       # Model for judging
    
    # Optimization parameters
    n_optimization_iterations: int = 10  # Max optimization iterations
    n_initial_shields: int = 5           # Initial shield population
    n_shields_per_step: int = 5          # New shields per iteration
    max_candidates_per_step: int = 10    # Max candidates to consider
    
    # Thresholds
    target_utility_threshold: float = 0.9    # Minimum utility score
    target_leakage_threshold: float = 0.65  # Maximum leakage score
    utility_penalty_weight: float = 100.0   # Weight for utility penalty
    
    # Leakage aggregation
    leakage_aggregation: str = "logsumexp"   # Aggregation method
    logsumexp_temperature: float = 10.0     # LogSumExp temperature
    top_k: int = 3                          # Top-k for top_k_mean

طرق تجميع التسريب

  1. max: الحد الأقصى لدرجة التسريب (غير سلس)
  2. logsumexp: تقريب سلس للحد الأقصى (موصى به)
  3. top_k_mean: متوسط أعلى k من أسوأ الدرجات
  4. mean: متوسط بسيط (الأكثر سلاسة)

إعداد التجربة

config = ExperimentConfig(
    # Attack and defense selection
    attack_types=[AttackType.RACCON, AttackType.LIANG],
    defense_configs=[...],
    
    # Sample limits
    max_victim_samples=30,
    max_attack_samples=60,
    
    # AM metric
    use_am_metric=True,
    am_threshold=0.9,
    
    # JM metric
    use_jm_metric=True,
    jm_threshold=0.7,
    
    # Output options
    output_dir="results",
    save_detailed_results=True,
    save_per_prompt_results=True
)

قابلية إعادة الإنتاج

يوفر هذا القسم تعليمات مفصّلة لإعادة إنتاج النتائج التجريبية من هذا المستودع.

الإعدادات

تنزيل الأداة