
نهج تحسين بالصندوق الأسود لحماية مطالبات نظام نماذج اللغة الكبيرة (LLM) من هجمات الاستخراج العدائية.
نهج تحسين بصندوق أسود لحماية مطالبات نظام نماذج اللغة الكبيرة (LLM) ضد هجمات الاستخراج العدائية.
ينفّذ هذا المستودع تقليل حساسية المطالبات (PSM)، وهي آلية دفاع تستخدم نموذج اللغة الكبير كمُحسِّن لتوليد "دروع" حماية تلقائيًا حول مطالبات النظام. يقلل PSM من التسريب القابل للملاحظة مع الحفاظ على فائدة المهمة من خلال عملية تحسين تكرارية.
git clone <repository-url>
cd psm
python -m venv venv
source venv/bin/activate # On Windows: venv\Scripts\activate
pip install -r requirements.txt
config/config.yaml يحتوي على إعدادات API الخاصة بنموذج اللغة الكبير (LLM) لديك:llms:
gpt-4o-mini:
model: "gpt-4o-mini"
model_provider: "openai"
api_key: "your-api-key"
temperature: 0.7
# Add other model configurations as needed
توليد مطالبات نظام محمية باستخدام PSM:
python run.py
سيقوم هذا بما يلي:
data/victim_prompts/data/defense_prompts/تقييم آليات الدفاع ضد الهجمات العدائية:
python experiments/evaluate_defenses.py
سيقوم هذا بما يلي:
results/from run import PSMRunner, RunPSMConfig
# Configure PSM
config = RunPSMConfig(
dataset_name="unnatural-test",
attack_samples=50,
validation_samples=10,
target_dataset_samples=30,
llm_target="gpt-5-mini",
llm_optimizer="gpt-4o-mini",
llm_validation="gpt-4o",
llm_judge="gpt-4o-mini",
n_optimization_iterations=10,
n_initial_shields=5,
n_shields_per_step=5,
max_candidates_per_step=10,
target_utility_threshold=0.9,
target_leakage_threshold=0.65,
leakage_aggregation="logsumexp",
logsumexp_temperature=10.0
)
# Run PSM
runner = PSMRunner(config)
runner.run_experiments()
from experiments.evaluate_defenses import (
DefenseEvaluator, ExperimentConfig,
DefenseConfig, DefenseStrategy,
AttackType, Dataset, TargetModel
)
# Configure experiment
config = ExperimentConfig(
attack_types=[AttackType.RACCON, AttackType.LIANG],
defense_configs=[
DefenseConfig(DefenseStrategy.PSM, Dataset.UNNATURAL_TEST, TargetModel.GPT_4O_MINI)
],
max_victim_samples=30,
max_attack_samples=60,
use_am_metric=True,
am_threshold=0.9,
use_jm_metric=True,
jm_threshold=0.7
)
# Run evaluation
evaluator = DefenseEvaluator(config)
await evaluator.run_experiments()
evaluator.save_results()
evaluator.print_results_summary()
src/defense/psm/psm.py)محرّك التحسين الرئيسي الذي يقوم بما يلي:
الفئات الرئيسية:
PSM: فئة التحسين الرئيسيةPromptCandidate: تمثّل حلاً مرشّحاً مع درجاتهPSMConfig: معاملات التهيئةsrc/defense/psm/psm_data_creation.py)يتولّى:
src/metrics.py)مقاييس التقييم:
experiments/evaluate_defenses.py)إطار تقييم شامل:
مجموعات بيانات الهجمات المدعومة:
raccon.json: موجّهات هجوم RACCONliang.json: أنماط هجوم Liang et al.zhang.json: أنماط هجوم Zhang et al.ours.json: موجّهات هجوم مخصّصةraccon_language.json: هجمات RACCON الخاصة بلغة معيّنة@dataclass
class RunPSMConfig:
# Dataset
dataset_name: str = "unnatural-test"
# Sample sizes
attack_samples: int = 50 # Attack inputs to use
validation_samples: int = 10 # Baseline validation queries
target_dataset_samples: int = 30 # System prompts to process
# Model selection
llm_target: str = "gpt-5-mini" # Target model to protect
llm_optimizer: str = "gpt-4o-mini" # Model for shield generation
llm_validation: str = "gpt-4o" # Model for validation
llm_judge: str = "gpt-4o-mini" # Model for judging
# Optimization parameters
n_optimization_iterations: int = 10 # Max optimization iterations
n_initial_shields: int = 5 # Initial shield population
n_shields_per_step: int = 5 # New shields per iteration
max_candidates_per_step: int = 10 # Max candidates to consider
# Thresholds
target_utility_threshold: float = 0.9 # Minimum utility score
target_leakage_threshold: float = 0.65 # Maximum leakage score
utility_penalty_weight: float = 100.0 # Weight for utility penalty
# Leakage aggregation
leakage_aggregation: str = "logsumexp" # Aggregation method
logsumexp_temperature: float = 10.0 # LogSumExp temperature
top_k: int = 3 # Top-k for top_k_mean
config = ExperimentConfig(
# Attack and defense selection
attack_types=[AttackType.RACCON, AttackType.LIANG],
defense_configs=[...],
# Sample limits
max_victim_samples=30,
max_attack_samples=60,
# AM metric
use_am_metric=True,
am_threshold=0.9,
# JM metric
use_jm_metric=True,
jm_threshold=0.7,
# Output options
output_dir="results",
save_detailed_results=True,
save_per_prompt_results=True
)
يوفر هذا القسم تعليمات مفصّلة لإعادة إنتاج النتائج التجريبية من هذا المستودع.