Skip to content
KitploitKITPLOIT
ToolsExploitsBlog
Log in
Einreichen
ToolsExploitsBlog
Einreichen

Hacking-, PenTest- und Cybersicherheits-Tools für Ihr Sicherheitsarsenal!

Kitploit ist ein Verzeichnis von Hacking-, Cybersicherheits- und Pentesting-Tools. Entdecken Sie die neuesten Projekt-Updates, um Schwachstellen zu finden, Systeme zu analysieren, Tests zu automatisieren und Ihre Sicherheit zu stärken.

FeedsKontaktDatenschutz© 2026 Kitploit

Tool-Verzeichnis

Kategorien

Alle Kategorien anzeigen
Loading categories
psm — Ein Black-Box-Optimierungsansatz zum Schutz von System-Prompts großer Sprachmodelle (LLM) gegen Angriffe zur gegnerischen Extraktion. | Kitploit
Tools/GitHubGitHub/psm-defense/psm
DefensivwerkzeugeMaschinelles LernenPapers & ForschungKI-Sicherheit
GitHubpsm-defense/psm

psm

Ein Black-Box-Optimierungsansatz zum Schutz von System-Prompts großer Sprachmodelle (LLM) gegen Angriffe zur gegnerischen Extraktion.

Repository anzeigen
21vor 1 JahrNoch nicht geprüft
Teilen

Prompt Sensitivity Minimization (PSM)

Ein Black-Box-Optimierungsansatz zum Schutz von System-Prompts großer Sprachmodelle (LLMs) gegen adversariale Extraktionsangriffe.

Überblick

Dieses Repository implementiert Prompt Sensitivity Minimization (PSM), einen Abwehrmechanismus, der LLM-as-Optimizer nutzt, um automatisch schützende „Shields" um System-Prompts herum zu erzeugen. PSM minimiert die beobachtbare Leakage, während die Aufgabennützlichkeit durch einen iterativen Optimierungsprozess erhalten bleibt.

Hauptmerkmale

  • LLM-as-Optimizer: Verwendet Sprachmodelle, um schützende Shields zu erzeugen und zu verfeinern
  • Mehrzieloptimierung: Gleicht Leakage-Minimierung mit Nützlichkeitserhaltung aus
  • Umfassende Evaluierung: Testet gegen mehrere Angriffstypen und Verteidigungsstrategien
  • Glatte Aggregation: Implementiert verschiedene Methoden zur Aggregation von Leakage-Scores (logsumexp, Top-k-Mittelwert, Max)
  • Effizientes Caching: Reduziert redundante API-Aufrufe durch intelligentes Caching von Ergebnissen
  • Mehrere Metriken: Unterstützt sowohl ROUGE-basierte als auch LLM-Judge-Evaluierungsmetriken

Inhaltsverzeichnis

  • Installation
  • Schnellstart
  • Verwendung
  • Architektur
  • Konfiguration
  • Reproduzierbarkeit

Installation

Voraussetzungen

  • Python 3.8+
  • Virtuelle Umgebung (empfohlen)

Einrichtung

  1. Klonen Sie das Repository:
git clone <repository-url>
cd psm
  1. Erstellen und aktivieren Sie eine virtuelle Umgebung:
python -m venv venv
source venv/bin/activate  # On Windows: venv\Scripts\activate
  1. Abhängigkeiten installieren:
pip install -r requirements.txt
  1. API-Schlüssel konfigurieren: Erstellen Sie eine Datei config/config.yaml mit Ihren LLM-API-Konfigurationen:
llms:
  gpt-4o-mini:
    model: "gpt-4o-mini"
    model_provider: "openai"
    api_key: "your-api-key"
    temperature: 0.7
  # Add other model configurations as needed

Schnellstart

PSM Defense ausführen

Generieren Sie geschützte System-Prompts mit PSM:

python run.py

Dies wird:

  1. System-Prompts aus data/victim_prompts/ laden
  2. Schutzschilde mittels LLM-Optimierung generieren
  3. Optimierte Prompts in data/defense_prompts/ speichern

Bewertung von Verteidigungen

Verteidigungsmechanismen gegen adversariale Angriffe bewerten:

python experiments/evaluate_defenses.py

Dies wird:

  1. Mehrere Verteidigungsstrategien testen (None, Baseline, PSM, N-gram Filter, FAKE)
  2. Verschiedene Angriffstypen ausführen (RACCON, LIANG, ZHANG usw.)
  3. Umfassende Ergebnisse in results/ generieren

Verwendung

Programmatische Verwendung

Ausführen von PSM für einen einzelnen Prompt

from run import PSMRunner, RunPSMConfig

# Configure PSM
config = RunPSMConfig(
    dataset_name="unnatural-test",
    attack_samples=50,
    validation_samples=10,
    target_dataset_samples=30,
    llm_target="gpt-5-mini",
    llm_optimizer="gpt-4o-mini",
    llm_validation="gpt-4o",
    llm_judge="gpt-4o-mini",
    n_optimization_iterations=10,
    n_initial_shields=5,
    n_shields_per_step=5,
    max_candidates_per_step=10,
    target_utility_threshold=0.9,
    target_leakage_threshold=0.65,
    leakage_aggregation="logsumexp",
    logsumexp_temperature=10.0
)

# Run PSM
runner = PSMRunner(config)
runner.run_experiments()

Bewertung einer Verteidigungsstrategie

from experiments.evaluate_defenses import (
    DefenseEvaluator, ExperimentConfig, 
    DefenseConfig, DefenseStrategy, 
    AttackType, Dataset, TargetModel
)

# Configure experiment
config = ExperimentConfig(
    attack_types=[AttackType.RACCON, AttackType.LIANG],
    defense_configs=[
        DefenseConfig(DefenseStrategy.PSM, Dataset.UNNATURAL_TEST, TargetModel.GPT_4O_MINI)
    ],
    max_victim_samples=30,
    max_attack_samples=60,
    use_am_metric=True,
    am_threshold=0.9,
    use_jm_metric=True,
    jm_threshold=0.7
)

# Run evaluation
evaluator = DefenseEvaluator(config)
await evaluator.run_experiments()
evaluator.save_results()
evaluator.print_results_summary()

Architektur

Kernkomponenten

1. PSM (src/defense/psm/psm.py)

Die zentrale Optimierungs-Engine, die:

  • anfängliche Schutzschilde generiert
  • Schilde iterativ mithilfe von LLM-as-optimizer verfeinert
  • Kandidaten anhand von Nutzen- und Leakage-Metriken bewertet
  • für eine multikriterielle Fitness-Funktion optimiert

Wichtige Klassen:

  • PSM: Hauptoptimierungsklasse
  • PromptCandidate: Repräsentiert eine Kandidatenlösung mit Bewertungen
  • PSMConfig: Konfigurationsparameter

2. Datenerstellung (src/defense/psm/psm_data_creation.py)

Behandelt:

  • Generierung von Baseline-Validierungseingaben
  • Sammlung von Angriffseingaben
  • Erstellung von Query-Antwort-Paaren

3. Metriken (src/metrics.py)

Bewertungsmetriken:

  • ROUGE Recall: Misst Leakage basierend auf Token-Überlappung
  • LLM Judge: Binäre Bewertung unter Verwendung eines LLM als Richter
  • Approximate Match: Schwellenwertbasierte Erfolgserkennung

4. Evaluierung (experiments/evaluate_defenses.py)

Umfassendes Evaluierungsframework:

  • Unterstützt mehrere Verteidigungsstrategien
  • Testet verschiedene Angriffstypen
  • Implementiert Ergebnis-Caching
  • Erzeugt detaillierte Berichte

Verteidigungsstrategien

  1. None: Keine Verteidigung (Baseline)
  2. Baseline: Einfache Hinzufügung von Anweisungen (Liang et al., 2024)
  3. PSM: Prompt Sensitivity Minimization (diese Arbeit)
  4. N-gram Filter: Filtert Antworten, die Prompt-N-Gramme enthalten
  5. FAKE: Einfügung von Köder-Prompts (Liang et al., 2024)

Angriffstypen

Unterstützte Angriffsdatensätze:

  • raccon.json: RACCON-Angriffs-Prompts
  • liang.json: Angriffsmuster von Liang et al.
  • zhang.json: Angriffsmuster von Zhang et al.
  • ours.json: Benutzerdefinierte Angriffs-Prompts
  • raccon_language.json: Sprachspezifische RACCON-Angriffe

Konfiguration

PSM-Konfigurationsparameter

@dataclass
class RunPSMConfig:
    # Dataset
    dataset_name: str = "unnatural-test"
    
    # Sample sizes
    attack_samples: int = 50              # Attack inputs to use
    validation_samples: int = 10          # Baseline validation queries
    target_dataset_samples: int = 30      # System prompts to process
    
    # Model selection
    llm_target: str = "gpt-5-mini"       # Target model to protect
    llm_optimizer: str = "gpt-4o-mini"   # Model for shield generation
    llm_validation: str = "gpt-4o"       # Model for validation
    llm_judge: str = "gpt-4o-mini"       # Model for judging
    
    # Optimization parameters
    n_optimization_iterations: int = 10  # Max optimization iterations
    n_initial_shields: int = 5           # Initial shield population
    n_shields_per_step: int = 5          # New shields per iteration
    max_candidates_per_step: int = 10    # Max candidates to consider
    
    # Thresholds
    target_utility_threshold: float = 0.9    # Minimum utility score
    target_leakage_threshold: float = 0.65  # Maximum leakage score
    utility_penalty_weight: float = 100.0   # Weight for utility penalty
    
    # Leakage aggregation
    leakage_aggregation: str = "logsumexp"   # Aggregation method
    logsumexp_temperature: float = 10.0     # LogSumExp temperature
    top_k: int = 3                          # Top-k for top_k_mean

Methoden zur Leakage-Aggregation

  1. max: Maximaler Leakage-Score (nicht glatt)
  2. logsumexp: Glatte Approximation von max (empfohlen)
  3. top_k_mean: Durchschnitt der k schlechtesten Scores
  4. mean: Einfacher Durchschnitt (am glattesten)

Experimentkonfiguration

Tool herunterladen

Beliebteste

Alle anzeigen →

Entdecken Sie die meistgenutzten Tools unserer Community.

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 Das ultimative OSINT-Toolkit: Untersuchungsgraph, Konfidenzbewertung, Alias-Familien, Karte, Zeitleiste und Berichte. 49 Module, 400+ Websites, keine API-Schlüssel erforderlich.

    696
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    GhostLock One-Tap Execution App (CVE-2026-43499)

    499
  • 3

    ARTEX

    baarai/artex

    LLM-basierte Multi-Agenten-Plattform für autonome Penetrationstests mit Planer-/Worker-Agenten, Asset- und Explorationsgraphen, MITM-Verkehrsaufzeichnung und Schwachstellen-Retesting.

    396
  • 4

    redforge

    cybersecurity91/redforge

    Browser-seitiges Red-Team-Toolkit mit 102 Offline-Tools für Recon, Payload-Generierung, Credential-Angriffe, Krypto, Encoding und Engagement-Reporting.

    340
  • 5

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    Das System der Handlung für KI-native Cybersicherheit – wo Absicht zu gesteuerter Ausführung wird, Beweise zu operativem Gedächtnis werden und jeder Einsatz den nächsten verbessert.

    258
  • 6

    antifox

    antifox-ai/antifox

    KI-Multi-Agenten-Plattform für autonome Penetrationstests, die Recon, Angriffsflächen-Erkennung, Exploit-Validierung und evidenzbasierte Berichtserstellung durchführt.

    257

Alle Tools erkunden

Durchsuchen Sie unsere Tool-Sammlung

Alle Tools anzeigen →