Skip to content
KitploitKITPLOIT
StrumentiExploitsBlog
Log in
Invia
StrumentiExploitsBlog
Invia

Strumenti di Hacking, PenTest e Cybersecurity per il tuo Arsenale di Sicurezza!

Kitploit è una directory di strumenti di hacking, cybersecurity e pentesting. Scopri gli ultimi aggiornamenti dei progetti per trovare vulnerabilità, analizzare sistemi, automatizzare i test e rafforzare la tua sicurezza.

FeedContattoPrivacy© 2026 Kitploit

Directory degli strumenti

Categorie

Vedi tutte le categorie
Loading categories
psm — Un approccio di ottimizzazione black-box per proteggere i prompt di sistema dei Large Language Model (LLM) dagli attacchi di estrazione adversarial. | Kitploit
Strumenti/GitHubGitHub/psm-defense/psm
Strumenti DifensiviMachine LearningPaper e RicercaSicurezza dell'IA
GitHubpsm-defense/psm

psm

Un approccio di ottimizzazione black-box per proteggere i prompt di sistema dei Large Language Model (LLM) dagli attacchi di estrazione adversarial.

Vedi Repository
211 anno faNon ancora revisionato
Condividi

Minimizzazione della Sensibilità al Prompt (PSM)

Un approccio di ottimizzazione black-box per proteggere i prompt di sistema dei Large Language Model (LLM) dagli attacchi di estrazione adversarial.

Panoramica

Questo repository implementa la Prompt Sensitivity Minimization (PSM), un meccanismo di difesa che utilizza l'LLM come ottimizzatore per generare automaticamente "scudi" protettivi attorno ai prompt di sistema. PSM minimizza la fuga di informazioni osservabile preservando l'utilità del compito attraverso un processo di ottimizzazione iterativo.

Caratteristiche principali

  • LLM come ottimizzatore: utilizza modelli linguistici per generare e perfezionare scudi protettivi
  • Ottimizzazione multi-obiettivo: bilancia la minimizzazione della fuga di informazioni con la preservazione dell'utilità
  • Valutazione completa: testata contro molteplici tipi di attacco e strategie di difesa
  • Aggregazione uniforme: implementa vari metodi di aggregazione del punteggio di fuga (logsumexp, media top-k, max)
  • Caching efficiente: riduce le chiamate API ridondanti tramite una cache intelligente dei risultati
  • Metriche multiple: supporta sia metriche di valutazione basate su ROUGE che su LLM judge

Indice

  • Installazione
  • Avvio rapido
  • Utilizzo
  • Architettura
  • Configurazione
  • Riproducibilità

Installazione

Prerequisiti

  • Python 3.8+
  • Ambiente virtuale (consigliato)

Configurazione

  1. Clona il repository:
git clone <repository-url>
cd psm
  1. Creare e attivare un ambiente virtuale:
python -m venv venv
source venv/bin/activate  # On Windows: venv\Scripts\activate
  1. Installa le dipendenze:
pip install -r requirements.txt
  1. Configura le chiavi API: Crea un file config/config.yaml con le tue configurazioni API LLM:
llms:
  gpt-4o-mini:
    model: "gpt-4o-mini"
    model_provider: "openai"
    api_key: "your-api-key"
    temperature: 0.7
  # Add other model configurations as needed

Avvio rapido

Esecuzione di PSM Defense

Genera prompt di sistema protetti utilizzando PSM:

python run.py

Questo:

  1. Caricherà i prompt di sistema da data/victim_prompts/
  2. Genererà scudi protettivi utilizzando l'ottimizzazione LLM
  3. Salverà i prompt ottimizzati in data/defense_prompts/

Valutazione delle difese

Valuta i meccanismi di difesa contro attacchi avversariali:

python experiments/evaluate_defenses.py

Questo:

  1. Testa più strategie di difesa (None, Baseline, PSM, N-gram Filter, FAKE)
  2. Esegue vari tipi di attacco (RACCON, LIANG, ZHANG, ecc.)
  3. Genera risultati completi in results/

Utilizzo

Utilizzo programmatico

Esecuzione di PSM per un singolo prompt

from run import PSMRunner, RunPSMConfig

# Configure PSM
config = RunPSMConfig(
    dataset_name="unnatural-test",
    attack_samples=50,
    validation_samples=10,
    target_dataset_samples=30,
    llm_target="gpt-5-mini",
    llm_optimizer="gpt-4o-mini",
    llm_validation="gpt-4o",
    llm_judge="gpt-4o-mini",
    n_optimization_iterations=10,
    n_initial_shields=5,
    n_shields_per_step=5,
    max_candidates_per_step=10,
    target_utility_threshold=0.9,
    target_leakage_threshold=0.65,
    leakage_aggregation="logsumexp",
    logsumexp_temperature=10.0
)

# Run PSM
runner = PSMRunner(config)
runner.run_experiments()

Valutare una strategia di difesa

from experiments.evaluate_defenses import (
    DefenseEvaluator, ExperimentConfig, 
    DefenseConfig, DefenseStrategy, 
    AttackType, Dataset, TargetModel
)

# Configure experiment
config = ExperimentConfig(
    attack_types=[AttackType.RACCON, AttackType.LIANG],
    defense_configs=[
        DefenseConfig(DefenseStrategy.PSM, Dataset.UNNATURAL_TEST, TargetModel.GPT_4O_MINI)
    ],
    max_victim_samples=30,
    max_attack_samples=60,
    use_am_metric=True,
    am_threshold=0.9,
    use_jm_metric=True,
    jm_threshold=0.7
)

# Run evaluation
evaluator = DefenseEvaluator(config)
await evaluator.run_experiments()
evaluator.save_results()
evaluator.print_results_summary()

Architettura

Componenti principali

1. PSM (src/defense/psm/psm.py)

Il motore di ottimizzazione principale che:

  • Genera gli scudi protettivi iniziali
  • Perfeziona iterativamente gli scudi utilizzando LLM-as-optimizer
  • Valuta i candidati in base a metriche di utilità e di leakage
  • Ottimizza per una funzione di fitness multi-obiettivo

Classi principali:

  • PSM: Classe di ottimizzazione principale
  • PromptCandidate: Rappresenta una soluzione candidata con i relativi punteggi
  • PSMConfig: Parametri di configurazione

2. Creazione dei dati (src/defense/psm/psm_data_creation.py)

Gestisce:

  • La generazione degli input di validazione di base
  • La raccolta degli input di attacco
  • La creazione di coppie query-risposta

3. Metriche (src/metrics.py)

Metriche di valutazione:

  • ROUGE Recall: Misura il leakage in base alla sovrapposizione di token
  • LLM Judge: Valutazione binaria che utilizza un LLM come giudice
  • Approximate Match: Rilevamento del successo basato su soglia

4. Valutazione (experiments/evaluate_defenses.py)

Framework di valutazione completo:

  • Supporta molteplici strategie di difesa
  • Testa vari tipi di attacco
  • Implementa la cache dei risultati
  • Genera report dettagliati

Strategie di difesa

  1. None: Nessuna difesa (baseline)
  2. Baseline: Semplice aggiunta di istruzioni (Liang et al., 2024)
  3. PSM: Prompt Sensitivity Minimization (questo lavoro)
  4. N-gram Filter: Filtra le risposte che contengono n-grammi del prompt
  5. FAKE: Inserimento di prompt esca (Liang et al., 2024)

Tipi di attacco

Dataset di attacco supportati:

  • raccon.json: Prompt di attacco RACCON
  • liang.json: Pattern di attacco di Liang et al.
  • zhang.json: Pattern di attacco di Zhang et al.
  • ours.json: Prompt di attacco personalizzati
  • raccon_language.json: Attacchi RACCON specifici per lingua

Configurazione

Parametri di configurazione di PSM

@dataclass
class RunPSMConfig:
    # Dataset
    dataset_name: str = "unnatural-test"
    
    # Sample sizes
    attack_samples: int = 50              # Attack inputs to use
    validation_samples: int = 10          # Baseline validation queries
    target_dataset_samples: int = 30      # System prompts to process
    
    # Model selection
    llm_target: str = "gpt-5-mini"       # Target model to protect
    llm_optimizer: str = "gpt-4o-mini"   # Model for shield generation
    llm_validation: str = "gpt-4o"       # Model for validation
    llm_judge: str = "gpt-4o-mini"       # Model for judging
    
    # Optimization parameters
    n_optimization_iterations: int = 10  # Max optimization iterations
    n_initial_shields: int = 5           # Initial shield population
    n_shields_per_step: int = 5          # New shields per iteration
    max_candidates_per_step: int = 10    # Max candidates to consider
    
    # Thresholds
    target_utility_threshold: float = 0.9    # Minimum utility score
    target_leakage_threshold: float = 0.65  # Maximum leakage score
    utility_penalty_weight: float = 100.0   # Weight for utility penalty
    
    # Leakage aggregation
    leakage_aggregation: str = "logsumexp"   # Aggregation method
    logsumexp_temperature: float = 10.0     # LogSumExp temperature
    top_k: int = 3                          # Top-k for top_k_mean

Metodi di aggregazione della fuga di informazioni

  1. max: Punteggio massimo di fuga di informazioni (non smooth)
  2. logsumexp: Approssimazione smooth del massimo (consigliato)
  3. top_k_mean: Media dei k punteggi peggiori
  4. mean: Media semplice (più smooth)

Configurazione dell'esperimento

Scarica lo strumento

Più Popolari

Vedi tutti →

Scopri gli strumenti più utilizzati dalla nostra community.

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 Il toolkit OSINT definitivo: grafo di indagine, punteggio di affidabilità, famiglie di alias, mappa, timeline e report. 49 moduli, oltre 400 siti, nessuna chiave API richiesta.

    591
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    # App di esecuzione con un tocco GhostLock (CVE-2026-43499)

    481
  • 3

    ARTEX

    baarai/artex

    Piattaforma di penetration testing autonoma multi-agente basata su LLM con agenti planner/worker, grafi di asset e di esplorazione, registrazione del traffico MITM e retesting delle vulnerabilità.

    389
  • 4

    redforge

    cybersecurity91/redforge

    Toolkit red team lato browser con 102 strumenti offline per ricognizione, generazione di payload, attacchi alle credenziali, crittografia, codifica e reportistica dell'engagement.

    332
  • 5

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    Il sistema d'azione per la cybersecurity nativa AI—dove l'intento diventa esecuzione governata, le evidenze diventano memoria operativa, e ogni operazione migliora la successiva.

    255
  • 6

    antifox

    antifox-ai/antifox

    Piattaforma multi-agente di penetration testing autonoma basata sull'IA che esegue ricognizione, scoperta della superficie d'attacco, validazione dello sfruttamento e consegna di report supportati da evidenze.

    247

Esplora tutti gli strumenti

Sfoglia la nostra collezione di strumenti

Vedi tutti gli strumenti →