Skip to content
KitploitKITPLOIT
FerramentasExploitsBlog
Log in
Enviar
FerramentasExploitsBlog
Enviar

Ferramentas de Hacking, PenTest e Cibersegurança para o seu Arsenal de Segurança!

Kitploit é um diretório de ferramentas de hacking, cibersegurança e pentesting. Descubra as últimas atualizações de projetos para encontrar vulnerabilidades, analisar sistemas, automatizar testes e fortalecer sua segurança.

FeedsContatoPrivacidade© 2026 Kitploit

Diretório de Ferramentas

Categorias

Ver todas as categorias
Loading categories
Ferramentas/GitHubGitHub/psm-defense/psm
Ferramentas DefensivasAprendizado de MáquinaPapers e PesquisaSegurança de IA
GitHubpsm-defense/psm

psm

Uma abordagem de otimização de caixa preta para proteger prompts de sistema de Modelos de Linguagem de Grande Porte (LLM) contra ataques de extração adversariais.

Ver Repositório
21há 1 anoAinda não revisado
Compartilhar

Minimização de Sensibilidade ao Prompt (PSM)

Uma abordagem de otimização de caixa-preta para proteger prompts de sistema de Modelos de Linguagem de Grande Porte (LLMs) contra ataques de extração adversariais.

Visão Geral

Este repositório implementa a Minimização de Sensibilidade ao Prompt (PSM), um mecanismo de defesa que utiliza o LLM como otimizador para gerar automaticamente "escudos" protetores em torno dos prompts de sistema. O PSM minimiza o vazamento observável enquanto preserva a utilidade da tarefa por meio de um processo de otimização iterativo.

Principais Recursos

  • LLM como Otimizador: Utiliza modelos de linguagem para gerar e refinar escudos protetores
  • Otimização Multiobjetivo: Equilibra a minimização do vazamento com a preservação da utilidade
  • Avaliação Abrangente: Testa contra múltiplos tipos de ataque e estratégias de defesa
  • Agregação Suave: Implementa vários métodos de agregação de pontuação de vazamento (logsumexp, média top-k, máximo)
  • Cache Eficiente: Reduz chamadas de API redundantes por meio de cache inteligente de resultados
  • Múltiplas Métricas: Suporta métricas de avaliação baseadas em ROUGE e em juiz LLM

Índice

  • Instalação
  • Início Rápido
  • Uso
  • Arquitetura
  • Configuração
  • Reprodutibilidade

Instalação

Pré-requisitos

  • Python 3.8+
  • Ambiente virtual (recomendado)

Configuração

  1. Clone o repositório:
git clone <repository-url>
cd psm
  1. Crie e ative um ambiente virtual:
python -m venv venv
source venv/bin/activate  # On Windows: venv\Scripts\activate
  1. Instale as dependências:
pip install -r requirements.txt
  1. Configure as chaves de API: Crie um arquivo config/config.yaml com suas configurações de API do LLM:
llms:
  gpt-4o-mini:
    model: "gpt-4o-mini"
    model_provider: "openai"
    api_key: "your-api-key"
    temperature: 0.7
  # Add other model configurations as needed

Início Rápido

Executando o PSM Defense

Gere prompts de sistema protegidos usando o PSM:

python run.py

Isso irá:

  1. Carregar prompts de sistema de data/victim_prompts/
  2. Gerar escudos protetores usando otimização por LLM
  3. Salvar prompts otimizados em data/defense_prompts/

Avaliando Defesas

Avalie mecanismos de defesa contra ataques adversariais:

python experiments/evaluate_defenses.py

Isso irá:

  1. Testar múltiplas estratégias de defesa (None, Baseline, PSM, N-gram Filter, FAKE)
  2. Executar vários tipos de ataque (RACCON, LIANG, ZHANG, etc.)
  3. Gerar resultados abrangentes em results/

Uso

Uso Programático

Executando PSM para um Único Prompt

from run import PSMRunner, RunPSMConfig

# Configure PSM
config = RunPSMConfig(
    dataset_name="unnatural-test",
    attack_samples=50,
    validation_samples=10,
    target_dataset_samples=30,
    llm_target="gpt-5-mini",
    llm_optimizer="gpt-4o-mini",
    llm_validation="gpt-4o",
    llm_judge="gpt-4o-mini",
    n_optimization_iterations=10,
    n_initial_shields=5,
    n_shields_per_step=5,
    max_candidates_per_step=10,
    target_utility_threshold=0.9,
    target_leakage_threshold=0.65,
    leakage_aggregation="logsumexp",
    logsumexp_temperature=10.0
)

# Run PSM
runner = PSMRunner(config)
runner.run_experiments()

Avaliando uma Estratégia de Defesa

from experiments.evaluate_defenses import (
    DefenseEvaluator, ExperimentConfig, 
    DefenseConfig, DefenseStrategy, 
    AttackType, Dataset, TargetModel
)

# Configure experiment
config = ExperimentConfig(
    attack_types=[AttackType.RACCON, AttackType.LIANG],
    defense_configs=[
        DefenseConfig(DefenseStrategy.PSM, Dataset.UNNATURAL_TEST, TargetModel.GPT_4O_MINI)
    ],
    max_victim_samples=30,
    max_attack_samples=60,
    use_am_metric=True,
    am_threshold=0.9,
    use_jm_metric=True,
    jm_threshold=0.7
)

# Run evaluation
evaluator = DefenseEvaluator(config)
await evaluator.run_experiments()
evaluator.save_results()
evaluator.print_results_summary()

Arquitetura

Componentes Principais

1. PSM (src/defense/psm/psm.py)

O principal motor de otimização que:

  • Gera escudos protetores iniciais
  • Refina iterativamente os escudos usando LLM-como-otimizador
  • Avalia candidatos em métricas de utilidade e vazamento
  • Otimiza para uma função de aptidão multiobjetivo

Classes Principais:

  • PSM: Classe principal de otimização
  • PromptCandidate: Representa uma solução candidata com pontuações
  • PSMConfig: Parâmetros de configuração

2. Criação de Dados (src/defense/psm/psm_data_creation.py)

Lida com:

  • Geração de entradas de validação de linha de base
  • Coleta de entradas de ataque
  • Criação de pares pergunta-resposta

3. Métricas (src/metrics.py)

Métricas de avaliação:

  • ROUGE Recall: Mede o vazamento com base na sobreposição de tokens
  • LLM Judge: Avaliação binária usando LLM como juiz
  • Approximate Match: Detecção de sucesso baseada em limiar

4. Avaliação (experiments/evaluate_defenses.py)

Estrutura de avaliação abrangente:

  • Suporta múltiplas estratégias de defesa
  • Testa vários tipos de ataque
  • Implementa cache de resultados
  • Gera relatórios detalhados

Estratégias de Defesa

  1. None: Sem defesa (linha de base)
  2. Baseline: Adição simples de instrução (Liang et al., 2024)
  3. PSM: Minimização de Sensibilidade a Prompts (este trabalho)
  4. N-gram Filter: Filtra respostas contendo n-gramas do prompt
  5. FAKE: Inserção de prompt chamariz (Liang et al., 2024)

Tipos de Ataque

Conjuntos de dados de ataque suportados:

  • raccon.json: Prompts de ataque RACCON
  • liang.json: Padrões de ataque de Liang et al.
  • zhang.json: Padrões de ataque de Zhang et al.
  • ours.json: Prompts de ataque personalizados
  • raccon_language.json: Ataques RACCON específicos de idioma

Configuração

Parâmetros de Configuração do PSM

@dataclass
class RunPSMConfig:
    # Dataset
    dataset_name: str = "unnatural-test"
    
    # Sample sizes
    attack_samples: int = 50              # Attack inputs to use
    validation_samples: int = 10          # Baseline validation queries
    target_dataset_samples: int = 30      # System prompts to process
    
    # Model selection
    llm_target: str = "gpt-5-mini"       # Target model to protect
    llm_optimizer: str = "gpt-4o-mini"   # Model for shield generation
    llm_validation: str = "gpt-4o"       # Model for validation
    llm_judge: str = "gpt-4o-mini"       # Model for judging
    
    # Optimization parameters
    n_optimization_iterations: int = 10  # Max optimization iterations
    n_initial_shields: int = 5           # Initial shield population
    n_shields_per_step: int = 5          # New shields per iteration
    max_candidates_per_step: int = 10    # Max candidates to consider
    
    # Thresholds
    target_utility_threshold: float = 0.9    # Minimum utility score
    target_leakage_threshold: float = 0.65  # Maximum leakage score
    utility_penalty_weight: float = 100.0   # Weight for utility penalty
    
    # Leakage aggregation
    leakage_aggregation: str = "logsumexp"   # Aggregation method
    logsumexp_temperature: float = 10.0     # LogSumExp temperature
    top_k: int = 3                          # Top-k for top_k_mean

Métodos de Agregação de Vazamento

  1. max: Pontuação máxima de vazamento (não suave)
  2. logsumexp: Aproximação suave de max (recomendado)
  3. top_k_mean: Média das k piores pontuações
  4. mean: Média simples (mais suave)

Configuração do Experimento

Baixar ferramenta

Mais Populares

Ver todos →

Descubra as ferramentas mais usadas pela nossa comunidade.

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 O kit definitivo de OSINT: grafo de investigação, pontuação de confiança, famílias de alias, mapa, linha do tempo e relatórios. 49 módulos, mais de 400 sites, sem necessidade de chaves de API.

    654
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    # Aplicativo de Execução em Um Toque GhostLock (CVE-2026-43499)

    490
  • 3

    ARTEX

    baarai/artex

    Plataforma autônoma de testes de penetração multiagente com LLM, com agentes planejador/executor, grafos de ativos e de exploração, registro de tráfego MITM e reteste de vulnerabilidades.

    395
  • 4

    redforge

    cybersecurity91/redforge

    Kit de ferramentas de red team do lado do navegador com 102 ferramentas offline para reconhecimento, geração de payloads, ataques a credenciais, criptografia, codificação e relatórios de engajamento.

    336
  • 5

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    O sistema de ação para cibersegurança nativa em IA—onde a intenção se torna execução governada, a evidência se torna memória operacional, e cada operação melhora a próxima.

    258
  • 6

    antifox

    antifox-ai/antifox

    Plataforma de testes de penetração autónoma com multiagentes de IA que executa reconhecimento, descoberta de superfície de ataque, validação de exploração e entrega de relatórios com evidências.

    252

Explore todas as ferramentas

Navegue pela nossa coleção de ferramentas

Ver todas as ferramentas →