Skip to content
KitploitKITPLOIT
StrumentiExploitsBlog
Log in
Invia
StrumentiExploitsBlog
Invia

Strumenti di Hacking, PenTest e Cybersecurity per il tuo Arsenale di Sicurezza!

Kitploit è una directory di strumenti di hacking, cybersecurity e pentesting. Scopri gli ultimi aggiornamenti dei progetti per trovare vulnerabilità, analizzare sistemi, automatizzare i test e rafforzare la tua sicurezza.

FeedContattoPrivacy© 2026 Kitploit

Directory degli strumenti

Categorie

Vedi tutte le categorie
Loading categories
benign-instruction-bench — Rivalutazione dei rilevatori di prompt-injection sugli output degli strumenti degli agenti LLM (bozza del paper, script, punteggi) | Kitploit
Strumenti/GitHubGitHub/lzwhehe/benign-instruction-bench
Strumenti DifensiviAnalisi delle VulnerabilitàMachine LearningPaper e RicercaApprendimento e FormazioneSicurezza dell'IA
GitHublzwhehe/benign-instruction-bench

benign-instruction-bench

Rivalutazione dei rilevatori di prompt-injection sugli output degli strumenti degli agenti LLM (bozza del paper, script, punteggi)

Condividi
Vedi Repository
10524 giorni faNon ancora revisionato

Superare il test su cui si è stati addestrati

Rivalutare i rilevatori di prompt injection là dove gli agenti LLM li usano effettivamente: sugli output degli strumenti che un agente legge.

I team scelgono i rilevatori di injection in base ai punteggi dei benchmark. Verifichiamo se tali punteggi predicono il comportamento all'interno di un agente, e scopriamo che per lo più misurano quanto il benchmark sia vicino ai dati di addestramento del rilevatore.

Risultati

Quindici rilevatori (nove open, sei soggetti a licenza tra cui Prompt Guard 2 di Meta) e due giudici LLM consapevoli del task, su due benchmark per agenti (AgentDojo, tau-bench) e su BIPIA. Gli output benigni degli strumenti provengono dal replay delle chiamate agli strumenti ground-truth di ciascun benchmark senza un LLM. Il rilevamento è il TPR alla soglia che dà un FPR dell'1% sugli output benigni dello stesso benchmark.

RilevatoreRilasciatoFPR sugli output benigni degli strumenti (AgentDojo / tau-bench)Rilevamento AgentDojoRilevamento tau-benchRilevamento BIPIA
Horizon-Labs guard-base20260.0% / 0.7%83.1%100.0%37.7%
Wolf Defender20260.9% / 0.0%70.1%90.8%3.5%
Prompt Guard 2 (22M)20250.0% / 0.0%60.9%60.8%31.7%
Prompt Guard 2 (86M)20250.6% / 0.0%57.4%57.9%10.4%
Judge (Llama-3.1-8B)––51.9%78.3%8.3%
Prismor-1.5B20266.5% / 46.2%29.2%15.2%4.0%
Sheltron-68M202610.6% / 4.4%20.1%95.2%57.2%
PIGuard202529.5% / 11.0%1.6%52.7%95.1%
ProtectAI v2202430.1% / 66.9%0.5%10.1%0.7%

(Tutti i 15 rilevatori ed entrambi i giudici, con AUROC e intervalli bootstrap al 95% raggruppati per task: Tabella 2 dell'articolo.)

  1. Le classifiche di BIPIA sono al massimo debolmente correlate a quelle di AgentDojo (Kendall τ su 15 rilevatori: 0.12, p = 0.559, non significativo; intervallo bootstrap da 0.05 a 0.23; escludendo singoli rilevatori si ottiene da 0.01 a 0.25, e 0.25 senza PIGuard). L'inversione più ampia proviene da un rilevatore addestrato sulla distribuzione di BIPIA: il leader di BIPIA (PIGuard) si classifica tredicesimo su 15 su AgentDojo. I due benchmark per agenti concordano di più (τ = 0.39, p = 0.046); BIPIA contro tau-bench dà τ = 0.31.
  2. I tassi di falsi positivi sugli output benigni degli strumenti vanno dallo 0.0% al 93.1% e sono coerenti tra i due benchmark per agenti (τ = 0.67, p = 0.0007).
  3. Il punteggio di PIGuard su BIPIA non dipende da stringhe di attacco memorizzate ed è coerente con un addestramento sulla distribuzione di BIPIA: la sua split di addestramento contiene 1.116 input BIPIA completi. Ha inoltre visto 53 dei 62 attacchi InjecAgent, ma solo come prompt brevi; all'interno degli output degli strumenti di tau-bench rileva allo stesso modo attacchi InjecAgent visti e non visti (52.1% vs 55.8%). Horizon-Labs, addestrato su input in stile agente, guida entrambi i benchmark per agenti; né esso né il secondo miglior rilevatore possono essere dimostrati indipendenti da AgentDojo.
  4. I giudici consapevoli del task da 7–8B raggiungono il 51.9% (Llama) e il 59.0% (Qwen) su AgentDojo e il 78.3% e il 54.3% su tau-bench con FPR dell'1%, al di sotto dei migliori rilevatori dedicati. A parte PIGuard, nessun approccio intercetta più del 39% delle injection di BIPIA non pertinenti al task.
  5. Rimuovere il markup di serializzazione o dichiarare il tipo di input riduce i falsi positivi alla soglia predefinita fino a circa venti volte, ma non rende PIGuard o ProtectAI v2 utili con FPR dell'1% su AgentDojo.

Tutti i numeri sono rigenerati dai file di punteggio tramite gli script in analysis/ (compute_all.py, compute_many.py, compute_robust.py, compute_v4.py); analysis/make_macros.py li scrive nelle macro LaTeX che l'articolo legge.

Struttura

scripts/     build evaluation sets, score detectors and judges
analysis/    compute_all.py, compute_many.py, compute_robust.py, compute_e6.py, compute_cost.py (numbers),
             make_tables.py, make_figures.py (tables and figures), make_macros.py (-> LaTeX macros)
results/     detector and judge scores used in the paper
paper/       LaTeX source, figures, compiled main.pdf

Riproduzione

pip install -r requirements.txt
AGENTDOJO_PY=/path/to/agentdojo-env/bin/python QWEN=/models/Qwen2.5-7B-Instruct LLAMA=/models/Llama-3.1-8B-Instruct bash reproduce.sh

Per rigenerare solo i numeri e le figure dai punteggi rilasciati, copiare results/*.json nella directory di lavoro, ricostruire i set .jsonl (passi 1–3 di reproduce.sh, solo CPU, con PYTHONHASHSEED=0), quindi eseguire gli script di analisi del passo 8 e python analysis/make_tables.py && python analysis/make_figures.py.

Esperimenti di robustezza e costo (versione journal):

  • analysis/compute_robust.py: intervalli bootstrap e test di permutazione per il trasferimento di rango; soglie calibrate su suite AgentDojo tenute fuori.
  • scripts/score_e6.py, analysis/compute_e6.py: Prompt Guard 2 nell'impostazione del benchmark comunitario buried-injections, e una verifica che i set ricostruiti riproducano i punteggi memorizzati.
  • scripts/latency.py, analysis/compute_cost.py: latenza e memoria per output di tool su GPU e CPU.
  • scripts/e5_run.py, scripts/e5_compare.py, scripts/e5_score.py: un agente reale (Qwen2.5-7B servito da vLLM) esegue AgentDojo senza attacchi; le sue chiamate ai tool vengono riprodotte senza un modello e confrontate output per output.
  • scripts/check_revision.py: quale revisione di Hugging Face ha prodotto i punteggi memorizzati (Horizon-Labs ha modificato i suoi pesi il 2026-10-02; i punteggi memorizzati sono della revisione af3c52e6a9d8).

I dati di valutazione sono ricostruiti dalle fonti pubbliche, non ridistribuiti: AgentDojo v1.2, tau-bench (MIT), attacchi InjecAgent (MIT), BIPIA (MIT), README di GitHub (h1alexbel/github-readmes), AESLC, FineWeb-Edu. Alcuni script presuppongono che BIPIA e PIGuard siano clonati in ~/agentsec/.

Compilazione del paper

paper/usenix-2020-09-xetex.sty è una copia di build dello stile USENIX che compila con tectonic/XeTeX. Per la sottomissione, passare main.tex allo stile ufficiale usenix-2020-09.sty e compilare con pdflatex.

Stato

Preprint su arXiv; versione journal in preparazione. Non valutato contro attacchi adattivi; entrambi i benchmark per agenti sono simulazioni e il punto di iniezione di tau-bench è il nostro; i rilevatori commerciali via API non sono inclusi. Vedere la sezione sui limiti del paper.

Licenza

Codice, script di analisi e file dei punteggi: MIT (vedere LICENSE). I file di terze parti mantengono i propri termini: lo stile LaTeX USENIX (paper/usenix-2020-09*.sty) e i benchmark e i rilevatori scaricati dagli script (AgentDojo, tau-bench, InjecAgent, BIPIA e la licenza del modello di ciascun rilevatore).

Scarica lo strumento

Più Popolari

Vedi tutti →

Scopri gli strumenti più utilizzati dalla nostra community.

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 Il toolkit OSINT definitivo: grafo di indagine, punteggio di affidabilità, famiglie di alias, mappa, timeline e report. 49 moduli, oltre 400 siti, nessuna chiave API richiesta.

    732
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    # App di esecuzione con un tocco GhostLock (CVE-2026-43499)

    506
  • 3

    ARTEX

    baarai/artex

    Piattaforma di penetration testing autonoma multi-agente basata su LLM con agenti planner/worker, grafi di asset e di esplorazione, registrazione del traffico MITM e retesting delle vulnerabilità.

    405
  • 4

    redforge

    cybersecurity91/redforge

    Toolkit red team lato browser con 102 strumenti offline per ricognizione, generazione di payload, attacchi alle credenziali, crittografia, codifica e reportistica dell'engagement.

    342
  • 5

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    Il sistema d'azione per la cybersecurity nativa AI—dove l'intento diventa esecuzione governata, le evidenze diventano memoria operativa, e ogni operazione migliora la successiva.

    261
  • 6

    antifox

    antifox-ai/antifox

    Piattaforma multi-agente di penetration testing autonoma basata sull'IA che esegue ricognizione, scoperta della superficie d'attacco, validazione dello sfruttamento e consegna di report supportati da evidenze.

    259

Esplora tutti gli strumenti

Sfoglia la nostra collezione di strumenti

Vedi tutti gli strumenti →