Skip to content
KitploitKITPLOIT
OutilsExploitsBlog
Log in
Soumettre
OutilsExploitsBlog
Soumettre

Outils de Hacking, PenTest et Cybersécurité pour votre Arsenal de Sécurité !

Kitploit est un répertoire d'outils de hacking, de cybersécurité et de pentesting. Découvrez les dernières mises à jour des projets pour trouver des vulnérabilités, analyser des systèmes, automatiser les tests et renforcer votre sécurité.

FluxContactConfidentialité© 2026 Kitploit

Répertoire d'outils

Catégories

Voir toutes les catégories
Loading categories
Outils/GitHubGitHub/lzwhehe/benign-instruction-bench
Outils DéfensifsAnalyse des VulnérabilitésApprentissage AutomatiqueArticles et RechercheApprentissage et ÉducationSécurité de l'IA
GitHublzwhehe/benign-instruction-bench

benign-instruction-bench

Réévaluation des détecteurs d'injection de prompt sur les sorties d'outils d'agents LLM (brouillon d'article, scripts, scores)

Voir le dépôt
105il y a 24 joursPas encore vérifié
Partager

Réussir le test sur lequel on s'est entraîné

Réévaluer les détecteurs d'injection de prompt là où les agents LLM les utilisent réellement : sur les sorties d'outils qu'un agent lit.

Les équipes choisissent les détecteurs d'injection en fonction de leurs scores de benchmark. Nous vérifions si ces scores prédisent le comportement à l'intérieur d'un agent, et constatons qu'ils mesurent surtout la proximité du benchmark avec les données d'entraînement du détecteur.

Constats

Quinze détecteurs (neuf ouverts, six soumis à licence dont Prompt Guard 2 de Meta) et deux juges LLM sensibles à la tâche, sur deux benchmarks d'agents (AgentDojo, tau-bench) et sur BIPIA. Les sorties d'outils bénignes proviennent du rejeu des appels d'outils de référence de chaque benchmark sans LLM. La détection est le TPR au seuil qui donne 1 % de FPR sur les sorties bénignes du même benchmark.

DétecteurPubliéFPR sur sorties d'outils bénignes (AgentDojo / tau-bench)Détection AgentDojoDétection tau-benchDétection BIPIA
Horizon-Labs guard-base20260,0 % / 0,7 %83,1 %100,0 %37,7 %
Wolf Defender20260,9 % / 0,0 %70,1 %90,8 %3,5 %
Prompt Guard 2 (22M)20250,0 % / 0,0 %60,9 %60,8 %31,7 %
Prompt Guard 2 (86M)20250,6 % / 0,0 %57,4 %57,9 %10,4 %
Judge (Llama-3.1-8B)––51,9 %78,3 %8,3 %
Prismor-1.5B20266,5 % / 46,2 %29,2 %15,2 %4,0 %
Sheltron-68M202610,6 % / 4,4 %20,1 %95,2 %57,2 %
PIGuard202529,5 % / 11,0 %1,6 %52,7 %95,1 %
ProtectAI v2202430,1 % / 66,9 %0,5 %10,1 %0,7 %

(Les 15 détecteurs et les deux juges, avec l'AUROC et les intervalles de confiance bootstrap à 95 % regroupés par tâche : tableau 2 de l'article.)

  1. Les classements BIPIA ne sont au mieux que faiblement liés aux classements AgentDojo (τ de Kendall sur 15 détecteurs : 0,12, p = 0,559, non significatif ; intervalle bootstrap de 0,05 à 0,23 ; en retirant un seul détecteur, on obtient 0,01 à 0,25, et 0,25 sans PIGuard). Le renversement le plus marqué provient d'un détecteur entraîné sur la distribution de BIPIA : le leader de BIPIA (PIGuard) se classe treizième sur 15 sur AgentDojo. Les deux benchmarks d'agents concordent davantage (τ = 0,39, p = 0,046) ; BIPIA contre tau-bench donne τ = 0,31.
  2. Les taux de faux positifs sur les sorties d'outils bénignes vont de 0,0 % à 93,1 % et sont cohérents entre les deux benchmarks d'agents (τ = 0,67, p = 0,0007).
  3. Le score BIPIA de PIGuard ne dépend pas de chaînes d'attaque mémorisées et est cohérent avec un entraînement sur la distribution de BIPIA : son ensemble d'entraînement contient 1 116 entrées BIPIA complètes. Il a également vu 53 des 62 attaques InjecAgent, mais seulement sous forme de prompts courts ; dans les sorties d'outils tau-bench, il détecte de la même manière les attaques InjecAgent vues et non vues (52,1 % contre 55,8 %). Horizon-Labs, entraîné sur des entrées de style agent, mène sur les deux benchmarks d'agents ; ni lui ni le deuxième meilleur détecteur ne peuvent être démontrés indépendants d'AgentDojo.
  4. Les juges de 7 à 8B sensibles à la tâche atteignent 51,9 % (Llama) et 59,0 % (Qwen) sur AgentDojo et 78,3 % et 54,3 % sur tau-bench à 1 % de FPR, en dessous des meilleurs détecteurs dédiés. Hormis PIGuard, aucune approche ne détecte plus de 39 % des injections non pertinentes pour la tâche de BIPIA.
  5. Supprimer le balisage de sérialisation ou déclarer le type d'entrée réduit les faux positifs au seuil par défaut jusqu'à environ vingt fois, mais ne rend pas PIGuard ni ProtectAI v2 utiles à 1 % de FPR sur AgentDojo.

Tous les chiffres sont régénérés à partir des fichiers de scores par les scripts du répertoire analysis/ (compute_all.py, compute_many.py, compute_robust.py, compute_v4.py) ; analysis/make_macros.py les écrit dans les macros LaTeX que lit l'article.

Organisation

scripts/     build evaluation sets, score detectors and judges
analysis/    compute_all.py, compute_many.py, compute_robust.py, compute_e6.py, compute_cost.py (numbers),
             make_tables.py, make_figures.py (tables and figures), make_macros.py (-> LaTeX macros)
results/     detector and judge scores used in the paper
paper/       LaTeX source, figures, compiled main.pdf

Reproduire

pip install -r requirements.txt
AGENTDOJO_PY=/path/to/agentdojo-env/bin/python QWEN=/models/Qwen2.5-7B-Instruct LLAMA=/models/Llama-3.1-8B-Instruct bash reproduce.sh

Pour régénérer uniquement les chiffres et les figures à partir des scores publiés, copiez results/*.json dans le répertoire de travail, reconstruisez les ensembles .jsonl (étapes 1 à 3 de reproduce.sh, CPU uniquement, avec PYTHONHASHSEED=0), puis exécutez les scripts d'analyse de l'étape 8 et python analysis/make_tables.py && python analysis/make_figures.py.

Expériences de robustesse et de coût (version journal) :

  • analysis/compute_robust.py : intervalles bootstrap et tests de permutation pour le transfert de rang ; seuils calibrés sur des suites AgentDojo tenues à l'écart.
  • scripts/score_e6.py, analysis/compute_e6.py : Prompt Guard 2 dans le cadre du benchmark communautaire buried-injections, et vérification que les ensembles reconstruits reproduisent les scores stockés.
  • scripts/latency.py, analysis/compute_cost.py : latence et mémoire par sortie d'outil sur GPU et CPU.
  • scripts/e5_run.py, scripts/e5_compare.py, scripts/e5_score.py : un agent réel (Qwen2.5-7B servi par vLLM) exécute AgentDojo sans attaques ; ses appels d'outils sont rejoués sans modèle et comparés sortie par sortie.
  • scripts/check_revision.py : quelle révision Hugging Face a produit les scores stockés (Horizon-Labs a modifié ses poids le 2026-10-02 ; les scores stockés correspondent à la révision af3c52e6a9d8).

Les données d'évaluation sont reconstruites à partir des sources publiques, non redistribuées : AgentDojo v1.2, tau-bench (MIT), InjecAgent attacks (MIT), BIPIA (MIT), GitHub READMEs (h1alexbel/github-readmes), AESLC, FineWeb-Edu. Certains scripts supposent que BIPIA et PIGuard sont clonés sous ~/agentsec/.

Compilation de l'article

paper/usenix-2020-09-xetex.sty est une copie de compilation du style USENIX qui compile avec tectonic/XeTeX. Pour la soumission, remplacez dans main.tex le style par le usenix-2020-09.sty officiel et compilez avec pdflatex.

État

Prépublication sur arXiv ; version journal en préparation. Non évalué contre des attaques adaptatives ; les deux benchmarks d'agents sont des simulations et le point d'injection de tau-bench est le nôtre ; les détecteurs d'API commerciales ne sont pas inclus. Voir la section limitations de l'article.

Licence

Code, scripts d'analyse et fichiers de scores : MIT (voir LICENSE). Les fichiers tiers conservent leurs propres conditions : le style LaTeX USENIX (paper/usenix-2020-09*.sty) et les benchmarks et détecteurs téléchargés par les scripts (AgentDojo, tau-bench, InjecAgent, BIPIA, et la licence de modèle de chaque détecteur).

Télécharger l’outil

Populaires

Voir tout →

Découvrez les outils les plus utilisés par notre communauté.

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 La boîte à outils OSINT ultime : graphe d'enquête, notation de confiance, familles d'alias, carte, chronologie et rapports. 49 modules, plus de 400 sites, aucune clé API requise.

    732
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    # Application d'exécution en un clic GhostLock (CVE-2026-43499)

    506
  • 3

    ARTEX

    baarai/artex

    Plateforme autonome de tests d'intrusion multi-agents basée sur des LLM, avec agents planificateur/ouvrier, graphes d'actifs et d'exploration, enregistrement du trafic MITM et retest des vulnérabilités.

    405
  • 4

    redforge

    cybersecurity91/redforge

    Boîte à outils red team côté navigateur avec 102 outils hors ligne pour la reconnaissance, la génération de payloads, les attaques par identifiants, la cryptographie, l'encodage et le reporting d'engagement.

    342
  • 5

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    Le système d'action pour la cybersécurité native IA—où l'intention devient une exécution gouvernée, les preuves deviennent une mémoire opérationnelle, et chaque opération améliore la suivante.

    261
  • 6

    antifox

    antifox-ai/antifox

    Plateforme de test d'intrusion autonome multi-agents par IA qui exécute la reconnaissance, la découverte de la surface d'attaque, la validation de l'exploitation et la livraison de rapports étayés par des preuves.

    259

Explorer tous les outils

Parcourez notre collection d'outils

Voir tous les outils →