Skip to content
KitploitKITPLOIT
ToolsBlog
Log in
Einreichen
ToolsBlog
Einreichen

Hacking-, PenTest- und Cybersicherheits-Tools für Ihr Sicherheitsarsenal!

Kitploit ist ein Verzeichnis von Hacking-, Cybersicherheits- und Pentesting-Tools. Entdecken Sie die neuesten Projekt-Updates, um Schwachstellen zu finden, Systeme zu analysieren, Tests zu automatisieren und Ihre Sicherheit zu stärken.

FeedsKontaktDatenschutz© 2026 Kitploit

Tool-Verzeichnis

Kategorien

Alle Kategorien anzeigen
Loading categories
Tools/GitHubGitHub/lzwhehe/benign-instruction-bench
DefensivwerkzeugeSchwachstellenanalyseMaschinelles LernenPapers & ForschungLernen & BildungKI-Sicherheit
GitHublzwhehe/benign-instruction-bench

benign-instruction-bench

Neubewertung von Prompt-Injection-Detektoren bei Tool-Ausgaben von LLM-Agenten (Paper-Entwurf, Skripte, Bewertungen)

Teilen
Repository anzeigen
105vor 24 TagenNoch nicht geprüft

Den Test bestehen, auf den man trainiert hat

Prompt-Injection-Detektoren dort neu bewerten, wo LLM-Agenten sie tatsächlich einsetzen: auf den Tool-Ausgaben, die ein Agent liest.

Teams wählen Injection-Detektoren anhand ihrer Benchmark-Ergebnisse aus. Wir prüfen, ob diese Ergebnisse das Verhalten innerhalb eines Agenten vorhersagen, und stellen fest, dass sie größtenteils messen, wie nah der Benchmark an den Trainingsdaten des Detektors liegt.

Ergebnisse

Fünfzehn Detektoren (neun offene, sechs lizenzpflichtige, darunter Metas Prompt Guard 2) und zwei aufgabenbewusste LLM-Judges, auf zwei Agent-Benchmarks (AgentDojo, tau-bench) und auf BIPIA. Gutartige Tool-Ausgaben stammen aus dem erneuten Abspielen der Ground-Truth-Tool-Aufrufe jedes Benchmarks ohne ein LLM. Die Erkennung ist die TPR bei dem Schwellenwert, der 1 % FPR auf den gutartigen Ausgaben desselben Benchmarks ergibt.

DetektorVeröffentlichtFPR auf gutartigen Tool-Ausgaben (AgentDojo / tau-bench)Erkennung AgentDojoErkennung tau-benchErkennung BIPIA
Horizon-Labs guard-base20260,0 % / 0,7 %83,1 %100,0 %37,7 %
Wolf Defender20260,9 % / 0,0 %70,1 %90,8 %3,5 %
Prompt Guard 2 (22M)20250,0 % / 0,0 %60,9 %60,8 %31,7 %
Prompt Guard 2 (86M)20250,6 % / 0,0 %57,4 %57,9 %10,4 %
Judge (Llama-3.1-8B)––51,9 %78,3 %8,3 %
Prismor-1.5B20266,5 % / 46,2 %29,2 %15,2 %4,0 %
Sheltron-68M202610,6 % / 4,4 %20,1 %95,2 %57,2 %
PIGuard202529,5 % / 11,0 %1,6 %52,7 %95,1 %
ProtectAI v2202430,1 % / 66,9 %0,5 %10,1 %0,7 %

(Alle 15 Detektoren und beide Judges, mit AUROC und 95-%-aufgabenclusterbasierten Bootstrap-Intervallen: Tabelle 2 des Papers.)

  1. BIPIA-Ranglisten stehen höchstens schwach mit AgentDojo-Ranglisten in Beziehung (Kendall τ über 15 Detektoren: 0,12, p = 0,559, nicht signifikant; Bootstrap-Intervall 0,05 bis 0,23; das Weglassen einzelner Detektoren ergibt 0,01 bis 0,25, und 0,25 ohne PIGuard). Die größte Umkehrung stammt von einem Detektor, der auf BIPIAs Verteilung trainiert wurde: Der BIPIA-Spitzenreiter (PIGuard) rangiert auf AgentDojo auf Platz dreizehn von 15. Die beiden Agent-Benchmarks stimmen stärker überein (τ = 0,39, p = 0,046); BIPIA vs. tau-bench ergibt τ = 0,31.
  2. Die Falsch-Positiv-Raten auf gutartigen Tool-Ausgaben reichen von 0,0 % bis 93,1 % und sind über die beiden Agent-Benchmarks hinweg konsistent (τ = 0,67, p = 0,0007).
  3. PIGuards BIPIA-Ergebnis hängt nicht von auswendig gelernten Angriffsstrings ab und ist mit einem Training auf BIPIAs Verteilung vereinbar: Sein Trainingssplit enthält 1.116 vollständige BIPIA-Eingaben. Er sah außerdem 53 der 62 InjecAgent-Angriffe, jedoch nur als kurze Prompts; innerhalb von tau-bench-Tool-Ausgaben erkennt er gesehene und ungesehene InjecAgent-Angriffe gleichermaßen (52,1 % vs. 55,8 %). Horizon-Labs, trainiert auf Agent-artigen Eingaben, führt beide Agent-Benchmarks an; weder er noch der zweitbeste Detektor können als unabhängig von AgentDojo nachgewiesen werden.
  4. Aufgabenbewusste 7–8B-Judges erreichen 51,9 % (Llama) und 59,0 % (Qwen) auf AgentDojo sowie 78,3 % und 54,3 % auf tau-bench bei 1 % FPR, unterhalb der besten spezialisierten Detektoren. Abgesehen von PIGuard fängt kein Ansatz mehr als 39 % von BIPIAs aufgabenirrelevanten Injections ab.
  5. Das Entfernen von Serialisierungs-Markup oder das Deklarieren des Eingabetyps senkt die Falsch-Positiven beim Standard-Schwellenwert um bis zu etwa das Zwanzigfache, macht PIGuard oder ProtectAI v2 bei 1 % FPR auf AgentDojo jedoch nicht nützlich.

Alle Zahlen werden von den Skripten in analysis/ (compute_all.py, compute_many.py, compute_robust.py, compute_v4.py) aus den Score-Dateien neu erzeugt; analysis/make_macros.py schreibt sie in die LaTeX-Makros, die das Paper liest.

Aufbau

scripts/     build evaluation sets, score detectors and judges
analysis/    compute_all.py, compute_many.py, compute_robust.py, compute_e6.py, compute_cost.py (numbers),
             make_tables.py, make_figures.py (tables and figures), make_macros.py (-> LaTeX macros)
results/     detector and judge scores used in the paper
paper/       LaTeX source, figures, compiled main.pdf

Reproduzieren

pip install -r requirements.txt
AGENTDOJO_PY=/path/to/agentdojo-env/bin/python QWEN=/models/Qwen2.5-7B-Instruct LLAMA=/models/Llama-3.1-8B-Instruct bash reproduce.sh

Um nur die Zahlen und Abbildungen aus den veröffentlichten Scores neu zu erzeugen, kopiere results/*.json in das Arbeitsverzeichnis, baue die .jsonl-Sets neu (Schritte 1–3 von reproduce.sh, nur CPU, mit PYTHONHASHSEED=0) und führe dann die Analysescripts von Schritt 8 sowie python analysis/make_tables.py && python analysis/make_figures.py aus.

Robustheits- und Kostenexperimente (Journal-Version):

  • analysis/compute_robust.py: Bootstrap-Intervalle und Permutationstests für den Rangtransfer; Schwellenwerte kalibriert auf zurückgehaltenen AgentDojo-Suites.
  • scripts/score_e6.py, analysis/compute_e6.py: Prompt Guard 2 im Setting des Community-Benchmarks buried-injections und eine Prüfung, dass die neu gebauten Sets die gespeicherten Scores reproduzieren.
  • scripts/latency.py, analysis/compute_cost.py: Latenz und Speicher pro Tool-Ausgabe auf GPU und CPU.
  • scripts/e5_run.py, scripts/e5_compare.py, scripts/e5_score.py: ein echter Agent (Qwen2.5-7B, bereitgestellt von vLLM) führt AgentDojo ohne Angriffe aus; seine Tool-Aufrufe werden ohne Modell wiedergegeben und Ausgabe für Ausgabe verglichen.
  • scripts/check_revision.py: welche Hugging Face Revision die gespeicherten Scores erzeugt hat (Horizon-Labs änderte seine Gewichte am 2026-10-02; die gespeicherten Scores sind Revision af3c52e6a9d8).

Die Evaluationsdaten werden aus den öffentlichen Quellen neu gebaut, nicht weiterverbreitet: AgentDojo v1.2, tau-bench (MIT), InjecAgent-Angriffe (MIT), BIPIA (MIT), GitHub READMEs (h1alexbel/github-readmes), AESLC, FineWeb-Edu. Einige Scripts setzen voraus, dass BIPIA und PIGuard unter ~/agentsec/ geklont sind.

Das Paper bauen

paper/usenix-2020-09-xetex.sty ist eine Build-Kopie des USENIX-Stils, die mit tectonic/XeTeX kompiliert. Für die Einreichung stelle main.tex auf das offizielle usenix-2020-09.sty um und kompiliere mit pdflatex.

Status

Preprint auf arXiv; Journal-Version in Vorbereitung. Nicht gegen adaptive Angriffe evaluiert; beide Agent-Benchmarks sind Simulationen und der Injektionspunkt von tau-bench ist unserer; kommerzielle API-Detektoren nicht enthalten. Siehe den Limitations-Abschnitt des Papers.

Lizenz

Code, Analysescripts und Score-Dateien: MIT (siehe LICENSE). Dateien von Drittanbietern behalten ihre eigenen Bedingungen: der USENIX-LaTeX-Stil (paper/usenix-2020-09*.sty) sowie die Benchmarks und Detektoren, die die Scripts herunterladen (AgentDojo, tau-bench, InjecAgent, BIPIA und die Modelllizenz jedes Detektors).

Tool herunterladen

Beliebteste

Alle anzeigen →

Entdecken Sie die meistgenutzten Tools unserer Community.

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 Das ultimative OSINT-Toolkit: Untersuchungsgraph, Konfidenzbewertung, Alias-Familien, Karte, Zeitleiste und Berichte. 49 Module, 400+ Websites, keine API-Schlüssel erforderlich.

    755
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    GhostLock One-Tap Execution App (CVE-2026-43499)

    510
  • 3

    ARTEX

    baarai/artex

    LLM-basierte Multi-Agenten-Plattform für autonome Penetrationstests mit Planer-/Worker-Agenten, Asset- und Explorationsgraphen, MITM-Verkehrsaufzeichnung und Schwachstellen-Retesting.

    415
  • 4

    redforge

    cybersecurity91/redforge

    Browser-seitiges Red-Team-Toolkit mit 102 Offline-Tools für Recon, Payload-Generierung, Credential-Angriffe, Krypto, Encoding und Engagement-Reporting.

    343
  • 5

    antifox

    antifox-ai/antifox

    KI-Multi-Agenten-Plattform für autonome Penetrationstests, die Recon, Angriffsflächen-Erkennung, Exploit-Validierung und evidenzbasierte Berichtserstellung durchführt.

    259
  • 6

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    Das System der Handlung für KI-native Cybersicherheit – wo Absicht zu gesteuerter Ausführung wird, Beweise zu operativem Gedächtnis werden und jeder Einsatz den nächsten verbessert.

    258

Alle Tools erkunden

Durchsuchen Sie unsere Tool-Sammlung

Alle Tools anzeigen →