Skip to content
KitploitKITPLOIT
ツールエクスプロイトブログ
Log in
提出
ツールエクスプロイトブログ
提出

ハッキング、侵入テスト、サイバーセキュリティツールをあなたのセキュリティアーセナルに!

Kitploitはハッキング、サイバーセキュリティ、ペネトレーションテストのツールディレクトリです。最新のプロジェクトアップデートを見つけて、脆弱性の発見、システム分析、テストの自動化、セキュリティの強化を行いましょう。

フィードお問い合わせプライバシー© 2026 Kitploit

ツールディレクトリ

カテゴリ

すべてのカテゴリを見る
Loading categories
benign-instruction-bench — LLMエージェントのツール出力に対するプロンプトインジェクション検出器の再評価(論文ドラフト、スクリプト、スコア) | Kitploit
ツール/GitHubGitHub/lzwhehe/benign-instruction-bench
防御ツール脆弱性分析機械学習論文と研究学習と教育AIセキュリティ
GitHublzwhehe/benign-instruction-bench

benign-instruction-bench

LLMエージェントのツール出力に対するプロンプトインジェクション検出器の再評価(論文ドラフト、スクリプト、スコア)

リポジトリを見る
10524日前未レビュー
共有

訓練したテストに合格すること

LLMエージェントが実際にプロンプトインジェクション検出器を使用する場面、すなわちエージェントが読み取るツール出力において、それらを再評価する。

チームはベンチマークスコアによってインジェクション検出器を選定している。我々は、それらのスコアがエージェント内部での挙動を予測するかどうかを検証し、スコアの大部分はベンチマークが検出器の訓練データにどれだけ近いかを測っているに過ぎないことを明らかにする。

知見

15個の検出器(オープン9個、MetaのPrompt Guard 2を含むライセンス制限付き6個)と2つのタスク認識型LLMジャッジを、2つのエージェントベンチマーク(AgentDojo、tau-bench)およびBIPIA上で評価した。良性のツール出力は、各ベンチマークの正解ツール呼び出しをLLMなしで再生することで得ている。検出率は、同一ベンチマークの良性出力に対して1%のFPRを与える閾値におけるTPRである。

検出器リリース年良性ツール出力でのFPR(AgentDojo / tau-bench)検出率 AgentDojo検出率 tau-bench検出率 BIPIA
Horizon-Labs guard-base20260.0% / 0.7%83.1%100.0%37.7%
Wolf Defender20260.9% / 0.0%70.1%90.8%3.5%
Prompt Guard 2 (22M)20250.0% / 0.0%60.9%60.8%31.7%
Prompt Guard 2 (86M)20250.6% / 0.0%57.4%57.9%10.4%
Judge (Llama-3.1-8B)––51.9%78.3%8.3%
Prismor-1.5B20266.5% / 46.2%29.2%15.2%4.0%
Sheltron-68M202610.6% / 4.4%20.1%95.2%57.2%
PIGuard202529.5% / 11.0%1.6%52.7%95.1%
ProtectAI v2202430.1% / 66.9%0.5%10.1%0.7%

(15個の検出器すべてと両方のジャッジについて、AUROCおよび95%タスククラスタ化ブートストラップ区間を含む完全な結果は、論文のTable 2を参照。)

  1. BIPIAの順位とAgentDojoの順位は、せいぜい弱い関連しかない(15個の検出器にわたるKendall τ:0.12、p = 0.559、有意ではない;ブートストラップ区間0.05〜0.23;単一の検出器を除外すると0.01〜0.25、PIGuardを除くと0.25)。最大の逆転はBIPIAの分布で訓練された検出器に由来する:BIPIAの首位(PIGuard)はAgentDojoでは15個中13位となる。2つのエージェントベンチマークの間ではより一致が見られる(τ = 0.39、p = 0.046);BIPIA対tau-benchではτ = 0.31となる。
  2. 良性ツール出力に対する偽陽性率は0.0%から93.1%の範囲にわたり、2つのエージェントベンチマーク間で一貫している(τ = 0.67、p = 0.0007)。
  3. PIGuardのBIPIAスコアは記憶された攻撃文字列に依存せず、BIPIAの分布での訓練と整合する:その訓練分割には1,116件の完全なBIPIA入力が含まれている。また、62件のInjecAgent攻撃のうち53件も見ているが、それは短いプロンプトとしてのみである;tau-benchのツール出力内では、既知・未知のInjecAgent攻撃を同様に検出する(52.1%対55.8%)。エージェント形式の入力で訓練されたHorizon-Labsは両方のエージェントベンチマークで首位であり、これも2位の検出器もAgentDojoから独立していることを示すことはできない。
  4. タスク認識型の7〜8Bジャッジは、1% FPRにおいてAgentDojoで51.9%(Llama)および59.0%(Qwen)、tau-benchで78.3%および54.3%に達し、最良の専用検出器を下回る。PIGuardを除き、BIPIAのタスク無関係なインジェクションを39%超捕捉するアプローチはない。
  5. シリアライゼーション用マークアップを除去するか入力タイプを宣言することで、デフォルト閾値での偽陽性は最大で約20分の1に低下するが、AgentDojoにおいて1% FPRでPIGuardやProtectAI v2を有用なものにはしない。

すべての数値は、analysis/内のスクリプト(compute_all.py、compute_many.py、compute_robust.py、compute_v4.py)によってスコアファイルから再生成される;analysis/make_macros.pyはそれらを論文が読み込むLaTeXマクロに書き出す。

レイアウト

scripts/     build evaluation sets, score detectors and judges
analysis/    compute_all.py, compute_many.py, compute_robust.py, compute_e6.py, compute_cost.py (numbers),
             make_tables.py, make_figures.py (tables and figures), make_macros.py (-> LaTeX macros)
results/     detector and judge scores used in the paper
paper/       LaTeX source, figures, compiled main.pdf

再現

pip install -r requirements.txt
AGENTDOJO_PY=/path/to/agentdojo-env/bin/python QWEN=/models/Qwen2.5-7B-Instruct LLAMA=/models/Llama-3.1-8B-Instruct bash reproduce.sh

リリース済みのスコアから数値と図のみを再生成するには、results/*.json を作業ディレクトリにコピーし、.jsonl セットを再構築して(reproduce.sh の手順1〜3、CPUのみ、PYTHONHASHSEED=0 を使用)、手順8の分析スクリプトと python analysis/make_tables.py && python analysis/make_figures.py を実行します。

ロバスト性とコストの実験(ジャーナル版):

  • analysis/compute_robust.py:ランク転送のためのブートストラップ区間と順列検定。しきい値はホールドアウトされた AgentDojo スイートで較正。
  • scripts/score_e6.py、analysis/compute_e6.py:コミュニティベンチマーク buried-injections の設定における Prompt Guard 2、および再構築されたセットが保存済みスコアを再現するかの確認。
  • scripts/latency.py、analysis/compute_cost.py:GPU と CPU におけるツール出力あたりのレイテンシとメモリ。
  • scripts/e5_run.py、scripts/e5_compare.py、scripts/e5_score.py:実際のエージェント(vLLM で提供される Qwen2.5-7B)が攻撃なしで AgentDojo を実行。そのツール呼び出しはモデルなしで再生され、出力ごとに比較される。
  • scripts/check_revision.py:保存済みスコアを生成した Hugging Face リビジョン(Horizon-Labs は 2026-10-02 に重みを変更。保存済みスコアはリビジョン af3c52e6a9d8)。

評価データは公開ソースから再構築され、再配布はされません:AgentDojo v1.2、tau-bench(MIT)、InjecAgent 攻撃(MIT)、BIPIA(MIT)、GitHub README(h1alexbel/github-readmes)、AESLC、FineWeb-Edu。一部のスクリプトは BIPIA と PIGuard が ~/agentsec/ 以下にクローンされていることを前提としています。

論文のビルド

paper/usenix-2020-09-xetex.sty は tectonic/XeTeX でコンパイルできる USENIX スタイルのビルド用コピーです。投稿時には main.tex を公式の usenix-2020-09.sty に切り替え、pdflatex でコンパイルしてください。

ステータス

arXiv にプレプリント公開済み、ジャーナル版は準備中。適応型攻撃に対する評価は未実施。両方のエージェントベンチマークはシミュレーションであり、tau-bench のインジェクションポイントは独自のもの。商用 API 検出器は含まれていません。論文の制限事項セクションを参照してください。

ライセンス

コード、分析スクリプト、スコアファイル:MIT(LICENSE を参照)。サードパーティのファイルはそれぞれ独自の条件を保持します:USENIX LaTeX スタイル(paper/usenix-2020-09*.sty)、およびスクリプトがダウンロードするベンチマークと検出器(AgentDojo、tau-bench、InjecAgent、BIPIA、および各検出器のモデルライセンス)。

ツールをダウンロード

人気

すべて見る →

コミュニティで最も使われているツールを見つけましょう。

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 究極のOSINTツールキット:調査グラフ、信頼度スコアリング、エイリアスファミリー、マップ、タイムライン、レポート。49個のモジュール、400以上のサイト、APIキー不要。

    732
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    GhostLock ワンタップ実行アプリ(CVE-2026-43499)

    506
  • 3

    ARTEX

    baarai/artex

    プランナー/ワーカーエージェント、資産グラフと探索グラフ、MITMトラフィック記録、脆弱性の再テストを備えたLLMマルチエージェント自律ペネトレーションテストプラットフォーム。

    405
  • 4

    redforge

    cybersecurity91/redforge

    ブラウザ側のレッドチームツールキット。偵察、ペイロード生成、認証情報攻撃、暗号、エンコーディング、エンゲージメントレポート向けの102のオフラインツールを備えています。

    342
  • 5

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    AIネイティブなサイバーセキュリティのためのアクションシステム。意図がガバナンスされた実行に変わり、証拠が運用記憶となり、すべての操作が次の操作を改善する。

    261
  • 6

    antifox

    antifox-ai/antifox

    偵察、攻撃対象領域の探索、エクスプロイト検証、証拠に基づくレポート提供を実行するAIマルチエージェント自律ペネトレーションテストプラットフォーム。

    259

すべてのツールを探索

ツールコレクションを閲覧

すべてのツールを見る →