
サイバー攻撃シナリオにおけるLLMエージェントのバイアスのベンチマーク評価
LLM オフェンシブセキュリティエージェントにおける行動バイアスのためのベンチマーク。 各レコードは、1つの意図的に脆弱なターゲットアプリケーションに対する1つのエージェントのセッションを要約したもので、攻撃が成功したかどうかだけでなく、エージェントが攻撃ファミリーをどのように選択し、順序付けし、固執したかを捉えています。
ステータス: NeurIPS 2026 Evaluations & Datasets Track 論文に付随する公開リリース。論文: https://arxiv.org/abs/2605.07830。 インタラクティブな結果ダッシュボード: https://trustworthyai.co.kr/CyBiasBench/。 Hugging Face 上のデータセット: https://huggingface.co/datasets/taeng0204/CyBiasBench。
claude、codex、gemini、kimi、glmjuice-shop、mlflow、vuln-shopguided / unguided)と
出力構造(structured / unstructured)を組み合わせています。論文では10の攻撃ファミリー(sqli、xss、cmdi、path_traversal、
auth_bypass、idor、ssrf、csrf、file_upload、info_disclosure)を分析しており、
これらは CAPEC + CWE + OWASP WSTG 分析を通じて、3つのターゲットアプリケーションに対して
最も直接的にテスト可能なファミリーとして選定されています。トレースレベルの分類器は
OWASP CRS ルールファミリー 944 から11番目のラベル(deserialization)を継承していますが、
これは要求対象となることはなく、トレース行の <0.1% を占めるにすぎません。詳細は
schema/glossary.md の「Attack-family scope」を参照してください。
リリース総計: 630件の集計レコード + 277,135行のトレース ≈ 48 MB。
これらの測定値は、3つの Web ターゲット上で展開された5つのエージェントスナップショットを 記述したものであり、安定したモデルランキングではありません。割り当てはモデル、システムプロンプト、CLI、 ツール、およびターゲットとの相互作用を反映しています。脆弱性の有無、発見可能性、 実行難易度、およびリクエストコストもファミリーのシェアに影響します。この設計は 本質的な選好を特定するものでも、これらの要因を因果的に分離するものでもありません。
元の自動ラベルを用いたセッションブートストラップ分析では、ステアリング下での
集計平均セッション ASR に改善は見られません。これはすべてのエージェントについて
信頼できる低下を確立するものではありません。代替のリクエスト計数単位は
エージェント間の分離を維持しつつ、その大きさを変化させます。より大規模での
意思決定価値、単純な多様性ヒューリスティクスに対する優位性、および未見の
ターゲットへの汎化は未解決のままです。再現可能な分析については HOW_TO_REPRODUCE.md を参照してください。
git clone https://github.com/Harry24k/CyBiasBench.git
cd CyBiasBench
pip install -e . # loader: pandas + pyarrow
pip install -e '.[jsd]' # add matplotlib + scipy + numpy for re-analysis
python -c "
from cybiasbench import load_bias_observation, load_bias_injection
obs = load_bias_observation()
inj = load_bias_injection()
print(obs.wide.shape, inj.wide.shape) # (180, 11) (450, 13)
print(obs.wide.groupby('agent').session_asr.mean()) # mean session ASR per agent
"
Or CSV / Parquet を直接読み込む:
import pandas as pd
obs = pd.read_parquet("data/bias_observation_records.parquet")
同じリリースは Hugging Face でも公開されています。
datasets がインストールされている場合(pip install datasets):
from datasets import load_dataset
obs = load_dataset("taeng0204/CyBiasBench", "bias_observation_records",
split="test", revision="v1.0.0")
6つのテーブルはそれぞれ独立した設定です。test 分割には完全なテーブルが含まれており、ホールドアウトされたパーティションを示すものではありません。
再現: 2段階の再現ガイドについては
HOW_TO_REPRODUCE.mdを参照してください(R1 は公開されたトレースからの再分析、R3 はbenchmark/を介した完全な再実験)。
CyBiasBench/
├── data/ # tabular release (CSV + Parquet)
│ ├── bias_observation_records.{csv,parquet} 180 rows
│ ├── bias_observation_family_long.{csv,parquet} 1,082 rows
│ ├── bias_observation_traces.{csv,parquet} 19,116 rows (request-level)
│ ├── bias_injection_records.{csv,parquet} 450 rows
│ ├── bias_injection_family_long.{csv,parquet} 1,597 rows
│ └── bias_injection_traces.{csv,parquet} 258,019 rows (request-level)
├── schema/
│ ├── glossary.md metric definitions
│ ├── columns_bias_observation.md
│ ├── columns_bias_injection.md
│ └── columns_traces.md
├── src/cybiasbench/ python loader package
├── scripts/ R1 re-analysis + R3 post-processing
│ ├── build_records.py final_stats JSON → aggregate CSV/Parquet
│ ├── build_traces.py labeled JSONL → request-level CSV/Parquet
│ ├── verify_consistency.py sanity suite (+ --round-trip closure)
│ ├── reviewer_revisions.py bootstrap CIs + request-unit robustness
│ ├── momentum_repro.py compliance correlations + estimator comparison
│ ├── agent_identification.py random-forest agent identification
│ ├── temporal_repro.py response to failure in request order
│ ├── classify/ OWASP CRS + victim-specific classifiers
│ ├── verify/ response heuristics + session verifier
│ ├── aggregate/ final_stats.json generator
│ └── jsd_repro/ Prompt-stability JSD reproduction
│ ├── table2_jsd_robustness.py paper Table 2 (within/between-agent JSD)
│ └── prompt_profile_stability.py paper appendix per-condition JSD
├── benchmark/ R3 re-experiment harness (Docker + agents)
│ ├── run.sh one invocation = one (agent, target, prompt) session
│ ├── agents/ 6 agent CLI Dockerfiles (CLI versions pinned)
│ ├── metrics/ LiteLLM proxy + mitmproxy HTTP logger
│ ├── prompts/ guided/unguided + 10 injection prompts
│ ├── output_formats/ 4 condition templates
│ └── victims/ locally-built target images
├── HOW_TO_REPRODUCE.md R1 + R3 reproduction walkthrough
├── DATASHEET.md Gebru et al. datasheet
├── RESPONSIBLE_USE.md dual-use guidance
├── croissant.json Croissant metadata (core + RAI)
├── LICENSE CC BY-NC-ND 4.0 (data / docs)
├── LICENSE-CODE MIT (code)
└── dashboard/ Next.js source of the interactive result dashboard
ここでの2つの設定は、付属論文のセクション4および5に対応しています:
| 設定 | 論文セクション | レコード数 | 設計 |
|---|---|---|---|
| バイアス観察 | §4(「自由選択設定」) | 180 | 5エージェント × 3ターゲット × 4条件 × 3反復 |
| バイアス注入 | §5 | 450 | 5エージェント × 3ターゲット × 10リクエストファミリー × 3反復 |
列名は論文のセッションサマリースキーマ(表4)に準拠しています:
agent、target、condition、entropy、attack_total、session_asr、
compliance、requested_family など。完全なマッピングについては
schema/glossary.md を参照してください。
論文の表1に基づく3つの層:
entropy($H(X)$)、selection_rate_pct(ロング形式では $\mathrm{Sel}_i$)、
most_selected_family、selection_cr1。session_asr(セッションASR)、asr(ロング形式ではファミリーごとの $\mathrm{ASR}_i$)。total_tokens(論文のTPS = total_tokens / attack_success)。
プロンプト安定性JSDは、公開されているロング形式の選択テーブルから
scripts/jsd_repro/ によって再現されます(論文セクション4のエージェント内/エージェント間、および付録Bの条件ごと)。公開されているCSV / Parquetファイルは、実験ハーネスが出力する上流のJSON / JSONLアーティファクトから、
scripts/build_records.py(集計テーブル)および scripts/build_traces.py(リクエストレベルのトレース)
によって生成されます。
上流のアーティファクトは、論文に付属する補足アーカイブにバンドルされています。
python scripts/build_records.py # rebuild data/*records and *family_long
python scripts/build_traces.py # rebuild data/*traces
python scripts/verify_consistency.py # rows, domains, cross-table sums
# Strongest internal-consistency proof — re-derive records counts from the
# released traces (CSRF success-exclusion policy applied) and require an
# exact match. Closes the loop traces → policy → records:
python scripts/verify_consistency.py --round-trip