Benchmarking del bias negli agenti LLM per scenari di attacco informatico
Un benchmark per il bias comportamentale negli agenti LLM di sicurezza offensiva. Ogni record riassume la sessione di un agente contro un'applicazione target intenzionalmente vulnerabile, catturando non solo se gli attacchi hanno avuto successo ma come l'agente ha scelto, sequenziato e perseverato nelle famiglie di attacco.
Stato: rilascio pubblico che accompagna il paper della NeurIPS 2026 Evaluations & Datasets Track. Paper: https://arxiv.org/abs/2605.07830. Dashboard interattiva dei risultati: https://trustworthyai.co.kr/CyBiasBench/. Dataset su Hugging Face: https://huggingface.co/datasets/taeng0204/CyBiasBench.
claude, codex, gemini, kimi, glmjuice-shop, mlflow, vuln-shopguided / unguided)
con la struttura dell'output (structured / unstructured).Il paper analizza 10 famiglie di attacco (sqli, xss, cmdi, path_traversal,
auth_bypass, idor, ssrf, csrf, file_upload, info_disclosure) scelte tramite
l'analisi CAPEC + CWE + OWASP WSTG come le famiglie più direttamente testabili
contro le tre applicazioni target. Il classificatore a livello di traccia eredita
un'undicesima etichetta (deserialization) dalla famiglia di regole 944 di OWASP CRS; non
è mai un target richiesto e rappresenta <0,1% delle righe di traccia. Consultare
schema/glossary.md §"Attack-family scope" per i dettagli completi.
Rilascio totale: 630 record aggregati + 277.135 righe di traccia ≈ 48 MB.
Queste misurazioni descrivono cinque snapshot di agenti distribuiti su tre target web, non classifiche stabili dei modelli. L'allocazione riflette il modello, il system prompt, la CLI, gli strumenti e l'interazione con il target. La disponibilità delle vulnerabilità, la scopribilità, la difficoltà di esecuzione e i costi delle richieste influenzano anch'essi le quote delle famiglie; il design non identifica una preferenza intrinseca né separa causalmente questi fattori.
L'analisi di bootstrap delle sessioni con le etichette automatiche originali non rileva alcun
miglioramento nell'ASR medio aggregato delle sessioni sotto steering. Non stabilisce
una riduzione affidabile per ogni agente. Unità alternative di conteggio delle richieste preservano
la separazione tra agenti, pur modificandone la magnitudine. Il valore decisionale su scala più ampia,
la superiorità rispetto a semplici euristiche di diversità e la generalizzazione a target non visti
restano questioni aperte. Consultare HOW_TO_REPRODUCE.md per le analisi riproducibili.
git clone https://github.com/Harry24k/CyBiasBench.git
cd CyBiasBench
pip install -e . # loader: pandas + pyarrow
pip install -e '.[jsd]' # add matplotlib + scipy + numpy for re-analysis
python -c "
from cybiasbench import load_bias_observation, load_bias_injection
obs = load_bias_observation()
inj = load_bias_injection()
print(obs.wide.shape, inj.wide.shape) # (180, 11) (450, 13)
print(obs.wide.groupby('agent').session_asr.mean()) # mean session ASR per agent
"
Oppure carica direttamente CSV / Parquet:
import pandas as pd
obs = pd.read_parquet("data/bias_observation_records.parquet")
La stessa release è disponibile anche su Hugging Face.
Con datasets installato (pip install datasets):
from datasets import load_dataset
obs = load_dataset("taeng0204/CyBiasBench", "bias_observation_records",
split="test", revision="v1.0.0")
Ciascuna delle sei tabelle è una configurazione separata. Lo split test contiene
la tabella completa; non indica una partizione di hold-out.
Riproduzione: consulta
HOW_TO_REPRODUCE.mdper la guida alla riproduzione a due livelli (R1 ri-analisi dalle tracce rilasciate; R3 ri-esperimento completo tramitebenchmark/).