Skip to content
KitploitKITPLOIT
工具漏洞利用博客
Log in
提交
工具漏洞利用博客
提交

黑客、渗透测试和网络安全工具,武装您的安全武器库!

Kitploit 是一个黑客、网络安全和渗透测试工具的目录。发现最新的项目更新,查找漏洞、分析系统、自动化测试并加强你的安全。

订阅源联系隐私© 2026 Kitploit

工具目录

分类

查看所有分类
Loading categories
D-Scan — 分析 LLM 内部状态及 100+ 注意力/概率特征,训练分类器以检测 RAG 系统中的文档投毒攻击。 | Kitploit
工具/GitHubGitHub/yingtaoren/d-scan
防御工具机器学习AI 安全异常检测
GitHubyingtaoren/d-scan

D-Scan

分析 LLM 内部状态及 100+ 注意力/概率特征,训练分类器以检测 RAG 系统中的文档投毒攻击。

查看仓库网站
12322个月前尚未审核
分享

当上下文反噬:通过文档级注意力崩溃检测 RAG 投毒

SIGIR 2026 论文《当上下文反噬:通过文档级注意力崩溃检测 RAG 投毒》的官方实现。

D-SCAN 是一个用于检测 RAG(检索增强生成)系统中文档投毒攻击的分析框架。它在生成过程中收集 LLM 内部状态(token 概率和注意力权重),提取多维特征,并训练分类器以区分干净和投毒的检索文档。

1. 安装与要求

前置条件

  • Python >= 3.9
  • 兼容 CUDA 的 GPU(建议 >= 24GB 显存,用于 8B 参数模型推理)

模型准备

本项目默认使用 Llama-3.1-8B-Instruct。将模型下载到本地路径,并更新 collect_inner_state.py 中的 MODEL_ID 变量:

MODEL_ID = "/your/path/to/Llama-3.1-8B-Instruct"

2. 快速开始

完整工作流程包含三个步骤:收集内部状态 → 计算特征 → 训练分类器。 问题和相关检索文档已在 https://huggingface.co/datasets/An998/D-SCAN 中提供。

步骤 1:收集模型内部状态

# Update configuration parameters in collect_inner_state.py, then run
python collect_inner_state.py

步骤 2:计算特征指标

# Analyze both attack and clean data, compute all features, and save results
python compute_feature.py \
    --attack_dir ./saved_reppl_weights_serial_query1_attack2_2wiki \
    --clean_dir ./saved_reppl_weights_serial_query1_pure1_5_2wiki \
    --output_dir ./analysis_results/2wiki_all \
    --max_attack_samples 3000 \
    --max_clean_samples 3000

步骤 3:训练分类器并评估

打开 fit_D-SCAN.ipynb 并依次执行单元格以:

  1. 加载步骤 2 中生成的特征数据
  2. 训练逻辑回归 / 随机森林分类器(5 折交叉验证)
  3. 在测试集上评估迁移性能

3. 流水线详情

3.1 数据收集(collect_inner_state.py)

对于每个问题-文档输入,LLM 执行多样本生成(默认:10 个样本,temperature=1.0)并收集以下内部状态:

字段类型描述
outer_ppl_probsList[Tensor]每个样本的 token 生成概率
inner_ppl_matrixList[List[Tensor]]每个生成步骤对输入序列的注意力权重(层平均)
doc_rangesDict[str, List[int]]输入序列中每个文档的 token 位置范围
generated_sequencesList[List[int]]每个样本生成的 token ID 序列

关键配置参数

MODEL_ID = "/path/to/model"     # Model path
NUM_SAMPLES = 10                # Number of samples per question
MAX_NEW_TOKENS = 50             # Maximum generated tokens
TEMPERATURE = 1.0               # Sampling temperature
data_type = 'pure1_5'           # Data type: 'pure1_5' (clean) or 'attack2' (attack)
dataset_name = 'hotpotqa'       # Dataset: 'hotpotqa', '2wiki', 'musique'

输出保存为 data_{batch_id}_reppl.pt 文件和 results_stats_*.jsonl 统计文件。


3.2 特征计算(compute_feature.py)

从收集到的内部状态中提取 10 个类别、100+ 维特征。分类器使用这些特征来判断给定查询的检索文档中是否存在被投毒的文档。

指标概览

#类别类名特征数核心思想
1生成概率统计PerplexityMetrics8被投毒文档可能在生成过程中增加模型不确定性,反映在概率分布变化中
2注意力熵AttentionEntropyMetrics4高熵 = 注意力分散 = 可能存在冲突信息;低熵 = 注意力集中
3注意力集中度AttentionConcentrationMetrics8通过 Top-K 比例和基尼系数衡量注意力是否集中在少数 token 上
4文档注意力密度DocumentAttentionDensityMetrics6注意力总和除以文档长度,消除注意力分配中的长度偏差
5多样本一致性SampleConsistencyMetrics4在投毒情况下,不同样本间的注意力模式可能不一致(余弦相似度、JS 散度)
6注意力动态AttentionDynamicsMetrics4生成过程中主导文档切换的频率和熵变化幅度
7Token 级注意力波动TokenLevelAttentionMetrics16各输入 token 位置的注意力在生成步骤间的稳定性(标准差、熵)
8答案概率深度统计AnswerProbabilityMetrics18概率分位数、高/低概率 token 比例、对数概率、困惑度等
9概率动态ProbabilityDynamicsMetrics14生成序列中的趋势斜率、自相关、波动性、尖峰比率
10跨样本概率一致性CrossSampleProbabilityConsistencyMetrics13跨样本的余弦相似度、皮尔逊相关系数、MSE、散度指数

指标详细说明

1. PerplexityMetrics(生成概率统计)

由 outer_ppl_probs(每个生成 token 的概率)计算得出:

  • ppl_mean_prob:所有生成 token 的平均概率
  • ppl_std_prob:概率标准差
  • ppl_min_prob:最小概率(极端不确定性)
  • ppl_low_prob_ratio:低概率 token(<0.1)的比例
  • ppl_cross_sample_var:跨样本平均概率的方差
  • ppl_coef_variation:变异系数(CV = 标准差/均值)
  • ppl_skewness:概率分布偏度
  • ppl_kurtosis:概率分布峰度

2. AttentionEntropyMetrics(注意力熵)

由 inner_ppl_matrix(每一步的注意力权重)计算得出:

  • attn_entropy_mean/std/max:注意力分布熵的均值、标准差和最大值
  • attn_entropy_cv:注意力熵的变异系数

3. AttentionConcentrationMetrics(注意力集中度)

  • attn_top5/10/20_ratio_mean/std:Top-K% token 所占的注意力份额
  • attn_gini_mean/std:注意力分布的基尼系数(不平等度量)

4. DocumentAttentionDensityMetrics(文档注意力密度)

  • doc_attn_dens_std/range/max/min:文档间注意力密度的标准差、极差、最大值和最小值
  • doc_attn_dens_entropy:文档注意力密度分布的熵
  • doc_attn_dens_temporal_var_mean:文档注意力密度时间方差的均值

5. SampleConsistencyMetrics(多样本一致性)

  • sample_attn_consistency/std:token 级注意力的跨样本余弦相似度
  • sample_doc_consistency:文档级注意力的跨样本余弦相似度
  • sample_doc_js_divergence:文档级注意力的跨样本 JS 散度

6. AttentionDynamicsMetrics(注意力动态)

  • attn_doc_switch_mean/max:主导文档切换次数
  • attn_entropy_change_mean/std:逐步注意力熵变化

7. TokenLevelAttentionMetrics(Token 级注意力波动)

  • tla_std_mean/std/max/median/p90/p99/high_ratio/cv:各生成步骤中每个 token 注意力标准差的统计量
  • tla_ent_mean/std/max/median/p90/p99/high_ratio/cv:各生成步骤中每个 token 注意力熵的统计量

8. AnswerProbabilityMetrics(答案概率深度统计)

  • aprob_p10/p25/p50/p75/p90/iqr:概率分位数
  • aprob_high_ratio_05/08:高概率 token 的比例
  • aprob_low_ratio_01/001:低概率 token 的比例
  • aprob_log_mean/std/min:对数概率统计量
  • aprob_ppl_mean/std/max:序列级困惑度
  • aprob_geometric_mean:概率的几何平均值
  • aprob_distribution_entropy:概率直方图的信息熵

9. ProbabilityDynamicsMetrics(概率动态)

  • pdyn_diff_mean/abs_diff_mean/abs_diff_std/abs_diff_max:概率差值统计量
  • pdyn_max_drop/max_jump:单步最大下降/跃升
  • pdyn_volatility_mean/std:波动性
  • pdyn_trend_slope_mean/std:线性趋势斜率
  • pdyn_autocorr_mean/std:自相关系数
  • pdyn_spike_ratio_01/03:尖峰(突变点)比例

10. CrossSampleProbabilityConsistencyMetrics(跨样本概率一致性)

  • cspc_mean_prob_std/cv/range:跨样本平均概率的一致性
  • cspc_ppl_std/cv/range:跨样本困惑度的一致性
  • cspc_min_prob_std/range:最小概率的一致性
  • cspc_seq_cosine_mean/std:概率序列的跨样本余弦相似度
  • cspc_seq_pearson_mean:概率序列的跨样本 Pearson 相关性
  • cspc_seq_mse_mean:概率序列的跨样本 MSE
  • cspc_divergence_index:样本间散度指数

compute_feature.py 命令行参数

python compute_feature.py \
    --attack_dir <attack_data_directory> \
    --clean_dir <clean_data_directory> \
    --output_dir <output_directory> \
    --max_attack_samples 3000 \
    --max_clean_samples 3000 \
    --min_correct_count 0 \
    --min_attack_target_count 0 \
    --num_use_samples 10 \
    --model_path /path/to/model    # Optional: load tokenizer for accuracy calculation
参数默认值描述
--attack_dir-攻击数据目录(包含 data_*_reppl.pt 文件)
--clean_dir-干净数据目录
--output_dir-输出目录
--max_attack_samples3000攻击样本的最大数量
--max_clean_samples3000干净样本的最大数量
--min_correct_count0干净数据中正确答案的最小数量(用于过滤)
--min_attack_target_count0攻击数据中目标答案命中的最小次数
--num_use_samplesNone每个问题用于指标计算的样本数量(默认:全部)
--model_pathNone模型路径(用于加载 tokenizer 以解码生成的序列)

输出文件

下载工具

最受欢迎

查看全部 →

发现我们社区最常用的工具。

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 终极 OSINT 工具包:调查图谱、置信度评分、别名家族、地图、时间线和报告。49 个模块、400+ 个站点,无需 API 密钥。

    786
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    GhostLock 一键执行应用(CVE-2026-43499)

    506
  • 3

    ARTEX

    baarai/artex

    基于LLM的多智能体自主渗透测试平台,具备规划器/执行器智能体、资产与探索图谱、MITM流量记录以及漏洞复测功能。

    429
  • 4

    redforge

    cybersecurity91/redforge

    浏览器端红队工具包,包含 102 个离线工具,用于侦察、载荷生成、凭据攻击、加密、编码和交战报告。

    345
  • 5

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    AI原生网络安全的行动系统——在这里,意图转化为受治理的执行,证据沉淀为运营记忆,每一次操作都让下一次更出色。

    262
  • 6

    looking-glass

    anonghosty/looking-glass

    CSIRT 平台,可将 Shadowserver 报告导入 MongoDB,并将其重放为交互式地图、分析、发现、公告和高管仪表板。

    256

探索所有工具

浏览我们的工具集合

查看所有工具 →