Syntactic-Ghost (SynGhost)

SynGhost：通过句法迁移实现的不可见且通用的任务无关后门攻击

贡献与特点

SynGhost 具有以下贡献

为了降低现有任务无关后门的风险，我们提出了 $\mathtt{maxEntropy}$，一种基于熵的投毒过滤器，能够准确检测被投毒的样本。
为了进一步揭示 PLM 中的漏洞，我们提出了 $\mathtt{SynGhost}$，一种不可见且通用的任务无关后门，它自然地利用多个句法触发器，基于对比学习和句法感知，自适应地将后门嵌入到预训练空间中。
我们在 GLUE 基准上，跨两种微调范式以及具有不同架构和参数规模的 PLM 对 $\mathtt{SynGhost}$ 进行了评估。$\mathtt{SynGhost}$ 实现了预定义目标，并能够抵御三种潜在防御。两项新指标表明 $\mathtt{SynGhost}$ 具有通用性。内部机制分析揭示，$\mathtt{SynGhost}$ 在预训练期间引入了多个漏洞。

你可以通过 Git 安装 SynGhost

git clone https://github.com/Zhou-CyberSecurity-AI/Syntactic-Ghost.git
cd SynGhost
pip install -r requirement.txt

预训练投毒集和下游任务操纵集均由 SCPN 生成。你可以通过 OppenAttack 工具包快速生成。

pip install openattack
cd synGhost_Generation
python ./generate_by_openattack_imdb.py

三个约束：原始知识保留、句法幽灵的均匀分布以及句法感知：

cd code
python ./synGhostToPLM.py

微调、PEFT（LoRA、Adapter、p-tuning、prompt-tuning）

cd code
python ./synGhost_FineTuning.py

cd code
python ./synGhost_peft.py

样本检查（Onion、maxEntropy）

cd code
python ./synGhost_defend.py

请注意，模型检查（Fine-pruning）：请直接使用 plm.py 中的 fine-pruning 函数。

NeuBA、POR 和 BadPre.....均在 OpenBackdoor 上实现。

首先，基于特定句法结构构造 Prompt，例如 (ROOT (S (SBAR) (,) (NP) (VP) (.)) EOP。然后生成干净实例和投毒实例。最后，由 SynGhost 评估 CACC、ASR 和 PPL。实例和结果可在 ./Code/LLMAttack.ipynb 中获取。