Syntactic-Ghost (SynGhost)

SynGhost : Attaque par porte dérobée invisible et universelle, indépendante de la tâche, via le transfert syntaxique

Contributions et caractéristiques

SynGhost apporte les contributions suivantes

• Pour atténuer les risques des portes dérobées existantes indépendantes de la tâche, nous proposons $\mathtt{maxEntropy}$, un filtre d'empoisonnement basé sur l'entropie qui détecte avec précision les échantillons empoisonnés.
• Pour exposer davantage les vulnérabilités des PLM, nous proposons $\mathtt{SynGhost}$, une porte dérobée invisible et universelle, indépendante de la tâche, qui exploite naturellement de multiples déclencheurs syntaxiques pour intégrer de manière adaptative des portes dérobées dans l'espace de pré-entraînement, en s'appuyant sur l'apprentissage contrastif et la conscience syntaxique.
• Nous évaluons $\mathtt{SynGhost}$ sur le benchmark GLUE à travers deux paradigmes de fine-tuning et des PLM aux architectures et volumes de paramètres différents. $\mathtt{SynGhost}$ atteint les objectifs prédéfinis et peut résister à trois défenses potentielles. Deux nouvelles métriques montrent que $\mathtt{SynGhost}$ est universel. L'analyse du mécanisme interne révèle que $\mathtt{SynGhost}$ introduit de multiples vulnérabilités lors du pré-entraînement.

Installation

Vous pouvez installer SynGhost via Git

Git

git clone https://github.com/Zhou-CyberSecurity-AI/Syntactic-Ghost.git
cd SynGhost
pip install -r requirement.txt

Utilisation

Génération de SynGhost

L'ensemble d'empoisonnement pré-entraîné et l'ensemble de manipulation de tâche en aval sont tous deux générés à partir du SCPN. Vous pouvez les générer rapidement avec la boîte à outils OppenAttack.

pip install openattack
cd synGhost_Generation
python ./generate_by_openattack_imdb.py

SynGhost sur les PLM

Trois contraintes : la rétention des connaissances primitives, la distribution uniforme des fantômes syntaxiques et la perception syntaxique :

cd code
python ./synGhostToPLM.py

Activation de SynGhost

Fine-tuning, PEFT (LoRA, Adapter, p-tuning, prompt-tuning)

cd code
python ./synGhost_FineTuning.py 

cd code
python ./synGhost_peft.py 

Défenseur de SynGhost

Inspection des échantillons (Onion, maxEntropy)

cd code
python ./synGhost_defend.py

Notez que pour l'inspection du modèle (Fine-pruning) : veuillez utiliser directement la fonction fine-pruning de plm.py.

Implémentation des baselines

NeuBA, POR et BadPre.....sont tous implémentés sur OpenBackdoor.

Assouplir la dépendance à l'armement de Syntactic Ghost.

Tout d'abord, construisez un Prompt basé sur une structure syntaxique spécifique, telle que (ROOT (S (SBAR) (,) (NP) (VP) (.)) EOP. Ensuite, générez des instances propres et des instances empoisonnées. Enfin, CACC, ASR et PPL ont été évalués par SynGhost. Les instances et les résultats sont disponibles dans ./Code/LLMAttack.ipynb.

Exemple