Syntactic-Ghost (SynGhost)

SynGhost: Ataque de puerta trasera invisible y universal agnóstico a la tarea mediante transferencia sintáctica

Contribuciones y características

SynGhost tiene las siguientes contribuciones

• Para mitigar los riesgos de las puertas traseras agnósticas a la tarea existentes, proponemos $\mathtt{maxEntropy}$, un filtro de envenenamiento basado en entropía que detecta con precisión las muestras envenenadas.
• Para exponer aún más las vulnerabilidades en los PLMs, proponemos $\mathtt{SynGhost}$, una puerta trasera invisible y universal agnóstica a la tarea que explota de forma natural múltiples disparadores sintácticos para incrustar de manera adaptativa puertas traseras en el espacio de preentrenamiento basándose en el aprendizaje contrastivo y la conciencia sintáctica.
• Evaluamos $\mathtt{SynGhost}$ en el benchmark GLUE a través de dos paradigmas de ajuste fino y PLMs con diferentes arquitecturas y volúmenes de parámetros. $\mathtt{SynGhost}$ alcanza los objetivos predefinidos y puede resistir tres defensas potenciales. Dos nuevas métricas muestran que $\mathtt{SynGhost}$ es universal. El análisis del mecanismo interno revela que $\mathtt{SynGhost}$ introduce múltiples vulnerabilidades durante el preentrenamiento.

Instalación

Puedes instalar SynGhost a través de Git

Git

git clone https://github.com/Zhou-CyberSecurity-AI/Syntactic-Ghost.git
cd SynGhost
pip install -r requirement.txt

Uso

Generación de SynGhost

Tanto el conjunto de envenenamiento preentrenado como el conjunto de manipulación de tareas posteriores se generan a partir del SCPN. Puedes generarlos rápidamente con el toolkit OppenAttack.

pip install openattack
cd synGhost_Generation
python ./generate_by_openattack_imdb.py

SynGhost en PLMs

Tres restricciones: retención de conocimiento primitivo, distribución uniforme de fantasmas sintácticos y percepción sintáctica:

cd code
python ./synGhostToPLM.py

Activación de SynGhost

Ajuste fino, PEFT (LoRA, Adapter, p-tuning, prompt-tuning)

cd code
python ./synGhost_FineTuning.py 

cd code
python ./synGhost_peft.py 

Defensor de SynGhost

Inspección de muestras (Onion, maxEntropy)

cd code
python ./synGhost_defend.py

Ten en cuenta que para la Inspección de Modelos (Fine-pruning): utiliza directamente la función fine-pruning de plm.py.

Implementación de referencia

NeuBA, POR y BadPre.....están todos implementados sobre OpenBackdoor.

Relajar la dependencia de la weaponización de Syntactic Ghost.

Primero, construye un Prompt basado en una estructura sintáctica específica, como (ROOT (S (SBAR) (,) (NP) (VP) (.)) EOP. Luego genera instancias limpias e instancias envenenadas. Finalmente, CACC, ASR y PPL fueron evaluados por SynGhost. Las instancias y los resultados están disponibles en ./Code/LLMAttack.ipynb.

Ejemplo