Syntactic-Ghost (SynGhost)

SynGhost: 구문 전이를 통한 보이지 않고 보편적인 작업 비종속적 백도어 공격

기여 및 특징

SynGhost는 다음과 같은 기여를 합니다

• 기존 작업 비종속적 백도어의 위험을 완화하기 위해, 우리는 오염된 샘플을 정확하게 탐지하는 엔트로피 기반 오염 필터인 $\mathtt{maxEntropy}$를 제안합니다.
• PLM의 취약점을 더욱 드러내기 위해, 우리는 대조 학습과 구문 인식을 기반으로 사전 학습 공간에 백도어를 적응적으로 삽입하기 위해 여러 구문 트리거를 자연스럽게 활용하는 보이지 않고 보편적인 작업 비종속적 백도어인 $\mathtt{SynGhost}$를 제안합니다.
• 우리는 두 가지 미세 조정 패러다임과 다양한 아키텍처 및 매개변수 볼륨을 가진 PLM에 걸쳐 GLUE 벤치마크에서 $\mathtt{SynGhost}$를 평가합니다. $\mathtt{SynGhost}$는 사전 정의된 목표를 달성하고 세 가지 잠재적 방어를 저항할 수 있습니다. 두 가지 새로운 지표는 $\mathtt{SynGhost}$가 보편적임을 보여줍니다. 내부 메커니즘 분석은 $\mathtt{SynGhost}$가 사전 학습 중에 여러 취약점을 도입한다는 것을 밝혀냅니다.

설치

Git을 통해 SynGhost를 설치할 수 있습니다

Git

git clone https://github.com/Zhou-CyberSecurity-AI/Syntactic-Ghost.git
cd SynGhost
pip install -r requirement.txt

사용법

SynGhost 생성

사전 학습된 오염 세트와 다운스트림 작업 조작 세트 모두 SCPN에서 생성됩니다. OppenAttack 툴킷을 통해 빠르게 생성할 수 있습니다.

pip install openattack
cd synGhost_Generation
python ./generate_by_openattack_imdb.py

PLM에서의 SynGhost

세 가지 제약 조건: 원시 지식 유지, 구문 고스트의 균일한 분포, 구문 인식:

cd code
python ./synGhostToPLM.py

SynGhost 활성화

미세 조정, PEFT (LoRA, Adapter, p-tuning, prompt-tuning)

cd code
python ./synGhost_FineTuning.py 

cd code
python ./synGhost_peft.py 

SynGhost 방어자

샘플 검사 (Onion, maxEntropy)

cd code
python ./synGhost_defend.py

모델 검사 (Fine-pruning): plm.py에서 직접 fine-pruning 함수를 사용하십시오.

베이스라인 구현

NeuBA, POR, BadPre.....는 모두 OpenBackdoor에서 구현됩니다.

Syntactic Ghost의 무기화에 대한 의존성 완화.

먼저, 특정 구문 구조를 기반으로 프롬프트를 구성합니다. 예를 들어 (ROOT (S (SBAR) (,) (NP) (VP) (.)) EOP. 그런 다음 깨끗한 인스턴스와 오염된 인스턴스를 생성합니다. 마지막으로 CACC, ASR, PPL이 SynGhost에 의해 평가되었습니다. 인스턴스와 결과는 ./Code/LLMAttack.ipynb에서 확인할 수 있습니다.

예시