Syntactic-Ghost (SynGhost)

SynGhost: सिंटैक्टिक ट्रांसफर के माध्यम से अदृश्य और सार्वभौमिक टास्क-अज्ञेय बैकडोर हमला

योगदान और विशेषताएँ

SynGhost में निम्नलिखित योगदान हैं

• मौजूदा टास्क-अज्ञेय बैकडोर के जोखिमों को कम करने के लिए, हम $\mathtt{maxEntropy}$ प्रस्तावित करते हैं, जो एक एन्ट्रॉपी-आधारित पॉइज़निंग फ़िल्टर है जो ज़हरीले नमूनों का सटीक पता लगाता है।
• PLMs में कमज़ोरियों को और उजागर करने के लिए, हम $\mathtt{SynGhost}$ प्रस्तावित करते हैं, जो एक अदृश्य और सार्वभौमिक टास्क-अज्ञेय बैकडोर है जो कंट्रास्टिव लर्निंग और सिंटैक्स अवेयरनेस के आधार पर प्री-ट्रेनिंग स्पेस में बैकडोर को अनुकूली रूप से एम्बेड करने के लिए कई सिंटैक्टिक ट्रिगर्स का स्वाभाविक रूप से उपयोग करता है।
• हम $\mathtt{SynGhost}$ का मूल्यांकन GLUE बेंचमार्क पर दो फाइन-ट्यूनिंग प्रतिमानों और विभिन्न आर्किटेक्चर और पैरामीटर वॉल्यूम वाले PLMs पर करते हैं। $\mathtt{SynGhost}$ पूर्वनिर्धारित उद्देश्यों को प्राप्त करता है और तीन संभावित रक्षाओं का विरोध कर सकता है। दो नए मेट्रिक्स दर्शाते हैं कि $\mathtt{SynGhost}$ सार्वभौमिक है। आंतरिक तंत्र विश्लेषण से पता चलता है कि $\mathtt{SynGhost}$ प्री-ट्रेनिंग के दौरान कई कमज़ोरियाँ पेश करता है।

इंस्टॉलेशन

आप SynGhost को Git के माध्यम से इंस्टॉल कर सकते हैं

Git

git clone https://github.com/Zhou-CyberSecurity-AI/Syntactic-Ghost.git
cd SynGhost
pip install -r requirement.txt

उपयोग

SynGhost जनरेशन

प्री-ट्रेंड पॉइज़निंग सेट और डाउनस्ट्रीम टास्क मैनिपुलेशन सेट दोनों SCPN से उत्पन्न होते हैं। आप OppenAttack टूलकिट द्वारा शीघ्रता से उत्पन्न कर सकते हैं।

pip install openattack
cd synGhost_Generation
python ./generate_by_openattack_imdb.py

PLMs पर SynGhost

तीन बाधाएँ: प्रिमिटिव नॉलेज रिटेंशन, सिंटैक्टिक घोस्ट्स का समान वितरण, और सिंटैक्टिक परसेप्शन:

cd code
python ./synGhostToPLM.py

SynGhost एक्टिवेशन

फाइन-ट्यूनिंग, PEFT (LoRA, Adapter, p-tuning, prompt-tuning)

cd code
python ./synGhost_FineTuning.py 

cd code
python ./synGhost_peft.py 

SynGhost डिफेंडर

सैंपल इंस्पेक्शन (Onion, maxEntropy)

cd code
python ./synGhost_defend.py

ध्यान दें कि मॉडल इंस्पेक्शन (Fine-pruning): कृपया plm.py से सीधे fine-pruning फ़ंक्शन का उपयोग करें।

बेसलाइन इम्प्लीमेंटेशन

NeuBA, POR, और BadPre.....सभी OpenBackdoor पर लागू किए गए हैं।

Syntactic Ghost के वेपोनाइज़ेशन पर निर्भरता में ढील दें।

सबसे पहले, एक विशिष्ट सिंटैक्टिक संरचना के आधार पर Prompt का निर्माण करें, जैसे (ROOT (S (SBAR) (,) (NP) (VP) (.)) EOP। फिर साफ़ इंस्टेंस और ज़हरीले इंस्टेंस उत्पन्न करें। अंत में, CACC, ASR, और PPL का मूल्यांकन SynGhost द्वारा किया गया। इंस्टेंस और परिणाम ./Code/LLMAttack.ipynb पर उपलब्ध हैं।

उदाहरण