Syntactic-Ghost (SynGhost)

SynGhost: невидимая и универсальная не зависящая от задачи бэкдор-атака посредством синтаксического переноса

Вклад и особенности

SynGhost имеет следующий вклад

• Чтобы снизить риски существующих не зависящих от задачи бэкдоров, мы предлагаем $\mathtt{maxEntropy}$ — основанный на энтропии фильтр отравления, который точно обнаруживает отравленные образцы.
• Чтобы дополнительно раскрыть уязвимости в PLM, мы предлагаем $\mathtt{SynGhost}$ — невидимый и универсальный не зависящий от задачи бэкдор, который естественным образом использует несколько синтаксических триггеров для адаптивного внедрения бэкдоров в пространство предобучения на основе контрастивного обучения и синтаксической осведомлённости.
• Мы оцениваем $\mathtt{SynGhost}$ на бенчмарке GLUE в рамках двух парадигм дообучения и PLM с различной архитектурой и объёмом параметров. $\mathtt{SynGhost}$ достигает заданных целей и может противостоять трём потенциальным защитам. Две новые метрики показывают, что $\mathtt{SynGhost}$ универсален. Анализ внутреннего механизма показывает, что $\mathtt{SynGhost}$ вносит множество уязвимостей во время предобучения.

Установка

Вы можете установить SynGhost через Git

Git

git clone https://github.com/Zhou-CyberSecurity-AI/Syntactic-Ghost.git
cd SynGhost
pip install -r requirement.txt

Использование

Генерация SynGhost

Как предобученный набор отравления, так и набор манипуляций для нижестоящих задач генерируются из SCPN. Вы можете быстро сгенерировать их с помощью инструментария OppenAttack.

pip install openattack
cd synGhost_Generation
python ./generate_by_openattack_imdb.py

SynGhost на PLM

Три ограничения: сохранение примитивных знаний, равномерное распределение синтаксических призраков и синтаксическое восприятие:

cd code
python ./synGhostToPLM.py

Активация SynGhost

Дообучение, PEFT (LoRA, Adapter, p-tuning, prompt-tuning)

cd code
python ./synGhost_FineTuning.py 

cd code
python ./synGhost_peft.py 

Защитник SynGhost

Проверка образцов (Onion, maxEntropy)

cd code
python ./synGhost_defend.py

Обратите внимание, что для проверки модели (Fine-pruning): пожалуйста, используйте функцию fine-pruning напрямую из plm.py.

Реализация базовых методов

NeuBA, POR и BadPre.....все реализованы на OpenBackdoor.

Ослабьте зависимость от вооружения Syntactic Ghost.

Сначала постройте Prompt на основе конкретной синтаксической структуры, например (ROOT (S (SBAR) (,) (NP) (VP) (.)) EOP. Затем сгенерируйте чистые экземпляры и отравленные экземпляры. Наконец, CACC, ASR и PPL были оценены с помощью SynGhost. Экземпляры и результаты доступны в ./Code/LLMAttack.ipynb.

Пример