SkillPoison: सफल अनुभवों के माध्यम से प्रगतिशील कौशल विषाक्तता

सारांश

SkillPoison अध्ययन करता है कि कैसे सत्यापित सफल अनुभव स्वयं-सुधार करने वाले LLM एजेंटों द्वारा सीखे गए स्थायी कौशलों को विषाक्त कर सकते हैं। यह पदानुक्रमित कार्य चयन, स्थानीय प्रमाण-आधारित एट्रिब्यूशन, और अनुभव-पार आगमनात्मक सुदृढ़ीकरण को जोड़कर स्थानीय रूप से वैध व्यवहारों को उनकी मूल प्रयोज्यता शर्तों से परे सुदृढ़ करता है। मूल कार्य निष्पादन और सत्यापन परिणाम अपरिवर्तित रहते हैं; एट्रिब्यूशन प्रमाण को मूल कौशल निर्माण के लिए मेटाडेटा के रूप में संलग्न किया जाता है। तीन बेंचमार्कों में, पेपर 95.71% तक की आक्रमण सफलता दर रिपोर्ट करता है।

परियोजना संरचना

skillpoison/
├── assets/
│   └── framework.png
├── configs/
│   └── main.yaml
├── core/
│   ├── ceir/
│   ├── evaluation/
│   ├── hts/
│   ├── lega/
│   ├── utils/
│   ├── config.py
│   └── pipeline.py
├── prompts/
│   ├── lega/
│   ├── counterfactual_audit.txt
│   ├── counterfactual_generation.txt
│   └── target_audit.txt
├── scripts/
│   ├── run_attack_audit.py
│   ├── run_evaluation.py
│   └── run_skillpoison.py
├── .env.example
├── .gitignore
├── LICENSE
├── README.md
└── requirements.txt

प्रायोगिक सेटअप

डेटासेट	निर्माण कार्य	मूल्यांकन कार्य
HANS	15	100
PAWS	15	210
DS1000	15	100

HANS एक अनुक्रम-उपसमुच्चय अनुमानी मूल्यांकन उपसमुच्चय का उपयोग करता है; PAWS एक निश्चित मुख्य मूल्यांकन पूल का उपयोग करता है। DS1000 मूल्यांकन निर्माण कार्य ID को बाहर करने के बाद 191 पात्र कार्यों में से 100 DataFrame-returning Pandas कार्यों का चयन करता है। नमूनाकरण को बीज 42 के साथ गड़बड़ी प्रकार द्वारा स्तरीकृत किया गया है: Origin 32, Semantic 32, Difficult-Rewrite 27, और Surface 9। प्रत्येक डेटासेट के भीतर निर्माण और मूल्यांकन कार्य ID अतिव्यापी नहीं होते हैं। तुलना की गई स्थितियों में मूल्यांकन उदाहरणों को निश्चित रखें।

डिफ़ॉल्ट कॉन्फ़िगरेशन deepseek-v4-flash, तापमान 0.3, और प्रति स्थिति 15 रिकॉर्ड का निर्माण बजट उपयोग करता है।

सेटअप

cd skillpoison
python3 -m venv .venv
source .venv/bin/activate
pip install -r requirements.txt

export MODEL_API_KEY="..."
export MODEL_BASE_URL="..."
export MODEL_NAME="..."

चलाएँ

python scripts/run_skillpoison.py \
  --config configs/main.yaml \
  --input candidate_experiences.jsonl \
  --out outputs/run

पुनःचलन

python scripts/run_skillpoison.py \
  --config configs/main.yaml \
  --input recorded_experiences.json \
  --out outputs/replay \
  --replay

मूल्यांकन

python scripts/run_evaluation.py \
  --attack attack_records.jsonl \
  --out outputs/run/metrics.json

ऑडिट

python scripts/run_attack_audit.py \
  --input attack_records.jsonl \
  --out outputs/run/attack_audit.jsonl