Anamorpher
Anamorpher (एनामोर्फोसिस के नाम पर) एक उपकरण है जो बहु-विधा AI प्रणालियों के विरुद्ध इमेज स्केलिंग हमलों को तैयार करने और देखने के लिए है। यह ऐसी छवियां उत्पन्न करने के लिए एक फ्रंटएंड इंटरफ़ेस और Python API प्रदान करता है जो डाउनस्केल होने पर ही बहु-विधा प्रॉम्प्ट इंजेक्शन प्रकट करती हैं। इस हमले वेक्टर के बारे में अधिक जानकारी के लिए "Weaponizing image scaling against production AI systems" देखें।
Anamorpher सक्रिय बीटा विकास में है। हम प्रतिक्रिया और योगदान का स्वागत करते हैं!
विशेषताएँ
- बाइक्यूबिक, बाइलिनियर और निकटतम पड़ोसी डाउनस्केलिंग एल्गोरिदम के चयनित कार्यान्वयन का उपयोग करने वाली प्रणालियों के लिए पेलोड उत्पन्न करें
- एक फ्रंटएंड इंटरफ़ेस के माध्यम से पेलोड प्रभावशीलता की तुलना करें जिसमें OpenCV, PyTorch, TensorFlow और Pillow के कार्यान्वयन शामिल हैं
- Python API के मॉड्यूलर डिज़ाइन का उपयोग करके अपना स्वयं का कस्टम इमेज डाउनस्केलिंग कार्यान्वयन शामिल करें
 |  |
| फ्रंटएंड डेमो | Gemini CLI हमला डेमो |
आवश्यकताएँ
- Python 3.11+
- uv (अनुशंसित) या pip
सेटअप
- निर्भरताएँ स्थापित करें:
- बैकएंड चलाएँ:
uv run python backend/app.py
- वेब ब्राउज़र में
frontend/index.html खोलें
Windows: TensorFlow निर्भरताओं के कारण WSL2 का उपयोग करें।
चेतावनियाँ और ज्ञात सीमाएँ
- इन प्रणालियों की संभाव्य प्रकृति के कारण परिणाम भिन्न हो सकते हैं। सुसंगत मूल्यांकन के लिए प्रत्येक उदाहरण को 5 बार चलाएँ।
- अतिरिक्त छवि परिवर्तन इंजेक्शन की प्रभावशीलता में बाधा डाल सकते हैं।
- सभी पेलोड बाइक्यूबिक और बाइलिनियर डाउनस्केलिंग एल्गोरिदम के प्रत्येक कार्यान्वयन और पैरामीटर सेट के विरुद्ध काम नहीं करेंगे, क्योंकि कार्यान्वयनों में एंटी-अलियासिंग की भिन्न मजबूती, स्केलिंग लाइब्रेरीज़ में विभिन्न डिफ़ॉल्ट पैरामीटर और इंटरपोलेशन व्यवहार को प्रभावित करने वाले कार्यान्वयन-विशिष्ट अनुकूलन के कारण।
- यह अधिक व्यापक रूप से उत्पादन AI प्रणालियों के लिए भी सत्य है, क्योंकि सिस्टम स्केलिंग व्यवहार परिवर्तन के अधीन है।
अनुरक्षक
संदर्भ
trailofbits/anamorpher
