
बहु-मोडल प्रॉम्प्ट इंजेक्शन के लिए छवि स्केलिंग हमले
Anamorpher (एनामोर्फोसिस के नाम पर) एक उपकरण है जो बहु-विधा AI प्रणालियों के विरुद्ध इमेज स्केलिंग हमलों को तैयार करने और देखने के लिए है। यह ऐसी छवियां उत्पन्न करने के लिए एक फ्रंटएंड इंटरफ़ेस और Python API प्रदान करता है जो डाउनस्केल होने पर ही बहु-विधा प्रॉम्प्ट इंजेक्शन प्रकट करती हैं। इस हमले वेक्टर के बारे में अधिक जानकारी के लिए "Weaponizing image scaling against production AI systems" देखें।
Anamorpher सक्रिय बीटा विकास में है। हम प्रतिक्रिया और योगदान का स्वागत करते हैं!
![]() | ![]() |
| फ्रंटएंड डेमो | Gemini CLI हमला डेमो |
uv sync
uv run python backend/app.py
frontend/index.html खोलेंWindows: TensorFlow निर्भरताओं के कारण WSL2 का उपयोग करें।