मेमोरी इंजेक्शन: ChatGPT, Claude और Gemini में प्रॉम्प्ट इंजेक्शन और जेलब्रेक को स्थायी बनाना

अवलोकन

यह कार्य Anthropic Claude (Sonnet 4.6), Google Gemini (Flash), और OpenAI ChatGPT (Instant 5.3) के विरुद्ध मेमोरी इंजेक्शन का अन्वेषण करता है। मेमोरी इंजेक्शन हमले नेटिव, दीर्घकालिक मेमोरी-आधारित सुविधाओं का शोषण करके प्रॉम्प्ट इंजेक्शन संग्रहीत करते हैं। परिणामस्वरूप, इंजेक्शन के प्रभाव चैट सत्रों में बने रहते हैं। प्रतिकूल मशीन लर्निंग पर NIST की रिपोर्ट में पहचाने गए NIST के सभी लक्ष्यों का अन्वेषण किया गया है:

1. गोपनीयता से समझौता: एक Claude संगठन के भीतर, उपयोगकर्ता की बातचीत हमलावर के Google Drive खाते में चोरी की जाती है;
2. उपलब्धता भंग: मॉडल उपयोगकर्ता के प्रॉम्प्ट का उत्तर "Offline, please try again" देता है;
3. अखंडता का उल्लंघन: दुष्प्रचार और हानिकारक सामग्री का निर्माण;
4. दुरुपयोग को सक्षम बनाना: ऐसे जेलब्रेक जो सामान्य दुरुपयोग को सक्षम करते हैं और उपरोक्त लक्ष्यों का समर्थन करते हैं।

विशेष रूप से, Claude संगठनों पर इस प्रकार हमला किया जा सकता है कि उपरोक्त सभी लक्ष्य वर्कस्पेस के भीतर सभी उपयोगकर्ताओं को प्रभावित करें।

इस कार्य में अन्वेषित सुविधाएँ हैं: मेमोरीज़, MCP कनेक्टर, Claude स्किल्स, Claude एंटरप्राइज़ सर्च, Claude प्रोजेक्ट्स, और Claude संगठन निर्देश (अर्थात्, संगठन-व्यापी सिस्टम प्रॉम्प्ट)।

संरचना

यह रिपॉज़िटरी निम्नानुसार विभाजित है:

• Reproduction steps and artifacts: हमलों को पुनरुत्पादित करने के लिए चरण-दर-चरण निर्देश, जिसमें आवश्यक होने पर सहायक सामग्री भी शामिल है;
• Datasets: इस कार्य में उपयोग किए गए प्रॉम्प्ट और अन्य स्ट्रिंग्स तथा संबंधित मॉडल आउटपुट;
• Screenshots: हमलों के प्रमाण।