NOVA: प्रॉम्प्ट पैटर्न मैचिंग

जनरेटिव AI सिस्टम तेज़ी से संगठनों में अपनाए और तैनात किए जा रहे हैं। ये उत्पादकता और दक्षता बढ़ाते हैं, लेकिन साथ ही हमले की सतह (attack surface) का भी विस्तार करते हैं।

आप अपने सिस्टम के दुरुपयोग का पता कैसे लगाते हैं? आप दुर्भावनापूर्ण प्रॉम्प्ट की खोज (hunt) कैसे करते हैं? चाहे जेलब्रेकिंग के प्रयासों की पहचान करना हो, प्रतिष्ठा को होने वाले नुकसान को रोकना हो, या अप्रत्याशित व्यवहारों को पहचानना हो, प्रॉम्प्ट TTPs को ट्रैक करना आपके AI सिस्टम के उपयोग को ट्रैक करने के लिए बहुत उपयोगी हो सकता है।

यहीं NOVA काम आता है!

🚧 अस्वीकरण: NOVA वर्तमान में बीटा में है। संभावित बग, अपूर्ण सुविधाएँ और चल रहे सुधार अपेक्षित हैं। यदि आपको कोई बग मिलता है, तो कृपया यहाँ रिपोर्ट करें।

NOVA एक ओपन-सोर्स प्रॉम्प्ट पैटर्न मैचिंग सिस्टम है जो प्रॉम्प्ट सामग्री का विश्लेषण और पहचान करने के लिए कीवर्ड डिटेक्शन, सेमांटिक समानता (semantic similarity), और LLM-आधारित मूल्यांकन को जोड़ता है।

विशेषताएँ

• 🔍 कीवर्ड डिटेक्शन: पूर्वनिर्धारित कीवर्ड या regex का उपयोग करके संदिग्ध प्रॉम्प्ट को चिह्नित करें।
• 💬 सेमांटिक समानता: कॉन्फ़िगर करने योग्य थ्रेशोल्ड का उपयोग करके पैटर्न विविधताओं की पहचान करें।
• ✨ LLM मैचिंग: LLM द्वारा मूल्यांकित प्राकृतिक भाषा का उपयोग करके मैचिंग नियम बनाएँ।

YARA सिंटैक्स से प्रेरित, NOVA नियम पठनीय और लचीले हैं, जो प्रॉम्प्ट हंटिंग और थ्रेट डिटेक्शन के लिए आदर्श हैं।

NOVA नियम की संरचना

rule RuleName
{
    meta:
        description = "Rule description"
        author = "Author name"

    keywords:
        $keyword1 = "exact text"
        $keyword2 = /regex pattern/i

    semantics:
        $semantic1 = "semantic pattern" (0.6)

    llm:
        $llm_check = "LLM evaluation prompt" (0.7)

    condition:
        keywords.$keyword1 or semantics.$semantic1 or llm.$llm_check
}

शुरुआत करना

pip install nova-hunting

लाइसेंस

यह प्रोजेक्ट MIT लाइसेंस के अंतर्गत लाइसेंस प्राप्त है।

श्रेय

fr0gger द्वारा निर्मित और अनुरक्षित।