Skip to content
KitploitKITPLOIT
उपकरणएक्सप्लॉइटब्लॉग
Log in
जमा करें
उपकरणएक्सप्लॉइटब्लॉग
जमा करें

हैकिंग, पेनटेस्ट और साइबर सुरक्षा उपकरण आपके सुरक्षा शस्त्रागार के लिए!

Kitploit हैकिंग, साइबर सुरक्षा और पेंटेस्टिंग टूल्स की एक निर्देशिका है। कमजोरियों को खोजने, सिस्टम का विश्लेषण करने, परीक्षण को स्वचालित करने और अपनी सुरक्षा को मजबूत करने के लिए नवीनतम प्रोजेक्ट अपडेट खोजें।

फ़ीडसंपर्कगोपनीयता© 2026 Kitploit

टूल निर्देशिका

श्रेणियाँ

सभी श्रेणियाँ देखें
Loading categories
D-Scan — LLM आंतरिक अवस्थाओं और 100+ अटेंशन/प्रोबेबिलिटी फीचर्स का विश्लेषण करके RAG प्रणालियों में दस्तावेज़ विषाक्तता हमलों का पता लगाने वाले क्लासिफायर को प्रशिक्षित करता है। | Kitploit
उपकरण/GitHubGitHub/yingtaoren/d-scan
रक्षात्मक उपकरणमशीन लर्निंगAI सुरक्षाविसंगति का पता लगाना
GitHubyingtaoren/d-scan

D-Scan

LLM आंतरिक अवस्थाओं और 100+ अटेंशन/प्रोबेबिलिटी फीचर्स का विश्लेषण करके RAG प्रणालियों में दस्तावेज़ विषाक्तता हमलों का पता लगाने वाले क्लासिफायर को प्रशिक्षित करता है।

रिपॉजिटरी देखें
12322 महीने पहलेअभी तक समीक्षित नहीं
साझा करें
वेबसाइट

जब संदर्भ काटता है: दस्तावेज़-स्तरीय ध्यान पतन के माध्यम से RAG विषाक्तता का पता लगाना

SIGIR 2026 पेपर When Context Bites: Detecting RAG Poisoning via Document-Level Attention Collapse का आधिकारिक कार्यान्वयन।

D-SCAN, RAG (Retrieval-Augmented Generation) प्रणालियों में दस्तावेज़ विषाक्तता हमलों का पता लगाने के लिए एक विश्लेषण ढाँचा है। यह जनरेशन के दौरान LLM की आंतरिक अवस्थाओं (टोकन प्रायिकताएँ और ध्यान भार) को एकत्र करता है, बहु-आयामी विशेषताएँ निकालता है, और स्वच्छ तथा विषाक्त पुनःप्राप्त दस्तावेज़ों के बीच अंतर करने के लिए क्लासिफायर प्रशिक्षित करता है।

1. इंस्टॉलेशन और आवश्यकताएँ

पूर्वापेक्षाएँ

  • Python >= 3.9
  • CUDA-संगत GPU (8B-पैरामीटर मॉडल अनुमान के लिए >= 24GB VRAM अनुशंसित)

मॉडल तैयारी

यह प्रोजेक्ट डिफ़ॉल्ट रूप से Llama-3.1-8B-Instruct का उपयोग करता है। मॉडल को स्थानीय पथ पर डाउनलोड करें और collect_inner_state.py में MODEL_ID वेरिएबल को अपडेट करें:

MODEL_ID = "/your/path/to/Llama-3.1-8B-Instruct"

2. त्वरित शुरुआत

पूरा वर्कफ़्लो तीन चरणों में होता है: आंतरिक अवस्थाएँ एकत्र करें → विशेषताएँ गणना करें → क्लासिफायर प्रशिक्षित करें। प्रश्न और संबंधित पुनर्प्राप्त दस्तावेज़ https://huggingface.co/datasets/An998/D-SCAN में प्रदान किए गए हैं।

चरण 1: मॉडल की आंतरिक अवस्थाएँ एकत्र करें

# Update configuration parameters in collect_inner_state.py, then run
python collect_inner_state.py

चरण 2: फ़ीचर मेट्रिक्स की गणना करें

# Analyze both attack and clean data, compute all features, and save results
python compute_feature.py \
    --attack_dir ./saved_reppl_weights_serial_query1_attack2_2wiki \
    --clean_dir ./saved_reppl_weights_serial_query1_pure1_5_2wiki \
    --output_dir ./analysis_results/2wiki_all \
    --max_attack_samples 3000 \
    --max_clean_samples 3000

चरण 3: क्लासिफायर को प्रशिक्षित करें और मूल्यांकन करें

fit_D-SCAN.ipynb खोलें और क्रमिक रूप से सेल निष्पादित करें ताकि:

  1. चरण 2 में उत्पन्न फ़ीचर डेटा लोड करें
  2. लॉजिस्टिक रिग्रेशन / रैंडम फ़ॉरेस्ट क्लासिफायर को प्रशिक्षित करें (5-फ़ोल्ड CV)
  3. परीक्षण सेट पर ट्रांसफ़र प्रदर्शन का मूल्यांकन करें

3. पाइपलाइन विवरण

3.1 डेटा संग्रह (collect_inner_state.py)

प्रत्येक प्रश्न-दस्तावेज़ इनपुट के लिए, LLM बहु-नमूना जनरेशन करता है (डिफ़ॉल्ट: 10 नमूने, temperature=1.0) और निम्नलिखित आंतरिक स्थितियाँ एकत्र करता है:

फ़ील्डप्रकारविवरण
outer_ppl_probsList[Tensor]प्रत्येक नमूने के लिए टोकन जनरेशन प्रायिकता
inner_ppl_matrixList[List[Tensor]]प्रत्येक जनरेशन चरण पर इनपुट अनुक्रम पर अटेंशन भार (लेयर-औसत)
doc_rangesDict[str, List[int]]इनपुट अनुक्रम में प्रत्येक दस्तावेज़ के लिए टोकन स्थिति सीमा
generated_sequencesList[List[int]]प्रत्येक नमूने के लिए उत्पन्न टोकन ID अनुक्रम

मुख्य कॉन्फ़िगरेशन पैरामीटर

MODEL_ID = "/path/to/model"     # Model path
NUM_SAMPLES = 10                # Number of samples per question
MAX_NEW_TOKENS = 50             # Maximum generated tokens
TEMPERATURE = 1.0               # Sampling temperature
data_type = 'pure1_5'           # Data type: 'pure1_5' (clean) or 'attack2' (attack)
dataset_name = 'hotpotqa'       # Dataset: 'hotpotqa', '2wiki', 'musique'

आउटपुट data_{batch_id}_reppl.pt फ़ाइलों और results_stats_*.jsonl सांख्यिकी फ़ाइलों के रूप में सहेजे जाते हैं।


3.2 फ़ीचर गणना (compute_feature.py)

एकत्र किए गए आंतरिक स्थितियों (internal states) से 100+ आयामी फ़ीचर्स वाली 10 श्रेणियाँ निकालता है। क्लासिफ़ायर इन फ़ीचर्स का उपयोग यह निर्धारित करने के लिए करता है कि किसी दिए गए क्वेरी के लिए प्राप्त दस्तावेज़ों के बीच ज़हरीले (poisoned) दस्तावेज़ मौजूद हैं या नहीं।

मीट्रिक अवलोकन

#श्रेणीक्लास नाम# फ़ीचर्समूल विचार
1जनरेशन प्रायिकता सांख्यिकीPerplexityMetrics8ज़हरीले दस्तावेज़ जनरेशन के दौरान मॉडल की अनिश्चितता बढ़ा सकते हैं, जो प्रायिकता वितरण में परिवर्तन के रूप में प्रतिबिंबित होता है
2अटेंशन एंट्रॉपीAttentionEntropyMetrics4उच्च एंट्रॉपी = बिखरा हुआ अटेंशन = संभावित परस्पर विरोधी जानकारी; निम्न एंट्रॉपी = केंद्रित अटेंशन
3अटेंशन संकेंद्रणAttentionConcentrationMetrics8Top-K अनुपात और गिनी गुणांक के माध्यम से मापता है कि अटेंशन कुछ टोकनों पर केंद्रित है या नहीं
4दस्तावेज़ अटेंशन घनत्वDocumentAttentionDensityMetrics6अटेंशन योग को दस्तावेज़ की लंबाई से विभाजित किया जाता है, जिससे अटेंशन आवंटन में लंबाई पूर्वाग्रह समाप्त होता है
5बहु-नमूना संगतिSampleConsistencyMetrics4ज़हरीलेपन के अंतर्गत, नमूनों के बीच अटेंशन पैटर्न असंगत हो सकते हैं (कोसाइन समानता, JS विचलन)
6अटेंशन गतिकीAttentionDynamicsMetrics4जनरेशन के दौरान प्रमुख-दस्तावेज़ स्विच की आवृत्ति और एंट्रॉपी परिवर्तन का परिमाण
7टोकन-स्तरीय अटेंशन उतार-चढ़ावTokenLevelAttentionMetrics16जनरेशन चरणों में प्रत्येक इनपुट टोकन स्थिति पर अटेंशन की स्थिरता (std, एंट्रॉपी)
8उत्तर प्रायिकता गहन सांख्यिकीAnswerProbabilityMetrics18प्रायिकता क्वांटाइल, उच्च/निम्न प्रायिकता टोकन अनुपात, लॉग प्रायिकता, परप्लेक्सिटी, आदि
9प्रायिकता गतिकीProbabilityDynamicsMetrics14जनरेशन अनुक्रम में प्रवृत्ति ढलान, ऑटोकोरिलेशन, अस्थिरता, स्पाइक अनुपात
10क्रॉस-नमूना प्रायिकता संगतिCrossSampleProbabilityConsistencyMetrics13नमूनों के बीच कोसाइन समानता, पियर्सन सहसंबंध, MSE, विचलन सूचकांक

विस्तृत मीट्रिक विवरण

1. PerplexityMetrics (जनरेशन प्रायिकता सांख्यिकी)

outer_ppl_probs (प्रत्येक जनरेट किए गए टोकन की प्रायिकता) से गणना की जाती है:

  • ppl_mean_prob: सभी जनरेट किए गए टोकनों की औसत प्रायिकता
  • ppl_std_prob: प्रायिकता मानक विचलन
  • ppl_min_prob: न्यूनतम प्रायिकता (अत्यधिक अनिश्चितता)
  • ppl_low_prob_ratio: निम्न-प्रायिकता टोकनों (<0.1) का अनुपात
  • ppl_cross_sample_var: नमूनों के बीच औसत प्रायिकताओं का प्रसरण
  • ppl_coef_variation: भिन्नता का गुणांक (CV = std/mean)
  • ppl_skewness: प्रायिकता वितरण की विषमता (skewness)
  • ppl_kurtosis: प्रायिकता वितरण की कुर्टोसिस

2. AttentionEntropyMetrics (अटेंशन एंट्रॉपी)

inner_ppl_matrix (प्रत्येक चरण पर अटेंशन भार) से गणना की जाती है:

  • attn_entropy_mean/std/max: अटेंशन वितरण एंट्रॉपी का माध्य, मानक विचलन और अधिकतम
  • attn_entropy_cv: अटेंशन एंट्रॉपी का भिन्नता गुणांक

3. AttentionConcentrationMetrics (अटेंशन संकेंद्रण)

  • attn_top5/10/20_ratio_mean/std: Top-K% टोकनों द्वारा प्राप्त अटेंशन हिस्सा
  • attn_gini_mean/std: अटेंशन वितरण का गिनी गुणांक (असमानता माप)

4. DocumentAttentionDensityMetrics (दस्तावेज़ अटेंशन घनत्व)

  • doc_attn_dens_std/range/max/min: दस्तावेज़ों में attention density का Std, range, max और min
  • doc_attn_dens_entropy: दस्तावेज़ attention density वितरण की एंट्रॉपी
  • doc_attn_dens_temporal_var_mean: दस्तावेज़ attention density का औसत टेम्पोरल वेरिएंस

5. SampleConsistencyMetrics (बहु-नमूना संगति)

  • sample_attn_consistency/std: टोकन-स्तरीय attention की क्रॉस-सैंपल कोसाइन समानता
  • sample_doc_consistency: दस्तावेज़-स्तरीय attention की क्रॉस-सैंपल कोसाइन समानता
  • sample_doc_js_divergence: दस्तावेज़-स्तरीय attention का क्रॉस-सैंपल JS विचलन

6. AttentionDynamicsMetrics (attention गतिकी)

टूल डाउनलोड करें

सबसे लोकप्रिय

सभी देखें →

हमारे समुदाय द्वारा सबसे अधिक उपयोग किए जाने वाले उपकरण खोजें।

  • 1

    OsintHunter

    letox4/osinthunter

    🎯 अंतिम OSINT टूलकिट: जाँच ग्राफ़, विश्वास स्कोरिंग, उपनाम परिवार, मानचित्र, टाइमलाइन और रिपोर्ट। 49 मॉड्यूल, 400+ साइटें, किसी API कुंजी की आवश्यकता नहीं।

    871
  • 2

    ghostlock-app

    yukonga/ghostlock-app

    # घोस्टलॉक वन-टैप निष्पादन ऐप (CVE-2026-43499)

    548
  • 3

    ARTEX

    baarai/artex

    प्लानर/वर्कर एजेंट, एसेट और एक्सप्लोरेशन ग्राफ़, MITM ट्रैफ़िक रिकॉर्डिंग, और भेद्यता पुनःपरीक्षण के साथ LLM मल्टी-एजेंट स्वायत्त पेनेट्रेशन टेस्टिंग प्लेटफ़ॉर्म।

    383
  • 4

    redforge

    cybersecurity91/redforge

    ब्राउज़र-साइड रेड टीम टूलकिट, जिसमें रेकॉन, पेलोड जनरेशन, क्रेडेंशियल हमलों, क्रिप्टो, एन्कोडिंग और एंगेजमेंट रिपोर्टिंग के लिए 102 ऑफ़लाइन टूल्स हैं।

    361
  • 5

    looking-glass

    anonghosty/looking-glass

    CSIRT प्लेटफ़ॉर्म जो Shadowserver रिपोर्ट्स को MongoDB में इनजेस्ट करता है और उन्हें इंटरैक्टिव मैप्स, विश्लेषण, निष्कर्षों, सलाहों और कार्यकारी डैशबोर्ड के रूप में पुनः प्रस्तुत करता है।

    305
  • 6

    CyberStrikeAI

    ed1s0nz/cyberstrikeai

    AI-मूल साइबरसुरक्षा के लिए कार्रवाई की प्रणाली—जहाँ इरादा नियंत्रित निष्पादन बन जाता है, साक्ष्य परिचालन स्मृति बन जाता है, और हर ऑपरेशन अगले को बेहतर बनाता है।

    280

सभी उपकरण खोजें

हमारे उपकरणों का संग्रह ब्राउज़ करें

सभी उपकरण देखें →