
15+ भाषाओं में बहु-फ़ाइल संदर्भ के साथ वास्तविक दुनिया की भेद्यता पहचान, स्पष्टीकरण, और सुधार पर LLM प्रदर्शन का आकलन करने के लिए मानव-मूल्यांकित बेंचमार्क।
आधिकारिक GitHub रिपॉजिटरी: https://github.com/AfterQuery/vader
Hugging Face डेटासेट: https://huggingface.co/datasets/AfterQuery/vader
VADER एक मानव-मूल्यांकित बेंचमार्क है, जिसे यह मापने के लिए डिज़ाइन किया गया है कि बड़े भाषा मॉडल (LLMs) वास्तविक दुनिया की सॉफ़्टवेयर भेद्यताओं को कितनी अच्छी तरह संभालते हैं। इसमें 174 वास्तविक दुनिया के भेद्यता मामले (ओपन-सोर्स रिपॉजिटरी से संकलित) शामिल हैं, जो चार कार्यों को कवर करते हैं:
ये मामले 15+ प्रोग्रामिंग भाषाओं (जैसे JavaScript, Python, Go, C/C++, PHP, आदि) में फैले हुए हैं और अक्सर मल्टी-फ़ाइल संदर्भ शामिल करते हैं, जो वास्तविक दुनिया के विकास परिवेशों की नकल करते हैं।
रिपॉजिटरी को क्लोन करें और निर्भरताएँ स्थापित करें:
git clone https://github.com/AfterQuery/vader.git
cd vader
pip install -r requirements.txt