owasp/www-project-top-10-for-large-language-model-applicationsबड़े भाषा मॉडल ऐप्स के लिए OWASP शीर्ष 10 (GenAI सुरक्षा परियोजना का भाग)
OWASP फाउंडेशन वेब रिपॉजिटरी
OWASP बड़ी भाषा मॉडल अनुप्रयोगों के लिए शीर्ष 10 के आधिकारिक रिपॉजिटरी में आपका स्वागत है!
इस रिपॉजिटरी में OWASP बड़ी भाषा मॉडल अनुप्रयोगों के लिए शीर्ष 10 शामिल है, जो अब व्यापक OWASP GenAI सुरक्षा परियोजना के अंतर्गत रखा गया है। OWASP GenAI सुरक्षा परियोजना एक वैश्विक, ओपन-सोर्स पहल है जो जनरेटिव AI तकनीकों से जुड़े सुरक्षा और सुरक्षा जोखिमों की पहचान, शमन और दस्तावेजीकरण के लिए समर्पित है।
हमारी मुख्य परियोजना साइट पर जाएँ: genai.owasp.org
OWASP बड़ी भाषा मॉडल अनुप्रयोगों के लिए शीर्ष 10 डेवलपर्स और वेब एप्लिकेशन सुरक्षा के लिए एक मानक जागरूकता दस्तावेज़ है। यह बड़ी भाषा मॉडल (LLM) अनुप्रयोगों के लिए सबसे महत्वपूर्ण सुरक्षा जोखिमों के बारे में एक व्यापक सहमति का प्रतिनिधित्व करता है। OWASP के अंदर और बाहर दोनों जगह अन्य चल रहे ढाँचे हैं जिन्हें इस परियोजना के साथ भ्रमित नहीं किया जाना चाहिए और यह वर्तमान में केवल LLM एप्लिकेशन सुरक्षा पर केंद्रित है।
हमारे प्राथमिक दर्शक डेवलपर, डेटा वैज्ञानिक और सुरक्षा विशेषज्ञ हैं जो LLM तकनीकों का लाभ उठाने वाले अनुप्रयोगों और प्लगइन्स को डिजाइन और निर्माण करने के लिए जिम्मेदार हैं। हमारा उद्देश्य व्यावहारिक, कार्रवाई योग्य और संक्षिप्त सुरक्षा मार्गदर्शन प्रदान करना है ताकि इन पेशेवरों को LLM एप्लिकेशन सुरक्षा के जटिल और विकसित होते परिदृश्य को नेविगेट करने में मदद मिल सके।
इस परियोजना का प्राथमिक उद्देश्य LLM अनुप्रयोगों में संभावित सुरक्षा जोखिमों को नेविगेट करने के लिए एक समझने योग्य और अपनाने योग्य मार्गदर्शिका प्रदान करना है। हमारी शीर्ष 10 सूची इस डोमेन में नए डेवलपर्स और सुरक्षा पेशेवरों के लिए एक प्रारंभिक बिंदु के रूप में कार्य करती है, और उन लोगों के लिए एक संदर्भ के रूप में जो अधिक अनुभवी हैं।
हमारा मिशन एप्लिकेशन सुरक्षा को दृश्यमान बनाना है, ताकि लोग और संगठन LLM से संबंधित एप्लिकेशन सुरक्षा जोखिमों के बारे में सूचित निर्णय ले सकें। जबकि हमारी सूची अन्य OWASP शीर्ष 10 सूचियों में पाई जाने वाली भेद्यता प्रकारों के साथ डीएनए साझा करती है, हम इन भेद्यताओं को केवल दोहराते नहीं हैं। इसके बजाय, हम LLM का उपयोग करने वाले अनुप्रयोगों में इन भेद्यताओं के अद्वितीय निहितार्थों में गहराई से उतरते हैं।
हमारा लक्ष्य सामान्य एप्लिकेशन सुरक्षा सिद्धांतों और LLM द्वारा उत्पन्न विशिष्ट चुनौतियों के बीच की खाई को पाटना है। समूह के लक्ष्यों में यह पता लगाना शामिल है कि पारंपरिक भेद्यताएँ LLM के भीतर अलग-अलग जोखिम कैसे पैदा कर सकती हैं या नए तरीकों से शोषित हो सकती हैं, और डेवलपर्स को LLM का उपयोग करने वाले अनुप्रयोगों के लिए पारंपरिक उपचार रणनीतियों को कैसे अनुकूलित करना चाहिए।
इस सूची का पहला संस्करण कंट्रास्ट सिक्योरिटी के स्टीव विल्सन द्वारा योगदान किया गया था। हम समुदाय को योगदान देने और परियोजना को बेहतर बनाने में मदद करने के लिए प्रोत्साहित करते हैं। यदि आपके पास कोई सुझाव, प्रतिक्रिया है या सूची को बेहतर बनाने में मदद करना चाहते हैं, तो बेझिझक एक मुद्दा खोलें या पुल रिक्वेस्ट भेजें।
OWASP Slack पर हमारा एक कार्य समूह चैनल है, कृपया साइन अप करें और फिर #project-top10-llm चैनल पर हमसे जुड़ें।
योगदान करना सीखें: https://genai.owasp.org/contribute/
यह परियोजना क्रिएटिव कॉमन्स एट्रिब्यूशन-शेयरअलाइक 4.0 अंतर्राष्ट्रीय लाइसेंस की शर्तों के तहत लाइसेंस प्राप्त है।
