DonkAI

OWASP Top 10 for LLM Applications (2025) के लिए व्यावहारिक लैब - कोई वास्तविक LLM आवश्यक नहीं।

DonkAI एक जानबूझकर कमज़ोर वेब ऐप है जिसे आप एक ही कमांड में चला सकते हैं और इसका उपयोग यह सीखने के लिए कर सकते हैं कि LLM-एकीकृत सिस्टम कैसे तोड़े जाते हैं — वास्तव में उन्हें तोड़कर। OWASP LLM Top 10 की हर श्रेणी को कम से कम एक खेलने योग्य चुनौती द्वारा दर्शाया गया है, जिसमें एक लिखित ब्रीफ़, एक पेलोड एडिटर, बायपास करने के लिए एक सक्रिय सुरक्षा, क्रमिक संकेत, और हर प्रयास का प्रति-उपयोगकर्ता इतिहास शामिल है। यह अभ्यासों के एक निश्चित समूह से कहीं बढ़कर एक विस्तारणीय शिक्षण लैब है: मॉड्यूलर आर्किटेक्चर (प्रति श्रेणी एक फ़ाइल, बैकएंड और फ्रंटएंड) नई कमज़ोरियाँ जोड़ना, मौजूदा सुरक्षा को सुदृढ़ करना, या वर्कशॉप, पाठ्यक्रमों और CTF के लिए बिल्कुल नए ट्रैक बनाना सीधा बनाता है।

चेतावनी यह एप्लिकेशन जानबूझकर लाइव हमले की सतहें उजागर करता है (प्रॉम्प्ट इंजेक्शन, IDOR, SQL इंजेक्शन, हार्ड-कोडेड क्रेडेंशियल्स, और बहुत कुछ)। इसे केवल एक पृथक लैब वातावरण में चलाया जाना चाहिए, अधिमानतः एक समर्पित वर्चुअल मशीन के अंदर, और इसे कभी भी खुले इंटरनेट पर तैनात नहीं किया जाना चाहिए।

---

यह क्यों मौजूद है

OWASP Top 10 for LLM Applications जोखिमों का मानचित्रण करता है और उनके बारे में बात करने के लिए शब्दावली प्रदान करता है — LLM सुरक्षा पर काम करने वाले किसी भी व्यक्ति के लिए आवश्यक पठन। DonkAI को उस कार्य के व्यावहारिक विस्तार के रूप में डिज़ाइन किया गया है: एक छोटा, नियतिवादी खेल का मैदान जहाँ आप हमलों को स्वयं आज़माते हैं, उन्हें एक नकली-लेकिन-यथार्थवादी चैटबॉट के विरुद्ध सफल होते देखते हैं, और एक डीब्रीफ़ पढ़ते हैं जो समझाता है कि अभी क्या काम किया और एक वास्तविक सिस्टम उससे कैसे बचाव करेगा। पर्दे के पीछे कोई वास्तविक LLM नहीं है, पूरा स्टैक नियम-आधारित है, इसलिए लैब सस्ती, ऑफ़लाइन-अनुकूल और पुनरुत्पादनीय है।