
व्यावहारिक AI सुरक्षा सीखने का मंच जिसमें जानबूझकर कमजोर LLM अनुप्रयोग शामिल हैं। इंटरैक्टिव पिज़्ज़ा शॉप परिदृश्यों के माध्यम से LLMs के लिए OWASP Top 10 का अन्वेषण करें, जिसमें प्रॉम्प्ट इंजेक्शन, डेटा प्रकटीकरण और आपूर्ति श्रृंखला जोखिम शामिल हैं।
PwnzzAI Shop में, हर स्लाइस समग्र AI सुरक्षा निर्देश का एक हिस्सा परोसता है। यह व्यावहारिक शिक्षण मंच पेशेवरों को AI प्रौद्योगिकियों की व्यापक सुरक्षा को समझने के लिए तैयार करता है, जो एक आकर्षक, व्यावहारिक पिज्जा शॉप परिदृश्य के माध्यम से प्रस्तुत किया जाता है।
जैसे एक गलत सामग्री पिज्जा को खराब कर सकती है, वैसे ही एक दोषपूर्ण प्रॉम्प्ट या अपर्याप्त आर्किटेक्चर AI प्रौद्योगिकियों को गंभीर खतरों के लिए कमजोर छोड़ सकता है, जिसमें सूचना उल्लंघन, बौद्धिक संपदा की चोरी, या अनधिकृत पहुंच शामिल है।
यहाँ, आप व्यावहारिक उदाहरण देखेंगे कि कैसे कमजोरियाँ बनाई जाती हैं, शोषित की जाती हैं, और शमित की जाती हैं। कुछ पृष्ठों के लिए आपको alice/alice या bob/bob के रूप में लॉगिन करना होगा। एक स्लाइस लें, गहराई से जाएँ, और खोजें कि AI सुरक्षा के बारे में सीखना कितना स्वादिष्ट हो सकता है।
विषय सूची
PwnzzAI Shop एक व्यावहारिक शिक्षण मंच का प्रतिनिधित्व करता है जो विशेष रूप से AI प्रौद्योगिकी सुरक्षा पर निर्देश के लिए बनाया गया है। यह जानबूझकर असुरक्षित Flask-आधारित वेब एप्लिकेशन एक इमर्सिव पिज्जा शॉप अनुभव के माध्यम से AI सुरक्षा कमजोरियों की एक विस्तृत श्रृंखला प्रदर्शित करता है।
स्थापना भागीदार: OWASP AI Exchange
PwnzzAI को एक व्यापक, विकसित होने वाले शिक्षण मंच के रूप में डिज़ाइन किया गया है जो AI Exchange जोखिम वर्गीकरण के अनुरूप है। इसका दायरा OWASP AI Exchange सुरक्षा विश्लेषण ढाँचे और रक्षात्मक मार्गदर्शन के साथ कदम मिलाकर धीरे-धीरे विस्तारित होता है, जिससे AI सुरक्षा प्रथाओं के परिपक्व होने पर दीर्घकालिक प्रासंगिकता सुनिश्चित होती है। परियोजना वर्तमान में LLMs के लिए OWASP Top 10 को शामिल करती है, जिसमें एक आर्किटेक्चर जानबूझकर AI Exchange जोखिम वर्गीकरणों से मैप किया गया है। समय के साथ, PwnzzAI का लक्ष्य एक संरचित शिक्षण पारिस्थितिकी तंत्र में परिपक्व होना है जो समर्थन करता है:
PwnzzAI चलाने के लिए इन 3 तरीकों में से एक चुनें:
https://www.docker.com/products/docker-desktop से इंस्टॉल करें।git clone https://github.com/OWASP/PwnzzAI.git
cd PwnzzAI
लैब्स बॉक्स के बाहर एक मुफ्त स्थानीय मॉडल पर चलती हैं। क्लाउड मॉडल टैब (OpenAI / Gemini / Claude) का उपयोग करने के लिए, आपको दो चीज़ों की आवश्यकता है — एक API कुंजी और एक मॉडल नाम:
.env (OPENAI_API_KEY=...) में सेट की जा सकती है। Lab Setup से कुंजी को प्राथमिकता दी जाती है।.env से आना चाहिए। कोड में कोई डिफ़ॉल्ट नहीं है, इसलिए यदि यह सेट नहीं है तो कॉल LLM Provider NOT provided के साथ विफल होती है।टेम्पलेट से .env बनाएं और मॉडल लाइन को अनकमेंट करें:
cp .env.example .env
# फिर .env संपादित करें और उदाहरण के लिए सेट करें:
# OPENAI_MODEL=gpt-4o-mini
# (या LITELLM_MODEL=gemini/gemini-2.5-flash, आदि)
.env संपादित करने के बाद ऐप को पुनरारंभ करें। पूर्ण प्रदाता/मॉडल वॉकथ्रू के लिए, देखें कार्यशाला होस्ट: OpenAI, Claude, Gemini, या अन्य क्लाउड मॉडल चुनना।
इस विकल्प का उपयोग करें यदि आप चाहते हैं कि डॉकर आपके लिए PwnzzAI ऐप और Ollama दोनों चलाए।
docker compose up -d
docker compose ps
http://localhost:8080
ऐप में, Basics पृष्ठ पर जाएँ और मॉडल खींचने के लिए Ollama सेटअप चलाएँ।
यदि आवश्यक हो तो लॉग का अनुसरण करें:
# ऐप लॉग
docker compose logs -f pwnzzai-app
# Ollama लॉग (वैकल्पिक)
docker compose logs -f ollama
docker compose down
docker compose down -v
यदि आप ऐप इमेज को किसी अन्य रजिस्ट्री पथ के तहत प्रकाशित करते हैं, तो शुरू करते समय इमेज नाम को ओवरराइड करें:
PWNZZAI_IMAGE=ghcr.io/owasp/pwnzzai:latest docker compose up -d
docker compose docker-compose.yml से डिफ़ॉल्ट pwnzzai-app इमेज का उपयोग करता है (जिसे PWNZZAI_IMAGE से ओवरराइड किया जा सकता है)। यदि docker compose up उस इमेज को खींचते समय denied, unauthorized, या इसी तरह की त्रुटि के साथ विफल होता है, तो रजिस्ट्री में लॉगिन की आवश्यकता हो सकती है या आपके खाते में पुल एक्सेस नहीं हो सकता है। आप अभी भी इस रिपॉजिटरी से ऐप इमेज को स्थानीय रूप से बनाकर और compose को उसकी ओर इंगित करके सब कुछ चला सकते हैं।
रिपॉजिटरी रूट से:
docker build -t pwnzzai-local:dev .
PWNZZAI_IMAGE=pwnzzai-local:dev docker compose up -d
Windows PowerShell:
docker build -t pwnzzai-local:dev .
$env:PWNZZAI_IMAGE="pwnzzai-local:dev"; docker compose up -d
फिर http://localhost:8080 खोलें। पहला लोड संक्षेप में विफल हो सकता है जबकि Flask कंटेनर के अंदर शुरू होता है; कुछ सेकंड प्रतीक्षा करें और यदि आप कनेक्शन त्रुटि देखते हैं तो रिफ्रेश करें।
यदि आपके पास रजिस्ट्री इमेज तक पहुँच है, तो आप पहले प्रमाणित कर सकते हैं (GitHub Container Registry के लिए उदाहरण):
docker login ghcr.io
यदि आप docker-compose.external-ollama.yml का उपयोग करते हैं और उसी पुल त्रुटि का सामना करते हैं, तो वही PWNZZAI_IMAGE=pwnzzai-local:dev दृष्टिकोण विकल्प 2 पर लागू होता है।
इस विकल्प का उपयोग करें यदि Ollama पहले से कहीं और चल रहा है और आप केवल PwnzzAI को डॉकर में चलाना चाहते हैं।
यदि आप WSL पर Ollama और डॉकर में PwnzzAI चलाते हैं, तो कनेक्टिविटी फिक्स के लिए
OLLAMA_CONNECTION_TROUBLESHOOTING.md देखें
(Connection refused, host.docker.internal, बाइंडिंग, और env सत्यापन)।