🍕 PwnzzAI(/pəʊnzɑː/) Shop में आपका स्वागत है – कमजोर पिज्जा शॉप! 💻

PwnzzAI Shop में, हर स्लाइस समग्र AI सुरक्षा निर्देश का एक हिस्सा परोसता है। यह व्यावहारिक शिक्षण मंच पेशेवरों को AI प्रौद्योगिकियों की व्यापक सुरक्षा को समझने के लिए तैयार करता है, जो एक आकर्षक, व्यावहारिक पिज्जा शॉप परिदृश्य के माध्यम से प्रस्तुत किया जाता है।

जैसे एक गलत सामग्री पिज्जा को खराब कर सकती है, वैसे ही एक दोषपूर्ण प्रॉम्प्ट या अपर्याप्त आर्किटेक्चर AI प्रौद्योगिकियों को गंभीर खतरों के लिए कमजोर छोड़ सकता है, जिसमें सूचना उल्लंघन, बौद्धिक संपदा की चोरी, या अनधिकृत पहुंच शामिल है।

यहाँ, आप व्यावहारिक उदाहरण देखेंगे कि कैसे कमजोरियाँ बनाई जाती हैं, शोषित की जाती हैं, और शमित की जाती हैं। कुछ पृष्ठों के लिए आपको alice/alice या bob/bob के रूप में लॉगिन करना होगा। एक स्लाइस लें, गहराई से जाएँ, और खोजें कि AI सुरक्षा के बारे में सीखना कितना स्वादिष्ट हो सकता है।

विषय सूची

• परिचय
  • दायरा और सीखने के लक्ष्य
• सेटअप निर्देश
  • विकल्प 1: डॉकर (PwnzzAI + Ollama)
  • यदि डिफ़ॉल्ट इमेज खिंचती नहीं है (स्थानीय रूप से बनाएँ)
  • विकल्प 2: डॉकर (आपका अपना Ollama + PwnzzAI इमेज)
  • विकल्प 3: स्रोत कोड स्वयं चलाएँ
  • समस्या निवारण: Ollama कनेक्शन (WSL + Docker)
  • कार्यशाला होस्ट: OpenAI, Claude, Gemini, या अन्य क्लाउड मॉडल चुनना
• विशेषताएँ
• AI सुरक्षा कवरेज
  • सीखने का ढाँचा
  • लागू की गई कमजोरियाँ
  • मॉडल समर्थन

परिचय

PwnzzAI Shop एक व्यावहारिक शिक्षण मंच का प्रतिनिधित्व करता है जो विशेष रूप से AI प्रौद्योगिकी सुरक्षा पर निर्देश के लिए बनाया गया है। यह जानबूझकर असुरक्षित Flask-आधारित वेब एप्लिकेशन एक इमर्सिव पिज्जा शॉप अनुभव के माध्यम से AI सुरक्षा कमजोरियों की एक विस्तृत श्रृंखला प्रदर्शित करता है।

स्थापना भागीदार: OWASP AI Exchange

दायरा और सीखने के लक्ष्य

PwnzzAI को एक व्यापक, विकसित होने वाले शिक्षण मंच के रूप में डिज़ाइन किया गया है जो AI Exchange जोखिम वर्गीकरण के अनुरूप है। इसका दायरा OWASP AI Exchange सुरक्षा विश्लेषण ढाँचे और रक्षात्मक मार्गदर्शन के साथ कदम मिलाकर धीरे-धीरे विस्तारित होता है, जिससे AI सुरक्षा प्रथाओं के परिपक्व होने पर दीर्घकालिक प्रासंगिकता सुनिश्चित होती है। परियोजना वर्तमान में LLMs के लिए OWASP Top 10 को शामिल करती है, जिसमें एक आर्किटेक्चर जानबूझकर AI Exchange जोखिम वर्गीकरणों से मैप किया गया है। समय के साथ, PwnzzAI का लक्ष्य एक संरचित शिक्षण पारिस्थितिकी तंत्र में परिपक्व होना है जो समर्थन करता है:

• AI संरक्षण और रक्षा प्रशिक्षण, जिसमें स्व-निर्देशित शिक्षण पथ शामिल हैं
• व्यावहारिक, परिदृश्य-संचालित अभ्यासों के साथ व्यावहारिक सुरक्षा प्रशिक्षण कार्यक्रम
• सुरक्षा इंजीनियरों और व्यवसायियों के लिए टीम-आधारित शिक्षण पहल
• एंड-टू-एंड AI सुरक्षा शिक्षा, डिज़ाइन, विकास, तैनाती और संचालन को कवर करती है

सेटअप निर्देश

PwnzzAI चलाने के लिए इन 3 तरीकों में से एक चुनें:

1. दोनों इमेज के साथ डॉकर (PwnzzAI + Ollama)
2. आपके अपने स्थानीय/रिमोट Ollama और केवल PwnzzAI इमेज के साथ डॉकर
3. स्रोत कोड स्वयं चलाएँ

शुरू करने से पहले (सभी विकल्प)

1. Docker Desktop को https://www.docker.com/products/docker-desktop से इंस्टॉल करें।
2. Docker Desktop खोलें और तब तक प्रतीक्षा करें जब तक वह Docker चल रहा है यह न कहे।
3. Git इंस्टॉल करें यदि आपके पास पहले से नहीं है।
4. इस रिपॉजिटरी को क्लोन करें और इसमें प्रवेश करें:

git clone https://github.com/OWASP/PwnzzAI.git
cd PwnzzAI

वैकल्पिक: एक क्लाउड मॉडल कॉन्फ़िगर करें (OpenAI / Gemini / Claude)

लैब्स बॉक्स के बाहर एक मुफ्त स्थानीय मॉडल पर चलती हैं। क्लाउड मॉडल टैब (OpenAI / Gemini / Claude) का उपयोग करने के लिए, आपको दो चीज़ों की आवश्यकता है — एक API कुंजी और एक मॉडल नाम:

• API कुंजी — रनटाइम पर इन-ऐप Lab Setup पृष्ठ के माध्यम से दर्ज की जा सकती है, या .env (OPENAI_API_KEY=...) में सेट की जा सकती है। Lab Setup से कुंजी को प्राथमिकता दी जाती है।
• मॉडल नाम — कोई UI नहीं है; इसे .env से आना चाहिए। कोड में कोई डिफ़ॉल्ट नहीं है, इसलिए यदि यह सेट नहीं है तो कॉल LLM Provider NOT provided के साथ विफल होती है।

टेम्पलेट से .env बनाएं और मॉडल लाइन को अनकमेंट करें:

cp .env.example .env
# फिर .env संपादित करें और उदाहरण के लिए सेट करें:
#   OPENAI_MODEL=gpt-4o-mini
#   (या LITELLM_MODEL=gemini/gemini-2.5-flash, आदि)

.env संपादित करने के बाद ऐप को पुनरारंभ करें। पूर्ण प्रदाता/मॉडल वॉकथ्रू के लिए, देखें कार्यशाला होस्ट: OpenAI, Claude, Gemini, या अन्य क्लाउड मॉडल चुनना।

विकल्प 1: डॉकर (PwnzzAI + Ollama)

इस विकल्प का उपयोग करें यदि आप चाहते हैं कि डॉकर आपके लिए PwnzzAI ऐप और Ollama दोनों चलाए।

1. दोनों कंटेनर शुरू करें:

docker compose up -d

2. सत्यापित करें कि दोनों सेवाएँ चल रही हैं:

docker compose ps

3. ऐप को अपने ब्राउज़र में खोलें:

http://localhost:8080

4. ऐप में, Basics पृष्ठ पर जाएँ और मॉडल खींचने के लिए Ollama सेटअप चलाएँ।

5. यदि आवश्यक हो तो लॉग का अनुसरण करें:

# ऐप लॉग
docker compose logs -f pwnzzai-app

# Ollama लॉग (वैकल्पिक)
docker compose logs -f ollama

6. समाप्त होने पर सब कुछ रोकें:

docker compose down

7. वैकल्पिक पूर्ण रीसेट (सहेजे गए Ollama मॉडल भी हटाता है):

docker compose down -v

यदि आप ऐप इमेज को किसी अन्य रजिस्ट्री पथ के तहत प्रकाशित करते हैं, तो शुरू करते समय इमेज नाम को ओवरराइड करें:

PWNZZAI_IMAGE=ghcr.io/owasp/pwnzzai:latest docker compose up -d

यदि डिफ़ॉल्ट इमेज खिंचती नहीं है (स्थानीय रूप से बनाएँ)

docker compose docker-compose.yml से डिफ़ॉल्ट pwnzzai-app इमेज का उपयोग करता है (जिसे PWNZZAI_IMAGE से ओवरराइड किया जा सकता है)। यदि docker compose up उस इमेज को खींचते समय denied, unauthorized, या इसी तरह की त्रुटि के साथ विफल होता है, तो रजिस्ट्री में लॉगिन की आवश्यकता हो सकती है या आपके खाते में पुल एक्सेस नहीं हो सकता है। आप अभी भी इस रिपॉजिटरी से ऐप इमेज को स्थानीय रूप से बनाकर और compose को उसकी ओर इंगित करके सब कुछ चला सकते हैं।

रिपॉजिटरी रूट से:

docker build -t pwnzzai-local:dev .
PWNZZAI_IMAGE=pwnzzai-local:dev docker compose up -d

Windows PowerShell:

docker build -t pwnzzai-local:dev .
$env:PWNZZAI_IMAGE="pwnzzai-local:dev"; docker compose up -d

फिर http://localhost:8080 खोलें। पहला लोड संक्षेप में विफल हो सकता है जबकि Flask कंटेनर के अंदर शुरू होता है; कुछ सेकंड प्रतीक्षा करें और यदि आप कनेक्शन त्रुटि देखते हैं तो रिफ्रेश करें।

यदि आपके पास रजिस्ट्री इमेज तक पहुँच है, तो आप पहले प्रमाणित कर सकते हैं (GitHub Container Registry के लिए उदाहरण):

docker login ghcr.io

यदि आप docker-compose.external-ollama.yml का उपयोग करते हैं और उसी पुल त्रुटि का सामना करते हैं, तो वही PWNZZAI_IMAGE=pwnzzai-local:dev दृष्टिकोण विकल्प 2 पर लागू होता है।

विकल्प 2: डॉकर (आपका अपना Ollama + PwnzzAI इमेज)

इस विकल्प का उपयोग करें यदि Ollama पहले से कहीं और चल रहा है और आप केवल PwnzzAI को डॉकर में चलाना चाहते हैं।

यदि आप WSL पर Ollama और डॉकर में PwnzzAI चलाते हैं, तो कनेक्टिविटी फिक्स के लिए OLLAMA_CONNECTION_TROUBLESHOOTING.md देखें (Connection refused, host.docker.internal, बाइंडिंग, और env सत्यापन)।

1. अपनी Ollama सेवा चालू रखें।

2. यदि Ollama रिमोट मशीन पर है, तो शुरू करने से पहले OLLAMA_HOST सेट करें (इसे छोड़ें यदि Ollama उसी मशीन पर है जो डॉकर है और docker-compose.external-ollama.yml में डिफ़ॉल्ट http://host.docker.internal:11434 पर पहुँच योग्य है)।

Linux/macOS:

export OLLAMA_HOST=http://your-ollama-server:11434

Windows PowerShell:

$env:OLLAMA_HOST="http://your-ollama-server:11434"

3. PwnzzAI को बाहरी-Ollama compose फ़ाइल के साथ शुरू करें:

docker compose -f docker-compose.external-ollama.yml up -d

यदि डिफ़ॉल्ट ऐप इमेज GHCR से खिंचती नहीं है, तो स्थानीय रूप से बनाएँ और PWNZZAI_IMAGE को सेट करें जैसा कि यदि डिफ़ॉल्ट इमेज खिंचती नहीं है (स्थानीय रूप से बनाएँ) में है।

4. एप्लिकेशन देखने के लिए अपने ब्राउज़र में http://localhost:8080 पर जाएँ। Basic पृष्ठ से शुरू करें और अपनी लैब सेटअप करें।

5. यदि आवश्यक हो तो ऐप लॉग का अनुसरण करें:

docker compose -f docker-compose.external-ollama.yml logs -f pwnzzai-app

6. समाप्त होने पर इसे रोकें:

docker compose -f docker-compose.external-ollama.yml down

विकल्प 3: स्रोत कोड स्वयं चलाएँ

इस विकल्प का उपयोग करें यदि आप Python को सीधे चलाना चाहते हैं (ऐप के लिए डॉकर के बिना)।

1. Python 3.11 इंस्टॉल करें।
2. एक वर्चुअल एनवायरनमेंट बनाएं और सक्रिय करें।

Linux/macOS:

python -m venv venv
source venv/bin/activate

Windows PowerShell:

python -m venv venv
.\venv\Scripts\Activate.ps1

3. निर्भरताएँ इंस्टॉल करें:

./install.sh

4. सुनिश्चित करें कि Ollama उपलब्ध है: http://localhost:11434 या OLLAMA_HOST के माध्यम से कोई अन्य एंडपॉइंट।

5. ऐप चलाएँ:

flask run --host=0.0.0.0 --port=8080

6. खोलें:

http://localhost:8080

यदि आपको अधिक विवरण चाहिए, तो यह वॉकथ्रू देखें, जो चरण-दर-चरण सेटअप दिखाता है।

विशेषताएँ

• पिज्जा सेवा: आकर्षक पिज्जा ब्राउज़ करें, ग्राहक प्रतिक्रिया देखें, टिप्पणियाँ जोड़ें, और वर्चुअल ऑर्डर दें!
• व्यापक कमजोरी प्रदर्शन: OWASP LLM Top 10 और AI Exchange खतरे की श्रेणियों को कवर करने वाले सक्रिय प्रदर्शन, जिसमें मॉडल इनपुट खतरे, विकास-समय के खतरे, रनटाइम सुरक्षा खतरे, और सिस्टम-स्तरीय AI जोखिम शामिल हैं।
• सीखने-केंद्रित डिज़ाइन: पारदर्शी विवरणों के माध्यम से शोषण विधियों और रक्षात्मक दृष्टिकोणों की खोज करें, संगठित निर्देश कार्यक्रमों के लिए तैयार और AI Exchange खतरे वर्गीकरण के अनुरूप।
• मल्टी-प्रोवाइडर कार्यान्वयन: प्रत्येक प्रदर्शन वाणिज्यिक OpenAI और निःशुल्क Ollama ढाँचे दोनों के साथ काम करता है, सभी प्रतिभागियों के लिए पहुँच सुनिश्चित करता है।
• मानक-आधारित सामग्री: OWASP AI Exchange के साथ सिंक्रनाइज़ शैक्षिक सामग्री, जो उभरते AI सुरक्षा मानकों जैसे ISO/IEC 27090 और prEN 18282 के लिए मूलभूत आधार के रूप में कार्य करता है।

AI सुरक्षा कवरेज

यह प्लेटफ़ॉर्म AI संरक्षण चुनौतियों का एक व्यापक स्पेक्ट्रम प्रदर्शित करता है, जो OWASP AI Exchange व्यापक खतरे वर्गीकरण के अनुरूप है। वर्तमान कार्यान्वयन LLM एप्लिकेशन के लिए OWASP Top 10 और मुख्य AI Exchange खतरे की श्रेणियों को कवर करता है, जिसमें भविष्य के AI जोखिम कवरेज के लिए एक विस्तार योग्य आर्किटेक्चर है।

सीखने का ढाँचा

PwnzzAI में प्रदर्शित प्रत्येक कमजोरी में शामिल है:

1. सक्रिय प्रदर्शन जो कमजोरी के तंत्र को स्पष्ट करते हैं
2. शोषण परिदृश्य जो इंटरैक्टिव आक्रमण अभ्यास प्रदान करते हैं
3. सुदृढ़ विकल्प जो रक्षात्मक दृष्टिकोणों का विवरण देते हैं

लागू की गई कमजोरियाँ:

OWASP AI Exchange खतरों और LLM एप्लिकेशन 2025 के लिए OWASP Top 10 के अनुसार:

1. प्रॉम्प्ट इंजेक्शन AI Exchange: डायरेक्ट प्रॉम्प्ट इंजेक्शन, इनडायरेक्ट प्रॉम्प्ट इंजेक्शन, Top 10: LLM-01।

   • डायरेक्ट प्रॉम्प्ट इंजेक्शन: मॉडल व्यवहार में हेरफेर करने के लिए क्राफ्टेड उपयोगकर्ता इनपुट के माध्यम से सिस्टम निर्देशों को बायपास करें।
   • इनडायरेक्ट प्रॉम्प्ट इंजेक्शन: दुर्भावनापूर्ण निर्देश इंजेक्ट करने और मॉडल प्रतिक्रियाओं में हेरफेर करने के लिए बाहरी डेटा स्रोतों का शोषण करें।
   • AI Exchange संदर्भ: मॉडल इनपुट खतरे जहाँ हमलावर मॉडल को धोखा देने के लिए निर्देश तैयार करते हैं।

2. डेटा प्रकटीकरण AI Exchange: मॉडल आउटपुट में संवेदनशील डेटा का प्रकटीकरण, Top 10: LLM-02

• मॉडल आउटपुट के माध्यम से प्रशिक्षण डेटा, सिस्टम जानकारी और क्रेडेंशियल्स का निष्कर्षण।
• AI Exchange संदर्भ: मॉडल के आउटपुट में प्रशिक्षण सेट या इनपुट (जिसमें वृद्धि डेटा शामिल हो सकता है) से संवेदनशील डेटा हो सकता है।

3. आपूर्ति श्रृंखला कमजोरियाँ AI Exchange: आपूर्ति श्रृंखला मॉडल विषाक्तीकरण, Top 10: LLM 03

• समझौता किए गए आपूर्तिकर्ताओं से तृतीय-पक्ष मॉडल और प्लगइन सुरक्षा जोखिम।
• AI Exchange संदर्भ: विकास-समय आपूर्ति श्रृंखला खतरे जिनमें जहरीले पूर्व-प्रशिक्षित मॉडल, दूषित डेटा स्रोत और समझौता किए गए मॉडल होस्टिंग शामिल हैं।

4. डेटा और मॉडल विषाक्तीकरण AI Exchange: डेटा विषाक्तीकरण, मॉडल विषाक्तीकरण, Top 10: LLM04

   • दिखाएँ कि कैसे दुर्भावनापूर्ण प्रशिक्षण डेटा मॉडल प्रतिक्रियाओं और व्यवहार को प्रभावित करता है।
   • AI Exchange संदर्भ: विकास-समय के खतरे जहाँ प्रशिक्षण डेटा हेरफेर या प्रत्यक्ष मॉडल पैरामीटर छेड़छाड़ अवांछित मॉडल व्यवहार की ओर ले जाती है।

5. अनुचित आउटपुट हैंडलिंग AI Exchange: आउटपुट में पारंपरिक इंजेक्शन शामिल है, Top 10:LLM05

   • अमान्य LLM आउटपुट डाउनस्ट्रीम सिस्टम में XSS और अन्य इंजेक्शन हमलों की ओर ले जाते हैं।
   • AI Exchange संदर्भ: पाठ्य मॉडल आउटपुट में पारंपरिक इंजेक्शन हमले जैसे XSS-क्रॉस साइट स्क्रिप्टिंग हो सकते हैं, जो संसाधित होने पर कमजोरी पैदा कर सकते हैं (उदा., वेबसाइट पर दिखाया जाना, कमांड निष्पादित करना)।

6. अत्यधिक एजेंसी AI Exchange: न्यूनतम मॉडल विशेषाधिकार, पर्यवेक्षण, Top 10:LLM06

   • अत्यधिक विशेषाधिकार प्राप्त LLM संचालन और उचित बाधाओं के बिना स्वायत्त कार्य।
   • AI Exchange संदर्भ: विशेषाधिकार प्रबंधन और मानव पर्यवेक्षण के माध्यम से अवांछित मॉडल व्यवहार को प्रतिबंधित करने के लिए प्रभाव सीमित करने वाले नियंत्रण, विशेष रूप से एजेंटिक AI सिस्टम के लिए महत्वपूर्ण।

7. सिस्टम प्रॉम्प्ट लीकेज AI Exchange: संवेदनशील सूचना प्रकटीकरण, Top 10:LLM07

   • हेरफेर तकनीकों के माध्यम से सिस्टम प्रॉम्प्ट में एम्बेडेड गुप्त जानकारी का निष्कर्षण।
   • AI Exchange संदर्भ: मॉडल उपयोग खतरे जहाँ हमलावर क्राफ्टेड इनपुट के माध्यम से गोपनीय निर्देश या कॉन्फ़िगरेशन डेटा निकालते हैं।

8. वेक्टर और एम्बेडिंग कमजोरियाँ ,

• संसाधन थकावट हमले और दर सीमा बायपास तकनीकें जो सेवा से इनकार का कारण बनती हैं।
• AI Exchange संदर्भ: अत्यधिक या क्राफ्टेड इनपुट के माध्यम से संसाधन क्षय द्वारा मॉडल उपलब्धता खतरे।

और,

11. मॉडल चोरी (AI Exchange: मॉडल एक्सफिल्ट्रेशन, Top 10 के पुराने संस्करण
    • एपीआई दुरुपयोग और इनपुट-आउटपुट हार्वेस्टिंग के माध्यम से मॉडल निष्कर्षण और बौद्धिक संपदा चोरी।
    • AI Exchange संदर्भ: हमलावर मौजूदा मॉडल के इनपुट और आउटपुट एकत्र करता है और मूल मॉडल की नकल करने के लिए एक नया मॉडल प्रशिक्षित करने के लिए उन संयोजनों का उपयोग करता है।

मॉडल समर्थन:

• OpenAI मॉडल: OpenAI API के माध्यम से GPT-3.5/GPT-4 प्रदर्शन।
• Ollama मॉडल: Ollama के माध्यम से सुलभ निःशुल्क मॉडल, जैसे Mistral 7B और LLaMA 3.2 1B।

⚠️ केवल शैक्षिक उद्देश्य: इस एप्लिकेशन में जानबूझकर सुरक्षा कमजोरियाँ हैं। उत्पादन वातावरण में उपयोग न करें।