AI / LLM Red Team फील्ड मैनुअल और सलाहकार हैंडबुक

बड़े भाषा मॉडल (LLM), AI एजेंट, RAG पाइपलाइन और AI-सक्षम अनुप्रयोगों पर AI/LLM रेड टीम मूल्यांकन करने के लिए एक व्यापक संचालनात्मक टूलकिट। यह रिपॉजिटरी सामरिक क्षेत्र मार्गदर्शन और रणनीतिक परामर्श ढाँचे दोनों प्रदान करती है।

📖 GitBook नेविगेशन: पूर्ण अध्याय संरचना के लिए SUMMARY.md देखें।

📚 अवलोकन

यह रिपॉजिटरी AI LLM Red Team हैंडबुक की गोल्ड मास्टर रिलीज है। इसमें AI सुरक्षा के पूरे स्पेक्ट्रम—प्रॉम्प्ट इंजेक्शन और जेलब्रेकिंग से लेकर एडवरसारियल मशीन लर्निंग और फेडरेटेड लर्निंग हमलों तक—को कवर करने वाला एक पूरी तरह से मानकीकृत, 46-अध्याय का पाठ्यक्रम शामिल है।

मुख्य संसाधन

1. AI LLM Red Team हैंडबुक (46 अध्याय, पूर्ण)
   • मानकीकृत मेटाडेटा, सारांश और नेविगेशन के साथ पेशेवर परामर्श गाइड।
   • नैतिकता, आर्किटेक्चर, RAG सुरक्षा, एजेंटिक खतरे और अनुपालन (EU AI Act/ISO 42001) को कवर करता है।
2. AI LLM Red Team फील्ड मैनुअल
   • क्षेत्र उपयोग के लिए कॉम्पैक्ट परिचालन संदर्भ (चेकलिस्ट, पेलोड, पद्धति)।
3. पायथन परीक्षण ढाँचा (scripts/)
   • प्रॉम्प्ट इंजेक्शन, फज़िंग और सुरक्षा सत्यापन के लिए स्वचालित सूट।

📁 रिपॉजिटरी संरचना

ai-llm-red-team-handbook/
├── docs/                                   # हैंडबुक (अध्याय 01-46)
│   ├── archive/                            # ऐतिहासिक संस्करण
│   ├── assets/                             # आरेख, चार्ट और दृश्य सहायक
│   ├── field_manuals/                      # परिचालन चेकलिस्ट और त्वरित संदर्भ
│   ├── templates/                          # रिपोर्ट और SOW टेम्पलेट
│   └── SUMMARY.md                          # मास्टर विषय-सूची
├── scripts/                                # स्वचालित परीक्षण उपकरण (पायथन)
├── workflows/                              # CI/CD और स्वचालन वर्कफ़्लो
├── .agent/                                 # एजेंटिक मेमोरी और संदर्भ
├── LICENSE                                 # CC BY-SA 4.0 लाइसेंस
└── README.md                               # यह फ़ाइल

🚀 स्थापना और उपयोग

1. मैन्युअल अन्वेषण (हैंडबुक)

इस रिपॉजिटरी का प्राथमिक उपयोग एक संदर्भ के रूप में है।

• सभी अध्यायों को ब्राउज़ करने के लिए SUMMARY.md से शुरू करें।
• किसी अभियान के दौरान त्वरित देखने के लिए फील्ड मैनुअल देखें।

2. स्वचालित परीक्षण वातावरण

प्रदान की गई पायथन स्कैनिंग और फ़ज़िंग स्क्रिप्ट चलाने के लिए:

आवश्यक शर्तें:

• Python 3.8+
• लक्ष्य LLM (OpenAI, Anthropic, या स्थानीय Ollama) तक API पहुँच

सेटअप:

# रिपॉजिटरी को क्लोन करें
git clone https://github.com/shiva108/ai-llm-red-team-handbook.git
cd ai-llm-red-team-handbook

# निर्भरताएँ स्थापित करें
cd scripts
pip install -r config/requirements.txt

परीक्षण चलाना:

# अपने एनवायरनमेंट वेरिएबल्स (API कुंजियाँ) सेट करें
cp .env.example .env
nano .env

# टेस्ट रनर चलाएँ
python examples/runner.py --target "gpt-4" --test "prompt_injection"

📖 अध्याय रोडमैप (पूर्ण)

यह हैंडबुक 8 रणनीतिक भागों में विभाजित है। सभी अध्याय अब पूर्ण और ऑडिटेड हैं।

भाग I: पेशेवर आधार

• अध्याय 01-04: परिचय, नैतिकता, मानसिकता, कार्य-व्यस्तता के नियम।

भाग II: परियोजना तैयारी

• अध्याय 05-08: खतरा मॉडलिंग, दायरा निर्धारण, प्रयोगशाला सेटअप, कस्टडी की श्रृंखला।

भाग III: तकनीकी मूल सिद्धांत

• अध्याय 09-11: LLM आर्किटेक्चर, टोकन, प्लगइन/API।

भाग IV: पाइपलाइन सुरक्षा

• अध्याय 12-13: RAG पाइपलाइन, आपूर्ति श्रृंखला सुरक्षा।

भाग V: हमले और तकनीकें

• अध्याय 14-24: प्रॉम्प्ट इंजेक्शन, डेटा लीकेज, जेलब्रेकिंग, API शोषण, चोरी, विषाक्तता, मॉडल चोरी, DoS, मल्टीमॉडल, सोशल इंजीनियरिंग।

भाग VI: रक्षा और शमन

• अध्याय 25-30: एडवरसारियल ML, आपूर्ति श्रृंखला रक्षा, फेडरेटेड लर्निंग, गोपनीयता, मॉडल इनवर्जन, बैकडोर।

भाग VII: उन्नत संचालन

• अध्याय 31-39: टोही, हमला ढाँचे, स्वचालन, रक्षा चोरी, पोस्ट-एक्सप्लॉइटेशन, रिपोर्टिंग, सुधार, सतत रेड टीमिंग, बग बाउंटी।

भाग VIII: उन्नत विषय

• अध्याय 40-46: अनुपालन (EU AI Act), उद्योग सर्वोत्तम अभ्यास, केस स्टडी, रेड टीमिंग का भविष्य, उभरते खतरे, कार्यक्रम निर्माण, निष्कर्ष।

🤝 योगदान

हम इस हैंडबुक को जीवंत और सक्रिय रखने के लिए योगदान का स्वागत करते हैं।

1. फोर्क करें रिपॉजिटरी।
2. बनाएँ एक फीचर ब्रांच (git checkout -b feature/new-jailbreak)।
3. सबमिट करें एक पुल रिक्वेस्ट जिसमें बदलाव का स्पष्ट विवरण हो।
4. कृपया सुनिश्चित करें कि सभी नई सामग्री docs/templates/ में अध्याय टेम्पलेट का पालन करती है।

⚠️ अस्वीकरण

केवल अधिकृत सुरक्षा परीक्षण के लिए।

इस रिपॉजिटरी में वर्णित तकनीकें और उपकरण शैक्षिक उद्देश्यों के लिए हैं और अधिकृत सुरक्षा पेशेवरों द्वारा उपयोग के लिए हैं जो अपने स्वामित्व वाले या जिनके परीक्षण की स्पष्ट अनुमति है, सिस्टम का परीक्षण कर रहे हैं।

• इन उपकरणों का उपयोग सार्वजनिक LLM (जैसे ChatGPT, Claude) पर उनकी सेवा की शर्तों का पालन किए बिना न करें।
• इन तकनीकों का उपयोग दुर्भावनापूर्ण उद्देश्यों के लिए न करें।

लेखक और योगदानकर्ता इस सामग्री के दुरुपयोग के लिए कोई देयता स्वीकार नहीं करते हैं।

📬 संपर्क

• मुद्दे: GitHub Issues
• लाइसेंस: CC BY-SA 4.0

संस्करण: 1.46.263