الدليل الميداني للفريق الأحمر للذكاء الاصطناعي / نماذج اللغة الضخمة (LLM) وكتيب المستشار

مجموعة أدوات تشغيلية شاملة لإجراء تقييمات الفريق الأحمر للذكاء الاصطناعي / نماذج اللغة الضخمة على نماذج اللغة الضخمة والوكلاء الذكيين وخطوط أنابيب RAG والتطبيقات المدعومة بالذكاء الاصطناعي. يوفر هذا المستودع كلاً من الإرشادات الميدانية التكتيكية والأطر الاستشارية الاستراتيجية.

📖 التنقل عبر GitBook: راجع SUMMARY.md للحصول على هيكل الفصول الكامل.

📚 نظرة عامة

يمثل هذا المستودع الإصدار النهائي (Gold Master) من دليل الفريق الأحمر لنماذج اللغة الضخمة. يحتوي على منهج دراسي كامل وموحد مكون من 46 فصلاً يغطي كامل طيف أمن الذكاء الاصطناعي - بدءاً من حقن الأوامر والاختراق الجبري وصولاً إلى التعلم الآلي العدائي وهجمات التعلم الموحد.

الموارد الأساسية

1. دليل الفريق الأحمر لنماذج اللغة الضخمة (46 فصلاً، مكتمل)
   • دليل استشاري احترافي مع بيانات وصفية موحدة وملخصات وتنقل.
   • يغطي الأخلاقيات والهندسات المعمارية وأمن RAG والتهديدات المتعلقة بالوكلاء والامتثال (قانون الذكاء الاصطناعي الأوروبي/ISO 42001).
2. الدليل الميداني للفريق الأحمر لنماذج اللغة الضخمة
   • مرجع تشغيلي مضغوط للاستخدام الميداني (قوائم مرجعية، حمولات، منهجية).
3. إطار اختبار بايثون (scripts/)
   • مجموعات آلية لحقن الأوامر والاختبار العشوائي والتحقق من الأمان.

📁 هيكل المستودع

ai-llm-red-team-handbook/
├── docs/                                   # الدليل (الفصول 01-46)
│   ├── archive/                            # الإصدارات التاريخية
│   ├── assets/                             # الرسوم البيانية والمخططات والمساعدات البصرية
│   ├── field_manuals/                      # قوائم المراجعة التشغيلية والمراجع السريعة
│   ├── templates/                          # قوالب التقارير وبيانات العمل (SOW)
│   └── SUMMARY.md                          # جدول المحتويات الرئيسي
├── scripts/                                # أدوات الاختبار الآلي (بايثون)
├── workflows/                              # سير عمل CI/CD والأتمتة
├── .agent/                                 # الذاكرة والسياق الوكيلي
├── LICENSE                                 # رخصة CC BY-SA 4.0
└── README.md                               # هذا الملف

🚀 التثبيت والاستخدام

1. الاستكشاف اليدوي (الدليل)

الطريقة الأساسية لاستخدام هذا المستودع هي كمرجع.

• ابدأ من SUMMARY.md لتصفح جميع الفصول.
• اطلّع على الدليل الميداني للرجوع السريع أثناء العمل.

2. بيئة الاختبار الآلي

لتشغيل نصوص بايثون المقدمة للمسح والاختبار العشوائي:

المتطلبات الأساسية:

• Python 3.8+
• وصول عبر API إلى نموذج لغة ضخم مستهدف (OpenAI أو Anthropic أو Ollama محلي)

الإعداد:

# استنساخ المستودع
git clone https://github.com/shiva108/ai-llm-red-team-handbook.git
cd ai-llm-red-team-handbook

# تثبيت التبعيات
cd scripts
pip install -r config/requirements.txt

تشغيل الاختبارات:

# إعداد متغيرات البيئة (مفاتيح API)
cp .env.example .env
nano .env

# تشغيل مدير الاختبار
python examples/runner.py --target "gpt-4" --test "prompt_injection"

📖 خريطة الفصول (مكتملة)

ينقسم هذا الدليل إلى 8 أجزاء استراتيجية. جميع الفصول مكتملة ومدققة الآن.

الجزء الأول: الأسس المهنية

• الفصل 01-04: مقدمة، أخلاقيات، عقلية، قواعد الاشتباك.

الجزء الثاني: إعداد المشروع

• الفصل 05-08: نمذجة التهديدات، تحديد النطاق، إعداد المختبر، سلسلة الحفظ.

الجزء الثالث: الأساسيات التقنية

• الفصل 09-11: هندسة نماذج اللغة الضخمة، الرموز، المكونات الإضافية/API.

الجزء الرابع: أمن خط الأنابيب

• الفصل 12-13: خطوط أنابيب RAG، أمن سلسلة التوريد.

الجزء الخامس: الهجمات والتقنيات

• الفصل 14-24: حقن الأوامر، تسرب البيانات، الاختراق الجبري، استغلال API، التهرب، التسميم، سرقة النموذج، هجمات الحرمان من الخدمة (DoS)، الوسائط المتعددة، الهندسة الاجتماعية.

الجزء السادس: الدفاع والتخفيف

• الفصل 25-30: التعلم الآلي العدائي، الدفاع عن سلسلة التوريد، التعلم الموحد، الخصوصية، عكس النموذج، الأبواب الخلفية.

الجزء السابع: العمليات المتقدمة

• الفصل 31-39: الاستطلاع، أطر الهجوم، الأتمتة، التهرب من الدفاع، ما بعد الاستغلال، الإبلاغ، المعالجة، الاختراق الأحمر المستمر، برامج مكافآت الثغرات.

الجزء الثامن: مواضيع متقدمة

• الفصل 40-46: الامتثال (قانون الذكاء الاصطناعي الأوروبي)، أفضل الممارسات الصناعية، دراسات حالة، مستقبل الاختراق الأحمر، التهديدات الناشئة، بناء البرامج، الخاتمة.

🤝 المساهمة

نرحب بالمساهمات للحفاظ على حيوية هذا الدليل وتطويره.

1. قم بعمل Fork للمستودع.
2. أنشئ فرع ميزة (git checkout -b feature/new-jailbreak).
3. قدم طلب سحب (Pull Request) مع وصف واضح للتغيير.
4. يرجى التأكد من أن جميع المحتويات الجديدة تتبع قالب الفصل الموجود في docs/templates/.

⚠️ إخلاء المسؤولية

للاستخدام المصرح به في اختبار الأمان فقط.

التقنيات والأدوات الموصوفة في هذا المستودع هي للأغراض التعليمية وللاستخدام من قبل خبراء الأمان المصرح لهم لاختبار الأنظمة التي يملكونها أو لديهم إذن صريح لاختبارها.

• لا تستخدم هذه الأدوات على نماذج اللغة الضخمة العامة (مثل ChatGPT أو Claude) دون الامتثال لشروط الخدمة الخاصة بها.
• لا تستخدم هذه التقنيات لأغراض ضارة.

الكتّاب والمساهمون لا يتحملون أي مسؤولية عن سوء استخدام هذه المواد.

📬 الاتصال

• المشكلات: GitHub Issues
• الرخصة: CC BY-SA 4.0

الإصدار: 1.46.263