Awesome AI Security

قائمة منسّقة من الأطر والمعايير وموارد التعلّم والأدوات مفتوحة المصدر المتميزة المتعلقة بأمن الذكاء الاصطناعي.
إذا كنت ترغب في المساهمة، فأنشئ طلب سحب (PR) أو تواصل معي @ottosulin.
جدول المحتويات
موارد التعلّم
القراءة والأدلة
الدورات والمعامل ومسابقات CTF
- Memory Poisoning Lab - معمل تعليمي محلي بلغة Python لتسميم الذاكرة والدفاع عنها وإصلاحها، باستخدام بيانات اصطناعية ووكيل مُبرمج.
- Damn Vulnerable MCP Server - تنفيذ مُعرَّض للثغرات عمدًا لبروتوكول سياق النموذج (MCP) لأغراض تعليمية.
- otto-support - تنفيذ خادم MCP مُعرَّض للثغرات باستخدام mcp-go مع مصادقة متعددة المستويات (4 أدوار)، و19 أداة، وحاوية معزولة مدمجة مع Claude Code للتدريب على تصعيد الامتيازات وإساءة استخدام الأدوات.
- OWASP WrongSecrets LLM exercise
- vulnerable-mcp-servers-lab - مجموعة من الخوادم المُعرَّضة للثغرات عمدًا لتعلّم اختبار اختراق خوادم MCP.
- FinBot Agentic AI Capture The Flag (CTF) Application - FinBot هي منصة تفاعلية لأمن الوكلاء بنمط Capture The Flag (CTF) تحاكي ثغرات واقعية في أنظمة الذكاء الاصطناعي الوكيلية باستخدام تطبيق محاكى موجّه نحو الخدمات المالية.
- AI-Red-Teaming-Playground-Labs - معامل تدريب الفريق الأحمر للذكاء الاصطناعي لتشغيل تدريبات الفريق الأحمر للذكاء الاصطناعي بما في ذلك البنية التحتية.
- Damn Vulnerable LLM Agent - وكيل LLM مُعرَّض للثغرات عمدًا لتعلّم حقن الأوامر النصية وإساءة استخدام الأدوات وأمن الوكلاء
-
- LLMVault - معمل مفتوح المصدر لأمن LLM بنمط CTF لتعلّم قائمة OWASP LLM Top 10 من خلال تمارين تطبيقية مُعرَّضة للثغرات تغطي حقن الأوامر النصية وهجمات RAG وتسريب أوامر النظام وإساءة استخدام الأدوات وأمن الوكلاء.
- AIGoat - ملعب مفتوح المصدر لأمن الذكاء الاصطناعي لاختبار الفريق الأحمر لـ LLM: 17 معمل هجوم يغطي كامل قائمة OWASP LLM Top 10، و9 تحديات CTF، و3 مستويات دفاع متدرجة، تعمل محليًا باستخدام Ollama.
- Pwned Labs indirect prompt injection lab - معمل تطبيقي مجاني: تعليمات مزروعة في محتوى مسترجع تدفع مساعد ذكاء اصطناعي إلى تجاوز حدود الثقة الخاصة به والوصول إلى تخزين Azure وبيانات اعتماد النشر. ويغطي معمل الحقن المباشر الخطوة الأولى.
البودكاست
الحوكمة وإدارة المخاطر