#1أدوات الأمان القائمة على تعلم الآلة وتعلم الآلة العدائي والدفاع السيبراني المدعوم بالذكاء الاصطناعي.
موصى به من Kitploit
hannahxchen/llm-censorship-steeringكود خاص بـ 'توجيه سفينة الرقابة: كشف متجهات التمثيل للتحكم في "تفكير" LLM'
mamadou-keita/deeclipتنفيذ ورقة بحثية بعنوان "DeeCLIP: إطار عمل قوي وقابل للتعميم قائم على المحولات لكشف الصور المولدة بالذكاء الاصطناعي"
aniketkarne/aco-prompt-shieldأوقف هجمات حقن الأوامر قبل أن تصل إلى نموذج LLM الخاص بك — بدون تكاليف API، يعمل محليًا بالكامل، ويتكامل في دقيقتين. يُعد حقن الأوامر الخطر الأمني #1…
jinxhy/awesome-moai-securityقائمة قراءة منسقة وتصنيف لأبحاث الهجوم والدفاع لأنظمة الذكاء الاصطناعي على الأجهزة المحمولة، تغطي الهجمات العدائية، والخلفية، وسرقة النماذج، وهجمات…
safety-research/red-teaming-auto-modeResearch code for red-teaming AI auto-mode monitors, including simulation evals, fuzzing, and monitor implementations for Claude Code and Codex…
deep-jlu/skillpoisonخط أنابيب بحثي يبني تجارب ناجحة موثّقة وينظّمها في سجلات تشكيل لتسميم مهارات النموذج تدريجيًا عبر مراحل HTS وLEGSA وGCTIR.
wang-yanting/agentwatcherإسناد السياق السببي ودفاع LLM عبر مراقب قائم على القواعد ضد حقن التعليمات غير المباشر في وكلاء LLM، مع تحقيق أداء في المستوى الأحدث على AgentDyn…
mouna23/ai-driven-mitre-attackيوضح هذا المستودع خط أنابيب تعلم آلي لكشف تقنيات MITRE ATT&CK من السجلات وإثراء المخرجات باستخدام LLM محلي.
rin449/bhpaiمنصة تحليل برمجيات خبيثة متعددة الصيغ تجمع بين صندوق رملي خفي من نوع Ring-3 لنظام Windows، ومحللات ثابتة لملفات PE/PDF، واستعادة مفاتيح برامج الفدية،…
abhinavdubey30/perturbed-embedding-vectorsالكود وسجلات الاستجابة والتسميات الخاصة بالورقة البحثية "Jailbreaking Open-Weight LLMs via Random Embedding Perturbations"
ye-ze-yu/epireal-benchمعيار للفريق الأحمر وإطار هجوم الصندوق الأسود لتقييم مخاطر التضليل البصري في مولّدات الصور التجارية، مع 10 آلاف مطالبة بادعاءات كاذبة ونصوص برمجية…
multimodal-ai-lab/tobacثغرات الباب الخلفي في النماذج الانحدارية الذاتية الموحّدة، رمزاً برمز: الاختراق (NeurIPS'26)
canonicalmg/reverse-captcha-evalإطار تقييم يختبر ما إذا كانت نماذج اللغة الكبيرة تتبع تعليمات مشفرة بـ Unicode غير مرئية مضمنة في نص عادي المظهر، مع تحليل إحصائي عبر نماذج متعددة…
kevinchunye/prompt_injectionأداة قياس مرجعية تقيس أين تُفعَّل دفاعات حقن الأوامر في خطوط أنابيب وكلاء النماذج اللغوية الكبيرة التي تستخدم الأدوات، وتتتبع رموز الكناري عبر مراحل…
clearlotus-git/cve-2024-37054-pocمستودع إثبات مفهوم وبحثي لـ CVE-2024-37054، وهو خلل في إلغاء التسلسل غير الآمن في تحميل نموذج MLflow PyFunc يمكن أن يؤدي إلى تنفيذ تعليمات برمجية عن…
bardlaudian/cve-2024-37054إثبات مفهوم يقوم بتسميم النماذج المسجلة في MLflow عبر REST API، حيث يضمّن pickle خبيثًا لتفعيل تنفيذ التعليمات البرمجية عن بُعد (RCE) عند تحميل…
