#1أطر هجوم التعلم الآلي العدائي وتقنيات التهرب وأدوات تقييم متانة النموذج.
موصى به من Kitploit
safety-research/bloomإطار تقييم سلوكي آلي لنماذج LLMs يولد سيناريوهات اختبار متنوعة لفحص التملق والتحيز وغيرها من السلوكيات ذات الصلة بالسلامة، مع تكوينات بذور (seed)…
praetorian-inc/augustusإطار اختبار أمني لنماذج اللغة الكبيرة (LLM) لكشف حقن الأوامر (prompt injection) والاختراقات (jailbreaks) والهجمات المعادية (adversarial attacks) —…
nvidia/garakModular LLM vulnerability scanner that probes for hallucination, data leakage, prompt injection, jailbreaks, and toxicity using static, dynamic, and…
josh-blythe/bordair-multimodalمجموعة اختبارات حقن الأوامر عبر الوسائط والمتعددة الوسائط مفتوحة المصدر. أكثر من 250,000 حمولة هجومية عبر نصوص وصور ومستندات ووسائط صوتية. مدعومة…
adityabhatt3010/cve-2025-54794-hijacking-claude-ai-with-a-prompt-injection-the-jailbreak-that-talked-backثغرة حقن مطالبات عالية الخطورة في Claude AI تثبت أنه حتى أذكى نماذج اللغة يمكن تحويلها إلى أسلحة — كل ذلك ببضعة أسطر من التعليمات البرمجية.
aniketkarne/aco-prompt-shieldأوقف هجمات حقن الأوامر قبل أن تصل إلى نموذج LLM الخاص بك — بدون تكاليف API، يعمل محليًا بالكامل، ويتكامل في دقيقتين. يُعد حقن الأوامر الخطر الأمني #1…
meridianlabs-ai/inspect_petriوكيل تدقيق محاذاة قادر على استكشاف فرضيات المحاذاة بسرعة
fallen-angel-systems/fas-judgement-ossوحدة تحكم هجوم حقن المطالبات مفتوحة المصدر. اختبر أمان الذكاء الاصطناعي عن طريق إطلاق هجمات مصنفة على أي نقطة نهاية.
canonicalmg/reverse-captcha-evalإطار تقييم يختبر ما إذا كانت نماذج اللغة الكبيرة تتبع تعليمات مشفرة بـ Unicode غير مرئية مضمنة في نص عادي المظهر، مع تحليل إحصائي عبر نماذج متعددة…
jpoindexter/interrogation-gameلعبة استجواب بوليسية تعتمد على الصوت. Mistral Large 3 + Voxtral STT + ElevenLabs TTS. تم بناؤها من أجل Mistral Worldwide Hackathon 2026.
acedef/synthaptإطار عمل لمحاكاة الخصوم يعتمد على الكتيبات التشغيلية (playbooks) يقوم بتجميع مسارات الهجوم المُعرَّفة بصيغة JSON إلى حمولات شيلكود مستقلة عن الموقع…
ottosulin/awesome-ai-securityA collection of awesome resources related AI security
0xsojalsec/uncensored-aiإزالة الرقابة التلقائية الكاملة لنماذج اللغة
funnywolf/viperمنصة محاكاة الخصم واختبار الاختراق الهجومي مع الذكاء الاصطناعي
promptfoo/promptfooاختبر الموجهات (prompts) والوكلاء (agents) وأنظمة RAG. الاختراق الهجومي/اختبار الاختراق/فحص الثغرات للذكاء الاصطناعي. قارن أداء GPT وClaude وGemini…
cchio/deep-pwningMetasploit للتعلم الآلي.
govolution/avetأداة التهرب من برامج مكافحة الفيروسات
nextronsystems/aptsimulatorمجموعة أدوات لجعل النظام يبدو وكأنه ضحية هجوم APT.
