#1أطر هجوم التعلم الآلي العدائي وتقنيات التهرب وأدوات تقييم متانة النموذج.
موصى به من Kitploit
matheusht/redthreadمحرك اختبار Red-Teaming مستقل لنماذج اللغة الكبيرة (LLMs). يدير RedThread دورة حياة الأمان الكاملة: توليد هجمات خصومية، وتنفيذ تقييمات دقيقة، وتوليف…
nvidia/garakModular LLM vulnerability scanner that probes for hallucination, data leakage, prompt injection, jailbreaks, and toxicity using static, dynamic, and…
breachsimrange/redteamsimmerمنصة محاكاة الخصوم القائمة على الويب التي تنسّق اختبارات Atomic Red Team عبر نقاط نهاية Windows عبر وكلاء Go، مع ربط MITRE ATT&CK، وخطط محاكاة APT،…
pixee/compaction-launderingأبحاث أمنية حول ضغط السياق في وكلاء البرمجة: توضح كيف تنجو تسميات الأدوار المزوّرة في المحتوى غير الموثوق من عملية التلخيص ويتم تنفيذها، مع قياسات…
cybrly/badsuccessorيستغل ثغرة تصعيد الامتيازات dMSA في Windows Server 2025 لتعداد وحدات التنظيم (OUs) القابلة للكتابة، وتصعيد الصلاحيات إلى مستخدمي النطاق العشوائيين،…
guillaumemeyer/watermarks-removerتطبيق يضع الخصوصية أولاً ويزيل العلامات المائية للذكاء الاصطناعي من المحتوى الذي تملكه.
meridianlabs-ai/inspect_petriوكيل تدقيق محاذاة قادر على استكشاف فرضيات المحاذاة بسرعة
mastyf-ai/mastyf.aiOpen-source AI security platform providing perimeter defense for LLMs and AI agents through swarm analysis, policy enforcement, adversarial testing,…
promptfoo/modelauditماسح أمني لملفات نماذج الذكاء الاصطناعي/التعلم الآلي. يكتشف الشيفرات الخبيثة، والأبواب الخلفية، والثغرات قبل النشر.
suels-group/beyond_asrبحثي كود لقياس معدلات نجاح هجمات كسر الحماية (ASR وstepwise ASR) ضد النماذج اللغوية الكبيرة (LLMs)، مع تطبيقات لهجمات مثل GCG ونصوص التقييم.
dovughs/mora-hwbpمحرك ربط (Hooking) في وضع المستخدم بدون تصحيح (Patch-less) يعتمد على نقاط توقف الأجهزة (DR0-DR7)، وأدوات قياس عن بُعد (Telemetry Instrumentation) —…
ericyoc/ai-security-literacyخط أنابيب Colab قابل لإعادة الإنتاج يرسّخ ستة أبعاد لكفاءة الأمن السيبراني بالذكاء الاصطناعي في معايير عامة وبيانات استقصائية دقيقة، وينتج رسومًا…
ukanwat/guardrebindبحث وشيفرة معيارية ودفاع ضد هجمات إعادة ربط الهدف التي تخدع حرّاس سلامة نماذج اللغة الكبيرة (LLM) ليجعلوها تُقيّم محتوى مُضلِّلًا مزوّرًا، إضافةً إلى…
goochbeater/spiritual-spell-red-teamingمستودع لكسر قيود نماذج اللغة الكبيرة المختلفة، وبشكل أساسي Claude.
aniketkarne/aco-prompt-shieldأوقف هجمات حقن الأوامر قبل أن تصل إلى نموذج LLM الخاص بك — بدون تكاليف API، يعمل محليًا بالكامل، ويتكامل في دقيقتين. يُعد حقن الأوامر الخطر الأمني #1…
shaheeryasirofficial/smugglemypayloadينشئ صفحات تهريب HTML تُضمّن الملفات وتعيد بناءها من جانب العميل عبر JavaScript، مع ترميز الحمولة وتقسيمها إلى أجزاء وتشويشها وقوالب إغراء تصيّد.
meta-llama/purplellamaمجموعة أدوات لتقييم وتحسين أمان LLM.
yzhao062/pyodمكتبة بايثون لكشف الشذوذ في البيانات الجدولية والسلاسل الزمنية والرسوم البيانية والنصوص والصور والبيانات الصوتية. تضم أكثر من 60 كاشفًا، وتنسيق…
