#1أدوات الأمان القائمة على تعلم الآلة وتعلم الآلة العدائي والدفاع السيبراني المدعوم بالذكاء الاصطناعي.
موصى به من Kitploit
zju-llm-safety/darwinإطار عمل تطوري لكسر حماية نماذج اللغة الكبيرة (LLM) وحواجز الأمان، ينمّي مجموعة استراتيجيات قابلة لإعادة الاستخدام عبر الطفرة الجينية، واختيار…
albert-y1n/piforgeإطار عمل مفتوح لاختبار الاختراق الأحمر القائم على التعلم المعزز لحقن الأوامر، مع مدرب مشترك، وتعلم منهجي، ومعايير مثل AgentDojo وInjecAgent وPIArena.
123wwwa/flownameاستعادة معرّفات JavaScript من الجيل التالي باستخدام LLMs.
wsu-cyber-security-lab-ai/clipguardأداة تشويش الصور الخصومي التي تستخدم تقسيم SAM ونماذج CLIP لتجاوز مصنفات الصور الاحتيالية القائمة على الذكاء الاصطناعي لأغراض البحث الأمني.
sisl-uri/t-backdoorبحث كودي يطبق T-Backdoor، هجمات الباب الخلفي ذات المحفز الزمني على الشبكات العصبية النبضية باستخدام محفزات المعدل والكمون والاهتزاز دون اضطراب مكاني.
azzzzliao/aegis-audio-defenseDefense framework that keeps audio-language models frozen and adds a mid-layer risk gate with late-layer safety adapters to block audio jailbreaks at…
sumleo/rlcdalignbenchBenchmark suite and code for detecting AI alignment failures, with 44 benchmarks across ten failure types and a zero-shot RLCD detector evaluated on…
atomdrift-project/scanكشف البرمجيات الخبيثة ليوم الصفر للملفات الثنائية والمصدرية والسكربتات (التي لا تكون سيئة)
cbuijs/sdproxyوكيل DNS بسيط وسريع بميزات ليست بهذه البساطة. يركز على إعادة توجيه DNS الموجّه والتصفية والرقابة الأبوية.
selectstar-ai/finred-paperfinance domain specific red-teaming benchmark evaluation rubric
alex66366/odpureدفاع تنقية المرحلة المدخلة بالصندوق الأسود الذي يحيد هجمات الباب الخلفي على كاشفات الأجسام عبر التلف والتشويش وإعادة البناء بالانتشار والتصويت…
norrrrrrr-lyn/wainjectbenchاختبار كشف حقن الأوامر لوكلاء الويب.
zjuwyh/shadowmemإطار دفاعي يحافظ على ذاكرة ظل تركز على السلامة لاكتشاف وحظر هجمات حقن الأوامر والتهديدات طويلة المدى ضد وكلاء LLM قبل تنفيذ الإجراءات.
resharma/ajarقياس الامتيازات المفتوحة في دفاعات الوكيل
usama1002/deleting-the-traceتجارب لكبت سلسلة التفكير برموز التحكم وهجمات تساهل المحلل اللغوي على وكلاء النماذج اللغوية الكبيرة المستخدمة للأدوات
bardlaudian/cve-2024-37054إثبات مفهوم يقوم بتسميم النماذج المسجلة في MLflow عبر REST API، حيث يضمّن pickle خبيثًا لتفعيل تنفيذ التعليمات البرمجية عن بُعد (RCE) عند تحميل…
clearlotus-git/cve-2024-37054-pocمستودع إثبات مفهوم وبحثي لـ CVE-2024-37054، وهو خلل في إلغاء التسلسل غير الآمن في تحميل نموذج MLflow PyFunc يمكن أن يؤدي إلى تنفيذ تعليمات برمجية عن…
safety-research/red-teaming-auto-modeResearch code for red-teaming AI auto-mode monitors, including simulation evals, fuzzing, and monitor implementations for Claude Code and Codex…
