تعلم الآلة

openai/privacy-filter

نموذج تصنيف الرموز ثنائي الاتجاه لكشف وإخفاء المعلومات الشخصية القابلة للتعريف (PII) في النصوص، مع واجهة سطر أوامر (CLI) لتنقيح البيانات وتقييمها…

ml-security-research-lab/cachetrap

Research code for a gray-box trojan attack that flips a single KV-cache bit in fine-tuned LLM classifiers and measures per-class attack success rate.

binzhwang/actguard

دفاع تدقيق الإجراءات قبل التنفيذ الذي يكتشف ويحجب حقن الأوامر غير المباشر في وكلاء LLM المستخدمين للأدوات باستخدام استرجاع التضمين وتقييم الاحتمال…

off-by-1-labs/flawed

إصلاح القطع الأثرية المشابهة مع العيوب المدمجة

c2a2-at-florida-atlantic-university/gr-physec

وحدة GNU Radio لأمن الطبقة الفيزيائية باستخدام بصمة القناة بالتعلم العميق، وتكميم الميزات، وتوليد مفاتيح SHA3-512 من عينات SDR IQ.

xiaoyan-lisa/defenses-for-tool-integrated-llm

أبحاث برمجية وتجارب للدفاع عن وكلاء LLM المدمجين بالأدوات ضد الهجمات العدائية، مع توسيع Agent Security Bench باستراتيجيات دفاع جديدة وسيناريوهات…

zhou-cybersecurity-ai/synghost

شبح نحوي: هجمات باب خلفي عامة غير محسوسة على نماذج اللغة المُدرَّبة مسبقًا

siyuanli00/intact

كود بحثي يعيد إنتاج تجارب كسر حماية نماذج اللغة الكبيرة متعددة الأدوار (FITD، MRCJ، ActorAttack، X-Teaming) من ورقة التنظيم المنهجي الموجّه بالنية…

zdcslab/rubrics-as-an-attack-surface

بحث برمجي حول انحراف التفضيل المُحفَّز بالمعايير (RIPD): البحث التطوري عن المعايير، والاختيار الحافظ للمعايير المرجعية، وتقييم عدم توافق سياسة DPO في…

9xeb/context-segmentation

إدارة سياق آلية متعددة الوكلاء للمهام طويلة المدى في وكلاء الذكاء الاصطناعي المحليين

96kihyun/batch_jailbreak

يحتوي هذا المستودع على التنفيذ الرسمي للورقة البحثية "[Safety in Batches? Understanding and Mitigating Safety Failures in Batch Prompting]"

phkhanhtrinh23/agas

إطار هجوم ترويج جماعي قائم على الوكلاء مدفوع بنموذج لغوي كبير يتلاعب بترتيبات أنظمة التوصية القائمة على التصفية التعاونية ذات الصندوق الأسود باستخدام…

svdwi/bluebox

منصة استخبارات تهديدات مفتوحة المصدر لتحليل البرمجيات الخبيثة والمؤشرات القابلة للملاحظة. تُثري عناوين IP والنطاقات وروابط URL والتجزئات (hashes)…

ghostwolflab/ai_security_top

قاعدة معرفة منظمة تغطي أساسيات أمن الذكاء الاصطناعي، ونمذجة التهديدات، وتقنيات الهجوم للفريق الأحمر، ودفاعات الفريق الأزرق، بما في ذلك أمن نماذج…

davidc1212/craw

Robust audio watermarking framework embedding binary messages into magnitude spectrograms, with differentiable attack simulation, Q-Former pooling,…

atsukisato/pgm-attack

كود بحثي حول هجمات التسميم على PGM-index، يوضح كيفية صياغة بيانات خصومة لتدهور أداء الفهارس المُتعلَّمة.