الهجوم العدائي

atsukisato/pgm-attack

كود بحثي حول هجمات التسميم على PGM-index، يوضح كيفية صياغة بيانات خصومة لتدهور أداء الفهارس المُتعلَّمة.

pwnhyo/t-map

إطار بحث تطوري مدرك للمسار لاختبار الوكلاء اللغويين الكبار (LLM) عبر خوادم MCP، لتوليد مطالبات عدائية لرسم خرائط مشهد الثغرات عبر فئات المخاطر.

chanwoochoi316/kidnaprag

إطار عمل هجوم الصندوق الأسود الذي يختطف الاستدلال في أنظمة التوليد المعزز بالاسترجاع الوكيلية عن طريق حقن مستندات مسمومة، مع دعم لعدة طرق هجوم…

jaewonalive/camodocs

تنفيذ بحثي لهجوم تسميم ضد نماذج اللغة المعززة بالاسترجاع باستخدام مستندات مموهة للتهرب من دفاعات التصفية وتحفيز إجابات غير صحيحة.

ai45lab/skill-safety-bench

معيار لتقييم سلامة وكلاء الذكاء الاصطناعي ضد الهجمات المدمجة في السياق الموجه للمهارات، مع 155 حالة عبر 6 مجالات خطر، لقياس نجاح المهام ومقاومة…

davidcarliez/trustmebro

تجاوز الحواجز الوقائية لنماذج اللغات الكبيرة (LLM) عن طريق إرباكها بمخرجات أدوات مزيّفة.

george0papasotiriou/llm-jailbreak-via-chain-of-logic-injection-cve-2026-3098

تقنية حقن مطالبات متعددة المراحل تتجاوز محاذاة السلامة في نماذج اللغات الكبيرة عبر إعادة تعيين الهوية، وقمع الرفض، والإكراه على الإخراج، مما يؤثر على…

pppyb/secopd

تطبيق بحثي للتخفيف من حقن التعليمات التكيفية عبر التقطير على السياسة (on-policy distillation)، مع وصفات تدريب ومقيمات لمعايير SEP وPISmith وAgentDojo.

csoai-org/memory-poisoning-axis

🧪 Measures memory-poisoning / prompt-injection deterministically — anchored to CVE-2026-24301 (CoSnitch), Inspect scorer, signed receipts.…

ricardojoserf/crystalpotato

نسخة Crystal من GodPotato لاستغلال صلاحية SeImpersonatePrivilege باستخدام استدعاءات النظام غير المباشرة، وحل واجهات برمجة التطبيقات (API) ديناميكيًا،…

trusted-ai/adversarial-robustness-toolbox

مكتبة Python لأمن التعلم الآلي العدائي، تمكّن فرق الأحمر والأزرق من تنفيذ هجمات ودفاعات التهرب والتسميم والاستخراج والاستدلال عبر أطر التعلم الآلي…

cleverhans-lab/cleverhans

مكتبة أمثلة خصومية لبناء الهجمات، وبناء الدفاعات، وتقييم أداء كليهما.

bethgelab/foolbox

صندوق أدوات بلغة بايثون لإنشاء أمثلة عدائية تخدع الشبكات العصبية في PyTorch وTensorFlow وJAX

protectai/modelscan

الحماية من هجمات تسلسل النماذج

seldonio/alibi-detect

خوارزميات لكشف القيم الشاذة والهجمات العدائية والانحراف

splx-ai/agentic-radar

ماسح أمني لسير عمل نماذج اللغة الكبيرة الوكيلية

thuyimingli/backdoor-learning-resources

قائمة منسّقة من الأوراق البحثية والدراسات الاستقصائية وصناديق الأدوات حول تعلّم الباب الخلفي، تُنظّم الهجمات القائمة على التسميم والدفاعات في التعلم…