#1أدوات أمان LLM وحقن المطالبات واستخراج النماذج والذكاء الاصطناعي العدائي وأدوات الفريق الأحمر للذكاء الاصطناعي.
موصى به من Kitploit

إثبات مفهوم يقوم بتسميم النماذج المسجلة في MLflow عبر REST API، حيث يضمّن pickle خبيثًا لتفعيل تنفيذ التعليمات البرمجية عن بُعد (RCE) عند تحميل…
إطار دفاعي يخفف من الضبط الدقيق الخبيث لنماذج اللغة الكبيرة (LLMs) باستخدام استعادة الطبقات الانتقائية والتوجيه الديناميكي، مع نصوص برمجية للتدريب…

Benchmark harness that evaluates LLM agent tool-calling security under long-horizon tasks, generating prompt-injection and tool-poisoning attacks and…

بروتوكول تفويض استخدام الأسرار — استخدام الأسرار على مستوى البروتوكول للأنظمة الوكيلية

دفاع ضد حقن المطالبات عبر الإخفاء الستيغاني للذكاء الاصطناعي الوكيلي باستخدام ربط المصدر وقت فك التشفير، ومصادقة HMAC، وفرض الثقة في MCP.

إعادة إنتاج حميدة ومكتفية ذاتيًا لـ CVE-2026-61732 (تزوير حدود الدور في Decepticon ChatML)

OpenMed < 1.5.2 ثغرة تنفيذ برمجيات عن بُعد (RCE) بدون مصادقة عبر تحميل نموذج عامل تصفية الخصوصية للبيانات الشخصية (PII) مع trust_remote_code=True

محرك فرز أمني بلغة Python من المكتبة القياسية يفحص تطبيقات الويب وواجهات API والنماذج اللغوية الكبيرة وحزم الجوال عبر فحص الترويسات السلبي، والتحقيق…

الكود الرسمي لورقة ISSTA 2026: هل "معرفة أنه ضار" كافية؟ تقييم LLMs للتدقيق الدقيق لسلوك البرمجيات الخبيثة

إثبات مفهوم وتصحيح لـ CVE-2026-57845: تنفيذ تعليمات عن بُعد (RCE) عبر إلغاء تسلسل pickle في مُنشئ pandas الخاص بمكتبة datasets من Hugging Face، مع نص…

لوحة تحكم موحدة لمراقبة وإدارة وتدقيق وكلاء الذكاء الاصطناعي في الوقت الفعلي. فرض الميزانيات، اكتشاف انتهاكات السياسات، وتصدير تقارير الامتثال…

تم تحديث بيئة CybORG CAGE 2 من أجل الورقة البحثية "Alignment of Autonomous Cyber Defense Agents via Adaptive Policy Shaping"

إعادة تقييم كاشفات حقن الأوامر على مخرجات أدوات وكيل LLM (مسودة ورقة، نصوص برمجية، نتائج)

أداة بحث لتحليل أنماط سلوك وكلاء الذكاء الاصطناعي من خلال تحليل متعدد التخصصات للمجموعات النصية. تقوم بتحليل سجلات الجلسات، وتشغيل 23 تقنية تحليلية،…

OWASP guide defining a standardized penetration testing methodology for humanoid, industrial, and autonomous robots, covering ROS/ROS2, DDS, CAN bus,…

يحلل الحالات الداخلية لنماذج LLM وأكثر من 100 ميزة من ميزات الانتباه/الاحتمالات لتدريب مصنفات تكتشف هجمات تسميم المستندات في أنظمة RAG.

إطار دفاعي يُبقي نماذج اللغة الصوتية مجمّدة ويضيف بوابة مخاطر في الطبقة الوسطى مع محوّلات أمان في الطبقات المتأخرة لصدّ اختراقات الحماية الصوتية عند…

إطار دفاعي يفرض سياسة أصل التوجيه (routed origin policy) لمنع حقن التعليمات غير المباشر في وكلاء نماذج اللغة الكبيرة (LLM) التي تستخدم الأدوات، مع…