gmh5225/nova-frameworkمحرك مطابقة أنماط أوامر مستوحى من YARA يجمع بين قواعد الكلمات المفتاحية والتعبيرات النمطية والتشابه الدلالي وتقييم LLM لاكتشاف تجاوزات الحماية (jailbreaks) وإساءة استخدام LLM.
يجري اعتماد أنظمة الذكاء الاصطناعي التوليدي ونشرها بوتيرة متسارعة عبر المؤسسات. وبينما تعزز الإنتاجية والكفاءة، فإنها توسع أيضًا سطح الهجوم.
كيف تكتشف الاستخدام المسيء لنظامك؟ كيف تتعقب الأوامر النصية الخبيثة؟ سواء كان الأمر يتعلق بتحديد محاولات كسر الحماية (jailbreaking)، أو منع الإضرار بالسمعة، أو رصد السلوكيات غير المتوقعة، فإن تتبع أساليب تكتيكات وتقنيات وإجراءات (TTPs) الأوامر النصية يمكن أن يكون مفيدًا جدًا لتتبع استخدام أنظمة الذكاء الاصطناعي الخاصة بك.
وهنا يأتي دور NOVA!
🚧 إخلاء المسؤولية: NOVA حاليًا في مرحلة تجريبية (beta). توقّع وجود أخطاء محتملة وميزات غير مكتملة وتحسينات مستمرة. إذا اكتشفت خطأً، فيرجى الإبلاغ عنه هنا.
NOVA هو نظام مفتوح المصدر لمطابقة أنماط الأوامر النصية يجمع بين الكشف عن الكلمات المفتاحية، والتشابه الدلالي، والتقييم القائم على نماذج اللغة الكبيرة (LLM) لتحليل محتوى الأوامر النصية والكشف عنه.
مستوحاة من صيغة YARA، فإن قواعد NOVA قابلة للقراءة ومرنة، وهي مثالية لتعقب الأوامر النصية والكشف عن التهديدات.
rule RuleName
{
meta:
description = "Rule description"
author = "Author name"
keywords:
$keyword1 = "exact text"
$keyword2 = /regex pattern/i
semantics:
$semantic1 = "semantic pattern" (0.6)
llm:
$llm_check = "LLM evaluation prompt" (0.7)
condition:
keywords.$keyword1 or semantics.$semantic1 or llm.$llm_check
}
pip install nova-hunting
هذا المشروع مرخّص بموجب MIT License.
أُنشئ ويُصان بواسطة fr0gger.