telefonica/omlaspإطار عمل لتدقيق خوارزميات التعلم الآلي ضد الهجمات والتحيزات العدائية، يوفر أدوات تعليمية وورقة بحثية أكاديمية لسد الفجوة المعرفية في أمن التعلم الآلي لمحترفي الأمن السيبراني.
_____ _______ _______ _______ _____
| | | | | | |_____| |______ |_____]
|_____| | | | |_____ | | ______| |
OMLASP - مشروع أمان تطبيقات التعلم الآلي المفتوح يهدف إلى أن يصبح معيارًا لتدقيق خوارزميات التعلم الآلي. لن يركز فقط على أمان الخوارزميات ولكن أيضًا على تحيزاتها. عادةً، عند نشر التطبيقات التي تستخدم خوارزميات التعلم الآلي أو التعلم العميق، يتم فقط فحص الثغرات التقليدية من عمليات التدقيق الأمني. ومع ذلك، فإن هذه الخوارزميات معرضة أيضًا لثغرات أخرى يمكن استغلالها من قبل المهاجمين والتي سيتم تناولها في هذا الإطار أو مجموعة الأدوات. هناك الكثير من المعلومات على الإنترنت حول هذه الهجمات ولكنها مجزأة، وعادةً ما تكون تعليمية أو مباشرة في الأوراق الأكاديمية. نريد إحضار تقنيات الهجوم هذه إلى عالم الأمن السيبراني الذي ليس خبيرًا في التعلم الآلي. لقد فكرنا في شيء نعرفه جميعًا في عالم الأمن السيبراني: مصفوفة MITRE ATT&CK أو تكتيكات المهاجم وتقنياته ومعرفته المشتركة.
يوفر لنا OMLASP تنفيذ أدوات بسيطة موجهة لأداء بعض الهجمات التي ذكرناها وسنراها الآن عمليًا. جميع كود مصدر OMLASP، المكتوب بلغة Python وهو مفتوح المصدر، مُعد للتعديل وفقًا لاحتياجات مدقق الأمن. تم أيضًا تضمين ورقة أكاديمية تحتوي على جميع النظريات ذات الصلة المستخدمة في تنفيذ هذه الأدوات.
جميع المتطلبات اللازمة لتشغيل الأدوات المختلفة موجودة في الدليل الخاص بها. يوجد أيضًا ملف README يحتوي على جميع المعلومات اللازمة لتشغيله بشكل صحيح. لقد اختبرنا الأدوات على Linux و Windows 11. من المهم للحصول على أداء أفضل (على الرغم من أنه ليس مطلوبًا)، أن يكون لديك 16 جيجابايت من RAM و GPU.
اطلع على ملفات README الموجودة داخل كل مجلد يتوافق مع كل أداة.
هذا المشروع مرخص بموجب رخصة GNU العامة - انظر ملف LICENSE للحصول على التفاصيل
البرنامج مُقدم "كما هو"، دون أي ضمان من أي نوع، صريح أو ضمني، بما في ذلك على سبيل المثال لا الحصر ضمانات القابلية للتسويق، الملاءمة لغرض معين وعدم الانتهاك. في أي حال من الأحوال، لا يتحمل المؤلفون أو أصحاب حقوق النشر المسؤولية عن أي مطالبة أو أضرار أو مسؤولية أخرى، سواء في دعوى تعاقدية أو تقصيرية أو غير ذلك، تنشأ عن أو بسبب أو فيما يتعلق بالبرنامج أو استخدامه أو تعاملات أخرى معه. عندما تقدم مساهمة إلى مستودع يحتوي على إشعار ترخيص، فإنك ترخص مساهمتك بموجب نفس الشروط، وتوافق على أن لديك الحق في ترخيص مساهمتك بموجب تلك الشروط. إذا كان لديك اتفاقية منفصلة لترخيص مساهماتك بشروط مختلفة، مثل اتفاقية ترخيص المساهم، فإن تلك الاتفاقية ستسود.
لا يحتوي هذا البرنامج على عملية ضمان الجودة. هذا البرنامج هو إثبات مفهوم.
إذا كان لديك أي مشاكل أو أسئلة، يرجى الاتصال بـ: