owasp/www-project-top-10-for-large-language-model-applicationsأفضل 10 من OWASP لتطبيقات نماذج اللغة الكبيرة (جزء من مشروع أمان GenAI)
مستودع ويب مؤسسة OWASP
مرحبًا بكم في المستودع الرسمي لـ OWASP Top 10 لتطبيقات نماذج اللغة الكبيرة!
يحتوي هذا المستودع على OWASP Top 10 لتطبيقات نماذج اللغة الكبيرة، والذي يقع الآن تحت مظلة مشروع OWASP GenAI Security Project الشامل. مشروع OWASP GenAI Security Project هو مبادرة عالمية مفتوحة المصدر مكرسة لتحديد وتخفيف وتوثيق مخاطر الأمان والسلامة المرتبطة بتقنيات الذكاء الاصطناعي التوليدي.
قم بزيارة موقع مشروعنا الرئيسي: genai.owasp.org
إن OWASP Top 10 لتطبيقات نماذج اللغة الكبيرة هو وثيقة توعية قياسية للمطورين وأمن تطبيقات الويب. يمثل إجماعًا واسعًا حول أهم مخاطر الأمان لتطبيقات نماذج اللغة الكبيرة (LLM). هناك أطر عمل أخرى قائمة داخل وخارج OWASP لا ينبغي الخلط بينها وبين هذا المشروع، وهو موجه حاليًا فقط لأمان تطبيقات LLM.
جمهورنا الأساسي هم المطورون وعلماء البيانات وخبراء الأمان المكلفون بتصميم وبناء التطبيقات والإضافات التي تستفيد من تقنيات LLM. نهدف إلى تقديم إرشادات أمان عملية وقابلة للتنفيذ وموجزة لمساعدة هؤلاء المحترفين على التنقل في التضاريس المعقدة والمتطورة لأمان تطبيقات LLM.
الهدف الأساسي من هذا المشروع هو تقديم دليل مفهوم وقابل للتبني للتنقل عبر المخاطر الأمنية المحتملة في تطبيقات LLM. تعمل قائمتنا العشر الأولى كنقطة انطلاق للمطورين ومحترفي الأمان الجدد في هذا المجال، وكمرجع لمن هم أكثر خبرة.
مهمتنا هي جعل أمان التطبيقات مرئيًا، بحيث يمكن للأفراد والمؤسسات اتخاذ قرارات مستنيرة بشأن مخاطر أمان التطبيقات المتعلقة بـ LLM. على الرغم من أن قائمتنا تشترك في الحمض النووي مع أنواع الثغرات الموجودة في قوائم OWASP Top 10 الأخرى، إلا أننا لا نكرر هذه الثغرات ببساطة. بدلاً من ذلك، نتعمق في الآثار الفريدة لهذه الثغرات عند مواجهتها في التطبيقات التي تستخدم LLM.
هدفنا هو سد الفجوة بين مبادئ أمان التطبيقات العامة والتحديات المحددة التي تطرحها LLM. تشمل أهداف المجموعة استكشاف كيف يمكن للثغرات التقليدية أن تشكل مخاطر مختلفة أو يتم استغلالها بطرق جديدة داخل LLM، وكيف يجب على المطورين تكييف استراتيجيات المعالجة التقليدية للتطبيقات التي تستخدم LLM.
تم تقديم النسخة الأولى من هذه القائمة بواسطة Steve Wilson من Contrast Security. نشجع المجتمع على المساهمة والمساعدة في تحسين المشروع. إذا كان لديك أي اقتراحات أو ملاحظات أو تريد المساعدة في تحسين القائمة، فلا تتردد في فتح issue أو إرسال pull request.
لدينا قناة مجموعة عمل على OWASP Slack، لذا يرجى التسجيل ثم الانضمام إلينا على قناة #project-top10-llm.
تعلم كيفية المساهمة: https://genai.owasp.org/contribute/
هذا المشروع مرخص بموجب شروط رخصة Creative Commons Attribution-ShareAlike 4.0 International.
