owasp/aisvsيركز معيار التحقق من أمان الذكاء الاصطناعي (AISVS) على تزويد المطورين والمهندسين المعماريين ومتخصصي الأمن بقائمة تحقق منظمة للتحقق من أمان التطبيقات المعتمدة على الذكاء الاصطناعي.
هذا العمل مرخّص بموجب رخصة المشاع الإبداعي نَسب المُصنَّف - الترخيص بالمثل 4.0 دولي.
معيار التحقق من أمن الذكاء الاصطناعي (AISVS) هو كتالوج مجتمعي لمتطلبات أمنية قابلة للاختبار للأنظمة المُمكَّنة بالذكاء الاصطناعي. يمنح المطوّرين والمهندسين المعماريين ومهندسي الأمن والمدقّقين إطارًا منظّمًا لتصميم وبناء واختبار والتحقق من أمن تطبيقات الذكاء الاصطناعي طوال دورة حياتها، من جمع البيانات وتدريب النماذج إلى النشر والمراقبة والإيقاف.
AISVS مستوحى من معيار التحقق من أمن التطبيقات (ASVS) من OWASP ويتبع الفلسفة ذاتها: يجب أن يكون كل متطلب قابلًا للتحقق، وقابلًا للاختبار، وقابلًا للتنفيذ.
أسّس هذا المشروع Jim Manico. تشمل القيادة الحالية للمشروع Jim Manico وOtto Sulin وRico Komenda وRuss Memisyazici.
| المعيار | التركيز | علاقة AISVS |
|---|---|---|
| OWASP ASVS | أمن تطبيقات الويب | يوسّع AISVS مفاهيم ASVS لتشمل التهديدات الخاصة بالذكاء الاصطناعي |
| OWASP Top 10 for LLMs | الوعي بأهم مخاطر LLM | يوفّر AISVS الضوابط التفصيلية للتخفيف من تلك المخاطر |
| OWASP Top 10 for Agentic Applications | الوعي بأهم مخاطر الذكاء الاصطناعي الوكيلي | يوفّر AISVS الضوابط التفصيلية لمعالجة التهديدات الخاصة بالوكلاء |
| NIST AI RMF | حوكمة مخاطر الذكاء الاصطناعي | يوفّر AISVS الضوابط التقنية القابلة للاختبار التي يشير إليها AI RMF |
| ISO/IEC 42001 | أنظمة إدارة الذكاء الاصطناعي | يكمّل AISVS بتحقق أمني على مستوى التنفيذ |
أحدث إصدار مستقر هو AISVS 1.0، ويمكن العثور عليه:
| الصيغة | الرابط |
|---|---|
| AISVS 1.0 PDF | |
| Markdown (المصدر) | تصفّح عبر الإنترنت |
يُسنَد لكل متطلب في AISVS مستوى تحقق (1 أو 2 أو 3) يشير إلى عمق ضمان الأمن:
| المستوى | الوصف | متى يُستخدم |
|---|---|---|
| 1 | ضوابط أساسية جوهرية يجب أن ينفّذها كل نظام ذكاء اصطناعي. | جميع تطبيقات الذكاء الاصطناعي، بما في ذلك الأدوات الداخلية والأنظمة منخفضة المخاطر. |
| 2 | ضوابط قياسية للأنظمة التي تتعامل مع بيانات حساسة أو تتخذ قرارات ذات تبعات. | أنظمة الإنتاج، والذكاء الاصطناعي الموجّه للعملاء، والأنظمة التي تعالج بيانات شخصية. |
| 3 | ضوابط متقدّمة لبيئات عالية الضمان تتطلّب دفاعًا ضد هجمات متطوّرة. | البنية التحتية الحرجة، والذكاء الاصطناعي الحرج للسلامة، والأهداف عالية القيمة، والصناعات المنظَّمة. |
ينبغي للمؤسسات اختيار المستوى المستهدف بناءً على ملف المخاطر لنظام الذكاء الاصطناعي الخاص بها. ينبغي أن تستهدف معظم أنظمة الإنتاج المستوى 2 على الأقل.
لكل متطلب في المعيار، يوفّر ويكي البحث سياقًا تنفيذيًا يتجاوز نص المتطلب:
| العمود | ما يخبرك به |
|---|---|
| التهديد المُخفَّف | تقنيات الهجوم المحدّدة، وثغرات CVE، والحوادث الواقعية التي يحمي منها الضابط |
| منهج التحقق | خطوات التدقيق الملموسة، والأدوات، والأدلة التي يجب جمعها |
| الفجوات والملاحظات | تقييمات نضج الأدوات، والأسئلة البحثية المفتوحة، والتحذيرات التنفيذية |
يتابع الويكي إصدار 1.01 قيد الإعداد ويغطّي كل متطلب فيه، مع ملخّصات لمشهد التهديدات لكل قسم، وتوصيات بالأدوات، ومراجع للمعايير والأدبيات البحثية الحالية. ويكي المعيار المُصدَر 1.0 مجمّد تحت 1.0/research.
لكل متطلب معرّف بالصيغة C<chapter>.<section>.<requirement>، حيث كل عنصر هو رقم، على سبيل المثال C9.4.3.
C<chapter> تقابل الفصل الذي يأتي منه المتطلب؛ على سبيل المثال، جميع متطلبات C9.#.# من فصل 'التنسيق والأمن الوكيلي'.<section> تقابل القسم داخل ذلك الفصل حيث يظهر المتطلب؛ على سبيل المثال، جميع متطلبات C9.4.# في قسم 'هوية الوكيل والمنسّق'.<requirement> تحدّد المتطلب المحدّد داخل الفصل والقسم؛ على سبيل المثال، C9.4.3 الذي، اعتبارًا من الإصدار 1.0 من هذا المعيار، هو:تحقّق من أن بيانات اعتماد هوية الوكيل تُبدَّل وفق جدول زمني محدّد.