owasp/mosaicهيكل تنسيق لمعايير وإرشادات أمن الذكاء الاصطناعي، يقلل التجزئة ويوفر توجيهًا واضحًا لتأمين أنظمة الذكاء الاصطناعي عبر المؤسسات.
توفر MOSAIC هيكلاً تنسيقياً للمنظمات التي تُنشئ معايير وإرشادات أمن الذكاء الاصطناعي، مما يقلل من التناقضات والعمل المكرر وعدم التوافق والثغرات. الهدف النهائي هو أن يوفر مشهد المعايير والإرشادات توجيهاً واضحاً لتأمين والإشراف على أنظمة الذكاء الاصطناعي التي نربطها بشكل متزايد بكل شيء ونأتمنها على بياناتنا الحساسة.
انظر المنظمات الأعضاء في MOSAIC.
انظر خارطة الطريق.
انظر الميثاق.
انظر MOSAICstandards.org.
مزيد من المعلومات في منشور لينكدإن هذا وفي ملاحظات الاجتماع التأسيسي.
للمشاركة: انظر دليل المساهمة. يمكن العثور على المناقشات هنا.
للقراءة: انظر هذا الملف التمهيدي، أو مجلد المستندات، أو الموقع الإلكتروني.
أنواع المستخدمين:
يدفع وعد الذكاء الاصطناعي المنظمات إلى ربطه بكل شيء وإسناد البيانات الحساسة إليه. وفي جميع القطاعات، يجري هذا الاستكشاف بوتيرة سريعة.
وفي الوقت نفسه، يُدخل الذكاء الاصطناعي مخاطر جديدة. فالأنظمة عرضة لأنواع الهجمات القائمة والمستجدة على حد سواء، وهذه تتطلب تدابير مضادة محددة. وكثير من المنظمات ليست مستعدة لذلك بعد. ونتيجة لذلك، أصبحت أنظمة الذكاء الاصطناعي سريعاً أهدافاً جاذبة للخصوم.
نرى هذا بالفعل في عدد متزايد من الحوادث. وعندما تتحقق المخاطر، يتباطأ الابتكار: تُعلَّق المشاريع، وتُعاد مراجعة التصاميم، ويُنفق جهد كبير على الاستجابة للحوادث والتعافي منها. وما يبدو سرعة في البداية كثيراً ما يؤدي إلى تأخير لاحقاً.
هناك حاجة واضحة إلى توجيه عملي: كيف نحدد التهديدات الخاصة بالذكاء الاصطناعي، وما الذي ينبغي فعله بشأنها. ولا يلزم أن يكون هذا معقداً. فعند تنفيذه بشكل صحيح، فإنه في الواقع يسرّع التطوير من خلال منع إعادة العمل وتقليل عدم اليقين.
اليوم، تعمل مبادرات كثيرة على مثل هذا التوجيه. غير أن المشهد مجزأ. ويواجه الممارسون أطراً متعددة، وتوصيات متداخلة، ومصطلحات غير متسقة. ولكل مبادرة نقاط قوة، لكن أيضاً نقاط عمياء.
والنتيجة هي الارتباك. وتكافح الفرق لتقرر ما الذي تتبعه، أو تدمج مقاربات غير متوافقة، أو تنفصل تماماً وتعتمد على الأمل. وهذا موقف محفوف بالمخاطر، خاصة في مجال يمكن أن تتضخم فيه الإخفاقات بسرعة.
إن تحمّل مخاطر عالٍ في مجال سريع التطور مثل الذكاء الاصطناعي أمر مفهوم. لكن العمل دون توجيه أمني واضح ومتوافق ليس مخاطرة محسوبة—بل هو تعرّض. فالذكاء الاصطناعي يستدعي استكشافاً استراتيجياً.
إن التطورات الحديثة في اكتشاف ثغرات الذكاء الاصطناعي، مثل نظام Mythos AI لاكتشاف ثغرات الذكاء الاصطناعي، تزيد من الإلحاح. فهي تُظهر أن نقاط الضعف في أنظمة الذكاء الاصطناعي يمكن الآن اكتشافها بسرعة وعلى نطاق واسع—غالباً قبل أن يدرك المطورون وجودها. وهذا يرجّح كفة المهاجمين ويقلل هامش الخطأ.
ولهذا يهمّ التنسيق. فمواءمة المعايير والإرشادات عبر المبادرات تقلل التجزؤ، وتحسّن الوضوح، وتمنح الممارسين مساراً متماسكاً إلى الأمام. وتمكّن المنظمات من التحرك بسرعة دون فقدان السيطرة.
التوافق مع MOSAIC يعني التوافق مع العمل الذي يجري داخل أعضاء MOSAIC - لأن MOSAIC هي آلية التنسيق.
ما ينبغي فعله:
من الطرق الرائعة للتوافق على التصنيف والإشارة إلى العمل القائم، ربط المتطلبات في معيارك بتصنيف المتطلبات على OpenCRE.org.
يمكن أن يكون الذكاء الاصطناعي أداة رائعة لدعم التوافق، إذ إن النماذج اللغوية الكبيرة قوية في مقارنة المستندات الطويلة وتحديد التداخل والثغرات والتناقضات. وفي مشروع OpenCRE مفتوح المصدر، نطوّر أدوات لدعم هذه العملية، وكذلك لإتاحة محتوى أعضاء MOSAIC.
وأخيراً وليس آخراً، فإن التوافق الناجح للمعايير يتطلب بحكم التعريف تضحية وتنازلاً. فالتوافق الجيد يؤدي عادةً إلى التخلي عن معتقدات راسخة، و"قتل أعز ما لديك". أحياناً يكون من الأفضل إهمال أجزاء معينة من النص تطلبت جهداً شاقاً، والإشارة بدلاً من ذلك إلى مصدر آخر يغطي الموضوع. ونتيجة هذه العملية المؤلمة أحياناً هي: عمل أقل للصيانة، وتركيز أكبر على المحتوى الرئيسي، وتوافق أكبر، ووضوح أكبر للممارسين، وبالتالي: أنظمة معلومات أفضل، من أجل عالم أفضل.
الموقع العام هو موقع Hugo ثابت (محتوى markdown، تخطيطات مشتركة، CSS في static/assets/)، يُنشر إلى Firebase Hosting من GitHub Actions.
website/content/*.md (markdown فقط)website/data/menu.yamlيستخدم الموقع GoatCounter لإحصاءات مشاهدات الصفحات الصديقة للخصوصية والخالية من ملفات تعريف الارتباط (https://mosaic.goatcounter.com). لا تُجمع أي بيانات شخصية. انظر CONTRIBUTING.md للتفاصيل.