owasp/mosaicهيكل تنسيق لمعايير وإرشادات أمن الذكاء الاصطناعي، يقلل التجزئة ويوفر توجيهًا واضحًا لتأمين أنظمة الذكاء الاصطناعي عبر المؤسسات.
توفر MOSAIC هيكل تنسيق للمنظمات التي تنشئ معايير وإرشادات أمان الذكاء الاصطناعي، مما يقلل من التناقضات والعمل المكرر وعدم التوافق والفجوات. الهدف النهائي هو تمكين مشهد المعايير والإرشادات من تقديم توجيه واضح لتأمين أنظمة الذكاء الاصطناعي والإشراف عليها، والتي نربطها بشكل متزايد بكل شيء ونثق بها ببياناتنا الحساسة.
انظر المنظمات الأعضاء في MOSAIC.
انظر خارطة الطريق.
انظر MOSAICstandards.org.
مزيد من المعلومات في هذا المنشور على لينكد إن وفي ملاحظات اجتماع الإطلاق.
للمشاركة: راجع دليل المساهمة. يمكن العثور على المناقشات هنا.
للقراءة: راجع ملف README هذا، مجلد docs، أو الموقع الإلكتروني.
أنواع المستخدمين:
إن وعد الذكاء الاصطناعي يدفع المنظمات إلى ربطه بكل شيء وتوكيله بالبيانات الحساسة. عبر الصناعات، هذا الاستكشاف يحدث بسرعة.
في الوقت نفسه، يقدم الذكاء الاصطناعي مخاطر جديدة. الأنظمة عرضة لكل من أنواع الهجمات الحالية والجديدة، وتتطلب هذه إجراءات مضادة محددة. العديد من المنظمات ليست مستعدة بعد لهذا. نتيجة لذلك، أصبحت أنظمة الذكاء الاصطناعي بسرعة أهدافًا جذابة للخصوم.
نحن بالفعل نرى ذلك في عدد متزايد من الحوادث. عندما تتحقق المخاطر، يتباطأ الابتكار: يتم إيقاف المشاريع، وإعادة النظر في التصاميم، ويتم إنفاق جهد كبير على الاستجابة للحوادث والتعافي. ما يبدو وكأنه سرعة في البداية غالبًا ما يؤدي إلى تأخير لاحقًا.
هناك حاجة واضحة لتوجيه عملي: كيفية تحديد التهديدات الخاصة بالذكاء الاصطناعي، وماذا نفعل حيالها. لا يجب أن يكون هذا معقدًا. عندما يتم بشكل صحيح، فإنه في الواقع يسرع التطوير عن طريق منع إعادة العمل وتقليل عدم اليقين.
اليوم، تعمل العديد من المبادرات على مثل هذا التوجيه. ومع ذلك، فإن المشهد مجزأ. يواجه الممارسون أطرًا متعددة، وتوصيات متداخلة، ومصطلحات غير متسقة. لكل مبادرة نقاط قوة، ولكن أيضًا نقاط عمياء.
النتيجة هي الارتباك. تكافح الفرق لتقرر ما تتبعه، أو تجمع بين أساليب غير متوافقة، أو تنفصل تمامًا وتعتمد على الأمل. هذا موقف محفوف بالمخاطر، خاصة في مجال حيث يمكن أن تتوسع الإخفاقات بسرعة.
شهية المخاطرة القوية في مجال سريع الحركة مثل الذكاء الاصطناعي أمر مفهوم. لكن العمل بدون توجيه أمني واضح ومنسق ليس مخاطرة محسوبة - إنه تعرض. الذكاء الاصطناعي يدعو إلى استكشاف استراتيجي.
التطورات الحديثة في اكتشاف نقاط ضعف الذكاء الاصطناعي، مثل نظام Mythos لاكتشاف نقاط ضعف الذكاء الاصطناعي، تزيد من الإلحاح. تظهر أن نقاط الضعف في أنظمة الذكاء الاصطناعي يمكن الآن اكتشافها بشكل أسرع وعلى نطاق واسع - غالبًا قبل أن يدرك المطورون وجودها. هذا يحول التوازن لصالح المهاجمين ويقلل من هامش الخطأ.
لهذا السبب التنسيق مهم. مواءمة المعايير والتوجيه عبر المبادرات يقلل من التجزئة، ويحسن الوضوح، ويمنح الممارسين مسارًا متماسكًا للأمام. إنه يمكّن المنظمات من التحرك بسرعة دون فقدان السيطرة.
الموقع العام هو موقع ثابت من Hugo (محتوى ماركداون، تخطيطات مشتركة، CSS في static/assets/)، ويتم نشره على Firebase Hosting من GitHub Actions.
content/mosaic/content/*.md (ماركداون فقط)content/mosaic/data/menu.yamlيستخدم الموقع GoatCounter لإحصائيات مشاهدة الصفحات الصديقة للخصوصية والخالية من الكوكيز (https://mosaic.goatcounter.com). لا يتم جمع أي بيانات شخصية. راجع CONTRIBUTING.md للحصول على التفاصيل.