إطار عملي لتحديد وترتيب أولويات المخاطر الأمنية الرئيسية في البنية التحتية لمراكز بيانات الذكاء الاصطناعي، ويغطي العتاد، والشبكات، ومستويات الإدارة، وسلسلة التوريد، مع استراتيجيات تخفيف للمزودين والعملاء.
FORGE - قم بتقوية المعدن الأساسي تحت النموذج.
🌐 الموقع الإلكتروني: https://forge-framework.io
يتم بناء مراكز بيانات الذكاء الاصطناعي بشكل أسرع من تأمينها.
أدى التوسع السريع في مراكز البيانات وسحابات GPU وبيئات الحوسبة المتخصصة إلى ظهور مخاطر أمنية عبر الأجهزة والشبكات والتخزين والتنسيق والهوية وخطط الإدارة والعمليات المادية. تشبه العديد من هذه المخاطر مشكلات أمن مراكز البيانات التقليدية أو أمن السحابة، لكن مراكز البيانات الحديثة والبنية التحتية للذكاء الاصطناعي تغير من خطورتها: الأنظمة المصممة أصلاً للمشغلين الموثوقين أصبحت الآن تدعم أعباء عمل عالية القيمة ومتعددة المستأجرين من عملاء غير مرتبطين ببعضهم.
يوفر أهم 10 مخاطر أمنية في مراكز البيانات والبنية التحتية للذكاء الاصطناعي إطاراً عملياً لتحديد وترتيب أولويات وتقليل أهم المخاطر الأمنية في طبقة البنية التحتية التي تشغل الذكاء الاصطناعي. يحدد الإطار أنماط الفشل الأكثر حرجاً في البنية التحتية للذكاء الاصطناعي ويساعد في ترجمتها إلى متطلبات أمنية ملموسة.
يركز هذا الإطار على أمن البنية التحتية للذكاء الاصطناعي ومراكز البيانات التي تستضيفها: الأجهزة المادية، وشبكات الربط، وخطط الإدارة، وأنظمة التنسيق، وأنظمة التخزين، والبيئات التشغيلية التي تعمل عليها أعباء عمل الذكاء الاصطناعي.
لا يركز على نماذج الذكاء الاصطناعي نفسها أو مخاطر طبقة التطبيقات مثل حقن الأوامر، أو سلوك الوكلاء غير الآمن، أو إساءة استخدام النماذج، أو تقييم مستوى النموذج. يتم تناول هذه المخاطر من خلال أطر تركز على أجزاء أخرى من مجموعة تقنيات الذكاء الاصطناعي، بما في ذلك OWASP Top 10 لتطبيقات LLM وMITRE ATLAS وإطار إدارة مخاطر الذكاء الاصطناعي من NIST وISO/IEC 42001. معاً، تمنح هذه الموارد الممارسين صورة أكثر اكتمالاً لأمن الذكاء الاصطناعي، من مخاطر الحوكمة وطبقة التطبيقات وصولاً إلى البنية التحتية الحاسوبية الأساسية.
بعض المخاطر في هذا المستند موجودة أيضاً في بيئات مراكز البيانات والسحابة التقليدية. تم تضمينها هنا لأن البنية التحتية للذكاء الاصطناعي تجعلها أكثر خطورة بشكل ملموس: الحوسبة المشتركة عالية القيمة، ومجموعات المسرعات المعقدة، وطبقات الإدارة الكثيفة، والعمليات متعددة المستأجرين يمكن أن تحول نقاط الضعف العادية في البنية التحتية إلى مخاطر أمنية أكثر شدة لأن احتمالية وتأثير أي حادث أعلى بكثير من عمليات نشر البرامج والخدمات التقليدية على مستوى المؤسسات.
مزودو السحابة الجديدة (Neo-cloud providers) يمكنهم الاستفادة من الإطار كدليل عملي لمشهد تهديدات البنية التحتية للذكاء الاصطناعي، ومراجعة سطح الهجوم، وتقوية البيئة، وتحديد أولويات الأمن، وإظهار النضج الأمني.
عملاء البنية التحتية للذكاء الاصطناعي يمكنهم الاستفادة من الإطار كدليل عملي للمشتريات، والمراجعات الأمنية، والمتطلبات التعاقدية، ومقارنة المزودين، وتقييم المرونة ضد الاختراق الواقعي من المستأجر إلى البنية التحتية.
فرق أمن السحابة الهجينة يمكنهم الاستفادة من هذا الإطار كدليل عملي لتكوين وصيانة وتأمين بصمتهم المحلية ضد الهجمات الحديثة، التي يمكن أن تنتقل بسرعة بين البيئات.
بُني ليتطور مع المجال، ويبقى مفتوحاً حتى يتمكن مجتمع الذكاء الاصطناعي والأمن بأكمله من استخدامه وتحديه وتحسينه.
نود أن نشكر ونعترف بجميع الخبراء الذين شاركوا في مراجعة والتحقق من صحة هذا المستند.
هل لديك ملاحظات أو تريد المساهمة؟ [email protected]
تحدد مجالات FORGE عدسة التقييم: مجالات البنية التحتية التي يعيش فيها خطر أمن الذكاء الاصطناعي. تقوم مصفوفة المخاطر أدناه بتعيين المخاطر الفردية في هذه المجالات.
| المجال | الاسم | الوصف |
|---|---|---|
| F | سلامة الأسطول | الثقة في الأجهزة والبرامج الثابتة والقطع البرمجية والصور والتبعيات ومسارات التوريد التي تشكل أسطول البنية التحتية للذكاء الاصطناعي. |
| O | العمليات وخطط الإدارة | الأنظمة المميزة المستخدمة للتحكم وأتمتة وإدارة البنية التحتية للذكاء الاصطناعي، بما في ذلك BMCs والمجدولون والتنسيق والأتمتة وأدوات الإدارة. |
| R | عزل الموارد | الحدود التي تفصل المستأجرين وأعباء العمل وبيئات التنفيذ والبنية التحتية المعاد استخدامها عبر أنظمة الذكاء الاصطناعي المشتركة. |
| G | الشبكة | شبكات الربط وأنظمة المرافق التي تربط مجموعات الذكاء الاصطناعي وتبقيها مزودة بالطاقة والتبريد والتشغيل. |
| E | إدارة الأدلة والتعرض | الأدلة التي يحتاجها العملاء لفهم نضج مزود الأمن والنطاق المعماري والخدمات المكشوفة وسرعة التصحيح. |
يتم ترتيب معرّفات FORGE حسب الخطورة، من الأعلى إلى الأدنى. تقوم المصفوفة بتجميع كل خطر حسب المجال وتظهر احتماليته وتأثيره وصعوبة اكتشافه.
| المعرّف | المجال | الخطر | مستوى الخطورة | الاحتمالية | التأثير | صعوبة الاكتشاف |
|---|---|---|---|---|---|---|
| FORGE-01 | F | اختراق سلامة الأجهزة والبرامج الثابتة | حرج | متوسط | شديد | عالية |
| FORGE-02 | G | ثغرات الشبكة والربط البيني | حرج | متوسط | شديد | عالية |
| FORGE-03 | R | عزل متعدد المستأجرين غير آمن وإعادة استخدام الموارد | حرج | منخفض | شديد | عالية جداً |
| FORGE-04 | O | خطة إدارة خارج النطاق غير آمنة | حرج | متوسط | عالي | عالية جداً |
| FORGE-05 | F | اختراق سلسلة توريد البنية التحتية للذكاء الاصطناعي | حرج | عالي | عالي | عالية |
| FORGE-06 | G | أنظمة إدارة المرافق ومراكز البيانات غير الآمنة | عالي | منخفض | عالي | عالية جداً |
| FORGE-07 | R | التعامل غير الآمن مع البيانات والقطع الأثرية | عالي | عالي | عالي | متوسطة |
| FORGE-08 | E |
يتبع كل خطر بنية متسقة: التعريف، الوصف، التأثير وأنماط الفشل، استراتيجيات الوقاية والتخفيف (للمزودين وللعملاء)، سيناريوهات الهجوم، والمراجع.
السرعة التي يتم بها بناء مركز البيانات الحديث والبنية التحتية للذكاء الاصطناعي تفوق بكثير القدرة على تأمينه. عندما يتم اختراق هذه البنية التحتية، ومجموعات GPU، وخطوط التدريب، والشبكات عالية الأداء، ونقاط الاستدلال، يكون نصف قطر الانفجار مختلفاً عن الحوسبة التقليدية. يحصل المهاجمون على نماذج مملوكة تمثل مئات الملايين من الدولارات، والقدرة على تسميم بيانات التدريب الأساسية، وموطئ قدم دائم في أكثر البيئات امتيازاً المتاحة.
يتم تعزيز هذه الديناميكية من خلال اختلال هيكلي في السوق: ندرة GPU تمنح المزودين نفوذاً غير متناسب. عندما يتجاوز الطلب على الحوسبة المتسارعة العرض بكثير، غالباً لا يمكن للعملاء اختيار مزودهم بناءً على الوضع الأمني – فهم يأخذون ما هو متاح. يواجه المزودون ضغطاً سوقياً قليلاً للاستثمار في النضج الأمني، ويقبل العملاء مخاطر لن يتحملوها في السحابة التقليدية. هذا الاختلال هو الخلفية التي يجب قراءة كل خطر في هذا المستند على ضوئها. أصبح هذا الضغط السوقي أكثر خطورة مع قيام أبحاث وقدرات استغلال الأمن المدعومة بالذكاء الاصطناعي بضغط الجدول الزمني للمدافعين. نقاط الضعف التي ربما ظلت غامضة لسنوات قد يتم الآن اكتشافها وربطها وتشغيلها بشكل أسرع بكثير.
في الوقت نفسه، تقوم أبحاث وقدرات استغلال الأمن المدعومة بالذكاء الاصطناعي بضغط الجدول الزمني للمدافعين: نقاط الضعف التي ربما ظلت غامضة لسنوات قد يتم الآن اكتشافها وربطها وتشغيلها بشكل أسرع بكثير.
تقع البنية التحتية للذكاء الاصطناعي عند تقاطع الحوسبة السحابية والحوسبة عالية الأداء وعمليات مراكز البيانات المادية. تستخدم مكونات مألوفة مثل الخوادم والتخزين والشبكات والمجدولين وخطط الإدارة وأنظمة الهوية، لكنها تجمعها بطرق تغير نموذج الأمن.
غالباً ما تم تصميم بيئات HPC التقليدية للمستخدمين الموثوقين أو المجتمعات البحثية أو المشغلين الداخليين. تدعم البنية التحتية الحديثة للذكاء الاصطناعي بشكل متزايد أعباء عمل تجارية عالية القيمة ومتعددة المستأجرين من عملاء غير مرتبطين. نتيجة لذلك، يمكن أن تصبح الافتراضات المقبولة في البيئات الموثوقة أو أحادية المؤسسة مخاطر أمنية خطيرة عند تطبيقها على البنية التحتية المشتركة للذكاء الاصطناعي.
سيتطلب تأمين البنية التحتية للذكاء الاصطناعي ومراكز البيانات تعاوناً عبر مزودي السحابة وبائعي الأجهزة والشبكات وشركات الأمن ومتكاملي الأنظمة والعملاء. هذا مهم بشكل خاص في مجالات مثل الشبكات عالية الأداء والرؤية بين الشرق والغرب والتجزئة وحماية خطة الإدارة وضوابط أمن البنية التحتية.
بدأ المهاجمون بالفعل في استهداف البنية التحتية وسلاسل التوريد والنظم البيئية لمراكز البيانات التي تدعم أعباء عمل الذكاء الاصطناعي وHPC المتقدمة. في بعض الحالات، الهدف هو السرقة المباشرة للبحوث الحساسة أو النماذج أو بيانات الهندسة، وفي حالات أخرى، هو التجسس أو التموضع المسبق أو القدرة على تعطيل بيئات الحوسبة ذات الأهمية الاستراتيجية. توضح التقارير الحديثة كلا النمطين:
هذه أمثلة مبكرة. من المرجح أن يتوسع سطح الهجوم مع نضوج المجموعة التقنية، وسيتطور هذا المستند جنباً إلى جنب معه.
يُفهم الخطر بشكل أفضل من خلال النظر إلى المهاجمين المحتملين. يمتد نموذج التهديد إلى ما هو أبعد بكثير من "المهاجم الخارجي" الكلاسيكي، ويتم معايرة الضوابط في هذا المستند مقابل المجموعة الكاملة:
تركز المخاطر في هذا الإطار على أنماط الفشل الخاصة بالبنية التحتية للذكاء الاصطناعي أو المضخمة بها. لا تحل محل الحاجة إلى ضوابط أمنية قوية على مستوى المؤسسة. عملياً، قد تبدأ العديد من الهجمات ضد البنية التحتية للذكاء الاصطناعي من خلال مسارات اختراق مؤسسية مألوفة، بما في ذلك غياب أو ضعف المصادقة متعددة العوامل (MFA)، والتصيد الاحتيالي، وسرقة بيانات الاعتماد، واختراق SaaS، وضوابط الهوية الضعيفة.
يجب التعامل مع هذه المسارات كمتجهات وصول أولي شاملة. يمكن أن توفر الهوية المخترقة أو نقطة النهاية أو حساب SaaS أو نظام CI/CD أو بيانات الاعتماد الإدارية موطئ القدم اللازم للوصول إلى العديد من المخاطر الموصوفة في هذا الإطار. لذلك تركز هذه الأقسام على ما يمكن أن يحدث بمجرد وصول المهاجم إلى بيئة البنية التحتية للذكاء الاصطناعي نفسها أو التأثير عليها.
تم اشتقاق المخاطر المرشحة من:
تم تقييم كل مرشح مقابل أربعة أبعاد: الاحتمالية والتأثير وقابلية الاستغلال وصعوبة الاكتشاف، مع اختيار المخاطر الأعلى تسجيلاً للإدراج.
هذا مستند حي. البنية التحتية للذكاء الاصطناعي تتطور بسرعة، وكذلك الهجمات ضدها. ستضيف المراجعات المستقبلية مخاطر جديدة، وتنقيح المخاطر الحالية، وتدمج الدروس المستفادة من الميدان. الملاحظات والاقتراحات المقدمة من الممارسين مرحب بها وسيتم نسبها عند نشر الإصدار الجديد.
المحتوى في هذا المستودع مرخص بموجب CC BY-NC-SA 4.0.
| فجوات الشهادات وإخفاقات شفافية المزود |
| عالي |
| متوسط |
| عالي |
| متوسطة |
| FORGE-09 | O | خدمات البنية التحتية التشغيلية غير الآمنة | عالي | عالي | متوسط | متوسطة |
| FORGE-10 | E | فجوات الحظر لدى البائعين وإخفاقات سرعة التصحيح | متوسط | متوسط | متوسط | منخفضة |
