owasp/owasp-top-10-neocloud-and-ai-data-center-security-risksКаталог фреймворка OWASP, в котором перечислены 10 главных рисков безопасности в инфраструктуре неоклаудов и дата-центров ИИ, охватывающий аппаратное обеспечение, сети, изоляцию, плоскости управления и цепочку поставок.
FORGE — Укрепите металл под моделью.
🌐 Веб-сайт: https://forge-framework.io
Неоклауды и AI-дата-центры строятся быстрее, чем обеспечивается их безопасность.
Стремительное расширение неоклаудов (облачных провайдеров GPU), AI-дата-центров и специализированных вычислительных сред привнесло риски безопасности в аппаратное обеспечение, сети, системы хранения, оркестрацию, идентификацию, плоскости управления и физические операции. Многие из этих рисков напоминают традиционные проблемы безопасности дата-центров или облачных сред, однако неоклауды и AI-дата-центры меняют их серьёзность: системы, изначально рассчитанные на доверенных операторов, теперь поддерживают высокоценные многопользовательские рабочие нагрузки от не связанных между собой заказчиков.
Топ-10 рисков безопасности неоклаудов и AI-дата-центров представляет собой практическую структуру для выявления, приоритизации и снижения наиболее важных рисков безопасности на инфраструктурном уровне, обеспечивающем работу AI. Структура определяет наиболее критичные сценарии отказов в AI-инфраструктуре и помогает преобразовать их в конкретные требования безопасности.
Данная структура сосредоточена на безопасности AI-инфраструктуры и дата-центров, в которых она размещается: физического оборудования, сетевых фабрик, плоскостей управления, систем оркестрации, систем хранения и операционных сред, на которых выполняются рабочие нагрузки AI.
Она не рассматривает сами AI-модели или риски уровня приложений, такие как внедрение подсказок (prompt injection), небезопасное поведение агентов, злоупотребление моделями или оценка на уровне моделей. Эти риски рассматриваются структурами, ориентированными на другие части AI-стека, включая OWASP Top 10 для приложений LLM, MITRE ATLAS, NIST AI Risk Management Framework и ISO/IEC 42001. Вместе эти ресурсы дают практикам более полную картину безопасности AI — от управления и рисков уровня приложений вплоть до лежащей в основе вычислительной инфраструктуры.
Некоторые риски в этом документе также существуют в традиционных средах дата-центров и облаков. Они включены сюда, поскольку AI-инфраструктура делает их существенно более серьёзными: совместно используемые высокоценные вычисления, сложные кластеры ускорителей, плотные слои управления и многопользовательские операции могут превратить обычные инфраструктурные слабости в более серьёзные риски безопасности, так как вероятность и последствия любого инцидента намного выше, чем в традиционных корпоративных развёртываниях программного обеспечения и сервисов.
Провайдеры неоклаудов и операторы дата-центров могут использовать структуру как практическое руководство по ландшафту угроз AI-инфраструктуры, анализу поверхности атаки, укреплению среды, приоритизации безопасности и демонстрации зрелости.
Заказчики неоклаудов могут использовать структуру как практическое руководство для закупок, проверок безопасности, контрактных требований, сравнения провайдеров и оценки устойчивости к реалистичной компрометации от арендатора до инфраструктуры.
Команды безопасности гибридных облаков могут использовать эту структуру как практическое руководство для настройки, поддержки и защиты своих локальных развёртываний от современных атак, которые могут быстро переключаться между средами.
Создано, чтобы развиваться вместе с областью, и остаётся открытым, чтобы всё сообщество AI и безопасности могло использовать его, оспаривать и улучшать.
Мы хотели бы поблагодарить и отметить всех экспертов, принявших участие в рецензировании и валидации этого документа.
Есть отзывы или хотите внести вклад? [email protected]
Домены FORGE определяют линзу оценки: области инфраструктуры, в которых существует риск безопасности AI. Матрица рисков ниже сопоставляет отдельные риски с этими доменами.
| Домен | Название | Описание |
|---|---|---|
| F | Целостность парка | Доверие к аппаратному обеспечению, прошивкам, программным артефактам, образам, зависимостям и цепочкам поставок, из которых состоит парк AI-инфраструктуры. |
| O | Операционные плоскости и плоскости управления | Привилегированные системы, используемые для управления, автоматизации и администрирования AI-инфраструктуры, включая BMC, планировщики, оркестрацию, автоматизацию и административные инструменты. |
| R | Изоляция ресурсов | Границы, разделяющие арендаторов, рабочие нагрузки, среды выполнения и повторно используемую инфраструктуру в общих AI-системах. |
| G | Сеть | Сетевые фабрики и инфраструктурные системы, соединяющие AI-кластеры и обеспечивающие их питание, охлаждение и работоспособность. |
| E | Управление доказательствами и экспозицией | Доказательства, необходимые заказчикам для понимания зрелости безопасности провайдера, архитектурного охвата, открытых сервисов и скорости выпуска патчей. |
Идентификаторы FORGE упорядочены по серьёзности, от наивысшей к наинизшей. Матрица группирует каждый риск по домену и показывает его вероятность, воздействие и сложность обнаружения.
