owasp/owasp-top-10-neocloud-and-ai-data-center-security-risksOWASP 프레임워크로, 네오클라우드 및 AI 데이터 센터 인프라의 상위 10가지 보안 위험을 목록화하며, 하드웨어, 네트워킹, 격리, 관리 평면, 공급망을 다룹니다.
FORGE - 모델 아래의 메탈을 강화하라.
🌐 웹사이트: https://forge-framework.io
네오클라우드와 AI 데이터 센터는 보안이 확보되는 속도보다 더 빠르게 구축되고 있습니다.
네오클라우드(GPU 클라우드 제공업체), AI 데이터 센터, 특수 컴퓨팅 환경의 급속한 확장은 하드웨어, 네트워킹, 스토리지, 오케스트레이션, 아이덴티티, 관리 플레인, 물리적 운영 전반에 걸쳐 보안 위험을 초래했습니다. 이러한 위험 중 상당수는 전통적인 데이터 센터나 클라우드 보안 문제와 유사하지만, 네오클라우드와 AI 데이터 센터는 그 심각성을 변화시킵니다. 원래 신뢰할 수 있는 운영자를 위해 설계된 시스템이 이제는 서로 무관한 고객들의 고가치 멀티테넌트 워크로드를 지원하고 있기 때문입니다.
상위 10가지 네오클라우드 및 AI 데이터 센터 보안 위험은 AI를 구동하는 인프라 계층에서 가장 중요한 보안 위험을 식별, 우선순위 지정, 완화하기 위한 실용적인 프레임워크를 제공합니다. 이 프레임워크는 AI 인프라에서 가장 중요한 실패 모드를 정의하고, 이를 구체적인 보안 요구사항으로 전환하는 데 도움을 줍니다.
이 프레임워크는 AI 인프라와 이를 수용하는 데이터 센터의 보안, 즉 AI 워크로드가 실행되는 물리적 하드웨어, 네트워킹 패브릭, 관리 플레인, 오케스트레이션 시스템, 스토리지 시스템, 운영 환경에 초점을 맞춥니다.
AI 모델 자체나 프롬프트 인젝션, 안전하지 않은 에이전트 동작, 모델 악용, 모델 수준 평가와 같은 애플리케이션 계층 위험에는 초점을 맞추지 않습니다. 이러한 위험은 OWASP Top 10 for LLM Applications, MITRE ATLAS, NIST AI Risk Management Framework, ISO/IEC 42001을 포함하여 AI 스택의 다른 부분에 초점을 맞춘 프레임워크에서 다룹니다. 이러한 리소스들을 함께 활용하면 실무자들은 거버넌스 및 애플리케이션 계층 위험부터 기반 컴퓨팅 인프라에 이르기까지 AI 보안에 대한 보다 완전한 그림을 얻을 수 있습니다.
이 문서의 일부 위험은 전통적인 데이터 센터 및 클라우드 환경에도 존재합니다. 여기에 포함된 이유는 AI 인프라가 이들을 실질적으로 더 심각하게 만들기 때문입니다. 공유된 고가치 컴퓨팅, 복잡한 가속기 클러스터, 조밀한 관리 계층, 멀티테넌트 운영은 일반적인 인프라 약점을 더 심각한 보안 위험으로 전환시킬 수 있습니다. 이는 모든 사고의 발생 가능성과 영향이 전통적인 엔터프라이즈 수준의 소프트웨어 및 서비스 배포보다 훨씬 높기 때문입니다.
네오클라우드 제공업체와 데이터 센터 운영자는 이 프레임워크를 AI 인프라 위협 환경, 공격 표면 검토, 환경 강화, 보안 우선순위 지정, 성숙도 입증을 위한 실용적인 가이드로 활용할 수 있습니다.
네오클라우드 고객은 이 프레임워크를 조달, 보안 검토, 계약 요구사항, 제공업체 비교, 현실적인 테넌트-인프라 침해에 대한 복원력 평가를 위한 실용적인 가이드로 활용할 수 있습니다.
하이브리드 클라우드 보안 팀은 이 프레임워크를 온프레미스 환경을 현대적인 공격으로부터 구성, 유지, 보호하기 위한 실용적인 가이드로 활용할 수 있습니다. 이러한 공격은 환경 간에 빠르게 전환될 수 있습니다.
이 문서는 해당 분야와 함께 발전하도록 만들어졌으며, 전체 AI 및 보안 커뮤니티가 사용하고, 도전하고, 개선할 수 있도록 공개되어 있습니다.
이 문서를 검토하고 검증하는 데 참여해 주신 모든 전문가분들께 감사와 존경을 표합니다.
피드백이 있거나 기여하고 싶으시다면 [email protected]로 연락해 주세요.
FORGE 도메인은 평가 렌즈, 즉 AI 보안 위험이 존재하는 인프라 영역을 정의합니다. 아래의 위험 매트릭스는 개별 위험을 이러한 도메인에 매핑합니다.
| 도메인 | 이름 | 설명 |
|---|---|---|
| F | Fleet integrity | AI 인프라 플릿을 구성하는 하드웨어, 펌웨어, 소프트웨어 아티팩트, 이미지, 의존성, 공급 경로에 대한 신뢰. |
| O | Operations & management planes | BMC, 스케줄러, 오케스트레이션, 자동화, 관리 도구를 포함하여 AI 인프라를 제어, 자동화, 관리하는 데 사용되는 권한 있는 시스템. |
| R | Resource isolation | 공유 AI 시스템 전반에 걸쳐 테넌트, 워크로드, 실행 환경, 재사용되는 인프라를 분리하는 경계. |
| G | Grid | AI 클러스터를 연결하고 전력, 냉각, 운영을 유지하는 네트워킹 패브릭과 시설 시스템. |
| E | Evidence & exposure management | 고객이 제공업체의 보안 성숙도, 아키텍처 범위, 노출된 서비스, 패치 속도를 이해하는 데 필요한 증거. |
FORGE ID는 심각도가 높은 것부터 낮은 것 순으로 정렬되어 있습니다. 매트릭스는 각 위험을 도메인별로 그룹화하고 발생 가능성, 영향, 탐지 난이도를 보여줍니다.
| ID | 도메인 | 위험 | 위험 수준 | 발생 가능성 | 영향 | 탐지 난이도 |
|---|---|---|---|---|---|---|
| FORGE-01 | F | 하드웨어 및 펌웨어 무결성 침해 | 심각 | 중간 | 심대 | 높음 |
| FORGE-02 | G | 네트워크 및 인터커넥트 취약점 | 심각 | 중간 | 심대 | 높음 |
| FORGE-03 | R | 안전하지 않은 멀티테넌트 격리 및 리소스 재사용 | 심각 | 낮음 | 심대 | 매우 높음 |
| FORGE-04 | O | 안전하지 않은 대역 외 관리 플레인 | 심각 | 중간 | 높음 | 매우 높음 |
| FORGE-05 | F | AI 인프라 공급망 침해 | 심각 | 높음 | 높음 | 높음 |
| FORGE-06 | G | 안전하지 않은 시설 및 데이터 센터 관리 시스템 | 높음 | 낮음 | 높음 | 매우 높음 |
| FORGE-07 | R | 안전하지 않은 데이터 및 아티팩트 처리 | 높음 | 높음 | 높음 | 중간 |
| FORGE-08 | E | 인증 격차 및 제공업체 투명성 실패 | 높음 | 중간 | 높음 | 중간 |
| FORGE-09 | O | 안전하지 않은 운영 인프라 서비스 | 높음 | 높음 | 중간 | 중간 |
| FORGE-10 | E | 벤더 엠바고 격차 및 패치 속도 실패 | 중간 | 중간 | 중간 | 낮음 |
각 위험은 일관된 구조를 따릅니다: 정의, 설명, 영향 및 실패 모드, 예방 및 완화 전략(제공업체 및 고객용), 공격 시나리오, 참고 자료.
현대 데이터 센터와 AI 인프라가 구축되는 속도는 이를 보호하는 능력을 크게 앞지르고 있습니다. 이 인프라, GPU 클러스터, 학습 파이프라인, 고성능 네트워킹, 추론 엔드포인트가 침해되면 그 영향 범위는 기존 컴퓨팅과는 다릅니다. 공격자는 수억 달러 가치의 독점 모델에 접근하고, 기초 학습 데이터를 오염시킬 수 있는 권한을 얻으며, 사용 가능한 가장 높은 권한의 환경에 지속적인 발판을 확보합니다.
이러한 역학은 구조적인 시장 불균형으로 인해 더욱 강화됩니다. GPU 부족은 네오클라우드 제공업체에게 과도한 협상력을 부여합니다. 가속 컴퓨팅에 대한 수요가 공급을 훨씬 초과할 때, 고객은 보안 태세를 기준으로 제공업체를 선택할 수 없는 경우가 많습니다. 그저 이용 가능한 것을 선택할 뿐입니다. 제공업체는 보안 성숙도에 투자할 시장 압력을 거의 받지 않으며, 고객은 기존 클라우드에서는 용납하지 않았을 위험을 감수합니다. 이러한 불균형은 이 문서의 모든 위험을 읽는 배경입니다. 이러한 시장 압력은 AI 기반 보안 연구 및 익스플로잇 기능이 방어자의 대응 시간을 압축하면서 더욱 위험해지고 있습니다. 한때 수년간 알려지지 않았을 수 있는 약점이 이제는 훨씬 빠르게 발견, 연계, 무기화될 수 있습니다.
동시에, AI 기반 보안 연구 및 익스플로잇 기능이 방어자의 대응 시간을 압축하고 있습니다: 한때 수년간 알려지지 않았을 수 있는 약점이 이제는 훨씬 빠르게 발견, 연계, 무기화될 수 있습니다.
AI 인프라는 클라우드 컴퓨팅, 고성능 컴퓨팅, 물리적 데이터 센터 운영의 교차점에 위치합니다. 서버, 스토리지, 네트워크, 스케줄러, 관리 플레인, 아이덴티티 시스템과 같은 익숙한 구성 요소를 사용하지만, 보안 모델을 변화시키는 방식으로 이들을 결합합니다.
전통적인 HPC 환경은 종종 신뢰할 수 있는 사용자, 연구 커뮤니티, 내부 운영자를 위해 설계되었습니다. 현대 AI 인프라는 점점 더 서로 무관한 고객들의 상업적이고 고가치의 멀티테넌트 워크로드를 지원합니다. 결과적으로, 신뢰할 수 있거나 단일 조직 환경에서 허용 가능했던 가정은 공유 AI 인프라에 적용될 때 심각한 보안 위험이 될 수 있습니다.
AI 인프라와 데이터 센터를 보호하려면 네오클라우드, 클라우드 제공업체, 하드웨어 및 네트워킹 벤더, 보안 회사, 시스템 통합업체, 고객 간의 협력이 필요합니다. 이는 고성능 네트워킹, 동-서 가시성, 세분화, 관리 플레인 보호, 인프라 보안 제어와 같은 영역에서 특히 중요합니다.
