OWASP 인공지능 보안 검증 표준 (AISVS)

이 저작물은 크리에이티브 커먼즈 저작자표시-동일조건변경허락 4.0 국제 라이선스에 따라 이용할 수 있습니다.

AISVS란 무엇인가?

**AISVS(Artificial Intelligence Security Verification Standard, 인공지능 보안 검증 표준)**는 AI 지원 시스템을 위한 테스트 가능한 보안 요구사항의 커뮤니티 주도 카탈로그입니다. 이 표준은 개발자, 아키텍트, 보안 엔지니어, 감사자에게 데이터 수집과 모델 훈련부터 배포, 모니터링, 폐기에 이르기까지 AI 애플리케이션의 전체 수명주기에서 보안을 설계, 구축, 테스트, 검증할 수 있는 구조화된 프레임워크를 제공합니다.

AISVS는 OWASP ASVS(Application Security Verification Standard, 애플리케이션 보안 검증 표준)을 모델로 삼아 동일한 철학을 따릅니다. 모든 요구사항은 검증 가능하고, 테스트 가능하며, 구현 가능해야 합니다.

프로젝트 리더

이 프로젝트는 Jim Manico가 설립했습니다. 현재 프로젝트 리더십에는 Jim Manico, Otto Sulin, Rico Komenda, Russ Memisyazici가 포함되어 있습니다.

AISVS가 아닌 것

• 거버넌스 프레임워크가 아닙니다. 거버넌스는 NIST AI RMF, ISO/IEC 42001, EU AI Act 컴플라이언스 가이드에서 충분히 다루고 있습니다.
• 위험 관리 프레임워크가 아닙니다. AISVS는 위험 프레임워크가 참조하는 기술적 통제 항목을 제공하지만, 위험 평가 방법론을 정의하지는 않습니다.
• 도구 추천 목록이 아닙니다. AISVS는 벤더 중립적이며 특정 제품이나 프레임워크를 지지하지 않습니다.

AISVS가 다른 표준을 보완하는 방법

최신 안정 버전

최신 안정 버전은 AISVS 1.0이며, 다음에서 확인할 수 있습니다:

검증 수준

각 AISVS 요구사항에는 보안 보증의 깊이를 나타내는 검증 수준(1, 2 또는 3)이 할당됩니다:

조직은 AI 시스템의 위험 프로필에 따라 목표 수준을 선택해야 합니다. 대부분의 프로덕션 시스템은 최소한 Level 2를 목표로 해야 합니다.

AISVS 사용 방법

• 설계 시. AI 시스템을 설계할 때 요구사항을 보안 체크리스트로 사용합니다.
• 개발 시. CI/CD 파이프라인, 코드 리뷰 및 테스트에 요구사항을 통합합니다.
• 보안 평가 시. 침투 테스트 및 감사를 위한 검증 프레임워크로 사용합니다.
• 조달 시. AI 공급업체와 서드파티 모델을 평가할 때 특정 요구사항을 참조합니다.

요구사항 챕터

1. 학습 데이터 무결성 및 추적성
2. 입력 검증
3. 모델 수명주기 관리 및 변경 통제
4. 인프라, 구성 및 배포 보안
5. AI 구성 요소 및 사용자에 대한 접근 통제와 신원
6. 모델 공급망 보안
7. 모델 동작, 출력 통제 및 안전 보증
8. 메모리, 임베딩 및 벡터 데이터베이스 보안
9. 오케스트레이션 및 에이전틱 보안
10. Model Context Protocol(MCP) 보안
11. 적대적 강건성
12. 모니터링, 로깅 및 이상 탐지

부록

• 부록 A: 용어집
• 부록 B: AI 보안 통제 항목 인벤토리
• 부록 C: AI 지원 안전 코딩

리서치 위키

표준의 모든 요구사항에 대해 리서치 위키는 요구사항 텍스트를 넘어서는 구현 맥락을 제공합니다:

위키는 60페이지에 걸쳐 총 191개 요구사항을 다루며, 섹션별 위협 환경 요약, 도구 권장 사항, 최신 표준 및 연구 문헌 참조를 제공합니다.

AISVS 요구사항 참조 방법

각 요구사항은 C<chapter>.<section>.<requirement> 형식의 식별자를 가지며, 각 요소는 숫자입니다. 예를 들어 C9.4.3입니다.

• C<chapter> 값은 요구사항이 속한 챕터에 해당합니다. 예를 들어 모든 C9.#.# 요구사항은 '오케스트레이션 및 에이전틱 보안' 챕터에서 비롯됩니다.
• <section> 값은 요구사항이 나타나는 해당 챕터 내의 섹션에 해당합니다. 예를 들어 모든 C9.4.# 요구사항은 '에이전트 및 오케스트레이터 신원' 섹션에 있습니다.
• <requirement> 값은 챕터와 섹션 내의 특정 요구사항을 식별합니다. 예를 들어 이 표준의 버전 1.0 기준 C9.4.3은 다음과 같습니다:

에이전트 신원 자격 증명이 정의된 일정에 따라 교체되는지 검증합니다.

식별자는 표준 버전 간에 변경될 수 있으므로, 다른 문서, 보고서 또는 도구에서는 다음 형식을 사용하는 것이 좋습니다: v<version>-C<chapter>.<section>.<requirement>. 여기서 version은 AISVS 버전 태그입니다. 예: v1.0-C9.4.3.

참고: 버전 번호 앞의 v는 항상 소문자여야 합니다.

v<version> 요소를 포함하지 않고 식별자를 사용하는 경우, 해당 식별자는 최신 AISVS 콘텐츠를 가리키는 것으로 간주해야 합니다. 표준이 성장하고 변경됨에 따라 이는 문제가 될 수 있으므로, 작성자나 개발자는 버전 요소를 포함해야 합니다.

버전 관리

AISVS는 두 부분으로 구성된 버전 번호 v<MAJOR>.<MINOR>를 사용합니다(예: v1.0, v1.01, v2.0). 메이저 버전은 챕터 및 섹션 변경을 다루며, 마이너 버전은 기존 구조 내에서 요구사항의 추가, 제거 및 실질적 수정을 다루고, 패치 수정은 별도의 버전 없이 브랜치 내에서 제공됩니다. 전체 정책은 RELEASE.md에 문서화되어 있습니다.

AISVS의 각 안정 릴리스는 이 저장소에 번호가 매겨진 폴더로 게시됩니다. 버전이 릴리스되면 해당 폴더는 잠기며, 이후의 모든 작업은 새 폴더에서 진행됩니다. 이는 OWASP ASVS에서 사용하는 방식을 반영한 것입니다.

/
├── 1.0/        <- published stable release (locked)
├── 1.01-dev/   <- next minor release (in progress)

기여하기

커뮤니티의 기여를 환영합니다. 버그를 신고하거나 개선 사항을 제안하려면 이슈를 열어 주세요. 논의 내용에 따라 풀 리퀘스트를 제출해 달라고 요청할 수 있습니다.

AISVS 프로젝트 자체의 보안 문제를 신고하려면 보안 정책을 따르세요.

라이선스

프로젝트의 모든 콘텐츠는 크리에이티브 커먼즈 저작자표시-동일조건변경허락 4.0 국제 라이선스에 따라 제공됩니다.