<<<<<<< HEAD

OWASP 모델 카드 보안 표준

상태: 초안 — OWASP 인큐베이팅 프로젝트
이 표준은 활발히 개발 중입니다. 기여와 피드백은 언제나 환영합니다.

이게 뭔가요?

HuggingFace나 다른 저장소에서 사전 학습된 모델을 다운로드할 때, 여러분은 본질적으로 블랙박스를 신뢰하는 것입니다. 모델이 어떤 데이터로 학습되었는지, 그 데이터에 개인정보가 포함되어 있는지, 적대적 공격에 대해 어떻게 테스트되었는지, 알려진 실패 모드가 무엇인지 알 수 없습니다. 대부분의 취미 프로젝트에서는 괜찮습니다. 실제 사용자, 규제 산업 또는 민감한 데이터를 다루는 경우라면 — 정말로 괜찮지 않습니다.

모델 카드는 한동안 존재해 왔고 좋은 아이디어입니다. 그러나 기존 형식은 거의 전적으로 성능 지표와 공정성 고려 사항에 초점을 맞춥니다. 보안은 있다고 해도 대체로 부차적인 고려 사항입니다.

이 프로젝트는 그 문제를 해결하려고 합니다. 우리는 모델 카드에 포함되어야 할 보안 관련 정보 — 학습 데이터 출처, PII 노출 위험, 알려진 취약점, 공급망 세부 정보, 규제 준수 상태 등 — 를 정의하는 공개 표준을 구축하고 있습니다. 보안 팀이 모델을 안전하게 배포할 수 있는지 평가할 때 실제로 사용할 수 있는 그런 것입니다.

왜 지금 중요한가요?

몇 가지 요소가 동시에 맞물렸습니다:

• EU AI 법은 AI 투명성과 문서화에 관한 실질적인 규정 준수 의무를 만들고 있습니다
• GDPR 및 유사 법률은 개인 데이터가 학습 데이터셋에 포함되었는지, 그리고 이에 대해 무엇이 수행되었는지에 대한 타당한 질문을 제기합니다
• 보안 커뮤니티는 모델 자체가 공격 표면이라는 점을 점점 더 인식하고 있습니다 — 프롬프트 인젝션, 데이터 포이즈닝, 모델 탈취 — 하지만 문서화 표준은 따라가지 못하고 있습니다
• 조직은 실제로 무엇을 실행하고 있는지에 대한 가시성이 거의 없는 상태에서 타사 모델을 대규모로 배포하고 있습니다

보안 중심 모델 카드 표준은 개발자, 감사자, 조달 팀에게 공통 언어와 실제로 실행할 수 있는 체크리스트를 제공합니다.

간단한 예시

이 표준에 따른 보안 중심 모델 카드가 어떤 모습인지 간략히 보여드립니다:

model_card_version: "0.1"
model_name: "example-text-classifier"
model_version: "1.2.0"

training_data:
  sources:
    - name: "Common Crawl (filtered)"
      pii_assessment: "Presidio scan applied; residual risk: low"
      license: "CC0"
  pii_removal_method: "Microsoft Presidio + manual review on 5% sample"
  data_cutoff_date: "2024-01-01"

security:
  known_vulnerabilities: []
  adversarial_testing: "Red-teamed against prompt injection; results in /security/redteam-report.md"
  supply_chain:
    base_model: "bert-base-uncased"
    base_model_source: "https://huggingface.co/bert-base-uncased"

compliance:
  eu_ai_act_risk_tier: "Limited"
  gdpr_considerations: "No personal data retained post-training"