owasp/mosaicAI 보안 표준 및 지침을 위한 조정 구조로, 파편화를 줄이고 조직 전반의 AI 시스템 보안에 대한 명확한 지침을 제공합니다.
MOSAIC은 AI 보안 표준과 가이드라인을 만드는 조직들을 위한 조정 구조를 제공하여 불일치, 중복 작업, 잘못된 정렬, 그리고 공백을 줄입니다. 최종 목표는 표준과 가이드라인 환경이 우리가 점점 더 모든 것에 연결하고 민감한 데이터를 맡기는 AI 시스템을 보호하고 감독하기 위한 명확한 지침을 제공하도록 하는 것입니다.
MOSAIC 회원 조직을 참조하세요.
로드맵을 참조하세요.
헌장을 참조하세요.
MOSAICstandards.org를 참조하세요.
더 많은 정보는 이 링크드인 게시물과 출범 회의 노트에서 확인할 수 있습니다.
참여하려면: 기여 가이드를 참조하세요. 논의는 여기에서 찾을 수 있습니다.
읽으려면: 이 README, docs 폴더, 또는 웹사이트를 참조하세요.
사용자 유형:
AI의 가능성은 조직들이 AI를 모든 것에 연결하고 민감한 데이터를 맡기도록 밀어붙이고 있습니다. 산업 전반에 걸쳐 이러한 탐구가 빠르게 진행되고 있습니다.
동시에 AI는 새로운 위험을 초래합니다. 시스템은 기존 및 새로운 유형의 공격에 취약하며, 이에는 특정한 대응책이 필요합니다. 많은 조직이 아직 이에 대비하지 못하고 있습니다. 결과적으로 AI 시스템은 빠르게 공격자들의 매력적인 표적이 되고 있습니다.
우리는 이미 증가하는 사고 사례에서 이를 목격하고 있습니다. 위험이 현실화되면 혁신은 느려집니다: 프로젝트가 중단되고, 설계가 재검토되며, 사고 대응과 복구에 상당한 노력이 소요됩니다. 처음에는 속도처럼 보이는 것이 나중에는 지연으로 이어지는 경우가 많습니다.
실용적인 지침에 대한 명확한 필요가 있습니다: AI 특유의 위협을 식별하는 방법과 그에 대해 무엇을 해야 하는지입니다. 이는 복잡할 필요가 없습니다. 제대로 하면 재작업을 방지하고 불확실성을 줄여 개발을 실제로 가속화합니다.
오늘날 많은 이니셔티브가 이러한 지침을 연구하고 있습니다. 그러나 환경은 파편화되어 있습니다. 실무자들은 여러 프레임워크, 중복되는 권고사항, 일관성 없는 용어에 직면합니다. 각 이니셔티브에는 강점이 있지만 사각지대도 있습니다.
그 결과는 혼란입니다. 팀들은 무엇을 따라야 할지 결정하지 못하고, 호환되지 않는 접근 방식을 결합하거나, 완전히 이탈하여 희망에 의존합니다. 이는 위험한 입장이며, 특히 실패가 빠르게 확대될 수 있는 영역에서는 더욱 그렇습니다.
AI와 같이 빠르게 변화하는 분야에서 높은 위험 감수성은 이해할 수 있습니다. 그러나 명확하고 정렬된 보안 지침 없이 운영하는 것은 계산된 위험이 아니라 노출입니다. AI는 전략적 탐구를 요구합니다.
Mythos AI 취약점 발견 시스템과 같은 AI 취약점 발견의 최근 발전은 긴급성을 더욱 높입니다. 이는 AI 시스템의 약점이 이제 더 빠르고 대규모로 발견될 수 있음을 보여줍니다—종종 개발자가 인지하기 전에 말입니다. 이는 공격자에게 유리하게 균형을 이동시키고 오류의 여지를 줄입니다.
이것이 조정이 중요한 이유입니다. 이니셔티브 전반에 걸쳐 표준과 지침을 정렬하면 파편화가 줄어들고, 명확성이 향상되며, 실무자들에게 일관된 전진 경로를 제공합니다. 이는 조직이 통제력을 잃지 않고 빠르게 움직일 수 있게 합니다.
MOSAIC과 정렬한다는 것은 MOSAIC 회원 내에서 이루어지는 작업과 정렬하는 것을 의미합니다—MOSAIC이 조정 메커니즘이기 때문입니다.
해야 할 일:
분류체계에 정렬하고 기존 작업을 참조하는 좋은 방법은 귀하의 표준에 있는 요구사항을 OpenCRE.org의 요구사항 분류체계에 연결하는 것입니다.
AI는 LLM이 긴 문서를 비교하고 중복, 공백, 불일치를 식별하는 데 강력하므로 정렬을 지원하는 훌륭한 도구가 될 수 있습니다. OpenCRE 오픈 소스 프로젝트에서 우리는 이 프로세스를 지원하고 MOSAIC 회원의 콘텐츠를 활용할 수 있는 도구를 개발하고 있습니다.
마지막으로, 중요한 것은 표준의 성공적인 정렬은 정의상 희생과 타협을 요구한다는 것입니다. 좋은 정렬은 일반적으로 오랫동안 유지해온 특정 신념을 버리고 '자신이 아끼는 것을 죽이는' 결과를 낳습니다. 때로는 많은 노력이 필요했던 특정 텍스트 부분을 폐기하고 대신 해당 주제를 다루는 다른 출처를 참조하는 것이 더 나을 수 있습니다. 이때로는 고통스러운 과정의 결과는: 유지 관리할 작업이 줄어들고, 핵심 콘텐츠에 더 집중하고, 더 많은 정렬, 실무자들에게 더 많은 명확성, 따라서 더 나은 정보 시스템, 더 나은 세상을 위한 것입니다.
공개 사이트는 Hugo 정적 사이트(마크다운 콘텐츠, 공유 레이아웃, static/assets/의 CSS)이며, GitHub Actions에서 Firebase Hosting으로 배포됩니다.
website/content/*.md (마크다운만)website/data/menu.yaml사이트는 개인정보 친화적이고 쿠키 없는 페이지 조회 통계를 위해 GoatCounter를 사용합니다 (https://mosaic.goatcounter.com). 개인 데이터는 수집되지 않습니다. 자세한 내용은 CONTRIBUTING.md를 참조하세요.