MOSAIC 为制定 AI 安全标准和指南的组织提供了一个协调结构,以减少不一致、重复工作、不协调和空白。 最终目标是让标准和指南版图提供清晰的指导,以保护和监管我们日益连接到一切事物、并信任其处理敏感数据的 AI 系统。
参见 MOSAIC 成员组织。
参见 路线图。
参见 MOSAICstandards.org。
更多信息请参阅这篇 LinkedIn 文章 以及 启动会议纪要。
参与方式:参见贡献指南。讨论请见此处。
阅读方式:参见本 README、docs 文件夹 或网站。
用户类型:
AI 的承诺正推动各组织将其连接到一切事物,并将敏感数据托付给它。在各行各业,这种探索正在快速展开。
同时,AI 也引入了新的风险。系统既容易受到现有攻击类型的影响,也容易受到新型攻击的影响,而这些都需要特定的对策。许多组织对此尚未做好准备。结果,AI 系统正迅速成为对手眼中具有吸引力的目标。
我们已经从日益增多的事件中看到这一点。当风险变为现实时,创新就会放缓:项目被暂停、设计被重新审查,大量精力被投入到事件响应和恢复中。一开始看似快速的做法,往往会在后期导致延误。
对于实用指南的需求十分明确:如何识别 AI 特有的威胁,以及采取什么应对措施。这并不需要复杂化。如果做得好,它实际上能通过避免返工和减少不确定性来加速开发。
如今,许多倡议都在制定此类指南。然而,整体格局是碎片化的。实践者面对的是多个框架、相互重叠的建议和不一致的术语。每项倡议都有其优势,但也存在盲点。
结果就是困惑。团队难以决定该遵循什么,可能会结合不兼容的方法,或者干脆不再参与并依赖运气。这是一种危险的处境,尤其是在失败可能迅速扩大规模的领域。
在 AI 这样快速发展的领域,较强的风险偏好是可以理解的。但在缺乏清晰且一致的安全指南的情况下运作,并不是经过计算的风险,而是暴露。AI 需要战略性的探索。
AI 漏洞发现领域的最新进展,例如 Mythos AI 漏洞发现系统,进一步增加了紧迫性。它们表明,如今可以更快、更大规模地发现 AI 系统中的弱点——往往在开发者意识到之前就已发现。这使天平向攻击者倾斜,并缩小了容错空间。
这就是协调至关重要的原因。在各倡议之间对齐标准和指南可以减少碎片化、提高清晰度,并为实践者提供一条连贯的前进道路。它使组织能够在保持控制的同时快速行动。
公开网站是一个 Hugo 静态站点(Markdown 内容、共享布局、static/assets/ 中的 CSS),通过 GitHub Actions 部署到 Firebase Hosting。
content/mosaic/content/*.md (仅 Markdown)content/mosaic/data/menu.yaml网站使用 GoatCounter 提供注重隐私、无 Cookie 的页面浏览量统计(https://mosaic.goatcounter.com)。不会收集任何个人数据。详情请参见 CONTRIBUTING.md。