ws4-secure-design-agentic-systems

CoSAI 工作流 4：代理系统的安全设计模式

此仓库用于 CoSAI 工作流 4（代理系统的安全设计模式）的工作。CoSAI 是 OASIS 开放项目，也是一个由业界领先组织的 AI 和安全专家组成的开放生态系统，致力于分享安全 AI 部署的最佳实践，并合作开展 AI 安全研究和产品开发。有关 CoSAI 的更多信息，请访问 CoSAI 网站 和 开放项目仓库，其中包含有关治理、赞助商、名册和项目章程的信息。

关于本工作流

本工作流的目标是研究和开发基于 AI 的代理系统的安全设计模式，包括对 AI 使用威胁模型的更新、概念性高层安全设计模式、对安全基础设施设计的影响，以及其他代理集成和使用相关需求。更多信息请参见这里。

工作流负责人

• Ian Molloy (IBM)
• Sarah Novotny

辅助负责人

• Alex Polyakov (Adversa)
• Raghuram Yeluri (Intel)

本工作流已发布的工作

RFC

活跃且已批准的 RFC：

• 6. 模型上下文协议 (MCP) 安全最佳实践差距分析
• 50. 代理系统的可信数据平面

白皮书

本工作流已发布以下白皮书。

• CoSAI 安全设计代理系统原则 和 PDF
• 代理身份与访问管理 和 PDF

操作手册

操作手册是实用指南或“菜谱”，提供具体示例、代码片段、Notebook 以及对 RFC 和白皮书中提出的建议、最佳实践和安全需求的实现。它们并非完整的解决方案，而是演示如何将理论付诸实践。

1. 安全代理系统的工具设计
2. 输入和数据清理与过滤
3. MCP 运行时隔离

贡献

请查阅我们的新参与者入门指南，并参阅 CoSAI 贡献政策 了解更多详情。

支持

如有问题或功能请求，请使用 GitHub Issues。您也可以发送空白电子邮件至 [email protected] 加入工作流邮件列表。邮件列表存档可在此处阅读。

您还可以通过此链接加入我们的 Slack，并在 #ws4-secure-design-agentic-systems 频道中介绍自己。

治理与许可

CoSAI 及 CoSAI 工作流根据开放项目规则、CoSAI 治理 和工作流治理 运作，并遵循以下许可：

• 文档和数据贡献采用 CC-BY 4.0；
• 源代码和模型采用 Apache License v2.0

每个仓库适用的许可将在创建时确定。