[!IMPORTANT] 公开预览版 — 此仓库中发布的所有软件包均为 经 Microsoft 签名的公开预览版。它们达到 生产级别的质量,但在正式发布(GA)之前可能存在重大变更。如有任何反馈,请在GitHub上提交issue。
这个工具包是什么: 运行时治理基础设施 — 位于你的代理框架与代理执行操作之间的确定性 策略执行、零信任身份验证、执行沙箱,以及可靠性工程。
这个工具包不是什么: 这不是一个用于模型安全或提示词防护的工具。它不会过滤大语言模型 (LLM)的输入/输出,也不执行内容审核。它是在应用层对 代理的行为 (工具调用、资源访问、 代理间通信)进行治理。对于模型层面的安全,请参考Azure AI Content Safety。
面向 AI 代理的运行时治理 — 唯一一个覆盖全部 10 项 OWASP Agentic 风险 并提供 13,000+ 测试 的工具包。 它治理的是代理 做什么, 而不仅仅是说什么 — 包括确定性策略执行、零信任身份认证、执行沙箱,以及站点可靠性工程(SRE) — 支持 Python · TypeScript · .NET · Rust · Go
适用于任何技术栈 — 支持 AWS Bedrock, Google ADK, Azure AI, LangChain, CrewAI, AutoGen, OpenAI Agents, LlamaIndex 等。 只需通过
pip install即可使用,无厂商锁定。
Python (PyPI)
pip install agent-governance-toolkit[full]
TypeScript / Node.js (npm)
npm install @microsoft/agent-governance-sdk
.NET (NuGet)
dotnet add package Microsoft.AgentGovernance
pip install agent-os-kernel # 策略引擎
pip install agentmesh-platform # 信任网格
pip install agentmesh-runtime # 运行时监督器
pip install agent-sre # SRE 工具包
pip install agent-governance-toolkit # 合规与认证
pip install agentmesh-marketplace # 插件市场
pip install agentmesh-lightning # 强化学习训练治理
还有问题吗?请提交一个 GitHub issue 或查看我们的 社区页面.
agentmesh trust report — 可视化信任评分、任务成功/失败情况及代理活动
from agent_os import PolicyEngine, CapabilityModel
# 定义此代理允许执行的操作
capabilities = CapabilityModel(
allowed_tools=["web_search", "file_read"],
denied_tools=["file_write", "shell_exec"],
max_tokens_per_call=4096
)
# 在每次操作前强制执行策略
engine = PolicyEngine(capabilities=capabilities)
decision = engine.evaluate(agent_id="researcher-1", action="tool_call", tool="web_search")
if decision.allowed:
# 继续进行工具调用
...
import { PolicyEngine } from "@microsoft/agent-governance-sdk";
const engine = new PolicyEngine([
{ action: "web_search", effect: "allow" },
{ action: "shell_exec", effect: "deny" },
]);
const decision = engine.evaluate("web_search"); // "allow"
using AgentGovernance;
using AgentGovernance.Policy;
var kernel = new GovernanceKernel(new GovernanceOptions
{
PolicyPaths = new() { "policies/default.yaml" },
});
var result = kernel.EvaluateToolCall(
agentId: "did:mesh:researcher-1",
toolName: "web_search",
args: new() { ["query"] = "latest AI news" }
);
if (result.Allowed) { /* 继续执行 */ }
use agentmesh::{AgentMeshClient, ClientOptions};
let client = AgentMeshClient::new("my-agent").unwrap();
let result = client.execute_with_governance("data.read", None);
assert!(result.allowed);
import agentmesh "github.com/microsoft/agent-governance-toolkit/agent-governance-golang"
client, _ := agentmesh.NewClient("my-agent",
agentmesh.WithPolicyRules([]agentmesh.PolicyRule{
{Action: "data.read", Effect: agentmesh.Allow},
{Action: "*", Effect: agentmesh.Deny},
}),
)
result := client.ExecuteWithGovernance("data.read", nil)
// result.Allowed == true
# 完整治理演示 (policy enforcement, audit, trust, cost, reliability)
python examples/demos/maf_governance_demo.py
# 使用对抗性攻击场景运行
python examples/demos/maf_governance_demo.py --include-attacks
将您现有的基础设施策略引入代理治理 — 无需新的策略 DSL。
from agent_os.policies import PolicyEvaluator
evaluator = PolicyEvaluator()
evaluator.load_rego(rego_content="""
package agentos
default allow = false
allow { input.tool_name == "web_search" }
allow { input.role == "admin" }
""")
decision = evaluator.evaluate({"tool_name": "web_search", "role": "analyst"})
# decision.allowed == True
from agent_os.policies import PolicyEvaluator
evaluator = PolicyEvaluator()
evaluator.load_cedar(policy_content="""
permit(principal, action == Action::"ReadData", resource);
forbid(principal, action == Action::"DeleteFile", resource);
""")
decision = evaluator.evaluate({"tool_name": "read_data", "agent_id": "agent-1"})
# decision.allowed == True
from agentmesh.governance import PolicyEngine
engine = PolicyEngine()
engine.load_rego("policies/mesh.rego", package="agentmesh")
engine.load_cedar(cedar_content='permit(principal, action == Action::"Analyze", resource);')
decision = engine.evaluate("did:mesh:agent-1", {"tool_name": "analyze"})
每个后端支持三种评估模式: 内嵌引擎 (cedarpy/opa CLI), 远程服务器, 或 内置回退 (零外部依赖).
适用于 20+ 代理框架 ,包括:
完整映射包含实现细节和测试证据: OWASP-COMPLIANCE.md
| 法规 | 截止日期 | AGT 覆盖 |
|---|---|---|
| 欧盟 AI 法案 — 高风险 AI (Annex III) | 2026 年 8 月 2 日 | 审计轨迹 (Art. 12), 风险管理 (Art. 9), 人工监督 (Art. 14) |
| Colorado AI 法案 (SB 24-205) | 2026 年 6 月 30 日 | 风险评估、人工监督机制、消费者披露 |
| 欧盟 AI 法案 — GPAI 义务 | 生效中 |
AGT 提供 运行时治理 — 规定代理允许执行的操作。对于 数据治理和面向监管机构的证据导出,可参考 Microsoft Purview DSPM for AI 作为补充层。
治理开销为 每次操作 < 0.1 ms — 大约比一次 LLM API 调用快 10,000 倍。
完整方法论及各适配器细分: BENCHMARKS.md
该工具包提供 应用层 (Python middleware) 治理,而非操作系统内核级隔离。策略引擎与其治理的代理运行在 同一个 Python 进程中. 这与所有基于 Python 的代理框架 (如 LangChain, CrewAI, AutoGen 等)使用相同的信任边界。
生产环境建议:
examples/policies/)如果你使用 Agent Governance Toolkit 建与第三方代理框架或服务协作的应用程序,则需自行承担风险。我们建议你审查所有与第三方服务共享的数据,并了解第三方在数据保留和数据存储位置方面的实践。你有责任管理你的数据是否会流出组织的合规范围和地理边界,以及相关影响。
本项目基于 MIT License 进行授权。
本项目可能包含项目、产品或服务的商标或标志。Microsoft 商标或标志的授权使用需遵循Microsoft's Trademark & Brand Guidelines.在本项目的修改版本中使用 Microsoft 商标或标志,不得造成混淆或暗示 Microsoft 的赞助。任何第三方商标或标志的使用,均需遵循该第三方的相关政策。
| 语言 | Package | Install |
|---|
| Python | agent-governance-toolkit[full] | pip install agent-governance-toolkit[full] |
| TypeScript | @microsoft/agent-governance-sdk | npm install @microsoft/agent-governance-sdk |
| .NET | Microsoft.AgentGovernance | dotnet add package Microsoft.AgentGovernance |
| Rust | agentmesh | cargo add agentmesh |
| Go | agentmesh | go get github.com/microsoft/agent-governance-toolkit/agent-governance-golang |
| 软件包 | PyPI | 描述 |
|---|
| Agent OS | agent-os-kernel | 策略引擎 — 确定性动作评估、能力模型、审计日志、动作拦截、MCP 网关 |
| AgentMesh | agentmesh-platform | 代理间信任 — Ed25519 身份、SPIFFE/SVID 凭证、信任评分、A2A/MCP/IATP 协议桥接 |
| Agent Runtime | agentmesh-runtime | 执行监督器 — 四层权限环、 saga 编排 、终止控制、联合责任、仅追加审计日志 |
| Agent SRE | agent-sre | 可靠性工程 — SLOs、错误预算、重放调试、混沌工程、渐进式发布 |
| Agent Compliance | agent-governance-toolkit | 运行时策略执行 — OWASP ASI 2026 控制、治理证明、完整性验证 |
| Agent Marketplace | agentmesh-marketplace | 插件生命周期 — 发现、安装、验证和签名插件 |
| Agent Lightning | agentmesh-lightning | RL 训练治理 — 受治理运行器、策略奖励 |
| 框架 | Stars | 集成 |
|---|
| Microsoft Agent Framework | 8K+ ⭐ | Native Middleware |
| Semantic Kernel | 27K+ ⭐ | Native (.NET + Python) |
| Dify | 133K+ ⭐ | Plugin |
| Microsoft AutoGen | 55K+ ⭐ | Adapter |
| LlamaIndex | 47K+ ⭐ | Middleware |
| CrewAI | 46K+ ⭐ | Adapter |
| LangGraph | 27K+ ⭐ | Adapter |
| Haystack | 24K+ ⭐ | Pipeline |
| OpenAI Agents SDK | 20K+ ⭐ | Middleware |
| Google ADK | 18K+ ⭐ | Adapter |
| Azure AI Foundry | — | Deployment Guide |
| 风险 | ID | 状态 |
|---|
| 代理目标劫持 | ASI-01 | ✅ 策略引擎阻止未授权的目标更改 |
| 过度能力 | ASI-02 | ✅ 能力模型强制最小权限原则 |
| 身份与权限滥用 | ASI-03 | ✅ 基于 Ed25519 证书的零信任身份 |
| 代理供应链攻击 | ASI-04 | ✅ 依赖混淆扫描 + 工具验证 |
| 意外代码执行 | ASI-05 | ✅ Agent Runtime 执行环 + 沙箱 |
| 内存投毒 | ASI-06 | ✅ 带完整性检查的情节记忆 |
| 不安全的代理间通信 | ASI-07 | ✅ AgentMesh 加密通道 + 信任门控 |
| 级联故障 | ASI-08 | ✅ 断路器 + SLO 执行 |
| 人机信任缺失 | ASI-09 | ✅ 完整审计轨迹 + 飞行记录器 |
| 恶意代理 | ASI-10 | ✅ 终止开关 + 权限环隔离 + 行为异常检测 |
| 透明性, 版权策略, 系统性风险评估 |
| 指标 | 延迟 (p50) | 吞吐量 |
|---|
| 策略评估(1 条规则) | 0.012 ms | 72K ops/sec |
| 策略评估(100 条规则) | 0.029 ms | 31K ops/sec |
| 内核级执行 | 0.091 ms | 9.3K ops/sec |
| 适配器开销 | 0.004–0.006 ms | 130K–230K ops/sec |
| 并发吞吐量(50 个 agents) | — | 35,481 ops/sec |
| 层 | 提供能力 | 不提供 |
|---|
| 策略引擎 | 确定性动作拦截、拒绝列表执行 | 硬件级内存隔离 |
| 身份 (IATP) | 基于 Ed25519 的加密代理凭证、信任评分 | 操作系统级进程隔离 |
| 执行环 | 具资源限制的逻辑权限层级 | CPU 环级强制执行 |
| 启动完整性 | 启动时对治理模块进行 SHA-256 篡改检测 | 硬件信任根 (如TPM/Secure Boot) |
| 工具 | 覆盖范围 |
|---|
| CodeQL | Python + TypeScript 静态应用安全测试 |
| Gitleaks | 在 PR/push/每周执行密钥扫描 |
| ClusterFuzzLite | 7 个模糊测试目标 (policy, injection, MCP, sandbox, trust) |
| Dependabot | 13 个生态系统 (pip, npm, nuget, cargo, gomod, docker, actions) |
| OpenSSF Scorecard | 每周评分 + SARIF 上传 |
| SBOM | SPDX + CycloneDX 生成与证明 |
| Dependency Review | PR 阶段 CVE 和许可证检查 |