Cupcake

让 AI 智能体遵守规则。

面向 AI 智能体的策略执行层；在不消耗模型上下文的情况下带来更好的性能与安全性。

• 确定性的规则遵循，适用于你的智能体。 交互式示例
• 更好的性能，通过将规则从上下文中移出并转化为策略即代码。
• 触发告警，并在违规的智能体反复违反规则时让它们进入超时状态。

Cupcake 拦截智能体事件，并依据使用 Open Policy Agent (OPA) Rego 编写的用户自定义规则对事件进行评估。智能体操作可以被阻止、修改和自动纠正，同时为智能体提供有用的反馈。其他优势还包括针对你无需依赖智能体执行的任务（如在文件编辑后进行 lint 检查）提供反应式自动化。

更新

2025-12-10：正式开源发布。路线图将在 2026 年第一季度制定。

2025-04-04：我们为 Claude Code Hooks 提交了功能请求。运行时对齐需要集成到智能体框架中，因此我们不再采用基于文件系统和操作系统层面的智能体行为监控方式（早期 cupcake PoC）。

支持的智能体框架

Cupcake 为多种 AI 编程智能体提供轻量级原生集成：

每个框架使用原生事件格式。与 terraform 类似，策略按框架分开存放（policies/claude/、policies/cursor/、policies/factory/、policies/opencode/），以确保清晰明了并充分利用各框架特有的能力。如果某个特定框架不受支持，那是因为它没有运行时集成的途径。

语言绑定

Cupcake 可以通过原生绑定嵌入到 JavaScript 智能体应用中。这使你可以与基于 Web 的智能体框架（如 LangChain、Google ADK、NVIDIA NIM、Vercel AI SDK 等）集成。

语言	绑定
TypeScript	./cupcake-ts

工作原理

Cupcake 充当你的编程智能体与其运行时环境之间的执行层，通过钩子直接作用于智能体的操作路径。

Agent → (提议的操作) → Cupcake → (策略决定) → Agent 运行时

1. 拦截：智能体准备执行某个操作/工具调用（例如 git push、fs_write）。
2. 增强：Cupcake 收集实时的信号——来自环境的事实，例如当前 Git 分支、CI 状态或数据库元数据。
3. 评估：操作和信号被打包成 JSON 输入，并在毫秒内针对你的 Wasm 策略进行评估。

确定性与非确定性评估

Cupcake 支持两种评估模型：

1. 确定性策略：策略使用 OPA/Rego 编写，并编译为 WebAssembly (Wasm)，以实现快速、沙箱化的评估。实现细节请参阅编写策略指南。
2. LLM 作为裁判：为了对你的规则进行更简单但更高级的监督，Cupake 可以通过辅助 LLM 或智能体介入，评估某个操作应如何进行。实现细节请参阅 Cupcake Watchdog 指南。

决策与反馈

根据评估结果，Cupcake 会向智能体运行时返回五种决策之一，并附带一条人类可读的消息：

• 允许：操作继续执行。可选地，Cupcake 可以注入上下文（例如“记住：你当前在 main 分支上”）来引导后续行为，而无需阻断操作。 注意：上下文注入支持 Claude Code 和 Factory AI，但不支持 Cursor。
• 修改：操作以转换后的输入继续执行。策略可以清理命令、添加安全标志或在执行前强制执行约定。 注意：仅支持 Claude Code 和 Factory AI。
• 阻止：操作被停止。Cupcake 会发送反馈，说明被阻止的原因（例如“推送之前测试必须通过”），让智能体可以自行纠正。
• 警告：操作继续执行，但会记录或显示警告。
• 需要审查：操作暂停，直到人工批准。

为什么选择 Cupcake？

现代智能体功能强大，但在遵循操作和安全规则方面不一致，尤其是在上下文不断增长的情况下。Cupcake 将你已经维护的规则（如 CLAUDE.md、AGENT.md、.cursor/rules）转化为可执行的护栏，并在操作执行之前运行。

• 多框架支持，为 Claude Code、Cursor、Factory AI 和 OpenCode 提供一流的集成。
• 治理即代码，使用编译为 WebAssembly 的 OPA/Rego，实现快速、沙箱化的评估。
• 企业级控制：允许/拒绝/审查、面向 AI SOC 的增强审计追踪，以及主动警告。

核心能力

• 细粒度工具控制：阻止特定工具或参数（例如阻止 rm -rf /）。
• MCP 支持：对 Model Context Protocol（MCP）工具提供原生治理（例如 mcp__memory__*、mcp__github__*）。
• LLM 作为裁判：使用辅助 LLM 或智能体评估操作，实现更动态的监督。
• 护栏库：与 NeMo 和 Invariant 的一流集成，用于内容与安全检查。
• 可观测性：所有输入、信号和决策都会生成结构化日志与评估追踪，便于调试。

使用 Nix 安装与开发

如果你使用 nix，可以通过提供的 flake 安装并运行 Cupcake：

使用 Nix 安装 Cupcake CLI

# Install directly from GitHub
nix profile install github:eqtylab/cupcake#cupcake-cli

# Or run without installing
nix run github:eqtylab/cupcake#cupcake-cli -- --help

在 NixOS 上安装 Cupcake CLI

将以下内容添加到你的 flake.nix：

inputs.cupcake.url = "github:eqtylab/cupcake";

然后将以下包添加到你的 environment.systemPackages 或 home.packages：

inputs.cupcake.packages.${system}.cupcake-cli

开发环境 Shell

开发时，你也可以使用提供的 dev shell，其中包含 Rust 工具链、just 和其他依赖：

# Enter the development shell
nix develop

常见问题

Cupcake 会消耗提示/上下文 Token 吗？ 不会。策略在模型之外运行，并返回结构化决策。

Cupcake 是否绑定特定模型？ 不会。Cupcake 通过框架特定的集成支持多种 AI 编程智能体。

评估速度有多快？ 在典型配置下，缓存策略的评估耗时低于毫秒级。

贡献

欢迎贡献！请参阅 CONTRIBUTING.md 了解指南。

许可证

Apache 2.0

Cupcake 由 EQTYLab 开发，并由 Trail of Bits 提供智能体安全研究支持。

在 X 上关注 获取定期更新。