Cupcake

Заставьте ИИ-агентов следовать правилам.

Слой принудительного применения политик для ИИ-агентов; обеспечивает лучшую производительность и безопасность без потребления контекста модели.

• Детерминированное соблюдение правил для ваших агентов. Интерактивные примеры
• Лучшая производительность за счет вынесения правил из контекста в политику как код.
• Запускайте оповещения и отправляйте плохих агентов в тайм-аут, когда они неоднократно нарушают правила.

Cupcake перехватывает события агента и оценивает их на основе пользовательских правил, написанных на Open Policy Agent (OPA) Rego. Действия агента могут быть заблокированы, изменены и автоматически исправлены путем предоставления агенту полезной обратной связи. Дополнительные преимущества включают реактивную автоматизацию для задач, которые не нужно полагаться на агента для выполнения (например, линтинг после редактирования файла).

Обновления

2025-12-10: Официальный выпуск с открытым исходным кодом. Дорожная карта будет подготовлена в Q1 2026.

2025-04-04: Мы создали запрос функции для Claude Code Hooks. Выравнивание во время выполнения требует интеграции в обвязки агента, и мы отходим от мониторинга поведения агента на уровне файловой системы и ОС (ранний PoC Cupcake).

Поддерживаемые обвязки агентов

Cupcake предоставляет легковесные нативные интеграции для нескольких ИИ-агентов кодирования:

Каждая обвязка использует собственные форматы событий. Как и в Terraform, политики разделяются по обвязкам (policies/claude/, policies/cursor/, policies/factory/, policies/opencode/) для обеспечения ясности и полного доступа к специфическим возможностям обвязки. Если конкретная обвязка не поддерживается, это связано с отсутствием средств для интеграции во время выполнения.

Привязки языков

Cupcake может быть встроен в приложения JavaScript-агентов через нативные привязки. Это обеспечивает интеграцию с веб-фреймворками агентов, такими как LangChain, Google ADK, NVIDIA NIM, Vercel AI SDK и другими.

Язык	Привязка
TypeScript	./cupcake-ts

Как это работает

Cupcake выступает в качестве уровня принуждения между вашими агентами кодирования и их средой выполнения через хуки непосредственно в пути действий агента.

Агент → (предлагаемое действие) → Cupcake → (решение политики) → Среда выполнения агента

1. Перехват: Агент готовится выполнить действие/вызов инструмента (например, git push, fs_write).
2. Обогащение: Cupcake собирает в реальном времени Сигналы — факты из среды, такие как текущая ветка Git, статус CI или метаданные базы данных.
3. Оценка: Действие и сигналы упаковываются в JSON-входные данные и оцениваются на соответствие вашим политикам Wasm за миллисекунды.

Детерминированная и недетерминированная оценка

Cupcake поддерживает две модели оценки:

1. Детерминированные политики: Политики пишутся на OPA/Rego и компилируются в WebAssembly (Wasm) для быстрой, изолированной оценки. Руководство по реализации Writing Policies.
2. LLM‑как‑судья: Для более простого, но более продвинутого надзора за вашими правилами, Cupake может вмешиваться через вторичную LLM или агента для оценки того, как должно выполняться действие. Руководство по реализации Cupcake Watchdog.

Решения и обратная связь

На основе оценки Cupcake возвращает одно из пяти решений среде выполнения агента, а также понятное человеку сообщение:

• Разрешить: Действие выполняется. При необходимости Cupcake может внедрить Контекст (например, «Помните: вы находитесь в основной ветке») для управления последующим поведением без блокировки. Примечание: внедрение контекста поддерживается в Claude Code и Factory AI, но не в Cursor.
• Изменить: Действие выполняется с преобразованным вводом. Политики могут очищать команды, добавлять флаги безопасности или обеспечивать соблюдение соглашений перед выполнением. Примечание: поддерживается только в Claude Code и Factory AI.
• Заблокировать: Действие остановлено. Cupcake отправляет Обратную связь, объясняющую почему оно было заблокировано (например, «Тесты должны пройти перед отправкой»), что позволяет агенту самокорректироваться.
• Предупредить: Действие выполняется, но предупреждение регистрируется или отображается.
• Требовать проверки: Действие приостанавливается до одобрения человеком.

Зачем Cupcake?

Современные агенты мощны, но непоследовательны в соблюдении операционных правил и правил безопасности, особенно по мере роста контекста. Cupcake превращает правила, которые вы уже поддерживаете (например, CLAUDE.md, AGENT.md, .cursor/rules), в принудительно применяемые ограждения, которые выполняются до выполнения действий.

• Поддержка нескольких обвязок с интеграцией первого класса для Claude Code, Cursor, Factory AI и OpenCode.
• Управление как код с использованием OPA/Rego, скомпилированных в WebAssembly для быстрой, изолированной оценки.
• Готовые к корпоративному использованию элементы управления: разрешить/запретить/проверить, расширенные аудиторские цепочки для SOC ИИ и упреждающие предупреждения.

Основные возможности

• Гранулярный контроль инструментов: Предотвращайте использование определенных инструментов или аргументов (например, блокировка rm -rf /).
• Поддержка MCP: Встроенное управление для инструментов протокола контекста модели (например, mcp__memory__*, mcp__github__*).
• LLM‑как‑судья: Используйте вторичную LLM или агента для оценки действий с целью более динамичного надзора.
• Библиотеки ограждений: Интеграция первого класса с NeMo и Invariant для проверки содержимого и безопасности.
• Наблюдаемость: Все входные данные, сигналы и решения генерируют структурированные журналы и трассировки оценки для отладки.

Установка и разработка с Nix

Если вы используете nix, вы можете установить и запустить Cupcake с помощью предоставленного flake:

Установка Cupcake CLI с помощью Nix

# Install directly from GitHub
nix profile install github:eqtylab/cupcake#cupcake-cli

# Or run without installing
nix run github:eqtylab/cupcake#cupcake-cli -- --help

Установка Cupcake CLI на NixOS

Добавьте следующее в ваш flake.nix:

inputs.cupcake.url = "github:eqtylab/cupcake";

А затем следующий пакет в ваш environment.systemPackages или home.packages:

inputs.cupcake.packages.${system}.cupcake-cli

Оболочка разработки

Для разработки вы также можете использовать предоставленную оболочку разработки, которая включает цепочку инструментов Rust, just и другие зависимости:

# Enter the development shell
nix develop

Часто задаваемые вопросы

Потребляет ли Cupcake токены подсказок/контекста? Нет. Политики выполняются вне модели и возвращают структурированные решения.

Привязан ли Cupcake к конкретной модели? Нет. Cupcake поддерживает множество ИИ-агентов кодирования с интеграциями, специфичными для обвязки.

Насколько быстра оценка? Субмиллисекунда для кэшированных политик в типичных конфигурациях.

Вклад в разработку

Мы приветствуем вклад! Смотрите CONTRIBUTING.md для руководства.

Лицензия

Apache 2.0

Cupcake разработан EQTYLab, при поддержке исследований безопасности агентов от Trail of Bits.

Подписывайтесь на X для регулярных обновлений.