Conduit

Локальная панель управления для ИИ-агентов, пишущих код. Распределение затрат по инженерам · жёсткие бюджеты · контроль исходящего трафика · мониторинг контекстной деградации · экспорт, готовый для аудита — всё внутри вашего VPC.

Conduit размещается между вашими ИИ-агентами (Claude Code, Cursor, Codex, Aider) и любым провайдером, который вы уже используете (Anthropic, OpenAI, Bedrock, Azure — или ваша существующая инсталляция LiteLLM / Portkey). Одна переменная окружения для подключения, ноль изменений на клиенте, промпты и ответы никогда не сохраняются.

[Claude Code / Cursor / Codex]
         │  ANTHROPIC_BASE_URL=https://conduit.yourco.dev
         ▼
[Conduit]  vk_live_… (на инженера)
         │  учёт · бюджеты · управление · аудит · контекстная деградация
         ▼
[LiteLLM / Portkey / прямые провайдеры]
         │
         ▼
[Anthropic / OpenAI / Bedrock / Azure]

Скриншоты

Обзор — расходы, экономия на кеше, токены, заблокированные запросы и флаги управления с первого взгляда.

Overview

Жёсткое соблюдение бюджета — превышение лимита возвращает 402 на шлюзе, до того как запрос достигнет провайдера.

Budget limit exceeded

Контроль исходящего трафика — запрос с AWS-ключом блокируется с кодом 451; сохраняется только категория, но не значение.

Governance block

Активность — каждый запрос с уникальным статусом: успех · попадание в кеш · ограничение скорости · модель заблокирована · бюджет превышен · заблокировано управлением.

Activity

Настройки — полный CRUD для организации, учётных данных провайдера, команд, бюджетов и виртуальных ключей.

Settings

Зачем

Bedrock / Vertex / Azure private endpoints + соглашения BAA без передачи данных решают канал связи с вендором. Они не сообщают финансам, кто потратил $40k, не перехватывают секреты на выходе, не дают аудиторам запись и не показывают, где контекстная деградация сжигает ваш токен-бюджет. Это пробел, который заполняет Conduit — не видя ваших промптов.

Что вы получаете

Распределение затрат по инженерам / ключам / моделям — разбивка, которую структурно не может дать общий API-ключ.
Жёсткие бюджеты + белые списки моделей — закрываемый отказ 402 при перерасходе, чёткий 403 при запрещённой модели (никакого молчаливого понижения).
Контроль исходящего трафика — сканирование секретов уровня T1 (API-ключи / токены / приватные ключи) + упрощённый T2-белый список сущностей организации (имена клиентов, кодовые имена, коды сделок). Оповещение → повышение до блокировки по одной категории за раз. Записывается категория, никогда значение.
Панель контекстной деградации — группировка запросов по размеру входных токенов и отображение кривой стоимости и частоты ошибок. Conduit измеряет; мы никогда не изменяем промпт (это нарушило бы префиксный кеш Anthropic).
Экспорт, готовый для аудитора — каждый запрос в виде строки CSV/JSON, только метаданные.
Виртуальные ключи — инженеры держат отзываемые ключи-заменители; реальные учётные данные провайдера зашифрованы AES-256-GCM на шлюзе и никогда не попадают на ноутбук.

Быстрый старт

Вариант A — запустить подписанный релиз (без сборки, ~30 секунд)

Скачивает последние подписанные образы из GHCR (проверяемы через cosign verify, см. Безопасность).

# 1. Получить compose-файл + шаблон .env (полный клон не нужен)
curl -fsSL https://raw.githubusercontent.com/anee769/conduit/master/docker-compose.yml -o docker-compose.yml
curl -fsSL https://raw.githubusercontent.com/anee769/conduit/master/.env.example -o .env

# 2. Сгенерировать реальный мастер-ключ шифрования
sed -i.bak "s|^MASTER_ENCRYPTION_KEY=.*|MASTER_ENCRYPTION_KEY=$(openssl rand -base64 32)|" .env && rm .env.bak

# 3. Скачать подписанные образы + запустить
docker compose --profile app pull
docker compose --profile app up -d

# 4. Запустить миграции + заполнить прайсбук (однократно)
docker exec conduit-gateway-1 pnpm --filter @finops/db db:migrate
docker exec conduit-gateway-1 pnpm --filter @finops/db seed-pricing

# → открыть http://localhost:3000/setup → создать организацию / учётные данные / команду / виртуальный ключ

Закрепиться за конкретным релизом, задав GATEWAY_IMAGE и CONTROL_PLANE_IMAGE перед up:

export GATEWAY_IMAGE=ghcr.io/anee769/conduit-gateway:v0.1.0
export CONTROL_PLANE_IMAGE=ghcr.io/anee769/conduit-control-plane:v0.1.0

Вариант B — собрать из исходников (~2 минуты, для экспериментов)

git clone https://github.com/anee769/conduit && cd conduit
cp .env.example .env
sed -i.bak "s|^MASTER_ENCRYPTION_KEY=.*|MASTER_ENCRYPTION_KEY=$(openssl rand -base64 32)|" .env && rm .env.bak

docker compose --profile app up -d --build
docker exec conduit-gateway-1 pnpm --filter @finops/db db:migrate
docker exec conduit-gateway-1 pnpm --filter @finops/db seed-pricing

Направить любой ИИ-инструмент на него

export ANTHROPIC_BASE_URL=http://localhost:4000
export ANTHROPIC_AUTH_TOKEN=vk_live_…       # виртуальный ключ из /setup
claude                                       # или cursor / codex / aider

Полное пошаговое руководство с нуля в INSTALL.md.

Работает с тем, что вы уже запускаете

У вас сейчас	Настройте upstream Conduit как
LiteLLM (любая модель, любой провайдер)	`UPSTREAM_ANTHROPIC_URL=http://litellm:4000` → полное руководство: `docs/run-with-litellm.md`
Portkey	Укажите `UPSTREAM_OPENAI_URL` / `UPSTREAM_ANTHROPIC_URL` на базовый URL вашего Portkey
Прямой Anthropic / OpenAI	По умолчанию — ничего настраивать не нужно
AWS Bedrock	Настройте учётные данные Bedrock в `/setup`; Conduit подписывает запросы сигнатурой SigV4
Azure OpenAI	Настройте учётные данные Azure (имя развёртывания + `api-version`) в `/setup`

conduit

Популярное