Conduit

AI कोडिंग एजेंटों के लिए ऑन-प्रेम कंट्रोल प्लेन। प्रति-इंजीनियर लागत आरोपण · कठोर बजट · ईग्रेस गवर्नेंस · कॉन्टेक्स्ट-रोट ऑब्ज़र्वेबिलिटी · ऑडिट-तैयार निर्यात — सब आपके VPC के अंदर।

Conduit आपके AI कोडिंग एजेंटों (Claude Code, Cursor, Codex, Aider) और आपके द्वारा पहले से उपयोग किए जा रहे किसी भी प्रदाता (Anthropic, OpenAI, Bedrock, Azure — या आपके मौजूदा LiteLLM / Portkey डिप्लॉयमेंट) के बीच बैठता है। एक एनव वेरिएबल अपनाने के लिए, शून्य क्लाइंट बदलाव, प्रॉम्प्ट और कम्प्लीशन कभी संग्रहीत नहीं होते।

[Claude Code / Cursor / Codex]
         │  ANTHROPIC_BASE_URL=https://conduit.yourco.dev
         ▼
[Conduit]  vk_live_… (per-engineer)
         │  metering · budgets · governance · audit · context-rot
         ▼
[LiteLLM / Portkey / direct providers]
         │
         ▼
[Anthropic / OpenAI / Bedrock / Azure]

---

स्क्रीनशॉट

अवलोकन — खर्च, कैश बचत, टोकन, अवरुद्ध अनुरोध, और गवर्नेंस फ़्लैग एक नज़र में।

कठोर बजट प्रवर्तन — सीमा से अधिक होने पर प्रदाता तक पहुँचने से पहले गेटवे पर 402 वापस आता है।

ईग्रेस गवर्नेंस — AWS कुंजी ले जाने वाला अनुरोध 451 के साथ अवरुद्ध होता है; केवल श्रेणी दर्ज की जाती है, मान कभी नहीं।

गतिविधि — प्रत्येक अनुरोध एक अलग स्थिति के साथ: सफल · कैश हिट · दर सीमित · मॉडल अवरुद्ध · बजट से अधिक · गवर्नेंस द्वारा अवरुद्ध।

सेटिंग्स — संगठन, प्रदाता क्रेडेंशियल, टीमें, बजट और वर्चुअल कुंजियों के लिए पूर्ण CRUD।

---

क्यों

Bedrock / Vertex / Azure प्राइवेट एंडपॉइंट + नो-ट्रेन BAA विक्रेता के चैनल को हल करते हैं। वे फाइनेंस को नहीं बताते कि $40k किसने खर्च किया, ईग्रेस पर सीक्रेट्स नहीं पकड़ते, ऑडिटर्स को रिकॉर्ड नहीं देते, और यह नहीं दिखाते कि कॉन्टेक्स्ट रोट आपके टोकन बजट को कहाँ जला रही है। यह वह अंतर है जिसे Conduit भरता है — बिना आपके प्रॉम्प्ट को कभी देखे।

आपको क्या मिलता है

• प्रति-इंजीनियर / प्रति-कुंजी / प्रति-मॉडल लागत आरोपण — वह विवरण जो एक साझा API कुंजी संरचनात्मक रूप से उत्पन्न नहीं कर सकती।
• कठोर बजट + मॉडल अनुमति-सूची — अधिकता पर फेल-क्लोज्ड 402, अनुमति न दिए गए मॉडल पर स्पष्ट 403 (कभी मौन डाउनग्रेड नहीं)।
• ईग्रेस गवर्नेंस — T1 सीक्रेट स्कैन (API कुंजियाँ / टोकन / प्राइवेट कुंजियाँ) + T2-लाइट प्रति-संगठन एंटिटी अनुमति-सूची (आपके ग्राहक नाम, कोडनेम, डील कोड)। चेतावनी → एक बार में एक श्रेणी को ब्लॉक करने के लिए प्रमोट करें। श्रेणी रिकॉर्ड करता है, मान कभी नहीं।
• कॉन्टेक्स्ट-रोट पैनल — इनपुट-टोकन आकार के अनुसार अनुरोधों को बकेट करता है और लागत-और-त्रुटि दर वक्र दिखाता है। Conduit मापता है; हम प्रॉम्प्ट को कभी संशोधित नहीं करते (इससे Anthropic का प्रीफ़िक्स कैश टूट जाएगा)।
• ऑडिटर-तैयार निर्यात — प्रत्येक अनुरोध मेटाडेटा-केवल CSV/JSON पंक्ति के रूप में।
• वर्चुअल कुंजियाँ — इंजीनियरों के पास रद्द करने योग्य स्टैंड-इन कुंजियाँ होती हैं; वास्तविक प्रदाता क्रेडेंशियल AES-256-GCM-सील्ड गेटवे में होता है और कभी लैपटॉप को नहीं छूता।

त्वरित आरंभ

विकल्प A — हस्ताक्षरित रिलीज़ चलाएं (कोई बिल्ड नहीं, ~30 सेकंड)

GHCR से नवीनतम हस्ताक्षरित इमेज खींचता है (cosign verify के माध्यम से सत्यापन योग्य, सुरक्षा स्थिति देखें)।

# 1. compose फ़ाइल + एनव टेम्प्लेट प्राप्त करें (पूर्ण क्लोन की आवश्यकता नहीं)
curl -fsSL https://raw.githubusercontent.com/anee769/conduit/master/docker-compose.yml -o docker-compose.yml
curl -fsSL https://raw.githubusercontent.com/anee769/conduit/master/.env.example -o .env

# 2. एक वास्तविक मास्टर एन्क्रिप्शन कुंजी जनरेट करें
sed -i.bak "s|^MASTER_ENCRYPTION_KEY=.*|MASTER_ENCRYPTION_KEY=$(openssl rand -base64 32)|" .env && rm .env.bak

# 3. हस्ताक्षरित इमेज खींचें + प्रारंभ करें
docker compose --profile app pull
docker compose --profile app up -d

# 4. माइग्रेशन चलाएं + मूल्य निर्धारण पुस्तक बीज करें (एक बार)
docker exec conduit-gateway-1 pnpm --filter @finops/db db:migrate
docker exec conduit-gateway-1 pnpm --filter @finops/db seed-pricing

# → http://localhost:3000/setup खोलें → संगठन / क्रेडेंशियल / टीम / वर्चुअल कुंजी बनाएं

up से पहले GATEWAY_IMAGE और CONTROL_PLANE_IMAGE निर्यात करके किसी विशिष्ट रिलीज़ पर पिन करें:

export GATEWAY_IMAGE=ghcr.io/anee769/conduit-gateway:v0.1.0
export CONTROL_PLANE_IMAGE=ghcr.io/anee769/conduit-control-plane:v0.1.0

विकल्प B — स्रोत से बिल्ड करें (~2 मिनट, हैकिंग के लिए)

git clone https://github.com/anee769/conduit && cd conduit
cp .env.example .env
sed -i.bak "s|^MASTER_ENCRYPTION_KEY=.*|MASTER_ENCRYPTION_KEY=$(openssl rand -base64 32)|" .env && rm .env.bak

docker compose --profile app up -d --build
docker exec conduit-gateway-1 pnpm --filter @finops/db db:migrate
docker exec conduit-gateway-1 pnpm --filter @finops/db seed-pricing

इसमें किसी भी AI टूल को इंगित करें

export ANTHROPIC_BASE_URL=http://localhost:4000
export ANTHROPIC_AUTH_TOKEN=vk_live_…       # /setup से वर्चुअल कुंजी
claude                                       # या cursor / codex / aider

शुरू से पूर्ण वॉकथ्रू INSTALL.md में।

आप पहले से क्या चलाते हैं, उसके साथ काम करता है

आप आज चलाते हैं	Conduit के अपस्ट्रीम को इस रूप में कॉन्फ़िगर करें
LiteLLM (कोई भी मॉडल, कोई भी प्रदाता)	UPSTREAM_ANTHROPIC_URL=http://litellm:4000 → पूर्ण वॉकथ्रू: docs/run-with-litellm.md
Portkey	UPSTREAM_OPENAI_URL / UPSTREAM_ANTHROPIC_URL को अपने Portkey बेस URL पर इंगित करें
Direct Anthropic / OpenAI	डिफ़ॉल्ट — कॉन्फ़िगर करने की आवश्यकता नहीं
AWS Bedrock	/setup में Bedrock क्रेडेंशियल कॉन्फ़िगर करें; Conduit SigV4 के साथ अनुरोधों पर हस्ताक्षर करता है
Azure OpenAI	/setup में Azure क्रेडेंशियल कॉन्फ़िगर करें (डिप्लॉयमेंट नाम + api-version)

Conduit की तुलना कैसे की जाती है

	Conduit	LiteLLM	Portkey	Helicone
ओपन-सोर्स लाइसेंस	Apache 2.0	MIT	Apache 2.0 (गेटवे)	MIT
पूरी तरह से ऑन-प्रेम / आपके VPC में चलता है	✅	✅	✅ (एंटरप्राइज़)	✅ (स्व-होस्ट)
प्रदाता रूटिंग + उपनाम + फ़ॉलबैक	✅ (कोई भी अपस्ट्रीम)	✅	✅	❌
प्रति-इंजीनियर लागत आरोपण (नामों के साथ वर्चुअल कुंजियाँ)	✅	आंशिक (मास्टर-कुंजी साझा बिल)	✅	✅ (केवल-निरीक्षण)
कठोर बजट (फेल-क्लोज्ड 402)	✅	आंशिक	✅	❌
ईग्रेस गवर्नेंस (सीक्रेट्स + प्रति-संगठन एंटिटी अनुमति-सूची, चेतावनी → ब्लॉक)	✅	❌	✅ (गार्ड्रेल्स)	❌
ऑडिट-तैयार CSV/JSON निर्यात (केवल मेटाडेटा)	✅	❌	आंशिक	✅
कॉन्टेक्स्ट-रोट ऑब्ज़र्वेबिलिटी (इनपुट-टोकन आकार के अनुसार लागत-और-त्रुटि वक्र)	✅	❌	❌	❌
प्रॉम्प्ट / कम्प्लीशन कभी संग्रहीत नहीं	✅	डिफ़ॉल्ट रूप से लॉग	कॉन्फ़िगरेबल	डिफ़ॉल्ट रूप से लॉग
हस्ताक्षरित रिलीज़ + CycloneDX SBOM	✅	❌	❌	❌
दूसरों के ऊपर बैठने के लिए डिज़ाइन किया गया	✅	n/a	n/a	n/a