Conduit

AI कोडिंग एजेंटों के लिए ऑन-प्रेम कंट्रोल प्लेन। प्रति-इंजीनियर लागत आरोपण · कठोर बजट · ईग्रेस गवर्नेंस · कॉन्टेक्स्ट-रोट ऑब्ज़र्वेबिलिटी · ऑडिट-तैयार निर्यात — सब आपके VPC के अंदर।

Conduit आपके AI कोडिंग एजेंटों (Claude Code, Cursor, Codex, Aider) और आपके द्वारा पहले से उपयोग किए जा रहे किसी भी प्रदाता (Anthropic, OpenAI, Bedrock, Azure — या आपके मौजूदा LiteLLM / Portkey डिप्लॉयमेंट) के बीच बैठता है। एक एनव वेरिएबल अपनाने के लिए, शून्य क्लाइंट बदलाव, प्रॉम्प्ट और कम्प्लीशन कभी संग्रहीत नहीं होते।

[Claude Code / Cursor / Codex]
         │  ANTHROPIC_BASE_URL=https://conduit.yourco.dev
         ▼
[Conduit]  vk_live_… (per-engineer)
         │  metering · budgets · governance · audit · context-rot
         ▼
[LiteLLM / Portkey / direct providers]
         │
         ▼
[Anthropic / OpenAI / Bedrock / Azure]

स्क्रीनशॉट

अवलोकन — खर्च, कैश बचत, टोकन, अवरुद्ध अनुरोध, और गवर्नेंस फ़्लैग एक नज़र में।

कठोर बजट प्रवर्तन — सीमा से अधिक होने पर प्रदाता तक पहुँचने से पहले गेटवे पर 402 वापस आता है।

ईग्रेस गवर्नेंस — AWS कुंजी ले जाने वाला अनुरोध 451 के साथ अवरुद्ध होता है; केवल श्रेणी दर्ज की जाती है, मान कभी नहीं।

गतिविधि — प्रत्येक अनुरोध एक अलग स्थिति के साथ: सफल · कैश हिट · दर सीमित · मॉडल अवरुद्ध · बजट से अधिक · गवर्नेंस द्वारा अवरुद्ध।

सेटिंग्स — संगठन, प्रदाता क्रेडेंशियल, टीमें, बजट और वर्चुअल कुंजियों के लिए पूर्ण CRUD।

क्यों

Bedrock / Vertex / Azure प्राइवेट एंडपॉइंट + नो-ट्रेन BAA विक्रेता के चैनल को हल करते हैं। वे फाइनेंस को नहीं बताते कि $40k किसने खर्च किया, ईग्रेस पर सीक्रेट्स नहीं पकड़ते, ऑडिटर्स को रिकॉर्ड नहीं देते, और यह नहीं दिखाते कि कॉन्टेक्स्ट रोट आपके टोकन बजट को कहाँ जला रही है। यह वह अंतर है जिसे Conduit भरता है — बिना आपके प्रॉम्प्ट को कभी देखे।

आपको क्या मिलता है

• प्रति-इंजीनियर / प्रति-कुंजी / प्रति-मॉडल लागत आरोपण — वह विवरण जो एक साझा API कुंजी संरचनात्मक रूप से उत्पन्न नहीं कर सकती।
• कठोर बजट + मॉडल अनुमति-सूची — अधिकता पर फेल-क्लोज्ड 402, अनुमति न दिए गए मॉडल पर स्पष्ट 403 (कभी मौन डाउनग्रेड नहीं)।
• ईग्रेस गवर्नेंस — T1 सीक्रेट स्कैन (API कुंजियाँ / टोकन / प्राइवेट कुंजियाँ) + T2-लाइट प्रति-संगठन एंटिटी अनुमति-सूची (आपके ग्राहक नाम, कोडनेम, डील कोड)। चेतावनी → एक बार में एक श्रेणी को ब्लॉक करने के लिए प्रमोट करें। श्रेणी रिकॉर्ड करता है, मान कभी नहीं।
• कॉन्टेक्स्ट-रोट पैनल — इनपुट-टोकन आकार के अनुसार अनुरोधों को बकेट करता है और लागत-और-त्रुटि दर वक्र दिखाता है। Conduit मापता है; हम प्रॉम्प्ट को कभी संशोधित नहीं करते (इससे Anthropic का प्रीफ़िक्स कैश टूट जाएगा)।
• ऑडिटर-तैयार निर्यात — प्रत्येक अनुरोध मेटाडेटा-केवल CSV/JSON पंक्ति के रूप में।
• वर्चुअल कुंजियाँ — इंजीनियरों के पास रद्द करने योग्य स्टैंड-इन कुंजियाँ होती हैं; वास्तविक प्रदाता क्रेडेंशियल AES-256-GCM-सील्ड गेटवे में होता है और कभी लैपटॉप को नहीं छूता।

त्वरित आरंभ

विकल्प A — हस्ताक्षरित रिलीज़ चलाएं (कोई बिल्ड नहीं, ~30 सेकंड)

GHCR से नवीनतम हस्ताक्षरित इमेज खींचता है (cosign verify के माध्यम से सत्यापन योग्य, सुरक्षा स्थिति देखें)।

# 1. compose फ़ाइल + एनव टेम्प्लेट प्राप्त करें (पूर्ण क्लोन की आवश्यकता नहीं)
curl -fsSL https://raw.githubusercontent.com/anee769/conduit/master/docker-compose.yml -o docker-compose.yml
curl -fsSL https://raw.githubusercontent.com/anee769/conduit/master/.env.example -o .env

# 2. एक वास्तविक मास्टर एन्क्रिप्शन कुंजी जनरेट करें
sed -i.bak "s|^MASTER_ENCRYPTION_KEY=.*|MASTER_ENCRYPTION_KEY=$(openssl rand -base64 32)|" .env && rm .env.bak

# 3. हस्ताक्षरित इमेज खींचें + प्रारंभ करें
docker compose --profile app pull
docker compose --profile app up -d

# 4. माइग्रेशन चलाएं + मूल्य निर्धारण पुस्तक बीज करें (एक बार)
docker exec conduit-gateway-1 pnpm --filter @finops/db db:migrate
docker exec conduit-gateway-1 pnpm --filter @finops/db seed-pricing

# → http://localhost:3000/setup खोलें → संगठन / क्रेडेंशियल / टीम / वर्चुअल कुंजी बनाएं

up से पहले GATEWAY_IMAGE और CONTROL_PLANE_IMAGE निर्यात करके किसी विशिष्ट रिलीज़ पर पिन करें:

export GATEWAY_IMAGE=ghcr.io/anee769/conduit-gateway:v0.1.0
export CONTROL_PLANE_IMAGE=ghcr.io/anee769/conduit-control-plane:v0.1.0

विकल्प B — स्रोत से बिल्ड करें (~2 मिनट, हैकिंग के लिए)

git clone https://github.com/anee769/conduit && cd conduit
cp .env.example .env
sed -i.bak "s|^MASTER_ENCRYPTION_KEY=.*|MASTER_ENCRYPTION_KEY=$(openssl rand -base64 32)|" .env && rm .env.bak

docker compose --profile app up -d --build
docker exec conduit-gateway-1 pnpm --filter @finops/db db:migrate
docker exec conduit-gateway-1 pnpm --filter @finops/db seed-pricing

इसमें किसी भी AI टूल को इंगित करें

export ANTHROPIC_BASE_URL=http://localhost:4000
export ANTHROPIC_AUTH_TOKEN=vk_live_…       # /setup से वर्चुअल कुंजी
claude                                       # या cursor / codex / aider

शुरू से पूर्ण वॉकथ्रू INSTALL.md में।

आप पहले से क्या चलाते हैं, उसके साथ काम करता है

Conduit की तुलना कैसे की जाती है

LiteLLM मॉडल उपनाम और रूटिंग में उत्कृष्ट है — Conduit वह परत जोड़ता है जो आपकी सुरक्षा और वित्त टीमों ने मांगी थी। Portkey सबसे करीबी फीचर ओवरलैप है लेकिन एक बार जब आपको गवर्नेंस + ऑन-प्रेम की आवश्यकता होती है तो यह क्लोज्ड-सोर्स एंटरप्राइज़ है। Helicone केवल-निरीक्षण है (यह बताता है कि टोकन कहाँ गए; यह नियंत्रित नहीं करता कि वे कहाँ जाते हैं)।

इस बारे में ईमानदार कि यहाँ क्या नहीं है

• अभी तक कोई SOC 2 / HIPAA / ISO प्रमाणन नहीं। हम वह नहीं दावा करेंगे जो हमारे पास नहीं है। हम Conduit को आपके ऑडिट का समर्थन करने के लिए डिज़ाइन करते हैं और आर्टिफैक्ट्स (SBOM, हस्ताक्षरित इमेज, सुरक्षा श्वेतपत्र, CAIQ-lite) प्रदान करते हैं। पूरी स्थिति के लिए SECURITY.md देखें।
• अभी तक कोई SSO / SAML / RBAC नहीं — आज एडमिन टोकन + डैशबोर्ड पासवर्ड गेट। खरीदार पूछने पर रोडमैप पर।
• Bedrock स्ट्रीमिंग पूरी नहीं हुई (बाइनरी AWS इवेंट-स्ट्रीम फ्रेमिंग)। Bedrock नॉन-स्ट्रीमिंग /invoke काम करता है।
• Google Vertex एडॉप्टर नहीं बनाया गया।
• पूर्ण ML-संचालित T2 गवर्नेंस (एंटिटी-प्रकार अनुमान) नहीं बनाया गया — केवल लाइट संस्करण (ऑपरेटर-पेस्टेड एंटिटी अनुमति-सूची)। एक पार्टनर के वास्तविक ट्रैफ़िक के विरुद्ध बनाया गया, पहले से नहीं।

सुरक्षा स्थिति

Conduit पूरी तरह से आपके अपने क्लाउड में चलता है — अनुरोध पथ में कोई विक्रेता नहीं, कोई फ़ोन-होम नहीं, एयर-गैप करने योग्य। श्वेतपत्र (डेटा-फ़्लो आरेख, क्या संग्रहीत है, क्रिप्टो, फेल-क्लोज्ड ऑथ, अनुपालन स्थिति, खतरा मॉडल) के लिए SECURITY.md देखें।

• कंटेनर इमेज Sigstore cosign (कीलेस OIDC) के माध्यम से हस्ताक्षरित होती हैं और CycloneDX SBOM प्रमाणन के साथ आती हैं। प्रत्येक v* git टैग पर ghcr.io/anee769/conduit-gateway और ghcr.io/anee769/conduit-control-plane पर जारी की जाती हैं (.github/workflows/release.yml देखें)। किसी भी जारी टैग को सत्यापित करें:
  root@kitploit:~

  cosign verify ghcr.io/anee769/conduit-gateway:<tag> \
    --certificate-identity-regexp 'https://github.com/anee769/conduit' \
    --certificate-oidc-issuer https://token.actions.githubusercontent.com
  

• कभी भी स्थानीय रूप से bash scripts/sbom.sh के साथ SBOM जनरेट करें।
• 86 स्वचालित परीक्षण प्रत्येक PR पर चलते हैं — AWS SigV4 संदर्भ वेक्टर और गवर्नेंस गोपनीयता अपरिवर्तनीय (सीक्रेट/एंटिटी मान कभी संग्रहीत घटनाओं में नहीं दिखता) सहित।

आर्किटेक्चर (संक्षेप में)

• apps/gateway — Node पर Hono, हॉट-पाथ डेटा प्लेन। कोई बिल्ड स्टेप नहीं (tsx)। जीरो-डिप ClickHouse क्लाइंट + ioredis।
• apps/control-plane — Next.js 15 / React 19 डैशबोर्ड + एडमिन API + पहली बार चलने वाला /setup विज़ार्ड।
• packages/db — Drizzle स्कीमा, AES-256-GCM क्रिप्टो, कुंजी हैशिंग, मूल्य निर्धारण + बजट।
• स्टोर्स: Postgres (कॉन्फ़िग / पहचान / बजट / मूल्य निर्धारण) + ClickHouse (ऐपेंड-ओनली usage_events) + Redis (कैश + दर सीमाएँ + लाइव बजट काउंटर)।

अनुरोध जीवनचक्र (apps/gateway/src/routes/proxy.ts):

auth (vk) → rate limit → model allow-list → budget check
         → governance scan (T1 secrets + T2-lite entities)
         → cache lookup → resolve credential → adapter.prepare()
         → forward + tee stream (client untouched; meter branch in background)

परीक्षण

bash scripts/run-tests.sh             # पूर्ण यूनिट + लाइव-सिस्टम सूट (72 परीक्षण)
bash scripts/run-tests.sh --unit-only # शुद्ध तर्क, कोई Docker स्टैक आवश्यक नहीं
pwsh scripts/run-tests.ps1            # Windows समतुल्य

CI (.github/workflows/ci.yml) प्रत्येक PR पर दोनों जॉब चलाता है — केवल तभी मर्ज करें जब ग्रीन हो।

योगदान

PRs का स्वागत है। त्वरित पथ:

git checkout -b feat/my-change
# …
bash scripts/ci-local.sh              # CI द्वारा चलाए जाने वाले समान जाँचें चलाता है
bash scripts/ci-local.sh --fast       # टाइपचेक + यूनिट केवल, कोई Docker नहीं
git push -u origin feat/my-change
gh pr create --base dev

शाखा प्रवाह: feature → dev → master। मर्ज से पहले CI पास होना चाहिए।

लाइसेंस

Apache License 2.0 — Kubernetes, Terraform, Kafka के समान लाइसेंस। इसका व्यावसायिक उपयोग करें, इसे संशोधित करें, इसे विक्रय करें; कृपया Conduit को अपना खुद का काम न बताएं।

लिंक

• साइट: getconduit.vercel.app
• सुरक्षा स्थिति: SECURITY.md
• LiteLLM के साथ चलाएं: docs/run-with-litellm.md
• इंस्टॉल गाइड: INSTALL.md