lore-hex/quill-routerTrustedRouter.com Repo für sicheres LLM-Proxying
Schluss damit, sich Sorgen zu machen, wer deine Prompts sehen kann. Sag deinem Coding-Agenten, er soll dein Projekt umstellen, wähle, wie privat du sein möchtest, wähle ein Modell, füge einen Schlüssel ein — fertig. Dieselbe API, 30+ Modelle, ein Schlüssel. Das Gateway läuft in Hardware-Enclaves und du kannst kryptografisch verifizieren, dass es dich niemals protokolliert.
Füge dies in Codex, Claude Code oder Cursor ein — die Migration wird für dich erledigt:
Migrate this project to TrustedRouter, a privacy-first LLM router
(https://trustedrouter.com). Repoint my LLM client to base_url
"https://api.trustedrouter.com/v1" (or "https://api.trustedrouter.com" for the
Anthropic SDK), read the key from the TRUSTEDROUTER_API_KEY env var, and keep
all my existing calls working.
For a hard provider-side confidential-compute and end-to-end-encryption
requirement, add {"provider": {"min_privacy": "confidential"}}. TrustedRouter
fails closed when the selected model or provider cannot satisfy both controls.
Then tell me to sign up at trustedrouter.com, add a card, and paste my sk-tr
key into TRUSTEDROUTER_API_KEY.
Dann:
{"provider": {"min_privacy": "zdr"}} für eine harte Null-Aufbewahrungs-Untergrenze oder
{"provider": {"min_privacy": "confidential"}} für die strengere harte
Confidential-Compute- + E2EE-Untergrenze. Die praktischen trustedrouter/zdr- und
trustedrouter/e2e- (trustedrouter/confidential)-Aliase wählen diese
Pools aus. Verwende trustedrouter/eu mit
https://api-europe-west4.quillrouter.com/v1 für EU-fokussiertes Routing.trustedrouter/auto für automatischen
Fallback, wenn die Anbieterbreite wichtiger ist als der strengste Datenschutz-
Filter.# Codex
export OPENAI_BASE_URL="https://api.trustedrouter.com/v1"
export OPENAI_API_KEY="sk-tr-v1-..."
# Claude Code
export ANTHROPIC_BASE_URL="https://api.trustedrouter.com"
export ANTHROPIC_API_KEY="sk-tr-v1-..."
# Any OpenAI SDK
client = OpenAI(base_url="https://api.trustedrouter.com/v1", api_key="sk-tr-v1-...")
Das Gateway von TrustedRouter läuft in einer GCP Confidential Space. Die Plattform signiert eine Messung des laufenden Containers. Verifiziere diese signierten Nachweise und vergleiche ihren Image-Digest mit der veröffentlichten Release-Messung. Die Quellcode-Prüfung und die Provenienz des Release-Builds belegen, was dieses gemessene Image tut; ein übereinstimmender Digest allein beweist nicht die Abwesenheit von Fehlern oder Protokollierung.
Prüfe die GCP-Nachweise, ohne Konto:
NONCE=$(openssl rand -hex 16)
curl --fail --silent --show-error \
"https://api-us-central1.quillrouter.com/attestation?nonce=$NONCE" \
--output attestation.jwt
# GCP returns a raw Google-signed JWT, not a JSON response.
# Decoded claims include eat_nonce and submods.container.image_digest.
# GCP evidence has no pcrs field; PCRs belong to AWS Nitro evidence.
Das Speichern oder Dekodieren eines JWT ist keine Verifikation. Verwenden Sie den
Attestation-Verifier
aus einem geprüften Checkout von quill-cloud-proxy, um Aussteller/Signatur,
frische Nonce, TLS-Zertifikat/Exporter-Bindung und die erwartete Release-Messung zu verifizieren.
Für einen GCP-Endpunkt führen Sie aus diesem Checkout aus:
DIGESTS=$(curl --fail --silent --show-error \
https://trust.trustedrouter.com/trust/accepted-image-digests-gcp.txt)
test -n "$DIGESTS" && uv run --script tools/verify-attestation.py \
--api-host api-us-central1.quillrouter.com --expect-digest "$DIGESTS"
Der Verifier ruft frische Nachweise über die TLS-Verbindung ab, die er verifiziert. Diese Prüfung bescheinigt keine spätere, separate curl- oder SDK-Verbindung. Diese Beispiele verwenden den veröffentlichten US-Central-GCP-Hostnamen, um das GCP-Nachweisformat auszuwählen. Der globale Endpoint kann eine andere Cloud auswählen; verwenden Sie dessen cloud-spezifische Verifikationsrichtlinie und Messungen von der Trust-Seite.
| Vertrauensmodell | |
|---|---|
| OpenRouter, gehostete Anbieter | „Wir loggen nicht." Eine Richtlinie, die Sie nicht überprüfen können. |
| Portkey, Cloudflare AI Gateway | Alles für Observability loggen. |
| LiteLLM | Selbst gehostet, aber der laufende Proxy ist unverifiziert. |
| TrustedRouter | Open Source + Hardware-Attestierung. Verifizieren Sie den Codepfad; er loggt nichts. |
Ehrlicher Geltungsbereich: Attestierung beweist, dass die laufende Binärdatei die veröffentlichte Binärdatei auf Hardware ist, die Sie mit einer Nonce herausfordern können. Sie schützt nicht vor einem Nationalstaat mit physischem Host-Zugriff und beweist nicht, dass die Open-Source-Binärdatei fehlerfrei ist. Der Vertrauensanker ist die hardwaregestützte Attestierungskette von Google Confidential Computing. Upstream-Anbieter verarbeiten Prompts gemäß ihren eigenen Richtlinien — die Haltung jedes Anbieters ist auf den Modellseiten veröffentlicht.
Dieses Repo implementiert den Control-Plane-Vertrag: Routenabdeckung, Auth-/Key-Verwaltung, Billing-Ledger-Semantik, Nutzungsmetadaten, Verbote für Prompt-/Output-Logging, Sentry-Scrubber und Provider-Abstraktionen. Die attestierte Gateway-Implementierung befindet sich in quill-cloud-proxy.