Zurück zu den Updates
UpdatedAug 1, 2026

quill-router — Updated!

TrustedRouter.com Repo für sicheres LLM-Proxying

Teilen

TrustedRouter

CI Deploy Prod smoke Trust drift Status Verifiable trust JavaScript SDK Python SDK License: BUSL-1.1

Ende-zu-Ende-verschlüsselte LLMs. Eine API. Privatsphäre mit Beweis.

Schluss damit, sich Sorgen zu machen, wer deine Prompts sehen kann. Sag deinem Coding-Agenten, er soll dein Projekt umstellen, wähle, wie privat du sein möchtest, wähle ein Modell, füge einen Schlüssel ein — fertig. Dieselbe API, 30+ Modelle, ein Schlüssel. Das Gateway läuft in Hardware-Enclaves und du kannst kryptografisch verifizieren, dass es dich niemals protokolliert.

Stelle dein Projekt mit einem einzigen Prompt um

Füge dies in Codex, Claude Code oder Cursor ein — die Migration wird für dich erledigt:

Migrate this project to TrustedRouter, a privacy-first LLM router
(https://trustedrouter.com). Repoint my LLM client to base_url
"https://api.trustedrouter.com/v1" (or "https://api.trustedrouter.com" for the
Anthropic SDK), read the key from the TRUSTEDROUTER_API_KEY env var, and keep
all my existing calls working.

For a hard provider-side confidential-compute and end-to-end-encryption
requirement, add {"provider": {"min_privacy": "confidential"}}. TrustedRouter
fails closed when the selected model or provider cannot satisfy both controls.

Then tell me to sign up at trustedrouter.com, add a card, and paste my sk-tr
key into TRUSTEDROUTER_API_KEY.

Dann:

  1. Wähle deine Datenschutzstufe oder Region — verwende {"provider": {"min_privacy": "zdr"}} für eine harte Null-Aufbewahrungs-Untergrenze oder {"provider": {"min_privacy": "confidential"}} für die strengere harte Confidential-Compute- + E2EE-Untergrenze. Die praktischen trustedrouter/zdr- und trustedrouter/e2e- (trustedrouter/confidential)-Aliase wählen diese Pools aus. Verwende trustedrouter/eu mit https://api-europe-west4.quillrouter.com/v1 für EU-fokussiertes Routing.
  2. Wähle ein Modell — eines von Hunderten oder trustedrouter/auto für automatischen Fallback, wenn die Anbieterbreite wichtiger ist als der strengste Datenschutz- Filter.
  3. Registriere dich, füge eine Karte hinzu, erhalte deinen Schlüssel unter https://trustedrouter.com.
  4. Loslegen — deine Prompts laufen jetzt über einen Pfad, den du verifizieren kannst.
Lieber manuell einrichten?
# Codex
export OPENAI_BASE_URL="https://api.trustedrouter.com/v1"
export OPENAI_API_KEY="sk-tr-v1-..."

# Claude Code
export ANTHROPIC_BASE_URL="https://api.trustedrouter.com"
export ANTHROPIC_API_KEY="sk-tr-v1-..."
# Any OpenAI SDK
client = OpenAI(base_url="https://api.trustedrouter.com/v1", api_key="sk-tr-v1-...")

Für die Nerds: wie die Privatsphäre nachweisbar ist

Das Gateway von TrustedRouter läuft in einer GCP Confidential Space. Die Plattform signiert eine Messung des laufenden Containers. Verifiziere diese signierten Nachweise und vergleiche ihren Image-Digest mit der veröffentlichten Release-Messung. Die Quellcode-Prüfung und die Provenienz des Release-Builds belegen, was dieses gemessene Image tut; ein übereinstimmender Digest allein beweist nicht die Abwesenheit von Fehlern oder Protokollierung.

Prüfe die GCP-Nachweise, ohne Konto:

NONCE=$(openssl rand -hex 16)
curl --fail --silent --show-error \
  "https://api-us-central1.quillrouter.com/attestation?nonce=$NONCE" \
  --output attestation.jwt
# GCP returns a raw Google-signed JWT, not a JSON response.
# Decoded claims include eat_nonce and submods.container.image_digest.
# GCP evidence has no pcrs field; PCRs belong to AWS Nitro evidence.

Das Speichern oder Dekodieren eines JWT ist keine Verifikation. Verwenden Sie den Attestation-Verifier aus einem geprüften Checkout von quill-cloud-proxy, um Aussteller/Signatur, frische Nonce, TLS-Zertifikat/Exporter-Bindung und die erwartete Release-Messung zu verifizieren. Für einen GCP-Endpunkt führen Sie aus diesem Checkout aus:

DIGESTS=$(curl --fail --silent --show-error \
  https://trust.trustedrouter.com/trust/accepted-image-digests-gcp.txt)
test -n "$DIGESTS" && uv run --script tools/verify-attestation.py \
  --api-host api-us-central1.quillrouter.com --expect-digest "$DIGESTS"

Der Verifier ruft frische Nachweise über die TLS-Verbindung ab, die er verifiziert. Diese Prüfung bescheinigt keine spätere, separate curl- oder SDK-Verbindung. Diese Beispiele verwenden den veröffentlichten US-Central-GCP-Hostnamen, um das GCP-Nachweisformat auszuwählen. Der globale Endpoint kann eine andere Cloud auswählen; verwenden Sie dessen cloud-spezifische Verifikationsrichtlinie und Messungen von der Trust-Seite.

Vertrauensmodell
OpenRouter, gehostete Anbieter„Wir loggen nicht." Eine Richtlinie, die Sie nicht überprüfen können.
Portkey, Cloudflare AI GatewayAlles für Observability loggen.
LiteLLMSelbst gehostet, aber der laufende Proxy ist unverifiziert.
TrustedRouterOpen Source + Hardware-Attestierung. Verifizieren Sie den Codepfad; er loggt nichts.

Ehrlicher Geltungsbereich: Attestierung beweist, dass die laufende Binärdatei die veröffentlichte Binärdatei auf Hardware ist, die Sie mit einer Nonce herausfordern können. Sie schützt nicht vor einem Nationalstaat mit physischem Host-Zugriff und beweist nicht, dass die Open-Source-Binärdatei fehlerfrei ist. Der Vertrauensanker ist die hardwaregestützte Attestierungskette von Google Confidential Computing. Upstream-Anbieter verarbeiten Prompts gemäß ihren eigenen Richtlinien — die Haltung jedes Anbieters ist auf den Modellseiten veröffentlicht.


Repository-Layout

Dieses Repo implementiert den Control-Plane-Vertrag: Routenabdeckung, Auth-/Key-Verwaltung, Billing-Ledger-Semantik, Nutzungsmetadaten, Verbote für Prompt-/Output-Logging, Sentry-Scrubber und Provider-Abstraktionen. Die attestierte Gateway-Implementierung befindet sich in quill-cloud-proxy.

Kategorien