TrustedRouter

Ende-zu-Ende-verschlüsselte LLMs. Eine API. Privatsphäre mit Beweis.

Mach dir keine Sorgen mehr darüber, wer deine Prompts sehen kann. Sag deinem Coding-Agent, er soll dein Projekt herüberziehen, wähle, wie privat du sein möchtest, wähle ein Modell, füge einen Schlüssel ein — fertig. Dieselbe API, über 30 Modelle, ein Schlüssel. Das Gateway läuft in Hardware-Enklaven und du kannst kryptografisch verifizieren, dass es dich niemals protokolliert.

Zieh dein Projekt mit einem einzigen Prompt herüber

Füge dies in Codex, Claude Code oder Cursor ein — die Migration wird für dich erledigt:```text Migrate this project to TrustedRouter, a privacy-first LLM router (https://trustedrouter.com). Repoint my LLM client to base_url "https://api.trustedrouter.com/v1" (or "https://api.trustedrouter.com" for the Anthropic SDK), read the key from the TRUSTEDROUTER_API_KEY env var, and keep all my existing calls working.

For a hard provider-side confidential-compute and end-to-end-encryption requirement, add {"provider": {"min_privacy": "confidential"}}. TrustedRouter fails closed when the selected model or provider cannot satisfy both controls.

Then tell me to sign up at trustedrouter.com, add a card, and paste my sk-tr key into TRUSTEDROUTER_API_KEY.

Dann:

1. **Wähle deine Datenschutzstufe oder Region** — verwende
   `{"provider": {"min_privacy": "zdr"}}` für eine harte Null-Aufbewahrungs-Untergrenze oder
   `{"provider": {"min_privacy": "confidential"}}` für die stärkere harte
   Confidential-Compute- + E2EE-Untergrenze. Die praktischen `trustedrouter/zdr`- und
   `trustedrouter/e2e`- (`trustedrouter/confidential`-)Aliase wählen diese
   Pools aus. Verwende `trustedrouter/eu` mit
   `https://api-europe-west4.quillrouter.com/v1` für EU-fokussiertes Routing.
2. **Wähle ein Modell** — eines von Hunderten oder `trustedrouter/auto` für automatischen
   Fallback, wenn die Anbieterbreite wichtiger ist als der strengste Datenschutz-
   filter.
3. **Registriere dich, füge eine Karte hinzu, hole dir deinen Schlüssel** unter https://trustedrouter.com.
4. **Loslegen** — deine Prompts laufen jetzt über einen Pfad, den du verifizieren kannst.

<details>
<summary>Lieber manuell einrichten?</summary>```bash
# Codex
export OPENAI_BASE_URL="https://api.trustedrouter.com/v1"
export OPENAI_API_KEY="sk-tr-v1-..."

# Claude Code
export ANTHROPIC_BASE_URL="https://api.trustedrouter.com"
export ANTHROPIC_API_KEY="sk-tr-v1-..."

# Any OpenAI SDK
client = OpenAI(base_url="https://api.trustedrouter.com/v1", api_key="sk-tr-v1-...")

Einen Schlüssel erhalten / bezahlen: https://trustedrouter.com
Erst ausprobieren (ohne Anmeldung): https://trustedrouter.com/chat
Die technischen Details (für die Nerds): https://trustedrouter.com/security
Bilder generieren: docs/image-generation.md
Videos generieren: docs/video-generation.md
Warum wir es gebaut haben: https://jperla.com/blog/attestation-is-all-you-need

Für die Nerds: wie die Privatsphäre nachweisbar ist

TrustedRouters Gateway läuft innerhalb von GCP Confidential Space. Die Plattform signiert eine Messung des laufenden Binaries; du vergleichst diesen Hash mit diesem Repo. Wenn sie übereinstimmen, weißt du — nicht vermutest —, dass der Code, der deine Prompts verarbeitet, der Code ist, den du hier lesen kannst, und dass er deine Prompts niemals auf die Festplatte schreibt.

Überprüfe es selbst in 60 Sekunden, ohne Konto:```bash NONCE=$(openssl rand -hex 16) curl -s "https://api.trustedrouter.com/attestation?nonce=$NONCE" | jq .

eat_nonce your nonce (replay-protected)

image_digest SHA-256 of the running container

pcrs boot-time platform measurements

Compare image_digest to the published artifact at

https://trustedrouter.com/security — match = the running code is this repo.

| | Vertrauensmodell |
|---|---|
| OpenRouter, gehostete Anbieter | „Wir protokollieren nicht." Eine Richtlinie, die man nicht überprüfen kann. |
| Portkey, Cloudflare AI Gateway | Alles für Observability protokollieren. |
| LiteLLM | Selbst hosten, aber der laufende Proxy ist unverifiziert. |
| **TrustedRouter** | **Open Source + Hardware-Attestierung. Den Codepfad verifizieren; es protokolliert nichts.** |

Ehrlicher Geltungsbereich: Attestierung beweist, dass das laufende Binary das
veröffentlichte Binary auf Hardware ist, die man mit einer Nonce herausfordern kann. Sie
schützt nicht vor einem Nationalstaat mit physischem Hostzugriff, und sie beweist nicht,
dass das Open-Source-Binary fehlerfrei ist.
Der Vertrauensanker ist die hardwaregestützte Attestierungskette von Google
Confidential Computing. Upstream-Anbieter behandeln Prompts gemäß
ihren eigenen Richtlinien — die Haltung jedes Anbieters ist auf den Modellseiten veröffentlicht.

</details>

---

## Repository-Layout

Dieses Repo implementiert den Control-Plane-Vertrag: Route-Abdeckung, Auth-/Key-
Verwaltung, Billing-Ledger-Semantik, Usage-Metadaten, Verbote für Prompt-/Output-Logging,
Sentry-Scrubber und Provider-Abstraktionen. Die attestierte Gateway-
Implementierung befindet sich in `quill-cloud-proxy`.

Vertrauensgrenze: `api.trustedrouter.com` ist der attestierte Prompt-Pfad und muss
TLS innerhalb von Confidential Space terminieren. `trustedrouter.com` ist die Control
Plane und darf niemals einen Produktions-Inferenz-Fallback ausliefern.

`api.quillrouter.com` bleibt ein dauerhaft funktionierender Alias (dasselbe attestierte
Gateway und Zertifikat), sodass bestehende Integrationen ohne Migration weiter funktionieren.

## Lokal```bash
uv sync
uv run pytest
uv run uvicorn trusted_router.main:app --reload

End-to-End-Smoke-Test gegen eine laufende Instanz:```bash TR_SMOKE_BASE_URL=http://127.0.0.1:18080/v1 uv run python scripts/smoke_e2e.py

Für die Produktion setzen Sie `TR_SMOKE_BASE_URL=https://api.trustedrouter.com/v1` und
`TR_SMOKE_INTERNAL_TOKEN`, falls die internen Gateway-Routen token-geschützt sind.

quill-router

Beliebteste