
Eine sichere* Laufzeitumgebung für autonome KI-Agenten. Richtlinien aus Verfassungen in einfachem Englisch. (*https://ironcurtain.dev)
Eine sichere* Laufzeitumgebung für autonome KI-Agenten, bei der die Sicherheitsrichtlinie aus einer für Menschen lesbaren Verfassung abgeleitet wird.
*Wenn jemand „sicher" schreibt, sollten Sie sofort skeptisch werden. Was meinen wir mit sicher?
[!WARNING] Forschungsprototyp. IronCurtain ist ein frühes Forschungsprojekt, das untersucht, wie KI-Agenten so sicher gemacht werden können, dass sie wirklich nützlich sind. APIs, Konfigurationsformate und Architektur können sich ändern. Beiträge und Feedback sind willkommen.
Der Agent wird gebeten, ein Repository zu klonen und Änderungen zu pushen. Sowohl git_clone als auch git_push werden von der Policy-Engine eskaliert, aber der Auto-Genehmiger genehmigt sie automatisch – die vertrauenswürdige Eingabe des Benutzers aus dem Befehlsmodus (Strg-A) lieferte eine eindeutige Absicht, sodass kein manuelles /approve erforderlich war.
Autonome KI-Agenten können Dateien verwalten, Git-Befehle ausführen, Nachrichten senden und in Ihrem Namen mit APIs interagieren. Doch die heutigen Agenten-Frameworks verleihen dem Agenten dieselben Rechte wie dem Benutzer, etwa vollen Zugriff auf das Dateisystem, Anmeldedaten und das Netzwerk. Sicherheitsforscher nennen dies ambient authority (umgebende Autorität), und es bedeutet, dass eine einzige Prompt-Injection oder ein mehrstufiges Abdriften dazu führen kann, dass ein Agent Dateien löscht, Daten exfiltriert oder bösartigen Code pusht.
Die übliche Reaktion besteht darin, Agenten entweder auf eine enge Sandbox zu beschränken (was ihre Nützlichkeit einschränkt) oder den Benutzer zu bitten, jede Aktion zu genehmigen (was ihre Autonomie einschränkt). Beides ist unbefriedigend.
IronCurtain geht einen anderen Weg: Drücken Sie Ihre Sicherheitsabsicht in einfachem Englisch aus und lassen Sie das System die Durchsetzung herausfinden.
Sie schreiben eine Verfassung, ein kurzes Dokument, das beschreibt, was Ihr Agent tun darf und was nicht. IronCurtain kompiliert diese mithilfe einer LLM-Pipeline in eine deterministische Sicherheitsrichtlinie, validiert die kompilierten Regeln anhand generierter Testszenarien und setzt die Richtlinie dann zur Laufzeit bei jedem Tool-Aufruf durch. Das Ergebnis ist ein Agent, der autonom innerhalb von Grenzen arbeiten kann, die Sie in natürlicher Sprache definieren.
Die zentralen Ideen:
IronCurtain unterstützt zwei Sitzungsmodi mit unterschiedlichen Vertrauensmodellen:
Builtin Agent (Code Mode) — IronCurtains eigener LLM-Agent schreibt TypeScript-Snippets, die in einer V8-Sandbox ausgeführt werden. IronCurtain kontrolliert den Agenten, die Sandbox und die Policy-Engine. Jeder Tool-Aufruf verlässt die Sandbox als strukturierte MCP-Anfrage, durchläuft die Policy-Engine (erlauben / verweigern / eskalieren) und erreicht erst dann den echten MCP-Server.
Docker Agent Mode — Ein externer Agent (Claude Code, Goose, Codex) läuft in einem Container ohne direkten Zugriff auf das öffentliche Netzwerk. IronCurtain vermittelt die externen Effekte: LLM-API-Aufrufe laufen über einen TLS-terminierenden MITM-Proxy (Host-Allowlist, Austausch von Fake- zu Echt-Schlüsseln), MCP-Tool-Aufrufe laufen über dieselbe Policy-Engine, und unterstützte Paketinstallationen laufen über validierende Paket-Proxys.
Opt-in verschachteltes Docker gibt Entwickler-Sitzungen einen privaten, ephemeren
Daemon, ohne den Docker-Socket des Hosts offenzulegen. Die implementierten Profile decken Apple Container und Docker
Desktop unter macOS sowie WSL2 mit Docker Desktop unter amd64 ab. Seine Modi offline, images und packages
trennen die lokale Image-Nutzung, vermittelte öffentliche Image-Pulls und unterstützte Paket-Builds. Die native Linux Engine
ist für Verschachtelung nicht zugelassen; siehe die Konfigurationsreferenz für Voraussetzungen und Einschränkungen.
In beiden Modi ist der Agent nicht vertrauenswürdig. Die Sicherheit hängt nicht davon ab, dass das Modell Anweisungen befolgt — sie wird an der Grenze durchgesetzt.
Siehe SANDBOXING.md für die vollständige Architektur mit Diagrammen, schichtweiser Vertrauensanalyse und Hinweisen zur macOS-Plattform.
isolated-vm-Binaries. Node 25 wird nicht unterstützt und nicht getestet.container als alternatives Backend (VM pro Container; wird automatisch verwendet, wenn dessen Dienste laufen — siehe containerRuntime in ironcurtain config)Als globales CLI-Tool (Endnutzer):
npm install -g @provos/ironcurtain
Aus der Quelle (Entwicklung):
git clone https://github.com/provos/ironcurtain.git
cd ironcurtain
npm install
1. Legen Sie Ihren API-Schlüssel fest:
export ANTHROPIC_API_KEY=sk-ant-...
Du kannst Schlüssel auch in einer .env-Datei im Projektstamm ablegen (wird automatisch über dotenv geladen) oder sie über ironcurtain config zu ~/.ironcurtain/config.json hinzufügen. Umgebungsvariablen haben Vorrang vor Werten aus der Konfigurationsdatei. Unterstützt werden: ANTHROPIC_API_KEY, GOOGLE_GENERATIVE_AI_API_KEY, OPENAI_API_KEY.
2. Den Erststart-Assistenten ausführen (führe dies explizit aus, bevor du den empfohlenen mux-Pfad verwendest; er läuft auch automatisch beim ersten Nicht-mux-ironcurtain start):
ironcurtain setup
Führt dich durch die Einrichtung des GitHub-Tokens, des Web-Suchanbieters, der Modellauswahl und weiterer Einstellungen. Erstellt ~/.ironcurtain/config.json mit deinen Auswahlmöglichkeiten.