Monty vermeidet die Latenz, Komplexität und Kosten einer containerbasierten Sandbox für die Ausführung von LLM-generiertem Code. Es gibt zwei Formen: OSS Monty, die MIT-lizenzierte Python-3.14-Sandbox, die Sie als Paket installieren, und Full Monty, den kommerziellen Server, der dieselbe Sandbox hinter einem gRPC-Stream als Dienst ausführt.

Eine neue OSS-Monty-Sandbox benötigt aus einem laufenden Pool weniger als 1ms (Full Monty: etwa 2ms) im Vergleich zu rund 1500ms für einen Sandbox-Dienst.

Dateisystem, Umgebungsvariablen und Netzwerk existieren innerhalb der Sandbox nicht: Sie erreicht den Host nur über die Funktionen und Mounts, die Sie übergeben.

Dokumentation: pydantic.dev/docs/monty

Installation

uv add pydantic-monty        # Python
npm install @pydantic/monty  # JavaScript / TypeScript
cargo add monty              # Rust

Der kommerzielle Full Monty führt dieselben Worker als Container-Image aus.

Beispiel

Der code-String ist das, was ein Modell schreibt, wenn es gefragt wird, wie lange eine Tafel Schokolade eine Glühbirne betreiben könnte:

from pydantic_monty import Monty

code = """
kcal = nutrition('chocolate bar')['kcal']
hours = kcal * 4184 / (bulb_watts * 3600)
print(f'a chocolate bar powers a {bulb_watts} W bulb for {hours:.1f} hours')
"""

with Monty() as pool:
    with pool.checkout() as session:
        session.feed_run(
            code,
            inputs={'bulb_watts': 10},
            external_lookup={'nutrition': lambda food: {'kcal': 230}},
        )
        #> a chocolate bar powers a 10 W bulb for 26.7 hours

nutrition lief auf dem Host und die Sandbox sah nur ihren Rückgabewert.

Dokumentation

• Einführung mit den Latenzmessungen
• Vergleich mit Alternativen: Docker, Pyodide, WASI, Sandboxing-Dienste
• Erste Schritte mit Python, JavaScript oder Rust
• Sicherheitsmodell, Ressourcen- limits, Snapshots, die Python- Teilmenge
• docs/: die Quelle der Dokumentationsseite

Monty betreibt den Code Mode in Pydantic AI. Community-Bindings: gomonty (Go) und dart_monty (Dart / Flutter).

Teil des Pydantic Stack

Der Pydantic Stack ist alles, was du brauchst, um produktionsreife KI-Agenten auszuliefern:

• Pydantic AI - Typsicheres Agenten-Framework
• Pydantic Logfire - KI-first, Full-Stack-Observability
• Logfire AI Gateway - Einheitlicher LLM-Proxy