Inspect Petri

Benvenuto in Inspect Petri, un agente di auditing che permette il monitoraggio automatizzato e l'interazione con modelli linguistici per rilevare potenziali problemi di allineamento, reward hacking e altri comportamenti preoccupanti.

Petri ti aiuta a testare rapidamente ipotesi di allineamento concrete end‑to‑end. Esso:

• Genera scenari di audit realistici (tramite le tue istruzioni seed)
• Orchestra audit multi‑turn con un modello auditor e un modello target
• Simula strumenti e rollback per testare comportamenti
• Valuta i trascritti con un modello giudice utilizzando una rubrica coerente

Scopri di più sull'uso di Petri su https://meridianlabs-ai.github.io/inspect_petri.

---

[!NOTE] Questa è la versione 3.0 di Petri. Sebbene la maggior parte dei comandi CLI funzionerà in modo identico a Petri 2.0, ci sono alcune modifiche interne dell'API Python che sono incompatibili. Petri 2.0 è ancora disponibile sul branch petri-v2 e puoi installarlo come segue:

pip install git+https://github.com/meridianlabs-ai/inspect_petri@petri-v2