Inspect Petri

Bienvenue dans Inspect Petri, un agent d'audit qui permet la surveillance automatisée et l'interaction avec les modèles de langage pour détecter les problèmes d'alignement potentiels, le piratage de récompenses et d'autres comportements préoccupants.

Petri vous aide à tester rapidement des hypothèses d'alignement concrètes de bout en bout. Il :

• Génère des scénarios d'audit réalistes (via vos instructions de départ)
• Orchestre des audits multi-tours avec un modèle auditeur et un modèle cible
• Simule des outils et des rollbacks pour tester les comportements
• Note les transcriptions avec un modèle juge en utilisant une grille d'évaluation cohérente

Apprenez-en plus sur l'utilisation de Petri sur https://meridianlabs-ai.github.io/inspect_petri.

---

[!NOTE] Il s'agit de Petri version 3.0. Bien que la plupart des commandes CLI fonctionnent de manière identique à Petri 2.0, certains changements internes de l'API Python sont incompatibles. Petri 2.0 est toujours disponible sur la branche petri-v2 et vous pouvez l'installer comme suit :

pip install git+https://github.com/meridianlabs-ai/inspect_petri@petri-v2