Inspect Petri

Bienvenido a Inspect Petri, un agente de auditoría que permite la supervisión e interacción automatizada con modelos de lenguaje para detectar posibles problemas de alineación, manipulación de recompensas y otros comportamientos preocupantes.

Petri te ayuda a probar rápidamente hipótesis concretas de alineación de principio a fin. Permite:

• Genera escenarios de auditoría realistas (a través de tus instrucciones semilla)
• Orquesta auditorías de múltiples turnos con un modelo auditor y un modelo objetivo
• Simula herramientas y reversiones para probar comportamientos
• Puntúa transcripciones con un modelo juez usando una rúbrica consistente

Aprende más sobre el uso de Petri en https://meridianlabs-ai.github.io/inspect_petri.

---

[!NOTE] Esta es la versión 3.0 de Petri. Si bien la mayoría de los comandos de CLI funcionarán de manera idéntica a Petri 2.0, hay algunos cambios internos en la API de Python que son incompatibles. Petri 2.0 todavía está disponible en la rama petri-v2 y puedes instalarlo de la siguiente manera:

root@kitploit:~

pip install git+https://github.com/meridianlabs-ai/inspect_petri@petri-v2