Inspect Petri

Bem-vindo ao Inspect Petri, um agente de auditoria que possibilita monitoramento automatizado e interação com modelos de linguagem para detectar possíveis problemas de alinhamento, recompensa indevida e outros comportamentos preocupantes.

Petri ajuda você a testar rapidamente hipóteses concretas de alinhamento de ponta a ponta. Ele:

• Gera cenários de auditoria realistas (através de suas instruções iniciais)
• Orquestra auditorias de múltiplas rodadas com um modelo auditor e um modelo alvo
• Simula ferramentas e reversões para testar comportamentos
• Pontua transcrições com um modelo juiz usando uma rubrica consistente

Saiba mais sobre como usar o Petri em https://meridianlabs-ai.github.io/inspect_petri.

---

[!NOTE] Esta é a versão 3.0 do Petri. Embora a maioria dos comandos CLI funcione de forma idêntica ao Petri 2.0, existem algumas alterações internas na API Python que são incompatíveis. O Petri 2.0 ainda está disponível no branch petri-v2 e você pode instalá-lo da seguinte forma:

pip install git+https://github.com/meridianlabs-ai/inspect_petri@petri-v2