Inspect Petri

欢迎使用 Inspect Petri，一个审计代理，能够实现语言模型的自动监控与交互，以检测潜在的对齐问题、奖励破解及其他令人担忧的行为。

Petri 帮助你快速端到端地测试具体的对齐假设。它能够：

• 生成逼真的审计场景（通过你的种子指令）
• 使用审计模型和目标模型编排多轮审计
• 模拟工具和回滚以测试行为
• 使用一致评分标准的评判模型对对话记录进行打分

了解更多关于 Petri 的使用方法，请访问 https://meridianlabs-ai.github.io/inspect_petri。

---

[!NOTE] 这是 Petri 3.0 版本。虽然大多数 CLI 命令与 Petri 2.0 完全相同，但有一些 Python 内部 API 的变化是不兼容的。Petri 2.0 仍可在 petri-v2 分支上获取，你可以按如下方式安装：

pip install git+https://github.com/meridianlabs-ai/inspect_petri@petri-v2