Inspect Petri

Inspect Petri में आपका स्वागत है, यह एक ऑडिटिंग एजेंट है जो भाषा मॉडल के साथ स्वचालित निगरानी और इंटरैक्शन को सक्षम बनाता है, ताकि संभावित अलाइनमेंट समस्याओं, रिवॉर्ड हैकिंग और अन्य चिंताजनक व्यवहारों का पता लगाया जा सके।

Petri आपको विशिष्ट अलाइनमेंट परिकल्पनाओं को एंड-टू-एंड तेजी से परीक्षण करने में मदद करता है। यह:

• यथार्थवादी ऑडिट परिदृश्य उत्पन्न करता है (आपके बीज निर्देशों के माध्यम से)
• एक ऑडिटर मॉडल और एक टार्गेट मॉडल के साथ मल्टी-टर्न ऑडिट को ऑर्केस्ट्रेट करता है
• व्यवहारों का परीक्षण करने के लिए उपकरणों और रोलबैक का अनुकरण करता है
• एक जज मॉडल के साथ सुसंगत रूब्रिक का उपयोग करके ट्रांसक्रिप्ट को स्कोर करता है

Petri के उपयोग के बारे में अधिक जानें: https://meridianlabs-ai.github.io/inspect_petri

---

[!NOTE] यह Petri संस्करण 3.0 है। हालांकि अधिकांश CLI कमांड Petri 2.0 के समान ही काम करेंगे, लेकिन कुछ आंतरिक Python API परिवर्तन हैं जो असंगत हैं। Petri 2.0 अभी भी petri-v2 शाखा पर उपलब्ध है और आप इसे निम्नानुसार स्थापित कर सकते हैं:

pip install git+https://github.com/meridianlabs-ai/inspect_petri@petri-v2