meridianlabs-ai/inspect_petriएक संरेखण ऑडिटिंग एजेंट जो संरेखण परिकल्पना को तेजी से खोजने में सक्षम है
Inspect Petri में आपका स्वागत है, यह एक ऑडिटिंग एजेंट है जो भाषा मॉडल के साथ स्वचालित निगरानी और इंटरैक्शन को सक्षम बनाता है, ताकि संभावित अलाइनमेंट समस्याओं, रिवॉर्ड हैकिंग और अन्य चिंताजनक व्यवहारों का पता लगाया जा सके।
Petri आपको विशिष्ट अलाइनमेंट परिकल्पनाओं को एंड-टू-एंड तेजी से परीक्षण करने में मदद करता है। यह:
Petri के उपयोग के बारे में अधिक जानें: https://meridianlabs-ai.github.io/inspect_petri
[!NOTE] यह Petri संस्करण 3.0 है। हालांकि अधिकांश CLI कमांड Petri 2.0 के समान ही काम करेंगे, लेकिन कुछ आंतरिक Python API परिवर्तन हैं जो असंगत हैं। Petri 2.0 अभी भी petri-v2 शाखा पर उपलब्ध है और आप इसे निम्नानुसार स्थापित कर सकते हैं:
pip install git+https://github.com/meridianlabs-ai/inspect_petri@petri-v2
