Inspect Petri

Inspect Petri에 오신 것을 환영합니다. Inspect Petri는 언어 모델의 잠재적 정렬 문제, 보상 해킹 및 기타 우려되는 행동을 감지하기 위해 자동 모니터링 및 상호 작용을 가능하게 하는 감사 에이전트입니다.

Petri는 구체적인 정렬 가설을 종단 간 신속하게 테스트할 수 있도록 도와줍니다. 다음 기능을 제공합니다:

실제적인 감사 시나리오 생성 (사용자 시드 지침 기반)
다중 턴 감사 조율 (감사 모델과 대상 모델 사용)
도구 및 롤백 시뮬레이션 (동작 테스트용)
판사 모델로 대화 기록 점수화 (일관된 루브릭 사용)

Petri 사용 방법에 대한 자세한 내용은 https://meridianlabs-ai.github.io/inspect_petri에서 확인하세요.

[!NOTE] 이 문서는 Petri 버전 3.0에 대한 내용입니다. 대부분의 CLI 명령어는 Petri 2.0과 동일하게 작동하지만, 내부 Python API에 일부 호환되지 않는 변경 사항이 있습니다. Petri 2.0은 petri-v2 브랜치에서 계속 사용할 수 있으며, 다음과 같이 설치할 수 있습니다:
pip install git+https://github.com/meridianlabs-ai/inspect_petri@petri-v2

inspect_petri v3.1.0

카테고리