
생성형 AI 시스템 레드팀을 위한 오픈소스 프레임워크: 공격 프롬프트 자동화, 모델 응답 점수화, 보안 및 안전 위험을 식별하기 위한 동작 감사.

생성형 AI를 위한 Python 위험 식별 도구(PyRIT)는 보안 전문가와 엔지니어가 생성형 AI 시스템의 위험을 사전에 식별할 수 있도록 설계된 오픈 소스 프레임워크입니다.
이 프로젝트에는 프로젝트, 제품 또는 서비스에 대한 상표 또는 로고가 포함될 수 있습니다. Microsoft 상표 또는 로고의 승인된 사용은 Microsoft의 상표 및 브랜드 지침을 따라야 합니다. 이 프로젝트의 수정된 버전에서 Microsoft 상표 또는 로고를 사용하는 경우 혼동을 유발하거나 Microsoft의 후원을 암시해서는 안 됩니다. 타사 상표 또는 로고의 모든 사용은 해당 타사의 정책을 따릅니다.
연구에서 PyRIT을 사용하는 경우, 이 저장소의 루트에 있는 CITATION.cff 파일에 따라 도구 자체를 인용해 주시기 바랍니다.