생성형 AI 시스템 레드팀을 위한 오픈소스 프레임워크: 공격 프롬프트 자동화, 모델 응답 점수화, 보안 및 안전 위험을 식별하기 위한 동작 감사.
PyRIT(Python Risk Identification Tool for generative AI)는 자동화된 스캔, 적응형 멀티턴 공격, 그리고 사람이 주도하는 테스트를 통해 생성형 AI 시스템의 보안 및 안전 취약점을 찾기 위한 오픈소스 툴킷입니다.
Microsoft AI Red Team과 오픈소스 기여자 커뮤니티가 함께 개발한 PyRIT는 명령줄 스캐너, 그래픽 인터페이스, 그리고 확장 가능한 Python 프레임워크를 하나의 툴킷으로 결합합니다.
참여하기 위해 Microsoft 직원이거나 숙련된 레드 팀원일 필요는 없습니다. Discord 커뮤니티에 참여하여 질문하고, 기법을 교환하고, 무엇을 만들고 있는지 공유하며, 메인테이너 및 다른 사용자들과 소통하세요.
기여에는 코드, 문서, 예제, 버그 보고, 테스트, 그리고 실제 사용에서 나온 피드백이 포함됩니다. 기여자 가이드를 읽고 "help wanted" 라벨이 붙은 이슈를 살펴보세요.
시작하기 | Discord 참여 | 백서 읽기
설치, 구성, 데모, 문서는 웹사이트를 방문하세요. 버전 선택기를 사용하여 문서를 설치 버전에 맞추세요. 위 가이드는 최신 개발 버전을 따릅니다.
OpenAI, Anthropic, Azure OpenAI, Microsoft Foundry, Azure Machine Learning, Google Gemini, Google Vertex AI, AWS Bedrock, Hugging Face, Ollama, Groq, OpenRouter, Cohere, GitHub Copilot에 연결하세요.
OpenAI 호환 API 또는 내장 타깃을 사용하거나, 추가 제공자 통합을 위해 선택적 LiteLLM 어댑터를 설치하세요. 설정 및 더 많은 제공자에 대해서는 제공자 구성 가이드와 LiteLLM 제공자 디렉터리를 참조하세요. 사용 가능한 기능은 타깃과 모델에 따라 다릅니다.
HTTP, WebSockets, Playwright를 이용한 브라우저 자동화, 또는 사용자 지정 타깃을 통해 완전한 애플리케이션 및 기타 엔드포인트를 테스트하세요.
이 툴킷의 설계 원칙과 실제 경험에 대해서는 PyRIT: Democratizing AI Red Teaming Through Open-Source Tooling을 읽어보세요.
연구에서 PyRIT를 사용하는 경우 CITATION.cff를 사용하여 논문을 인용해 주세요.
PyRIT의 취약점을 Microsoft 보안 대응 센터(Security Response Center)를 통해 비공개로 신고하려면 보안 정책을 따르십시오.
이 프로젝트에는 프로젝트, 제품 또는 서비스의 상표나 로고가 포함되어 있을 수 있습니다. Microsoft 상표 또는 로고의 승인된 사용은 Microsoft의 상표 및 브랜드 가이드라인의 적용을 받으며 이를 준수해야 합니다. 이 프로젝트의 수정된 버전에서 Microsoft 상표 또는 로고를 사용하는 경우 혼동을 일으키거나 Microsoft의 후원을 암시해서는 안 됩니다. 타사 상표 또는 로고의 사용은 해당 타사의 정책을 따릅니다.
