Framework de código aberto para red teaming de sistemas de IA generativa: automatize prompts de ataque, avalie as respostas do modelo e audite o comportamento para identificar riscos de segurança e proteção.
PyRIT (Python Risk Identification Tool for generative AI) é um toolkit de código aberto para encontrar fragilidades de segurança e proteção em sistemas de IA generativa por meio de varreduras automatizadas, ataques adaptativos de múltiplos turnos e testes conduzidos por humanos.
Criado pela Microsoft AI Red Team e por uma comunidade de código aberto de colaboradores, o PyRIT reúne um scanner de linha de comando, uma interface gráfica e um framework Python extensível em um único toolkit.
Você não precisa ser funcionário da Microsoft nem um red teamer experiente para participar. Junte-se à nossa comunidade no Discord para fazer perguntas, trocar técnicas, compartilhar o que está construindo e se conectar com mantenedores e outros usuários.
As contribuições incluem código, documentação, exemplos, relatórios de bugs, testes e feedback de uso no mundo real. Leia o guia do colaborador e explore as issues marcadas como "help wanted".
Comece aqui | Entre no Discord | Leia o whitepaper
Visite nosso site para instalação, configuração, demos e documentação. Use o seletor de versão para adequar a documentação à sua instalação; os guias acima seguem a versão de desenvolvimento mais recente.
Conecte-se a OpenAI, Anthropic, Azure OpenAI, Microsoft Foundry, Azure Machine Learning, Google Gemini, Google Vertex AI, AWS Bedrock, Hugging Face, Ollama, Groq, OpenRouter, Cohere e GitHub Copilot.
Use APIs compatíveis com OpenAI ou targets integrados, ou instale o adaptador LiteLLM opcional para integrações adicionais com provedores. Consulte o guia de configuração de provedores e o diretório de provedores LiteLLM para configuração e mais provedores. Os recursos disponíveis dependem do target e do modelo.
Teste aplicações completas e outros endpoints por meio de HTTP, WebSockets, automação de navegador com Playwright ou targets personalizados.
Leia PyRIT: Democratizing AI Red Teaming Through Open-Source Tooling
para conhecer os princípios de design e a experiência no mundo real por trás do toolkit.
Se você usar o PyRIT em sua pesquisa, cite o artigo usando
CITATION.cff.
Para relatar vulnerabilidades no PyRIT de forma privada por meio do Microsoft Security Response Center, siga nossa política de segurança.
Este projeto pode conter marcas registradas ou logotipos de projetos, produtos ou serviços. O uso autorizado de marcas registradas ou logotipos da Microsoft está sujeito e deve seguir as Diretrizes de Marcas e Identidade Visual da Microsoft. O uso de marcas registradas ou logotipos da Microsoft em versões modificadas deste projeto não deve causar confusão nem implicar patrocínio da Microsoft. Qualquer uso de marcas registradas ou logotipos de terceiros está sujeito às políticas desses terceiros.
