Framework de código aberto para red teaming de sistemas de IA generativa: automatize prompts de ataque, avalie as respostas do modelo e audite o comportamento para identificar riscos de segurança e proteção.
A Ferramenta Python de Identificação de Riscos para IA generativa (PyRIT) é um framework de código aberto criado para capacitar profissionais de segurança e engenheiros a identificarem proativamente riscos em sistemas de IA generativa.
Este projeto pode conter marcas registradas ou logotipos de projetos, produtos ou serviços. O uso autorizado de marcas registradas ou logotipos da Microsoft está sujeito e deve seguir as Diretrizes de Marcas e Branding da Microsoft. O uso de marcas registradas ou logotipos da Microsoft em versões modificadas deste projeto não deve causar confusão ou implicar patrocínio da Microsoft. Qualquer uso de marcas registradas ou logotipos de terceiros está sujeito às políticas desses terceiros.
Se você usar o PyRIT em sua pesquisa, cite a própria ferramenta seguindo o arquivo na raiz deste repositório.
