microsoft/pyritMarco de trabajo de código abierto para red-teaming de sistemas de IA generativa: automatiza prompts de ataque, puntúa las respuestas del modelo y audita el comportamiento para identificar riesgos de seguridad y protección.
La herramienta Python de Identificación de Riesgos para IA generativa (PyRIT) es un marco de código abierto creado para capacitar a los profesionales de la seguridad y a los ingenieros a identificar riesgos de forma proactiva en los sistemas de IA generativa.
Este proyecto puede contener marcas comerciales o logotipos de proyectos, productos o servicios. El uso autorizado de las marcas comerciales o logotipos de Microsoft está sujeto a y debe seguir las Directrices de marcas comerciales y de marca de Microsoft. El uso de marcas comerciales o logotipos de Microsoft en versiones modificadas de este proyecto no debe causar confusión ni implicar el patrocinio de Microsoft. Cualquier uso de marcas comerciales o logotipos de terceros está sujeto a las políticas de esos terceros.
Si utilizas PyRIT en tu investigación, cita la herramienta siguiendo el archivo CITATION.cff en la raíz de este repositorio.
