microsoft/pyritOpen-Source-Framework für Red-Teaming von generativen KI-Systemen: Angriffsprompts automatisieren, Modellantworten bewerten und Verhalten auditieren, um Security- und Safety-Risiken zu identifizieren.
Das Python-Risikoidentifikationstool für generative KI (PyRIT) ist ein Open-Source- Framework, das Sicherheitsexperten und Ingenieure dabei unterstützt, proaktiv Risiken in generativen KI-Systemen zu identifizieren.
Dieses Projekt kann Marken oder Logos für Projekte, Produkte oder Dienste enthalten. Die autorisierte Verwendung von Microsoft-Marken oder -Logos unterliegt den Markenrichtlinien von Microsoft und muss diesen entsprechen. Die Verwendung von Microsoft-Marken oder -Logos in modifizierten Versionen dieses Projekts darf keine Verwechslungen hervorrufen oder eine Unterstützung durch Microsoft implizieren. Jegliche Verwendung von Marken oder Logos Dritter unterliegt den Richtlinien dieser Dritten.
Wenn Sie PyRIT in Ihrer Forschung verwenden, zitieren Sie bitte das Tool selbst gemäß der Datei CITATION.cff im Stammverzeichnis dieses Repositorys.
