Open-Source-Framework für Red-Teaming von generativen KI-Systemen: Angriffsprompts automatisieren, Modellantworten bewerten und Verhalten auditieren, um Security- und Safety-Risiken zu identifizieren.
PyRIT (Python Risk Identification Tool for generative AI) ist ein Open-Source-Toolkit zum Auffinden von Sicherheits- und Schutzschwächen in generativen KI-Systemen durch automatisierte Scans, adaptive mehrstufige Angriffe und menschlich geleitete Tests.
Entwickelt vom Microsoft AI Red Team und einer Open-Source-Community von Mitwirkenden, vereint PyRIT einen Kommandozeilen-Scanner, eine grafische Oberfläche und ein erweiterbares Python-Framework in einem einzigen Toolkit.
Sie müssen weder Microsoft-Mitarbeiter noch erfahrener Red Teamer sein, um mitzumachen. Treten Sie unserer Discord-Community bei, um Fragen zu stellen, Techniken auszutauschen, zu teilen, woran Sie arbeiten, und um mit Maintainern und anderen Nutzern in Kontakt zu treten.
Beiträge umfassen Code, Dokumentation, Beispiele, Fehlerberichte, Tests und Feedback aus der Praxis. Lesen Sie den Leitfaden für Mitwirkende und sehen Sie sich Issues mit dem Label „help wanted“ an.
Erste Schritte | Discord beitreten | Whitepaper lesen
Besuchen Sie unsere Website für Installation, Konfiguration, Demos und Dokumentation. Verwenden Sie die Versionsauswahl, um die Dokumentation an Ihre Installation anzupassen; die obigen Anleitungen folgen der neuesten Entwicklungsversion.
Verbinden Sie sich mit OpenAI, Anthropic, Azure OpenAI, Microsoft Foundry, Azure Machine Learning, Google Gemini, Google Vertex AI, AWS Bedrock, Hugging Face, Ollama, Groq, OpenRouter, Cohere und GitHub Copilot.
Verwenden Sie OpenAI-kompatible APIs oder integrierte Targets, oder installieren Sie den optionalen LiteLLM-Adapter für zusätzliche Anbieterintegrationen. Siehe die Anbieterkonfigurationsanleitung und das LiteLLM-Anbieterverzeichnis für die Einrichtung und weitere Anbieter. Verfügbare Funktionen hängen vom Target und Modell ab.
Testen Sie vollständige Anwendungen und andere Endpunkte über HTTP, WebSockets, Browser-Automatisierung mit Playwright oder benutzerdefinierte Targets.
Lesen Sie PyRIT: Democratizing AI Red Teaming Through Open-Source Tooling
für die Designprinzipien und praktischen Erfahrungen hinter dem Toolkit.
Wenn Sie PyRIT in Ihrer Forschung verwenden, zitieren Sie das Paper bitte mit
CITATION.cff.
Um Schwachstellen in PyRIT vertraulich über das Microsoft Security Response Center zu melden, folgen Sie unserer Sicherheitsrichtlinie.
Dieses Projekt kann Marken oder Logos für Projekte, Produkte oder Dienste enthalten. Die autorisierte Verwendung von Microsoft-Marken oder -Logos unterliegt den Microsoft Trademark & Brand Guidelines und muss diesen folgen. Die Verwendung von Microsoft-Marken oder -Logos in modifizierten Versionen dieses Projekts darf keine Verwirrung verursachen oder eine Microsoft-Patenschaft implizieren. Jegliche Verwendung von Marken oder Logos Dritter unterliegt den Richtlinien dieser Dritten.
