Framework open source pour le red teaming des systèmes d'IA générative : automatiser les invites d'attaque, évaluer les réponses des modèles et auditer le comportement afin d'identifier les risques de sécurité et de sûreté.
PyRIT (Python Risk Identification Tool for generative AI) est une boîte à outils open source permettant d'identifier les faiblesses de sécurité et de sûreté des systèmes d'IA générative au moyen de scans automatisés, d'attaques adaptatives multi-tours et de tests menés par des humains.
Développé par la Microsoft AI Red Team et une communauté open source de contributeurs, PyRIT réunit dans une seule boîte à outils un scanner en ligne de commande, une interface graphique et un framework Python extensible.
Vous n'avez pas besoin d'être employé de Microsoft ni d'être un red teamer expérimenté pour participer. Rejoignez notre communauté Discord pour poser des questions, échanger des techniques, partager ce que vous construisez et entrer en contact avec les mainteneurs et les autres utilisateurs.
Les contributions incluent du code, de la documentation, des exemples, des rapports de bugs, des tests et des retours issus d'usages réels. Consultez le guide du contributeur et explorez les issues étiquetées « help wanted ».
Commencer | Rejoindre Discord | Lire le livre blanc
Consultez notre site web pour l'installation, la configuration, les démos et la documentation. Utilisez le sélecteur de version pour faire correspondre la documentation à votre installation ; les guides ci-dessus suivent la dernière version de développement.
Connectez-vous à OpenAI, Anthropic, Azure OpenAI, Microsoft Foundry, Azure Machine Learning, Google Gemini, Google Vertex AI, AWS Bedrock, Hugging Face, Ollama, Groq, OpenRouter, Cohere et GitHub Copilot.
Utilisez des API compatibles OpenAI ou des cibles intégrées, ou installez l' adaptateur LiteLLM optionnel pour des intégrations de fournisseurs supplémentaires. Consultez le guide de configuration des fournisseurs et le répertoire des fournisseurs LiteLLM pour la configuration et d'autres fournisseurs. Les fonctionnalités disponibles dépendent de la cible et du modèle.
Testez des applications complètes et d'autres points de terminaison via HTTP, WebSockets, l'automatisation de navigateur avec Playwright, ou des cibles personnalisées.
Lisez PyRIT: Democratizing AI Red Teaming Through Open-Source Tooling
pour découvrir les principes de conception et l'expérience de terrain qui sous-tendent la boîte à outils.
Si vous utilisez PyRIT dans vos recherches, veuillez citer l'article en utilisant
CITATION.cff.
Pour signaler des vulnérabilités dans PyRIT de manière privée via le Microsoft Security Response Center, veuillez suivre notre politique de sécurité.
Ce projet peut contenir des marques déposées ou des logos de projets, produits ou services. L'utilisation autorisée des marques déposées ou des logos Microsoft est soumise aux Directives relatives aux marques et à l'image de marque de Microsoft et doit les respecter. L'utilisation des marques déposées ou des logos Microsoft dans des versions modifiées de ce projet ne doit pas prêter à confusion ni impliquer un parrainage de Microsoft. Toute utilisation de marques déposées ou de logos de tiers est soumise aux politiques de ces tiers.
