Retour aux mises à jour
New releaseSep 6, 2026

PyRIT v1.1.0

Framework open source pour le red teaming des systèmes d'IA générative : automatiser les invites d'attaque, évaluer les réponses des modèles et auditer le comportement afin d'identifier les risques de sécurité et de sûreté.

Partager

PyRIT : le red teaming de l'IA pour les modèles et les applications

Code contributors PRs merged Issues closed

PyRIT (Python Risk Identification Tool for generative AI) est une boîte à outils open source permettant d'identifier les faiblesses de sécurité et de sûreté des systèmes d'IA générative au moyen de scans automatisés, d'attaques adaptatives multi-tours et de tests menés par des humains.

Développé par la Microsoft AI Red Team et une communauté open source de contributeurs, PyRIT réunit dans une seule boîte à outils un scanner en ligne de commande, une interface graphique et un framework Python extensible.

Vous n'avez pas besoin d'être employé de Microsoft ni d'être un red teamer expérimenté pour participer. Rejoignez notre communauté Discord pour poser des questions, échanger des techniques, partager ce que vous construisez et entrer en contact avec les mainteneurs et les autres utilisateurs.

Les contributions incluent du code, de la documentation, des exemples, des rapports de bugs, des tests et des retours issus d'usages réels. Consultez le guide du contributeur et explorez les issues étiquetées « help wanted ».

Commencer | Rejoindre Discord | Lire le livre blanc

Explorer PyRIT

  • Scanner: Lancez des évaluations reproductibles depuis la ligne de commande.
  • CoPyRIT GUI: Explorez les systèmes d'IA de manière interactive et consultez les résultats dans votre navigateur.
  • Framework Python: Composez et étendez des composants pour construire des workflows de red teaming personnalisés.

Consultez notre site web pour l'installation, la configuration, les démos et la documentation. Utilisez le sélecteur de version pour faire correspondre la documentation à votre installation ; les guides ci-dessus suivent la dernière version de développement.

Modèles et systèmes

Connectez-vous à OpenAI, Anthropic, Azure OpenAI, Microsoft Foundry, Azure Machine Learning, Google Gemini, Google Vertex AI, AWS Bedrock, Hugging Face, Ollama, Groq, OpenRouter, Cohere et GitHub Copilot.

Utilisez des API compatibles OpenAI ou des cibles intégrées, ou installez l' adaptateur LiteLLM optionnel pour des intégrations de fournisseurs supplémentaires. Consultez le guide de configuration des fournisseurs et le répertoire des fournisseurs LiteLLM pour la configuration et d'autres fournisseurs. Les fonctionnalités disponibles dépendent de la cible et du modèle.

Testez des applications complètes et d'autres points de terminaison via HTTP, WebSockets, l'automatisation de navigateur avec Playwright, ou des cibles personnalisées.

Recherche et citation

Lisez PyRIT: Democratizing AI Red Teaming Through Open-Source Tooling pour découvrir les principes de conception et l'expérience de terrain qui sous-tendent la boîte à outils. Si vous utilisez PyRIT dans vos recherches, veuillez citer l'article en utilisant CITATION.cff.

Sécurité

Pour signaler des vulnérabilités dans PyRIT de manière privée via le Microsoft Security Response Center, veuillez suivre notre politique de sécurité.

Marques déposées

Ce projet peut contenir des marques déposées ou des logos de projets, produits ou services. L'utilisation autorisée des marques déposées ou des logos Microsoft est soumise aux Directives relatives aux marques et à l'image de marque de Microsoft et doit les respecter. L'utilisation des marques déposées ou des logos Microsoft dans des versions modifiées de ce projet ne doit pas prêter à confusion ni impliquer un parrainage de Microsoft. Toute utilisation de marques déposées ou de logos de tiers est soumise aux politiques de ces tiers.

Catégories