microsoft/pyritFramework open source pour le red teaming des systèmes d'IA générative : automatiser les invites d'attaque, évaluer les réponses des modèles et auditer le comportement afin d'identifier les risques de sécurité et de sûreté.
L'outil Python d'identification des risques pour l'IA générative (PyRIT) est un framework open source conçu pour permettre aux professionnels de la sécurité et aux ingénieurs d'identifier de manière proactive les risques dans les systèmes d'IA générative.
Ce projet peut contenir des marques commerciales ou des logos de projets, produits ou services. L'utilisation autorisée des marques ou logos Microsoft est soumise aux et doit suivre les directives relatives aux marques de Microsoft. L'utilisation des marques ou logos Microsoft dans des versions modifiées de ce projet ne doit pas créer de confusion ni suggérer un parrainage de Microsoft. Toute utilisation de marques ou logos de tiers est soumise aux politiques de ces tiers.
Si vous utilisez PyRIT dans vos recherches, veuillez citer l'outil lui-même en suivant le fichier CITATION.cff à la racine de ce dépôt.
