microsoft/ai-red-teaming-playground-labsEntraînement de laboratoires de Red Teaming IA pour organiser des formations de Red Teaming IA, infrastructure comprise.
Ce dépôt contient les défis des laboratoires utilisés dans le cours « AI Red Teaming en pratique ». Le cours a été initialement dispensé lors de la conférence Black Hat USA 2024 par Dr. Amanda Minnich et Gary Lopez. Martin Pouliot a géré l'infrastructure et la notation des défis. Les défis ont été conçus par Dr. Amanda Minnich, Gary Lopez et Martin Pouliot. Ces défis sont librement accessibles à tous. L'environnement d'expérimentation est basé sur Chat Copilot et a été modifié pour être utilisé dans le cours.
Ces défis sont également référencés dans la série limitée Microsoft Learn : AI Red Teaming 101, publiée le 9 juillet 2025. Dans le tableau des défis ci-dessous, vous trouverez le lien vidéo correspondant à chaque défi de la série. Lors du Microsoft Build de mai 2025, plusieurs de ces défis ont été automatisés par le Python Risk Identification Tool (PyRIT), un framework open source conçu pour donner aux professionnels et aux ingénieurs de la sécurité les moyens d'identifier de manière proactive les risques dans les systèmes d'IA générative. Ce dépôt contient les Jupyter Notebooks correspondants, montrant comment utiliser PyRIT pour résoudre les défis des Labs 1 et 5. Vous verrez également un notebook pour « Lab 13 », qui n'est associé à aucun défi car il s'agit d'un notebook uniquement.
Ces défis sont conçus pour apprendre aux professionnels de la sécurité à mener systématiquement des opérations de red teaming sur des systèmes d'IA. Ils vont au-delà des défaillances de sécurité traditionnelles en intégrant de nouvelles formes de défaillances liées à l'apprentissage automatique adversarial et à l'IA responsable (RAI), ce qui permet une approche holistique pour identifier les problèmes potentiels avant le déploiement d'un système d'IA.
