microsoft/ai-red-teaming-playground-labsLaboratorios de práctica de Red Teaming de IA para ejecutar entrenamientos de Red Teaming de IA, incluida la infraestructura.
Este repositorio contiene los retos para los laboratorios utilizados en el curso "AI Red Teaming in Practice". El curso se impartió originalmente en Black Hat USA 2024 por Dr. Amanda Minnich y Gary Lopez. Martin Pouliot se encargó de la infraestructura y la puntuación de los retos. Los retos fueron diseñados por Dr. Amanda Minnich, Gary Lopez y Martin Pouliot. Estos retos están disponibles para que cualquiera los utilice. El entorno de práctica está basado en Chat Copilot y fue modificado para usarse en el curso.
Estos retos también se mencionan en la serie limitada de Microsoft Learn: AI Red Teaming 101, publicada el 9 de julio de 2025. En la tabla de retos que aparece a continuación, encontrarás el enlace al vídeo correspondiente de la serie para cada reto. Durante Microsoft Build de mayo de 2025, varios de estos retos se automatizaron mediante el Python Risk Identification Tool (PyRIT), un framework de código abierto creado para capacitar a los profesionales e ingenieros de seguridad a identificar de forma proactiva riesgos en los sistemas de IA generativa. Este repositorio contiene los Jupyter Notebooks correspondientes que muestran cómo usar PyRIT para resolver los retos de los Laboratorios 1 y 5. También verás un notebook para "Lab 13", que no tiene un reto asociado, ya que es solo notebook.
Estos retos están diseñados para enseñar a los profesionales de la seguridad a realizar red teaming sistemático en sistemas de IA. Van más allá de los fallos de seguridad tradicionales al incorporar fallos novedosos de aprendizaje automático adversarial y de IA Responsable (RAI), lo que permite un enfoque holístico para identificar posibles problemas antes de que se implemente un sistema de IA.
