AI Fairness 360 (AIF360)

El kit de herramientas AI Fairness 360 es una biblioteca extensible de código abierto que contiene técnicas desarrolladas por la comunidad investigadora para ayudar a detectar y mitigar el sesgo en los modelos de aprendizaje automático a lo largo del ciclo de vida de las aplicaciones de IA. El paquete AI Fairness 360 está disponible tanto en Python como en R.

El paquete AI Fairness 360 incluye:

1. un conjunto completo de métricas para conjuntos de datos y modelos que permiten evaluar sesgos,
2. explicaciones para estas métricas, y
3. algoritmos para mitigar el sesgo en conjuntos de datos y modelos. Está diseñado para trasladar la investigación algorítmica del laboratorio a la práctica real en dominios tan diversos como las finanzas, la gestión del capital humano, la salud y la educación. Te invitamos a utilizarlo y mejorarlo.

La experiencia interactiva de AI Fairness 360 ofrece una introducción sencilla a los conceptos y capacidades. Los tutoriales y otros notebooks ofrecen una introducción más profunda, orientada a científicos de datos. También está disponible la API completa.

Al ser un conjunto integral de capacidades, puede resultar confuso saber qué métricas y algoritmos son los más adecuados para cada caso de uso. Para ayudarte, hemos creado un material de orientación que puede consultarse.

Hemos desarrollado el paquete pensando en la extensibilidad. Esta biblioteca aún está en desarrollo. Animamos a la contribución de sus métricas, explicadores y algoritmos de mitigación de sesgo.

¡Ponte en contacto con nosotros en Slack (invitación aquí)!

Algoritmos de mitigación de sesgo compatibles

• Preprocesamiento optimizado (Calmon et al., 2017)
• Eliminador de impacto dispar (Feldman et al., 2015)
• Posprocesamiento de probabilidades igualadas (Hardt et al., 2016)
• Reponderación (Kamiran and Calders, 2012)
• Clasificación de opción de rechazo (Kamiran et al., 2012)
• Regularizador de eliminación de prejuicios (Kamishima et al., 2012)
• Posprocesamiento de probabilidades igualadas calibrado (Pleiss et al., 2017)
• Aprendizaje de representaciones justas (Zemel et al., 2013)
• Eliminación de sesgo adversarial (Zhang et al., 2018)
• Metaalgoritmo para clasificación justa (Celis et al., 2018)
• Equidad para subgrupos ricos (Kearns, Neel, Roth, Wu, 2018)
• Reducción por gradiente exponencial (Agarwal et al., 2018)
• Reducción por búsqueda en cuadrícula (Agarwal et al., 2018, Agarwal et al., 2019)
• Adaptación justa de datos (Plečko and Meinshausen, 2020, Plečko et al., 2021)
• Invarianza a conjuntos sensibles/Robustez a subespacios sensibles (Yurochkin and Sun, 2020, Yurochkin et al., 2019)

Métricas de equidad compatibles

• Conjunto completo de métricas de equidad de grupo derivadas de tasas de selección y tasas de error, incluida la equidad para subgrupos ricos
• Conjunto completo de métricas de distorsión de muestra
• Índice de entropía generalizado (Speicher et al., 2018)
• Equidad diferencial y amplificación de sesgo (Foulds et al., 2018)
• Escaneo de sesgo con escaneo multidimensional de subconjuntos (Zhang, Neill, 2017)

Configuración

R

install.packages("aif360")

Para más detalles sobre la configuración en R, consulta las instrucciones aquí.

Python

Configuraciones de Python compatibles:

OS	Versión de Python
macOS	3.10 – 3.13
Ubuntu	3.10 – 3.13
Windows	3.10 – 3.13

(Opcional) Crear un entorno virtual

AIF360 requiere versiones específicas de muchos paquetes de Python que pueden entrar en conflicto con otros proyectos de tu sistema. Se recomienda encarecidamente un gestor de entornos virtuales para garantizar que las dependencias puedan instalarse de forma segura. Si tienes problemas para instalar AIF360, prueba esto primero.

Conda

Se recomienda Conda para todas las configuraciones, aunque Virtualenv es generalmente intercambiable para nuestros propósitos. Miniconda es suficiente (consulta la diferencia entre Anaconda y Miniconda si tienes curiosidad) si aún no tienes conda instalado.

Luego, para crear un nuevo entorno de Python 3.11, ejecuta:

conda create --name aif360 python=3.11
conda activate aif360

El shell ahora debería verse como (aif360) $. Para desactivar el entorno, ejecuta:

(aif360)$ conda deactivate

El prompt volverá a $ .

Instalar con pip

Para instalar la última versión estable desde PyPI, ejecuta:

pip install aif360

Nota: Algunos algoritmos requieren dependencias adicionales (aunque las métricas funcionarán todas sin configuración adicional). Para instalar con ciertas dependencias de algoritmos incluidas, ejecuta, por ejemplo:

pip install 'aif360[LFR,OptimPreproc]'

o, para una funcionalidad completa, ejecuta:

pip install 'aif360[all]'

Las opciones para las funcionalidades adicionales disponibles son: OptimPreproc, LFR, AdversarialDebiasing, DisparateImpactRemover, LIME, ART, Reductions, FairAdapt, inFairness, LawSchoolGPA, notebooks, tests, docs, all

Si encuentras algún error, prueba los pasos de Solución de problemas.

Instalación manual

Clona la última versión de este repositorio:

git clone https://github.com/Trusted-AI/AIF360

Si deseas ejecutar los ejemplos, descarga los conjuntos de datos ahora y colócalos en sus respectivas carpetas como se describe en aif360/data/README.md.

Luego, navega al directorio raíz del proyecto y ejecuta:

pip install --editable '.[all]'

Ejecutar los ejemplos

Para ejecutar los notebooks de ejemplo, completa los pasos de instalación manual anteriores. Luego, si no usaste la opción [all], instala los requisitos adicionales de la siguiente manera:

pip install -e '.[notebooks]'