AI Fairness 360 (AIF360)

La boîte à outils AI Fairness 360 est une bibliothèque open-source extensible contenant des techniques développées par la communauté de recherche pour aider à détecter et atténuer les biais dans les modèles d'apprentissage automatique tout au long du cycle de vie des applications d'IA. Le package AI Fairness 360 est disponible en Python et en R.

Le package AI Fairness 360 comprend :

1. un ensemble complet de métriques pour les ensembles de données et les modèles afin de tester les biais,
2. des explications pour ces métriques, et
3. des algorithmes pour atténuer les biais dans les ensembles de données et les modèles. Il est conçu pour faire passer la recherche algorithmique du laboratoire à la pratique réelle dans des domaines aussi variés que la finance, la gestion du capital humain, la santé et l'éducation. Nous vous invitons à l'utiliser et à l'améliorer.

L'expérience interactive AI Fairness 360 fournit une introduction en douceur aux concepts et aux capacités. Les tutoriels et autres notebooks offrent une introduction plus approfondie, orientée data scientist. L'API complète est également disponible.

Étant donné qu'il s'agit d'un ensemble complet de fonctionnalités, il peut être déroutant de déterminer quelles métriques et quels algorithmes sont les plus appropriés pour un cas d'utilisation donné. Pour vous aider, nous avons créé des documents d'orientation qui peuvent être consultés.

Nous avons développé le package en gardant à l'esprit l'extensibilité. Cette bibliothèque est encore en développement. Nous encourageons la contribution de vos métriques, explainers et algorithmes de débiasage.

Contactez-nous sur Slack (invitation ici) !

Algorithmes d'atténuation des biais pris en charge

• Optimized Preprocessing (Calmon et al., 2017)
• Disparate Impact Remover (Feldman et al., 2015)
• Equalized Odds Postprocessing (Hardt et al., 2016)
• Reweighing (Kamiran and Calders, 2012)
• Reject Option Classification (Kamiran et al., 2012)
• Prejudice Remover Regularizer (Kamishima et al., 2012)
• Calibrated Equalized Odds Postprocessing (Pleiss et al., 2017)
• Learning Fair Representations (Zemel et al., 2013)
• Adversarial Debiasing (Zhang et al., 2018)
• Meta-Algorithm for Fair Classification (Celis et al., 2018)
• Rich Subgroup Fairness (Kearns, Neel, Roth, Wu, 2018)
• Exponentiated Gradient Reduction (Agarwal et al., 2018)
• Grid Search Reduction (Agarwal et al., 2018, Agarwal et al., 2019)
• Fair Data Adaptation (Plečko and Meinshausen, 2020, Plečko et al., 2021)
• Sensitive Set Invariance/Sensitive Subspace Robustness (Yurochkin and Sun, 2020, Yurochkin et al., 2019)

Métriques d'équité prises en charge

• Ensemble complet de métriques d'équité de groupe dérivées des taux de sélection et des taux d'erreur, y compris l'équité des sous-groupes riches
• Ensemble complet de métriques de distorsion d'échantillon
• Generalized Entropy Index (Speicher et al., 2018)
• Differential Fairness and Bias Amplification (Foulds et al., 2018)
• Bias Scan with Multi-Dimensional Subset Scan (Zhang, Neill, 2017)

Installation

R

install.packages("aif360")

Pour plus de détails concernant l'installation en R, veuillez consulter les instructions ici.

Python

Configurations Python prises en charge :

OS	Python version
macOS	3.10 – 3.13
Ubuntu	3.10 – 3.13
Windows	3.10 – 3.13

(Facultatif) Créer un environnement virtuel

AIF360 nécessite des versions spécifiques de nombreux packages Python qui peuvent entrer en conflit avec d'autres projets sur votre système. Un gestionnaire d'environnement virtuel est fortement recommandé pour garantir que les dépendances puissent être installées en toute sécurité. Si vous rencontrez des problèmes pour installer AIF360, essayez cela en premier.

Conda

Conda est recommandé pour toutes les configurations, bien que Virtualenv soit généralement interchangeable pour nos besoins. Miniconda est suffisant (voir la différence entre Anaconda et Miniconda si vous êtes curieux) si vous n'avez pas déjà conda installé.

Ensuite, pour créer un nouvel environnement Python 3.11, exécutez :

conda create --name aif360 python=3.11
conda activate aif360

Le shell devrait maintenant ressembler à (aif360) $. Pour désactiver l'environnement, exécutez :

(aif360)$ conda deactivate

L'invite de commande reviendra à $ .

Installer avec pip

Pour installer la dernière version stable depuis PyPI, exécutez :

pip install aif360

Remarque : Certains algorithmes nécessitent des dépendances supplémentaires (bien que toutes les métriques fonctionnent directement). Pour installer avec certaines dépendances d'algorithmes incluses, exécutez, par exemple :

pip install 'aif360[LFR,OptimPreproc]'

ou, pour une fonctionnalité complète, exécutez :

pip install 'aif360[all]'

Les options pour les extras disponibles sont : OptimPreproc, LFR, AdversarialDebiasing, DisparateImpactRemover, LIME, ART, Reductions, FairAdapt, inFairness, LawSchoolGPA, notebooks, tests, docs, all

Si vous rencontrez des erreurs, essayez les étapes de Troubleshooting.

Installation manuelle

Clonez la dernière version de ce dépôt :

git clone https://github.com/Trusted-AI/AIF360

Si vous souhaitez exécuter les exemples, téléchargez les ensembles de données maintenant et placez-les dans leurs dossiers respectifs comme décrit dans aif360/data/README.md.

Ensuite, accédez au répertoire racine du projet et exécutez :

pip install --editable '.[all]'

Exécuter les exemples

Pour exécuter les notebooks d'exemple, suivez les étapes d'installation manuelle ci-dessus. Ensuite, si vous n'avez pas utilisé l'option [all], installez les exigences supplémentaires comme suit :

pip install -e '.[notebooks]'