trusted-ai/aif360Um conjunto abrangente de métricas de justiça para conjuntos de dados e modelos de aprendizado de máquina, explicações para essas métricas e algoritmos para mitigar viés em conjuntos de dados e modelos.
O kit de ferramentas AI Fairness 360 é uma biblioteca extensível de código aberto que contém técnicas desenvolvidas pela comunidade de pesquisa para ajudar a detectar e mitigar o viés em modelos de aprendizado de máquina ao longo do ciclo de vida de aplicações de IA. O pacote AI Fairness 360 está disponível em Python e R.
O pacote AI Fairness 360 inclui
A experiência interativa do AI Fairness 360 fornece uma introdução acessível aos conceitos e capacidades. Os tutoriais e outros notebooks oferecem uma introdução mais aprofundada, voltada para cientistas de dados. A API completa também está disponível.
Por ser um conjunto abrangente de funcionalidades, pode ser confuso descobrir quais métricas e algoritmos são mais adequados para um determinado caso de uso. Para ajudar, criamos algum material de orientação que pode ser consultado.
Desenvolvemos o pacote com a extensibilidade em mente. Esta biblioteca ainda está em desenvolvimento. Incentivamos a contribuição de suas métricas, explicadores e algoritmos de remoção de viés.
Entre em contato conosco no Slack (convite aqui)!
install.packages("aif360")
Para mais detalhes sobre a configuração do R, consulte as instruções aqui.
Configurações de Python suportadas:
| OS | Versão do Python |
|---|---|
| macOS | 3.10 – 3.13 |
| Ubuntu | 3.10 – 3.13 |
| Windows | 3.10 – 3.13 |
O AIF360 requer versões específicas de muitos pacotes Python que podem entrar em conflito com outros projetos no seu sistema. Um gerenciador de ambiente virtual é fortemente recomendado para garantir que as dependências possam ser instaladas com segurança. Se você tiver problemas para instalar o AIF360, tente isto primeiro.
O Conda é recomendado para todas as configurações, embora o Virtualenv seja geralmente intercambiável para nossos propósitos. O Miniconda é suficiente (veja a diferença entre Anaconda e Miniconda se estiver curioso) caso você ainda não tenha o conda instalado.
Em seguida, para criar um novo ambiente Python 3.11, execute:
conda create --name aif360 python=3.11
conda activate aif360
O shell agora deve se parecer com (aif360) $. Para desativar o ambiente, execute:
(aif360)$ conda deactivate
O prompt retornará para $ .
pipPara instalar a versão estável mais recente do PyPI, execute:
pip install aif360
Nota: Alguns algoritmos exigem dependências adicionais (embora todas as métricas funcionem imediatamente). Para instalar com determinadas dependências de algoritmos incluídas, execute, por exemplo:
pip install 'aif360[LFR,OptimPreproc]'
ou, para funcionalidade completa, execute:
pip install 'aif360[all]'
As opções para extras disponíveis são: OptimPreproc, LFR, AdversarialDebiasing, DisparateImpactRemover, LIME, ART, Reductions, FairAdapt, inFairness, LawSchoolGPA, notebooks, tests, docs, all
Se você encontrar algum erro, tente as etapas do Troubleshooting.
Clone a versão mais recente deste repositório:
git clone https://github.com/Trusted-AI/AIF360
Se você quiser executar os exemplos, baixe os conjuntos de dados agora e coloque-os em suas respectivas pastas, conforme descrito em aif360/data/README.md.
Em seguida, navegue até o diretório raiz do projeto e execute:
pip install --editable '.[all]'
Para executar os notebooks de exemplo, conclua as etapas de instalação manual acima.
Em seguida, se você não usou a opção [all], instale os requisitos adicionais
da seguinte forma:
pip install -e '.[notebooks]'
Por fim, se ainda não o fez, baixe os conjuntos de dados conforme descrito em aif360/data/README.md.
Se você encontrar algum erro durante o processo de instalação, procure seu problema aqui e tente as soluções.
Consulte a página Instalar o TensorFlow com pip para obter instruções detalhadas.
Nota: exigimos 'tensorflow >= 1.13.1'.
Depois que o tensorflow estiver instalado, tente executar novamente:
pip install 'aif360[AdversarialDebiasing]'
O TensorFlow é necessário apenas para uso com a
classe aif360.algorithms.inprocessing.AdversarialDebiasing.
No MacOS, talvez seja necessário instalar o Xcode Command Line Tools se você nunca o fez anteriormente:
xcode-select --install
No Windows, talvez seja necessário baixar o Microsoft C++ Build Tools para Visual Studio 2019. Consulte a página Instalação do CVXPY para obter instruções atualizadas.
Em seguida, tente reinstalar via:
pip install 'aif360[OptimPreproc]'
O CVXPY é necessário apenas para uso com a
classe aif360.algorithms.preprocessing.OptimPreproc.
O diretório examples contém uma coleção diversificada de notebooks jupyter
que usam o AI Fairness 360 de várias maneiras. Tutoriais e demonstrações ilustram
código funcional usando o AIF360. Os tutoriais fornecem discussões adicionais que guiam
o usuário pelas várias etapas do notebook. Veja os detalhes sobre
tutoriais e demonstrações aqui
Uma descrição técnica do AI Fairness 360 está disponível neste artigo. Abaixo está a entrada bibtex deste artigo.
@misc{aif360-oct-2018,
title = "{AI Fairness} 360: An Extensible Toolkit for Detecting, Understanding, and Mitigating Unwanted Algorithmic Bias",
author = {Rachel K. E. Bellamy and Kuntal Dey and Michael Hind and
Samuel C. Hoffman and Stephanie Houde and Kalapriya Kannan and
Pranay Lohia and Jacquelyn Martino and Sameep Mehta and
Aleksandra Mojsilovic and Seema Nagar and Karthikeyan Natesan Ramamurthy and
John Richards and Diptikalyan Saha and Prasanna Sattigeri and
Moninder Singh and Kush R. Varshney and Yunfeng Zhang},
month = oct,
year = {2018},
url = {https://arxiv.org/abs/1810.01943}
}
O fork de desenvolvimento para Rich Subgroup Fairness (inprocessing/gerryfair_classifier.py) está aqui. Contribuições são bem-vindas e uma lista de possíveis contribuições dos autores pode ser encontrada aqui.