microsoft/responsible-ai-toolboxDashboards interativos e bibliotecas para depuração responsável de modelos de IA, abrangendo análise de erros, justiça, interpretabilidade, contrafactuais, análise causal e balanceamento de dados.
IA Responsável é uma abordagem para avaliar, desenvolver e implantar sistemas de IA de maneira segura, confiável e ética, e tomar decisões e ações responsáveis.
O Responsible AI Toolbox é um conjunto de ferramentas que oferece uma coleção de interfaces de usuário e bibliotecas de exploração e avaliação de modelos e dados que permitem uma melhor compreensão dos sistemas de IA. Essas interfaces e bibliotecas capacitam desenvolvedores e partes interessadas de sistemas de IA a desenvolver e monitorar IA de forma mais responsável e a tomar melhores decisões baseadas em dados.
A Toolbox consiste em três repositórios:
| Repositório | Ferramentas Abordadas |
|---|---|
| Repositório Responsible-AI-Toolbox (Aqui) | Este repositório contém quatro widgets de visualização para avaliação de modelos e tomada de decisão: 1. Responsible AI dashboard, um painel único que reúne diversas ferramentas maduras de IA Responsável da Toolbox para uma avaliação responsável e holística, depuração de modelos e tomada de decisões de negócio informadas. Com este dashboard, você pode identificar erros de modelo, diagnosticar por que esses erros estão ocorrendo e mitigá-los. Além disso, os recursos de tomada de decisão causal fornecem insights acionáveis para suas partes interessadas e clientes. 2. Error Analysis dashboard, para identificar erros de modelo e descobrir coortes de dados para as quais o modelo tem desempenho insatisfatório. 3. Interpretability dashboard, para compreender as previsões do modelo. Este dashboard é desenvolvido com o InterpretML. 4. Fairness dashboard, para compreender os problemas de justiça do modelo usando várias métricas de justiça de grupo em características e coortes sensíveis. Este dashboard é desenvolvido com o Fairlearn. |
| Repositório Responsible-AI-Toolbox-Mitigations | A Biblioteca de Mitigações de IA Responsável ajuda profissionais de IA a explorar diferentes medidas e etapas de mitigação que podem ser mais apropriadas quando o modelo tem desempenho insatisfatório para uma determinada coorte de dados. A biblioteca atualmente tem dois módulos: 1. DataProcessing, que oferece técnicas de mitigação para melhorar o desempenho do modelo para coortes específicas. 2. DataBalanceAnalysis, que fornece métricas para diagnosticar erros originados de desequilíbrio de dados, seja em rótulos de classe ou valores de características. 3. Cohort: fornece classes para lidar e gerenciar coortes, o que permite a criação de pipelines personalizados para cada coorte em uma interface fácil e intuitiva. O módulo também fornece técnicas para aprender diferentes estimadores (modelos) desacoplados para diferentes coortes e combiná-los de uma forma que otimiza diferentes definições de justiça de grupo. |
| Repositório Responsible-AI-Tracker | O Responsible AI Toolbox Tracker é uma extensão do JupyterLab para gerenciar, rastrear e comparar resultados de experimentos de aprendizado de máquina para melhoria de modelos. Com esta extensão, os usuários podem visualizar modelos, código e artefatos de visualização dentro do mesmo framework, permitindo assim processos rápidos de iteração e avaliação de modelos. As principais funcionalidades incluem: 1. Gerenciar e vincular artefatos de melhoria de modelos 2. Avaliação e comparação desagregada de modelos 3. Integração com a biblioteca Responsible AI Mitigations 4. Integração com mlflow |
| Repositório Responsible-AI-Toolbox-GenBit | A Biblioteca de Viés de Gênero de IA Responsável (GenBit) ajuda profissionais de IA a medir o viés de gênero em conjuntos de dados de Processamento de Linguagem Natural (PLN). O principal objetivo do GenBit é analisar seus corpora de texto e calcular métricas que forneçam insights sobre o viés de gênero presente em um corpus. |
O Responsible AI dashboard é um painel único que permite navegar facilmente por diferentes estágios de depuração de modelos e tomada de decisão. Essa experiência personalizável pode ser conduzida em diversas direções, desde analisar o modelo ou os dados de forma holística, até realizar uma análise aprofundada ou comparação de coortes de interesse, explicar e perturbar previsões do modelo para instâncias individuais e informar os usuários sobre decisões e ações de negócio.
Para alcançar esses recursos, o dashboard integra ideias e tecnologias de vários kits de ferramentas de código aberto nas áreas de
Error Analysis desenvolvido por Error Analysis, que identifica coortes de dados com taxa de erro maior do que o benchmark geral. Essas discrepâncias podem ocorrer quando o sistema ou modelo tem desempenho insatisfatório para grupos demográficos específicos ou condições de entrada pouco frequentes nos dados de treinamento.
Avaliação de Justiça desenvolvida por Fairlearn, que identifica quais grupos de pessoas podem ser impactados de forma desproporcionalmente negativa por um sistema de IA e de que maneiras.
Interpretabilidade de Modelos desenvolvida por InterpretML, que explica modelos caixa-preta, ajudando os usuários a compreender o comportamento global do modelo ou as razões por trás de previsões individuais.
