Responsible AI Toolbox

IA Responsável é uma abordagem para avaliar, desenvolver e implantar sistemas de IA de maneira segura, confiável e ética, e tomar decisões e ações responsáveis.

O Responsible AI Toolbox é um conjunto de ferramentas que oferece uma coleção de interfaces de usuário e bibliotecas de exploração e avaliação de modelos e dados que permitem uma melhor compreensão dos sistemas de IA. Essas interfaces e bibliotecas capacitam desenvolvedores e partes interessadas de sistemas de IA a desenvolver e monitorar IA de forma mais responsável e a tomar melhores decisões baseadas em dados.

A Toolbox consiste em três repositórios:

Apresentando o Responsible AI dashboard

O Responsible AI dashboard é um painel único que permite navegar facilmente por diferentes estágios de depuração de modelos e tomada de decisão. Essa experiência personalizável pode ser conduzida em diversas direções, desde analisar o modelo ou os dados de forma holística, até realizar uma análise aprofundada ou comparação de coortes de interesse, explicar e perturbar previsões do modelo para instâncias individuais e informar os usuários sobre decisões e ações de negócio.

Para alcançar esses recursos, o dashboard integra ideias e tecnologias de vários kits de ferramentas de código aberto nas áreas de

• Error Analysis desenvolvido por Error Analysis, que identifica coortes de dados com taxa de erro maior do que o benchmark geral. Essas discrepâncias podem ocorrer quando o sistema ou modelo tem desempenho insatisfatório para grupos demográficos específicos ou condições de entrada pouco frequentes nos dados de treinamento.

• Avaliação de Justiça desenvolvida por Fairlearn, que identifica quais grupos de pessoas podem ser impactados de forma desproporcionalmente negativa por um sistema de IA e de que maneiras.

• Interpretabilidade de Modelos desenvolvida por InterpretML, que explica modelos caixa-preta, ajudando os usuários a compreender o comportamento global do modelo ou as razões por trás de previsões individuais.

• Análise Contrafactual desenvolvida por DiCE, que mostra versões com características perturbadas do mesmo ponto de dados que teriam recebido um resultado de previsão diferente, por exemplo, o empréstimo de Taylor foi rejeitado pelo modelo. Mas ela teria recebido o empréstimo se sua renda fosse US$ 10.000 maior.

• Análise Causal desenvolvida por EconML, que se concentra em responder perguntas do tipo "E se" para aplicar a tomada de decisão baseada em dados – como a receita seria afetada se uma corporação adotasse uma nova estratégia de preços? Um novo medicamento melhoraria a condição de um paciente, tudo o mais permanecendo constante?

• Equilíbrio de Dados desenvolvido por Responsible AI, que ajuda os usuários a obter uma compreensão geral de seus dados, identificar características que recebem o resultado positivo mais do que outras e visualizar distribuições de características.

O Responsible AI dashboard foi projetado para alcançar os seguintes objetivos:

• Ajudar a acelerar ainda mais os processos de engenharia em aprendizado de máquina, permitindo que profissionais projetem fluxos de trabalho personalizáveis e adaptem os dashboards de IA Responsável que melhor se ajustem aos seus cenários de avaliação de modelos e tomada de decisão baseada em dados.
• Ajudar os desenvolvedores de modelos a criar experiências de depuração completas e fluidas e navegar perfeitamente pela identificação e diagnóstico de erros usando visualizações interativas que identificam erros, inspecionam os dados, geram modelos de explicações globais e locais e potencialmente inspecionam exemplos problemáticos.
• Ajudar as partes interessadas do negócio a explorar relações causais nos dados e tomar decisões informadas no mundo real.

Este repositório contém os Jupyter notebooks com exemplos que mostram como usar este widget. Comece aqui.

Instalação

Use o seguinte comando pip para instalar o Responsible AI Toolbox.

Se estiver executando no Jupyter, certifique-se de reiniciar o kernel do Jupyter após a instalação.

pip install raiwidgets

Personalização do Responsible AI dashboard

A força do Responsible AI Toolbox está na sua capacidade de personalização. Ele capacita os usuários a projetar fluxos de trabalho personalizados e completos de depuração de modelos e tomada de decisão que atendam às suas necessidades específicas. Precisa de inspiração? Aqui estão alguns exemplos de como os componentes da Toolbox podem ser combinados para analisar cenários de diferentes maneiras:

Observe que os componentes model overview (incluindo análise de justiça) e data explorer são ativados por padrão!  

Links Úteis

• Faça um tour pelo Responsible AI Dashboard
• Comece agora

Exemplos Tabulares:

• Experimente a ferramenta: tome decisões para melhorias na casa (tomada de decisão)
• Experimente a ferramenta: forneça recomendações a pacientes usando dados de diabetes (tomada de decisão)
• Experimente a ferramenta: depuração de modelo de um modelo de previsão de renda do censo (classificação)
• Experimente a ferramenta: depuração de modelo de um modelo de previsão de preços de imóveis (classificação)
• Experimente a ferramenta: depuração de modelo de um modelo de previsão de progressão do diabetes (regressão)

Exemplos de Texto:

• Experimente a ferramenta: depuração de modelo de um modelo OpenAI de Perguntas e Respostas no SQuAD
• Experimente a ferramenta: depuração de modelo de um modelo HuggingFace de Perguntas e Respostas no SQuAD
• Experimente a ferramenta: depuração de modelo de um modelo de classificação de texto DBPedia
• Experimente a ferramenta: depuração de modelo de um modelo de classificação de texto binário
• Experimente a ferramenta: depuração de modelo de um modelo de classificação de texto multirrótulo COVID-19

Exemplos de Visão:

• Experimente a ferramenta: depuração de modelo de um modelo de classificação de imagens de geladeira
• Experimente a ferramenta: depuração de modelo de um modelo de classificação de imagens multirrótulo de geladeira
• Experimente a ferramenta: depuração de modelo de um modelo de detecção de objetos de geladeira

Modelos Suportados

Esta API do Responsible AI Toolbox suporta modelos treinados em conjuntos de dados nos formatos numpy.ndarray, pandas.DataFrame, iml.datatypes.DenseData ou scipy.sparse.csr_matrix do Python.

As funções de explicação do Interpret-Community aceitam modelos e pipelines como entrada, desde que o modelo ou pipeline implemente uma função predict ou predict_proba que esteja em conformidade com a convenção do Scikit. Se não for compatível, você pode encapsular a função de previsão do seu modelo em uma função wrapper que transforme a saída no formato suportado (predict ou predict_proba do Scikit) e passar essa função wrapper para as técnicas de interpretabilidade selecionadas.

Se um script de pipeline for fornecido, a função de explicação pressupõe que o script de pipeline em execução retorne uma previsão. O repositório também suporta modelos treinados com os frameworks de aprendizado profundo PyTorch, TensorFlow e Keras.

Outros Casos de Uso

As ferramentas do Responsible AI Toolbox também podem ser usadas com modelos de IA oferecidos como APIs por provedores como Azure Cognitive Services. Para ver exemplos de casos de uso, consulte as pastas abaixo:

• Teste de justiça de Fala em Texto (Speech to Text) dos Cognitive Services
• Teste de justiça de Verificação Facial (Face Verification) dos Cognitive Services

Mantenedores

• Ke Xu
• Roman Lutz
• Ilya Matiach
• Gaurav Gupta
• Vinutha Karanth
• Tong Yu
• Ruby Zhu
• Mehrnoosh Sameki
• Hannah Westra
• Ziqi Ma
• Kin Chan