microsoft/responsible-ai-toolboxInteraktive Dashboards und Bibliotheken für verantwortungsvolles Debugging von KI-Modellen, die Fehleranalyse, Fairness, Interpretierbarkeit, Kontrafaktuale, Kausalanalyse und Datenbalance abdecken.
Responsible AI ist ein Ansatz zur sicheren, vertrauenswürdigen und ethischen Bewertung, Entwicklung und Bereitstellung von KI-Systemen sowie zum Treffen verantwortungsvoller Entscheidungen und zum Ergreifen verantwortungsvoller Maßnahmen.
Responsible AI Toolbox ist eine Suite von Tools, die eine Sammlung von Benutzeroberflächen und Bibliotheken zur Modell- und Datenexploration und -bewertung bereitstellt, die ein besseres Verständnis von KI-Systemen ermöglichen. Diese Oberflächen und Bibliotheken befähigen Entwickler und Stakeholder von KI-Systemen, KI verantwortungsvoller zu entwickeln und zu überwachen und bessere datengetriebene Entscheidungen zu treffen.
Die Toolbox besteht aus drei Repositories:
Das Responsible AI Dashboard ist ein Single-Pane-of-Glass, das es Ihnen ermöglicht, mühelos durch verschiedene Phasen des Modell-Debuggings und der Entscheidungsfindung zu navigieren. Diese anpassbare Erfahrung kann in viele Richtungen genutzt werden – von der ganzheitlichen Analyse des Modells oder der Daten über eine eingehende Untersuchung oder einen Vergleich interessanter Kohorten bis hin zur Erklärung und Veränderung von Modellvorhersagen für einzelne Instanzen und zur Information von Benutzern über Geschäftsentscheidungen und -maßnahmen.
Um diese Fähigkeiten zu erreichen, integriert das Dashboard Ideen und Technologien aus mehreren Open-Source-Toolkits in den Bereichen
Error Analysis, unterstützt durch Error Analysis, das Datenkohorten mit einer höheren Fehlerrate als der Gesamt-Benchmark identifiziert. Diese Abweichungen können auftreten, wenn das System oder Modell bei bestimmten demografischen Gruppen oder selten beobachteten Eingabebedingungen in den Trainingsdaten schlechter abschneidet.
Fairness Assessment, unterstützt durch Fairlearn, das identifiziert, welche Personengruppen durch ein KI-System unverhältnismäßig negativ beeinflusst werden könnten und auf welche Weise.
Model Interpretability, unterstützt durch InterpretML, das Blackbox-Modelle erklärt und Benutzern hilft, das globale Verhalten ihres Modells oder die Gründe für einzelne Vorhersagen zu verstehen.
Counterfactual Analysis, unterstützt durch DiCE, das merkmalsveränderte Versionen desselben Datenpunkts zeigt, die ein anderes Vorhersageergebnis erhalten hätten, z. B. Taylors Kredit wurde vom Modell abgelehnt. Sie hätten den Kredit jedoch erhalten, wenn ihr Einkommen um 10.000 $ höher gewesen wäre.
Causal Analysis, unterstützt durch EconML, das sich auf die Beantwortung von Was-wäre-wenn-Fragen konzentriert, um datengetriebene Entscheidungsfindung anzuwenden – wie würde sich der Umsatz ändern, wenn ein Unternehmen eine neue Preisstrategie verfolgt? Würde ein neues Medikament den Zustand eines Patienten verbessern, wenn alle anderen Faktoren gleich bleiben?
Data Balance, unterstützt durch Responsible AI, das Benutzern hilft, ein Gesamtverständnis ihrer Daten zu erlangen, Merkmale zu identifizieren, die häufiger das positive Ergebnis erhalten als andere, und Merkmalsverteilungen zu visualisieren.
Das Responsible AI Dashboard ist darauf ausgelegt, die folgenden Ziele zu erreichen:
Dieses Repository enthält Jupyter-Notebooks mit Beispielen, die zeigen, wie dieses Widget verwendet wird. Legen Sie hier los.
Verwenden Sie den folgenden pip-Befehl, um die Responsible AI Toolbox zu installieren.
Wenn Sie in Jupyter arbeiten, starten Sie bitte den Jupyter-Kernel nach der Installation neu.
pip install raiwidgets
Die Stärke der Responsible AI Toolbox liegt in ihrer Anpassbarkeit. Sie befähigt Benutzer, maßgeschneiderte End-to-End-Workflows für das Modell-Debugging und die Entscheidungsfindung zu entwerfen, die ihren spezifischen Anforderungen gerecht werden. Sie brauchen Inspiration? Hier sind einige Beispiele, wie Toolbox-Komponenten kombiniert werden können, um Szenarien auf unterschiedliche Weise zu analysieren:
Bitte beachten Sie, dass die Komponenten Modellübersicht (einschließlich Fairness-Analyse) und Datenexplorer standardmäßig aktiviert sind!
Tabellarische Beispiele:
Textbeispiele:
Vision-Beispiele:
Diese Responsible-AI-Toolbox-API unterstützt Modelle, die auf Datensätzen trainiert wurden, die in den Python-Formaten numpy.ndarray, pandas.DataFrame, iml.datatypes.DenseData oder scipy.sparse.csr_matrix vorliegen.
Die Erklärungsfunktionen von Interpret-Community akzeptieren sowohl Modelle als auch Pipelines als Eingabe, solange das Modell oder die Pipeline eine predict- oder predict_proba-Funktion implementiert, die der Scikit-Konvention entspricht. Wenn dies nicht kompatibel ist, können Sie die Vorhersagefunktion Ihres Modells in eine Wrapper-Funktion verpacken, die die Ausgabe in das unterstützte Format (predict oder predict_proba von Scikit) umwandelt, und diese Wrapper-Funktion an Ihre ausgewählten Interpretierbarkeitstechniken übergeben.
Wenn ein Pipeline-Skript bereitgestellt wird, geht die Erklärungsfunktion davon aus, dass das ausgeführte Pipeline-Skript eine Vorhersage zurückgibt. Das Repository unterstützt außerdem Modelle, die mit den Deep-Learning-Frameworks PyTorch, TensorFlow und Keras trainiert wurden.
Tools innerhalb der Responsible AI Toolbox können auch mit KI-Modellen verwendet werden, die als APIs von Anbietern wie Azure Cognitive Services angeboten werden. Beispielhafte Anwendungsfälle finden Sie in den folgenden Ordnern:
| Repository | Abgedeckte Tools |
|---|
| Responsible-AI-Toolbox Repository (Hier) | Dieses Repository enthält vier Visualisierungs-Widgets für die Modellbewertung und Entscheidungsfindung: 1. Responsible AI Dashboard, ein Single-Pane-of-Glass, das mehrere ausgereifte Responsible-AI-Tools aus der Toolbox bündelt, um Modelle ganzheitlich und verantwortungsvoll zu bewerten und zu debuggen und fundierte Geschäftsentscheidungen zu treffen. Mit diesem Dashboard können Sie Modellfehler identifizieren, diagnostizieren, warum diese Fehler auftreten, und sie beheben. Darüber hinaus liefern die Fähigkeiten zur kausalen Entscheidungsfindung umsetzbare Erkenntnisse für Ihre Stakeholder und Kunden. 2. Error Analysis Dashboard, zur Identifizierung von Modellfehlern und zum Auffinden von Datenkohorten, bei denen das Modell schlechter abschneidet. 3. Interpretability Dashboard, zum Verständnis von Modellvorhersagen. Dieses Dashboard basiert auf InterpretML. 4. Fairness Dashboard, zum Verständnis von Fairness-Problemen des Modells mithilfe verschiedener Gruppen-Fairness-Metriken über sensible Merkmale und Kohorten hinweg. Dieses Dashboard basiert auf Fairlearn. |
| Responsible-AI-Toolbox-Mitigations Repository | Die Responsible-AI-Mitigations-Bibliothek hilft KI-Praktikern, verschiedene Messgrößen und Minderungsmaßnahmen zu erkunden, die am besten geeignet sein können, wenn das Modell bei einer bestimmten Datenkohorte schlechter abschneidet. Die Bibliothek verfügt derzeit über zwei Module: 1. DataProcessing, das Minderungstechniken zur Verbesserung der Modellleistung für bestimmte Kohorten bietet. 2. DataBalanceAnalysis, das Metriken zur Diagnose von Fehlern bereitstellt, die aus einem Datenungleichgewicht entweder bei Klassenbezeichnungen oder Merkmalswerten entstehen. 3. Cohort: stellt Klassen zur Handhabung und Verwaltung von Kohorten bereit, was die Erstellung benutzerdefinierter Pipelines für jede Kohorte über eine einfache und intuitive Oberfläche ermöglicht. Das Modul bietet außerdem Techniken zum Lernen verschiedener entkoppelter Schätzer (Modelle) für verschiedene Kohorten und deren Kombination auf eine Weise, die verschiedene Definitionen von Gruppen-Fairness optimiert. |
| Responsible-AI-Tracker Repository | Responsible AI Toolbox Tracker ist eine JupyterLab-Erweiterung zum Verwalten, Nachverfolgen und Vergleichen von Ergebnissen von Machine-Learning-Experimenten zur Modellverbesserung. Mit dieser Erweiterung können Benutzer Modelle, Code und Visualisierungsartefakte innerhalb desselben Frameworks anzeigen und so schnelle Modelliterations- und Bewertungsprozesse ermöglichen. Zu den Hauptfunktionen gehören: 1. Verwalten und Verknüpfen von Artefakten zur Modellverbesserung 2. Disaggregierte Modellbewertung und -vergleiche 3. Integration mit der Responsible-AI-Mitigations-Bibliothek 4. Integration mit mlflow |
| Responsible-AI-Toolbox-GenBit Repository | Die Responsible-AI-Gender-Bias-Bibliothek (GenBit) hilft KI-Praktikern, Gender-Bias in Datensätzen der Verarbeitung natürlicher Sprache (Natural Language Processing, NLP) zu messen. Das Hauptziel von GenBit ist es, Ihre Textkorpora zu analysieren und Metriken zu berechnen, die Einblicke in den in einem Korpus vorhandenen Gender-Bias geben. |
| Ablauf im Responsible AI Dashboard | Anwendungsfall |
|---|
| Model Overview -> Error Analysis -> Data Explorer | Zur Identifizierung von Modellfehlern und deren Diagnose durch Verständnis der zugrunde liegenden Datenverteilung |
| Model Overview -> Fairness Assessment -> Data Explorer | Zur Identifizierung von Modell-Fairness-Problemen und deren Diagnose durch Verständnis der zugrunde liegenden Datenverteilung |
| Model Overview -> Error Analysis -> Counterfactuals Analysis and What-If | Zur Diagnose von Fehlern bei einzelnen Instanzen mit kontrafaktischer Analyse (minimale Änderung, die zu einer anderen Modellvorhersage führt) |
| Model Overview -> Data Explorer -> Data Balance | Zum Verständnis der Grundursache von Fehlern und Fairness-Problemen, die durch Datenungleichgewichte oder fehlende Repräsentation einer bestimmten Datenkohorte verursacht werden |
| Model Overview -> Interpretability | Zur Diagnose von Modellfehlern durch Verständnis darüber, wie das Modell seine Vorhersagen getroffen hat |
| Data Explorer -> Causal Inference | Zur Unterscheidung zwischen Korrelationen und Kausalitäten in den Daten oder zur Entscheidung über die besten Behandlungen, die anzuwenden sind, um ein positives Ergebnis zu erzielen |
| Interpretability -> Causal Inference | Um zu erfahren, ob die Faktoren, die das Modell für die Entscheidungsfindung verwendet hat, einen kausalen Effekt auf das reale Ergebnis haben. |
| Data Explorer -> Counterfactuals Analysis and What-If | Zur Beantwortung von Kundenfragen darüber, was sie beim nächsten Mal tun können, um ein anderes Ergebnis von einer KI zu erhalten. |
| Data Explorer -> Data Balance | Um ein Gesamtverständnis der Daten zu erlangen, Merkmale zu identifizieren, die häufiger das positive Ergebnis erhalten als andere, und Merkmalsverteilungen zu visualisieren |