Responsible AI Toolbox

Responsible AI は、AI システムを安全で信頼性が高く、倫理的な方法で評価・開発・展開し、責任ある決定と行動を行うためのアプローチです。

Responsible AI Toolbox は、AI システムのより深い理解を可能にする、モデルとデータの探索・評価のためのユーザーインターフェイスとライブラリのコレクションを提供するツール群です。これらのインターフェイスとライブラリにより、AI システムの開発者やステークホルダーは、より責任ある方法で AI を開発・監視し、より適切なデータ駆動型のアクションを取ることができます。

Toolbox は次の 3 つのリポジトリで構成されています:

Responsible AI ダッシュボードの紹介

Responsible AI ダッシュボード は単一のビューであり、モデルのデバッグと意思決定のさまざまな段階を簡単に進むことができます。このカスタマイズ可能なエクスペリエンスは、モデルやデータを総体的に分析することから、関心のあるコホートの詳細な調査や比較、個々のインスタンスの予測の説明や摂動、ビジネス上の決定やアクションをユーザーに伝えることまで、多岐にわたる方向性で利用できます。

これらの機能を実現するために、ダッシュボードは、以下の分野における複数のオープンソースツールキットのアイデアとテクノロジを統合しています。

• エラー分析：Error Analysis を搭載。全体のベンチマークよりもエラー率が高いデータのコホートを特定します。このような差異は、システムまたはモデルが特定の人口統計グループや、トレーニングデータ内でほとんど観測されない入力条件に対してパフォーマンスが低い場合に発生する可能性があります。
• 公平性評価：Fairlearn を搭載。AI システムによって特定の人々のグループが不均衡に悪影響を受ける可能性があるかどうか、またどのような形で影響を受けるかを特定します。
• モデル解釈可能性：InterpretML を搭載。ブラックボックスモデルを説明し、ユーザーがモデルの全体的な動作や個々の予測の背後にある理由を理解するのに役立ちます。
• 反事実分析：DiCE を搭載。同じデータポイントの特徴量を摂動させた場合に、異なる予測結果が得られるはずのバージョンを示します。例：Taylor のローンはモデルによって拒否されました。しかし、収入が 10,000 ドル多ければ、ローンを受けられていたでしょう。
• 因果分析：EconML を搭載。「もしも」の質問に答えることに重点を置き、データ駆動型の意思決定を適用するものです。例えば、企業が新しい価格戦略を追求した場合、収益にどのような影響があるでしょうか？ 他の条件がすべて同じであれば、新しい薬は患者の状態を改善するでしょうか？
• データバランス：Responsible AI を搭載。ユーザーがデータを全体的に理解し、他の特徴よりもプラスの結果を受け取っている特徴を特定し、特徴量の分布を可視化するのに役立ちます。

Responsible AI ダッシュボードは、次の目標を達成するように設計されています:

• 実践者がカスタマイズ可能なワークフローを設計し、モデル評価やデータ駆動型の意思決定シナリオに最も適した Responsible AI ダッシュボードを調整できるようにすることで、機械学習におけるエンジニアリングプロセスをさらに加速させます。
• モデル開発者が、エラーを特定し、データを検査し、グローバルおよびローカルの説明モデルを生成し、問題のある例を検査できるインタラクティブな可視化を使用して、エンドツーエンドのシームレスなデバッグエクスペリエンスを作成し、エラーの特定と診断をスムーズに進められるようにします。
• ビジネスステークホルダーがデータ内の因果関係を調査し、現実世界で情報に基づいた意思決定を行えるようにします。

このリポジトリには、このウィジェットの使用方法を示す例を含む Jupyter ノートブックが含まれています。開始するには、こちら を参照してください。

インストール

次の pip コマンドを使用して Responsible AI Toolbox をインストールします。

Jupyter で実行している場合は、インストール後に Jupyter カーネルを再起動してください。

pip install raiwidgets

Responsible AI ダッシュボードのカスタマイズ

Responsible AI Toolbox の強みは、そのカスタマイズ性にあります。ユーザーは、特定のニーズに対応する、カスタマイズされたエンドツーエンドのモデルデバッグおよび意思決定ワークフローを設計できます。インスピレーションが必要ですか？ 以下は、Toolbox のコンポーネントを組み合わせてさまざまな方法でシナリオを分析する方法の例です。

モデル概要（公平性分析を含む）とデータエクスプローラーのコンポーネントはデフォルトで有効になっていることに注意してください。

便利なリンク

• Responsible AI ダッシュボードのツアーを見る
• はじめに

表形式の例:

• ツールを試す: 住宅改善の意思決定を行う（意思決定）
• ツールを試す: 糖尿病データを使用して患者に推奨事項を提供する（意思決定）
• ツールを試す: 国勢調査の収入予測モデルのモデルデバッグ（分類）
• ツールを試す: 住宅価格予測モデルのモデルデバッグ（分類）
• ツールを試す: 糖尿病進行予測モデルのモデルデバッグ（回帰）

テキストの例:

• ツールを試す: SQuAD 上の OpenAI 質問応答モデルのモデルデバッグ
• ツールを試す: SQuAD 上の HuggingFace 質問応答モデルのモデルデバッグ
• ツールを試す: DBPedia テキスト分類モデルのモデルデバッグ
• ツールを試す: バイナリテキスト分類モデルのモデルデバッグ
• ツールを試す: COVID-19 マルチラベルテキスト分類モデルのモデルデバッグ

ビジョンの例:

• ツールを試す: 冷蔵庫の画像分類モデルのモデルデバッグ
• ツールを試す: 冷蔵庫のマルチラベル画像分類モデルのモデルデバッグ
• ツールを試す: 冷蔵庫の物体検出モデルのモデルデバッグ

サポートされているモデル

この Responsible AI Toolbox API は、Python の numpy.ndarray、pandas.DataFrame、iml.datatypes.DenseData、または scipy.sparse.csr_matrix 形式のデータセットでトレーニングされたモデルをサポートしています。

Interpret-Community の説明関数は、モデルまたはパイプラインが Scikit の規約に準拠した predict または predict_proba 関数を実装している限り、モデルとパイプラインの両方を入力として受け入れます。互換性がない場合は、モデルの予測関数を、サポートされている形式（Scikit の predict または predict_proba）に出力を変換するラッパー関数でラップし、そのラッパー関数を選択した解釈可能性手法に渡すことができます。

パイプラインスクリプトが提供された場合、説明関数は、実行中のパイプラインスクリプトが予測を返すことを前提としています。このリポジトリは、PyTorch、TensorFlow、Keras のディープラーニングフレームワークを介してトレーニングされたモデルもサポートしています。

その他のユースケース

Responsible AI Toolbox 内のツールは、Azure Cognitive Services などのプロバイダーが API として提供する AI モデルでも使用できます。使用例については、以下のフォルダーを参照してください:

• Cognitive Services 音声テキスト変換の公平性テスト
• Cognitive Services 顔認証の公平性テスト

メンテナー

• Ke Xu
• Roman Lutz
• Ilya Matiach
• Gaurav Gupta
• Vinutha Karanth
• Tong Yu
• Ruby Zhu
• Mehrnoosh Sameki
• Hannah Westra
• Ziqi Ma
• Kin Chan