新しい IBM Developer JP サイトへようこそ!サイトのデザインが一新され、旧 developerWorks のコンテンツも統合されました。 詳細はこちら

IBM Developer Blog

IBM Developer サイトで最新の出来事をフォローし、情報を入手しましょう。

IBM Watson OpenScale と AI Fairness 360: 相性抜群の新しい 2 つの AI 分析ツール


alt

2018年、IBM は 2つの注目すべきツールを開発し、リリースしました。それは、Watson OpenScale と Fairness 360 ツールキットです。いずれも AI ライフサイクル全体にわたって公平性を促進し、AI モデル内に潜むバイアスを排除するよう意図されています。このブログ記事では、2 つのツールの違いを分析した上で、これらのツールが連動する仕組みを明らかにします。

IBM AI Fairness 360 の概要

AI Fairness 360 ツールキットは、AI モデル・ビルダーを使用してモデル内に潜む不要なバイアスを識別、調査、軽減できる、データ・サイエンティスト向けのリッチなオープンソース・ライブラリーです。このライブラリーには、アルゴリズムの公平性を目指すコミュニティーが業界での有用性を重視して開発した、一連の Python アルゴリズムが含まれています。直観的な Python インターフェースを介し、これらのアルゴリズムが提供する強力な手法によってバイアスを軽減できます。

Watson OpenScale の概要

Watson OpenScale は、AI 実装を大規模に運用、自動化、分析できるよう、企業を支援することを目的に、IBM Watson により設計されたオープン・プラットフォームです。OpenScale はダッシュボードを通して視覚的かつ直観的に、ビジネス・ユーザーに AI の結果を説明し、AI モデルのステータスを伝えます。OpenScale を「ワン・ストップ・ショップ」として、説明可能性、精度、モデルの正常性などモデル属性のコンテキスト内で公平性をモニタリングできるようになっています。

OpenScale は、データ・サイエンティストに必要なすべての機能を備えた堅牢な製品でありながらも、エンジニアリングの経歴を持たないビジネス・オーナーでも使用できる、コーディングを必要としない親しみやすいプラットフォームです。

2

つのツールが連動する仕組み

開発したモデル内にバイアスが存在しないことを確実にするには、AI の作成プロセスで AI Fairness 360 を使用します。このツールは、データ・サイエンス・ライフサイクルの 3 つのフェーズに対応しています。まず、トレーニング・データに含まれるバイアスを分析および軽減するフェーズ、続いて機械学習モデルを作成するアルゴリズムに含まれるバイアスを分析および軽減するフェーズ、そして開発時にモデルが行った予測に含まれるバイアスを分析し、軽減するフェーズです。Watson OpenScale が提供する直観的なダッシュボードで、モデルのさまざまな属性に加え、デプロイ済みモデル内に潜むバイアスを検出して軽減できます。

例えば、ある健康保険会社が保険契約者から提出された保険金請求の承認プロセスを迅速化しようと取り組んでいるとします。承認プロセスが迅速化されれば、時間の節約という点で会社と顧客にとって共に利益となります。

こうした会社のデータ・サイエンティストたちは、AI モデルを作成して承認プロセスの迅速化という目標を達成することを依頼されています。前処理とモデルのトレーニングのフェーズで、データ・サイエンティストたちは開発環境内で AI Fairness 360 ツールキットを使用して、モデルが可能な限り公平なものになるようにします。

このフェーズの後、モデルが検証、テストされ、本番環境内にデプロイされます。この時点で、社内のビジネス専門家と IT 専門家がユーザー・フレンドリーな OpenScale インターフェースを使用して、すべての顧客が公平に扱われるよう年齢、性別、民族性に関する公平性の指標を構成できるようになります。

ただし、時間が経つにつれ、ビジネス環境は変わっていきます。この健康保険会社は販売範囲を新しい複数の地域に広げることに成功しました。その中には、これまで営業の拠点としていた地域よりも寒さの厳しい地域が含まれます。モデルのトレーニングには、温暖な気候の地域から収集したデータが使用されました。そのため、入力データの微妙な違いによってモデルの正常性に影響が出てきます。実行中の結果をモニタリングする OpenScale は、新しく拡大された市場にいる老齢の患者を、モデルが公平に扱わない可能性があることを検出し、この矛盾に対してフラグを立てます。ビジネス・オーナーに対し、より現状を反映したデータを使用してモデルを再検討するよう促すためです。さらに、OpenScale はデータ・サイエンティストが新しい条件を考慮してモデルを改善できるように、自動的にバイアスを排除したモデルによる予測結果と収集したフィードバック・データを提示します。

この 2つのツールは他に例のない、監督および洞察を可能にするレイヤーを形成します。仮説ながらも実際的なこの使用ケースは、これらのツールを使用することで、AI モデルのバイアスにつながり望まない結果を生みがちな「ブラック・ボックス」化を解消できることを明らかにしています。

Watson OpenScale の詳細を調べるには、https://www.ibm.com/jp-ja/cloud/watson-openscale または https://developer.ibm.com/series/learning-path-watson-openscale にアクセスしてください。AIF360 の詳細を調べるには、https://aif360.mybluemix.net/ にアクセスしてください。

Alex Jones