JP2022010749A - 寄与度集約システム、寄与度集約方法およびプログラム - Google Patents

Abstract

【課題】学習済みモデルの推定結果の解釈を支援する。【解決手段】寄与度集約システムは、学習済みモデルと、目的変数を出力するために当該学習済みモデルに入力された特徴量データとに基づいて特徴量の項目ごとに推定された寄与度を取得する。そして、特徴量の項目ごとに推定された寄与度を、特徴量の項目を分類するための所定の種類ごとに合計する。そして、所定の種類ごとに合計された寄与度を示す画面を生成する。【選択図】図１

Description

本発明は、学習済みモデルの推定結果の解釈を支援する方法に関する。

従来、機械学習モデルの推定結果を解釈するための手法として、SHAP（SHapley Additive exPlanations）やLIME（Local Interpretable Model-agnostic Explanations）等が知られている（非特許文献１および２参照）。これらの解釈手法では、機械学習モデルの推定に寄与した各特徴量の度合いを定量化することで、推定結果の局所的な説明が試みられている。

"A unified approach to interpreting model predictions"、Scott M Lundberg and Su-In Lee、Advances in Neural Information Processing Systems, 4768-4777、2016年 "Why Should I Trust You?" Explaining the Predictions of Any Classifier、Marco Tulio Ribeiro et. al.、Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining、2016年8月

上記の解釈手法によれば、特徴量単位で寄与度を定量化することで推定結果の局所的な解釈が可能になるが、特徴量の数が多くなると、推定結果を端的に解釈することが難しくなるという問題がある。

本発明は、このような事情に鑑みてなされたものであり、学習済みモデルの推定結果の解釈を支援することを目的とする。

上記の課題を解決するため、本発明の一実施形態に係る寄与度集約システムは、学習済みモデルと、目的変数を出力するために当該学習済みモデルに入力された特徴量データとに基づいて特徴量の項目ごとに推定された寄与度を取得する寄与度取得部と、前記特徴量の項目ごとに推定された寄与度を、前記特徴量の項目を分類するための所定の種類ごとに合計する集約部と、前記所定の種類ごとに合計された寄与度を示す画面を生成する画面生成部とを備える。

好ましい態様において、前記集約部は、正の寄与度と負の寄与度を別々に合計し、前記画面生成部は、前記所定の種類ごとに正の寄与度の合計値と負の寄与度の合計値を示す画面を生成する。

さらに好ましい態様において、前記寄与度集約システムは、前記画面において前記所定の種類のうちのいずれかが選択されると、選択された種類に分類される特徴量の項目について推定された寄与度を抽出する寄与度抽出部をさらに備え、前記画面生成部は、前記抽出された寄与度を示す画面をさらに生成する。

さらに好ましい態様において、前記寄与度抽出部は、前記選択された種類に分類される特徴量の項目について推定された寄与度を、絶対値の大きい方から順に所定数抽出する。

別の好ましい態様において、前記寄与度取得部は、前記学習済みモデルと、目的変数を出力するために前記学習済みモデルに入力された特徴量データの複数のセットとに基づいて前記特徴量の項目ごとに推定された寄与度の複数のセットをさらに取得し、前記集約部はさらに、前記取得された寄与度の複数のセットの各々について、前記所定の種類ごとに合計値を算出し、前記寄与度集約システムは、前記寄与度の複数のセットの各々について前記所定の種類ごとに算出された合計値に基づいて、前記所定の種類ごとに統計量を算出する統計量算出部をさらに備え、前記画面生成部は、前記所定の種類ごとに合計された寄与度と、前記算出された統計量とを示す画面を生成する。

別の好ましい態様において、前記寄与度取得部は、前記学習済みモデルと、目的変数を出力するために前記学習済みモデルに入力された特徴量データの複数のセットとに基づいて前記特徴量の項目ごとに推定された寄与度の複数のセットをさらに取得し、前記寄与度集約システムは、前記特徴量の項目ごとに推定された寄与度の複数のセットに基づいて、前記特徴量の項目ごとに統計量を算出する統計量算出部をさらに備え、前記寄与度抽出部は、前記選択された種類に分類される特徴量の項目について算出された統計量をさらに抽出し、前記画面生成部は、前記抽出された寄与度と、前記抽出された統計量とを示す画面をさらに生成する。

本発明の一実施形態に係る寄与度集約方法は、寄与度集約システムにより実行される寄与度集約方法であって、学習済みモデルと、目的変数を出力するために当該学習済みモデルに入力された特徴量データとに基づいて特徴量の項目ごとに推定された寄与度を取得するステップと、前記特徴量の項目ごとに推定された寄与度を、前記特徴量の項目を分類するための所定の種類ごとに合計するステップと、前記所定の種類ごとに合計された寄与度を示す画面を生成するステップとを含む。

本発明の一実施形態に係るプログラムは、コンピュータに、学習済みモデルと、目的変数を出力するために当該学習済みモデルに入力された特徴量データとに基づいて特徴量の項目ごとに推定された寄与度を取得するステップと、前記特徴量の項目ごとに推定された寄与度を、前記特徴量の項目を分類するための所定の種類ごとに合計するステップと、前記所定の種類ごとに合計された寄与度を示す画面を生成するステップとを実行させる。

本発明によれば、学習済みモデルの推定結果の解釈を支援することができる。

デフォルト率予測システムの構成を示す図 デフォルト率推定処理を示すフロー図 推定対象データの一例を示す図 寄与度データの一例を示す図 分類データの一例を示す図 寄与度集計データの一例を示す図 デフォルト率表示画面の一例を示す図 ドリルダウン画面の一例を示す図 デフォルト率表示画面の一例を示す図 ドリルダウン画面の一例を示す図 デフォルト率表示画面の一例を示す図

１．実施形態
本発明の一実施形態に係るデフォルト率推定システムについて図面を参照して説明する。本実施形態に係るデフォルト率推定システムは、機械学習モデルを用いて企業のデフォルト率を推定するためのシステムである。このデフォルト率推定システムはさらに、デフォルト率の推定に用いた多数の特徴量の各々について、その推定に寄与した寄与度を推定する。そして、推定した寄与度を特徴量の種類ごとに集約して、レーダーチャートの形で可視化する。このレーダーチャートを見た利用者は、デフォルト率の推定にどのような種類の特徴量が影響したかを理解することができる。

図１は、このデフォルト率予測システムの構成を示す図である。同図に示すように、デフォルト率予測システムは、推定対象データ記憶部１、学習済みモデル記憶部２、デフォルト率推定部３、デフォルト率データ記憶部４、寄与度推定部５、寄与度データ記憶部６、分類データ記憶部７、集約部８、寄与度集計データ記憶部９および画面生成部１０を備える。これらの構成要素のうち、推定対象データ記憶部１、学習済みモデル記憶部２、デフォルト率データ記憶部４、寄与度データ記憶部６、分類データ記憶部７および寄与度集計データ記憶部９は、記憶装置により実現される。残りのデフォルト率推定部３、寄与度推定部５、集約部８および画面生成部１０は、記憶装置に記憶されたプログラムがプロセッサに実行されることにより実現される。

図２は、このデフォルト率推定システムにより実行されるデフォルト率推定処理を示すフロー図を示す図である。以下では、図１および図２を参照して、このデフォルト率推定処理について説明する。

推定対象データ記憶部１は、デフォルト率の推定対象となる企業に関するデータ（以下、「推定対象データ」という。）を記憶する。図３は、この推定対象データの一例を示す図である。同図に示すように、推定対象データは、その企業の財務状況や属性などを示す多数（例えば、1,000個）の特徴量（説明変数）データにより構成される。各特徴量データは、特徴量項目とその値により構成される。

学習済みモデル記憶部２は、企業のデフォルト率を推定するために使用されるデフォルト率推定モデルを記憶する。このデフォルト率推定モデルは、多数の企業の企業データを、ニューラルネットワーク等の機械学習モデルに学習させることで生成される。なお、ここで言う企業データとは、企業の多数の特徴量データ（その特徴量項目の種類は、上記の推定対象データと同じ。）と、その企業のデフォルトの発生の有無を示すデータからなる。生成されたデフォルト率推定モデルは、上記の推定対象データを入力とし、デフォルト率を示すデータを出力する。

デフォルト率推定部３は、推定対象データ記憶部１から推定対象データを読み出し、学習済みモデル記憶部２からデフォルト率推定モデルを読み出す。そして、読み出した推定対象データを入力とし、読み出したデフォルト率推定モデルを用いることで、推定対象となる企業のデフォルト率を推定する（ステップＳ１）。推定されたデフォルト率を示すデータは、デフォルト率データ記憶部４に記憶される。

寄与度推定部５は、推定対象データ記憶部１から推定対象データを読み出し、学習済みモデル記憶部２からデフォルト率推定モデルを読み出す。そして、読み出した推定対象データの近傍において、読み出したデフォルト率推定モデルと出力が近似する説明関数を求め、その説明関数の係数を寄与度として抽出する（ステップＳ２）。具体的には、SHAPやLIME等の手法を用いて寄与度を算出する。なお、ここで言う寄与度とは、デフォルト率の推定に寄与する度合いのことである。デフォルト率の増加に寄与する寄与度は正の値で表され、デフォルト率の減少に寄与する寄与度は負の値で表される。算出された寄与度を表すデータは、寄与度データ記憶部６に記憶される。図４は、この寄与度データ記憶部６に記憶される寄与度データの一例を示す図である。同図に示すように、寄与度データは、多数の特徴量項目（その種類は、上記の推定対象データと同じ。）の各々に寄与度を対応付けたデータである。

分類データ記憶部７は、上記の推定対象データの多数の特徴量項目が６つの種類に分類されている分類データを記憶する。ここで言う６つの種類とは、安全性、効率性、生産性、健全性、収益性および売上持続性である。多数の特徴量項目の各々は、これらの６つの種類のうち、その特徴量項目が関連する種類に手動で分類される。図５は、この分類データの一例を示す図である。同図に例示する分類データでは、例えば、「預金合計残高」が「安全性」に分類され、「融資合計金額」が「健全性」に分類され、「経常利益率」が「収益性」に分類されている。

集約部８は、寄与度データ記憶部６から寄与度データを読み出し、分類データ記憶部７から分類データを読み出す。そして、各特徴量項目の寄与度を種類ごとに合計する（ステップＳ３）。その際、集約部８は、正の寄与度と負の寄与度を別々に合計する。種類ごとに合計された寄与度を示すデータは、寄与度集計データ記憶部９に記憶される。図６は、この寄与度集計データ記憶部９に記憶される寄与度集計データの一例を示す図である。同図に示すように、寄与度集計データは、６つの種類の各々に、正の寄与度の合計値と負の寄与度の合計値を対応付けたデータである。

画面生成部１０は、デフォルト率データ記憶部４からデフォルト率データを読み出し、寄与度集計データ記憶部９から寄与度集計データを読み出す。そして、読み出したデータに基づいてデフォルト率表示画面を生成する（ステップＳ４）。図７は、このデフォルト率表示画面の一例を示す図である。同図に示すように、デフォルト率表示画面には、デフォルト率の推定値と、寄与度集計データのレーダーチャートが含まれる。この画面に含まれる表示要素のうち、レーダーチャートを見た利用者は、そのデフォルト率の推定にどのような種類の特徴量が影響したかを理解することができる。特にこのレーダーチャートでは、多数の特徴量の寄与度が６つの種類に集約されているため、多数の特徴量の各々について寄与度が提示される場合と比較して、利用者は、そのデフォルト率が推定された根拠を端的に理解することができる。

画面生成部１０により生成されたデフォルト率表示画面は、デフォルト率推定システムと通信回線で接続される表示装置（図示略）に表示される。

２．変形例
上記の実施形態は以下に記載するように変形してもよい。以下に記載する１以上の変形例は互いに組み合わせてもよい。

２－１．変形例１
画面生成部１０は、上記のデフォルト率表示画面に示されるデフォルト率の推定根拠の理解を助けるために、上記の６つの種類について説明する画面をさらに生成してもよい。この種類説明画面は、例えば、６つの種類の各々について、概要と、正の寄与度の解釈の仕方と、負の寄与度の解釈の仕方を示す画面である。この種類説明画面を見た利用者は、各種類の寄与度が示す意味を理解することができる。

画面生成部１０により生成された種類説明画面は、利用者の要求に応じて上記の表示装置に表示される。

２－２．変形例２
上記のデフォルト率推定システムは、上記のデフォルト率表示画面に示される種類別の寄与度の詳細を表示させるための機能（ドリルダウン機能）を備えてもよい。この機能を備えるデフォルト率推定システムは、寄与度抽出部をさらに備える。この寄与度抽出部は、上記のデフォルト率表示画面においていずれかの種類が利用者により選択されると、寄与度データ記憶部６から寄与度データを読み出し、分類データ記憶部７から分類データを読み出す。そして、各特徴量項目の寄与度のうち、選択された種類に属する特徴量項目の寄与度を、絶対値の大きい方から順に所定数（例えば、５個）抽出する。その際、寄与度抽出部は、正の寄与度と負の寄与度をそれぞれ所定数ずつ抽出する。抽出された寄与度を表すデータは、抽出寄与度データ記憶部に記憶される。

画面生成部１０は、抽出寄与度データ記憶部から抽出寄与度データを読み出し、読み出した抽出寄与度データに基づいてドリルダウン画面を生成する。図８は、このドリルダウン画面の一例を示す図である。同図に例示するドリルダウン画面には、「健全性」という種類に属する特徴量項目の寄与度のうち、上位５項目の寄与度が、正の寄与度と負の寄与度のそれぞれについて示されている。このドリルダウン画面を見た利用者は、「健全性」という種類に属する特徴量項目のうち、デフォルト率の推定に特に影響を与えた特徴量項目を知ることができる。

なお、上記の寄与度抽出部は、寄与度を抽出する際に、絶対値の大きい方から順に所定数抽出しているが、これに代えて、利用者により選択された種類に属する特徴量項目の寄与度であって、予め定められた特徴量項目の寄与度を抽出するようにしてもよい。このように抽出対象の特徴量項目を固定することで、他の企業との間で寄与度を比較することが容易になる。

２－３．変形例３
上記のレーダーチャートにおいて、デフォルト率の推定対象となった企業の寄与度集計データに重ねて、企業の平均の寄与度集計データを描画するようにしてもよい。このように企業の平均の寄与度集計データを重ねて描画することで、利用者は、デフォルト率の推定対象となった企業の寄与度と企業平均の寄与度とを端的に比較することができる。

この比較表示を可能にするために、寄与度推定部５は、複数の企業の各々について寄与度データを生成する。

集約部８は、寄与度推定部５により生成された寄与度データの各々について寄与度集計データを生成する。

統計量算出部は、集約部８により生成された各寄与度集計データに基づいて、種類ごとに寄与度の平均値を算出する。その際、統計量算出部は、正の寄与度の平均値と負の寄与度の平均値を別々に算出する。

画面生成部１０は、デフォルト率データ記憶部４からデフォルト率データを読み出し、寄与度集計データ記憶部９から寄与度集計データを読み出す。加えて、統計量算出部により生成された平均寄与度データを取得する。そして、取得した各データに基づいてデフォルト率表示画面を生成する。図９は、このデフォルト率表示画面の一例を示す図である。同図に示すように、デフォルト率表示画面には、デフォルト率の推定値と、寄与度集計データのレーダーチャートが含まれる。この画面に含まれる表示要素のうち、レーダーチャートには、デフォルト率の推定対象となった企業の寄与度集計データに重ねて、企業の平均の寄与度集計データが描画されている。このレーダーチャートを見た利用者は、デフォルト率の推定対象となった企業の寄与度と企業平均の寄与度とを端的に比較することができる。

なお、上記の統計量算出部により算出される平均値は、あくまで寄与度に基づいて算出される統計量の一例である。この平均値に代えて、分散、中央値、最大値、最小値などのその他の統計量が算出されてもよい。

２－４．変形例４
上記のドリルダウン画面において、デフォルト率の推定対象となった企業の寄与度データと並べて、企業の平均の寄与度データを配置するようにしてもよい。このように企業の平均の寄与度データを並べて配置することで、利用者は、デフォルト率の推定対象となった企業の寄与度と企業平均の寄与度とを端的に比較することができる。

この比較表示を可能にするために、寄与度推定部５は、複数の企業の各々について寄与度データを生成する。

統計量算出部は、寄与度推定部５により生成された各寄与度データに基づいて、特徴量項目ごとに寄与度の平均値を算出する。

上記の寄与度抽出部は、上記の通り、抽出寄与度データを生成して、抽出寄与度データ記憶部に格納する。加えて、統計量算出部により算出された各特徴量項目の寄与度平均値のうち、上記の抽出寄与度データと共通する特徴量項目の寄与度平均値を抽出する。

画面生成部１０は、抽出寄与度データ記憶部から抽出寄与度データを読み出す。加えて、寄与度抽出部により生成された平均寄与度データを取得する。そして、取得した各データに基づいてドリルダウン画面を生成する。図１０は、このドリルダウン画面の一例を示す図である。同図に例示するドリルダウン画面には、「健全性」という種類に属する特徴量項目の寄与度のうち、上位５項目の寄与度が、正の寄与度と負の寄与度のそれぞれについて示されている。加えて、その上位５項目の寄与度の平均値が、正の寄与度と負の寄与度のそれぞれについて示されている。このドリルダウン画面を見た利用者は、デフォルト率の推定対象となった企業の寄与度と企業平均の寄与度とを端的に比較することができる。

なお、上記の統計量算出部により算出される平均値は、あくまで寄与度に基づいて算出される統計量の一例である。この平均値に代えて、分散、中央値、最大値、最小値などのその他の統計量が算出されてもよい。

２－５．変形例５
上記の実施形態では、推定対象データの特徴量項目が６つの種類に分類されているが、この分類方法はあくまで一例である。特徴量項目の分類方法は、利用者のニーズに応じて適宜変更されてよい。

２－６．変形例６
図７に示すデフォルト率表示画面では、寄与度集計データがレーダーチャートとして図示されているが、この図示方法はあくまで一例である。レーダーチャートに代えて、棒チャートや表形式で図示されてもよい。

２－７．変形例７
上記の実施形態は、企業のデフォルト率を推定するためのシステムであるが、この実施形態はあくまで一例である。本発明は、学習済みモデルを用いて、デフォルト率以外の目的変数を推定するためのシステムとして実施されてもよい。

２－８．変形例８
上記の実施形態では、集約部８は、正の寄与度と負の寄与度を別々に合計している。しかし、これに代えて、正と負を区別せずに寄与度を合計するようにしてもよい。その場合、集約部８により生成される寄与度集計データは、６つの種類の各々に１つの寄与度合計値を対応付けたデータとなる。

集約部８は、上記の変形例３においても、正と負を区別せずに寄与度を合計するようにしてもよい。その場合、変形例３に係る統計量算出部は、種類ごとに正の寄与度平均値と負の寄与度平均値を算出することに代えて、種類ごとに１つの寄与度平均値を算出することになる。そのため、この統計量算出部により生成される平均寄与度データは、６つの種類の各々に１つの寄与度平均値を対応付けたデータとなる。

正と負を区別せずに寄与度を合計した場合、変形例３に係る画面生成部１０は、図１１に示すようなデフォルト率表示画面を生成することになる。このデフォルト率表示画面に含まれるレーダーチャートでは、図９に示すレーダーチャートと異なり、デフォルト率の推定対象となった企業と企業群の各々について、種類ごとに１つの寄与度のみが示される。

１…推定対象データ記憶部、２…学習済みモデル記憶部、３…デフォルト率推定部、４…デフォルト率データ記憶部、５…寄与度推定部、６…寄与度データ記憶部、７…分類データ記憶部、８…集約部、９…寄与度集計データ記憶部、１０…画面生成部

Claims (8)

1. 学習済みモデルと、目的変数を出力するために当該学習済みモデルに入力された特徴量データとに基づいて特徴量の項目ごとに推定された寄与度を取得する寄与度取得部と、
   前記特徴量の項目ごとに推定された寄与度を、前記特徴量の項目を分類するための所定の種類ごとに合計する集約部と、
   前記所定の種類ごとに合計された寄与度を示す画面を生成する画面生成部と
   を備える寄与度集約システム。
2. 前記集約部は、正の寄与度と負の寄与度を別々に合計し、
   前記画面生成部は、前記所定の種類ごとに正の寄与度の合計値と負の寄与度の合計値を示す画面を生成することを特徴とする、請求項１に記載の寄与度集約システム。
3. 前記画面において前記所定の種類のうちのいずれかが選択されると、選択された種類に分類される特徴量の項目について推定された寄与度を抽出する寄与度抽出部をさらに備え、
   前記画面生成部は、前記抽出された寄与度を示す画面をさらに生成することを特徴とする、請求項１または２に記載の寄与度集約システム。
4. 前記寄与度抽出部は、前記選択された種類に分類される特徴量の項目について推定された寄与度を、絶対値の大きい方から順に所定数抽出することを特徴とする、請求項３に記載の寄与度集約システム。
5. 前記寄与度取得部は、前記学習済みモデルと、目的変数を出力するために前記学習済みモデルに入力された特徴量データの複数のセットとに基づいて前記特徴量の項目ごとに推定された寄与度の複数のセットをさらに取得し、
   前記集約部はさらに、前記取得された寄与度の複数のセットの各々について、前記所定の種類ごとに合計値を算出し、
   前記寄与度の複数のセットの各々について前記所定の種類ごとに算出された合計値に基づいて、前記所定の種類ごとに統計量を算出する統計量算出部をさらに備え、
   前記画面生成部は、前記所定の種類ごとに合計された寄与度と、前記算出された統計量とを示す画面を生成することを特徴とする、請求項１から４のいずれか１項に記載の寄与度集約システム。
6. 前記寄与度取得部は、前記学習済みモデルと、目的変数を出力するために前記学習済みモデルに入力された特徴量データの複数のセットとに基づいて前記特徴量の項目ごとに推定された寄与度の複数のセットをさらに取得し、
   前記特徴量の項目ごとに推定された寄与度の複数のセットに基づいて、前記特徴量の項目ごとに統計量を算出する統計量算出部をさらに備え、
   前記寄与度抽出部は、前記選択された種類に分類される特徴量の項目について算出された統計量をさらに抽出し、
   前記画面生成部は、前記抽出された寄与度と、前記抽出された統計量とを示す画面をさらに生成することを特徴とする、請求項３または４に記載の寄与度集約システム。
7. 寄与度集約システムにより実行される寄与度集約方法であって、
   学習済みモデルと、目的変数を出力するために当該学習済みモデルに入力された特徴量データとに基づいて特徴量の項目ごとに推定された寄与度を取得するステップと、
   前記特徴量の項目ごとに推定された寄与度を、前記特徴量の項目を分類するための所定の種類ごとに合計するステップと、
   前記所定の種類ごとに合計された寄与度を示す画面を生成するステップと
   を含む寄与度集約方法。
8. コンピュータに、
   学習済みモデルと、目的変数を出力するために当該学習済みモデルに入力された特徴量データとに基づいて特徴量の項目ごとに推定された寄与度を取得するステップと、
   前記特徴量の項目ごとに推定された寄与度を、前記特徴量の項目を分類するための所定の種類ごとに合計するステップと、
   前記所定の種類ごとに合計された寄与度を示す画面を生成するステップと
   を実行させるためのプログラム。

Images