JP7125358B2 - 計算機システム及び入力データに対する予測結果の根拠に関する情報の提示方法 - Google Patents

Description

本発明は、機械学習によって構築されたモデルに基づき予測を行うＡＩの予測結果の根拠を解釈するために有用なデータを提示するシステム及び方法に関する。

近年、医療及び金融等の様々な分野でＡＩを活用した支援システムが提供されている。例えば、医療分野では、ＡＩを活用して、人（対象）の病気の発症率（事象）の予測及び症状の特定等が行われる。また、金融分野では、ＡＩを活用して、与信審査等が行われる。例えば、申込者（対象）の貸し倒れ損失の発生率（事象）の予測が行われる。

病気の発症率の予測等のＡＩが出力する予測結果の精度向上を目的とした技術開発の進展によって、ＡＩのモデル（アルゴリズム）のブラックボックス化が加速している。そのため、ＡＩを利用するユーザが、ＡＩの予測値（予測結果）を信頼することができないという問題が生じている。

そのような背景から、ＡＩを活用したシステムの開発者や運用者に対して、ＡＩの予測結果の根拠を説明したり、動作を検証したりする要請が高まっている。

システムを使用するユーザに対してシステムの信頼性を示す情報を提示する技術として特許文献１及び非特許文献１の技術が知られている。

特許文献１には、「データ分析装置の一つは、機械学習モデルに入力する説明変数のデータを生成し、生成した前記説明変数のデータを前記機械学習モデルに入力して目的変数のデータを得るデータセット生成部と、前記データセット生成部が生成した前記説明変数のデータと前記目的変数のデータとに基づいて、前記説明変数と前記目的変数との関係性を算出するモデル評価部と、を備える。」ことが記載されている。

特許文献２には、「決定木学習アルゴリズムによって説明変数毎の寄与度を算出し、寄与度の高い順に上位から第１の所定数の第１の説明変数群を抽出する」ことが記載されている。

非特許文献１には、評価対象データと比較対象データとから生成された複数の中間評価データと、各摂動データをＡＩに入力して得られた予測値との組を用いて、評価対象データの各特徴量に対するＡＩの予測値への寄与度を算出するための方法が記載されている。

特開２０１８－１４７２８０号公報 特開２０１７－１２３０８８号公報

Lundberg, Scott M., and Su-In Lee. "A unified approach to interpreting model predictions." Advances in Neural Information Processing Systems (pp. 4765-4774). 2017. Lundberg, Scott M., Gabriel G. Erion, and Su-In Lee. "Consistent Individualized Feature Attribution for Tree Ensembles." arXiv preprint arXiv:1802.03888 (2018). Grabisch, Michel. "K-order additive discrete fuzzy measures and their representation." Fuzzy sets and systems 92.2 (1997): 167-189.

特許文献１のデータ分析方法によって算出される説明変数と目的変数との関係性及び非特許文献１によって算出されるデータは説明変数毎の目的変数に対する影響度である。しかし、エンドユーザは、説明変数名とその寄与度が提示されても、その意味するところを理解し、解釈することは困難であり、ユーザの業務知識と照合し、予測結果の真偽を確認できないという問題がある。

特許文献２に記載の技術では、ユーザが持つ業務知識を用いずに、寄与度の高い順に説明変数群が抽出されている。そのため、抽出された説明変数群に対して、ユーザが持つ業務知識の観点からの解釈を与えられないという問題がある。

本発明は、ＡＩが出力した予測結果の根拠をユーザが解釈するために有用な情報を提示するシステム及び方法を提供する。

本願において開示される発明の代表的な一例を示せば以下の通りである。すなわち、計算機システムであって、プロセッサ及び前記プロセッサに接続されるメモリを有する少なくとも一つの計算機を備え、対象の状態を示す複数の特徴量の値を含む入力データに基づいて当該対象の事象の予測を行うためのモデル情報と、前記入力データに含まれる複数の特徴量の各々の値、及び前記入力データに含まれる複数の特徴量の各々の値の、前記特徴量の値の前記入力データに対する予測結果への寄与の大きさを示す第一評価値により定まり、前記入力データに対する予測結果の根拠を解釈するための解釈要因を管理するための解釈要因変換情報と、を保持し、前記解釈要因変換情報は、前記入力データに含まれる複数の特徴量ごとに、前記入力データに含まれる特徴量の値の領域及び前記入力データに含まれる特徴量の第一評価値の領域の組と、前記解釈要因との対応づけを管理するための変換データを格納し、前記プロセッサは、評価すべき前記入力データである評価対象データが入力された場合、前記モデル情報に基づいて前記評価対象データに対する予測結果を算出し、前記評価対象データに含まれる複数の特徴量の各々の第一評価値を算出し、前記評価対象データに含まれる複数の特徴量の各々について、前記解釈要因変換情報に格納される前記変換データを参照して、前記評価対象データに含まれる一つの特徴量の値が含まれる領域及び前記評価対象データに含まれる一つの特徴量の第一評価値が含まれる領域の組に対応づけられている前記解釈要因を特定し、前記特定された解釈要因を提示するための表示情報を生成し、前記表示情報を出力する。

本発明の一形態によれば、ユーザがＡＩから出力された予測結果の根拠を解釈するために有用なデータを提示できる。上記した以外の課題、構成及び効果は、以下の実施例の説明により明らかにされる。

実施例１の計算機システムの構成例を示す図である。 実施例１の計算機のハードウェア構成の一例を示す図である。 実施例１の評価対象データ及び出力データのデータ構造の一例を示す図である。 実施例１の比較対象データ管理情報のデータ構造の一例を示す図である。 実施例１の解釈要因変換情報のデータ構造の一例を示す図である。 実施例１の計算機システムの処理の流れを示す図である。 実施例１の寄与値データのデータ構造の一例を示す図である。 実施例１の解釈情報のデータ構造の一例を示す図である。 実施例１の端末に表示される入力画面の一例を示す図である。 実施例１の端末に表示される入力画面の一例を示す図である。 実施例１の寄与値算出部が実行する寄与値データ生成処理の一例を説明するフローチャートである。 実施例１の中間データのデータ構造の一例を示す図である。 実施例１の中間データのデータ構造の一例を示す図である。 実施例１の中間データのデータ構造の一例を示す図である。 実施例１の中間データのデータ構造の一例を示す図である。 実施例１の中間データのデータ構造の一例を示す図である。 実施例１の解釈要因選択部が実行する解釈情報生成処理の一例を説明するフローチャートである。 実施例１の端末に表示される結果出力画面の一例を示す図である。 実施例２の計算機システムの構成例を示す図である。 実施例２の計算機システムの処理の流れを示す図である。 実施例２の生成用データのデータ構造の一例を示す図である。 実施例２の中間計算データのデータ構造の一例を示す図である。 実施例２の領域分割情報のデータ構造の一例を示す図である。 実施例２の候補解釈要因情報のデータ構造の一例を示す図である。 実施例２の候補変換表のデータ構造の一例を示す図である。 実施例２の端末に表示される設定画面の一例を示す図である。 実施例２の端末に表示される分割条件詳細設定画面の一例を示す図である。 実施例２の端末に表示される確認画面の一例を示す図である。 実施例２の候補解釈要因生成部が実行する処理の一例を説明するフローチャートである。 実施例２の候補解釈要因生成部が実行する処理の一例を説明するフローチャートである。 実施例２の交互作用値リストのデータ構造の一例を示す図である。 実施例２の変換表生成部が実行する処理を説明する処理である。 実施例３の候補解釈要因情報のデータ構造の一例を示す図である。 実施例３の候補解釈要因生成部が実行する処理の一例を説明するフローチャートである。 実施例３の候補解釈要因生成部が実行する処理の一例を説明するフローチャートである。 実施例３の端末に表示される統合条件設定画面の一例を示す図である。 実施例３の端末に表示される統合確認画面の一例を示す図である。

以下、図面を参照して、本発明の幾つかの実施例を説明する。但し、それらの実施例は本発明を実現するための一例に過ぎず、本発明の技術的範囲を限定するものではない。本発明の思想ないし趣旨から逸脱しない範囲で、その具体的構成を変更し得ることは当業者であれば容易に理解される。

以下に説明する発明の構成において、同一又は類似する構成又は機能には同一の符号を付し、重複する説明は省略する。

本明細書等における「第１」、「第２」、「第３」等の表記は、構成要素を識別するために付するものであり、必ずしも、数又は順序を限定するものではない。

図面等において示す各構成の位置、大きさ、形状、及び範囲等は、発明の理解を容易にするため、実際の位置、大きさ、形状、及び範囲等を表していない場合がある。したがって、本発明では、図面等に開示された位置、大きさ、形状、及び範囲等に限定されない。

図１は、実施例１の計算機システムの構成例を示す図である。

計算機システムは、複数の計算機１００－１、１００－２、１００－３、及び端末１０１から構成される。複数の計算機１００－１、１００－２、１００－３、及び端末１０１は、ネットワーク１０２を介して互いに接続される。ネットワーク１０２は、例えば、ＷＡＮ（Ｗｉｄｅ Ａｒｅａ Ｎｅｔｗｏｒｋ）及びＬＡＮ（Ｌｏｃａｌ Ａｒｅａ Ｎｅｔｗｏｒｋ）である。ネットワーク１０２の接続方式は有線及び無線のいずれでもよい。

以下の説明では、計算機１００－１、１００－２、１００－３を区別しない場合、計算機１００と記載する。

端末１０１は、ユーザが操作する計算機である。端末１０１は、例えば、パーソナルコンピュータ、スマートフォン、及びタブレット端末等である。端末１０１は、ユーザの操作に基づいて、ＡＩによる対象の事象の予測に必要な入力データ等を入力する。入力データは複数の特徴量の値から構成される。本明細書の評価対象データ３００（図３を参照）、中間データ１１００（図１１を参照）、及び生成用データ１５００（図１５を参照）は、入力データの一例である。

なお、端末１０１は、プロセッサ、メモリ、ネットワークインタフェース、入力装置、及び出力装置を備える。入力装置は、キーボード、マウス、及びタッチパネル等の装置であり、出力装置は、タッチパネル及びディスプレイ等の装置である。

計算機１００－１は、対象の事象を予測するためのモデル（アルゴリズム）に基づいて、入力データに対する処理を実行し、予測値（予測結果）を出力する。出力される予測値は、例えば、入力データの分類結果及び任意のリスクの発生確率等である。計算機１００－１は予測器１１０を備える。

予測器１１０は、モデルを定義するモデル情報に基づいて入力データに対する処理を実行し、予測値を出力する。モデル情報は、学習データを用いた機械学習等によって生成される。モデル情報には、ニューラルネットワーク又は決定木等に関する情報が格納される。

計算機１００－２は、入力データに含まれる各特徴量の値について、特徴量の値の予測値への寄与の大きさ（影響の大きさ）を表す寄与値（第一評価値）を算出する。計算機１００－２は、寄与値算出部１２０及び比較対象データ選択部１２１を備え、また、比較対象データ管理情報１２２を保持する。

比較対象データ管理情報１２２は、比較対象データ４００（図４参照）を管理するための情報である。ここで、比較対象データ４００は、評価対象データ３００の各特徴量の寄与値を算出する場合に、評価対象データ３００を特徴付けるための基準となるデータである。学習データを比較対象データ４００として設定してもよいし、学習データの最頻値及び平均値等を用いて人為的に生成された比較対象データ４００を設定してもよい。

なお、比較対象データ４００を用いずに評価対象データ３００に含まれる特徴量の寄与値を算出する場合、計算機１００－２は、比較対象データ管理情報１２２を保持していなくてもよい。

寄与値算出部１２０は、評価対象データ３００が比較対象データ４００に比してこのような特徴量の値を持つことが予測値にどのくらい寄与しているかという値を、寄与値として算出する。

比較対象データ選択部１２１は、比較対象データ管理情報１２２から評価対象データ３００に含まれる特徴量の寄与値の算出に用いる比較対象データ４００を選択する。

計算機１００－３は、評価対象データ３００の予測値が出力された根拠を解釈するための情報を出力する。計算機１００－３は、解釈要因選択部１３０及び結果出力部１３１を備え、また、解釈要因変換情報１３２を保持する。

解釈要因変換情報１３２は、評価対象データ３００に含まれる特徴量の値及び寄与値により定まる、解釈要因を管理するための情報である。後述するように、計算機１００－３は、ユーザに対して提示する情報として、解釈要因及びスコアから構成される情報を出力する。ここで、解釈要因は、対象又は対象の事象に則した具体的な要因である。本実施例では、ユーザが理解できる自然言語の情報が解釈要因として設定される。スコアは解釈要因の妥当性を評価するための値である。

解釈要因選択部１３０は、特徴量の値及び寄与値に基づいて解釈要因変換情報１３２を参照することによって該当する解釈要因を特定し、また、解釈要因のスコアを算出する。

結果出力部１３１は、評価対象データ３００の予測値及び解釈要因に関する情報等をユーザに提示するための表示情報を生成し、当該表示情報を端末１０１に送信する。

なお、計算機１００－１、１００－２、１００－３のいずれかは、端末１０１からの要求及びデータ等を受け付けるためのＡＰＩ（Ａｐｐｌｉｃａｔｉｏｎ Ｐｒｏｇｒａｍｍｉｎｇ Ｉｎｔｅｒｆａｃｅ）を提供する操作受付部を有する。

ここで、計算機１００のハードウェア構成について説明する。図２は、実施例１の計算機１００のハードウェア構成の一例を示す図である。

計算機１００は、プロセッサ２０１、主記憶装置２０２、副記憶装置２０３、ネットワークインタフェース２０４、入力装置２０５、及び出力装置２０６を有する。各ハードウェアは内部バスを介して互いに接続される。なお、計算機１００は、副記憶装置２０３、入力装置２０５、及び出力装置２０６のいずれかを有していなくてもよい。

プロセッサ２０１は、主記憶装置２０２に格納されるプログラムを実行する。プロセッサ２０１がプログラムにしたがって処理を実行することによって、寄与値算出部１２０等、特定の機能を実現する機能部（モジュール）として動作する。以下の説明では、機能部を主語に処理を説明する場合、プロセッサ２０１が当該機能部を実現するプログラムを実行していることを示す。

主記憶装置２０２は、プロセッサ２０１が実行するプログラム及び当該プログラムが使用する情報を格納する。また、主記憶装置２０２は、プログラムが一時的に使用するワークエリアを含む。

計算機１００－１の主記憶装置２０２には、予測器１１０を実現するためのプログラム及びモデル情報が格納される。計算機１００－２の主記憶装置２０２には、寄与値算出部１２０及び比較対象データ選択部１２１を実現するためのプログラムが格納される。計算機１００－３の主記憶装置２０２には解釈要因選択部１３０及び結果出力部１３１を実現するためのプログラムが格納される。また、いずれかの計算機１００－１、１００－２、１００－３の主記憶装置２０２には、操作受付部を実現するためのプログラムが格納される。

副記憶装置２０３は、ＨＤＤ（Ｈａｒｄ Ｄｉｓｋ Ｄｒｉｖｅ）及びＳＳＤ（Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）等、データを永続的に格納する。

計算機１００－２の副記憶装置２０３は、比較対象データ管理情報１２２を格納する。計算機１００－３の副記憶装置２０３は、解釈要因変換情報１３２を格納する。

なお、各計算機１００が有する各機能部については、複数の機能部を一つの機能部にまとめてもよいし、一つの機能部を機能毎に複数の機能部に分けてもよい。また、各機能部は、一つ計算機１００に集約してもよい。

図３は、実施例１の評価対象データ及び出力データのデータ構造の一例を示す図である。

予測器１１０は、モデル情報に基づいて、ＩＤ３０１及び特徴量３０２から構成される評価対象データ３００を処理し、予測結果として、ＩＤ３１１及び出力値３１２から構成される出力データ３１０を出力する。

図３に示す例では、評価対象データ３００－１から出力データ３１０－１が出力され、評価対象データ３００－２から出力データ３１０－２が出力され、評価対象データ３００－Ｍから出力データ３１０－Ｍが出力される。

ＩＤ３０１は、評価対象データ３００の識別情報を格納するフィールドである。実施例１のＩＤ３０１には番号が格納される。

特徴量３０２は、評価対象データ３００に含まれる特徴量の値を格納するフィールド群である。特徴量は、例えば、性別、年齢、年収、及び預金額等である。性別に対応する特徴量のフィールドには「男」及び「女」のいずれかが格納され、年齢に対応する特徴量のフィールドには数値が格納される。

ＩＤ３１１は、出力データ３１０の識別情報を格納するフィールドである。なお、ＩＤ３１１にはＩＤ３０１と同一の値が設定されるものとする。出力値３１２は、予測器１１０が出力した予測値を格納するフィールドである。

図４は、実施例１の比較対象データ管理情報１２２のデータ構造の一例を示す図である。

比較対象データ管理情報１２２は、ＩＤ４０１及び特徴量４０２から構成されるエントリ４００を格納する。一つのエントリ４００が一つの比較対象データに対応する。以下の説明では、エントリ４００を比較対象データ４００とも記載する。

ＩＤ４０１は、比較対象データ４００の識別情報を格納するフィールドである。実施例１のＩＤ４０１には番号が格納される。ＩＤ４０１に格納される番号は、ＩＤ３０１及びＩＤ３１１に格納される番号とは関連がない。

特徴量４０２は、比較対象データ４００に含まれる特徴量の値を格納するフィールド群である。特徴量４０２に含まれる特徴量は、特徴量３０２に含まれる特徴量と同一である。

図５は、実施例１の解釈要因変換情報１３２のデータ構造の一例を示す図である。

解釈要因変換情報１３２は、入力データに含まれる特徴量の値及び寄与値の組を要素とする集合と、解釈要因とを対応づけた情報である。実施例１の解釈要因変換情報１３２は各特徴量の識別情報と対応づけた変換表５００を格納する。

変換表５００は、特徴量の値の領域を行成分とし、また、特徴量の寄与値の領域を列成分とする行列形式のデータである。変換表５００は、一つの組を要素とする集合を検索キーとして、解釈要因を特定するための情報である。

変換表５００の少なくとも一つのセルには、解釈要因データ５１０が格納される。なお、セルには二つ以上の解釈要因データ５１０が格納されてもよい。解釈要因データ５１０は、解釈要因５１１及び重み５１２から構成される。

解釈要因５１１は、自然言語の情報である。複数の変換表５００に同一の解釈要因５１１を含む解釈要因データ５１０を設定することによって、各特徴量の値及び寄与値により定まる評価対象データ３００が一般的にどのような意味を持つかという、解釈上の抽象化が可能となる。

重み５１２は、解釈要因に該当する妥当性の強さを表す値である。後述するように、重み５１２を用いて解釈要因のスコアが算出される。なお、全ての変換表５００の全ての重み５１２を同一の設定することによって、重み（スコア）を考慮しない構成としてもよい。

なお、解釈要因変換情報１３２は、特徴量の値及び寄与値に基づいて、解釈要因を特定できる情報であればよい。例えば、変換表５００の代わりに、複数の組を要素とする集合と、解釈要因とを対応づけたデータが格納されるテーブル形式のデータもよい。

なお、実施例１では、解釈要因変換情報１３２は予め設定されているものとする。解釈要因変換情報１３２の生成方法については実施例２で説明する。

図６は、実施例１の計算機システムの処理の流れを示す図である。図中の矢印はデータの流れを示す。図７は、実施例１の寄与値データ６００のデータ構造の一例を示す図である。図８は、実施例１の解釈情報６１０のデータ構造の一例を示す図である。図９Ａ及び図９Ｂは、実施例１の端末１０１に表示される入力画面９００の一例を示す図である。

まず、計算機システムが実行する処理において扱われるデータ及び情報のデータ構造について説明する。

寄与値データ６００は、ＩＤ７０１及び寄与値７０２から構成される。

ＩＤ７０１は、寄与値データ６００の識別情報を格納するフィールドである。ＩＤ７０１には、評価対象データ３００のＩＤ３０１と同一の値が設定される。

寄与値７０２は、評価対象データ３００に含まれる複数の特徴量の各々の寄与値を格納するフィールド群である。後述するように、公知の算出方法を用いて寄与値が算出される。なお、本発明は寄与値の算出方法に限定されない。

解釈情報６１０は、解釈要因８０１及びスコア８０２から構成されるエントリを含む。一つのエントリは一つの解釈要因に対応する。

解釈要因８０１は、解釈要因変換情報１３２に基づいて特定された解釈要因を格納するフィールドである。スコア８０２は、スコアを格納するフィールドである。

次に、計算機システムの処理の流れについて説明する。まず、操作受付部は、端末１０１に入力画面９００を提示する。ここで、入力画面９００について説明する。

入力画面９００は、操作受付部によって提示される画面であり、端末１０１に表示される。入力画面９００は、評価対象データ設定欄９０１、比較対象データ設定欄９０２、解釈要因情報設定欄９０３、確認ボタン９０４、及び実行ボタン９０５を含む。

評価対象データ設定欄９０１は、評価対象データ３００を指定するための欄である。比較対象データ設定欄９０２は、比較対象データ４００を指定する欄である。解釈要因情報設定欄９０３は、解釈要因変換情報１３２を指定する欄である。

確認ボタン９０４は、解釈要因情報設定欄９０３で指定された解釈要因変換情報１３２に格納される変換表５００を確認するための操作ボタンである。確認ボタン９０４が操作された場合、入力画面９００には変換表確認欄９０６が表示される。変換表確認欄９０６は、特徴量選択欄９０７を含む。

特徴量選択欄９０７は、特徴量を選択するための欄である。変換表確認欄９０６には、特徴量選択欄９０７に設定された特徴量に対応する変換表５００が表示される。

なお、変換表確認欄９０６には、解釈要因データ５１０が格納されるセルのみが表示されるようにしてもよい。なお、変換表確認欄９０６に、全ての変換表５００を表示する構成でもよい。この場合、変換表確認欄９０６には特徴量選択欄９０７は含まれない。

実行ボタン９０５は、評価対象データ３００の解釈情報６１０の生成を指示するためのボタンである。実行ボタン９０５が操作された場合、端末１０１は、ユーザによって指定された評価対象データ３００、比較対象データ４００、及び解釈要因変換情報１３２に関する情報を含む解釈情報出力要求を送信する。

なお、比較対象データ４００が、過去に入力された評価対象データ３００の平均値及び最頻値等の統計量から生成される場合、又は、ランダムに生成される場合、入力画面９００は、比較対象データ設定欄９０２を含まなくてもよい。

以上が、入力画面９００の説明である。図６の説明に戻る。

操作受付部は、解釈情報出力要求を受け付けた場合、計算機１００－１に予測値の算出指示を出力し、計算機１００－２に評価対象データ３００の寄与値の算出指示を出力する。予測値の算出指示には評価対象データ３００の指定情報が含まれ、寄与値の算出指示には比較対象データ４００の指定情報が含まれる。また、操作受付部は、計算機１００－３に解釈情報６１０の生成指示を出力する。解釈情報６１０の生成指示には評価対象データ３００の指定情報が含まれる。

計算機１００－１の予測器１１０は、モデル情報に基づいて評価対象データ３００を処理することによって、出力データ３１０を生成する。予測器１１０は、出力データ３１０を計算機１００－３に出力する。

計算機１００－２の寄与値算出部１２０は、比較対象データ選択部１２１に比較対象データ４００の選択指示を送信する。比較対象データ４００の選択指示には、比較対象データ４００の指定情報が含まれる。計算機１００－２の比較対象データ選択部１２１は、比較対象データ４００の選択指示を受信した場合、比較対象データ４００の指定情報に基づいて、比較対象データ管理情報１２２から使用する比較対象データ４００を取得する。また、比較対象データ選択部１２１は、寄与値算出部１２０に取得した比較対象データ４００を出力する。

寄与値算出部１２０は、比較対象データ４００を受信した場合、評価対象データ３００及び比較対象データ４００に基づいて、評価対象データ３００の各特徴量の寄与値を算出し、寄与値データ６００を生成する。寄与値算出部１２０は、寄与値データ６００を計算機１００－３に出力する。

計算機１００－３の解釈要因選択部１３０は、出力データ３１０及び寄与値データ６００と、解釈情報６１０の生成指示とを受信した場合、評価対象データ３００及び寄与値データ６００に基づいて解釈要因変換情報１３２に格納された変換表５００を参照することによって、解釈情報６１０を生成する。解釈要因選択部１３０は、評価対象データ３００、出力データ３１０、寄与値データ６００、及び解釈情報６１０等を結果出力部１３１に出力する。

計算機１００－３の結果出力部１３１は、評価対象データ３００、出力データ３１０、寄与値データ６００、及び解釈情報６１０等をユーザに提示するための表示情報６２０を生成する。結果出力部１３１は、当該表示情報６２０を操作受付部に出力する。操作受付部は、表示情報６２０を端末１０１に送信する。

図６では、予測値及び解釈情報６１０の提示が一連の処理で行われる。しかし、予測値の提示及び解釈情報６１０の提示を別々の処理として行ってもよい。この場合、入力画面９００は、評価対象データ設定欄９０１、比較対象データ設定欄９０２、及び予測実行ボタンから構成される欄と、解釈要因情報設定欄９０３、確認ボタン９０４、及び解釈実行ボタンから構成される欄とに分ければよい。

次に、計算機システムにおいて実行される処理の詳細について説明する。まず、寄与値データ６００の生成処理について説明する。

実施例１では、非特許文献１に記載の算出方法を用いて寄与値が算出される。ここで、寄与値の算出方法の概要について説明する。図１０は、実施例１の寄与値算出部１２０が実行する寄与値データ生成処理の一例を説明するフローチャートである。図１１Ａ、図１１Ｂ、図１１Ｃ、図１１Ｄ、及び図１１Ｅは、実施例１の中間データ１１００のデータ構造の一例を示す図である。

寄与値算出部１２０は、特徴量の部分集合を生成する（ステップＳ１０１）。なお、特徴量の部分集合には空集合も含まれる。

次に、寄与値算出部１２０は、特徴量の部分集合のループ処理を開始する（ステップＳ１０２）。

具体的には、寄与値算出部１２０は、未処理の部分集合の中から一つの部分集合を選択する。なお、寄与値算出部１２０は初期値として空集合を選択する。

次に、寄与値算出部１２０は、評価対象データ３００、比較対象データ４００、及び部分集合Ｋに基づいて中間データ１１００を生成し、生成された中間データ１１００を予測器１１０に出力する（ステップＳ１０３）。寄与値算出部１２０は、予測器１１０から出力データ３１０が出力されるまで待ち状態に移行する。

具体的には、寄与値算出部１２０は、部分集合に含まれる特徴量には評価対象データ３００の特徴量の値を設定し、部分集合に含まれない特徴量には比較対象データ４００の特徴量の値を設定することによって、中間データ１１００を生成する。

例えば、評価対象データ３００－１及びＩＤ４０１が「１」の比較対象データ４００を用いた場合、図１１Ａ、図１１Ｂ、図１１Ｃ、図１１Ｄ、及び図１１Ｅに示すような中間データ１１００が生成される。

空集合が選択された場合、図１１Ａに示す中間データ１１００－１が生成される。「性別」を要素とする部分集合が選択された場合、図１１Ｂに示す中間データ１１００－２が生成される。「年齢」を要素とする部分集合が選択された場合、図１１Ｃに示す中間データ１１００－３が生成される。「性別」及び「年齢」を要素とする部分集合が選択された場合、図１１Ｄに示す中間データ１１００－４が生成される。全ての特徴量を要素とする部分集合が選択された場合、図１１Ｅに示す中間データ１１００－５が生成される。

予測器１１０は、中間データ１１００を受け付けた場合、モデル情報に基づいて中間データ１１００を処理することによって、出力データ３１０を生成する。予測器１１０は、出力データ３１０を寄与値算出部１２０に出力する。

寄与値算出部１２０は、予測器１１０から出力された出力データ３１０を中間出力データとして取得し（ステップＳ１０４）、部分集合、中間データ１１００、及び中間出力データの組をワークエリアに格納する（ステップＳ１０５）。

次に、寄与値算出部１２０は、全ての部分集合について処理が完了したか否かを判定する（ステップＳ１０６）。

全ての部分集合について処理が完了していないと判定された場合、寄与値算出部１２０は、ステップＳ１０２に戻り、新たな部分集合を選択する。

全ての部分集合について処理が完了したと判定された場合、寄与値算出部１２０は、中間出力データを用いて評価対象データ３００の各特徴量の寄与値を算出し、算出された寄与値から寄与値データ６００を生成する（ステップＳ１０７）。その後、寄与値算出部１２０は寄与値データ生成処理を終了する。具体的には、以下のような処理が実行される。

（処理Ａ１）寄与値算出部１２０は、評価対象データ３００に含まれる特徴量の中からターゲット特徴量を選択する。

（処理Ａ２）寄与値算出部１２０は、ターゲット特徴量を要素として含む部分集合に対応する中間出力データと、ターゲット特徴量を要素として含まない部分集合に対応する中間出力データとの差を、ターゲット特徴量以外の特徴量の集合の組合せについて任意の重みを乗算し、足し合わせる。

例えば、部分集合の要素数及び全特徴量の数の差を重みとして用いることができる。部分集合の要素数から１を減算した値の階乗と、全特徴量の数及び部分集合の要素数の差の階乗とを乗じた値を、全特徴量の数の階乗で除算した値を重みとして用いることができる。

図１２は、実施例１の解釈要因選択部１３０が実行する解釈情報生成処理の一例を説明するフローチャートである。

解釈要因選択部１３０は、解釈要因変換情報１３２を参照し、解釈要因変換情報１３２に設定される解釈要因のリストを生成する（ステップＳ２０１）。

具体的には、解釈要因選択部１３０は、解釈要因及びスコアから構成されるエントリを含むリストを生成する。全ての解釈要因のスコアの初期値には「０」が設定される。

次に、解釈要因選択部１３０は、特徴量のループ処理を開始する（ステップＳ２０２）。

具体的には、解釈要因選択部１３０は、未処理の特徴量の中から一つの特徴量を、ターゲット特徴量として選択する。

次に、解釈要因選択部１３０は、解釈要因変換情報１３２からターゲット特徴量の変換表５００を取得する（ステップＳ２０３）。

次に、解釈要因選択部１３０は、評価対象データ３００に含まれるターゲット特徴量の値及び寄与値に基づいて、変換表５００のセルを特定する（ステップＳ２０４）。

具体的には、解釈要因選択部１３０は、ターゲット特徴量の値が含まれる領域に対応する列を特定し、ターゲット特徴量の寄与値が含まれる領域に対応する行を特定する。

次に、解釈要因選択部１３０は、特定されたセルに解釈要因データ５１０が存在するか否かを判定する（ステップＳ２０５）。

特定されたセルに解釈要因データ５１０が存在しないと判定された場合、解釈要因選択部１３０はステップＳ２０７に進む。

特定されたセルに解釈要因データ５１０が存在すると判定された場合、解釈要因選択部１３０は、解釈要因データ５１０に対応する解釈要因のスコアを更新する（ステップＳ２０６）。その後、解釈要因選択部１３０はステップＳ２０７に進む。

具体的には、解釈要因選択部１３０は、リストを参照して、解釈要因データ５１０の解釈要因５１１に対応するエントリ検索し、検索されたエントリのスコアに重み５１２の値を加算する。

ステップＳ２０７では、解釈要因選択部１３０は、全ての特徴量について処理が完了したか否かを判定する（ステップＳ２０７）。

全ての特徴量について処理が完了していないと判定された場合、解釈要因選択部１３０は、ステップＳ２０２に戻り、新たな特徴量を選択する。

全ての特徴量について処理が完了したと判定された場合、解釈要因選択部１３０は、リストに基づいて解釈情報６１０を生成する（ステップＳ２０８）。その後、解釈要因選択部１３０は解釈情報生成処理を終了する。

例えば、解釈要因選択部１３０は、リストをそのまま解釈情報６１０として生成する。また、解釈要因選択部１３０は、スコアが閾値より大きいエントリのみを選択し、選択されたエントリから解釈情報６１０を生成してもよい。また、解釈要因選択部１３０は、スコアが大きい順に任意の数のエントリを選択し、選択されたエントリから解釈情報６１０を生成してもよい。

図１３は、実施例１の端末１０１に表示される結果出力画面１３００の一例を示す図である。

操作受付部は、表示情報６２０に基づいて、端末１０１に結果出力画面１３００を提示する。結果出力画面１３００は、予測値表示欄１３０１及び解釈要因表示欄１３０２を含む。

予測値表示欄１３０１は、評価対象データ３００の予測値を表示する欄である。解釈要因表示欄１３０２は、解釈要因を表示する欄である。解釈要因表示欄１３０２には、解釈情報６１０の各エントリの解釈要因８０１に対応するスコア８０２が棒グラフとして表示される。

結果出力部１３１は、スコア８０２の値が閾値より大きいエントリを解釈要因表示欄１３０２に表示するための表示情報６２０を生成してもよい。また、結果出力部１３１は、スコア８０２の値が大きい順に任意の数のエントリを選択し、選択されたエントリを解釈要因表示欄１３０２に表示するための表示情報６２０を生成してもよい。

以上で説明したように、実施例１によれば、計算機システムは、評価対象データ３００の予測値（予測結果）とともに、予測値の根拠を理解するために有用な情報として解釈要因をユーザに提示することができる。また、計算機システムは、解釈要因とともにスコアを提示できる。

評価対象データ３００がどのような特性及び意味を持つかという解釈上の抽象化が行われることによって、ユーザは、一定の納得感を持って予測根拠を解釈できる。また、ユーザは、解釈要因毎の妥当性を定量的に評価することができる。

実施例２では、変換表５００の生成方法について説明する。以下、実施例１との差異を中心に実施例２について説明する。

図１４は、実施例２の計算機システムの構成例を示す図である。

実施例２の計算機システムの構成は実施例１と同一である。実施例２の計算機１００のハードウェア構成は実施例１と同一である。実施例２の計算機１００－１、１００－３のソフトウェア構成は実施例１と同一である。実施例２では、計算機１００－２のソフトウェア構成が異なる。

計算機１００－２は、新たに、変換情報生成部１４００を備え、また、中間計算データ管理情報１４１０を保持する。変換情報生成部１４００は、候補解釈要因生成部１４０１及び変換表生成部１４０２を含む。

図１５は、実施例２の計算機システムの処理の流れを示す図である。図中の矢印はデータの流れを示す。図１６は、実施例２の生成用データ１５００のデータ構造の一例を示す図である。図１７は、実施例２の中間計算データ１５１０のデータ構造の一例を示す図である。図１８は、実施例２の領域分割情報１５２０のデータ構造の一例を示す図である。図１９は、実施例２の候補解釈要因情報１５３０のデータ構造の一例を示す図である。図２０は、実施例２の候補変換表１５４０のデータ構造の一例を示す図である。図２１は、実施例２の端末１０１に表示される設定画面２１００の一例を示す図である。図２２は、実施例２の端末１０１に表示される分割条件詳細設定画面２２００の一例を示す図である。図２３は、実施例２の端末１０１に表示される確認画面２３００の一例を示す図である。

まず、計算機システムが実行する処理において扱われるデータ及び情報のデータ構造について説明する。

生成用データ１５００は、評価対象データ３００と同一のデータ構造であり、ＩＤ１６０１及び特徴量１６０２から構成される。ＩＤ１６０１は、生成用データ１５００の識別情報を格納するフィールドである。実施例２のＩＤ１６０１には番号が格納される。特徴量１６０２は特徴量３０２と同一のフィールドである。

中間計算データ１５１０は、ＩＤ１７０１、参照ＩＤ１７０２、部分集合１７０３、特徴量１７０４、及び出力値１７０５から構成される。

ＩＤ１７０１は、中間計算データ１５１０の識別情報を格納するフィールドである。なお、ＩＤ１７０１には中間データ１１００と同一の識別情報が設定されるものとする。本実施例では、生成用データ１５００及び比較対象データ４００に基づいて、中間データ１１００が生成される。

参照ＩＤ１７０２は、中間データ１１００の生成時に用いた生成用データ１５００の識別情報を格納するフィールドである。参照ＩＤ１７０２にはＩＤ１６０１と同一の値が格納される。

部分集合１７０３は、中間データ１１００の生成時に、生成用データ１５００の特徴量の値が設定された特徴量の組合せを格納するフィールドである。部分集合１７０３が空集合の場合、中間データ１１００は比較対象データ４００に一致する。一方、部分集合１７０３に全ての特徴量が設定されている場合、中間データ１１００は生成用データ１５００に一致する。

特徴量１７０４は、中間データ１１００を構成する特徴量の値を格納するフィールド群である。出力値１７０５は、中間データ１１００を入力した予測器１１０が出力した値を格納するフィールドである。

領域分割情報１５２０は、特徴量１８０１、分割領域（値）１８０２、及び分割領域（寄与値）１８０３から構成されるエントリを格納する。一つのエントリが一つの特徴量に対応する。

特徴量１８０１は、特徴量の識別情報を格納するフィールドである。特徴量１８０１は、エントリの識別情報としても用いられる。

分割領域（値）１８０２は、特徴量の値の値域を分割することによって生成された領域に関する情報を格納するフィールドである。分割領域（値）１８０２には、領域の識別情報と、値の範囲又は値の種別とが対応づけられたデータが、領域の数だけ格納される。

分割領域（寄与値）１８０３は、特徴量の寄与値の値域を分割することによって生成された領域に関する情報を格納するフィールドである。分割領域（寄与値）１８０３には、領域の識別情報と、寄与値の範囲とが対応づけられたデータが、領域の数だけ格納される。

候補解釈要因情報１５３０は、ＩＤ１９０１、特徴量１９０２、領域（値）１９０３、領域（寄与値）１９０４、重み１９０５、第一データ数１９０６、第二データ数１９０７、交互作用値１９０８、及び解釈要因１９０９から構成されるエントリを格納する。一つのエントリが一つの候補解釈要因に対応する。

ＩＤ１９０１は、候補解釈要因の識別情報を格納するフィールドである。ＩＤ１９０１は解釈要因ＩＤ２００１に対応する。

特徴量１９０２、領域（値）１９０３、及び領域（寄与値）１９０４は、候補解釈要因の分類基準を示す情報を格納するフィールドである。

特徴量１９０２は、候補解釈要因の分類基準となる特徴量の識別情報を格納するフィールドである。一つのエントリには一つ以上の特徴量が設定される。

領域（値）１９０３は、特徴量１９０２に対応する特徴量の値の領域を格納するフィールドである。領域（寄与値）１９０４は、特徴量１９０２に対応する特徴量の寄与値の領域を格納するフィールドである。

特徴量１９０２に対応する特徴量の値が領域（値）１９０３に含まれ、かつ、特徴量１９０２に対応する特徴量の寄与値が領域（寄与値）１９０４に含まれる生成用データ１５００は、エントリに対応する候補解釈要因に該当するデータとして分類される。

重み１９０５は、候補解釈要因に該当する妥当性の強さを表す値である重みを格納するフィールドである。なお、重みを考慮しない場合、重み１９０５は含まれなくてもよい。

第一データ数１９０６は、エントリに設定された分類基準を満たす生成用データ１５００の数、すなわち、エントリに対応する候補解釈要因に該当する生成用データ１５００の数を格納するフィールドである。なお、第一データ数１９０６には、生成用データ１５００の総数に対する、候補解釈要因に該当する生成用データ１５００の数の比が格納されてもよい。

第二データ数１９０７は、エントリに対応する候補解釈要因にのみ該当する生成用データ１５００の数を格納するフィールドである。なお、第二データ数１９０７には、生成用データ１５００の総数に対する、候補解釈要因にのみ該当する生成用データ１５００の数の比が格納されてもよい。

交互作用値１９０８は、候補解釈要因に該当する生成用データ１５００における特徴量１９０２の集合の交互作用値を格納するフィールドである。交互作用値１９０８には、生成用データ１５００の識別情報及び交互作用値の組が第一データ数１９０６の数だけ格納される。

ここで、交互作用値（第二評価値）は、生成用データ１５００の出力値に対応する、特徴量の値の集合の寄与の大きさを表す値である。交互作用値は、非特許文献２及び非特許文献３に記載の方法を用いることによって算出できる。生成用データ１５００が比較対象データ４００に比してどのような特徴量の組の値を有しており、そのことが出力値にどのくらい寄与しているかという値が、交互作用値として算出される。

解釈要因１９０９は、候補解釈要因に対して設定された解釈要因（自然言語の情報）を格納するフィールドである。候補解釈要因情報１５３０が生成された時点では、各エントリの解釈要因１９０９は空欄である。解釈要因１９０９への値の設定はユーザによって行われる。

候補変換表１５４０は、変換表５００と同一のデータ形式である。候補変換表１５４０の少なくとも一つのセルには、候補解釈要因データ２０００が格納される。なお、セルには二つ以上の候補解釈要因データ２０００が格納されてもよい。

候補解釈要因データ２０００は、解釈要因ＩＤ２００１及び重み２００２から構成される。解釈要因ＩＤ２００１は、候補解釈要因の識別情報である。重み２００２は重み５１２と同一のものである。

次に、計算機システムの処理の流れについて説明する。まず、操作受付部は、端末１０１に設定画面２１００を提示する。ここで、設定画面２１００及び分割条件詳細設定画面２２００について説明する。

設定画面２１００は、操作受付部によって提示される画面であり、端末１０１に表示される。設定画面２１００は、データセット設定欄２１０１、生成条件設定欄２１０２、採用条件設定欄２１０３、分割条件設定欄２１０４、及び実行ボタン２１０５を含む。

データセット設定欄２１０１は、処理に用いるデータを指定するための欄である。データセット設定欄２１０１に設定された値はデータセット情報として出力される。データセット設定欄２１０１は、生成用データ設定欄２１１１及び比較対象データ設定欄２１１２を含む。

生成用データ設定欄２１１１は、使用する生成用データ１５００を指定する欄である。比較対象データ設定欄２１１２は、比較対象データ４００を指定する欄である。

なお、比較対象データ４００が、過去に入力された評価対象データ３００の平均値及び最頻値等の統計量から生成される場合、又は、ランダムに生成される場合、比較対象データ設定欄１６１２は含まれなくてもよい。

生成条件設定欄２１０２は、候補解釈要因の生成に関する制約を定義する生成条件を設定するための欄である。生成条件設定欄２１０２に設定された値は生成条件情報として出力される。生成条件設定欄２１０２は、ラジオボタン２１２１及びチェック欄２１２２、２１２３、２１２４、２１２５、２１２６を含む。

ラジオボタン２１２１は、生成条件を設定しない場合に選択されるボタンである。この場合、チェック欄２１２２、２１２３、２１２４、２１２５、２１２６への入力は無効化される。

チェック欄２１２２は、候補解釈要因の数の上限値を設定する場合に操作する欄である。ユーザは、チェック欄２１２２が操作し、１以上の値を設定する。

チェック欄２１２３は、変換表５００を生成する処理の計算時間の上限値を設定する場合に操作する欄である。ユーザは、チェック欄２１２３を操作し、０以上の値を設定する。なお、特定の処理に対して計算時間の上限値を設定できるように構成されてもよい。

チェック欄２１２４は、一つの解釈要因の分類基準として含める特徴量の数の上限値を設定する場合に操作する欄である。ユーザは、チェック欄２１２４を操作し、１以上の値を設定する。

チェック欄２１２５は、一つの解釈要因の分類基準として含める特徴量の数の下限値を設定する場合に操作する欄である。ユーザは、チェック欄２１２５を操作し、１以上の値を設定する。

チェック欄２１２６は、候補解釈要因に該当する生成用データ１５００の数の下限値を設定する場合に操作する欄である。ユーザは、チェック欄２１２６を操作し、１以上の値を設定する。

採用条件設定欄２１０３は、交互作用値に基づく解釈要因の採用条件を設定するための欄である。採用条件設定欄２１０３に設定された値は採用条件情報として出力される。採用条件設定欄２１０３は、ラジオボタン２１３１、２１３２、２１３３を含む。

ラジオボタン２１３１は、予め設定された採用条件を使用する場合に操作するラジオボタンである。本実施例では、生成条件を満たす範囲内で交互作用値が大きい順に候補解釈要因が決定される。

ラジオボタン２１３２は、交互作用値及び予測値の比に基づく採用条件を使用する場合に操作するラジオボタンである。ユーザは、ラジオボタン２１３２を操作し、０以上の値を設定する。

ラジオボタン２１３３は、有意水準に基づく採用条件を使用する場合に操作するラジオボタンである。ユーザは、ラジオボタン２１３２を操作し、０より大きく１より小さい値を設定する。なお、ラジオボタン２１３３には、ｐ値等の他の仮説検定の方法で用いられる値が設定されてもよい。

分割条件設定欄２１０４は、特徴量の値及び寄与値の値域の分割条件を設定するための欄である。分割条件設定欄２１０４に設定された値は分割条件情報として出力される。分割条件設定欄２１０４は、値分割条件欄２１４０、寄与値分割条件欄２１５０、及び詳細設定ボタン２１６０を含む。

値分割条件欄２１４０は、特徴量の値の値域の分割条件を設定するための欄であり、ラジオボタン２１４１、２１４２、２１４３を含む。

ラジオボタン２１４１は、値の値域を等分する場合に操作するラジオボタンである。ユーザは、ラジオボタン２１４１を操作し、１以上の値を分割数として設定する。

ラジオボタン２１４２は、中央値、平均値、及び最頻値等の統計量を基準に値の値域を２等分する場合に操作するラジオボタンである。ユーザは、ラジオボタン２１４２を操作し、基準となる統計量を設定する。なお、特徴量が量的変数又はカテゴリカル変数の違いによって、異なる値を設定できるようにしてもよい。

ラジオボタン２１４３は、領域に含まれる生成用データ１５００の数を基準に値の値域を等分する場合に操作するラジオボタンである。ユーザは、ラジオボタン２１４３を操作し、１以上の値を分割数として設定する。

寄与値分割条件欄２１５０は、特徴量の寄与値の値域の分割条件を設定するための欄であり、ラジオボタン２１５１、２１５２、２１５３を含む。ラジオボタン２１５１、２１５２、２１５３は、ラジオボタン２１４１、２１４２、２１４３と同様のものである。

詳細設定ボタン２１６０は、特徴量毎に分割条件を設定する場合に操作するボタンである。ユーザが詳細設定ボタン２１６０を操作した場合、分割条件詳細設定画面２２００が表示される。分割条件詳細設定画面２２００の詳細は後述する。

なお、予め分割条件情報が設定されている場合、設定画面２１００には分割条件設定欄２１０４が含まれていなくてよい。また、値分割条件欄２１４０は、いずれかのラジオボタン２１４１、２１４２、２１４３に対応する分割条件を自動的に設定するためのラジオボタンを設けてもよい。

実行ボタン２１０５は、変換表５００の生成を指示するためのボタンである。実行ボタン２１０５が操作された場合、端末１０１は、データセット情報、生成条件情報、採用条件情報、及び分割条件情報を含む変換表５００の生成要求を送信する。

なお、設定画面２１００は、各欄の値を初期条件情報として計算機１００－２に登録するための操作ボタンを含んでもよい。また、設定画面２１００は、各欄の値を初期化するための操作ボタンを含んでもよい。

以上が、設定画面２１００の説明である。次に、分割条件詳細設定画面２２００について説明する。

分割条件詳細設定画面２２００は、特徴量確認欄２２０１、分割条件設定欄２２０２、戻るボタン２２０３、量的変数反映ボタン２２０４、及び反映ボタン２２０５を含む。

特徴量確認欄２２０１は、生成用データ１５００の特徴量に関する情報を表示する欄である。特徴量確認欄２２０１には、表示欄２２１０及び選択ボタン２２１１を含む。

表示欄２２１０は、任意の特徴量に関する生成用データ１５００の分布に関する情報を表示する欄である。本実施例の表示欄２２１０には分布グラフ２２２０が表示される。

分布グラフ２２２０は、特徴量の値及び寄与値を軸とする生成用データ１５００の分布を示す散布図又はヒートマップ等のグラフである。

値ヒストグラム２２２１は、特徴量の値の区分に分類される生成用データ１５００の数を示すヒストグラムである。区分は任意の幅で設定される。寄与値ヒストグラム２２２２は、特徴量の寄与値の区分に属する生成用データ１５００の数を示すヒストグラムである。区分は任意の幅で設定される。

ユーザは、表示欄２２１０の情報を参照することによって、特徴量の値及び寄与値の値域の分割条件を設定することができる。

選択ボタン２２１１は、表示欄２１１０に表示する特徴量を変更するための操作ボタンである。選択ボタン２２１１－１が操作された場合、一つ前の特徴量に関する情報が表示欄２２１０に表示され、選択ボタン２２１１－２が操作された場合、一つ後の特徴量に関する情報が表示欄２２１０に表示される。

なお、特徴量確認欄２２０１は、選択ボタン２２１１の代わりに、特徴量を直接指定する欄を含んでもよい。特徴量確認欄２２０１は、選択ボタン２２１１の代わりに、特徴量の値に基づいて前後関係にある特徴量を選択する欄を含んでもよい。また、特徴量確認欄２２０１に、全ての特徴量の情報を表示できる場合、特徴量確認欄２２０１には選択ボタン２２１１が含まれなくてもよい。

分割条件設定欄２２０２は、特徴量の値及び寄与値の値域の分割条件を設定するための欄である。分割条件設定欄２２０２は、値分割条件欄２２３０及び寄与値分割条件欄２２４０を含む。

値分割条件欄２２３０は、特徴量の値の値域の分割条件を設定するための欄であり、ラジオボタン２２３１、２２３２、２２３３を含む。ラジオボタン２２３１、２２３２、２２３３は、ラジオボタン２１４１、２１４２、２１４３と同一のものである。

寄与値分割条件欄２２４０は、特徴量の寄与値の値域の分割条件を設定するための欄であり、ラジオボタン２２４１、２２４２、２２４３を含む。ラジオボタン２２４１、２２４２、２２４３は、ラジオボタン２１５１、２１５２、２１５３と同一のものである。

戻るボタン２２０３は、分割条件詳細設定画面２２００から設定画面２１００へ表示を切り替えるための操作ボタンである。戻るボタン２２０３が操作された場合、分割条件詳細設定画面２２００を用いて設定された値が分割条件情報として出力される。

量的変数反映ボタン２２０４は、分割条件設定欄２２０２に設定された値を、量的変数に対応する全ての特徴量の分割条件として設定するための操作ボタンである。なお、分割条件詳細設定画面２２００は、量的変数反映ボタン２２０４の代わりに、カテゴリカル変数反映ボタンを含んでもよい。

反映ボタン２２０５は、分割条件設定欄２２０２に設定された値を、全ての特徴量の分割条件として設定するための操作ボタンである。

なお、分割条件詳細設定画面２２００は、分割条件詳細設定画面２２００を介して設定された分割条件情報を計算機１００－２に保存するための操作ボタン、及び、分割条件情報の破棄又は初期化を指示するための操作ボタンを含んでもよい。図１５の説明に戻る。

操作受付部は、変換表５００の生成要求を受け付けた場合、計算機１００－１に予測値の算出指示を出力し、また、計算機１００－２に変換表５００の生成要求を出力する。予測値の算出指示には、生成用データ１５００の指定情報が含まれる。

計算機１００－１の予測器１１０は、モデル情報に基づいて、生成用データ１５００を処理することによって、出力データ３１０を生成する。予測器１１０は、出力データ３１０を計算機１００－２に出力する。

計算機１００－２の寄与値算出部１２０は、変換表５００の生成要求を受信した場合、比較対象データ選択部１２１に比較対象データ４００の選択指示を送信する。比較対象データ４００の選択指示には、比較対象データ４００の指定情報が含まれる。比較対象データ選択部１２１は、比較対象データ４００の選択指示を受信した場合、比較対象データ４００の指定情報に基づいて、比較対象データ管理情報１２２から使用する比較対象データ４００を取得する。また、比較対象データ選択部１２１は、寄与値算出部１２０に取得した比較対象データ４００を出力する。

寄与値算出部１２０は、比較対象データ４００を受信した場合、生成用データ１５００及び比較対象データ４００に基づいて、寄与値データ６００を生成する。一つの生成用データ１５００に対して一つの寄与値データ６００が生成される。なお、寄与値データ６００の生成方法は実施例１と同一であるため説明を省略する。

また、寄与値算出部１２０は、生成用データ１５００の寄与値データ６００の算出時に生成された中間データ１１００、生成用データ１５００の識別情報、部分集合、及び中間出力データから構成される中間計算データ１５１０を中間計算データ管理情報１４１０に格納する。

寄与値算出部１２０は、生成用データ１５００の出力データ３１０を受信した場合、変換情報生成部１４００に、変換表５００の生成指示を出力する。当該生成指示には、出力データ３１０、寄与値データ６００、生成条件情報、採用条件情報、及び分割条件情報が含まれる。

変換情報生成部１４００の候補解釈要因生成部１４０１は、出力データ３１０、寄与値データ６００、中間計算データ１５１０、生成条件情報、採用条件情報、及び分割条件情報に基づいて、領域分割情報１５２０及び候補解釈要因情報１５３０を生成する。候補解釈要因生成部１４０１は、変換表生成部１４０２に選択指示を出力する。

変換情報生成部１４００の変換表生成部１４０２は、選択指示受信した場合、領域分割情報１５２０及び候補解釈要因情報１５３０に基づいて候補変換表１５４０を生成し、候補変換表１５４０等を提示するための表示情報を生成し、当該表示情報を操作受付部に出力する。操作受付部は、表示情報を端末１０１に送信する。

端末１０１は、変換表生成部１４０２によって生成された表示情報に基づいて確認画面２３００を表示する。ここで、確認画面２３００について説明する。

確認画面２３００は、操作受付部によって提示される画面であり、端末１０１に表示される。確認画面２３００は、解釈要因情報表示欄２３０１、変換表表示欄２３０２、候補解釈要因表示欄２３０３、及び出力ボタン２３０４を含む。

解釈要因情報表示欄２３０１は、候補解釈要因の概要を表示する欄であり、生成用データ表示欄２３１１、候補解釈要因数２３１２、及び未分類データ数２３１３を含む。

生成用データ表示欄２３１１は、使用された生成用データ１５００を格納するファイル等を表示する欄である。候補解釈要因数２３１２は、生成された候補解釈要因の数を表示する欄である。未分類データ数２３１３は、生成された候補解釈要因のいずれにも分類されない生成用データ１５００の数を表示する欄である。

変換表表示欄２３０２は、候補変換表１５４０を表示する欄であり、特徴量選択欄２３２１及び候補変換表表示欄２３２２を含む。

特徴量選択欄２３２１は、特徴量を選択するための欄である。候補変換表表示欄２３２２は、特徴量選択欄２３２１に設定された特徴量に対応する候補変換表１５４０を表示する欄である。

変換表表示欄２３０２は、特徴量選択欄２３２１の代わりに、選択ボタン２２１１のような操作ボタンを含んでもよい。また、変換表表示欄２３０２に、全ての候補変換表１５４０を表示できる場合、特徴量確認欄２２０１には特徴量選択欄２３２１が含まれなくてもよい。

候補解釈要因表示欄２３０３は、候補解釈要因の詳細な情報を表示する欄であり、ＩＤ選択欄２３３１、第一該当データ数２３３２、第二該当データ数２３３３、分類条件確認欄２３３４、解釈要因設定欄２３３５、設定ボタン２３３６、及び破棄ボタン２３３７を含む。

ＩＤ選択欄２３３１は、候補解釈要因を選択するための欄である。後述するように、候補解釈要因にはＩＤ１９０１に対応する値が表示される。

第一該当データ数２３３２、第二該当データ数２３３３、及び分類条件確認欄２３３４には、ＩＤ選択欄２３３１に対応する候補解釈要因情報１５３０のエントリの情報が表示される。

第一該当データ数２３３２は、第一データ数１９０６に格納される値を表示する欄である。第二該当データ数２３３３は、第二データ数１９０７に格納される値を表示する欄である。

分類条件確認欄２３３４は、候補解釈要因の分類条件である特徴量の情報を表示する欄であり、特徴量情報２３４１、削除ボタン２３４２、及び修正ボタン２３４３を含む。

特徴量情報２３４１は、特徴量、値の領域、寄与値の領域、及び重みの四つのフィールドから構成されるエントリが列方向に並べられたテーブル形式のデータである。一つの列が、候補解釈要因情報１５３０のエントリに含まれる特徴量の行に対応する。

特徴量のフィールドにはラジオボタンが含まれる。また、重みのフィールドにはユーザが任意の値を設定できる。

候補解釈要因表示欄２３０３は、ＩＤ選択欄２３３１の代わりに、選択ボタン２２１１のような操作ボタンを含んでもよい。また、候補解釈要因表示欄２３０３に、全ての候補解釈要因の情報を表示できる場合、候補解釈要因表示欄２３０３にはＩＤ選択欄２３３１が含まれなくてもよい。

削除ボタン２３４２は、特徴量のフィールドのラジオボタンが操作されたエントリを削除するための操作ボタンである。削除ボタン２３４２が操作された場合、端末１０１は、ユーザによって指定された候補解釈要因の識別情報及び特徴量の識別情報を含む削除要求を送信する。この場合、変換表生成部１４０２は、候補解釈要因情報１５３０のエントリから選択された特徴量の行を削除する。

修正ボタン２３４３は、ユーザ入力を反映させるための操作ボタンである。修正ボタン２３４３が操作された場合、端末１０１は、ユーザによって指定された候補解釈要因の識別情報、特徴量の識別情報、及び重みの値を含む修正要求を送信する。この場合、変換表生成部１４０２は、修正内容に基づいて、候補解釈要因情報１５３０の重み１９０５の値を更新する。

解釈要因設定欄２３３５は、候補解釈要因に自然言語の情報である解釈要因を設定するための欄である。操作受付部は、インターネット検索及び文章検索等の既存の技術を用いて、解釈要因を設定するための補助情報として、予測器１１０の出力及び評価対象データ３００に対するユーザの評価に影響を与える一般名称等を提示してもよい。

設定ボタン２３３６は、解釈要因設定欄２３３５に設定した解釈要因を設定するための操作ボタンである。設定ボタン２３３６が操作された場合、端末１０１は、ユーザによって指定された候補解釈要因の識別情報及び解釈要因を含む設定要求を送信する。この場合、変換表生成部１４０２は、候補解釈要因情報１５３０のエントリの解釈要因１９０９に、設定要求に含まれる解釈要因を設定する。

破棄ボタン２３３７は、候補解釈要因を破棄するための操作ボタンである。破棄ボタン２３３７が操作された場合、端末１０１は、ユーザによって指定された候補解釈要因の識別情報を含む破棄要求を送信する。この場合、変換表生成部１４０２は、候補解釈要因情報１５３０のエントリを削除する。また、変換表生成部１４０２は、エントリの削除に伴って、候補解釈要因数２３１２及び未分類データ数２３１３の値を更新する。

出力ボタン２３０４は、変換表５００の生成を指示するための操作ボタンである。出力ボタン２３０４が操作された場合、端末１０１は、操作受付部に変換表出力要求を送信する。

以下の説明では、削除要求、修正要求、設定要求、及び破棄要求を区別しない場合、情報更新要求とも記載する。以上が、確認画面２３００の説明である。図１５の説明に戻る。

変換表生成部１４０２は、変換表出力要求を受け付けた場合、ユーザの入力に基づいて更新された領域分割情報１５２０及び候補解釈要因情報１５３０に基づいて変換表５００を生成し、変換表５００を解釈要因変換情報１３２に格納する。

次に、計算機システムにおいて実行される処理の詳細について説明する。まず、候補解釈要因生成部１４０１が実行する処理について説明する。

図２４Ａ及び図２４Ｂは、実施例２の候補解釈要因生成部１４０１が実行する処理の一例を説明するフローチャートである。図２５は、実施例２の交互作用値リスト２５００のデータ構造の一例を示す図である。

候補解釈要因生成部１４０１は、分割条件情報、生成用データ１５００、及び寄与値データ６００に基づいて、領域分割情報１５２０を生成する（ステップＳ３０１）。具体的には、以下のような処理が実行される。

（処理Ｂ１）候補解釈要因生成部１４０１は、生成用データ１５００に含まれる特徴量の中からターゲット特徴量を選択する。

（処理Ｂ２）候補解釈要因生成部１４０１は、生成用データ１５００及び寄与値データ６００に基づいて、ターゲット特徴量の値の値域及び寄与値の値域を特定する。

（処理Ｂ３）候補解釈要因生成部１４０１は、分割条件情報に基づいて、ターゲット特徴量の値の値域を複数の領域に分割し、また、ターゲット特徴量の寄与値の値域を複数の領域に分割する。例えば、以下のような処理が実行される。

ラジオボタン２１４１が操作されている場合、候補解釈要因生成部１４０１は、ターゲット特徴量の値の値域を指定された数に等分する。ラジオボタン２１４２が操作されている場合、候補解釈要因生成部１４０１は、ターゲット特徴量の値の統計量を算出し、当該統計量を基準に値の値域を２等分する。ラジオボタン２１４３が操作されている場合、候補解釈要因生成部１４０１は、各領域に含まれる生成用データ１５００の数が同一又は差なくなるように、ターゲット特徴量の値の地域を指定された数だけ分割する。

（処理Ｂ４）候補解釈要因生成部１４０１は、領域分割情報１５２０にエントリを追加し、追加されたエントリの特徴量１８０１にターゲット特徴量の識別情報を設定する。また、候補解釈要因生成部１４０１は、追加されたエントリの分割領域（値）１８０２及び分割領域（寄与値）１８０３のそれぞれに分割結果を設定する。

（処理Ｂ５）全ての特徴量について処理が完了していない場合、候補解釈要因生成部１４０１は（処理Ｂ１）に戻る。全ての特徴量について処理が完了した場合、候補解釈要因生成部１４０１はステップＳ３０１の処理を終了する。

なお、候補解釈要因生成部１４０１は、必要に応じて中間計算データ１５１０の出力値１７０５等の値に基づいて、領域の分割を行ってもよい。以上がステップＳ３０１の処理の説明である。

次に、候補解釈要因生成部１４０１は、生成用データ１５００のループ処理を開始する（ステップＳ３０２）。

具体的には、候補解釈要因生成部１４０１は、未処理の生成用データ１５００の中から一つの生成用データ１５００を、ターゲット生成用データ１５００として選択する。

次に、候補解釈要因生成部１４０１は、特徴量の数のループ処理を開始する（ステップＳ３０３）。

具体的には、候補解釈要因生成部１４０１は、チェック欄２１２５に設定された値を変数ｎに初期値として設定する。また、候補解釈要因生成部１４０１は、交互作用値リスト２５００を初期化する。なお、チェック欄２１２５が操作されていない場合、予め設定された値、例えば、「２」が設定される。

交互作用値リスト２５００は、ＩＤ２５０１、中間計算データＩＤ２５０２、部分集合２５０３、及び交互作用値２５０４から構成されるエントリを含む。一つのエントリが交互作用値データに対応する。

ＩＤ２５０１は、交互作用値データの識別情報を格納するフィールドである。中間計算データＩＤ２５０２は、交互作用値を算出する場合に用いた中間計算データ１５１０の識別情報を格納するフィールドである。中間計算データＩＤ２５０２には、ＩＤ１７０１と同一の識別情報が格納される。部分集合２５０３は、交互作用値の算出対象となる特徴量の部分集合を格納するフィールドである。交互作用値２５０４は、交互作用値を格納するフィールドである。

ステップＳ３０３では、交互作用値リスト２５００の全てのエントリが削除される。以上がステップＳ３０３の処理の説明である。

次に、候補解釈要因生成部１４０１は、ｎ個の特徴量から構成される部分集合の交互作用値を算出する（ステップＳ３０４）。具体的には、以下のような処理が実行される。

（処理Ｃ１）候補解釈要因生成部１４０１は、ｎ個の特徴量から構成される部分集合を生成する。

（処理Ｃ２）候補解釈要因生成部１４０１は、生成された部分集合の中からターゲット部分集合を選択する。

（処理Ｃ３）候補解釈要因生成部１４０１は、ターゲット部分集合の交互作用値を算出する。交互作用値の算出方法は、非特許文献２及び非特許文献３に記載されているため、詳細な説明は省略するが、以下のようにして算出される。

候補解釈要因生成部１４０１は、部分集合１７０３が、ターゲット部分集合の補集合にかかる部分集合Ｍとターゲット部分集合の部分集合Ｌとの和集合に対応する中間計算データ１５１０を検索する。候補解釈要因生成部１４０１は、検索された中間計算データ１５１０の出力値１７０５の重みづけ平均を、交互作用値として算出する。

重みは以下のように算出されたものを用いることができる。（１）生成用データに含まれる特徴量の総数Ｎから、部分集合Ｍの要素数及びターゲット部分集合の要素数の合計値を減算した値の階乗と、部分集合Ｍの要素数の階乗とを乗算する。（２）Ｎからターゲット部分集合の要素数を減算した値に１を加算した値の階乗で、（１）の値を除算する。（３）部分集合Ｌの補集合の要素数が奇数の場合、（２）の値に－１を乗算する。

（処理Ｃ４）候補解釈要因生成部１４０１は、交互作用値リスト２５００にエントリを追加し、追加されたエントリのＩＤ２５０１に交互作用値データの識別情報を設定する。候補解釈要因生成部１４０１は、追加されたエントリの中間計算データＩＤ２５０２に中間計算データ１５１０の識別情報を設定する。候補解釈要因生成部１４０１は、追加されたエントリの部分集合２５０３にターゲット部分集合を設定し、交互作用値２５０４に算出された交互作用値を設定する。

（処理Ｃ５）全ての部分集合について処理が完了していない場合、候補解釈要因生成部１４０１は（処理Ｃ２）に戻る。全ての部分集合について処理が完了した場合、候補解釈要因生成部１４０１はステップＳ３０４の処理を終了する。以上がステップＳ３０４の処理の説明である。

次に、候補解釈要因生成部１４０１は、採用条件を満たす部分集合が存在するか否かを判定する（ステップＳ３０５）。本実施例では、交互作用値に基づいてステップＳ３０５の判定が行われる。例えば、本実施例では以下のような判定が行われる。

ラジオボタン２１３１が操作されている場合、候補解釈要因生成部１４０１は採用条件を満たすと判定する。この場合、交互作用値２５０４の値が大きいものを所定の数だけ選択する。

ラジオボタン２１３２が操作されている場合、候補解釈要因生成部１４０１は、交互作用値２５０４及びターゲット生成用データ１５００の予測値の比を算出する。比が閾値より大きいエントリが存在する場合、候補解釈要因生成部１４０１は採用条件を満たす部分集合が存在すると判定する。

ラジオボタン２１３３が操作されている場合には以下のような判定を行う。ある部分集合に対応する交互作用値２５０４が、当該部分集合と同じ要素数の他の部分集合に対応する交互作用値２５０４に比して、交互作用値２５０４が特定値を有意水準として有意に大きい場合、候補解釈要因生成部１４０１は採用条件を満たす部分集合が存在すると判定する。

採用条件を満たす部分集合が存在しないと判定された場合、候補解釈要因生成部１４０１はステップＳ３０９に進む。

採用条件を満たす部分集合が存在すると判定された場合、候補解釈要因生成部１４０１は、当該部分集合に対応する候補解釈要因が候補解釈要因情報１５３０に登録されているか否かを判定する（ステップＳ３０６）。

具体的には、候補解釈要因生成部１４０１は、領域（値）１９０３及び領域（寄与値）１９０４を参照し、採用条件を満たす部分集合を構成する特徴量の値が属する領域の組合せ及び採用条件を満たす部分集合を構成する特徴量の寄与値が属する領域の組合せと一致するエントリが存在するか否かを判定する。前述の条件を満たすエントリが存在する場合、候補解釈要因生成部１４０１は、採用条件を満たす部分集合に対応する候補解釈要因が候補解釈要因情報１５３０に登録されていると判定する。

採用条件を満たす部分集合に対応する候補解釈要因が候補解釈要因情報１５３０に登録されていると判定された場合、候補解釈要因生成部１４０１は、当該候補解釈要因に対応するエントリを更新し（ステップＳ３０７）、その後、ステップＳ３０９に進む。

具体的には、候補解釈要因生成部１４０１は、候補解釈要因に対応するエントリの交互作用値１９０８に、ステップＳ３０２で選択されたターゲット生成用データ１５００の識別情報及び交互作用値の組を追加する。また、候補解釈要因生成部１４０１は、当該エントリの第一データ数１９０６に１を加算する。

採用条件を満たす部分集合に対応する候補解釈要因が候補解釈要因情報１５３０に登録されていないと判定された場合、候補解釈要因生成部１４０１は、当該候補解釈要因に対応するエントリを候補解釈要因情報１５３０に追加し（ステップＳ３０８）、その後、ステップＳ３０９に進む。具体的には、以下のような処理が実行される。

（処理Ｄ１）候補解釈要因生成部１４０１は、候補解釈要因情報１５３０にエントリを追加する。候補解釈要因生成部１４０１は、追加されたエントリのＩＤ１９０１に識別情報を設定し、第一データ数１９０６に「１」を設定し、また、第二データ数１９０７に「０」を設定する。また、候補解釈要因生成部１４０１は、追加されたエントリの交互作用値１９０８に、ステップＳ３０２で選択されたターゲット生成用データ１５００の識別情報及び交互作用値の組を設定する。

（処理Ｄ２）候補解釈要因生成部１４０１は、追加されたエントリの特徴量１９０２、領域（値）１９０３、領域（寄与値）１９０４、及び重み１９０５に、ターゲット部分集合の要素数と同数の行を生成する。また、候補解釈要因生成部１４０１は、追加されたエントリの特徴量１９０２に、ターゲット部分集合の要素である特徴量の識別情報を設定する。

（処理Ｄ３）候補解釈要因生成部１４０１は、ターゲット部分集合を構成する特徴量の中からターゲット特徴量を選択する。また、候補解釈要因生成部１４０１は、領域分割情報１５２０を参照し、特徴量１８０１がターゲット特徴量に対応するエントリを検索する。

（処理Ｄ４）候補解釈要因生成部１４０１は、検索されたエントリの分割領域（値）１８０２を参照し、ステップＳ３０２で選択されたターゲット生成用データ１５００のターゲット特徴量の値が含まれる領域を特定する。候補解釈要因生成部１４０１は、追加されたエントリのターゲット特徴量に対応する行の領域（値）１９０３に特定された領域を設定する。

（処理Ｄ５）候補解釈要因生成部１４０１は、検索されたエントリの分割領域（寄与値）１８０３を参照し、ステップＳ３０２で選択されたターゲット生成用データ１５００のターゲット特徴量の寄与値が含まれる領域を特定する。候補解釈要因生成部１４０１は、追加されたエントリのターゲット特徴量に対応する行の領域（寄与値）１９０４に特定された領域を設定する。

（処理Ｄ６）ターゲット部分集合を構成する全ての特徴量について処理が完了していない場合、候補解釈要因生成部１４０１は（処理Ｄ３）に戻る。ターゲット部分集合を構成する全ての特徴量について処理が完了した場合、候補解釈要因生成部１４０１はステップＳ３０８の処理を終了する。以上がステップＳ３０８の処理の説明である。

ステップＳ３０９では、候補解釈要因生成部１４０１は終了条件を満たすか否かを判定する（ステップＳ３０９）。例えば、本実施例では以下のような判定が行われる。

チェック欄２１２２が操作されている場合、候補解釈要因生成部１４０１は、候補解釈要因情報１５３０のエントリの数（候補解釈要因の数）が上限値と一致するか否かを判定する。候補解釈要因情報１５３０のエントリの数が上限値と一致する場合、候補解釈要因生成部１４０１は終了条件を満たすと判定する。

チェック欄２１２３が操作されている場合、候補解釈要因生成部１４０１は、計算時間が閾値以上であるか否かを判定する。計算時間が閾値以上である場合、候補解釈要因生成部１４０１は終了条件を満たすと判定する。

終了条件を満たすと判定された場合、候補解釈要因生成部１４０１はループ処理を中断し、ステップＳ３１２に進む。このとき、ターゲット生成用データ１５００から生成された候補解釈要因が存在しない場合、候補解釈要因生成部１４０１は、ターゲット生成用データ１５００の識別情報と未分類のフラグとの組をワークエリアに保存する。

終了条件を満たさないと判定された場合、候補解釈要因生成部１４０１は、特徴量の数が上限値に一致するか否かを判定する（ステップＳ３１０）。チェック欄２１２４が操作されている場合、上限値はチェック欄２１２４に設定された値となる。チェック欄２１２４が操作されていない場合、上限値は生成用データ１５００の特徴量の総数となる。

特徴量の数が上限値に一致しないと判定された場合、候補解釈要因生成部１４０１は、ステップＳ３０３に戻り、変数ｎの値に１を加算する。

特徴量の数が上限値に一致すると判定された場合、候補解釈要因生成部１４０１は、全ての生成用データ１５００について処理が完了したか否かを判定する（ステップＳ３１１）。このとき、ターゲット生成用データ１５００から生成された候補解釈要因が存在しない場合、候補解釈要因生成部１４０１は、ターゲット生成用データ１５００の識別情報と未分類のフラグとの組をワークエリアに保存する。

全ての生成用データ１５００について処理が完了していないと判定された場合、候補解釈要因生成部１４０１は、ステップＳ３０２に戻り、新たな生成用データ１５００を選択する。

全ての生成用データ１５００について処理が完了したと判定された場合、候補解釈要因生成部１４０１は各候補解釈要因の重みを設定する（ステップＳ３１２）。例えば、以下のような設定方法が考えられる。

（設定方法１）候補解釈要因生成部１４０１は、候補解釈要因の重みを全て「１」に設定する。この場合、各エントリの重み１９０５の行には「１」が設定される。

（設定方法２）候補解釈要因生成部１４０１は、ユーザの入力に基づいて、候補解釈要因の重みを設定する。この場合、各エントリの重み１９０５の行にはユーザが入力した値が設定される。

（設定方法３）候補解釈要因生成部１４０１は、候補解釈要因に対応するエントリの交互作用値１９０８に格納される組の交互作用値に基づいて候補解釈要因の重みを算出し、当該重みを設定する。この場合、各エントリの重み１９０５の行には、各エントリの交互作用値１９０８に基づいて算出された値が設定される。

なお、本発明は重みの設定方法に限定されない。

次に、候補解釈要因生成部１４０１は、各候補解釈要因の第二データ数を算出する（ステップＳ３１３）。その後、候補解釈要因生成部１４０１は一連の処理を終了する。具体的には、以下のような処理が実行される。

（処理Ｅ１）候補解釈要因生成部１４０１は、生成用データ１５００のループ処理において処理されていない生成用データ１５００が存在するか否かを判定する。

（処理Ｅ２）生成用データ１５００のループ処理において処理されていない生成用データ１５００が存在する場合、候補解釈要因生成部１４０１は、未処理の生成用データ１５００の各特徴量の値及び寄与値に基づいて、該当する候補解釈要因を特定する。候補解釈要因生成部１４０１は、生成用データ１５００の識別情報と特定された候補解釈要因の識別情報（ＩＤ１９０１）との組をワークエリアに保存する。また、候補解釈要因生成部１４０１は、候補解釈要因情報１５３０の各エントリの第一データ数１９０６を更新する。

なお、該当する候補解釈要因が存在しない場合、候補解釈要因生成部１４０１は、生成用データ１５００の識別情報と未分類のフラグとの組をワークエリアに保存する。

（処理Ｅ３）生成用データ１５００のループ処理において処理されていない生成用データ１５００が存在しない場合、又は（処理Ｅ２）の処理が実行された後、候補解釈要因生成部１４０１は、候補解釈要因情報１５３０を参照し、各生成用データ１５００の解釈要因を特定する。候補解釈要因生成部１４０１は、生成用データ１５００の識別情報と特定された候補解釈要因の識別情報（ＩＤ１９０１）との組をワークエリアに保存する。

（処理Ｅ４）候補解釈要因生成部１４０１は、未分類のフラグを含む組の数を、未分類データ数としてワークエリアに保存する。

（処理Ｅ５）候補解釈要因生成部１４０１は、候補解釈要因を一つだけ含む組を特定する。候補解釈要因生成部１４０１は、特定された組を、候補解釈要因の種別毎にグループを生成する。候補解釈要因生成部１４０１は、候補解釈要因情報１５３０を参照し、各グループに対応するエントリの第二データ数１９０７に、グループに含まれる組の数を設定する。

なお、候補解釈要因生成部１４０１は、チェック欄２１２６が操作されている場合、（処理Ｅ３）が実行される前に、第一データ数１９０６の値が閾値より小さいエントリを削除し、再度、（処理Ｅ２）の処理を実行する。

なお、候補解釈要因生成部１４０１は、必要に応じて中間計算データ１５１０の出力値１７０５等の値に基づいて、第二データ数１９０７を算出してもよい。以上がステップＳ３１３の処理の説明である。

図２６は、実施例２の変換表生成部１４０２が実行する処理を説明する処理である。

変換表生成部１４０２は、領域分割情報１５２０及び候補解釈要因情報１５３０に基づいて候補変換表１５４０を生成する（ステップＳ４０１）。具体的には以下のような処理が実行される。

（処理Ｆ１）変換表生成部１４０２は、領域分割情報１５２０に基づいて、各特徴量について、特徴量の値の領域を列成分とし、特徴量の寄与値の領域を行成分とする行列形式の候補変換表１５４０を生成する。この時点では、いずれの候補変換表１５４０にも候補解釈要因データ２０００は存在しない。

（処理Ｆ２）変換表生成部１４０２は、候補解釈要因情報１５３０からターゲットエントリを選択する。

（処理Ｆ３）変換表生成部１４０２は、ターゲットエントリに含まれる特徴量の中からターゲット特徴量を選択する。

（処理Ｆ４）変換表生成部１４０２は、ターゲット特徴量に対応する行の領域（値）１９０３及び領域（寄与値）１９０４に基づいて、ターゲット特徴量に対応する候補変換表１５４０のセルを特定する。変換表生成部１４０２は、特定されたセルに候補解釈要因の識別情報及びターゲット特徴量に対応する行の重み１９０５の値から構成される候補解釈要因データ２０００を設定する。

（処理Ｆ５）ターゲットエントリに含まれる全ての特徴量について処理が完了していない場合、変換表生成部１４０２は（処理Ｆ３）に戻る。ターゲットエントリに含まれる全ての特徴量について処理が完了している場合、変換表生成部１４０２は、候補解釈要因情報１５３０の全てのエントリについて処理が完了したか否かを判定する。

（処理Ｆ６）候補解釈要因情報１５３０の全てのエントリについて処理が完了していない場合、変換表生成部１４０２は（処理Ｆ２）に戻る。候補解釈要因情報１５３０の全てのエントリについて処理が完了している場合、変換表生成部１４０２はステップＳ４０１の処理を終了する。以上がステップＳ４０１の処理の説明である。

次に、変換表生成部１４０２は、候補変換表１５４０及び候補解釈要因情報１５３０等を表示するための表示情報を生成し、当該表示情報を操作受付部に出力する（ステップＳ４０２）。これによって、端末１０１に確認画面２３００が表示される。その後、変換表生成部１４０２は待ち状態に移行する。

変換表生成部１４０２は、確認画面２３００を介した要求を受信した場合、受信した要求が情報更新要求であるか否かを判定する（ステップＳ４０３）。

受信した要求が情報更新要求であると判定された場合、変換表生成部１４０２は、情報更新要求の内容にしたがって、候補解釈要因情報１５３０を更新する（ステップＳ４０４）。その後、変換表生成部１４０２はステップＳ４０３に戻る。ステップＳ４０４では、例えば、以下のような処理が実行される。

情報更新要求が削除要求である場合、変換表生成部１４０２は、候補解釈要因情報１５３０から、削除要求に含まれる候補解釈要因の識別情報に対応するエントリを検索し、検索されたエントリから、削除要求に含まれる特徴量の識別情報に対応する行を削除する。

情報更新要求が修正要求である場合、変換表生成部１４０２は、候補解釈要因情報１５３０から、修正要求に含まれる候補解釈要因の識別情報に対応するエントリを検索し、検索されたエントリの修正要求に含まれる特徴量の識別情報に対応する行の重み１９０５を更新する。

情報更新要求が設定要求である場合、変換表生成部１４０２は、候補解釈要因情報１５３０から、設定要求に含まれる候補解釈要因の識別情報に対応するエントリを検索し、検索されたエントリの設定要求に含まれる特徴量の識別情報に対応する行の解釈要因１９０９に解釈要因を設定する。

情報更新要求が破棄要求である場合、変換表生成部１４０２は、候補解釈要因情報１５３０から、破棄要求に含まれる候補解釈要因の識別情報に対応するエントリを検索し、当該エントリを削除する。

なお、変換表生成部１４０２は、情報更新要求に基づいて候補変換表１５４０を更新してもよい。

情報更新要求が削除要求である場合、変換表生成部１４０２は、削除要求に含まれる特徴量の識別情報に対応する候補変換表１５４０から、削除要求に含まれる候補解釈要因の識別情報に対応する候補解釈要因データ２０００を削除する。

情報更新要求が修正要求である場合、変換表生成部１４０２は、修正要求に含まれる特徴量の識別情報に対応する候補変換表１５４０から、修正要求に含まれる候補解釈要因の識別情報に対応する候補解釈要因データ２０００を検索する。変換表生成部１４０２は、検索された候補解釈要因データ２０００の重み２００２の値を更新する。

情報更新要求が設定要求である場合、変換表生成部１４０２は、修正要求に含まれる特徴量の識別情報に対応する候補変換表１５４０から、修正要求に含まれる候補解釈要因の識別情報に対応する候補解釈要因データ２０００を検索する。変換表生成部１４０２は、検索された候補解釈要因データ２０００の解釈要因ＩＤ２００１を解釈要因に置き換える。

情報更新要求が破棄要求である場合、変換表生成部１４０２は、各候補変換表１５４０から、破棄要求に含まれる候補解釈要因の識別情報に対応する候補解釈要因データ２０００を削除する。以上がステップＳ４０４の処理の説明である。

受信した要求が情報更新要求でないと判定された場合、すなわち、受信した要求が変換表出力要求であると判定された場合、変換表生成部１４０２は、領域分割情報１５２０及び候補解釈要因情報１５３０に基づいて変換表５００を生成し、解釈要因変換情報１３２に生成された変換表５００を格納する（ステップＳ４０５）。その後、変換表生成部１４０２は処理を終了する。

変換表５００の生成方法は、候補変換表１５４０と同様の処理である。ただし、（処理Ｆ４）では、変換表生成部１４０２は、特定されたセルに、ターゲットエントリの解釈要因１９０９の値及びターゲット特徴量に対応する行の重み１９０５の値から構成される解釈要因データ５１０を設定する。

なお、ステップＳ４０４において、情報更新要求に基づいて候補変換表１５４０が更新されている場合、解釈要因変換情報１３２は、候補変換表１５４０を変換表５００として出力してもよい。

変換表生成部１４０２は、変換表５００が生成された後、変換表５００を含む格納要求を計算機１００－３に送信する。計算機１００－３の解釈要因選択部１３０又は結果出力部１３１は、変換表５００を解釈要因変換情報１３２に格納する。

実施例２によれば、計算機システムは、客観的な基準に基づいて、生成用データ１５００から各特徴量の変換表５００を漏れなく生成することができる。このように生成された変換表５００に基づいて生成される解釈情報６１０は、客観的かつ漏れのない、評価対象データ３００の予測値の根拠を示す情報として有用である。

実施例３は、候補解釈要因の生成方法が一部異なる。具体的には、類似する候補解釈要因が統合される。以下、実施例２との差異を中心に実施例３について説明する。

実施例３の計算機システムの構成、計算機１００のハードウェア構成及びソフトウェア構成、並びに計算機システムの処理の流れは、実施例２と同一であるため、説明を省略する。

実施例３では、候補解釈要因情報１５３０のデータ構造が異なる。図２７は、実施例３の候補解釈要因情報１５３０のデータ構造の一例を示す図である。

なお、説明の簡単のため、領域（値）１９０３、領域（寄与値）１９０４、重み１９０５、第一データ数１９０６、第二データ数１９０７、交互作用値１９０８、及び解釈要因１９０９は省略している。

実施例３の候補解釈要因情報１５３０に格納されるエントリは、統合ＩＤ１９１０及び統合種別１９１１を含む。統合ＩＤ１９１０は、統合された候補解釈要因に設定される識別情報を格納するフィールドである。統合種別１９１１は、統合された条件の種別を格納するフィールドである。統合ＩＤ１９１０に識別情報が設定されるエントリの統合種別１９１１には「通常」又は「特殊」のいずれかが格納される。

図２８Ａ及び図２８Ｂは、実施例３の候補解釈要因生成部１４０１が実行する処理の一例を説明するフローチャートである。図２９は、実施例３の端末１０１に表示される統合条件設定画面２９００の一例を示す図である。図３０は、実施例３の端末１０１に表示される統合確認画面３０００の一例を示す図である。

ステップＳ３０１からステップＳ３１３までの処理は、実施例２で説明した処理と同一である。実施例３では、候補解釈要因生成部１４０１は、ステップＳ３１３の処理が実行された後、統合条件の設定を受け付ける（ステップＳ３５１）。

具体的には、候補解釈要因生成部１４０１は、統合条件設定画面２９００を表示するための表示情報を生成し、操作受付部に出力する。操作受付部は、当該表示情報を端末１０１に送信する。ここで、統合条件設定画面２９００について説明する。

統合条件設定画面２９００は、操作受付部によって提示される画面であり、端末１０１に表示される。統合条件設定画面２９００は、統合可否選択欄２９０１、統合条件設定欄２９０２、特殊統合条件設定欄２９０３、及び設定ボタン２９０４を含む。

統合可否選択欄２９０１は、候補解釈要因の統合を行うか否かを選択するための欄である。統合可否選択欄２９０１の値は統合可否情報として出力される。統合可否選択欄２９０１は、ラジオボタン２９１１、２９１２を含む。

ラジオボタン２９１１は、候補解釈要因の統合を行う場合に操作するラジオボタンである。ユーザは、ラジオボタン２９１１を操作し、統合条件設定欄２９０２及び特殊統合条件設定欄２９０３への入力を行う。ラジオボタン２９１２は、候補解釈要因の統合を行わない場合に操作するラジオボタンである。ラジオボタン２９１２が操作された場合、統合条件設定欄２９０２及び特殊統合条件設定欄２９０３への入力が無効化される。

統合条件設定欄２９０２は、候補解釈要因の統合条件を設定するための欄である。統合条件設定欄２９０２の値は統合条件設定情報として出力される。統合条件設定欄２９０２は、ラジオボタン２９２１、２９２２、２９２３を含む。

ラジオボタン２９２１は、予め定義された統合条件を設定する場合に操作するラジオボタンである。

ラジオボタン２９２２は、第一データ数及び第二データ数を基準に候補解釈要因を統合する場合に操作するラジオボタンである。ユーザは、ラジオボタン２９２２を操作し、第一データ数、又は、第一データ数及び第二データ数の比を設定する。

ラジオボタン２９２３は、分散表現空間における候補解釈要因間の類似度を基準に候補解釈要因を統合する場合に操作するラジオボタンである。ユーザは、ラジオボタン２９２３を操作し、類似度の閾値及び分散表現空間の次元を設定する。本実施例では、候補解釈要因生成部１４０１は、分散空間の次元に基づいて生成用データ１５００を潜在表現化することによって生成用データ１５００の分散表現を生成し、これを用いて、各候補解釈要因を構成する特徴量の集合間の類似度（候補解釈要因間の類似度）を算出する。なお、分散表現空間の次元ではなく、他の潜在表現化に用いるパラメータを入力するようにしてもよい。

特殊統合条件設定欄２９０３は、統合条件設定欄２９０２とは異なる統合条件を設定するための欄である。特殊統合条件設定欄２９０３の値は特殊統合条件設定情報として出力される。特殊統合条件設定欄２９０３はラジオボタン２９３１を含む。

ラジオボタン２９３１は、ラジオボタン２９２３に対応する統合条件において、類似度が低い又は類似度が負値の候補解釈要因を統合する場合に操作するラジオボタンである。特殊統合条件情報を満たす候補解釈要因は、反対の意味を持つ候補解釈要因として統合される。

設定ボタン２９０４は、統合可否選択欄２９０１、統合条件設定欄２９０２、特殊統合条件設定欄２９０３に設定した値を設定するための操作ボタンである。設定ボタン２９０４が操作された場合、端末１０１は、統合可否情報、統合条件設定情報、及び特殊統合条件設定情報を含む設定要求を送信する。

統合条件設定画面２９００は、統合条件設定画面２９００を介して設定された統合可否情報、統合条件設定情報、及び特殊統合条件設定情報を計算機１００－２に保存するための操作ボタン、及び、当該情報の破棄又は初期化を指示するための操作ボタンを含んでもよい。

以上が、統合条件設定画面２９００の説明である。図２８Ｂの説明に戻る。

候補解釈要因生成部１４０１は、操作受付部から設定要求を受信した場合、設定要求に含まれる統合可否情報、統合条件設定情報、及び特殊統合条件設定情報に基づいて、統合処理を実行する（ステップＳ３５２）。その後、候補解釈要因生成部１４０１は処理を終了する。具体的には、以下のような処理が実行される。

（処理Ｇ１）候補解釈要因生成部１４０１は、統合可否情報にラジオボタン２９１２に対応する値が含まれるか否かを判定する。統合可否情報にラジオボタン２９１２に対応する値が含まれる場合、候補解釈要因生成部１４０１は候補解釈要因の統合を行うことなく統合処理を終了する。

（処理Ｇ２）統合可否情報にラジオボタン２９１１に対応する値が含まれる場合、候補解釈要因生成部１４０１は、統合条件設定情報に基づいて、候補解釈要因を統合する場合に使用する指標を算出する。

統合条件設定情報にラジオボタン２９２２に対応する値が含まれる場合、候補解釈要因生成部１４０１は、各候補解釈要因の第一データ数、又は、第一データ数及び第二データ数の比を算出する。統合条件設定情報にラジオボタン２９２３に対応する値が含まれる場合、候補解釈要因生成部１４０１は、候補解釈要因間の類似度を算出する。

（処理Ｇ３）候補解釈要因生成部１４０１は、算出された指標と閾値との比較結果に基づいて、統合可能な候補解釈要因の組を特定する。また、候補解釈要因生成部１４０１は、算出された指標及び特殊統合条件設定情報に基づいて、統合可能な候補解釈要因の組を特定する。候補解釈要因生成部１４０１は、特定された解釈要因の組の情報をワークエリアに格納する。

（処理Ｇ４）候補解釈要因生成部１４０１は、特定された候補解釈要因の組を提示するための表示情報を生成し、操作受付部に出力する。これによって、端末１０１に統合確認画面３０００が表示される。候補解釈要因生成部１４０１は、統合確認画面３０００を介した操作に基づいて候補解釈要因の組を統合する。ここで、統合確認画面３０００について説明する。

統合確認画面３０００は、操作受付部によって提示される画面であり、端末１０１に表示される。統合確認画面３０００は、統合対象表示欄３００１、候補解釈要因詳細表示欄３００２、統合ボタン３００３、破棄ボタン３００４、次へボタン３００５、及び完了ボタン３００６を含む。

統合対象表示欄３００１は、特定された候補解釈要因に関する情報及び判定根拠を表示する欄である。統合対象表示欄３００１は、候補解釈要因表示欄３０１１及び指標表示欄３０１２を含む。

候補解釈要因表示欄３０１１は、特定された候補解釈要因の識別情報を表示する欄である。指標表示欄３０１２は、判定時に使用した指標を表示する欄である。

候補解釈要因詳細表示欄３００２は、特定された候補解釈要因の詳細なデータを表示する欄である。

統合ボタン３００３は、統合確認画面３０００に表示された候補解釈要因の組を統合する場合に操作するボタンである。統合ボタン３００３が操作された場合、端末１０１は、候補解釈要因の組の情報を含む統合要求を送信する。

候補解釈要因生成部１４０１は、統合要求を受信した場合、統合要求に含まれる候補解釈要因の組の情報に基づいて、候補解釈要因情報１５３０から統合するエントリ群を特定する。候補解釈要因生成部１４０１は、特定されたエントリ群の統合ＩＤ１９１０に同一の識別情報を設定し、また、統合種別１９１１に「通常」又は「特殊」のいずれかを設定する。統合条件設定情報に基づいて統合された場合、統合種別１９１１には「通常」が設定され、特殊統合条件設定情報に基づいて統合された場合、統合種別１９１１には「特殊」が設定される。

破棄ボタン３００４は、統合確認画面３０００に表示された候補解釈要因の組を統合しない場合に操作するボタンである。破棄ボタン３００４が操作された場合、端末１０１は、候補解釈要因の組の情報を含む破棄要求を送信する。

候補解釈要因生成部１４０１は、破棄要求を受信した場合、破棄要求に含まれる候補解釈要因の組の情報をワークエリアから削除する。

次へボタン３００５は、次の解釈要因の組の情報を表示する場合に操作するボタンである。

完了ボタン３００６は、統合確認画面３０００を介した操作を終了する場合に操作するボタンである。完了ボタン３００６が操作された場合、端末１０１は完了通知を送信する。

以上が、統合確認画面３０００の説明である。統合処理の説明に戻る。

（処理Ｇ５）候補解釈要因生成部１４０１は、完了通知を受信した場合、統合処理を終了する。以上がステップＳ３５２の処理の説明である。

なお、候補解釈要因生成部１４０１は、統合確認画面３０００を表示することなく、自動的に、特定された候補解釈要因の組を統合してもよい。

変換表５００を生成する処理（図２６）では、変換表生成部１４０２は、統合された候補解釈要因に対応する候補解釈要因データ２０００の解釈要因ＩＤ２００１に、統合ＩＤ１９１０に設定された値を設定する。また、変換表生成部１４０２は、統合ＩＤ１９１０に識別情報が設定された候補解釈要因に対して同一の解釈要因を設定する。

実施例３によれば、計算機システムは、複数の候補解釈要因を統合することによって、重複又は類似する解釈要因の生成等を回避することができる。また、計算効率を向上させることができる。

なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。また、例えば、上記した実施例は本発明を分かりやすく説明するために構成を詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、各実施例の構成の一部について、他の構成に追加、削除、置換することが可能である。

また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、本発明は、実施例の機能を実現するソフトウェアのプログラムコードによっても実現できる。この場合、プログラムコードを記録した記憶媒体をコンピュータに提供し、そのコンピュータが備えるプロセッサが記憶媒体に格納されたプログラムコードを読み出す。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施例の機能を実現することになり、そのプログラムコード自体、及びそれを記憶した記憶媒体は本発明を構成することになる。このようなプログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ＣＤ－ＲＯＭ、ＤＶＤ－ＲＯＭ、ハードディスク、ＳＳＤ（Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）、光ディスク、光磁気ディスク、ＣＤ－Ｒ、磁気テープ、不揮発性のメモリカード、ＲＯＭなどが用いられる。

また、本実施例に記載の機能を実現するプログラムコードは、例えば、アセンブラ、Ｃ／Ｃ＋＋、ｐｅｒｌ、Ｓｈｅｌｌ、ＰＨＰ、Ｊａｖａ（登録商標）等の広範囲のプログラム又はスクリプト言語で実装できる。

さらに、実施例の機能を実現するソフトウェアのプログラムコードを、ネットワークを介して配信することによって、それをコンピュータのハードディスクやメモリ等の記憶手段又はＣＤ－ＲＷ、ＣＤ－Ｒ等の記憶媒体に格納し、コンピュータが備えるプロセッサが当該記憶手段や当該記憶媒体に格納されたプログラムコードを読み出して実行するようにしてもよい。

上述の実施例において、制御線や情報線は、説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。全ての構成が相互に接続されていてもよい。

１００ 計算機
１０１ 端末
１０２ ネットワーク
２０１ プロセッサ
２０２ 主記憶装置
２０３ 副記憶装置
２０４ ネットワークインタフェース
２０５ 入力装置
２０６ 出力装置
１１０ 予測器
１２０ 寄与値算出部
１２１ 比較対象データ選択部
１２２ 比較対象データ管理情報
１３０ 解釈要因選択部
１３１ 結果出力部
１４００ 変換情報生成部
１４０１ 候補解釈要因生成部
１４０２ 変換表生成部
１３２ 解釈要因変換情報
１５２ 領域分割情報
６１０ 解釈情報
６２０ 表示情報
１４１０ 中間計算データ管理情報
１５２０ 領域分割情報
１５３０ 候補解釈要因情報
３００ 評価対象データ
３１０ 出力データ
４００ 比較対象データ
６００ 寄与値データ
１１００ 中間データ
１５００ 生成用データ
１５１０ 中間計算データ
９００ 入力画面
１３００ 結果出力画面
２１００ 設定画面
２２００ 分割条件詳細設定画面
２３００ 確認画面
２９００ 統合条件設定画面
３０００ 統合確認画面

Claims (8)

1. 計算機システムであって、
   プロセッサ及び前記プロセッサに接続されるメモリを有する少なくとも一つの計算機を備え、
   対象の状態を示す複数の特徴量の値を含む入力データに基づいて当該対象の事象の予測を行うためのモデル情報と、
   前記入力データに含まれる複数の特徴量の各々の値、及び前記入力データに含まれる複数の特徴量の各々の値の、前記特徴量の値の前記入力データに対する予測結果への寄与の大きさを示す第一評価値により定まり、前記入力データに対する予測結果の根拠を解釈するための解釈要因を管理するための解釈要因変換情報と、を保持し、
   前記解釈要因変換情報は、前記入力データに含まれる複数の特徴量ごとに、前記入力データに含まれる特徴量の値の領域及び前記入力データに含まれる特徴量の第一評価値の領域の組と、前記解釈要因との対応づけを管理するための変換データを格納し、
   前記プロセッサは、
   評価すべき前記入力データである評価対象データが入力された場合、前記モデル情報に基づいて前記評価対象データに対する予測結果を算出し、
   前記評価対象データに含まれる複数の特徴量の各々の第一評価値を算出し、
   前記評価対象データに含まれる複数の特徴量の各々について、前記解釈要因変換情報に格納される前記変換データを参照して、前記評価対象データに含まれる一つの特徴量の値が含まれる領域及び前記評価対象データに含まれる一つの特徴量の第一評価値が含まれる領域の組に対応づけられている前記解釈要因を特定し、
   前記特定された解釈要因を提示するための表示情報を生成し、前記表示情報を出力することを特徴とする計算機システム。
2. 請求項１に記載の計算機システムであって、
   前記プロセッサは、
   前記入力データに含まれる複数の特徴量の各々の値の領域及び前記入力データに含まれる複数の特徴量の各々の第一評価値の領域を定義する領域分割情報を取得し、
   前記解釈要因変換情報を生成するための前記入力データである生成用データを取得し、
   前記生成用データの予測結果、及び前記生成用データに含まれる複数の特徴量の各々の第一評価値を算出し、
   前記入力データに含まれる複数の特徴量の部分集合を生成し、
   前記部分集合からターゲット部分集合を選択し、
   前記生成用データに含まれ、前記ターゲット部分集合の要素である複数の特徴量の値の組合せの前記生成用データに対する予測結果への寄与の大きさを示す第二評価値を算出し、
   前記第二評価値が閾値より大きい場合、前記生成用データに含まれ、前記ターゲット部分集合の要素である複数の特徴量の各々の値について、前記領域分割情報に基づいて、前記ターゲット部分集合の要素である特徴量の値が含まれる領域を特定し、前記生成用データに含まれ、前記ターゲット部分集合の要素である複数の特徴量の各々の第一評価値について、前記領域分割情報に基づいて、前記ターゲット部分集合の要素である特徴量の第一評価値が含まれる領域を特定し、
   前記ターゲット部分集合の要素である複数の特徴量の値の特定された領域及び前記ターゲット部分集合の要素である複数の特徴量の第一評価値の特定された領域の組を要素とする集合を候補変換データとして生成し、
   前記候補変換データに対する前記解釈要因の設定を受け付け、
   前記候補変換データに含まれる複数の特徴量の各々について、前記候補変換データに含まれる特徴量の値の領域及び前記候補変換データに含まれる特徴量の第一評価値の領域の組と、受け付けた前記解釈要因との対応づけを行うことによって前記変換データを生成し、前記解釈要因変換情報に格納することを特徴とする計算機システム。
3. 請求項２に記載の計算機システムであって、
   前記プロセッサは、
   複数の前記候補変換データを統合するための条件を定義した統合条件情報を取得し、
   前記統合条件情報に基づいて、統合可能な前記複数の候補変換データを特定し、
   前記特定された複数の候補変換データを統合し、
   前記変換データの生成時に、前記統合された複数の候補変換データの各々に含まれる複数の特徴量の各々について、前記候補変換データに含まれる特徴量の値の領域及び前記候補変換データに含まれる特徴量の第一評価値の領域の組と、同一の前記解釈要因との対応づけを行うことを特徴とする計算機システム。
4. 請求項３に記載の計算機システムであって、
   前記統合条件情報は、前記候補変換データ間の類似性を示す指標の種類及び閾値を含み、
   前記プロセッサは、
   前記候補変換データ間の前記指標を算出し、
   前記指標及び前記閾値の比較結果に基づいて、前記統合可能な複数の候補変換データを特定することを特徴とする計算機システム。
5. 計算機システムが実行する、入力データに対して行われた予測の予測結果の根拠に関する情報の提示方法であって、
   前記計算機システムは、
   プロセッサ及び前記プロセッサに接続されるメモリを有する少なくとも一つの計算機を備え、
   対象の状態を示す複数の特徴量の値を含む入力データに基づいて当該対象の事象の予測を行うためのモデル情報と、前記入力データに含まれる複数の特徴量の各々の値、及び前記入力データに含まれる複数の特徴量の各々の値の、前記特徴量の値の前記入力データに対する予測結果への寄与の大きさを示す第一評価値により定まり、前記入力データに対する予測結果の根拠を解釈するための解釈要因を管理するための解釈要因変換情報と、を保持し、
   前記解釈要因変換情報は、前記入力データに含まれる複数の特徴量ごとに、前記入力データに含まれる特徴量の値の領域及び前記入力データに含まれる特徴量の第一評価値の領域の組と、前記解釈要因との対応づけを管理するための変換データを格納し、
   前記情報の提示方法は、
   前記プロセッサが、評価すべき前記入力データである評価対象データが入力された場合、前記モデル情報に基づいて前記評価対象データに対する予測結果を算出する第１のステップと、
   前記プロセッサが、前記評価対象データに含まれる複数の特徴量の各々の第一評価値を算出する第２のステップと、
   前記プロセッサが、前記評価対象データに含まれる複数の特徴量の各々について、前記解釈要因変換情報に格納される前記変換データを参照して、前記評価対象データに含まれる一つの特徴量の値が含まれる領域及び前記評価対象データに含まれる一つの特徴量の第一評価値が含まれる領域の組に対応づけられている前記解釈要因を特定する第３のステップ、
   前記プロセッサが、前記特定された解釈要因を提示するための表示情報を生成し、前記表示情報を出力する第４のステップと、を含むことを特徴とする情報の提示方法。
6. 請求項５に記載の情報の提示方法であって、
   前記プロセッサが、前記入力データに含まれる複数の特徴量の各々の値の領域及び前記入力データに含まれる複数の特徴量の各々の第一評価値の領域を定義する領域分割情報を取得する第５のステップと、
   前記プロセッサが、前記解釈要因変換情報を生成するための前記入力データである生成用データを取得する第６のステップと、
   前記プロセッサが、前記生成用データの予測結果、及び前記生成用データに含まれる複数の特徴量の各々の第一評価値を算出する第７のステップと、
   前記プロセッサが、前記入力データに含まれる複数の特徴量の部分集合を生成する第８のステップと、
   前記プロセッサが、前記部分集合からターゲット部分集合を選択する第９のステップと、
   前記プロセッサが、前記生成用データに含まれ、前記ターゲット部分集合の要素である複数の特徴量の値の組合せの前記生成用データに対する予測結果への寄与の大きさを示す第二評価値を算出する第１０のステップと、
   前記プロセッサが、前記第二評価値が閾値より大きい場合、前記生成用データに含まれ、前記ターゲット部分集合の要素である複数の特徴量の各々の値について、前記領域分割情報に基づいて、前記ターゲット部分集合の要素である特徴量の値が含まれる領域を特定し、前記生成用データに含まれ、前記ターゲット部分集合の要素である複数の特徴量の各々の第一評価値について、前記領域分割情報に基づいて、前記ターゲット部分集合の要素である特徴量の第一評価値が含まれる領域を特定する第１１のステップと、
   前記プロセッサが、前記ターゲット部分集合の要素である特徴量の値の特定された領域及び前記ターゲット部分集合の要素である特徴量の第一評価値の特定された領域の組を要素とする集合を候補変換データとして生成する第１２のステップと、
   前記プロセッサが、前記候補変換データに対する前記解釈要因の設定を受け付ける第１３のステップと、
   前記プロセッサが、前記候補変換データに含まれる複数の特徴量の各々について、前記候補変換データに含まれる特徴量の値の領域及び前記候補変換データに含まれる特徴量の第一評価値の領域の組と、受け付けた前記解釈要因との対応づけを行うことによって前記変換データを生成し、前記解釈要因変換情報に格納する第１４のステップと、を含むことを特徴とする情報の提示方法。
7. 請求項６に記載の情報の提示方法であって、
   前記第１２のステップは、
   前記プロセッサが、複数の前記候補変換データを統合するための条件を定義した統合条件情報を取得するステップと、
   前記プロセッサが、前記統合条件情報に基づいて、統合可能な前記複数の候補変換データを特定するステップと、
   前記プロセッサが、前記特定された複数の候補変換データを統合するステップと、を含み、
   前記第１４のステップは、前記プロセッサが、前記統合された複数の候補変換データの各々に含まれる複数の特徴量の各々について、前記候補変換データに含まれる特徴量の値の領域及び前記候補変換データに含まれる特徴量の第一評価値の領域の組と、同一の前記解釈要因との対応づけを行うステップを含むことを特徴とする情報の提示方法。
8. 請求項７に記載の情報の提示方法であって、
   前記統合条件情報は、前記候補変換データ間の類似性を示す指標の種類及び閾値を含み、
   前記情報の提示方法は、
   前記プロセッサが、前記候補変換データ間の前記指標を算出するステップと、
   前記プロセッサが、前記指標及び前記閾値の比較結果に基づいて、前記統合可能な複数の候補変換データを特定するステップと、を含むことを特徴とする情報の提示方法。

Images