JP2019125240A - 分析装置および分析方法 - Google Patents

Abstract

【課題】機械学習による予測に寄与した特徴量とクリニカルパスウェイとの関連について解釈可能性の向上を図ること。【解決手段】分析装置は、患者の第１特徴項目に関する第１入力データと、診療行為の工程に関するクリニカルパスウェイ内の予測対象への遷移条件を規定する第２特徴項目と、医学的用語間の関連性を示すクリニカルターミノロジーと、に基づいて、第１特徴項目の重みを有する第２入力データを生成する生成部と、第１入力データと、生成部によって生成された第２入力データと、を与えると、クリニカルパスウェイ内の予測対象に対する予測結果と、第１特徴項目の重要度と、を出力するニューラルネットワークと、ニューラルネットワークから出力された予測結果および重要度に基づいて、クリニカルパスウェイを編集する編集部と、編集部によって編集された編集結果を出力する出力部とを有する。【選択図】図１

Description

本発明は、コンピュータアーキテクチャに関する。

診療に関する患者への介入行為時には、医師は、診療ガイドラインなどの医学的コンセンサス情報や自身の経験に基づき介入要否ないし介入方法を決定する。診療ガイドラインはエビデンスレベルが高く、医師が診療行為を行うに際し根拠となる。しかし、ガイドラインに基づいて実運用するには境界条件が曖昧なことが多い。このため、ガイドラインに基づく実運用は、個々の医師の解釈や判断に大きく依存する。

一方、機械学習や所謂ＡＩ（Ａｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ）に基づき意思決定支援をするようなソフトウェアを用いる場合がある。この場合、データに記録された患者毎の特徴（たとえば、年齢や体重などの基本情報、検査値や罹患疾病などの診療情報）に応じて、推奨される介入行為が変化する。

特許文献１は、蓄積された診療記録を分析し、クリニカルパスを作成・修正および記憶する機能を備えたクリニカルパス分析環境と、蓄積されたクリニカルパスから患者状態等に応じた最適クリニカルパス選択機能と、を有し、クリニカルパス分析環境は、診療プロセス評価機能とクリニカルパス評価機能を備えるクリニカルパス運用支援情報システムを開示する。

また、特許文献２は、第１のユーザ入力に基づき、ガイドライングラフをロード及び表示するステップと、上記ガイドライングラフの所望の部分を選択する第２のユーザ入力を受信するステップと、上記ガイドライングラフの上記所望の部分を含むサブグラフをロード及び表示するため、上記第２のユーザ入力を処理するステップとに関するシステム及び方法を開示する。

また、特許文献３は、患者を治療する際にガイダンスを提供する実行可能な臨床実務ガイドラインを実行するシステム及び方法を開示する。当該システムは、複数の実行可能な臨床実務ガイドラインを記憶するガイドラインリポジトリと、前記患者及び前記患者の治療の少なくとも１つに関連付けられた臨床状況データを入力する少なくとも１つのインターフェースと、ディスプレイとを含む。当該システムのサーバは、前記臨床状況データを受信すると、自動的に適切な臨床実務ガイドラインを選択し、前記ディスプレイ上で視覚的ナビゲータを用いて前記ガイドラインを表示する。前記サーバは、自動的に現在の抽出レベルで前記ガイドラインを提供し、また前記現在の抽出レベルを規定する視覚的ナビゲータを前記ユーザに提供する。代わりに、ユーザがＵＩを介して手動で選択することにより生成された信号を受信すると、前記ガイドライン及び前記ガイドラインの抽出レベルが表示される。前記抽出レベルは、手動及び自動モードの両方でユーザ入力により変更されることができる。

また、特許文献４は、少なくとも1人の患者の１つまたは複数の臨床経路およびリソース要件を予測するためのシステムを開示する。このシステムは、患者診断データに関する入力を受信するための入力モジュールを備え、患者診断データは、患者の診断中に識別された情報を含む。このシステムはまた、患者データおよび既存の臨床経路のうちの少なくとも1つを含むデータを格納するリポジトリを含む。患者データは、入力モジュールから受信した患者診断データの少なくとも1つを含み、患者の過去の治療データと、患者の人口統計的な詳細を含む患者の人口統計データとを含む患者履歴データを含む。このシステムはまた、患者データおよび既存の臨床経路上に所定の分析モデルを適用することによって臨床経路を予測するための臨床経路予測モジュールを備える。このシステムは、患者のリソース要件を予測するためのリソース要件予測モジュールをさらに備える。

また、特許文献５は、医療従事者が症状を診断し、治療または検査を処方するための臨床経路と呼ばれるプロセスを管理し、医師または他のヘルスケア専門家が、ビジネスルールによって接続されたネットワーク内の球体としてプログラムされた臨床経路を使用して、意思決定および患者ケアに集中することを可能にする臨床経路システムを開示する。

また、特許文献６は、情報処理装置において蓄積されている中から業務フローを検索する際に、検索条件とする業務フローの入力を受け付け、記憶部から検索対象とする業務フローを取得し、検索条件および検索対象の業務フローのそれぞれに含まれる個々のタスクと該個々のタスクを行なうアクタとの組合せのそれぞれの一致度に基づいて、検索条件とした業務フローに対する比較した業務フローの類似度を算出し、算出した個々の類似度に基づいて、検索結果を提示する業務フロー検索装置を開示する。

また、特許文献７は、検索対象となるＸＭＬ文書集合を分析し、ＸＭＬ文書の構造情報に基づくＤＯＭ木の形状を格納する数列と、ＤＯＭ木の各ノードに対応する構造パスの種類を記録する１つ以上の数列からなる数列群とを作成し、数列と数列群を走査することにより、検索クエリである構造パスに合致する箇所を計算するＸＭＬ文書検索装置を開示する。

また、特許文献８は、第１のデータ管理操作のための第１のヘルスケア・パーティシパントの第１組のコンプライアンス・ポリシーを定義する、第１のデータ管理操作のための第１のデータ管理プロセスを呼び出し、第１組のコンプライアンス・ポリシーとは異なる、第１のデータ管理操作のための第２のヘルスケア・パーティシパントの第２組のコンプライアンス・ポリシーを定義する、第１のデータ管理操作のための第２のデータ管理プロセスを呼び出す電子カルテシステムを開示する。

入力データから出力データを予測する手法として、パーセプトロンと呼ばれる手法がある。パーセプトロンは、入力となる特徴量ベクトルと、重みベクトルの線形結合の演算結果により予測値を出力する。ニューラルネットワークは、別名、マルチパーセプトロンとも呼ばれ、複数のパーセプトロンを多層的に重ねることで、線形分離不可能問題を解く能力をもたせた技術であり、１９８０年代に登場した。２０１２年頃から、ドロップアウト等の新しい技術を導入したニューラルネットワークはｄｅｅｐ ｌｅａｒｎｉｎｇと呼ばれている。

機械学習分野では、特徴量ベクトルから得られた予測値と実際の値（真値）の誤差が最小となるように、学習パラメータ（パーセプトロンにおける重みベクトル等）を計算することを学習と呼ぶ。学習のプロセスが完了すると、学習に用いなかったデータ（以降、テストデータと呼ぶ）から新しい予測値を計算することができる。パーセプトロンでは、重みベクトルの各要素値の大きさが、予測に寄与した因子の重要度として用いられている。

一方、ｄｅｅｐ ｌｅａｒｎｉｎｇを含むニューラルネットワークにおいては、特徴量ベクトルの各要素はパーセプトロンを通過するたびに、他の要素と重み付き積和演算が実施されることから、各要素単体での重要度を知ることは原理的に困難である。

非特許文献１の手法は、特徴量の重要度を算出する機能を持たないｄｅｅｐ ｌｅａｒｎｉｎｇなどの機械学習手法の識別結果を説明できるように、新たに線形回帰を学習させる手法である。また、ロジスティック回帰はパーセプトロンと等価な機械学習モデルであり、あらゆる分野で最も広く用いられている。たとえば、下記非特許文献２の１１９ページに示されるロジスティック回帰は、データサンプル全体について特徴量の重要度を算出する機能を持つ。

特開２００８−４７１５４号公報 特表２０１３−５１３８４７号公報 特表２００８−５１４３３４号公報 米国特許第８７４４８７０号公報 米国特許公開２０１２／０３１０６６７号公報 特開２０１２−２４３２６８号公報 特開２０１３−１７５０５３号公報 特開２０１７−１６８１２９号公報

Ribeiro, Marco Tulio, Sameer Singh, and Carlos Guestrin. "Why should I trust you ?: Explaining the predictions of any classifier." Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. ACM, 2016. Friedman J, Trevor H, Robert T. The elements of statistical learning. second edition. New York: Springer series in statistics, 2001.

しかしながら、機械学習は一般には所謂ブラックボックスである。非特許文献１の手法は、線形回帰で後付け的に説明を試みているにすぎず、ｄｅｅｐ ｌｅａｒｎｉｎｇが予測する際に利用している特徴量の重要度を完全に算出できる数学的な保証はない。また、完全に線形回帰がｄｅｅｐ ｌｅａｒｎｉｎｇと同一の予測精度を達成できるならば、もはや、最初のｄｅｅｐ ｌｅａｒｎｉｎｇ自体が必要ではなくなり、手法の構成概念には矛盾がある。また、ロジスティック回帰は、データサンプル個々についての特徴量の重要度を算出する機能を持たない。

このため、機械学習モデルの予測結果と診療ガイドラインなどの医学的エビデンスに基づいた診療行為の選択基準（クリニカルパスウェイ）との関連性は不明である。したがって、予測結果と選択基準とを結び付けて解釈することは困難である。たとえば、データに記録された患者毎の特徴（たとえば、年齢や体重などの基本情報、検査値や罹患疾病などの診療情報）に応じて、推奨される介入行為が変化するが、推奨介入行為が推奨される根拠を医師に提示することは容易ではない。

本発明は、上記に鑑みてなされたものであって、機械学習による予測に寄与した特徴量とクリニカルパスウェイとの関連性の解釈可能性の向上を図ることを目的とする。

本願において開示される発明の一側面となる分析装置は、患者の第１特徴項目に関する第１入力データと、診療行為の工程に関するクリニカルパスウェイ内の予測対象への遷移条件を規定する第２特徴項目と、医学的用語間の関連性を示すクリニカルターミノロジーと、に基づいて、前記第１特徴項目の重みを設定した第２入力データを生成する生成部と、前記第１入力データと、前記生成部によって生成された第２入力データと、を与えると、前記クリニカルパスウェイ内の予測対象に対する予測結果と、前記第１特徴項目の重要度と、を出力するニューラルネットワークと、前記ニューラルネットワークから出力された予測結果および重要度に基づいて、前記クリニカルパスウェイを編集する編集部と、前記編集部によって編集された編集結果を出力する出力部と、を有することを特徴とする。

本発明の代表的な実施の形態によれば、機械学習による予測に寄与した特徴量とクリニカルパスウェイとの関連について解釈可能性の向上を図ることができる。前述した以外の課題、構成及び効果は、以下の実施例の説明により明らかにされる。

図１は、クリニカルパスウェイの更新例を示す説明図である。 図２は、特徴量ベクトルの再配置例を示す説明図である。 図３は、分析システムのシステム構成例を示すブロック図である。 図４は、本実施例にかかるニューラルネットワークの構造例を示す説明図である。 図５は、ニューラルネットワークの機能的構成例を示すブロック図である。 図６は、ニューラルネットワークによる学習処理および予測処理手順例を示すフローチャートである。 図７は、分析装置の機能的構成例を示すブロック図である。 図８は、説明可能ベクトル生成部による説明可能ベクトルの生成処理例を示す説明図である。 図９は、分析装置による分析シーケンス例を示すシーケンス図である。 図１０は、説明付きクリニカルパスウェイを表示する画面例（ケース１）を示す説明図である。 図１１は、説明付きクリニカルパスウェイを表示する画面例（ケース２）を示す説明図である。 図１２は、説明付きクリニカルパスウェイを表示する画面例（ケース３）を示す説明図である。 図１３は、説明付きクリニカルパスウェイを表示する画面例（ケース４）を示す説明図である。 図１４は、説明付きクリニカルパスウェイを表示する画面例（ケース５）を示す説明図である。

本実施例では、機械学習の予測モデルを用いてその予測結果を出力するに際し、重視した特徴量を可視化することで、予測に寄与した特徴量とクリニカルパスウェイとの関連性の解釈可能性が向上し、機械学習モデルの診療業務への導入が容易になる。すなわち、精度の高い予測結果の理由や根拠といった医師が納得するための情報提示が可能となる。

また、医学論文などの医学的エビデンスの蓄積には時間がかかるため、従来のクリニカルパスウェイの情報更新は時間がかかったが、本実施例により、機械学習予測モデルの予測結果との関連性に説明がつきやすくなるため、従来型医学的エビデンスに加え実際の臨床データに基づくクリニカルパスウェイの情報更新による、更新速度の高速化を促進することができる。したがって、クリニカルパスウェイの信頼性の向上を図ることができる。

なお、クリニカルパスウェイ（クリニカルパスともいう）とは、診療ガイドラインなどの診療行為の工程（選択基準ともいう）に関する情報であり、たとえば、診療の順序であったり、疾病の進行順序などがある。本実施例のクリニカルパスはコンピュータに読み取り可能な情報（たとえば、フローや表など文字列を含む図形データ、文章を示すテキストデータ）とする。

＜クリニカルパスウェイの更新例＞
図１は、クリニカルパスウェイの更新例を示す説明図である。クリニカルパスウェイＣＰの更新例は、ニューラルネットワークＮＮの選択１０１、特徴量ベクトルＸ_ｎの生成１０２、説明可能ベクトルｚ_ｎの生成１０３、選択ニューラルネットワークＮＮでの予測１０４、クリニカルパスウェイＣＰの編集１０５により実行され、説明付きクリニカルパスウェイＣＰｅが生成、表示される。なお、本例では、クリニカルパスウェイＣＰの予測起点のノードＰ１からノードＰ３ｂを経由してノードＰ４ａに到達する診療経路において、において予測対象モデルＰＴＭ内の予測対象のノードＰ２ａ，Ｐ２ｂ，Ｐ２ｃのいずれが最適な経路かを予測するものとする。

ニューラルネットワークＮＮの選択１０１では、モデルパラメータＭＰを参照して、ニューラルネットワーク群ＮＮｓから予測対象モデルＰＴＭの予測に適したニューラルネットワークＮＮが選択される。一般に、ニューラルネットワークは、入力層と、出力層と、入力層と出力層との間において前段の層からのデータと学習パラメータとを活性化関数に与えて計算して後段の層に計算結果を出力する1層以上の中間層と、により構成される。

通常のニューラルネットワークでは、予測結果のみが出力されるが、本実施例のニューラルネットワークＮＮは、予測結果のほか、特徴項目（以下、単に「項目」）の重要度も出力される。ニューラルネットワーク群ＮＮｓの各ニューラルネットワークＮＮは、たとえば、予測対象モデルＰＴＭごとに存在し、教師有り学習により教師データ（訓練データ）が与えられることで、学習モデルが構築されているものとする。

モデルパラメータＭＰは、予測対象モデルＰＴＭおよび予測パラメータを含む情報である。予測対象モデルＰＴＭとは、予測起点となるノードから予測対象となるノードまでの診療経路である。たとえば、図１に示す予測対象モデルＰＴＭは、症状Ｐ１が予測起点、治療法Ｐ２ａ〜Ｐ２ｄが予測対象である。予測パラメータは予測対象の取捨選択追加などの編集情報や予測対象の順位付け方法などを設定するためのパラメータである。

具体的には、たとえば、予測対象モデルＰＴＭは、症状Ｐ１の場合に、その患者の検査結果がＥ＞ｘ［ｍｇ］であれば、治療法Ｐ２ａが適するとされ、Ｅ≦ｘ［ｍｇ］でかつＡ≧ｙ［％］であれば治療法Ｐ２ｂが適するとされ、Ｃ＜ｚ［ｍｍｏｌ／ｍｌ］であれば治療法Ｐ２ｃが適するとされることとを示す診療経路とする。なお、予測起点と予測対象との間の経路上に非予測対象のノードが存在してもよい。

この、『Ｅ＞ｘ［ｍｇ］』、『Ｅ≦ｘ［ｍｇ］でかつＡ≧ｙ［％］』、および『Ｃ＜ｚ［ｍｍｏｌ／ｍｌ］』がクリニカルパスウェイ分岐条件である。クリニカルパスウェイ分岐条件は、たとえば、診療経路上のノードの分岐条件となる。クリニカルパスウェイ分岐条件には、このほか、患者の個人情報を指定する情報（たとえば、年齢や性別）が含まれていてもよい。

また、モデルパラメータＭＰは、予測対象モデルＰＴＭには存在しない予測対象を追加することができる。たとえば、クリニカルパスウェイＣＰの予測対象モデルＰＴＭに治療法Ｐ２ｄが含まれていないが、最新の論文や実際の臨床データにおいて治療法Ｐ２ｄが適する可能性がある場合、追加の予測対象として治療法Ｐ２ｄをモデルパラメータＭＰに含めることができる。このように、クリニカルパスウェイＣＰの更新遅延にも対応することが可能となる。

特徴量ベクトルＸ_ｎの生成１０２では、患者の特徴を示す特徴量ベクトルＸ_ｎが生成される。特徴量ベクトルＸ_ｎは、選択ニューラルネットワークＮＮに与えられるベクトルであり、診療ＤＢ１００から抽出された患者データにより生成される。診療ＤＢ１００とは、患者ごとの電子カルテを記憶するデータベースである。したがって、特徴量ベクトルＸ_ｎの特徴量を示す要素となる「項目」には、患者の年齢、性別、血液型といった個人情報や、疾病や外傷の種類、治療や手術、検査の種類、投与した薬剤、診断画像、費用などがある。「値」は「項目」を示す値である。「単位」は、「値」を数値で表すための基準である。

たとえば、「項目」が「投与した薬剤」である場合、その投与量が「０．８７９［ｍｇ］」であれば、「０．８７９」が「値」となり、「［ｍｇ］」が単位となる。なお、特徴量ベクトルが「値」についての１次元列ベクトルである場合、「値」の位置により、「項目」および「単位」が確定するものとする。

説明可能ベクトルｚ_ｎの生成１０３では、特徴量ベクトルＸ_ｎ、予測対象モデルＰＴＭ、およびクリニカルターミノロジーＣＴを用いて、説明可能ベクトルｚ_ｎが生成される。説明可能ベクトルｚ_ｎとは、特徴ベクトルＸ_ｎの項目の重要性を説明するためのベクトルであり、特徴ベクトルＸ_ｎとともにニューラルネットワークＮＮに与えられる。「重み」は、「関連項目」との関連性の高さを示す値である。本実施例では、「重み」は、０以上、１以下の範囲の値であり、値が高いほど関連性が高いことを示す。「関連項目」とは、クリニカルターミノロジーＣＴにおいて「項目」に関連する項目である。

「関連項目」は、説明可能ベクトルｚ_ｎの生成１０２において、クリニカルターミノロジーＣＴを参照することにより得られる。クリニカルターミノロジーＣＴとは、医学的用語およびそれらの関連性を示す情報であり、たとえば、医学的用語をノード、関連性をリンクとするネットワーク情報である。リンクは、当該リンクの両端の医学的用語間の関連性を示す。関連性は、たとえば、リンク長により表現される。リンク長が短いほど関連度が高いことを示す。Ａ，Ｃ，Ｅのように、「項目」が予測対象モデルＰＴＭに含まれ、かつ、「関連項目」と一致すれば、重みは最高値の「１」となる。「項目」が予測対象モデルＰＴＭに含まれていない場合、予測対象モデルＰＴＭの「項目」までのリンク長の逆数が重みとなる。

選択ニューラルネットワークＮＮでの予測１０４では、選択ニューラルネットワークＮＮに特徴量ベクトルＸｎおよび説明可能ベクトルｚ_ｎを与えることで、予測結果および項目の重要度が算出される。予測結果は、たとえば、予測対象Ｐ２ａ〜Ｐ２ｃになる確率である。

モデルパラメータＭＰに追加の予測対象Ｐ２ｄが含まれている場合、予測対象Ｐ２ｄになる確率も予測結果として算出される。項目の重要度は、特徴量ベクトルＸ_ｎの各項目の重要度であり、本例では値が高いほど重要性が高いことを示す。そして、項目の重要度は、どの項目が最も確率が高い予測結果に寄与するかを示す。

クリニカルパスウェイＣＰの編集１０５では、予測結果および項目の重要度を用いてクリニカルパスウェイＣＰが編集される。たとえば、予測対象モデルＰＴＭには存在せず、モデルパラメータＭＰにより追加された予測対象である治療法Ｐ２ｄが最高確率である場合、Ｐ１とＰ２ｄを接続するリンク（遷移）ＬＫａと、Ｐ２ｄとＰ３ｂを接続するリンクＬＫｂとが生成される。

また、リンクＬＫａと説明情報１１０がリンクＬＫｘで関連付けられる。説明情報１１０は、予測結果および項目の重要度を含む情報である。本例の場合、説明情報１１０は、予測起点Ｐ１から予測対象Ｐ２ａ〜Ｐ２ｃではなく追加の予測対象Ｐ２ｄに遷移する根拠となる。これにより、クリニカルパスウェイＣＰに説明情報１１０が関連付けされた説明付きクリニカルパスウェイＣＰｅが得られる。説明付きクリニカルパスウェイＣＰｅは、たとえば、モニタに表示される。

このように、機械学習の予測モデルにおいてその予測結果を出力するに際し、重要度の高い項目を可視化することで、予測に寄与した項目とクリニカルパスウェイＣＰとの関連性の解釈可能性の向上を図ることができ、機械学習の診療業務への導入を容易にすることができる。したがって、精度の高い予測結果の理由や根拠といった医師が納得するための情報提示が可能となる。

＜特徴量ベクトルＸ_ｎの再配置例＞
ＡＩは、線形分離不可能問題を解く能力を持つが、ＡＩが、どうしてそのような判断をしたかが不明である。特に、ｄｅｅｐ ｌｅａｒｎｉｎｇなどの機械学習手法は、予測精度は高いが説明能力が低い。たとえば、ある患者に対して「風邪をひきやすい」という診断結果をＡＩが出力した場合、医師は、ＡＩがなぜそのような結果を得たかを答えることができない。もし、ＡＩがその原因まで判断できれば、医師は、患者に対して適切な治療をおこなうことがきる。

図２は、特徴量ベクトルの再配置例を示す説明図である。（Ａ）特徴量空間ＳＰ１には、複数の特徴量ベクトルｘ_ｎ（ｎ＝１，２，…，Ｎ。Ｎは、たとえば、患者数）が存在する。複数の特徴量ベクトルｘ_ｎは、たとえば、非線形の予測モデルＰＭ１により正解ラベルＬａ，Ｌｂに識別される。（Ｂ）特徴量空間ＳＰ２には、複数の特徴量ベクトルｘ_ｎが存在する。複数の特徴量ベクトルｘ_ｎは、たとえば、線形の予測モデルＰＭ２により正解ラベルＬａ，Ｌｂに識別される。

（Ａ）ｄｅｅｐ ｌｅａｒｎｉｎｇなどの機械学習手法は、識別結果である予測モデルＰＭ１を説明するため、新たに線形回帰を学習する。具体的には、たとえば、この機械学習手法は、予測モデルＰＭ１を求めた後に局所的に直線近似するという後付け的な処理を実行する。しかしながら、このような後付け的な処理では、直線近似された予測モデルＰＭ１の局所部分が、特徴量ベクトルｘ_ｎを正しく説明できるかが不明である。また、何より、直線近似というロジスティック回帰を実行するため、都合２回の機械学習を実行する必要がある。

（Ｂ）の予測モデルＰＭ２は線形であるため、その傾きを参照すれば、特徴量ベクトルｘ_ｎが特徴量空間ＳＰ２内のどのパラメータで重みづけされているがわかり、特徴量ベクトルｘ_ｎを正しく説明することができる。本実施例では、複数の特徴量ベクトルｘ_ｎについて、（Ａ）のように非線形な予測モデルＰＭ１を求めることなく、特徴量空間ＳＰ１の複数の特徴量ベクトルｘ_ｎを、他の特徴量空間ＳＰ２に再配置する。これにより、線形な予測モデルＰＭ２が得られるため、特徴量ベクトルｘ_ｎが特徴量空間ＳＰ２内のどのパラメータで重みづけされているがわかり、その重要度に応じて特徴量ベクトルｘ_ｎを正しく説明することができる。

すなわち、ユーザは特徴量ベクトルｘ_ｎのあるサンプルごとに（例えば、患者ごとに）、特徴量ｘ_ｎに内包されるどの因子（特徴）が予測結果に寄与しているかが分かるため、どうしてそのような予測結果になったのかという説明がしやすくなる。したがって、機械学習における説明能力の向上を図ることができる。上記の例でいえば、ある患者に対して「治療法Ｐ２ｄを発症」という診断結果をＡＩがなぜ出力したか（たとえば、項目Ｅの値（検査結果）が異常に高いからなど）、が分かることになる。また、（Ａ）のように機械学習を２回も実行する必要がないため、機械学習の効率化も図ることができる。したがって、上記のような説明を迅速に提供することができる。

＜システム構成例＞
図３は、分析システムのシステム構成例を示すブロック図である。図３では、サーバ−クライアント型の分析システム３を例に挙げて説明するが、スタンドアロン型でもよい。（Ａ）は、分析システム３のハードウェア構成例を示すブロック図であり、（Ｂ）は、分析システム３の機能的構成例を示すブロック図である。（Ａ）および（Ｂ）において同一構成には同一符号を付す。

分析システム３は、クライアント端末３００とサーバである分析装置３２０とがネットワーク３１０で通信可能に接続される構成である。

（Ａ）において、クライアント端末３００は、補助記憶装置であるＨＤＤ（ｈａｒｄ ｄｉｓｋ ｄｒｉｖｅ）３０１、主記憶装置であるメモリ３０２、プロセッサ３０３、キーボードやマウスである入力装置３０４、モニタ３０５を有する。分析装置３２０は、補助記憶装置であるＨＤＤ３２１、主記憶装置であるメモリ３２２、プロセッサ３２３、キーボードやマウスである入力装置３２４、モニタ３２５を有する。なお、主記憶装置、補助記憶装置、および、図示しない可搬型の記憶媒体を総称して、記憶デバイスと称す。記憶デバイスは、ニューラルネットワークＮＮおよびこれらの学習パラメータ３６５を記憶する。

（Ｂ）において、クライアント端末３００は、クライアントデータベース（ＤＢ）３５１を有する。クライアントＤＢ３５１は、ＨＤＤ３０１やメモリ３０２などの記憶デバイスに格納される。クライアントＤＢ３５１には、テストデータ集合３５２と、予測結果３５３と、が格納される。テストデータ集合３５２は、テストデータの集合である。予測結果３５３は、予測部３６２からネットワーク３１０経由で得られたデータである。なお、サーバ−クライアント型の場合、クライアント端末３００は１台以上存在する。

分析装置３２０は、学習部３６１と、予測部３６２と、サーバデータベース（ＤＢ）３６３と、を有する。学習部３６１は、特徴量ベクトルｘ_ｎを訓練データとしてニューラルネットワークＮＮに与えて正解ラベルｔ_ｎと比較して誤差逆伝搬するという学習処理を実行し、学習パラメータ３６５を出力する機能部である。

予測部３６２は、学習パラメータ３６５を用いて、ニューラルネットワークＮＮを構築し、ニューラルネットワークＮＮにテストデータが与えられることで、予測処理を実行し、予測結果３５３をクライアント端末３００に出力する機能部である。学習部３６１および予測部３６２は、ＨＤＤ３２１、メモリ３２２などの記憶デバイスに記憶されたプログラムをプロセッサ３２３に実行させることによりその機能を実現する。

サーバＤＢ３６３は、訓練データ集合３６４と、学習パラメータ３６５と、を格納する。訓練データ集合３６４は、特徴量ベクトルｘ_ｎと、正解ラベルｔ_ｎと、を含む。学習パラメータ３６５は、学習部３６１からの出力データであり、後述する行列Ｗ^ｌ _Ｄ，行列Ｗ^ｌ _Ｒ，行列Ｗ^ｌ _Ｈ，行列Ｗ_Ａ、重みベクトルｗ_ｏを含む。なお、学習パラメータが設定されたニューラルネットワークを「予測モデル」と称す。

なお、分析装置３２０は複数台で構成されてもよい。たとえば、負荷分散のため、分析装置３２０が複数存在してもよい。また、分析装置３２０は、機能ごとに複数台で構成されてもよい。たとえば、学習部３６１およびサーバＤＢ３６３を含む第１のサーバと、予測部３６２およびサーバＤＢ３６３を含む第２のサーバとで構成されてもよい。また、また、学習部３６１および予測部３６２を含む第１分析装置と、サーバＤＢ３６３を含む第２分析装置とで構成されてもよい。また、学習部３６１を含む第１分析装置と、予測部３６２を含む第２分析装置と、サーバＤＢ３６３を含む第３分析装置とで構成されてもよい。

＜ニューラルネットワークの構造例＞
図４は、本実施例にかかるニューラルネットワークの構造例を示す説明図である。ニューラルネットワークＮＮは、データユニット群ＤＵと、レポーティングユニット群ＲＵと、ハーモナイジングユニット群ＨＵと、アテンションユニットＡＵと、リアロケーションユニットＲＡＵと、ユニファイユニットＵＵと、デシジョンユニットＤＣＵと、インポータンスユニットＩＵと、を有する。

データユニット群ＤＵは、複数のデータユニットＤＵｌ（ｌは、階層番号であり、１≦ｌ≦Ｌ。Ｌは最下層の階層番号であり、図４では、Ｌ＝４）を直列に接続した構成である。最上段であるｌ＝１のデータユニットＤＵ１は、ニューラルネットワークＮＮの入力層４０１であり、ｌ≦２のデータユニットＤＵｌは、ニューラルネットワークＮＮの中間層（隠れ層ともいう）に相当する。データユニットＤＵｌは、前段のデータユニットＤＵ（ｌ−１）からの出力データを入力して、自データユニットＤＵｌの学習パラメータを用いて計算して出力データを出力するパーセプトロンである。

ただし、データユニットＤＵ１は、学習部３６１による学習時に訓練データを保持する。ここで、訓練データは、たとえば、特徴量ベクトルｘ_ｎとその真値となる正解ラベルｔ_ｎとの組み合わせ｛ｘ_ｎ，ｔ_ｎ｝により構成されるサンプルデータである（ｎ＝１，２，…，Ｎ。Ｎは、たとえば、患者数）。特徴量ベクトルｘ_ｎは、項目数をｄ（ｄ≧１を満たす整数）とすると、ｄ次元のベクトルとして取り扱う。

正解ラベルｔ_ｎは、特徴量ベクトルｘ_ｎの種類数Ｋに対して、ｏｎｅｈｏｔ表現で種類を示すＫ次元のベクトルとしてもよい。ｏｎｅｈｏｔ表現では、ベクトルのある要素が特徴量ベクトルｘ_ｎの種類に対応しており、ただ１つの要素だけに１．０が格納され、他の要素は全て０．０である。１．０の要素に対応する種類が正解となる種類である。なお、Ｘ線、ＣＴ、ＭＲＩ、超音波等の医療用画像を特徴量ベクトルｘ_ｎとして入力とした場合、正解ラベルｔ_ｎは、疾病の種類や患者の予後（良いｏｒ悪い）を表す真値である。

ｘ_ｎ∈Ｒ^ｄ（Ｒ^ｄはｄ次元の実数）を、ｄ次元の実数Ｒ^ｄからなる特徴量ベクトルとする。データユニットＤＵ（ｌ＋１）を示す関数ｈ^ｌ＋１ _Ｄは、下記式（１）で表現される。

式（１）中、添え字ｌ（１≦ｌ≦Ｌを満たす整数。）は、階層番号を示す（以下の式も同様）。Ｌは１以上の整数であり、最深の階層番号を示す。右辺のｆ_Ｄ ^ｌは活性化関数である。活性化関数は、たとえば、シグモイド関数、双曲線正接関数（ｔａｎｈ関数）、ＲｅＬＵ（Ｒｅｃｔｉｆｉｅｄ Ｌｉｎｅａｒ Ｕｎｉｔ）関数など、様々な活性化関数を用いてよい。行列Ｗ^ｌ _Ｄは、データユニットＤＵｌの学習パラメータである。右辺のベクトルｈ^ｌ _Ｄは、データユニットＤＵｌに入力される入力ベクトル、すなわち、前段のデータユニットＤＵｌからの出力ベクトルである。なお、層数ｌ＝１である場合のデータユニットＤＵ１からの出力ベクトルｈ^１ _Ｄは、ｈ^１ _Ｄ＝ｘ_ｎとなる。

なお、データユニットＤＵ１は、予測部３６２におる予測時にテストデータとして、特徴量ベクトルｘ_ｎを保持する。

レポーティングユニットＲＵｌ（２≦ｌ≦Ｌ）は、同一階層のデータユニットＤＵｌからの出力ベクトルｈ^ｌ _Ｄを入力し、当該出力ベクトルｈ^ｌ _Ｄの次元数を縮約させる。レポーティングユニットＲＵｌを示す関数ｈ^ｌ _Ｒは、下記式（２）で表現される。

式（２）中、行列Ｗ^ｌ _Ｒは、レポーティングユニットＲＵｌの学習パラメータである。 式（２）により、データユニットＤＵｌからのｄ次元の出力ベクトルｈ^ｌ _Ｄは、ｍ次元の出力ベクトルｈ^ｌ _Ｒに縮約される。また、σは、シグモイド関数である。

ハーモナイジングユニットＨＵｌ（２≦ｌ≦Ｌ）は、中間層のデータユニットＤＵｌとリアロケーションユニットＲＡＵとの間に、中間層のデータユニットＤＵｌごとに設けられる。ハーモナイジングユニットＨＵｌは、中間層のデータユニットＤＵｌからの出力データの次元数を揃える変換を実施する。したがって、リアロケーションユニットＲＡＵには、ハーモナイジングユニットＨＵｌで、同一サイズの次元数のデータが入力される。

ハーモナイジングユニットＨＵｌは、同一階層のデータユニットＤＵｌからの出力ベクトルｈ^ｌ _Ｄを入力し、出力ベクトルｈ^ｌ _Ｄの次元数を同一サイズの次元数に変換する。ハーモナイジングユニットＨＵｌを示す関数ｈ^ｌ _Ｈは、下記式（３）で表現される。

式（３）中、行列Ｗ^ｌ _Ｈは、ハーモナイジングユニットＨＵｌの学習パラメータ３６５である。これにより、データユニットＤＵｌからのｄ次元の出力ベクトルｈ^ｌ _Ｄは、ｖ次元の出力ベクトルｈ^ｌ _Ｈに変換される。また、ｆ_Ｈは、活性化関数である。

アテンションユニットＡＵは、各レポーティングユニットＲＵｌからの出力ベクトルｈ^ｌ _Ｒを用いて、各データユニットＤＵｌの重みαを計算する。アテンションユニットＡＵを示す関数αは、下記式（４）で表現される。

式（４）中、行列Ｗ_Ａは、アテンションユニットＡＵの学習パラメータである。活性化関数の１つであるｓｏｆｔｍａｘ関数では、層数Ｌ（下記式（５）の例ではＬ＝４）に等しい次元のベクトルｈ_Ｒが計算される。下記式（５）に示すように、式（４）の右辺のベクトルｈ_Ｒは、ｈ^ｌ _Ｒを垂直方向にスタックしたベクトルである。

したがって、行列Ｗ_Ａは、Ｌ行Ｍ列（Ｍは、ベクトルｈ_Ｒの要素数）の行列となる。アテンションユニットＡＵにｓｏｆｔｍａｘ関数を採用することにより、層数Ｌのベクトルｈ_Ｒの各要素（全要素の和は１）は、対応するデータユニットＤＵｌの重みをあらわすことになる。

リアロケーションユニットＲＡＵは、ある特徴量空間の特徴量ベクトルｘ_ｎを他の特徴量空間に再配置する。具体的には、たとえば、図２に示したように、特徴量空間ＳＰ１上での特徴量ベクトル群により得られた予測モデルが非線形である場合、リアロケーションユニットＲＡＵは、特徴量空間ＳＰ２において線形な予測モデルが得られるように、特徴量ベクトル群を特徴量空間ＳＰ２に移し替える。リアロケーションユニットＲＡＵを示す関数ｈ^ｌ _Ｔは、下記式（６）で表現される。

関数ｆ_Ｔは、ベクトル同士のアダマール積や、要素加算などを用いることができる。本実施例では、アダマール積とする（下記式（７）を参照）。式（７）では、ハーモナイジングユニットＨＵｌからの出力ベクトルｈ^ｌ _Ｈと説明ベクトルｚ_ｎとのアダマール積となる。

ユニファイユニットＵＵは、リアロケーションユニットＲＡＵからの出力ベクトルｈ^ｌ _Ｔと、アテンションユニットＡＵからの出力ベクトルαとを統合する。すなわち、ユニファイユニットＵＵは、リアロケーションユニットＲＡＵからの出力ベクトルｈ^ｌ _Ｔを、アテンションユニットＡＵからの出力ベクトルαで重み付けする。ユニファイユニットＵＵを示す関数ｈ_Ｕは、下記式（８）で表現される。

式（８）中、右辺のα［ｋ］は、式（４）の出力ベクトルαのｋ次元目の要素（重み）を示す。

デシジョンユニットＤＣＵは、予測値ｙ_ｎを決定する。具体的には、たとえば、デシジョンユニットＤＣＵは、ユニファイユニットＵＵからの出力ベクトルｈ_Ｕに、学習パラメータ３６５の１つである重みベクトルｗ_ｏで重み付けして、シグモイド関数σに与えることにより、予測値ｙａ_ｎを得る。デシジョンユニットＤＣＵを示す関数ｙａ_ｎは、下記式（９）で表現される。式（９）中、ｗ_ｏ ^ｔのｔは、転置を意味する。

インポータンスユニットＩＵは、ニューラルネットワークＮＮの各層における特徴量についての項目の重要度を示す重要度ベクトルｓ^ｌ _ｎを算出する。インポータンスユニットＩＵを示す関数ｓ^ｌ _ｎは、下記式（１０）で表現される。

式（１０）中、右辺のα［ｌ］は、式（４）の出力ベクトルαのｌ階層目の要素（重み）を示す。関数ｆ_Ｔは、式（６）と同様、ベクトル同士のアダマール積や、要素加算などを用いることができる。本実施例では、アダマール積とする。式（１０）では、重みベクトルｗ_ｏとハーモナイジングユニットＨＵｌからの出力ベクトルｈ^ｌ _Ｈとのアダマール積となる。重要度ベクトルｓ^ｌ _ｎは、ｎ番目の特徴量ベクトルｘ_ｎの階層ｌにおける重要度である。

＜ニューラルネットワークＮＮの機能的構成例＞
図５は、ニューラルネットワークＮＮの機能的構成例を示すブロック図である。ニューラルネットワークＮＮは、入力層４０１と、中間層４０２と、出力層４０３と、変換部５０１と、再配置部５０２と、予測データ算出部５０３と、重要度算出部５０４と、設定部５０５と、統合部５０６と、縮約部５０７と、選択部５０８と、を有する。これらは、学習部３６１および予測部３６２の内部構成例である。

変換部５０１は、式（３）に示したように、各中間層ＤＵｌ（ｌ≧２）からの出力ベクトルｈ^ｌ _Ｄと行列Ｗ^ｌ _Ｈとに基づいて、出力ベクトルｈ^ｌ _Ｄの次元数ｄを縮約させて、変換後の出力ベクトルｈ^ｌ _Ｈを出力する。変換部５０１は、上述したハーモナイジングユニット群ＨＵである。

再配置部５０２は、式（６）、（７）に示したように、変換部５０１からの変換後の出力ベクトルｈ^ｌ _Ｈと、入力層４０１に与えられた特徴量空間ＳＰ１の特徴量ベクトルｘ_ｎと、に基づいて、特徴量空間ＳＰ１の特徴量ベクトルｘ_ｎを第２特徴量空間ＳＰ２に再配置する。再配置部５０２は、上述したリアロケーションユニットＲＡＵである。

予測データ算出部５０３は、式（９）に示したように、再配置部５０２による再配置結果ｈ_Ｔ ^ｌと重みベクトルｗ_ｏとに基づいて、特徴量空間ＳＰ１の特徴量ベクトルｘ_ｎに対する予測ベクトルｙ_ｎを算出する。予測データ算出部５０３は、上述したデシジョンユニットＤＣＵである。

重要度算出部５０４は、式（１０）に示したように、変換後の出力ベクトルｈ^ｌ _Ｈと重みベクトルｗ_ｏとに基づいて、中間層４０２における階層ｌにおける特徴量ベクトルｘ_ｎの重要度ベクトルｓ^ｌ _ｎを算出する。重要度算出部５０４は、上述したインポータンスユニットＩＵである。

たとえば、特徴量ベクトルｘ_ｎが診断画像を示す場合、たとえば、ある階層ｌａの出力ベクトルｈ^ｌａ _Ｄがある被写体の形状が癌組織にふさわしいか否かを示す特徴量であり、ある階層ｌｂ（≠ｌａ）の出力ベクトルｈ^ｌｂ _Ｄが当該被写体の模様が癌組織にふさわしいか否かを示す特徴量とする。この場合、対応する重要度ベクトルｓ^ｌａ _ｎ、ｓ^ｌｂ _ｎを参照することにより、ニューラルネットワークＮＮが、当該診断画像が被写体のどの特徴を考慮してその被写体を癌組織であると判別したかを、ユーザは説明することができる。たとえば、重要度ベクトルｓ^ｌａ _ｎは低いが重要度ベクトルｓ^ｌｂ _ｎが高い場合、ニューラルネットワークＮＮが、当該画像ｘ_ｎが被写体の模様を考慮してその被写体を癌組織であると判別していると、ユーザは説明することができる。

設定部５０５は、式（４）、（５）に示したように、中間層４０２からの出力ベクトルｈ^ｌ _Ｄと行列Ｗ_Ａとに基づいて、中間層４０２の重みαを設定する。設定部５０５は、上述したアテンションユニットＡＵである。

統合部５０６は、式（８）に示したように、再配置結果ｈ_Ｔ ^ｌと、設定部５０５によって設定された重みαと、を統合する。統合部５０６は、上述したユニファイユニットＵＵである。この場合、予測データ算出部５０３は、統合部５０６による統合結果ｈ_ｕと重みベクトルｗ_ｏとに基づいて、予測ベクトルｙ_ｎを算出する。また、重要度算出部５０４は、設定部５０５によって設定された重みαと、変換後の出力ベクトルｈ^ｌ _Ｈと、重みベクトルｗ_ｏと、に基づいて、重要度ベクトルｓ_ｎ ^ｌを算出する。

縮約部５０７は、式（２）に示したように、中間層４０２からの出力ベクトルｈ^ｌ _Ｄと行列Ｗ^ｌ _Ｒとに基づいて、出力ベクトルｈ^ｌ _Ｄの次元数ｄを縮約させて、縮約後の出力ベクトルｈ^ｌ _Ｒを出力する。縮約部５０７は、上述したレポーティングユニット群ＲＵである。この場合、設定部５０５は、縮約部５０７からの縮約後の出力ベクトルｈ^ｌ _Ｒと行列Ｗ_Ａとに基づいて、中間層４０２の重みαを設定する。

学習部３６１は、特徴量空間ＳＰ１の特徴量ベクトルｘ_ｎと予測ベクトルｙ_ｎに対する正解ラベルｔ_ｎとを含む訓練データが与えられた場合に、予測ベクトルｙ_ｎと正解ラベルｔ_ｎとを用いて、第１学習パラメータである行列Ｗ^ｌ _Ｄ、第２学習パラメータである行列Ｗ^ｌ _Ｈ、第３学習パラメータである重みベクトルｗ_ｏ、第４学習パラメータである行列Ｗ_Ａ、および、第５学習パラメータである行列Ｗ^ｌ _Ｒを、たとえば、正解ラベルｔ_ｎと予測値ｙ_ｎとのクロスエントロピーが最小化するように、最適化する。

予測部３６２は、最適化された学習パラメータ３６５をニューラルネットワークＮＮに設定し、かつ、入力層４０１にテストデータとして特徴量ベクトルｘ´_ｎを与えることにより、採取的に予測データ算出部５０３に予測ベクトルｙ´_ｎを算出させる。

＜学習処理および予測処理手順例＞
図６は、ニューラルネットワークＮＮによる学習処理および予測処理手順例を示すフローチャートである。図６のうち、ステップＳ６０１〜Ｓ６０２が学習部３６１による学習処理であり、ステップＳ６０３〜Ｓ６０７が予測部３６２による予測処理である。まず、分析装置３２０は、訓練データ集合３６４を読み込む（ステップＳ６０１）。

分析装置３２０は、ニューラルネットワークＮＮに、訓練データ｛ｘ_ｎ，ｔ_ｎ｝を与えることにより学習をおこない、学習パラメータ３６５（行列Ｗ^ｌ _Ｄ，行列Ｗ^ｌ _Ｒ，行列Ｗ´^ｌ _Ｈ，行列Ｗ_Ａ、重みベクトルｗ_ｏ）を生成する（ステップＳ６０２）。学習（ステップＳ６０２）では、たとえば、学習部３６１が、統計的勾配法により、正解ラベルｔ_ｎと予測値ｙａ_ｎとのクロスエントロピーが最小化するように、学習パラメータ３６５を最適化する。分析装置３２０は、生成した学習パラメータ３６５をサーバＤＢ３６３に保存する。

つぎに、分析装置３２０は、テストデータとなる特徴量ベクトルｘ_ｎおよび説明可能ベクトルｚ_ｎを読み込み（ステップＳ６０３）、学習パラメータ３６５が反映されたニューラルネットワークＮＮ（予測モデル）に与えて、式（９）により、予測結果３５３として予測値ｙａ_ｎを算出し（ステップＳ６０４）、式（１０）により、項目の重要度を示す重要度ベクトルｓ^ｌ _ｎを計算する（ステップＳ６０５）。

そして、分析装置３２０は、予測結果３５３と重要度ベクトルｓ^ｌ _ｎとを保存し、予測結果３５３をクライアント端末３００に出力する（ステップＳ６０６）。クライアント端末３００は、予測結果３５３と重要度ベクトルｓ^ｌ _ｎとをモニタ３０５に表示する。このように、ニューラルネットワークＮＮによれば、サンプルデータである特徴量ベクトルｘ_ｎについての重要度ｓ^ｌ _ｎを得ることができ、予測結果３５３の解釈性を高めることができる。また、サンプル（特徴量ベクトルｘ_ｎ）の事前再配置により、線形な予測モデルが得られるため、学習時および予測時において、高精度かつ低負荷で予測値を算出することができる。

＜分析装置３２０の機能的構成例＞
図７は、分析装置３２０の機能的構成例を示すブロック図である。分析装置３２０は、モデルパラメータ設定部７０１と、パスウェイ選択部７０２と、特徴量ベクトル生成部７０３と、説明可能ベクトル生成部７０４と、編集部７０５と、出力部７０６と、を有する。これらは、ＨＤＤ３２１、メモリ３２２などの記憶デバイスに記憶されたプログラムをプロセッサ３２３に実行させることによりその機能を実現する。また、ニューラルネットワークＮＮ、診療ＤＢ１００、パスウェイＤＢ７１０、およびクリニカルターミノロジーＣＴは、分析装置３２０に存在してもよく、分析装置３２０とネットワーク３１０を介して通信可能な外部装置（不図示）に記憶されていてもよい。

パスウェイＤＢ７１０は、クリニカルパスウェイＣＰを記憶するデータベースである。なお、コンピュータに読み取り可能でない、医学的ルールを示したクリニカルパスウェイについては、あらかじめ、ＸＭＬ／ＪＳＯＮコンバータにより、コンピュータに読み取り可能なフォーマットのクリニカルパスウェイＣＰに変換されて、パスウェイＤＢ７１０に記憶されている。同様に、ガイドラインなどの医学的な電子文献も、Ｗｏｒｄ２Ｖｅｃコンバータにより、単語ベクトル付きのコンピュータに読み取り可能なフォーマットのクリニカルパスウェイＣＰに変換されて、パスウェイＤＢ７１０に記憶されている。

モデルパラメータ設定部７０１は、モデルパラメータＭＰを設定する。具体的には、たとえば、モニタ３０５，３２５にモデルパラメータＭＰの選択画面を表示させ、ユーザが入力装置３０４，３２４を操作してモデルパラメータＭＰを選択することで、モデルパラメータＭＰを設定する。また、モデルパラメータＭＰは、ネットワーク３１０を介して外部装置（不図示）から与えられたモデルパラメータＭＰを設定してもよい。

パスウェイ選択部７０２は、モデルパラメータ設定部７０１によって設定されたモデルパラメータＭＰを検索キーとして、該当するクリニカルパスウェイＣＰをパスウェイＤＢ７１０から選択する。具体的には、たとえば、パスウェイ選択部７０２は、モデルパラメータＭＰで設定された予測対象モデルＰＴＭに該当するクリニカルパスウェイＣＰをパスウェイＤＢ７１０から選択する。選択されたクリニカルパスウェイＣＰが複数存在する場合、パスウェイ選択部７０２は、複数のクリニカルパスウェイＣＰをモニタ３０５，３２５に出力して、ユーザに選択させてもよい。また、選択されたクリニカルパスウェイＣＰが複数存在する場合、パスウェイ選択部７０２は、文章を示すテキストデータのクリニカルパスウェイＣＰよりも図形データのクリニカルパスウェイＣＰを優先選択してもよく、また、予測起点から予測対象までの経路がより短いクリニカルパスウェイＣＰを優先選択してもよい。

特徴量ベクトル生成部７０３は、診療ＤＢ１００を参照して、モデルパラメータＭＰに基づいて特徴量ベクトルｘ_ｎを生成する。ニューラルネットワークＮＮの学習時では、特徴量ベクトル生成部７０３は、不特定多数の患者についての特徴量ベクトルｘ_ｎを訓練データ集合３６４として生成して、ニューラルネットワークＮＮに与える。ニューラルネットワークＮＮでの予測時では、特徴量ベクトル生成部７０３は、特定の患者についての特徴量ベクトルｘ_ｎを生成して、ニューラルネットワークＮＮに与える。

説明可能ベクトル生成部７０４は、特徴量ベクトル生成部７０３によって生成された特徴量ベクトルｘ_ｎとパスウェイ選択部７０２によって選択されたクリニカルパスウェイ（選択クリニカルパスウェイ）とに基づいて、説明可能ベクトルｚ_ｎを生成する。説明可能ベクトルｚ_ｎの詳細な生成処理については、図８で後述する。

編集部７０５は、ニューラルネットワークＮＮから出力された予測結果３５３および項目の重要度を用いて、選択クリニカルパスウェイＣＰを編集する。選択クリニカルパスウェイＣＰの詳細な編集については、図１０〜図１４で説明する。

出力部７０６は、編集部７０５によって編集された編集結果を出力する。編集結果の出力先は、具体的には、たとえば、ＨＤＤ３０１，３２１、メモリ３０２，３２２、モニタ３０５，３２５、ネットワーク３１０を介して通信可能な外部装置（不図示）である。モニタ３０５，３２５には、図１０〜図１４で示すように、編集結果を示す画面が表示される。これにより、ユーザである医師は、精度の高い予測結果３５３の理由や根拠を確認することができる。

＜説明可能ベクトルの生成例＞
図８は、説明可能ベクトル生成部７０４による説明可能ベクトルｚ_ｎの生成処理例を示す説明図である。説明可能ベクトルｚ_ｎの生成１０３では、特徴量ベクトルｘ_ｎと、モデルパラメータＭＰ（予測対象モデルＰＴＭおよび予測パラメータ）と、クリニカルパスウェイ分岐条件ＣＰｃを用いる。上述したように、特徴量ベクトルｘ_ｎは、項目８０１、値８０２、および単位８０３を含む。

（Ａ）説明可能ベクトル生成部７０４は、特徴量ベクトルｘ_ｎの項目８０１とクリニカルパスウェイ分岐条件ＣＰｃとを比較し、共通項目と非共通項目とを特定する。項目８０１は、「Ａ」，「Ｂ」，「Ｃ」，「Ｄ」，「Ｅ」を有する。一方、クリニカルパスウェイ分岐条件ＣＰｃは、「Ａ」，「Ｃ」，「Ｅ」を有する。したがって、共通項目は、「Ａ」，「Ｃ」，「Ｅ」であり、非共通項目は、「Ｂ」，「Ｄ」である。

（Ｂ）説明可能ベクトル生成部７０４は、クリニカルターミノロジーＣＴを用いて、各項目８０１に関連する関連項目８０５を特定するとともに、各項目８０１の重み８０４を算出して、説明可能ベクトルｚ_ｎを生成する。関連項目８０５は、項目８０１とクリニカルターミノロジーＣＴとの関連性を示す項目であり、重み８０４はその関連性の度合いを示す値である。

共通項目については、共通項目がクリニカルターミノロジーＣＴに存在すれば、重み８０４は「１．０」、関連項目８０５は、項目８０１と同一項目となる。ただし、共通項目がクリニカルターミノロジーＣＴに存在していなければ、重み８０４は「０．０」、関連項目８０５は、「なし」となる。したがって、共通項目「Ａ」，「Ｃ」，「Ｅ」については、関連項目８０５はそれぞれ、「Ａ」，「Ｃ」，「Ｅ」、重み８０４はそれぞれ「１．０」となる。

非共通項目については、非共通項目がクリニカルターミノロジーＣＴに存在すれば、説明可能ベクトル生成部７０４は、クリニカルターミノロジーＣＴにおいて、非共通項目と共通項目との関連性を示す関連度Ｒを算出する。関連度Ｒは、非共通項目から共通項目までの最短距離である。クリニカルターミノロジーＣＴは、上述したように、医学的用語およびそれらの関連性を示す情報であり、たとえば、医学的用語をノード、関連性をリンクとするネットワーク情報である。リンクは、当該リンクの両端の医学的用語の関連性を示す。関連性は、たとえば、リンク長により表現される。リンク長が短いほど関連度が高いことを示す。

非共通項目「Ｄ」を例に挙げると、リンクＬ１，Ｌ２，Ｌ３を経由することで共通項目「Ａ」に到達する。リンクＬ１，Ｌ２，Ｌ３をそれぞれリンク長とすると、下記式により関連度Ｒが表される。

Ｒ＝Ｌ１＋Ｌ２＋Ｌ３

本例では、Ｒ＝２．５とする。非共通項目「Ｄ」の重み８０４は、関連度Ｒの逆数（１／Ｒ＝０．４）となり、関連項目８０５は「Ａ」となる。したがって、共通項目までの距離が短いほど、重み８０４は高くなる。これにより、各項目８０１の重み８０４により、クリニカルターミノロジーＣＴで各項目８０１の重要性を客観的に数値化して確認することができる。また、関連項目８０５により重み８０４の根拠についてもクリニカルターミノロジーＣＴで客観的に確認することができる。

＜分析シーケンス例＞
図９は、分析装置３２０による分析シーケンス例を示すシーケンス図である。なお、ニューラルネットワークＮＮは、訓練データ集合３６４により学習モデルを生成済みであるものとする。また、説明を簡略化するため、分析装置３２０は、パスウェイＤＢ７１０、およびクリニカルターミノロジーＣＴを有するものとする。

クライアント端末３００は、患者情報要求を診療ＤＢ１００に送信し（ステップＳ９０１）、診療ＤＢ１００は患者情報要求に対応する患者情報をクライアント端末３００に返す（ステップＳ９０２）。これにより、クライアント端末３００のユーザは、患者情報をモニタ３０５で確認することができる。

クライアント端末３００は、ユーザ操作により、取得した患者情報を用いて、モデルパラメータＭＰを含む予測分析リクエストを作成して、分析装置３２０に送信する（ステップＳ９０３）。分析装置３２０の予測機能９１０は、予測分析リクエストを受信すると、特徴量ベクトル生成部７０３により、特徴量ベクトルｘ_ｎを生成する（ステップＳ９０４）。具体的には、たとえば、予測機能９１０は、患者情報要求を診療ＤＢ１００に送り（ステップＳ９０５）、診療ＤＢ１００を参照して、患者情報要求に対応する患者情報を取得する（ステップＳ９０６）。

そして、予測機能９１０は、特徴量ベクトル生成部７０３により、モデルパラメータＭＰと、患者情報と、を用いて、特徴量ベクトルｘ_ｎを生成し、生成した特徴量ベクトルｘ_ｎを分析装置３２０の説明機能９２０に出力する（ステップＳ９０７）。また、予測機能９１０は、予測分析リクエスト内のモデルパラメータＭＰを説明機能９２０に出力する（ステップＳ９０８）。

説明機能９２０は、パスウェイ選択部７０２により、編集対象となるクリニカルパスウェイＣＰを選択する（ステップＳ９０９）。具体的には、たとえば、説明機能９２０は、モデルパラメータＭＰに基づいてパスウェイリクエストを生成し、パスウェイＤＢ７１０に出力し（ステップＳ９１０）、パスウェイＤＢ７１０から該当するクリニカルパスウェイＣＰを取得する（ステップＳ９１１）。

そして、説明機能９２０は、説明可能ベクトル生成部７０４により、特徴量ベクトルｘ_ｎと、選択クリニカルパスウェイＣＰとに基づいて、説明可能ベクトルｚ_ｎを生成する（ステップＳ９１２）。具体的には、たとえば、説明機能９２０は、クリニカルターミノロジーリクエストをクリニカルターミノロジーＣＴに送り、クリニカルターミノロジーＣＴを取得する（ステップＳ９１４）。説明機能９２０は、クリニカルターミノロジーＣＴを用いて、説明可能ベクトルｚ_ｎを生成し、予測機能９１０に出力する（ステップＳ９１５）。

予測機能９１０は、ニューラルネットワークＮＮによる予測処理を実行する（ステップＳ９１６）。具体的には、たとえば、予測機能９１０は、モデルパラメータＭＰによりニューラルネットワーク群ＮＮｓから該当するニューラルネットワークＮＮを選択する。そして、予測機能９１０は、選択したニューラルネットワークＮＮに、特徴量ベクトルｘ_ｎと説明可能ベクトルｚ_ｎとを与えることにより、予測結果３５３および項目の重要度を算出し、説明機能９２０に出力する（ステップＳ９１７）。

説明機能９２０は、編集部７０５によりクリニカルパスウェイＣＰを編集する（ステップＳ９１８）。具体的には、たとえば、説明機能９２０は、クリニカルパスウェイＣＰに予測結果３５３および項目の重要度を与えることで、説明付きクリニカルパスウェイＣＰｅを生成し、予測機能９１０に返す（ステップＳ９１９）。予測機能９１０は、説明付きクリニカルパスウェイＣＰｅをクライアント端末３００に送信する（ステップＳ９２０）。クライアント端末３００は、受信した説明付きクリニカルパスウェイＣＰｅをモニタ３０５に表示する（ステップＳ９２１）。これにより、ユーザである医師は、精度の高い予測結果３５３の理由や根拠を確認することができる。

＜画面例＞
つぎに、図１０〜図１４を用いて、編集部７０５によって作成された説明付きクリニカルパスウェイＣＰｅを表示する画面例について説明するとともに、編集部７０５によるクリニカルパスウェイの編集処理内容についても説明する。

図１０は、説明付きクリニカルパスウェイＣＰｅを表示する画面例（ケース１）を示す説明図である。ケース１は、ニューラルネットワークＮＮの予測結果３５３と、クリニカルパスウェイＣＰの予測対象とが、合致するケースである。ケース１の画面を第１画面１０００と称す。

第１画面１０００は、重要度データ１００１と、説明付きクリニカルパスウェイＣＰｅと、を表示する画面である。重要度データは、特徴量ベクトルｘ_ｎの項目，値，および単位に、項目の重要度を対応付けたデータである。本例では、項目の重要度は、「Ｖｅｒｙ ｈｉｇｈ」，「ｈｉｇｈ」，「Ｍｉｄｄｌｅ」，「Ｌｏｗ」，「Ｎｏｎｅ」の５段階としたが、２段階以上であれば、４段階以下でも６段階以上でもよい。また、項目の重要度は数値で表現してもよい。ケース１では、特徴量ベクトルｘ_ｎは、クリニカルパスウェイ分岐条件ＣＰｃのＥ≦１００［ｍｇ］でかつＡ≧２３．２［％］という基準を充足しているため、項目Ｅ，Ａの重要度「Ｖｅｒｙ ｈｉｇｈ」，「ｈｉｇｈ」は他の項目の重要度に比べて高くなっている。

説明付きクリニカルパスウェイＣＰｅは、クリニカルパスウェイＣＰと説明情報１１０とをリンクＬＫｘにより関連付けた情報である。説明情報１１０は、特徴量の重要性に関する予測分析情報１０１１と、クリニカルパスウェイ情報１０１２と、提案情報１０１３と、を有し、編集部７０５によって作成される。

予測分析情報１０１１は、各項目の値と重要度とを対応付けた情報である。クリニカルパスウェイ情報１０１２は、特徴量ベクトルｘ_ｎの項目の値が充足したクリニカルパスウェイ分岐条件ＣＰｃを示す。ケース１では、特徴量ベクトルｘ_ｎが治療法Ｐ２ｂに関するクリニカルパスウェイ分岐条件ＣＰｃのＥ≦ｘ［ｍｇ］でかつＡ≧ｙ［％］を充足していることを示す。

提案情報１０１３は、予測対象モデルＰＴＭの中で推奨する経路を提案する情報である。ケース１では、予測結果３５３において治療法Ｐ２ｂが最も治療奏功確率が高いとする。したがって、編集部７０５は、症状Ｐ１から治療法Ｐ２ｂへの経路を推奨経路とし、その旨の文字列情報を提案情報１０１３として作成する。また、編集部７０５は、推奨経路の症状Ｐ１および治療法Ｐ２ｂを強調表示し、この推奨経路と説明情報１１０とをリンクＬＫｘで接続する。

このように、ケース１を示す第１画面１０００の説明付きクリニカルパスウェイＣＰｅでは、この特徴量ベクトルｘ_ｎで特定される患者については、当該患者の項目Ｅ，Ａ，Ｃの順にその重要度が高く、かつ、当該患者は、症状Ｐ１の場合に治療法Ｐ２ｂが治療奏功確率が最も高い。したがって、医師は、当該患者が症状Ｐ１において治療法Ｐ２ｂを選択する場合、その根拠として重要度の順に項目Ｅ，Ａ，Ｃを挙げて説明することができる。

図１１は、説明付きクリニカルパスウェイＣＰｅを表示する画面例（ケース２）を示す説明図である。ケース２は、ニューラルネットワークＮＮの予測結果３５３と、クリニカルパスウェイＣＰの予測対象とが不一致だが、予測対象モデルＰＴＭ内に予測結果３５３を表現可能な経路が存在するケースである。ケース２の画面を第２画面１１００と称す。

第２画面１１００は、重要度データ１００１と、説明付きクリニカルパスウェイＣＰｅと、を表示する画面である。ケース２では、特徴量ベクトルｘ_ｎは、Ｅ≦ｘ［ｍｇ］、Ａ＜ｙ［％］、Ｃ≧ｚ［ｍｍｏｌ／ｍｌ］であり、クリニカルパスウェイ分岐条件ＣＰｃのいずれも充足していないものとする。

説明付きクリニカルパスウェイＣＰｅは、クリニカルパスウェイＣＰと説明情報１１０とをリンクＬＫｘにより関連付けた情報である。説明情報１１０は、特徴量の重要性に関する予測分析情報１０１１と、クリニカルパスウェイ情報１０１２と、提案情報１０１３と、補足データ１１１４とを有し、編集部７０５によって作成される。

ケース２では、特徴量ベクトルｘ_ｎは、Ｅ≦ｘ［ｍｇ］、Ａ＜ｙ［％］、Ｃ≧ｚ［ｍｍｏｌ／ｍｌ］であり、クリニカルパスウェイ分岐条件ＣＰｃのいずれも充足していないため、クリニカルパスウェイ情報１０１２は、特徴量ベクトルｘ_ｎの項目の値が充足するための予クリニカルパスウェイ分岐条件ＣＰｃを示す。これにより、ユーザは、特徴量ベクトルｘ_ｎがクリニカルパスウェイ分岐条件ＣＰｃを充足していないことを確認することができる。

ケース２では、予測結果３５３において治療法Ｐ２ｃが最も高い治療奏功確率であったものとする。提案情報１０１３は、したがって、編集部７０５は、症状Ｐ１から治療法Ｐ２ｃへの経路を推奨経路とし、その旨の文字列情報を提案情報１０１３として作成する。また、編集部７０５は、推奨経路の症状Ｐ１および治療法Ｐ２ｃを強調表示し、この推奨経路と説明情報１１０とをリンクＬＫｘで接続する。

補足データ１１１４は、提案情報１０１３を補足して、提案情報１０１３の根拠を示す。編集部７０５は、ケース２の患者の特徴量ベクトルｘ_ｎは、Ｅ≦ｘ［ｍｇ］、Ａ＜ｙ［％］、Ｃ≧ｚ［ｍｍｏｌ／ｍｌ］であり、この場合に、ニューラルネットワークＮＮでは治療法Ｐ２ｃが最も高い奏功確率（８２％）であることを、補足データとして作成する。

このように、ケース２を示す第２画面１１００の説明付きクリニカルパスウェイＣＰｅでは、この特徴量ベクトルｘ_ｎで特定される患者については、特徴量ベクトルｘ_ｎが治療法Ｐ２ａ〜Ｐ２ｃのクリニカルパスウェイ分岐条件ＣＰｃのいずれにも該当しないが、ニューラルネットワークＮＮは、当該患者は治療法Ｐ２ｃの治療奏功確率が最も高いと予測した。このため、分析装置３２０は、クリニカルパスウェイＣＰと予測結果３５３との相違を指摘することができる。したがって、医師は、当該患者が症状Ｐ１において治療法Ｐ２ｃを選択した場合、その選択の根拠として、重要度の順に項目Ｅ，Ａ，Ｃを挙げて説明することができる。また、このような症例が積み重なれば、治療法Ｐ２ｃに関するクリニカルパスウェイ分岐条件ＣＰｃの見直しやクリニカルパスウェイＣＰの修正などに寄与することができる。

図１２は、説明付きクリニカルパスウェイＣＰｅを表示する画面例（ケース３）を示す説明図である。ケース３は、ニューラルネットワークＮＮの予測結果３５３と、クリニカルパスウェイＣＰの予測対象とが不一致であり、かつ、予測対象モデルＰＴＭ内に予測結果３５３を表現可能な経路が存在しないケースである。ケース３の画面を第３画面１２００と称す。

ケース３では、モデルパラメータＭＰに予測対象として治療法Ｐ２ｄが追加され、かつ、治療法Ｐ２ａ〜Ｐ２ｃのほか、治療法Ｐ２ｄを考慮した学習済みのニューラルネットワークＮＮが選択されたものとする。なお、治療法Ｐ２ｄは、クリニカルパスウェイＣＰには存在しないが、ユーザが治療法Ｐ２ｄも考慮したいと考えたためにモデルパラメータＭＰに追加されたものとする。

第３画面１２００は、重要度データ１００１と、説明付きクリニカルパスウェイＣＰｅと、を表示する画面である。ケース３ではケース２と同様、特徴量ベクトルｘ_ｎは、Ｅ≦ｘ［ｍｇ］、Ａ＜ｙ［％］、Ｃ≧ｚ［ｍｍｏｌ／ｍｌ］であり、クリニカルパスウェイ分岐条件ＣＰｃのいずれも充足していないものとする。

説明付きクリニカルパスウェイＣＰｅは、クリニカルパスウェイＣＰと説明情報１１０とをリンクＬＫｘにより関連付けた情報である。説明情報１１０は、特徴量の重要性に関する予測分析情報１０１１と、クリニカルパスウェイ情報１０１２と、提案情報１０１３と、補足データ１１１４とを有し、編集部７０５によって作成される。

ケース３では、特徴量ベクトルｘ_ｎは、Ｅ≦ｘ［ｍｇ］、Ａ＜ｙ［％］、Ｃ≧ｚ［ｍｍｏｌ／ｍｌ］であり、クリニカルパスウェイ分岐条件ＣＰｃのいずれも充足していないため、クリニカルパスウェイ情報１０１２は、特徴量ベクトルｘ_ｎの項目の値が充足するためのクリニカルパスウェイ分岐条件ＣＰｃを示す。これにより、ユーザは、特徴量ベクトルｘ_ｎがクリニカルパスウェイ分岐条件ＣＰｃを充足していないことを確認することができる。

ケース３では、予測結果３５３において治療法Ｐ２が最も奏功確率が高かったものとする。提案情報１０１３は、したがって、編集部７０５は、症状Ｐ１から治療法Ｐ２ｃへの経路を推奨経路とし、その旨の文字列情報を提案情報１０１３として作成する。また、編集部７０５は、推奨経路の症状Ｐ１および治療法Ｐ２ｄを強調表示し、症状Ｐ１と治療法Ｐ２ｄとをリンクＬＫａで接続し、治療法Ｐ２ｄと治療Ｐ３ｄとをリンクＬＫｂで接続し、症状Ｐ１から治療法Ｐ２ｄへの推奨経路と説明情報１１０とをリンクＬＫｘで接続する。

補足データ１１１４は、提案情報１０１３の根拠を示す。編集部７０５は、ケース３の患者の特徴量ベクトルｘ_ｎは、ケース２と同様、Ｅ≦ｘ［ｍｇ］、Ａ＜ｙ［％］、Ｃ≧ｚ［ｍｍｏｌ／ｍｌ］であり、この場合に、ニューラルネットワークＮＮでは治療法Ｐ２ｄが最も高い治療奏功確率（６７％）であり、予測対象である治療法Ｐ２ａ〜Ｐ２ｃの確率２０％、３２％、４５％を上回っていることを、補足データとして作成する。

このように、ケース３を示す第３画面１２００の説明付きクリニカルパスウェイＣＰｅでは、この特徴量ベクトルｘ_ｎで特定される患者については、特徴量ベクトルｘ_ｎが治療法Ｐ２ａ〜Ｐ２ｃのクリニカルパスウェイ分岐条件ＣＰｃのいずれにも該当しないが、ニューラルネットワークＮＮは、当該患者はモデルパラメータＭＰで追加された治療法Ｐ２ｄによる治療奏功確率が最も高いと予測した。このため、分析装置３２０は、クリニカルパスウェイＣＰには予測結果３５３は存在しないことを確認し、かつ、クリニカルパスウェイＣＰにはない新たな診療経路およびその新しいクリニカルパスウェイ分岐条件ＣＰｃを特定することができる。したがって、医師は、当該患者が症状Ｐ１において治療法Ｐ２ｄを選択した場合、その選択の根拠として、重要度の順に項目Ｅ，Ａ，Ｃを挙げて説明することができる。

図１３は、説明付きクリニカルパスウェイＣＰｅを表示する画面例（ケース４）を示す説明図である。ケース４は、クリニカルパスウェイＣＰが、図形データがない電子文書１３０１であり、当該電子文書に重要特徴量の項目に関する文字列が記載されているケースである。重要特徴量とは、項目の重要度が「Ｈｉｇｈ」以上の項目に関する文字列である。ケース４の画面を第４画面と称す。

ケース４では、クリニカルパスウェイＣＰの選択の際、パスウェイ選択部７０２は、たとえば、ＴＦ−ＩＤＦにより、予測対象モデルＰＴＭに含まれる予測対象の重要特徴量が最も多く出現する電子文書を選択する。

第４画面１３００は、重要度データ１００１と、電子文書１３０１と、ランキングデータ１３１０と、を表示する。編集部７０５は、電子文書１３０１内の当該文字列（電子文書１３０１中、項目を示すＡ〜Ｅで表記）を検索して強調表示処理を施す。また、ケース１〜３と同様、編集部７０５は、重要度データ１００１を作成する。また、編集部７０５は、項目の出現個数を重要度で重み付けして、項目ごとにスコアを算出し、スコアの降順で順位１３１１をつけたランキングデータ１３１０を作成する。

このように、電子文書１３０１では、診療経路が特定しづらいため、その代わりに、項目８０１とスコア１３１２とを比較することにより、重要特徴量がどの程度、電子文書（クリニカルパスウェイ）１３０１に存在するかを確認することができる。したがって、医師は、当該患者が症状Ｐ１において治療法Ｐ２ａ〜Ｐ２ｃのいずれかを選択した場合、その選択の根拠として、電子文書１３０１内の項目８０１のスコア１３１２の順に項目Ｅ，Ａ，Ｃが記載されている箇所を参照して、説明することができる。

図１４は、説明付きクリニカルパスウェイＣＰｅを表示する画面例（ケース５）を示す説明図である。ケース５は、クリニカルパスウェイＣＰが、図形データがない電子文書１３０１であり、当該電子文書１３０１に重要特徴量の項目に関する文字列が記載されていないケースである。ケース５の画面を第５画面１４００と称す。

ケース５では、ケース４と同様、クリニカルパスウェイＣＰの選択の際、パスウェイ選択部７０２は、たとえば、ＴＦ−ＩＤＦにより、予測対象モデルＰＴＭに含まれる予測対象の重要特徴量が最も多く出現する電子文書を選択する。第５画面１４００は、重要度データ１００１を表示する。電子文書１３０１には重要特徴量が記載されていないため、第４画面１３００のように表示しない。同様に、ランキングデータ１３１０も表示しない。

ケース５では、クリニカルパスウェイ（電子文書１３０１）ＣＰは当てにならない。したがって、医師は、当該患者が症状Ｐ１において予測対象の治療法を選択した場合、その選択の根拠として、クリニカルパスウェイ（電子文書１３０１）ＣＰを用いずに、重要度の順に項目Ｅ，Ａ，Ｃを挙げて説明することができる。

（１）以上説明したように、分析装置３２０は、説明可能ベクトル生成部７０４と、ニューラルネットワークＮＮと、編集部７０５と、出力部７０６と、を有する。説明可能ベクトル生成部７０４は、患者の第１特徴項目｛Ａ〜Ｅ｝に関する第１入力データ（特徴量ベクトルｘ_ｎ）と、診療行為の工程に関するクリニカルパスウェイＣＰ内の予測対象（Ｐ２ａ〜Ｐ２ｃ）への遷移条件（クリニカルパスウェイ分岐条件ＣＰｃ）を規定する第２特徴項目｛Ａ，Ｃ，Ｅ｝と、医学的用語間の関連性を示すクリニカルターミノロジーＣＴと、に基づいて、第１特徴項目｛Ａ〜Ｅ｝の重みを有する第２入力データ（説明可能ベクトルｚ_ｎ）を生成する。

ニューラルネットワークＮＮは、第１入力データ（特徴量ベクトルｘ_ｎ）と、説明可能ベクトル生成部７０４によって生成された第２入力データ（説明可能ベクトルｚ_ｎ）と、を与えると、クリニカルパスウェイＣＰ内の予測対象（Ｐ２ａ〜Ｐ２ｃ）に対する予測結果３５３と、第１特徴項目｛Ａ〜Ｅ｝の重要度１００２と、を出力する。

編集部７０５は、ニューラルネットワークＮＮから出力された予測結果３５３および重要度１００２に基づいて、クリニカルパスウェイＣＰを編集する。出力部７０６は、編集部７０５によって編集された編集結果を出力する。

これにより、編集結果を参照することにより、機械学習による予測に寄与した第１特徴項目｛Ａ〜Ｅ｝とクリニカルパスウェイＣＰとの関連について解釈可能性の向上を図ることができる。

（２）また、上記（１）の分析装置３２０において、説明可能ベクトル生成部７０４は、第２特徴項目｛Ａ，Ｃ，Ｅ｝に一致する第１特徴項目｛Ａ〜Ｅ｝である共通項目｛Ａ，Ｃ，Ｅ｝の重みを、第２特徴項目｛Ａ，Ｃ，Ｅ｝に一致しない第１特徴項目｛Ａ〜Ｅ｝である非共通項目｛Ｂ，Ｄ｝の重みよりも高い値に設定することにより、第２入力データ（説明可能ベクトルｚ_ｎ）を生成する。

これにより、共通項目であるほど高い重み値で特徴項目に対する重み付けが可能となり、特徴項目を重要度で差別化することができる。

（３）また、上記（１）において、編集部７０５は、予測結果３５３および重要度１００２を用いて予測結果３５３の根拠を示す説明情報１１０を生成し、クリニカルパスウェイＣＰ内の予測対象（Ｐ２ａ〜Ｐ２ｃ）と説明情報１１０とを関連付けることにより、説明付きクリニカルパスウェイＣＰｅを編集結果として生成する。

これにより、予測結果３５３の説明の根拠をクリニカルパスウェイＣＰと関連性の明確化を図ることができる。

（４）また、上記（３）の分析装置３２０において、編集部７０５は、説明付きクリニカルパスウェイＣＰｅと第１特徴項目｛Ａ〜Ｅ｝の重要度１００２とを編集結果として生成する。

これにより、どの特徴項目が重要でどの特徴項目が重要でないかを明確にして、予測結果３５３の説明の根拠とすることができる。

（５）上記（３）の分析装置３２０において、編集部７０５は、第１入力データ（特徴量ベクトルｘ_ｎ）が予測対象（Ｐ２ａ〜Ｐ２ｃ）のうち特定の予測対象Ｐ２ｂの遷移条件（Ｅ≦ｘ、Ａ≧ｙ）を充足し、かつ、特定の予測対象Ｐ２ｂへの遷移が予測パラメータとして与えられまたは規定値として設定された予測対象の順位付けルールに則り予測結果３５３の中で最も評価が高い場合、特定の予測対象Ｐ２ｂへの遷移を推奨する提案１０１３を含む説明情報１１０を生成し、クリニカルパスウェイＣＰ内の特定の予測対象Ｐ２ｂと説明情報１１０とを関連付けることにより、説明付きクリニカルパスウェイＣＰｅを編集結果として生成する。

これにより、当該患者の特徴項目Ｅ，Ａ，Ｃの順にその重要度が高く、かつ、当該患者は、症状Ｐ１の場合に治療法Ｐ２ｂによる治療奏功確率が最も高いため、医師は、当該患者が症状Ｐ１において治療法Ｐ２ｂを選択した場合、その選択の根拠として重要度の順に項目Ｅ，Ａ，Ｃを挙げて説明することができる。

（６）上記（３）の分析装置３２０において、編集部７０５は、第１入力データ（特徴量ベクトルｘ_ｎ）が予測対象（Ｐ２ａ〜Ｐ２ｃ）のいずれの遷移条件（クリニカルパスウェイ分岐条件ＣＰｃ）も充足しないが、予測対象（Ｐ２ａ〜Ｐ２ｃ）のうち特定の予測対象Ｐ２ｃへの遷移の発生確率が予測結果３５３の中で最も高い場合、特定の予測対象Ｐ２ｃへの遷移を推奨する提案１０１３を含む説明情報１１０を生成し、クリニカルパスウェイＣＰ内の特定の予測対象Ｐ２ｃと説明情報１１０とを関連付けることにより、説明付きクリニカルパスウェイＣＰｅを編集結果として生成する。

これにより、クリニカルパスウェイＣＰと予測結果３５３との相違を指摘することができる。したがって、医師は、当該患者が症状Ｐ１において治療法Ｐ２ｃを選択した場合、その選択の根拠として、重要度の順に項目Ｅ，Ａ，Ｃを挙げて説明することができる。また、このような症例が積み重なれば、治療法Ｐ２ｃに関するクリニカルパスウェイ分岐条件ＣＰｃの見直しやクリニカルパスウェイＣＰの修正などに寄与することができる。

（７）また、上記（６）の分析装置３２０において、編集部７０５は、説明情報１１０に、特定の予測対象Ｐ２ｃへの遷移が予測パラメータとして与えられまたは規定値として設定された予測対象の順位付けルールに則り予測結果３５３の中で最も評価が高いことを示す、提案１０１３を補足する補足データ１１１４を追加する。これにより、特定の予測対象Ｐ２ｃへの遷移の推奨根拠を提示することができる。

（８）また、上記（３）の分析装置３２０において、編集部７０５は、第１入力データ（特徴量ベクトルｘ_ｎ）が予測対象（Ｐ２ａ〜Ｐ２ｃ）のいずれの遷移条件（クリニカルパスウェイ分岐条件ＣＰｃ）も充足しないが、予測対象外Ｐ２ｄへの遷移ＬＫａの発生確率が予測結果３５３の中で最も高い場合、予測対象外Ｐ２ｄへの遷移ＬＫａを推奨する提案１０１３を含む説明情報１１０を生成し、クリニカルパスウェイＣＰ内に予測対象外Ｐ２ｄおよび予測対象外Ｐ２ｄへの遷移ＬＫａを追加し、当該遷移ＬＫａと説明情報１１０とを関連付けることにより、説明付きクリニカルパスウェイＣＰｅを編集結果として生成する。

これにより、クリニカルパスウェイＣＰには予測結果３５３は存在しないことを確認し、かつ、クリニカルパスウェイＣＰにはない新たな診療経路およびその新しいクリニカルパスウェイ分岐条件ＣＰｃを特定することができる。したがって、医師は、当該患者が症状Ｐ１において治療法Ｐ２ｄを選択した場合、その選択の根拠として、重要度の順に項目Ｅ，Ａ，Ｃを挙げて説明することができる。

（９）また、上記（８）の分析装置３２０において、編集部７０５は、説明情報１１０に、予測対象外Ｐ２ｄへの遷移ＬＫａが予測パラメータとして与えられまたは規定値として設定された予測対象の順位付けルールに則り予測結果３５３の中で最も評価が高いことを示す、提案１０１３を補足する補足データ１１１４を追加する。これにより、予測対象外Ｐ２ｄへの遷移ＬＫａの推奨根拠を提示することができる。

（１０）また、上記（３）の分析装置３２０において、編集部７０５は、クリニカルパスウェイＣＰが文章により構成された電子文書１３０１であり、かつ、電子文書１３０１内において所定重要度（Ｈｉｇｈ）以上の特定重要度の第１特徴項目｛Ａ，Ｅ｝を示す用語がある場合、特定重要度の第１特徴項目｛Ａ，Ｅ｝を示す用語を強調表示可能に設定し、電子文書１３０１内での第１特徴項目｛Ａ〜Ｅ｝を示す用語の出現頻度と重要度１００２とに基づいて、第１特徴項目｛Ａ〜Ｅ｝の重要性を示すスコア１３１２を算出することにより、説明付きクリニカルパスウェイＣＰｅを編集結果として生成する。

これにより、特定重要度の第１特徴項目｛Ａ，Ｅ｝を示す用語がどの程度、電子文書（クリニカルパスウェイ）１３０１に存在するかを確認することができる。したがって、医師は、当該患者が症状Ｐ１において治療法Ｐ２ａ〜Ｐ２ｃのいずれかを選択した場合、その選択の根拠として、電子文書１３０１内の項目８０１のスコア１３１２の順に項目Ｅ，Ａ，Ｃが記載されている箇所を参照して、説明することができる。

（１１）また、上記（３）の分析装置３２０において、編集部７０５は、クリニカルパスウェイＣＰが文章により構成された電子文書１３０１であり、かつ、電子文書１３０１内において所定重要度（Ｈｉｇｈ）以上の特定重要度の第１特徴項目｛Ａ，Ｅ｝を示す用語がない場合、第１特徴項目｛Ａ〜Ｅ｝の重要度１００２を編集結果として生成する。

これにより、医師は、予測対象（Ｐ２ａ〜Ｐ２ｃ）に遷移した根拠として、クリニカルパスウェイ（電子文書１３０１）ＣＰを用いずに、重要度１００２の順に項目Ｅ，Ａ，Ｃを挙げて説明することができる。

また、分析装置３２０は、変換部５０１と、再配置部５０２と、重要度算出部５０４と、を有する。したがって、特徴量ベクトルｘ_ｎの事前再配置により、線形な予測モデルが得られるため、学習時および予測時において、高精度かつ低負荷で予測値を算出することができる。また、特徴量ベクトルｘ_ｎにどのような特徴があるかを、重要度算出部５０４からの階層ｌごとの重要度により把握することができる。これにより、ニューラルネットワークＮＮに与えられた特徴ベクトルｘ_ｎについての説明の容易化を高精度かつ効率的に実現することができる。

また、分析装置３２０は、予測データ算出部５０３を有するため、特徴ベクトルｘ_ｎに対し、ニューラルネットワークＮＮからの予測結果３５３が得られた理由についての説明の容易化を高精度かつ効率的に実現ができる。

また、分析装置３２０は、設定部５０５と統合部５０６とを有することにより、予測データ算出部５０３は、再配置結果に基づく予測結果３５３を高精度に算出することができる。

また、分析装置３２０は、縮約部５０７を有することにより、次元縮約によりデータ分析の効率化を図ることができる。

また、分析装置３２０は、学習パラメータ３６５の学習により、高精度な予測モデルを構築することができる。

なお、本発明は前述した実施例に限定されるものではなく、添付した特許請求の範囲の趣旨内における様々な変形例及び同等の構成が含まれる。例えば、前述した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに本発明は限定されない。また、ある実施例の構成の一部を他の実施例の構成に置き換えてもよい。また、ある実施例の構成に他の実施例の構成を加えてもよい。また、各実施例の構成の一部について、他の構成の追加、削除、または置換をしてもよい。また、尚、本実施例において予測分析情報１０１１、クリニカルパスウェイ情報１０１２、提案情報１０１３、補足データ１１１４などを文章で記載しているが、表やグラフなどの形態でも良く、またこれらのうちどれかが表示され無くとも良い。

また、前述した各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等により、ハードウェアで実現してもよく、プロセッサがそれぞれの機能を実現するプログラムを解釈し実行することにより、ソフトウェアで実現してもよい。

各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリ、ハードディスク、ＳＳＤ（Ｓｏｌｉｄ Ｓｔａｔｅ Ｄｒｉｖｅ）等の記憶装置、又は、ＩＣ（Ｉｎｔｅｇｒａｔｅｄ Ｃｉｒｃｕｉｔ）カード、ＳＤカード、ＤＶＤ（Ｄｉｇｉｔａｌ Ｖｅｒｓａｔｉｌｅ Ｄｉｓｃ）の記録媒体に格納することができる。

また、制御線や情報線は説明上必要と考えられるものを示しており、実装上必要な全ての制御線や情報線を示しているとは限らない。実際には、ほとんど全ての構成が相互に接続されていると考えてよい。

３ 分析システム
１１０ 説明情報
３００ クライアント端末
３２０ 分析装置
３６１ 学習部
３６２ 予測部
３６４ 訓練データ集合
３６５ 学習パラメータ
５０１ 変換部
５０２ 再配置部
５０３ 予測データ算出部
５０４ 重要度算出部
５０５ 設定部
５０６ 統合部
５０７ 縮約部
５０８ 選択部
７０１ モデルパラメータ設定部
７０２ パスウェイ選択部
７０３ 特徴量ベクトル生成部
７０４ 説明可能ベクトル生成部
７０５ 編集部
７０６ 出力部

Claims (12)

1. 患者の第１特徴項目に関する第１入力データと、診療行為の工程に関するクリニカルパスウェイ内の予測対象への遷移に関する第２特徴項目と、医学的用語間の関連性を示すクリニカルターミノロジーと、に基づいて、前記第１特徴項目の重みを有する第２入力データを生成する生成部と、
   前記第１入力データと、前記生成部によって生成された第２入力データと、を与えると、前記クリニカルパスウェイ内の予測対象に対する予測結果と、前記第１特徴項目の重要度と、を出力するニューラルネットワークと、
   前記ニューラルネットワークから出力された予測結果および重要度に基づいて、前記クリニカルパスウェイを編集する編集部と、
   前記編集部によって編集された編集結果を出力する出力部と、
   を有することを特徴とする分析装置。
2. 請求項１に記載の分析装置であって、
   前記生成部は、前記第２特徴項目に一致する第１特徴項目である共通項目の重みを、前記第２特徴項目に一致しない第１特徴項目である非共通項目の重みよりも高い値に設定することにより、前記第２入力データを生成する、
   ことを特徴とする分析装置。
3. 請求項１に記載の分析装置であって、
   前記編集部は、前記予測結果および重要度を用いて前記予測結果の根拠を示す説明情報を生成し、前記クリニカルパスウェイ内の予測対象と前記説明情報とを関連付けることにより、説明付きクリニカルパスウェイを前記編集結果として生成する、
   ことを特徴とする分析装置。
4. 請求項３に記載の分析装置であって、
   前記編集部は、前記説明付きクリニカルパスウェイと前記第１特徴項目の重要度とを前記編集結果として生成する、
   ことを特徴とする分析装置。
5. 請求項３に記載の分析装置であって、
   前記編集部は、前記第１入力データが前記予測対象のうち特定の予測対象の遷移条件を充足し、かつ、前記特定の予測対象への遷移が予測パラメータとして与えられまたは規定値として設定された予測対象の順位付けルールに則り前記予測結果の中で最も評価が高い場合、前記特定の予測対象への遷移を推奨する提案を含む説明情報を生成し、前記クリニカルパスウェイ内の前記特定の予測対象と前記説明情報とを関連付けることにより、説明付きクリニカルパスウェイを前記編集結果として生成する、
   ことを特徴とする分析装置。
6. 請求項３に記載の分析装置であって、
   前記編集部は、前記第１入力データが前記予測対象のいずれの遷移条件も充足しないが、前記予測対象のうち特定の予測対象への遷移が予測パラメータとして与えられまたは規定値として設定された予測対象の順位付けルールに則り前記予測結果の中で最も評価が高い場合、前記特定の予測対象への遷移を推奨する提案を含む説明情報を生成し、前記クリニカルパスウェイ内の前記特定の予測対象と前記説明情報とを関連付けることにより、説明付きクリニカルパスウェイを前記編集結果として生成する、
   ことを特徴とする分析装置。
7. 請求項６に記載の分析装置であって、
   前記編集部は、前記説明情報に、前記特定の予測対象への遷移が予測パラメータとして与えられまたは規定値として設定された予測対象の順位付けルールに則り前記予測結果の中で最も評価が高いことを示す、前記提案を補足する補足データを追加する、
   ことを特徴とする分析装置。
8. 請求項３に記載の分析装置であって、
   前記編集部は、前記第１入力データが前記予測対象のいずれの遷移条件も充足しないが、予測対象外への遷移が予測パラメータとして与えられまたは規定値として設定された予測対象の順位付けルールに則り前記予測結果の中で最も評価が高い場合、前記予測対象外への遷移を推奨する提案を含む説明情報を生成し、前記クリニカルパスウェイ内に前記予測対象外および前記予測対象外への遷移を追加し、当該遷移と前記説明情報とを関連付けることにより、説明付きクリニカルパスウェイを前記編集結果として生成する、
   ことを特徴とする分析装置。
9. 請求項８に記載の分析装置であって、
   前記編集部は、前記説明情報に、前記予測対象外への遷移が予測パラメータとして与えられまたは規定値として設定された予測対象の順位付けルールに則り前記予測結果の中で最も評価が高いことを示す、前記提案を補足する補足データを追加する、
   ことを特徴とする分析装置。
10. 請求項３に記載の分析装置であって、
    前記編集部は、前記クリニカルパスウェイが文章により構成された電子文書であり、かつ、前記電子文書内において所定重要度以上の特定重要度の第１特徴項目を示す用語がある場合、前記特定重要度の第１特徴項目を示す用語を強調表示可能に設定し、前記電子文書内での前記第１特徴項目を示す用語の出現頻度と前記重要度とに基づいて、前記第１特徴項目の重要性を示すスコアを算出することにより、説明付きクリニカルパスウェイを前記編集結果として生成する、
    ことを特徴とする分析装置。
11. 請求項３に記載の分析装置であって、
    前記編集部は、前記クリニカルパスウェイが文章により構成された電子文書であり、かつ、前記電子文書内において所定重要度以上の特定重要度の第１特徴項目を示す用語がない場合、前記第１特徴項目の重要度を前記編集結果として生成する、
    ことを特徴とする分析装置。
12. プロセッサが、
    患者の第１特徴項目に関する第１入力データと、診療行為の工程に関するクリニカルパスウェイ内の予測対象への遷移条件を規定する第２特徴項目と、医学的用語間の関連性を示すクリニカルターミノロジーと、に基づいて、前記第１特徴項目の重みを有する第２入力データを生成する生成処理と、
    前記第１入力データと、前記生成処理によって生成された第２入力データと、を与えると、前記クリニカルパスウェイ内の予測対象に対する予測結果と、前記第１特徴項目の重要度と、を出力するニューラルネットワークにより予測する予測処理と、
    前記ニューラルネットワークから出力された予測結果および重要度に基づいて、前記クリニカルパスウェイを編集する編集処理と、
    前記編集処理によって編集された編集結果を出力する出力処理と、
    を実行することを特徴とする分析方法。