JP2020057261A - 重回帰分析装置及び重回帰分析方法 - Google Patents

Abstract

【課題】精度よく重回帰分析を行うことが可能な重回帰分析装置を提供する。【解決手段】重回帰分析装置１００は、判定部１１８、分割部１２０、分析部１２２及び回帰式取得部１２４を有する。判定部１１８は、複数の説明変数のうち、複数のデータセットの層別化を行う際のパラメータとして有効な説明変数を、層別説明変数として判定する。分割部１２０は、層別説明変数を用いて、複数のデータセットを層別に分割する。分析部１２２は、分割された複数のデータセットのグループそれぞれに対して重回帰分析を行う。回帰式取得部１２４は、重回帰分析の結果が統合された統合重回帰式を取得する。【選択図】図２

Description

本発明は、重回帰分析装置及び重回帰分析方法に関し、特に、複数の説明変数と目的変数とから構成される複数のデータセットについて重回帰分析を行う重回帰分析装置及び重回帰分析方法に関する。

特許文献１は、少なくとも２種類の説明変数から、時系列データの目的変数を予測する重回帰分析装置を開示する。特許文献１にかかる重回帰分析装置では、これらの説明変数だけではなく、さらに既存の説明変数から派生して得られる微分演算を施したデータを新たな微分説明変数として加える。これにより、特許文献１にかかる技術では、重回帰分析の枠組みをそのまま使用したままで、時系列データの目的変数の予測精度を向上させることができる。

特開２０１６−０３１７１４号公報

特許文献１にかかる技術では、新たな微分説明変数が加わることにより、重回帰分析に用いられる説明変数が増加する。このように、説明変数が増加すると、扱う特徴量（次元）が多すぎて効率よく回帰できないため、汎化性能の低下（所謂「次元の呪い」）を招くおそれがある。したがって、説明変数が多い場合であっても、精度よく重回帰分析を行うことが望まれる。

本発明は、精度よく重回帰分析を行うことが可能な重回帰分析装置及び重回帰分析方法を提供するものである。

本発明にかかる重回帰分析装置は、複数の説明変数と目的変数とから構成される複数のデータセットについて重回帰分析を行う重回帰分析装置であって、前記複数の説明変数のうち、前記複数のデータセットの層別化を行う際のパラメータとして有効な説明変数を、層別説明変数として判定する判定部と、前記層別説明変数を用いて、前記複数のデータセットを層別に分割する分割部と、分割された前記複数のデータセットのグループそれぞれに対して重回帰分析を行う分析部と、前記重回帰分析の結果が統合された統合重回帰式を取得する取得部とを有する。

また、本発明にかかる重回帰分析方法は、複数の説明変数と目的変数とから構成される複数のデータセットについて重回帰分析を行う重回帰分析方法であって、前記複数の説明変数のうち、前記複数のデータセットの層別化を行う際のパラメータとして有効な説明変数を、層別説明変数として判定し、前記層別説明変数を用いて、前記複数のデータセットを層別に分割し、分割された前記複数のデータセットのグループそれぞれに対して重回帰分析を行い、前記重回帰分析の結果が統合された統合重回帰式を取得する。

本発明は、複数のデータセットに対して自動的に層別化を行い、層別化されたデータセットのグループそれぞれに対して重回帰分析を行って、これらの結果が統合された統合重回帰式を取得するように構成されている。このように、層別化されたデータセットのグループそれぞれに対して別個に重回帰分析を行うことにより、精度よく重回帰分析を行うことが可能となる。

また、好ましくは、前記複数の説明変数それぞれの目的変数に対する寄与率を算出する算出部と、前記複数の説明変数のうち、算出された前記寄与率が上位である、予め定められた条件を満たす数の前記説明変数を抽出する抽出部とをさらに有し、前記判定部は、前記抽出された前記説明変数から、前記層別説明変数を判定する。
本発明は、予め寄与率が高い説明変数に絞り込んだ後で層別説明変数を判定するように構成されている。これにより、層別説明変数の判定対象となる説明変数の数を削減できるので、層別説明変数の判定速度を向上させることが可能となる。

また、好ましくは、前記算出部は、非線形回帰手法を用いて前記寄与率を算出する。
本発明のように、非線形回帰手法を用いて寄与率を算出することで、効率的に、有効な層別説明変数を判定することが可能となる。

また、好ましくは、前記算出部は、ランダムフォレストを用いて前記寄与率を算出する。
本発明は、このように構成されていることによって、層別説明変数の判定速度をさらに向上させることが可能となる。

また、好ましくは、前記判定部は、前記層別説明変数の候補が複数ある場合に、各候補のうち、単回帰分析を行ったときの決定係数が最も低いものを、前記層別説明変数と判定する。
本発明は、このように構成されていることによって、非線形回帰に有利な説明変数を層別説明変数と判定できる。したがって、層別説明変数の判定精度つまり重回帰分析の精度をさらに向上させることが可能となる。

本発明によれば、精度よく重回帰分析を行うことが可能な重回帰分析装置及び重回帰分析方法を提供できる。

実施の形態１にかかる分析システムを示す図である。 実施の形態１にかかる重回帰分析装置の構成を示す図である。 層別説明変数を説明するための図である。 層別説明変数を説明するための図である。 実施の形態１にかかる重回帰分析装置によって実行される重回帰分析方法を示すフローチャートである。 実施の形態１にかかるデータ取得部によって取得されるデータセットを例示する図である。 ランダムフォレストによる回帰分析で用いられた決定木を例示する図である。 実施の形態１にかかる説明変数の抽出処理の詳細を示すフローチャートである。 説明変数を寄与率の高いものから順に並べた状態を例示する図である。 実施の形態１にかかる判定部によって行われる層別説明変数を判定する方法を示すフローチャートである。 実施の形態１にかかる判定部によって行われる層別説明変数を判定する方法を示すフローチャートである。 層別説明変数の判定の具体例を説明するための図である。 実施の形態１にかかる分割部によって行われるデータセットの分割処理を示す図である。 図５に示したＳ１６０〜Ｓ１８２の処理の具体例を説明するための図である。 実施の形態１にかかる、統合重回帰式を用いた重回帰分析の結果を例示する図である。 実施の形態２にかかる判定部によって行われる層別説明変数を判定する方法を示すフローチャートである。 実施の形態２にかかる分割部によって行われるデータセットの分割処理を示す図である。 実施の形態２にかかる分割部によって層別に分割されたデータセットを例示する図である。

（実施の形態１）
以下、図面を参照して本発明の実施の形態について説明する。なお、各図面において、同一の要素には同一の符号が付されており、必要に応じて重複説明は省略されている。

図１は、実施の形態１にかかる分析システム１を示す図である。分析システム１は、複数のセンサ２０と、重回帰分析装置１００とを有する。センサ２０と、重回帰分析装置１００とは、有線又は無線のネットワーク２を介して通信可能に接続され得る。分析システム１は、例えば、車両に搭載され得るが、これに限定されない。

複数のセンサ２０は、それぞれ、分析システム１の評価対象に関する様々な状態を検出する。分析システム１が車両に搭載される場合、センサ２０は、車両における様々な状態（物理量）を検出する。例えば、分析システム１がエンジンのベンチ評価の際に排気系の触媒に関する分析を行う場合、センサ２０は、触媒の様々な材料条件における、触媒の排気ガスＮＯｘ濃度、アクセル開度、ガソリン供給量、触媒の流入ガス温度、触媒の流入ガス濃度、触媒温度等を検出する。また、例えば、分析システム１がリチウムイオン電池のベンチ評価に関する分析を行う場合、センサ２０は、リチウムイオン電池の様々な材料条件における、電池出力、電流、電流変化量、過去一定時間内での連続充電（放電）量、電池の温度、充電量等を検出する。

重回帰分析装置１００は、複数の説明変数と目的変数とから構成される複数のデータセットについて重回帰分析を行う。データセットについては図６を用いて後述する。重回帰分析装置１００は、センサ２０によって検出された状態のいずれかを目的変数とし、他の状態を説明変数として、重回帰分析を行う。上記の例では、分析システム１がエンジンのベンチ評価の際に排気系の触媒に関する分析を行う場合、触媒の排気ガスＮＯｘ濃度を目的変数とし、アクセル開度、ガソリン供給量、触媒の流入ガス温度、触媒の流入ガス濃度及び触媒温度等を説明変数とする。また、分析システム１がリチウム電池のベンチ評価に関する分析を行う場合、電池出力を目的変数とし、電流、電流変化量、過去一定時間内での連続充電（放電）量、電池の温度及び充電量等を説明変数とする。

ここで、実施の形態１にかかる重回帰分析装置１００は、複数の説明変数のうち、複数のデータセットの層別化（領域区分）を行う際のパラメータとして有効な説明変数を、層別説明変数として判定する。層別説明変数については後述する。重回帰分析装置１００は、層別説明変数を用いて、複数のデータセットを層別に分割する。

また、重回帰分析装置１００は、分割された複数のデータセットのグループそれぞれに対して重回帰分析を行う。さらに、重回帰分析装置１００は、重回帰分析の結果が統合された統合重回帰式を取得する。これにより、実施の形態１にかかる重回帰分析装置１００は、層別化を自動的に行い、層別化された複数のデータセットのグループそれぞれについて重回帰分析を行うので、説明変数が多い場合であっても、精度よく重回帰分析を行うことが可能となる。詳しくは後述する。

図２は、実施の形態１にかかる重回帰分析装置１００の構成を示す図である。重回帰分析装置１００は、主要なハードウェア構成として、制御部１０２と、記憶部１０４と、通信部１０６と、インタフェース部１０８（ＩＦ；Interface）とを有する。制御部１０２、記憶部１０４、通信部１０６及びインタフェース部１０８は、データバスなどを介して相互に接続されている。

制御部１０２は、例えばＣＰＵ（Central Processing Unit）等のプロセッサである。制御部１０２は、制御処理及び演算処理等を行う演算装置としての機能を有する。記憶部１０４は、例えばメモリ又はハードディスク等の記憶デバイスである。記憶部１０４は、例えばＲＯＭ（Read Only Memory）又はＲＡＭ（Random Access Memory）等である。記憶部１０４は、制御部１０２によって実行される制御プログラム及び演算プログラム等を記憶するための機能を有する。また、記憶部１０４は、処理データ等を一時的に記憶するための機能を有する。記憶部１０４は、データベースを含み得る。

通信部１０６は、センサ２０等の他の装置とネットワーク２を介して通信を行うために必要な処理を行う。通信部１０６は、通信ポート、ルータ、ファイアウォール等を含み得る。インタフェース部１０８（ＩＦ；Interface）は、例えばユーザインタフェース（ＵＩ）である。インタフェース部１０８は、キーボード、タッチパネル又はマウス等の入力装置と、ディスプレイ又はスピーカ等の出力装置とを有する。インタフェース部１０８は、ユーザ（オペレータ）によるデータの入力の操作を受け付け、ユーザに対して情報を出力する。

また、重回帰分析装置１００は、データ取得部１１２、寄与率算出部１１４、抽出部１１６、判定部１１８、分割部１２０、分析部１２２、回帰式取得部１２４及び結果表示部１２６（以下、これらを「各構成要素」と称する）を有する。データ取得部１１２、寄与率算出部１１４、抽出部１１６及び判定部１１８は、それぞれ、データ取得手段、寄与率算出手段、抽出手段及び判定手段として機能する。また、分割部１２０、分析部１２２、回帰式取得部１２４及び結果表示部１２６は、それぞれ、データ取得手段、寄与率算出手段、抽出手段、判定手段、分割手段、分析手段、回帰式取得手段及び結果表示手段として機能する。

なお、各構成要素は、例えば、制御部１０２の制御によって、プログラムを実行させることによって実現できる。より具体的には、各構成要素は、記憶部１０４に格納されたプログラムを、制御部１０２が実行することによって実現され得る。また、必要なプログラムを任意の不揮発性記録媒体に記録しておき、必要に応じてインストールすることで、各構成要素を実現するようにしてもよい。また、各構成要素は、プログラムによるソフトウェアで実現することに限ることなく、ハードウェア、ファームウェア、及びソフトウェアのうちのいずれかの組み合わせ等により実現してもよい。また、各構成要素は、例えばＦＰＧＡ（field-programmable gate array）又はマイコン等の、ユーザがプログラミング可能な集積回路を用いて実現してもよい。この場合、この集積回路を用いて、上記の各構成要素から構成されるプログラムを実現してもよい。以上のことは、後述する他の実施の形態においても同様である。なお、各構成要素の具体的な機能については後述するが、以下に、各構成要素の機能の概要について説明する。

データ取得部１１２は、複数のデータセットを取得する。寄与率算出部１１４は、データセットを構成する複数の説明変数それぞれの目的変数に対する寄与率を算出する。抽出部１１６は、複数の説明変数のうち、寄与率算出部１１４によって算出された寄与率が上位である、予め定められた条件を満たす数の説明変数を抽出する。

判定部１１８は、抽出部１１６によって抽出された、寄与率が上位の説明変数から、複数のデータセットの層別化を行う際のパラメータとして有効な説明変数を、層別説明変数として判定する。分割部１２０は、層別説明変数を用いて、複数のデータセットを層別に分割する。ここで、「層別説明変数」とは、この層別説明変数のある閾値を境として複数のデータセットを分割する（振り分ける）と、複数のデータセットが層別に分割されるような説明変数である。

図３及び図４は、層別説明変数を説明するための図である。図３及び図４の例において、各データセットは、目的変数をｙとし、説明変数をＸ１〜ＸＭとして構成されているとする。ここで、「Ｍ」は２以上の整数であり、説明変数の数を示す。また、図３及び図４の例において、中抜きの丸（白丸）のそれぞれは、データセットを示す。

図３は、縦軸と目的変数ｙとし、横軸を説明変数Ｘｋ１とした場合のデータセットの分布図である。このとき、説明変数Ｘｋ１が閾値Ｘｔｈ１よりも小さいデータセットの目的変数ｙの値は、全て、ｙ１よりも小さい。そして、説明変数Ｘｋ１が閾値Ｘｔｈ１よりも大きいデータセットの目的変数ｙの値は、全て、ｙ１よりも大きい。言い換えると、目的変数ｙがｙ１よりも小さいデータセットの説明変数Ｘｋ１の値は、全て、Ｘｔｈ１よりも小さく、目的変数ｙがｙ１よりも大きいデータセットの説明変数Ｘｋ１の値は、全て、Ｘｔｈ１よりも大きい。このように、説明変数Ｘｋ１における閾値Ｘｔｈ１によって、データセットが、層別に区分される。したがって、説明変数Ｘｋ１は、複数のデータセットの層別化を行う際のパラメータとして有効であるので、層別説明変数となり得る。

図４は、縦軸と目的変数ｙとし、横軸を説明変数Ｘｋ２とした場合のデータセットの分布図である。このとき、説明変数Ｘｋ２が閾値Ｘｔｈ２よりも小さいデータセットの目的変数ｙの値は、全てｙ１よりも小さいわけではなく、矢印Ａ１で示すデータセットのように、ｙ１よりも大きいものもある。そして、説明変数Ｘｋ２が閾値Ｘｔｈ２よりも大きいデータセットの目的変数ｙの値は、全てｙ１よりも大きいわけではなく、矢印Ａ２で示すデータセットのように、ｙ１よりも小さいものもある。言い換えると、目的変数ｙがｙ１よりも小さいデータセットの説明変数Ｘｋ２の値は、全てＸｔｈ２よりも小さいわけではなく、目的変数ｙがｙ１よりも大きいデータセットの説明変数Ｘｋ２の値は、全てＸｔｈ２よりも大きいわけではない。つまり、あるデータセットにおける目的変数（及び説明変数）が、階層（区分）を跨いでしまっている。このように、説明変数Ｘｋ２における閾値Ｘｔｈ２では、データセットは、層別に区分されない。したがって、説明変数Ｘｋ２は、層別説明変数とするのに有効でない。

分析部１２２（図２）は、分割部１２０によって分割された複数のデータセットのグループそれぞれに対して、独立して重回帰分析を行う。回帰式取得部１２４は、重回帰分析の結果が統合された統合重回帰式を取得する。統合重回帰式については後述する。結果表示部１２６は、統合重回帰式を用いて重回帰分析を行った結果を表示する。

図５は、実施の形態１にかかる重回帰分析装置１００によって実行される重回帰分析方法を示すフローチャートである。まず、データ取得部１１２は、Ｎ個のデータセットを取得する（ステップＳ１０２）。具体的には、データ取得部１１２は、複数のセンサ２０から検出された状態を示す値を取得する。データ取得部１１２は、評価対象のある材料条件等において、複数のセンサ２０から検出された状態のいずれかを目的変数とし、他の状態を説明変数として、１つのデータセットを取得する。そして、データ取得部１１２は、他の材料条件においても同様にして、１つのデータセットを取得する。このようにして、データ取得部１１２は、Ｎ個のデータセットを取得する。なお、データセットを構成する目的変数及び説明変数は、センサ２０によって検出されることに限定されない。

図６は、実施の形態１にかかるデータ取得部１１２によって取得されるデータセットを例示する図である。図６に例示したデータセットの数Ｎは２６（Ｎ＝２６）である。また、それぞれのデータセットは、目的変数ｙと、３１８個（Ｍ＝３１８）の説明変数Ｘ００１〜Ｘ３１８とから構成される。ここで、図６の例では、データセット＃１〜＃２６の順序は、目的変数ｙの小さいものから順（目的変数ｙの昇順）に配置したものである。

次に、寄与率算出部１１４は、Ｍ個全ての説明変数の、目的変数ｙに対する寄与率（重要度）を算出する（ステップＳ１０４）。具体的には、寄与率算出部１１４は、機械学習のアルゴリズムを用いて、寄与率を算出する。さらに具体的には、寄与率算出部１１４は、機械学習のうち、非線形回帰手法を用いて、寄与率を算出する。非線形回帰手法には、例えば、ランダムフォレスト、サポートベクトル回帰又は多項ロジスティック回帰等がある。ここで、非線形回帰手法のうち、ランダムフォレストを用いると、他の手法よりも寄与率の算出速度が速い。したがって、以下、ランダムフォレストを用いる例について説明する。

寄与率算出部１１４は、複数のデータセットに対して、各説明変数を条件分岐に用いたランダムフォレストを用いて、目的変数ｙの回帰分析を行う。なお、本実施の形態では、このランダムフォレストを用いた回帰分析の結果自体を、目的変数ｙの回帰に用いるわけではなく、後述するように、説明変数の寄与率（重要度）の算出のみに用いる。寄与率算出部１１４は、このランダムフォレストを用いた回帰分析の際に生成された決定木の、第１分岐に採用された説明変数それぞれの数をカウントする。

図７は、ランダムフォレストによる回帰分析で用いられた決定木を例示する図である。決定木Ｔｒｅｅ＿１では、説明変数Ｘ００２が第１分岐に採用されている。この場合、寄与率算出部１１４は、説明変数Ｘ００２の第１分岐採用回数をインクリメントする。また、決定木Ｔｒｅｅ＿２では、説明変数Ｘ１３２が第１分岐に採用されている。この場合、寄与率算出部１１４は、説明変数Ｘ１３２の第１分岐採用回数をインクリメントする。

このようにして、全ての決定木Ｔｒｅｅ＿１〜Ｔｒｅｅ＿Ｔについて、各説明変数の第１分岐採用回数をカウントする。これにより、寄与率算出部１１４は、各説明変数Ｘｋの第１分岐採用回数Ｎｋを算出する。なお、Ｔは、決定木の数である。そして、寄与率算出部１１４は、各説明変数Ｘｋの寄与率εｋを、εｋ＝Ｎｋ／Ｔ＊１００［％］により算出する。寄与率算出部１１４は、Ｍ個の説明変数それぞれについて、寄与率を算出する。なお、寄与率算出部１１４は、他の方法を用いて、寄与率を算出してもよい。

次に、抽出部１１６は、Ｓ１０４の処理で算出された寄与率が上位である説明変数を抽出する（ステップＳ１１０）。具体的には、図８に示す方法によって、予め定められた条件を満たす数の説明変数を抽出する。

図８は、実施の形態１にかかる説明変数の抽出処理の詳細を示すフローチャートである。まず、抽出部１１６は、上位のものから寄与率を加算し、その寄与率の和が予め定められた閾値Ｔｈ１を超える説明変数の数Ｍ１を算出する（ステップＳ１１２）。例えば、Ｔｈ１＝８０［％］であるが、Ｔｈ１は、これに限定されない。次に、抽出部１１６は、Ｍ１がＮ−１（つまり「データセット数」−１）よりも大きいか否かを判定する（ステップＳ１１４）。Ｍ１がＮ−１よりも大きい場合（Ｓ１１４のＹＥＳ）、抽出部１１６は、寄与率の高い方から（Ｎ−１）個の説明変数を抽出する（ステップＳ１１６）。一方、Ｍ１がＮ−１よりも大きくない場合（Ｓ１１４のＮＯ）、抽出部１１６は、寄与率の高い方からＭ１個の説明変数を抽出する（ステップＳ１１８）。なお、本実施の形態では、抽出される説明変数の数の上限を（Ｎ−１）個としたが、この上限はなくてもよい。

図９は、説明変数を寄与率の高いものから順に並べた状態を例示する図である。図９の例では、Ｓ１０４の処理において、ランダムフォレストの決定木の数を１０万本（Ｔ＝１０００００）としている。例えば、説明変数Ｘ００２の第１分岐採用回数は３９０５回であり、したがって、寄与率は３．９％である。図９の例では、寄与率が高い説明変数は、高いものから順に、Ｘ００２，Ｘ１３２，Ｘ１３３，・・・である。そして、図９の例では、Ｍ１＞Ｎ−１であったので、抽出部１１６は、寄与率が高いＮ−１個（つまり２５個）の説明変数を抽出する。

次に、判定部１１８は、Ｓ１１０で抽出された、寄与率が上位である説明変数から、層別説明変数を判定する（図５のステップＳ１２０）。具体的には、判定部１１８は、図１０及び図１１に示すフローチャートで示す方法で、層別説明変数を判定する。

図１０及び図１１は、実施の形態１にかかる判定部１１８によって行われる層別説明変数を判定する方法を示すフローチャートである。まず、判定部１１８は、Ｎ個のデータセットを目的変数ｙの昇順に配置する（ステップＳ１２２）。具体的には、判定部１１８は、図６に示すように、Ｎ個のデータセットを目的変数ｙの昇順に配置するが、図６とは異なり、これらのデータセットは、Ｓ１１０の処理で抽出された説明変数で構成される。

判定部１１８は、後述するＳ１２６の処理でＮ個のデータセットを分割するときに用いる分割数ｎの初期値を、ｎ＝Ｎ／２（但しＮが奇数の場合は繰り上げ）とする（ステップＳ１２４）。つまり、分割数ｎの初期値は、データセット数Ｎの中間値である。図６の例ではＮ＝２６であるので、分割数ｎの初期値は１３である。なお、分割数ｎの初期値をデータセット数Ｎの中間値とするのは、層別に分割されたデータセットそれぞれの数にできるだけ偏りがないようにするためである。なお、データセットそれぞれの数に偏りがあると、データセット数が少ない方を用いて適切に重回帰分析を行うことができないおそれがある。

次に、判定部１１８は、分割数ｎでデータセットを分割する（ステップＳ１２６）。具体的には、判定部１１８は、Ｎ個のデータセットを、目的変数ｙが小さいものからｎ個のデータセットと、目的変数ｙの大きな（Ｎ−ｎ）個のデータセットとに分割する。ここで、Ｓ１１０の処理で抽出された任意の説明変数をＸｋとする。

次に、判定部１１８は、目的変数ｙの小さなｎ個のデータセット（ＬＯＷデータセット）について、ある説明変数Ｘｋの最大値ＬＯＷｍａｘ及び最小値ＬＯＷｍｉｎを取得する（ステップＳ１３０）。同様に、判定部１１８は、目的変数の大きな（Ｎ−ｎ）個のデータセット（ＨＩＧＨデータセット）について、説明変数Ｘｋの最大値ＨＩＧＨｍａｘ及び最小値ＨＩＧＨｍｉｎを取得する（ステップＳ１３２）。なお、ＬＯＷｍａｘ及びＬＯＷｍｉｎは、それぞれ、ＬＯＷデータセットを構成するデータセットのうちのいずれかの説明変数Ｘｋの値である。同様に、ＨＩＧＨｍａｘ及びＨＩＧＨｍｉｎは、それぞれ、ＨＩＧＨデータセットを構成するデータセットのうちのいずれかの説明変数Ｘｋの値である。

次に、判定部１１８は、右上がりの層別条件「ＨＩＧＨｍｉｎ−ＬＯＷｍａｘ＞０且つＬＯＷｍｉｎ−ＨＩＧＨｍａｘ＜０」、又は、右下がりの層別条件「ＨＩＧＨｍｉｎ−ＬＯＷｍａｘ＜０且つＬＯＷｍｉｎ−ＨＩＧＨｍａｘ＞０」を満たすか否かを判定する（ステップＳ１３４）。ここで、右上がりの層別条件とは、図３に例示したように、目的変数ｙが小さい階層（区分）では、全てのデータセットの説明変数Ｘｋが、ある閾値Ｘｔｈ以下であり、目的変数ｙが大きい階層（区分）では、全てのデータセットの説明変数Ｘｋが、閾値Ｘｔｈよりも大きいことである。したがって、図３に例示したように、データセットは、右上の領域と左下の領域とに区分（層別化）される。一方、右上がりの層別条件を満たさない場合、例えば、図４に例示したように、データセットは、右上の領域と左下の領域とに区分（層別化）されない。また、右下がりの層別条件とは、図１４に例示するように、目的変数ｙが小さい階層（区分）では、全てのデータセットの説明変数Ｘｋが、ある閾値Ｘｔｈより大きく、目的変数ｙが大きい階層（区分）では、全てのデータセットの説明変数Ｘｋが、閾値Ｘｔｈ以下であることである。

右上がりの層別条件又は右下がりの層別条件を満たす場合（Ｓ１３４のＹＥＳ）、判定部１１８は、説明変数Ｘｋを層別説明変数の候補であると判定する（ステップＳ１３６）。一方、右上がりの層別条件又は右下がりの層別条件を満たさない場合（Ｓ１３４のＮＯ）、判定部１１８は、説明変数Ｘｋを層別説明変数の候補でないと判定する（ステップＳ１３８）。そして、判定部１１８は、Ｓ１１０の処理で抽出された全ての説明変数Ｘｋについて、Ｓ１３０〜Ｓ１３８の処理を行う（ステップＳ１４０）。

次に、判定部１１８は、層別説明変数の候補の数が０であるか否かを判定する（ステップＳ１４２）。層別説明変数の候補数が０である場合（Ｓ１４２のＹＥＳ）、分割数ｎの数を１インクリメント及び１デクリメントする（ステップＳ１４４）。これにより、中間値（初期値）の前後（大きい方及び小さい方）に２つの分割数ｎが生成される。例えば、分割数ｎが１３であった場合、ｎ＝１４及びｎ＝１２とする。なお、Ｓ１４４の２回目以降の処理では、前回の処理でインクリメントされた方の分割数（例えばｎ＝１４）がさらにインクリメントされ、前回の処理でデクリメントされた方の分割数（例えばｎ＝１２）がさらにデクリメントされる。つまり、Ｓ１４４が繰り返されるにつれて、２つの分割数ｎは、データセット数Ｎの中間値（初期値）から離れていく。

そして、判定部１１８は、大きい方（インクリメントされた方）の分割数ｎがＮ＊０．７よりも大きくなったか否か、又は、小さい方（デクリメントされた方）の分割数ｎがＮ＊０．３よりも小さくなったか否かを判定する（ステップＳ１４６）。大きい方の分割数ｎがＮ＊０．７よりも大きくなった、又は、小さい方の分割数ｎがＮ＊０．３よりも小さくなった場合（Ｓ１４６のＹＥＳ）、判定部１１８は、層別説明変数の判定処理を終了する。そして、図５のＳ１６０以降の処理は行われない。このように、層別説明変数の判定処理の回数（分割数のインクリメント及びデクリメント）に限度を設けるのは、以下の理由による。すなわち、分割数ｎがデータセット数Ｎの中間値とあまりにかけ離れると、Ｓ１６０の処理でデータセットを分割したときに一方のグループにデータセットが偏ってしまい、他方のグループのデータセット数が少なくなってしまう。これにより、Ｓ１８０の処理で他方のグループについて適切に重回帰分析を行うことが困難となるからである。

一方、大きい方の分割数ｎがＮ＊０．７よりも大きくなっておらず、小さい方の分割数ｎがＮ＊０．３よりも小さくなっていない場合（Ｓ１４６のＮＯ）、処理はＳ１２６に戻る。そして、判定部１１８は、大きい方の分割数ｎ（例えばＮ＝１４）及び小さい方の分割数ｎ（例えばｎ＝１２）それぞれについて、Ｓ１２６〜Ｓ１４２の処理を行う。

一方、候補数が０でない場合（Ｓ１４２のＮＯ）、判定部１１８は、単回帰分析の決定係数Ｒ^２が最も低い説明変数を、層別説明変数Ｘｓと判定する（ステップＳ１４８）。なお、候補数が１個である場合、判定部１１８は、その１個の候補である説明変数を、層別説明変数Ｘｓと判定する。ここで、説明変数Ｘｋについての単回帰分析とは、１つの説明変数Ｘｋを説明変数とし、目的変数ｙを目的変数とした回帰分析である。なお、「単回帰分析の決定係数Ｒ^２が低い説明変数」とは、線形回帰に不利であることを意味する、このように、この説明変数Ｘｋが、線形回帰に不利であるにも関わらず、Ｓ１１０の処理で寄与率が高いと判定されたということは、非線形回帰、つまり、層別に有効である可能性が高い。したがって、この説明変数Ｘｋが、層別説明変数Ｘｓと判定される。しかしながら、層別説明変数が後述する線形回帰に使えないわけではないことに、留意されたい。なお、非線形回帰と層別との関係については後述する。

図１２は、層別説明変数の判定の具体例を説明するための図である。図１２に示した例には、分割数ｎ＝１６である場合の、説明変数Ｘ００２，Ｘ１３２，Ｘ１３３の判定結果が示されている。

説明変数Ｘ００２について、ＨＩＧＨデータセットの説明変数Ｘｋの最小値ＨＩＧＨｍｉｎ（２．５７６）とＬＯＷデータセットの説明変数Ｘｋの最大値ＬＯＷｍａｘ（４２．４３８）との差は、−３９．９０６４（＜０）である。また、ＬＯＷデータセットの説明変数Ｘｋの最小値ＬＯＷｍｉｎ（１５．７７２）とＨＩＧＨデータセットの説明変数Ｘｋの最大値ＨＩＧＨｍａｘ（１５．７５０）との差は、０．０２２１５（＞０）である。したがって、判定部１１８は、説明変数Ｘ００２について、右下がりの層別条件を満たすと判定する。

説明変数Ｘ１３２について、ＨＩＧＨデータセットの説明変数Ｘｋの最小値ＨＩＧＨｍｉｎ（−１２．０９５）とＬＯＷデータセットの説明変数Ｘｋの最大値ＬＯＷｍａｘ（−１２．１８９）との差は、０．０９３７（＞０）である。また、ＬＯＷデータセットの説明変数Ｘｋの最小値ＬＯＷｍｉｎ（−１３．０７６）とＨＩＧＨデータセットの説明変数Ｘｋの最大値ＨＩＧＨｍａｘ（−１１．５５５）との差は、−１．５２１（＜０）である。したがって、判定部１１８は、説明変数Ｘ１３２について、右上がりの層別条件を満たすと判定する。

説明変数Ｘ１３３について、ＨＩＧＨデータセットの説明変数Ｘｋの最小値ＨＩＧＨｍｉｎ（１１．５５５）とＬＯＷデータセットの説明変数Ｘｋの最大値ＬＯＷｍａｘ（１３．０７６）との差は、−１．５２１（＜０）である。また、ＬＯＷデータセットの説明変数Ｘｋの最小値ＬＯＷｍｉｎ（１２．１８９）とＨＩＧＨデータセットの説明変数Ｘｋの最大値ＨＩＧＨｍａｘ（１２．０９５）との差は、０．０９３７（＞０）である。したがって、判定部１１８は、説明変数Ｘ１３３について、右下がりの層別条件を満たすと判定する。

ここで、説明変数Ｘ０２２，Ｘ１３２，Ｘ１３３の単回帰分析の決定係数Ｒ^２は、それぞれ、０．５７６、０．５７７、０．５７１である。したがって、決定係数Ｒ^２の最も低い説明変数はＸ１３３であるので、説明変数Ｘ１３３が、層別説明変数と判定される。

次に、分割部１２０は、Ｓ１２０の処理で判定された層別説明変数Ｘｓを用いて、複数のデータセットを、層別に分割する（図５のステップＳ１６０）。具体的には、分割部１２０は、後述するように、層別説明変数Ｘｓのある閾値に対する大小によって、Ｎ個のデータセットを、２つのグループに分割する。

図１３は、実施の形態１にかかる分割部１２０によって行われるデータセットの分割処理を示す図である。まず、分割部１２０は、Ｓ１２０の処理で判定された層別説明変数ＸｓのＳ１３０及びＳ１３２（図１０）における結果を取得する（ステップＳ１６２）。図１２の例では、分割数ｎ＝１６における、層別説明変数Ｘ１３３のＬＯＷｍａｘ、ＬＯＷｍｉｎ、ＨＩＧＨｍａｘ及びＨＩＧＨｍｉｎが取得される。次に、分割部１２０は、層別説明変数ＸｓがＳ１３４の処理で右上がりの層別条件を満たしたか否かを判定する（ステップＳ１６４）。層別説明変数Ｘｓが右上がりの層別条件を満たした場合（Ｓ１６４のＹＥＳ）、分割部１２０は、閾値Ｘｔｈを、ＬＯＷｍａｘ及びＨＩＧＨｍｉｎの平均、つまり、Ｘｔｈ＝（ＬＯＷｍａｘ＋ＨＩＧＨｍｉｎ）／２とする（ステップＳ１６６）。

一方、層別説明変数Ｘｓが右下がりの層別条件を満たした場合（Ｓ１６４のＮＯ）、分割部１２０は、閾値Ｘｔｈを、ＬＯＷｍｉｎ及びＨＩＧＨｍａｘの平均、つまり、Ｘｔｈ＝（ＬＯＷｍｉｎ＋ＨＩＧＨｍａｘ）／２とする（ステップＳ１６８）。なお、Ｘｔｈは、厳密に、ＬＯＷｍａｘ及びＨＩＧＨｍｉｎの平均値又はＬＯＷｍｉｎ及びＨＩＧＨｍａｘの平均値でなくてもよく、これらの平均値の近似値であってもよい。つまり、Ｘｔｈは、ＬＯＷｍａｘとＨＩＧＨｍｉｎとの間の値（Ｓ１６６）、又は、ＬＯＷｍｉｎとＨＩＧＨｍａｘとの間の値（Ｓ１６８）であってもよい。つまり、ＬＯＷｍａｘ＜Ｘｔｈ＜ＨＩＧＨｍｉｎ（Ｓ１６６）、又は、ＨＩＧＨｍａｘ＜Ｘｔｈ＜ＬＯＷｍｉｎ（Ｓ１６８）であればよい。

次に、分割部１２０は、層別説明変数Ｘｓ及び閾値Ｘｔｈを用いて、データセットを分割する分割する（ステップＳ１７０）。具体的には、Ｘｓ＞Ｘｔｈのグループ＃１と、Ｘｓ≦Ｘｔｈのグループ＃２に、データセットを分割（分類）する。これにより、複数のデータセットは、層別に分割される。図１２の例では、層別説明変数Ｘ１３３について、閾値Ｘｔｈ＝１２．１と決定される。そして、Ｘ１３３の値が１２．１よりも大きなデータセットについてはグループ＃１に振り分けられ（分類され）、Ｘ１３３の値が１２．１以下のデータセットについてはグループ＃２に振り分けられる（分類される）。このとき、図１２の例では右下がりの層別条件が満たされているので、目的変数ｙの小さなｎ個のデータセットが全てグループ＃１に分類され、目的変数ｙの大きな（Ｎ−ｎ）個のデータセットが全てグループ＃２に分類される。

次に、分析部１２２は、層別に分割された複数のデータセットのグループそれぞれに対して、重回帰分析を行う（図５のステップＳ１８０）。具体的には、分析部１２２は、グループ＃１のデータセットを用いて重回帰分析を行う。同様に、分析部１２２は、グループ＃２のデータセットを用いて重回帰分析を行う。このとき、分析部１２２は、グループ＃１についての重回帰分析と、グループ＃２についての重回帰分析とを、互いに独立して行う。

さらに具体的には、分析部１２２は、グループ＃１について、重回帰式ｆ_１＝ｘ_１１ａ_１１＋ｘ_１２ａ_１２＋・・・＋ｘ_１ｐａ_１ｐ＋ｂ_１を算出する。また、分析部１２２は、グループ＃２について、重回帰式ｆ_２＝ｘ_２１ａ_２１＋ｘ_２２ａ_２２＋・・・＋ｘ_２ｑａ_２ｑ＋ｂ_２を算出する。ここで、ｘ_ｉｊは説明変数のいずれかであり、ａ_ｉｊはｘ_ｉｊの係数であり、ｂ_ｉは切片である。また、ｐは、グループ＃１にかかる重回帰分析で使用される説明変数の数である。また、ｑは、グループ＃２にかかる重回帰分析で使用される説明変数の数である。

ここで、各グループのデータセットそれぞれの目的変数ｙ及び説明変数Ｘｋを重回帰式に当てはめることによって得られる係数ａ_ｉｊ及び切片ｂ_ｉの連立方程式を解くことで、重回帰式の各係数及び切片が算出され得る。そして、係数及び切片を解くことを可能とするためには、データセット数（連立方程式の方程式の数）が、係数及び切片の合計以上となる必要がある。したがって、分析部１２２は、各グループについて重回帰分析を行う際に、説明変数Ｘｋの数を、（各グループを構成するデータセット数）−１に絞り込む。図１２の例では、グループ＃１のデータセット数は１６個であるので、分析部１２２は、グループ＃１についての重回帰分析を行う際に、説明変数Ｘｋの数を１５個に絞り込む。同様に、グループ＃２のデータセット数は１０個であるので、分析部１２２は、グループ＃２についての重回帰分析を行う際に、説明変数Ｘｋの数を９個に絞り込む。なお、説明変数Ｘｋの絞り込みの際には、Ｓ１０４の処理で算出された寄与率の高いものから順に、重回帰分析に用いる説明変数Ｘｋを選択してもよい。あるいは、Ｓ１１０の処理で抽出された説明変数Ｘｋから、重回帰分析に用いる説明変数Ｘｋを選択してもよい。この場合、Ｓ１１０の処理で抽出された説明変数Ｘｋのうち、単回帰分析の決定係数Ｒ^２が高いものを、重回帰分析に用いる説明変数Ｘｋとして選択してもよい。

次に、回帰式取得部１２４は、Ｓ１８０の結果を用いて、統合重回帰式を取得する（ステップＳ１８２）。具体的には、回帰式取得部１２４は、以下の式（１）により、２個の重回帰式ｆ_１，ｆ_２を統合して、統合重回帰式を取得する。ここで、Ｙは、目的変数の予測値を示す。

図１４は、図５に示したＳ１６０〜Ｓ１８２の処理の具体例を説明するための図である。図１４は、図１２の例についての処理の具体例を示す。まず、Ｓ１６０の処理において、Ｎ＝２６個のデータセットが、グループ＃１（白丸で示す）とグループ＃２（黒丸で示す）とに分割される。このとき、上述したように、層別説明変数Ｘｓ（Ｘ１３３）の閾値Ｘｔｈ（＝１２．１）で、Ｎ＝２６個のデータセットが、グループ＃１（１６個）とグループ＃２（１０個）とに、層別に分割されることとなる。そして、Ｓ１８０の処理において、グループ＃１及びグループ＃２それぞれについて、重回帰分析＃１及び重回帰分析＃２が行われる。

ここで、重回帰分析＃１の結果、重回帰式ｆ_１＝Ｘ０５６＊２．４０５＋Ｘ０７９＊（−０．７７）＋Ｘ１５０＊２０．４５４＋Ｘ３０５＊（−０．０４２）＋Ｘ３０６＊０．０２６＋６．２０３が得られる。また、重回帰分析＃２の結果、重回帰式ｆ_２＝Ｘ０５１＊（−０．５１１）＋Ｘ０５６＊２１．９０３＋Ｘ０９０＊１９２．２４９＋Ｘ１４７＊（−５３．７１９）＋Ｘ１９５＊１８６．７７−１０６．２４５が得られる。そして、Ｓ１８２の処理によって、重回帰式ｆ_１と重回帰式ｆ_２とが式（１）で示すように統合された、統合重回帰式が取得される。つまり、目的変数の予測値Ｙは、Ｘ１３３＞１２．１のときは重回帰式ｆ_１に従い、Ｘ１３３≦１２．１のときは、重回帰式ｆ_２に従う。

次に、結果表示部１２６は、統合重回帰式を用いた重回帰分析の結果を表示する（ステップＳ１８４）。具体的には、図１５に例示するように、結果表示部１２６は、インタフェース部１０８を制御して、ユーザに視認可能に、重回帰分析の結果を表示する。

図１５は、実施の形態１にかかる、統合重回帰式を用いた重回帰分析の結果を例示する図である。図１５において、横軸は目的変数の予測値Ｙを示し、縦軸は、目的変数の実際値ｙを示す。ここで、直線は、Ｙ＝ｙを示す。図１５に示すように、グループ＃１の各データセット（白丸で示す）は、ｙ＝ｙ１よりも小さい領域で、Ｙ＝ｙの近傍に分布している。また、グループ＃２の各データセット（黒丸で示す）は、ｙ＝ｙ１よりも大きな領域で、Ｙ＝ｙの近傍に分布している。そして、この統合重回帰式を用いた重回帰分析の精度として、決定係数Ｒ^２が表示されている。ここで、Ｒ^２＝０．９８２６であることから、統合重回帰式を用いた重回帰分析の精度は、比較的良好であるといえる。

上述したように、本実施の形態にかかる重回帰分析装置１００は、複数のデータセットに対して自動的に層別化を行い、層別化されたデータセットのグループそれぞれに対して重回帰分析を行って、これらの結果が統合された統合重回帰式を取得する。このように、層別化されたデータセットのグループそれぞれに対して別個に重回帰分析を行うことにより、説明変数が多い場合であっても、精度よく重回帰分析を行うことが可能となる。したがって、説明変数が多い場合であっても、推定式の汎化性能低下（次元の呪い）を招くことを抑制することができる。

また、実施の形態１のＳ１０４〜Ｓ１１０（図５）の処理のように予め寄与率が高い説明変数に絞り込んだ後で層別説明変数を判定することにより、層別説明変数の判定対象となる説明変数の数を削減できる。したがって、層別説明変数の判定速度を向上させることが可能となる。

また、非線形回帰手法を用いて寄与率を算出することで、以下に説明するように、効率的に、有効な層別説明変数を判定することが可能となる。層別とは、ある説明変数のある値（閾値）を境に、データセットの目的変数ｙの線形性が異なる場合に、その説明変数の閾値を境にグループ分けすることである。したがって、その層別にグループ分けするための説明変数（層別説明変数）は、式（１）からも、目的変数に対して不連続性つまり非線形性を有する。したがって、層別説明変数の判定対象となる説明変数は、非線形回帰手法を用いて算出された寄与率の高いものとすることで、効率的に、有効な層別説明変数を判定することが可能となる。言い換えると、非線形回帰手法を用いると、層別に有効な説明変数の寄与率を高くするように、寄与率を算出することができる。さらに、上述したように、非線形回帰手法のうちランダムフォレストを用いると、寄与率の算出速度が速いので、ランダムフォレストを用いて説明変数の寄与率を算出することで、層別説明変数の判定速度をさらに向上させることが可能となる。

なお、Ｒｉｄｇｅ、Ｌａｓｓｏ又はＥｌａｓｔｉｃ Ｎｅｔ等の線形回帰手法のみを用いた回帰手法では、層別（領域区分）に有効な説明変数の重要性を把握できないおそれがある。一方、非線形回帰手法では、層別（領域区分）に有効な説明変数の重要性を把握できるが、各説明変数の線形的な影響傾向を得ることが困難である。したがって、非線形回帰手法では、各説明変数の変化に伴う目的変数の変化を人間が直観的に把握することが難しい。

これに対し、本実施の形態にかかる重回帰分析装置１００は、非線形回帰手法を用いて層別に有効な説明変数を判定してデータセットの層別化を行い、層別化されたデータセットのグループそれぞれについて、線形回帰（重回帰分析）を行う。したがって、本実施の形態にかかる重回帰分析装置１００を用いることによって、上述した線形回帰手法及び非線形回帰手法の問題点を解決することができる。

（実施の形態２）
次に、実施の形態２について説明する。実施の形態２においては、複数の層別説明変数が判定される点で、実施の形態１と異なる。なお、実施の形態２にかかる重回帰分析装置１００の構成については、図２に示したものと実質的に同様であるので、説明を省略する。また、重回帰分析装置１００によって実行される重回帰分析方法については、図５に示したものと、一部を除き、実質的に同様である。以下、実施の形態２にかかる処理のうち、実施の形態１にかかる処理と異なる処理（Ｓ１２０及びＳ１６０）について説明する。なお、以下の説明では、２個の層別説明変数が判定される例が示されている。

図１６は、実施の形態２にかかる判定部１１８によって行われる層別説明変数を判定する方法を示すフローチャートである。なお、図１６は、図１０に示した処理の後段の処理が示されている。つまり、実施の形態２にかかる判定部１１８は、図１０及び図１６に示した処理を行う。

判定部１１８は、Ｓ１１０の処理で抽出された全ての説明変数Ｘｋについて、Ｓ１３０〜Ｓ１３８の処理を行う（ステップＳ２４０）。次に、判定部１１８は、層別説明変数の候補数が０であるか否かを判定する（ステップＳ２４２）。層別説明変数の候補数が０である場合（Ｓ２４２のＹＥＳ）、判定部１１８は、Ｓ１４４及びＳ１４６の処理（図１１）を行う。

一方、層別説明変数の候補数が０でない場合（Ｓ２４２のＮＯ）、判定部１１８は、層別説明変数の候補数が２以上であるか否かを判定する（ステップＳ２４４）。層別説明変数の候補数が２以上である場合（Ｓ２４４のＹＥＳ）、判定部１１８は、単回帰分析の決定係数Ｒ^２が低い２個の説明変数を、層別説明変数Ｘｓと判定する（ステップＳ２４８）。なお、層別説明変数の候補数が２個である場合、判定部１１８は、その２個の候補である説明変数Ｘｋを、層別説明変数Ｘｓと判定する。これにより、２個の層別説明変数Ｘｓ１，Ｘｓ２が判定される。

一方、層別説明変数の候補数が２以上でない、つまり候補数が１個である場合（Ｓ２４４のＮＯ）、判定部１１８は、その１個の候補である説明変数Ｘｋを、層別説明変数Ｘｓと判定する（ステップＳ２５０）。そして、判定部１１８は、図１１、図１０及び図１６に記載されたＳ１４４〜Ｓ２４０の処理を繰り返す。その後、判定部１１８は、層別説明変数の候補の数が０であるか否かを判定する（ステップＳ２５２）。候補数が０である場合（Ｓ２５２のＹＥＳ）、判定部１１８は、Ｓ１４４及びＳ１４６の処理（図１１）を行う。一方、候補数が０でない場合（Ｓ２５２のＮＯ）、判定部１１８は、単回帰分析の決定係数Ｒ^２が最も低い説明変数を、もう１つの層別説明変数Ｘｓと判定する（ステップＳ２５４）。これにより、Ｓ２５０の処理で判定されたものと合わせて、２個の層別説明変数Ｘｓ１，Ｘｓ２が判定される。

図１７は、実施の形態２にかかる分割部１２０によって行われるデータセットの分割処理を示す図である。分割部１２０は、Ｓ１２０の処理で判定された層別説明変数Ｘｓ１，Ｘｓ２それぞれのＳ１３０及びＳ１３２における結果を取得する（ステップＳ２６２）。次に、分割部１２０は、層別説明変数Ｘｓ１，Ｘｓ２それぞれについて、図１３に示したＳ１６４〜Ｓ１６８の処理を行い、閾値Ｘｔｈ１，Ｘｔｈ２を算出する（ステップＳ２６４）。ここで、閾値Ｘｔｈ１は層別説明変数Ｘｓ１における閾値であり、閾値Ｘｔｈ２は層別説明変数Ｘｓ２における閾値である。

次に、分割部１２０は、層別説明変数Ｘｓ１，Ｘｓ２及びそれぞれの閾値Ｘｔｈ１，Ｘｔｈ２を用いて、データセットを分割する（ステップＳ２６６）。具体的には、分割部１２０は、Ｘｓ１＞Ｘｔｈ１且つＸｓ２＞Ｘｔｈ２のデータセットをグループ＃１に振り分ける。また、分割部１２０は、Ｘｓ１≦Ｘｔｈ１且つＸｓ２＞Ｘｔｈ２のデータセットをグループ＃２に振り分ける。また、分割部１２０は、Ｘｓ１＞Ｘｔｈ１且つＸｓ２≦Ｘｔｈ２のデータセットをグループ＃３に振り分ける。また、分割部１２０は、Ｘｓ１≦Ｘｔｈ１且つＸｓ２≦Ｘｔｈ２のデータセットをグループ＃４に振り分ける。このように、データセットは、４つ（＝２^２）のグループに振り分けられる。

図１８は、実施の形態２にかかる分割部１２０によって層別に分割されたデータセットを例示する図である。図１８の例において、データセット数を２００個（Ｎ＝２００）とする。グループ＃１には、６０個のデータセットが振り分けられている。グループ＃２には、４０個のデータセットが振り分けられている。グループ＃３には、５０個のデータセットが振り分けられている。グループ＃４には、５０個のデータセットが振り分けられている。このように、データセット数が比較的多い場合には、層別説明変数が複数であっても、層別に分割されたデータセットの数は、重回帰分析を行うのに十分であり得る。

そして、分析部１２２は、グループ＃１〜＃４それぞれについて重回帰分析を行い、４個の重回帰式を得る（図５のＳ１８０）。回帰式取得部１２４は、式（１）と同様の方法によって４個の重回帰式を統合することで、統合重回帰式を取得する（図５のＳ１８２）。そして、結果表示部１２６は、統合重回帰式を用いた重回帰分析の結果を表示する（図５のＳ１８４）。

なお、上述した実施の形態２では、層別説明変数が２個の場合について説明したが、層別説明変数が３個判定される場合も、同様の処理が行われる。層別説明変数が３個の場合、図１６において、Ｓ２４４の処理を、層別説明変数の候補数が３以上であるか否かの判定に置き換え、Ｓ２４８の処理を、単回帰分析の決定係数Ｒ^２が低い３個の説明変数を、層別説明変数Ｘｓと判定する処理に置き換える。また、層別説明変数の候補数が３以上でない場合、判定部１１８は、１又は２個の説明変数を層別説明変数Ｘｓと判定し（Ｓ２５０の処理に対応）、残りの層別説明変数を、図１６に示す処理と同様の処理によって判定する。そして、分割部１２０は、図１７に示す処理と同様の処理を行って、８つ（＝２^３）のグループに、データセットを振り分ける。そして、分析部１２２は、８つのグループそれぞれについて重回帰分析を行い、８個の重回帰式を得る（図５のＳ１８０）。回帰式取得部１２４は、式（１）と同様の方法によって８個の重回帰式を統合することで、統合重回帰式を取得する（図５のＳ１８２）。そして、結果表示部１２６は、統合重回帰式を用いた重回帰分析の結果を表示する（図５のＳ１８４）。

実施の形態２で説明したように、層別説明変数は１個に限られず、複数であってもよい。これにより、データセットが、より細かく層別に分割され得るので、実施の形態１と比較して、さらに精度よく重回帰分析を行うことが可能となり得る。なお、データセット数が少ない場合、層別に分割された各グループのデータセット数が、重回帰分析を行うのに必要な数に満たないことがあり得る。したがって、層別説明変数を複数とすること、つまり、４層別又は８層別等に分割することは、データセット数がある程度多い場合に有効であり得る。

（変形例）
なお、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。例えば、上述したフローチャートにおいて、複数の処理の順序は、適宜、変更可能である。また、上述したフローチャートにおいて、複数の処理のうちの１つは、省略されてもよい。

例えば、図５に示したＳ１０４〜Ｓ１１０の処理はなくてもよい。つまり、Ｓ１０４〜Ｓ１１０の処理のようにして予め寄与率が高いものに処理対象の説明変数を絞り込んだ後で層別説明変数を判定する必要はない。この場合、Ｓ１４０（図１１）における「全ての説明変数Ｘｋ」とは、Ｓ１１０の処理で抽出された説明変数（図９の例では２５個の説明変数）ではなく、データセットを構成する全ての説明変数（図６の例では３１８個の説明変数）であってもよい。なお、実施の形態１のＳ１０４〜Ｓ１１０の処理を行うことにより、上述したように、層別説明変数の判定速度を向上させることが可能となる。

また、上述した実施の形態においては、Ｓ１０４の処理で、非線形回帰手法を用いて寄与率を算出するとしたが、このような構成に限られない。つまり、説明変数の寄与率の算出の際に、非線形回帰手法を用いなくてもよい。しかしながら、非線形回帰手法を用いて寄与率を算出することで、上述したように、効率的に、有効な層別説明変数を判定することが可能となる。

また、上述した実施の形態においては、Ｓ１８２の処理において１つの統合重回帰式を取得するとしたが、このような構成に限られない。複数の統合重回帰式を取得し、複数の統合重回帰式のうち決定係数が最も高いものを、実際の回帰分析に用いるものとして選択してもよい。具体的には、図１６に示したように複数の層別説明変数を判定し、それぞれの層別説明変数を用いて、複数のデータセットを２つ又は４つのグループに層別に分割する。例えば、２個の層別説明変数Ｘｓ１，Ｘｓ２を用いる場合は、３組のグループ（層別説明変数Ｘｓ１を用いた２つのグループ、層別説明変数Ｘｓ２を用いた２つのグループ、及び、層別説明変数Ｘｓ１，Ｘｓ２を用いた４つのグループ）が生成される。このようにして、各組に対応する複数の統合重回帰式が取得される。これにより、より回帰分析の精度の高い統合重回帰式を、実際の解析に用いる統合重回帰式として選択することが可能となる。

また、上述の例において、プログラムは、様々なタイプの非一時的なコンピュータ可読媒体（non-transitory computer readable medium）を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体（tangible storage medium）を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体（例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ）、光磁気記録媒体（例えば光磁気ディスク）、ＣＤ−ＲＯＭ、ＣＤ−Ｒ、ＣＤ−Ｒ／Ｗ、半導体メモリ（例えば、マスクＲＯＭ、ＰＲＯＭ（Programmable ROM）、ＥＰＲＯＭ（Erasable PROM）、フラッシュＲＯＭ、ＲＡＭ）を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体（transitory computer readable medium）によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。

１・・・分析システム、２０・・・センサ、１００・・・重回帰分析装置、１０２・・・制御部、１０４・・・記憶部、１０６・・・通信部、１０８・・・インタフェース部、１１２・・・データ取得部、１１４・・・寄与率算出部、１１６・・・抽出部、１１８・・・判定部、１２０・・・分割部、１２２・・・分析部、１２４・・・回帰式取得部、１２６・・・結果表示部

Claims (6)

1. 複数の説明変数と目的変数とから構成される複数のデータセットについて重回帰分析を行う重回帰分析装置であって、
   前記複数の説明変数のうち、前記複数のデータセットの層別化を行う際のパラメータとして有効な説明変数を、層別説明変数として判定する判定部と、
   前記層別説明変数を用いて、前記複数のデータセットを層別に分割する分割部と、
   分割された前記複数のデータセットのグループそれぞれに対して重回帰分析を行う分析部と、
   前記重回帰分析の結果が統合された統合重回帰式を取得する取得部と
   を有する重回帰分析装置。
2. 前記複数の説明変数それぞれの目的変数に対する寄与率を算出する算出部と、
   前記複数の説明変数のうち、算出された前記寄与率が上位である、予め定められた条件を満たす数の前記説明変数を抽出する抽出部と
   をさらに有し、
   前記判定部は、前記抽出された前記説明変数から、前記層別説明変数を判定する
   請求項１に記載の重回帰分析装置。
3. 前記算出部は、非線形回帰手法を用いて前記寄与率を算出する
   請求項２に記載の重回帰分析装置。
4. 前記算出部は、ランダムフォレストを用いて前記寄与率を算出する
   請求項３に記載の重回帰分析装置。
5. 前記判定部は、前記層別説明変数の候補が複数ある場合に、各候補のうち、単回帰分析を行ったときの決定係数が最も低いものを、前記層別説明変数と判定する
   請求項３又は４に記載の重回帰分析装置。
6. 複数の説明変数と目的変数とから構成される複数のデータセットについて重回帰分析を行う重回帰分析方法であって、
   前記複数の説明変数のうち、前記複数のデータセットの層別化を行う際のパラメータとして有効な説明変数を、層別説明変数として判定し、
   前記層別説明変数を用いて、前記複数のデータセットを層別に分割し、
   分割された前記複数のデータセットのグループそれぞれに対して重回帰分析を行い、
   前記重回帰分析の結果が統合された統合重回帰式を取得する
   重回帰分析方法。

Images