JP7067236B2 - 機械学習用データ生成方法および機械学習用データ生成プログラム - Google Patents

Description

本発明の実施形態は、学習用データ生成方法、学習用データ生成プログラムおよびデータ構造に関する。

グラフ構造のデータを深層学習することが可能なグラフ構造学習技術（以降、このようなグラフ構造学習を行う装置の一形態を「ディープテンソル（DeepTensor：DT）」と呼ぶ。）が知られている。ＤＴは、入力としてグラフ構造を用い、グラフ構造をテンソルデータ（以下では、テンソルと記載する場合がある）として扱う。そして、ＤＴでは、予測に寄与するグラフの部分構造（テンソルの部分パターン）をコアテンソルとして抽出することで、高精度な予測を実現する。

特開平０８－３２９１９６号公報

しかしながら、上記ＤＴでは、特徴を多次元で示すテンソルのカテゴリを示す次元において、出現頻度の低いカテゴリがいくつかあると、そのカテゴリごとに異なる特徴の部分パターンとして扱われることとなる。このため、出現頻度の低いいくつかのカテゴリが、予測において重要な部分パターンの認識に影響を及ぼすことがあり、予測精度の劣化を招く場合がある。

１つの側面では、予測精度の劣化を抑制することができる学習用データ生成方法、学習用データ生成プログラムおよびデータ構造を提供することを目的とする。

第１の案では、学習用データ生成方法は、コンピュータが、取得する処理と、特定する処理と、生成する処理とを実行する。取得する処理は、予測にかかる対象ごとに、当該対象の特徴を多次元で示す第１のテンソルを取得する。特定する処理は、取得した第１のテンソルのうち、カテゴリを示す次元を特定する。生成する処理は、第１のテンソルについて、特定した次元におけるカテゴリの出現頻度に基づき、出現頻度が所定値以下の複数のカテゴリのうちの少なくとも２つを一つのカテゴリとして統一した第２のテンソルを生成する。

本発明の１実施態様によれば、予測精度の劣化を抑制することができる。

図１は、実施形態にかかる機械学習の全体例を説明する説明図である。 図２は、訓練データの例を説明する説明図である。 図３は、グラフ構造とテンソルとの関係の一例を示す説明図である。 図４は、部分グラフ構造の抽出の一例を示す説明図である。 図５は、ディープテンソルの学習例を説明する説明図である。 図６は、実施形態にかかる学習装置の機能構成例を示すブロック図である。 図７は、出勤簿データＤＢに記憶される勤怠情報の例を示す説明図である。 図８は、テンソル化を説明する説明図である。 図９は、統一化を説明する説明図である。 図１０は、統一化を説明する説明図である。 図１１は、予測に影響を与える部分パターンを識別するコアテンソルの絞り込みを説明する説明図である。 図１２は、学習時の処理の一例を示すフローチャートである。 図１３は、テンソル化の処理の一例を示すフローチャートである。 図１４は、予測時の処理の一例を示すフローチャートである。 図１５は、ハードウェア構成例を説明する説明図である。

以下、図面を参照して、実施形態にかかる学習用データ生成方法、学習用データ生成プログラムおよびデータ構造を説明する。実施形態において同一の機能を有する構成には同一の符号を付し、重複する説明は省略する。なお、以下の実施形態で説明する学習用データ生成方法、学習用データ生成プログラムおよびデータ構造は、一例を示すに過ぎず、実施形態を限定するものではない。また、以下の各実施形態は、矛盾しない範囲内で適宜組みあわせてもよい。

近年、従業員の体調管理などは、企業にとっても取り組むべき重要な事項に位置づけられており、従業員の出勤簿データから、数か月先のメンタル不調（療養の有無）を予測し、カウンセリング等の対応を早期に実施することが行われている。一般的には、職場支援スタッフなどの専任スタッフが、膨大な人数の従業員の出勤簿データを閲覧し、頻繁な出張、長時間残業、連続する欠勤、無断欠勤、これらの組合せなどの特徴的なパターンの勤務状態に該当する従業員を目視で探している。このような特徴的なパターンは、各専任スタッフにより基準が異なることもあり、明確に定義することが難しい。

そこで、本実施形態では、ディープテンソルを用いた深層学習の一例として、従業員等の出勤簿データを学習対象とし、体調不良者の出勤簿データおよび通常者の出勤簿データをディープテンソルに入力して従業員のメンタル不調を予測する予測モデルを学習する例を説明する。

［全体例］
図１は、実施形態にかかる機械学習の全体例を説明する説明図である。図１に示すように、学習装置１００は、社員の日々の出勤、退勤時間、休暇取得、出張などの状況を含む出勤簿データ２０３、２０４を機械学習２００して予測モデル２０１を生成し、学習後の予測モデル２０１を用いて、予測対象のある社員の出勤簿データ２０５から、当該社員が療養するか療養しないかを予測するコンピュータ装置の一例である。

具体的には、学習装置１００は、療養したことがある体調不良者の出勤簿データ２０３と、療養したことがない通常者の出勤簿データ２０４とを正解付きの教師データとして、グラフ構造のデータを深層学習（ディープラーニング・Deep Learning；DL）するディープテンソルによって予測モデル２０１を生成する。その後、学習結果を適用した予測モデル２０１を用いて新規なグラフ構造のデータの正確な事象（ラベル）の推定を実現する。具体的には、予測したい人の出勤簿データ２０５に対して予測モデル２０１を適用することで、療養する（１）または療養しない（０）とするラベル推定を行う。

ここで、ディープテンソルに入力する訓練データ（教師データ）について説明する。図２は、訓練データの例を説明する図である。図２に示すように、出勤簿データ２０３は、ラベル（療養）が付される体調不良者の出勤簿データである。また、出勤簿データ２０４は、療養しなかったラベル（通常）が付される通常者の出勤簿データである。

例えば、学習装置１００は、「６か月分の出勤簿データ、ラベル（３か月以内に療養あり）」と、「６か月分の出勤簿データ、ラベル（３か月以内に療養なし）」とを訓練データとして予測モデル２０１を学習する。学習装置１００は、学習後、予測したい人の６か月分の出勤簿データ２０５から３か月以内に療養するか否かを予測する。

次に、ディープテンソルについて説明する。ディープテンソルとは、テンソル（グラフ情報）を入力とするディープラーニングであり、ニューラルネットワークの学習とともに、判別に寄与する部分グラフ構造を自動的に抽出する。この抽出処理は、ニューラルネットワークの学習とともに、入力テンソルデータのテンソル分解のパラメータを学習することによって実現される。

次に、図３および図４を用いてグラフ構造について説明する。図３は、グラフ構造とテンソルとの関係の一例を示す図である。図３に示すグラフ２０は、４つのノードがノード間の関係性（例えば「相関係数が所定値以上」）を示すエッジで結ばれている。なお、エッジで結ばれていないノード間は、当該関係性がないことを示す。グラフ２０を２階のテンソル、つまり行列で表す場合、例えば、ノードの左側の番号に基づく行列表現は「行列Ａ」で表され、ノードの右側の番号（囲み線で囲んだ数字）に基づく行列表現は「行列Ｂ」で表される。これらの行列の各成分は、ノード間が結ばれている（接続している）場合「１」で表され、ノード間が結ばれていない（接続していない）場合「０」で表される。以下の説明では、この様な行列を接続行列ともいう。ここで、「行列Ｂ」は、「行列Ａ」の２，３行目および２，３列目を同時に置換することで生成できる。ディープテンソルでは、この様な置換処理を用いることで順序の違いを無視して処理を行う。すなわち、「行列Ａ」および「行列Ｂ」は、ディープテンソルでは順序性が無視され、同じグラフとして扱われる。なお、３階以上のテンソルについても同様の処理となる。

図４は、部分グラフ構造の抽出の一例を示す図である。図４に示すグラフ２１は、６つのノードがエッジで結ばれたものである。グラフ２１は、行列（テンソル）で表すと行列２２に示すように表現できる。行列２２に対して、特定の行および列を入れ替える演算、特定の行および列を抽出する演算、ならびに、接続行列における非ゼロ要素をゼロに置換する演算を組み合わせることで、部分グラフ構造を抽出できる。例えば、行列２２の「ノード１，４，５」に対応する行列を抽出すると、行列２３となる。次に、行列２３の「ノード４，５」間の値をゼロに置換すると、行列２４となる。行列２４に対応する部分グラフ構造は、グラフ２５となる。

このような部分グラフ構造の抽出処理は、テンソル分解と呼ばれる数学的演算によって実現される。テンソル分解とは、入力されたｎ階テンソルをｎ階以下のテンソルの積で近似する演算である。例えば、入力されたｎ階テンソルを１つのｎ階テンソル（コアテンソルと呼ばれる。）、および、より低階のｎ個のテンソル（ｎ＞２の場合、通常は２階のテンソル、つまり行列が用いられる。）の積で近似する。この分解は一意ではなく、入力データが表すグラフ構造中の任意の部分グラフ構造をコアテンソルに含める事ができる。

続いて、ディープテンソルの学習について説明する。図５は、ディープテンソルの学習例を説明する図である。図５に示すように、学習装置１００は、療養ありなどの教師ラベル（ラベルＡ）が付された出勤簿データ２０３、２０４から生成された入力テンソル２１０を取得する。そして、学習装置１００は、入力テンソル２１０にテンソル分解を行って、初回にランダムに生成されたターゲットコアテンソル２１１に類似するようにコアテンソル２１２を生成する。そして、学習装置１００は、コアテンソル２１２をニューラルネットワーク（ＮＮ：Neural Network）２１３に入力して分類結果（ラベルＡ：７０％、ラベルＢ：３０％）を得る。その後、学習装置１００は、分類結果（ラベルＡ：７０％、ラベルＢ：３０％）と教師ラベル２１４（ラベルＡ：１００％、ラベルＢ：０％）との分類誤差を算出する。

ここで、学習装置１００は、誤差逆伝搬法を拡張した拡張誤差伝搬法を用いて予測モデル２０１の学習およびテンソル分解の方法の学習を実行する。すなわち、学習装置１００は、コアテンソル２１２が有する入力層、中間層、出力層に対して、分類誤差を下層に伝搬させる形で、分類誤差を小さくするようにコアテンソル２１２の各種パラメータを修正する。さらに、学習装置１００は、分類誤差をターゲットコアテンソル２１１まで伝搬させ、予測に寄与するグラフの部分構造、すなわち療養者の特徴を示す特徴パターンもしくは通常者の特徴を示す特徴パターンに近づくように、ターゲットコアテンソル２１１を修正する。

このようなディープテンソルによる学習において、学習装置１００は、予測にかかる対象ごとに、予め設定された期間の対象者の特徴を多次元で示す複数の要素から成るテンソル（入力テンソル２１０）を取得する。次いで、学習装置１００は、取得した入力テンソル２１０のうち、カテゴリを示す次元を特定する。次いで、学習装置１００は、取得した入力テンソル２１０について、特定した次元におけるカテゴリの出現頻度に基づき、出現頻度が所定値以下の複数のカテゴリのうちの少なくとも２つを一つのカテゴリとして統一したテンソルを生成する。次いで、学習装置１００は、生成したテンソルをテンソル分解して、ディープテンソルによる学習を実行する。

例えば、学習装置１００は、通常者と療養者のそれぞれの出勤簿データ２０３、２０４から生成されたテンソルを用いて学習する際に、出欠区分などのカテゴリを示す次元を特定する。そして、学習装置１００は、出欠区分における出勤、年次休暇、半休、忌引、妻出産などのカテゴリの出現頻度に基づき、出現頻度が稀なカテゴリのうちの少なくとも２つを一つのカテゴリに統一したテンソルを生成する。このようにすることで、学習装置１００は、出現頻度の低い少なくとも２つのカテゴリ（例えば忌引や妻出産）が、予測において重要な部分パターンの認識に影響を及ぼすことを抑止し、予測精度の劣化を抑制することができる。また、出現頻度の低いいくつかのカテゴリが一つの統一カテゴリとして扱われることで、テンソル表現上から要素数を削減することができ、処理時間の向上が見込める。

なお、本実施形態では、出現頻度が稀な忌引、妻出産の２つを一つのカテゴリに統一する場合を例示するが、出現頻度が稀な２つ以上のカテゴリを一つに統一してもよい。例えば、出現頻度が稀な慶事などのカテゴリがある場合は、忌引、妻出産、慶事を一つのカテゴリに統一してもよい。このように、多くのカテゴリを統一する場合は、より処理時間の向上が見込めることとなる。また、出現頻度が稀なカテゴリが多く存在する場合は、いくつかのカテゴリに分類して統一してもよい。例えば、出現頻度が稀な忌引、事故、妻出産、慶事の４つのカテゴリを、忌引、事故などのレア休１と、妻出産、慶事などのレア休２とに分類して統一してもよい。

［機能構成］
図６は、実施形態にかかる学習装置１００の機能構成例を示すブロック図である。図６に示すように、学習装置１００は、通信部１０１、記憶部１０２、制御部１１０を有する。

通信部１０１は、他の装置との通信を制御する処理部であり、例えば通信インタフェースである。例えば、通信部１０１は、管理者の端末から、処理開始指示、訓練データ、訓練データがテンソル化された入力テンソル２１０、入力テンソル２１０においてカテゴリを示す次元などの設定情報１０７等を受信する。また、通信部１０１は、管理者の端末に対して、学習結果や学習後の予測結果などを出力する。

記憶部１０２は、プログラムやデータを記憶する記憶装置の一例であり、例えばメモリやハードディスクなどである。この記憶部１０２は、出勤簿データＤＢ１０３、テンソルＤＢ１０４、学習結果ＤＢ１０５、予測対象ＤＢ１０６、設定情報１０７を記憶する。

出勤簿データＤＢ１０３は、社員等の出勤に関する出勤簿データ（２０３、２０４）を記憶するデータベースである。ここで記憶される出勤簿データは、各企業で使用される出勤簿をデータ化したものであり、公知の様々な出勤管理システムなどから取得することができる。

図７は、出勤簿データＤＢ１０３に記憶される勤怠情報の例を示す説明図である。図７に示すように、出勤簿データＤＢ１０３は、「従業員Ｎｏ、日時、曜日、出欠区分、休暇理由、出勤時刻、退勤時刻、残業時間、出張（出勤時）、出張（退勤時）、勤務形態」を出勤簿データとして対応付けて記憶する。なお、出欠区分には、出社、療養、年次休暇（年次）、半日休暇（半休）、忌引、妻出産などの種別（カテゴリ）が格納される。また、休暇理由には、疾病などの種別が格納される。また、勤務形態には、一般、フレックス、時短などの種別が格納される。

図７の例は、勤務形態が「一般」である従業員Ｎｏ．１００の従業員の出勤簿データを示している。例えば、図７の２行目は、「２０１５年４月２日木曜日」の出勤簿データであり、この日は、出張がなく、「８：４９」に出社して「０：００」に退社し、残業時間が「３６０分」である例を示す。また、図７の７行目は、「２０１５年８月２４日水曜日」の出勤簿データであり、この日から「２０１５年１０月４日火曜日」まで「療養」したことを示す。

テンソルＤＢ１０４は、各従業員の出勤簿データから生成された入力テンソル２１０などの各テンソル（テンソルデータ）を記憶するデータベースである。このテンソルＤＢ１０４は、各テンソルとラベルとを対応付けた訓練データを記憶する。例えば、テンソルＤＢ１０４は、「データＮｏ、ラベル」として「テンソルＮｏ．１、ラベル（通常者）」や「テンソルＮｏ．２、ラベル（療養者）」などを記憶する。なお、ここで記憶される各テンソルは、学習装置１００以外の別の装置で生成してもよく、学習装置１００が生成することもできる。

学習結果ＤＢ１０５は、学習結果を記憶するデータベースである。例えば、学習結果ＤＢ１０５は、制御部１１０による学習データの判別結果（分類結果）、機械学習やディープラーニングによって学習された、ニューラルネットワーク２１３の各種パラメータやディープテンソルの各種パラメータなどを記憶する。

予測対象ＤＢ１０６は、学習された予測モデルを用いて、療養の有無を予測する対象（従業員）の出勤簿データ（２０５）を記憶するデータベースである。例えば、予測対象ＤＢ１０６は、予測対象の出勤簿データ、または、出勤簿データから生成されたテンソルを記憶する。

設定情報１０７は、ユーザが管理者の端末などを介して予め設定した設定内容を示す。例えば、設定情報１０７における設定内容には、出勤簿データＤＢ１０３に含まれる項目（出欠区分、休暇理由、出勤時刻、退勤時刻、…）において、出欠区分などのカテゴリを示す項目の設定などがある。また、設定情報１０７における設定内容には、出現頻度が所定値以下の複数のカテゴリを一つのカテゴリとして統一する際の、出現頻度の閾値などがある。

制御部１１０は、学習装置１００全体の処理を司る処理部であり、例えばプロセッサなどである。この制御部１１０は、テンソル取得部１１１、特定部１１２、統一化部１１３、テンソル生成部１１４、学習部１１５および予測部１１６を有する。なお、テンソル取得部１１１、特定部１１２、統一化部１１３、テンソル生成部１１４、学習部１１５および予測部１１６は、プロセッサなどが有する電子回路やプロセッサなどが実行するプロセスの一例である。

テンソル取得部１１１は、各出勤簿データをテンソル化し、予測にかかる対象（本実施形態では従業員）ごとに、対象の特徴を多次元で示すテンソルを取得する処理部である。

具体的には、テンソル取得部１１１は、各出勤簿データに含まれる要素（例えば、出張、出欠、残業時間、日付、月度）で構成されるｎ（ｎ＝要素の種別分）階テンソルを生成して、テンソルＤＢ１０４に格納する。このとき、テンソル取得部１１１は、ユーザ等から指定されたラベル（療養もしくは通常者）、または、出勤簿データの出欠区分から特定したラベル（療養もしくは通常者）を、テンソルに対応付けて格納する。

例えば、テンソル取得部１１１は、療養する傾向を特徴づけると想定される各属性を各次元として、出勤簿データからテンソルを生成する。一例として、テンソル取得部１１１は、月度、日付、出欠区分、出張有無、残業時間の５要素を用いた５次元の５階テンソルを生成する。なお、４か月分のデータである場合は、月度の要素数は「４」、各月の曜日数の最大値が３１であることから日付の要素数は「３１」、出欠の種類が出勤・年次・半休・忌引・妻出産であることから出欠区分の要素数は「５」、出張はありとなしであることから出張有無の要素数は「２」となる。したがって、出勤簿データから生成されるテンソルは、「４×３１×５×２×（残業時間の要素数）」のテンソルとなり、出勤簿データの各月度、日付における出欠区分、出張有無に対応する要素の値が１、そうでない要素の値が０となる。

図８は、テンソル化を説明する図である。図８に示すように、テンソル取得部１１１が出勤簿データから取得する入力テンソル２１０は、横方向に月度、縦方向に日付、奥行き方向に出欠区分、左から出張ありのデータで途中から出張なしのデータとなる。なお、残業時間の次元についても同様であるが、紙面で表現可能な次元数の制約上、説明を省略する。日付は、上から１日目を順に示し、出欠区分は、手前から出社、休暇、休日を示す。例えば、要素２２１は、月度１の１日目に出社して出張した要素を示し、要素２２２は、月度１の２日目に休暇を取得して出張しなかった要素を示す。

なお、本実施形態では、上述した入力テンソル２１０を簡略化して図８の下段に示すように記載することとする。すなわち、月度、日付、出欠区分、出張有無、残業時間の各要素を重ねたキューブ状で表現することとし、各月度かつ日付の出張有無を区別して表現し、各月度かつ日付の出欠区分を区別して表現することとする。

特定部１１２は、テンソル取得部１１１が各出勤簿データから取得した入力テンソル２１０のうち、カテゴリを示す次元を特定する処理部である。具体的には、特定部１１２は、設定情報１０７を参照し、ユーザが予め設定した出欠区分などのカテゴリを示す項目をもとに、カテゴリを示す次元の特定を行う。

統一化部１１３は、入力テンソル２１０について、特定部１１２が特定した次元における各カテゴリの出現頻度に基づき、出現頻度が所定値以下の複数のカテゴリを一つのカテゴリとして統一する処理部である。

具体的には、統一化部１１３は、入力テンソル２１０から特定部１１２が特定した次元における各カテゴリの出現総数を求める。次いで、統一化部１１３は、各カテゴリの出現総数の和（全体の総数）と、各カテゴリの出現総数とを比較し、カテゴリごとに全体からの割合を求める。次いで、統一化部１１３は、設定情報１０７を参照し、ユーザが予め設定した出現頻度の閾値に対して全体からの割合が低いカテゴリ同士を一つのカテゴリに統一する。

なお、本実施形態では出現頻度について全体からの割合が低いカテゴリを統一する構成を例示するが、統一にかかる出現頻度の条件は全体からの割合に限定しない。例えば、出現数が閾値以下のカテゴリを統一する構成であってもよい。

テンソル生成部１１４は、統一化部１１３におけるカテゴリの統一により、入力テンソル２１０について、出現頻度が所定値以下の複数のカテゴリを一つのカテゴリとして統一したテンソルを生成する。

図９、図１０は、統一化を説明する説明図である。なお、図９、１０を参照して説明する統一化においては、出勤簿データＤＢ１０３の出勤簿データにおける出欠区分がカテゴリを示す項目（次元）として特定されているものとする。

図９に示すように、統一化部１１３は、出勤簿データＤＢ１０３の出勤簿データにおける出欠区分に対応する次元について、出勤、年次、半休、忌引、妻出産の各カテゴリの出現数を求め、全体からの割合を算出する。次いで、統一化部１１３は、算出した割合が閾値（例えば１０％）に満たない忌引、妻出産のカテゴリを、統一レア休とする一つのカテゴリに統一する。なお、統一化部１１３は、統一レア休への統一の際に、元の要素（忌引、妻出産）を削除する。

次いで、テンソル生成部１１４は、図１０に示すように、統一化部１１３におけるカテゴリの統一化により、入力テンソル２１０の出欠区分における忌引、妻出産を統一レア休に統一化したテンソル２１０ａを生成する。このように、出現頻度が稀なカテゴリを一つのカテゴリに統一したテンソル２１０ａを生成することで、予測において重要な部分パターンの認識に影響を及ぼすことを抑止し、予測精度の劣化を抑制することができる。

図１１は、予測に影響を与える部分パターンを識別するコアテンソル２１２の絞り込みを説明する説明図である。図１１に示すように、従業員Ａ、従業員Ｂは、ともに療養しており、療養のフラグが付与されている。この従業員Ａ特徴を示すテンソル２１０Ａと、従業員Ｂの特徴を示すテンソル２１０Ｂとは、忌引、妻出産という稀に出現するカテゴリによって、別カテゴリとして、すなわち、異なる特徴の部分パターンとして扱われる。このため、コアテンソル２１２の絞り込みが行われず、重要な部分パターンの認識に影響が生じる。

これに対し、出現頻度が稀なカテゴリ（忌引、妻出産）を同一カテゴリ化して一つのカテゴリ（統一レア休）とする場合は、稀なカテゴリに左右されないように、共通の部分パターン２１０Ｅとして扱われる。このように、要素数及び部分パターン数を低減させ、療養などの予測に影響を与える部分パターンを識別するコアテンソル２１２を絞り込みを行うことで、重要な部分パターンの認識に影響を及ぼすことを抑止できる。

学習部１１５は、テンソル生成部１１４より生成されたテンソル２１０ａを入力として、ディープテンソルによる予測モデル２０１の学習およびテンソル分解の方法の学習を実行する処理部である。具体的には、学習部１１５は、図５で説明した手法と同様、入力対象のテンソル（テンソル２１０ａ）からコアテンソル２１２を抽出してニューラルネットワーク２１３に入力し、ニューラルネットワーク２１３からの分類結果とテンソル２１０ａに付与されているラベルとの誤差（分類誤差）を算出する。そして、学習部１１５は、分類誤差を用いて、ニューラルネットワーク２１３のパラメータの学習およびターゲットコアテンソル２１１の最適化を実行する。その後、学習部１１５は、学習が終了すると、各種パラメータを学習結果として学習結果ＤＢ１０５に格納する。

例えば、テンソル分解は、ターゲットコアテンソル２１１に類似するようにコアテンソル２１２を算出することにより、分類に重要な構造をコアテンソル２１２の類似の位置に配置する。そして、このコアテンソル２１２を用いてニューラルネットワーク２１３を学習することにより、精度の高い分類を実現する。テンソル分解は、２段階の最適化により計算される。第１段階では、与えられたターゲットコアテンソル２１１を用いて、テンソル２１０ａを最もよく近似するように要素行列のみ最適化される。第２段階では、第１段階で最適化された要素行列を用いて、テンソル２１０ａを最もよく近似するようにコアテンソル２１２を最適化する。

入力テンソルに重みづけするということは、コアテンソル２１２作成時の要素行列に数字的な重みづけ（線形の量を変更している）を行っていることになる。コアテンソル２１２自体は共通（或る部分的な特徴）であるが、その元となるテンソル２１０ａは、コアテンソル２１２（共通）作成時の要素行列が異なることになる。

予測部１１６は、学習結果を用いて、判別対象のデータのラベルを予測する処理部である。具体的には、予測部１１６は、学習結果ＤＢ１０５から各種パラメータを読み出し、各種パラメータを設定したニューラルネットワーク２１３を構築する。そして、予測部１１６は、予測対象ＤＢ１０６から予測対象の出勤簿データのテンソルを読み出して、ニューラルネットワーク２１３の入力層に入力する。次いで、予測部１１６は、療養または療養しないかの予測結果をニューラルネットワーク２１３の出力層より出力する。そして、予測部１１６は、予測結果をディスプレイに表示したり、管理者端末に送信したりする。

なお、予測部１１６は、学習時と同様の手法で、上述したテンソル取得部１１１、特定部１１２、統一化部１１３およびテンソル生成部１１４を介して予測対象の出勤簿データのテンソル化を実行することもできる。

［学習の流れ］
図１２は、学習時の処理の流れを示すフローチャートである。図１２に示すように、処理が開始されると、テンソル取得部１１１は、出勤簿データを出勤簿データＤＢ１０３から読み込み（Ｓ１０１）、学習対象の従業員１人を選択する（Ｓ１０２）。次いで、学習装置１００では、選択した従業員についての出勤簿データをテンソル化する（Ｓ１０３）。

図１３は、テンソル化の処理の一例を示すフローチャートである。図１３に示すように、処理が開始されると、テンソル取得部１１１は、出勤簿データをもとに、出勤簿データに含まれる各要素をテンソル化した入力テンソル２１０を取得する（Ｓ１１１）。次いで、特定部１１２は、設定情報１０７を参照して、入力テンソル２１０のうち、カテゴリを示す次元を特定する（Ｓ１１２）。

次いで、統一化部１１３は、入力テンソル２１０で特定した次元について、頻度の低い複数のイベント（カテゴリ）を１つのイベントとして統一化する（Ｓ１１３）。次いで、テンソル生成部１１４は、統一化部１１３により統一化したテンソル２１０ａを生成する（Ｓ１１４）。

Ｓ１０３に次いで、テンソル取得部１１１は、次の対象となる従業員の有無を判定する（Ｓ１０４）。次の対象となる従業員がいる場合（Ｓ１０４：Ｙｅｓ）、テンソル取得部１１１は、Ｓ１０２に処理を戻す。次の対象となる従業員がいない場合（Ｓ１０４：Ｎｏ）、学習部１１５は、生成されたテンソル２１０ａをもとに、学習処理（予測モデル２０１の生成）を行う（Ｓ１０５）。

［予測の流れ］
図１４は、予測時の処理の流れを示すフローチャートである。図１４に示すように、処理が開始されると、予測部１１６は、予測対象ＤＢ１０６から出勤簿データを読み込み（Ｓ２０１）、予測対象の従業員１人を選択する（Ｓ２０２）。

次いで、予測部１１６は、選択した従業員についての出勤簿データをテンソル化する（Ｓ２０３）。このとき、予測部１１６は、上述したテンソル取得部１１１、特定部１１２、統一化部１１３およびテンソル生成部１１４を介し、図１３と同様のテンソル化を行ってもよい。

次いで、予測部１１６は、学習結果ＤＢ１０５に格納されたパラメータに基づく学習済みの予測モデル２０１を用いて予測を実行し（Ｓ２０４）、療養するまたは療養しないを示す予測結果を記憶部１０２等に格納する（Ｓ２０５）。

次いで、予測部１１６は、次の対象となる従業員の有無を判定する（Ｓ２０６）。次の対象となる従業員がいる場合（Ｓ２０６：Ｙｅｓ）、予測部１１６は、Ｓ２０２に処理を戻す。次の対象となる従業員がいない場合（Ｓ２０４：Ｎｏ）、予測部１１６は、処理を終了する。

［効果］
上述したように、学習装置１００は、予測にかかる対象ごとに、当該対象の特徴を多次元で示す入力テンソル２１０を取得し、取得した入力テンソル２１０のうち、カテゴリを示す次元を特定する。また、学習装置１００は、入力テンソル２１０について、特定した次元におけるカテゴリの出現頻度に基づき、出現頻度が所定値以下の複数のカテゴリのうちの少なくとも２つを一つのカテゴリとして統一したテンソル２１０ａを生成する。このように、出現頻度が稀なカテゴリを一つのカテゴリに統一したテンソル２１０ａを生成することで、予測において重要な部分パターンの認識に影響を及ぼすことを抑止し、予測精度の劣化を抑制することができる。例えば、出勤簿データから従業員のメンタル不調（療養の有無）を予測する場合において、出現頻度が所定値以下のカテゴリを統一することで、メンタル不調の予測精度の劣化を抑制することができる。

［学習］
上述した学習処理は、任意の回数だけ実行することもできる。例えば、すべての訓練データを用いて実行することもでき、所定回数だけ実行することもできる。また、分類誤差の算出方法は、最小二乗法など公知の算出手法を採用することができ、ニューラルネットワーク２１３で用いられる一般的な算出手法を採用することもできる。

［想定システム］
上記実施例では、予測の対象を従業員とし、出勤簿データ２０３、２０４を学習して療養する可能性がある従業員を予測する例で説明したが、これに限定されるものではない。例えば、電子部品の動作データを用いた故障予測、通信データを用いた攻撃予測、道路の交通量データを用いた渋滞予測など、従業員以外の他の予測対象にも適用することができる。

また、上記実施例では、学習時、出勤簿データから自動で６か月や３か月の期間抽出の上、「療養あり」「療養なし」のラベルを付与し学習する例を説明したが、これに限定されるものではない。例えば、ユーザによりあらかじめ期間抽出やラベルが付与されている場合は、与えられたデータや付与済みのラベルを使用することもできる。また、ラベルの設定例も一例であり、療養ありと療養なしに限らず、体調不良者と通常者、休職ありと休職なしなどのように、体調不良者の有無を区別できる様々なラベルを用いることもできる。

また、６か月の出勤簿データを予測に用いるデータとして使用したが、これに限定されるものではなく、４か月など任意に変更することができる。また、６か月の出勤簿データに対して、その後３か月以内に療養したか否かによってラベルを付与する例を説明したが、これに限定されるものではなく、２か月以内など任意に変更することができる。また、上記実施例では、学習装置１００が出勤簿データをテンソル化する例を説明したが、他の装置がテンソル化したデータを取得して上記各処理を実行することもできる。

［ニューラルネットワーク］
本実施例では、ＲＮＮやＣＮＮ（Convolutional Neural Network）など様々なニューラルネットワークを用いることができる。また、学習の手法も、誤差逆伝播以外にも公知の様々な手法を採用することができる。また、ニューラルネットワークは、例えば入力層、中間層（隠れ層）、出力層から構成される多段構成であり、各層は複数のノードがエッジで結ばれる構造を有する。各層は、「活性化関数」と呼ばれる関数を持ち、エッジは「重み」を持ち、各ノードの値は、前の層のノードの値、接続エッジの重みの値（重み係数）、層が持つ活性化関数から計算される。なお、計算方法については、公知の様々な手法を採用できる。

また、ニューラルネットワークにおける学習とは、出力層が正しい値となるように、パラメータ、すなわち、重みとバイアスを修正していくことである。誤差逆伝播法においては、ニューラルネットワークに対して、出力層の値がどれだけ正しい状態（望まれている状態）から離れているかを示す「損失関数（loss function）」を定め、最急降下法等を用いて、損失関数が最小化するように、重みやバイアスの更新が行われる。

［システム］
上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。また、実施例で説明した具体例、分布、数値などは、あくまで一例であり、任意に変更することができる。

また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散や統合の具体的形態は図示のものに限られない。つまり、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。さらに、各装置にて行なわれる各処理機能は、その全部または任意の一部が、ＣＰＵおよび当該ＣＰＵにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。

［ハードウェア］
図１５は、ハードウェア構成例を説明する図である。図１５に示すように、学習装置１００は、通信装置１００ａ、ＨＤＤ（Hard Disk Drive）１００ｂ、メモリ１００ｃ、プロセッサ１００ｄを有する。また、図１５に示した各部は、バス等で相互に接続される。

通信装置１００ａは、ネットワークインタフェースカードなどであり、他のサーバとの通信を行う。ＨＤＤ１００ｂは、図６に示した機能部（テンソル取得部１１１、特定部１１２、統一化部１１３、テンソル生成部１１４、学習部１１５および予測部１１６）を動作させるプログラムを記憶する。また、ＨＤＤ１００ｂは、プログラムの実行により参照される各種情報（出勤簿データＤＢ１０３、テンソルＤＢ１０４、学習結果ＤＢ１０５、予測対象ＤＢ１０６および設定情報１０７）を記憶する。

プロセッサ１００ｄは、図６に示した各機能部（テンソル取得部１１１、特定部１１２、統一化部１１３、テンソル生成部１１４、学習部１１５および予測部１１６）と同様の処理を実行するプログラムをＨＤＤ１００ｂ等から読み出してメモリ１００ｃに展開することで、各機能部を実行するプロセスを動作させる。すなわち、このプロセスは、学習装置１００が有する各機能部（テンソル取得部１１１、特定部１１２、統一化部１１３、テンソル生成部１１４、学習部１１５および予測部１１６）と同様の機能を実行する。具体的には、プロセッサ１００ｄは、テンソル取得部１１１、特定部１１２、統一化部１１３、テンソル生成部１１４、学習部１１５および予測部１１６等と同様の機能を有するプログラムをＨＤＤ１００ｂ等から読み出す。そして、プロセッサ１００ｄは、テンソル取得部１１１、特定部１１２、統一化部１１３、テンソル生成部１１４、学習部１１５および予測部１１６等と同様の処理を実行するプロセスを実行する。

このように、学習装置１００は、プログラムを読み出して実行することで学習方法を実行する情報処理装置として動作する。また、学習装置１００は、媒体読取装置によって記録媒体から上記プログラムを読み出し、読み出された上記プログラムを実行することで上記の実施形態と同様の機能を実現することもできる。なお、プログラムは、上記の学習装置１００によって実行されることに限定されるものではない。例えば、他のコンピュータ、サーバ、または、クラウドコンピュータがプログラムを実行する場合や、これらが協働してプログラムを実行するような場合にも、同様に適用することができる。

また、このプログラムは、インターネットなどのネットワークを介して配布することができる。また、このプログラムは、ハードディスク、フレキシブルディスク（ＦＤ）、ＣＤ－ＲＯＭ、ＭＯ（Magneto－Optical disk）、ＤＶＤ（Digital Versatile Disc）などのコンピュータで読み取り可能な記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行することができる。

以上の実施形態に関し、さらに以下の付記を開示する。

（付記１）コンピュータが、
予測にかかる対象ごとに、当該対象の特徴を多次元で示す第１のテンソルを取得し、
取得した前記第１のテンソルのうち、カテゴリを示す次元を特定し、
前記第１のテンソルについて、特定した前記次元における前記カテゴリの出現頻度に基づき、当該出現頻度が所定値以下の複数のカテゴリのうちの少なくとも２つを一つのカテゴリとして統一した第２のテンソルを生成する、
処理を実行することを特徴とする学習用データ生成方法。

（付記２）前記コンピュータが、
前記第２のテンソルを入力テンソルデータとしてテンソル分解して、ニューラルネットワークに入力し、前記ニューラルネットワークの深層学習を実行する、
処理をさらに実行することを特徴とする付記１に記載の学習用データ生成方法。

（付記３）前記コンピュータが、
前記テンソル分解時に、ランダムに生成されたターゲットコアテンソルと類似するように生成されたコアテンソルを、前記ニューラルネットワークに入力して出力された出力値と教師ラベルとの誤差を算出し、
前記誤差を用いて、前記誤差が小さくなるように前記ニューラルネットワークを学習するとともに、前記教師ラベルの特徴を表すように前記ターゲットコアテンソルを更新する、
処理をさらに実行することを特徴とする付記２に記載の学習用データ生成方法。

（付記４）前記第１のテンソルは、従業員ごとに、当該従業員の出勤簿データにおける月度、日付、出欠区分を少なくとも各次元とするテンソルであり、
前記生成する処理は、前記出欠区分の次元において前記出現頻度が所定値以下の区分を一つの区分として統一する、
ことを特徴とする付記１乃至３のいずれか一に記載の学習用データ生成方法。

（付記５）コンピュータに、
予測にかかる対象ごとに、当該対象の特徴を多次元で示す第１のテンソルを取得し、
取得した前記第１のテンソルのうち、カテゴリを示す次元を特定し、
前記第１のテンソルについて、特定した前記次元における前記カテゴリの出現頻度に基づき、当該出現頻度が所定値以下の複数のカテゴリのうちの少なくとも２つを一つのカテゴリとして統一した第２のテンソルを生成する、
処理を実行させることを特徴とする学習用データ生成プログラム。

（付記６）前記コンピュータに、
前記第２のテンソルを入力テンソルデータとしてテンソル分解して、ニューラルネットワークに入力し、前記ニューラルネットワークの深層学習を実行する、
処理をさらに実行させることを特徴とする付記５に記載の学習用データ生成プログラム。

（付記７）前記コンピュータに、
前記テンソル分解時に、ランダムに生成されたターゲットコアテンソルと類似するように生成されたコアテンソルを、前記ニューラルネットワークに入力して出力された出力値と教師ラベルとの誤差を算出し、
前記誤差を用いて、前記誤差が小さくなるように前記ニューラルネットワークを学習するとともに、前記教師ラベルの特徴を表すように前記ターゲットコアテンソルを更新する、
処理をさらに実行させることを特徴とする付記６に記載の学習用データ生成プログラム。

（付記８）前記第１のテンソルは、従業員ごとに、当該従業員の出勤簿データにおける月度、日付、出欠区分を少なくとも各次元とするテンソルであり、
前記生成する処理は、前記出欠区分の次元において前記出現頻度が所定値以下の区分を一つの区分として統一する、
ことを特徴とする付記５乃至７のいずれか一に記載の学習用データ生成プログラム。

（付記９）予測にかかる対象ごとに、当該対象の特徴を多次元で示す第１のテンソルのうち、カテゴリを示す次元について前記カテゴリの出現頻度が所定値以下の複数のカテゴリのうちの少なくとも２つを１つのカテゴリとして統一した第２のテンソルと、前記第２のテンソルに付与された正解情報とを含み、
前記第２のテンソルと前記正解情報とを学習データとして、ニューラルネットワークの入力層に入力されることにより、演算結果を示す出力値を前記ニューラルネットワークの出力層から出力させ、正解情報と前記出力値との比較に基づく学習を行う、
処理をコンピュータに実行させることを特徴とするデータ構造。

２０、２１、２５…グラフ
２２～２４…行列
１００…学習装置
１００ａ…通信装置
１００ｂ…ＨＤＤ
１００ｃ…メモリ
１００ｄ…プロセッサ
１０１…通信部
１０２…記憶部
１０３…出勤簿データＤＢ
１０４…テンソルＤＢ
１０５…学習結果ＤＢ
１０６…予測対象ＤＢ
１０７…設定情報
１１０…制御部
１１１…テンソル取得部
１１２…特定部
１１３…統一化部
１１４…テンソル生成部
１１５…学習部
１１６…予測部
２００…機械学習
２０１…予測モデル
２０３～２０５…出勤簿データ
２１０…入力テンソル
２１０ａ、２１０Ａ～２１０Ｄ…テンソル
２１０Ｅ…部分パターン
２１１…ターゲットコアテンソル
２１２…コアテンソル
２１３…ニューラルネットワーク
２１４…教師ラベル
２２１、２２２…要素

Claims (5)

1. コンピュータが、
   予測にかかる対象ごとに、当該対象の特徴を多次元で示す第１のテンソルを取得し、
   取得した前記第１のテンソルのうち、複数の項目において設定情報に基づいてカテゴリを示す次元を特定し、
   前記第１のテンソルについて、特定した前記次元における前記カテゴリの出現頻度に基づき、当該出現頻度が所定値以下の複数のカテゴリのうちの少なくとも２つを一つのカテゴリとして統一した機械学習に用いる第２のテンソルを生成する、
   処理を実行することを特徴とする機械学習用データ生成方法。
2. 前記コンピュータが、
   前記第２のテンソルを入力テンソルデータとしてテンソル分解して、ニューラルネットワークに入力し、前記ニューラルネットワークの深層学習を実行する、
   処理をさらに実行することを特徴とする請求項１に記載の機械学習用データ生成方法。
3. 前記コンピュータが、
   前記テンソル分解時に、ランダムに生成されたターゲットコアテンソルと類似するように生成されたコアテンソルを、前記ニューラルネットワークに入力して出力された出力値と教師ラベルとの誤差を算出し、
   前記誤差を用いて、前記誤差が小さくなるように前記ニューラルネットワークを学習するとともに、前記教師ラベルの特徴を表すように前記ターゲットコアテンソルを更新する、
   処理をさらに実行することを特徴とする請求項２に記載の機械学習用データ生成方法。
4. 前記第１のテンソルは、従業員ごとに、当該従業員の出勤簿データにおける月度、日付、出欠区分を少なくとも各次元とするテンソルであり、
   前記生成する処理は、前記出欠区分の次元において前記出現頻度が所定値以下の区分を一つの区分として統一する、
   ことを特徴とする請求項１乃至３のいずれか一項に記載の機械学習用データ生成方法。
5. コンピュータに、
   予測にかかる対象ごとに、当該対象の特徴を多次元で示す第１のテンソルを取得し、
   取得した前記第１のテンソルのうち、複数の項目において設定情報に基づいてカテゴリを示す次元を特定し、
   前記第１のテンソルについて、特定した前記次元における前記カテゴリの出現頻度に基づき、当該出現頻度が所定値以下の複数のカテゴリのうちの少なくとも２つを一つのカテゴリとして統一した機械学習に用いる第２のテンソルを生成する、
   処理を実行させることを特徴とする機械学習用データ生成プログラム。

Images