JP7063079B2 - 機械学習プログラム、機械学習方法および機械学習装置 - Google Patents

機械学習プログラム、機械学習方法および機械学習装置 Download PDF

Info

Publication number
JP7063079B2
JP7063079B2 JP2018081900A JP2018081900A JP7063079B2 JP 7063079 B2 JP7063079 B2 JP 7063079B2 JP 2018081900 A JP2018081900 A JP 2018081900A JP 2018081900 A JP2018081900 A JP 2018081900A JP 7063079 B2 JP7063079 B2 JP 7063079B2
Authority
JP
Japan
Prior art keywords
data
tensor
training
learning
attendance record
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018081900A
Other languages
English (en)
Other versions
JP2019191778A (ja
Inventor
泉 新田
達 松尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2018081900A priority Critical patent/JP7063079B2/ja
Priority to US16/366,644 priority patent/US20190325400A1/en
Publication of JP2019191778A publication Critical patent/JP2019191778A/ja
Application granted granted Critical
Publication of JP7063079B2 publication Critical patent/JP7063079B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/10Office automation; Time management
    • G06Q10/109Time management, e.g. calendars, reminders, meetings or time accounting
    • G06Q10/1091Recording time for administrative or management purposes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/044Recurrent networks, e.g. Hopfield networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Human Resources & Organizations (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Evolutionary Computation (AREA)
  • Strategic Management (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Marketing (AREA)
  • Economics (AREA)
  • Educational Administration (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本発明は、機械学習プログラム、機械学習方法および機械学習装置に関する。
従業員の出勤簿データから、数か月先のメンタル不調を予測し、カウンセリング等の対応を早期に実施することで、休職(療養)を回避することが行われている。一般的には、専任スタッフが、頻繁な出張、長時間残業、連続する急な欠勤、無断欠勤、これらの組合せなどの特徴的な特徴パターンの勤務状態に該当する従業員を目視で探している。このような特徴パターンは、各専任スタッフにより基準が異なることもあり、明確に定義することが難しい。近年では、決定木、ランダムフォレスト、SVM(Support Vector Machine)などを用いた機械学習によって、メンタル不調を特徴づける特徴パターンを学習し、専任スタッフが行っている判断を機械的に予測することが行われている。
国際公開第2017/073373号 特開2010-198189号公報 特開2016-151979号公報 特開2005-332345号公報
しかしながら、上記技術では、間違った特徴パターンの学習が進んでしまい、学習精度が劣化する場合がある。例えば、土日祝日、会社が支給する夏季休暇やリフレッシュ休暇などの休日に出勤せずに休んだ日が、多くの人に共通な特徴パターンと認識されてしなって間違った学習が進み、体調不良への影響が大きい真の特徴パターンが見逃されて真の学習が進まない可能性がある。
一つの側面では、学習精度の劣化を抑制することができる機械学習プログラム、機械学習方法および機械学習装置を提供することを目的とする。
第1の案では、機械学習プログラムは、コンピュータに、複数の従業員に関する、各レコードがカレンダーにおける期間に対応するとともに複数の項目を有する複数のレコードより構成される出勤簿データの入力を受け付ける処理を実行させる。機械学習プログラムは、コンピュータに、前記出勤簿データから、前記複数の従業員それぞれが個別に設定する個別休日に対応するレコード、および、前記複数の従業員それぞれに共通に設定される共通休日に対応するレコードを除外した除外データを生成する処理を実行させる。機械学習プログラムは、コンピュータに、前記除外データから、カレンダー情報、および、前記複数の項目それぞれを別次元としてテンソル化した、テンソルデータを生成する処理を実行させる。機械学習プログラムは、コンピュータに、前記テンソルデータを入力テンソルデータとしてテンソル分解し、深層学習する際に、ニューラルネットワークに入力し、前記ニューラルネットワークの深層学習を行うとともに、前記テンソル分解の方法を学習する処理を実行させる。
一実施形態によれば、学習精度の劣化を抑制することができる。
図1は、実施例1にかかる機械学習の全体例を説明する図である。 図2は、グラフ構造とテンソルとの関係の一例を示す図である。 図3は、部分グラフ構造の抽出の一例を示す図である。 図4は、ディープテンソルの学習例を説明する図である。 図5は、実施例1にかかる学習装置の機能構成を示す機能ブロック図である。 図6は、出勤簿データDBに記憶される出勤簿データの例を示す図である。 図7は、ラベル設定例を説明する図である。 図8は、テンソル化の具体例を説明する図である。 図9は、該当休日をテンソルの要素から除外した場合のテンソル表現を説明する図である。 図10は、除外した該当休日部分のテンソル表現を説明する図である。 図11は、実施例1におけるコアテンソルの生成例を説明する図である。 図12は、一般的な機械学習による問題点を説明する図である。 図13は、学習処理の流れを示すフローチャートである。 図14は、予測手法の別例を説明する図である。 図15は、ハードウェア構成例を説明する図である。
以下に、本願の開示する機械学習プログラム、機械学習方法および機械学習装置の実施例を図面に基づいて詳細に説明する。なお、この実施例によりこの発明が限定されるものではない。また、各実施例は、矛盾のない範囲内で適宜組み合わせることができる。
[全体例]
図1は、実施例1にかかる機械学習の全体例を説明する図である。図1に示すように、実施例1にかかる学習装置100は、機械学習装置の一例であり、社員の日々の出勤、退勤時間、休暇取得、出張などの状況を含む出勤簿データを機械学習して学習モデルを生成し、学習後の学習モデルを用いて、予測対象のある社員の出勤簿データから、当該社員が療養するか療養しないかを予測するコンピュータ装置の一例である。なお、ここでは、学習装置100が学習と予測とを実行する例で説明するが、別々の装置に実行することもできる。
具体的には、学習装置100は、療養(休職)したことがある体調不良者の出勤簿データ(ラベル=療養あり)と、療養(休職)したことがない通常者の出勤簿データ(ラベル=療養なし)とを教師有データとして、グラフ構造のデータを深層学習(ディープラーニング・Deep Learning;DL)するディープテンソルによって学習モデルを生成する。その後、学習結果を適用した学習モデルを用いて、新規なグラフ構造のデータに対して正確な事象(ラベル)の推定を実現する。
例えば、学習装置100は、複数の従業員に関する、各レコードがカレンダーにおける期間に対応するとともに複数の項目を有する複数のレコードより構成される出勤簿データを取得する。そして、学習装置100は、出勤簿データから、複数の従業員それぞれが個別に設定した個別休日に対応するレコード、および、土日祝日などのように複数の従業員それぞれに共通に設定される共通休日を含む指定休日のうち出勤していない休日に対応するレコードを除外し、カレンダー情報、および、複数の項目を別次元としてテンソル化した、テンソルデータを生成する。その後、学習装置100は、テンソルデータを入力としてテンソル分解してニューラルネットワークに入力する学習モデルに対し、ニューラルネットワークの深層学習およびテンソル分解の方法の学習を行う。このようにして、学習装置100は、出勤簿データから複数の学習データを生成し、各学習データのテンソルデータから、「療養する」か「療養しない」かを分類する学習モデルを生成する。
その後、学習装置100は、判別対象の従業員の出勤簿データについても同様に、指定休日のうち出勤していない休日を除外した後に、テンソル化してテンソルデータを生成し、学習済みの学習モデルに入力する。そして、学習装置100は、当該従業員が「療養する」か「療養しない」かの予測結果を示す出力値を出力する。
すなわち、学習装置100は、休日を休んでいる日の特徴を学習データおよび予測データから除外する。ここで、休日とは、例えば土日祝日などのように各従業員に共通に設定される共通休日と、夏季休暇やリフレッシュ休暇などのように個人により所得日が異なる個別休日と、会社が支給した休暇などを含む。また、休日に出勤した場合は学習データおよび予測データから除外せずに残す。このようにすることで、学習装置100は、出勤した日の特徴に絞り込むことでノイズを除外して、学習精度の向上を図る。
ここで、ディープテンソルについて説明する。ディープテンソルとは、テンソル(グラフ情報)を入力とするディープラーニングであり、ニューラルネットワークの学習とともに、判別に寄与する部分グラフ構造を自動的に抽出する。この抽出処理は、ニューラルネットワークの学習とともに、入力テンソルデータのテンソル分解のパラメータを学習することによって実現される。
次に、図2および図3を用いてグラフ構造について説明する。図2は、グラフ構造とテンソルとの関係の一例を示す図である。図2に示すグラフ20は、4つのノードがノード間の関係性(例えば「相関係数が所定値以上」)を示すエッジで結ばれている。なお、エッジで結ばれていないノード間は、当該関係性がないことを示す。グラフ20を2階のテンソル、つまり行列で表す場合、例えば、ノードの左側の番号に基づく行列表現は「行列A」で表され、ノードの右側の番号(囲み線で囲んだ数字)に基づく行列表現は「行列B」で表される。これらの行列の各成分は、ノード間が結ばれている(接続している)場合「1」で表され、ノード間が結ばれていない(接続していない)場合「0」で表される。以下の説明では、この様な行列を隣接行列ともいう。ここで、「行列B」は、「行列A」の2,3行目および2,3列目を同時に置換することで生成できる。ディープテンソルでは、この様な置換処理を用いることで順序の違いを無視して処理を行う。すなわち、「行列A」および「行列B」は、ディープテンソルでは順序性が無視され、同じグラフとして扱われる。なお、3階以上のテンソルについても同様の処理となる。
図3は、部分グラフ構造の抽出の一例を示す図である。図3に示すグラフ21は、6つのノードがエッジで結ばれたものである。グラフ21は、行列(テンソル)で表すと行列22に示すように表現できる。行列22に対して、特定の行および列を入れ替える演算、特定の行および列を抽出する演算、ならびに、隣接行列における非ゼロ要素をゼロに置換する演算を組み合わせることで、部分グラフ構造を抽出できる。例えば、行列22の「ノード1,4,5」に対応する行列を抽出すると、行列23となる。次に、行列23の「ノード4,5」間の値をゼロに置換すると、行列24となる。行列24に対応する部分グラフ構造は、グラフ25となる。
このような部分グラフ構造の抽出処理は、テンソル分解と呼ばれる数学的演算によって実現される。テンソル分解とは、入力されたn階テンソルをn階以下のテンソルの積で近似する演算である。例えば、入力されたn階テンソルを1つのn階テンソル(コアテンソルと呼ばれる。)、および、より低階のn個のテンソル(n>2の場合、通常は2階のテンソル、つまり行列が用いられる。)の積で近似する。この分解は一意ではなく、入力データが表すグラフ構造中の任意の部分グラフ構造をコアテンソルに含める事ができる。
続いて、ディープテンソルの学習について説明する。図4は、ディープテンソルの学習例を説明する図である。図4に示すように、学習装置100は、「療養あり」などの教師ラベル(ラベルA)が付された出勤簿データからテンソルデータを生成する。そして、学習装置100は、生成したテンソルデータを入力テンソルとしてテンソル分解を行って、初回にランダムに生成されたターゲットコアテンソルに類似するようにコアテンソルを生成する。そして、学習装置100は、コアテンソルをニューラルネットワーク(NN:Neural Network)に入力して分類結果(ラベルA:70%、ラベルB:30%)を得る。その後、学習装置100は、分類結果(ラベルA:70%、ラベルB:30%)と教師ラベル(ラベルA:100%、ラベルB:0%)との分類誤差を算出する。
ここで、学習装置100は、誤差逆伝搬法を拡張した拡張誤差伝搬法を用いて予測モデルの学習を実行する。すなわち、学習装置100は、NNが有する入力層、中間層、出力層に対して、分類誤差を下層に伝搬させる形で、分類誤差を小さくするようにNNの各種パラメータを修正する。さらに、学習装置100は、分類誤差をターゲットコアテンソルまで伝搬させ、予測に寄与するグラフの部分構造、すなわち休職者の特徴を示す特徴パターンもしくは通常者の特徴を示す特徴パターンに近づくように、ターゲットコアテンソルを修正する。このようにすることで、最適化されたターゲットコアテンソルには予測に寄与する部分パターンが抽出されるようになる。
なお、予測時には、テンソル分解により、入力テンソルをコアテンソル(入力テンソルの部分パターン)に変換し、コアテンソルをニューラルネットに入力することで、予測結果を得ることができる。テンソル分解では、コアテンソルがターゲットコアテンソルに類似するように変換される。つまり、予測に寄与する部分パターンを持つコアテンソルが抽出される。
[機能構成]
図5は、実施例1にかかる学習装置100の機能構成を示す機能ブロック図である。図5に示すように、学習装置100は、通信部101、記憶部102、制御部110を有する。
通信部101は、他の装置との通信を制御する処理部であり、例えば通信インタフェースである。例えば、通信部101は、管理者の端末から、処理開始指示、出勤簿データなどを受信する。また、通信部11は、管理者の端末に対して、学習結果や予測対象のデータの予測結果などを出力する。
記憶部102は、プログラムやデータを記憶する記憶装置の一例であり、例えばメモリやハードディスクなどである。この記憶部102は、出勤簿データDB103、テンソルDB104、学習結果DB105、予測対象DB106を記憶する。
出勤簿データDB103は、ユーザ等により入力された、社員等の出勤に関する出勤簿データを記憶するデータベースである。ここで記憶される出勤簿データは、複数の従業員に関する、各レコードがカレンダーにおける期間に対応するとともに複数の項目を有する複数のレコードより構成される出勤簿データである。また、出勤簿データは、各企業で使用される出勤簿をデータ化したものであり、公知の様々な出勤管理システムなどから取得することができる。図6は、出勤簿データDB103に記憶される出勤簿データの例を示す図である。図6に示すように、出勤簿データは、各月(月度)の日単位のレコードより構成され、各レコードは出勤情報として、「出欠区分、出張有無、出勤時刻、退勤時刻」などの各項目の値を対応付けて記憶する。図6の例では、「9月1日は、出張ではなく、9時に出勤し21時に退勤した」ことを示す。
なお、出欠区分の項目では、例えば出社、療養(休職)、積立休暇、有給休暇、リフレッシュ休暇などの値が設定される。出張有無の項目には、出張の有無の値が設定され、出張ありまたは出張なしのいずれかに対応した値が格納される。なお、これらの値は、番号等により区別することができる。例えば、出社=0、療養=1、積立休暇=2、有給休暇=3などのように区別することができる。なお、出勤簿データのレコードの単位は、日単位とは限らず、週単位や月単位であってもよい。また、休暇が時間単位で取ることができる場合に対応して、時間休暇=4、という値を設けてもよい
ここで記憶される出勤簿データは、学習データであり、教師ラベルが付加されている。図7は、ラベル設定例を説明する図である。図7の(a)は、ラベルとして「療養あり」が付加されている、休職した体調不良者の出勤簿データである。図7の(b)は、ラベルとして「療養なし」が付加されている、休職しなかった通常者の出勤簿データである。例えば、6か月の出勤簿データを1つの訓練データとしテンソル化し、その後の3か月以内に療養した療養期間がある場合に、ラベルとして「療養あり」を設定し、その後の3か月以内に療養期間がない場合に、ラベルとして「療養なし」を設定することができる。
テンソルDB104は、各従業員の出勤簿データから生成された各テンソル(テンソルデータ)を記憶するデータベースである。このテンソルDB104は、各テンソルとラベルとを対応付けた訓練データを記憶する。例えば、テンソルDB104は、「テンソルデータ、ラベル」として「テンソルデータ1、ラベル(療養あり)」や「テンソルデータ2、ラベル(療養なし)」などを記憶する。
なお、上述の学習データにおけるレコードの項目やテンソルデータのラベルの設定は一例であり、「療養あり」と「療養なし」の値およびラベルに限らず、「休職者」と「通常者」、「休職あり」と「休職なし」などのように、体調不良者の有無を区別できる様々な値およびラベルを用いることもできる。
学習結果DB105は、学習結果を記憶するデータベースである。例えば、学習結果DB105は、制御部110による学習データの判別結果(分類結果)、機械学習やディープラーニングによって学習された、NNの各種パラメータやディープテンソルの各種パラメータなどを記憶する。
予測対象DB106は、学習された予測モデルを用いて、療養(休職)の有無を予測する対象の出勤簿データを記憶するデータベースである。例えば、予測対象DB106は、予測対象の出勤簿データ、または、予測対象の出勤簿データから生成されたテンソルデータなどを記憶する。
制御部110は、学習装置100全体の処理を司る処理部であり、例えばプロセッサなどである。この制御部110は、除外部111、テンソル生成部112、学習部113、予測部114を有する。なお、除外部111、テンソル生成部112、学習部113、予測部114は、プロセッサなどが有する電子回路やプロセッサなどが実行するプロセスの一例である。
除外部111は、出勤簿データから、複数の従業員それぞれが個別に設定する個別休日に対応するレコード、および、複数の従業員それぞれに共通に設定される共通休日に対応するレコードを除外した除外データを生成する処理部である。すなわち、除外部111は、学習対象のデータである各出勤簿データから、土日祝日などの共通休日、会社が支給して従業員が個別に設定する夏季休暇やリフレッシュ休暇などの個別休日、会社が休日と指定する休日などを含む指定休日のうち、出勤しなかった指定休日(該当休日)を除外する。具体的には、除外部111は、出勤簿データDB103に記憶される各出勤簿データを読み出し、各出勤簿データについて、出勤しなかった指定休日(該当休日)を除外して、テンソル生成部112に出力する。
例えば、除外部111は、出勤簿データの出欠区分を参照し、土日祝日などの指定休日を特定する。続いて、除外部111は、特定した各指定休日について、出欠区分が「出勤」に該当しない指定休日を特定する。そして、除外部111は、特定した指定休日を該当休日として出勤簿データから除外(削除)し、除外後の出勤簿データをテンソル生成部112に出力する。
テンソル生成部112は、除外部111から入力された、出勤していない指定休日(該当休日)が除外された各出勤簿データをテンソル化したテンソルデータを生成する処理部である。テンソル生成部112は、各出勤簿データに含まれるカレンダー情報、および、各項目「月度、日付、出欠区分、出張有無、出勤時刻、退勤時刻」のそれぞれを次元としてテンソル化する。そして、テンソル生成部112は、ユーザ等から指定されたラベル(療養ありもしくは療養なし)、または、出勤簿データの出欠区分から特定したラベル(療養ありもしくは療養なし)を、テンソル化されたテンソル(テンソルデータ)と対応付けてテンソルDB104に格納する。ここで、生成されたテンソルデータを入力としてディープテンソルによる学習を実行される。なお、ディープテンソルでは、学習時に、予測に影響を与える学習データの部分パターンを識別するターゲットコアテンソルを抽出し、予測時には、抽出したターゲットコアテンソルに基づいて予測を実行する。
具体的には、テンソル生成部112は、頻繁な出張、長時間残業、連続する急な欠勤、無断欠勤、頻繁な休日出勤、これらの組合せなど療養する傾向を特徴づけると想定される各項目を各次元として、学習データからテンソルを生成する。例えば、テンソル生成部112は、月度、日付、出欠区分、出張有無の4要素を用いた4次元の4階テンソルを生成する。なお、4か月分のデータである場合は、月度の要素数は「4」、各月の曜日数の最大値が31であることから日付の要素数は「31」、出欠の種類が出社・休暇・休日であることから出欠区分の要素数は「3」、出張はありとなしであることから出張有無の要素数は「2」となる。したがって、学習データから生成されるテンソルは、「4×31×3×2」のテンソルとなり、学習データの各月度、日付における出欠区分、出張有無に対応する要素の値が1、そうでない要素の値が0となる。なお、テンソルの次元とする項目は、任意に選択することができ、過去の事例等から決定することもできる。
図8は、テンソル化の具体例を説明する図である。図8に示すように、テンソル生成部112が生成するテンソルは、横方向に月度、縦方向に日付、奥行き方向に出欠区分、左から出張ありのデータで途中から出張なしのデータとなる。日付は、上から1日目を順に示し、出欠区分は、手前から出社、休暇、休日を示す。例えば、図8の(a)は、月度1の1日目に出社して出張した要素を示し、図8の(b)は、月度1の2日目に休暇を取得して出張しなかった要素を示す。
なお、本実施例では、上述したテンソルを簡略化して図8の(c)のように記載することとする。すなわち、月度、日付、出欠区分、出張有無の各要素を重ねたキューブ状で表現することとし、各月度かつ日付の出張有無を区別して表現し、各月度かつ日付の出欠区分を区別して表現することとする。
学習部113は、テンソルデータを入力テンソルデータとしてテンソル分解してニューラルネットワークに入力する学習モデルに対し、ニューラルネットワークの深層学習およびテンソル分解の方法の学習を行う処理部である。すなわち、学習部113は、各学習データから生成された各テンソルデータおよびラベルを入力として、ディープテンソルによる学習モデルの学習を実行する。具体的には、学習部113は、図4で説明した手法と同様、入力対象のテンソルデータ(入力テンソル)からコアテンソルを抽出してNNに入力し、NNからの分類結果と入力テンソルに付与されているラベルとの誤差(分類誤差)を算出する。そして、学習部113は、分類誤差を用いて、NNのパラメータの学習およびターゲットコアテンソルの最適化を実行する。その後、学習部113は、学習が終了すると、各種パラメータを学習結果として学習結果DB105に格納する。
予測部114は、学習結果を用いて、判別対象のデータのラベルを予測する処理部である。具体的には、予測部114は、学習結果DB105から各種パラメータを読み出し、各種パラメータを設定したニューラルネットワーク等を含むディープテンソルを構築する。そして、予測部114は、予測対象DB106から予測対象の出勤簿データを読み出し、除外部111と同様の手法で該当休日を除外した後にテンソル化し、ディープテンソルに入力する。その後、予測部114は、療養ありまたは療養なしを示す予測結果を出力する。そして、予測部114は、予測結果をディスプレイに表示したり、管理者端末に送信したりする。
なお、予測部114は、該当休日を残したままである予測対象の出勤簿データをそのまま学習モデルに入力した場合でも、該当休日を削除した予測対象の出勤簿データを学習モデルに入力した場合でも、予測することができる。また、予測対象の出勤簿データを6か月ごとのデータに区切って入力することもでき、予測対象の出勤簿データそのままを入力とすることもできる。
[具体例]
次に、図9から図11を用いて、出勤していない指定休日を示す該当休日の除外からテンソル化までの具体例を説明する。図9は、該当休日をテンソルの要素から除外した場合のテンソル表現を説明する図である。図10は、除外した該当休日部分のテンソル表現を説明する図である。図11は、実施例1におけるコアテンソルの生成例を説明する図である。
図9の(a)の例では、除外部111は、従業員1の出勤簿データから指定休日である1日(日曜日)、7日(土曜日)、8日(日曜日)、11日(水曜日)から13日(金曜日)などの休日(例えばリフレッシュ休暇や慶事休暇)、14日(土曜日)を特定する。続いて、除外部111は、特定した指定休日のうち、出勤した14日(土曜日)を除く、1、7、8、11から13日を該当休日として削除した出勤簿データを生成する。その後、テンソル生成部112は、1、7、8、11から13日が削除された出勤簿データからテンソルデータを生成する。
また、図9の(b)の例では、除外部111は、従業員1の出勤簿データから指定休日である1日(日曜日)、2日(月曜日)から4日(水曜日)などの休日(例えばリフレッシュ休暇や慶事休暇)、7日(土曜日)、8日(日曜日)、14日(土曜日)を特定する。続いて、除外部111は、特定した指定休日のうち出勤した日がないので、特定されたすべての指定休日を該当休日として削除した出勤簿データを生成する。その後、テンソル生成部112は、指定休日が削除された出勤簿データからテンソルデータを生成する。
ここで、月度毎の日数の違い、個人選択により期間が異なる休日、休日出勤の有無等により月度ごとの日付の数が異なる場合がある。このような場合はテンソルデータのサイズ(大きさ)が異なることになる。そこで、テンソル上で値のない日付部分に相当する箇所は空の要素とすることで、テンソル表現では、月度によらず同じ日付サイズで表現する。
具体的には、図10に示すように、テンソル生成部112は、該当休日が除外された月度2、月度3、月度4を含む出勤簿データをテンソル化する際、月度ごとの日付のサイズを揃えて月度1と同じサイズにするために、月度2と月度3と月度4のそれぞれにおいて、削除された該当休日に対応する値のない日付部分については空の要素を設定する。そして、テンソル生成部112は、値のない日付部分のテンソルの要素の重みを0とし、値のない日付部分をコアテンソルとして抽出しないように学習させる。ここで重みを0にするとは、例えばコアテンソルを生成する際の要素行列の値を0にすることである。
ディープテンソルでは、このように重みを0にすることで、コアテンソルを抽出する際の対象から除外することができる。図11に示すように、該当休日を除くことにより、該当休日部分がコアテンソルとして認識されてしまうケース(図11の(a))を回避し、重要な部分(図11の(b))が認識されやすくなる。つまり、学習部113は、ディープテンソルの性質を利用して、従業員1および従業員2それぞれの出勤簿データをテンソル化するときに、重みが0で値の対部分(図11の(c))をコアテンソルの対象から除外することができるので、予測に影響を与える部分パターンを識別するコアテンソルを正確に抽出することができる。この結果、予測精度の向上が図れる学習を実行することができる。
なお、一般的な機械学習では、入力は固定長の特徴ベクトルが前提であり、該当休日部分を単純に削除しても学習処理が正常に処理されない。このため、削除した日数分を補完することも考えられるが、補完したとしても、学習精度の向上が期待できない。図12は、一般的な機械学習による問題点を説明する図である。図12では、療養期間がある従業員Aと療養期間がない従業員Bの各出勤簿データを例にして説明する。
図12に示すように、学習対象である従業員Aの出勤簿データのうち、11日から13日が削除対象の該当休日であり、予測対象である従業員Bの出勤簿データのうち、2日から4日が削除対象の該当休日であるとする。
図12の(1)の例は、該当休日の要素を削除せずに、該当休日の要素をNULL値として0を入れるなどで補完する例である。一般的な機械学習では、従業員Aを学習済みデータ、従業員Bを予測したいデータとすると、特徴ベクトル上で同じ位置にある属性値が一致するほど、類似度が高いと判断される。したがって、この例では、囲んだ部分の要素が多いほど、従業員Bを従業員Aとの類似性が高いと判断し、従業員Bを体調不良と予測する可能性が高くなる。
図12の(2)の例は、該当休日の要素を削除した後、入力データの固定長にあわせるために、各要素を左詰めにして後方に空の要素を補完した例である。この場合、従業員Aを学習済みデータ、従業員Bを予測したいデータとすると、該当休日分を補完した部分が同じ属性値を持つ要素として認識される。したがって、(1)の場合に比べると、従業員Bと従業員Aとの類似性がより高くなり、従業員Bを体調不良と判断する可能性が高くなる。
このように、一般的な機械学習では、該当休日を削除して場合、入力データが固定長であることの制約のために、空の要素を補完することになる。しかし、補完した空の要素が学習データ間で類似することになり、却って学習精度の低下を招く。
[処理の流れ]
図13は、学習処理の流れを示すフローチャートである。図13に示すように、処理開始の指示を受け付けると(S101:Yes)、除外部111は、出勤簿データDB103から出勤簿データを読み込み(S102)、出勤していない指定休日(該当休日)があるか否かを判定する(S103)。
そして、出勤していない指定休日がある場合(S103:Yes)、除外部111が、出勤簿データから出勤していない指定休日を削除し(S104)、テンソル生成部112が、削除した部分に空の要素を挿入して、出勤簿データをテンソル化する(S105)。
一方、出勤していない指定休日がない場合(S103:No)、テンソル生成部112は、出勤簿データをそのままテンソル化する(S106)。
その後、未処理の出勤簿データがある場合(S107:Yes)、次の出勤簿データについて、S102以降を繰り返す。一方、未処理の出勤簿データがない場合(S107:No)、学習部113は、テンソルDB104に記憶される各テンソルおよびラベルを用いて、学習処理を実行する(S108)。
[効果]
上述したように、学習装置100は、指定休日を休んでいる日の特徴パターンを学習データから除外して学習処理を実行することができるので、各学習データ内の共通項目である指定休日を含む特徴パターンではなく、指定休日以外の特徴パターンを抽出して学習処理を実行することができる。この結果、学習装置100は、間違った特徴パターンの学習が進むことを抑制でき、学習精度の劣化を抑制することができる。
また、学習装置100は、指定休日などの休日情報を除いた学習モデル(予測モデル)と、休日情報を含んだ学習モデルを併用することにより、予測結果の優先度をつけることができる。図14は、予測手法の別例を説明する図である。図14に示すように、学習装置100は、休日情報を含む学習データを用いた学習処理によって学習モデルAを生成するとともに、休日情報を除外した学習データを用いた学習処理によって学習モデルBを生成する。
そして、学習装置100は、予測対象の出勤簿データを学習モデルAと学習モデルBのそれぞれに入力して、各学習モデルからの予測結果に応じて、従業員の療養の危険度を判定する。具体的には、学習装置100は、「両方の学習モデルが体調不良と予測する場合」を危険度高と判定し、「いずれか一方の学習モデルのみが体調不良と予測する場合」を危険度中と判定し、「どちらの学習モデルも体調不良でないと予測する場合」を危険度小と判定する。
図14の例では、学習モデルAにより体調不良があると予測され、学習モデルBにより体調不良がないと予測されているので、入力された出勤簿データに対応する従業員に対して、危険度中と判定される。なお、休日情報を残したままの出勤簿データを各学習モデルへ入力することもでき、学習モデルAへは休日情報を残したままの出勤簿データを入力し、学習モデルBへは休日情報を削除した出勤簿データを入力することもできる。
さて、これまで本発明の実施例について説明したが、本発明は上述した実施例以外にも、種々の異なる形態にて実施されてよいものである。
[学習]
上述した学習処理は、任意の回数だけ実行することもできる。例えば、すべての訓練データを用いて実行することもでき、所定回数だけ実行することもできる。また、分類誤差の算出方法は、最小二乗法など公知の算出手法を採用することができ、NNで用いられる一般的な算出手法を採用することもできる。なお、学習データを用いて、事象(例えば療養ありと療養なし)を分類できるように、テンソルデータをニューラルネットワークに入力してニューラルネットワークの重み等を学習することが学習モデルの一例に対応する。
また、6か月の出勤簿データを予測に用いるデータ例として説明したが、これに限定されるものではなく、4か月など任意に変更することができる。また、6か月の出勤簿データに対して、その後3か月以内に療養(休職)したか否かによってラベルを付与する例を説明したが、これに限定されるものではなく、2か月以内など任意に変更することができる。また、テンソルデータも四次元に限らず、四次元未満のテンソルデータを生成することもでき、五次元以上のテンソルデータを生成することもできる。また、出勤簿データに限らず、従業員等の出退勤や休暇の取得状況などがわかる勤怠データであれば、データの形式を問わず採用することができる。
また、上記例では、除外部111は、指定休日のうち出勤していない休日である該当休日を出勤簿データから除外する例を説明したが、これに限らず、指定休日をすべて除外することもできる。
[ニューラルネットワーク]
本実施例では、RNN(Recurrent Neural Networks)やCNN(Convolutional Neural Network)など様々なニューラルネットワークを用いることができる。また、学習の手法も、誤差逆伝播以外にも公知の様々な手法を採用することができる。また、ニューラルネットワークは、例えば入力層、中間層(隠れ層)、出力層から構成される多段構成であり、各層は複数のノードがエッジで結ばれる構造を有する。各層は、「活性化関数」と呼ばれる関数を持ち、エッジは「重み」を持ち、各ノードの値は、前の層のノードの値、接続エッジの重みの値(重み係数)、層が持つ活性化関数から計算される。なお、計算方法については、公知の様々な手法を採用できる。
また、ニューラルネットワークにおける学習とは、出力層が正しい値となるように、パラメータ、すなわち、重みとバイアスを修正していくことである。誤差逆伝播法においては、ニューラルネットワークに対して、出力層の値がどれだけ正しい状態(望まれている状態)から離れているかを示す「損失関数(loss function)」を定め、最急降下法等を用いて、損失関数が最小化するように、重みやバイアスの更新が行われる。
[システム]
上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。また、実施例で説明した具体例、分布、数値などは、あくまで一例であり、任意に変更することができる。
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散や統合の具体的形態は図示のものに限られない。つまり、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。さらに、各装置にて行なわれる各処理機能は、その全部または任意の一部が、CPUおよび当該CPUにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。
[ハードウェア]
図15は、ハードウェア構成例を説明する図である。図15に示すように、学習装置100は、通信装置100a、HDD(Hard Disk Drive)100b、メモリ100c、プロセッサ100dを有する。また、図15に示した各部は、バス等で相互に接続される。
通信装置100aは、ネットワークインタフェースカードなどであり、他のサーバとの通信を行う。HDD100bは、図5に示した機能を動作させるプログラムやDBを記憶する。
プロセッサ100dは、図5に示した各処理部と同様の処理を実行するプログラムをHDD100b等から読み出してメモリ100cに展開することで、図5等で説明した各機能を実行するプロセスを動作させる。すなわち、このプロセスは、学習装置100が有する各処理部と同様の機能を実行する。具体的には、プロセッサ100dは、除外部111、テンソル生成部112、学習部113、予測部114等と同様の機能を有するプログラムをHDD100b等から読み出す。そして、プロセッサ100dは、除外部111、テンソル生成部112、学習部113、予測部114等と同様の処理を実行するプロセスを実行する。
このように学習装置100は、プログラムを読み出して実行することで学習方法を実行する情報処理装置として動作する。また、学習装置100は、媒体読取装置によって記録媒体から上記プログラムを読み出し、読み出された上記プログラムを実行することで上記した実施例と同様の機能を実現することもできる。なお、この他の実施例でいうプログラムは、学習装置100によって実行されることに限定されるものではない。例えば、他のコンピュータまたはサーバがプログラムを実行する場合や、これらが協働してプログラムを実行するような場合にも、本発明を同様に適用することができる。
このプログラムは、インターネットなどのネットワークを介して配布することができる。また、このプログラムは、ハードディスク、フレキシブルディスク(FD)、CD-ROM、MO(Magneto-Optical disk)、DVD(Digital Versatile Disc)などのコンピュータで読み取り可能な記録媒体に記録され、コンピュータによって記録媒体から読み出されることによって実行することができる。
100 学習装置
101 通信部
102 記憶部
103 出勤簿データDB
104 テンソルDB
105 学習結果DB
106 予測対象DB
110 制御部
111 除外部
112 テンソル生成部
113 学習部
114 予測部

Claims (6)

  1. コンピュータに、
    複数の従業員に関する、各レコードがカレンダーにおける期間に対応するとともに複数の項目を有する複数のレコードより構成される出勤簿データの入力を受け付け、
    前記出勤簿データから、前記複数の従業員それぞれが個別に設定する個別休日に対応するレコード、および、前記複数の従業員それぞれに共通に設定される共通休日に対応するレコードを除外した除外データと、前記出勤簿データに該当する従業員が療養したか否かを示すラベルとを対応付けたデータを生成し、
    前記除外データからカレンダー情報、および、前記複数の項目それぞれを別次元としてテンソル化したンソルデータと前記ラベルとを含む訓練データを生成し、
    入力されたテンソルデータをテンソル分解して得られたコアテンソルをニューラルネットワークに入力して従業員が療養するか否かを予測する予測結果を出力する学習モデルに対し前記訓練データを入力することによって、前記ニューラルネットワークの訓練および前記テンソル分解のパラメータの更新を行う、
    処理を実行させる機械学習プログラム。
  2. 前記データを生成する処理は、
    前記出勤簿データに含まれる前記個別休日および前記共通休日のうち、該当する従業員が出勤していない休日を除外した前記除外データを生成し、前記除外データと前記ラベルとを対応付けた前記データを生成する処理を含み、
    前記訓練データを生成する処理は、
    前記除外データから前記テンソルデータと前記ラベルとを含む訓練データを生成する処理を含み、
    前記訓練および前記パラメータの更新を行う処理は、
    前記学習モデルに対し前記訓練データを入力することによって、前記ニューラルネットワークの訓練および前記テンソル分解のパラメータの更新を行う処理を含む、
    請求項1に記載の機械学習プログラム。
  3. 前記訓練データを生成する処理は、
    前記テンソルデータの生成時に、除外した休日部分に空の要素を付加することで、前記複数の従業員それぞれの出勤簿データから生成される各テンソルデータのサイズを揃えた前記訓練データを生成する処理を含む
    請求項1に記載の機械学習プログラム。
  4. 前記訓練および前記パラメータの更新を行う処理は、
    前記入力されたテンソルデータをテンソル分解する際に、前記空の要素に該当するテンソル部分の重みを0にして、前記テンソルデータからコアテンソルを生成する際の対象から除外して前記コアテンソルを生成し、
    前記コアテンソルを前記ニューラルネットワークに入力して前記予測結果を出力する前記学習モデルに対し前記訓練データを入力することによって、前記ニューラルネットワークの訓練および前記テンソル分解のパラメータの更新を行う、処理を含む、
    請求項3に記載の機械学習プログラム。
  5. コンピュータが、
    複数の従業員に関する、各レコードがカレンダーにおける期間に対応するとともに複数の項目を有する複数のレコードより構成される出勤簿データの入力を受け付け、
    前記出勤簿データから、前記複数の従業員それぞれが個別に設定する個別休日に対応するレコード、および、前記複数の従業員それぞれに共通に設定される共通休日に対応するレコードを除外した除外データと、前記出勤簿データに該当する従業員が療養したか否かを示すラベルとを対応付けたデータを生成し、
    前記除外データからカレンダー情報、および、前記複数の項目それぞれを別次元としてテンソル化したンソルデータと前記ラベルとを含む訓練データを生成し、
    入力されたテンソルデータをテンソル分解して得られたコアテンソルをニューラルネットワークに入力して従業員が療養するか否かを予測する予測結果を出力する学習モデルに対し前記訓練データを入力することによって、前記ニューラルネットワークの訓練および前記テンソル分解のパラメータの更新を行う、
    処理をする機械学習方法。
  6. コンピュータが、
    複数の従業員に関する、各レコードがカレンダーにおける期間に対応するとともに複数の項目を有する複数のレコードより構成される出勤簿データの入力を受け付ける受付部と、
    前記出勤簿データから、前記複数の従業員それぞれが個別に設定する個別休日に対応するレコード、および、前記複数の従業員それぞれに共通に設定される共通休日に対応するレコードを除外した除外データと、前記出勤簿データに該当する従業員が療養したか否かを示すラベルとを対応付けたデータを生成する第1生成部と、
    前記除外データからカレンダー情報、および、前記複数の項目それぞれを別次元としてテンソル化したンソルデータと前記ラベルとを含む訓練データを生成する第2生成部と、
    入力されたテンソルデータをテンソル分解して得られたコアテンソルをニューラルネットワークに入力して従業員が療養するか否かを予測する予測結果を出力する学習モデルに対し前記訓練データを入力することによって、前記ニューラルネットワークの訓練および前記テンソル分解のパラメータの更新を行う学習部と
    を有する機械学習装置。
JP2018081900A 2018-04-20 2018-04-20 機械学習プログラム、機械学習方法および機械学習装置 Active JP7063079B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018081900A JP7063079B2 (ja) 2018-04-20 2018-04-20 機械学習プログラム、機械学習方法および機械学習装置
US16/366,644 US20190325400A1 (en) 2018-04-20 2019-03-27 Computer-readable recording medium, machine learning method, and machine learning device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018081900A JP7063079B2 (ja) 2018-04-20 2018-04-20 機械学習プログラム、機械学習方法および機械学習装置

Publications (2)

Publication Number Publication Date
JP2019191778A JP2019191778A (ja) 2019-10-31
JP7063079B2 true JP7063079B2 (ja) 2022-05-09

Family

ID=68237010

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018081900A Active JP7063079B2 (ja) 2018-04-20 2018-04-20 機械学習プログラム、機械学習方法および機械学習装置

Country Status (2)

Country Link
US (1) US20190325400A1 (ja)
JP (1) JP7063079B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3735658A1 (en) * 2018-07-12 2020-11-11 Huawei Technologies Co. Ltd. Generating a compressed representation of a neural network with proficient inference speed and power consumption
EP4052208A1 (en) * 2019-10-30 2022-09-07 PTO Genius, LLC Systems and methods for repurposing paid time off
KR102109187B1 (ko) * 2019-11-06 2020-05-11 (주)위솝 출퇴근 행동 패턴에 기반한 ai 근태예측 시스템
JP7511379B2 (ja) 2020-04-28 2024-07-05 株式会社マネーフォワード 情報処理装置及びプログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016035336A1 (ja) 2014-09-03 2016-03-10 日本電気株式会社 休職予測システム、予測ルール学習装置、予測装置、休職予測方法及びコンピュータ読み取り可能記録媒体
US20160350721A1 (en) 2013-08-22 2016-12-01 Core De Vie, Llc Behaviorally informed scheduling systems and methods

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9165243B2 (en) * 2012-02-15 2015-10-20 Microsoft Technology Licensing, Llc Tensor deep stacked neural network
US10592519B2 (en) * 2016-03-29 2020-03-17 Microsoft Technology Licensing, Llc Computational-model operation using multiple subject representations
US10956500B2 (en) * 2017-01-19 2021-03-23 Google Llc Dynamic-length stateful tensor array

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160350721A1 (en) 2013-08-22 2016-12-01 Core De Vie, Llc Behaviorally informed scheduling systems and methods
WO2016035336A1 (ja) 2014-09-03 2016-03-10 日本電気株式会社 休職予測システム、予測ルール学習装置、予測装置、休職予測方法及びコンピュータ読み取り可能記録媒体

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
丸橋 弘治,研究開発最前線,FUJITSU Vol.68 No.5 ,富士通株式会社,第68巻

Also Published As

Publication number Publication date
JP2019191778A (ja) 2019-10-31
US20190325400A1 (en) 2019-10-24

Similar Documents

Publication Publication Date Title
JP7063080B2 (ja) 機械学習プログラム、機械学習方法および機械学習装置
JP7067235B2 (ja) 機械学習プログラム、機械学習方法および機械学習装置
JP7063079B2 (ja) 機械学習プログラム、機械学習方法および機械学習装置
US11829867B2 (en) Computer-readable recording medium and learning data generation method
JP6481794B1 (ja) 学習用データ生成方法、学習用データ生成プログラム
Cappellari et al. Calculation of multivariate normal probabilities by simulation, with applications to maximum simulated likelihood estimation
JP2019070913A (ja) スケジュール情報分析システム及びプログラム
JP7409080B2 (ja) 学習データ生成方法、学習データ生成プログラムおよび情報処理装置
Aktekin et al. Call center arrival modeling: A Bayesian state‐space approach
Lavan Epistemic uncertainty, subjective probability, and ancient history
JP7067236B2 (ja) 機械学習用データ生成方法および機械学習用データ生成プログラム
US11836580B2 (en) Machine learning method
Bartz-Beielstein et al. Optimization and adaptation of a resource planning tool for hospitals under special consideration of the COVID-19 pandemic
JP2020047079A (ja) 学習プログラム、学習方法および学習装置
Sardjono et al. Genetic algorithm implementation for application of shifting work scheduling system
JP6843109B2 (ja) 医療用のデータ構造
JP2021096511A (ja) 学習データ生成方法、学習データ生成プログラムおよび情報処理装置
JP6414321B2 (ja) 人数予測システム、人数予測方法および人数予測プログラム
JP2021068163A (ja) 予測プログラム、予測方法及び予測装置
Evans Generational change in leaving the parental home
Jia et al. Partner with a Third-Party Delivery Service or Not?--a Prediction-and-Decision Tool for Restaurants Facing Takeout Demand Surges During a Pandemic
Chaniotakis et al. A latent class cluster comparison of travel behavior between Thessaloniki in Greece and San Diego in California
Dianat Microsimulating week-long out-of-home travel/activity patterns
Knapen et al. A task scheduling method for agent/activity-based models
James Fong et al. Composite Monte Carlo decision making under high uncertainty of novel coronavirus epidemic using hybridized deep learning and fuzzy rule induction

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210113

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211214

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220214

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220322

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220404

R150 Certificate of patent or registration of utility model

Ref document number: 7063079

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150