JPWO2020059099A1 - Label correction device - Google Patents

Label correction device Download PDF

Info

Publication number
JPWO2020059099A1
JPWO2020059099A1 JP2020547561A JP2020547561A JPWO2020059099A1 JP WO2020059099 A1 JPWO2020059099 A1 JP WO2020059099A1 JP 2020547561 A JP2020547561 A JP 2020547561A JP 2020547561 A JP2020547561 A JP 2020547561A JP WO2020059099 A1 JPWO2020059099 A1 JP WO2020059099A1
Authority
JP
Japan
Prior art keywords
label
correction
unit
state change
change point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020547561A
Other languages
Japanese (ja)
Other versions
JP7167992B2 (en
Inventor
直生 吉永
直生 吉永
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2020059099A1 publication Critical patent/JPWO2020059099A1/en
Application granted granted Critical
Publication of JP7167992B2 publication Critical patent/JP7167992B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00Testing or monitoring of control systems or parts thereof
    • G05B23/02Electric testing or monitoring
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N99/00Subject matter not provided for in other groups of this subclass

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Automation & Control Theory (AREA)
  • Electrically Operated Instructional Devices (AREA)
  • Testing And Monitoring For Control Systems (AREA)

Abstract

ラベル修正装置は、時系列のデータの状態が変化する点である状態変化点で区切られたブロックごとにラベルが付与された学習用データを入力する入力部と、前記状態変化点と、前記時系列のデータと、前記ラベルと、に基づいて、前記ラベルを修正する修正部と、を有する。
The label correction device includes an input unit for inputting learning data labeled for each block separated by a state change point, which is a point at which the state of time-series data changes, the state change point, and the time. It has a series data, the label, and a correction unit that modifies the label based on the label.

Description

本発明は、ラベル修正装置、ラベル修正方法、記録媒体に関する。 The present invention relates to a label correction device, a label correction method, and a recording medium.

プラントや工場などにおいて、設置された各種センサなどから時系列のデータを取得して、取得した時系列のデータからシステムの状態を判定することがある。このようなシステムの状態判定は、ディープラーニングなどの機械学習を使って行うことがあることが知られている。 In a plant or factory, time-series data may be acquired from various installed sensors and the system status may be determined from the acquired time-series data. It is known that the state determination of such a system may be performed by using machine learning such as deep learning.

機械学習を活用した時系列データに基づくシステムの状態判定を行う際に用いられる技術の一つとして、例えば、特許文献1がある。特許文献1には、センサの測定データにラベルを付与する情報処理装置が記載されている。具体的には、情報処理装置は、測定データ取得部と、特性データ取得部と、教師データ生成部と、を備えている。特許文献1によると、特性データ取得部はセンサの保全によって取得されるセンサの特性データを取得する。また、教師データ生成部は、センサの測定データに対して、特性データをラベル情報として対応づけた教師データを生成する。特許文献1によると、上記のような構成により、保全作業に伴うコストの上昇の低減を図ることが出来る。 For example, Patent Document 1 is one of the techniques used when determining the state of a system based on time-series data utilizing machine learning. Patent Document 1 describes an information processing device that assigns a label to the measurement data of the sensor. Specifically, the information processing device includes a measurement data acquisition unit, a characteristic data acquisition unit, and a teacher data generation unit. According to Patent Document 1, the characteristic data acquisition unit acquires the characteristic data of the sensor acquired by the maintenance of the sensor. In addition, the teacher data generation unit generates teacher data in which characteristic data is associated with label information with respect to the measurement data of the sensor. According to Patent Document 1, it is possible to reduce the increase in cost associated with maintenance work by the above configuration.

特開2018−81619号公報Japanese Unexamined Patent Publication No. 2018-81619

測定データに対して与えられるラベルは誤っていることがある。そのため、ラベルが不正確であると判断される場合、ラベルを修正することが望ましい。 The label given to the measurement data may be incorrect. Therefore, if it is determined that the label is inaccurate, it is desirable to correct the label.

ここで、上記のような時系列のデータの場合、システムの状態はある程度長い期間続き、時系列点1点ごとにシステムの状態が変化することは起きにくいという特性を有している。そのため、ラベルの修正を行う場合には、上記のような時系列のデータが有する特性を考慮することが好ましい。しかしながら、時系列のデータが有する特性を考慮して、ラベルの修正を行う技術は知られていない。そのため、時系列のデータが有する特性を考慮しつつラベルの修正を行うことが出来ない、という問題が生じていた。 Here, in the case of the time-series data as described above, the system state continues for a certain long period of time, and it is unlikely that the system state changes for each time-series point. Therefore, when modifying the label, it is preferable to consider the characteristics of the time series data as described above. However, there is no known technique for modifying the label in consideration of the characteristics of the time series data. Therefore, there is a problem that the label cannot be corrected while considering the characteristics of the time series data.

そこで、本発明の目的は、時系列のデータが有する特性を考慮しつつラベルの修正を行うことを可能とするラベル修正装置、ラベル修正方法、記録媒体を提供することにある。 Therefore, an object of the present invention is to provide a label correction device, a label correction method, and a recording medium that enable label correction while considering the characteristics of time-series data.

かかる目的を達成するため本発明の一形態であるラベル修正装置は、
時系列のデータの状態が変化する点である状態変化点で区切られたブロックごとにラベルが付与された学習用データを入力する入力部と、
前記状態変化点と、前記時系列のデータと、前記ラベルと、に基づいて、前記ラベルを修正する修正部と、
を有する
という構成をとる。
A label correction device according to an embodiment of the present invention for achieving such an object
An input unit for inputting learning data labeled for each block separated by a state change point, which is a point at which the state of time-series data changes.
A correction unit that corrects the label based on the state change point, the time series data, and the label.
It has a structure of having.

また、本発明の他の形態であるラベル修正方法は、
ラベル修正装置が、
時系列のデータの状態が変化する点である状態変化点で区切られたブロックごとにラベルが付与された学習用データを入力し、
前記状態変化点と、前記時系列のデータと、前記ラベルと、に基づいて、前記ラベルを修正する
という構成をとる。
In addition, the label correction method, which is another embodiment of the present invention,
The label correction device
Enter the learning data labeled for each block separated by the state change point, which is the point where the state of the time series data changes.
The label is modified based on the state change point, the time series data, and the label.

また、本発明の他の形態である記録媒体は、
ラベル修正装置に、
時系列のデータの状態が変化する点である状態変化点で区切られたブロックごとにラベルが付与された学習用データを入力する入力部と、
前記状態変化点と、前記時系列のデータと、前記ラベルと、に基づいて、前記ラベルを修正する修正部と、
を実現するためのプログラムを記録したコンピュータが読み取り可能な記録媒体である。
Moreover, the recording medium which is another form of this invention is
For label correction device,
An input unit for inputting learning data labeled for each block separated by a state change point, which is a point at which the state of time-series data changes.
A correction unit that corrects the label based on the state change point, the time series data, and the label.
It is a computer-readable recording medium on which a program for realizing the above is recorded.

本発明は、以上のように構成されることにより、時系列のデータが有する特性を考慮しつつラベルの修正を行うことを可能とするラベル修正装置、ラベル修正方法、記録媒体を提供することが可能となる。 The present invention can provide a label correction device, a label correction method, and a recording medium capable of correcting a label while considering the characteristics of time series data by being configured as described above. It will be possible.

本発明の第1の実施形態における学習装置の構成の一例を示すブロック図である。It is a block diagram which shows an example of the structure of the learning apparatus in 1st Embodiment of this invention. センサが取得する時系列データの一例を示す図である。It is a figure which shows an example of the time series data acquired by a sensor. ラベル情報の一例を示す図である。It is a figure which shows an example of label information. 高信頼度期間情報が示す高信頼度期間の一例を示す図である。It is a figure which shows an example of the high reliability period indicated by the high reliability period information. 修正困難度スコア情報が示す修正困難度スコアの一例を示す図である。It is a figure which shows an example of the correction difficulty score which the correction difficulty score information shows. 修正困難度スコア情報が示す修正困難度スコアの他の一例を示す図である。It is a figure which shows another example of the correction difficulty score indicated by the correction difficulty score information. 修正困難度スコア情報が示す修正困難度スコアの一例を示す図である。It is a figure which shows an example of the correction difficulty score which the correction difficulty score information shows. 分類結果情報が示す分類結果の一例を示す図である。It is a figure which shows an example of the classification result which the classification result information shows. 修正スコア情報が示す修正スコアの一例を示す図である。It is a figure which shows an example of the correction score which the correction score information shows. 修正スコアを算出する際の修正案の例を示す図である。It is a figure which shows the example of the correction plan at the time of calculating the correction score. 修正スコアを提示する際の表示の一例を示す図である。It is a figure which shows an example of the display at the time of presenting a correction score. 学習装置の動作の一例を示すフローチャートである。It is a flowchart which shows an example of the operation of a learning device. ラベル修正装置の構成の一例を示すブロック図である。It is a block diagram which shows an example of the structure of the label correction apparatus.

[第1の実施形態]
本発明の第1の実施形態を図1から図12までを参照して説明する。図1は、学習装置1の構成の一例を示すブロック図である。図2は、センサ11が取得する時系列データ151の一例を示す図である。図3は、ラベル情報152の一例を示す図である。図4は、高信頼度期間情報153が示す高信頼度期間の一例を示す図である。図5から図7は、修正困難度スコア情報155が示す修正困難度スコアの一例を示す図である。図8は、分類結果情報156が示す分類結果の一例を示す図である。図9は、修正スコア情報157が示す修正スコアの一例を示す図である。図10は、修正案の例を示す図である。図11は、修正スコアを提示する際の表示の一例を示す図である。図12は、学習装置1の動作の一例を示すフローチャートである。
[First Embodiment]
The first embodiment of the present invention will be described with reference to FIGS. 1 to 12. FIG. 1 is a block diagram showing an example of the configuration of the learning device 1. FIG. 2 is a diagram showing an example of time series data 151 acquired by the sensor 11. FIG. 3 is a diagram showing an example of label information 152. FIG. 4 is a diagram showing an example of the high reliability period indicated by the high reliability period information 153. 5 to 7 are diagrams showing an example of the correction difficulty score indicated by the correction difficulty score information 155. FIG. 8 is a diagram showing an example of the classification result indicated by the classification result information 156. FIG. 9 is a diagram showing an example of the correction score indicated by the correction score information 157. FIG. 10 is a diagram showing an example of the amendment proposal. FIG. 11 is a diagram showing an example of display when presenting a correction score. FIG. 12 is a flowchart showing an example of the operation of the learning device 1.

学習装置1(ラベル修正装置)は、工業プラントや制御・管理プラント、工場などの各種システムの監視を行う。例えば、学習装置1は、1以上のセンサ11から取得した時系列のデータである時系列データ151と、入力されたラベル情報152と、に基づいて、通常運転、高負荷運転、異常運転、停止、などのシステムの状態に応じたデータの特徴を学習する。そして、学習装置1は、学習した結果に基づいて、今の状態が上記システムの状態のいずれに該当するか判断する。 The learning device 1 (label correction device) monitors various systems such as an industrial plant, a control / control plant, and a factory. For example, the learning device 1 is based on time-series data 151, which is time-series data acquired from one or more sensors 11, and input label information 152, and is used for normal operation, high-load operation, abnormal operation, and stop. Learn the characteristics of data according to the state of the system such as ,. Then, the learning device 1 determines which of the above-mentioned system states the current state corresponds to based on the learning result.

また、後述するように、本実施形態における学習装置1は、システムの状態はある程度長い期間続き、時系列点1点ごとにシステムの状態が入れ替わることはない、という時系列のデータが有する特性を踏まえた上で、ラベル情報152を修正する。具体的には、例えば、学習装置1は、所定の条件に基づいて、システムの状態が変化する点(例えば、時刻)を示すシステム状態変化点を変更(例えば、移動、追加、削除など)する、ブロックごとに付与されたシステム状態ラベルを一括変更する、などの方法により、ラベル情報152を修正する。これにより、学習装置1は、時系列点1点ごとにシステムの状態が入れ替わるなどの時系列のデータに対する修正としては不合理な修正を行うおそれを抑制しつつ、ラベル情報152を修正する。換言すると、学習装置1が行う学習ラベル情報152の修正には、システム状態変化点の変更、及び、システム状態ラベルの一括変更を含む。更に、システム状態変化点の変更には、システム状態変化点の移動、システム状態変化点の追加、及び、システム状態変化点の削除を含む。なお、後述するように、本実施形態の場合、システム状態変化点により、時系列データ151は複数のブロックに分割される。つまり、ブロックとは、システム状態変化点により区切られた時系列データ151の一部をいう。 Further, as will be described later, the learning device 1 in the present embodiment has a characteristic of time-series data that the state of the system lasts for a certain long period of time and the state of the system does not change for each time-series point. Based on this, the label information 152 is corrected. Specifically, for example, the learning device 1 changes (for example, moves, adds, deletes, etc.) a system state change point indicating a point (for example, time) at which the system state changes (for example, time) based on a predetermined condition. , The system status label assigned to each block is changed all at once, and the label information 152 is modified. As a result, the learning device 1 corrects the label information 152 while suppressing the possibility of making an unreasonable correction to the time-series data such as the state of the system being changed for each time-series point. In other words, the modification of the learning label information 152 performed by the learning device 1 includes the change of the system state change point and the batch change of the system state label. Further, the change of the system state change point includes the movement of the system state change point, the addition of the system state change point, and the deletion of the system state change point. As will be described later, in the case of the present embodiment, the time series data 151 is divided into a plurality of blocks depending on the system state change point. That is, the block means a part of the time series data 151 separated by the system state change points.

図1は、学習装置1の構成の一例を示している。図1を参照すると、学習装置1は、例えば、主な構成要素として、センサ11と、操作入力部12と、画面表示部13と、通信I/F部14と、記憶部15と、演算処理部16と、を有している。 FIG. 1 shows an example of the configuration of the learning device 1. Referring to FIG. 1, for example, the learning device 1 has, as main components, a sensor 11, an operation input unit 12, a screen display unit 13, a communication I / F unit 14, a storage unit 15, and arithmetic processing. It has a part 16.

センサ11は、例えば1分ごとなど時系列点ごとのデータを取得することで時系列のデータを取得する。センサ11は、例えば、圧力計や温度計、流量計などの物理センサである。 The sensor 11 acquires time-series data by acquiring data for each time-series point, for example, every minute. The sensor 11 is, for example, a physical sensor such as a pressure gauge, a thermometer, or a flow meter.

本実施形態においては、学習装置1が有するセンサの数や種類については特に限定しない。学習装置1は、例えば、1以上の任意の数や種類のセンサ11を有することが出来る。 In the present embodiment, the number and types of sensors included in the learning device 1 are not particularly limited. The learning device 1 can have, for example, one or more sensors 11 of any number or type.

操作入力部12は、キーボードやマウスなどの操作入力装置からなる。操作入力部12は、学習装置1を操作するユーザの操作を検出して演算処理部16に出力する。例えば、学習装置1を操作するユーザは、操作入力部12を介して、後述するラベル情報152の入力、高信頼度期間情報153の入力、採用する修正案の選択、などの各種入力操作を行う。 The operation input unit 12 includes an operation input device such as a keyboard and a mouse. The operation input unit 12 detects the operation of the user who operates the learning device 1 and outputs it to the arithmetic processing unit 16. For example, the user who operates the learning device 1 performs various input operations such as input of label information 152, input of high reliability period information 153, selection of a correction plan to be adopted, and the like, which will be described later, via the operation input unit 12. ..

画面表示部13は、LCD(Liquid Crystal Display、液晶ディスプレイ)などの画面表示装置からなる。画面表示部13は、演算処理部16からの指示に応じて、時系列データ151などの各種情報を画面表示する。 The screen display unit 13 includes a screen display device such as an LCD (Liquid Crystal Display). The screen display unit 13 displays various information such as time series data 151 on the screen in response to an instruction from the arithmetic processing unit 16.

通信I/F部14は、通信回線を介して接続された各種装置との間でデータ通信を行う。 The communication I / F unit 14 performs data communication with various devices connected via a communication line.

記憶部15は、ハードディスクやメモリなどの記憶装置である。記憶部15は、演算処理部16における各種処理に必要な処理情報やプログラム158を記憶する。プログラム158は、演算処理部16に読み込まれて実行されることにより各種処理部を実現する。プログラム158は、通信I/F部14などのデータ入出力機能を介して外部装置や記憶媒体から予め読み込まれ、記憶部15に保存されている。記憶部15で記憶される主な情報としては、例えば、時系列データ151と、ラベル情報152と、高信頼度期間情報153と、分類モデル154と、修正困難度スコア情報155と、分類結果情報156と、修正スコア情報157と、プログラム158と、などがある。 The storage unit 15 is a storage device such as a hard disk or a memory. The storage unit 15 stores processing information and a program 158 necessary for various processes in the arithmetic processing unit 16. The program 158 realizes various processing units by being read and executed by the arithmetic processing unit 16. The program 158 is read in advance from an external device or a storage medium via a data input / output function such as the communication I / F unit 14, and is stored in the storage unit 15. The main information stored in the storage unit 15 is, for example, time series data 151, label information 152, high reliability period information 153, classification model 154, correction difficulty score information 155, and classification result information. There are 156, modified score information 157, program 158, and the like.

時系列データ151は、センサ11が取得した時系列のデータを示している。換言すると、時系列データ151は、センサ11が取得した各時系列点のデータの集合からなる時系列のデータを示している。換言すると、時系列データ151には、複数の時系列点のデータが含まれている。 The time series data 151 shows the time series data acquired by the sensor 11. In other words, the time series data 151 indicates time series data including a set of data of each time series point acquired by the sensor 11. In other words, the time series data 151 includes data of a plurality of time series points.

本実施形態の場合、学習装置1は、1以上のセンサ11を有している。そのため、例えば、学習装置1が2以上の複数のセンサ11を含む場合、時系列データ151には、複数のセンサ11が取得した複数の時系列データが含まれる。 In the case of the present embodiment, the learning device 1 has one or more sensors 11. Therefore, for example, when the learning device 1 includes a plurality of sensors 11 of two or more, the time series data 151 includes a plurality of time series data acquired by the plurality of sensors 11.

図2は、時系列データ151の一例を示している。図2で示す場合、時系列データ151には、センサA、センサB、センサC、センサDの4つのセンサ11が取得した時系列のデータが含まれている。このように、時系列データ151には、センサ11の数に応じた時系列のデータが含まれる。 FIG. 2 shows an example of time series data 151. In the case shown in FIG. 2, the time-series data 151 includes time-series data acquired by the four sensors 11 of the sensor A, the sensor B, the sensor C, and the sensor D. As described above, the time-series data 151 includes time-series data corresponding to the number of sensors 11.

ラベル情報152は、時系列データ151に対して付与されるラベルを示している。本実施形態の場合、ラベル情報152は、システム状態変化点(状態変化点)と、システム状態変化点によって区切られた各ブロックに対して付与されるシステム状態ラベル(ラベル)と、から構成される。後述するように、ラベル情報152は、例えば、学習装置1を操作するユーザによる操作により入力される。ラベル情報152は、学習装置1のラベル情報入力部162が時系列データ151などに基づいて自動的に入力するよう構成しても構わない。 The label information 152 indicates a label given to the time series data 151. In the case of the present embodiment, the label information 152 is composed of a system state change point (state change point) and a system state label (label) given to each block separated by the system state change point. .. As will be described later, the label information 152 is input by, for example, an operation by a user who operates the learning device 1. The label information 152 may be configured so that the label information input unit 162 of the learning device 1 automatically inputs the label information 152 based on the time series data 151 or the like.

ここで、システム状態変化点とは、時系列のデータの状態が変化する点のことをいう。システム状態変換点は、センサ11により監視するシステムの状態が変化する点(例えば、時刻)を示している。システム状態変化点により、時系列データ151は、複数のブロックに分割される。また、システム状態ラベルは、システム状態変化点によって区切られた各ブロックに対して付与されるラベルであり、システムの状態を示している。つまり、本実施形態の場合、同一のブロックに属する時系列点のデータに対して、同一のシステム状態ラベルが付与される。システム状態ラベルには、例えば、システム状態A(通常運転)、システム状態B(高負荷運転)、システム状態C(異常運転)、システム状態D(停止)、などがある。システム状態ラベルは、後述する分類モデル学習部164による学習を行う際や、修正部167によるラベル情報152の修正を行う際などに用いられる。なお、システム状態ラベルは、異常運転をより細かく判別するなど、上記例示したもの以外であっても構わない。 Here, the system state change point means a point where the state of time-series data changes. The system state conversion point indicates a point (for example, time) at which the state of the system monitored by the sensor 11 changes. The time series data 151 is divided into a plurality of blocks according to the system state change point. Further, the system status label is a label given to each block separated by the system status change point, and indicates the system status. That is, in the case of the present embodiment, the same system state label is given to the data of the time series points belonging to the same block. The system status label includes, for example, system status A (normal operation), system status B (high load operation), system status C (abnormal operation), system status D (stop), and the like. The system state label is used when learning is performed by the classification model learning unit 164, which will be described later, or when the label information 152 is corrected by the correction unit 167. The system status label may be other than the one illustrated above, such as determining abnormal operation in more detail.

図3は、図2で示す時系列データ151に対して付与されるラベル情報152の一例を示している。例えば、図3で示す場合、時系列データ151は、4つのシステム状態変化点で区切られている。また、図3で示す場合、4つのシステム状態変化点で区切られた5つのブロックに対して、図3の左から右に向かって順番に、システム状態A(通常状態)、システム状態B(高負荷運転)、システム状態A(通常運転)、システム状態C(異常運転)、システム状態D(停止)、の4種類のシステム状態ラベルが付与されている。換言すると、例えば、図3で示すうち一番左側のブロックに属する時系列点には、システム状態A(通常運転)のシステム状態ラベルが付与されている。 FIG. 3 shows an example of label information 152 given to the time series data 151 shown in FIG. For example, in the case of FIG. 3, the time series data 151 is separated by four system state change points. Further, in the case shown in FIG. 3, the system state A (normal state) and the system state B (high) are sequentially arranged from the left to the right in FIG. 3 for the five blocks separated by the four system state change points. Four types of system status labels are assigned: load operation), system status A (normal operation), system status C (abnormal operation), and system status D (stopped). In other words, for example, the time series points belonging to the leftmost block shown in FIG. 3 are given a system state label of system state A (normal operation).

このように、ラベル情報152は、時系列データ151を区切るシステム状態変化点と、システム状態変化点によって区切られた各ブロックに対して付与されるシステム状態ラベルと、から構成される。なお、ラベル情報152に含まれるシステム状態変化点の数やシステム状態ラベルの数、種類は、上記例示した以外であっても構わない。 As described above, the label information 152 is composed of a system state change point for dividing the time series data 151 and a system state label given to each block divided by the system state change point. The number of system state change points and the number and types of system state labels included in the label information 152 may be other than those illustrated above.

高信頼度期間情報153は、時系列データ151のうち、信頼性が高いと判断される期間(例えば、ラベル付けが誤っているおそれが低いと考えられる期間)である高信頼度期間を示している。後述するように、高信頼度期間情報153が示す高信頼度期間内の時系列点のシステム状態ラベルに基づいて、最初の学習が行われる。そのため、高信頼度期間は、上述したラベル情報152に含まれるすべての種類のシステム状態ラベルに対して設定されることが望ましい。つまり、上述した例の場合、システム状態A(通常状態)、システム状態B(高負荷運転)、システム状態C(異常運転)、システム状態D(停止)、のすべての種類に対して高信頼度期間が設定されていることが望ましい。 The high-reliability period information 153 indicates a high-reliability period, which is a period of time-series data 151 that is judged to be highly reliable (for example, a period that is considered to have a low possibility of incorrect labeling). There is. As will be described later, the first learning is performed based on the system state label of the time series points within the high reliability period indicated by the high reliability period information 153. Therefore, it is desirable that the high reliability period be set for all types of system state labels included in the label information 152 described above. That is, in the case of the above-mentioned example, the reliability is high for all types of system state A (normal state), system state B (high load operation), system state C (abnormal operation), and system state D (stop). It is desirable that a period is set.

後述するように、高信頼度期間は、例えば、学習装置1を操作するユーザによる操作により入力される。高信頼度期間は、学習装置1の高信頼度期間情報入力部163が、システム状態変化点からの距離などに基づいて入力されても構わない。 As will be described later, the high reliability period is input by, for example, an operation by a user who operates the learning device 1. The high reliability period may be input by the high reliability period information input unit 163 of the learning device 1 based on the distance from the system state change point or the like.

図4は、図2で示す時系列データ151に対して入力された高信頼度期間の一例を示している。図4では、システム状態A(通常運転)とシステム状態D(停止)中の所定期間に対して高信頼度期間が入力されている。図4で示す場合、システム状態A(通常運転)とシステム状態D(停止)中の高信頼度期間は、例えば、システム状態変化点から予め定められた値(任意の値で構わない)以上離れている。なお、図4では、システム状態Bとシステム状態Cに対して高信頼度期間が入力されていない。そのため、システム状態Bとシステム状態Cに対しては、図4で図示しない時系列のデータ中のどこかの期間に対して、高信頼度期間の入力が行われていることが望ましい。 FIG. 4 shows an example of the high reliability period input for the time series data 151 shown in FIG. In FIG. 4, a high reliability period is input for a predetermined period during the system state A (normal operation) and the system state D (stop). In the case shown in FIG. 4, the high reliability period during the system state A (normal operation) and the system state D (stop) is separated from the system state change point by, for example, a predetermined value (any value may be used) or more. ing. In FIG. 4, the high reliability period is not input for the system state B and the system state C. Therefore, for the system state B and the system state C, it is desirable that the high reliability period is input for some period in the time series data (not shown in FIG. 4).

分類モデル154は、分類モデル学習部164による学習の結果として生成されるモデルである。後述するように、分類モデル学習部164は、高信頼度期間情報153が示す高信頼度期間を対象とした学習を行う。そのため、分類モデル154は、高信頼度期間を対象とした学習の結果として生成されるモデルである、ということも出来る。換言すると、分類モデル154は、時系列データ151のうちの一部に対する学習の結果として生成されるモデルである。 The classification model 154 is a model generated as a result of learning by the classification model learning unit 164. As will be described later, the classification model learning unit 164 performs learning for the high reliability period indicated by the high reliability period information 153. Therefore, it can be said that the classification model 154 is a model generated as a result of learning for a high reliability period. In other words, the classification model 154 is a model generated as a result of learning on a part of the time series data 151.

修正困難度スコア155は、ラベルを修正する際の困難度を示す値である修正困難度スコアを示している。修正困難度スコアは、例えば、分類モデル学習部164による学習が行われなかった時系列点を対象として、修正困難度スコア計算部165により算出される。 The correction difficulty score 155 indicates a correction difficulty score which is a value indicating the difficulty when correcting the label. The correction difficulty score is calculated by the correction difficulty score calculation unit 165, for example, for time-series points that have not been learned by the classification model learning unit 164.

修正困難度スコアは、例えば、値が大きくなれば大きくなるほどシステム状態変化点やシステム状態ラベルの修正が困難であることを示している。後述するように、例えば、修正困難度スコアは、時系列データと、システム状態変化点と、に基づいて算出することが出来る。具体的には、例えば、修正困難度スコアは、時系列データを構成する各時系列点のシステム状態変化点からの離れ具合と、時系列点と同一のブロックに分類モデル学習部164による学習が行われた期間を含むか否か、に基づいて算出することが出来る。なお、後述するように、修正困難度スコアは、修正案を採用する際の目安となる修正スコアを算出する際にも用いられる。そのため、修正困難度スコアは、ラベル情報152を修正する際に、後述する分類部166による分類の結果を補正する値である、ということも出来る。 The correction difficulty score indicates, for example, that the larger the value, the more difficult it is to correct the system state change point or the system state label. As will be described later, for example, the correction difficulty score can be calculated based on the time series data and the system state change point. Specifically, for example, the correction difficulty score is classified into the same block as the time-series points and the degree of distance from the system state change point of each time-series point constituting the time-series data. It can be calculated based on whether or not the period during which it was performed is included. As will be described later, the correction difficulty score is also used when calculating the correction score as a guide when adopting the correction plan. Therefore, it can be said that the correction difficulty score is a value for correcting the result of classification by the classification unit 166, which will be described later, when the label information 152 is corrected.

図5は、ラベル情報152に含まれるシステム状態ラベルと、分類モデル学習部164による学習が行われたか否か(つまり、高信頼度期間内であるか否か)を示す学習済みフラグと、修正困難度スコアと、の対応の一例を示す図である。図5では、時系列点「12:04」と「12:05」の間にシステム状態変化点がある場合について例示している。 FIG. 5 shows a system state label included in the label information 152, a learned flag indicating whether or not learning has been performed by the classification model learning unit 164 (that is, whether or not it is within the high reliability period), and a correction. It is a figure which shows an example of correspondence with a difficulty score. FIG. 5 illustrates a case where there is a system state change point between the time series points “12:04” and “12:05”.

図5で示す場合、「12:00」「12:01」の時刻の時系列点のデータに対しては、既に分類モデル学習部164による学習が行われている。そのため、システム状態ラベルの修正は不可能であり、修正困難度スコア計算部165による修正困難度スコアの算出は行われない。その結果、修正困難度スコアは「(修正不可)」となっている。このように、分類モデル学習部164による学習が行われた時系列点(つまり、高信頼度期間内の時系列点)については、修正困難度スコアの算出は行われない。 In the case shown in FIG. 5, the classification model learning unit 164 has already learned the data of the time series points at the times of "12:00" and "12:01". Therefore, it is impossible to correct the system state label, and the correction difficulty score calculation unit 165 does not calculate the correction difficulty score. As a result, the correction difficulty score is "(cannot be corrected)". As described above, the correction difficulty score is not calculated for the time series points learned by the classification model learning unit 164 (that is, the time series points within the high reliability period).

また、図5の場合、「12:02」に対応する修正困難度スコアは「0.8」であり、「12:03」に対応する修正困難度スコアは「0.7」であり、「12:04」に対応する修正困難度スコアは「0.6」である。同様に、図5の場合、「12:05」に対応する修正困難度スコアは「0.2」であり、「12:06」に対応する修正困難度スコアは「0.3」であり、「12:07」に対応する修正困難度スコアは「0.4」であり、「12:08」に対応する修正困難度スコアは「0.5」である。 Further, in the case of FIG. 5, the correction difficulty score corresponding to "12:02" is "0.8", the correction difficulty score corresponding to "12:03" is "0.7", and ". The correction difficulty score corresponding to "12:04" is "0.6". Similarly, in the case of FIG. 5, the correction difficulty score corresponding to “12:05” is “0.2”, and the correction difficulty score corresponding to “12:06” is “0.3”. The correction difficulty score corresponding to "12:07" is "0.4", and the correction difficulty score corresponding to "12:08" is "0.5".

このように、図5で示す場合、修正困難度スコアは、システム状態変化点からの離れ具合が大きくなれば大きくなるほど、大きな値となっている。また、修正困難度スコアは、学習済みフラグが丸である(つまり、分類モデル学習部164による学習が既に行われた)期間を含むブロックに属している場合、大きな値となっている。なお、修正困難度スコアの詳細な算出方法は、後述する。 As described above, in the case of FIG. 5, the correction difficulty score becomes a larger value as the distance from the system state change point increases. Further, the correction difficulty score is a large value when the learned flag belongs to a block including a period in which the learned flag is round (that is, learning by the classification model learning unit 164 has already been performed). The detailed calculation method of the correction difficulty score will be described later.

なお、時系列のデータは、システム状態変化点によりブロックに分割される。そのため、図6で示すように、ブロック内の各時系列点は、両端にシステム状態変化点を有することがある。このような場合、修正困難度スコアは、例えば、より近い方のシステム状態変化点からの離れ具合に基づいて算出することが出来る。例えば、図6で示す場合、「12:07」に対応する修正困難度スコアが「0.4」であり、「12:08」に対応する修正困難度スコアが「0.3」であり、「12:09」に対応する修正困難度スコアが「0.2」である。 The time-series data is divided into blocks according to the system state change point. Therefore, as shown in FIG. 6, each time-series point in the block may have system state change points at both ends. In such a case, the correction difficulty score can be calculated based on, for example, the degree of distance from the closer system state change point. For example, in the case shown in FIG. 6, the correction difficulty score corresponding to “12:07” is “0.4”, and the correction difficulty score corresponding to “12:08” is “0.3”. The correction difficulty score corresponding to "12:09" is "0.2".

図7は、図2で示す時系列データ151に対して修正困難度スコアを算出した場合の、修正困難度スコアの傾向の一例を示している。図7を参照すると、修正困難度スコアは、システム状態変化点からの離れ具合が大きくなれば大きくなるほど、大きな値となっていることが分かる。また、修正困難度スコアは、高信頼度期間情報153が入力されている(つまり、分類モデル学習部164による学習が既に行われた)期間を含むブロックに属している場合、大きな値となっていることが分かる。 FIG. 7 shows an example of the tendency of the correction difficulty score when the correction difficulty score is calculated for the time series data 151 shown in FIG. With reference to FIG. 7, it can be seen that the correction difficulty score becomes a larger value as the distance from the system state change point increases. Further, the correction difficulty score becomes a large value when it belongs to the block including the period in which the high reliability period information 153 is input (that is, the learning by the classification model learning unit 164 has already been performed). You can see that there is.

分類結果情報156は、分類部166による分類の結果を示している。後述するように、分類部166は、分類モデル学習部164による学習に用いられなかった時系列点について、時系列点のデータの特徴と、分類モデル学習部164が生成した分類モデル154と、に基づいて、時系列点の分類を行う。そのため、分類結果情報156は、分類モデル学習部164による学習に用いられなかった時系列点に対する分類の結果を示している。 The classification result information 156 shows the result of classification by the classification unit 166. As will be described later, the classification unit 166 describes the time series points that were not used for learning by the classification model learning unit 164, the characteristics of the time series point data, and the classification model 154 generated by the classification model learning unit 164. Based on this, the time series points are classified. Therefore, the classification result information 156 shows the result of classification for the time series points that were not used for learning by the classification model learning unit 164.

図8は、図5に分類結果情報156を加えた際の一例を示す図である。図8を参照すると、「12:00」と「12:01」は分類モデル学習部164による学習に用いられた時系列点であるため、分類の結果を示していない。また、図8を参照すると、例えば、「12:02」に対応する分類結果が「システム状態A」であり、「12:03」に対する分類結果が「システム状態A」であり、「12:04」に対する分類結果が「システム状態B」である。また、「12:05」に対する分類結果が「システム状態C」であり、「12:06」に対する分類結果が「システム状態C」であり、「12:07」に対する分類結果が「システム状態B」であり、「12:08」に対する分類結果が「システム状態C」である。 FIG. 8 is a diagram showing an example when the classification result information 156 is added to FIG. Referring to FIG. 8, “12:00” and “12:01” are time-series points used for learning by the classification model learning unit 164, and therefore do not show the result of classification. Further, referring to FIG. 8, for example, the classification result corresponding to "12:02" is "system state A", the classification result for "12:03" is "system state A", and "12:04". The classification result for "" is "system state B". Further, the classification result for "12:05" is "system state C", the classification result for "12:06" is "system state C", and the classification result for "12:07" is "system state B". The classification result for "12:08" is "system state C".

図8で示す場合、「12:02」、「12:03」、「12:07」の時系列点については、最初にラベル情報入力部162により付与されたシステム状態ラベルと、分類部166による分類の結果と、に差異が生じていない。一方、上記以外の時系列点である、「12:04」、「12:05」、「12:06」、「12:08」の時系列点については、最初にラベル情報入力部162により付与されたシステム状態ラベルと、分類部166による分類の結果と、に差異が生じている。このように、最初にユーザなどにより入力されるシステム状態ラベルと、分類部166による分類の結果と、には、齟齬が生じることがある。 In the case shown in FIG. 8, for the time series points of "12:02", "12:03", and "12:07", the system status label first assigned by the label information input unit 162 and the classification unit 166 are used. There is no difference from the classification result. On the other hand, time-series points other than the above, such as "12:04", "12:05", "12:06", and "12:08", are first assigned by the label information input unit 162. There is a difference between the system status label given and the result of classification by the classification unit 166. As described above, there may be a discrepancy between the system state label first input by the user or the like and the result of classification by the classification unit 166.

修正スコア情報157は、修正スコアを示している。修正スコアとは、修正後に分類が正しくなり、かつ、修正が容易な度合いを示すスコアである。修正スコアは、修正案の採用可否を判断する目安として用いることが可能である。修正スコアは、修正部167が、分類部166による分類の結果及び修正困難度スコアを用いて算出する。 The modified score information 157 indicates the modified score. The correction score is a score indicating the degree to which the classification is correct after correction and the correction is easy. The amendment score can be used as a guide for determining whether or not to adopt the amendment proposal. The correction score is calculated by the correction unit 167 using the result of classification by the classification unit 166 and the correction difficulty score.

修正スコアは、例えば、値が大きくなれば大きくなるほど、修正により、分類部166による分類結果と実際に付与されるシステム状態ラベルとの齟齬が少なくなることを示している。また、修正スコアは、値が大きくなれば大きくなるほど、修正が容易であり合理的であることを示している。例えば、修正スコアは、修正により分類が正しくなる時系列点の数の合計と、修正により分類が間違いになる時系列点の数の合計と、対象となる修正困難度スコアの合計と、に基づいて算出することが出来る。 The correction score indicates, for example, that the larger the value, the less the discrepancy between the classification result by the classification unit 166 and the system state label actually given by the correction. In addition, the correction score indicates that the larger the value, the easier and more rational the correction is. For example, the correction score is based on the total number of time-series points that are correctly classified by the correction, the total number of time-series points that are incorrectly classified by the correction, and the total number of target correction difficulty scores. Can be calculated.

図9は、修正案ごとの修正スコアの値の一例を示している。また、図10は、各修正案が想定する修正の具体例を示している。例えば、図10を参照すると、「修正案1」では、システム状態変化点を、「12:04」と「12:05」の間から「12:03」と「12:04」の間に移動させる。図9を参照すると、上記のような修正案1を行った際の修正スコアは、例えば、「0.4」となる。また、図10を参照すると、「修正案2」では、システム状態変化点を、「12:04」と「12:05」の間から「12:02」と「12:03」の間に移動させる。図9を参照すると、上記のような修正案1を行った際の修正スコアは、例えば、「−1.3」となる。このように、修正スコア情報157には、各修正案を行った際の修正スコアが含まれる。 FIG. 9 shows an example of the value of the correction score for each correction plan. Further, FIG. 10 shows a specific example of the modification assumed by each modification plan. For example, referring to FIG. 10, in "Modification 1", the system state change point is moved from "12:04" and "12:05" to "12:03" and "12:04". Let me. With reference to FIG. 9, the correction score when the above-mentioned revision plan 1 is performed is, for example, "0.4". Further, referring to FIG. 10, in "Modification 2", the system state change point is moved from "12:04" and "12:05" to "12:02" and "12:03". Let me. With reference to FIG. 9, the correction score when the above-mentioned correction plan 1 is performed is, for example, "-1.3". As described above, the correction score information 157 includes the correction score when each correction proposal is made.

演算処理部16は、MPUなどのマイクロプロセッサとその周辺回路を有し、記憶部15からプログラム158を読み込んで実行することにより、上記ハードウェアとプログラム158とを協働させて各種処理部を実現する。演算処理部16で実現される主な処理部として、例えば、データ取得部161と、ラベル情報入力部162と、高信頼度情報期間入力部163と、分類モデル学習部164と、修正困難度スコア計算部165と、分類部166と、修正部167と、がある。 The arithmetic processing unit 16 has a microprocessor such as an MPU and its peripheral circuits, and by reading and executing the program 158 from the storage unit 15, the hardware and the program 158 cooperate to realize various processing units. do. As the main processing units realized by the arithmetic processing unit 16, for example, a data acquisition unit 161, a label information input unit 162, a high reliability information period input unit 163, a classification model learning unit 164, and a correction difficulty score. There are a calculation unit 165, a classification unit 166, and a correction unit 167.

データ取得部161は、センサ11が取得した各時系列点のデータを取得する。そして、データ取得部161は、センサ11から取得したデータを時系列データ151として記憶部15に格納する。 The data acquisition unit 161 acquires the data of each time series point acquired by the sensor 11. Then, the data acquisition unit 161 stores the data acquired from the sensor 11 as time-series data 151 in the storage unit 15.

ラベル情報入力部162は、ラベル情報152の入力を受け付ける入力部である。そして、ラベル情報入力部162は、受け付けたラベル情報152を記憶部15に格納する。上述したように、ラベル情報入力部162が入力を受け付けるラベル情報152には、システム状態変化点と、システム状態ラベルと、が含まれている。 The label information input unit 162 is an input unit that accepts the input of the label information 152. Then, the label information input unit 162 stores the received label information 152 in the storage unit 15. As described above, the label information 152 that receives the input by the label information input unit 162 includes the system state change point and the system state label.

例えば、画面表示部13上に、図2で示すような時系列データ151が表示されているとする。このような場合、ラベル情報入力部162は、例えば、画面表示部13上に表示した時系列データ151に対する、ユーザによる操作入力部12を介した入力を受け付けることで、システム状態変化点と、システム状態ラベルと、を含むラベル情報152の入力を受け付ける。このように、ラベル情報入力部162は、例えば、画面表示部13上に表示した時系列データ151に対するユーザの入力を受け付けることで、ラベル情報152の入力を受け付ける。その結果、画面表示部13上には、例えば、図3で示すように、時系列データ151とともにラベル情報152が表示される。 For example, it is assumed that the time series data 151 as shown in FIG. 2 is displayed on the screen display unit 13. In such a case, the label information input unit 162 receives an input by the user via the operation input unit 12 for the time series data 151 displayed on the screen display unit 13, for example, to set the system state change point and the system. It accepts the input of the status label and the label information 152 including. In this way, the label information input unit 162 accepts the input of the label information 152 by, for example, accepting the user's input for the time series data 151 displayed on the screen display unit 13. As a result, the label information 152 is displayed on the screen display unit 13 together with the time series data 151, for example, as shown in FIG.

または、例えば、ラベル情報入力部162は、時系列データ151などに基づいて、自動的にラベル情報152の入力を受け付ける。本実施形態においては、自動的にラベル情報152の入力を受け付ける際の処理については特に限定しない。ラベル情報入力部162は、既知の方法を用いてラベル情報152の入力を受け付けることが出来る。 Alternatively, for example, the label information input unit 162 automatically accepts the input of the label information 152 based on the time series data 151 or the like. In the present embodiment, the process for automatically accepting the input of the label information 152 is not particularly limited. The label information input unit 162 can accept the input of the label information 152 by using a known method.

なお、ラベル情報入力部162により入力されるラベル情報152は、時系列のデータが有する特性を踏まえていることが望ましい。そのため、例えば、システム状態変化点間には、所定の期間が設けられている。換言すると、例えば、ラベル情報入力部162は、システム状態変化点とシステム状態変化点との間に、予め定められた基準(任意の値で構わない)以上の時系列点を含むように、ラベル情報152の入力を受け付ける。 It is desirable that the label information 152 input by the label information input unit 162 is based on the characteristics of the time series data. Therefore, for example, a predetermined period is provided between the system state change points. In other words, for example, the label information input unit 162 includes a label between the system state change point and the system state change point so as to include a time series point equal to or higher than a predetermined reference (any value may be used). Accepts the input of information 152.

高信頼度期間情報入力部163は、高信頼度期間の入力を受け付ける。そして、高信頼度期間情報入力部163は、受け付けた高信頼度期間を示す高信頼度期間情報153を記憶部15に格納する。 The high reliability period information input unit 163 accepts the input of the high reliability period. Then, the high reliability period information input unit 163 stores the high reliability period information 153 indicating the received high reliability period in the storage unit 15.

例えば、画面表示部13上に、図2で示すような時系列データ151が表示されているとする。または、画面表示部13上には、図3で示すように、時系列データ151とラベル情報152が表示されているとする。このような場合、高信頼度期間情報入力部163は、例えば、画面表示部13上に表示した時系列データ151に対する、ユーザによる操作入力部12を介した入力を受け付けることで、高信頼度期間の入力を受け付ける。この際、高信頼度期間はシステム状態変化点をまたいでも構わない。このように、高信頼度期間情報入力部163は、例えば、画面表示部13上に表示した時系列データ151に対するユーザの入力を受け付けることで、高信頼度期間の入力を受け付ける。 For example, it is assumed that the time series data 151 as shown in FIG. 2 is displayed on the screen display unit 13. Alternatively, it is assumed that the time series data 151 and the label information 152 are displayed on the screen display unit 13 as shown in FIG. In such a case, the high reliability period information input unit 163 receives an input by the user via the operation input unit 12 for the time series data 151 displayed on the screen display unit 13, for example, so that the high reliability period information input unit 163 has a high reliability period. Accepts input. At this time, the high reliability period may straddle the system state change point. In this way, the high-reliability period information input unit 163 accepts the input of the high-reliability period by, for example, accepting the user's input for the time-series data 151 displayed on the screen display unit 13.

または、例えば、高信頼度期間情報入力部163は、システム状態変化点からの離れ具合などに基づいて、自動的に高信頼度期間の入力を受け付ける。例えば、高信頼度期間情報入力部163は、システム状態変化点から予め定められた任意の値以上離れている期間を高信頼度期間とする。なお、高信頼度期間情報入力部163は、システム状態ラベルごとの高信頼度期間内の時系列点の数や、システム状態ラベルごとの高信頼度期間と高信頼度期間外の期間の割合など、システム状態変化点からの離れ具合以外の情報も参照して、高信頼度期間を判断しても構わない。 Alternatively, for example, the high-reliability period information input unit 163 automatically accepts the input of the high-reliability period based on the degree of distance from the system state change point. For example, the high-reliability period information input unit 163 defines a high-reliability period as a period that is separated from the system state change point by an arbitrary value or more. The high-reliability period information input unit 163 includes the number of time-series points within the high-reliability period for each system status label, the ratio of the high-reliability period to the high-reliability period for each system status label, and the period outside the high-reliability period. , The high reliability period may be determined by referring to information other than the degree of distance from the system state change point.

分類モデル学習部164は、高信頼度期間情報153が示す高信頼度期間を対象とした学習を行う学習部である。例えば、分類モデル学習部164は、上記高信頼度期間内に属する時系列点のデータの特徴と、当該時系列点に付与されたシステム状態ラベルと、に基づくディープラーニングにより、分類モデル154を生成する。その後、分類モデル学習部164は、生成した分類モデル154を記憶部15に格納する。このように、分類モデル学習部164は、時系列データ151が示す時系列のデータのうち一部の期間である高信頼度期間を対象とした学習を行って分類モデル154を生成する。 The classification model learning unit 164 is a learning unit that performs learning for the high reliability period indicated by the high reliability period information 153. For example, the classification model learning unit 164 generates a classification model 154 by deep learning based on the characteristics of the data of the time series points belonging to the high reliability period and the system state label given to the time series points. do. After that, the classification model learning unit 164 stores the generated classification model 154 in the storage unit 15. In this way, the classification model learning unit 164 generates the classification model 154 by performing learning for the high reliability period, which is a part of the time series data indicated by the time series data 151.

なお、本実施形態においては、分類モデル学習部164が学習を行う際の処理については特に限定しない。例えば、分類モデル学習部164は、ニューラルネットワークを用いた学習を行うなど、既知の手段を用いた学習を行うことが出来る。 In this embodiment, the processing when the classification model learning unit 164 performs learning is not particularly limited. For example, the classification model learning unit 164 can perform learning using known means such as learning using a neural network.

修正困難度スコア計算部165は、分類モデル学習部164による学習が行われなかった時系列点を対象として、修正困難度スコアを算出する。そして、修正困難度スコア計算部165は、算出した修正困難度スコアを修正困難度スコア情報155として、記憶部15に格納する。 The correction difficulty score calculation unit 165 calculates the correction difficulty score for the time-series points that have not been learned by the classification model learning unit 164. Then, the correction difficulty score calculation unit 165 stores the calculated correction difficulty score as the correction difficulty score information 155 in the storage unit 15.

例えば、修正困難度スコア計算部165は、時系列データ151を構成する各時系列点のシステム状態変化点からの離れ具合と、時系列点と同一のブロックに分類モデル学習部164による学習が行われた期間を含むか否か、に基づいて、修正困難度スコアを算出する。例えば、修正困難度スコア計算部165は、同じブロック内に学習済みの時系列点がある場合は+0.4、ない場合は+0、システム状態変化点から時系列点が1点離れるごとに+0.1、という計算を行うことで、算出の対象となる各時系列点の修正困難度スコアを算出する。なお、上述したように、ブロック内の各時系列点は、両端にシステム状態変化点を有している場合がある。このような場合、修正困難度スコア計算部165は、時系列点により近い方のシステム状態変化点を基準として、上記修正困難度スコアの算出を行うことが出来る。 For example, the correction difficulty score calculation unit 165 learns the degree of distance from the system state change point of each time series point constituting the time series data 151 and the classification model learning unit 164 into the same block as the time series point. The correction difficulty score is calculated based on whether or not the period is included. For example, the correction difficulty score calculation unit 165 is +0.4 when there is a learned time-series point in the same block, +0 when there is no learned time-series point, and +0. By performing the calculation of 1, the correction difficulty score of each time series point to be calculated is calculated. As described above, each time-series point in the block may have system state change points at both ends. In such a case, the correction difficulty score calculation unit 165 can calculate the correction difficulty score based on the system state change point closer to the time series point.

具体的には、例えば、図5で示す場合、修正困難度スコア計算部165は、「12:02」の時系列点に対して、同じブロック内に学習済みの時系列点があるため+0.4、また、システム状態変化点からの離れ具合に応じて+0.4の合計「0.8」を修正困難度スコアとして算出する。同様に、図5で示す場合、例えば、修正困難度スコア計算部165は、「12:05」の時系列点に対して、同じブロック内に学習済みの時系列点がないため+0、また、システム状態変化点からの離れ具合に応じて+0.2の合計「0.2」を修正困難度スコアとして算出する。また、図6で示すように両端にシステム状態変化点を有している場合、修正困難度スコア計算部165は、例えば「12:08」の時系列点に対して、同じブロック内に学習済みの時系列点がないため+0、また、「12:08」の時系列点により近い図6の右側のシステム状態変化点を基準にした離れ具合に応じて+0.3の合計「0.3」を修正困難度スコアとして算出する。 Specifically, for example, in the case of FIG. 5, the correction difficulty score calculation unit 165 has learned time series points in the same block with respect to the time series points of “12:02”, so that the time series points are +0. 4. In addition, the total of +0.4 "0.8" is calculated as the correction difficulty score according to the degree of distance from the system state change point. Similarly, in the case shown in FIG. 5, for example, the correction difficulty score calculation unit 165 is +0 with respect to the time series point of "12:05" because there is no learned time series point in the same block. The total of +0.2 "0.2" is calculated as the correction difficulty score according to the degree of distance from the system state change point. Further, when the system state change points are provided at both ends as shown in FIG. 6, the correction difficulty score calculation unit 165 has already learned the time series points of, for example, "12:08" in the same block. +0 because there is no time-series point of, and +0.3 in total "0.3" according to the degree of separation based on the system state change point on the right side of FIG. 6, which is closer to the time-series point of "12:08". Is calculated as the correction difficulty score.

このように、修正困難度スコア計算部165は、時系列データを構成する各時系列点のデータのシステム状態変化点からの離れ具合と、時系列点と同一のブロックに分類モデル学習部164による学習が行われた期間を含むか否か、に基づいて、修正困難度スコアを算出する。換言すると、修正困難度スコア計算部165は、システム状態ラベルの変更が容易であるか否か、システム状態変化点の変更が容易であるか否か、という観点から、修正困難度スコアを算出する。つまり、同じブロック内に学習済みの時系列点がある場合、システム状態ラベルの修正は困難になる。そのため、修正困難度スコア計算部165は、同じブロック内に学習済みの時系列点がある場合、修正困難度スコアを高くする。また、時系列点がシステム状態変化点から離れるほど、システム状態変化点をよい大きく移動させることが必要になり、システム状態変化点の移動は困難になる。そのため、修正困難度スコア計算部165は、システム状態変化点からの離れ具合に応じて、修正困難度スコアを加算する。 In this way, the correction difficulty score calculation unit 165 is divided into the same blocks as the time-series points and the degree of separation of the data of each time-series point constituting the time-series data from the system state change point by the model learning unit 164. The correction difficulty score is calculated based on whether or not the learning period is included. In other words, the correction difficulty score calculation unit 165 calculates the correction difficulty score from the viewpoint of whether or not the system state label can be easily changed and whether or not the system state change point can be easily changed. .. That is, if there are trained time series points in the same block, it will be difficult to modify the system state label. Therefore, the correction difficulty score calculation unit 165 raises the correction difficulty score when there are learned time-series points in the same block. Further, as the time series point is farther from the system state change point, it is necessary to move the system state change point to a large extent, and it becomes difficult to move the system state change point. Therefore, the correction difficulty score calculation unit 165 adds the correction difficulty score according to the degree of distance from the system state change point.

なお、修正困難度スコア計算部165による計算の方法は、あくまで一例である。修正困難度スコア計算部165は、上記例示した以外の方法を用いて修正困難度スコアを算出しても構わない。 The calculation method by the correction difficulty score calculation unit 165 is just an example. The correction difficulty score calculation unit 165 may calculate the correction difficulty score by using a method other than the above-exemplified method.

分類部166は、分類モデル学習部164による学習に用いられなかった時系列点について、当該時系列点のデータの特徴と、分類モデル学習部164が生成した分類モデル154と、に基づいて、時系列点の分類を行う。つまり、分類部166は、時系列データ151中の所定期間を対象とした学習の結果生成される分類モデル154に基づいて、上記所定期間外の期間の時系列点を対象とした分類を行う。例えば、本実施形態の場合、分類部166は、時系列点の状態を、システム状態A(通常運転)、システム状態B(高負荷運転)、システム状態C(異常運転)、システム状態D(停止)のいずれかに分類する。分類部166は、上記例示した以外の分類を行っても構わない。 The classification unit 166 describes the time series points that were not used for learning by the classification model learning unit 164 based on the characteristics of the data of the time series points and the classification model 154 generated by the classification model learning unit 164. Classify the series points. That is, the classification unit 166 classifies the time-series points in the period other than the predetermined period based on the classification model 154 generated as a result of learning for the predetermined period in the time-series data 151. For example, in the case of the present embodiment, the classification unit 166 sets the states of the time series points to system state A (normal operation), system state B (high load operation), system state C (abnormal operation), and system state D (stop). ). The classification unit 166 may perform classification other than those illustrated above.

なお、分類部166は、時系列のデータが有する特性を考慮せずに、分類モデル154に基づく分類を行う。そのため、分類部166による分類の結果は、時系列点1点ごとにシステムの状態が入れ替わることがある(図8参照)など、時系列のデータに対する分類としては不合理なものになるおそれがある。そこで、本実施形態においては、分類部166による分類の結果をそのままラベル情報152の修正に用いることはない。後述する修正部167による処理を経ることで、時系列のデータが有する特性を踏まえた修正を行うことが可能となる。 The classification unit 166 classifies based on the classification model 154 without considering the characteristics of the time series data. Therefore, the result of classification by the classification unit 166 may be unreasonable as a classification for time-series data, for example, the system state may be changed for each time-series point (see FIG. 8). .. Therefore, in the present embodiment, the result of classification by the classification unit 166 is not used as it is for modifying the label information 152. By going through the processing by the correction unit 167, which will be described later, it is possible to make corrections based on the characteristics of the time series data.

修正部167は、修正案ごとに修正スコアを算出する。そして、修正部167は、算出した修正スコアを修正スコア情報157として記憶部15に格納する。また、修正部167は、算出した修正スコアを画面表示部13に表示する。そして、修正部167は、ユーザによる入力に応じて、採用する修正案を決定する。その後、修正部167は、採用した修正案を反映する。つまり、修正部167は、採用した修正案を含むようラベル情報152を変更する。 The correction unit 167 calculates a correction score for each correction proposal. Then, the correction unit 167 stores the calculated correction score as the correction score information 157 in the storage unit 15. Further, the correction unit 167 displays the calculated correction score on the screen display unit 13. Then, the correction unit 167 determines the correction plan to be adopted according to the input by the user. After that, the correction unit 167 reflects the revised proposal adopted. That is, the correction unit 167 changes the label information 152 so as to include the adopted correction proposal.

例えば、修正部167は、システム状態変化点を移動させる、システム状態変化点を追加または削除する、ブロックに付与されたシステム状態ラベルを一括変更する、上記の組み合わせ、などの修正案ごとに修正スコアを算出する。 For example, the correction unit 167 moves the system state change point, adds or deletes the system state change point, changes the system state label given to the block at once, the above combination, and the like. Is calculated.

具体的には、図10で示す場合、修正スコアを算出する対象となる修正案1は、「12:04」と「12:05」の間にあるシステム状態変化点を「12:03」と「12:04」の間に移動させる案である。また、修正案5は、システム状態変化点より右側のブロックに付与するシステム状態ラベルをシステム状態B(高負荷運転)からシステム状態C(異常運転)に一括変更する案である。また、修正案6は、「12:07」と「12:08」の間にシステム状態変化点を追加して、「12:04」と「12:05」の間のシステム状態変化点と追加したシステム状態変化点との間のブロックのシステム状態ラベルをシステム状態C(異常運転)に変更する案である。このように、修正スコアを算出する対象となる修正案には、システム状態変化点の変更やシステム状態ラベルの一括変更、その組み合わせなどがある。 Specifically, in the case shown in FIG. 10, in the amendment plan 1 for which the amendment score is calculated, the system state change point between "12:04" and "12:05" is set to "12:03". It is a plan to move it between "12:04". Further, the amendment 5 is a plan to collectively change the system state label given to the block on the right side of the system state change point from the system state B (high load operation) to the system state C (abnormal operation). In addition, the amendment 6 adds a system state change point between "12:07" and "12:08", and adds a system state change point between "12:04" and "12:05". It is a plan to change the system state label of the block between the system state change point and the system state change point to system state C (abnormal operation). As described above, the correction proposals for which the correction score is calculated include changes in the system state change points, batch changes in the system state labels, and combinations thereof.

また、修正部167による修正スコアの算出は、例えば、下記式に基づいて行われる。
分類が正しくなる時系列点の数の合計−分類が間違いになる時系列点の合計−修正困難度スコアの合計
Further, the correction score is calculated by the correction unit 167 based on, for example, the following formula.
Total number of time series points for correct classification-Total time series points for incorrect classification-Total difficulty score for correction

例えば、図9、図10参照すると、上述した修正案1の場合、システム状態変化点が「12:03」と「12:04」の間に移動することで、「12:04」の属するブロックが変動する。これにより、「12:04」に付与されるシステム状態ラベルがシステム状態A(通常運転)からシステム状態B(高負荷運転)へと変化する。その結果、ラベル情報入力部162により入力されたシステム状態ラベルと、分類部166による分類の結果と、が正しくなる。そのため、修正部167は、修正スコアとして、1−0−0.6=0.4を算出する。また、修正案5の場合、「12:05」、「12:06」、「12:07」、「12:08」に付与されるシステム状態ラベルがシステム状態B(高負荷運転)からシステム状態C(異常運転)に変化する。その結果、「12:05」、「12:06」、「12:08」のシステム状態ラベルは正しくなるが、「12:07」のシステム状態ラベルは間違ったものとなる。そのため、修正部167は、修正スコアとして、3−1−(0.2+0.3+0.4+0.5)=0.6を算出する。同様に、修正案6の場合、「12:05」、「12:06」、「12:07」に付与されるシステム状態ラベルがシステム状態B(高負荷運転)からシステム状態C(異常運転)に変化する。その結果、「12:05」、「12:06のシステム状態ラベルは正しくなるが、「12:07」のシステム状態ラベルは間違ったものとなる。そのため、修正部167は、修正スコアとして、2−1−(0.2+0.3+0.4)=0.1を算出する。 For example, referring to FIGS. 9 and 10, in the case of the above-mentioned amendment 1, the block to which "12:04" belongs by moving the system state change point between "12:03" and "12:04". Fluctuates. As a result, the system status label given to "12:04" changes from system status A (normal operation) to system status B (high load operation). As a result, the system state label input by the label information input unit 162 and the classification result by the classification unit 166 are correct. Therefore, the correction unit 167 calculates 1-0-0.6 = 0.4 as the correction score. Further, in the case of the amendment 5, the system status labels given to "12:05", "12:06", "12:07", and "12:08" are changed from the system status B (high load operation) to the system status. It changes to C (abnormal operation). As a result, the system status labels of "12:05", "12:06", and "12:08" are correct, but the system status labels of "12:07" are incorrect. Therefore, the correction unit 167 calculates 3-1 (0.2 + 0.3 + 0.4 + 0.5) = 0.6 as the correction score. Similarly, in the case of the amendment 6, the system status labels given to "12:05", "12:06", and "12:07" are changed from system status B (high load operation) to system status C (abnormal operation). Changes to. As a result, the system status labels of "12:05" and "12:06" are correct, but the system status labels of "12:07" are incorrect. Therefore, the correction unit 167 calculates 2-1 (0.2 + 0.3 + 0.4) = 0.1 as the correction score.

例えば以上のように、修正部167は、複数の修正案について修正スコアを算出する。そして、修正部167は、算出した修正スコアを画面表示部13に表示させる。この際、修正部167は、例えば図11で示すように、算出した修正スコアをランキング形式に並び替えた上で、画面表示部13に表示させる。例えば、図11では、修正スコアが高い方がより上方に位置するよう並び替えている。その後、修正部167は、操作入力部12などを介したユーザから入力を受け付けることで、採用する修正案を決定する。そして、修正部167は、採用した修正案を反映する。つまり、修正部167は、ラベル情報152を更新する。なお、修正部167は、例えば、図10で示すような修正案を可視化したものと一緒にランキング形式の修正スコアを表示するなど、上記例示した以外の表示を行っても構わない。また、修正部167は、予め定められた基準に基づいて、採用する修正スコアを決定するよう構成しても構わない。例えば、修正部167は、予め定められた閾値(任意の値で構わない)を有している。そして、修正部167は、予め定められた閾値以上となる修正スコアを有する修正案を採用する修正案として決定する。 For example, as described above, the correction unit 167 calculates correction scores for a plurality of correction proposals. Then, the correction unit 167 causes the screen display unit 13 to display the calculated correction score. At this time, as shown in FIG. 11, for example, the correction unit 167 rearranges the calculated correction score in the ranking format and displays it on the screen display unit 13. For example, in FIG. 11, the one with the higher correction score is rearranged so as to be located higher. After that, the correction unit 167 receives input from the user via the operation input unit 12 or the like, and determines the correction plan to be adopted. Then, the correction unit 167 reflects the revised proposal adopted. That is, the correction unit 167 updates the label information 152. Note that the correction unit 167 may perform a display other than the above example, for example, displaying a correction score in a ranking format together with a visualization of the correction plan as shown in FIG. Further, the correction unit 167 may be configured to determine the correction score to be adopted based on a predetermined standard. For example, the correction unit 167 has a predetermined threshold value (any value may be used). Then, the correction unit 167 determines as a correction plan to adopt the correction plan having a correction score equal to or higher than a predetermined threshold value.

なお、修正部167は、システム状態変化点によって区切られるブロックの大きさ(例えば、ブロックに含まれる時系列点の数)が予め定められた閾値以下とならない修正案のみを修正スコアの算出対象とすることが望ましい。例えば、システム状態変化点を移動させたり、新たに追加したりする場合、ブロックの大きさが過度に小さくなってしまい、時系列のデータの特性を無視した修正案になってしまうおそれがある。上記のようにブロックの大きさに基づいて修正案を選択することで、修正部167は、上記のようなおそれを低減させた修正案に基づく修正スコアの算出を行うことが可能となる。 Note that the correction unit 167 sets the correction score calculation target only for correction proposals in which the size of the blocks separated by the system state change points (for example, the number of time-series points included in the blocks) does not fall below a predetermined threshold value. It is desirable to do. For example, when the system state change point is moved or newly added, the size of the block becomes excessively small, and there is a possibility that the correction plan ignores the characteristics of the time series data. By selecting the amendment plan based on the size of the block as described above, the amendment unit 167 can calculate the amendment score based on the amendment plan with the above-mentioned risk reduced.

また、ユーザにより採用された修正案の期間は、信頼性が高い。そのため、高信頼度期間情報入力部163は、ユーザにより採用された修正案の期間を高信頼度期間に追加することが出来る。つまり、高信頼度期間情報入力部163は、修正部167による修正の結果を受けて、高信頼度期間情報153の更新を行うことが出来る。また、分類モデル学習部164は、新たに追加された期間を含む高信頼度期間を対象とした学習を行うことが出来る。また、その結果を受けて、分類部166は、新たに学習した分類モデル154による新たな分類を行う。以上のように、学習装置1は、修正部167による修正の結果を反映した処理を再度行うよう構成することが出来る。 In addition, the period of the amendment proposed by the user is highly reliable. Therefore, the high reliability period information input unit 163 can add the period of the amendment proposed by the user to the high reliability period. That is, the high-reliability period information input unit 163 can update the high-reliability period information 153 in response to the result of the correction by the correction unit 167. In addition, the classification model learning unit 164 can perform learning for a high reliability period including a newly added period. Further, based on the result, the classification unit 166 performs a new classification by the newly learned classification model 154. As described above, the learning device 1 can be configured to perform the process reflecting the result of the correction by the correction unit 167 again.

以上が、学習装置1の構成についての説明である。 The above is the description of the configuration of the learning device 1.

次に、学習装置1の動作について説明する。図12は、学習装置1の動作の一例を示している。 Next, the operation of the learning device 1 will be described. FIG. 12 shows an example of the operation of the learning device 1.

図12を参照すると、データ取得部161は、センサ11が取得した各時系列点のデータを取得する。そして、データ取得部161は、センサ11から取得したデータを時系列データ151として記憶部15に格納する。また、データ取得部161が取得した時系列データ151を、画面表示部13上に表示する(ステップS101)。 Referring to FIG. 12, the data acquisition unit 161 acquires the data of each time series point acquired by the sensor 11. Then, the data acquisition unit 161 stores the data acquired from the sensor 11 as time-series data 151 in the storage unit 15. Further, the time series data 151 acquired by the data acquisition unit 161 is displayed on the screen display unit 13 (step S101).

ラベル情報入力部162は、例えば、画面表示部13上に表示した時系列データ151に対する、ユーザによる操作入力部12を介した入力を受け付けることで、システム状態変化点と、システム状態ラベルと、を含むラベル情報152の入力を受け付ける(ステップS102)。または、ラベル情報入力部162は、時系列データ151などに基づいて、自動的にラベル情報152の入力を受け付ける。 The label information input unit 162, for example, receives an input by the user via the operation input unit 12 for the time series data 151 displayed on the screen display unit 13, so that the system state change point and the system state label can be set. The input of the label information 152 including the label information 152 is accepted (step S102). Alternatively, the label information input unit 162 automatically accepts the input of the label information 152 based on the time series data 151 or the like.

高信頼度期間情報入力部163は、高信頼度期間情報153の入力を受け付ける(ステップS103)。高信頼度期間情報153の入力も、例えば、画面表示部13上に表示した時系列データ151に対する、ユーザによる操作入力部12を介した入力を受け付けることで行われる。または、高信頼度期間情報入力部163は、例えば、システム状態変化点からの離れ具合などに基づいて、自動的に高信頼度期間情報153の入力を受け付ける。 The high reliability period information input unit 163 accepts the input of the high reliability period information 153 (step S103). The high reliability period information 153 is also input, for example, by accepting an input by the user via the operation input unit 12 for the time series data 151 displayed on the screen display unit 13. Alternatively, the high-reliability period information input unit 163 automatically accepts the input of the high-reliability period information 153 based on, for example, the degree of distance from the system state change point.

分類モデル学習部164は、高信頼度期間情報153が入力されている期間を対象とした学習を行う(ステップS104)。例えば、分類モデル学習部164は、上記期間内に属する時系列点のデータの特徴と、当該時系列点に付与されたシステム状態ラベルと、に基づくディープラーニングにより、分類モデル154を生成する。 The classification model learning unit 164 performs learning for the period in which the high reliability period information 153 is input (step S104). For example, the classification model learning unit 164 generates the classification model 154 by deep learning based on the characteristics of the data of the time series points belonging to the above period and the system state label given to the time series points.

修正困難度スコア計算部165は、分類モデル学習部164による学習が行われなかった時系列点を対象として、修正困難度スコアを算出する(ステップS105)。また、分類部166は、分類モデル学習部164による学習に用いられなかった時系列点について、当該時系列点のデータの特徴と、分類モデル学習部164が生成した分類モデル154と、に基づいて、時系列点の分類を行う(ステップS106)。 The correction difficulty score calculation unit 165 calculates the correction difficulty score for the time-series points that were not learned by the classification model learning unit 164 (step S105). Further, the classification unit 166 describes the time-series points that were not used for learning by the classification model learning unit 164 based on the characteristics of the data of the time-series points and the classification model 154 generated by the classification model learning unit 164. , The time series points are classified (step S106).

なお、ステップS105の処理とステップS106の処理は、どちらが先に行っても構わない。また、ステップS105の処理とステップS106の処理は、並行して行われても構わない。 Either the process of step S105 or the process of step S106 may be performed first. Further, the process of step S105 and the process of step S106 may be performed in parallel.

修正部167は、修正案ごとに修正スコアを算出する(ステップS107)。そして、修正部167は、算出した修正スコアを画面表示部13に表示する。この際、修正部167は、算出した修正スコアを例えばランキング形式で画面表示部13に表示する(ステップS108)。また、修正部167は、操作入力部12などを介して入力されたユーザからの選択結果である、採用する修正案の入力を受け付ける(ステップS109)。これに応じて、修正部167は、受け付けた採用案を反映する。 The correction unit 167 calculates a correction score for each correction plan (step S107). Then, the correction unit 167 displays the calculated correction score on the screen display unit 13. At this time, the correction unit 167 displays the calculated correction score on the screen display unit 13 in a ranking format, for example (step S108). Further, the correction unit 167 accepts the input of the correction proposal to be adopted, which is the selection result from the user input via the operation input unit 12 or the like (step S109). In response to this, the correction unit 167 reflects the accepted adoption proposal.

修正部167が採用する修正案の入力を受け付けた場合(ステップS110、Yes)、高信頼度期間情報入力部163は、ユーザにより採用された修正案の期間を高信頼度期間情報153に追加する。また、分類モデル学習部164は、新たに追加された期間を含む高信頼度期間情報153が入力されている期間を対象とした学習を行う(ステップS111)。その後、ステップS105の処理に戻る。以降、上述した処理と同様の処理を行う。一方、修正部167が採用する修正案の入力を受け付けなかった場合(ステップS110、No)、処理を終了する。 When the input of the amendment proposal adopted by the amendment unit 167 is received (step S110, Yes), the high reliability period information input unit 163 adds the period of the amendment proposal adopted by the user to the high reliability period information 153. .. Further, the classification model learning unit 164 performs learning for the period in which the high reliability period information 153 including the newly added period is input (step S111). After that, the process returns to step S105. After that, the same processing as the above-mentioned processing is performed. On the other hand, when the input of the correction plan adopted by the correction unit 167 is not accepted (step S110, No), the process ends.

以上が、学習装置1の動作の一例である。 The above is an example of the operation of the learning device 1.

このように、本実施形態における学習装置1は、ラベル情報入力部162と、高信頼度期間情報入力部163と、分類モデル学習部164と、修正困難度スコア計算部165と、分類部166と、修正部167と、を有している。このような構成により、分類モデル学習部164は、高信頼度期間情報入力部163により入力されたシステム状態ラベルの信頼度が高いと判断される期間のみを対象として、学習をすることが出来る。また、分類部166は、分類モデル学習部164による学習に用いられなかった時系列点について、時系列点の分類を行うことが出来る。その結果、修正部167は、分類部166による分類の結果と、修正困難度スコア計算部165による算出結果と、に基づいて、ラベル情報入力部162により入力されたシステム状態ラベルの修正を行うことが出来る。これにより、時系列データ151のうち信頼度が高い期間の学習結果に基づいて、信頼度が低い期間に付与されたシステム状態ラベルの修正を行うことが可能となる。 As described above, the learning device 1 in the present embodiment includes the label information input unit 162, the high reliability period information input unit 163, the classification model learning unit 164, the correction difficulty score calculation unit 165, and the classification unit 166. , And a correction unit 167. With such a configuration, the classification model learning unit 164 can learn only during the period in which the system state label input by the high reliability period information input unit 163 is determined to have high reliability. In addition, the classification unit 166 can classify the time series points that were not used for learning by the classification model learning unit 164. As a result, the correction unit 167 corrects the system state label input by the label information input unit 162 based on the classification result by the classification unit 166 and the calculation result by the correction difficulty score calculation unit 165. Can be done. As a result, it is possible to correct the system state label given in the period with low reliability based on the learning result in the period with high reliability in the time series data 151.

また、本実施形態の場合、修正部167は、システム状態変化点を移動させる、システム状態変化点を追加、または、削除する、ブロックに付与されたシステム状態ラベルを一括変更する、上記の組み合わせ、などの修正案ごとに修正スコアを算出するよう構成されている。そして、修正部167は、上記修正案のうちのユーザにより選択された修正案を反映させるよう構成されている。このような構成によると、時系列点1点ごとにシステムの状態が入れ替わるなど、時系列のデータの特性を踏まえない修正を行うおそれを低減させることが出来る。その結果、時系列のデータの特性を考慮しつつシステム状態ラベルの修正を行うことが可能となる。 Further, in the case of the present embodiment, the correction unit 167 moves the system state change point, adds or deletes the system state change point, and collectively changes the system state label given to the block. It is configured to calculate the correction score for each correction plan such as. Then, the correction unit 167 is configured to reflect the correction plan selected by the user among the above-mentioned correction plans. With such a configuration, it is possible to reduce the risk of making corrections that do not take into account the characteristics of the time-series data, such as changing the system state for each time-series point. As a result, it is possible to correct the system state label while considering the characteristics of the time series data.

また、本実施形態の場合、修正部167は、修正困難度スコアを考慮した修正スコアを算出するよう構成されている。このような構成により、ユーザは、修正困難度スコアを考慮した修正スコアに基づいて、採用する修正案を決定することが可能となる。ここで、修正困難度スコアは、システム状態ラベルを修正する際の困難度をしており、システム状態ラベルの変更が合理的であるか否かを判断する際の基準となる。そのため、上記のような構成とすることで、ユーザが合理的な判断を行う際の基準となる修正スコアをより的確に提示することが可能となる。 Further, in the case of the present embodiment, the correction unit 167 is configured to calculate the correction score in consideration of the correction difficulty score. With such a configuration, the user can determine the correction plan to be adopted based on the correction score in consideration of the correction difficulty score. Here, the correction difficulty score is the difficulty level when correcting the system state label, and is a standard for judging whether or not the change of the system state label is rational. Therefore, with the above configuration, it is possible to more accurately present the correction score, which is a reference when the user makes a rational judgment.

なお、学習装置1は、必ずしも1台の情報処理装置により構成される必要はない。学習装置1は、上述した各機能を有する複数台の情報処理装置により実現されても構わない。 The learning device 1 does not necessarily have to be composed of one information processing device. The learning device 1 may be realized by a plurality of information processing devices having the above-mentioned functions.

また、本実施形態においては、学習装置1は、工業プラントや制御・管理プラント、工場などの各種システムの監視を行うとした。しかしながら、学習装置1の適用先は、上記例示したシステムなど、物理的なデータを扱う場合に限定されない。学習装置1は、時系列点1点ごとにシステムの状態が入れ替わるおそれが少ないなど、時系列のデータの特性を有するシステム全般に適用することが出来る。センサ11も、必ずしも物理センサでなくても構わない。 Further, in the present embodiment, the learning device 1 monitors various systems such as an industrial plant, a control / control plant, and a factory. However, the application destination of the learning device 1 is not limited to the case of handling physical data such as the system illustrated above. The learning device 1 can be applied to a whole system having characteristics of time-series data, such as less possibility that the state of the system is changed for each time-series point. The sensor 11 does not necessarily have to be a physical sensor.

また、本実施形態においては、学習装置1がセンサ11を有するとした。しかしながら、必ずしも学習装置1がセンサ11を有していなくても構わない。例えば、データ取得部161は、学習装置1外部のセンサ11からネットワークなどを介して時系列データ151を取得するよう構成しても構わない。 Further, in the present embodiment, it is assumed that the learning device 1 has the sensor 11. However, the learning device 1 does not necessarily have to have the sensor 11. For example, the data acquisition unit 161 may be configured to acquire the time series data 151 from the sensor 11 outside the learning device 1 via a network or the like.

また、本実施形態において、学習装置1は、修正困難度スコアを用いることとした。しかしながら、学習装置1は、必ずしも修正困難度スコアを用いなくても構わない。つまり、学習装置1は、修正困難度スコア計算部165を有していなくても構わない。この場合、修正部167は、例えば、分類が正しくなる時系列点の数の合計と分類が間違いになる時系列点の合計とに基づいて修正スコアを算出するよう構成することが出来る。 Further, in the present embodiment, the learning device 1 uses the correction difficulty score. However, the learning device 1 does not necessarily have to use the correction difficulty score. That is, the learning device 1 does not have to have the correction difficulty score calculation unit 165. In this case, the correction unit 167 can be configured to calculate the correction score based on, for example, the total number of time-series points for which the classification is correct and the total number of time-series points for which the classification is incorrect.

[第2の実施形態]
次に、本発明の第2の実施形態について、図13を参照して説明する。図13は、ラベル修正装置2の構成の一例を示すブロック図である。
[Second Embodiment]
Next, a second embodiment of the present invention will be described with reference to FIG. FIG. 13 is a block diagram showing an example of the configuration of the label correction device 2.

図13を参照すると、ラベル修正装置2は、入力部21と、修正部22と、を有している。例えば、ラベル修正装置2は、プログラムを記憶する記憶装置とCPU(Central Processing Unit)などの演算装置とを有している。例えば、ラベル修正装置2は、記憶装置が記憶するプログラムを演算装置が実行することで、上記処理部を実現する。 Referring to FIG. 13, the label correction device 2 has an input unit 21 and a correction unit 22. For example, the label correction device 2 has a storage device for storing a program and an arithmetic unit such as a CPU (Central Processing Unit). For example, the label correction device 2 realizes the processing unit by executing the program stored in the storage device by the arithmetic unit.

入力部21は、時系列のデータの状態が変化する点である状態変化点で区切られたブロックごとにラベルが付与された学習用データを入力する。 The input unit 21 inputs learning data labeled for each block separated by a state change point, which is a point at which the state of time-series data changes.

修正部22は、状態変化点と、時系列のデータと、ラベルと、に基づいて、ラベルを修正する。 The correction unit 22 corrects the label based on the state change point, the time series data, and the label.

このように、ラベル修正装置2は、入力部21と、修正部22と、を有している。このような構成により、ラベル修正装置2は、修正部22によりラベルを変更することが出来る。このような構成によると、ブロックごとに付与されたラベルの修正を行うため、時系列のデータの特性を考慮したラベルの修正を行うことが出来る。 As described above, the label correction device 2 has an input unit 21 and a correction unit 22. With such a configuration, the label correction device 2 can change the label by the correction unit 22. According to such a configuration, since the label assigned to each block is corrected, the label can be corrected in consideration of the characteristics of the time series data.

また、上述したラベル修正装置2は、コンピュータであるラベル修正装置2に所定のプログラムが組み込まれることで実現できる。具体的に、本発明の他の形態であるプログラムは、ラベル修正装置2に、時系列のデータの状態が変化する点である状態変化点で区切られたブロックごとにラベルが付与された学習用データを入力する入力部21と、状態変化点と、時系列のデータと、ラベルと、に基づいて、ラベルを修正する修正部22と、を実現するためのプログラムである。 Further, the label correction device 2 described above can be realized by incorporating a predetermined program into the label correction device 2 which is a computer. Specifically, in a program according to another embodiment of the present invention, a label is assigned to the label correction device 2 for each block separated by a state change point, which is a point at which the state of time-series data changes. This is a program for realizing an input unit 21 for inputting data, a state change point, time-series data, and a correction unit 22 for correcting a label based on a label.

また、上述したラベル修正装置2により実行されるラベル修正方法は、ラベル修正装置2が、時系列のデータの状態が変化する点である状態変化点で区切られたブロックごとにラベルが付与された学習用データを入力し、状態変化点と、時系列のデータと、ラベルと、に基づいて、前記ラベルを修正する、という方法である。 Further, in the label correction method executed by the label correction device 2 described above, the label correction device 2 assigns a label to each block separated by a state change point, which is a point at which the state of time-series data changes. It is a method of inputting training data and correcting the label based on the state change point, the time series data, and the label.

上述した構成を有する、プログラム、または、ラベル修正方法、または、プログラムを記録したコンピュータが読み取り可能な記録媒体、の発明であっても、上記ラベル修正装置2と同様の作用・効果を有するために、上述した本発明の目的を達成することが出来る。 Even in the invention of the program, the label correction method, or the computer-readable recording medium having the above-described configuration, in order to have the same operation and effect as the label correction device 2. , The above-mentioned object of the present invention can be achieved.

<付記>
上記実施形態の一部または全部は、以下の付記のようにも記載されうる。以下、本発明におけるラベル修正装置などの概略を説明する。但し、本発明は、以下の構成に限定されない。
<Additional notes>
Part or all of the above embodiments may also be described as in the appendix below. Hereinafter, the outline of the label correction device and the like in the present invention will be described. However, the present invention is not limited to the following configurations.

(付記1)
時系列のデータの状態が変化する点である状態変化点で区切られたブロックごとにラベルが付与された学習用データを入力する入力部と、
前記状態変化点と、前記時系列のデータと、前記ラベルと、に基づいて、前記ラベルを修正する修正部と、
を有する
ラベル修正装置。
(付記2)
付記1に記載のラベル修正装置であって、
前記時系列のデータのうち一部の期間を対象とした学習を行って分類モデルを生成する学習部と、
前記分類モデルを用いて、前記学習部による学習の対象とならない期間を対象とした分類を行う分類部と、
を有し、
前記修正部は、前記状態変化点と、前記分類部による分類の結果と、に基づいて、前記ラベルを修正する
ラベル修正装置。
(付記3)
付記2に記載のラベル修正装置であって、
前記ラベルを修正する際の困難度を示す修正困難度スコアを算出する計算部を有し、
前記修正部は、前記分類部による分類の結果及び前記修正困難度スコアを用いて、前記ラベルを修正する、
ラベル修正装置。
(付記4)
付記3に記載のラベル修正装置であって、
前記計算部は、前記状態変化点からの離れ具合と、前記学習部による学習が行われた範囲と、に基づいて、前記修正困難度スコアを算出する
ラベル修正装置。
(付記5)
付記3又は付記4に記載のラベル修正装置であって、
前記修正部は、前記状態変化点を変更することにより前記分類部による分類の結果と前記ラベルとが正しくなる数から、前記ラベルを修正することにより前記分類部による分類の結果と前記入力部により入力されたラベルとが間違ったものになる数と前記修正困難度スコアとを減算することで、修正後に分類が正しくなり、かつ、修正が容易な度合いを示す修正スコアを算出し、当該修正スコアに基づいて前記ラベルを修正する、
ラベル修正装置。
(付記6)
付記1から付記5までのいずれか1項に記載のラベル修正装置であって、
前記修正部は、前記状態変化点を変更することで前記ラベルを修正する
ラベル修正装置。
(付記7)
付記6に記載のラベル修正装置であって、
前記修正部は、前記状態変化点を移動させることで前記状態変化点を変更する
ラベル修正装置。
(付記8)
付記6又は付記7に記載のラベル修正装置であって、
前記修正部は、前記状態変化点を追加または削除することで前記状態変化点を変更する
ラベル修正装置。
(付記9)
付記1から付記8までのいずれか1項に記載のラベル修正装置であって、
前記修正部は、前記ブロックに付与された前記ラベルを一括変更することで、前記ラベルを修正する
ラベル修正装置。
(付記10)
ラベル修正装置が、
時系列のデータの状態が変化する点である状態変化点で区切られたブロックごとにラベルが付与された学習用データを入力し、
前記状態変化点と、前記時系列のデータと、前記ラベルと、に基づいて、前記ラベルを修正する
ラベル修正方法。
(付記11)
ラベル修正装置に、
時系列のデータの状態が変化する点である状態変化点で区切られたブロックごとにラベルが付与された学習用データを入力する入力部と、
前記状態変化点と、前記時系列のデータと、前記ラベルと、に基づいて、前記ラベルを修正する修正部と、
を実現するためのプログラムを記録したコンピュータが読み取り可能な記録媒体。
(Appendix 1)
An input unit for inputting learning data labeled for each block separated by a state change point, which is a point at which the state of time-series data changes.
A correction unit that corrects the label based on the state change point, the time series data, and the label.
Label correction device with.
(Appendix 2)
The label correction device according to Appendix 1.
A learning unit that generates a classification model by learning for a part of the time series data,
Using the classification model, a classification unit that classifies the period that is not the target of learning by the learning unit, and a classification unit.
Have,
The correction unit is a label correction device that corrects the label based on the state change point and the result of classification by the classification unit.
(Appendix 3)
The label correction device described in Appendix 2,
It has a calculation unit that calculates a correction difficulty score indicating the difficulty level when correcting the label.
The correction unit corrects the label by using the result of classification by the classification unit and the correction difficulty score.
Label correction device.
(Appendix 4)
The label correction device described in Appendix 3,
The calculation unit is a label correction device that calculates the correction difficulty score based on the degree of distance from the state change point and the range in which learning by the learning unit is performed.
(Appendix 5)
The label correction device according to Appendix 3 or Appendix 4.
From the number that the result of classification by the classification unit and the label are correct by changing the state change point, the correction unit is based on the result of classification by the classification unit and the input unit by modifying the label. By subtracting the number of incorrect labels and the correction difficulty score, a correction score indicating the degree to which the classification is correct after correction and the degree of ease of correction is calculated, and the correction score is calculated. Modify the label based on
Label correction device.
(Appendix 6)
The label correction device according to any one of Supplementary note 1 to Supplementary note 5.
The correction unit is a label correction device that corrects the label by changing the state change point.
(Appendix 7)
The label correction device according to Appendix 6.
The correction unit is a label correction device that changes the state change point by moving the state change point.
(Appendix 8)
The label correction device according to Appendix 6 or Appendix 7.
The correction unit is a label correction device that changes the state change point by adding or deleting the state change point.
(Appendix 9)
The label correction device according to any one of Supplementary note 1 to Supplementary note 8.
The correction unit is a label correction device that corrects the label by collectively changing the label given to the block.
(Appendix 10)
The label correction device
Enter the learning data labeled for each block separated by the state change point, which is the point where the state of the time series data changes.
A label correction method for modifying the label based on the state change point, the time series data, and the label.
(Appendix 11)
For label correction device,
An input unit for inputting learning data labeled for each block separated by a state change point, which is a point at which the state of time-series data changes.
A correction unit that corrects the label based on the state change point, the time series data, and the label.
A computer-readable recording medium that records a program to achieve this.

なお、上記各実施形態及び付記において記載したプログラムは、記憶装置に記憶されていたり、コンピュータが読み取り可能な記録媒体に記録されていたりする。例えば、記録媒体は、フレキシブルディスク、光ディスク、光磁気ディスク、及び、半導体メモリ等の可搬性を有する媒体である。 The programs described in each of the above embodiments and appendices may be stored in a storage device or recorded in a computer-readable recording medium. For example, the recording medium is a portable medium such as a flexible disk, an optical disk, a magneto-optical disk, and a semiconductor memory.

以上、上記各実施形態を参照して本願発明を説明したが、本願発明は、上述した実施形態に限定されるものではない。本願発明の構成や詳細には、本願発明の範囲内で当業者が理解しうる様々な変更をすることが出来る。 Although the present invention has been described above with reference to each of the above embodiments, the present invention is not limited to the above-described embodiments. Various changes that can be understood by those skilled in the art can be made to the structure and details of the present invention within the scope of the present invention.

1 学習装置
11 センサ
12 操作入力部
13 画面表示部
14 通信I/F部
15 記憶部
151 時系列データ
152 ラベル情報
153 高信頼度期間情報
154 分類モデル
155 修正困難度スコア情報
156 分類結果情報
157 修正スコア情報
158 プログラム
16 演算処理部
161 データ取得部
162 ラベル情報入力部
163 高信頼度期間情報入力部
164 分類モデル学習部
165 修正困難度スコア計算部
166 分類部
167 修正部
2 ラベル修正装置
21 入力部
22 修正部
1 Learning device 11 Sensor 12 Operation input unit 13 Screen display unit 14 Communication I / F unit 15 Storage unit 151 Time series data 152 Label information 153 High reliability period information 154 Classification model 155 Correction difficulty score information 156 Classification result information 157 Correction Score information 158 Program 16 Arithmetic processing unit 161 Data acquisition unit 162 Label information input unit 163 High reliability period information input unit 164 Classification model learning unit 165 Correction difficulty score calculation unit 166 Classification unit 167 Correction unit 2 Label correction device 21 Input unit 22 Correction part

Claims (11)

時系列のデータの状態が変化する点である状態変化点で区切られたブロックごとにラベルが付与された学習用データを入力する入力部と、
前記状態変化点と、前記時系列のデータと、前記ラベルと、に基づいて、前記ラベルを修正する修正部と、
を有する
ラベル修正装置。
An input unit for inputting learning data labeled for each block separated by a state change point, which is a point at which the state of time-series data changes.
A correction unit that corrects the label based on the state change point, the time series data, and the label.
Label correction device with.
請求項1に記載のラベル修正装置であって、
前記時系列のデータのうち一部の期間を対象とした学習を行って分類モデルを生成する学習部と、
前記分類モデルを用いて、前記学習部による学習の対象とならない期間を対象とした分類を行う分類部と、
を有し、
前記修正部は、前記状態変化点と、前記分類部による分類の結果と、に基づいて、前記ラベルを修正する
ラベル修正装置。
The label correction device according to claim 1.
A learning unit that generates a classification model by learning for a part of the time series data,
Using the classification model, a classification unit that classifies the period that is not the target of learning by the learning unit, and a classification unit.
Have,
The correction unit is a label correction device that corrects the label based on the state change point and the result of classification by the classification unit.
請求項2に記載のラベル修正装置であって、
前記ラベルを修正する際の困難度を示す修正困難度スコアを算出する計算部を有し、
前記修正部は、前記分類部による分類の結果及び前記修正困難度スコアを用いて、前記ラベルを修正する、
ラベル修正装置。
The label correction device according to claim 2.
It has a calculation unit that calculates a correction difficulty score indicating the difficulty level when correcting the label.
The correction unit corrects the label by using the result of classification by the classification unit and the correction difficulty score.
Label correction device.
請求項3に記載のラベル修正装置であって、
前記計算部は、前記状態変化点からの離れ具合と、前記学習部による学習が行われた範囲と、に基づいて、前記修正困難度スコアを算出する
ラベル修正装置。
The label correction device according to claim 3.
The calculation unit is a label correction device that calculates the correction difficulty score based on the degree of distance from the state change point and the range in which learning by the learning unit is performed.
請求項3又は請求項4に記載のラベル修正装置であって、
前記修正部は、前記状態変化点を変更することにより前記分類部による分類の結果と前記ラベルとが正しくなる数から、前記ラベルを修正することにより前記分類部による分類の結果と前記入力部により入力されたラベルとが間違ったものになる数と前記修正困難度スコアとを減算することで、修正後に分類が正しくなり、かつ、修正が容易な度合いを示す修正スコアを算出し、当該修正スコアに基づいて前記ラベルを修正する、
ラベル修正装置。
The label correction device according to claim 3 or 4.
From the number that the result of classification by the classification unit and the label are correct by changing the state change point, the correction unit is based on the result of classification by the classification unit and the input unit by modifying the label. By subtracting the number of incorrect labels and the correction difficulty score, a correction score indicating the degree to which the classification is correct after correction and the degree of ease of correction is calculated, and the correction score is calculated. Modify the label based on
Label correction device.
請求項1から請求項5までのいずれか1項に記載のラベル修正装置であって、
前記修正部は、前記状態変化点を変更することで前記ラベルを修正する
ラベル修正装置。
The label correcting device according to any one of claims 1 to 5.
The correction unit is a label correction device that corrects the label by changing the state change point.
請求項6に記載のラベル修正装置であって、
前記修正部は、前記状態変化点を移動させることで前記状態変化点を変更する
ラベル修正装置。
The label correction device according to claim 6.
The correction unit is a label correction device that changes the state change point by moving the state change point.
請求項6又は請求項7に記載のラベル修正装置であって、
前記修正部は、前記状態変化点を追加または削除することで前記状態変化点を変更する
ラベル修正装置。
The label correction device according to claim 6 or 7.
The correction unit is a label correction device that changes the state change point by adding or deleting the state change point.
請求項1から請求項8までのいずれか1項に記載のラベル修正装置であって、
前記修正部は、前記ブロックに付与された前記ラベルを一括変更することで、前記ラベルを修正する
ラベル修正装置。
The label correcting device according to any one of claims 1 to 8.
The correction unit is a label correction device that corrects the label by collectively changing the label given to the block.
ラベル修正装置が、
時系列のデータの状態が変化する点である状態変化点で区切られたブロックごとにラベルが付与された学習用データを入力し、
前記状態変化点と、前記時系列のデータと、前記ラベルと、に基づいて、前記ラベルを修正する
ラベル修正方法。
The label correction device
Enter the learning data labeled for each block separated by the state change point, which is the point where the state of the time series data changes.
A label correction method for modifying the label based on the state change point, the time series data, and the label.
ラベル修正装置に、
時系列のデータの状態が変化する点である状態変化点で区切られたブロックごとにラベルが付与された学習用データを入力する入力部と、
前記状態変化点と、前記時系列のデータと、前記ラベルと、に基づいて、前記ラベルを修正する修正部と、
を実現するためのプログラムを記録したコンピュータが読み取り可能な記録媒体。

For label correction device,
An input unit for inputting learning data labeled for each block separated by a state change point, which is a point at which the state of time-series data changes.
A correction unit that corrects the label based on the state change point, the time series data, and the label.
A computer-readable recording medium that records a program to achieve this.

JP2020547561A 2018-09-20 2018-09-20 label correction device Active JP7167992B2 (en)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/034936 WO2020059099A1 (en) 2018-09-20 2018-09-20 Label correction device

Publications (2)

Publication Number Publication Date
JPWO2020059099A1 true JPWO2020059099A1 (en) 2021-08-30
JP7167992B2 JP7167992B2 (en) 2022-11-09

Family

ID=69888673

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020547561A Active JP7167992B2 (en) 2018-09-20 2018-09-20 label correction device

Country Status (2)

Country Link
JP (1) JP7167992B2 (en)
WO (1) WO2020059099A1 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115380294A (en) * 2020-03-31 2022-11-22 Abb瑞士股份有限公司 Data processing for industrial machine learning
CN111931601B (en) * 2020-07-22 2023-10-20 上海交通大学 System and method for correcting error type label of gearbox
JP7219430B2 (en) * 2020-10-27 2023-02-08 Housei株式会社 LEARNING PROCESSING APPARATUS, METHOD AND PROGRAM

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
吉作清彦: "ALATA:継続的なラベル付きデータ取得のための能動学習に基づくアノテーションツール", 情報処理学会研究報告 2011(平成23)年度(2) [CD−ROM], JPN6018050847, 29 August 2011 (2011-08-29), JP, pages 1 - 8, ISSN: 0004750216 *

Also Published As

Publication number Publication date
JP7167992B2 (en) 2022-11-09
WO2020059099A1 (en) 2020-03-26

Similar Documents

Publication Publication Date Title
JPWO2020059099A1 (en) Label correction device
JP6326321B2 (en) Data display system
US10867251B2 (en) Estimation results display system, estimation results display method, and estimation results display program
US11650557B2 (en) Learning apparatus, learning method, computer readable medium having recorded thereon learning program, determination apparatus, determination method, and computer readable medium having recorded thereon determination program
US11042823B2 (en) Business management system
US10783117B2 (en) Engineering apparatus, engineering method, and storage medium
US20230112576A1 (en) Techniques for data processing predictions
US20150134349A1 (en) System and method for quality review of healthcare reporting and feedback
CN113849848B (en) Data permission configuration method and system
JPWO2007007410A1 (en) Message analysis apparatus, control method, and control program
CN110287110A (en) The code detection method and device of application program
US20160180252A1 (en) Evaluation solutions of optimization problems
CN104809325A (en) Method and device for detecting distinctions between event log and process model
JP7005463B2 (en) Learning equipment, learning methods and programs
KR20180129496A (en) Method for predicting electric power demand and apparatus for the same
JP6876295B2 (en) Server device
US10755044B2 (en) Estimating document reading and comprehension time for use in time management systems
JP6381863B2 (en) Information processing apparatus, information processing method, and information processing program
WO2020095993A1 (en) Inference apparatus, information processing apparatus, inference method, program and recording medium
JP7427746B1 (en) Information processing device, information processing method, and information processing program
JP2020196578A (en) Device of detecting uplift of step tread for passenger conveyor
US20230154584A1 (en) Computer system and intervention effect predicting method
US10354001B2 (en) Cell error tracking in applications
JP7406447B2 (en) Computer system and item demand forecasting method
US20240028956A1 (en) Automated machine learning system, automated machine learning method, and storage medium

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201224

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211124

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220106

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220413

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220601

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220927

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20221010

R151 Written notification of patent or utility model registration

Ref document number: 7167992

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151