JP7219430B2 - LEARNING PROCESSING APPARATUS, METHOD AND PROGRAM - Google Patents

LEARNING PROCESSING APPARATUS, METHOD AND PROGRAM Download PDF

Info

Publication number
JP7219430B2
JP7219430B2 JP2020179978A JP2020179978A JP7219430B2 JP 7219430 B2 JP7219430 B2 JP 7219430B2 JP 2020179978 A JP2020179978 A JP 2020179978A JP 2020179978 A JP2020179978 A JP 2020179978A JP 7219430 B2 JP7219430 B2 JP 7219430B2
Authority
JP
Japan
Prior art keywords
learning
label
value
learning data
state
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020179978A
Other languages
Japanese (ja)
Other versions
JP2022070744A (en
Inventor
秀之 若井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Priority to JP2020179978A priority Critical patent/JP7219430B2/en
Publication of JP2022070744A publication Critical patent/JP2022070744A/en
Application granted granted Critical
Publication of JP7219430B2 publication Critical patent/JP7219430B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、学習処理装置、方法及びプログラムに関する。 The present invention relates to a learning processing device, method and program.

近時、機器又は該機器を構成する部品(以下、「予測対象物」という)の劣化度あるいは新鮮度を、機械学習を利用して予測する技術が提案されている。この予測の際に、予測対象物の状態を示す状態値の集合体(以下、「状態値セット」という)を入力とし、劣化度又は新鮮度を示すラベル値を出力とする学習器が用いられる。 Recently, techniques have been proposed for predicting the degree of deterioration or the degree of freshness of a device or a component that constitutes the device (hereinafter referred to as a "prediction target") using machine learning. During this prediction, a learner is used that receives as input a set of state values indicating the state of the object to be predicted (hereinafter referred to as a "state value set") and outputs a label value indicating the degree of deterioration or freshness. .

特許文献1には、劣化加速実験を通じて、設備が正常から劣化に至るまでの一連の測定データを取得し、この一連の測定データから学習データを作成する劣化診断システムが開示されている。 Patent Literature 1 discloses a deterioration diagnosis system that acquires a series of measured data from normal to deteriorated equipment through a deterioration acceleration experiment and creates learning data from the series of measured data.

国際公開第2018/159169号パンフレットInternational Publication No. 2018/159169 pamphlet

ところで、予測精度が高い学習器を獲得すべく、様々な場所で設置された稼働中の機器からネットワークを通じて状態値セットを逐次収集し、より多くの学習データを蓄積することが望ましい。ところが、実際の運用では、システムの保全を優先し、故障が発生する前に機器が交換又は撤去される場合が多い。例えば、製造業者又は保守業者が、実体寿命よりも短い耐用期間(つまり、設定寿命)を設けておき、この設定寿命を経過した機器を新品に交換することがある。 By the way, in order to obtain a learner with high prediction accuracy, it is desirable to sequentially collect state value sets through a network from operating devices installed in various places and accumulate more learning data. However, in actual operation, priority is given to system maintenance, and equipment is often replaced or removed before a failure occurs. For example, a manufacturer or a maintenance company may provide a service life (that is, a set life span) shorter than the actual life span, and replace the device with a new one after the set life span has passed.

そうすると、実体寿命を全うすることなく稼働を終えた機器の場合には実際の劣化度又は新鮮度を特定できず、正しいラベル値を算出することが困難になる。一方、実体寿命を全うした機器の状態値セットのみを抽出して学習データを生成することも考えられるが、その分だけ収集可能な学習データが少なくなり、学習不足に起因する予測精度の低下を招いてしまう。また、何らかの理由により、設定寿命を経過する前に機器が交換又は撤去された場合についても同様である。 As a result, it is difficult to calculate the correct label value because the actual degree of deterioration or freshness cannot be identified in the case of a device that has finished its operation without completing its actual life. On the other hand, it is conceivable to generate training data by extracting only the state value set of the equipment that has completed the actual life, but the amount of training data that can be collected will be reduced by that amount, and the decrease in prediction accuracy due to insufficient learning will be avoided. I invite you. The same applies to the case where the device is replaced or removed for some reason before the set life has passed.

本発明はこのような問題に鑑みてなされたものであり、その目的は、実体寿命又は設定寿命を迎えていない予測対象物から取得した状態値セットを用いる場合であっても、ラベル値の不確定性に起因する予測精度の低下を抑制可能な学習処理装置、方法及びプログラムを提供することにある。 The present invention has been made in view of such a problem, and its object is to provide a method for identifying label value inaccuracies even when using a state value set obtained from a prediction target that has not reached its actual life or set life. An object of the present invention is to provide a learning processing device, method, and program capable of suppressing deterioration in prediction accuracy caused by determinism.

本発明の第一態様における学習処理装置は、機器又は該機器を構成する部品である予測対象物の状態を示す状態値セットを取得する状態取得部と、前記予測対象物の劣化度又は新鮮度を示すラベル値を付与又は補正するラベル算出部と、前記状態取得部により取得された前記状態値セットと、前記ラベル算出部により付与又は補正された前記ラベル値と、からなる学習データの母集団である学習データセットを用いて、前記状態値セットを入力して前記ラベル値を出力する学習器に対して学習処理を行う学習処理部と、を備え、前記ラベル算出部は、同一の予測対象物から時系列的に取得された複数組の状態値セットに関して、該複数組の状態値セットにそれぞれ対応する複数のラベル値を一括して付与又は補正する。 A learning processing device according to a first aspect of the present invention includes a state acquisition unit that acquires a state value set indicating a state of a prediction target that is a device or a component that constitutes the device; A population of learning data consisting of a label calculation unit that assigns or corrects a label value that indicates , the state value set acquired by the state acquisition unit, and the label value assigned or corrected by the label calculation unit and a learning processing unit that performs learning processing on a learning device that inputs the state value set and outputs the label value using the learning data set that is the same prediction target. A plurality of label values respectively corresponding to the plurality of state value sets are assigned or corrected collectively with respect to the plurality of state value sets obtained from the object in time series.

本発明の第二態様における学習処理装置では、前記ラベル値は、前記劣化度を正規化した値であり、前記ラベル算出部は、ラベル値が増加するにつれて大きくなる補正量を元のラベル値にそれぞれ加算することで、前記複数のラベル値を一括して補正する。 In the learning processing device according to the second aspect of the present invention, the label value is a value obtained by normalizing the degree of deterioration, and the label calculation unit applies a correction amount that increases as the label value increases to the original label value. The plurality of label values are collectively corrected by adding them respectively.

本発明の第三態様における学習処理装置では、前記補正量は、前記複数のラベル値のうち最大値である学習データに関する学習誤差を前記最大値で除算して求められる補正係数を、前記元のラベル値に乗算した値である。 In the learning processing device according to the third aspect of the present invention, the correction amount is a correction coefficient obtained by dividing a learning error related to learning data, which is the maximum value among the plurality of label values, by the maximum value. It is the value multiplied by the label value.

本発明の第四態様における学習処理装置は、前記学習処理部により学習処理がなされた学習器を用いて、前記学習データセットに含まれる学習データの除外又は該学習データのラベル値の補正を行うか否かを判定するデータ判定部をさらに備える。 The learning processing device according to the fourth aspect of the present invention uses a learning device subjected to learning processing by the learning processing unit to exclude learning data included in the learning data set or correct the label value of the learning data. It further includes a data determination unit that determines whether or not.

本発明の第五態様における学習処理装置では、前記学習処理部は、前記ラベル算出部によりラベル値が補正された学習データセットを用いて、前記学習器に対する再学習又は追加学習を繰り返す。 In the learning processing device according to the fifth aspect of the present invention, the learning processing section repeats re-learning or additional learning for the learning device using the learning data set whose label values are corrected by the label calculating section.

本発明の第六態様における学習処理方法では、一又は複数のコンピュータが、機器又は該機器を構成する部品である予測対象物の状態を示す状態値セットを取得する取得ステップと、前記予測対象物の劣化度又は新鮮度を示すラベル値を付与又は補正する算出ステップと、前記取得ステップで取得された前記状態値セットと、前記算出ステップで付与又は補正された前記ラベル値と、からなる学習データの母集団である学習データセットを用いて、前記状態値セットを入力して前記ラベル値を出力する学習器に対して学習処理を行う学習ステップと、を実行し、前記算出ステップでは、同一の予測対象物から時系列的に取得された複数組の状態値セットに関して、該複数組の状態値セットにそれぞれ対応する複数のラベル値を一括して付与又は補正する。 In the learning processing method according to the sixth aspect of the present invention, one or more computers acquire a state value set indicating the state of a prediction target that is a device or a component that constitutes the device; Learning data consisting of a calculating step of assigning or correcting a label value indicating the degree of deterioration or freshness of the data, the state value set obtained in the obtaining step, and the label value assigned or corrected in the calculating step a learning step of performing a learning process on a learner that inputs the state value set and outputs the label value, using a learning data set that is a population of A plurality of label values respectively corresponding to the plurality of state value sets are collectively assigned or corrected for the plurality of state value sets obtained from the prediction object in time series.

本発明の第七態様における学習処理プログラムでは、一又は複数のコンピュータを、機器又は該機器を構成する部品である予測対象物の状態を示す状態値セットを取得する状態取得手段、前記予測対象物の劣化度又は新鮮度を示すラベル値を付与又は補正するラベル算出手段、前記状態取得手段により取得された前記状態値セットと、前記ラベル算出手段により付与又は補正された前記ラベル値と、からなる学習データの母集団である学習データセットを用いて、前記状態値セットを入力して前記ラベル値を出力する学習器に対して学習処理を行う学習処理手段、として機能させ、同一の予測対象物から時系列的に取得された複数組の状態値セットに関して、該複数組の状態値セットにそれぞれ対応する複数のラベル値を一括して付与又は補正する。 In the learning processing program according to the seventh aspect of the present invention, one or more computers are configured to acquire a state value set indicating the state of a prediction target that is a device or a component that constitutes the device; label calculation means for assigning or correcting a label value indicating the degree of deterioration or freshness of the label; the state value set acquired by the state acquisition means; and the label value assigned or corrected by the label calculation means. Using a learning data set, which is a population of learning data, to function as learning processing means for performing learning processing on a learning device that inputs the state value set and outputs the label value, and the same prediction object A plurality of label values respectively corresponding to the plurality of state value sets obtained in time series from is assigned or corrected collectively.

本発明によれば、実体寿命又は設定寿命を迎えていない予測対象物から取得した状態値セットを用いる場合であっても、ラベル値の不確定性に起因する予測精度の低下を抑制することができる。 According to the present invention, even when using a state value set acquired from a prediction target that has not reached its actual life or set life, it is possible to suppress deterioration in prediction accuracy due to uncertainty in label values. can.

本発明の一実施形態における学習処理装置が組み込まれた機器診断システムの全体構成図である。1 is an overall configuration diagram of a device diagnosis system incorporating a learning processing device according to an embodiment of the present invention; FIG. 図1に示すプロセッサの機能ブロック図である。2 is a functional block diagram of the processor shown in FIG. 1; FIG. 学習処理装置の動作に関するフローチャートである。4 is a flow chart relating to the operation of the learning processing device; IoTデータが有するデータ構造の一例を示す図である。FIG. 4 is a diagram showing an example of a data structure of IoT data; 複数組の状態値セットに対応するラベル値の付与方法の一例を示す図である。FIG. 10 is a diagram illustrating an example of a method of assigning label values corresponding to multiple sets of state values; 図2の学習器が有するネットワーク構造の一例を示す図である。3 is a diagram showing an example of a network structure of the learning device of FIG. 2; FIG. 学習データの判定方法の一例を示す図である。It is a figure which shows an example of the determination method of learning data. 複数組の状態値セットに対応するラベル値の補正方法の一例を示す図である。FIG. 10 is a diagram illustrating an example of a method of correcting label values corresponding to multiple sets of state values; ラベル値の一括補正による予測精度の向上効果を示す第一のグラフである。FIG. 11 is a first graph showing the effect of improving prediction accuracy by collectively correcting label values; FIG. ラベル値の一括補正による予測精度の向上効果を示す第二のグラフである。FIG. 11 is a second graph showing the effect of improving prediction accuracy by batch correction of label values; FIG.

以下、添付図面を参照しながら本発明の実施形態について説明する。説明の理解を容易にするため、各図面において同一の構成要素に対しては可能な限り同一の符号を付して、重複する説明は省略する。 Embodiments of the present invention will be described below with reference to the accompanying drawings. In order to facilitate understanding of the description, the same constituent elements in each drawing are denoted by the same reference numerals as much as possible, and overlapping descriptions are omitted.

[機器診断システム10の構成]
図1は、本発明の一実施形態における学習処理装置30が組み込まれた機器診断システム10の全体構成図である。機器診断システム10は、予測対象物の機器年齢を予測し、予測対象物の劣化度又は新鮮度を診断する機器診断サービスを提供可能に構成される。「予測対象物」とは、機器20又は機器20を構成する部品22であり、その用途は業務向けあるいは家庭向けのいずれであってもよい。「機器年齢」とは、機器20の稼働開始時点から故障時点までの状態を定量的に示した指標であり、この最大値が機器20の実体寿命に対応する。
[Configuration of Device Diagnosis System 10]
FIG. 1 is an overall configuration diagram of a device diagnosis system 10 incorporating a learning processing device 30 according to one embodiment of the present invention. The device diagnosis system 10 is configured to be able to provide a device diagnosis service for estimating the device age of a prediction target and diagnosing the degree of deterioration or freshness of the prediction target. The "prediction target" is the device 20 or the part 22 that constitutes the device 20, and its use may be for business or home use. “Equipment age” is an index that quantitatively indicates the state of the equipment 20 from the start of operation to the time of failure, and the maximum value corresponds to the actual life of the equipment 20 .

この機器診断システム10は、具体的には、一又は複数の機器20と、学習処理装置30と、年齢予測装置40と、を含んで構成される。機器20、学習処理装置30及び年齢予測装置40は、ネットワークNTを通じて相互に通信可能である。 This equipment diagnosis system 10 specifically includes one or more equipment 20 , a learning processing device 30 , and an age prediction device 40 . The equipment 20, the learning processing device 30 and the age prediction device 40 can communicate with each other through the network NT.

機器20は、複数の部品22を協働させて一連の動作を行うことで、様々な機能を実現する。機器20には、機器20又は部品22の状態を示す物理量を検出するセンサ24が内蔵又は外付けされる。機器20は、自身が生成した情報をIoT(Internet Of Things)データD1として外部に送信する。これにより、学習処理装置30又は年齢予測装置40は、各々の機器20からIoTデータD1を収集することができる。 The device 20 realizes various functions by causing a plurality of parts 22 to work together to perform a series of operations. A sensor 24 that detects a physical quantity indicating the state of the device 20 or the component 22 is built in or externally attached to the device 20 . The device 20 transmits information generated by itself to the outside as IoT (Internet Of Things) data D1. Thereby, the learning processing device 30 or the age prediction device 40 can collect the IoT data D1 from each device 20 .

学習処理装置30は、各々の機器20から収集したIoTデータD1を用いて学習処理を実行し、学習器LN(図2及び図6)の演算規則を特定可能なモデルデータD2を生成するコンピュータである。この学習処理装置30は、通信I/F32と、プロセッサ34と、メモリ36と、記憶装置38と、を含んで構成される。 The learning processing device 30 is a computer that executes learning processing using the IoT data D1 collected from each device 20 and generates model data D2 that can specify the calculation rule of the learning device LN (FIGS. 2 and 6). be. This learning processing device 30 includes a communication I/F 32 , a processor 34 , a memory 36 and a storage device 38 .

通信I/F32は、外部装置に対して電気信号を送受信するインターフェースである。これにより、学習処理装置30は、IoTデータD1を機器20から受信可能であるとともに、自身が生成したモデルデータD2を年齢予測装置40に送信可能である。プロセッサ34は、CPU(Central Processing Unit)を含む汎用プロセッサであってもよいし、FPGA(Field Programmable Gate Array)、GPU(Graphics Processing Unit)を含む専用プロセッサであってもよい。 The communication I/F 32 is an interface that transmits and receives electrical signals to and from an external device. Thereby, the learning processing device 30 can receive the IoT data D1 from the device 20 and can transmit the model data D2 generated by itself to the age prediction device 40 . The processor 34 may be a general-purpose processor including a CPU (Central Processing Unit), or a dedicated processor including an FPGA (Field Programmable Gate Array) and a GPU (Graphics Processing Unit).

メモリ36は、非一過性の記憶媒体であり、プロセッサ34が各構成要素を制御するのに必要なプログラム及びデータを記憶している。記憶装置38は、例えば、ハードディスクドライブ(HDD:Hard Disk Drive)やソリッドステートドライブ(SSD:Solid State Drive)を含む非一過性の記憶媒体である。 The memory 36 is a non-transitory storage medium and stores programs and data necessary for the processor 34 to control each component. The storage device 38 is a non-transitory storage medium including, for example, a hard disk drive (HDD) and a solid state drive (SSD).

年齢予測装置40は、学習処理装置30と概ね同様の装置構成を有するコンピュータである。年齢予測装置40は、学習処理装置30により提供されたモデルデータD2を取得することで、学習済みの学習器LNを構築する。そして、年齢予測装置40は、予測対象物である機器20からIoTデータD1を受信し、学習器LNを用いて予測対象物の機器年齢を予測する。 The age prediction device 40 is a computer having substantially the same device configuration as the learning processing device 30 . The age prediction device 40 acquires the model data D2 provided by the learning processing device 30 to construct a learned learner LN. Then, the age prediction device 40 receives the IoT data D1 from the device 20, which is the prediction target, and predicts the device age of the prediction target using the learner LN.

図2は、図1に示すプロセッサ34の機能ブロック図である。プロセッサ34は、状態取得部50、ラベル算出部52、学習処理部54、データ判定部56、及び年齢予測部58として機能する。また、記憶装置38には、学習データセット60及び学習パラメータ群62が格納される。 FIG. 2 is a functional block diagram of processor 34 shown in FIG. The processor 34 functions as a state acquisition unit 50 , a label calculation unit 52 , a learning processing unit 54 , a data determination unit 56 and an age prediction unit 58 . A learning data set 60 and a learning parameter group 62 are stored in the storage device 38 .

状態取得部50は、機器20又は該機器20を構成する部品22(つまり、予測対象物)の状態を示す状態値の集合体(以下、「状態値セット」という)を取得する。状態値の一例として、[1]予測対象物に関する測定量(例えば、電流、電圧、温度、光量など)、[2]外部環境に関する測定量(例えば、時刻、場所、外部の温湿度など)、[3]部品22を駆動する際の制御指令値、[4]機器20のログデータ(正常/異常のステータス情報など)が挙げられる。 The state acquisition unit 50 acquires a set of state values (hereinafter referred to as a “state value set”) indicating the state of the device 20 or the component 22 (that is, the prediction target) that constitutes the device 20 . Examples of state values include: [1] Measured amount related to prediction target (e.g., current, voltage, temperature, amount of light, etc.), [2] Measured amount related to external environment (e.g., time, location, external temperature and humidity, etc.), [3] control command values for driving the component 22; [4] log data of the device 20 (normal/abnormal status information, etc.);

ラベル算出部52は、予測対象物の劣化度又は新鮮度を示すラベル値を付与又は補正する。ラベル算出部52は、同一の予測対象物から時系列的に取得された複数組の状態値セットに関して、該複数組の状態値セットにそれぞれ対応する複数のラベル値を一括して付与又は補正する。ここで、「付与」とは、ラベリングが未了である状態値セットに対してラベル値を新たに対応付けることを意味する。また、「補正」とは、ラベリングが既になされた状態値セットに対応するラベル値をより適切な値に変更することを意味する。 The label calculator 52 assigns or corrects a label value indicating the degree of deterioration or the degree of freshness of the prediction object. The label calculation unit 52 collectively assigns or corrects a plurality of label values respectively corresponding to the plurality of state value sets obtained from the same prediction object in time series. . Here, "assigning" means newly associating a label value with a state value set for which labeling has not yet been completed. Also, "correction" means changing the label value corresponding to the state value set that has already been labeled to a more appropriate value.

第一に、ラベル算出部52は、キー状態値を所定の範囲で正規化することで各々のラベル値を付与してもよい。ここで、キー状態値は、機器年齢との間に相応の相関性を有する状態値であり、ラベル値の付与に用いられる。キー状態値の一例として、設定寿命の判断根拠となり得る各種パラメータ(具体的には、作動回数、稼働時間、設置日数など)が挙げられる。なお、キー状態値は、状態値セットに含まれてもよいが、学習への依存度が過度に高くならないように状態値セットから除外されることが望ましい。 First, the label calculator 52 may assign each label value by normalizing the key state value within a predetermined range. Here, the key state value is a state value having a corresponding correlation with the device age, and is used for assigning the label value. Examples of key state values include various parameters (specifically, the number of times of operation, the operating time, the number of days installed, etc.) that can be used as the basis for determining the set life. Although the key state value may be included in the state value set, it is desirable to exclude it from the state value set so as not to excessively depend on learning.

第二に、ラベル算出部52は、ラベル値が予測対象物の劣化度を正規化した値であり、かつ、複数組の学習データの中に学習誤差が大きい学習データがある場合、ラベル値が増加するにつれて大きくなる補正量を元のラベル値にそれぞれ加算することで、複数のラベル値を一括して補正してもよい。この補正量は、複数のラベル値のうち最大値である学習データに関する学習誤差を最大値で除算して求められる補正係数を、元のラベル値に乗算した値である。 Second, if the label value is a value obtained by normalizing the degree of deterioration of the prediction object and there is learning data with a large learning error among the plurality of sets of learning data, the label calculation unit 52 sets the label value to A plurality of label values may be collectively corrected by adding correction amounts that increase as they increase to the original label values. This correction amount is a value obtained by multiplying the original label value by a correction coefficient obtained by dividing the learning error associated with the learning data, which is the maximum value among the plurality of label values, by the maximum value.

第三に、ラベル算出部52は、ラベル値が予測対象物の新鮮度を正規化した値であり、かつ、複数組の学習データの中に学習誤差が大きい学習データがある場合、ラベル値が増加するにつれて小さくなる補正量を元のラベル値にそれぞれ加算することで、複数のラベル値を一括して補正してもよい。この補正量は、複数のラベル値のうち最小値である学習データに関する学習誤差を最大値で除算して求められる補正係数を、元のラベル値に乗算した値である。 Thirdly, if the label value is a value obtained by normalizing the freshness of the prediction target object and there is learning data with a large learning error among the plurality of sets of learning data, the label calculation unit 52 sets the label value to A plurality of label values may be collectively corrected by adding correction amounts that decrease as they increase to the original label values. This correction amount is a value obtained by multiplying the original label value by a correction coefficient obtained by dividing the learning error associated with the learning data, which is the minimum value among the plurality of label values, by the maximum value.

学習処理部54は、学習器LNに対して様々な学習処理(ここでは、教師あり学習)を行うことで、学習パラメータ群62を構成する学習パラメータの各値を決定する。学習器LNは、状態値セットを入力してラベル値を出力する学習モデルからなる。学習処理部54は、ラベル算出部52によりラベル値が補正された学習データセット60を用いて、学習器LNに対する再学習又は追加学習を繰り返す。なお、この学習手法は、バッチ学習、ミニバッチ学習、オンライン学習のいずれにも適用し得る。 The learning processing unit 54 determines each value of the learning parameters forming the learning parameter group 62 by performing various learning processes (here, supervised learning) on the learning device LN. The learner LN consists of a learning model that inputs a state value set and outputs a label value. The learning processing unit 54 repeats re-learning or additional learning for the learning device LN using the learning data set 60 whose label values have been corrected by the label calculation unit 52 . This learning method can be applied to batch learning, mini-batch learning, and online learning.

データ判定部56は、学習処理部54により学習処理がなされた学習器LNを用いて、学習データセット60に含まれる学習データの除外又は該学習データのラベル値の補正を行うか否かを判定する。具体的には、データ判定部56は、判定対象の学習データに関する学習誤差(例えば、L1誤差、L2誤差)との間の閾値判定を行う。例えば、データ判定部56は、[1]学習誤差が第一閾値未満である場合には学習データをそのまま維持する、[2]学習誤差が第一閾値以上かつ第二閾値未満である場合には該当するラベル値を補正する、[3]学習誤差が第二閾値以上である場合には該当する学習データを削除する、との判定をそれぞれ行う。 The data determination unit 56 uses the learner LN subjected to the learning process by the learning processing unit 54 to determine whether or not to exclude learning data included in the learning data set 60 or correct the label value of the learning data. do. Specifically, the data determination unit 56 performs threshold determination between learning errors (for example, L1 error, L2 error) regarding the learning data to be determined. For example, the data determination unit 56 maintains the learning data as it is when [1] the learning error is less than the first threshold, [2] when the learning error is greater than or equal to the first threshold and less than the second threshold [3] If the learning error is equal to or greater than the second threshold value, the corresponding learning data is deleted.

年齢予測部58は、学習処理がなされた学習器LNを用いて、予測対象物の劣化度又は新鮮度を予測する。劣化度の一例として機器年齢が、新鮮度の一例として残存耐用期間(Remaining Useful Life)がそれぞれ挙げられる。なお、年齢予測部58は、学習処理を行う学習処理装置30で実行されてもよいし、別の装置(具体的には、図1の年齢予測装置40)で実行されてもよい。 The age prediction unit 58 predicts the degree of deterioration or the degree of freshness of the prediction target using the learner LN that has undergone the learning process. An example of the degree of deterioration is age of equipment, and an example of degree of freshness is Remaining Useful Life. Note that the age prediction unit 58 may be executed by the learning processing device 30 that performs learning processing, or may be executed by another device (specifically, the age prediction device 40 in FIG. 1).

学習データセット60は、状態値セットとラベル値から構成される学習データの集合体である。学習データは、[1]学習パラメータ群62の更新に用いられる「訓練用データ」、[2]学習パラメータ群62による汎化性能の評価に用いられる「検証用データ」、及び[3]学習がなされた学習器LNの予測性能の評価に用いられる「テスト用データ」の3種類に分類される。 The learning data set 60 is a collection of learning data composed of state value sets and label values. The learning data includes [1] “training data” used to update the learning parameter group 62, [2] “verification data” used to evaluate generalization performance by the learning parameter group 62, and [3] learning It is classified into three types of "test data" used for evaluating the prediction performance of the learned learner LN.

学習パラメータ群62は、学習器LNの演算に用いられる学習パラメータの集合体である。学習パラメータ群62は、学習時の更新対象である「可変パラメータ」と、学習時の更新対象でない「固定パラメータ」(いわゆるハイパーパラメータ)から構成される。可変パラメータの一例として、演算ユニットの活性化関数を記述する係数、演算ユニット間の結合強度などが挙げられる。固定パラメータの一例として、演算ユニットの個数、中間層の数、畳み込み演算のカーネルサイズなどが挙げられる。 The learning parameter group 62 is a collection of learning parameters used for computation of the learner LN. The learning parameter group 62 is composed of "variable parameters" to be updated during learning and "fixed parameters" (so-called hyperparameters) not to be updated during learning. Examples of variable parameters include coefficients that describe the activation functions of operational units, coupling strengths between operational units, and the like. Examples of fixed parameters include the number of arithmetic units, the number of hidden layers, the kernel size of convolution operations, and the like.

[学習処理装置30の動作]
この実施形態における学習処理装置30が組み込まれた機器診断システム10は、以上のように構成される。続いて、学習処理装置30による学習動作について、図3のフローチャート及び図4~図10を参照しながら説明する。
[Operation of learning processing device 30]
The device diagnosis system 10 incorporating the learning processing device 30 in this embodiment is configured as described above. Next, the learning operation by the learning processing device 30 will be described with reference to the flowchart of FIG. 3 and FIGS. 4 to 10. FIG.

図3のステップSP10において、状態取得部50は、IoTデータD1に対して解析及び前処理を行うことで、予測対象物の状態を示す状態値の集合体(つまり、状態値セット)を取得する。 In step SP10 of FIG. 3, the state acquisition unit 50 acquires a set of state values indicating the state of the prediction target (that is, a state value set) by performing analysis and preprocessing on the IoT data D1. .

図4は、IoTデータD1が有するデータ構造の一例を示す図である。このIoTデータD1は、機器20の識別情報である「機器ID」と、(N+1)個の状態値との間の対応関係を示すテーブル形式のデータである。(N+1)個の状態値は、1個の「キー状態値」(ここでは、機器20の作動回数)と、N個の「状態値セット」とに分類される。 FIG. 4 is a diagram showing an example of the data structure of the IoT data D1. This IoT data D1 is data in a table format showing the correspondence between the "device ID", which is the identification information of the device 20, and the (N+1) state values. The (N+1) state values are classified into one "key state value" (here, the number of times the device 20 has been activated) and N "state value sets".

ステップSP12において、ラベル算出部52は、ステップSP10で取得された状態値セットに対応するラベル値を付与する。ここでは、ラベル算出部52は、同一の予測対象物から複数の時点で取得された複数組の状態値セットに対応するラベル値を一括して付与する。 At step SP12, the label calculator 52 assigns a label value corresponding to the state value set obtained at step SP10. Here, the label calculation unit 52 collectively assigns label values corresponding to a plurality of sets of state values obtained from the same prediction object at a plurality of times.

図5は、複数組の状態値セットに対応するラベル値の付与方法の一例を示す図である。グラフの横軸は作動回数(単位:回)を、グラフの縦軸は機器年齢(単位:歳)をそれぞれ示している。説明の便宜上、5個のプロットのみ表記しているが。状態値セットの組数は4組以下あるいは6組以上であってもよい。 FIG. 5 is a diagram showing an example of a method of assigning label values corresponding to a plurality of status value sets. The horizontal axis of the graph indicates the number of operations (unit: times), and the vertical axis of the graph indicates the device age (unit: years). For convenience of explanation, only 5 plots are shown. The number of status value sets may be four or less, or six or more.

例えば、最後に取得された状態値セットに対応する作動回数がN回、つまり、作動回数の最大値が「N」であることを想定する。このNの値は、機器20を交換又は撤去した状況によっては、実体寿命に相当する場合もあるし、実体寿命より小さい場合もあり得る。ここでは、ラベル算出部52は、作動回数を[0,100]の範囲で正規化することで各々のラベル値を付与する。具体的には、作動回数が0である場合に「0」歳とし、作動回数がNである場合に「100」歳とする。 For example, assume that the number of actuations corresponding to the last obtained state value set is N times, that is, the maximum value of the number of actuations is "N". Depending on the circumstances under which the device 20 was replaced or removed, the value of N may correspond to the actual life span, or may be smaller than the actual life span. Here, the label calculator 52 assigns each label value by normalizing the number of operations within the range of [0, 100]. Specifically, when the number of times of operation is 0, the age is set to "0", and when the number of times of operation is N, the age is set to "100".

図3のステップSP14において、プロセッサ34は、ステップSP10で取得された状態値セットと、ステップSP12で生成されたラベル値と、を対応付けた状態にて記憶装置38に記憶させる。新たな学習データの蓄積により、学習データセット60が更新される。 At step SP14 in FIG. 3, the processor 34 causes the storage device 38 to store the state value set obtained at step SP10 and the label value generated at step SP12 in a state of being associated with each other. The learning data set 60 is updated by accumulating new learning data.

ステップSP16において、学習処理部54は、学習器LNに対する学習処理の実行要否を確認する。学習処理の実行が必要でない場合(ステップSP16:NO)、ステップSP10に戻って、実行が必要になるまでの間、ステップSP10~SP16を順次繰り返す。一方、学習処理の実行が必要である場合(ステップSP16:YES)、次のステップSP18に進む。 At step SP16, the learning processing unit 54 confirms whether or not it is necessary to perform learning processing on the learning device LN. If execution of the learning process is not required (step SP16: NO), return to step SP10 and repeat steps SP10 to SP16 until execution becomes necessary. On the other hand, if execution of the learning process is necessary (step SP16: YES), the process proceeds to the next step SP18.

ステップSP18において、学習処理部54は、学習データセット60を用いて、学習器LNに対する学習処理を実行する。ここでは、学習データの組数が十分に蓄積されたことを契機として、新たな学習が行われる場合を想定する。 At step SP18, the learning processing unit 54 uses the learning data set 60 to perform learning processing on the learning device LN. Here, it is assumed that new learning is performed when a sufficient number of sets of learning data is accumulated.

図6は、図2の学習器LNが有するネットワーク構造の一例を示す図である。学習器LNは、入力層、中間層及び出力層からなる階層型ニューラルネットワークである。入力層は、N個の状態値を入力するためのN個の演算ユニットから構成される。中間層は、次元圧縮されたM(1<M<N)次元の特徴ベクトルを生成するためのM個の演算ユニットから構成される。出力層は、ラベル値を出力するための21個の演算ユニットから構成される。 FIG. 6 is a diagram showing an example of the network structure of the learning device LN of FIG. 2. In FIG. A learner LN is a hierarchical neural network consisting of an input layer, an intermediate layer and an output layer. The input layer consists of N arithmetic units for inputting N state values. The hidden layer consists of M arithmetic units for generating dimensionally compressed M (1<M<N) dimensional feature vectors. The output layer consists of 21 operation units for outputting label values.

本図の例では、機器年齢が0~100歳の範囲を5歳おきに区分し、かつ、出力層ではソフトマックス関数を作用する。これにより、学習器LNは、0,5,10,・・・,95,100歳である確率をそれぞれ出力する。例えば、出力された確率分布のうち確率が最大であるラベル値が、機器年齢の予測値として求められる。 In the example of this figure, the device age range of 0 to 100 years is divided into five-year intervals, and a softmax function is applied in the output layer. Thus, the learner LN outputs probabilities of being 0, 5, 10, . For example, the label value with the maximum probability in the output probability distribution is obtained as the predicted value of the device age.

なお、学習データのバッチ選択規則、損失項を含む目的関数の演算式、学習パラメータの更新則を含む学習アルゴリズムは、様々な手法が採用され得る。この学習処理を繰り返して実行した結果、所定の収束条件を満たす学習パラメータ群62が決定される。 Various methods can be adopted for the learning algorithm including the batch selection rule for learning data, the objective function equation including the loss term, and the learning parameter update rule. As a result of repeatedly executing this learning process, a learning parameter group 62 that satisfies a predetermined convergence condition is determined.

図3のステップSP20において、データ判定部56は、ステップSP18で学習処理がなされた学習器LNを用いて、学習データセット60に含まれる学習データの判定を行う。具体的には、データ判定部56は、状態値データから得られる「予測値」と、この状態値データに対応する「教示値」との学習誤差(ここでは、L1誤差)を評価する。 In step SP20 of FIG. 3, the data determination unit 56 determines the learning data included in the learning data set 60 using the learning device LN that has undergone the learning process in step SP18. Specifically, the data determination unit 56 evaluates the learning error (here, L1 error) between the "predicted value" obtained from the state value data and the "teaching value" corresponding to this state value data.

図7は、学習データの判定方法の一例を示す図である。グラフの軸は、機器年齢(単位:歳)を示している。ここでは、ラベル値(あるいは、教示値)が100歳である場合を想定する。[条件A]学習誤差が15未満である場合、データ判定部56は、付与されたラベル値が妥当であるので、学習データをそのまま維持する旨の判定を行う。[条件B]学習誤差が15以上かつ30未満である場合、データ判定部56は、付与されたラベル値が妥当でないため、ラベル値を補正する旨の判定を行う。[条件C]学習誤差が30以上である場合、データ判定部56は、学習データ自体が不適切であるため、学習データを除外する旨の判定を行う。 FIG. 7 is a diagram illustrating an example of a learning data determination method. The axis of the graph indicates the device age (unit: years). Here, it is assumed that the label value (or teaching value) is 100 years old. [Condition A] If the learning error is less than 15, the data determination unit 56 determines that the learning data should be maintained as is because the assigned label value is appropriate. [Condition B] If the learning error is 15 or more and less than 30, the data determination unit 56 determines that the label value should be corrected because the assigned label value is not appropriate. [Condition C] When the learning error is 30 or more, the data determination unit 56 determines that the learning data is excluded because the learning data itself is inappropriate.

図3のステップSP22において、データ判定部56は、ステップSP20での判定結果に基づいて、変更が必要とされる学習データの有無を確認する。変更対象の学習データがない場合(ステップSP22:NO)、そのままフローチャートを終了する。一方、変更対象の学習データがある場合(ステップSP22:YES)、次のステップSP24に進む。 At step SP22 in FIG. 3, the data determination unit 56 checks whether or not there is learning data that needs to be changed, based on the determination result at step SP20. If there is no learning data to be changed (step SP22: NO), the flowchart ends. On the other hand, if there is learning data to be changed (step SP22: YES), the process proceeds to the next step SP24.

ステップSP24において、データ判定部56は、記憶装置38に記憶されている学習データセット60を更新(「ラベル値を一括補正」又は「学習データを削除」)する旨の指示を行う。ここでは、ラベル算出部52は、同一の予測対象物から複数の時点で取得された複数組の状態値セットに対応するラベル値を一括して補正する。 In step SP24, the data determination unit 56 issues an instruction to update the learning data set 60 stored in the storage device 38 ("batch correction of label values" or "delete learning data"). Here, the label calculation unit 52 collectively corrects label values corresponding to a plurality of sets of state values obtained from the same prediction object at a plurality of times.

図8は、複数組の状態値セットに対応するラベル値の補正方法の一例を示す図である。グラフの横軸は補正前の年齢(単位:歳)を、グラフの縦軸は補正後の年齢(単位:歳)をそれぞれ示している。図5の場合と同様に、状態値セットの組数が5である。 FIG. 8 is a diagram showing an example of a method of correcting label values corresponding to a plurality of status value sets. The horizontal axis of the graph indicates age before correction (unit: years), and the vertical axis indicates age after correction (unit: years). As in the case of FIG. 5, the number of status value sets is five.

例えば、5個のラベル値のうちの最大値が100歳であり、対応する学習誤差が20歳であったとする。この場合、補正係数Cは、(100-20)/100=0.8と求められる。そして、元のラベル値に対して補正係数C=0.8を乗算することで、それぞれのラベル値が線形的に補正される。このように、特定のラベル値を一括で補正することで、時系列で取得された状態値セット同士の関係性が維持されやすくなる。 For example, assume that the maximum value among five label values is 100 years old and the corresponding learning error is 20 years old. In this case, the correction coefficient C is obtained as (100-20)/100=0.8. Each label value is linearly corrected by multiplying the original label value by the correction coefficient C=0.8. By collectively correcting the specific label values in this way, it becomes easier to maintain the relationship between the state value sets acquired in time series.

その後、ステップSP18に戻って、学習データの変更が不要になるまで、ステップSP18~SP24を順次繰り返す。なお、学習処理部54は、ステップSP24で学習データが変更された後、学習パラメータ群62を初期化した上で、学習器LNに対して再学習を行ってもよい。あるいは、学習処理部54は、ステップSP24で変更された複数組の学習データのみを用いて、学習途中である学習器LNに対して追加学習を行ってもよい。 After that, the process returns to step SP18, and steps SP18 to SP24 are sequentially repeated until it is no longer necessary to change the learning data. Note that after the learning data is changed in step SP24, the learning processing unit 54 may initialize the learning parameter group 62 and then re-learn the learning device LN. Alternatively, the learning processing unit 54 may perform additional learning on the learner LN that is in the process of learning, using only the multiple sets of learning data changed in step SP24.

図9は、ラベル値の一括補正による予測精度の向上効果を示す第一のグラフである。より詳しくは、図9(a)はラベル値の一括補正を行わない「比較例」を、図9(b)はラベル値の一括補正を行う「実施例」をそれぞれ示している。また、図5の場合と同様に、グラフの横軸は作動回数(単位:回)を、グラフの縦軸は機器年齢(単位:歳)をそれぞれ示している。 FIG. 9 is a first graph showing the effect of improving prediction accuracy by batch correction of label values. More specifically, FIG. 9A shows a "comparative example" in which label values are not collectively corrected, and FIG. 9B shows an "embodiment" in which label values are collectively corrected. As in the case of FIG. 5, the horizontal axis of the graph indicates the number of operations (unit: times), and the vertical axis of the graph indicates the device age (unit: years).

ここでは、正常に寿命に達した機器20から全時系列のIoTデータD1を収集し、機器年齢をそれぞれ予測してグラフを作成した。なお、部品22を定期的に交換しながら機器20の稼働を継続しているので、機器年齢のグラフは微視的に変動する点に留意する。つまり、部品22の交換直前では機器年齢が高くなり、部品22の交換直後では機器年齢が低くなる傾向がある。 Here, all time-series IoT data D1 are collected from the devices 20 that have normally reached the end of their lifespan, and a graph is created by predicting device ages. It should be noted that since the device 20 continues to operate while the component 22 is periodically replaced, the device age graph varies microscopically. That is, there is a tendency that the age of the device is high immediately before the replacement of the component 22, and that the age of the device is low immediately after the replacement of the component 22.

図9(a)の「比較例」では、作動回数が少ない領域から中間領域にわたって、機器年齢が大局的に線形的に増加している。ところが、作動回数が多い領域(つまり、実体寿命に近い領域)では、機器年齢のクリッピング現象が発生するので、その分だけ予測精度が低下してしまう。その理由は、設定寿命(装置の交換時期)が実体寿命からマージンを差し引いて定められるので、そのマージン領域内での機器年齢の微妙な違いを予測できないからである。一方、図9(b)の「実施例」では、ラベル値の一括補正を通じて、上記したクリッピング現象が抑制されるので、作動回数の全領域(つまり、全範囲の機器年齢)を高精度に予測することができる。 In the “comparative example” of FIG. 9( a ), the age of the device increases linearly from a region with a small number of times of operation to an intermediate region. However, in a region where the number of times of operation is large (that is, a region close to the actual life span), the clipping phenomenon of the device age occurs, and the prediction accuracy is reduced accordingly. The reason for this is that since the set life (time to replace the device) is determined by subtracting a margin from the actual life, it is not possible to predict subtle differences in device age within the margin region. On the other hand, in the "embodiment" of FIG. 9(b), the clipping phenomenon described above is suppressed through batch correction of label values, so the entire range of the number of operations (that is, the entire range of device age) can be predicted with high accuracy. can do.

図10は、ラベル値の一括補正による予測精度の向上効果を示す第二のグラフである。より詳しくは、図9(a)はラベル値の一括補正を行わない「比較例」を、図9(b)はラベル値の一括補正を行う「実施例」をそれぞれ示している。ここでは、実体寿命を全うする前に何らかの理由で故障が発生した機器20から、全時系列のIoTデータD1を収集し、機器年齢をそれぞれ予測してグラフを作成した。 FIG. 10 is a second graph showing the effect of improving the prediction accuracy by batch correction of label values. More specifically, FIG. 9A shows a "comparative example" in which label values are not collectively corrected, and FIG. 9B shows an "embodiment" in which label values are collectively corrected. Here, the entire time-series IoT data D1 is collected from a device 20 that has failed for some reason before completing its actual life, and the age of each device is predicted to create a graph.

図10(a)の「比較例」では、作動回数にかかわらず機器年齢が略一定であると予測されるため、機器20の状態変化の兆候を検出することが困難である。一方、図10(b)の「実施例」では、図9(b)の場合と同様に、作動回数と機器年齢の間の関係性を適切に表現できるため、機器20の状態変化の兆候を高精度に予測することができる。 In the “comparative example” of FIG. 10( a ), the device age is expected to be substantially constant regardless of the number of times of operation, so it is difficult to detect signs of state change of the device 20 . On the other hand, in the "embodiment" of FIG. 10B, as in the case of FIG. It can be predicted with high accuracy.

[実施形態のまとめ]
以上のように、この実施形態における学習処理装置30は、機器20又は該機器20を構成する部品22である予測対象物の状態を示す状態値セットを取得する状態取得部50と、予測対象物の劣化度又は新鮮度を示すラベル値を付与又は補正するラベル算出部52と、状態取得部50により取得された状態値セットと、ラベル算出部52により付与又は補正されたラベル値と、からなる学習データの母集団である学習データセット60を用いて、状態値セットを入力してラベル値を出力する学習器LNに対して学習処理を行う学習処理部54と、を備える。そして、ラベル算出部52は、同一の予測対象物から時系列的に取得された複数組の状態値セットに関して、該複数組の状態値セットにそれぞれ対応する複数のラベル値を一括して付与又は補正する。
[Summary of embodiment]
As described above, the learning processing device 30 in this embodiment includes the state acquisition unit 50 that acquires the state value set indicating the state of the prediction target that is the device 20 or the component 22 that configures the device 20, and the prediction target A label calculation unit 52 that assigns or corrects a label value indicating the degree of deterioration or freshness of the label, a state value set acquired by the state acquisition unit 50, and a label value assigned or corrected by the label calculation unit 52. A learning processing unit 54 that performs learning processing on a learning device LN that inputs a state value set and outputs a label value using a learning data set 60 that is a population of learning data. Then, the label calculation unit 52 collectively assigns or assigns a plurality of label values respectively corresponding to the plurality of state value sets to the plurality of state value sets obtained from the same prediction object in time series. to correct.

また、この実施形態における学習処理方法及びプログラムでは、一又は複数のコンピュータが、機器20又は該機器20を構成する部品22である予測対象物の状態を示す状態値セットを取得する取得ステップ(SP10)と、予測対象物の劣化度又は新鮮度を示すラベル値を付与又は補正する算出ステップ(SP12,SP24)と、取得された状態値セットと、付与又は補正されたラベル値と、からなる学習データの母集団である学習データセット60を用いて、状態値セットを入力してラベル値を出力する学習器LNに対して学習処理を行う学習ステップ(SP18)と、を実行する。そして、算出ステップ(SP24)では、同一の予測対象物から時系列的に取得された複数組の状態値セットに関して、該複数組の状態値セットにそれぞれ対応する複数のラベル値を一括して付与又は補正する。 Further, in the learning processing method and program in this embodiment, one or a plurality of computers obtains a state value set indicating the state of the prediction object that is the device 20 or the component 22 that constitutes the device 20 (SP10 ), a calculation step (SP12, SP24) for assigning or correcting a label value indicating the degree of deterioration or freshness of the prediction object, an acquired state value set, and an assigned or corrected label value. A learning step (SP18) of performing learning processing on the learning device LN that inputs the state value set and outputs the label value is executed using the learning data set 60, which is the population of data. Then, in the calculating step (SP24), a plurality of label values corresponding to the plurality of state value sets are collectively given to the plurality of state value sets obtained in time series from the same prediction object. Or correct.

このように、同一の予測対象物から時系列的に取得された複数組の状態値セットに関して、該複数組の状態値セットにそれぞれ対応する複数のラベル値を一括して付与又は補正するので、複数組の状態値セット同士の相対的な関係性を保ったまま複数のラベル値が設定される。つまり、実際の劣化度又は新鮮度を特定できない場合には、一括的な付与又は補正を通じて、実体寿命の予測が反映された適正なラベル値を設定可能となる。これにより、実体寿命又は設定寿命を迎えていない予測対象物から取得した状態値セットを用いる場合であっても、ラベル値の不確定性に起因する予測精度の低下を抑制することができる。 In this way, with respect to a plurality of sets of state values obtained in time series from the same prediction object, a plurality of label values respectively corresponding to the plurality of sets of state values are collectively assigned or corrected. A plurality of label values are set while maintaining the relative relationship between the plurality of sets of state values. In other words, when the actual degree of deterioration or freshness cannot be specified, it is possible to set an appropriate label value that reflects the prediction of the actual lifespan through batch assignment or correction. As a result, even when using a state value set obtained from a prediction target that has not reached the end of its actual life or set life, it is possible to suppress deterioration in prediction accuracy due to uncertainty in label values.

また、ラベル算出部52は、ラベル値が予測対象物の劣化度を正規化した値であり、かつ複数組の学習データの中に学習誤差が大きい学習データがある場合、ラベル値が増加するにつれて大きくなる補正量を元のラベル値にそれぞれ加算することで、複数のラベル値を一括して補正してもよい。 Further, when the label value is a value obtained by normalizing the degree of deterioration of the prediction target object and there is learning data with a large learning error among the plurality of sets of learning data, the label calculation unit 52 calculates A plurality of label values may be collectively corrected by adding a larger correction amount to each of the original label values.

また、補正量は、複数のラベル値のうち最大値である学習データに関する学習誤差を最大値で除算して求められる補正係数を、元のラベル値に乗算した値であってもよい。これにより、ラベル値が最大である学習データに関する学習誤差をより小さくことができる。 Further, the correction amount may be a value obtained by multiplying the original label value by a correction coefficient obtained by dividing the learning error related to the learning data, which is the maximum value among the plurality of label values, by the maximum value. As a result, the learning error associated with the learning data having the maximum label value can be made smaller.

また、学習処理装置30は、学習処理部54により学習処理がなされた学習器LNを用いて、学習データセット60に含まれる学習データの除外又は該学習データのラベル値の補正を行うか否かを判定するデータ判定部56をさらに備えてもよい。 In addition, the learning processing device 30 determines whether or not to exclude learning data included in the learning data set 60 or correct the label value of the learning data using the learning device LN subjected to the learning processing by the learning processing unit 54. You may further provide the data determination part 56 which determines.

また、学習処理部54は、ラベル算出部52によりラベル値が補正された学習データセット60を用いて、学習器LNに対する再学習又は追加学習を繰り返してもよい。これにより、学習データのクレンジングが逐次的に行われ、学習器LNの予測精度が向上する。 Further, the learning processing unit 54 may repeat re-learning or additional learning for the learning device LN using the learning data set 60 whose label values have been corrected by the label calculation unit 52 . As a result, the learning data is cleansed sequentially, and the prediction accuracy of the learning device LN is improved.

[変形例]
なお、本発明は、上記した実施形態に限定されるものではなく、この発明の主旨を逸脱しない範囲で自由に変更できることは勿論である。あるいは、技術的に矛盾が生じない範囲で各々の構成を任意に組み合わせてもよい。
[Modification]
It goes without saying that the present invention is not limited to the above-described embodiments, and can be freely modified without departing from the gist of the present invention. Alternatively, each configuration may be arbitrarily combined as long as there is no technical contradiction.

上記した実施形態では、学習処理装置30を単体のコンピュータとして図示しているが、これに代わって、学習処理装置30は、分散システムを構築するコンピュータ群であってもよい。また、学習処理装置30は、クラウド型のサーバ(いわゆる、クラウドサーバ)であってもよいし、オンプレミス型のサーバであってもよい。 In the above embodiment, the learning processing device 30 is shown as a single computer, but instead of this, the learning processing device 30 may be a group of computers constructing a distributed system. The learning processing device 30 may be a cloud server (so-called cloud server) or an on-premise server.

上記した実施形態では、階層型ニューラルネットワークを用いて学習器LN(図6参照)を構築したが、機械学習の手法はこれに限られない。例えば、サポートベクターマシン、ディシジョンツリー(一例として、ランダムフォレスト)、ブースティング法(一例として、勾配ブースティング法)を含む様々な手法を採用してもよい。 In the above-described embodiment, the learner LN (see FIG. 6) is constructed using a hierarchical neural network, but the machine learning technique is not limited to this. For example, various techniques may be employed including support vector machines, decision trees (eg, random forests), boosting methods (eg, gradient boosting methods).

上記した実施形態では、機器年齢を複数の区分又は度数(つまり、離散値)によって分類し、確率が最大値であるラベル値を機器年齢として計算する場合について説明したが、機器年齢の計算方法はこれに限られない。例えば、機器年齢は、度数と確率の積和(つまり、期待値)であってもよい。また、学習器LNの出力層に設けられる演算ユニットを一個に減らして、[0,1]などに正規化された機器年齢が、一個の連続値として出力されてもよい。 In the above-described embodiment, the device age is classified by a plurality of categories or frequencies (that is, discrete values), and the label value with the maximum probability is calculated as the device age. It is not limited to this. For example, the device age may be the sum of products of frequencies and probabilities (that is, expected values). Also, the number of operation units provided in the output layer of the learning device LN may be reduced to one, and the device age normalized to [0, 1] or the like may be output as one continuous value.

10…機器診断システム、20…機器(予測対象物)、22…部品(予測対象物)、30…学習処理装置、50…状態取得部、52…ラベル算出部、54…学習処理部、56…データ判定部、60…学習データセット、LN…学習器

DESCRIPTION OF SYMBOLS 10... Equipment diagnostic system 20... Equipment (prediction target object) 22... Part (prediction target object) 30... Learning processing apparatus 50... State acquisition part 52... Label calculation part 54... Learning processing part 56... data determination unit 60 learning data set LN learning device

Claims (6)

機器又は該機器を構成する部品である予測対象物の状態を示す状態値セットを取得する状態取得部と、
前記予測対象物の劣化度を正規化した値であるラベル値を付与又は補正するラベル算出部と、
前記状態取得部により取得された前記状態値セットと、前記ラベル算出部により付与又は補正された前記ラベル値と、からなる学習データの母集団である学習データセットを用いて、前記状態値セットを入力して前記ラベル値を出力する学習器に対して学習処理を行う学習処理部と、
を備え、
前記学習データセットには、同一の予測対象物から時系列的に取得された複数組の状態値セットと、前記ラベル算出部により付与された複数のラベル値と、からなる時系列的な学習データが含まれ、
前記ラベル算出部は、前記時系列的な学習データの中に、前記学習処理の際に算出される学習誤差が閾値よりも大きい学習データがある場合、ラベル値が増加するにつれて大きくなる補正量を元のラベル値にそれぞれ加算することで、前記時系列的な学習データにおける複数のラベル値を一括して補正する、学習処理装置。
a state acquisition unit that acquires a state value set indicating the state of a prediction target that is a device or a component that constitutes the device;
a label calculation unit that assigns or corrects a label value that is a value obtained by normalizing the degree of deterioration of the prediction target;
The state value set is obtained by using a learning data set, which is a population of learning data including the state value set obtained by the state obtaining unit and the label values assigned or corrected by the label calculation unit. a learning processing unit that performs learning processing on a learning device that receives an input and outputs the label value;
with
The learning data set includes time-series learning data composed of a plurality of sets of state values obtained in time-series from the same prediction object and a plurality of label values assigned by the label calculation unit. includes
If the time-series learning data include learning data in which the learning error calculated during the learning process is larger than a threshold value, the label calculation unit calculates a correction amount that increases as the label value increases. A learning processing device that collectively corrects a plurality of label values in the time-series learning data by adding each to an original label value .
前記補正量は、前記複数のラベル値のうち最大値である学習データに関する学習誤差を前記最大値で除算して求められる補正係数を、前記元のラベル値に乗算した値である、
請求項に記載の学習処理装置。
The correction amount is a value obtained by multiplying the original label value by a correction coefficient obtained by dividing a learning error related to learning data, which is the maximum value among the plurality of label values, by the maximum value.
2. The learning processing device according to claim 1 .
前記学習処理部により学習処理がなされた学習器を用いて、前記学習データセットに含まれる学習データの除外又は該学習データのラベル値の補正を行うか否かを判定するデータ判定部をさらに備える、
請求項1又は2に記載の学習処理装置。
further comprising a data determination unit that determines whether to exclude learning data included in the learning data set or correct the label value of the learning data using the learning device that has been subjected to the learning processing by the learning processing unit. ,
3. The learning processing device according to claim 1 or 2 .
前記学習処理部は、前記ラベル算出部によりラベル値が補正された学習データセットを用いて、前記学習器に対する再学習又は追加学習を繰り返す、
請求項1~のいずれか1項に記載の学習処理装置。
The learning processing unit repeats re-learning or additional learning for the learning device using the learning data set whose label value is corrected by the label calculation unit.
The learning processing device according to any one of claims 1 to 3 .
一又は複数のコンピュータが、
機器又は該機器を構成する部品である予測対象物の状態を示す状態値セットを取得する取得ステップと、
前記予測対象物の劣化度を正規化した値であるラベル値を付与又は補正する算出ステップと、
前記取得ステップで取得された前記状態値セットと、前記算出ステップで付与又は補正された前記ラベル値と、からなる学習データの母集団である学習データセットを用いて、前記状態値セットを入力して前記ラベル値を出力する学習器に対して学習処理を行う学習ステップと、
を実行し、
前記学習データセットには、同一の予測対象物から時系列的に取得された複数組の状態値セットと、前記算出ステップで付与された複数のラベル値と、からなる時系列的な学習データが含まれ、
前記算出ステップでは、前記時系列的な学習データの中に、前記学習処理の際に算出される学習誤差が閾値よりも大きい学習データがある場合、ラベル値が増加するにつれて大きくなる補正量を元のラベル値にそれぞれ加算することで、前記時系列的な学習データにおける複数のラベル値を一括して補正する、学習処理方法。
one or more computers
an acquisition step of acquiring a state value set indicating the state of a prediction target object that is a device or a component that constitutes the device;
a calculation step of assigning or correcting a label value that is a value obtained by normalizing the degree of deterioration of the prediction target;
inputting the state value set using a learning data set that is a population of learning data including the state value set obtained in the obtaining step and the label values assigned or corrected in the calculating step; a learning step of performing a learning process on a learner that outputs the label value by
and run
The learning data set includes time-series learning data composed of a plurality of sets of state values obtained in time-series from the same prediction object and a plurality of label values assigned in the calculating step. included,
In the calculating step, when there is learning data in the time-series learning data in which the learning error calculated during the learning process is larger than a threshold value, a correction amount that increases as the label value increases is calculated. A learning processing method for collectively correcting a plurality of label values in the time-series learning data by adding each to the label values of .
一又は複数のコンピュータを、
機器又は該機器を構成する部品である予測対象物の状態を示す状態値セットを取得する状態取得手段、
前記予測対象物の劣化度を正規化した値であるラベル値を付与又は補正するラベル算出手段、
前記状態取得手段により取得された前記状態値セットと、前記ラベル算出手段により付与又は補正された前記ラベル値と、からなる学習データの母集団である学習データセットを用いて、前記状態値セットを入力して前記ラベル値を出力する学習器に対して学習処理を行う学習処理手段、
として機能させ、
前記学習データセットには、同一の予測対象物から時系列的に取得された複数組の状態値セットと、前記ラベル算出手段により付与された複数のラベル値と、からなる時系列的な学習データが含まれ、
前記ラベル算出手段は、前記時系列的な学習データの中に、前記学習処理の際に算出される学習誤差が閾値よりも大きい学習データがある場合、ラベル値が増加するにつれて大きくなる補正量を元のラベル値にそれぞれ加算することで、前記時系列的な学習データにおける複数のラベル値を一括して補正する、学習処理プログラム。
one or more computers,
State acquisition means for acquiring a state value set indicating the state of a prediction target that is a device or a component that constitutes the device;
label calculation means for assigning or correcting a label value that is a value obtained by normalizing the degree of deterioration of the prediction object;
The state value set is obtained by using a learning data set which is a population of learning data including the state value set obtained by the state obtaining means and the label values assigned or corrected by the label calculation means. learning processing means for performing learning processing on a learner that inputs and outputs the label value;
function as
The learning data set includes time-series learning data composed of a plurality of sets of state values obtained in time-series from the same prediction object and a plurality of label values assigned by the label calculating means. includes
The label calculation means calculates a correction amount that increases as the label value increases when there is learning data with a learning error calculated during the learning process larger than a threshold in the time-series learning data. A learning processing program for collectively correcting a plurality of label values in the time-series learning data by adding each to an original label value .
JP2020179978A 2020-10-27 2020-10-27 LEARNING PROCESSING APPARATUS, METHOD AND PROGRAM Active JP7219430B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020179978A JP7219430B2 (en) 2020-10-27 2020-10-27 LEARNING PROCESSING APPARATUS, METHOD AND PROGRAM

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020179978A JP7219430B2 (en) 2020-10-27 2020-10-27 LEARNING PROCESSING APPARATUS, METHOD AND PROGRAM

Publications (2)

Publication Number Publication Date
JP2022070744A JP2022070744A (en) 2022-05-13
JP7219430B2 true JP7219430B2 (en) 2023-02-08

Family

ID=81535026

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020179978A Active JP7219430B2 (en) 2020-10-27 2020-10-27 LEARNING PROCESSING APPARATUS, METHOD AND PROGRAM

Country Status (1)

Country Link
JP (1) JP7219430B2 (en)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018159169A1 (en) 2017-03-03 2018-09-07 パナソニックIpマネジメント株式会社 Additional learning method for deterioration diagnosis system
WO2020059099A1 (en) 2018-09-20 2020-03-26 日本電気株式会社 Label correction device

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018159169A1 (en) 2017-03-03 2018-09-07 パナソニックIpマネジメント株式会社 Additional learning method for deterioration diagnosis system
WO2020059099A1 (en) 2018-09-20 2020-03-26 日本電気株式会社 Label correction device

Also Published As

Publication number Publication date
JP2022070744A (en) 2022-05-13

Similar Documents

Publication Publication Date Title
US11288577B2 (en) Deep long short term memory network for estimation of remaining useful life of the components
JP7320368B2 (en) FAILURE PREDICTION DEVICE, FAILURE PREDICTION METHOD AND COMPUTER PROGRAM
US20180365089A1 (en) Abnormality detection system, abnormality detection method, abnormality detection program, and method for generating learned model
JP7279445B2 (en) Prediction method, prediction program and information processing device
JP6521096B2 (en) Display method, display device, and program
WO2011138911A1 (en) Malfunction analysis apparatus, malfunction analysis method, and recording medium
JP7036697B2 (en) Monitoring system and monitoring method
JP7343374B2 (en) Method and system for performing aircraft maintenance
US20200167660A1 (en) Automated heuristic deep learning-based modelling
JP2017091278A (en) Learning device, prediction device, learning method, prediction method, and program
US20210216901A1 (en) Estimation system, estimation method, and estimation program
JP6489235B2 (en) System analysis method, system analysis apparatus, and program
US11796992B2 (en) Condition-based method for malfunction prediction
JP2013196698A (en) System monitoring
JP2020052714A5 (en)
CN112823364A (en) Predictive model enhancement
WO2022009010A1 (en) Model fidelity monitoring and regeneration for manufacturing process decision support
JP7219430B2 (en) LEARNING PROCESSING APPARATUS, METHOD AND PROGRAM
US11176502B2 (en) Analytical model training method for customer experience estimation
JP7152938B2 (en) Machine learning model building device and machine learning model building method
CN117250914A (en) Method and system for training machine learning model based on measurement data captured by manufacturing process
Ling et al. Information gain-based inspection scheduling for fatigued aircraft components
US20220221843A1 (en) Anomaly detection in high-volume manufacturing lines
US20230297837A1 (en) Method for automated determination of a model compression technique for compression of an artificial intelligence-based model
US20230021965A1 (en) Methods and systems for assessing printed circuit boards

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211004

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220926

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221025

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221110

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230117

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230119

R150 Certificate of patent or registration of utility model

Ref document number: 7219430

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150