JP6930195B2

JP6930195B2 - Model identification device, prediction device, monitoring system, model identification method and prediction method

Info

Publication number: JP6930195B2
Application number: JP2017081413A
Authority: JP
Inventors: 史弥牧原; 丈夫笠嶋; 雅俊小川
Original assignee: Fujitsu Ltd
Current assignee: Fujitsu Ltd
Priority date: 2017-04-17
Filing date: 2017-04-17
Publication date: 2021-09-01
Anticipated expiration: 2037-04-17
Also published as: JP2018181052A

Description

本件は、モデル同定装置、予測装置、監視システム、モデル同定方法および予測方法に関する。 This case relates to a model identification device, a prediction device, a monitoring system, a model identification method and a prediction method.

入力データと出力データとの関係において、複数のモードが現れることがある。そこで、入出力データを複数のモードに分類するためのクラスタリング技術が望まれている。例えば、イベント情報を用いて運転モードごとに学習データを作成することでクラスタリングを行う技術が開示されている（例えば、特許文献１参照）。 Multiple modes may appear in the relationship between input data and output data. Therefore, a clustering technique for classifying input / output data into a plurality of modes is desired. For example, a technique for performing clustering by creating learning data for each operation mode using event information is disclosed (see, for example, Patent Document 1).

特開２０１３−２１８７２５号公報Japanese Unexamined Patent Publication No. 2013-218725

しかしながら、上記技術では、イベント情報に基づいてクラスタリングを行うため、高い精度でのクラスタリングが困難である。その結果、高い精度でモデル同定を行うことが困難である。 However, in the above technique, since clustering is performed based on event information, it is difficult to perform clustering with high accuracy. As a result, it is difficult to identify the model with high accuracy.

１つの側面では、本件は、高い精度でモデル同定を行うことができるモデル同定装置、予測装置、監視システム、モデル同定方法および予測方法を提供することを目的とする。 In one aspect, the present invention aims to provide a model identification device, a prediction device, a monitoring system, a model identification method, and a prediction method capable of performing model identification with high accuracy.

１つの態様では、モデル同定装置は、複数の入出力データのうち一部に、所属するモードのラベルを付加するラベル付加部と、前記ラベルが付加された入出力データを用いて、前記複数の入出力データのうち前記ラベルが付加された入出力データと前記ラベルが付加されていない入出力データとを各モードに分類するクラスタリングを行うクラスタリング部と、前記クラスタリングの結果に基づいて、各モードの数理モデルのパラメータを推定するパラメータ推定部と、前記クラスタリングの結果に基づいて、入力データを前記数理モデルのそれぞれに分類するための分離超平面を推定する分離超平面推定部と、を備え、前記クラスタリング部は、前記ラベルが付加された入出力データと前記ラベルが付加されていない入出力データとの類似度と、前記ラベルが付加されていない入出力データ間の類似度と、に基づいて、前記ラベルが付加された入出力データとの類似度が高い前記ラベルが付加されていない入出力データ間の類似度が高くなるように、また、前記ラベルが付加された入出力データとの類似度が低い前記ラベルが付加されていない入出力データと前記ラベルが付加されていない入出力データの近傍の前記ラベルが付加されていない入出力データとの類似度が高くなるように、前記複数の入出力データのクラスタリングを行う。 In one embodiment, the model identification device uses the label addition unit that adds a label of the mode to which the model identification device belongs to a part of the plurality of input / output data, and the plurality of input / output data to which the label is attached. Of the input / output data, the clustering unit that performs clustering that classifies the input / output data with the label and the input / output data without the label into each mode, and based on the result of the clustering, of each mode A parameter estimation unit that estimates the parameters of the mathematical model and a separation superplane estimation unit that estimates the separation superplane for classifying the input data into each of the mathematical models based on the result of the clustering are provided . The clustering unit is based on the similarity between the input / output data with the label and the input / output data without the label, and the similarity between the input / output data without the label. High degree of similarity to the input / output data to which the label is attached So that the degree of similarity between the input / output data to which the label is not attached is high, and the degree of similarity to the input / output data to which the label is attached. The plurality of inputs are such that the similarity between the input / output data without the label and the input / output data without the label in the vicinity of the input / output data without the label is high. Cluster the output data.

１つの態様では、予測装置は、上記モデル同定装置の前記分離超平面推定部が推定した前記分離超平面を用いて入力データを前記数理モデルのそれぞれに分類し、前記数理モデルのそれぞれに分類された前記入力データに前記数理モデルのパラメータを適用することで、前記入力データに対する出力データの予測値を計算する計算部を備える。 In one embodiment, the predictor classifies the input data into each of the mathematical models using the separated superplane estimated by the separated superplane estimation unit of the model identification device, and is classified into each of the mathematical models. By applying the parameters of the mathematical model to the input data, a calculation unit for calculating the predicted value of the output data with respect to the input data is provided.

１つの態様では、監視システムは、上記予測装置の前記計算部が計算した予測値と、前記入力データに対する出力データの実測値と、の乖離度が閾値を超えるか否かを判定する判定部を備える。 In one embodiment, the monitoring system has a determination unit that determines whether or not the degree of deviation between the predicted value calculated by the calculation unit of the prediction device and the actually measured value of the output data with respect to the input data exceeds a threshold value. Be prepared.

高い精度でモデル同定を行うことができる。 Model identification can be performed with high accuracy.

（ａ）は入出力データを例示する図であり、（ｂ）はクラスタリングを用いたモデル同定の手順を例示する図である。(A) is a diagram illustrating input / output data, and (b) is a diagram illustrating a procedure for model identification using clustering. （ａ）および（ｂ）は入力データと出力データの関係の分布を例示する図である。(A) and (b) are diagrams illustrating the distribution of the relationship between the input data and the output data. 実施例１に係るモデル同定装置のブロック図である。It is a block diagram of the model identification apparatus which concerns on Example 1. FIG. （ａ）は実施例１に係る予測装置のブロック図であり、（ｂ）は実施例１に係る監視システムのブロック図である。(A) is a block diagram of the prediction device according to the first embodiment, and (b) is a block diagram of the monitoring system according to the first embodiment. モデル同定装置、予測装置および監視システムのハードウェア構成を説明するためのブロック図である。It is a block diagram for demonstrating the hardware configuration of a model identification apparatus, a prediction apparatus and a monitoring system. モデル同定装置の各部の処理を表すフローチャートを例示する図である。It is a figure which illustrates the flowchart which shows the process of each part of a model identification apparatus. （ａ）は指標データを例示する図であり、（ｂ）は一部にモードが指定されたモデル生成用データを例示する図である。(A) is a diagram exemplifying index data, and (b) is a diagram exemplifying model generation data in which a mode is partially specified. （ａ）は類似度を用いたクラスタリングを例示する図であり、（ｂ）はクラスタリングの結果を例示する図である。(A) is a diagram exemplifying clustering using similarity, and (b) is a diagram exemplifying the result of clustering. （ａ）は予測装置の処理を表すフローチャートを例示する図であり、（ｂ）は監視システムの処理を表すフローチャートを例示する図である。(A) is a diagram illustrating a flowchart showing the processing of the prediction device, and (b) is a diagram illustrating a flowchart representing the processing of the monitoring system. （ａ）〜（ｄ）はシミュレーション結果を例示する図である。(A) to (d) are diagrams illustrating simulation results.

まず、実施例の説明に先立って、クラスタリング技術を用いたモデル同定について説明する。図１（ａ）は、入出力データを例示する図である。図１（ａ）において、横軸は経過時間を表し、縦軸は入力データ値と出力データ値とを表す。入力データと出力データとの関係において、複数のモードが現れることがある。図１（ａ）の例では、入力データと出力データとの関係において、モード１およびモード２の２種類のモードが現れている。 First, model identification using a clustering technique will be described prior to the description of the examples. FIG. 1A is a diagram illustrating input / output data. In FIG. 1A, the horizontal axis represents the elapsed time, and the vertical axis represents the input data value and the output data value. Multiple modes may appear in the relationship between input data and output data. In the example of FIG. 1A, two types of modes, mode 1 and mode 2, appear in relation to the input data and the output data.

図１（ｂ）は、クラスタリングを用いたモデル同定の手順を例示する図である。図１（ｂ）で例示するように、入出力データに対してｋ−ｍｅａｎｓ等の教師無し学習によるクラスタリングを行うことで、入出力データをモード１およびモード２に分類する（ステップＳ１）。次に、各モードに分類された入出力データを用いて、各モードの数理モデルパラメータを推定する（ステップＳ２）。一方で、各モードに分類された入出力データを用いて、未知の入力データを数理モデルのそれぞれに分類するための境界面（分離超平面）を推定する（ステップＳ３）。図１（ａ）に、モデル１およびモデル２のモデルパラメータと、境界面とを例示する。この手順によれば、未知の入力データを各数理モデルに分類することができるようになる。また、各数理モデルのモデルパラメータを用いて、未知の入力データに対する出力データを予測することができるようになる。 FIG. 1B is a diagram illustrating a procedure for model identification using clustering. As illustrated in FIG. 1B, the input / output data is classified into mode 1 and mode 2 by performing clustering of the input / output data by unsupervised learning such as k-means (step S1). Next, the mathematical model parameters of each mode are estimated using the input / output data classified into each mode (step S2). On the other hand, using the input / output data classified into each mode, the boundary surface (separation hyperplane) for classifying the unknown input data into each of the mathematical models is estimated (step S3). FIG. 1A illustrates the model parameters of the models 1 and 2 and the boundary surface. According to this procedure, unknown input data can be classified into each mathematical model. In addition, the model parameters of each mathematical model can be used to predict the output data for unknown input data.

この手順では、ステップＳ１のクラスタリングの結果が、出力データの予測精度に大きく影響を及ぼす。したがって、クラスタリングの精度を高くすることが望まれる。しかしながら、入出力データの分布に応じて、クラスタリングの結果が変動し得る。以下、その理由について説明する。 In this procedure, the result of clustering in step S1 has a great influence on the prediction accuracy of the output data. Therefore, it is desired to improve the accuracy of clustering. However, the result of clustering may vary depending on the distribution of input / output data. The reason will be described below.

図２（ａ）および図２（ｂ）は、入力データと出力データの関係の分布を例示する図である。図２（ａ）および図２（ｂ）において、ｕ（ｔ−１）はセンサの計測対象への入力データであり、ｙ（ｔ）はセンサの出力データである。図２（ａ）および図２（ｂ）の例では、出力データ値は、入力データ値が大きくなるとともに線形に大きくなり、途中から入力データ値が大きくなるとともに線形に小さくなり、さらに途中から入力データ値が大きくなるとともに線形に大きくなっている。捉え方によっては、途中で途切れているものの、線形に大きくなる入出力関係をモード１に分類し、線形に小さくなる入出力関係をモード２に分類することができる。図２（ａ）は、この分類に従って入出力関係をモード１とモードとに分類した結果である。他の捉え方によっては、線形に大きくなって途中から線形に小さくなる入出力関係をモード１に分類し、さらに線形に大きくなる入出力関係をモード２に分類することもできる。図２（ｂ）は、この分類に従って入出力関係をモード１とモード２とに分類した結果である。 2 (a) and 2 (b) are diagrams illustrating the distribution of the relationship between the input data and the output data. In FIGS. 2A and 2B, u (t-1) is input data to the measurement target of the sensor, and y (t) is output data of the sensor. In the examples of FIGS. 2 (a) and 2 (b), the output data value increases linearly as the input data value increases, increases linearly as the input data value increases from the middle, and then decreases linearly, and then inputs from the middle. As the data value increases, it increases linearly. Depending on how it is perceived, an input / output relationship that is interrupted in the middle but increases linearly can be classified into mode 1, and an input / output relationship that decreases linearly can be classified into mode 2. FIG. 2A shows the result of classifying the input / output relationship into mode 1 and mode according to this classification. Depending on another way of thinking, an input / output relationship that increases linearly and decreases linearly from the middle can be classified into mode 1, and an input / output relationship that increases linearly can be classified into mode 2. FIG. 2B shows the results of classifying the input / output relationship into mode 1 and mode 2 according to this classification.

クラスタリングの結果自体は、図２（ａ）および図２（ｂ）の場合で、どちらも正しい結果と言える。しかしながら、当該結果が、入出力関係の実際のモードと合致しない場合が生じ得る。この場合、モデル同定の精度が低下して、出力データの予測精度が低下するおそれがある。したがって、クラスタリングの精度を高くすることで、モデル同定の精度を高くすることが望まれる。 The clustering results themselves are the cases of FIGS. 2 (a) and 2 (b), both of which can be said to be correct results. However, there may be cases where the result does not match the actual mode of the I / O relationship. In this case, the accuracy of model identification may decrease, and the accuracy of prediction of output data may decrease. Therefore, it is desired to improve the accuracy of model identification by increasing the accuracy of clustering.

そこで、以下の実施例では、高い精度でモデル同定を行うことができるモデル同定装置、予測装置、監視システム、モデル同定方法および予測方法について説明する。 Therefore, in the following examples, a model identification device, a prediction device, a monitoring system, a model identification method, and a prediction method capable of performing model identification with high accuracy will be described.

図３は、実施例１に係るモデル同定装置１００のブロック図である。図４（ａ）は、実施例１に係る予測装置２００のブロック図である。図４（ｂ）は、実施例１に係る監視システム３００のブロック図である。 FIG. 3 is a block diagram of the model identification device 100 according to the first embodiment. FIG. 4A is a block diagram of the prediction device 200 according to the first embodiment. FIG. 4B is a block diagram of the monitoring system 300 according to the first embodiment.

図３で例示するように、モデル同定装置１００は、センサデータ取得部１１、センサデータ記憶部１２、モデル生成用データ取得部１３、ラベルデータ統合部１４、クラスタリング計算部１５、モデルパラメータ推定部１６、分離超平面推定部１７、モデル記憶部１８、およびラベル付加部２０を備える。ラベル付加部２０は、指標データ取得部２１、指標データ表示部２２、ラベル情報取得部２３、およびラベルデータ作成部２４を備える。 As illustrated in FIG. 3, the model identification device 100 includes a sensor data acquisition unit 11, a sensor data storage unit 12, a model generation data acquisition unit 13, a label data integration unit 14, a clustering calculation unit 15, and a model parameter estimation unit 16. , A separation superplane estimation unit 17, a model storage unit 18, and a label addition unit 20. The label adding unit 20 includes an index data acquisition unit 21, an index data display unit 22, a label information acquisition unit 23, and a label data creation unit 24.

図４（ａ）で例示するように、予測装置２００は、センサデータ取得部１１、モデル記憶部１８、モデル取得部３１、予測用入力データ取得部３２、予測計算部３３、および予測値記憶部３４を備える。図４（ｂ）で例示するように、監視システム３００は、センサデータ取得部１１、予測値記憶部３４および判定部４０を備える。 As illustrated in FIG. 4A, the prediction device 200 includes a sensor data acquisition unit 11, a model storage unit 18, a model acquisition unit 31, a prediction input data acquisition unit 32, a prediction calculation unit 33, and a prediction value storage unit. 34 is provided. As illustrated in FIG. 4B, the monitoring system 300 includes a sensor data acquisition unit 11, a predicted value storage unit 34, and a determination unit 40.

図５は、モデル同定装置１００、予測装置２００および監視システム３００のハードウェア構成を説明するためのブロック図である。図５で例示するように、モデル同定装置１００、予測装置２００および監視システム３００は、ＣＰＵ１０１、ＲＡＭ１０２、記憶装置１０３、入力機器１０４、表示装置１０５などを備える。これらの各機器は、バスなどによって接続されている。ＣＰＵ（ＣｅｎｔｒａｌＰｒｏｃｅｓｓｉｎｇＵｎｉｔ）１０１は、中央演算処理装置である。ＣＰＵ１０１は、１以上のコアを含む。ＲＡＭ（ＲａｎｄｏｍＡｃｃｅｓｓＭｅｍｏｒｙ）１０２は、ＣＰＵ１０１が実行するプログラム、ＣＰＵ１０１が処理するデータなどを一時的に記憶する揮発性メモリである。記憶装置１０３は、不揮発性記憶装置である。記憶装置１０３として、例えば、ＲＯＭ（ＲｅａｄＯｎｌｙＭｅｍｏｒｙ）、フラッシュメモリなどのソリッド・ステート・ドライブ（ＳＳＤ）、ハードディスクドライブに駆動されるハードディスクなどを用いることができる。入力機器１０４は、キーボード、マウスなどである。表示装置１０５は、液晶ディスプレイ、エレクトロルミネッセンスパネルなどであり、モデル同定装置１００および予測装置２００の処理結果などを表示する。ＣＰＵ１０１が記憶装置１０３に記憶されているプログラムを実行することによって、モデル同定装置１００、予測装置２００および監視システム３００が実現される。なお、モデル同定装置１００、予測装置２００および監視システム３００は、専用の回路などのハードウェアであってもよい。 FIG. 5 is a block diagram for explaining the hardware configurations of the model identification device 100, the prediction device 200, and the monitoring system 300. As illustrated in FIG. 5, the model identification device 100, the prediction device 200, and the monitoring system 300 include a CPU 101, a RAM 102, a storage device 103, an input device 104, a display device 105, and the like. Each of these devices is connected by a bus or the like. The CPU (Central Processing Unit) 101 is a central processing unit. The CPU 101 includes one or more cores. The RAM (Random Access Memory) 102 is a volatile memory that temporarily stores a program executed by the CPU 101, data processed by the CPU 101, and the like. The storage device 103 is a non-volatile storage device. As the storage device 103, for example, a ROM (Read Only Memory), a solid state drive (SSD) such as a flash memory, a hard disk driven by a hard disk drive, or the like can be used. The input device 104 is a keyboard, a mouse, or the like. The display device 105 is a liquid crystal display, an electroluminescence panel, or the like, and displays the processing results of the model identification device 100 and the prediction device 200. The model identification device 100, the prediction device 200, and the monitoring system 300 are realized by the CPU 101 executing the program stored in the storage device 103. The model identification device 100, the prediction device 200, and the monitoring system 300 may be hardware such as a dedicated circuit.

図６は、モデル同定装置１００の各部の処理を表すフローチャートを例示する図である。以下、図３および図６を参照しつつ、モデル同定装置１００の処理について説明する。 FIG. 6 is a diagram illustrating a flowchart showing processing of each part of the model identification device 100. Hereinafter, the processing of the model identification device 100 will be described with reference to FIGS. 3 and 6.

まず、センサデータ取得部１１は、入力データと、当該入力データに対するセンサの出力データと、をセンサデータとして取得する（ステップＳ１１）。センサデータ取得部１１によって取得されたセンサデータは、センサデータ記憶部１２に記憶される。 First, the sensor data acquisition unit 11 acquires the input data and the output data of the sensor with respect to the input data as sensor data (step S11). The sensor data acquired by the sensor data acquisition unit 11 is stored in the sensor data storage unit 12.

次に、指標データ取得部２１は、センサデータ記憶部１２に記憶されたセンサデータから、モデル生成用の指標データを取得する。図７（ａ）は、指標データを例示する図である。図７（ａ）で例示するように、クラスタリング前であるため、指標データは、まだ各モードに分類されていない。指標データ表示部２２は、表示装置１０５に、指標データを表示させる（ステップＳ１２）。 Next, the index data acquisition unit 21 acquires index data for model generation from the sensor data stored in the sensor data storage unit 12. FIG. 7A is a diagram illustrating index data. As illustrated in FIG. 7A, the index data has not yet been classified into each mode because it is before clustering. The index data display unit 22 causes the display device 105 to display the index data (step S12).

次に、表示装置１０５に表示された内容を確認したユーザによって、一部の指標データに対するラベル情報が入力機器１０４に入力される。ラベル情報取得部２３は、入力機器１０４からラベル情報を取得する。ラベルデータ作成部２４は、ラベル情報取得部２３が取得したラベル情報に基づいて、ラベルデータを作成する（ステップＳ１３）。ラベルデータは、例えば、指標データのそれぞれについてのモード識別子である。例えば、各センサデータに対して、モード１を表す「１」、モード２を表す「２」、モードを指定しない「０」が作成される。 Next, the user who confirms the content displayed on the display device 105 inputs the label information for some index data to the input device 104. The label information acquisition unit 23 acquires label information from the input device 104. The label data creation unit 24 creates label data based on the label information acquired by the label information acquisition unit 23 (step S13). The label data is, for example, a mode identifier for each of the index data. For example, for each sensor data, "1" representing mode 1, "2" representing mode 2, and "0" not specifying a mode are created.

ラベル情報は、ユーザによって入力されてもよいが、自動で入力されてもよい。例えば、入力データと出力データとの大まかな関係を予め定めておくことで、指標データのラベルを自動で指定することができるようになる。例えば、図７（ａ）の例では、線形が途切れる箇所でモデルが切り替わると仮定した場合の数式を予め定めておく。図７（ａ）の例では、例えば、
ｙ（ｔ）＝ｕ（ｔ−１）＋２＋ｅ（ｔ），−４≦ｕ（ｔ−１）≦−１
ｙ（ｔ）＝−ｕ（ｔ−１）＋ｅ（ｔ），−１＜ｕ（ｔ−１）＜２
ｙ（ｔ）＝ｕ（ｔ−１）＋２＋ｅ（ｔ），２≦ｕ（ｔ−１）≦４
の３つの数式を定めておくことができる。なお、ｅ（ｔ）は、白色雑音である。この数式の関係を用いて、一部の指標データに対するラベル情報を自動で作成することもできる。 The label information may be entered by the user or may be entered automatically. For example, by predetermining the rough relationship between the input data and the output data, the label of the index data can be automatically specified. For example, in the example of FIG. 7A, a mathematical formula assuming that the model is switched at a point where the alignment is interrupted is determined in advance. In the example of FIG. 7A, for example,
y (t) = u (t-1) + 2 + e (t), -4 ≦ u (t-1) ≦ -1
y (t) = -u (t-1) + e (t), -1 <u (t-1) <2
y (t) = u (t-1) + 2 + e (t), 2 ≦ u (t-1) ≦ 4
Three mathematical formulas can be defined. Note that e (t) is white noise. Label information for some index data can be automatically created by using the relationship of this mathematical formula.

なお、モデル生成用データ取得部１３は、センサデータ記憶部１２に記憶されたセンサデータからモデル生成用データを取得する。例えば、モデル生成用データは、指標データ取得部２１が取得した指標データと同じものである。次に、ラベルデータ統合部１４は、モデル生成用データとラベルデータとを統合する。それにより、モデル生成用データの一部に、モードが指定される。図７（ｂ）で例示するように、一部のモデル生成用データにモードが指定されるようになる。図７（ｂ）の例では、ひし形がモード１を表し、バツがモード２を表している。 The model generation data acquisition unit 13 acquires model generation data from the sensor data stored in the sensor data storage unit 12. For example, the model generation data is the same as the index data acquired by the index data acquisition unit 21. Next, the label data integration unit 14 integrates the model generation data and the label data. As a result, the mode is specified as part of the model generation data. As illustrated in FIG. 7B, the mode is specified for some model generation data. In the example of FIG. 7B, the diamond represents mode 1 and the cross represents mode 2.

次に、クラスタリング計算部１５は、クラスタリングを行うためのパラメータを設定する（ステップＳ１４）。次に、クラスタリング計算部１５は、ラベルデータ統合部から受け取ったモデル生成用データを用いて、クラスタリング計算を行う（ステップＳ１５）。 Next, the clustering calculation unit 15 sets parameters for performing clustering (step S14). Next, the clustering calculation unit 15 performs a clustering calculation using the model generation data received from the label data integration unit (step S15).

クラスタリング計算部１５は、ラベル有りデータを用いて、クラスタリングを行う。例えば、クラスタリング計算部１５は、ラベル有りデータとラベル無しデータとの類似と、ラベル無しデータ間の類似度とに基づいて、クラスタリングを行う。具体的には、図８（ａ）で例示するように、クラスタリング計算部１５は、モデル生成用データにおいて、ラベル有りデータとの類似度が高いラベル無しデータ間の類似度が高くなるように、また、ラベル有りデータとの類似度が低いラベル無しデータとその近傍データとの類似度が高くなるように、クラスタリングを行う。 The clustering calculation unit 15 performs clustering using the labeled data. For example, the clustering calculation unit 15 performs clustering based on the similarity between the labeled data and the unlabeled data and the similarity between the unlabeled data. Specifically, as illustrated in FIG. 8A, the clustering calculation unit 15 increases the similarity between the unlabeled data, which has a high degree of similarity to the labeled data, in the model generation data. In addition, clustering is performed so that the similarity between the unlabeled data, which has a low degree of similarity to the labeled data, and the data in the vicinity thereof are high.

例えば、クラスタリング計算部１５は、クラスタリングに際して、下記式（１）の学習基準（評価関数）を用いる。下記式（１）において、Ｗ_ｉ，ｉ´は、類似度関数であり、両者の距離が近いと大きい値をとる関数である。下記式（１）の括弧内において、第１項はラベル有りデータによる識別モデルの学習（教師有り学習）を表し、第２項は過学習を抑制する正規化項であり、第３項はラベル無しデータによる識別モデルの学習（教師無し学習）を表す。下記式（１）によって、識別モデルを算出することができる。識別モデルは、下記式（２）のように表すことができる。下記式（２）において、Ｋ(ｘ，ｘ_ｊ)は、入力ｘの特徴量（カーネル）である。識別モデルが得られることで、下記式（３）の識別式が得られる。当該識別式を用いた−１と＋１とへの識別によって、センサデータを各モードに分類することができる。図８（ｂ）は、下記式（１）〜（３）を用いてクラスタリングを行った結果である。

For example, the clustering calculation unit 15 uses the learning standard (evaluation function) of the following equation (1) for clustering. In the following equation (1) _{, Wi and i'are} similarity functions, and are functions that take a large value when the distance between them is short. In the parentheses of the following equation (1), the first term represents the learning of the discriminative model using labeled data (unsupervised learning), the second term is the normalization term that suppresses overlearning, and the third term is the label. Represents learning of a discriminative model using no data (unsupervised learning). The discriminative model can be calculated by the following formula (1). The discriminative model can be expressed as the following equation (2). In the following equation (2), K (x, x _j ) is a feature quantity (kernel) of the input x. By obtaining the discriminative model, the discriminative formula of the following formula (3) can be obtained. The sensor data can be classified into each mode by discriminating between -1 and +1 using the identification formula. FIG. 8B shows the results of clustering using the following equations (1) to (3).

クラスタリング計算部１５は、上記式（１）〜（３）を用いて、モデル生成用データのそれぞれを各モードに分類する（ステップＳ１６）。以上の処理により、データ分類のフローチャートが終了する。 The clustering calculation unit 15 classifies each of the model generation data into each mode by using the above equations (1) to (3) (step S16). The above processing completes the data classification flowchart.

次に、モデルパラメータ推定部１６は、モデル作成用入出力データを決定する（ステップＳ２１）。具体的には、モデルパラメータ推定部１６は、ステップ１６で得られたモードごとのモデル生成用データを、モデル作成用入出力データに決定する。次に、モデルパラメータ推定部１６は、予め作成された複数種類の数理モデル構造から、モデル作成用入出力データに適した数理モデル構造を決定する（ステップＳ２２）。次に、モデルパラメータ推定部１６は、数理モデルの次数を決定する（ステップＳ２３）。モデルの次数は、数理モデルの数式の次数のことである。次に、モデルパラメータ推定部１６は、ステップＳ１６で得られたモードごとのモデル生成用データを用いて、モデルパラメータを推定する（ステップＳ２４）。 Next, the model parameter estimation unit 16 determines the input / output data for model creation (step S21). Specifically, the model parameter estimation unit 16 determines the model generation data for each mode obtained in step 16 as the model creation input / output data. Next, the model parameter estimation unit 16 determines a mathematical model structure suitable for model creation input / output data from a plurality of types of mathematical model structures created in advance (step S22). Next, the model parameter estimation unit 16 determines the order of the mathematical model (step S23). The degree of a model is the degree of a mathematical formula in a mathematical model. Next, the model parameter estimation unit 16 estimates the model parameters using the model generation data for each mode obtained in step S16 (step S24).

一方、分離超平面推定部１７は、複数種類の分類器から、ステップＳ１６で得られたモードごとのモデル生成用データに適した分類器を決定する（ステップＳ３１）。次に、分離超平面推定部１７は、ステップＳ３１で決定された分類器が、モデル生成用データを各モードに分離できるか否かを判定する（ステップＳ３２）。ステップＳ３２で「Ｎｏ」と判定された場合、ステップＳ３１から再度実行され、他の分類器が決定される。ステップＳ３２で「Ｙｅｓ」と判定された場合、分離超平面推定部１７は、分類器パラメータを設定する（ステップＳ３３）。次に、分離超平面推定部１７は、分類器を生成する（ステップＳ３４）。分類器は、分離超平面のことである。ステップＳ２４で推定されたモデルパラメータおよびステップＳ３４で生成された分類器は、モデル記憶部１８に記憶される。 On the other hand, the separation hyperplane estimation unit 17 determines a classifier suitable for the model generation data for each mode obtained in step S16 from a plurality of types of classifiers (step S31). Next, the separation hyperplane estimation unit 17 determines whether or not the classifier determined in step S31 can separate the model generation data into each mode (step S32). If "No" is determined in step S32, the process is executed again from step S31, and another classifier is determined. When it is determined as "Yes" in step S32, the separation hyperplane estimation unit 17 sets the classifier parameter (step S33). Next, the separation hyperplane estimation unit 17 generates a classifier (step S34). A classifier is a hyperplane separation. The model parameters estimated in step S24 and the classifier generated in step S34 are stored in the model storage unit 18.

次に、図４（ａ）および図９（ａ）を参照しつつ、予測装置２００の処理の詳細について説明する。図９（ａ）は、予測装置２００の処理を表すフローチャートを例示する図である。モデル取得部３１は、モデル記憶部１８に記憶されている分類器およびモデルパラメータを取得する（ステップＳ４１）。次に、予測用入力データ取得部３２は、センサデータ取得部１１から、予測用の入力データを取得する（ステップＳ４２）。予測用の入力データは、モデル生成用データ以降の入力データである。 Next, the details of the processing of the prediction device 200 will be described with reference to FIGS. 4 (a) and 9 (a). FIG. 9A is a diagram illustrating a flowchart showing the processing of the prediction device 200. The model acquisition unit 31 acquires the classifier and model parameters stored in the model storage unit 18 (step S41). Next, the prediction input data acquisition unit 32 acquires the prediction input data from the sensor data acquisition unit 11 (step S42). The input data for prediction is the input data after the model generation data.

次に、予測計算部３３は、分類器を用いて、予測用の入力データを各モデルに分類する（ステップＳ４３）。次に、予測計算部３３は、各モデルに分類された予測用の入力データに対してモデルパラメータを適用することで、出力データの予測値を計算する（ステップＳ４４）。予測計算部３３は、計算された予測値を予測値記憶部３４に記憶する（ステップＳ４５）。 Next, the prediction calculation unit 33 classifies the input data for prediction into each model by using the classifier (step S43). Next, the prediction calculation unit 33 calculates the prediction value of the output data by applying the model parameters to the input data for prediction classified into each model (step S44). The prediction calculation unit 33 stores the calculated predicted value in the prediction value storage unit 34 (step S45).

次に、図４（ａ）および図９（ｂ）を参照しつつ、監視システム３００の処理の詳細について説明する。図９（ｂ）は、監視システム３００の処理を表すフローチャートを例示する図である。判定部４０は、センサデータ取得部１１から、ステップＳ４２で取得された入力データに対応する出力データ（測定値）を取得し、予測値記憶部３４に記憶された予測値を取得する（ステップＳ５１）。 Next, the details of the processing of the monitoring system 300 will be described with reference to FIGS. 4 (a) and 9 (b). FIG. 9B is a diagram illustrating a flowchart showing the processing of the monitoring system 300. The determination unit 40 acquires the output data (measured value) corresponding to the input data acquired in step S42 from the sensor data acquisition unit 11, and acquires the predicted value stored in the predicted value storage unit 34 (step S51). ).

次に、判定部４０は、測定値と予測値との乖離度がしきい値以上となっているか否かを判定する（ステップＳ５２）。例えば、しきい値として、３σなどの統計値を用いることができる。ステップＳ５２で「Ｎｏ」と判定された場合、判定部４０は、正常に係る情報を出力する（ステップＳ５３）。ステップＳ５２で「Ｙｅｓ」と判定された場合、判定部４０は、異常に係る情報を出力する（ステップＳ５４）。 Next, the determination unit 40 determines whether or not the degree of deviation between the measured value and the predicted value is equal to or greater than the threshold value (step S52). For example, a statistical value such as 3σ can be used as the threshold value. If "No" is determined in step S52, the determination unit 40 outputs information related to normality (step S53). If it is determined as "Yes" in step S52, the determination unit 40 outputs information related to the abnormality (step S54).

本実施例によれば、複数の入出力データのうち一部に、所属するモードのラベルが付加される。このラベルが付加された入出力データを用いて当該複数の入出力データを各モードに分類するクラスタリングを行うため、ラベルが付加された入出力データを事前知識として用いることができる。それにより、事前知識を用いない場合と比較して、クラスタリング精度が向上する。その結果、モデル同定精度を高くすることができる。また、モデル同定精度が高くなることで、分離超平面およびモデルパラメータの推定精度が向上する。それにより、未知の入力データに対する出力データの予測値の予測精度が向上する。その結果、予測値と実測値との乖離度に基づく異常判断の予測精度が向上する。 According to this embodiment, a label of the mode to which the input / output data belongs is added to a part of the plurality of input / output data. Since the clustering is performed to classify the plurality of input / output data into each mode using the input / output data to which the label is attached, the input / output data to which the label is attached can be used as prior knowledge. As a result, the clustering accuracy is improved as compared with the case where prior knowledge is not used. As a result, the model identification accuracy can be improved. In addition, the higher model identification accuracy improves the estimation accuracy of the separated hyperplane and model parameters. As a result, the prediction accuracy of the predicted value of the output data with respect to the unknown input data is improved. As a result, the prediction accuracy of abnormality judgment based on the degree of deviation between the predicted value and the measured value is improved.

図１０（ａ）〜図１０（ｄ）は、シミュレーション結果を例示する図である。図１０（ａ）は、センサデータにラベルを付加せずにクラスタリングを行った場合の結果である。図１０（ａ）で例示するように、センサデータにラベルを付加しなかった場合には、線形に大きくなって途中から線形に小さくなる入出力データ群がモード１に分類され、さらに線形に大きくなる入出力データ群がモード２に分類されている。図１０（ｂ）は、一部のセンサデータにラベルを付加してクラスタリングを行った場合の結果である。図１０（ｂ）で例示するように、途中で途切れているものの線形に大きくなる入出力データ群がモード１に分類され、線形に小さくなる入出力データ群がモード２に分類されている。図１０（ｂ）の結果が正しいクラスタリングの結果である。 10 (a) to 10 (d) are diagrams illustrating simulation results. FIG. 10A shows the result when clustering was performed without adding a label to the sensor data. As illustrated in FIG. 10A, when no label is added to the sensor data, the input / output data group that increases linearly and decreases linearly from the middle is classified into mode 1, and is further linearly increased. The input / output data group is classified into mode 2. FIG. 10B shows the results when clustering is performed by adding labels to some sensor data. As illustrated in FIG. 10B, the input / output data group that is interrupted in the middle but becomes linearly large is classified into mode 1, and the input / output data group that becomes linearly small is classified into mode 2. The result of FIG. 10B is the result of correct clustering.

このクラスタリングの結果に基づいて分類器を作成し、モデルパラメータを推定した。そして、分類器を用いて未知の入力データを各モデルに分類し、各モデルのモデルパラメータを用いて当該入力データに対する出力データを予測した。図１０（ｃ）は、図１０（ａ）の結果を用いた場合の予測値および実測値を表す。図１０（ｄ）は、図１０（ｂ）の結果を用いた場合の予測値および実測値を表す。予測値と実測値との誤差として、ＲＭＳＥ（二乗平均平方根誤差）を算出した。図１０（ｃ）の例では、ＲＭＳＥが０．６４となった。図１０（ｄ）の例では、ＲＭＳＥが０．１３となった。未知の異なる入力データに対して合計で１０回にわたって出力データを予測したところ、センサデータにラベルを付加しなかった場合にはＲＭＳＥが平均で６．５１となった。センサデータにラベルを付加した場合にはＲＭＳＥが平均で０．６０となった。このように、センサデータにラベルを付加した場合には、予測精度が９０．１％向上した。 A classifier was created based on the results of this clustering, and model parameters were estimated. Then, the unknown input data was classified into each model using a classifier, and the output data for the input data was predicted using the model parameters of each model. FIG. 10 (c) shows a predicted value and an actually measured value when the result of FIG. 10 (a) is used. FIG. 10 (d) shows a predicted value and an actually measured value when the result of FIG. 10 (b) is used. RMSE (Root Mean Square Error) was calculated as the error between the predicted value and the measured value. In the example of FIG. 10 (c), the RMSE was 0.64. In the example of FIG. 10D, the RMSE was 0.13. When the output data was predicted 10 times in total for different unknown input data, the RMSE averaged 6.51 when the sensor data was not labeled. When a label was added to the sensor data, the RMSE averaged 0.60. As described above, when the label was added to the sensor data, the prediction accuracy was improved by 90.1%.

なお、上記例において、例えば、入力データは所定の設備の機器への入力値であり、出力データは当該設備に備わるセンサの出力値である。具体的には、入力データは所定のプラントにおける温度制御機器に対する入力値であり、出力データは当該プラントの温度センサの出力値である。ただし、入力データと出力データとは、互いに因果関係を有するものであれば、特に限定されるものではない。例えば、入力データは所定のセンサの出力値であり、出力データは当該センサの出力値に対して因果関係を有する他のセンサの出力値であってもよい。 In the above example, for example, the input data is an input value to a device of a predetermined facility, and the output data is an output value of a sensor provided in the facility. Specifically, the input data is an input value for the temperature control device in a predetermined plant, and the output data is an output value of the temperature sensor of the plant. However, the input data and the output data are not particularly limited as long as they have a causal relationship with each other. For example, the input data may be the output value of a predetermined sensor, and the output data may be the output value of another sensor having a causal relationship with the output value of the sensor.

上記各例において、ラベル付加部２０が、複数の入出力データのうち一部に、所属するモードのラベルを付加するラベル付加部の一例として機能する。クラスタリング計算部１５が、前記ラベルが付加された入出力データを用いて前記複数の入出力データを各モードに分類するクラスタリングを行うクラスタリング部の一例として機能する。モデルパラメータ推定部１６が、前記クラスタリングの結果に基づいて、各モードの数理モデルのパラメータを推定するパラメータ推定部の一例として機能する。分離超平面推定部１７が、前記クラスタリングの結果に基づいて、入力データを前記数理モデルのそれぞれに分類するための分離超平面を推定する分離超平面推定部の一例として機能する。予測計算部３３が、前記分離超平面推定部が推定した前記分離超平面を用いて入力データを前記数理モデルのそれぞれに分類し、前記数理モデルのそれぞれに分類された前記入力データに前記数理モデルのパラメータを適用することで、前記入力データに対する出力データの予測値を計算する計算部の一例として機能する。判定部４０が、前記計算部が計算した予測値と、前記入力データに対する出力データの実測値と、の乖離度が閾値を超えるか否かを判定する判定部の一例として機能する。 In each of the above examples, the label addition unit 20 functions as an example of the label addition unit that adds the label of the mode to which the label belongs to a part of the plurality of input / output data. The clustering calculation unit 15 functions as an example of a clustering unit that performs clustering that classifies the plurality of input / output data into each mode using the input / output data to which the label is attached. The model parameter estimation unit 16 functions as an example of a parameter estimation unit that estimates the parameters of the mathematical model of each mode based on the result of the clustering. The separation hyperplane estimation unit 17 functions as an example of the separation hyperplane estimation unit that estimates the separation hyperplane for classifying the input data into each of the mathematical models based on the result of the clustering. The prediction calculation unit 33 classifies the input data into each of the mathematical models using the separated superplane estimated by the separated superplane estimation unit, and the mathematical model is added to the input data classified into each of the mathematical models. By applying the parameters of, it functions as an example of a calculation unit that calculates a predicted value of output data with respect to the input data. The determination unit 40 functions as an example of a determination unit that determines whether or not the degree of deviation between the predicted value calculated by the calculation unit and the actually measured value of the output data with respect to the input data exceeds the threshold value.

以上、本発明の実施例について詳述したが、本発明は係る特定の実施例に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。 Although the examples of the present invention have been described in detail above, the present invention is not limited to the specific examples, and various modifications and modifications are made within the scope of the gist of the present invention described in the claims. It can be changed.

１１センサデータ取得部
１２センサデータ記憶部
１３モデル生成用データ取得部
１４ラベルデータ統合部
１５クラスタリング計算部
１６モデルパラメータ推定部
１７分離超平面推定部
１８モデル記憶部
２０ラベル付加部
２１指標データ取得部
２２指標データ表示部
２３ラベル情報取得部
２４ラベルデータ作成部
３１モデル取得部
３２予測用入力データ取得部
３３予測計算部
３４予測値記憶部
４０判定部
１００モデル同定装置
２００予測装置
３００監視システム 11 Sensor data acquisition unit 12 Sensor data storage unit 13 Model generation data acquisition unit 14 Label data integration unit 15 Clustering calculation unit 16 Model parameter estimation unit 17 Separated superplane estimation unit 18 Model storage unit 20 Label addition unit 21 Index data acquisition unit 22 Index data display unit 23 Label information acquisition unit 24 Label data creation unit 31 Model acquisition unit 32 Prediction input data acquisition unit 33 Prediction calculation unit 34 Prediction value storage unit 40 Judgment unit 100 Model identification device 200 Prediction device 300 Monitoring system

Claims

A label addition part that adds a label of the mode to which it belongs to a part of multiple input / output data,
Using the input / output data with the label attached, clustering is performed to classify the input / output data with the label and the input / output data without the label among the plurality of input / output data into each mode. The clustering part to be performed and
A parameter estimation unit that estimates the parameters of the mathematical model of each mode based on the result of the clustering,
A separated hyperplane estimation unit for estimating a separated hyperplane for classifying input data into each of the mathematical models based on the result of the clustering is provided .
The clustering unit is based on the similarity between the labeled input / output data and the unlabeled input / output data, and the similarity between the unlabeled input / output data. , High degree of similarity to the input / output data to which the label is attached So that the degree of similarity between the input / output data to which the label is not attached is high, and similarity to the input / output data to which the label is attached. The plurality of input / output data having a low degree of similarity between the unlabeled input / output data and the unlabeled input / output data in the vicinity of the unlabeled input / output data are increased. A model identification device characterized by clustering input / output data.

The input data is classified into each of the mathematical models using the separated superplane estimated by the separated superplane estimation unit of the model identification device according to claim 1, and the input data classified into each of the mathematical models. A prediction device comprising a calculation unit that calculates a predicted value of output data with respect to the input data by applying the parameters of the mathematical model to the above.

A determination unit for determining whether or not the degree of deviation between the predicted value calculated by the calculation unit of the prediction device according to claim 2 and the actually measured value of the output data with respect to the input data exceeds a threshold value is provided. Monitoring system.

To some of the plurality of input and output data, it appends the label belongs to mode,
Using the input / output data with the label attached, clustering is performed to classify the input / output data with the label and the input / output data without the label among the plurality of input / output data into each mode. There line,
Based on the results of the clustering to estimate the parameters of the mathematical model of each mode,
Based on the results of the clustering to estimate the separating hyperplane for classifying each of said mathematical model input data, process the computer has performed,
When performing the clustering, the similarity between the input / output data to which the label is attached and the input / output data to which the label is not attached, and the similarity between the input / output data to which the label is not attached are determined. Based on this, the degree of similarity with the input / output data to which the label is attached is high so that the degree of similarity between the input / output data without the label is high, and the degree of similarity with the input / output data to which the label is attached is high. The similarity between the unlabeled input / output data and the unlabeled input / output data in the vicinity of the unlabeled input / output data is high. A model identification method characterized by clustering a plurality of input / output data.

The input data is classified into each of the mathematical models using the separated hyperplane estimated by the model identification method according to claim 4, and the parameters of the mathematical model are added to the input data classified into each of the mathematical models. A prediction method, characterized in that a computer executes a process of calculating a predicted value of output data with respect to the input data by applying.