JPH11338848A - Data abnormality detector - Google Patents

Data abnormality detector

Info

Publication number
JPH11338848A
JPH11338848A JP14430698A JP14430698A JPH11338848A JP H11338848 A JPH11338848 A JP H11338848A JP 14430698 A JP14430698 A JP 14430698A JP 14430698 A JP14430698 A JP 14430698A JP H11338848 A JPH11338848 A JP H11338848A
Authority
JP
Japan
Prior art keywords
data
normal
distance
abnormality
normal state
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP14430698A
Other languages
Japanese (ja)
Inventor
Kenji Goto
賢治 後藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fuji Electric Co Ltd
FFC Ltd
Original Assignee
Fuji Electric Co Ltd
FFC Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Electric Co Ltd, FFC Ltd filed Critical Fuji Electric Co Ltd
Priority to JP14430698A priority Critical patent/JPH11338848A/en
Publication of JPH11338848A publication Critical patent/JPH11338848A/en
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G06F18/2137Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on criteria of topology preservation, e.g. multidimensional scaling or self-organising maps
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/243Classification techniques relating to the number of classes
    • G06F18/2433Single-class perspective, e.g. one-against-all classification; Novelty detection; Outlier detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Testing And Monitoring For Control Systems (AREA)
  • Alarm Systems (AREA)

Abstract

PROBLEM TO BE SOLVED: To easily and surely detect abnormality in unknown data. SOLUTION: As data for monitor in a normal state of an object plant P, normal data are previously collected and based on these normal data, the feature of the normal data is extracted while using a self-organized map. Based on this feature, a feature map expressing the relation of a distance between respective output units is formed and stored as a normal. state model. When unknown input data are inputted, based on these input data and the normal state model, an external distance dext expressing a distance between the input data and the weight vector of each output unit is found, and an internal distance dint is found as the minimum value of a distance between the output unit in this minimum external distance dext and the nearby output unit, and on the condition of internal distance dint < external distance dext , the possibility of abnormality in the input data is judged.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】この発明は、バッチプラン
ト,連続系プラント等において、これらプラントにおけ
る所定の監視用データをもとに対象プラントの異常検出
を行うようにしたデータ異常検出装置に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a data abnormality detecting apparatus for detecting an abnormality in a target plant in a batch plant, a continuous plant or the like based on predetermined monitoring data in these plants.

【0002】[0002]

【従来の技術】従来、バッチプラント,連続系プラント
等において、異常予測,診断のような異常検出を行う場
合等には、例えば監視対象プラントに設けたセンサ等か
ら監視用データを収集してこれを分析し、例えば予め設
定している異常判定用のしきい値と比較すること等によ
って、異常が発生しているかどうか、或いは異常が発生
する兆候であるかどうか等を判断するようにしている。
2. Description of the Related Art Conventionally, in the case of performing abnormality detection such as abnormality prediction and diagnosis in a batch plant, a continuous system plant, or the like, for example, monitoring data is collected from a sensor or the like provided in a plant to be monitored. Is analyzed and, for example, is compared with a preset threshold value for abnormality determination to determine whether an abnormality has occurred or whether it is a sign of the occurrence of an abnormality. .

【0003】[0003]

【発明が解決しようとする課題】しかしながら、上記従
来の方法では、異常検出の対象となる監視用データを直
接計測することは困難な場合が多い。そのため、通常の
固定化したしきい値をもとに異常検出を行う方法では、
確実に異常検出を行うために、各種センサ毎にしきい値
を厳しく設定しているから、実際には異常でない場合で
も異常として検出する場合があり、異常の検出回数が増
加する。このために、オペレータは適切な判断を行うこ
とが困難になり、異常の確認作業が増大し、誤確認によ
るミスが発生しやすくなるという問題がある。
However, in the above-mentioned conventional method, it is often difficult to directly measure monitoring data to be detected. Therefore, in the method of performing abnormality detection based on the normal fixed threshold,
In order to reliably detect the abnormality, the threshold value is set strictly for each sensor. Therefore, even if the sensor is not actually abnormal, it may be detected as an abnormality, and the number of times the abnormality is detected increases. For this reason, it is difficult for the operator to make an appropriate determination, and there is a problem that an error check operation increases, and an error due to an erroneous check easily occurs.

【0004】これを回避するためには、互いに関連する
監視用データを含めた総合的な判断方法の開発が必要と
なるが、関連する監視用データが把握されても、それぞ
れの値そのものの判断やこれら監視用データから対象プ
ラントを総合的に判断する上において、明確な判断基準
を定義することは難しい。
In order to avoid this, it is necessary to develop a comprehensive judgment method including monitoring data related to each other, but even if the related monitoring data is grasped, judgment of each value itself is performed. It is difficult to define a clear criterion for comprehensively judging the target plant from these monitoring data.

【0005】また、前述の異常検出用のしきい値を設定
する際には、多種多様な異常状態に対する学習用のデー
タを予め収集して蓄積し、これを分析して作成したデー
タベースをもとにしているため、例えば事前に異常状態
のデータを用意することの困難な対象プラントに対して
は、しきい値をもとに異常検出を行う方法を利用するこ
とができないという問題がある。
Further, when setting the above-mentioned threshold value for abnormality detection, learning data for various abnormal states is collected and stored in advance, and a database created by analyzing the data is created. Therefore, for example, for a target plant for which it is difficult to prepare data of an abnormal state in advance, there is a problem that a method of performing abnormality detection based on a threshold cannot be used.

【0006】そこで、この発明は、上記従来の問題点に
着目してなされたものであり、未知のデータの異常検出
を容易確実に行うことの可能なデータ異常検出装置を提
供することを目的としている。
The present invention has been made in view of the above-mentioned conventional problems, and has as its object to provide a data abnormality detecting device capable of easily and surely detecting unknown data abnormalities. I have.

【0007】[0007]

【課題を解決するための手段】上記目的を達成するため
に、本発明に係るデータ異常検出装置は、予め収集した
正常データをもとに、教師なし学習を行うニューラルネ
ットワークを用いて正常データの特徴を抽出し、これを
正常状態モデルとしてモデル記憶手段に格納する特徴抽
出手段と、未知の入力データと前記正常状態モデルとに
基づき、前記入力データを正常とみなすことの可能な正
常判定基準値を動的に検出する正常判定基準値検出手段
と、前記入力データと前記正常状態モデルとに基づき、
前記入力データの異常判定のための判定値を演算する判
定値演算手段と、前記正常判定基準値と前記判定値とに
基づいて正常状態から乖離した異常状態を検出すること
により前記入力データの異常検出を行う異常検出手段
と、を備えることを特徴としている。
In order to achieve the above object, a data abnormality detection device according to the present invention uses a neural network for performing unsupervised learning based on previously collected normal data. A feature extracting unit that extracts a feature and stores the feature in a model storage unit as a normal state model; and a normality determination reference value that can be regarded as normal based on the unknown input data and the normal state model. Based on the input data and the normal state model,
A judgment value calculating means for calculating a judgment value for judging an abnormality of the input data; and detecting an abnormal state deviating from a normal state based on the normal judgment reference value and the judgment value to thereby detect an abnormality of the input data. Abnormality detecting means for performing detection.

【0008】この発明では、予め収集した正常データを
もとに、例えば自己組織化マップを用いる等、教師なし
学習を行うニューラルネットークを用いることによっ
て、正常データの特徴が抽出され、これに基づき正常状
態モデルが形成されて記憶される。そして、正常なデー
タであるのか異常なデータであるのか不明な未知の入力
データと正常状態モデルとに基づいて、入力データを正
常とみなすことの可能な正常判定基準値が検出されると
共に、入力データの異常判定のための判定値が算出され
る。そして正常判定基準値と判定値とに基づいて正常状
態から乖離した異常状態を検出することによって、入力
データの異常検出が行われる。したがって、正常状態モ
デルに基づいて入力データに応じた正常判定基準値が動
的に設定されこれに基づき異常検出が行われるから、入
力データの異常を動的に判断することが可能となる。
In the present invention, features of normal data are extracted by using a neural network that performs unsupervised learning, for example, by using a self-organizing map, based on normal data collected in advance, and based on the extracted normal data, A state model is formed and stored. Then, based on the unknown input data and the normal state model, which is unknown whether the data is normal data or abnormal data, a normality determination reference value that can be regarded as normal for the input data is detected, and A determination value for determining data abnormality is calculated. Then, an abnormality in the input data is detected by detecting an abnormal state deviating from the normal state based on the normality determination reference value and the determination value. Therefore, the normality criterion value corresponding to the input data is dynamically set based on the normal state model, and the abnormality is detected based on the reference value. Therefore, it is possible to dynamically determine the abnormality of the input data.

【0009】[0009]

【発明の実施の形態】以下に、本発明の実施の形態を説
明する。図1は、本発明によるデータ異常検出装置の一
例を示したものであり、このデータ異常検出装置100
は、バッチプラント,連続系プラント等のデータ異常検
出対象の対象プラントPが正常状態であるときに収集し
た、例えば対象プラントPに設けたセンサからの検出信
号など、予め設定された観測用のデータを記憶するデー
タベース等の観測値格納装置1と、観測値格納装置1に
格納された正常データをもとに自己組織化マップを用い
て正常データの特徴を抽出し、これに基づいて正常状態
モデルを生成しこれを正常状態モデル格納装置3に格納
する特徴抽出装置2と、正常状態モデル格納装置3に格
納された正常状態モデルをもとに対象プラントPの所定
の監視用データの異常検出を行う異常検知装置4と、異
常検知装置4で異常を検出したときに異常表示を行うた
めのCRTディスプレイ等の表示装置5とから構成され
ている。
Embodiments of the present invention will be described below. FIG. 1 shows an example of a data abnormality detection device according to the present invention.
Is a preset observation data such as a detection signal from a sensor provided in the target plant P, which is collected when the target plant P of the data abnormality detection target such as a batch plant or a continuous plant is in a normal state. A feature of normal data is extracted by using a self-organizing map based on an observation value storage device 1 such as a database for storing the normal data and a normal data stored in the observation value storage device 1, and a normal state model is And a feature extraction device 2 for storing the same in the normal state model storage device 3, and an abnormality detection of predetermined monitoring data of the target plant P based on the normal state model stored in the normal state model storage device 3. The apparatus comprises an abnormality detection device 4 for performing the operation and a display device 5 such as a CRT display for displaying an abnormality when the abnormality detection device 4 detects an abnormality.

【0010】前記特徴抽出装置2は、マイクロコンピュ
ータ等で構成され、例えばコホーネンの自己組織化マッ
プ等による教師なし学習を行うニューラルネットワーク
を用いて、観測用データのみに基づいて内部構造を外界
に適応させる自己組織化処理を行う。そしてこの処理に
よって形成された出力層において、多次元の監視用デー
タがどの出力ユニットに最大反応を起こすかを調べて各
出力ユニットの特徴付けを行う。
The feature extraction device 2 is composed of a microcomputer or the like, and uses, for example, a neural network for performing unsupervised learning using a Kohonen self-organizing map or the like, and adapts the internal structure to the outside world based on only observation data. Perform a self-organization process that causes Then, in the output layer formed by this processing, it is examined which output unit causes the maximum response of the multidimensional monitoring data to characterize each output unit.

【0011】自己組織化マップは、基本的には図2に示
すように、入力層と出力層との二層構造ネットワークで
あり、入力層と出力層とが重みベクトルwによって結合
されるようになっている。特徴抽出装置2では、図3に
示す、公知のコホーネンのネットワークアルゴリズムに
したがって処理を行う。
The self-organizing map is basically a two-layer network composed of an input layer and an output layer, as shown in FIG. 2, so that the input layer and the output layer are connected by a weight vector w. Has become. The feature extraction device 2 performs processing according to the known Kohonen network algorithm shown in FIG.

【0012】すなわち、まず、ステップS1で、入力層
と出力層との間の重みベクトルwの初期値を乱数を用い
て小さな値に設定する。次に、ステップS2で、観測値
格納装置1に格納されている正常な監視用データである
正常データを入力ベクトルx(x=(x1 ,x2
3 ,……xn ))として入力層に入力する。
That is, first, in step S1, the initial value of the weight vector w between the input layer and the output layer is set to a small value using random numbers. Next, in step S2, the normal data that is the normal monitoring data stored in the observation value storage device 1 is converted into the input vector x (x = (x 1 , x 2 ,
x 3 ,... x n )) are input to the input layer.

【0013】次に、ステップS3で、出力層の各出力ユ
ニットnj の重みベクトルwj と入力ベクトルxとの距
離を計算する。出力層のj番目の出力ユニットnj の重
みベクトルwj と入力ベクトルxとの距離dj は次式
(1)で与えられる。なお、式中のwijは入力層のi番
目の入力ユニットと出力層のj番目の出力ユニットとの
間の重みを表す。また、tは離散時間座標である。
[0013] Next, in step S3, calculates the distance between the weight vector w j and the input vector x of the output units n j in the output layer. The distance d j between the weight vector w j and the input vector x of the j-th output unit n j of the output layer is given by the following equation (1). Note that w ij in the expression represents the weight between the i-th input unit in the input layer and the j-th output unit in the output layer. Further, t is a discrete time coordinate.

【0014】 i=1次に、ステップS4で、重みベクトルwj と入力ベ
クトルxとの距離dj が最小となる出力ユニットを選択
し、これを勝者ユニットnj*とする。
[0014] i = 1 Then, in step S4, selects the output unit distance d j between the weight vector w j and the input vector x is minimized, this is the winner unit n j *.

【0015】次に、ステップS5で、次式(2)にした
がって、勝者ユニットnj*と近傍関数Nj*(t)とによ
って定義される勝者ユニットnj*の近傍の出力ユニット
と入力ユニットとの間の重みwijを更新する。
Next, in step S5, according to the following equation (2), an output unit and an input unit near the winner unit n j * defined by the winner unit n j * and the neighborhood function N j * (t). Is updated.

【0016】 wij(t+1)=wij(t)+η(t)〔xi (t)−wij(t)〕 ……(2) なお、前記近傍関数Nj*で定まる近傍領域は、図4に示
すように、学習の初期は広く、学習の進行と共に狭くな
っていくようになっている。また、式(2)中のη
(t)は、近傍関数Nj*(t)で指定される近傍領域内
の出力ユニットに関して距離を検出する場合にはη
(t)=α(t),近傍関数Nj*(t)で指定される近
傍領域外の出力ユニットに関して距離を検出する場合に
はη(t)=0となる値であり、つまり、近傍関数Nj*
(t)で指定される近傍領域外の出力ユニットに関して
はその重みベクトルの更新を行わないようになってい
る。また、前記α(t)(0<α(t)<1)は、学習
係数であって学習の進行と共に単調減少させるようにな
っている。
[0016] w ij (t + 1) = w ij (t) + η (t) [x i (t) -w ij ( t) ] .... (2) In addition, the vicinity region defined by the neighborhood function N j * is As shown in FIG. 4, the initial stage of the learning is wide and narrows as the learning progresses. Also, η in equation (2)
(T) is η when detecting the distance with respect to the output unit in the neighborhood area specified by the neighborhood function N j * (t).
(T) = α (t), when detecting the distance with respect to the output unit outside the neighborhood area specified by the neighborhood function N j * (t), the value becomes η (t) = 0, that is, Function N j *
The weight vector is not updated for an output unit outside the neighborhood specified by (t). Further, α (t) (0 <α (t) <1) is a learning coefficient, which is monotonously reduced as learning progresses.

【0017】そして、観測値格納装置1に格納されてい
る正常データに対して所定の処理が終了したとき(ステ
ップS6)、処理を終了する。これによって、教師なし
学習により正常データの特徴を表す自己組織化マップが
形成される。この自己組織化マップでは、勝者ユニット
j*及び近傍関数Nj*により特定される近傍ユニットは
全てその時の入力ベクトルに近づくようになっている。
そして、学習の初期は、近傍関数Nj*によって多くの出
力ユニットが近傍ユニットと見なされて大まかなマップ
が形成されるが、学習の進行と共に、近傍関数Nj*によ
り勝者ユニットnj*の近傍ユニットとみなされる出力ユ
ニットが減少し、局所的な微調整が進んで空間的な解像
度が向上するようになっている。
Then, when predetermined processing is completed for the normal data stored in the observation value storage device 1 (step S6), the processing is terminated. As a result, a self-organizing map representing the characteristics of normal data is formed by unsupervised learning. In this self-organizing map, the neighboring units specified by the winner unit n j * and the neighboring function N j * all approach the input vector at that time.
At the beginning of learning, many output units are regarded as neighboring units by the neighborhood function N j * , and a rough map is formed. However, as the learning progresses, the neighborhood unit N j * determines the winner unit n j * . The number of output units regarded as neighboring units is reduced, and local fine adjustment is advanced to improve spatial resolution.

【0018】さらに、特徴抽出装置2では、図3に示す
アルゴリズムにしたがって学習した結果得られた正常デ
ータに対応する自己組織化マップに基づいて、各出力ユ
ニットの重みベクトルwj をもとに、各出力ユニット間
の距離関係を算出し、出力ユニット間の距離関係を示す
正常データの分布形を表す特徴マップを形成し、各出力
ユニットの重みベクトルwj と共に特徴マップを正常状
態モデルとして正常状態モデル格納装置3に記憶する。
図5は、図3に示す教師なし学習のアルゴリズムにした
がって、33個の正常データをもとに学習を行い、正常
状態モデルとして自己組織化マップの出力ユニット間の
距離を算出し、その距離関係を階調度の濃淡により表し
たものである。近接した重みベクトル間の平均距離が小
さいときには薄い色合い,逆に平均距離が大きいならば
濃い色合いを用いており、これによりクラスター間の峡
谷を明白に示すようにしている。
Further, in the feature extracting device 2, based on the self-organizing map corresponding to the normal data obtained as a result of learning according to the algorithm shown in FIG. 3, based on the weight vector w j of each output unit, calculates the distance relationship between the output units, forming a characteristic map representing the distribution form of the normal data indicating the distance relationship between the output units, the normal state feature map as a normal state model with weight vector w j of each output unit It is stored in the model storage device 3.
FIG. 5 is a diagram illustrating learning based on 33 pieces of normal data according to the algorithm of unsupervised learning shown in FIG. 3, calculating a distance between output units of a self-organizing map as a normal state model, and determining the distance relationship. Is represented by the gradation of the gradation. When the average distance between adjacent weight vectors is small, a light color is used, and when the average distance is large, a dark color is used, so that the gorge between clusters is clearly shown.

【0019】一方、前記異常検知装置4では、稼働中の
対象プラントPに設けた各種センサからの多次元の監視
用データを入力し、この監視用データと正常状態モデル
格納装置3に格納されている正常状態モデルとをもと
に、図6に示すフローチャートにしたがって、監視用デ
ータの異常検出を行う。
On the other hand, the abnormality detection device 4 receives multidimensional monitoring data from various sensors provided in the operating target plant P, and stores the monitoring data and the normal state model storage device 3. Based on the normal state model, the abnormality of the monitoring data is detected according to the flowchart shown in FIG.

【0020】すなわち、まず、ステップS11で、対象
プラントPに設けた各種センサからの多次元の監視用デ
ータを異常検出のための入力データ(入力ベクトル)x
(x=(x1 ,x2 ,x3 ,……xn ))として入力す
る。
That is, first, in step S11, multidimensional monitoring data from various sensors provided in the target plant P is converted into input data (input vector) x for abnormality detection.
(X = (x 1 , x 2 , x 3 ,..., X n )).

【0021】次いで、ステップS12で、次式(3)に
したがって入力ベクトルxと、正常状態モデルの各出力
ユニットnj の重みベクトルwj-M との間の距離である
外部距離dext を算出する。なお、式中のwij-Mは、正
常状態モデルにおける入力ユニット及び出力ユニット間
の重みである。
Next, in step S12, an external distance d ext which is a distance between the input vector x and the weight vector w jM of each output unit n j of the normal state model is calculated according to the following equation (3). Note that w ij-M in the equation is a weight between the input unit and the output unit in the normal state model.

【0022】 次いで、ステップS13で、ステップS12で算出した
各出力ユニットnj 毎の外部距離dext が最小となる出
力ユニットnj を検索し、これを勝者ユニットnj*′と
して仮定する。
[0022] Then, in step S13, searches the output unit n j to the external distance d ext of each output unit n j calculated in step S12 is minimum is assumed this as a winner unit n j * '.

【0023】次いで、ステップS14で、正常状態モデ
ルにおいて、例えば図7に示す勝者ユニットnj*′の第
1近傍領域内の全ての出力ユニットに対して、次式
(4)にしたがって内部距離dint を算出する。すなわ
ち、正常状態モデルにおいて勝者ユニットnj*′の重み
ベクトルwj*-M及びこれと隣接する出力ユニットの重み
ベクトルwj-M との間の平均距離を演算し、出力ユニッ
ト間の平均距離のうちの最大値を内部距離dint として
設定する。
Next, in step S14, in the normal state model, for example, for all output units in the first neighboring area of the winner unit n j * 'shown in FIG. Calculate int . That is, in the normal state model, the average distance between the weight vector w j * -M of the winner unit n j * ′ and the weight vector w jM of the adjacent output unit is calculated. Is set as the internal distance d int .

【0024】 次いで、ステップS15で、外部距離dext が内部距離
int より大きいか否かを判定し、dext <dint であ
るときにはステップS16に移行し、表示装置5に異常
発生のメッセージを表示する等の所定の異常検出時の処
理を実行した後ステップS17に移行する。一方、ステ
ップS15で、dext <dint でないときには、そのま
まステップS17に移行し、例えばオペレータ等によっ
て、異常検出処理の終了指示が行われたか否かを判定
し、終了指示が行われないときにはステップS11に戻
って次の監視用データに対して上記と同様にして処理を
行う。そして、ステップS17で異常検出処理の終了指
示が行われたときには処理を終了する。
[0024] Next, in step S15, it is determined whether or not the external distance d ext is greater than the internal distance d int . If d ext <d int , the process proceeds to step S16, and a message indicating that an abnormality has occurred is displayed on the display device 5 or the like. After performing the processing at the time of the predetermined abnormality detection, the process proceeds to step S17. On the other hand, if d ext <d int in step S15, the process directly proceeds to step S17. For example, it is determined whether or not an operator or the like has issued an instruction to end the abnormality detection processing. Returning to S11, processing is performed on the next monitoring data in the same manner as described above. Then, when an instruction to end the abnormality detection processing is issued in step S17, the processing ends.

【0025】ここで、正常状態モデル格納装置3がモデ
ル記憶手段に対応し、特徴抽出手段が特徴抽出装置2に
対応し、内部距離dint が正常判定基準値に対応し、図
6のステップS14の処理が正常判定基準値検出手段に
対応し、外部距離dext が判定値に対応し、図6のステ
ップS12の処理が判定値演算手段に対応し、図6のス
テップS15の処理が異常検出手段に対応している。
Here, the normal state model storage device 3 corresponds to the model storage device, the feature extraction device corresponds to the feature extraction device 2, the internal distance d int corresponds to the normality determination reference value, and step S14 in FIG. Corresponds to the normal determination reference value detection means, the external distance d ext corresponds to the determination value, the processing in step S12 in FIG. 6 corresponds to the determination value calculation means, and the processing in step S15 in FIG. It corresponds to the means.

【0026】次に、上記実施の形態の動作を説明する。
今、対象プラントPについてその異常検出を行うものと
すると、予め、対象プラントPが正常に稼働している状
態において、対象プラントPに設置した各種センサ等か
らの監視用データを収集する。そして、この収集した正
常データに基づいて特徴抽出装置2において、図3のフ
ローチャートにしたがって自己組織化マップを用いて特
徴抽出を行い、これをもとに図5に示すような重みベク
トル間の距離関係を表す特徴マップを形成して正常状態
モデルとして正常状態モデル格納装置3に格納してお
く。
Next, the operation of the above embodiment will be described.
Now, assuming that the abnormality detection is to be performed on the target plant P, monitoring data from various sensors and the like installed in the target plant P is collected in advance while the target plant P is operating normally. Then, based on the collected normal data, the feature extraction device 2 performs feature extraction using the self-organizing map according to the flowchart of FIG. 3, and based on the feature extraction distance between weight vectors as shown in FIG. A feature map representing the relationship is formed and stored in the normal state model storage device 3 as a normal state model.

【0027】そして、対象プラントPの異常検出を行う
場合には、まず、対象プラントPに設けた各種センサか
ら正常であるか異常であるのか不明な未知の監視用デー
タを入力ベクトルxとして入力し(ステップS11)、
正常状態モデル格納装置3に格納している正常状態モデ
ルと入力ベクトルxとをもとに前記式(3)に基づいて
外部距離dext を算出する。そして、この外部距離d
ext が最小となる出力ユニットnを勝者ユニットnj*
とし、前記式(4)に基づいて、内部距離dintを算出
する。そして、例えば、図7に示すように、近傍領域と
して勝者ユニットnj*′を囲む8つの出力ユニットを含
む第1近傍領域を設定すると、これら8つの出力ユニッ
トの重みベクトルwj と勝者ユニットnj*′の重みベク
トルwj*との平均距離を算出し、この平均距離の最大値
を内部距離dint として設定する。
When detecting an abnormality in the target plant P, first, unknown monitoring data that is unknown as to whether it is normal or abnormal is input as an input vector x from various sensors provided in the target plant P. (Step S11),
The external distance d ext is calculated based on the equation (3) based on the normal state model stored in the normal state model storage device 3 and the input vector x. And this external distance d
The output unit n that minimizes ext is the winner unit n j *
Then, the internal distance d int is calculated based on the equation (4). Then, as shown in FIG. 7, for example, when a first neighborhood area including eight output units surrounding the winner unit n j * ′ is set as the neighborhood area, the weight vector w j of these eight output units and the winner unit n The average distance between j * 'and the weight vector wj * is calculated, and the maximum value of the average distance is set as the internal distance dint .

【0028】ここで、入力ベクトルxが正常データであ
れば、この入力ベクトルxは正常状態モデルと同等の特
徴を有することになるから、正常状態モデルの各出力ユ
ニットの重みベクトル及び入力ベクトルxの距離である
外部距離dext が最小となる勝者ユニットnj*′と、こ
れの近傍の出力ユニットとの距離関係は、図5の出力ユ
ニット間の距離関係を表す特徴マップにおける距離関係
を満足することになる。
Here, if the input vector x is normal data, the input vector x has the same characteristics as the normal state model. Therefore, the weight vector of each output unit of the normal state model and the input vector x The distance relationship between the winner unit n j * ′ in which the external distance d ext is the minimum and the output unit in the vicinity thereof satisfies the distance relationship in the feature map indicating the distance relationship between the output units in FIG. Will be.

【0029】したがって、入力ベクトルxと正常状態モ
デルの重みベクトルとのずれの最小値である外部距離d
ext が、勝者ユニットnj*′とこの近傍の出力ユニット
との平均距離の最大値である内部距離dint 以下(内部
距離dint ≧外部距離dext)であれば、入力ベクトル
xは、正常状態モデルと同等の特徴を有するとみなすこ
とができ、入力ベクトルxは正常と判断される(ステッ
プS15)。
Therefore, the external distance d, which is the minimum value of the deviation between the input vector x and the weight vector of the normal state model,
If ext is equal to or less than the internal distance d int which is the maximum value of the average distance between the winner unit n j * 'and the output unit in the vicinity (internal distance d int ≧ external distance d ext ), the input vector x is normal It can be considered that the input vector x has the same characteristics as the state model, and the input vector x is determined to be normal (step S15).

【0030】逆に、内部距離dint <外部距離dext
あるときには、外部距離dext が、正常状態モデルに基
づいて算出される、入力ベクトルxが正常であるとみな
すことの可能な上限値である内部距離dint を越えるこ
とになるから、つまり、正常状態モデルと同等の特徴を
有していない可能性があるとみなされて、入力ベクトル
xは異常の可能性があると判断される(ステップS1
5)。そして、表示装置5にデータに異常が発生したこ
とが通知される。
Conversely, when the internal distance d int <the external distance d ext , the external distance d ext is calculated based on the normal state model and is the upper limit value at which the input vector x can be regarded as normal. since will exceed the internal distance d int is, i.e., are deemed likely to not have a normal state model equivalent features, it is determined that the input vector x is the possibility of abnormality (Step S1
5). Then, the display device 5 is notified that an abnormality has occurred in the data.

【0031】したがって、上述のように、予め収集した
各種の正常データをもとに、教師なし学習によって、正
常データの特徴を表す正常状態モデルを形成してこれに
基づき異常検出を行うようにしたから、複数種の監視用
データ毎に異常判断基準のしきい値を設定する必要がな
く、複数種の監視用データつまり多次元の監視用データ
である場合でもこれらを総合的に評価することができ
る。また、正常状態モデルを用いることによって入力さ
れる監視用データに応じて動的に判断基準値を変更する
ことができるから、対象プラントの稼働状態に応じて的
確な判断基準を設定することができ、多次元入力に関す
る総合的な異常検知をリアルタイムに実現することがで
きる。
Therefore, as described above, a normal state model representing the characteristics of normal data is formed by unsupervised learning based on various normal data collected in advance, and abnormality detection is performed based on the normal state model. Therefore, it is not necessary to set a threshold value of an abnormality judgment criterion for each of a plurality of types of monitoring data, and even when a plurality of types of monitoring data, that is, multi-dimensional monitoring data, these can be comprehensively evaluated. it can. In addition, since the criterion value can be dynamically changed according to the monitoring data input by using the normal state model, an accurate criterion can be set according to the operation state of the target plant. In addition, comprehensive abnormality detection relating to multidimensional input can be realized in real time.

【0032】また、正常状態モデルを形成するために
は、正常データさえあればよいから、例えば異常状態時
の監視用データを収集することができないようなプラン
トについても確実に異常検出を行うことができる。
In order to form a normal state model, only normal data is required. For example, it is necessary to reliably detect an abnormality even in a plant where monitoring data in an abnormal state cannot be collected. it can.

【0033】なお、上記実施の形態においては、外部距
離dext を、勝者ユニットnj*′と隣接する出力ユニッ
トである第1近傍領域内の出力ユニットに関して算出す
るようにした場合について説明したが、これに限るもの
ではなく、第1近傍領域よりも範囲の広い領域内の出力
ユニットに対して算出するようにしてもよく、この近傍
領域の範囲が広くなるほど、異常検出の検出誤差の許容
範囲が大きくなることになるから、例えば稼働状況等、
対象プラントPに応じて近傍領域の範囲を設定すれば効
果的である。
In the above embodiment, the case has been described in which the external distance d ext is calculated with respect to the output unit in the first neighboring area which is the output unit adjacent to the winner unit n j * '. However, the present invention is not limited to this, and the calculation may be performed for an output unit in an area wider than the first neighborhood area. Will increase, for example,
It is effective to set the range of the neighborhood area according to the target plant P.

【0034】また、上記実施の形態においては、プラン
トの異常を検出するようにした場合について説明した
が、これに限らず、例えば計算機間での授受データの異
常等を検出する場合等に適用することもできる。
Further, in the above-described embodiment, the case where the abnormality of the plant is detected has been described. However, the present invention is not limited to this, and is applied to, for example, the case of detecting the abnormality of the exchanged data between the computers. You can also.

【0035】ここで、上記実施の形態における、特徴抽
出装置2での教師なし学習時の処理及び異常検知装置4
での異常検出時の処理は、ROM,フレキシブルディス
ク,コンパクトディスク或いはハードディスク等の記憶
媒体に電子的に格納されており、特徴抽出装置2及び異
常検知装置4では、この記憶媒体からこれら処理プログ
ラムを読み出してこれを実行するようになっている。
Here, the processing at the time of unsupervised learning in the feature extracting device 2 and the abnormality detecting device 4 in the above embodiment.
The processing at the time of abnormality detection is electronically stored in a storage medium such as a ROM, a flexible disk, a compact disk, or a hard disk, and the feature extraction device 2 and the abnormality detection device 4 execute these processing programs from this storage medium. This is read out and executed.

【0036】[0036]

【発明の効果】以上説明したように、本発明のデータ異
常検出装置によれば、正常データに基づく教師なし学習
により形成した正常状態モデルに基づいて入力データに
応じた正常判定基準値を動的に設定し、これに基づいて
異常検出を行うようにしたから、入力データの異常判断
を動的に行うことができる。
As described above, according to the data abnormality detecting device of the present invention, the normality judgment reference value corresponding to the input data is dynamically determined based on the normal state model formed by the unsupervised learning based on the normal data. And abnormality detection is performed based on this, so that abnormality determination of input data can be performed dynamically.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明を適用したデータ異常検出装置の一例を
示す構成図である。
FIG. 1 is a configuration diagram illustrating an example of a data abnormality detection device to which the present invention has been applied.

【図2】自己組織化特徴マップの一例である。FIG. 2 is an example of a self-organizing feature map.

【図3】コホーネンのネットワークアルゴリズムを表す
フローチャートである。
FIG. 3 is a flowchart showing Kohonen's network algorithm.

【図4】近傍関数の一例を示す説明図である。FIG. 4 is an explanatory diagram illustrating an example of a neighborhood function.

【図5】出力ユニット間の距離関係を表す特徴マップの
一例である。
FIG. 5 is an example of a feature map representing a distance relationship between output units.

【図6】異常検知装置の処理手順の一例を示すフローチ
ャートである。
FIG. 6 is a flowchart illustrating an example of a processing procedure of the abnormality detection device.

【図7】 第1近傍領域を表す説明図である。FIG. 7 is an explanatory diagram illustrating a first neighborhood area.

【符号の説明】[Explanation of symbols]

1 観測値格納装置 2 特徴抽出装置 3 正常状態モデル格納装置 4 異常検知装置 5 表示装置 DESCRIPTION OF SYMBOLS 1 Observation value storage device 2 Feature extraction device 3 Normal state model storage device 4 Abnormality detection device 5 Display device

Claims (1)

【特許請求の範囲】[Claims] 【請求項1】 予め収集した正常データをもとに、教師
なし学習を行うニューラルネットワークを用いて正常デ
ータの特徴を抽出し、これを正常状態モデルとしてモデ
ル記憶手段に格納する特徴抽出手段と、 未知の入力データと前記正常状態モデルとに基づき、前
記入力データを正常とみなすことの可能な正常判定基準
値を動的に検出する正常判定基準値検出手段と、 前記入力データと前記正常状態モデルとに基づき、前記
入力データの異常判定のための判定値を演算する判定値
演算手段と、 前記正常判定基準値と前記判定値とに基づいて正常状態
から乖離した異常状態を検出することにより前記入力デ
ータの異常検出を行う異常検出手段と、を備えることを
特徴とするデータ異常検出装置。
1. A feature extracting unit that extracts features of normal data using a neural network that performs unsupervised learning based on previously collected normal data, and stores the features in a model storage unit as a normal state model. Based on unknown input data and the normal state model, a normality criterion value detecting means for dynamically detecting a normality criterion value capable of regarding the input data as normal, the input data and the normal state model A determination value calculating means for calculating a determination value for determining an abnormality in the input data, and detecting an abnormal state deviating from a normal state based on the normal determination reference value and the determination value. A data abnormality detection device comprising: abnormality detection means for detecting abnormality of input data.
JP14430698A 1998-05-26 1998-05-26 Data abnormality detector Pending JPH11338848A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP14430698A JPH11338848A (en) 1998-05-26 1998-05-26 Data abnormality detector

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP14430698A JPH11338848A (en) 1998-05-26 1998-05-26 Data abnormality detector

Publications (1)

Publication Number Publication Date
JPH11338848A true JPH11338848A (en) 1999-12-10

Family

ID=15359022

Family Applications (1)

Application Number Title Priority Date Filing Date
JP14430698A Pending JPH11338848A (en) 1998-05-26 1998-05-26 Data abnormality detector

Country Status (1)

Country Link
JP (1) JPH11338848A (en)

Cited By (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006504168A (en) * 2002-10-24 2006-02-02 リキューム ペイパー オユ Process monitoring / analysis methods
WO2006016440A1 (en) * 2004-08-13 2006-02-16 Shin Caterpillar Mitsubishi Ltd. Data processing method, data processing device, diagnosis method, and diagnosis device
EP1640894A1 (en) * 2003-06-30 2006-03-29 National University Corporation Kagawa University Information processor, state judging unit and diagnostic unit, information processing method, state judging method and diagnosing method
JP2006229148A (en) * 2005-02-21 2006-08-31 Tottori Univ Method of diagnosing deterioration of oil-immersed transformer
JP2006522396A (en) * 2003-03-31 2006-09-28 ブリティッシュ・テレコミュニケーションズ・パブリック・リミテッド・カンパニー Data analysis system and method
JP2007200044A (en) * 2006-01-26 2007-08-09 Matsushita Electric Works Ltd Abnormality detection method and device
JP2007249997A (en) * 2000-07-15 2007-09-27 Intevep Sa Method and system for monitoring industrial process
JP2008090529A (en) * 2006-09-29 2008-04-17 Matsushita Electric Works Ltd Abnormality detection device, abnormality detection method
JP2008097361A (en) * 2006-10-12 2008-04-24 Matsushita Electric Works Ltd Anomaly monitoring device
JP2008097360A (en) * 2006-10-12 2008-04-24 Matsushita Electric Works Ltd Anomaly monitoring device
US7548831B2 (en) 2006-12-13 2009-06-16 Kabushiki Kaisha Toshiba Apparatus and method for detecting abnormal sign
WO2011024382A1 (en) * 2009-08-28 2011-03-03 株式会社日立製作所 Method and device for monitoring the state of a facility
JP2011065545A (en) * 2009-09-18 2011-03-31 Panasonic Electric Works Co Ltd Device and method for signal identification
WO2011086805A1 (en) * 2010-01-14 2011-07-21 株式会社日立製作所 Anomaly detection method and anomaly detection system
US8052834B2 (en) * 2003-01-09 2011-11-08 Dainippon Screen Mfg. Co., Ltd. Substrate treating system, substrate treating device, program, and recording medium
JP2015172945A (en) * 2009-08-28 2015-10-01 株式会社日立製作所 Facility state monitoring method and apparatus for the same
JP2017096853A (en) * 2015-11-26 2017-06-01 株式会社リコー Information processing device, defect detection method and program
JP2018049314A (en) * 2016-09-20 2018-03-29 株式会社日立製作所 Plant data display processing apparatus and plant control system
WO2018163488A1 (en) * 2017-03-08 2018-09-13 株式会社日立製作所 Plant data classification device, plant data display processing device, and plant control system
EP3380991A4 (en) * 2015-11-23 2018-12-19 AGT International GmbH Subspace projection of multi-dimensional unsupervised machine learning models
JP2019028901A (en) * 2017-08-03 2019-02-21 株式会社toor State determination device, state determination method and state determination program
WO2019102521A1 (en) * 2017-11-21 2019-05-31 日本電気株式会社 Monitoring system, monitoring method, and monitoring program
JP2019096348A (en) * 2019-02-20 2019-06-20 住友電気工業株式会社 Management system, management device, management method, and management program
WO2020195771A1 (en) * 2019-03-25 2020-10-01 日本電信電話株式会社 Determination device, determination method, and determination program
US10839674B2 (en) 2016-10-06 2020-11-17 Sumitomo Electric Industries, Ltd. Management system, management device, management method, and management program
WO2022203127A1 (en) * 2021-03-26 2022-09-29 에스케이플래닛 주식회사 Method for continuously learning object abnormality detection and state classification model, and apparatus therefor

Cited By (41)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007249997A (en) * 2000-07-15 2007-09-27 Intevep Sa Method and system for monitoring industrial process
JP2006504168A (en) * 2002-10-24 2006-02-02 リキューム ペイパー オユ Process monitoring / analysis methods
US8052834B2 (en) * 2003-01-09 2011-11-08 Dainippon Screen Mfg. Co., Ltd. Substrate treating system, substrate treating device, program, and recording medium
JP2006522396A (en) * 2003-03-31 2006-09-28 ブリティッシュ・テレコミュニケーションズ・パブリック・リミテッド・カンパニー Data analysis system and method
EP1640894A4 (en) * 2003-06-30 2010-04-21 Caterpillar Japan Ltd Information processor, state judging unit and diagnostic unit, information processing method, state judging method and diagnosing method
EP1640894A1 (en) * 2003-06-30 2006-03-29 National University Corporation Kagawa University Information processor, state judging unit and diagnostic unit, information processing method, state judging method and diagnosing method
US7464063B2 (en) 2003-06-30 2008-12-09 Caterpillar Japan Ltd. Information processor, state judging unit and diagnostic unit, information processing method, state judging method and diagnosing method
WO2006016440A1 (en) * 2004-08-13 2006-02-16 Shin Caterpillar Mitsubishi Ltd. Data processing method, data processing device, diagnosis method, and diagnosis device
EP1777601A1 (en) * 2004-08-13 2007-04-25 National University Corporation Kagawa University Data processing method, data processing device, diagnosis method, and diagnosis device
EP1777601A4 (en) * 2004-08-13 2010-11-10 Caterpillar Sarl Data processing method, data processing device, diagnosis method, and diagnosis device
US7743005B2 (en) 2004-08-13 2010-06-22 Shin Caterpillar Mitsubishi Ltd. Diagnosis of abnormal operation modes of a machine utilizing self organizing map
JP2006229148A (en) * 2005-02-21 2006-08-31 Tottori Univ Method of diagnosing deterioration of oil-immersed transformer
JP4670662B2 (en) * 2006-01-26 2011-04-13 パナソニック電工株式会社 Anomaly detection device
JP2007200044A (en) * 2006-01-26 2007-08-09 Matsushita Electric Works Ltd Abnormality detection method and device
JP4605132B2 (en) * 2006-09-29 2011-01-05 パナソニック電工株式会社 Anomaly detection device and anomaly detection method
JP2008090529A (en) * 2006-09-29 2008-04-17 Matsushita Electric Works Ltd Abnormality detection device, abnormality detection method
JP2008097360A (en) * 2006-10-12 2008-04-24 Matsushita Electric Works Ltd Anomaly monitoring device
JP2008097361A (en) * 2006-10-12 2008-04-24 Matsushita Electric Works Ltd Anomaly monitoring device
US7548831B2 (en) 2006-12-13 2009-06-16 Kabushiki Kaisha Toshiba Apparatus and method for detecting abnormal sign
US8682824B2 (en) 2009-08-28 2014-03-25 Hitachi, Ltd. Method and device for monitoring the state of a facility
JP2011070635A (en) * 2009-08-28 2011-04-07 Hitachi Ltd Method and device for monitoring state of facility
JP2015172945A (en) * 2009-08-28 2015-10-01 株式会社日立製作所 Facility state monitoring method and apparatus for the same
WO2011024382A1 (en) * 2009-08-28 2011-03-03 株式会社日立製作所 Method and device for monitoring the state of a facility
JP2011065545A (en) * 2009-09-18 2011-03-31 Panasonic Electric Works Co Ltd Device and method for signal identification
WO2011086805A1 (en) * 2010-01-14 2011-07-21 株式会社日立製作所 Anomaly detection method and anomaly detection system
EP3380991A4 (en) * 2015-11-23 2018-12-19 AGT International GmbH Subspace projection of multi-dimensional unsupervised machine learning models
JP2017096853A (en) * 2015-11-26 2017-06-01 株式会社リコー Information processing device, defect detection method and program
JP2018049314A (en) * 2016-09-20 2018-03-29 株式会社日立製作所 Plant data display processing apparatus and plant control system
WO2018055853A1 (en) * 2016-09-20 2018-03-29 株式会社日立製作所 Plant data display processing device and plant control system
US11320808B2 (en) 2016-09-20 2022-05-03 Hitachi, Ltd. Plant data display processing device and plant control system
US10839674B2 (en) 2016-10-06 2020-11-17 Sumitomo Electric Industries, Ltd. Management system, management device, management method, and management program
JP2018147360A (en) * 2017-03-08 2018-09-20 株式会社日立製作所 Plant data classification device, plant data display processing device and plant control system
WO2018163488A1 (en) * 2017-03-08 2018-09-13 株式会社日立製作所 Plant data classification device, plant data display processing device, and plant control system
US11334058B2 (en) 2017-03-08 2022-05-17 Hitachi, Ltd. Plant data classification device, plant data display processing device, and plant control system
US10621028B2 (en) 2017-08-03 2020-04-14 Toor Inc. State determining device, state determining method, and state determining program
JP2019028901A (en) * 2017-08-03 2019-02-21 株式会社toor State determination device, state determination method and state determination program
WO2019102521A1 (en) * 2017-11-21 2019-05-31 日本電気株式会社 Monitoring system, monitoring method, and monitoring program
JPWO2019102521A1 (en) * 2017-11-21 2020-11-19 日本電気株式会社 Monitoring system, monitoring method and monitoring program
JP2019096348A (en) * 2019-02-20 2019-06-20 住友電気工業株式会社 Management system, management device, management method, and management program
WO2020195771A1 (en) * 2019-03-25 2020-10-01 日本電信電話株式会社 Determination device, determination method, and determination program
WO2022203127A1 (en) * 2021-03-26 2022-09-29 에스케이플래닛 주식회사 Method for continuously learning object abnormality detection and state classification model, and apparatus therefor

Similar Documents

Publication Publication Date Title
JPH11338848A (en) Data abnormality detector
EP1360557B1 (en) Adaptive modelling of changed states in predictive condition monitoring
US6859739B2 (en) Global state change indicator for empirical modeling in condition based monitoring
US20190072942A1 (en) Method of generating plant normal state prediction data and apparatus using the same
CN109086876B (en) Method and device for detecting running state of equipment, computer equipment and storage medium
CN110008096B (en) Data monitoring method, device, electronic equipment and computer readable storage medium
JP2000259223A (en) Plant monitoring device
CN116758491B (en) Printing monitoring image analysis method and system applied to 3D printing
EP3975077A1 (en) Monitoring device and method for segmenting different times series of sensor data points
JP2003044123A (en) Plant diagnostic device
JPH0793018A (en) Method and system for diagnosing operating state
CN112288126B (en) Sampling data abnormal change online monitoring and diagnosing method
JPH11161327A (en) Method and device for diagnosing abnormality of process
CN117058451A (en) Structural acceleration data anomaly detection method based on two-dimensional convolutional neural network
CN115600747B (en) Tunnel state monitoring and management method and system based on Internet of things
JP3579553B2 (en) Method and apparatus for diagnosing abnormal state of equipment and product process
WO2020183781A1 (en) Abnormality diagnosis device
JPH08110262A (en) On-line rotary object diagnostic device
JPH08320721A (en) Abnormality content deciding method for fault predicting device
KR102470520B1 (en) Failure Mode and Effect Analysis(FMEA) Method
TWI747334B (en) Fraud measurement detection device, method, program product and computer readable medium
CN117783769B (en) Power distribution network fault positioning method, system, equipment and storage medium based on visual platform
JPH05180713A (en) Cable tension measuring method and device
US11047833B2 (en) Method for automatic determination of trend in graphic analysis of turbomachines
CN111160454B (en) Quick change signal detection method and device