JP2021022311A - Abnormality detecting device, abnormality detecting system, and program - Google Patents

Abnormality detecting device, abnormality detecting system, and program Download PDF

Info

Publication number
JP2021022311A
JP2021022311A JP2019140069A JP2019140069A JP2021022311A JP 2021022311 A JP2021022311 A JP 2021022311A JP 2019140069 A JP2019140069 A JP 2019140069A JP 2019140069 A JP2019140069 A JP 2019140069A JP 2021022311 A JP2021022311 A JP 2021022311A
Authority
JP
Japan
Prior art keywords
unit
sample data
abnormality detection
learning
model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019140069A
Other languages
Japanese (ja)
Inventor
鷹見 淳一
Junichi Takami
淳一 鷹見
智 萩原
Satoshi Hagiwara
智 萩原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2019140069A priority Critical patent/JP2021022311A/en
Publication of JP2021022311A publication Critical patent/JP2021022311A/en
Pending legal-status Critical Current

Links

Landscapes

  • Testing And Monitoring For Control Systems (AREA)

Abstract

To provide an abnormality detecting device capable of streamlining labelling of sample data used for learning a learning model for detecting an object machine abnormality, keeping high abnormality detection precision, and achieving early detection of abnormalities and signs thereof, an abnormality detecting system, and a program.SOLUTION: An abnormality detecting device comprises: a frequency analysis processing unit which subjects a detection signal detected from an abnormality detection object to frequency analysis to obtain frequency characteristics; a clustering processing unit which classifies sample data of each frame included in the frequency characteristics into clusters; a multivariable analysis processing unit which extracts a feature quantity via multivariable analysis; a feature quantity display unit which visualizes classification of sample data into clusters; a presentation unit which presents information corresponding to the selected sample data among the displayed sample data; a labelling processing unit which sets a sample data label per cluster; and a model generation unit which generates a learning model using sample data in which a label is set.SELECTED DRAWING: Figure 4

Description

本発明は、異常検知装置、異常検知システムおよびプログラムに関する。 The present invention relates to anomaly detection devices, anomaly detection systems and programs.

加工機等の工作機械または設備等(以下、機械等と称する場合がある)において、ポンプまたはコンプレッサ等の駆動装置の稼働状況をマイクロフォンまたは振動センサ等で監視し、自動的に異常を検知するシステムが広く検討されている。このような機械等をトラブルなく安定して稼働させるためには、日頃の点検により、故障の発生およびその予兆をできるだけ早期に発見し、適切な保全を行うことが重要である。機械等の動作不良は、それらが発生する音または振動の異常として現れることが多いため、点検は保全担当者の耳によって行われることが多い。しかし、常時、機械等を監視することは人的コストが高く、一定期間毎の定期点検では発見が遅れる可能性があり、さらに、異常の発見の判断も保全担当者の熟練度によってばらつきがあるため、適切なタイミングでの異常の発生およびその予兆を見逃す可能性がある等の課題が存在する。こうした課題を解決するために、近年では機械学習に基づいて異常検知を行う学習モデルを用いた自動検知システムが検討されている。 A system that automatically detects abnormalities by monitoring the operating status of drive devices such as pumps or compressors with microphones or vibration sensors in machine tools or equipment such as processing machines (hereinafter sometimes referred to as machines). Is widely considered. In order to operate such machines and the like stably without trouble, it is important to detect the occurrence of failure and its sign as soon as possible by daily inspection and perform appropriate maintenance. Since malfunctions of machines and the like often appear as abnormalities in the sounds or vibrations generated by them, inspections are often performed by the ears of maintenance personnel. However, it is costly to constantly monitor machines, etc., and there is a possibility that detection may be delayed by regular inspections at regular intervals, and the judgment of abnormality detection also varies depending on the skill level of maintenance personnel. Therefore, there are problems such as the occurrence of an abnormality at an appropriate timing and the possibility of overlooking the sign thereof. In order to solve these problems, in recent years, an automatic detection system using a learning model that detects anomalies based on machine learning has been studied.

一般に、機械学習における学習モデルは、事前に収集した判定対象と同じ性質を有する大量のサンプルデータ(学習データ)を用いた「学習」と称するプロセスによって構築される。このような機械学習の学習モデルにはいくつかのタイプが存在するが、機械等の異常検知を目的とする場合、発生頻度が低い異常時のサンプルデータ(以下、単に異常サンプルデータと称する場合がある)を大量に収集することが困難である。したがって、正常時のサンプルデータのみを用いる外れ値検知器、または1クラス分類器と呼称される学習モデルが利用される場合が多い。 In general, a learning model in machine learning is constructed by a process called "learning" using a large amount of sample data (learning data) having the same properties as a judgment target collected in advance. There are several types of learning models for such machine learning, but when the purpose is to detect abnormalities in machines, etc., sample data at the time of abnormalities that occur infrequently (hereinafter, may be simply referred to as abnormal sample data). It is difficult to collect a large amount of). Therefore, outlier detectors that use only normal sample data or learning models called one-class classifiers are often used.

外れ値検知器は、事前に学習に用いた正常とされるサンプルデータ(以下、単に正常サンプルデータと称する場合がある)の分布からどの程度乖離しているかを示す乖離度を算出し、当該乖離度が一定の閾値未満であれば正常、閾値以上であれば異常と分類することで実現される。そのため、外れ値検知器の学習時に使用する正常サンプルデータの品質が、当該外れ値検知器の性能に大きな影響を与える。サンプルデータ数が不十分な場合、または、本来の正常データの母集団分布から大きく偏ったサンプルデータで学習した場合には、正常なサンプルデータの入力に対して異常と誤判定しやすくなる。一方、サンプルデータの一部に、本来異常とされるべきサンプルデータが混入されている場合、それに似たサンプルデータの入力に対して、正常と誤判定してしまう可能性が高くなる。したがって、高精度な判定(異常検知)を実現するためには、学習時に与えるサンプルデータを人が選別(ラベリング)する必要があり、このラベリング作業に膨大な手間、時間およびコストが生じることが大きな課題となる。 The outlier detector calculates the degree of deviation indicating the degree of deviation from the distribution of the normal sample data (hereinafter, may be simply referred to as normal sample data) used for learning in advance, and the deviation is obtained. If the degree is less than a certain threshold value, it is classified as normal, and if it is above the threshold value, it is classified as abnormal. Therefore, the quality of the normal sample data used when learning the outlier detector has a great influence on the performance of the outlier detector. When the number of sample data is insufficient, or when learning is performed with sample data that is significantly deviated from the population distribution of the original normal data, it is easy to erroneously determine that the input of normal sample data is abnormal. On the other hand, if sample data that should be considered abnormal is mixed in a part of the sample data, there is a high possibility that an input of similar sample data will be erroneously determined as normal. Therefore, in order to realize highly accurate judgment (abnormality detection), it is necessary for a person to select (label) the sample data to be given at the time of learning, and this labeling work often requires enormous labor, time, and cost. It becomes an issue.

このような、外れ値検知器(1クラス分類器)を用いた異常検知システムとして、撮像データを対象とする外れ値検知器において、正常サンプルデータのみで学習した外れ値検知器に加えて、異常サンプルデータのみで学習した外れ値検知器を併用するシステムが開示されている(例えば特許文献1)。当該システムでは、正常サンプルデータの追加学習だけでは低減させることができない、異常サンプルデータを正常と誤判定してしまうという事象の発生を低減することができることが記載されている。 As an anomaly detection system using such an outlier detector (1 class classifier), in the outlier detector for imaging data, in addition to the outlier detector learned only from normal sample data, an abnormality A system using an outlier detector learned only from sample data is disclosed (for example, Patent Document 1). It is described that the system can reduce the occurrence of an event in which abnormal sample data is erroneously determined to be normal, which cannot be reduced only by additional learning of normal sample data.

また、上述の異常検知システムとして、異常検知のために外れ値検知器(1クラスサポートベクタマシン)における、パターンの経年劣化に対応するための手段としての追加学習の有用性について開示されている(例えば特許文献2)。当該システムは、初期のサンプルデータで学習された外れ値検知器と、最新のサンプルデータで追加学習された外れ値検知器との併用によって、発生した異常が経年劣化によるものか否かの切り分けを行う仕組みを備えていることが開示されている。 Further, as the above-mentioned abnormality detection system, the usefulness of additional learning as a means for dealing with aged deterioration of patterns in an outlier detector (1 class support vector machine) for abnormality detection is disclosed (). For example, Patent Document 2). The system uses an outlier detector learned from the initial sample data in combination with an outlier detector additionally learned from the latest sample data to determine whether the anomaly that has occurred is due to aging. It is disclosed that it has a mechanism to do it.

一般に、外れ値検知器(1クラス分類器)による検知動作は、2クラス分類器による検知動作に比べて難易度が高く、高精度な判定が難しいことが知られている。2クラス分類器は、AとBとのどちらにより近いかという相対的な判断が可能であるのに対し、外れ値検知器は、AであるかAでないかという絶対的は判断が必要となるためである。それにもかかわらず、機器等を対象とする多くの異常検知システムで、外れ値検知器型のアプローチを採らざるを得ないのは、一般に、異常の発生確率は非常に低く、事前に大量の異常サンプルデータを取得することが難しいためである。したがって、特許文献1に記載されたシステムのように、異常サンプルデータのみで学習した外れ値検知器を用いるものとするアプローチは、非現実的である。さらに、仮に大量の異常サンプルデータを取得することができるようなシステム環境であっても、その場合は、正常および異常の2クラス分類器を用いて異常検知を行う方が、高い性能を期待できるため、あえて2種類の外れ値検知器を用いる必然性がない。そもそも、異常サンプルデータを正常と誤判定してしまう根本的な原因は、外れ値検知器の学習に用いた正常サンプルデータ(正常とみなしているサンプルデータ)の中に、実は異常であるサンプルデータに近いデータが混入してしまう点にある。この問題を解決するためには、外れ値検知器等の学習モデルの学習データとして入力されるサンプルデータに対して、本当に正常なサンプルデータなのか、実は異常なサンプルデータなのではないか等を判断し、適切なラベリングができる仕組みが必要である。当該判断は、最終的には人間が行うしかないが、大量の学習データ全体に亘って、人が目視、または聴取しながら逐一判断するのは非現実的であるため、その判断処理についての人の負荷を軽減するために技術の介入の余地があるはずであるが、特許文献1に記載された技術では当該問題を解決することができない。 In general, it is known that the detection operation by the outlier detector (1 class classifier) is more difficult than the detection operation by the 2 class classifier, and it is difficult to make a highly accurate determination. The two-class classifier can make a relative judgment as to whether it is closer to A or B, whereas the outlier detector needs to make an absolute judgment as to whether it is A or not. Because. Nevertheless, in many anomaly detection systems targeting equipment, etc., it is generally necessary to take an outlier detector type approach because the probability of occurrence of anomalies is very low and a large number of anomalies are present in advance. This is because it is difficult to obtain sample data. Therefore, an approach that uses an outlier detector learned only from anomalous sample data, such as the system described in Patent Document 1, is impractical. Furthermore, even in a system environment where a large amount of abnormal sample data can be acquired, in that case, higher performance can be expected by performing abnormality detection using a normal and abnormal two-class classifier. Therefore, it is not necessary to use two types of outlier detectors. In the first place, the root cause of erroneously determining abnormal sample data as normal is the sample data that is actually abnormal in the normal sample data (sample data that is considered normal) used for learning the outlier detector. The point is that data close to is mixed. In order to solve this problem, it is judged whether the sample data input as the training data of the learning model such as the outlier detector is really normal sample data or actually abnormal sample data. However, a mechanism that enables appropriate labeling is required. Ultimately, humans have no choice but to make such judgments, but it is unrealistic for humans to make judgments one by one while visually or listening to a large amount of learning data. There should be room for technical intervention in order to reduce the load on the subject, but the technique described in Patent Document 1 cannot solve the problem.

また、特許文献2に記載されたシステムでは、追加学習時に用いるサンプルデータ(学習データ)の妥当性を担保する仕組みについて開示されておらず、上述と同様に、大量の学習データに対して妥当性を判断するに際して発生する人の負荷を軽減することができないという問題がある。 Further, the system described in Patent Document 2 does not disclose a mechanism for guaranteeing the validity of sample data (learning data) used at the time of additional learning, and is valid for a large amount of learning data as described above. There is a problem that it is not possible to reduce the burden on the person that occurs when determining.

本発明は、上記に鑑みてなされたものであって、対象機の異常検知のための学習モデルの学習に用いるサンプルデータのラベリング作業を効率化することができ、高い異常検知精度を保ち、異常およびその予兆の早期発見を実現することができる異常検知装置、異常検知システムおよびプログラムを提供することを目的とする。 The present invention has been made in view of the above, and can streamline the labeling work of sample data used for learning a learning model for detecting anomalies of a target machine, maintain high anomaly detection accuracy, and have anomalies. It is an object of the present invention to provide an abnormality detection device, an abnormality detection system and a program capable of realizing early detection of a sign thereof.

上述した課題を解決し、目的を達成するために、本発明は、異常検知対象から検知された検知信号に対して周波数解析を行い、周波数特性を求める周波数解析処理部と、前記周波数解析処理部により求められた前記周波数特性に含まれる各フレームをサンプルデータとして、該サンプルデータを1以上のクラスタに分類するクラスタリング処理部と、前記周波数解析処理部により求められた前記周波数特性に対して多変量解析を行い、特徴量を抽出する多変量解析処理部と、前記多変量解析処理部により抽出された前記特徴量に基づき、前記サンプルデータがどの前記クラスタに分類されたか判別可能なように可視化する特徴量表示部と、前記特徴量表示部により表示された前記サンプルデータのうち、入力部からの入力信号によって選択された前記サンプルデータに対応する情報を提示する提示部と、前記提示部により提示された情報に基づき、前記入力部からの入力信号に応じて、前記クラスタ毎に前記サンプルデータのラベルを設定するラベリング処理部と、前記ラベリング処理部によりラベルが設定された前記サンプルデータを用いた学習により学習モデルを生成するモデル生成部と、を備えたことを特徴とする。 In order to solve the above-mentioned problems and achieve the object, the present invention has a frequency analysis processing unit that performs frequency analysis on a detection signal detected from an abnormality detection target to obtain frequency characteristics, and the frequency analysis processing unit. Each frame included in the frequency characteristics obtained by the above is used as sample data, and the clustering processing unit that classifies the sample data into one or more clusters and a multivariate with respect to the frequency characteristics obtained by the frequency analysis processing unit. Based on the multivariate analysis processing unit that performs analysis and extracts the feature amount and the feature amount extracted by the multivariate analysis processing unit, the sample data is visualized so that it can be determined which cluster it is classified into. The feature amount display unit, the presentation unit that presents the information corresponding to the sample data selected by the input signal from the input unit among the sample data displayed by the feature amount display unit, and the presentation unit that presents the information. Based on the information provided, a labeling processing unit that sets a label for the sample data for each cluster according to an input signal from the input unit, and the sample data whose label is set by the labeling processing unit are used. It is characterized by including a model generation unit that generates a learning model by learning.

本発明によれば、対象機の異常検知のための学習モデルの学習に用いるサンプルデータのラベリング作業を効率化することができ、高い異常検知精度を保ち、異常およびその予兆の早期発見を実現することができる。 According to the present invention, it is possible to streamline the labeling work of sample data used for learning a learning model for detecting anomalies in a target machine, maintain high anomaly detection accuracy, and realize early detection of anomalies and their precursors. be able to.

図1は、実施形態に係る異常検知システムの全体構成の一例を示す図である。FIG. 1 is a diagram showing an example of the overall configuration of the abnormality detection system according to the embodiment. 図2は、実施形態に係る異常検知装置のハードウェア構成の一例を示す図である。FIG. 2 is a diagram showing an example of the hardware configuration of the abnormality detection device according to the embodiment. 図3は、実施形態に係る工作機械のハードウェア構成の一例を示す図である。FIG. 3 is a diagram showing an example of the hardware configuration of the machine tool according to the embodiment. 図4は、実施形態に係る異常検知装置の機能ブロック構成の一例を示す図である。FIG. 4 is a diagram showing an example of a functional block configuration of the abnormality detection device according to the embodiment. 図5は、実施形態に係る異常検知装置の周波数解析処理部の動作を説明する図である。FIG. 5 is a diagram illustrating the operation of the frequency analysis processing unit of the abnormality detection device according to the embodiment. 図6は、実施形態に係る異常検知装置のクラスタリング処理部の動作を説明する図である。FIG. 6 is a diagram illustrating the operation of the clustering processing unit of the abnormality detection device according to the embodiment. 図7は、実施形態に係る異常検知装置の多変量解析処理部の動作を説明する図である。FIG. 7 is a diagram illustrating the operation of the multivariate analysis processing unit of the abnormality detection device according to the embodiment. 図8は、実施形態に係る異常検知装置の特徴量表示部の動作を説明する図である。FIG. 8 is a diagram illustrating the operation of the feature amount display unit of the abnormality detection device according to the embodiment. 図9は、実施形態に係る異常検知装置の基本情報表示部の動作を説明する図である。FIG. 9 is a diagram illustrating the operation of the basic information display unit of the abnormality detection device according to the embodiment. 図10は、実施形態に係る異常検知装置の再生部の動作を説明する図である。FIG. 10 is a diagram illustrating the operation of the reproduction unit of the abnormality detection device according to the embodiment. 図11は、実施形態に係る異常検知装置のラベリング処理部の動作を説明する図である。FIG. 11 is a diagram illustrating the operation of the labeling processing unit of the abnormality detection device according to the embodiment. 図12は、実施形態に係る異常検知装置のモデル生成部の動作を説明する図である。FIG. 12 is a diagram illustrating the operation of the model generation unit of the abnormality detection device according to the embodiment. 図13は、実施形態に係る異常検知装置の異常検知部の動作を説明する図である。FIG. 13 is a diagram illustrating the operation of the abnormality detection unit of the abnormality detection device according to the embodiment. 図14は、実施形態に係る異常検知装置の適合度算出部の動作を説明する図である。FIG. 14 is a diagram illustrating the operation of the goodness-of-fit calculation unit of the abnormality detection device according to the embodiment. 図15は、実施形態に係る異常検知装置の付帯情報取得部の動作を説明する図である。FIG. 15 is a diagram illustrating the operation of the incidental information acquisition unit of the abnormality detection device according to the embodiment. 図16は、実施形態に係る異常検知装置のモデル管理部の動作を説明する図である。FIG. 16 is a diagram illustrating the operation of the model management unit of the abnormality detection device according to the embodiment. 図17は、実施形態に係る異常検知装置のモデル選択部の動作を説明する図である。FIG. 17 is a diagram illustrating the operation of the model selection unit of the abnormality detection device according to the embodiment. 図18は、実施形態に係る異常検知装置のデータ調整部の動作を説明する図である。FIG. 18 is a diagram illustrating the operation of the data adjusting unit of the abnormality detection device according to the embodiment. 図19は、実施形態に係る工作機械の機能ブロック構成の一例を示す図である。FIG. 19 is a diagram showing an example of the functional block configuration of the machine tool according to the embodiment. 図20は、実施形態に係る異常検知装置の全体動作の流れの一例を示す図である。FIG. 20 is a diagram showing an example of a flow of the overall operation of the abnormality detection device according to the embodiment. 図21は、実施形態に係る異常検知装置の全体動作の流れの一例を示す図である。FIG. 21 is a diagram showing an example of a flow of the overall operation of the abnormality detection device according to the embodiment.

以下に、図面を参照しながら、本発明に係る異常検知装置、異常検知システムおよびプログラムの実施形態を詳細に説明する。また、以下の実施形態によって本発明が限定されるものではなく、以下の実施形態における構成要素には、当業者が容易に想到できるもの、実質的に同一のもの、およびいわゆる均等の範囲のものが含まれる。さらに、以下の実施形態の要旨を逸脱しない範囲で構成要素の種々の省略、置換、変更および組み合わせを行うことができる。 Hereinafter, embodiments of the abnormality detection device, the abnormality detection system, and the program according to the present invention will be described in detail with reference to the drawings. Further, the present invention is not limited by the following embodiments, and the components in the following embodiments include those easily conceived by those skilled in the art, substantially the same, and so-called equivalent ranges. Is included. Furthermore, various omissions, substitutions, changes and combinations of components can be made without departing from the gist of the following embodiments.

(異常検知システムの全体構成)
図1は、実施形態に係る異常検知システムの全体構成の一例を示す図である。図1を参照しながら、本実施形態に係る異常検知システム1の全体構成について説明する。
(Overall configuration of anomaly detection system)
FIG. 1 is a diagram showing an example of the overall configuration of the abnormality detection system according to the embodiment. The overall configuration of the abnormality detection system 1 according to the present embodiment will be described with reference to FIG.

図1に示すように、異常検知システム1は、異常検知装置10と、工作機械20(異常検知対象の一例)と、A/Dコンバータ30と、を含む。 As shown in FIG. 1, the abnormality detection system 1 includes an abnormality detection device 10, a machine tool 20 (an example of an abnormality detection target), and an A / D converter 30.

異常検知装置10は、工作機械20による加工サイクルで発生する振動データまたは音響データを検知信号として受信し、異常の有無についての検知、判定等の分析処理を行う情報処理装置である。異常検知装置10は、検知信号をA/Dコンバータ30により変換されたデジタル信号として受信する。異常検知装置10は、受信した検知信号等を表示するためのディスプレイ58(表示装置)を備えている。異常検知装置10は、工作機械20のNC制御装置25から、後述するコンテキスト情報を受信し、工作機械20において加工処理中であることを示す動作信号をA/Dコンバータ30を介して受信する。また、異常検知装置10は、図1に示すように、ネットワークを介してクラウド40に接続し、取得した検知信号等がクラウド40に保存させることもできる。なお、異常検知装置10がクラウド40に接続されていることは、必須ではない。 The abnormality detection device 10 is an information processing device that receives vibration data or acoustic data generated in a machining cycle by the machine tool 20 as a detection signal and performs analysis processing such as detection and determination of the presence or absence of an abnormality. The abnormality detection device 10 receives the detection signal as a digital signal converted by the A / D converter 30. The abnormality detection device 10 includes a display 58 (display device) for displaying a received detection signal or the like. The abnormality detection device 10 receives context information described later from the NC control device 25 of the machine tool 20, and receives an operation signal indicating that the machine tool 20 is in the process of machining via the A / D converter 30. Further, as shown in FIG. 1, the abnormality detection device 10 can be connected to the cloud 40 via a network, and the acquired detection signal or the like can be stored in the cloud 40. It is not essential that the abnormality detection device 10 is connected to the cloud 40.

工作機械20は、工具23を用いて、加工対象に対して切削、研削または研磨等の加工を行う機械である。工作機械20は、異常検知装置10による異常検知の対象となる異常検知対象の一例である。工作機械20は、加工サイクルで発生する振動または音を検知するセンサ24が設置されており、ホルダ22におり保持され加工対象に対して、切削、研削または研磨等の加工を行う工具23と、加工サイクルの動作を制御するNC(Numerical Control)制御装置25と、を備えている。 The machine tool 20 is a machine that uses a tool 23 to perform machining such as cutting, grinding, or polishing on a machining target. The machine tool 20 is an example of an abnormality detection target to be detected by the abnormality detection device 10. The machine tool 20 is equipped with a sensor 24 that detects vibration or sound generated in a machining cycle, is held by a holder 22, and has a tool 23 that performs machining such as cutting, grinding, or polishing on a machining target. It includes an NC (Numerical Control) control device 25 that controls the operation of the machining cycle.

なお、異常検知装置10による異常検知の対象は、工作機械20に限定されるものではなく、振動または音の波形等の解析により動作の異常を検知することができる対象であれば、例えば、プリンタまたは自動車等(異常検知対象の一例)を対象とすることもできる。また、図1に示す例では、異常検知装置10は、工作機械20とは別体の装置となっているが、これに限定されるものではなく、工作機械20に搭載されるものとしてもよい。 The target of abnormality detection by the abnormality detection device 10 is not limited to the machine tool 20, and any target that can detect an abnormality in operation by analyzing vibration or sound waveforms, for example, a printer. Alternatively, it can be targeted at automobiles (an example of anomaly detection target). Further, in the example shown in FIG. 1, the abnormality detection device 10 is a device separate from the machine tool 20, but the device is not limited to this, and may be mounted on the machine tool 20. ..

センサ24は、工作機械20とは別個独立に設置され、ドリル、エンドミル、フェイスミル、ロングドリル、バイトチップまた砥石等の工具23が発する振動または音等の物理量を検知し、検知した物理量の情報を検知信号(振動データまたは音響データ等)としてA/Dコンバータ30へ出力するセンサである。センサ24は、例えば、加速度センサ、AE(Acoustic Emission)センサ、またはマイクロフォン等で構成される。なお、センサ24の個数は複数であってもよい。 The sensor 24 is installed separately from the machine tool 20 and detects a physical quantity such as vibration or sound generated by a tool 23 such as a drill, an end mill, a face mill, a long drill, a tool tip or a grindstone, and information on the detected physical quantity. Is a sensor that outputs a detection signal (vibration data, acoustic data, etc.) to the A / D converter 30. The sensor 24 is composed of, for example, an acceleration sensor, an AE (Acoustic Emission) sensor, a microphone, or the like. The number of sensors 24 may be plural.

なお、工作機械20が発生する物理量を検知するセンサ24は、振動データまたは音響データ等を検知するものとしたが、これに限定されるものではなく、例えば、工具の回転トルクを検知するトルクセンサ、加工対象等に係る荷重を検知するロードセル等の外付けのセンサ、温度情報を検知する温度センサ、または画像を検出するカメラ等であってもよい。 The sensor 24 that detects the physical quantity generated by the machine tool 20 is intended to detect vibration data, acoustic data, and the like, but is not limited to this, and is not limited to, for example, a torque sensor that detects the rotational torque of a tool. , An external sensor such as a load cell that detects a load related to a processing target or the like, a temperature sensor that detects temperature information, a camera that detects an image, or the like may be used.

工具23は、加工対象に対して切削、研削または研磨等の加工を施すためのドリル、エンドミル、フェイスミル、ロングドリル、バイトチップまたは砥石等の加工ツールである。 The tool 23 is a machining tool such as a drill, an end mill, a face mill, a long drill, a tool tip, or a grindstone for performing machining such as cutting, grinding, or polishing on a machining target.

NC制御装置25は、NCプログラムを実行することにより、工作機械20における加工サイクルの動作全体を制御する制御装置である。NC制御装置25は、後述するコンテキスト情報、および加工処理中であることを示す動作信号を出力する。 The NC control device 25 is a control device that controls the entire operation of the machining cycle in the machine tool 20 by executing the NC program. The NC control device 25 outputs context information described later and an operation signal indicating that processing is in progress.

A/Dコンバータ30は、センサ24から出力されたアナログの検知信号(振動データ、音響データ等)を、デジタル信号に変換する装置である。また、A/Dコンバータ30は、NC制御装置25から出力される加工処理中であることを示す動作信号を、デジタル信号に変換する。すなわち、センサ24から出力されたアナログの検知信号、および、NC制御装置25から出力される動作信号は、それぞれA/Dコンバータ30の別々のチャネルに入力される。A/Dコンバータ30は、変換したデジタル信号を異常検知装置10へ出力する。 The A / D converter 30 is a device that converts an analog detection signal (vibration data, acoustic data, etc.) output from the sensor 24 into a digital signal. Further, the A / D converter 30 converts an operation signal output from the NC control device 25 indicating that processing is in progress into a digital signal. That is, the analog detection signal output from the sensor 24 and the operation signal output from the NC control device 25 are input to different channels of the A / D converter 30. The A / D converter 30 outputs the converted digital signal to the abnormality detection device 10.

なお、A/Dコンバータ30は、異常検知装置10とは別の装置となっているが、例えば、異常検知装置10に拡張ボードとして組み込まれるA/D変換ボードであってもよい。また、NC制御装置25から出力される動作信号は、A/Dコンバータ30へ送信されるのではなく、オン/オフ信号として、異常検知装置10へ直接送信されるものとしてもよい。 The A / D converter 30 is a device different from the abnormality detection device 10, but may be, for example, an A / D conversion board incorporated as an expansion board in the abnormality detection device 10. Further, the operation signal output from the NC control device 25 may not be transmitted to the A / D converter 30 but may be directly transmitted to the abnormality detection device 10 as an on / off signal.

(異常検知装置のハードウェア構成)
図2は、実施形態に係る異常検知装置のハードウェア構成の一例を示す図である。図2を参照しながら、本実施形態に係る異常検知装置10のハードウェア構成について説明する。
(Hardware configuration of abnormality detection device)
FIG. 2 is a diagram showing an example of the hardware configuration of the abnormality detection device according to the embodiment. The hardware configuration of the abnormality detection device 10 according to the present embodiment will be described with reference to FIG.

図2に示すように、異常検知装置10は、CPU(Central Processing Unit)51と、ROM(Read Only Memory)52と、RAM(Random Access Memory)53と、通信I/F54と、センサI/F55と、入出力I/F56と、補助記憶装置59と、音声I/F61と、を有し、各部が互いに通信可能となるようにバス60で接続されている。 As shown in FIG. 2, the abnormality detection device 10 includes a CPU (Central Processing Unit) 51, a ROM (Read Only Memory) 52, a RAM (Random Access Memory) 53, a communication I / F 54, and a sensor I / F 55. , The input / output I / F 56, the auxiliary storage device 59, and the voice I / F 61, and are connected by a bus 60 so that each unit can communicate with each other.

CPU51は、異常検知装置10の全体を制御する演算装置である。CPU51は、例えば、RAM53をワークエリア(作業領域)としてROM52等に格納されたプログラムを実行することで、異常検知装置10全体の動作を制御し、診断機能を実現する。 The CPU 51 is an arithmetic unit that controls the entire abnormality detection device 10. For example, the CPU 51 controls the operation of the entire abnormality detection device 10 and realizes a diagnostic function by executing a program stored in the ROM 52 or the like with the RAM 53 as a work area (work area).

通信I/F54は、工作機械20等の外部装置と通信するためのインターフェースである。通信I/F54は、例えば、Ethernet(登録商標)、およびTCP(Transmission Control Protocol)/IP(Internet Protocol)に準拠したインターフェースである。 The communication I / F 54 is an interface for communicating with an external device such as a machine tool 20. The communication I / F 54 is, for example, an interface compliant with Ethernet (registered trademark) and TCP (Transmission Protocol) / IP (Internet Protocol).

センサI/F55は、工作機械20に設置されたセンサ24から検知信号(振動データまたは音響データ等)、および動作信号を受信するためのインターフェースである。実際には、センサI/F55は、検知信号および動作信号がA/Dコンバータ30によってA/D変換されたデジタル信号を受信する。なお、検知信号を受信するインターフェースと、動作信号を受信するインターフェースとは、別々であってもよい。 The sensor I / F 55 is an interface for receiving a detection signal (vibration data, acoustic data, etc.) and an operation signal from the sensor 24 installed in the machine tool 20. In reality, the sensor I / F 55 receives a digital signal whose detection signal and operation signal are A / D converted by the A / D converter 30. The interface for receiving the detection signal and the interface for receiving the operation signal may be separate.

入出力I/F56は、各種装置(例えば入力装置57およびディスプレイ58)とバス60とを接続するためのインターフェースである。 The input / output I / F 56 is an interface for connecting various devices (for example, the input device 57 and the display 58) and the bus 60.

入力装置57は、文字および数字等の入力、各種指示の選択、ならびにカーソルの移動等の操作を行うためのマウスまたはキーボード等の装置である。なお、入力装置57は、例えば、タッチパネルの入力機能(タッチ操作機能)により実現されてもよい。 The input device 57 is a device such as a mouse or keyboard for inputting characters and numbers, selecting various instructions, and performing operations such as moving a cursor. The input device 57 may be realized by, for example, an input function (touch operation function) of the touch panel.

ディスプレイ58は、カーソル、メニュー、ウィンドウ、文字または画像等の各種情報を表示するLCD(Liquid Crystal Display)または有機EL(Electro−Luminescence)ディスプレイ等の表示装置である。 The display 58 is a display device such as an LCD (Liquid Crystal Display) or an organic EL (Electro-Luminence) display that displays various information such as cursors, menus, windows, characters, and images.

補助記憶装置59は、異常検知装置10の設定情報、工作機械20から受信された検知信号(振動データまたは音響データ等)、OS(Operating System)、およびアプリケーションプログラム等の各種データを記憶するHDD(Hard Disk Drive)、SSD(Solid State Drive)、またはEEPROM(Electrically Erasable Programmable Read−Only Memory)等の不揮発性の記憶装置である。なお、補助記憶装置59は、異常検知装置10が備えるものとしているが、これに限定されるものではなく、例えば、異常検知装置10の外部に設置された記憶装置であってもよく、または、異常検知装置10とデータ通信可能なサーバ装置、またはクラウド40等に含まれる記憶装置であってもよい。 The auxiliary storage device 59 is an HDD (HDD) that stores various data such as setting information of the abnormality detection device 10, a detection signal (vibration data or acoustic data, etc.) received from the machine tool 20, an OS (Operating System), and an application program. It is a non-volatile storage device such as Hard Disk Drive), SSD (Solid State Drive), or EEPROM (Electrically Erasable Programmable Read-Only Memory). The auxiliary storage device 59 is provided in the abnormality detection device 10, but is not limited to this, and may be, for example, a storage device installed outside the abnormality detection device 10 or. It may be a server device capable of data communication with the abnormality detection device 10, or a storage device included in the cloud 40 or the like.

音声I/F61は、音声入出力機器(例えばスピーカ62)とバス60とを接続するためのインターフェースである。スピーカ62(出力装置)は、音声を出力する装置である。 The voice I / F 61 is an interface for connecting a voice input / output device (for example, a speaker 62) and a bus 60. The speaker 62 (output device) is a device that outputs sound.

なお、図2に示した異常検知装置10のハードウェア構成は一例を示すものであり、図2に示した構成要素を全て含む必要はなく、または、その他の構成要素を含むものとしてもよい。 The hardware configuration of the abnormality detection device 10 shown in FIG. 2 is an example, and it is not necessary to include all the components shown in FIG. 2, or it may include other components.

(工作機械のハードウェア構成)
図3は、実施形態に係る工作機械のハードウェア構成の一例を示す図である。図3を参照しながら、本実施形態に係る工作機械20のハードウェア構成について説明する。
(Hardware configuration of machine tools)
FIG. 3 is a diagram showing an example of the hardware configuration of the machine tool according to the embodiment. The hardware configuration of the machine tool 20 according to the present embodiment will be described with reference to FIG.

図3に示すように、工作機械20は、CPU71と、ROM72と、RAM73と、通信I/F74と、駆動制御回路75と、信号I/F77と、を有し、各部が互いに通信可能となるようにバス78で接続されている。センサ24は、上述の図1で示したように、工具23による加工サイクルで発生する振動または音等を検知できる工作機械20の所定の位置に設置されているが、工作機械20と直接データの送受信をしておらず、上述したように、A/Dコンバータ30へ検知信号(振動データまたは音響データ等)を出力する。 As shown in FIG. 3, the machine tool 20 has a CPU 71, a ROM 72, a RAM 73, a communication I / F 74, a drive control circuit 75, and a signal I / F 77, and each unit can communicate with each other. They are connected by bus 78. As shown in FIG. 1 above, the sensor 24 is installed at a predetermined position of the machine tool 20 capable of detecting vibration or sound generated in the machining cycle by the tool 23, but the sensor 24 is directly connected to the machine tool 20. It does not transmit or receive, and outputs a detection signal (vibration data, acoustic data, etc.) to the A / D converter 30 as described above.

CPU71は、工作機械20の全体を制御する演算装置である。CPU71は、例えば、RAM73をワークエリア(作業領域)としてROM72等に格納されたプログラム(NCプログラム)を実行することで、工作機械20全体の動作を制御し、加工機能を実現する。 The CPU 71 is an arithmetic unit that controls the entire machine tool 20. For example, the CPU 71 controls the operation of the entire machine tool 20 and realizes a machining function by executing a program (NC program) stored in the ROM 72 or the like with the RAM 73 as a work area (work area).

通信I/F74は、異常検知装置10等の外部装置と通信するためのインターフェースである。駆動制御回路75は、モータ76の駆動を制御する回路である。モータ76は、ドリル、エンドミル、フェイスミル、ロングドリル、バイトチップまたは砥石等の工具23を駆動する。 The communication I / F 74 is an interface for communicating with an external device such as the abnormality detection device 10. The drive control circuit 75 is a circuit that controls the drive of the motor 76. The motor 76 drives a tool 23 such as a drill, an end mill, a face mill, a long drill, a tool tip or a grindstone.

信号I/F77は、工作機械20において加工処理が行われている場合に動作信号を異常検知装置10へ送信するためのインターフェースである。信号I/F77は、例えば、10BASE−2等のEthernet規格に準拠したBNC(Bayonet Neill−Concelman connector)のコネクタ等を介した同軸ケーブルが接続される。 The signal I / F77 is an interface for transmitting an operation signal to the abnormality detection device 10 when the machine tool 20 is processing. A coaxial cable is connected to the signal I / F77 via, for example, a BNC (Bayonet Neil-Concelman connector) connector conforming to an Ethernet standard such as 10BASE-2.

なお、図3に示した工作機械20のハードウェア構成は一例を示すものであり、図3に示した構成要素以外の構成要素を含むものとしてもよい。例えば、工作機械20は、ディスプレイを備えるものとし、異常検知装置10が備えるディスプレイ58の表示内容と同様のものを表示できるものとしてもよい。 The hardware configuration of the machine tool 20 shown in FIG. 3 is an example, and may include components other than the components shown in FIG. For example, the machine tool 20 may be provided with a display, and may be capable of displaying the same display contents as the display 58 included in the abnormality detecting device 10.

また、上述の図1に示したNC制御装置25は、例えば、CPU71、ROM72、RAM73、通信I/F74、および駆動制御回路75を含む装置となっている。ただし、これに限定されるものではなく、工作機械20は、NC制御装置25が備えるCPU71とは、別にCPUを備える構成であってもよい。この場合、CPU71とは別のCPUは、加工動作以外の動作、例えば、工作機械20に備えられたランプまたはLED(Light Emitting Diode)等の点灯動作、および、加工動作とは直接関係のない回転部21の位置決めを行う回転モータの制御等を行うものとしてもよい。 Further, the NC control device 25 shown in FIG. 1 described above is a device including, for example, a CPU 71, a ROM 72, a RAM 73, a communication I / F 74, and a drive control circuit 75. However, the present invention is not limited to this, and the machine tool 20 may be configured to include a CPU separately from the CPU 71 included in the NC control device 25. In this case, the CPU other than the CPU 71 has an operation other than the processing operation, for example, a lighting operation of a lamp or an LED (Light Emitting Diode) provided in the machine tool 20, and a rotation not directly related to the processing operation. The rotary motor that positions the unit 21 may be controlled.

(異常検知装置の機能ブロックの構成および動作)
図4は、実施形態に係る異常検知装置の機能ブロック構成の一例を示す図である。図4を参照しながら、本実施形態に係る異常検知装置10の機能ブロックの構成および動作について説明する。
(Configuration and operation of functional blocks of abnormality detection device)
FIG. 4 is a diagram showing an example of a functional block configuration of the abnormality detection device according to the embodiment. The configuration and operation of the functional block of the abnormality detection device 10 according to the present embodiment will be described with reference to FIG.

図4に示すように、異常検知装置10は、周波数解析処理部101と、クラスタリング処理部102と、多変量解析処理部103と、特徴量表示部104と、基本情報表示部105(提示部の一例)と、再生部106(提示部の一例)と、ラベリング処理部107と、モデル生成部108と、付帯情報取得部109と、モデル管理部110と、異常検知部111と、適合度算出部112と、モデル選択部113と、データ調整部114と、を有する。異常検知装置10は、さらに、通信部121と、信号受信部122と、入力部123と、表示部124(表示装置)と、出力部125(出力装置)と、記憶部130と、を有する。 As shown in FIG. 4, the abnormality detection device 10 includes a frequency analysis processing unit 101, a clustering processing unit 102, a multivariate analysis processing unit 103, a feature quantity display unit 104, and a basic information display unit 105 (of the presentation unit). An example), a reproduction unit 106 (an example of a presentation unit), a labeling processing unit 107, a model generation unit 108, ancillary information acquisition unit 109, a model management unit 110, an abnormality detection unit 111, and a goodness-of-fit calculation unit. It has 112, a model selection unit 113, and a data adjustment unit 114. The abnormality detection device 10 further includes a communication unit 121, a signal reception unit 122, an input unit 123, a display unit 124 (display device), an output unit 125 (output device), and a storage unit 130.

記憶部130は、各種情報を記憶する機能部である。記憶部130は、図2に示すRAM53および補助記憶装置59の少なくともいずれかによって実現される。記憶部130は、音響データ記憶部131と、周波数特性記憶部132と、特徴量記憶部133と、クラスタ記憶部134と、モデル記憶部135と、検知結果記憶部136と、を含む。 The storage unit 130 is a functional unit that stores various types of information. The storage unit 130 is realized by at least one of the RAM 53 and the auxiliary storage device 59 shown in FIG. The storage unit 130 includes an acoustic data storage unit 131, a frequency characteristic storage unit 132, a feature quantity storage unit 133, a cluster storage unit 134, a model storage unit 135, and a detection result storage unit 136.

<周波数解析処理部の動作>
図5は、実施形態に係る異常検知装置の周波数解析処理部の動作を説明する図である。図5を参照しながら、異常検知装置10の周波数解析処理部101の動作について説明する。
<Operation of frequency analysis processing unit>
FIG. 5 is a diagram illustrating the operation of the frequency analysis processing unit of the abnormality detection device according to the embodiment. The operation of the frequency analysis processing unit 101 of the abnormality detection device 10 will be described with reference to FIG.

異常検知装置10の周波数解析処理部101は、工作機械20のセンサ24で検知された検知信号である振動データまたは音響データ等(以下、音響データであるものとして説明する)が記憶された音響データ記憶部131から音響データを読み出し、周波数解析を行う機能部である。具体的には、周波数解析処理部101は、音響データに対して、周波数解析としてフーリエ変換(Fast Fourier Transform:FFT)、またはウェーブレット解析等を行い、図5に示すようなスペクトログラム等の周波数特性を得る。例えば、周波数解析処理部101は、サンプリング周波数48[kHz]で取得した1分間の音響データに対して、20[ms]の窓長(窓関数は、例えばハミング窓)、10[ms]のシフト長でFFTを行い、1フレームあたり512次元の特徴量を有する周波数スペクトルを算出した場合、全体で5999フレーム(最終フレームのデータの後半10[ms]に「0」のデータを付加して処理した場合は6000フレーム)×512次元の周波数特性(スペクトログラム)を得る。周波数解析処理部101は、求めた周波数特性(スペクトログラム)を、記憶部130の周波数特性記憶部132に記憶させ、また、周波数特性に含まれる各フレーム(周波数スペクトル)の512次元の特徴量を、特徴量記憶部133に記憶させる。周波数解析処理部101は、例えば、図2に示すCPU51がプログラムを実行することによって実現される。 The frequency analysis processing unit 101 of the abnormality detection device 10 stores acoustic data such as vibration data or acoustic data (hereinafter, referred to as acoustic data) which is a detection signal detected by the sensor 24 of the machine tool 20. This is a functional unit that reads acoustic data from the storage unit 131 and performs frequency analysis. Specifically, the frequency analysis processing unit 101 performs Fourier transform (FFT) or wavelet analysis as frequency analysis on the acoustic data, and obtains frequency characteristics such as a spectrogram as shown in FIG. obtain. For example, the frequency analysis processing unit 101 shifts a window length of 20 [ms] (the window function is, for example, a humming window) and 10 [ms] with respect to the one-minute acoustic data acquired at a sampling frequency of 48 [kHz]. When FFT was performed with a length and a frequency spectrum having 512-dimensional features per frame was calculated, a total of 5999 frames (the latter half 10 [ms] of the data of the final frame was processed by adding "0" data. In the case of 6000 frames) × 512-dimensional frequency characteristics (spectrogram) are obtained. The frequency analysis processing unit 101 stores the obtained frequency characteristic (spectrogram) in the frequency characteristic storage unit 132 of the storage unit 130, and also stores the 512-dimensional feature amount of each frame (frequency spectrum) included in the frequency characteristic. It is stored in the feature amount storage unit 133. The frequency analysis processing unit 101 is realized, for example, by the CPU 51 shown in FIG. 2 executing a program.

<クラスタリング処理部の動作>
図6は、実施形態に係る異常検知装置のクラスタリング処理部の動作を説明する図である。図6を参照しながら、異常検知装置10のクラスタリング処理部102の動作について説明する。
<Operation of clustering processing unit>
FIG. 6 is a diagram illustrating the operation of the clustering processing unit of the abnormality detection device according to the embodiment. The operation of the clustering processing unit 102 of the abnormality detection device 10 will be described with reference to FIG.

異常検知装置10のクラスタリング処理部102は、周波数解析処理部101により求められた周波数特性を周波数特性記憶部132から読み出し、当該周波数特性に含まれる各フレームの周波数スペクトルを、複数の集団(クラスタ)に分類(クラスタリング)する機能部である。このクラスタリング処理は、例えばk−means法、またはGMM(Gaussian Mixture Model:混合ガウスモデル)等のアルゴリズムによって実現される。ここで、クラスタリング処理部102により各フレームの周波数スペクトルを複数のクラスタに分類された後、各クラスタに属するフレームの数が多いものから順に第1集団、第2集団、第3集団(図6に示すクラスタ1、クラスタ2、クラスタ3)、・・・のように呼称するものとする。クラスタリング処理部102は、周波数特性の各フレームをどのようなクラスタに分類したかについての情報を、記憶部130のクラスタ記憶部134に記憶させる。クラスタリング処理部102は、例えば、図2に示すCPU51がプログラムを実行することによって実現される。 The clustering processing unit 102 of the abnormality detection device 10 reads out the frequency characteristics obtained by the frequency analysis processing unit 101 from the frequency characteristic storage unit 132, and reads the frequency spectrum of each frame included in the frequency characteristics into a plurality of groups (clusters). It is a functional part that classifies (clusters) into. This clustering process is realized by an algorithm such as, for example, the k-means method or GMM (Gaussian Mixture Model). Here, after the frequency spectrum of each frame is classified into a plurality of clusters by the clustering processing unit 102, the first group, the second group, and the third group (in FIG. 6) are arranged in descending order of the number of frames belonging to each cluster. It shall be referred to as cluster 1, cluster 2, cluster 3), ... The clustering processing unit 102 stores information about what kind of cluster each frame of the frequency characteristic is classified in the cluster storage unit 134 of the storage unit 130. The clustering processing unit 102 is realized, for example, by the CPU 51 shown in FIG. 2 executing a program.

なお、図6に示すデータ1〜データnは、各音響データに対応するスペクトログラムを示し(すなわちn個のスペクトログラム)、図6に示した3次元空間上の各プロットは、各スペクトログラムに含まれる各フレーム(周波数スペクトル)を示す。また、図6では、表示の都合上、3次元の特徴量空間として表現しているが、実際には周波数解析処理部101で算出した各フレーム(周波数スペクトル)の特徴量の次元(例えば、上述のように512次元)の高次元空間である。 Data 1 to data n shown in FIG. 6 indicate spectrograms corresponding to each acoustic data (that is, n spectrograms), and each plot in the three-dimensional space shown in FIG. 6 is included in each spectrogram. The frame (frequency spectrum) is shown. Further, in FIG. 6, for convenience of display, it is expressed as a three-dimensional feature amount space, but in reality, the feature amount dimension of each frame (frequency spectrum) calculated by the frequency analysis processing unit 101 (for example, described above). It is a high-dimensional space of 512 dimensions).

<多変量解析処理部の動作>
図7は、実施形態に係る異常検知装置の多変量解析処理部の動作を説明する図である。図7を参照しながら、異常検知装置10の多変量解析処理部103の動作について説明する。
<Operation of multivariate analysis processing unit>
FIG. 7 is a diagram illustrating the operation of the multivariate analysis processing unit of the abnormality detection device according to the embodiment. The operation of the multivariate analysis processing unit 103 of the abnormality detection device 10 will be described with reference to FIG. 7.

異常検知装置10の多変量解析処理部103は、周波数解析処理部101により求められた周波数特性を周波数特性記憶部132から読み出し、当該周波数特性に含まれる高次元(例えば512次元)の各周波数スペクトルを、主成分分析またはオートエンコーダ等の多変量解析を行い、可視化できる2次元または3次元の特徴量を算出する機能部である。例えば、多変量解析処理部103は、周波数解析処理部101により得られた周波数特性に含まれる各周波数スペクトルに対して主成分分析を行い、特徴量として第1主成分〜第3主成分を抽出する。これによって、高次元の特徴量空間上の点である各フレーム(周波数スペクトル)を、その主たる特徴を保持したまま、2次元または3次元の特徴量空間上の座標として表現することが可能となる。 The multivariate analysis processing unit 103 of the abnormality detection device 10 reads out the frequency characteristics obtained by the frequency analysis processing unit 101 from the frequency characteristic storage unit 132, and each high-dimensional (for example, 512-dimensional) frequency spectrum included in the frequency characteristics. Is a functional unit that calculates a two-dimensional or three-dimensional feature amount that can be visualized by performing principal component analysis or multivariate analysis such as an autoencoder. For example, the multivariate analysis processing unit 103 performs principal component analysis on each frequency spectrum included in the frequency characteristics obtained by the frequency analysis processing unit 101, and extracts the first to third principal components as feature quantities. To do. This makes it possible to express each frame (frequency spectrum), which is a point on the high-dimensional feature space, as coordinates on the two-dimensional or three-dimensional feature space while retaining its main features. ..

多変量解析処理部103は、各周波数スペクトルに対する多変量解析により算出した2次元または3次元の特徴量を、記憶部130の特徴量記憶部133へ記憶させる。例えば、多変量解析処理部103は、図7に示すように、データ(音響データ、スペクトログラム)と、フレームと、クラスタリング処理部102により分類されたクラスタと、主成分分析により得られた第1主成分〜第3主成分と、を関連付けた対応テーブルを特徴量記憶部133に記憶させる。多変量解析処理部103は、例えば、図2に示すCPU51がプログラムを実行することによって実現される。 The multivariate analysis processing unit 103 stores the two-dimensional or three-dimensional feature amount calculated by the multivariate analysis for each frequency spectrum in the feature amount storage unit 133 of the storage unit 130. For example, as shown in FIG. 7, the multivariate analysis processing unit 103 includes data (acoustic data, spectrogram), frames, clusters classified by the clustering processing unit 102, and a first principal component obtained by principal component analysis. The feature amount storage unit 133 stores a corresponding table in which the component to the third principal component are associated with each other. The multivariate analysis processing unit 103 is realized, for example, by the CPU 51 shown in FIG. 2 executing a program.

<特徴量表示部の動作>
図8は、実施形態に係る異常検知装置の特徴量表示部の動作を説明する図である。図8を参照しながら、異常検知装置10の特徴量表示部104の動作について説明する。
<Operation of feature amount display>
FIG. 8 is a diagram illustrating the operation of the feature amount display unit of the abnormality detection device according to the embodiment. The operation of the feature amount display unit 104 of the abnormality detection device 10 will be described with reference to FIG.

異常検知装置10の特徴量表示部104は、特徴量記憶部133に記憶された対応テーブルを参照し、各フレームの周波数スペクトルに対して多変量解析処理部103により算出された特徴量を、元の周波数スペクトルが属するクラスタが判別できる態様で、表示部124に表示させる機能部である。例えば、特徴量表示部104は、図8に示すように、多変量解析処理部103により算出された特徴量(第1主成分〜第3主成分)を軸とする3次元の特徴量空間上に、各フレーム(周波数スペクトル)を示すプロットを、当該フレームが属するクラスタに応じて色または形状を変えて表示させる(提示する)。これによって、利用者は、第1主成分〜第3主成分の3次元の特徴量空間において、各フレーム(周波数スペクトル)の分布の状態を把握することができ、上位の大集団から外れたプロットの様子等を視認することができ、注目すべきフレームが明確となる。なお、各フレームを3次元の特徴量空間上のプロットとして表示する場合、図8では固定の視点からの特徴量空間上のプロットの状態を示しているが、入力部123への操作入力に応じて、視点の方向を自由に変更することができるものとしてもよい。 The feature amount display unit 104 of the abnormality detection device 10 refers to the correspondence table stored in the feature amount storage unit 133, and uses the feature amount calculated by the multivariate analysis processing unit 103 for the frequency spectrum of each frame as the source. This is a functional unit to be displayed on the display unit 124 in such a manner that the cluster to which the frequency spectrum of the above belongs can be discriminated. For example, as shown in FIG. 8, the feature amount display unit 104 is on a three-dimensional feature amount space centered on the feature amount (first principal component to third principal component) calculated by the multivariate analysis processing unit 103. A plot showing each frame (frequency spectrum) is displayed (presented) in different colors or shapes according to the cluster to which the frame belongs. As a result, the user can grasp the distribution state of each frame (frequency spectrum) in the three-dimensional feature space of the first principal component to the third principal component, and the plot is out of the upper large group. The state of the above can be visually recognized, and the frame to be noted becomes clear. When each frame is displayed as a plot on the three-dimensional feature space, FIG. 8 shows the state of the plot on the feature space from a fixed viewpoint, but it depends on the operation input to the input unit 123. Therefore, the direction of the viewpoint may be freely changed.

特徴量表示部104は、例えば、図2に示すCPU51がプログラムを実行することによって実現される。 The feature amount display unit 104 is realized, for example, by the CPU 51 shown in FIG. 2 executing a program.

<基本情報表示部の動作>
図9は、実施形態に係る異常検知装置の基本情報表示部の動作を説明する図である。図9を参照しながら、異常検知装置10の基本情報表示部105の動作について説明する。
<Operation of basic information display unit>
FIG. 9 is a diagram illustrating the operation of the basic information display unit of the abnormality detection device according to the embodiment. The operation of the basic information display unit 105 of the abnormality detection device 10 will be described with reference to FIG.

異常検知装置10の基本情報表示部105は、特徴量表示部104により特徴量空間に表示された各フレーム(周波数スペクトル)を示すプロットの中から、利用者からの入力部123への操作により選択されたプロットに対応するフレームに関する基本情報を、表示部124に表示して提示する機能部である。特徴量空間上の各プロットは、あくまで多変量解析によって可視化できるような低次元(2次元または3次元)の特徴量空間上にマッピングされたものであり、各プロットに対応するフレームが元来有するすべての情報を表現できておらず、また、各次元が持つ意味も必ずしも明確ではない。そこで、基本情報表示部105は、図9に示すように、利用者が選択したプロット(フレーム)に対応する音響データの本来の波形、および周波数スペクトルの時系列(スペクトログラム)といった基本情報を利用者に提示するものとし、直感的な理解を支援するものとしている。このように、利用者が選択したプロット(フレーム)の基本情報を視覚的に表示する(提示する)ことによって、利用者の知見が反映された後述のラベリング作業の補助とすることができる。 The basic information display unit 105 of the anomaly detection device 10 selects from plots showing each frame (frequency spectrum) displayed in the feature amount space by the feature amount display unit 104 by operating the input unit 123 from the user. This is a functional unit that displays and presents basic information about the frame corresponding to the plotted plot on the display unit 124. Each plot on the feature space is mapped on a low-dimensional (two-dimensional or three-dimensional) feature space that can be visualized by multivariate analysis, and the frame corresponding to each plot originally has. Not all information can be expressed, and the meaning of each dimension is not always clear. Therefore, as shown in FIG. 9, the basic information display unit 105 uses basic information such as the original waveform of the acoustic data corresponding to the plot (frame) selected by the user and the time series (spectrogram) of the frequency spectrum. It is intended to be presented to and to support intuitive understanding. By visually displaying (presenting) the basic information of the plot (frame) selected by the user in this way, it is possible to assist the labeling work described later in which the knowledge of the user is reflected.

基本情報表示部105は、例えば、図2に示すCPU51がプログラムを実行することによって実現される。 The basic information display unit 105 is realized, for example, by the CPU 51 shown in FIG. 2 executing a program.

<再生部の動作>
図10は、実施形態に係る異常検知装置の再生部の動作を説明する図である。図10を参照しながら、異常検知装置10の再生部106の動作について説明する。
<Operation of playback unit>
FIG. 10 is a diagram illustrating the operation of the reproduction unit of the abnormality detection device according to the embodiment. The operation of the reproduction unit 106 of the abnormality detection device 10 will be described with reference to FIG.

異常検知装置10の再生部106は、特徴量表示部104により特徴量空間に表示された各フレーム(周波数スペクトル)を示すプロットの中から、利用者からの入力部123への操作により選択されたプロットに対応するフレームを含む音響データを、図10に示すように、当該プロットに対応する時刻を含む前後所定時間(例えば前後1秒)だけ、出力部125から音で再生させる機能部である。上述の基本情報表示部105による表示動作は、選択されたフレームの基本情報を視覚的に確認するものだが、工作機械20が設置された現場では、保全担当者は耳で工作機械20の状態を捉えており、再生部106により音響データを音として提示して耳で聞くことによって、正常か異常か等の判断の大きな手掛かりとすることができる。このように、利用者が選択したプロット(フレーム)に対応する音響データを音として再生する(提示する)ことによって、利用者の知見が反映された後述のラベリング作業の補助とすることができる。 The reproduction unit 106 of the abnormality detection device 10 is selected by an operation from the user to the input unit 123 from the plots showing each frame (frequency spectrum) displayed in the feature amount space by the feature amount display unit 104. As shown in FIG. 10, this is a functional unit that reproduces acoustic data including a frame corresponding to a plot by sound from the output unit 125 for a predetermined time before and after (for example, 1 second before and after) including the time corresponding to the plot. The display operation by the basic information display unit 105 described above visually confirms the basic information of the selected frame, but at the site where the machine tool 20 is installed, the maintenance person listens to the state of the machine tool 20. It is captured, and by presenting the acoustic data as sound by the reproduction unit 106 and listening to it by ear, it can be a great clue to judge whether it is normal or abnormal. In this way, by reproducing (presenting) the acoustic data corresponding to the plot (frame) selected by the user as sound, it is possible to assist the labeling work described later in which the knowledge of the user is reflected.

なお、音響データのみを音として再生させることに限定されるものではなく、信号受信部122により検知された検知信号が振動データである場合は、当該振動データの波形を音のデータとして再生させるものとしてもよい。 It should be noted that the present invention is not limited to reproducing only acoustic data as sound, and when the detection signal detected by the signal receiving unit 122 is vibration data, the waveform of the vibration data is reproduced as sound data. May be.

再生部106は、例えば、図2に示すCPU51がプログラムを実行することによって実現される。 The reproduction unit 106 is realized, for example, by the CPU 51 shown in FIG. 2 executing a program.

<ラベリング処理部の動作>
図11は、実施形態に係る異常検知装置のラベリング処理部の動作を説明する図である。図11を参照しながら、異常検知装置10のラベリング処理部107の動作について説明する。
<Operation of labeling processing unit>
FIG. 11 is a diagram illustrating the operation of the labeling processing unit of the abnormality detection device according to the embodiment. The operation of the labeling processing unit 107 of the abnormality detection device 10 will be described with reference to FIG.

異常検知装置10のラベリング処理部107は、少なくとも基本情報表示部105および再生部106のいずれかによる利用者が選択したプロットに対応する情報(サンプルデータに対応する情報)の提示を踏まえ、利用者からの入力部123への操作により、選択されたプロットが属するクラスタに対応するラベルの変更を反映する機能部である。例えば、上述のクラスタリング処理部102は、周波数特性に含まれる各フレームの周波数スペクトルをクラスタに分類した際に、図11に示すように、分類したクラスタと、ラベルとを関連付けるラベリングテーブルを、クラスタ記憶部134へ保存するものとする。この際、例えば、クラスタリング処理部102により保存されたラベリングテーブルの各クラスタに対応するラベルは初期値として「正常」と書き込まれているものとする。そして、利用者が、入力部123への操作により選択したプロット(およびその周辺の同クラスタのプロット)のフレームについて「異常」のデータであると判断した場合、クラスタリング処理部102は、ラベリングテーブルにおいて、利用者からの入力部123への操作により、当該プロットのクラスタに対応するラベルを「異常」に変更して更新する。なお、ラベリングテーブルにおいて各クラスタに対応するラベルが初期値として「正常」に設定されているものとしたが、これに限定されるものではなく、ラベルが初期値として「異常」に設定されているものとして、利用者により適宜、正常と判断するクラスタのラベルを「正常」に変更するものとしてよい。または、ラベルはデフォルトで空欄とし、利用者が適宜クラスタ毎にラベルを設定するものとしてもよい。 The labeling processing unit 107 of the abnormality detection device 10 is based on the presentation of information (information corresponding to sample data) corresponding to the plot selected by the user by at least one of the basic information display unit 105 and the reproduction unit 106. This is a functional unit that reflects the label change corresponding to the cluster to which the selected plot belongs by operating the input unit 123 from. For example, when the frequency spectrum of each frame included in the frequency characteristics is classified into clusters, the clustering processing unit 102 described above stores a labeling table for associating the classified clusters with labels as shown in FIG. It shall be stored in part 134. At this time, for example, it is assumed that the label corresponding to each cluster in the labeling table saved by the clustering processing unit 102 is written as "normal" as an initial value. Then, when the user determines that the data of the plot selected by the operation to the input unit 123 (and the plot of the same cluster around it) is "abnormal" data, the clustering processing unit 102 sets the labeling table. , The label corresponding to the cluster of the plot is changed to "abnormal" and updated by the operation from the user to the input unit 123. In the labeling table, the label corresponding to each cluster is set to "normal" as the initial value, but it is not limited to this, and the label is set to "abnormal" as the initial value. As a matter of fact, the label of the cluster judged to be normal may be changed to "normal" by the user as appropriate. Alternatively, the label may be left blank by default, and the user may set the label for each cluster as appropriate.

なお、上述ではラベリング処理部107により、ラベリングテーブルにおいてクラスタ毎にラベルを設定するものとしたが、これに限定されるものではなく、利用者により選択されたプロット毎(フレーム毎)にラベルを設定できるものとしてもよいが、音響データから得られるフレームは膨大な量であるため、クラスタ毎にラベルを設定する方が現実的である。 In the above description, the labeling processing unit 107 sets the label for each cluster in the labeling table, but the label is not limited to this, and the label is set for each plot (for each frame) selected by the user. Although it may be possible, it is more realistic to set a label for each cluster because the number of frames obtained from the acoustic data is enormous.

ラベリング処理部107は、例えば、図2に示すCPU51がプログラムを実行することによって実現される。 The labeling processing unit 107 is realized, for example, by the CPU 51 shown in FIG. 2 executing a program.

<モデル生成部の動作>
図12は、実施形態に係る異常検知装置のモデル生成部の動作を説明する図である。図12を参照しながら、異常検知装置10のモデル生成部108の動作について説明する。
<Operation of model generator>
FIG. 12 is a diagram illustrating the operation of the model generation unit of the abnormality detection device according to the embodiment. The operation of the model generation unit 108 of the abnormality detection device 10 will be described with reference to FIG.

異常検知装置10のモデル生成部108は、図12に示すように、特徴量記憶部133に記憶されたフレームとクラスタとを関連付ける対応テーブル、および、クラスタ記憶部134に記憶されたクラスタとラベルとを関連付けたラベリングテーブルを参照し、音響データ記憶部131に記憶された音響データをラベル付き学習データとして学習して、学習モデルを生成する機能部である。ここで、学習データは、周波数特性であるスペクトログラムに含まれる各フレーム(周波数スペクトル)に対応する。ここでは、モデル生成部108は、学習モデルとして外れ値検知器を生成するものとする。この場合、モデル生成部108は、ラベル付き学習データのうち、「正常」ラベルが付与された学習データ(正常サンプルデータ)のみを用いて、1クラスサポートベクタマシン(SVM)またはオートエンコーダ等の学習モデル(外れ値検知器)の学習を行う。当該学習モデル(外れ値検知器)は、入力された学習データが、正常サンプルデータからどれだけ外れているかを算出することができる。 As shown in FIG. 12, the model generation unit 108 of the abnormality detection device 10 includes a correspondence table for associating frames and clusters stored in the feature amount storage unit 133, and clusters and labels stored in the cluster storage unit 134. It is a functional unit that generates a learning model by learning the acoustic data stored in the acoustic data storage unit 131 as labeled learning data by referring to the labeling table associated with the above. Here, the training data corresponds to each frame (frequency spectrum) included in the spectrogram, which is a frequency characteristic. Here, it is assumed that the model generation unit 108 generates an outlier detector as a learning model. In this case, the model generation unit 108 uses only the training data (normal sample data) to which the “normal” label is attached among the labeled training data, and trains the one-class support vector machine (SVM), the autoencoder, or the like. Learn the model (outlier detector). The learning model (outlier detector) can calculate how much the input training data deviates from the normal sample data.

モデル生成部108は、例えば、図2に示すCPU51がプログラムを実行することによって実現される。 The model generation unit 108 is realized, for example, by the CPU 51 shown in FIG. 2 executing a program.

<異常検知部の動作>
図13は、実施形態に係る異常検知装置の異常検知部の動作を説明する図である。図13を参照しながら、異常検知装置10の異常検知部111の動作について説明する。
<Operation of abnormality detection unit>
FIG. 13 is a diagram illustrating the operation of the abnormality detection unit of the abnormality detection device according to the embodiment. The operation of the abnormality detection unit 111 of the abnormality detection device 10 will be described with reference to FIG.

異常検知装置10の異常検知部111は、モデル生成部108により生成され、後述するようにモデル管理部110によりモデル記憶部135に記憶された学習モデル(外れ値検知器)を用いて、入力された音響データ(音響データ記憶部131に記憶された音響データ)(図13に示すデータ1’〜n’)に対して異常検知、すなわち、正常か異常かの判定を行う機能部である。異常検知部111は、音響データに対して学習モデルを用いて行った異常検知の結果を、記憶部130の検知結果記憶部136へ記憶させる。このように、検知結果記憶部136へ異常検知結果を保存しておくことによって、保存担当者が後ほど確認することができる。なお、異常検知部111は、学習モデルを用いて異常と判定された場合、当該異常の深刻度(例えば正常からの外れ度合い等)に応じて、保全担当者に通報(例えば表示部124への表示、またはメール通知等)するものとしてもよい。 The abnormality detection unit 111 of the abnormality detection device 10 is input using a learning model (outlier detector) generated by the model generation unit 108 and stored in the model storage unit 135 by the model management unit 110 as described later. This is a functional unit that detects an abnormality in the acoustic data (acoustic data stored in the acoustic data storage unit 131) (data 1'to n'shown in FIG. 13), that is, determines whether the data is normal or abnormal. The abnormality detection unit 111 stores the result of abnormality detection performed on the acoustic data using the learning model in the detection result storage unit 136 of the storage unit 130. By storing the abnormality detection result in the detection result storage unit 136 in this way, the person in charge of storage can confirm it later. When the abnormality detection unit 111 is determined to be abnormal using the learning model, the abnormality detection unit 111 notifies the maintenance person (for example, the display unit 124) according to the severity of the abnormality (for example, the degree of deviation from normal). It may be displayed or notified by e-mail.

異常検知部111は、例えば、図2に示すCPU51がプログラムを実行することによって実現される。 The abnormality detection unit 111 is realized, for example, by the CPU 51 shown in FIG. 2 executing a program.

<適合度算出部の動作>
図14は、実施形態に係る異常検知装置の適合度算出部の動作を説明する図である。図14を参照しながら、異常検知装置10の適合度算出部112の動作について説明する。
<Operation of the goodness-of-fit calculation unit>
FIG. 14 is a diagram illustrating the operation of the goodness-of-fit calculation unit of the abnormality detection device according to the embodiment. The operation of the goodness-of-fit calculation unit 112 of the abnormality detection device 10 will be described with reference to FIG.

異常検知装置10の適合度算出部112は、現在、異常検知部111による異常検知で使用している学習モデル(外れ値検知器)が、現在入力されている音響データに対してどの程度適しているモデルであるのかを表す指標となる適合度を算出する機能部である。例えば、適合度算出部112は、図14に示すように、現在使用されている学習モデルの学習に使用した学習データを示すプロットについての各クラスタでのセントロイドと、現在入力されている音響データに基づく各フレームのプロットとの距離(例えばユークリッド距離またはマハラノビス距離等)の平均値、または、GMMによって算出される平均尤度等に基づいて適合度を算出する。 The goodness-of-fit calculation unit 112 of the abnormality detection device 10 is how suitable the learning model (outlier detector) currently used for abnormality detection by the abnormality detection unit 111 is for the acoustic data currently input. It is a functional part that calculates the goodness of fit, which is an index indicating whether the model is in use. For example, the goodness-of-fit calculation unit 112, as shown in FIG. 14, has centroids in each cluster for plots showing the training data used to train the training model currently in use, and the acoustic data currently input. The goodness of fit is calculated based on the average value of the distances (for example, Euclidean distance or Mahalanobis distance, etc.) of each frame to the plot based on, or the average likelihood calculated by GMM.

なお、適合度算出部112は、算出した適合度に対して閾値判定することにより、現在使用している学習モデルが、入力されている音響データに対して異常検知するための適切な学習モデルから乖離している旨(例えば、乖離している度合いを示す数値、または適合度自体等)(適合度に関する情報の一例)を表示部124へ表示させ、後述のモデル選択部113に対し、再学習に使用する学習モデル、または、当該音響データに対する適切な異常検知を行うための学習モデルとして、過去に生成済みの学習モデルの中から選択させることを促すようにしてもよい。また、適合度算出部112は、異常検知するための適切な学習モデルから乖離している旨の表示として、例えば、低次元の特徴量空間において、現在使用している学習モデルの学習に用いたサンプルデータを表示すると共に、それ以降に入力された音響データに基づくサンプルデータを別の色で表示するようにしてもよい。 The goodness-of-fit calculation unit 112 determines a threshold value for the calculated goodness of fit, so that the learning model currently in use is based on an appropriate learning model for detecting an abnormality in the input acoustic data. The fact that there is a divergence (for example, a numerical value indicating the degree of divergence, or the goodness of fit itself) (an example of information on the goodness of fit) is displayed on the display unit 124, and the model selection unit 113 described later is relearned. As a learning model to be used for, or as a learning model for performing appropriate abnormality detection on the acoustic data, it may be prompted to select from the learning models generated in the past. Further, the goodness-of-fit calculation unit 112 was used for learning the learning model currently used, for example, in a low-dimensional feature space as an indication that the learning model deviates from the appropriate learning model for detecting anomalies. In addition to displaying the sample data, the sample data based on the acoustic data input after that may be displayed in another color.

適合度算出部112は、例えば、図2に示すCPU51がプログラムを実行することによって実現される。 The goodness-of-fit calculation unit 112 is realized, for example, by the CPU 51 shown in FIG. 2 executing a program.

<付帯情報取得部の動作>
図15は、実施形態に係る異常検知装置の付帯情報取得部の動作を説明する図である。図15を参照しながら、異常検知装置10の付帯情報取得部109の動作について説明する。
<Operation of incidental information acquisition unit>
FIG. 15 is a diagram illustrating the operation of the incidental information acquisition unit of the abnormality detection device according to the embodiment. The operation of the incidental information acquisition unit 109 of the abnormality detection device 10 will be described with reference to FIG.

異常検知装置10の付帯情報取得部109は、モデル生成部108により生成された学習モデル(外れ値検知器)と関連付けて管理するための付帯情報を取得する機能部である。ここで、付帯情報とは、学習モデルの適用範囲を把握するための手掛かりとして利用可能な情報であり、入力される音響データと何らかの相関を有するものと予想される情報である。例えば、付帯情報は、学習モデルを学習するために用いる学習データが取得されたときの「気温」、「天候」、「時刻」等のようなネットワークを介して取得できる情報、または、工作機械20から取得可能な動作状況および設定値等の各種パラメータ、ならびに、予め利用者によって入力済みの任意のラベル等である。また、図15に示す付帯情報の例では、学習モデルのIDとして「Classifier A」、生成された日時として「YYYY/MM/DD HH:mm:ss」、学習モデルの種類として「AutoEncoder」、エポックとして「1000」、特徴量として「Log Spectrum」、天気として「Rainy」、工作機械20のモデルとして「Middle Rotation」を含んでいる。 The incidental information acquisition unit 109 of the abnormality detection device 10 is a functional unit that acquires incidental information for management in association with the learning model (outlier detector) generated by the model generation unit 108. Here, the incidental information is information that can be used as a clue for grasping the applicable range of the learning model, and is information that is expected to have some correlation with the input acoustic data. For example, the incidental information is information that can be acquired via a network such as "temperature", "weather", "time", etc. when the learning data used for learning the learning model is acquired, or the machine tool 20. Various parameters such as operating status and set values that can be obtained from, and arbitrary labels that have been input by the user in advance. Further, in the example of the incidental information shown in FIG. 15, the learning model ID is "Classifier A", the generated date and time is "YYYY / MM / DD HH: mm: ss", the learning model type is "AutoEncoder", and the epoch. As "1000", as a feature amount, "Log Spectram", as a weather, "Rainy", and as a model of a machine tool 20, "Middle Rotation" is included.

付帯情報取得部109は、例えば、図2に示すCPU51がプログラムを実行することによって実現される。 The incidental information acquisition unit 109 is realized, for example, by the CPU 51 shown in FIG. 2 executing a program.

<モデル管理部の動作>
図16は、実施形態に係る異常検知装置のモデル管理部の動作を説明する図である。図16を参照しながら、異常検知装置10のモデル管理部110の動作について説明する。
<Operation of model management unit>
FIG. 16 is a diagram illustrating the operation of the model management unit of the abnormality detection device according to the embodiment. The operation of the model management unit 110 of the abnormality detection device 10 will be described with reference to FIG.

異常検知装置10のモデル管理部110は、モデル生成部108により生成された学習モデル(外れ値検知器)を、当該学習モデルの学習に使用した学習データ、および付帯情報取得部109により取得された付帯情報と、関連付けて記憶部130のモデル記憶部135へ保存および管理する機能部である。また、学習モデルに関連付ける学習データとしては、例えば、図16に示すように、多変量解析処理部103により生成された対応テーブル、およびラベリング処理部107によりラベルが書き込まれたラベリングテーブルであってもよい。 The model management unit 110 of the anomaly detection device 10 acquired the learning model (outlier value detector) generated by the model generation unit 108 by the learning data used for learning the learning model and the incidental information acquisition unit 109. It is a functional unit that stores and manages incidental information in the model storage unit 135 of the storage unit 130 in association with the incidental information. Further, as the learning data associated with the learning model, for example, as shown in FIG. 16, even if it is a correspondence table generated by the multivariate analysis processing unit 103 and a labeling table with a label written by the labeling processing unit 107. Good.

モデル管理部110は、例えば、図2に示すCPU51がプログラムを実行することによって実現される。 The model management unit 110 is realized, for example, by the CPU 51 shown in FIG. 2 executing a program.

<モデル選択部の動作>
図17は、実施形態に係る異常検知装置のモデル選択部の動作を説明する図である。図17を参照しながら、異常検知装置10のモデル選択部113の動作について説明する。
<Operation of model selection section>
FIG. 17 is a diagram illustrating the operation of the model selection unit of the abnormality detection device according to the embodiment. The operation of the model selection unit 113 of the abnormality detection device 10 will be described with reference to FIG.

異常検知装置10のモデル選択部113は、適合度算出部112により算出された適合度が現在入力されている音響データに対して異常検知を行うための学習モデルとして、現在使用している学習モデルが適していないことを示す場合、モデル記憶部135で管理されている学習モデルの中から、入力されている音響データに基づいて再学習を行うための初期モデルを選択する機能部である。選択するための具体的な尺度としては、例えば、モデル記憶部135に管理されている学習モデルに関連付けられた付帯情報が、付帯情報取得部109により新たに取得された付帯情報と同一もしくは類似である学習モデル、または、管理されている学習モデルの学習に使用された学習データの分布と、新たに入力されている音響データに基づくサンプルデータ(フレーム)との間に距離(例えばユークリッド距離またはマハラノビス距離等)が最も小さい学習モデル、等である。このように、モデル選択部113により付帯情報が同一または類似の学習モデル、または、学習データの分布が新たな入力データとの距離が近い学習モデルを、初期モデルとして再学習することによって、学習時間を短縮することができ、局所最適解に陥るリスクも低減することができる。 The model selection unit 113 of the abnormality detection device 10 is currently using a learning model as a learning model for detecting an abnormality in acoustic data for which the goodness of fit calculated by the goodness of fit calculation unit 112 is currently input. Is not suitable, it is a functional unit that selects an initial model for re-learning based on the input acoustic data from the learning models managed by the model storage unit 135. As a specific scale for selection, for example, the incidental information associated with the learning model managed in the model storage unit 135 is the same as or similar to the incidental information newly acquired by the incidental information acquisition unit 109. The distance (eg, Euclidean distance or Maharanobis) between the distribution of training data used to train a learning model or a managed learning model and sample data (frames) based on newly input acoustic data. The learning model with the smallest distance, etc.), etc. In this way, the learning time is re-learned by the model selection unit 113 as an initial model of a learning model having the same or similar incidental information or a learning model whose distribution of learning data is close to the new input data. Can be shortened, and the risk of falling into a locally optimal solution can also be reduced.

なお、学習モデルの再学習においては、新たに入力された音響データだけで再学習することに限定されるものではなく、例えば、今まで異常検知に使用していた学習モデルの学習に使用した学習データを混合して再学習に用いるものとしてもよい。また、モデル選択部113によりモデル記憶部135に記憶された学習モデルの中から、再学習のための初期モデルとして選択する動作を説明したが、これに限定されるものではない。例えば、モデル記憶部135に、関連付けられた付帯情報が、付帯情報取得部109により新たに取得された付帯情報とほぼ同一である学習モデル、または、管理されている学習モデルの学習に使用された学習データの分布と、新たに入力されている音響データに基づくサンプルデータ(フレーム)との間に距離(例えばユークリッド距離またはマハラノビス距離等)がほぼ0とみなせる学習モデルがあれば、再学習をせずに、当該学習モデルをそのまま用いるものとしてもよい。 Note that the re-learning of the learning model is not limited to re-learning only with the newly input acoustic data. For example, the learning used for learning the learning model used for abnormality detection until now. The data may be mixed and used for re-learning. Further, the operation of selecting the learning model stored in the model storage unit 135 by the model selection unit 113 as the initial model for re-learning has been described, but the operation is not limited to this. For example, the incidental information associated with the model storage unit 135 was used for learning a learning model in which the incidental information newly acquired by the incidental information acquisition unit 109 is substantially the same as the learning model or a learning model managed. If there is a learning model in which the distance (for example, Euclidean distance or Maharanobis distance) can be regarded as almost 0 between the distribution of the training data and the sample data (frame) based on the newly input acoustic data, retrain. Instead, the learning model may be used as it is.

モデル選択部113は、例えば、図2に示すCPU51がプログラムを実行することによって実現される。 The model selection unit 113 is realized, for example, by the CPU 51 shown in FIG. 2 executing a program.

<データ調整部の動作>
図18は、実施形態に係る異常検知装置のデータ調整部の動作を説明する図である。図18を参照しながら、異常検知装置10のデータ調整部114の動作について説明する。
<Operation of data adjustment unit>
FIG. 18 is a diagram illustrating the operation of the data adjusting unit of the abnormality detection device according to the embodiment. The operation of the data adjusting unit 114 of the abnormality detection device 10 will be described with reference to FIG.

異常検知装置10のデータ調整部114は、モデル選択部113により選択された学習モデルを初期モデルとして再学習を行う際に、当該再学習に用いる学習データ数を調整する機能部である。データ調整部114は、学習データの調整方法として、例えば、学習データに付与されているタイムスタンプの古いものから順に取り除く方法、または乱数を用いてランダムに選択した学習データを取り除く方法等によってデータ調整を行う。または、データ調整部114は、新たに入力された音響データに基づく学習データ全体についてクラスタリング処理部102によりクラスタリングされたときに、各クラスタに属する学習データの数(図18に示すカウント数)が多いものの中から優先的に学習データを除くことによって、学習データのバリエーションを確保しつつ、類似した学習データを効果的に除去することができる。 The data adjustment unit 114 of the abnormality detection device 10 is a functional unit that adjusts the number of learning data used for the re-learning when re-learning using the learning model selected by the model selection unit 113 as the initial model. As a method of adjusting the training data, the data adjustment unit 114 adjusts the data by, for example, a method of removing the oldest time stamps attached to the training data in order, or a method of removing the learning data randomly selected using a random number. I do. Alternatively, when the data adjustment unit 114 clusters the entire training data based on the newly input acoustic data by the clustering processing unit 102, the number of training data belonging to each cluster (count number shown in FIG. 18) is large. By preferentially removing the training data from the data, it is possible to effectively remove similar training data while ensuring variations in the training data.

以上のように、学習モデルの再学習の際に、順次新たな学習データが追加されることで学習データが単調に増加し、いずれは利用可能なリソース(主にメモリ容量)のキャパシティをオーバーして計算不能に陥ることを抑制することができる。 As described above, when the learning model is retrained, the training data increases monotonically as new training data is added in sequence, and eventually the capacity of available resources (mainly memory capacity) is exceeded. It is possible to prevent the calculation from becoming impossible.

データ調整部114は、例えば、図2に示すCPU51がプログラムを実行することによって実現される。 The data adjustment unit 114 is realized, for example, by the CPU 51 shown in FIG. 2 executing a program.

<その他の機能部の動作>
図4に戻り、異常検知装置10のその他の機能部の動作について説明する。
<Operation of other functional parts>
Returning to FIG. 4, the operation of other functional units of the abnormality detection device 10 will be described.

通信部121は、工作機械20とデータ通信を行ったり、上述の付帯情報を受信する機能部である。例えば、通信部121は、工作機械20からコンテキスト情報を受信する。ここで、コンテキスト情報とは、工作機械20についての識別情報および動作情報等を含む情報である。コンテキスト情報は、例えば、工作機械20の識別情報(型式等)、駆動部204の識別情報、そのときの動作状態、回転数および加工速度、駆動部204に駆動される工具23の径および材質等の加工条件、ならびに、シーケンス番号、サイクル番号およびツール番号等を含む。通信部121は、図2に示す通信I/F54によって実現される。 The communication unit 121 is a functional unit that performs data communication with the machine tool 20 and receives the above-mentioned incidental information. For example, the communication unit 121 receives context information from the machine tool 20. Here, the context information is information including identification information, operation information, and the like about the machine tool 20. The context information includes, for example, the identification information (model, etc.) of the machine tool 20, the identification information of the drive unit 204, the operating state at that time, the rotation speed and the machining speed, the diameter and material of the tool 23 driven by the drive unit 204, and the like. Processing conditions, sequence number, cycle number, tool number, etc. are included. The communication unit 121 is realized by the communication I / F 54 shown in FIG.

信号受信部122は、工作機械20において加工処理中であることを示す動作信号、および、工作機械20に設置されたセンサ24から加工処理中に発生する振動または音を検知した検知信号(振動データまたは音響データ等)を、A/Dコンバータ30を介して受信する機能部である。信号受信部122は、図2に示すセンサI/F55によって実現される。 The signal receiving unit 122 detects an operation signal indicating that the machine tool 20 is in the process of machining, and a detection signal (vibration data) that detects vibration or sound generated during the machining process from the sensor 24 installed in the machine tool 20. Alternatively, it is a functional unit that receives (or acoustic data, etc.) via the A / D converter 30. The signal receiving unit 122 is realized by the sensor I / F55 shown in FIG.

入力部123は、ユーザからの操作入力を受け付ける機能部である。入力部123は、図2に示す入力装置57によって実現される。 The input unit 123 is a functional unit that receives an operation input from the user. The input unit 123 is realized by the input device 57 shown in FIG.

表示部124は、特徴量表示部104により特徴量空間上に各フレーム(周波数スペクトル)を示すプロット、基本情報表示部105により特徴量空間上で選択されたプロットに対応する基本情報、および適合度算出部112により算出された適合度等を、表示する機能部である。表示部124は、図2に示すディスプレイ58によって実現される。 The display unit 124 has a plot showing each frame (frequency spectrum) on the feature space by the feature display 104, basic information corresponding to the plot selected on the feature space by the basic information display 105, and a goodness of fit. It is a functional unit that displays the goodness of fit and the like calculated by the calculation unit 112. The display unit 124 is realized by the display 58 shown in FIG.

出力部125は、再生部106からの指示に従って、特徴量空間上で選択されたプロットに対応するフレームを含む音響データを音で再生させる機能部である。出力部125は、図2に示すスピーカ62によって実現させる。 The output unit 125 is a functional unit that reproduces acoustic data including a frame corresponding to a selected plot in the feature space by sound according to an instruction from the reproduction unit 106. The output unit 125 is realized by the speaker 62 shown in FIG.

音響データ記憶部131は、信号受信部122によって受信された音響データを記憶する機能部である。周波数特性記憶部132は、周波数解析処理部101により求められた周波数特性(スペクトログラム)のデータを記憶する機能部である。特徴量記憶部133は、周波数解析処理部101により求められた周波数特性に含まれる各フレームの特徴量、および、多変量解析処理部103により多変量解析により算出された2次元または3次元の特徴量等を記憶する機能部である。クラスタ記憶部134は、クラスタリング処理部102により分類されたクラスタの情報を記憶する機能部である。モデル記憶部135は、モデル生成部108により生成された学習モデル(外れ値検知器)を、当該学習モデルの学習に使用した学習データ、および付帯情報取得部109により取得された付帯情報と、関連付けて記憶する機能部である。検知結果記憶部136は、異常検知部111により、音響データに対して学習モデルを用いて行われた異常検知の結果を記憶する機能部である。 The acoustic data storage unit 131 is a functional unit that stores acoustic data received by the signal reception unit 122. The frequency characteristic storage unit 132 is a functional unit that stores frequency characteristic (spectrogram) data obtained by the frequency analysis processing unit 101. The feature amount storage unit 133 includes the feature amount of each frame included in the frequency characteristics obtained by the frequency analysis processing unit 101, and the two-dimensional or three-dimensional feature calculated by the multivariate analysis processing unit 103 by the multivariate analysis processing unit 103. It is a functional unit that stores the amount and so on. The cluster storage unit 134 is a functional unit that stores cluster information classified by the clustering processing unit 102. The model storage unit 135 associates the learning model (outlier value detector) generated by the model generation unit 108 with the learning data used for learning the learning model and the incidental information acquired by the incidental information acquisition unit 109. It is a functional part that remembers. The detection result storage unit 136 is a functional unit that stores the result of abnormality detection performed by the abnormality detection unit 111 on the acoustic data using the learning model.

なお、図4に示した異常検知装置10の周波数解析処理部101、クラスタリング処理部102、多変量解析処理部103、特徴量表示部104、基本情報表示部105、再生部106、ラベリング処理部107、モデル生成部108、付帯情報取得部109、モデル管理部110、異常検知部111、適合度算出部112、モデル選択部113およびデータ調整部114は、図2に示すCPU51がプログラムを実行することによって実現されることに限定されるものではなく、IC(Integrated Circuit)等のハードウェアによって実現されるものとしてもよい。 The frequency analysis processing unit 101, clustering processing unit 102, multivariate analysis processing unit 103, feature amount display unit 104, basic information display unit 105, reproduction unit 106, and labeling processing unit 107 of the abnormality detection device 10 shown in FIG. 4 , Model generation unit 108, incidental information acquisition unit 109, model management unit 110, abnormality detection unit 111, conformity calculation unit 112, model selection unit 113, and data adjustment unit 114, the CPU 51 shown in FIG. 2 executes a program. It is not limited to being realized by, but may be realized by hardware such as IC (Integrated Cluster).

また、図4に示す異常検知装置10の各機能部は、機能を概念的に示したものであって、このような構成に限定されるものではない。例えば、図4に示す異常検知装置10で独立した機能部として図示した複数の機能部を、1つの機能部として構成してもよい。一方、図4に示す異常検知装置10で1つの機能部が有する機能を複数に分割し、複数の機能部として構成するものとしてもよい。 Further, each functional unit of the abnormality detection device 10 shown in FIG. 4 conceptually shows a function, and is not limited to such a configuration. For example, a plurality of functional units illustrated as independent functional units in the abnormality detection device 10 shown in FIG. 4 may be configured as one functional unit. On the other hand, in the abnormality detection device 10 shown in FIG. 4, the function of one functional unit may be divided into a plurality of functions and configured as a plurality of functional units.

また、異常検知装置10に含まれる各機能部は、必ずしも異常検知装置10上で実現されなければならないわけではなく、例えば、機能部の一部がクラウド40によって実現されるものとしてもよい。例えば、工作機械20からの検知信号を取得する信号受信部122、付帯情報を受信する通信部121および付帯情報取得部109、ならびに学習モデルを利用して音響データに対する異常検知を行う異常検知部111以外の機能部は、クラウド40上で実現されるものとしてもよい。 Further, each functional unit included in the abnormality detection device 10 does not necessarily have to be realized on the abnormality detection device 10, and for example, a part of the functional unit may be realized by the cloud 40. For example, a signal receiving unit 122 that acquires a detection signal from the machine tool 20, a communication unit 121 and an incidental information acquisition unit 109 that receive incidental information, and an abnormality detecting unit 111 that detects an abnormality in acoustic data using a learning model. The functional units other than the above may be realized on the cloud 40.

(工作機械の機能ブロックの構成および動作)
図19は、実施形態に係る工作機械の機能ブロック構成の一例を示す図である。図19を参照しながら、本実施形態に係る工作機械20の機能ブロックの構成および動作について説明する。
(Structure and operation of functional blocks of machine tools)
FIG. 19 is a diagram showing an example of the functional block configuration of the machine tool according to the embodiment. The configuration and operation of the functional block of the machine tool 20 according to the present embodiment will be described with reference to FIG.

図19に示すように、工作機械20は、数値制御部201と、通信部202と、駆動制御部203と、駆動部204と、信号送信部205と、検知部211と、を有する。 As shown in FIG. 19, the machine tool 20 has a numerical control unit 201, a communication unit 202, a drive control unit 203, a drive unit 204, a signal transmission unit 205, and a detection unit 211.

数値制御部201は、駆動部204による加工を数値制御(NC)により実行する機能部である。例えば、数値制御部201は、駆動部204の動作を制御するための数値制御データを生成して出力する。また、数値制御部201は、コンテキスト情報を通信部202を介して異常検知装置10へ送信し、NCプログラムで規定される加工サイクルの加工処理の実行中には、動作信号を信号送信部205を介して異常検知装置10へ送信する。数値制御部201は、加工対象を加工する際、加工処理に応じて、駆動する駆動部204の種類、または駆動部204の駆動状態(回転数、回転速度等)を変更する。数値制御部201は、動作の種類を変更するごとに、変更した動作の種類に対応するコンテキスト情報を、通信部202を介して異常検知装置10へ逐次送信する。数値制御部201は、例えば、図3に示すCPU71がプログラム(NCプログラム)を実行することによって実現される。 The numerical control unit 201 is a functional unit that executes machining by the drive unit 204 by numerical control (NC). For example, the numerical control unit 201 generates and outputs numerical control data for controlling the operation of the drive unit 204. Further, the numerical control unit 201 transmits the context information to the abnormality detection device 10 via the communication unit 202, and the operation signal is transmitted to the signal transmission unit 205 during the processing of the processing cycle defined by the NC program. It is transmitted to the abnormality detection device 10 via. When machining an object to be machined, the numerical control unit 201 changes the type of the drive unit 204 to be driven or the drive state (rotation speed, rotation speed, etc.) of the drive unit 204 according to the machining process. Each time the numerical control unit 201 changes the operation type, the numerical control unit 201 sequentially transmits the context information corresponding to the changed operation type to the abnormality detection device 10 via the communication unit 202. The numerical control unit 201 is realized, for example, by the CPU 71 shown in FIG. 3 executing a program (NC program).

通信部202は、異常検知装置10とデータ通信を行う機能部である。例えば、通信部202は、その時点での動作に対応するコンテキスト情報を、数値制御部201の制御に従って、異常検知装置100へ送信する。通信部202は、例えば、図3に示す通信I/F74、およびCPU71で動作するプログラムによって実現される。 The communication unit 202 is a functional unit that performs data communication with the abnormality detection device 10. For example, the communication unit 202 transmits the context information corresponding to the operation at that time to the abnormality detection device 100 under the control of the numerical control unit 201. The communication unit 202 is realized by, for example, a communication I / F 74 shown in FIG. 3 and a program running on the CPU 71.

駆動制御部203は、数値制御部201により求められた数値制御データに基づいて、駆動部204を駆動制御する機能部である。駆動制御部203は、例えば、図3に示す駆動制御回路75によって実現される。 The drive control unit 203 is a functional unit that drives and controls the drive unit 204 based on the numerical control data obtained by the numerical control unit 201. The drive control unit 203 is realized by, for example, the drive control circuit 75 shown in FIG.

駆動部204は、駆動制御部203による駆動制御の対象となる機能部である。駆動部204は、駆動制御部203による制御によって工具23を駆動する。駆動部204は、例えば、モータ等であり、加工に用いられ、数値制御の対象となるものであればどのようなものであってもよい。なお、駆動部204は、2以上備えられていてもよい。駆動部204は、駆動制御部203によって駆動制御されるアクチュエータであり、例えば、図3に示すモータ76等によって実現される。 The drive unit 204 is a functional unit that is the target of drive control by the drive control unit 203. The drive unit 204 drives the tool 23 under the control of the drive control unit 203. The drive unit 204 may be, for example, any motor or the like, which is used for processing and is subject to numerical control. Two or more drive units 204 may be provided. The drive unit 204 is an actuator that is drive-controlled by the drive control unit 203, and is realized by, for example, the motor 76 shown in FIG.

信号送信部205は、数値制御部201によりNCプログラムで規定される加工サイクルの加工処理が実行されているときに、動作信号を異常検知装置10へ送信する機能部である。信号送信部205は、図3に示す信号I/F77、およびCPU71で動作するプログラムによって実現される。 The signal transmission unit 205 is a functional unit that transmits an operation signal to the abnormality detection device 10 when the machining process of the machining cycle defined by the NC program is being executed by the numerical control unit 201. The signal transmission unit 205 is realized by a program that operates on the signal I / F77 and the CPU 71 shown in FIG.

検知部211は、工作機械20で保持された工具23が発する振動または音等の物理量を検知し、検知した物理量の情報を検知信号としてA/Dコンバータ30へ出力する機能部である。検知部211は、図3に示すセンサ24によって実現される。なお、検知部211の個数は任意である。例えば、同一の物理量を検知する複数の検知部211を備えてもよいし、相互に異なる物理量を検知する複数の検知部211を備えてもよい。 The detection unit 211 is a functional unit that detects a physical quantity such as vibration or sound generated by the tool 23 held by the machine tool 20 and outputs the information of the detected physical quantity as a detection signal to the A / D converter 30. The detection unit 211 is realized by the sensor 24 shown in FIG. The number of detection units 211 is arbitrary. For example, a plurality of detection units 211 that detect the same physical quantity may be provided, or a plurality of detection units 211 that detect different physical quantities may be provided.

なお、図19に示す工作機械20の各機能部は、機能を概念的に示したものであって、このような構成に限定されるものではない。例えば、図19に示す工作機械20で独立した機能部として図示した複数の機能部を、1つの機能部として構成してもよい。一方、図19に示す工作機械20で1つの機能部が有する機能を複数に分割し、複数の機能部として構成するものとしてもよい。 It should be noted that each functional unit of the machine tool 20 shown in FIG. 19 conceptually shows a function, and is not limited to such a configuration. For example, a plurality of functional units illustrated as independent functional units in the machine tool 20 shown in FIG. 19 may be configured as one functional unit. On the other hand, in the machine tool 20 shown in FIG. 19, the functions possessed by one functional unit may be divided into a plurality of functions and configured as a plurality of functional units.

(異常検知装置の全体動作)
図20および図21は、実施形態に係る異常検知装置の全体動作の流れの一例を示す図である。図20および図21を参照しながら、本実施形態に係る異常検知装置10の全体動作の流れについて説明する。
(Overall operation of abnormality detection device)
20 and 21 are diagrams showing an example of the flow of the overall operation of the abnormality detection device according to the embodiment. The overall operation flow of the abnormality detection device 10 according to the present embodiment will be described with reference to FIGS. 20 and 21.

<ステップS11>
異常検知装置10の周波数解析処理部101は、工作機械20のセンサ24で検知された検知信号(ここでは音響データ)が記憶された音響データ記憶部131から音響データを読み出し、周波数解析を行い、スペクトルグラム等の周波数特性を得る。周波数解析処理部101は、求めた周波数特性(スペクトログラム)を、記憶部130の周波数特性記憶部132に記憶させ、また、周波数特性に含まれる各フレーム(周波数スペクトル)の特徴量を、特徴量記憶部133に記憶させる。そして、ステップS12へ移行する。
<Step S11>
The frequency analysis processing unit 101 of the abnormality detection device 10 reads acoustic data from the acoustic data storage unit 131 in which the detection signal (here, acoustic data) detected by the sensor 24 of the machine tool 20 is stored, performs frequency analysis, and performs frequency analysis. Obtain frequency characteristics such as spectral grams. The frequency analysis processing unit 101 stores the obtained frequency characteristic (spectrogram) in the frequency characteristic storage unit 132 of the storage unit 130, and stores the feature amount of each frame (frequency spectrum) included in the frequency characteristic in the feature amount storage. Store in unit 133. Then, the process proceeds to step S12.

<ステップS12>
異常検知装置10のクラスタリング処理部102は、周波数解析処理部101により求められた周波数特性を周波数特性記憶部132から読み出し、当該周波数特性に含まれる各フレームの周波数スペクトルを、複数の集団(クラスタ)に分類(クラスタリング)する。クラスタリング処理部102は、周波数特性の各フレームをどのようなクラスタに分類したかについての情報を、記憶部130のクラスタ記憶部134に記憶させる。そして、ステップS13へ移行する。
<Step S12>
The clustering processing unit 102 of the abnormality detection device 10 reads out the frequency characteristics obtained by the frequency analysis processing unit 101 from the frequency characteristic storage unit 132, and reads the frequency spectrum of each frame included in the frequency characteristics into a plurality of groups (clusters). Classify (clustering) into. The clustering processing unit 102 stores information about what kind of cluster each frame of the frequency characteristic is classified in the cluster storage unit 134 of the storage unit 130. Then, the process proceeds to step S13.

<ステップS13>
異常検知装置10の多変量解析処理部103は、周波数解析処理部101により求められた周波数特性を周波数特性記憶部132から読み出し、当該周波数特性に含まれる高次元(例えば512次元)の各周波数スペクトルを、主成分分析またはオートエンコーダ等の多変量解析を行い、可視化できる2次元または3次元の特徴量を算出する。多変量解析処理部103は、各周波数スペクトルに対する多変量解析により算出した2次元または3次元の特徴量を、記憶部130の特徴量記憶部133へ記憶させる。例えば、多変量解析処理部103は、図7に示すように、データ(音響データ、スペクトログラム)と、フレームと、クラスタリング処理部102により分類されたクラスタと、主成分分析により得られた第1主成分〜第3主成分と、を関連付けた対応テーブルを特徴量記憶部133に記憶させる。なお、クラスタリング処理部102によるクラスタリング、および多変量解析処理部103による多変量解析は、どちらを先に実行してもよい。そして、ステップS21へ移行する。
<Step S13>
The multivariate analysis processing unit 103 of the abnormality detection device 10 reads out the frequency characteristics obtained by the frequency analysis processing unit 101 from the frequency characteristic storage unit 132, and each high-dimensional (for example, 512-dimensional) frequency spectrum included in the frequency characteristics. Is subjected to principal component analysis or multivariate analysis such as an autoencoder to calculate a two-dimensional or three-dimensional feature amount that can be visualized. The multivariate analysis processing unit 103 stores the two-dimensional or three-dimensional feature amount calculated by the multivariate analysis for each frequency spectrum in the feature amount storage unit 133 of the storage unit 130. For example, as shown in FIG. 7, the multivariate analysis processing unit 103 includes data (acoustic data, spectrogram), frames, clusters classified by the clustering processing unit 102, and a first principal component obtained by principal component analysis. The feature amount storage unit 133 stores a corresponding table in which the component to the third principal component are associated with each other. Either of the clustering by the clustering processing unit 102 and the multivariate analysis by the multivariate analysis processing unit 103 may be executed first. Then, the process proceeds to step S21.

<ステップS21>
異常検知装置10の特徴量表示部104は、特徴量記憶部133に記憶された対応テーブルを参照し、各フレームの周波数スペクトルに対して多変量解析処理部103により算出された特徴量を、元の周波数スペクトルが属するクラスタが判別できる態様で、表示部124に表示させる機能部である。例えば、特徴量表示部104は、図8に示すように、多変量解析処理部103により算出された特徴量(第1主成分〜第3主成分)を軸とする3次元の特徴量空間上に、各フレーム(周波数スペクトル)を示すプロットを、当該フレームが属するクラスタに応じて色または形状を変えて表示させる(提示する)。そして、ステップS22へ移行する。
<Step S21>
The feature amount display unit 104 of the abnormality detection device 10 refers to the correspondence table stored in the feature amount storage unit 133, and uses the feature amount calculated by the multivariate analysis processing unit 103 for the frequency spectrum of each frame as the source. This is a functional unit to be displayed on the display unit 124 in such a manner that the cluster to which the frequency spectrum of the above belongs can be discriminated. For example, as shown in FIG. 8, the feature amount display unit 104 is on a three-dimensional feature amount space centered on the feature amount (first principal component to third principal component) calculated by the multivariate analysis processing unit 103. A plot showing each frame (frequency spectrum) is displayed (presented) in different colors or shapes according to the cluster to which the frame belongs. Then, the process proceeds to step S22.

<ステップS22>
異常検知装置10の基本情報表示部105は、特徴量表示部104により特徴量空間に表示された各フレーム(周波数スペクトル)を示すプロットの中から、利用者からの入力部123への操作により選択されたプロットに対応するフレームに関する基本情報を、表示部124に表示して提示する。そして、ステップS23へ移行する。
<Step S22>
The basic information display unit 105 of the anomaly detection device 10 is selected by an operation from the user to the input unit 123 from the plots showing each frame (frequency spectrum) displayed in the feature amount space by the feature amount display unit 104. Basic information about the frame corresponding to the plot is displayed and presented on the display unit 124. Then, the process proceeds to step S23.

<ステップS23>
異常検知装置10の再生部106は、特徴量表示部104により特徴量空間に表示された各フレーム(周波数スペクトル)を示すプロットの中から、利用者からの入力部123への操作により選択されたプロットに対応するフレームを含む音響データを、当該プロットに対応する時刻を含む前後所定時間(例えば前後1秒)だけ、出力部125から音で再生させて提示する。なお、基本情報表示部105による基本情報の表示、および再生部106による音響データの再生は、上述の順序に限定されるものではなく、また、いずれかの提示のみが行われるものとしてもよい。そして、ステップS24へ移行する。
<Step S23>
The reproduction unit 106 of the abnormality detection device 10 is selected by an operation from the user to the input unit 123 from the plots showing each frame (frequency spectrum) displayed in the feature amount space by the feature amount display unit 104. Acoustic data including a frame corresponding to the plot is reproduced and presented by sound from the output unit 125 for a predetermined time before and after (for example, 1 second before and after) including the time corresponding to the plot. The display of basic information by the basic information display unit 105 and the reproduction of acoustic data by the reproduction unit 106 are not limited to the above-mentioned order, and only one of them may be presented. Then, the process proceeds to step S24.

<ステップS24>
異常検知装置10のラベリング処理部107は、少なくとも基本情報表示部105および再生部106のいずれかによる利用者が選択したプロットに対応する情報の提示を踏まえ、クラスタ記憶部134に記憶されたラベリングテーブルにおいて、利用者からの入力部123への操作により、選択されたプロットが属するクラスタに対応するラベルを設定する。さらに、利用者による入力部123への操作入力によって異なるプロットが選択された場合、ステップS22へ戻り、クラスタに対応するラベルの設定作業が終了した場合、ステップS31へ移行する。
<Step S24>
The labeling processing unit 107 of the abnormality detection device 10 is a labeling table stored in the cluster storage unit 134 based on the presentation of information corresponding to the plot selected by the user by at least one of the basic information display unit 105 and the reproduction unit 106. In, the label corresponding to the cluster to which the selected plot belongs is set by the operation from the user to the input unit 123. Further, when a different plot is selected by the operation input to the input unit 123 by the user, the process returns to step S22, and when the work of setting the label corresponding to the cluster is completed, the process proceeds to step S31.

<ステップS31>
異常検知装置10のモデル生成部108は、図12に示すように、特徴量記憶部133に記憶されたフレームとクラスタとを関連付ける対応テーブル、および、クラスタ記憶部134に記憶されたクラスタとラベルとを関連付けたラベリングテーブルを参照し、音響データ記憶部131に記憶された音響データをラベル付き学習データとして学習して、学習モデルを生成する。そして、ステップS32へ移行する。
<Step S31>
As shown in FIG. 12, the model generation unit 108 of the abnormality detection device 10 includes a correspondence table for associating frames and clusters stored in the feature amount storage unit 133, and clusters and labels stored in the cluster storage unit 134. Refers to the labeling table associated with the above, learns the acoustic data stored in the acoustic data storage unit 131 as labeled learning data, and generates a learning model. Then, the process proceeds to step S32.

<ステップS32>
異常検知装置10の付帯情報取得部109は、モデル生成部108により生成された学習モデル(外れ値検知器)と関連付けて管理するための付帯情報を取得する。そして、ステップS33へ移行する。
<Step S32>
The incidental information acquisition unit 109 of the abnormality detection device 10 acquires incidental information for management in association with the learning model (outlier detector) generated by the model generation unit 108. Then, the process proceeds to step S33.

<ステップS33>
異常検知装置10のモデル管理部110は、モデル生成部108により生成された学習モデル(外れ値検知器)を、当該学習モデルの学習に使用した学習データ、および付帯情報取得部109により取得された付帯情報と、関連付けて記憶部130のモデル記憶部135へ保存および管理する。また、学習モデルに関連付ける学習データとしては、例えば、図16に示すように、多変量解析処理部103により生成された対応テーブル、およびラベリング処理部107によりラベルが書き込まれたラベリングテーブルであってもよい。そして、モデル生成部108により生成され、モデル管理部110によりモデル記憶部135へ記憶された学習モデルが、以降の音響データに対する異常検知に用いられる。そして、ステップS34へ移行する。
<Step S33>
The model management unit 110 of the anomaly detection device 10 acquired the learning model (outlier value detector) generated by the model generation unit 108 by the learning data used for learning the learning model and the incidental information acquisition unit 109. It is stored and managed in the model storage unit 135 of the storage unit 130 in association with the incidental information. Further, as the learning data associated with the learning model, for example, as shown in FIG. 16, even if it is a correspondence table generated by the multivariate analysis processing unit 103 and a labeling table with a label written by the labeling processing unit 107. Good. Then, the learning model generated by the model generation unit 108 and stored in the model storage unit 135 by the model management unit 110 is used for the subsequent abnormality detection for the acoustic data. Then, the process proceeds to step S34.

<ステップS34>
異常検知装置10の異常検知部111は、モデル生成部108により生成され、モデル管理部110によりモデル記憶部135に記憶された学習モデル(外れ値検知器)を用いて、入力された音響データ(音響データ記憶部131に記憶された音響データ)に対して異常検知、すなわち、正常か異常かの判定を行う。以降、信号受信部122から入力(受信)され音響データ記憶部131へ記憶された音響データにして異常検知が行われる。そして、ステップS41へ移行する。
<Step S34>
The abnormality detection unit 111 of the abnormality detection device 10 is the acoustic data (outlier detector) generated by the model generation unit 108 and stored in the model storage unit 135 by the model management unit 110. Anomaly detection, that is, determination of normality or abnormality is performed on the acoustic data stored in the acoustic data storage unit 131). After that, the abnormality is detected by using the acoustic data input (received) from the signal receiving unit 122 and stored in the acoustic data storage unit 131. Then, the process proceeds to step S41.

<ステップS41>
異常検知装置10の適合度算出部112は、現在、異常検知部111による異常検知で使用している学習モデル(外れ値検知器)が、現在、入力されている音響データに対してどの程度適しているモデルであるのかを表す指標となる適合度を算出する機能部である。例えば、適合度算出部112は、図14に示すように、現在使用されている学習モデルの学習に使用した学習データを示すプロットについての各クラスタでのセントロイドと、現在入力されている音響データに基づく各フレームのプロットとの距離(例えばユークリッド距離またはマハラノビス距離等)の平均値、または、GMMによって算出される平均尤度等に基づいて適合度を算出する。そして、ステップS42へ移行する。
<Step S41>
The goodness-of-fit calculation unit 112 of the abnormality detection device 10 indicates how suitable the learning model (outlier detector) currently used for abnormality detection by the abnormality detection unit 111 is for the currently input acoustic data. It is a functional part that calculates the goodness of fit, which is an index indicating whether the model is a model. For example, the goodness-of-fit calculation unit 112, as shown in FIG. 14, has centroids in each cluster for plots showing the training data used to train the training model currently in use, and the acoustic data currently input. The goodness of fit is calculated based on the average value of the distances (for example, Euclidean distance or Mahalanobis distance, etc.) of each frame to the plot based on, or the average likelihood calculated by GMM. Then, the process proceeds to step S42.

<ステップS42>
異常検知装置10のモデル選択部113は、適合度算出部112により算出された適合度が現在入力されている音響データに対して異常検知を行うための学習モデルとして、現在使用している学習モデルが適していないことを示す場合、モデル記憶部135で管理されている学習モデルの中から、入力されている音響データに基づいて再学習を行うための初期モデルを選択する機能部である。選択するための具体的な尺度としては、例えば、モデル記憶部135に管理されている学習モデルに関連付けられた付帯情報が、付帯情報取得部109により新たに取得された付帯情報と同一もしくは類似である学習モデル、または、管理されている学習モデルの学習に使用された学習データの分布と、新たに入力されている音響データに基づくサンプルデータ(フレーム)との間に距離(例えばユークリッド距離またはマハラノビス距離等)が最も小さい学習モデル、等である。そして、ステップS43へ移行する。
<Step S42>
The model selection unit 113 of the abnormality detection device 10 is currently using a learning model as a learning model for detecting an abnormality in acoustic data for which the goodness of fit calculated by the goodness of fit calculation unit 112 is currently input. Is not suitable, it is a functional unit that selects an initial model for re-learning based on the input acoustic data from the learning models managed by the model storage unit 135. As a specific scale for selection, for example, the incidental information associated with the learning model managed in the model storage unit 135 is the same as or similar to the incidental information newly acquired by the incidental information acquisition unit 109. The distance (eg, Euclidean distance or Maharanobis) between the distribution of training data used to train a learning model or a managed learning model and sample data (frames) based on newly input acoustic data. The learning model with the smallest distance, etc.), etc. Then, the process proceeds to step S43.

なお、モデル記憶部135に、関連付けられた付帯情報が、付帯情報取得部109により新たに取得された付帯情報とほぼ同一である学習モデル、または、管理されている学習モデルの学習に使用された学習データの分布と、新たに入力されている音響データに基づくサンプルデータ(フレーム)との間に距離(例えばユークリッド距離またはマハラノビス距離等)がほぼ0とみなせる学習モデルがあれば、再学習をせずに、当該学習モデルをそのまま用いるものとしてもよく、この場合、ステップS34へ移行する。 It should be noted that the incidental information associated with the model storage unit 135 was used for learning a learning model in which the incidental information newly acquired by the incidental information acquisition unit 109 is substantially the same as the learning model or a learning model managed. If there is a learning model in which the distance (for example, Euclidean distance or Maharanobis distance) can be regarded as almost 0 between the distribution of the training data and the sample data (frame) based on the newly input acoustic data, retrain. Instead, the learning model may be used as it is. In this case, the process proceeds to step S34.

<ステップS43>
異常検知装置10のデータ調整部114は、モデル選択部113により選択された学習モデルを初期モデルとして再学習を行う際に、当該再学習に用いる学習データ数を調整する。そして、ステップS31へ戻り、学習モデルの再学習が行われる。
<Step S43>
The data adjustment unit 114 of the abnormality detection device 10 adjusts the number of learning data used for the re-learning when the learning model selected by the model selection unit 113 is used as the initial model for re-learning. Then, the process returns to step S31, and the learning model is relearned.

以上の図20および図21に示した処理の流れで、異常検知装置10の全体動作が実行される。 In the processing flow shown in FIGS. 20 and 21, the entire operation of the abnormality detection device 10 is executed.

以上のように、本実施形態に係る異常検知装置10では、検知信号(音響データまたは振動データ等)を周波数解析して算出した高次元の特徴量に対して、主成分分析等の多変量解析を行って、それらの分布を2次元または3次元の低次元の特徴量空間上にマッピングして可視化して表示し、低次元の特徴量空間上の任意のプロットを選択することによって、そのプロットに対応する情報を提示するものとしている。これによって、個々の学習データのばらつき具合、および最大のクラスタを形成している典型的な正常サンプルデータからの乖離度等を目視で確認することができ、低次元の特徴量空間上で選択したプロットに対応する情報の提示に基づいて、対象機(工作機械20)の異常検知のための学習モデルの学習に用いるサンプルデータのラベリング作業を効率化することができ、高い異常検知精度を保ち、異常およびその予兆の早期発見を実現することができる。選択したプロットに対応する情報の提示としては、基本情報表示部105による選択されたプロットに対応するフレームに関する基本情報の表示動作、および、再生部106による選択されたプロットに対応するフレームを含む音響データについて、当該プロットに対応する時刻を含む前後所定時間(例えば前後1秒)だけ音で再生させる動作によって実現される。 As described above, in the abnormality detection device 10 according to the present embodiment, a multivariate analysis such as principal component analysis is performed on a high-dimensional feature amount calculated by frequency analysis of a detection signal (acoustic data, vibration data, etc.). To visualize and display their distribution on a 2D or 3D low-dimensional feature space, and select any plot on the low-dimensional feature space to plot it. The information corresponding to is to be presented. As a result, the degree of variation of individual training data and the degree of deviation from the typical normal sample data forming the largest cluster can be visually confirmed, and the data is selected on the low-dimensional feature amount space. Based on the presentation of information corresponding to the plot, the labeling work of the sample data used for learning the learning model for abnormality detection of the target machine (machine machine 20) can be streamlined, and high abnormality detection accuracy can be maintained. Early detection of anomalies and their precursors can be achieved. The presentation of the information corresponding to the selected plot includes the display operation of the basic information regarding the frame corresponding to the selected plot by the basic information display unit 105, and the sound including the frame corresponding to the selected plot by the reproduction unit 106. The data is realized by the operation of reproducing the data by sound for a predetermined time before and after (for example, 1 second before and after) including the time corresponding to the plot.

また、低次元の特徴量空間上に各クラスタの学習データをプロットする場合、当該学習データが属するクラスタに応じて色または形状を変えて表示させるものとしている。これによって、各プロットがどのクラスタに属するのか一目で認識することができ、ラベリング作業をさらに効率化させることができる。 Further, when the training data of each cluster is plotted on the low-dimensional feature space, the color or shape is changed and displayed according to the cluster to which the training data belongs. As a result, it is possible to recognize at a glance which cluster each plot belongs to, and the labeling work can be further made more efficient.

また、一旦生成された学習モデルが、以降永続的に利用できる保証もない。というのは、機械等の動作音は、正常時であってもそれらの経年劣化に応じて徐々に変化するものであり、また気温、天候、時刻、機械等の稼働状況といった様々な変動要因によって周期的かつ不規則に変動する可能性もある。これに対応するため本実施形態に係る異常検知装置10では、適合度算出部112により現在、異常検知部111による異常検知で使用している学習モデル(外れ値検知器)が、現在入力されている音響データに対してどの程度適しているモデルであるのかを表す指標となる適合度が算出され、現在使用している学習モデルが、入力されている音響データに対して異常検知するための適切な学習モデルから乖離している旨(例えば、乖離している度合いを示す数値、または適合度自体等)を表示部124へ表示させるものとしている。これによって、既に生成済みの学習モデルが現在の状況にどの程度適合しているかを定量的に把握することができ、適切な再学習のタイミングを知ることが可能となる。また、適合度算出部112により算出した適合度に対して閾値判定を行うことによって、人の判断を介在させることなしに、適切なタイミングで自動的に学習モデルの再学習を実行させることもできる。 In addition, there is no guarantee that the learning model once generated can be used permanently thereafter. This is because the operating noise of machines, etc. gradually changes according to their aging deterioration even during normal operation, and it depends on various fluctuation factors such as temperature, weather, time, and operating conditions of machines, etc. It can also fluctuate periodically and irregularly. In order to deal with this, in the abnormality detection device 10 according to the present embodiment, the learning model (outlier detector) currently used for abnormality detection by the abnormality detection unit 111 is currently input by the goodness-of-fit calculation unit 112. The goodness of fit, which is an index showing how suitable the model is for the existing acoustic data, is calculated, and the learning model currently in use is appropriate for detecting anomalies in the input acoustic data. The fact that there is a deviation from the learning model (for example, a numerical value indicating the degree of deviation, the goodness of fit itself, etc.) is displayed on the display unit 124. As a result, it is possible to quantitatively grasp how well the already generated learning model fits the current situation, and it is possible to know the appropriate timing of re-learning. Further, by performing the threshold value determination on the goodness of fit calculated by the goodness-of-fit calculation unit 112, it is possible to automatically relearn the learning model at an appropriate timing without intervening human judgment. ..

また、本実施形態に係る異常検知装置10では、適合度算出部112により算出された適合度が現在入力されている音響データに対して異常検知を行うための学習モデルとして、現在使用している学習モデルが適していないことを示す場合、モデル記憶部135で管理されている学習モデルの中から、入力されている音響データに基づいて再学習を行うための初期モデルを選択するものとしている。選択するための具体的な尺度としては、例えば、モデル記憶部135に管理されている学習モデルに関連付けられた付帯情報が、付帯情報取得部109により新たに取得された付帯情報と同一もしくは類似である学習モデル、または、管理されている学習モデルの学習に使用された学習データの分布と、新たに入力されている音響データに基づくサンプルデータ(フレーム)との間に距離(例えばユークリッド距離またはマハラノビス距離等)が最も小さい学習モデル、等である。このように、モデル選択部113により付帯情報が同一または類似の学習モデル、または、学習データの分布が新たな入力データとの距離が近い学習モデルを、初期モデルとして再学習することによって、学習時間を短縮することができ、局所最適解に陥るリスクも低減することができる。また、モデル記憶部135に、関連付けられた付帯情報が、付帯情報取得部109により新たに取得された付帯情報とほぼ同一である学習モデル、または、管理されている学習モデルの学習に使用された学習データの分布と、新たに入力されている音響データに基づくサンプルデータ(フレーム)との間に距離(例えばユークリッド距離またはマハラノビス距離等)がほぼ0とみなせる学習モデルがあれば、再学習をせずに、当該学習モデルをそのまま用いるものとしてもよい。これによって、周期的な変動要因、および様々な付帯情報との間に何らかの因果関係を有する不規則な変動要因に対して、再学習を行うことなしに対応することが可能となる。 Further, the abnormality detection device 10 according to the present embodiment is currently used as a learning model for detecting an abnormality in the acoustic data for which the degree of conformity calculated by the degree of conformity calculation unit 112 is currently input. When it is shown that the learning model is not suitable, the initial model for re-learning based on the input acoustic data is selected from the learning models managed by the model storage unit 135. As a specific scale for selection, for example, the incidental information associated with the learning model managed in the model storage unit 135 is the same as or similar to the incidental information newly acquired by the incidental information acquisition unit 109. The distance (eg, Euclidean distance or Maharanobis) between the distribution of training data used to train a learning model or a managed learning model and sample data (frames) based on newly input acoustic data. The learning model with the smallest distance, etc.), etc. In this way, the learning time is re-learned by the model selection unit 113 as an initial model of a learning model having the same or similar incidental information or a learning model whose distribution of learning data is close to the new input data. Can be shortened, and the risk of falling into a locally optimal solution can also be reduced. Further, the incidental information associated with the model storage unit 135 was used for learning a learning model in which the incidental information newly acquired by the incidental information acquisition unit 109 is substantially the same as the learning model or a learning model managed. If there is a learning model in which the distance (for example, Euclidean distance or Maharanobis distance) can be regarded as almost 0 between the distribution of the training data and the sample data (frame) based on the newly input acoustic data, retrain. Instead, the learning model may be used as it is. This makes it possible to deal with periodic fluctuation factors and irregular fluctuation factors having some causal relationship with various incidental information without re-learning.

なお、本実施形態に係る異常検知装置10で生成される学習モデルとして、外れ値検知器について説明したが、ラベリング処理部107により複数種類のラベルをサンプルデータに付与することができるのであれば、異なる学習モデル(例えば2クラス分類器)等を生成するものとしてもよい。 The outlier detector has been described as a learning model generated by the abnormality detection device 10 according to the present embodiment, but if the labeling processing unit 107 can add a plurality of types of labels to the sample data, It may generate a different learning model (for example, a two-class classifier) or the like.

また、上述の実施形態の各機能は、一または複数の処理回路によって実現することが可能である。ここで、「処理回路」とは、電子回路により実装されるプロセッサのようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上述した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(Digital Signal Processor)、FPGA(Field−Programmable Gate Array)、SoC(System on a chip)、GPU(Graphics Processing Unit)や従来の回路モジュール等のデバイスを含むものとする。 Further, each function of the above-described embodiment can be realized by one or a plurality of processing circuits. Here, the "processing circuit" is a processor programmed to execute each function by software such as a processor implemented by an electronic circuit, or an ASIC (Application Specific Integrated) designed to execute each function described above. Devices including devices such as Circuits, DSPs (Digital Signal Processors), FPGAs (Field-Programmable Gate Arrays), SoCs (System on a chip), GPUs (Graphics Processing Units), and conventional circuit modules.

また、上述の実施形態の異常検知装置10および工作機械20で実行されるプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM(Compact Disc Read Only Memory)、フレキシブルディスク(FD)、CD−R(Compact Disk−Recordable)、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録してコンピュータ・プログラム・プロダクトとして提供するように構成してもよい。 Further, the programs executed by the abnormality detection device 10 and the machine tool 20 of the above-described embodiment are files in an installable format or an executable format, such as a CD-ROM (Computer Disc Read Only Memory) and a flexible disk (FD). , CD-R (Compact Disk-Recordable), DVD (Digital Versaille Disk), or the like, which may be recorded on a computer-readable recording medium and provided as a computer program product.

また、上述の実施形態の異常検知装置10および工作機械20で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、上述の実施形態の異常検知装置10および工作機械20で実行されるプログラムをインターネット等のネットワーク経由で提供または配布するように構成してもよい。 Further, the program executed by the abnormality detection device 10 and the machine tool 20 of the above-described embodiment is stored on a computer connected to a network such as the Internet, and is configured to be provided by downloading via the network. May be good. Further, the program executed by the abnormality detection device 10 and the machine tool 20 of the above-described embodiment may be configured to be provided or distributed via a network such as the Internet.

また、上述の実施形態の異常検知装置10および工作機械20で実行されるプログラムは、上述した各機能部を含むモジュール構成となっており、実際のハードウェアとしてはCPU(プロセッサ)が上述のROMからプログラムを読み出して実行することにより上記各部が主記憶装置上にロードされ、各部が主記憶装置上に生成されるようになっている。 Further, the program executed by the abnormality detection device 10 and the machine tool 20 of the above-described embodiment has a module configuration including each of the above-mentioned functional units, and the CPU (processor) is the above-mentioned ROM as the actual hardware. By reading and executing the program from, each of the above parts is loaded on the main storage device, and each part is generated on the main storage device.

1 異常検知システム
10 異常検知装置
20 工作機械
22 ホルダ
23 工具
24 センサ
25 NC制御装置
30 A/Dコンバータ
40 クラウド
51 CPU
52 ROM
53 RAM
54 通信I/F
55 センサI/F
56 入出力I/F
57 入力装置
58 ディスプレイ
59 補助記憶装置
60 バス
61 音声I/F
62 スピーカ
71 CPU
72 ROM
73 RAM
74 通信I/F
75 駆動制御回路
76 モータ
77 信号I/F
78 バス
101 周波数解析処理部
102 クラスタリング処理部
103 多変量解析処理部
104 特徴量表示部
105 基本情報表示部
106 再生部
107 ラベリング処理部
108 モデル生成部
109 付帯情報取得部
110 モデル管理部
111 異常検知部
112 適合度算出部
113 モデル選択部
114 データ調整部
121 通信部
122 信号受信部
123 入力部
124 表示部
125 出力部
130 記憶部
131 音響データ記憶部
132 周波数特性記憶部
133 特徴量記憶部
134 クラスタ記憶部
135 モデル記憶部
136 検知結果記憶部
201 数値制御部
202 通信部
203 駆動制御部
204 駆動部
205 信号送信部
211 検知部
1 Anomaly detection system 10 Anomaly detection device 20 Machine tool 22 Holder 23 Tool 24 Sensor 25 NC control device 30 A / D converter 40 Cloud 51 CPU
52 ROM
53 RAM
54 Communication I / F
55 Sensor I / F
56 I / O I / F
57 Input device 58 Display 59 Auxiliary storage device 60 Bus 61 Voice I / F
62 Speaker 71 CPU
72 ROM
73 RAM
74 Communication I / F
75 Drive control circuit 76 Motor 77 Signal I / F
78 Bus 101 Frequency analysis processing unit 102 Clustering processing unit 103 Multivariate analysis processing unit 104 Feature quantity display unit 105 Basic information display unit 106 Playback unit 107 Labeling processing unit 108 Model generation unit 109 Ancillary information acquisition unit 110 Model management unit 111 Abnormality detection Unit 112 Conformity calculation unit 113 Model selection unit 114 Data adjustment unit 121 Communication unit 122 Signal reception unit 123 Input unit 124 Display unit 125 Output unit 130 Storage unit 131 Acoustic data storage unit 132 Frequency characteristic storage unit 133 Feature quantity storage unit 134 Cluster Storage unit 135 Model storage unit 136 Detection result storage unit 201 Numerical control unit 202 Communication unit 203 Drive control unit 204 Drive unit 205 Signal transmission unit 211 Detection unit

特許第4369961号公報Japanese Patent No. 4369661 特許第6097517号公報Japanese Patent No. 6097517

Claims (16)

異常検知対象から検知された検知信号に対して周波数解析を行い、周波数特性を求める周波数解析処理部と、
前記周波数解析処理部により求められた前記周波数特性に含まれる各フレームをサンプルデータとして、該サンプルデータを1以上のクラスタに分類するクラスタリング処理部と、
前記周波数解析処理部により求められた前記周波数特性に対して多変量解析を行い、特徴量を抽出する多変量解析処理部と、
前記多変量解析処理部により抽出された前記特徴量に基づき、前記サンプルデータがどの前記クラスタに分類されたか判別可能なように可視化する特徴量表示部と、
前記特徴量表示部により表示された前記サンプルデータのうち、入力部からの入力信号によって選択された前記サンプルデータに対応する情報を提示する提示部と、
前記提示部により提示された情報に基づき、前記入力部からの入力信号に応じて、前記クラスタ毎に前記サンプルデータのラベルを設定するラベリング処理部と、
前記ラベリング処理部によりラベルが設定された前記サンプルデータを用いた学習により学習モデルを生成するモデル生成部と、
を備えた異常検知装置。
A frequency analysis processing unit that performs frequency analysis on the detection signal detected from the abnormality detection target and obtains frequency characteristics,
A clustering processing unit that classifies the sample data into one or more clusters by using each frame included in the frequency characteristics obtained by the frequency analysis processing unit as sample data.
A multivariate analysis processing unit that performs multivariate analysis on the frequency characteristics obtained by the frequency analysis processing unit and extracts features, and a multivariate analysis processing unit.
Based on the feature amount extracted by the multivariate analysis processing unit, a feature amount display unit that visualizes the sample data so that it can be determined which cluster it is classified into.
Among the sample data displayed by the feature amount display unit, a presentation unit that presents information corresponding to the sample data selected by an input signal from the input unit, and a presentation unit.
Based on the information presented by the presenting unit, a labeling processing unit that sets a label for the sample data for each cluster according to an input signal from the input unit, and a labeling processing unit.
A model generation unit that generates a learning model by learning using the sample data labeled by the labeling processing unit, and a model generation unit.
Anomaly detection device equipped with.
前記提示部は、前記入力部によって選択された前記サンプルデータに対応する情報として、該サンプルデータに対応する前記検知信号の波形、および該サンプルデータの周波数スペクトルの時系列データのうち少なくともいずれかを含む基本情報を、表示装置に表示させる基本情報表示部である請求項1に記載の異常検知装置。 The presenting unit receives at least one of the waveform of the detection signal corresponding to the sample data and the time series data of the frequency spectrum of the sample data as the information corresponding to the sample data selected by the input unit. The abnormality detection device according to claim 1, which is a basic information display unit that displays included basic information on a display device. 前記提示部は、前記入力部によって選択された前記サンプルデータに対応する情報として、該サンプルデータに対応する前記検知信号を、出力装置から音として再生させる再生部である請求項1に記載の異常検知装置。 The abnormality according to claim 1, wherein the presenting unit is a reproduction unit that reproduces the detection signal corresponding to the sample data as sound from an output device as information corresponding to the sample data selected by the input unit. Detection device. 前記モデル生成部により生成された前記学習モデルを用いて、前記異常検知対象から入力された検知信号に対して異常検知を行う異常検知部を、さらに備えた請求項1〜3のいずれか一項に記載の異常検知装置。 Any one of claims 1 to 3, further comprising an abnormality detection unit that detects an abnormality in a detection signal input from the abnormality detection target using the learning model generated by the model generation unit. Anomaly detection device described in. 前記異常検知部による異常検知で使用している前記学習モデルの、現在前記異常検知対象から入力されている検知信号に対する適合度を算出し、該適合度に関する情報を表示装置に表示させる適合度算出部を、さらに備えた請求項4に記載の異常検知装置。 The goodness of fit of the learning model used in the abnormality detection by the abnormality detection unit is calculated for the detection signal currently input from the abnormality detection target, and the information on the goodness of fit is displayed on the display device. The abnormality detection device according to claim 4, further comprising a unit. 前記モデル生成部により生成された前記学習モデルを、該学習モデルの学習のために入力された前記検知信号と相関を有するものと予測される付帯情報と関連付けて記憶部に記憶させるモデル管理部を、さらに備えた請求項5に記載の異常検知装置。 A model management unit that stores the learning model generated by the model generation unit in the storage unit in association with incidental information that is predicted to have a correlation with the detection signal input for learning the learning model. The abnormality detection device according to claim 5, further provided. 前記モデル管理部は、さらに、前記モデル生成部により生成された前記学習モデルを、該学習モデルの学習に用いたサンプルデータと関連付けて前記記憶部に記憶させる請求項6に記載の異常検知装置。 The abnormality detection device according to claim 6, wherein the model management unit further stores the learning model generated by the model generation unit in the storage unit in association with sample data used for learning the learning model. 前記適合度算出部により算出された前記適合度が、現在前記異常検知対象から入力されている検知信号に対して異常検知を行うための学習モデルとして、現在使用している学習モデルが適していないことを示す場合、前記記憶部に記憶されている学習モデルの中から、該検知信号に適した学習モデルを初期モデルとして選択するモデル選択部を、さらに備え、
前記モデル生成部は、前記初期モデル、および、少なくとも現在前記異常検知対象から入力されている検知信号を用いて、新たな学習モデルを再学習する請求項6または7に記載の異常検知装置。
The learning model currently used is not suitable as the learning model for detecting the abnormality in the detection signal currently input from the abnormality detection target by the degree of conformity calculated by the conformity calculation unit. In the case of showing that, a model selection unit for selecting a learning model suitable for the detection signal as an initial model from the learning models stored in the storage unit is further provided.
The abnormality detection device according to claim 6 or 7, wherein the model generation unit relearns a new learning model using the initial model and at least the detection signal currently input from the abnormality detection target.
前記モデル生成部は、前記初期モデル、該初期モデルの学習に用いたサンプルデータ、および、現在前記異常検知対象から入力されている検知信号に基づくサンプルデータを用いて、新たな学習モデルを再学習する請求項8に記載の異常検知装置。 The model generation unit relearns a new learning model using the initial model, sample data used for learning the initial model, and sample data based on the detection signal currently input from the abnormality detection target. The abnormality detection device according to claim 8. 前記適合度算出部により算出された前記適合度が、現在前記異常検知対象から入力されている検知信号に対して異常検知を行うための学習モデルとして、現在使用している学習モデルが適していないことを示す場合、前記記憶部に記憶されている学習モデルの中から、該検知信号に適した学習モデルを、次に異常検知に使用する学習モデルとして選択するモデル選択部を、さらに備え、
前記異常検知部は、前記モデル選択部により選択された学習モデルを用いて、前記異常検知対象から入力された検知信号に対して異常検知を行う請求項6または7に記載の異常検知装置。
The learning model currently used is not suitable as a learning model for detecting an abnormality in a detection signal currently input from the abnormality detection target with the degree of conformity calculated by the conformity calculation unit. In the case of showing that, a model selection unit for selecting a learning model suitable for the detection signal from the learning models stored in the storage unit as a learning model to be used next for abnormality detection is further provided.
The abnormality detection device according to claim 6 or 7, wherein the abnormality detection unit uses a learning model selected by the model selection unit to detect an abnormality in a detection signal input from the abnormality detection target.
前記モデル選択部により選択された学習モデルを前記初期モデルとして再学習が行われる際に、該再学習に用いるサンプルデータの数を調整するデータ調整部を、さらに備えた請求項8または9に記載の異常検知装置。 The method 8 or 9 further includes a data adjustment unit that adjusts the number of sample data used for the re-learning when the learning model selected by the model selection unit is used as the initial model for re-learning. Anomaly detection device. 前記データ調整部は、サンプルデータに付与されているタイムスタンプの古いものから順に取り除く請求項11に記載の異常検知装置。 The abnormality detection device according to claim 11, wherein the data adjustment unit removes the oldest time stamps attached to the sample data in order. 前記データ調整部は、前記異常検知対象から入力されるサンプルデータに対して前記クラスタリング処理部により1以上のクラスタに分類された場合に、前記各クラスタに属するサンプルデータの数に応じて、サンプルデータを取り除く請求項11に記載の異常検知装置。 When the data adjustment unit classifies the sample data input from the abnormality detection target into one or more clusters by the clustering processing unit, the sample data is based on the number of sample data belonging to each cluster. The abnormality detection device according to claim 11. 前記モデル生成部は、前記学習モデルとして外れ値検知器を学習により生成する請求項1〜13のいずれか一項に記載の異常検知装置。 The abnormality detection device according to any one of claims 1 to 13, wherein the model generation unit generates an outlier detector as the learning model by learning. 異常検知対象から検知された検知信号に対して周波数解析を行い、周波数特性を求める周波数解析処理部と、
前記周波数解析処理部により求められた前記周波数特性に含まれる各フレームをサンプルデータとして、該サンプルデータを1以上のクラスタに分類するクラスタリング処理部と、
前記周波数解析処理部により求められた前記周波数特性に対して多変量解析を行い、特徴量を抽出する多変量解析処理部と、
前記多変量解析処理部により抽出された前記特徴量に基づき、前記サンプルデータがどの前記クラスタに分類されたか判別可能なように可視化する特徴量表示部と、
前記特徴量表示部により表示された前記サンプルデータのうち、入力部からの入力信号によって選択された前記サンプルデータに対応する情報を提示する提示部と、
前記提示部により提示された情報に基づき、前記入力部からの入力信号に応じて、前記クラスタ毎に前記サンプルデータのラベルを設定するラベリング処理部と、
前記ラベリング処理部によりラベルが設定された前記サンプルデータを用いた学習により学習モデルを生成するモデル生成部と、
を有する異常検知システム。
A frequency analysis processing unit that performs frequency analysis on the detection signal detected from the abnormality detection target and obtains frequency characteristics,
A clustering processing unit that classifies the sample data into one or more clusters by using each frame included in the frequency characteristics obtained by the frequency analysis processing unit as sample data.
A multivariate analysis processing unit that performs multivariate analysis on the frequency characteristics obtained by the frequency analysis processing unit and extracts features, and a multivariate analysis processing unit.
Based on the feature amount extracted by the multivariate analysis processing unit, a feature amount display unit that visualizes the sample data so that it can be determined which cluster it is classified into.
Among the sample data displayed by the feature amount display unit, a presentation unit that presents information corresponding to the sample data selected by an input signal from the input unit, and a presentation unit.
Based on the information presented by the presenting unit, a labeling processing unit that sets a label for the sample data for each cluster according to an input signal from the input unit, and a labeling processing unit.
A model generation unit that generates a learning model by learning using the sample data labeled by the labeling processing unit, and a model generation unit.
Anomaly detection system with.
コンピュータに、
異常検知対象から検知された検知信号に対して周波数解析を行い、周波数特性を求める周波数解析処理ステップと、
前記周波数特性に含まれる各フレームをサンプルデータとして、該サンプルデータを1以上のクラスタに分類するクラスタリング処理ステップと、
前記周波数特性に対して多変量解析を行い、特徴量を抽出する多変量解析処理ステップと、
抽出した前記特徴量に基づき、前記サンプルデータがどの前記クラスタに分類されたか判別可能なように可視化する特徴量表示ステップと、
表示した前記サンプルデータのうち、入力部からの入力信号によって選択された前記サンプルデータに対応する情報を提示する提示ステップと、
提示した情報に基づき、前記入力部からの入力信号に応じて、前記クラスタ毎に前記サンプルデータのラベルを設定するラベリング処理ステップと、
ラベルを設定した前記サンプルデータを用いた学習により学習モデルを生成するモデル生成ステップと、
を実行させるためのプログラム。
On the computer
A frequency analysis processing step that performs frequency analysis on the detection signal detected from the abnormality detection target to obtain frequency characteristics, and
A clustering processing step of classifying the sample data into one or more clusters by using each frame included in the frequency characteristics as sample data.
A multivariate analysis processing step that performs multivariate analysis on the frequency characteristics and extracts features,
Based on the extracted features, a feature display step that visualizes the sample data so that it can be determined which cluster it is classified into, and
Among the displayed sample data, a presentation step for presenting information corresponding to the sample data selected by an input signal from the input unit, and a presentation step.
Based on the presented information, a labeling process step of setting a label of the sample data for each cluster according to an input signal from the input unit, and
A model generation step of generating a learning model by learning using the sample data with a label set, and
A program to execute.
JP2019140069A 2019-07-30 2019-07-30 Abnormality detecting device, abnormality detecting system, and program Pending JP2021022311A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019140069A JP2021022311A (en) 2019-07-30 2019-07-30 Abnormality detecting device, abnormality detecting system, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019140069A JP2021022311A (en) 2019-07-30 2019-07-30 Abnormality detecting device, abnormality detecting system, and program

Publications (1)

Publication Number Publication Date
JP2021022311A true JP2021022311A (en) 2021-02-18

Family

ID=74574852

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019140069A Pending JP2021022311A (en) 2019-07-30 2019-07-30 Abnormality detecting device, abnormality detecting system, and program

Country Status (1)

Country Link
JP (1) JP2021022311A (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113571048A (en) * 2021-07-21 2021-10-29 腾讯科技(深圳)有限公司 Audio data detection method, device, equipment and readable storage medium
CN113591876A (en) * 2021-06-25 2021-11-02 东莞市鑫泰仪器仪表有限公司 Three-dimensional full-acoustic-wave anomaly detection imaging method and device
CN113791727A (en) * 2021-08-10 2021-12-14 广东省科学院智能制造研究所 Edge acquisition equipment applied to industrial acoustic intelligent sensing
CN114046873A (en) * 2021-11-17 2022-02-15 国家电网有限公司 Reactor vibration monitoring system based on LOF-FCM fuzzy clustering algorithm
WO2023166355A1 (en) 2022-03-02 2023-09-07 Ricoh Company, Ltd. Information processing apparatus, information processing system, information processing method, and recording medium

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010191556A (en) * 2009-02-17 2010-09-02 Hitachi Ltd Abnormality detecting method and abnormality detecting system
JP2015088079A (en) * 2013-11-01 2015-05-07 株式会社日立パワーソリューションズ Abnormality diagnosis system and method
JP2016170715A (en) * 2015-03-13 2016-09-23 株式会社東芝 Equipment characteristics model learning system, a method and a program of learning a model of equipment characteristics
JP2017033471A (en) * 2015-08-05 2017-02-09 株式会社日立パワーソリューションズ Abnormality sign diagnostic system and abnormality sign diagnostic method
WO2018230645A1 (en) * 2017-06-14 2018-12-20 株式会社東芝 Anomaly detection device, anomaly detection method, and program
JP6450858B2 (en) * 2015-11-25 2019-01-09 株式会社日立製作所 Equipment management apparatus and method
JP6456580B1 (en) * 2018-06-14 2019-01-23 三菱電機株式会社 Abnormality detection device, abnormality detection method and abnormality detection program
JP2019016079A (en) * 2017-07-05 2019-01-31 三菱電機株式会社 Maintenance support device for power apparatus, system and program
JP2019036186A (en) * 2017-08-18 2019-03-07 ブレインズテクノロジー株式会社 Abnormality detection model construction apparatus, abnormality detection model construction method and program
JP2019087101A (en) * 2017-11-08 2019-06-06 三菱重工航空エンジン株式会社 Anticipation model maintenance system, method for maintaining anticipation model, and anticipation model maintenance program

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010191556A (en) * 2009-02-17 2010-09-02 Hitachi Ltd Abnormality detecting method and abnormality detecting system
JP2015088079A (en) * 2013-11-01 2015-05-07 株式会社日立パワーソリューションズ Abnormality diagnosis system and method
JP2016170715A (en) * 2015-03-13 2016-09-23 株式会社東芝 Equipment characteristics model learning system, a method and a program of learning a model of equipment characteristics
JP2017033471A (en) * 2015-08-05 2017-02-09 株式会社日立パワーソリューションズ Abnormality sign diagnostic system and abnormality sign diagnostic method
JP6450858B2 (en) * 2015-11-25 2019-01-09 株式会社日立製作所 Equipment management apparatus and method
WO2018230645A1 (en) * 2017-06-14 2018-12-20 株式会社東芝 Anomaly detection device, anomaly detection method, and program
JP2019016079A (en) * 2017-07-05 2019-01-31 三菱電機株式会社 Maintenance support device for power apparatus, system and program
JP2019036186A (en) * 2017-08-18 2019-03-07 ブレインズテクノロジー株式会社 Abnormality detection model construction apparatus, abnormality detection model construction method and program
JP2019087101A (en) * 2017-11-08 2019-06-06 三菱重工航空エンジン株式会社 Anticipation model maintenance system, method for maintaining anticipation model, and anticipation model maintenance program
JP6456580B1 (en) * 2018-06-14 2019-01-23 三菱電機株式会社 Abnormality detection device, abnormality detection method and abnormality detection program

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113591876A (en) * 2021-06-25 2021-11-02 东莞市鑫泰仪器仪表有限公司 Three-dimensional full-acoustic-wave anomaly detection imaging method and device
CN113591876B (en) * 2021-06-25 2023-08-08 东莞市鑫泰仪器仪表有限公司 Three-dimensional full-acoustic anomaly detection imaging method and device
CN113571048A (en) * 2021-07-21 2021-10-29 腾讯科技(深圳)有限公司 Audio data detection method, device, equipment and readable storage medium
CN113571048B (en) * 2021-07-21 2023-06-23 腾讯科技(深圳)有限公司 Audio data detection method, device, equipment and readable storage medium
CN113791727A (en) * 2021-08-10 2021-12-14 广东省科学院智能制造研究所 Edge acquisition equipment applied to industrial acoustic intelligent sensing
CN114046873A (en) * 2021-11-17 2022-02-15 国家电网有限公司 Reactor vibration monitoring system based on LOF-FCM fuzzy clustering algorithm
WO2023166355A1 (en) 2022-03-02 2023-09-07 Ricoh Company, Ltd. Information processing apparatus, information processing system, information processing method, and recording medium

Similar Documents

Publication Publication Date Title
JP2021022311A (en) Abnormality detecting device, abnormality detecting system, and program
US11415976B2 (en) Diagnosis device, learning device, and diagnosis system
US20220390271A1 (en) Diagnostic device, computer program, and diagnostic system
JP6140331B1 (en) Machine learning device and machine learning method for learning failure prediction of main shaft or motor driving main shaft, and failure prediction device and failure prediction system provided with machine learning device
US20190301979A1 (en) Abnormality detection system, support device, and abnormality detection method
US20180356282A1 (en) Diagnostic device, computer program, and diagnostic system
KR101748559B1 (en) Apparatus for inspecting rotating device and method thereof
US20180239345A1 (en) Abnormality predictor diagnosis system and abnormality predictor diagnosis method
US20230161337A1 (en) Diagnostic device, server, and diagnostic method
JP2006331300A (en) Abnormality determination apparatus, control method, automobile, and program
KR20220062547A (en) Sensor Agnostic Mechanical Mechanical Fault Identification
US11789431B2 (en) Vibration-based manufacturing plant control
JP7225984B2 (en) System, Arithmetic Unit, and Program
US10078062B2 (en) Device health estimation by combining contextual information with sensor data
CN107451029A (en) A kind of information processing method and device, equipment
JP6822242B2 (en) Diagnostic equipment, diagnostic systems, diagnostic methods and programs
JP6898607B2 (en) Abnormality sign detection system and abnormality sign detection method
KR20220102364A (en) System for Predicting Flaw of Facility Using Vibration Sensor
US20230281186A1 (en) Explainable anomaly detection for categorical sensor data
WO2022113501A1 (en) Anomaly detection system, anomaly detection method, and program
EP3457325A1 (en) Failure identification of a rail vehicle component
CN113591984A (en) Method and device for detecting equipment operation event, electronic equipment and storage medium
TW201339848A (en) Self-diagnostic health status transmission system
McLeay Unsupervised monitoring of machining processes
US11543808B2 (en) Sensor attribution for anomaly detection

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220518

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230407

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230418

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230615

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20230801