KR20230170561A - Anomaly Detection Apparatus and Method Based Unsupervised Learning - Google Patents

Anomaly Detection Apparatus and Method Based Unsupervised Learning Download PDF

Info

Publication number
KR20230170561A
KR20230170561A KR1020230064765A KR20230064765A KR20230170561A KR 20230170561 A KR20230170561 A KR 20230170561A KR 1020230064765 A KR1020230064765 A KR 1020230064765A KR 20230064765 A KR20230064765 A KR 20230064765A KR 20230170561 A KR20230170561 A KR 20230170561A
Authority
KR
South Korea
Prior art keywords
learning
meta
sensing data
model
unit
Prior art date
Application number
KR1020230064765A
Other languages
Korean (ko)
Inventor
황인준
노윤아
정원용
정승원
Original Assignee
고려대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 고려대학교 산학협력단 filed Critical 고려대학교 산학협력단
Publication of KR20230170561A publication Critical patent/KR20230170561A/en

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/088—Non-supervised learning, e.g. competitive learning
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B13/00—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
    • G05B13/02—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
    • G05B13/0265—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion
    • G05B13/027—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric the criterion being a learning criterion using neural networks only
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00—Testing or monitoring of control systems or parts thereof
    • G05B23/02—Electric testing or monitoring
    • G05B23/0205—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0218—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults
    • G05B23/0221—Preprocessing measurements, e.g. data collection rate adjustment; Standardization of measurements; Time series or signal analysis, e.g. frequency analysis or wavelets; Trustworthiness of measurements; Indexes therefor; Measurements using easily measured parameters to estimate parameters difficult to measure; Virtual sensor creation; De-noising; Sensor fusion; Unconventional preprocessing inherently present in specific fault detection methods like PCA-based methods
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00—Testing or monitoring of control systems or parts thereof
    • G05B23/02—Electric testing or monitoring
    • G05B23/0205—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0218—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults
    • G05B23/0243—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults model based detection method, e.g. first-principles knowledge model
    • G05B23/0254—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults model based detection method, e.g. first-principles knowledge model based on a quantitative model, e.g. mathematical relationships between inputs and outputs; functions: observer, Kalman filter, residual calculation, Neural Networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G06N3/0455—Auto-encoder networks; Encoder-decoder networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/096—Transfer learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/0985—Hyperparameter optimisation; Meta-learning; Learning-to-learn

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Automation & Control Theory (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Testing And Monitoring For Control Systems (AREA)

Abstract

본 발명은 비지도 학습 기반의 이상 탐지 장치에 관한 것으로서, 본 발명에 따르면 시계열의 센싱 데이터를 수집하는 수집부, 수집된 상기 센싱 데이터를 최대최소 정규화(normalization)하는 전처리부, 정규화된 상기 센싱 데이터를 비지도 학습시켜 메타 학습 모델을 생성하고, 학습되지 않은 새로운 센싱 데이터의 이상을 탐지하는 메타 학습부; 및 상기 메타 학습부의 결과를 기반으로 이상 상태를 예측하는 예측부; 를 포함하는 비지도 학습 기반의 이상 탐지 장치를 제공한다. 그리고 상기 메타 학습부는, 상기 전처리부에서 정규화된 센싱 데이터를 비지도 학습시켜 이상 탐지에 대한 메타 학습 모델을 생성하고, 상기 메타 학습 모델에서 예측된 손실을 사용하여 메타 파라미터(parameter)를 학습시키는 사전 학습부, 상기 수집부가 상기 새로운 센싱 데이터를 수집하면, 상기 메타 파라미터를 초기값으로 사용하여 상기 메타 학습 모델을 미세 조정하는 미세 조정부 및 미세 조정된 상기 메타 학습 모델에서 상기 새로운 센싱 데이터에 대한 이상치를 탐지하는 이상 탐지부를 포함한다.The present invention relates to an anomaly detection device based on unsupervised learning. According to the present invention, a collection unit that collects time series sensing data, a preprocessor that normalizes the collected sensing data to the maximum and minimum, and the normalized sensing data. a meta-learning unit that generates a meta-learning model through unsupervised learning and detects abnormalities in new, untrained sensing data; and a prediction unit that predicts an abnormal state based on the results of the meta-learning unit. Provides an unsupervised learning-based anomaly detection device including. And the meta-learning unit generates a meta-learning model for anomaly detection by performing unsupervised learning on the normalized sensing data in the preprocessor, and uses a dictionary to learn meta parameters using the loss predicted from the meta-learning model. When the learning unit and the collection unit collect the new sensing data, a fine-tuning unit fine-tunes the meta-learning model using the meta-parameter as an initial value, and an outlier for the new sensing data in the fine-tuned meta-learning model. It includes an abnormality detection unit that detects.

Description

비지도 학습 기반의 이상 탐지 장치 및 방법{Anomaly Detection Apparatus and Method Based Unsupervised Learning}Anomaly Detection Apparatus and Method Based Unsupervised Learning}

본 발명은 비지도 학습에 기반하여 불균형한 데이터의 이상을 탐지하는 장치 및 방법에 관한 것이다.The present invention relates to an apparatus and method for detecting abnormalities in unbalanced data based on unsupervised learning.

메타 학습은 '학습하는 법을 학습한다'는 개념으로, 인공지능에 문제 해결에 필요한 학습 방법을 입력하는 기술이다. 관련된 수많은 과제를 학습하여 얻은 경험을 바탕으로 데이터양이 적은 새로운 과제 학습을 빠르게 수행한다. Meta-learning is a concept of ‘learning how to learn’ and is a technology that inputs the learning methods necessary to solve problems into artificial intelligence. Based on the experience gained by learning numerous related tasks, we quickly learn new tasks with a small amount of data.

비지도 학습(Unsupervised Learning)은 정답 라벨이 정해진 데이터를 학습하는 지도 학습(Supervised Learning)과는 다르게, 정답 라벨이 없는 데이터를 비슷한 특징끼리 군집화하여 새로운 데이터에 대한 결과를 예측하는 방법이다. 라벨이 지정되지 않은 데이터로부터 패턴이나 형태를 찾아야 하므로 지도 학습보다는 조금 더 난이도가 있다.Unlike supervised learning, which learns data with a set correct label, unsupervised learning is a method of predicting results for new data by clustering data without a correct label into similar features. It is a bit more difficult than supervised learning because it requires finding patterns or shapes from unlabeled data.

메타 학습에 비지도 학습을 결합하면, 라벨 없이 메타 모델을 학습시킬 수 있어 심층 학습의 성능을 향상시킬 수 있다. 다시 말해, 이상 탐지에 대한 데이터가 부족한 상황에서도 비지도 학습을 결합한 메타 학습 모델은 이상 탐지에 대한 판단이 가능하다. 서술한 비지도 학습 기반의 메타 학습 기법은 자연어 데이터 이상 탐지, 이미지 데이터 이상 탐지, 시계열 데이터 이상 탐지 등의 분야에 활용 가능하다.By combining meta learning with unsupervised learning, you can improve the performance of deep learning by learning a meta model without labels. In other words, a meta-learning model combining unsupervised learning can make judgments about anomaly detection even in situations where there is insufficient data for anomaly detection. The described unsupervised learning-based meta-learning technique can be used in fields such as natural language data anomaly detection, image data anomaly detection, and time series data anomaly detection.

최근 제조 산업 분야에서 스마트 센서를 활용한 기계 관리 방식이 증가하고 있다. 이에 따라 기계 고장에 의한 피해를 방지하기 위해 기계에 부착된 센서로 데이터를 수집하는데, 수집된 센서 데이터를 활용하여 이상 정도를 탐지하는 기술이 필요한 실정이다.Recently, machine management methods using smart sensors are increasing in the manufacturing industry. Accordingly, in order to prevent damage caused by machine failure, data is collected using sensors attached to the machine, and there is a need for technology to detect the degree of abnormality using the collected sensor data.

한국 등록 특허 제10-2407730호Korean Patent No. 10-2407730

본 발명의 목적은 비지도 학습을 사용하여 다양한 센서로부터 수집된 불균형한 데이터로 이상을 탐지하는 장치 및 방법을 제공함에 있다.The purpose of the present invention is to provide an apparatus and method for detecting anomalies with unbalanced data collected from various sensors using unsupervised learning.

본 발명의 일 실시예에서는, 시계열의 센싱 데이터를 수집하는 수집부, 수집된 상기 센싱 데이터를 최대최소 정규화(normalization)하는 전처리부, 정규화된 상기 센싱 데이터를 비지도 학습시켜 메타 학습 모델을 생성하고, 학습되지 않은 새로운 센싱 데이터의 이상을 탐지하는 메타 학습부 및 상기 메타 학습부의 결과를 기반으로 이상 상태를 예측하는 예측부를 포함하는 비지도 학습 기반의 이상 탐지 장치를 제공한다.In one embodiment of the present invention, a collection unit that collects time series sensing data, a preprocessor that normalizes the collected sensing data to the maximum and minimum, and a meta-learning model is generated by performing unsupervised learning on the normalized sensing data. , An unsupervised learning-based anomaly detection device is provided, including a meta-learning unit that detects anomalies in new, untrained sensing data, and a prediction unit that predicts an abnormal state based on the results of the meta-learning unit.

그리고 본 발명의 일 실시예에서는, 상기 메타 학습부는 상기 전처리부에서 정규화된 센싱 데이터를 비지도 학습시켜 이상 탐지에 대한 메타 학습 모델을 생성하고, 상기 메타 학습 모델에서 예측된 손실을 사용하여 메타 파라미터(parameter)를 학습시키는 사전 학습부, 상기 수집부가 상기 새로운 센싱 데이터를 수집하면, 상기 메타 파라미터를 초기값으로 사용하여 상기 메타 학습 모델을 미세 조정하는 미세 조정부 및 미세 조정된 상기 메타 학습 모델에서 상기 새로운 센싱 데이터에 대한 이상치를 탐지하는 이상 탐지부를 포함할 수 있다.And in one embodiment of the present invention, the meta-learning unit generates a meta-learning model for anomaly detection by performing unsupervised learning on the normalized sensing data from the preprocessor, and uses the loss predicted from the meta-learning model to set meta parameters. A dictionary learning unit that learns (parameter), a fine-tuning unit that fine-tunes the meta-learning model by using the meta-parameter as an initial value when the collection unit collects the new sensing data, and a fine-tuning unit that fine-tunes the meta-learning model in the fine-tuned meta-learning model. It may include an anomaly detection unit that detects anomalies in new sensing data.

상기 전처리부는 최대값은 1, 최소값은 0으로 설정하고, 상기 센싱 데이터를 기설정된 이상 상태에 따라 0 내지 1 범위의 값으로 정규화할 수 있다.The preprocessor may set the maximum value to 1 and the minimum value to 0, and normalize the sensing data to a value in the range of 0 to 1 according to a preset abnormal state.

상기 비지도 학습은 오토 인코더(auto-encoder) 모델일 수 있다.The unsupervised learning may be an auto-encoder model.

상기 메타 학습 모델은 MAML(model-agnostic meta-learning) 모델일 수 있다.The meta-learning model may be a model-agnostic meta-learning (MAML) model.

사전 학습부는 상기 예측된 손실이 감소하도록 상기 메타 파라미터를 갱신할 수 있다.The dictionary learning unit may update the meta parameters so that the predicted loss is reduced.

또한, 본 발명의 다른 실시예에서는, 시계열의 센싱 데이터를 수집하는 수집 단계, 수집된 상기 센싱 데이터를 최대최소 정규화(normalization)하는 전처리 단계, 전처리된 상기 센싱 데이터를 비지도 학습시켜 메타 학습 모델을 생성하고, 학습되지 않은 새로운 센싱 데이터의 이상을 탐지하는 메타 학습 단계 및 상기 메타 학습부의 결과를 기반으로 이상 상태를 예측하는 예측 단계를 포함하는 비지도 학습 기반의 이상 탐지 방법을 제공한다.In addition, in another embodiment of the present invention, a collection step of collecting time series sensing data, a preprocessing step of normalizing the collected sensing data, and unsupervised learning of the preprocessed sensing data to create a meta-learning model. An unsupervised learning-based anomaly detection method is provided, which includes a meta-learning step for generating and detecting anomalies in new, untrained sensing data, and a prediction step for predicting an abnormal state based on the results of the meta-learning unit.

그리고 본 발명의 다른 실시예에서는, 상기 메타 학습 단계는 상기 전처리 단계에서 정규화된 센싱 데이터를 비지도 학습시켜 이상 탐지에 대한 메타 학습 모델을 생성하고, 상기 메타 학습 모델에서 예측된 손실을 사용하여 메타 파라미터(parameter)를 학습시키는 단계, 상기 수집 단계에서 상기 새로운 센싱 데이터가 수집되면, 상기 메타 파라미터를 초기값으로 사용하여 상기 메타 학습 모델을 미세 조정하는 단계 및 미세 조정된 상기 메타 학습 모델에서 상기 새로운 센싱 데이터에 대한 이상치를 탐지하는 단계를 포함할 수 있다.And in another embodiment of the present invention, the meta-learning step generates a meta-learning model for anomaly detection by unsupervised learning the normalized sensing data in the pre-processing step, and uses the loss predicted from the meta-learning model to create a meta-learning model. learning a parameter, when the new sensing data is collected in the collection step, fine-tuning the meta-learning model using the meta-parameter as an initial value, and calculating the new sensing data from the fine-tuned meta-learning model. It may include detecting outliers in the sensing data.

본 발명의 실시예인 비지도 학습 기반의 이상 탐지 장치 및 방법은 이상 상황에 관련된 데이터의 부족으로 인한 학습 모델의 성능 저하를 방지할 수 있다. 즉, 본 발명은 관련 데이터가 적어도 빠르고 정확한 이상 탐지 학습이 가능하다.The unsupervised learning-based anomaly detection apparatus and method, which are embodiments of the present invention, can prevent performance degradation of the learning model due to lack of data related to abnormal situations. In other words, the present invention is capable of learning fast and accurate anomaly detection even if there is only relevant data.

도 1은 본 발명의 실시예에 따른 비지도 학습 기반의 이상 탐지 장치의 구성블럭도이다.
도 2는 본 발명의 실시예에 따른 메타 학습부의 구성블럭도이다.
도 3은 본 발명의 실시예에 따른 메타 학습부의 예시이다.
도 4a는 종래 기술의 이상 탐지 결과 그래프이다.
도 4b는 본 발명의 실시예에 따른 비지도 학습 기반의 이상 탐지 장치의 이상와 종탐지 결과 그래프이다.
도 5는 본 발명의 실시예에 따른 비지도 학습 기반의 이상 방법의 순서도이다.Figure 1 is a block diagram of an unsupervised learning-based anomaly detection device according to an embodiment of the present invention.
Figure 2 is a block diagram of a meta-learning unit according to an embodiment of the present invention.
Figure 3 is an example of a meta learning unit according to an embodiment of the present invention.
Figure 4a is a graph of abnormality detection results of the prior art.
Figure 4b is a graph of the abnormality and species detection results of the unsupervised learning-based anomaly detection device according to an embodiment of the present invention.
Figure 5 is a flowchart of an abnormality method based on unsupervised learning according to an embodiment of the present invention.

이하에서는 본 발명의 기술사상을 본 발명의 기술분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있을 정도로 상세히 설명하기 위하여, 본 발명의 실시 예들이 첨부된 도면을 참조하여 설명될 것이다.Hereinafter, in order to explain the technical idea of the present invention in detail so that a person skilled in the art can easily implement it, embodiments of the present invention will be described with reference to the accompanying drawings.

도 1은 본 발명의 실시예에 따른 비지도 학습 기반의 이상 탐지 장치(10)의 구성블럭도이다. Figure 1 is a block diagram of an unsupervised learning-based anomaly detection device 10 according to an embodiment of the present invention.

도 1을 참조하면, 비지도 학습 기반의 이상 탐지 장치(10)는 수집부(100), 전처리부(200), 메타 학습부(300) 및 예측부(400)를 포함할 수 있다.Referring to FIG. 1, the unsupervised learning-based anomaly detection device 10 may include a collection unit 100, a pre-processing unit 200, a meta-learning unit 300, and a prediction unit 400.

수집부(100)는 시계열의 센싱 데이터를 수집할 수 있다. 예를 들어, 상기 센싱 데이터는 스마트 팩토리(Smart Factory)에서 가동되는 기계들에 부착된 센서들의 일정 기간 데이터일 수 있다. The collection unit 100 may collect time series sensing data. For example, the sensing data may be data from sensors attached to machines operating in a smart factory over a certain period of time.

전처리부(200)는 수집부(100)에서 수집한 상기 센싱 데이터를 최대최소 정규화(normalization)할 수 있다. 구체적으로, 전처리부(200)는 최대값은 1, 최소값은 0으로 설정할 수 있고, 상기 센싱 데이터를 기설정된 이상 상태에 따라 0 내지 1 범위의 값으로 정규화할 수 있다.The pre-processing unit 200 may normalize the sensing data collected by the collection unit 100. Specifically, the preprocessor 200 can set the maximum value to 1 and the minimum value to 0, and normalize the sensing data to a value in the range of 0 to 1 according to a preset abnormal state.

예를 들어, 기계학습 모델에 학습시키는 데이터의 특징을 정규화하지 않으면, 학습 모델이 데이터를 이상하게 해석할 우려가 있다. 따라서 이런 문제가 발생하지 않도록 모든 데이터가 같은 정도의 스케일(중요도)로 학습 모델에 적용되어야 한다.For example, if the characteristics of the data used to train a machine learning model are not normalized, there is a risk that the learning model will interpret the data strangely. Therefore, to prevent this problem from occurring, all data must be applied to the learning model at the same scale (importance).

즉, 이상 상황별 데이터의 범위가 큰 경우에는 메타 학습에 방해가 될 수 있는데, 전처리부(200)가 최대최소 정규화를 수행함으로써, 상기 센싱 데이터의 범위를 소정의 범위로 설정할 수 있다. 다시 말해, 이러한 전처리부(200)의 전처리 과정은 이상 상황별 데이터의 범위를 한정하므로, 데이터 학습 시에 데이터 크기에 대한 편향을 가지지 않고, 메타 학습의 성능을 향상시킬 수 있다. In other words, if the range of data for each abnormal situation is large, it may interfere with meta-learning. By performing maximum/minimum normalization, the preprocessor 200 can set the range of the sensing data to a predetermined range. In other words, the pre-processing process of the pre-processing unit 200 limits the range of data for each abnormal situation, so there is no bias regarding data size when learning data, and the performance of meta-learning can be improved.

그리고 전처리부(200)는 정규화된 센싱 데이터를 메타 학습 모델에 제공하기 위해 메타 학습부(300)로 전송할 수 있다.And the preprocessor 200 may transmit the normalized sensing data to the meta learning unit 300 to provide it to the meta learning model.

메타 학습부(300)는 정규화된 상기 센싱 데이터를 비지도 학습시켜 메타 학습 모델을 생성하고, 학습되지 않은 새로운 센싱 데이터의 이상을 탐지할 수 있다.The meta-learning unit 300 performs unsupervised learning on the normalized sensing data to create a meta-learning model and can detect abnormalities in new, untrained sensing data.

본 발명의 실시예에 따른 메타 학습부(300)는 MAML(model-agnostic meta-learning) 모델 기반의 학습 모델을 생성할 수 있다. 예를 들어, MAML 모델은 메타 학습 기법의 하나인 그래디언트(gradient) 기반 메타 학습 모델일 수 있다. 본 발명의 실시 예에 따른 MAML 모델은 메타 모델을 학습하기 위해 그래디언트 알고리즘의 초기값을 메타 학습하는 방법으로, 메타 학습이 끝난 메타 모델을 미세 조정(fine-tuning)을 거쳐 예측에 활용할 수 있다.The meta learning unit 300 according to an embodiment of the present invention may generate a learning model based on a model-agnostic meta-learning (MAML) model. For example, a MAML model may be a gradient-based meta-learning model, which is one of the meta-learning techniques. The MAML model according to an embodiment of the present invention is a method of meta-learning the initial value of the gradient algorithm to learn a meta-model, and the meta-model that has completed meta-learning can be used for prediction through fine-tuning.

구체적으로, 본 발명의 실시 예에 따른 메타 학습부(300)의 MAML 모델은 여러 이상 상황에 대한 학습 데이터를 활용하여 손실의 합을 계산할 수 있다. 그리고 MAML은 계산된 손실의 합을 감소시킬 수 있는 경사로 모델 내 파라미터의 초기값, 즉 메타 파라미터를 최적화한다. 이후, 메타 파라미터를 가진 모델에 새로운 이상 상황의 데이터를 입력하고 미세 조정(Fine Tuning)에 적용함으로써, 적은 수의 데이터로도 빠르게 정답에 수렴할 수 있다. Specifically, the MAML model of the meta learning unit 300 according to an embodiment of the present invention can calculate the sum of losses by utilizing learning data for various abnormal situations. And MAML optimizes the initial values of parameters within the ramp model, that is, meta-parameters, that can reduce the sum of the calculated losses. Afterwards, by inputting new abnormal situation data into the model with meta parameters and applying fine tuning, it is possible to quickly converge to the correct answer even with a small number of data.

따라서 본 발명의 실시예에 따른 비지도 학습 기반의 이상 탐지 장치(10)의 MAML 모델은 사전에 다양한 이상 상황을 학습한 지식을 바탕으로 새로운 이상 상황에 대해 학습하기 때문에 상기 새로운 이상 상황 발생에 따른 데이터 부족 문제를 해결할 수 있다.Therefore, the MAML model of the unsupervised learning-based anomaly detection device 10 according to an embodiment of the present invention learns about new abnormal situations based on knowledge learned about various abnormal situations in advance, so The data shortage problem can be solved.

도 2는 본 발명의 실시예에 따른 메타 학습부(300)의 구성블럭도이다.Figure 2 is a block diagram of the meta learning unit 300 according to an embodiment of the present invention.

도 2를 참조하면, 메타 학습부(300)는 사전 학습부(310), 미세 조정부(320) 및 이상 탐지부(330)를 포함할 수 있다.Referring to FIG. 2 , the meta learning unit 300 may include a dictionary learning unit 310, a fine tuning unit 320, and an anomaly detection unit 330.

메타 학습부(300)의 사전 학습부(310)는 전처리부(200)에서 정규화된 센싱 데이터를 비지도 학습시켜 이상 탐지에 대한 메타 학습 모델을 생성할 수 있다. The dictionary learning unit 310 of the meta learning unit 300 can generate a meta learning model for anomaly detection by performing unsupervised learning on the normalized sensing data in the preprocessor 200.

여기에서, 사전 학습부(310)는 비지도 학습 모델 중에서 오토 인코더(auto-encoder) 학습 모델을 사용하는 것이 바람직하나, 이에 한정하지 않는다. 오토 인코더 학습 모델은 단순히 입력을 출력으로 복사하는 신경망으로, 원래의 입력 데이터의 압축된 지식표현(knowledge representation)을 만들도록 네트워크에 병목(bottleneck)을 두는 신경망이다.Here, the dictionary learning unit 310 preferably uses an auto-encoder learning model among unsupervised learning models, but is not limited to this. An autoencoder learning model is a neural network that simply copies input to output, and places a bottleneck in the network to create a compressed knowledge representation of the original input data.

오토 인코더 모델은 많은 양의 정상 데이터의 공통적인 특징을 추출하여 복원하도록 학습한다. 반면에, 오토 인코더 모델은 비정상 데이터를 입력했을 때 특징을 잘 추출하지 못하고 복원 오차가 커지는데, 이러한 복원 오차의 편차를 기반으로 이상치를 탐지한다. 이때 비정상 데이터는 데이터양이 정상 데이터에 비해 상대적으로 적어 불균형한 상태이다. 따라서 비지도 학습의 일종인 오토 인코더 모델은 불균형한 데이터양에서 이상을 탐지하는 데에 최적의 모델이다.The autoencoder model learns to extract and restore common features of a large amount of normal data. On the other hand, the autoencoder model cannot extract features well when abnormal data is input and the restoration error increases. Outliers are detected based on the deviation of this restoration error. At this time, the abnormal data is in an unbalanced state because the amount of data is relatively small compared to the normal data. Therefore, the autoencoder model, a type of unsupervised learning, is the optimal model for detecting abnormalities in an imbalanced amount of data.

그리고 사전 학습부(310)는 상기 메타 학습 모델에서 예측된 손실을 사용하여 메타 파라미터를 학습시킬 수 있다.And the dictionary learning unit 310 can learn meta parameters using the loss predicted from the meta learning model.

여기에서, 사전 학습부(310)는 상기 메타 학습 모델 중에서 MAML(model-agnostic meta-learning) 모델을 사용하는 것이 바람직하나, 이에 한정하지 않는다.Here, the dictionary learning unit 310 preferably uses a MAML (model-agnostic meta-learning) model among the meta-learning models, but is not limited to this.

그리고 사전 학습부(310)는 상기 손실이 감소하도록 메타 학습을 반복 수행하고, 상기 메타 파라미터를 갱신할 수 있다.Additionally, the dictionary learning unit 310 may repeatedly perform meta learning to reduce the loss and update the meta parameters.

메타 학습부(300)의 미세 조정부(320)는 수집부(100)가 상기 새로운 센싱 데이터를 수집하면, 갱신된 상기 메타 파라미터를 초기값으로 사용하여 상기 메타 학습 모델을 미세 조정할 수 있다.When the collection unit 100 collects the new sensing data, the fine-tuning unit 320 of the meta-learning unit 300 can fine-tune the meta-learning model by using the updated meta parameters as initial values.

구체적으로, 수집부(100)에서 상기 이상 상태에 대한 새로운 센싱 데이터를 수집할 수 있고, 전처리부(200)는 새로운 센싱 데이터에 최대최소 정규화를 수행할 수 있다. 그 다음 정규화된 새로운 센싱 데이터는 메타 학습부(300)로 전송될 수 있다. 여기에서, 미세 조정부(320)는 사전 학습부(310)에서 학습시킨 상기 메타 파라미터를 초기값으로 사용할 수 있다. 그리고 미세 조정부(320)는 새로운 센싱 데이터를 학습시키는데, 상기 메타 파라미터를 초기값으로 하여 상기 메타 학습 모델을 미세 조정할 수 있다. Specifically, the collection unit 100 may collect new sensing data for the abnormal state, and the preprocessor 200 may perform maximum/minimum normalization on the new sensing data. Then, the new normalized sensing data can be transmitted to the meta learning unit 300. Here, the fine adjustment unit 320 may use the meta parameters learned by the dictionary learning unit 310 as initial values. And the fine-tuning unit 320 learns new sensing data, and can fine-tune the meta-learning model by using the meta-parameters as initial values.

예를 들어, A 기계 및 B 기계에서 수집한 센싱 데이터는 수집부(100) 및 전처리부(200)를 거쳐 사전 학습부(310)의 비지도 학습 모델에 의해 이상 상태 또는 정상 상태에 대하여 학습될 수 있다. 사전 학습부(310)는 A 기계 및 B 기계에서 수집한 센싱 데이터를 기반으로 상기 메타 파라미터를 생성할 수 있고, 이를 미세 조정부(320)에서 상기 메타 학습 모델의 초기값으로 사용할 수 있다.For example, the sensing data collected from Machine A and Machine B passes through the collection unit 100 and the preprocessor 200 to be learned for abnormal or normal states by the unsupervised learning model of the dictionary learning unit 310. You can. The dictionary learning unit 310 can generate the meta parameters based on sensing data collected from machines A and B, and the fine tuning unit 320 can use them as initial values of the meta learning model.

이후, 이상 탐지에 대한 데이터가 적고, 라벨링되어 있지 않은 C 기계의 새로운 센싱 데이터를 수집하여 수집부(100) 및 전처리부(200)를 거쳐 미세 조정부(320)로 전송될 수 있다. 그리고 미세 조정부(320)는 상기 초기값을 기반으로 C 기계의 새로운 센싱 데이터를 상기 메타 학습 모델에 학습시킴으로써 미세 조정을 수행할 수 있다. 그리고 C 기계의 이상 상태에 대한 새로운 센싱 데이터를 감지하는 경우에 이상 탐지부(330)는 상기 메타 학습 모델에서 상기 이상 상태에 대한 이상치를 탐지할 수 있다. 즉, 이상 탐지부(330)는 이상 상태에 대한 새로운 센싱 데이터를 상기 메타 학습 모델에 학습시킨 결과를 확인할 수 있고, 학습 결과에서 보이는 이상치를 탐지할 수 있다.Thereafter, new sensing data from machine C, which has little data for abnormality detection and is not labeled, may be collected and transmitted to the fine adjustment unit 320 through the collection unit 100 and the preprocessing unit 200. And the fine adjustment unit 320 creates a new C machine based on the initial value. Fine tuning can be performed by training the sensing data in the meta-learning model. And when new sensing data for an abnormal state of a C machine is detected, the anomaly detection unit 330 can detect an outlier for the abnormal state in the meta-learning model. That is, the anomaly detection unit 330 can check the results of training new sensing data for abnormal states in the meta-learning model and detect outliers seen in the learning results.

따라서 상술한 바와 같이 메타 학습부(300)는 다양한 이상 및 정상 센싱 데이터를 비지도 학습 기반의 메타 학습 모델에 학습시킴으로써, 경험 데이터가 부족한 상황이더라도 새롭게 발생하는 이상 센싱 데이터를 정확하고 빠르게 탐지할 수 있다.Therefore, as described above, the meta-learning unit 300 trains various abnormal and normal sensing data into an unsupervised learning-based meta-learning model, so that newly occurring abnormal sensing data can be accurately and quickly detected even in situations where experience data is insufficient. there is.

예측부(400)는 메타 학습부(300)의 결과를 기반으로 이상 상태를 판단할 수 있다. 즉, 예측부(400)는 상기 이상치를 기반으로 상기 이상 상태의 정도를 예측할 수 있다.The prediction unit 400 may determine an abnormal state based on the results of the meta learning unit 300. That is, the prediction unit 400 can predict the degree of the abnormal state based on the abnormal value.

도 3은 본 발명의 실시예에 따른 메타 학습부(300)의 예시이다.Figure 3 is an example of the meta learning unit 300 according to an embodiment of the present invention.

예를 들어, 상기 센싱 데이터는 N개 이상 상황 과제의 집합 Stask={T1, T2, ···, TN}과 새로 발생한 이상 상황 Ttarget이 있다고 가정한다. 여기에서, Ti는 i번째 이상 상황이 발생했을 때 수집된 데이터를 일컫는다. For example, it is assumed that the sensing data includes a set of N abnormal situation tasks S task = {T 1 , T 2 , ···, T N } and a newly generated abnormal situation T target . Here, T i refers to data collected when the ith abnormal situation occurs.

도 3을 참조하면, 메타 학습부(300)의 사전 학습부(310)는 Stask 내의 각 Ti를 오토 인코더 모델에 학습시켜 학습 데이터인 Dtrain을 생성하고, Dtrain로 각 과제에 최적화된 메타 학습 모델인 MAML 모델을 생성한다. 그 다음, Ti를 MAML 모델에 학습시킨 데이터인 Dtest로 예측한 결과의 손실을 사용하여 메타 파라미터를 학습시킨다. Referring to FIG. 3, the dictionary learning unit 310 of the meta learning unit 300 trains each T i in the S task to an autoencoder model to generate training data, D train , and generates D train optimized for each task. Create a MAML model, a meta-learning model. Next, meta parameters are learned using the loss of the predicted result using D test , which is the data trained on T i by the MAML model.

그 다음, 상술한 과정을 반복하여 미세 조정부(220)는 Stask의 N개 Ti를 거쳐 업데이트된 메타 파라미터를 초기값으로 사용하고, Ttarget에 대한 Dtrain으로 상기 MAML 모델을 미세 조정한다. Then, by repeating the above-described process, the fine adjustment unit 220 uses the updated meta parameters through N T i of the S task as the initial value, and Fine-tune the MAML model with D train .

그러면 이상 탐지부(330)는 Ttarget에 대한 Dtest로 이상치 탐지를 수행한다.Then, the anomaly detection unit 330 performs outlier detection using a D test for the T target .

도 4는 본 발명의 실시예에 따른 비지도 학습 기반의 이상 탐지 장치(10)와 종래 기술의 이상 탐지 결과 비교 그래프이다. 도 4a는 종래 기술의 이상 탐지 결과 그래프이고, 도 4b는 비지도 학습 기반의 이상 탐지 장치(10)의 이상 탐지 결과 그래프이다.Figure 4 is a graph comparing the abnormality detection results of the unsupervised learning-based anomaly detection device 10 according to an embodiment of the present invention and the prior art. FIG. 4A is a graph of the anomaly detection results of the prior art, and FIG. 4B is a graph of the anomaly detection results of the unsupervised learning-based anomaly detection device 10.

실시예에서 수집부(100)에 이상치 탐지 벤치마크(Skoltech Anomaly Benchmark, 이하 SKAB) 데이터셋(data set)을 입력한다. SKAB 데이터셋은 이상치 탐지 연구를 위해 테스트 베드 상에서 임의로 다양한 이상 상황을 발생시켜 수집한 데이터이다. 예를 들어, SKAB 데이터셋은 모터의 전압, 진동 가속도, 엔진의 온도 등 총 8개의 센서에서 13가지의 다양한 이상 상황의 데이터를 포함한다. 즉, SKAB 데이터셋은 20분간 초 단위로 측정된 수치 및 이상 상황 여부를 시계열로 기록한 데이터이다.In an embodiment, an outlier detection benchmark (Skoltech Anomaly Benchmark, hereinafter referred to as SKAB) data set is input to the collection unit 100. The SKAB dataset is data collected by randomly generating various abnormal situations on a test bed for outlier detection research. For example, the SKAB dataset includes data from 13 different abnormal situations from a total of 8 sensors, including motor voltage, vibration acceleration, and engine temperature. In other words, the SKAB dataset is a time series record of values measured in seconds for 20 minutes and whether abnormal situations exist.

도 4a 및 b를 참조하면, 시간에 따른 복원 오차 정도를 표시한 그래프이며, 빨간 선은 복원 오차의 평균을 의미한다. Referring to FIGS. 4A and 4B, it is a graph showing the degree of restoration error over time, and the red line represents the average of restoration error.

도 4a는 종래 기술인 오토 인코더 학습 모델에 적은 센싱 데이터양(SKAB 데이터셋)을 학습시킨 결과로, 정상 상태 및 이상 상태의 복원 오차의 평균을 나타내었다. 도 4(b)는 본 발명의 비지도 학습 기반의 이상 탐지 장치(10)로 SKAB 데이터셋을 학습시킨 결과로, 정상 상태 및 이상 상태의 복원 오차의 평균을 나타내었다. Figure 4a shows the results of training a conventional auto-encoder learning model on a small amount of sensing data (SKAB dataset), and shows the average of restoration errors in normal and abnormal states. Figure 4(b) shows the results of training the SKAB dataset with the unsupervised learning-based anomaly detection device 10 of the present invention, showing the average of restoration errors in the normal state and abnormal state.

다시 도 4a를 참조하면, 종래의 오토 인코더 모델만으로 이상을 탐지한 결과, 굉장히 불안정한 복원 오차 그래프를 보이고 있고, 정상 상태와 이상 상태의 복원 오차의 평균차가 크지 않은 것을 확인할 수 있다.Referring again to FIG. 4A, as a result of detecting an abnormality using only the conventional autoencoder model, a very unstable restoration error graph is shown, and it can be seen that the average difference between the restoration error between the normal state and the abnormal state is not large.

반면에 도 4b를 참조하면, 본 발명의 비지도 학습 기반의 이상 탐지 장치(10)로 이상을 탐지한 결과, 정상 상태는 매우 낮은 복원 오차를 가지며, 이상 상태와 비교하여 복원 오차의 평균차가 큰 것을 확인할 수 있었다.On the other hand, referring to FIG. 4b, as a result of detecting an anomaly with the unsupervised learning-based anomaly detection device 10 of the present invention, the normal state has a very low restoration error, and the average difference in restoration error is large compared to the abnormal state. could be confirmed.

즉, 종래의 오토 인코더 모델보다 비지도 학습 기반의 이상 탐지 장치(10)로 학습 시킨 정상 상태와 이상 상태 간의 복원 오차의 평균 차이가 큰 것을 알 수 있다. 따라서 데이터양이 부족한 경우에 비지도 학습 기반의 이상 탐지 장치(10)가 종래 기술보다 더 안정적이고 명확하게 정상 상태와 이상 상태를 분류하여 예측하는 것을 확인하였다.In other words, it can be seen that the average difference in restoration error between the normal state and the abnormal state learned by the unsupervised learning-based anomaly detection device 10 is larger than that of the conventional autoencoder model. Therefore, it was confirmed that when the amount of data is insufficient, the unsupervised learning-based anomaly detection device 10 classifies and predicts normal and abnormal states more stably and clearly than the prior art.

따라서 본 발명의 실시예인 비지도 학습 기반의 이상 탐지 장치(10)는 이상 상황에 관련된 데이터의 부족으로 인한 학습 모델의 성능 저하를 방지할 수 있다. 즉, 비지도 학습 기반의 이상 탐지 장치(10)는 관련 데이터가 적어도 빠르고 정확한 이상 탐지 학습이 가능하다.Therefore, the unsupervised learning-based anomaly detection device 10, which is an embodiment of the present invention, can prevent performance degradation of the learning model due to lack of data related to abnormal situations. In other words, the unsupervised learning-based anomaly detection device 10 is capable of fast and accurate anomaly detection learning even if relevant data is required.

도 5는 본 발명의 실시예에 따른 비지도 학습 기반의 이상 탐지 방법의 순서도이며, 도 1의 비지도 학습 기반의 이상 탐지 장치(10)에 대한 동작 방법이다.FIG. 5 is a flowchart of an unsupervised learning-based anomaly detection method according to an embodiment of the present invention, and is a method of operating the unsupervised learning-based anomaly detection device 10 of FIG. 1.

도 5를 참조하면, 본 발명에 따른 비지도 학습 기반의 이상 탐지 방법은 S510 내지 S540 단계를 포함할 수 있다.Referring to FIG. 5, the unsupervised learning-based anomaly detection method according to the present invention may include steps S510 to S540.

S510 단계에서, 시계열의 센싱 데이터가 수집될 수 있다. 예를 들어, 도 1의 수집부(100)가 시계열의 센싱 데이터를 수집할 수 있다. 여기에서, 상기 센싱 데이터는 스마트 팩토리(Smart Factory)에서 가동되는 기계들에 부착된 센서들의 일정 기간 데이터일 수 있다.In step S510, time series sensing data may be collected. For example, the collection unit 100 of FIG. 1 may collect time series sensing data. Here, the sensing data may be data from sensors attached to machines operating in a smart factory over a certain period of time.

S520 단계에서, 상기 센싱 데이터는 최대최소 정규화(normalization)될 수 있다. 예를 들어, 도 1의 전처리부(200)가 상기 센싱 데이터를 최대최소 정규화할 수 있다. In step S520, the sensing data may be normalized to the maximum and minimum. For example, the preprocessor 200 of FIG. 1 may normalize the sensing data to the maximum and minimum.

구체적으로, S520 단계에서, 최대값은 1, 최소값은 0으로 설정할 수 있고, 상기 센싱 데이터를 기설정된 이상 상태에 따라 0 내지 1 범위의 값으로 정규화할 수 있다.Specifically, in step S520, the maximum value can be set to 1 and the minimum value can be set to 0, and the sensing data can be normalized to a value in the range of 0 to 1 according to a preset abnormal state.

이상 상황별 데이터의 범위가 큰 경우에는 메타 학습에 방해가 될 수 있는데, S520 단계에서 최대최소 정규화가 수행됨으로써, 상기 센싱 데이터의 범위가 소정의 범위로 설정될 수 있다. 다시 말해, 이러한 S520 단계의 전처리 과정은 이상 상황별 데이터의 범위를 한정하므로, 메타 학습의 성능을 향상시킬 수 있다.If the range of data for each situation is large, it may interfere with meta-learning. By performing maximum/minimum normalization in step S520, the range of the sensing data can be set to a predetermined range. In other words, the preprocessing process of step S520 limits the scope of data for each abnormal situation, thereby improving the performance of meta-learning.

S530 단계에서, 비지도 학습을 적용한 메타 학습 모델이 생성될 수 있고, 상기 센싱 데이터의 이상이 탐지될 수 있다. 예를 들어, 도 1의 메타 학습부(300)가 전처리된 상기 센싱 데이터를 비지도 학습시켜 메타 학습 모델을 생성하고, 학습되지 않은 새로운 센싱 데이터의 이상을 탐지할 수 있다.In step S530, a meta-learning model using unsupervised learning can be created, and abnormalities in the sensing data can be detected. For example, the meta-learning unit 300 of FIG. 1 performs unsupervised learning on the pre-processed sensing data to generate a meta-learning model and detects abnormalities in new, untrained sensing data.

구체적으로, S530 단계는 S531 내지 S535 단계를 포함할 수 있고, 이는 도 1의메타 학습부(300)의 동작 방법이다.Specifically, step S530 may include steps S531 to S535, which is the operating method of the meta learning unit 300 in FIG. 1.

다시 도 5를 참조하면, S531 단계에서, 상기 전처리 단계에서 정규화된 센싱 데이터가 비지도 학습될 수 있고, 이상 탐지에 대한 메타 학습 모델이 생성될 수 있다. 예를 들어, 도 1의 메타 학습부(300)가 정규화된 센싱 데이터를 비지도 학습에 학습시켜 이상 탐지에 대한 메타 학습 모델을 생성할 수 있다.Referring again to FIG. 5, in step S531, the sensing data normalized in the preprocessing step may be unsupervised, and a meta-learning model for anomaly detection may be created. For example, the meta-learning unit 300 of FIG. 1 can generate a meta-learning model for anomaly detection by training normalized sensing data in unsupervised learning.

상기 비지도 학습 모델은 오토 인코더(auto-encoder) 학습 모델을 사용하는 것이 바람직하나, 이에 한정하지 않는다.The unsupervised learning model is preferably an auto-encoder learning model, but is not limited to this.

또한, 상기 메타 학습 모델은 MAML(model-agnostic meta-learning) 모델을 사용하는 것이 바람직하나, 이에 한정하지 않는다.In addition, the meta-learning model is preferably a MAML (model-agnostic meta-learning) model, but is not limited to this.

그리고 S532 단계에서, 생성된 상기 메타 학습 모델에서 예측된 손실을 사용하여 메타 파라미터가 학습될 수 있다. 예를 들어, 도 1의 메타 학습부(300)가 생성된 상기 메타 학습 모델에서 예측된 손실을 사용하여 메타 파라미터를 학습시킬 수 있다.And in step S532, meta parameters may be learned using the loss predicted from the generated meta learning model. For example, the meta learning unit 300 of FIG. 1 may learn meta parameters using the loss predicted from the generated meta learning model.

S532 단계에서, 상기 예측된 손실이 감소하도록 상기 메타 파라미터가 갱신될 수 있는데, 상기 메타 파라미터를 갱신하기 위하여 메타 학습을 반복 수행할 수 있다.In step S532, the meta parameters may be updated to reduce the predicted loss, and meta learning may be repeatedly performed to update the meta parameters.

S533 단계에서, 이상 상태 데이터를 포함하는 상기 새로운 센싱 데이터가 수집될 수 있다. 예를 들어, 도 1의 수집부(100)가 학습되지 않은 상기 새로운 센싱 데이터를 수집할 수 있다. 그리고 도 1의 전처리부(200)가 상기 새로운 센싱 데이터에 최대최소 정규화를 수행할 수 있다. 그 다음 도 1의 메타 학습부(300)가 정규화된 상기 새로운 센싱 데이터를 기반으로 메타 학습을 수행할 수 있다.In step S533, the new sensing data including abnormal state data may be collected. For example, the collection unit 100 of FIG. 1 may collect the new sensing data that has not been learned. And the preprocessor 200 of FIG. 1 may perform maximum/minimum normalization on the new sensing data. Next, the meta learning unit 300 of FIG. 1 may perform meta learning based on the new normalized sensing data.

S534 단계에서, 상기 메타 파라미터를 초기값으로 사용하여 상기 새로운 센싱 데이터에 대한 상기 메타 학습 모델이 미세 조정될 수 있다. 즉, S534 단계에서 상기 새로운 센싱 데이터가 상기 메타 학습 모델로 학습되는데, 상기 메타 파라미터를 초기값으로 하여 상기 메타 학습 모델이 미세 조정될 수 있다. 예를 들어, 도 1의 메타 학습부(300)가 상기 메타 파라미터를 초기값으로 사용하여 상기 새로운 센싱 데이터에 대한 상기 메타 학습 모델을 미세 조정할 수 있다In step S534, the meta learning model for the new sensing data can be fine-tuned using the meta parameters as initial values. That is, in step S534, the new sensing data is learned with the meta-learning model, and the meta-learning model can be fine-tuned by setting the meta parameters as initial values. For example, the meta learning unit 300 in FIG. 1 can fine-tune the meta learning model for the new sensing data by using the meta parameters as initial values.

S535 단계에서, 미세 조정된 상기 메타 학습 모델에서 상기 새로운 센싱 데이터에 대한 이상치가 탐지될 수 있다. 즉 S535 단계에서, 상기 새로운 센싱 데이터를 상기 메타 학습 모델에 학습시킨 결과가 확인될 수 있고, 학습 결과에서 보이는 이상치가 탐지될 수 있다. 예를 들어, 도 1의 메타 학습부(300)가 상기 메타 학습 모델에서 상기 이상 상태에 대한 이상치를 탐지할 수 있다.In step S535, outliers for the new sensing data may be detected in the fine-tuned meta-learning model. That is, in step S535, the results of training the new sensing data in the meta-learning model can be confirmed, and outliers seen in the learning results can be detected. For example, the meta learning unit 300 of FIG. 1 may detect an outlier for the abnormal state in the meta learning model.

마지막으로 S540 단계에서, 상기 메타 학습 모델의 이상 탐지 결과인 상기 이상치를 기반으로 이상 상태가 예측될 수 있다. 예를 들어, 도 1의 예측부(400)가 상기 이상치를 기반으로 이상 상태를 예측할 수 있다.Finally, in step S540, an abnormal state may be predicted based on the outlier value, which is the anomaly detection result of the meta-learning model. For example, the prediction unit 400 of FIG. 1 may predict an abnormal state based on the abnormal value.

본 발명의 실시예인 비지도 학습 기반의 이상 탐지 방법은 이전에 경험하지 않은 새로운 이상 상황의 발생을 빠르게 판단하고, 스마트 팩토리와 같은 자동화 기계들의 오작동을 방지할 수 있다. 그러므로 본 발명은 기계의 오작동으로 인한 경제적 손실 또는 인명 피해를 방지할 수 있다.The unsupervised learning-based anomaly detection method, which is an embodiment of the present invention, can quickly determine the occurrence of a new abnormal situation that has not been experienced before and prevent malfunction of automated machines such as smart factories. Therefore, the present invention can prevent economic loss or human damage due to machine malfunction.

또한, 본 발명의 실시예인 비지도 학습 기반의 이상 탐지 방법은 이상 상황에 관련된 데이터의 부족으로 인한 학습 모델의 성능 저하를 방지할 수 있다. 따라서 비지도 학습 기반의 이상 탐지 방법을 수행하는 비지도 학습 기반의 이상 탐지 장치(10) 는 관련 데이터가 적어도 빠르고 정확한 이상 탐지 학습이 가능하다.Additionally, the unsupervised learning-based anomaly detection method, which is an embodiment of the present invention, can prevent performance degradation of the learning model due to a lack of data related to abnormal situations. Therefore, the unsupervised learning-based anomaly detection device 10, which performs an unsupervised learning-based anomaly detection method, is capable of fast and accurate anomaly detection learning even if relevant data is required.

또한, 상술한 본 발명의 비지도 학습 기반의 이상 탐지 장치 및 방법은 센서 데이터의 이상 탐지 뿐만 아니라, 이미지나 자연어 처리 데이터의 이상 탐지에도 동일하게 활용 가능하다.In addition, the unsupervised learning-based anomaly detection device and method of the present invention described above can be equally used not only for detecting anomalies in sensor data, but also for detecting anomalies in image or natural language processing data.

상술한 내용은 본 발명을 실시하기 위한 구체적인 실시 예들이다. 본 발명은 상술한 실시 예들 이외에도, 단순하게 설계 변경되거나 용이하게 변경할 수 있는 실시 예들도 포함될 것이다. 또한, 본 발명은 실시 예들을 이용하여 용이하게 변형하여 실시할 수 있는 기술들도 포함될 것이다. 따라서, 본 발명의 범위는 상술한 실시 예들에 국한되어 정해져서는 안되며, 후술하는 특허청구범위뿐만 아니라 이 발명의 특허청구범위와 균등한 것들에 의해 정해져야 할 것이다.The above-described details are specific embodiments for carrying out the present invention. In addition to the above-described embodiments, the present invention will also include embodiments that can be simply changed or easily changed in design. In addition, the present invention will also include technologies that can be easily modified and implemented using the embodiments. Therefore, the scope of the present invention should not be limited to the above-described embodiments, but should be determined by the claims and equivalents of the present invention as well as the claims described later.

10 : 비지도 학습 기반의 이상 탐지 장치
100 : 수집부
200 : 전처리부
300 : 메타 학습부
310 : 사전 학습부 320 : 미세 조정부
330 : 이상 탐지부
400 : 예측부10: Anomaly detection device based on unsupervised learning
100: collection department
200: preprocessing unit
300: Meta-learning department
310: Dictionary learning unit 320: Fine adjustment unit
330: abnormality detection unit
400: prediction unit

Claims (9)

시계열의 센싱 데이터를 수집하는 수집부;
수집된 상기 센싱 데이터를 최대최소 정규화(normalization)하는 전처리부;
정규화된 상기 센싱 데이터를 비지도 학습시켜 메타 학습 모델을 생성하고, 학습되지 않은 새로운 센싱 데이터의 이상을 탐지하는 메타 학습부; 및
상기 메타 학습부의 결과를 기반으로 이상 상태를 예측하는 예측부;를 포함하되,
상기 메타 학습부는,
상기 전처리부에서 정규화된 센싱 데이터를 비지도 학습시켜 이상 탐지에 대한 메타 학습 모델을 생성하고, 상기 메타 학습 모델에서 예측된 손실을 사용하여 메타 파라미터(parameter)를 학습시키는 사전 학습부;
상기 수집부가 상기 새로운 센싱 데이터를 수집하면, 상기 메타 파라미터를 초기값으로 사용하여 상기 메타 학습 모델을 미세 조정하는 미세 조정부; 및
미세 조정된 상기 메타 학습 모델에서 상기 새로운 센싱 데이터에 대한 이상치를 탐지하는 이상 탐지부;를 포함하는 비지도 학습 기반의 이상 탐지 장치.
A collection unit that collects time series sensing data;
a preprocessor that normalizes the collected sensing data;
a meta-learning unit that generates a meta-learning model by performing unsupervised learning on the normalized sensing data and detects abnormalities in new, untrained sensing data; and
Includes a prediction unit that predicts an abnormal state based on the results of the meta-learning unit,
The meta learning department,
a pre-learning unit that generates a meta-learning model for anomaly detection by performing unsupervised learning on the normalized sensing data in the pre-processing unit, and trains meta parameters using the loss predicted from the meta-learning model;
a fine-tuning unit that fine-tunes the meta-learning model by using the meta-parameter as an initial value when the collection unit collects the new sensing data; and
An anomaly detection unit that detects outliers for the new sensing data in the fine-tuned meta-learning model. An anomaly detection device based on unsupervised learning, comprising:
 제1항에 있어서,
상기 전처리부는,
최대값은 1, 최소값은 0으로 설정하고, 상기 센싱 데이터를 기설정된 이상 상태에 따라 0 내지 1 범위의 값으로 정규화하는, 비지도 학습 기반의 이상 탐지 장치.
According to paragraph 1,
The preprocessor,
An unsupervised learning-based anomaly detection device that sets the maximum value to 1 and the minimum value to 0, and normalizes the sensing data to a value in the range of 0 to 1 according to a preset abnormality state.
 제1항에 있어서,
상기 비지도 학습은 오토 인코더(auto-encoder) 모델인, 비지도 학습 기반의 이상 탐지 장치.
According to paragraph 1,
The unsupervised learning is an auto-encoder model, an anomaly detection device based on unsupervised learning.
 제1항에 있어서,
상기 메타 학습 모델은 MAML(model-agnostic meta-learning) 모델인, 비지도 학습 기반의 이상 탐지 장치.
According to paragraph 1,
The meta-learning model is a MAML (model-agnostic meta-learning) model, an unsupervised learning-based anomaly detection device.
 제1항에 있어서,
사전 학습부는,
상기 예측된 손실이 감소하도록 상기 메타 파라미터를 갱신하는, 비지도 학습 기반의 이상 탐지 장치.
According to paragraph 1,
The dictionary learning department,
An unsupervised learning-based anomaly detection device that updates the meta parameters to reduce the predicted loss.
 시계열의 센싱 데이터를 수집하는 수집 단계;
수집된 상기 센싱 데이터를 최대최소 정규화(normalization)하는 전처리 단계;
전처리된 상기 센싱 데이터를 비지도 학습시켜 메타 학습 모델을 생성하고, 학습되지 않은 새로운 센싱 데이터의 이상을 탐지하는 메타 학습 단계; 및
상기 메타 학습부의 결과를 기반으로 이상 상태를 예측하는 예측 단계;를 포함하되,
상기 메타 학습 단계는,
상기 전처리 단계에서 정규화된 센싱 데이터를 비지도 학습시켜 이상 탐지에 대한 메타 학습 모델을 생성하고, 상기 메타 학습 모델에서 예측된 손실을 사용하여 메타 파라미터(parameter)를 학습시키는 단계;
상기 수집 단계에서 상기 새로운 센싱 데이터가 수집되면, 상기 메타 파라미터를 초기값으로 사용하여 상기 메타 학습 모델을 미세 조정하는 단계; 및
미세 조정된 상기 메타 학습 모델에서 상기 새로운 센싱 데이터에 대한 이상치를 탐지하는 단계;를 포함하는 비지도 학습 기반의 이상 탐지 방법.
A collection step of collecting time series sensing data;
A preprocessing step of normalizing the collected sensing data to maximum and minimum;
A meta-learning step of generating a meta-learning model by performing unsupervised learning on the pre-processed sensing data and detecting abnormalities in new, untrained sensing data; and
A prediction step of predicting an abnormal state based on the results of the meta-learning unit,
The meta-learning step is,
Generating a meta-learning model for anomaly detection by performing unsupervised learning on the normalized sensing data in the pre-processing step, and learning meta parameters using the loss predicted from the meta-learning model;
When the new sensing data is collected in the collection step, fine-tuning the meta learning model using the meta parameters as initial values; and
An unsupervised learning-based anomaly detection method comprising: detecting outliers for the new sensing data from the fine-tuned meta-learning model.
 제6항에 있어서,
상기 비지도 학습은 오토 인코더(auto-encoder) 모델인, 비지도 학습 기반의 이상 탐지 방법.
According to clause 6,
The unsupervised learning is an anomaly detection method based on unsupervised learning, which is an auto-encoder model.
 제6항에 있어서,
상기 메타 학습 모델은 MAML(model-agnostic meta-learning) 모델인, 비지도 학습 기반의 이상 탐지 방법.
According to clause 6,
The meta-learning model is a model-agnostic meta-learning (MAML) model, an unsupervised learning-based anomaly detection method.
 제6항에 있어서,
메타 학습 단계는,
상기 예측된 손실이 감소하도록 상기 메타 파라미터를 갱신하는, 비지도 학습 기반의 이상 탐지 방법.
According to clause 6,
The meta-learning stage is,
An unsupervised learning-based anomaly detection method that updates the meta parameters so that the predicted loss is reduced.
KR1020230064765A 2022-06-10 2023-05-19 Anomaly Detection Apparatus and Method Based Unsupervised Learning KR20230170561A (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20220070994 2022-06-10
KR1020220070994 2022-06-10

Publications (1)

Publication Number Publication Date
KR20230170561A true KR20230170561A (en) 2023-12-19

Family

ID=89385473

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020230064765A KR20230170561A (en) 2022-06-10 2023-05-19 Anomaly Detection Apparatus and Method Based Unsupervised Learning

Country Status (1)

Country Link
KR (1) KR20230170561A (en)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102407730B1 (en) 2020-06-10 2022-06-16 한국전자통신연구원 Method for anomaly behavior detection system using multiple machine learning models, and apparatus for the same

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102407730B1 (en) 2020-06-10 2022-06-16 한국전자통신연구원 Method for anomaly behavior detection system using multiple machine learning models, and apparatus for the same

Similar Documents

Publication Publication Date Title
Zhang et al. A deep belief network based fault diagnosis model for complex chemical processes
US8306931B1 (en) Detecting, classifying, and tracking abnormal data in a data stream
US9280517B2 (en) System and method for failure detection for artificial lift systems
CN108255656A (en) A kind of fault detection method applied to batch process
Di Maio et al. Ensemble-approaches for clustering health status of oil sand pumps
US11662718B2 (en) Method for setting model threshold of facility monitoring system
US20020010517A1 (en) System of case-based reasoning for sensor prediction in a technical process, especially in a cement kiln, method and apparatus therefore
CN110705812A (en) Industrial fault analysis system based on fuzzy neural network
US20220172069A1 (en) Method For Updating Model Of Facility Monitoring System
KR102618023B1 (en) Failure prediction diagnosis system and method through pattern analysis according to failure type
CN117633722B (en) Detection control method and system based on intelligent detection robot
CN113687972A (en) Method, device and equipment for processing abnormal data of business system and storage medium
CN112328703A (en) Numerical control equipment health state diagnosis device and method based on incremental learning
CN111788042A (en) Predictive analysis of robots
CN117273440A (en) Engineering construction Internet of things monitoring and managing system and method based on deep learning
CN116361191A (en) Software compatibility processing method based on artificial intelligence
Rashid et al. A survey in the area of machine learning and its application for software quality prediction
Lee et al. In-line predictive monitoring framework
KR20230170561A (en) Anomaly Detection Apparatus and Method Based Unsupervised Learning
CN113204857A (en) Method for predicting residual life of electronic device based on extreme gradient lifting tree algorithm
De Vita et al. A Semi-Supervised Bayesian Anomaly Detection Technique for Diagnosing Faults in Industrial IoT Systems
Haghighati et al. Recognition performance of imputed control chart patterns using exponentially weighted moving average
CN116415485A (en) Multi-source domain migration learning residual service life prediction method based on dynamic distribution self-adaption
CN116048036A (en) Fault detection method based on dynamic non-stationary projection structure
Nath et al. Data Mining for the Security of Cyber Physical Systems Using Deep-Learning Methods