KR102495244B1

KR102495244B1 - A deep learning based prediction system with time series decomposition

Info

Publication number: KR102495244B1
Application number: KR1020200049152A
Authority: KR
Inventors: 최원익; 김명수
Original assignee: 인하대학교 산학협력단
Priority date: 2020-04-23
Filing date: 2020-04-23
Publication date: 2023-02-02
Also published as: KR20210130964A

Abstract

시계열 분해를 적용한 딥러닝 기반 예측 시스템이 개시된다. 일 실시예에 따른 시계열 분해를 적용한 딥러닝 기반의 예측 방법은, 시계열 데이터에 복수 개의 전처리 과정을 수행하는 단계; 및 상기 복수 개의 전처리 과정을 수행함에 따라 획득된 데이터를 딥러닝 예측 모델의 입력 데이터로 사용하는 단계를 포함할 수 있다. A deep learning-based prediction system using time series decomposition is disclosed. A deep learning-based prediction method using time series decomposition according to an embodiment includes performing a plurality of preprocessing processes on time series data; and using data obtained by performing the plurality of preprocessing processes as input data of a deep learning prediction model.

Description

Deep learning based prediction system applying time series decomposition {A DEEP LEARNING BASED PREDICTION SYSTEM WITH TIME SERIES DECOMPOSITION}

아래의 설명은 시계열 분해를 적용한 딥러닝 기반 예측 기술에 관한 것이다. The description below is about deep learning-based forecasting techniques applied with time series decomposition.

최근 많은 연구들이 딥러닝 기반 예측 모델을 사용하여 시계열 데이터를 예측하는 문제를 다루고 있다. 하지만 이런 연구들의 대부분은 예측 모델 자체를 새로 설계하거나 고도화 하는 형태를 보이고 있다. 이런 연구의 문제점은 데이터에 매우 민감하다는 것이다. 예를 들어 대규모 빌딩이나 공장 같은 경우 운영하는 시간의 변화나 사용하는 기계 등의 변화가 거의 없기 때문에 일정한 전력 소비 패턴이 나오게 된다. 이런 환경에서는 새로운 예측 모델을 고안하거나 기존 예측 모델을 고도화 하는 형태로도 충분히 가치가 있다. 하지만 소규모 공장이나 빌딩 또는 가정집과 같은 곳의 전력 소비 패턴은 매우 변칙적일 확률이 높기 때문에 단순히 예측 모델만의 연구로는 한계가 있다. 또한 날씨에 영향을 많이 받는 태양광 발전량이나 풍력 또는 수력 발전량의 경우에도 원본 데이터의 특수한 전처리 과정 없이 예측 모델의 연구만으로 높은 예측 정확도를 도출하는데 어려움이 있다.Recently, many studies have dealt with the problem of predicting time series data using deep learning-based prediction models. However, most of these studies show the form of newly designing or upgrading the prediction model itself. The problem with these studies is that they are very data sensitive. For example, in the case of a large-scale building or factory, a constant power consumption pattern emerges because there is little change in operating hours or machines used. In such an environment, there is sufficient value in the form of devising a new predictive model or upgrading an existing predictive model. However, since the power consumption patterns of places such as small factories, buildings, or homes are highly likely to be very irregular, there is a limit to studying only predictive models. In addition, even in the case of solar power generation, wind power, or hydroelectric power generation, which is highly influenced by the weather, it is difficult to derive high prediction accuracy only by studying the prediction model without special preprocessing of original data.

데이터 전처리 과정에서 복수 가지 방법을 적용한 이후에 딥러닝 예측 모델의 입력으로 사용하는 시스템 및 방법을 제공할 수 있다. After applying a plurality of methods in the data preprocessing process, a system and method used as an input of a deep learning prediction model can be provided.

시계열 분해를 적용한 딥러닝 기반의 예측 방법은, 시계열 데이터에 복수 개의 전처리 과정을 수행하는 단계; 및 상기 복수 개의 전처리 과정을 수행함에 따라 획득된 데이터를 딥러닝 예측 모델의 입력 데이터로 사용하는 단계를 포함할 수 있다. A deep learning-based prediction method using time series decomposition includes performing a plurality of preprocessing processes on time series data; and using data obtained by performing the plurality of preprocessing processes as input data of a deep learning prediction model.

상기 전처리 과정을 수행하는 단계는, 예측 목표의 데이터를 분석하여 트렌드(trend)를 제거하는 제1 전처리 과정을 수행하는 단계; 및 상기 제1 전처리 과정을 통하여 획득된 트렌드가 제거된 데이터에 시계열 분해를 적용하는 제2 전처리 과정을 수행하는 단계를 포함하고, 상기 입력 데이터로 사용하는 단계는, 상기 제2 전처리 과정을 수행함에 따라 시계열 분해가 적용된 데이터를 딥러닝 예측 모델의 입력 데이터로 사용하는 단계를 포함할 수 있다. The performing of the pre-processing may include performing a first pre-processing of analyzing data of a prediction target and removing a trend; And performing a second pre-processing process of applying time series decomposition to data from which trends have been removed obtained through the first pre-processing process, wherein the step of using as the input data performs the second pre-processing process. According to the method, time series decomposition may be applied as input data of a deep learning prediction model.

상기 전처리 과정을 수행하는 단계는, 경험적 모드 분해(EMD: Empirical Mode Decomposition) 알고리즘을 적용하여 예측 목표의 데이터에 대한 원본 신호를 분해하여 IMF(Extracted Wave)를 생성하는 단계를 포함할 수 있다. The performing of the preprocessing may include generating an extracted wave (IMF) by decomposing an original signal for data of a prediction target by applying an empirical mode decomposition (EMD) algorithm.

상기 전처리 과정을 수행하는 단계는, 상기 원본 신호의 극대값 및 극소값을 포함하는 극값을 추출하고, 큐빅 스플라인(Cubic spline)을 이용하여 원본 신호의 극대값들의 사이를 보간하여 제1 포물선을 구성하고, 큐빅 스플라인을 이용하여 원본 신호의 극소값들의 사이를 보간하여 제2 포물선을 구성하고, 상기 구성된 제1 포물선 및 제2 포물선에 대한 평균 포물선을 구성하는 단계를 포함할 수 있다. The step of performing the preprocessing may include extracting extremal values including maxima and minima of the original signal, interpolating between the maxima of the original signal using a cubic spline to construct a first parabola, and and constructing a second parabola by interpolating between local minimum values of the original signal using a spline, and constructing an average parabola for the constructed first and second parabolas.

상기 전처리 과정을 수행하는 단계는, 상기 원본 신호에서 상기 평균 포물선을 감산한 값을 제1 값을 구성하고, SD가 임계값보다 작을 경우, 상기 제1 값을 IMF 목록에 추가하고, 상기 원본 신호에서 상기 제1 값을 제외하고 남은 잔차값을 구성하고, 상기 구성된 잔차값의 변화 여부를 판단하는 단계를 포함할 수 있다. The step of performing the preprocessing may include configuring a first value by subtracting the average parabola from the original signal, adding the first value to an IMF list when SD is less than a threshold value, and adding the original signal The method may include constructing a residual value remaining after excluding the first value in , and determining whether or not the configured residual value is changed.

상기 입력 데이터로 사용하는 단계는, 상기 제2 전처리 과정을 수행함에 따라 IMF와 잔차로 분해된 신호를 획득하고, 상기 분해된 신호를 복수 개의 그룹으로 분류하고, 상기 분류된 각 그룹마다 예측을 목표로 하는 상황 정보들을 포함하여 딥러닝 예측 모델의 입력 데이터로 형성하는 단계를 포함할 수 있다. In the step of using the input data, as the second preprocessing process is performed, signals decomposed into IMF and residuals are obtained, the decomposed signals are classified into a plurality of groups, and prediction is targeted for each of the classified groups. It may include forming input data of a deep learning prediction model including context information to be.

상기 입력 데이터로 사용하는 단계는, 상기 입력 데이터를 형성한 후에, 각 그룹마다 딥러닝 예측 모델을 설계하고, 상기 설계된 각 그룹마다의 딥러닝 예측 모델을 통하여 출력된 서로 다른 출력 결과를 조합하여 최종의 예측 신호를 출력하는 단계를 포함할 수 있다. In the step of using the input data, after forming the input data, designing a deep learning prediction model for each group, and combining different output results output through the designed deep learning prediction model for each group to finalize the final result. It may include outputting a prediction signal of .

시계열 분해를 적용한 딥러닝 기반의 예측 시스템은, 시계열 데이터에 복수 개의 전처리 과정을 수행하는 전처리부; 및 상기 복수 개의 전처리 과정을 수행함에 따라 획득된 데이터를 딥러닝 예측 모델의 입력 데이터로 사용하는 예측부를 포함할 수 있다. A deep learning-based prediction system using time-series decomposition includes a pre-processing unit that performs a plurality of pre-processing processes on time-series data; and a prediction unit that uses data obtained by performing the plurality of preprocessing processes as input data of a deep learning prediction model.

시계열 분해를 적용한 딥러닝 기반의 예측 모델을 통하여 시계열 데이터의 예측 정확도를 향상시킬 수 있다. The prediction accuracy of time series data can be improved through a deep learning-based prediction model that applies time series decomposition.

도 1은 일 실시예에 따른 예측 시스템에서 디트렌드(Detrend)의 예이다.
도 2는 일 실시예에 따른 예측 시스템의 구성을 설명하기 위한 블록도이다.
도 3은 일 실시예에 따른 예측 시스템에서 시계열 분해를 적용한 딥러닝 기반의 예측 방법을 설명하기 위한 흐름도이다.
도 4는 일 실시예에 따른 예측 시스템에서 EMD 알고리즘을 적용하여 잔차를 획득하는 방법을 설명하기 위한 흐름도이다.
도 5는 일 실시예에 따른 예측 시스템에서 IMF 및 잔차를 생성하는 과정의 예이다.
도 6은 일 실시예에 따른 예측 시스템에서 생성된 IMF 및 잔차의 예이다.
도 7은 일 실시예에 따른 예측 시스템에서 딥러닝 예측 모델의 구조를 설명하기 위한 도면이다.
도 8은 일 실시예에 따른 예측 시스템의 구조를 설명하기 위한 도면이다. 1 is an example of a detrend in a prediction system according to an embodiment.
2 is a block diagram for explaining the configuration of a prediction system according to an embodiment.
3 is a flowchart illustrating a deep learning-based prediction method using time series decomposition in a prediction system according to an embodiment.
4 is a flowchart illustrating a method of obtaining a residual by applying an EMD algorithm in a prediction system according to an embodiment.
5 is an example of a process of generating IMF and residuals in a prediction system according to an embodiment.
6 is an example of IMF and residuals generated by the prediction system according to one embodiment.
7 is a diagram for explaining the structure of a deep learning prediction model in a prediction system according to an embodiment.
8 is a diagram for explaining the structure of a prediction system according to an embodiment.

이하, 실시예를 첨부한 도면을 참조하여 상세히 설명한다.Hereinafter, an embodiment will be described in detail with reference to the accompanying drawings.

도 1은 일 실시예에 따른 예측 시스템에서 디트렌드(Detrend)의 예이다. 1 is an example of a detrend in a prediction system according to an embodiment.

예측 시스템은 예측 목표(예를 들면, 예측 전력 소비량, 예측 발전량, 예측 주가 등)의 데이터를 분석하여 트렌드(trend)를 제거하는 과정을 수행할 수 있다. 이때, 데이터는 시간의 흐름에 따라 관측되는 시계열(time series) 데이터를 의미할 수 있다. 트렌드가 제거된 데이터는 도 1과 같이 균일한 형태의 패턴을 보이게 되기 때문에 예측하기에 좀 더 수월한 형태가 될 수 있다. The prediction system may perform a process of removing a trend by analyzing data of a prediction target (eg, predicted power consumption, predicted power generation, predicted stock price, etc.). In this case, the data may mean time series data observed over time. Since the data from which the trend is removed shows a uniform pattern as shown in FIG. 1 , it may be easier to predict.

도 2는 일 실시예에 따른 예측 시스템의 구성을 설명하기 위한 블록도이고, 도 3은 일 실시예에 따른 예측 시스템에서 시계열 분해를 적용한 딥러닝 기반의 예측 방법을 설명하기 위한 흐름도이다. FIG. 2 is a block diagram illustrating a configuration of a prediction system according to an embodiment, and FIG. 3 is a flowchart illustrating a deep learning-based prediction method using time series decomposition in the prediction system according to an embodiment.

예측 시스템(100)에 포함된 프로세서는 전처리부(210) 및 예측부(220)를 포함할 수 있다. 이러한 프로세서 및 프로세서의 구성요소들은 도 2의 시계열 분해를 적용한 딥러닝 기반의 예측 방법이 포함하는 단계들(310 내지 320)을 수행하도록 예측 시스템을 제어할 수 있다. 이때, 프로세서 및 프로세서의 구성요소들은 메모리가 포함하는 운영체제의 코드와 적어도 하나의 프로그램의 코드에 따른 명령(instruction)을 실행하도록 구현될 수 있다. 여기서, 프로세서의 구성요소들은 예측 시스템(100)에 저장된 프로그램 코드가 제공하는 제어 명령에 따라 프로세서에 의해 수행되는 서로 다른 기능들(different functions)의 표현들일 수 있다. The processor included in the prediction system 100 may include a pre-processing unit 210 and a prediction unit 220. These processors and processor components may control the prediction system to perform steps 310 to 320 included in the deep learning-based prediction method using the time series decomposition of FIG. 2 . In this case, the processor and components of the processor may be implemented to execute instructions according to the code of an operating system included in the memory and the code of at least one program. Here, the components of the processor may be expressions of different functions performed by the processor according to a control command provided by a program code stored in the prediction system 100 .

프로세서는 시계열 분해를 적용한 딥러닝 기반의 예측 방법을 위한 프로그램의 파일에 저장된 프로그램 코드를 메모리에 로딩할 수 있다. 예를 들면, 예측 시스템(100)에서 프로그램이 실행되면, 프로세서는 운영체제의 제어에 따라 프로그램의 파일로부터 프로그램 코드를 메모리에 로딩하도록 예측 시스템을 제어할 수 있다. The processor may load a program code stored in a file of a program for a deep learning-based prediction method using time series decomposition into a memory. For example, when a program is executed in the prediction system 100, a processor may control the prediction system to load a program code from a program file into a memory under control of an operating system.

단계(310)에서 전처리부(210)는 시계열 데이터에 복수 개의 전처리 과정을 수행할 수 있다. 전처리부(210)는 예측 목표의 데이터를 분석하여 트렌드(trend)를 제거하는 제1 전처리 과정을 수행할 수 있다. 전처리부(210)는 제1 전처리 과정을 통하여 획득된 트렌드가 제거된 데이터에 시계열 분해를 적용하는 제2 전처리 과정을 수행할 수 있다. 전처리부(210)는 경험적 모드 분해(EMD: Empirical Mode Decomposition) 알고리즘을 적용하여 예측 목표의 데이터에 대한 원본 신호를 분해하여 IMF(Extracted Wave)를 생성할 수 있다. 전처리부(210)는 원본 신호의 극대값 및 극소값을 포함하는 극값을 추출하고, 큐빅 스플라인(Cubic spline)을 이용하여 원본 신호의 극대값들의 사이를 보간하여 제1 포물선을 구성하고, 큐빅 스플라인을 이용하여 원본 신호의 극소값들의 사이를 보간하여 제2 포물선을 구성하고, 구성된 제1 포물선 및 제2 포물선에 대한 평균 포물선을 구성할 수 있다. 전처리부(210)는 원본 신호에서 평균 포물선을 감산한 값을 제1 값을 구성하고, 표준편차(SD)가 임계값보다 작을 경우, 제1 값을 IMF 목록에 추가하고, 원본 신호에서 상기 제1 값을 제외하고 남은 잔차값을 구성하고, 구성된 잔차값의 변화 여부를 판단할 수 있다. In step 310, the pre-processing unit 210 may perform a plurality of pre-processing processes on the time-series data. The pre-processing unit 210 may perform a first pre-processing process of removing a trend by analyzing data of a prediction target. The pre-processing unit 210 may perform a second pre-processing process of applying time-series decomposition to the trend-eliminated data obtained through the first pre-processing process. The pre-processor 210 may generate an Extracted Wave (IMF) by decomposing an original signal for data of a prediction target by applying an Empirical Mode Decomposition (EMD) algorithm. The pre-processor 210 extracts extremal values including maxima and minima of the original signal, interpolates between the maxima of the original signal using a cubic spline to construct a first parabola, and uses a cubic spline to A second parabola may be constructed by interpolating between local minimum values of the original signal, and an average parabola for the constructed first and second parabolas may be constructed. The pre-processor 210 forms a first value by subtracting the average parabola from the original signal, and when the standard deviation (SD) is smaller than the threshold value, adds the first value to the IMF list, and adds the first value to the original signal. Residual values remaining except for the value of 1 may be configured, and it may be determined whether or not the configured residual values change.

단계(320)에서 예측부(220)는 복수 개의 전처리 과정을 수행함에 따라 획득된 데이터를 딥러닝 예측 모델의 입력 데이터로 사용할 수 있다. 예측부(220)는 제2 전처리 과정을 수행함에 따라 시계열 분해가 적용된 데이터를 딥러닝 예측 모델의 입력 데이터로 사용할 수 있다. 예측부(220)는 제2 전처리 과정을 수행함에 따라 IMF와 잔차로 분해된 신호를 획득하고, 분해된 신호를 복수 개의 그룹으로 분류하고, 분류된 각 그룹마다 예측을 목표로 하는 상황 정보들을 포함하여 딥러닝 예측 모델의 입력 데이터로 형성할 수 있다. 예측부(220)는 입력 데이터를 형성한 후에, 각 그룹마다 딥러닝 예측 모델을 설계하고, 설계된 각 그룹마다의 딥러닝 예측 모델을 통하여 출력된 서로 다른 출력 결과를 조합하여 최종의 예측 신호를 출력할 수 있다. In step 320, the prediction unit 220 may use data obtained by performing a plurality of preprocessing processes as input data of a deep learning prediction model. As the prediction unit 220 performs the second preprocessing process, the time series decomposition applied data may be used as input data of the deep learning prediction model. As the second preprocessing process is performed, the prediction unit 220 obtains signals decomposed into IMF and residuals, classifies the decomposed signals into a plurality of groups, and each classified group includes context information for prediction. It can be formed as input data of a deep learning prediction model. After forming the input data, the prediction unit 220 designs a deep learning prediction model for each group, combines different output results output through the designed deep learning prediction model for each group, and outputs a final prediction signal. can do.

도 4는 일 실시예에 따른 예측 시스템에서 EMD 알고리즘을 적용하여 잔차를 획득하는 방법을 설명하기 위한 흐름도이다.4 is a flowchart illustrating a method of obtaining a residual by applying an EMD algorithm in a prediction system according to an embodiment.

예측 시스템은 시계열 데이터에 복수 개의 전처리 과정을 수행할 수 있다. 구체적으로, 예측 시스템은 예측 목표의 데이터를 분석하여 트렌드(trend)를 제거하는 제1 전처리 과정을 수행할 수 있고, 제1 전처리 과정을 통하여 획득된 트렌드가 제거된 데이터에 시계열 분해를 적용하는 제2 전처리 과정을 수행할 수 있다. 예측 시스템은 경험적 모드 분해(EMD: Empirical Mode Decomposition) 알고리즘을 적용하여 예측 목표의 데이터에 대한 원본 신호를 분해하여 IMF(Extracted Wave)를 생성할 수 있다. 경험적 모드 분해란 시계열 신호를 분석하기 위한 것으로, 파라미터 값을 정의하지 않고 원본 신호(Raw signal)에 기반하여 분해되는 방법을 의미한다. 이때, IMF는 내재 모드 함수를 의미할 수 있다. 이때, 제2 전처리 과정에서 경험적 모드 분해 알고리즘이 적용될 수 있다. 예측 시스템은 도 4와 같은 과정을 수행하여 복잡한 원본 신호(waveform of signal)를 분해하여 도 5와 같은 IMF(extracted wave)를 생성할 수 있다. 도 4는 도 6과 같이, 최종적으로 잔차(residual)만 남을 때까지 반복하는 기법이다. The prediction system may perform a plurality of preprocessing processes on time series data. Specifically, the prediction system may perform a first preprocessing process of removing a trend by analyzing data of a prediction target, and a first process of applying time series decomposition to the trend-eliminated data obtained through the first preprocessing process. 2 preprocessing steps can be performed. The prediction system may apply an empirical mode decomposition (EMD) algorithm to decompose the original signal for the data of the prediction target to generate an Extracted Wave (IMF). The empirical mode decomposition is for analyzing a time series signal, and means a decomposition method based on a raw signal without defining parameter values. In this case, IMF may mean an intrinsic mode function. In this case, an empirical mode decomposition algorithm may be applied in the second preprocessing process. The prediction system may generate an extracted wave (IMF) as shown in FIG. 5 by decomposing a complex waveform of signal by performing a process as shown in FIG. 4 . 4 is a technique that is repeated until only residuals finally remain, as shown in FIG. 6 .

예측 시스템은 원본 신호를 입력받을 수 있다(410). 예측 시스템은 원본 신호의 극대값 및 극소값을 포함하는 극값을 추출할 수 있다(411). 예측 시스템은 큐빅 스플라인(Cubic spline)을 이용하여 원본 신호의 극대값들의 사이를 보간하여 제1 포물선을 구성할 수 있다(412). 예측 시스템은 큐빅 스플라인을 이용하여 원본 신호의 극소값들의 사이를 보간하여 제2 포물선을 구성할 수 있다(413). 이때, 보간법이란 알고 있는 데이터 값들을 이용하여 모르는 값을 추정하는 방법의 한 종류이다. 보간법의 다양한 방법 중 실시예에서는 스플라인 보간법이 적용될 수 있다. 큐빅 스플라인이란 두 점 사이를 3차원 곡선으로 표현하는 방법을 의미한다. The prediction system may receive an original signal (410). The prediction system may extract extremal values including maxima and minima of the original signal (411). The prediction system may construct a first parabola by interpolating between the maximum values of the original signal using a cubic spline (412). The prediction system may construct a second parabola by interpolating between local minima of the original signal using a cubic spline (413). In this case, the interpolation method is a kind of method of estimating an unknown value using known data values. Among various methods of interpolation, spline interpolation may be applied in an embodiment. A cubic spline is a method of expressing a three-dimensional curve between two points.

예측 시스템은 구성된 제1 포물선 및 제2 포물선에 대한 평균 포물선을 구성할 수 있다(414). 예측 시스템은 원본 신호에서 평균 포물선을 감산한 값을 제1 값을 구성할 수 있다(415). 이때, 제1 값은 원본 신호에서 평균 포물선을 제외한 값을 의미할 수 있다. The prediction system may construct an average parabola for the constructed first and second parabolas (414). The prediction system may construct a first value by subtracting the average parabola from the original signal (415). In this case, the first value may mean a value obtained by subtracting the average parabola from the original signal.

예측 시스템은 SD가 임계값(K)보다 작은지 여부를 판단할 수 있다(416). 이때, SD는 표준 편차를 의미할 수 있다. 예를 들면, 앞서 도출된 평균 포물선에 대한 표준 편차가 임계값보다 작은지 여부가 판단될 수 있다. 예측 시스템은 예측 시스템에서 K는 threshold로 실험을 수행함에 따라 적절한 값으로 결정될 수 있으며, 사용자에 의해 임계값이 입력될 수 있다. 예측 시스템은 SD가 임계값보다 작을 경우, 제1 값을 IMF 목록에 추가할 수 있다(417). SD가 임계값보다 작지 않을 경우, 원본 신호의 극값을 재추출할 수 있다. 예측 시스템은 원본 신호에서 제1 값을 제외하고 남은 잔차값을 구성할 수 있다(418). 예측 시스템은 구성된 잔차값의 변화 여부를 판단할 수 있다(419). 예측 시스템은 구성된 잔차값에 변화가 없는 것으로 판단될 경우, 프로세스를 종료할 수 있고, 구성된 잔차값에 변화가 있는 것으로 판단될 경우, 원본 신호의 극 값을 재추출할 수 있다. 예를 들면, 예측 시스템은 현재의 잔차값과 현재의 잔차값을 기준으로 이전의 잔차값을 비교하여 잔차값의 변화 유무를 판단할 수 있다. 재추출된 원복 신호의 극 값을 이용하여 411~419 과정을 재수행할 수 있다. The prediction system may determine whether SD is less than a threshold K (416). In this case, SD may mean standard deviation. For example, it may be determined whether the standard deviation of the previously derived average parabola is smaller than a threshold value. In the prediction system, K can be determined as an appropriate value by performing an experiment with a threshold, and a threshold value can be input by a user. If SD is less than the threshold value, the prediction system may add the first value to the IMF list (417). If SD is not smaller than the threshold value, extremal values of the original signal may be re-sampled. The prediction system may construct a residual value remaining after excluding the first value from the original signal (418). The prediction system may determine whether the configured residual value has changed (419). The prediction system may end the process when it is determined that there is no change in the configured residual value, and may re-extract extreme values of the original signal when it is determined that there is a change in the configured residual value. For example, the prediction system may compare a current residual value with a previous residual value based on the current residual value to determine whether or not the residual value has changed. Processes 411 to 419 may be re-performed using the extreme values of the re-extracted original signal.

도 7은 일 실시예에 따른 예측 시스템에서 딥러닝 예측 모델의 구조를 설명하기 위한 도면이다.7 is a diagram for explaining the structure of a deep learning prediction model in a prediction system according to an embodiment.

도 6에 도시된 IMF와 잔차로 분해된 신호의 예를 참고하면, 원본 신호보다 더 간단한 형태인 것을 확인할 수 있다. 예측 시스템은 분해된 신호를 복수 개의 그룹으로 분류할 수 있다. 예를 들면, 예측 시스템은 분해된 신호를 유사도에 따라 복수 개의 그룹으로 분류할 수 있다. Referring to the example of the signal decomposed into the IMF and the residual shown in FIG. 6, it can be seen that the signal has a simpler form than the original signal. The prediction system may classify the decomposed signal into a plurality of groups. For example, the prediction system may classify the decomposed signals into a plurality of groups according to similarities.

예측 시스템은 분류된 각 그룹마다 예측을 목표로 하는 상황 정보들을 포함하여 딥러닝 예측 모델의 입력 데이터를 형성할 수 있다. 이때, 상황 정보란 예측 목표와 관련하여 요구되는 정보, 예를 들면, 현재 정보, 기준 정보, 목표 정보 등을 포함할 수 있다. 일례로, 딥러닝 예측 모델을 사전에 훈련시키기 위한 데이터 셋이 존재할 수 있다. 데이터 셋은 예측을 목표로 하는 상황 정보와 관련된 데이터가 포함될 수 있다. 예측 시스템은 훈련 데이터 셋을 통하여 학습된 딥러닝 예측 모델에 형성된 입력 데이터를 입력하여 딥러닝 예측 모델을 학습시킬 수 있다. 예측 시스템은 분류된 각 그룹마다 딥러닝 예측 모델을 설계할 수 있다. 이때, 각 그룹의 신호 모양이 다르기 때문에 딥러닝 예측 모델의 형태도 튜닝을 통하여 조금씩 다르게 설계될 수 있다. 도 7의 딥러닝 예측 모델의 구조를 기본으로 튜닝 결과에 따라 내부 파라미터 및 레이어 수가 조금씩 변동이 가능하다. 도 8을 참고하면, 예측 시스템의 전체 구조를 나타낸 것이다. 이러한 구조에서와 같이 각 그룹에 맞게 설계된 딥러닝 예측 모델에서는 서로 다른 결과를 도출하게 된다. 예를 들면, 딥러닝 예측 모델은 기본적으로 CNN 및 LSTM이 결합된 형태로 구성될 수 있다. 도출된 서로 다른 결과 값을 조합하여 최종 예측 신호가 출력될 수 있다. The prediction system may form input data of a deep learning prediction model including situational information targeted for prediction for each classified group. At this time, the situation information may include information requested in relation to the predicted target, for example, current information, reference information, target information, and the like. For example, a data set for pre-training a deep learning prediction model may exist. The data set may include data related to contextual information targeted for prediction. The prediction system may learn the deep learning prediction model by inputting input data formed in the deep learning prediction model learned through the training data set. The prediction system can design a deep learning prediction model for each classified group. At this time, since the signal shape of each group is different, the shape of the deep learning prediction model may also be designed slightly differently through tuning. Based on the structure of the deep learning prediction model of FIG. 7, internal parameters and the number of layers can be slightly changed according to the tuning result. Referring to Figure 8, it shows the overall structure of the prediction system. As in this structure, different results are derived from deep learning prediction models designed for each group. For example, a deep learning prediction model may be basically composed of a combination of CNN and LSTM. A final prediction signal may be output by combining the derived different result values.

이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.The devices described above may be implemented as hardware components, software components, and/or a combination of hardware components and software components. For example, devices and components described in the embodiments may include, for example, a processor, a controller, an arithmetic logic unit (ALU), a digital signal processor, a microcomputer, a field programmable gate array (FPGA) , a programmable logic unit (PLU), microprocessor, or any other device capable of executing and responding to instructions. A processing device may run an operating system (OS) and one or more software applications running on the operating system. A processing device may also access, store, manipulate, process, and generate data in response to execution of software. For convenience of understanding, there are cases in which one processing device is used, but those skilled in the art will understand that the processing device includes a plurality of processing elements and/or a plurality of types of processing elements. It can be seen that it can include. For example, a processing device may include a plurality of processors or a processor and a controller. Other processing configurations are also possible, such as parallel processors.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치에 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.Software may include a computer program, code, instructions, or a combination of one or more of the foregoing, which configures a processing device to operate as desired or processes independently or collectively. You can command the device. Software and/or data may be any tangible machine, component, physical device, virtual equipment, computer storage medium or device, intended to be interpreted by or provide instructions or data to a processing device. can be embodied in Software may be distributed on networked computer systems and stored or executed in a distributed manner. Software and data may be stored on one or more computer readable media.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. The method according to the embodiment may be implemented in the form of program instructions that can be executed through various computer means and recorded on a computer readable medium. The computer readable medium may include program instructions, data files, data structures, etc. alone or in combination. Program commands recorded on the medium may be specially designed and configured for the embodiment or may be known and usable to those skilled in computer software. Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks and magnetic tapes, optical media such as CD-ROMs and DVDs, and magnetic media such as floptical disks. - includes hardware devices specially configured to store and execute program instructions, such as magneto-optical media, and ROM, RAM, flash memory, and the like. Examples of program instructions include high-level language codes that can be executed by a computer using an interpreter, as well as machine language codes such as those produced by a compiler.

이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.As described above, although the embodiments have been described with limited examples and drawings, those skilled in the art can make various modifications and variations from the above description. For example, the described techniques may be performed in an order different from the method described, and/or components of the described system, structure, device, circuit, etc. may be combined or combined in a different form than the method described, or other components may be used. Or even if it is replaced or substituted by equivalents, appropriate results can be achieved.

그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.Therefore, other implementations, other embodiments, and equivalents of the claims are within the scope of the following claims.

Claims

In the deep learning-based prediction method using time series decomposition performed by a prediction system including a preprocessor and a prediction unit,
performing a plurality of pre-processing processes on the time-series data in the pre-processing unit; and
In the prediction unit, using data obtained by performing the plurality of preprocessing processes as input data of a deep learning prediction model.
including,
Performing the preprocessing step,
Performing a first preprocessing process of analyzing data of a prediction target to remove a trend, and performing a second preprocessing process of applying time series decomposition to data from which trends have been removed obtained through the first preprocessing process
including,
The second preprocessing process generates an Extracted Wave (IMF) by decomposing the original signal for the data of the prediction target by applying an empirical mode decomposition (EMD) algorithm, and includes the maximum and minimum values of the original signal. extracts the extremal values of the original signal, constructs a first parabola by interpolating between local maxima of the original signal using a cubic spline, and constructs a second parabola by interpolating between local minima of the original signal using a cubic spline. Constructs an average parabola for the configured first and second parabolas, configures a value obtained by subtracting the average parabola from the original signal, and configures a first value, and when SD is less than a threshold value, the first value Adding to the IMF list, constructing a residual value remaining after excluding the first value in the original signal, and determining whether or not the configured residual value is changed,
The step of using as the input data,
As the second preprocessing process is performed, signals decomposed into IMF and residuals are obtained, the decomposed signals are classified into a plurality of groups, and deep learning including contextual information aimed at prediction for each of the classified groups Steps to form with the input data of the predictive model
Prediction method comprising a.

According to claim 1,
The step of using as the input data,
Using data to which time series decomposition is applied as input data of a deep learning prediction model as the second preprocessing process is performed
Prediction method comprising a.

delete

According to claim 1,
The step of using as the input data,
After forming the input data, designing a deep learning prediction model for each group, and outputting a final prediction signal by combining different output results output through the designed deep learning prediction model for each group.
Prediction method comprising a.

In a deep learning-based prediction system using time series decomposition,
a pre-processing unit that performs a plurality of pre-processing processes on time-series data; and
A prediction unit that uses the data obtained by performing the plurality of preprocessing processes as input data of a deep learning prediction model.
including,
The pre-processing unit,
Performing a first pre-processing process of analyzing data of a prediction target to remove a trend, and performing a second pre-processing process of applying time series decomposition to data from which trends have been removed obtained through the first pre-processing process include,
The second preprocessing process generates an IMF (Extracted Wave) by decomposing the original signal for the data of the prediction target by applying an empirical mode decomposition (EMD) algorithm, and includes maxima and minima of the original signal. extracts the extremal values of the original signal, constructs a first parabola by interpolating between local maxima of the original signal using a cubic spline, and constructs a second parabola by interpolating between local minima of the original signal using a cubic spline. Constructs an average parabola for the configured first and second parabolas, configures a value obtained by subtracting the average parabola from the original signal, and configures a first value, and when SD is less than a threshold value, the first value Adding to the IMF list, constructing a residual value remaining after excluding the first value in the original signal, and determining whether or not the configured residual value is changed,
The prediction unit,
As the second pre-processing process is performed, signals decomposed into IMF and residuals are obtained, the decomposed signals are classified into a plurality of groups, and each of the classified groups includes context information aimed at prediction for deep learning. formed by the input data of the predictive model
prediction system.