KR20190078850A - Method for estimation on online multivariate time series using ensemble dynamic transfer models and system thereof - Google Patents
Method for estimation on online multivariate time series using ensemble dynamic transfer models and system thereof Download PDFInfo
- Publication number
- KR20190078850A KR20190078850A KR1020170180576A KR20170180576A KR20190078850A KR 20190078850 A KR20190078850 A KR 20190078850A KR 1020170180576 A KR1020170180576 A KR 1020170180576A KR 20170180576 A KR20170180576 A KR 20170180576A KR 20190078850 A KR20190078850 A KR 20190078850A
- Authority
- KR
- South Korea
- Prior art keywords
- dynamic transition
- models
- model
- time series
- real
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/008—Reliability or availability analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/18—Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Quality & Reliability (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Analysis (AREA)
- Computational Mathematics (AREA)
- Mathematical Physics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Probability & Statistics with Applications (AREA)
- Algebra (AREA)
- Operations Research (AREA)
- Databases & Information Systems (AREA)
- Software Systems (AREA)
- Bioinformatics & Computational Biology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Biology (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
Description
본 발명은 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측방법 및 그 시스템에 관한 것으로, 보다 상세하게는 복수의 동적전이 모형들을 복합적으로 이용한 앙상블 모형을 이용하여 효과적으로 다변량 환경에서 실시간 시계열 예측을 할 수 있는 방법 및 그 시스템에 관한 것이다.The present invention relates to a method and system for real-time multivariate time series prediction using a dynamic transition ensemble model, and more particularly, to a method and system for real-time multivariate time series prediction using an ensemble model using a plurality of dynamic transition models Method and system thereof.
기존의 다양한 APM 솔루션이나 CCTV 네트워크 기타 시계열 예측 모형을 통해 실시간으로 특정 이벤트(예컨대, 오류 또는 장애 등)를 예측하는 시도가 존재하였다.Attempts have been made to predict specific events (e.g., errors or failures) in real time through various existing APM solutions or CCTV network other time series prediction models.
하지만 시스템의 성능에 영향을 미치는 독립적인 인자가 다수 개가 되는 다변량 환경에서 종래의 기술들은 실시간 분석을 통해 예측까지 가능한 것이 아니라 단순히 모니터링을 하는 수준에 그치고 있다.However, in a multivariate environment where there are a number of independent factors affecting system performance, conventional technologies are not capable of predicting through real-time analysis, but are merely monitoring.
또한 종래의 다변량 시계열 예측 모형으로 알려진 VAR(Vector Autoregressive) 모델은 여러 가지 가정을 이용한 예측 모형이며, 하나의 모형을 이용해서 변수들을 한꺼번에 예측하는 모형이라는 특징으로 인해 여러 상황에 대처하기 어려운 문제가 있고 다변량 데이터를 이용하면서 타겟 변수 하나를 예측하는데는 어려움이 있다.In addition, the VAR (Vector Autoregressive) model, which is known as a conventional multivariate time series prediction model, is a prediction model using various assumptions, and it is difficult to cope with various situations due to the feature that a single model predicts variables at one time It is difficult to predict one target variable using multivariate data.
따라서 본 발명은 복수의 동적전이 모형을 결합한 앙상블 모형을 이용하여 예측의 정확도를 높일 수 있는 방법 및 그 시스템을 제공하는 것이다. Accordingly, the present invention provides a method and system for enhancing the accuracy of prediction using an ensemble model combining a plurality of dynamic transition models.
또한 실시간 다변량 시계열 데이터를 이용하여 많은 변수들 중에서 타겟이 되는 반응변수를 설정하여 예측력을 향상시킬 수 있는 방법 및 그 시스템을 제공하는 것이다.The present invention also provides a method and system for improving predictive power by setting a target response variable among many variables using real time multivariate time series data.
또한 오프라인 학습을 통해 모형을 선별하여 온라인에서 실시간으로 정확도 높은 예측을 할 수 있는 방법 및 시스템을 제공하는 것이다. In addition, it provides a method and system for selecting accurate models by offline learning and real-time accurate prediction in online.
본 발명의 일 측면에 따르면, 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측방법은 실시간 다변량 시계열 예측시스템이 복수의 동적전이 모형들 중 소정 개수를 선택하여 선택된 선택 모형들에 기초한 동적전이 앙상블 모형을 정의하는 단계, 상기 실시간 다변량 시계열 예측시스템이 실시간 데이터를 입력받아 상기 동적전이 앙상블 모형에 포함된 상기 선택 모형들 각각의 가중치 또는 상기 선택 모형들 각각의 모형 계수를 업데이트하면서 실시간으로 예측을 수행하는 단계를 포함한다.According to an aspect of the present invention, a real time multivariate time series prediction method using a dynamic transition ensemble model is a method of real time multivariate time series prediction by defining a dynamic transition ensemble model based on selected selection models by selecting a predetermined number of a plurality of dynamic transition models The real time multivariate time series prediction system receives real time data and performs prediction in real time while updating the weight of each of the selection models included in the dynamic transition ensemble model or the model coefficient of each of the selection models .
상기 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측방법은, 상기 실시간 다변량 시계열 예측시스템이 학습데이터를 통해 상기 복수의 동적전이 모형들을 생성하는 단계를 더 포함할 수 있다.The real-time multivariate time series prediction method using the dynamic transition ensemble model may further include the step of generating the plurality of dynamic transition models through the learning data by the real-time multivariate time series prediction system.
상기 실시간 다변량 시계열 예측시스템이 학습데이터를 통해 복수의 동적전이 모형들을 생성하는 단계는 종속변수 Y에 대해 상기 종속변수 Y의 자기 회귀 영향과 현재 시점의 독립변수 x들의 영향을 선형 결합하여 상기 동적전이 모형들을 생성하는 단계를 포함할 수 있다.Wherein the step of generating the plurality of dynamic transition models through the learning data comprises linearly combining the autoregressive influence of the dependent variable Y and the influence of the independent variable x at the present time on the dependent variable Y, And generating models.
상기 동적전이 모형들은 다음의 수식에 의해 생성되는 것일 수 있다.The dynamic transfer models may be generated by the following equations.
[수학식][Mathematical Expression]
여기서 Y는 종속변수, B는 backshift operator, d는 차분차수(difference factor), p는 자기회귀차수, I는 표시함수, 는 자기회귀계수, 는 회귀모델 상수, 는 독립변수 x에 대한 1차 회귀계수, 는 오차항, m은 독립변수의 개수를 나타낸다. Where Y is the dependent variable, B is the backshift operator, d is the difference factor, p is the autoregressive order, I is the display function, Is the autoregressive coefficient, Regression model constants, Is the first-order regression coefficient for the independent variable x, Is the error term, and m is the number of independent variables.
상기 실시간 다변량 시계열 예측시스템이 학습데이터를 통해 상기 복수의 동적전이 모형들을 생성하는 단계는, 개(여기서, q는 독립변수 선택개수)의 동적전이 모형들을 생성하는 것을 특징으로 할 수 있다.Wherein the generating of the plurality of dynamic transition models by the real-time multivariate time series prediction system through learning data comprises: (Where q is an independent variable number of choices).
상기 실시간 다변량 시계열 예측시스템이 생성된 복수의 동적전이 모형들 중 소정 개수를 선택하여 선택된 선택 모형들에 기초한 동적전이 앙상블 모형을 정의하는 단계는 상기 복수의 동적전이 모형들 중에서 예측성능이 뛰어난 K개를 상기 선택 모형들로 뽑는 것을 특징으로 할 수 있다.Wherein the step of defining a dynamic transition ensemble model based on the selected selection models by selecting a predetermined number of the plurality of dynamic transition models generated by the real time multivariate time series prediction system includes: As the selection models.
상기 동적전이 앙상블 모형은 다음과 같은 수식에 의해 정의되는 것을 특징으로 할 수 있다.The dynamic transition ensemble model may be defined by the following equation.
여기서 w는 각각의 선택모형들의 가중치.Where w is the weight of each choice model.
상기 실시간 다변량 시계열 예측시스템이 상기 동적전이 앙상블 모형에 포함된 상기 선택 모형들 각각의 가중치 또는 상기 선택 모형들 각각의 모형 계수를 업데이트하면서 실시간으로 예측을 수행하는 단계는 다음의 수학식을 이용하여 상기 가중치를 업데이트하는 것을 특징으로 할 수 있다.Wherein the real time multivariate time series prediction system performs prediction in real time while updating the weight of each of the selection models included in the dynamic transition ensemble model or the model coefficient of each of the selection models using the following equation And updating the weight value.
상기 실시간 다변량 시계열 예측시스템이 상기 동적전이 앙상블 모형에 포함된 상기 선택 모형들 각각의 가중치 또는 상기 선택 모형들 각각의 모형 계수를 업데이트하면서 실시간으로 예측을 수행하는 단계는 미리 정해진 윈도 사이즈를 이용하여 전진 업데이트를 하면서 RLS방법을 통해 상기 선택 모현들 각각의 모형 계수를 업데이트하는 것을 특징으로 할 수 있다.Wherein the real time multivariate time series prediction system performs prediction in real time while updating the weight of each of the selection models included in the dynamic transition ensemble model or the model coefficient of each of the selection models by using a predetermined window size Updating model coefficients of each of the selected indices through an RLS method while updating the model coefficients of the selected indices.
상기 실시간 다변량 시계열 예측시스템이 상기 동적전이 앙상블 모형에 포함된 상기 선택 모형들 각각의 가중치 또는 상기 선택 모형들 각각의 모형 계수를 업데이트하면서 실시간으로 예측을 수행하는 단계는 현재 시점 t에서는 이전 시점인 (t-1)에서의 예측한 오차를 이용하여 가중치를 구하는 것을 특징으로 할 수 있다.Wherein the real time multivariate time series prediction system performs prediction in real time while updating the weight of each of the selection models included in the dynamic transition ensemble model or the model coefficient of each of the selection models, t-1), the weighting value is obtained.
상기 기술적 과제를 해결하기 위한 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측방법은 실시간 다변량 시계열 예측시스템이 학습데이터를 통해 상기 복수의 동적전이 모형들을 생성하는 단계, 상기 실시간 다변량 시계열 예측시스템이 생성한 상기 복수의 동적전이 모형들 중 소정 개수를 선택하여 선택된 선택 모형들에 기초한 동적전이 앙상블 모형을 이용하여, 실시간 데이터를 입력받아 상기 선택 모형들 각각의 가중치 또는 상기 선택 모형들 각각의 모형 계수를 업데이트하면서 실시간으로 예측을 수행하는 단계를 포함한다.According to an aspect of the present invention, there is provided a method for predicting a real time multivariate time series through a dynamic transition ensemble model, the method comprising: generating a plurality of dynamic transition models using learning data; Selecting a predetermined number of the plurality of dynamic transition models and using the dynamic transition ensemble model based on the selected selection models, receiving the real-time data and updating the weight of each of the selection models or the model coefficient of each of the selection models And performing prediction in real time.
상기 방법은 데이터 처리장치에 설치되며 기록매체에 기록된 컴퓨터 프로그램에 의해 구현될 수 있다.The method may be implemented by a computer program installed in a data processing apparatus and recorded in a recording medium.
상기 기술적 과제를 해결하기 위한 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측시스템은 복수의 동적전이 모형들 각각에 대한 정보가 저장되는 DB, 상기 복수의 동적전이 모형들 중 소정 개수를 선택하여 선택된 선택 모형들에 기초한 동적전이 앙상블 모형을 정의하기 위한 앙상블 모형모듈, 실시간 데이터를 입력받아 상기 동적전이 앙상블 모형에 포함된 상기 선택 모형들 각각의 가중치 또는 상기 선택 모형들 각각의 모형 계수를 업데이트하면서 실시간으로 예측을 수행하기 위한 제어모듈을 포함한다.According to an aspect of the present invention, there is provided a real-time multivariate time series prediction system using a dynamic transition ensemble model, comprising: a DB storing information on each of a plurality of dynamic transition models; a selection model selecting a predetermined number of the plurality of dynamic transition models; An ensemble model module for defining a dynamic transition ensemble model based on the real-time data, a weight of each of the selection models included in the dynamic transition ensemble model after receiving real-time data or a model coefficient of each of the selection models, And a control module for performing the control.
상기 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측시스템은 학습데이터를 통하여 학습을 수행하여 상기 복수의 동적전이 모형들을 생성하는 동적전이 모형모듈을 더 포함할 수 있다.The real time multivariate time series prediction system using the dynamic transition ensemble model may further include a dynamic transition model module for performing learning through learning data to generate the plurality of dynamic transition models.
상기 기술적 과제를 해결하기 위한 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측시스템은 프로세서 및 상기 프로세서에 의하여 실행되는 컴퓨터 프로그램을 저장하는 메모리를 포함하며, 상기 컴퓨터 프로그램은, 상기 프로세서에 의해 실행되는 경우, 상기 방법을 수행할 수 있다.According to an aspect of the present invention, there is provided a real time multivariate time series prediction system using a dynamic transition ensemble model, the system including a processor and a memory for storing a computer program executed by the processor, The above method can be performed.
본 발명의 기술적 사상에 따르면, 복수의 동적전이 모형을 결합한 앙상블 모형을 이용하여 예측의 정확도를 높일 수 있는 효과가 있다. 또한 복수의 동적전이 모형들 각각의 가중치 및/또는 모형계수를 실시간으로 업데이트하면서 실시간 예측성능을 향상시킬 수 있는 효과가 있다. According to the technical idea of the present invention, the accuracy of prediction can be enhanced by using an ensemble model combining a plurality of dynamic transition models. Also, there is an effect that the real-time prediction performance can be improved while updating the weight and / or model coefficient of each of the plurality of dynamic transition models in real time.
또한 오프라인 학습을 통해 모형을 선별하여 온라인에서 실시간으로 정확도 높은 예측을 할 수 있는 효과가 있다.In addition, the model is selected through off-line learning, and accurate prediction can be performed in real time on-line.
또한 실시간 다변량 시계열 데이터를 이용하여 많은 변수들 중에서 타겟이 되는 반응변수를 설정하여 예측력을 향상시킬 수 있는 효과가 있다. 따라서 종래의 애플리케이션 성능관리 솔루션이나 CCTV 네트워크 등에서 실시간으로 장애를 예측하는데 이용될 수 있을 뿐만 아니라, 기타 다양한 데이터베이스나 서버에서 발생하는 로그 데이터나 성능 데이터 등과 같이 서버 네트워크 시스템에서 발생하는 실시간 다변량 시계열 데이터를 이용해서 분석, 예측이 필요한 산업에서 적용이 가능한 효과가 있다. 적절한 임계치를 설정할 수 있는 경우 이상치 탐지 분야에도 적용이 가능하며, 의료 산업에서 발생하는 데이터를 이용해 질병을 판단하거나, 네트워크 상의 침입 탐지와 같은 분야에도 적용 될 수 있는 효과가 있다.Also, there is an effect that prediction power can be improved by setting a target response variable among many variables using real time multivariate time series data. Therefore, not only can it be used for predicting a failure in real time in a conventional application performance management solution or a CCTV network, but also real time multivariate time series data generated in a server network system such as log data or performance data generated in various databases or servers It can be applied in industries that require analysis, prediction, and use. If an appropriate threshold value can be set, it can be applied to the detection of anomaly, and it can be applied to fields such as an intrusion detection on a network, or the like, by using data generated in the medical industry.
본 발명의 상세한 설명에서 인용되는 도면을 보다 충분히 이해하기 위하여 각 도면의 간단한 설명이 제공된다.
도 1은 본 발명의 기술적 사상에 따른 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측시스템의 일 예를 나타낸다.
도 2는 본 발명의 일실시 예에 따른 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측방법을 구현하기 위한 개략적인 플로우 차트를 나타낸다.
도 3은 및 도 4는 본 발명의 일 실시 예에 따른 학습 데이터의 실시 예를 나타내는 도면이다.
도 5는 본 발명의 실시 예에 따라 복수의 동적전이 모형들 중에서 선택된 선택모형의 예시를 나타낸다.
도 6은 본 발명의 실시 예에 따른 앙상블 모형에서의 선택보형들 각각의 가중치 변화를 예시적으로 나타낸다.
도 7은 본 발명의 기술적 사상에 따른 예측결과를 나타내는 도면이다.BRIEF DESCRIPTION OF THE DRAWINGS A brief description of each drawing is provided to more fully understand the drawings recited in the description of the invention.
FIG. 1 shows an example of a real time multivariate time series prediction system using a dynamic transition ensemble model according to the technical idea of the present invention.
FIG. 2 is a schematic flow chart for implementing a real time multivariate time series prediction method using a dynamic transition ensemble model according to an embodiment of the present invention.
FIG. 3 and FIG. 4 are diagrams showing examples of learning data according to an embodiment of the present invention.
Figure 5 illustrates an example of a selection model selected from a plurality of dynamic transition models in accordance with an embodiment of the present invention.
FIG. 6 exemplarily shows a change in weight of each selected shape in an ensemble model according to an embodiment of the present invention.
7 is a diagram showing a prediction result according to the technical idea of the present invention.
본 발명은 다양한 변환을 가할 수 있고 여러 가지 실시 예를 가질 수 있는 바, 특정 실시 예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변환, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 본 발명을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.BRIEF DESCRIPTION OF THE DRAWINGS The present invention is capable of various modifications and various embodiments, and specific embodiments are illustrated in the drawings and described in detail in the detailed description. It is to be understood, however, that the invention is not to be limited to the specific embodiments, but includes all modifications, equivalents, and alternatives falling within the spirit and scope of the invention. DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, the present invention will be described in detail with reference to the accompanying drawings.
제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.The terms first, second, etc. may be used to describe various components, but the components should not be limited by the terms. The terms are used only for the purpose of distinguishing one component from another.
본 출원에서 사용한 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. The terminology used in this application is used only to describe a specific embodiment and is not intended to limit the invention. The singular expressions include plural expressions unless the context clearly dictates otherwise.
본 명세서에 있어서, “포함하다”또는 “가지다”등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.In this specification, the terms "comprises" or "having" and the like refer to the presence of stated features, integers, steps, operations, elements, components, or combinations thereof, But do not preclude the presence or addition of features, numbers, steps, operations, components, parts, or combinations thereof.
또한, 본 명세서에 있어서는 어느 하나의 구성요소가 다른 구성요소로 데이터를 '전송'하는 경우에는 상기 구성요소는 상기 다른 구성요소로 직접 상기 데이터를 전송할 수도 있고, 적어도 하나의 또 다른 구성요소를 통하여 상기 데이터를 상기 다른 구성요소로 전송할 수도 있는 것을 의미한다. 반대로 어느 하나의 구성요소가 다른 구성요소로 데이터를 '직접 전송'하는 경우에는 상기 구성요소에서 다른 구성요소를 통하지 않고 상기 다른 구성요소로 상기 데이터가 전송되는 것을 의미한다.Also, in this specification, when any one element 'transmits' data to another element, the element may transmit the data directly to the other element, or may be transmitted through at least one other element And may transmit the data to the other component. Conversely, when one element 'directly transmits' data to another element, it means that the data is transmitted to the other element without passing through another element in the element.
이하, 첨부된 도면들을 참조하여 본 발명의 실시 예들을 중심으로 본 발명을 상세히 설명한다. 각 도면에 제시된 동일한 참조부호는 동일한 부재를 나타낸다.Hereinafter, the present invention will be described in detail with reference to the embodiments of the present invention with reference to the accompanying drawings. Like reference symbols in the drawings denote like elements.
도 1은 본 발명의 기술적 사상에 따른 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측시스템의 일 예를 나타낸다.FIG. 1 shows an example of a real time multivariate time series prediction system using a dynamic transition ensemble model according to the technical idea of the present invention.
도 1을 참조하면, 본 발명의 기술적 사상에 따른 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측방법을 구현하기 위해서 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측시스템(이하, '예측시스템' , 100)이 구비될 수 있다.Referring to FIG. 1, a real time multivariate time series prediction system (hereinafter, a 'prediction system') 100 using a dynamic transition ensemble model is implemented to realize a real time multivariate time series prediction method using a dynamic transition ensemble model according to the technical idea of the present invention .
상기 예측시스템(100)은 소정의 유저의 단말기에 클라이언트 형태로 설치되거나 또는 서버 측에 설치되는 시스템일 수 있다. 상기 예측시스템(100)은 소정의 데이터 처리장치에 설치되며 본 발명의 기술적 사상을 구현하기 위해 구현되는 소프트웨어(예컨대, 애플리케이션)와 상기 소프트웨어를 구동하기 위한 상기 데이터 처리장치의 하드웨어가 유기적으로 결합하여 구현되는 시스템일 수 있다.The
상기 예측시스템(100)은 본 발명의 기술적 사상에 따라 다수의 독립변수가 존재하는 환경 즉, 다변량 환경에서 특정 변수의 시계열 데이터를 예측하기 위한 시스템일 수 있다. 이러한 상기 예측시스템(100)은 종래의 다변량 시계열 예측시스템(예컨대, Var 등)이 단일모형을 이용하여 한꺼번에 모든 변수들을 예측하는 방법에 비해 하나 또는 소수 개의 특정 변수(예컨대, 독립변수에 영향을 받는 종속변수)를 예측하는데 유리한 효과가 있다. The
이하 본 명세서에서 예시하는 학습 데이터 및 모형들은 얘츨리케이션 성능관리(Application Performance Management) 시스템에 적용된 일 예들이며, 본 발명의 권리범위가 이에 한정되지는 않는다.Hereinafter, the learning data and models exemplified in this specification are examples applied to the application performance management system, and the scope of the present invention is not limited thereto.
상기 예측시스템(100)은 제어모듈(110) 및 앙상블 모형모듈(120)을 포함한다.The
상기 예측시스템(100)은 소정의 DB(130) 및/또는 동적전이 모형모듈(140)을 더 포함할 수 있다. 본 발명의 실시 예에 따라서는, 상술한 구성요소들 중 일부 구성요소는 반드시 본 발명의 구현에 필수적으로 필요한 구성요소에 해당하지 않을 수도 있으며, 또한 실시 예에 따라 상기 예측시스템(100)은 이보다 더 많은 구성요소를 포함할 수도 있음은 물론이다.The
상기 예측시스템(100)은 본 발명의 기술적 사상을 구현하기 위해 필요한 하드웨어 리소스(resource) 및/또는 소프트웨어를 구비할 수 있으며, 반드시 하나의 물리적인 구성요소를 의미하거나 하나의 장치를 의미하는 것은 아니다. 즉, 상기 예측시스템(100)은 본 발명의 기술적 사상을 구현하기 위해 구비되는 하드웨어 및/또는 소프트웨어의 논리적인 결합을 의미할 수 있으며, 필요한 경우에는 서로 이격된 장치에 설치되어 각각의 기능을 수행함으로써 본 발명의 기술적 사상을 구현하기 위한 논리적인 구성들의 집합으로 구현될 수도 있다. The
또한, 본 명세서에서 모듈이라 함은, 본 발명의 기술적 사상을 수행하기 위한 하드웨어 및 상기 하드웨어를 구동하기 위한 소프트웨어의 기능적, 구조적 결합을 의미할 수 있다. 예를 들면, 상기 모듈은 소정의 코드와 상기 소정의 코드가 수행되기 위한 하드웨어 리소스의 논리적인 단위를 의미할 수 있으며, 반드시 물리적으로 연결된 코드를 의미하거나, 한 종류의 하드웨어를 의미하는 것은 아님은 본 발명의 기술분야의 평균적 전문가에게는 용이하게 추론될 수 있다.In this specification, a module may mean a functional and structural combination of hardware for carrying out the technical idea of the present invention and software for driving the hardware. For example, the module may refer to a logical unit of a predetermined code and a hardware resource for executing the predetermined code, and it does not necessarily mean a physically connected code or a kind of hardware But can be easily deduced to the average expert in the field of the present invention.
상기 제어모듈(110)은 상기 예측시스템(100)에 포함된 다른 구성들 예를 들면, 앙상블 모형모듈(120), DB(130), 및/또는 동적전이 모형모듈(140) 등의 기능 및/또는 리소스를 제어할 수 있다.The
본 발명의 기술적 사상에 따른 예측시스템(100)은 다변량 시계열 예측에 대한 가정이 많고 다변량 데이터를 이용하여 특정 변수 하나에 대한 예측이 어려우면 다양한 상황에 강인하지 못한 문제점을 보완하기 위해 복수의 동적전이 모형들을 결합한 동적전이 앙상블 모형을 이용하는 특징이 있다.The
이를 위해 상기 앙상블 모형모듈(120)은 미리 정의된 복수의 동적전이 모형들 중 소정 개수를 선택할 수 있다. 그리고 선택된 동적전이 모형들 즉, 선택모형에 기초한 동적전이 앙상블 모형을 정의할 수 있다. 이러한 동적전이 앙상블 모형은 다음과 같은 수학식으로 정의될 수 있다.For this, the
[수학식 1][Equation 1]
여기서 w는 각각의 선택모형들의 가중치이고, 는 k 번째 선택모형을 의미할 수 있다.Where w is the weight of each selection model, Is the k-th choice model.
상기 앙상블 모형모듈(120)은 다수의 동적전이 모형들 중에서 K 개의 동적전이 모형들을 선택모형으로 선택할 수 있다. 물론, 상기 앙상블 모형모듈(120)은 예측성능이 뛰어난 모형들 순으로 상기 K 개의 선택모형을 선택할 수도 있고, 다양한 방식의 선택이 가능할 수 있다. The
다수의 동적전이 모형들에 대한 정보는 상기 DB(130)에 저장되어 있을 수 있다. Information about a plurality of dynamic transition models may be stored in the
또한, 상기 DB(130)에는 상기 다수의 동적전이 모형들을 학습시키기 위한 학습 데이터, 학습결과에 따른 동적전이 모형들에 대한 정보(즉, 동적전이 모형들을 정의하기 위한 모형계수 및 오차 등), 각각의 동적전이 모형들의 성능측정결과에 대한 정보가 더 저장되어 있을 수 있다.In addition, the
상기 동적전이 모형들은 오프라인 학습을 통해 구축된 다변량 시계열 모형일 수 있다. 즉, 각각의 동적전이 모형들이 하나의 다변량 시계열 모형으로 동작할 수 있다. The dynamic transfer models may be multivariate time series models constructed through off-line learning. That is, each dynamic transition model can operate as one multivariate time series model.
상기 동적전이 모형들은 학습데이터를 통해 학습될 수 있으며, 학습의 결과를 통해 동적전이 모형을 정의하기 위한 계수들이 정의될 수 있다.The dynamic transfer models can be learned through learning data, and coefficients for defining a dynamic transfer model can be defined through the learning result.
상기 동적전이 모형모듈(140)은 이러한 동적전이 모형들 다수를 생성할 수 있다. 생성된 동적전이 모형들에 대한 정보 및 관련정보(예컨대, 학습데이터, 성능 등)는 상기 DB(130)에 저장될 수 있음은 물론이다.The dynamic
상기 동적전이 모형모듈(140)은 자기 회귀 영향 부분 및 현재 시점의 독립변수()들의 영향을 선형 결합하여 상기 동적전이 모형들을 생성할 수 있다.The dynamic
이러한 동적전이 모형들은 다음과 같은 수학식을 통해 생성될 수 있다.These dynamic transfer models can be generated by the following equations.
[수학식 2]&Quot; (2) "
여기서 자기회귀 영향 부분은 으로 표현될 수 있다. Here, . ≪ / RTI >
또한 현재 시점의 독립변수()들의 영향은 로 표현될 수 있다.In addition, The influence of . ≪ / RTI >
또한, Y는 종속변수, B는 후진작용소(backshift operator), d는 차분차수(difference factor), p는 자기회귀 차수(autoregressive order), I는 표시함수(indicator function) , 는 자기회귀 계수(autoregression coefficient), 는 회귀모델 상수, 는 독립변수에 대한 1차 회귀 계수(simple linear regression coefficient), 는 오차, m은 독립변수의 개수를 의미할 수 있다.In addition, Y is the dependent variable, B is the backshift operator, d is the difference factor, p is the autoregressive order, I is the indicator function, , Is an autoregression coefficient, Regression model constants, Is the simple linear regression coefficient for independent variables, Is the error, and m is the number of independent variables.
일 실시 예에 의하면, 도 3에 도시된 바와 같은 데이터가 학습 데이터가 될 수 있다. According to one embodiment, the data as shown in FIG. 3 can be the learning data.
도 3은 본 발명의 일 실시 예에 따른 학습데이터의 일 예를 나타내며, 이러한 학습데이터는 애플리케이션 성능관리 솔루션에 이용되는 학습데이터일 수 있다.FIG. 3 shows an example of learning data according to an embodiment of the present invention. The learning data may be learning data used in an application performance management solution.
도 3에 도시된 바와 같이 학습데이터 중 응답속도(response)가 종속변수 Y가 될 수 있고, 나머지 변수들(예컨대, Totla_mem, Free_mem, Used_mem, Usage, sys_cpu, user_cpu, count, http, javad, jdbc)이 모두 독립변수(x)가 될 수 있다. 따라서 이러한 학습데이터들을 이용해 상기 독립변수들이 어떤 값을 각각 가지면서 시계열적으로 변화될 때 상기 응답속도를 예측하기 위한 것이 본 발명의 기술적 사상에 따른 동적전이 앙상블 모형일 수 있다.As shown in FIG. 3, the response speed of the learning data can be the dependent variable Y and the remaining variables (e.g., Totla_mem, Free_mem, Used_mem, Usage, sys_cpu, user_cpu, count, http, javad, jdbc) Can all be independent variables (x). Therefore, it may be a dynamic transition ensemble model according to the technical idea of the present invention for predicting the response speed when the independent variables are changed in a time-wise manner with each value using each of these learning data.
상기 동적전이 모형모듈(140)은 수학식 2를 이용하여 다수의 동적전이 모형을 생성할 수 있다. The dynamic
예컨대, 상기 동적전이 모형모듈(140)은,For example, the dynamic
[수학식 3]&Quot; (3) "
개(여기서, q는 독립변수 선택개수)의 동적전이 모형들을 생성할 수 있다.(Where q is an independent variable number of choices).
즉, 가능한 자기회귀 차수(p)와 가능한 차분차수(d) 및 종속변수에 영향을 미치는 독립변수 개수 q개일 경우, 가능한 서로 다른 모든 수학식 2의 개수가 수학식 3일 수 있다. 여기서 는 독립변수가 q개인 경우 전체 독립변수의 개수(m) 중에서 서로 다른 1개를 뽑을 수 있는 조합의 수부터 서로 다른 q개까지 뽑을 수 있는 조합의 수를 의미할 수 있다. 즉, [수학식 3]은 종속변수에 영향을 미치는 독립변수가 q개 이하라고 가정할 경우, 생성될 수 있는 모든 서로 다른 수학식 2의 개수가 될 수 있다.That is, in the case of the possible autoregressive order (p), possible differential order (d) and number of independent variables affecting the dependent variable, the number of all possible different equations (2) here Is the number of combinations that can be selected from the number of combinations that can be drawn from one different among the total number (m) of independent variables when q is independent variable. That is, [Equation 3] can be the number of all
이처럼 다수 개(예컨대, 수학식 3의 개수)의 서로 다른 동적전이 모형들이 생성되고 학습되면 학습된 동적전이 모형은 각각 상기 DB(130)에 저장될 수 있다.When a plurality of different dynamic transition models (for example, the number of Equation 3) are generated and learned, the learned dynamic transition models can be stored in the
일 실시 예에 의하면, 상기 동적전이 모형모듈(140)은 학습데이터들(예컨대, 4000개) 중 일부(예컨대, 3000개)를 이용하여 동적전이 모형을 생성하고, 나머지 일부(예컨대, 1000개)를 이용하여 생성한 동적전이 모형을 업데이트할 수 있다. 그리고 각각의 모형의 성능을 평가할 수 있는 소정의 측정치(예컨대, RMSE : Root Meas Square Error)를 상기 DB(130)에 같이 저장할 수도 있다.According to one embodiment, the dynamic
예컨대, 도 5에 도시된 데이터는 성능측정치(예컨대, RMSE)를 기준으로 높은순으로 정렬한 동적전이 모형의 식별번호들을 나타내고 있다. 즉, 1628번째 동적전이 모형이 가장 높은 성능측정치(예컨대, 0.3679042)를 가짐을 의미할 수 있다.For example, the data shown in FIG. 5 represent the identification numbers of dynamic transition models sorted in ascending order based on performance measures (e.g., RMSE). That is, it can mean that the 1628th dynamic transition model has the highest performance measure (for example, 0.3679042).
그러면 상기 앙상블 모형모듈(120)은 상기 DB(130)에 저장된 서로 다른 동적전이 모형들 중 소정의 개수(예컨대, K개)를 동적전이 앙상블 모형에 이용할 모형 즉, 선택모형으로 선택할 수 있다. 물론 상기 앙상블 모형모듈(120)은 각각의 동적전이 모형의 성능평가결과가 좋은 순으로 K개의 동적전이 모형을 선택모형을 선택할 수 있다. 여기서 K 개는 임의로 선택될 수도 있고, 다수의 반복 시뮬레이션을 통해 학습데이터의 개수나 기타 다양한 상황에 적합한 K개가 결정되는 과정을 거칠 수도 있다.Then, the
그러면 상기 앙상블 모형모듈(120)에 의해 정의되는 동적전이 앙상블 모형은 전술한 수학식 1과 같을 수 있다.Then, the dynamic transition ensemble model defined by the
이처럼 동적전이 앙상블 모형이 정의되면, 상기 제어모듈(110)은 실시간 데이터를 입력받아 상기 동적전이 앙상블 모형에 포함된 상기 선택 모형들 각각의 가중치 및/또는 상기 선택 모형들 각각의 모형 계수를 업데이트하면서 실시간으로 예측을 수행할 수 있다. 즉, 앙상블 모형이 동적전이가 되면서 실시간으로 시계열적 예측을 수행할 수 있다. If the dynamic transition ensemble model is defined as described above, the
상기 제어모듈(110)이 선택모형들 각각의 가중치를 업데이트한다고 함은, 실시간으로 각각의 선택모형들의 영향력 또는 성능이 동적전이 됨을 의미할 수 있다. 또한 선택모형들 각각의 모형계수(예컨대, 등)는 선택모형을 정의하는 파라미터 자체가 실시간으로 동적 전이됨을 의미할 수 있다. The fact that the
이처럼 상기 제어모듈(110)은 실시간 데이터가 입력됨에 따라 실시간으로 동적전이하면서 동적전이 앙상블 모형을 업데이트하여 예측성능을 향상시키는 효과가 있다.As described above, the
상기 제어모듈(110)은 다음과 같은 수학식을 이용하여 선택모형들 각각의 가중치를 업데이트할 수 있다.The
[수학식 4]&Quot; (4) "
여기서 는 동적전이 모형에 의해 예측된 예측값을 의미할 수 있으며, 수학식 4의 왼쪽 식은 현재 시점의 다음시점부터 예측하고자 하는 시간 타임 개수(T)까지의 실제 데이터()와 예측값()의 차이의 제곱의 합에 반비례하여 해당 동적전이 모형의 가중치가 연산됨을 의미할 수 있다. 또한 수학식 4의 오른쪽 식은 선택모형들 각각의 가중치의 합은 1이 됨을 의미할 수 있으며 각각의 가중치는 전체 가중치의 합에서 차지하는 해당 가중치의 비율을 나타냄을 의미할 수 있다.here The left equation of Equation (4) represents the predicted value predicted by the dynamic transition model, and the left equation of Equation (4) represents the actual data from the next time point of the current point to the time time number T to be predicted ) And the predicted value ( ), And the weight of the corresponding dynamic transfer model is calculated in inverse proportion to the sum of the squares of the differences. Also, the right-hand side of Equation (4) can mean that the sum of the weights of each of the selection models is 1, and each weight can represent the ratio of the corresponding weights to the sum of all the weights.
한편, 상기 제어모듈(110)은 상기 선택모형들 각각의 모형계수를 업데이트할 수 있으며, 이때에는 널리 알려진 바와 같이 미리 정해진 윈도 사이즈를 이용하여 전진 업데이트를 하면서 RLS(Recursive Least Square)방법을 통해 상기 선택 모형 들 각각의 모형 계수를 업데이트할 수 있다.Meanwhile, the
한편, 상기 제어모듈(110)은 수학식 5에 의하면, 현재 시점의 바로 다음 시점을 예측하는 경우라고 하면, 현재 시점 t에서는 을 이용하여 해당 번째 선택모형의 가중치를 구해야하지만 온라인(실시간)으로 순차적으로 데이터가 입력되는 상황이므로 이 존재하지 않게 된다. 따라서 이때에는 (t-1)의 시점에서의 오차 즉, 를 이용하여 가중치 를 구할 수도 있다.According to Equation (5), if the
마찬가지로 현재 시점이 t일 경우, 그 이후의 시점의 가중치(예컨대, t+n)은 (t-n)의 시점에서의 오차인 를 이용하여 가중치 를 구할 수도 있다.Similarly, when the present time is t, the weight (e.g., t + n) at a later time point is an error at the time point of (tn) Lt; / RTI > .
이러한 본 발명의 기술적 사상에 따른 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측방법을 정리하면 도 2와 같을 수 있다.The real time multivariate time series prediction method using the dynamic transition ensemble model according to the technical idea of the present invention can be summarized as shown in FIG.
도 2는 본 발명의 일실시 예에 따른 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측방법을 구현하기 위한 개략적인 플로우 차트를 나타낸다.FIG. 2 is a schematic flow chart for implementing a real time multivariate time series prediction method using a dynamic transition ensemble model according to an embodiment of the present invention.
도 2를 참조하면, 본 발명의 기술적 사상에 따른 예측시스템(100)은 학습데이터를 입력받아 오프라인에서 학습을 수행할 수 있다(S100, S110). Referring to FIG. 2, the
그 결과 전술한 바와 같이 복수 개(예컨대, 수학식 3)의 동적전이 모형들이 생성될 수 있다(S120). 각각의 동적전이 모형은 수학식 2에 의해 정의될 수 있다.As a result, a plurality of dynamic transition models (e.g., Equation 3) may be generated as described above (S120). Each dynamic transfer model can be defined by equation (2).
그러면 상기 예측시스템(100)은 복수 개의 동적전이 모형들 중 K개를 선택하여 동적전이 앙상블 모형을 구축할 수 있다(S130). 구축되는 동적전이 앙상블 모형은 수학식 1과 같을 수 있다. Then, the
그러면 상기 예측시스템(100)은 실시간으로(온라인) 입력데이터를 획득하고(S140), 이에 따라 실시간으로 각각의 선택모형의 가중치 및/또는 모형계수를 업데이트하면서 예측을 수행할 수 있다(S150).In operation S140, the
이러한 본원발명의 기술적 사상에 따른 실시 예는 도 3 내지 도 7을 참조하여 설명하도록 한다.An embodiment according to the technical idea of the present invention will be described with reference to FIG. 3 to FIG.
도 3은 및 도 4는 본 발명의 일 실시 예에 따른 학습 데이터의 실시 예를 나타내는 도면이고, 도 5는 본 발명의 실시 예에 따라 복수의 동적전이 모형들 중에서 선택된 선택모형의 예시를 나타내며, 도 6은 본 발명의 실시 예에 따른 앙상블 모형에서의 선택모형들 각각의 가중치 변화를 나타내고, 도 7은 본 발명의 기술적 사상에 따른 예측결과를 나타내는 도면이다.FIG. 3 shows an example of learning data according to an embodiment of the present invention, FIG. 5 shows an example of a selection model selected from a plurality of dynamic transition models according to an embodiment of the present invention, FIG. 6 shows a weight change of each of the selection models in the ensemble model according to the embodiment of the present invention, and FIG. 7 is a diagram showing a prediction result according to the technical idea of the present invention.
본 발명의 실시 예에 따르면 도 3에 도시된 바와 같은 종류의 학습데이터를 이용하여 전술한 바와 같이 애플리케이션의 선능관리 솔루션에 적용하기 위한 예측을 수행하였다. 이때 예측하고자 하는 종속변수는 응답속도이다.According to an embodiment of the present invention, predictions for application to a talent management solution of an application are performed using the learning data of the kind shown in FIG. 3 as described above. The dependent variable to be predicted is the response speed.
실제 학습데이터는 4000개를 사용하였고, 이렇게 사용된 학습데이터는 도 4에 도시된 바와 같다.4000 pieces of actual learning data are used, and the learning data thus used is as shown in FIG.
이러한 4000개의 학습데이터들 중 상기 예측시스템(100)은 3000개의 학습데이터를 이용하여 다수의 동적전이 모형들을 구축하였고, 나머지 1000개의 학습데이터를 이용하여 각각의 동적전이 모형들을 업데이트하였다.Among the 4000 learning data, the
그리고 도 5에 도시된 바와 같이 각각의 동적전이 모형들의 성능치(예컨대, RMSE)를 이용하여 K(예컨대, 40개)개의 선택모형을 선택하였다. 도 5에서는 t+6의 예측성능에 따라 선택된 선택모형과 해당 선택모형의 성능치를 나타낸다.Then, K (for example, 40) selection models are selected using the performance values (for example, RMSE) of the respective dynamic transition models as shown in FIG. FIG. 5 shows performance values of the selected model and the selected model according to the prediction performance of t + 6.
그리고 선택된 K개의 선택모형을 이용한 동적전이 앙상블 모형을 정의하고, 이를 이용하여 가중치와 모형계수들을 업데이트하면서 예측을 수행하였다.We define the dynamic transition ensemble model using selected K selection models, and perform predictions by updating weights and model coefficients.
온라인에서 초기 실시간 데이터 200개가 들어온 시점 이후부터 예측을 시작하였고, 그 결과 도 6에서와 같이 K개(40개)의 선택모형의 가중치가 변화되는 것을 확인할 수 있었다.As shown in FIG. 6, it is confirmed that the weighting of K (40) selection models is changed as shown in FIG. 6.
또한 도 7은 위와 같은 환경에서 t+6의 예측결과를 나타내는데, 검은 실선이 실제 데이터이고 붉은 실선이 본 발명의 실시 예에 따른 동적전이 앙상블 모형을 통한 예측치를 나타낸다. 그리고 도 7에 도시된 바와 같이 상대적으로 우수한 예측성능이 발휘됨을 알 수 있다.Also, FIG. 7 shows the prediction result of t + 6 in the above environment, where the black solid line is the actual data and the red solid line represents the predicted value through the dynamic transition ensemble model according to the embodiment of the present invention. As shown in FIG. 7, a relatively excellent prediction performance is exhibited.
본 발명의 기술적 사상에 따른 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측방법은 다양한 데이터베이스나 서버에서 발생하는 로그 데이터나 성능 데이터 등과 같이 서버 네트워크 시스템에서 발생하는 실시간 다변량 시계열 데이터를 이용해서 분석, 예측이 필요한 산업에서 적용이 가능할 수 있다. 또한 적절한 임계치를 설정할 수 있는 경우 이상치 탐지 분야에도 적용이 가능하며, 의료 산업에서 발생하는 데이터를 이용해 질병을 판단하거나, 네트워크 상의 침입 탐지와 같은 분야에도 적용 될 수도 있다.The real time multivariate time series prediction method using the dynamic transition ensemble model according to the technical idea of the present invention analyzes and predicts by using real time multivariate time series data generated in the server network system such as log data or performance data generated in various databases or servers It may be applicable in the required industry. In addition, if an appropriate threshold can be set, it can be applied to the detection of anomaly, and it can be applied to fields such as intrusion detection of a network, or the like, by using data generated in the medical industry.
한편, 본 발명의 실시 예에 따른 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측방법은 컴퓨터가 읽을 수 있는 프로그램 명령 형태로 구현되어 컴퓨터로 읽을 수 있는 기록 매체에 저장될 수 있으며, 본 발명의 실시예에 따른 제어 프로그램 및 대상 프로그램도 컴퓨터로 판독 가능한 기록 매체에 저장될 수 있다. 컴퓨터가 읽을 수 있는 기록 매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록 장치를 포함한다.Meanwhile, the real-time multivariate time series prediction method using the dynamic transition ensemble model according to the embodiment of the present invention can be implemented as a computer-readable program command and stored in a computer-readable recording medium. The control program and the target program according to the present invention can also be stored in a computer-readable recording medium. A computer-readable recording medium includes all kinds of recording apparatuses in which data that can be read by a computer system is stored.
기록 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 소프트웨어 분야 당업자에게 공지되어 사용 가능한 것일 수도 있다.Program instructions to be recorded on a recording medium may be those specially designed and constructed for the present invention or may be available to those skilled in the art of software.
컴퓨터로 읽을 수 있는 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media) 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 또한 컴퓨터가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다.Examples of the computer-readable recording medium include magnetic media such as a hard disk, a floppy disk and a magnetic tape, optical media such as CD-ROM and DVD, a floptical disk, And hardware devices that are specially configured to store and execute program instructions such as magneto-optical media and ROM, RAM, flash memory, and the like. The computer readable recording medium may also be distributed over a networked computer system so that computer readable code can be stored and executed in a distributed manner.
프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 전자적으로 정보를 처리하는 장치, 예를 들어, 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.Examples of program instructions include machine language code such as those produced by a compiler, as well as devices for processing information electronically using an interpreter or the like, for example, a high-level language code that can be executed by a computer.
상술한 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The hardware devices described above may be configured to operate as one or more software modules to perform the operations of the present invention, and vice versa.
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시 예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성요소들도 결합된 형태로 실시될 수 있다.It will be understood by those skilled in the art that the foregoing description of the present invention is for illustrative purposes only and that those of ordinary skill in the art can readily understand that various changes and modifications may be made without departing from the spirit or essential characteristics of the present invention. will be. It is therefore to be understood that the above-described embodiments are illustrative in all aspects and not restrictive. For example, each component described as a single entity may be distributed and implemented, and components described as being distributed may also be implemented in a combined form.
본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타나며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.It is intended that the present invention covers the modifications and variations of this invention provided they come within the scope of the appended claims and their equivalents. .
Claims (15)
상기 실시간 다변량 시계열 예측시스템이 실시간 데이터를 입력받아 상기 동적전이 앙상블 모형에 포함된 상기 선택 모형들 각각의 가중치 또는 상기 선택 모형들 각각의 모형 계수를 업데이트하면서 예측을 수행하는 단계를 포함하는 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측방법.
Selecting a predetermined number of the plurality of dynamic transition models and defining a dynamic transition ensemble model based on the selected selection models;
Wherein the real time multivariate time series prediction system receives real time data and performs prediction while updating the weight of each of the selection models included in the dynamic transition ensemble model or the model coefficient of each of the selection models, A Real - Time Multivariate Time Series Prediction Method Using Model.
상기 실시간 다변량 시계열 예측시스템이 학습데이터를 통해 상기 복수의 동적전이 모형들을 생성하는 단계를 더 포함하는 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측방법.
The method of claim 1, wherein the real time multivariate time series prediction method using the dynamic transition ensemble model comprises:
Wherein the real time multivariate time series prediction system further comprises generating the plurality of dynamic transition models through training data.
종속변수 Y에 대해 상기 종속변수 Y의 자기 회귀 영향과 현재 시점의 독립변수 x들의 영향을 선형 결합하여 상기 동적전이 모형들을 생성하는 단계를 포함하는 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측방법.
3. The method of claim 2, wherein the real-time multivariate time series prediction system generates a plurality of dynamic transition models through learning data,
Generating a dynamic transition model by linearly combining the autoregressive influence of the dependent variable Y and the influence of the independent variable x at the present time on the dependent variable Y to generate a real time multivariate time series prediction model using the dynamic transition ensemble model.
[수학식]
여기서 Y는 종속변수, B는 backshift operator, d는 차분차수(difference factor), p는 자기회귀차수, I는 표시함수, 는 자기회귀계수, 는 회귀모델 상수, 는 독립변수 x에 대한 1차 회귀계수, 는 오차항, m은 독리변수의 개수를 나타낸다.
4. The method of claim 3, wherein the dynamic transition models are generated by the following equation.
[Mathematical Expression]
Where Y is the dependent variable, B is the backshift operator, d is the difference factor, p is the autoregressive order, I is the display function, Is the autoregressive coefficient, Regression model constants, Is the first-order regression coefficient for the independent variable x, Is the error term, and m is the number of independent variables.
개(여기서, q는 독립변수 선택개수)의 동적전이 모형들을 생성하는 것을 특징으로 하는 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측방법.
5. The method of claim 4, wherein the real time multivariate time series prediction system generates the plurality of dynamic transition models through learning data,
(Where q is the number of independent variables selected) is generated by using a dynamic transition ensemble model.
상기 복수의 동적전이 모형들 중에서 예측성능이 뛰어난 K개를 상기 선택 모형들로 뽑는 것을 특징으로 하는 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측방법.
The method as claimed in claim 1, wherein the real-time multivariate time series prediction system includes a plurality of dynamic transition models, and the dynamic transition ensemble model is defined based on the selected selection models,
And selecting K, which is excellent in prediction performance among the plurality of dynamic transition models, as the selection models.
여기서 w는 각각의 선택모형들의 가중치.
The method of claim 1, wherein the dynamic transient ensemble model is defined by the following equation:
Where w is the weight of each choice model.
다음의 수학식을 이용하여 상기 가중치를 업데이트하는 것을 특징으로 하는 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측방법.
The method of claim 1, wherein the real-time multivariate time series prediction system performs prediction in real time while updating a weight of each of the selection models included in the dynamic transition ensemble model or model coefficients of each of the selection models,
Wherein the weights are updated using the following equation: < EMI ID = 15.0 >
미리 정해진 윈도 사이즈를 이용하여 전진 업데이트를 하면서 RLS방법을 통해 상기 선택 모현들 각각의 모형 계수를 업데이트하는 것을 특징으로 하는 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측방법.
The method of claim 1, wherein the real-time multivariate time series prediction system performs prediction in real time while updating a weight of each of the selection models included in the dynamic transition ensemble model or model coefficients of each of the selection models,
And updating the model coefficients of each of the selected indices through an RLS method while performing a forward update using a predetermined window size. The present invention also provides a method for predicting real time multivariate time series through a dynamic transition ensemble model.
현재 시점 t에서는 이전 시점인 (t-1)에서의 예측한 오차를 이용하여 가중치를 구하는 것을 특징으로 하는 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측방법.
The method of claim 1, wherein the real-time multivariate time series prediction system performs prediction in real time while updating a weight of each of the selection models included in the dynamic transition ensemble model or model coefficients of each of the selection models,
Wherein a weight is obtained by using a predicted error at a previous time point (t-1) in a current time point t, and a real time multivariate time series prediction method using a dynamic transition ensemble model.
상기 실시간 다변량 시계열 예측시스템이 생성한 상기 복수의 동적전이 모형들 중 소정 개수를 선택하여 선택된 선택 모형들에 기초한 동적전이 앙상블 모형을 이용하여, 실시간 데이터를 입력받아 상기 선택 모형들 각각의 가중치 또는 상기 선택 모형들 각각의 모형 계수를 업데이트하면서 예측을 수행하는 단계를 포함하는 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측방법.
A real time multivariate time series prediction system generating the plurality of dynamic transition models through learning data;
Selecting a predetermined number of the plurality of dynamic transition models generated by the real time multivariate time series prediction system and using the dynamic transition ensemble model based on the selected selection models, A method for predicting real time multivariate time series through a dynamic transition ensemble model, comprising the step of performing prediction while updating the model coefficients of each of the selection models.
A computer program installed in a data processing apparatus and recorded on a recording medium for performing the method according to any one of claims 1 to 11.
상기 복수의 동적전이 모형들 중 소정 개수를 선택하여 선택된 선택 모형들에 기초한 동적전이 앙상블 모형을 정의하기 위한 앙상블 모형모듈;
실시간 데이터를 입력받아 상기 동적전이 앙상블 모형에 포함된 상기 선택 모형들 각각의 가중치 또는 상기 선택 모형들 각각의 모형 계수를 업데이트하면서 예측을 수행하기 위한 제어모듈을 포함하는 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측시스템.
A DB storing information on each of the plurality of dynamic transition models;
An ensemble model module for defining a dynamic transition ensemble model based on selected selection models by selecting a predetermined number of the plurality of dynamic transition models;
A real time multivariate ensemble model with a real time data and a control module for performing prediction while updating the weight of each of the selection models included in the dynamic transition ensemble model or the model coefficient of each of the selection models, Time Series Prediction System.
학습데이터를 통하여 학습을 수행하여 상기 복수의 동적전이 모형들을 생성하는 동적전이 모형모듈을 더 포함하는 동적전이 앙상블 모형을 통한 실시간 다변량 시계열 예측시스템.
14. The system of claim 13, wherein the real-time multivariate time series prediction system using the dynamic transition ensemble model comprises:
A real time multivariate time series prediction system using a dynamic transition ensemble model further comprising a dynamic transition model module for performing learning through learning data to generate the plurality of dynamic transition models.
상기 프로세서에 의하여 실행되는 컴퓨터 프로그램을 저장하는 메모리를 포함하며,
상기 컴퓨터 프로그램은, 상기 프로세서에 의해 실행되는 경우, 상기 제1항 내지 제10항 중 어느 한 항에 기재된 방법을 수행하도록 하는 데이터 처리장치.A processor; And
A memory for storing a computer program executed by the processor,
The computer program, when executed by the processor, causes the method according to any one of claims 1 to 10 to be performed.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020170180576A KR102038703B1 (en) | 2017-12-27 | 2017-12-27 | Method for estimation on online multivariate time series using ensemble dynamic transfer models and system thereof |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020170180576A KR102038703B1 (en) | 2017-12-27 | 2017-12-27 | Method for estimation on online multivariate time series using ensemble dynamic transfer models and system thereof |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20190078850A true KR20190078850A (en) | 2019-07-05 |
KR102038703B1 KR102038703B1 (en) | 2019-11-26 |
Family
ID=67225030
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020170180576A KR102038703B1 (en) | 2017-12-27 | 2017-12-27 | Method for estimation on online multivariate time series using ensemble dynamic transfer models and system thereof |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR102038703B1 (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11062792B2 (en) | 2017-07-18 | 2021-07-13 | Analytics For Life Inc. | Discovering genomes to use in machine learning techniques |
US11139048B2 (en) | 2017-07-18 | 2021-10-05 | Analytics For Life Inc. | Discovering novel features to use in machine learning techniques, such as machine learning techniques for diagnosing medical conditions |
KR20230035942A (en) * | 2021-09-06 | 2023-03-14 | 울산대학교 산학협력단 | Surrogate Filter Operating method and data assimilation method using thereof |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11823077B2 (en) | 2020-08-13 | 2023-11-21 | International Business Machines Corporation | Parallelized scoring for ensemble model |
KR20240039729A (en) | 2022-09-20 | 2024-03-27 | 고려대학교 산학협력단 | Device and method for multivariate to multivariate time series forecasting using self-attention based convolutional autoencoder and temporal convolutional network |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20030071939A (en) * | 2002-03-02 | 2003-09-13 | 김용대 | Apparatus and method for construction model of data mining using ensemble machines |
KR20110004016A (en) * | 2009-07-07 | 2011-01-13 | 한국전자통신연구원 | Cyber threat forecasting engine system for predicting cyber threats and method for predicting cyber threats using the same system |
KR20140140361A (en) * | 2013-05-29 | 2014-12-09 | 창원대학교 산학협력단 | Water Quality Forecasting of the River Applying Ensemble Streamflow Prediction |
KR20150054146A (en) * | 2013-11-11 | 2015-05-20 | (주)큐버솔루션 | Analogous Typhoon analysis forecast System and Analogous Typhoon analysis forecast method using Thereof |
KR101677008B1 (en) * | 2015-11-20 | 2016-11-17 | (주)엔키아 | Method for Data Forecasting based on Time Series Decomposition |
-
2017
- 2017-12-27 KR KR1020170180576A patent/KR102038703B1/en active IP Right Grant
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20030071939A (en) * | 2002-03-02 | 2003-09-13 | 김용대 | Apparatus and method for construction model of data mining using ensemble machines |
KR20110004016A (en) * | 2009-07-07 | 2011-01-13 | 한국전자통신연구원 | Cyber threat forecasting engine system for predicting cyber threats and method for predicting cyber threats using the same system |
KR20140140361A (en) * | 2013-05-29 | 2014-12-09 | 창원대학교 산학협력단 | Water Quality Forecasting of the River Applying Ensemble Streamflow Prediction |
KR20150054146A (en) * | 2013-11-11 | 2015-05-20 | (주)큐버솔루션 | Analogous Typhoon analysis forecast System and Analogous Typhoon analysis forecast method using Thereof |
KR101677008B1 (en) * | 2015-11-20 | 2016-11-17 | (주)엔키아 | Method for Data Forecasting based on Time Series Decomposition |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11062792B2 (en) | 2017-07-18 | 2021-07-13 | Analytics For Life Inc. | Discovering genomes to use in machine learning techniques |
US11139048B2 (en) | 2017-07-18 | 2021-10-05 | Analytics For Life Inc. | Discovering novel features to use in machine learning techniques, such as machine learning techniques for diagnosing medical conditions |
KR20230035942A (en) * | 2021-09-06 | 2023-03-14 | 울산대학교 산학협력단 | Surrogate Filter Operating method and data assimilation method using thereof |
Also Published As
Publication number | Publication date |
---|---|
KR102038703B1 (en) | 2019-11-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR20190078850A (en) | Method for estimation on online multivariate time series using ensemble dynamic transfer models and system thereof | |
JP6609050B2 (en) | Anomalous fusion in temporal causal graphs | |
Thygesen et al. | Validation of ecological state space models using the Laplace approximation | |
Bian et al. | Stochastic modeling and real-time prognostics for multi-component systems with degradation rate interactions | |
Orchard et al. | A particle filtering approach for on-line failure prognosis in a planetary carrier plate | |
KR20200031163A (en) | Neural network structure creation method and device, electronic device, storage medium | |
CN107292344B (en) | Robot real-time control method based on environment interaction | |
Mao et al. | A model for quantifying uncertainty in the estimation of noise-contaminated measurements of transmissibility | |
US9286573B2 (en) | Cost-aware non-stationary online learning | |
US10719637B2 (en) | Globally convergent system and method for automated model discovery | |
Kulikov et al. | Moore‐Penrose‐pseudo‐inverse‐based Kalman‐like filtering methods for estimation of stiff continuous‐discrete stochastic systems with ill‐conditioned measurements | |
Li* et al. | Fault detection and isolation in non-linear stochastic systems—a combined adaptive Monte Carlo filtering and likelihood ratio approach | |
JP2019144779A (en) | Causal estimation apparatus, causal estimation method, and program | |
Palm | Multiple-step-ahead prediction in control systems with Gaussian process models and TS-fuzzy models | |
KR102124425B1 (en) | Method and apparatus for estimating a predicted time series data | |
Aguayo-Lara et al. | Sensor placement for distinguishability and single structure observer design in continuous timed Petri nets | |
US20150212974A1 (en) | Fast and automated arima model initialization | |
WO2023160922A1 (en) | Automatically quantifying an uncertainty of a prediction provided by a trained regression model | |
CN115860856A (en) | Data processing method and device, electronic equipment and storage medium | |
Shokrolahi et al. | Logarithmic reweighting nonnegative least mean square algorithm | |
Perry et al. | Identifying the time of step change in the mean of autocorrelated processes | |
CN114450696A (en) | Integration of physical sensors in a data assimilation framework | |
Thevaraja et al. | Assessing robustness of regularized regression models with applications | |
Ghatak et al. | Introduction to machine learning | |
Yuan et al. | Temporal Web Service QoS Prediction via Kalman Filter-Incorporated Latent Factor Analysis |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |