KR20200052806A - Operating method of deep learning based climate change prediction system - Google Patents

Operating method of deep learning based climate change prediction system Download PDF

Info

Publication number
KR20200052806A
KR20200052806A KR1020190037606A KR20190037606A KR20200052806A KR 20200052806 A KR20200052806 A KR 20200052806A KR 1020190037606 A KR1020190037606 A KR 1020190037606A KR 20190037606 A KR20190037606 A KR 20190037606A KR 20200052806 A KR20200052806 A KR 20200052806A
Authority
KR
South Korea
Prior art keywords
lstm
data
weather
climate change
weather data
Prior art date
Application number
KR1020190037606A
Other languages
Korean (ko)
Other versions
KR102172925B1 (en
Inventor
김홍국
박인영
이지원
Original Assignee
광주과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 광주과학기술원 filed Critical 광주과학기술원
Publication of KR20200052806A publication Critical patent/KR20200052806A/en
Application granted granted Critical
Publication of KR102172925B1 publication Critical patent/KR102172925B1/en

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01WMETEOROLOGY
    • G01W1/00Meteorology
    • G01W1/10Devices for predicting weather conditions
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01WMETEOROLOGY
    • G01W1/00Meteorology
    • G01W1/02Instruments for indicating weather conditions by measuring two or more variables, e.g. humidity, pressure, temperature, cloud cover or wind speed
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F15/00Digital computers in general; Data processing equipment in general
    • G06F15/76Architectures of general purpose stored program computers
    • G06F15/80Architectures of general purpose stored program computers comprising an array of processing units with common control, e.g. single instruction multiple data processors
    • G06F15/8053Vector processors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01WMETEOROLOGY
    • G01W2201/00Weather detection, monitoring or forecasting for establishing the amount of global warming
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02ATECHNOLOGIES FOR ADAPTATION TO CLIMATE CHANGE
    • Y02A90/00Technologies having an indirect contribution to adaptation to climate change
    • Y02A90/10Information and communication technologies [ICT] supporting adaptation to climate change, e.g. for weather forecasting or climate simulation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Environmental & Geological Engineering (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Environmental Sciences (AREA)
  • Computer Hardware Design (AREA)
  • Ecology (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Atmospheric Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Mathematics (AREA)
  • Algebra (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Computing Systems (AREA)
  • Pure & Applied Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

An object of the present invention is to provide an operation method of a deep learning based climate change prediction system capable of predicting more accurate climate change by performing a purification function of missing weather data using a long short-terms memory (LSTM) based purification model. The operation method of the deep learning based climate change prediction system according to one embodiment of the present invention comprises the following steps of: receiving various types of the weather data as weather information; sensing whether there is missed weather data among the weather data to be input; generating refined weather information by applying the weather data predicted by the LSTM networks based purification model to a location of the missed weather data, if there is the missed weather data; and performing climate change prediction based on refined weather information.

Description

딥러닝 기반 기후 변화 예측 시스템의 동작 방법{OPERATING METHOD OF DEEP LEARNING BASED CLIMATE CHANGE PREDICTION SYSTEM}How the Deep Learning-Based Climate Change Forecasting System Works {OPERATING METHOD OF DEEP LEARNING BASED CLIMATE CHANGE PREDICTION SYSTEM}

본 발명은 정확한 기후 변화를 예측할 수 있는 딥러닝 기반 기후 변화 예측 시스템의 동작 방법에 관한 것이다.The present invention relates to an operation method of a deep learning based climate change prediction system capable of predicting accurate climate change.

오늘날 비정상적인 기후는 삶의 질을 저하시킬 뿐만 아니라, 그 변화에 대한 예측이 불가능하여 생태계에 큰 위협이 되고 있다. 생태계는 기후 변화에 대해 경고하고 있고, 인류는 장기적인 기상 예측에 대한 필요성이 절실한 상황이다. 이러한 기후 변화의 예측은 현재 모델 기반 방법에 주로 의존하여 이루어지고 있으나, 모델 기반 방법을 이용한 기후 변화 예측은 기후 변화 예측의 정확성이 높지 않다는 문제점이 있다.Today's abnormal climate not only deteriorates the quality of life, but also makes it impossible to predict the change, which poses a serious threat to the ecosystem. Ecosystems are warning about climate change, and humanity is in desperate need for long-term weather forecasting. Prediction of such climate change is currently mainly dependent on the model-based method, but the climate change prediction using the model-based method has a problem that the accuracy of climate change prediction is not high.

공개특허: 10-2018-0084684, 공개일: 2018년 7월 25일, 제목: 날씨 콘텐츠 정보 생성 장치.Published Patent: 10-2018-0084684, Published Date: July 25, 2018 Title: Weather content information generating device. 등록특허: 10-1761686, 등록일: 2017년 07월 20일, 제목: 머신 러닝을 이용한 태양광 발전량 실시간 예측 시스템.Registered Patent: 10-1761686, Registered Date: July 20, 2017, Title: Real-time prediction system of photovoltaic power generation using machine learning.

본 발명의 목적은 LSTM 기반 정제 모델을 이용하여 누락된 기상 데이터의 정제 기능을 수행함으로써 보다 정확한 기후 변화를 예측할 수 있는 딥러닝 기반 기후 변화 예측 시스템의 동작 방법을 제공하는데 있다.An object of the present invention is to provide a method of operating a deep learning based climate change prediction system that can predict a more accurate climate change by performing a purification function of missing weather data using an LSTM-based purification model.

본 발명의 기술적 과제는 이상에서 언급한 사항에 제한되지 않으며, 이하에서 설명할 내용으로부터 본 발명이 속하는 기술 분야의 통상의 지식을 가진 자라면 본 발명이 의도하는 기타의 과제들 또한 명료하게 이해할 수 있을 것이다.The technical problem of the present invention is not limited to the above-mentioned matters, and those skilled in the art to which the present invention pertains from the contents to be described below can also clearly understand other problems intended by the present invention. There will be.

상기와 같은 과제를 해결하기 위한 본 발명의 일 실시 예에 따른 딥러닝 기반의 기후 변화 예측 시스템의 동작 방법은, 다양한 종류의 기상 데이터들을 기상 정보로서 입력 받는 단계; 입력되어야 할 기상 데이터들 중 누락된 기상 데이터가 있는지를 감지하는 단계; 누락된 기상 데이터가 있는 경우, 누락된 기상 데이터의 위치에 LSTM(long short-terms memory) networks 기반 정제 모델에 의해 예측된 기상 데이터를 적용하여 정제된 기상 정보를 생성하는 단계; 및 상기 정제된 기상 정보를 바탕으로 기후 변화 예측을 수행하는 단계를 포함한다.An operation method of a deep learning based climate change prediction system according to an embodiment of the present invention for solving the above problems includes receiving various types of weather data as weather information; Detecting whether there is missing weather data among weather data to be input; If there is missing weather data, generating purified weather information by applying weather data predicted by a long short-terms memory (LSTM) networks based refinement model to the location of the missing weather data; And performing climate change prediction based on the refined weather information.

상기 누락된 기상 데이터가 있는 경우, 과거 및 미래의 기상 데이터를 이용하여 상기 누락된 기상 데이터를 선형 보간하고, 보간된 기상 데이터를 포함하는 기상 정보를 사용하여 상기 LSTM 기반 정제 모델을 구성하는 단계를 더 포함한다.If there is the missing weather data, linearly interpolating the missing weather data using past and future weather data, and constructing the LSTM-based refinement model using weather information including the interpolated weather data. It includes more.

상기 누락된 기상 데이터가 없는 경우, 상기 기상 정보를 이용하여 상기 LSTM 기반 정제 모델을 구성하는 한편, 상기 기상 정보를 이용하여 기후 변화를 예측하는 단계를 더 포함한다.When there is no missing weather data, the LSTM-based refinement model is constructed using the weather information, and further comprising predicting climate change using the weather information.

상기 LSTM 기반 정제 모델은 입력되는 기상 정보를 이용하여 데이터의 불규칙성을 학습하는 attention 훈련 기법에 따라 훈련하는 것을 특징으로 한다.The LSTM-based refinement model is characterized by training according to an attention training technique for learning irregularities of data using input weather information.

상기 LSTM 기반 정제 모델은 2개의 LSTM 레이어와 하나의 출력 레이어를 갖는 것을 특징으로 한다.The LSTM-based refinement model is characterized by having two LSTM layers and one output layer.

상기 LSTM 기반 정제 모델은 6시간, 12시간 및 24시간 중에서 어느 하나의 시간에 대한 온도를 예측하는 것을 특징으로 한다.The LSTM-based purification model is characterized by predicting the temperature for any one of 6, 12 and 24 hours.

상기 LSTM 기반 정제 모델은 7일 혹은 14일 중에서 어느 하나의 날짜에 대한 온도를 예측하는 것을 특징으로 한다.The LSTM-based purification model is characterized by predicting the temperature for any one of 7 or 14 days.

상기 LSTM 기반 정제 모델은 온도에 초점을 맞추기 위해 선형, S자형 및 ReLU 활성화 함수를 통해 입력 특징을 출력값에 연결하는 것을 특징으로 한다.The LSTM-based purification model is characterized by connecting input features to output values through linear, S-shaped and ReLU activation functions to focus on temperature.

본 발명의 실시 예에 따른 딥러닝 기반 기후 변화 예측 기술이 적용된 시스템을 이용하면, 누락된 기상 데이터에 대해 LSTM 기반 데이터 정제 모델을 이용하여 정제할 수 있기 때문에 보다 정확한 기후 변화 예측이 가능하다.If a system based on deep learning-based climate change prediction technology according to an embodiment of the present invention is applied, it is possible to more accurately predict climate change because missed weather data can be purified using an LSTM-based data purification model.

이하에 첨부되는 도면들은 본 실시 예에 관한 이해를 돕기 위한 것으로, 상세한 설명과 함께 실시 예들을 제공한다. 다만, 본 실시예의 기술적 특징이 특정 도면에 한정되는 것은 아니며, 각 도면에서 개시하는 특징들은 서로 조합되어 새로운 실시 예로 구성될 수 있다.
도 1은 본 발명의 실시 예에 따른 딥러닝 기반의 기후 변화 예측 기술과 관련된 다양한 기술 분야를 도시적으로 나타낸 것이다.
도 2는 본 발명의 실시 예에 따른 기후 변화 예측 시스템의 일례를 도시한 도면이다.
도 3은 도 2의 기후 변화 예측 시스템을 이용하여 테스트를 하기 위한 데이터를 획득하여 분류하기까지의 과정을 예시적으로 도시한 도면이다.
도 4는 도 2의 기후 변화 예측 시스템의 데이터 분류 알고리즘에 따른 동작을 예시적으로 도시한 도면이다.
도 5는 도 2의 기후 변화 예측 시스템의 예측 알고리즘에 따른 동작을 예시적으로 도시한 도면이다.
도 6 내지 도 8은 도 2의 기후 변화 예측 시스템을 이용하여 온도에 대한 예측을 수행한 결과를 나타낸 그래프들이다.
도 9는 본 발명의 기후 변화 예측 시스템을 중기간의 기후 변화 예측을 위해 확장시킨 경우의 예측 모델의 구조를 예시적으로 보여주는 도면이다.
도 10(a)은 DNN의 일반적인 구조를 나타낸 도면이고, 도 10(b)는 6, 12, 24 시간의 기후를 예측하는 DNN 모델을 도시한 도면이다.
도 11은 일반적인 RNN의 단일 루프 모델을 도시한 도면이다.
도 12는 본 발명의 기후 변화 예측 시스템의 예측 모듈에 적용되는 LSTM의 단위 셀의 구조를 예시적으로 보여주는 도면이다.
도 13은 도 12의 LSTM 단위 셀을 이용하여 구현되는 LSTM 기반 예측 모델의 일례를 도시한 도면이다.
도 14는 본 발명에서 제안되는 정제 기능을 갖는 LSTM 기반 기후 변화 예측 모델을 이용한 동작 아키텍처를 보여주는 도면이다.
The accompanying drawings are provided to help understand the present embodiment, and provide embodiments with detailed description. However, the technical features of the present embodiment are not limited to specific drawings, and the features disclosed in each drawing may be combined with each other to form a new embodiment.
1 is a diagram illustrating various technical fields related to a deep learning based climate change prediction technology according to an embodiment of the present invention.
2 is a view showing an example of a climate change prediction system according to an embodiment of the present invention.
FIG. 3 is a diagram exemplarily showing a process of acquiring and classifying data for testing using the climate change prediction system of FIG. 2.
4 is a diagram exemplarily showing an operation according to a data classification algorithm of the climate change prediction system of FIG. 2.
5 is a diagram illustrating an operation according to a prediction algorithm of the climate change prediction system of FIG. 2.
6 to 8 are graphs showing the results of the prediction of temperature using the climate change prediction system of FIG.
9 is a diagram showing the structure of a prediction model when the climate change prediction system of the present invention is extended for prediction of mid-term climate change.
FIG. 10 (a) is a diagram showing the general structure of DNN, and FIG. 10 (b) is a diagram showing a DNN model for predicting the climate at 6, 12, and 24 hours.
11 is a diagram illustrating a single loop model of a general RNN.
12 is a diagram showing the structure of a unit cell of the LSTM applied to the prediction module of the climate change prediction system of the present invention by way of example.
13 is a diagram illustrating an example of an LSTM based prediction model implemented using the LSTM unit cell of FIG. 12.
14 is a diagram showing an operation architecture using an LSTM-based climate change prediction model having a purification function proposed in the present invention.

본문에 개시되어 있는 본 발명의 실시 예들에 대해서, 특정한 구조적 내지 기능적 설명들은 단지 본 발명의 실시 예를 설명하기 위한 목적으로 예시된 것으로, 본 발명의 실시 예들은 다양한 형태로 실시될 수 있으며 본문에 설명된 실시 예들에 한정되는 것으로 해석되어서는 안 된다.With respect to the embodiments of the present invention disclosed in the text, specific structural or functional descriptions are exemplified only for the purpose of illustrating the embodiments of the present invention, and the embodiments of the present invention can be implemented in various forms, and It should not be interpreted as being limited to the described embodiments.

본 발명은 다양한 변경을 가할 수 있고 여러 가지 형태를 가질 수 있는 바, 특정 실시 예들을 도면에 예시하고 본문에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 개시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.The present invention can be applied to various changes and may have various forms, and specific embodiments will be illustrated in the drawings and described in detail in the text. However, this is not intended to limit the present invention to a specific disclosure form, and it should be understood that it includes all modifications, equivalents, and substitutes included in the spirit and scope of the present invention.

제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위로부터 이탈되지 않은 채 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다.Terms such as first and second may be used to describe various components, but the components should not be limited by the terms. The terms are used only for the purpose of distinguishing one component from other components. For example, without departing from the scope of the present invention, the first component may be referred to as the second component, and similarly, the second component may also be referred to as the first component.

어떤 구성요소가 다른 구성요소에 “연결되어” 있다거나 “접속되어” 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 “직접 연결되어” 있다거나 “직접 접속되어” 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다. 구성요소들 간의 관계를 설명하는 다른 표현들, 즉 “~사이에”와 “바로 ~사이에” 또는 “~에 이웃하는”과 “~에 직접 이웃하는” 등도 마찬가지로 해석되어야 한다.When an element is said to be "connected" or "connected" to another component, it is understood that other components may be directly connected to or connected to the other component, but other components may exist in the middle. It should be. On the other hand, when a component is said to be “directly connected” or “directly connected” to another component, it should be understood that no other component exists in the middle. Other expressions describing the relationship between the components, such as “between” and “just between” or “adjacent to” and “directly neighboring to” should be interpreted as well.

본 출원에서 사용한 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, “포함하다” 또는 “가지다” 등의 용어는 개시된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.Terms used in the present application are only used to describe specific embodiments, and are not intended to limit the present invention. Singular expressions include plural expressions unless the context clearly indicates otherwise. In this application, the terms “include” or “have” are intended to indicate that a disclosed feature, number, step, action, component, part, or combination thereof exists, one or more other features or numbers, It should be understood that the existence or addition possibilities of steps, actions, components, parts or combinations thereof are not excluded in advance.

다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.Unless defined otherwise, all terms used herein, including technical or scientific terms, have the same meaning as commonly understood by a person skilled in the art to which the present invention pertains. Terms, such as those defined in a commonly used dictionary, should be interpreted as having meanings consistent with meanings in the context of related technologies, and should not be interpreted as ideal or excessively formal meanings unless explicitly defined in the present application. Does not.

한편, 어떤 실시 예가 달리 구현 가능한 경우에 특정 블록 내에 명기된 기능 또는 동작이 순서도에 명기된 순서와 다르게 일어날 수도 있다. 예를 들어, 연속하는 두 블록이 실제로는 실질적으로 동시에 수행될 수도 있고, 관련된 기능 또는 동작에 따라서는 상기 블록들이 거꾸로 수행될 수도 있다.On the other hand, when an embodiment can be implemented differently, functions or operations specified in a specific block may occur differently from the order specified in the flowchart. For example, two consecutive blocks may actually be executed substantially simultaneously, or the blocks may be performed backwards depending on related functions or operations.

딥 러닝(deep learning)은 사람들이 생각하는 방식을 컴퓨터에 가르치고 여러 가지 비선형 변환을 결합하여 주어진 데이터에서 높은 수준의 추상화를 시도하는 기계 학습 분야이다. Deep learning is a field of machine learning that teaches computers the way people think and combines several nonlinear transformations to attempt a high level of abstraction from a given data.

기계가 이해할 수 있는 형태로 다양한 데이터를 표현하는 방법에 대한 많은 연구가 수행되고 있다. 그 결과, DNN(deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), LSTM(long short-term memory) 등 다양한 심층 학습 모델이 개발되고 있다. Many studies have been conducted on how to express various data in a form that can be understood by a machine. As a result, various deep learning models such as deep neural network (DNN), convolutional neural network (CNN), recurrent neural network (RNN), and long short-term memory (LSTM) have been developed.

이것들은 많은 관심을 끌었으며 음성 인식, 이미지 인식, 이벤트 감지 및 자연 언어 처리를 비롯한 많은 응용 분야에서 기존의 신호 처리 기술을 대체하고 있다.These have attracted a lot of attention and are replacing existing signal processing technologies in many applications, including speech recognition, image recognition, event detection and natural language processing.

본 발명의 실시 예에 따른 기후 변화 예측 기술은 실제 관측된 기상 데이터를 입력으로 하는 DNN(deep neural network) 기반의 온도 예측 모델을 포함할 수 있다.The climate change prediction technology according to an embodiment of the present invention may include a deep neural network (DNN) -based temperature prediction model that uses actual observed weather data as an input.

제안된 온도 예측 모델은 누락된 기상 데이터를 복원하기 위해 데이터를 정제하는 기능을 가질 수 있다. 또한, 온도가 계절적이기 때문에 장기간의 데이터에 적합한 것으로 알려진 RNN(recurrent neural network)의 일종인 LSTM(long short terms memory networks)이 온도 예측 모델로 이용될 수 있다.The proposed temperature prediction model may have a function of purifying data to recover missing weather data. In addition, since the temperature is seasonal, long short terms memory networks (LSTM), which is a type of recurrent neural network (RNN) known to be suitable for long-term data, may be used as a temperature prediction model.

또한, 본 발명에 있어서 LSTM 기반의 온도 예측 모델은 온도 데이터의 시계열 특성을 반영하여 온도를 예측할 수 있다. LSTM 기반의 온도 예측 모델은 시간, 온도, 습도, 풍속, 및 바람 방향 등의 이전의 24 시간 동안의 데이터를 입력으로 사용할 수 있다. In addition, in the present invention, the LSTM-based temperature prediction model can predict temperature by reflecting time series characteristics of temperature data. The LSTM-based temperature prediction model can use data from the previous 24 hours such as time, temperature, humidity, wind speed, and wind direction as inputs.

모델 학습 중에 누락된 데이터가 감지되면, 누락된 데이터는 제안된 기능의 일부인 정제 기능을 사용하여 예측될 수 있다. 누락된 데이터가 모두 정제 된 후, 정제된 데이터를 사용하여 온도 예측 모델이 재훈련 될 수 있다.If missing data is detected during model training, the missing data can be predicted using a refinement function that is part of the proposed function. After all the missing data has been purified, the temperature prediction model can be retrained using the purified data.

또한 제안된 LSTM 기반의 온도 예측 모델은 기 설정된 시간 단위(1, 12 및 24 시간 등)로 온도를 예측할 수 있으며, 미래 날짜(7일 후, 14일 후 등)의 온도를 예측할 수 있도록 확장될 수 있다. In addition, the proposed LSTM-based temperature prediction model can predict the temperature in preset time units (1, 12, and 24 hours, etc.), and is extended to predict the temperature of future dates (7 days, 14 days, etc.). Can be.

제안된 정제 LSTM 기반의 온도 예측 모델의 성능은 실제 온도와 예측된 온도 사이의 RMSE(root-mean-squared error)를 통해 측정될 수 있다.The performance of the proposed refined LSTM based temperature prediction model can be measured through the root-mean-squared error (RMSE) between the actual temperature and the predicted temperature.

도 1은 본 발명의 실시 예에 따른 딥러닝 기반의 기후 변화 예측 기술과 관련된 다양한 기술 분야를 도시적으로 나타낸 것이다.1 is a diagram illustrating various technical fields related to a deep learning based climate change prediction technology according to an embodiment of the present invention.

본 발명의 기후 변화 예측 기술은 스마트 센서 기반의 IoT(Internet of Things) 및 인공지능(AI: Artificial Intelligence) 전송 정보 응용 UI(User Interface)를 통해 구현될 수 있다.The climate change prediction technology of the present invention may be implemented through a smart sensor-based Internet of Things (IoT) and artificial intelligence (AI) transmission information application user interface (UI).

구체적으로는, 본 발명의 기후 변화 예측 기술은 Time-series 기후 변화 정보 분류 알고리즘, 시각화를 위한 데이터 검증, 시각화 알고리즘, 예측정보 활용 시나리오, 실시간 환경정보 제공 UI 등을 이용하여 구현될 수 있다.Specifically, the climate change prediction technology of the present invention may be implemented using a time-series climate change information classification algorithm, data verification for visualization, visualization algorithm, prediction information usage scenario, and real-time environment information providing UI.

또한 본 발명의 기후 변화 예측 기술은 기후 변화 정보 응용 모니터링 통합 플랫폼을 통해 구현될 수 있다.In addition, the climate change prediction technology of the present invention can be implemented through a climate change information application monitoring integrated platform.

구체적으로, 본 발명의 기후 변화 예측 기술은 무선 통신망 기반 MTC(Machine Type Communication)와 AI간 실시간 정보 송수신, 불완전 데이터 처리를 위한 fault detection, 실시간 모니터링 feedback 프로토콜, 모니터링 서비스 및 응용 시나리오 등을 통해 구현될 수 있다.Specifically, the climate change prediction technology of the present invention may be implemented through wireless communication network-based machine type communication (MTC) and real-time information transmission and reception between AI, fault detection for incomplete data processing, real-time monitoring feedback protocol, monitoring service, and application scenario. You can.

도 2는 본 발명의 실시 예에 따른 기후 변화 예측 시스템의 일례를 도시한 도면이다.2 is a view showing an example of a climate change prediction system according to an embodiment of the present invention.

도 2를 참조하면, 본 발명의 기후 변화 예측 시스템(200)은 데이터 입력 모듈(210), 예측 모듈(220) 및 예측결과 출력모듈(230)을 포함할 수 있다.Referring to FIG. 2, the climate change prediction system 200 of the present invention may include a data input module 210, a prediction module 220, and a prediction result output module 230.

데이터 입력 모듈(210)은 입력되는 데이터(시간, 온도, 습도, 풍속, 바람 방향, 기압, 지역 정보 등)를 예측 모듈(220)로 제공한다.The data input module 210 provides input data (time, temperature, humidity, wind speed, wind direction, air pressure, area information, etc.) to the prediction module 220.

실시 예에 있어서, 데이터 입력 모듈(210)은 LSTM(long short terms memory networks) 기반의 정제 모델을 이용할 수 있으며, LSTM 기반의 정제 모델은 데이터의 불규칙성을 학습하는 attention 훈련 기법을 이용하도록 구현될 수 있다.In an embodiment, the data input module 210 may use a refinement model based on long short terms memory networks (LSTM), and the refinement model based on LSTM may be implemented to use an attention training technique for learning irregularity of data. have.

실시 예에 있어서, 데이터 입력 모듈(210)은 시계열(time-series) 기후 변화 데이터를 정제하도록 구현될 수 있다.In an embodiment, the data input module 210 may be implemented to refine time-series climate change data.

예측 모듈(220)은 데이터 입력 모듈(210)로부터의 데이터에 기반하여 기후 변화를 예측하고, 예측된 결과를 예측결과 출력모듈(230)로 제공한다.The prediction module 220 predicts climate change based on the data from the data input module 210 and provides the predicted result to the prediction result output module 230.

실시 예에 있어서, 예측 모듈(220)은 LSTM(long short terms memory networks)에 기초하여 기후 변화를 예측할 수 있다.In an embodiment, the prediction module 220 may predict climate change based on long short terms memory networks (LSTM).

실시 예에 있어서, 예측 모듈(220)은 결측 정보 예측 기능을 활용한 딥 러닝(deep learning)에 기반한 기후 변화 예측 모델을 이용할 수 있다.In an embodiment, the prediction module 220 may use a climate change prediction model based on deep learning using a missing information prediction function.

실시 예에 있어서, 예측 모듈(220)은 국소 지역에 대한 기후 예측을 할 수 있고, 단기 및 장기 기후 예측을 할 수 있다.In an embodiment, the prediction module 220 may make climate prediction for a local area and short-term and long-term climate prediction.

실시 예에 있어서, 데이터 입력 모듈(210)에 의해 수행되는 정제 기능은 예측 모듈(220)에 의해 수행될 수도 있다.In an embodiment, the purification function performed by the data input module 210 may be performed by the prediction module 220.

예측결과 출력모듈(230)은 예측 모듈(220)로부터의 예측 결과를 기 설정된 방식으로 출력한다.The prediction result output module 230 outputs the prediction results from the prediction module 220 in a preset manner.

도 3은 도 2의 기후 변화 예측 시스템을 이용하여 테스트를 하기 위한 데이터를 획득하여 분류하기까지의 과정을 예시적으로 도시한 도면이다.FIG. 3 is a diagram exemplarily showing a process of acquiring and classifying data for testing using the climate change prediction system of FIG. 2.

도 3에서의 과정에 따라, 기상청으로부터 2000년 1월 1일 ~ 2015년 12월 31일 사이의 기후 변화 정보(기온, 습도, 풍속, 풍향, 강수량, 증기압, 이슬점온도, 현지기압, 해면기압, 일조, 일사, 적설, 전운량, 지면 온도)가 수집이 되었다.According to the process in FIG. 3, climate change information (atmospheric temperature, humidity, wind speed, wind direction, precipitation, vapor pressure, dew point temperature, local pressure, sea level pressure, from January 1, 2000 to December 31, 2015 from the Korea Meteorological Administration) Sun, sun, snow, total cloud volume, and ground temperature) were collected.

그리고, 2000년 1월 1일 ~ 2015년 12월 24일 동안의 기후 변화 정보가 훈련 데이터로 이용되고, 훈련이 종료된 이후, 2015년 12월 25일 ~ 2015년 12월 31일 동안의 온도 변화에 대한 예측 실험이 이루어졌다.In addition, climate change information from January 1, 2000 to December 24, 2015 is used as training data, and temperature changes from December 25, 2015 to December 31, 2015 after training is finished. Prediction experiments were made on.

예측 실험 결과는 2015년 12월 25일 ~ 2015년 12월 31일 동안의 실제 온도 변화와 비교되었으며, 비교 결과는 후술하도록 한다.The results of the prediction experiments were compared with actual temperature changes from December 25, 2015 to December 31, 2015, and the comparison results will be described later.

도 3에 도시된 바와 같은 과정은 도 2의 데이터 정제 모듈(210)에 의해 이루어질 수 있으며, 저장 서버(ex, 기상청 DB)로부터 정보를 수집하는 과정(S300), 수집된 정보에서 특징을 추출하는 과정(S310)과, 추출된 특징에 기초하여 정보를 분류하는 과정(S320)을 포함할 수 있다.The process as illustrated in FIG. 3 may be performed by the data purification module 210 of FIG. 2, a process of collecting information from a storage server (ex, Meteorological Agency DB) (S300), and extracting features from the collected information It may include a process (S310) and a process of classifying information based on the extracted feature (S320).

도 4는 도 2의 기후 변화 예측 시스템의 데이터 분류 알고리즘에 따른 동작을 예시적으로 도시한 도면이다.4 is a diagram exemplarily showing an operation according to a data classification algorithm of the climate change prediction system of FIG. 2.

도 4에 도시된 데이터 분류 알고리즘은 도 2의 데이터 정제 모듈(210)에 적용되고, 도 3의 단계 S320에서 이용될 수 있다.The data classification algorithm illustrated in FIG. 4 is applied to the data purification module 210 of FIG. 2 and may be used in step S320 of FIG. 3.

도 4를 참조하면, 동시간(t) 대에서 복수의 데이터(400)가 입력되면, 시간별로 상관관계가 높은 기후변화 정보를 선택하도록 구현된 데이터 선택 노드(410)에 의해 데이터가 선택되어 시간 순서에 따라 출력된다.Referring to FIG. 4, when a plurality of data 400 is input at the same time (t), data is selected and time is selected by a data selection node 410 implemented to select climate change information having high correlation by time. Output in order.

데이터 선택 노드(410)로부터 출력되는 시계열 데이터(420)는 기간 선택 노드(430)로 입력되고, 기 설정된 소정 기간에 해당하는 데이터를 선택하도록 구현된 기간 선택 노드(430)에 의해 선택되어 소정 기간의 데이터가 출력된다.The time series data 420 output from the data selection node 410 is input to the period selection node 430, and is selected by a period selection node 430 implemented to select data corresponding to a predetermined period, and a predetermined period Data is output.

기간 선택 노드(430)로부터 출력되는 데이터는 데이터 분류 노드(440)로 입력되고, 데이터 분류 노드(440)는 기 설정된 분류 방법에 따라 데이터를 분류한다.Data output from the period selection node 430 is input to the data classification node 440, and the data classification node 440 classifies data according to a preset classification method.

도 5는 도 2의 기후 변화 예측 시스템의 예측 알고리즘에 따른 동작을 예시적으로 도시한 도면이다.5 is a diagram illustrating an operation according to a prediction algorithm of the climate change prediction system of FIG. 2.

도 5의 500은 도 2의 예측 모듈(200)에 해당하는 구성이고, 도 5의 510은 도 2의 예측결과 출력모듈(230)에 해당하는 구성으로, 예측 모듈(500)은 LSTM(long short-terms memory networks)에 기반하여 예측을 수행한다.500 of FIG. 5 is a configuration corresponding to the prediction module 200 of FIG. 2, 510 of FIG. 5 is a configuration corresponding to the prediction result output module 230 of FIG. 2, and the prediction module 500 is a long short LSTM -terms memory networks).

예측 모듈(500)은 입력층(input layer, 501)을 통해 입력되는 데이터들에 시계열 분석을 수행하여 데이터들을 분해(decomposition)하고, 분해된 데이터들을 입력으로 하는 LSTM 예측 모델(502)을 이용하여 예측을 수행하고, 출력층(output layer, 503)을 통해 예측 결과를 출력한다.The prediction module 500 performs time series analysis on the data input through the input layer 501, decompositions the data, and uses the LSTM prediction model 502 that uses the decomposed data as an input. Prediction is performed, and a prediction result is output through an output layer 503.

예측결과 출력모듈(510)은 예측 모듈(500)로부터의 예측 결과를 제공받고, 기 설정된 바에 따라 출력하는 구성이다. The prediction result output module 510 is configured to receive prediction results from the prediction module 500 and to output them according to a preset value.

예측결과 출력모듈(510)은 예측 결과를 출력하는 기능, 테스트 시 예측 결과와 실측 데이터를 비교한 결과를 출력하는 기능, 예측 결과 및 실측 데이터에 기초하여 기초평균 제곱근 오차(root-mean-square error, RMSE)를 계산하여 출력하는 기능 등 다양한 기능을 수행할 수 있다.The prediction result output module 510 outputs a prediction result, outputs a result of comparing the prediction result with actual data during testing, and a root-mean-square error based on the prediction result and the actual data , RMSE), and can perform various functions.

예측결과 출력모듈(510)은 출력하고자 하는 정보를 텍스트 형태, 혹은 그래프 형태 등 다양한 형태로 출력할 수 있다.The prediction result output module 510 may output information to be output in various forms such as a text form or a graph form.

도 6 내지 도 8은 도 2의 기후 변화 예측 시스템을 이용하여 온도에 대한 예측을 수행한 결과를 나타낸 그래프들이다.6 to 8 are graphs showing the results of the prediction of temperature using the climate change prediction system of FIG.

도 6 내지 8에 도시된 그래프는, 도 3과 관련하여 설명된 바와 같이, 2000년 1월 1일 ~ 2015년 12월 24일 동안의 기후 변화 정보를 이용하여 훈련한 후 2015년 12월 25일 ~ 2015년 12월 31일 동안의 온도 변화를 예측한 결과 데이터이다.The graphs shown in FIGS. 6 to 8 are December 25, 2015 after training using climate change information for January 1, 2000 to December 24, 2015, as described in connection with FIG. 3. ~ This is the result of predicting the temperature change during December 31, 2015.

도 6 내지 8의 그래프에는, 비교를 위해, 2015년 12월 25일 ~ 2015년 12월 31일 동안의 실제 온도 변화 곡선과 예측 온도 변화 곡선이 함께 도시되었다.In the graphs of FIGS. 6 to 8, for comparison, actual temperature change curves and predicted temperature change curves from December 25, 2015 to December 31, 2015 are shown together.

도 6의 그래프는 훈련 시에 기후 변화 정보로서 기온이 입력된 경우의 온도 예측 결과를 나타낸 것이고, 도 7의 그래프는 훈련 시에 기후 변화 정보로서 기온과 습도가 입력된 경우의 온도 예측 결과를 나타낸 것이고, 도 8의 그래프는 훈련 시에 후 변화 정보로서 기온, 습도, 풍속이 입력된 경우의 온도 예측 결과를 나타낸 것이다.The graph of FIG. 6 shows the temperature prediction result when temperature is input as climate change information during training, and the graph of FIG. 7 shows the temperature prediction result when temperature and humidity are input as climate change information during training. The graph of FIG. 8 shows the results of temperature prediction when temperature, humidity, and wind speed are input as post-change information during training.

도 6의 그래프와 관련된 RMSE는 0.64, 도 7의 그래프와 관련된 RMSE는 0.62, 도 8의 그래프와 관련된 RMSE는 0.58로 작게 산출되었다.The RMSE associated with the graph in FIG. 6 was calculated as small as 0.64, the RMSE associated with the graph in FIG. 7 was 0.62, and the RMSE associated with the graph in FIG. 8 was 0.58.

도 9는 본 발명의 기후 변화 예측 시스템을 중기간의 기후 변화 예측을 위해 확장시킨 경우의 예측 모델의 구조를 예시적으로 보여주는 도면이다.9 is a diagram showing the structure of a prediction model when the climate change prediction system of the present invention is extended for prediction of mid-term climate change.

도 9에 도시된 바와 같은 LSTM 기반 기후 변화 예측 모델은 중기간의 기후 변화를 예측하는 경우에 많이 발생할 수 있는 데이터 누락을 보간하기 위한 정제(refinement) 기능을 수행하며, 이에 대한 상세한 설명은 도 14를 참조하여 후술한다.As shown in FIG. 9, the LSTM-based climate change prediction model performs a refinement function to interpolate data omission that may occur when predicting mid-term climate change. It will be described later with reference.

도 10(a)은 DNN의 일반적인 구조를 나타낸 도면이고, 도 10(b)는 6, 12, 24 시간의 기후를 예측하는 DNN 모델을 도시한 도면이다.FIG. 10 (a) is a diagram showing the general structure of a DNN, and FIG. 10 (b) is a diagram showing a DNN model for predicting climates of 6, 12, and 24 hours.

도 10(a)에 도시된 바와 같이, DNN은 입력층과 출력층 사이에 최소 두 개의 은닉층이 있는 심층신경망이다. 은닉층는 더 깊이 쌓을 수 있으며, 각 층의 노드 사이는 피드-포워드 연결을 가지고 있다. 따라서, 정보 표현은 층의 각 노드에 적용되는 로지스틱 함수에 의해 이루어진다.As shown in Fig. 10 (a), DNN is a deep neural network having at least two hidden layers between the input layer and the output layer. Concealed layers can be stacked deeper and have feed-forward connections between the nodes in each layer. Therefore, the information is expressed by a logistic function applied to each node of the layer.

도10(b)에 도시된 바와 같이, 3개의 시간(6, 12, 24)에 대한 예측을 위한 DNN 모델은 각각 6, 12 혹은 24시간 예측에 대해 6, 12 혹은 24개의 노드를 포함하는 입력층을 가지고 있다. As shown in Fig. 10 (b), the DNN model for prediction for 3 times (6, 12, 24) is input including 6, 12 or 24 nodes for 6, 12 or 24 hour prediction, respectively. Has a layer.

또한, 각 DNN 모델에는 층당 96개의 노드를 갖는 3개의 은닉층이 존재하며, 출력층에는 대상값이 해당 미래 시간의 관측 온도로 지정된 단일 노드가 있다.Also, in each DNN model, there are three hidden layers with 96 nodes per layer, and in the output layer there is a single node whose target value is designated as the observed temperature of the future time.

한편, 시계열 데이터의 특성을 이용하기 위해 RNN은 다양한 애플리케이션에서 최첨단 성능을 제공하는 것으로 입증되고 있다.On the other hand, to take advantage of the characteristics of time series data, RNN has been proven to provide cutting-edge performance in a variety of applications.

도 11은 일반적인 RNN의 단일 루프 모델을 도시한 도면으로서, DNN은 현재 시간 데이터만 처리하는 반면, RNN은 현재 및 과거 시간 데이터를 본질적으로 처리 할 수 있다. FIG. 11 is a diagram illustrating a single loop model of a general RNN, while the DNN processes only the current time data, the RNN can process the current and past time data essentially.

따라서 RNN은 DNN보다 날씨와 같이 시간계열적 특징을 갖는 데이터 예측에 더 적합하다. 하지만, RNN은 숨겨진 상태에서 이전의 데이터를 반복적으로 추적할 필요가 있는데, 이는 모델 훈련 동안 기울기 값이 사라지는 문제를 일으킬 수 있다.Therefore, RNN is more suitable for predicting data having time-series characteristics such as weather than DNN. However, RNN needs to repeatedly track the previous data in a hidden state, which can cause a problem that the gradient value disappears during model training.

한편, 본 발명에서 이용하는 LSTM는 RNN보다 긴 기간의 데이터를 학습할 수 있도록 개발된 일종의 RNN이다. LSTM은 기울기 값이 사라지는 문제를 해결하기 위해 LSTM에 존재하는 게이트에서 숨겨진 상태를 제어한다.Meanwhile, the LSTM used in the present invention is a kind of RNN developed to learn data of a longer period than the RNN. The LSTM controls the hidden state in the gate existing in the LSTM to solve the problem that the gradient value disappears.

도 12는 본 발명의 기후 변화 예측 시스템의 예측 모듈에 적용되는 LSTM의 단위 셀의 구조를 예시적으로 보여주는 도면이다.12 is a diagram showing the structure of a unit cell of the LSTM applied to the prediction module of the climate change prediction system of the present invention by way of example.

도 12에 도시된 바와 같이, LSTM의 단위 셀은 입력 게이트(Input gate), 망각 게이트(Forget gate) 및 출력 게이트(Output gate)로 구성된다.12, the unit cell of the LSTM is composed of an input gate, an forget gate, and an output gate.

주어진 시간

Figure pat00001
에 대해, LSTM의 각 게이트는 입력
Figure pat00002
, 이전 숨은 상태 값
Figure pat00003
, 현재 셀 값
Figure pat00004
, 이전 셀 값
Figure pat00005
에 의해 결정되며, 방정식은 아래의 수학식 1을 만족할 수 있다.Given time
Figure pat00001
For, each gate of LSTM is input
Figure pat00002
, Previous hidden value
Figure pat00003
, Current cell value
Figure pat00004
, Previous cell value
Figure pat00005
It is determined by, and the equation may satisfy Equation 1 below.

Figure pat00006
Figure pat00006

Figure pat00007
Figure pat00007

Figure pat00008
Figure pat00008

여기서,

Figure pat00009
,
Figure pat00010
Figure pat00011
는 각각 현재 시간
Figure pat00012
에 대한 입력, 삭제 및 출력 게이트의 값이다. σ는 0부터 1까지의 로지스틱 시그모이드 함수로 구현되는 활성화 함수이다.
Figure pat00013
는 게이트 값을 계산하기 위한 가중치 행렬을 나타내며, 예를 들어,
Figure pat00014
는 입력
Figure pat00015
를 입력 게이트
Figure pat00016
에 연결하는 가중치 행렬이다.
Figure pat00017
,
Figure pat00018
Figure pat00019
는훈련 데이터에 따라 데이터 공간의 중심을 조정하기 위해 각 게이트에 추가되는 바이어스이다.here,
Figure pat00009
,
Figure pat00010
And
Figure pat00011
Each current time
Figure pat00012
For input, delete and output gate values. σ is an activation function implemented as a logistic sigmoid function from 0 to 1.
Figure pat00013
Denotes a weighting matrix for calculating the gate value, for example,
Figure pat00014
Enter
Figure pat00015
To enter the gate
Figure pat00016
Is a weighting matrix that connects to.
Figure pat00017
,
Figure pat00018
And
Figure pat00019
Is the bias added to each gate to adjust the center of the data space according to the training data.

LSTM 단위 셀은 하이퍼볼릭 탄젠트 함수로 구현되는 활성화 함수

Figure pat00020
를 적용하여 블록 입력을 가져 와서 이전 메모리 전체를 잊었거나 새 입력 데이터를 무시하는지 결정할 수 있다. 결과적으로, 시간
Figure pat00021
에서의 셀 값(
Figure pat00022
)은 아래의 수학식 2와 같이 계산될 수 있다.The LSTM unit cell is an activation function implemented as a hyperbolic tangent function
Figure pat00020
You can apply to get the block input and decide whether you have forgotten the old memory entirely or ignore the new input data. As a result, time
Figure pat00021
Cell value at
Figure pat00022
) May be calculated as in Equation 2 below.

Figure pat00023
Figure pat00023

여기서,

Figure pat00024
Figure pat00025
이고, 이 때
Figure pat00026
는 셀의 바이어스이다. here,
Figure pat00024
The
Figure pat00025
This time
Figure pat00026
Is the bias of the cell.

즉, LSTM의 메모리는 이전 셀 값

Figure pat00027
과 망각 게이트 값
Figure pat00028
의 곱셈뿐만 아니라
Figure pat00029
에 의해 제어되는 입력 게이트 값
Figure pat00030
의 부분량을 유지할 수 있다.That is, the memory of the LSTM is the previous cell value
Figure pat00027
And forgetting gate values
Figure pat00028
As well as multiplication of
Figure pat00029
Input gate value controlled by
Figure pat00030
Can maintain a partial amount of

다음으로, 현재의 숨은 상태 값

Figure pat00031
Figure pat00032
Figure pat00033
함수에 적용하여 하기의 수학식 3에 따라 정의될 수 있다.Next, the current hidden value
Figure pat00031
silver
Figure pat00032
of
Figure pat00033
When applied to a function, it can be defined according to Equation 3 below.

Figure pat00034
Figure pat00034

RNN과 비교하여, LSTM은 데이터 시퀀스의 길이를 적절하게 절단하는 3개의 게이트(입력 게이트, 망각 게이트, 출력 게이트)를 가지며, 적은 추가 비용으로 기울기 소멸 문제를 해결할 수 있다.Compared to RNN, the LSTM has three gates (input gate, oblivion gate, and output gate) that adequately cut the length of the data sequence, and can solve the slope extinction problem at a small additional cost.

도 13은 도 12의 LSTM 단위 셀을 이용하여 구현되는 LSTM 기반 예측 모델의 일례를 도시한 도면이다.13 is a diagram illustrating an example of an LSTM based prediction model implemented using the LSTM unit cell of FIG. 12.

도 13에 도시된 바와 같이, 본 발명의 기후 변화 예측 시스템의 예측 모듈에 적용되는 LSTM 기반 예측 모델은 하나의 입력 레이어(1300), 하나의 출력 레이어(1310) 및 LSTM 레이어(1320)으로 구성되고, LSTM 레이어(1320)는 도 12에 도시된 바와 같은 구조로 이루어지는 다수의 LSTM 단위 셀(1321)로 구성된다.13, the LSTM-based prediction model applied to the prediction module of the climate change prediction system of the present invention is composed of one input layer 1300, one output layer 1310, and an LSTM layer 1320. , LSTM layer 1320 is composed of a plurality of LSTM unit cell 1321 having a structure as shown in FIG.

LSTM 기반의 기후 변화 예측 모델은 온도 예측에 있어서 어느 정도 정확하게 작동 할 수 있다. 하지만, 결함이 없는 방대한 양의 훈련 데이터를 수집하는 것은 어려운 일이다. 즉, 수집된 데이터는 불규칙하거나 일종의 결측을 가지게 되므로 불완전한 경향이 있다. LSTM-based climate change prediction models can work to some degree in temperature prediction. However, it is difficult to collect a large amount of training data without defects. That is, the collected data tends to be incomplete or irregular, or incomplete.

이를 해결하기 위해 본 발명에서 제안되는LSTM 기반의 기후 변화 예측 모델은 누락된 기상 데이터를 복원하기 위해 데이터 정제 기능을 갖는다.To solve this, the LSTM-based climate change prediction model proposed in the present invention has a data purification function to restore missing weather data.

흥미롭게도 온도는 상대 습도(RH), 풍속 및 풍향과 같은 다른 많은 기후 요인의 영향을 받는다. 또한, 그러한 기상 요소와 온도 사이에는 복잡한 상관 관계가 있다. Interestingly, temperature is affected by many other climatic factors such as relative humidity (RH), wind speed and wind direction. In addition, there is a complex correlation between such weather elements and temperature.

따라서, 주어진 시간에 온도 데이터가 누락되었지만 다른 기상 인자가 이용 가능하다면, 이러한 누락된 데이터는 상관된 특성을 사용함으로써 복원 될 수 있다. 이 사실을 바탕으로, 제안하는 모델의 정제 기능은 기상 요소와 기온 사이의 상관성을 기반으로 작동하는 LSTM을 사용함으로써 실현된다. Thus, if temperature data is missing at any given time, but other weather factors are available, these missing data can be restored by using correlated properties. Based on this fact, the refinement function of the proposed model is realized by using LSTM, which operates based on the correlation between weather elements and temperature.

도 14는 본 발명에서 제안되는 정제 기능을 갖는 LSTM 기반 기후 변화 예측 모델을 이용한 동작 아키텍처를 보여주는 도면이다.14 is a diagram showing an operation architecture using an LSTM-based climate change prediction model having a purification function proposed in the present invention.

도 14의 동작 아키텍처는 4개의 기상 데이터(온도, 상대습도, 풍속, 풍향)를 입력으로 하고, 온도 데이터가 누락된 경우를 도시한 것으로, 본 발명의 정제 기능을 갖는 LSTM 기반 기후 변화 예측 모델의 동작이 본 실시 예에 한정되는 것은 아니다.The operation architecture of FIG. 14 is a case in which four weather data (temperature, relative humidity, wind speed, and wind direction) are input and the temperature data is omitted, and the LSTM-based climate change prediction model having the purification function of the present invention The operation is not limited to this embodiment.

첫 번째 단계(S1400)에서, 4가지 종류의 기상 데이터(온도, 상대습도, 풍속 및 풍향)가 기상 정보로서 입력되면(S1401), 예측 모델은 기상 정보의 구성 요소에 누락이 있는지를 감지한다(S1402). 즉, 기상 정보 중 입력되어야 할 기상 데이터의 유무를 감지한다.In the first step (S1400), when four types of weather data (temperature, relative humidity, wind speed and wind direction) are input as weather information (S1401), the prediction model detects whether there are omissions in the components of the weather information ( S1402). That is, presence or absence of weather data to be input among weather information is detected.

단계 S1402에서 기상 정보에 누락이 없는 경우(즉, 모든 기상 데이터가 입력된 경우, S1402-N), 예측 모델은 기상 정보를 이용하여 기후 변화 예측을 수행한다(S1430).In step S1402, when there is no omission in the weather information (that is, when all weather data are input, S1402-N), the prediction model performs climate change prediction using the weather information (S1430).

이하에서는, 모든 기상 데이터를 포함하는 기상 정보를 ‘완전 기상 정보’라 한다.Hereinafter, weather information including all weather data is referred to as “complete weather information”.

또한, 단계 S1402에서 기상 정보에 누락이 없는 경우(S1402-N), 예측 모델은 완전 기상 데이터를 이용하여 LSTM 기반 정제 모델을 구성한다(S1410). In addition, when there is no omission in the weather information in step S1402 (S1402-N), the prediction model constructs an LSTM-based refinement model using complete weather data (S1410).

이때, 예측 모델은 데이터의 불규칙성을 학습하는 attention 훈련 기법을 사용하여 기상 데이터가 가지고 있는 불규칙성에 대한 훈련을 진행한다.At this time, the prediction model uses the attention training technique to learn the irregularities of the data to train on the irregularities of the weather data.

단계 S1410에 따라 구성되는 LST 기반 정제 모델은 다차원 기상 데이터를 입력으로 하고, 2개의 LSTM 레이어와 하나의 출력 레이어를 갖는다.The LST-based refinement model constructed according to step S1410 has multi-dimensional weather data as an input, and has two LSTM layers and one output layer.

단계 S1402에서 기상 정보에 누락이 있는 경우(즉, 입력되어야 할 기상 데이터 중 누락된 기상 데이터가 있는 경우, S1402-Y), 예측 모델은 과거 기상 정보 및 미래 기상 정보를 바탕으로 선형 보간(Liner interpolation)한다(S1403).In step S1402, if there is a missing weather information (that is, if there is missing weather data to be input, S1402-Y), the prediction model is based on past weather information and future weather information, linear interpolation (Liner interpolation) ) (S1403).

그리고, 예측 모델은 단계 S1410에 따라, 보간된 데이터를 이용하여 LSTM 기반 정제 모델을 구성한다.Then, the prediction model constructs the LSTM-based refinement model using the interpolated data according to step S1410.

이하에서는, 일부 기상 데이터가 누락되어 모든 기상 데이터를 포함하지 않은 기상 정보를 ‘불완전 기상 정보’라 한다.Hereinafter, weather information that does not include all weather data because some weather data is missing is referred to as "incomplete weather information."

또한, 단계 S1402에서 기상 정보에 누락이 있는 경우(S1402-Y), 예측 모델은 불완전 기상 정보를 단계 S1410에 따라 구성된 LSTM 기반 정제 모델에 입력하여, 누락된 기상 데이터의 위치에 LSTM 기반 정제 모델에 의해 예측된 기상 데이터를 적용함으로써, 완전 기상 정보가 생성한다(S1420).In addition, if the weather information is missing in step S1402 (S1402-Y), the prediction model inputs incomplete weather information into the LSTM-based refinement model constructed according to step S1410, and the LSTM-based refinement model is located at the location of the missing weather data. By applying the weather data predicted by, complete weather information is generated (S1420).

이때, 예측 모델은 기상 정보에 대한 시간 정보를 참조하여, 누락된 기상 데이터를 예측된 기상 데이터로 대체할 수 있다.At this time, the prediction model may replace the missing weather data with the predicted weather data by referring to the time information for the weather information.

이와 같이 누락된 기상 데이터를 예측된 기상 데이터로 대체하여 완전 기상 정보로 생성하는 것을 ‘정제 기능’이라 하고, 정제 기능에 의해 생성된 완전 기상 정보를 ‘정제된 기상 정보’라 한다.The generation of complete weather information by replacing the missing weather data with the predicted weather data is referred to as a “purification function”, and the complete weather information generated by the purification function is referred to as “purified weather information”.

이후, 예측 모델은 정제된 기상 정보를 바탕으로 단계 S1430을 수행하여 기후 변화를 예측한다.Thereafter, the prediction model predicts climate change by performing step S1430 based on the purified weather information.

한편, 예측 모델이 날씨를 예측하는데 있어서 날씨 변화는 매우 복잡하여 다양한 변수들이 날씨의 변화를 통제하는 데 중추적인 역할을 한다. 따라서 모델의 훈련을 진행하는 과정에서 다양한 요인이 성능에 영향을 줄 수 있다. LSTM 기반 모델에 있어서 그 요인 중 일부를 하이퍼 파라미터로 간주할 수 있다. 신경망의 깊은 구조는 매우 복잡한 논리로써 기능을 수행한다. 따라서 하이퍼 파라미터와 같은 네트워크 요소의 변화는 예측 결과에 영향을 미칠 수 있다. 하이퍼 파라미터는, 학습 속도, 배치 크기, 에포크(epoch) 수, 정규화, 가중치 초기화, 은닉층의 수, 노드 수 등을 포함할 수 있다.On the other hand, when the prediction model predicts the weather, the weather change is very complex, and various variables play a pivotal role in controlling the weather change. Therefore, various factors can affect performance in the process of training the model. In LSTM based models, some of the factors can be considered as hyperparameters. The deep structure of the neural network functions as a very complex logic. Therefore, changes in network elements, such as hyperparameters, can affect prediction results. Hyperparameters may include learning speed, batch size, number of epochs, normalization, weight initialization, number of hidden layers, number of nodes, and the like.

은닉층의 경우 활성화 함수는 입력 특징값이 출력 값에 연결될 수 있는지 여부를 결정한다. 일반적으로 활성화 함수는 한정되어야 한다. 활성화 함수의 값이 특정 범위를 초과하면, 활성화 된 것으로 간주된다. 그 값이 경계값보다 작은 경우, 그것은 잊혀질 것이다. 제안된 LSTM 기반 예측 모델을 기상 데이터, 특히 온도에 초점을 맞추기 위해 선형, S자형 및 ReLU와 같은 몇 가지 활성화 함수가 경험에 의해 결정된다. 이를 위해 세 가지 활성화 함수가 모델에 사용되고, 그 중 하나가 최상의 예측 정확도를 위해 선택된다. 정규 실험을 거쳐 ReLU가 해당 데이터 형식에 있어서 가장 뛰어난 결과값을 출력하기에 선택되었다.In the case of the hidden layer, the activation function determines whether the input feature value can be linked to the output value. In general, the activation function should be limited. If the value of the activation function exceeds a certain range, it is considered activated. If the value is less than the boundary value, it will be forgotten. In order to focus the proposed LSTM based prediction model on weather data, especially temperature, several activation functions such as linear, sigmoidal and ReLU are determined empirically. To this end, three activation functions are used in the model, one of which is selected for the best prediction accuracy. After regular experiments, ReLU was chosen to output the best results for the data format.

본 발명의 실시 예에 따른 기후 변화 예측 시스템은 1차 날씨 변수의 주요 영향을 고려하여 6시간에서 14일까지의 시간 주기를 추적하는 신경망 기반 온도 예측 모델을 포함할 수 있다. 제안된 모델은 시계열 데이터에 적합하도록 RNN, 즉 LSTM을 기반으로 한다. 특히 수집된 기상 데이터베이스에 자주 등장하는 누락된 데이터는 온도, 상대 습도, 풍속 및 풍향과 함께 LSTM 프레임 워크를 사용하여 정제될 수 있다. 그 후 제안된 LSTM 기반 모델은 6시간, 12시간 및 24시간과 같은 짧은 시간 동안 온도를 예측하기 위해 구현될 수 있다. 또한 7일과 14일과 같은 상대적으로 오랜 시간 동안 온도를 예측하기 위해 확장 될 수 있다.The climate change prediction system according to an embodiment of the present invention may include a neural network-based temperature prediction model tracking a time period from 6 hours to 14 days in consideration of the main influence of the primary weather variable. The proposed model is based on RNN, or LSTM, to fit time series data. In particular, missing data frequently appearing in the collected weather database can be refined using the LSTM framework along with temperature, relative humidity, wind speed and wind direction. The proposed LSTM based model can then be implemented to predict the temperature for a short time, such as 6 hours, 12 hours and 24 hours. It can also be extended to predict temperature for relatively long periods of time, such as 7 and 14 days.

본 발명에 따른 단계들 및/또는 동작들은 기술분야의 통상의 기술자에 의해 이해될 수 있는 것과 같이, 다른 순서로, 또는 병렬적으로, 또는 다른 에포크 등을 위해 다른 실시 예들에서 동시에 일어날 수 있다.The steps and / or acts according to the present invention may occur simultaneously in other embodiments, in different orders, or in parallel, or for other epochs, etc., as would be understood by those skilled in the art.

실시 예에 따라서는, 단계들 및/또는 동작들의 일부 또는 전부는 하나 이상의 비-일시적 컴퓨터-판독가능 매체에 저장된 명령, 프로그램, 상호작용 데이터 구조(interactive data structure), 클라이언트 및/또는 서버를 구동하는 하나 이상의 프로세서들을 사용하여 적어도 일부가 구현되거나 또는 수행될 수 있다. 하나 이상의 비-일시적 컴퓨터-판독가능 매체는 예시적으로 소프트웨어, 펌웨어, 하드웨어, 및/또는 그것들의 어떠한 조합일 수 있다. 또한, 본 명세서에서 논의된 "모듈"의 기능은 소프트웨어, 펌웨어, 하드웨어, 및/또는 그것들의 어떠한 조합으로 구현될 수 있다.Depending on the embodiment, some or all of the steps and / or actions drive instructions, programs, interactive data structures, clients and / or servers stored in one or more non-transitory computer-readable media. At least some may be implemented or performed using one or more processors. The one or more non-transitory computer-readable media may illustratively be software, firmware, hardware, and / or any combination thereof. In addition, the functionality of the “module” discussed herein may be implemented in software, firmware, hardware, and / or any combination thereof.

본 발명의 실시 예들의 하나 이상의 동작들/단계들/모듈들을 구현/수행하기 위한 하나 이상의 비-일시적 컴퓨터-판독가능 매체 및/또는 수단들은 ASICs(application-specific integrated circuits), 표준 집적 회로들, 마이크로 컨트롤러를 포함하는, 적절한 명령들을 수행하는 컨트롤러, 및/또는 임베디드 컨트롤러, FPGAs(field-programmable gate arrays), CPLDs(complex programmable logic devices), 및 그와 같은 것들을 포함할 수 있지만, 여기에 한정되지는 않는다. One or more non-transitory computer-readable media and / or means for implementing / performing one or more operations / steps / modules of embodiments of the present invention include application-specific integrated circuits (ASICs), standard integrated circuits, Controllers that perform appropriate instructions, including microcontrollers, and / or embedded controllers, field-programmable gate arrays (FPGAs), complex programmable logic devices (CPLDs), and the like. Does not.

한편, 상술 된 본 발명의 내용은 발명을 실시하기 위한 구체적인 실시 예들에 불과하다. 본 발명은 구체적이고 실제로 이용할 수 있는 수단 자체뿐 아니라, 장차 기술로 활용할 수 있는 추상적이고 개념적인 아이디어인 기술적 사상을 포함할 것이다.Meanwhile, the above-described contents of the present invention are only specific embodiments for carrying out the invention. The present invention will include technical ideas that are abstract and conceptual ideas that can be utilized as future technologies, as well as specific and practically available means themselves.

200 : 기후 변화 예측 시스템
210 : 데이터 정제 모듈
220 : 예측 모듈
230 : 예측결과 출력모듈
200: climate change prediction system
210: data purification module
220: prediction module
230: prediction result output module

Claims (8)

딥러닝 기반의 기후 변화 예측 시스템의 동작 방법에 있어서,
다양한 종류의 기상 데이터들을 기상 정보로서 입력 받는 단계;
입력되어야 할 기상 데이터들 중 누락된 기상 데이터가 있는지를 감지하는 단계;
누락된 기상 데이터가 있는 경우, 누락된 기상 데이터의 위치에 LSTM(long shortterms memory networks) 기반 정제 모델에 의해 예측된 기상 데이터를 적용하여 정제된 기상 정보를 생성하는 단계; 및
상기 정제된 기상 정보를 바탕으로 기후 변화 예측을 수행하는 단계를 포함하는 방법.
In the operation method of the climate change prediction system based on deep learning,
Receiving various types of weather data as weather information;
Detecting whether there is missing weather data among weather data to be input;
Generating missing weather information by applying weather data predicted by a long shortterms memory networks (LSTM) -based refinement model to a location of the missing weather data when there is missing weather data; And
And performing climate change prediction based on the refined weather information.
제 1 항에 있어서,
상기 누락된 기상 데이터가 있는 경우, 과거 및 미래의 기상 데이터를 이용하여 상기 누락된 기상 데이터를 선형 보간하고, 보간된 기상 데이터를 포함하는 기상 정보를 사용하여 상기 LSTM 기반 정제 모델을 구성하는 단계를 더 포함하는 방법.
According to claim 1,
If there is the missing weather data, linearly interpolating the missing weather data using past and future weather data, and constructing the LSTM-based refinement model using weather information including the interpolated weather data. How to include more.
제 1 항에 있어서,
상기 누락된 기상 데이터가 없는 경우, 상기 기상 정보를 이용하여 상기 LSTM 기반 정제 모델을 구성하는 한편, 상기 기상 정보를 이용하여 기후 변화를 예측하는 단계를 더 포함하는 방법.
According to claim 1,
If there is no missing weather data, the method further comprises the step of constructing the LSTM-based refinement model using the weather information, and predicting climate change using the weather information.
제 1 항에 있어서,
상기 LSTM 기반 정제 모델은 입력되는 기상 정보를 이용하여 데이터의 불규칙성을 학습하는 attention 훈련 기법에 따라 훈련하는 것을 특징으로 하는 방법.
According to claim 1,
The LSTM-based refining model is trained according to an attention training technique that learns irregularities in data using input weather information.
제 1 항에 있어서,
상기 LSTM 기반 정제 모델은 2개의 LSTM 레이어와 하나의 출력 레이어를 갖는 것을 특징으로 하는 방법.
According to claim 1,
The LSTM based refinement model has two LSTM layers and one output layer.
제 1 항에 있어서,
상기 LSTM 기반 정제 모델은 6시간, 12시간 및 24시간 중에서 어느 하나의 시간에 대한 온도를 예측하는 것을 특징으로 하는 방법.
According to claim 1,
The LSTM-based purification model is characterized by predicting the temperature for any one of 6, 12 and 24 hours.
제 1 항에 있어서,
상기 LSTM 기반 정제 모델은 7일 혹은 14일 중에서 어느 하나의 날짜에 대한 온도를 예측하는 것을 특징으로 하는 방법.
According to claim 1,
The LSTM-based purification model is characterized by predicting the temperature for any one of the 7 days or 14 days.
제 1 항에 있어서,
상기 LSTM 기반 정제 모델은 온도에 초점을 맞추기 위해 선형, S자형 및 ReLU 활성화 함수를 통해 입력 특징을 출력값에 연결하는 것을 특징으로 하는 방법.
According to claim 1,
The LSTM-based purification model is characterized by connecting input features to output values through linear, S-shaped and ReLU activation functions to focus on temperature.
KR1020190037606A 2018-10-25 2019-04-01 Operating method of deep learning based climate change prediction system KR102172925B1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020180128072 2018-10-25
KR20180128072 2018-10-25

Publications (2)

Publication Number Publication Date
KR20200052806A true KR20200052806A (en) 2020-05-15
KR102172925B1 KR102172925B1 (en) 2020-11-02

Family

ID=70679169

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190037606A KR102172925B1 (en) 2018-10-25 2019-04-01 Operating method of deep learning based climate change prediction system

Country Status (1)

Country Link
KR (1) KR102172925B1 (en)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200087731A (en) * 2020-06-30 2020-07-21 동국대학교 산학협력단 Method and device for forecasting meteorological element based on convolutional neural networks using high frequency meteorological data
CN112959987A (en) * 2021-03-19 2021-06-15 东风汽车股份有限公司 Automatic emergency braking self-adaptive control system and control method thereof
KR20210077229A (en) * 2019-12-17 2021-06-25 (주)지오시스템리서치 Typhoon Dismissal Prediction System Using Deep Learning Model
KR102333271B1 (en) 2020-06-10 2021-11-30 경상국립대학교산학협력단 A method for selecting the number of hidden units using correlation of hidden units in an artificial neural network model and a method for predicting hydrological climate variables using the hidden unit
WO2021261825A1 (en) * 2020-06-25 2021-12-30 주식회사 에스아이에이 Device and method for generating meteorological data on basis of machine learning
KR20220030712A (en) 2020-09-03 2022-03-11 주식회사 케이티 Appratus and method for forecasting communications disruption being based machine learning
KR102377474B1 (en) * 2020-11-13 2022-03-23 이화여자대학교 산학협력단 Lost data recovery method and apparatus using parameter transfer lstm
CN116205317A (en) * 2021-12-06 2023-06-02 中国环境科学研究院 Urban air quality prediction method based on neural network
US11754748B2 (en) 2020-11-12 2023-09-12 Gwangju Institute Of Science And Technology Temperature prediction system

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230075621A (en) 2021-11-23 2023-05-31 전기은 Artificial intelligent road surface icing risk determination system, small wind power generation, and solar power-based road heating power supply system

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101761686B1 (en) 2017-03-31 2017-07-31 (주)하모니앤유나이티드 Real time predicting system for energy management system using machine learning
KR20170131585A (en) * 2015-09-04 2017-11-29 구글 엘엘씨 Neural Networks for Speaker Verification
KR20180084684A (en) 2015-03-02 2018-07-25 (주) 아펙시 Generating device for contents information of weather
JP2018152004A (en) * 2017-03-15 2018-09-27 富士ゼロックス株式会社 Information processor and program

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180084684A (en) 2015-03-02 2018-07-25 (주) 아펙시 Generating device for contents information of weather
KR20170131585A (en) * 2015-09-04 2017-11-29 구글 엘엘씨 Neural Networks for Speaker Verification
JP2018152004A (en) * 2017-03-15 2018-09-27 富士ゼロックス株式会社 Information processor and program
KR101761686B1 (en) 2017-03-31 2017-07-31 (주)하모니앤유나이티드 Real time predicting system for energy management system using machine learning

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
M.A. Zaytar, et al., ‘Sequence to Sequence Weather Forecasting with Long Short-Term Memory Recurrent Neural Networks’, International Journal of Computer Apllications, Vol.143, No.11, 2016.11, pp.7-11.* *
민재식 외 3인, ‘인공신경망을 이용한 기상관측장비 결측 보완 기술에관한 연구‘, Journal of Digital Convergence, Vol.14, No.8, 2016.08, pp.245-252.* *

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20210077229A (en) * 2019-12-17 2021-06-25 (주)지오시스템리서치 Typhoon Dismissal Prediction System Using Deep Learning Model
KR102333271B1 (en) 2020-06-10 2021-11-30 경상국립대학교산학협력단 A method for selecting the number of hidden units using correlation of hidden units in an artificial neural network model and a method for predicting hydrological climate variables using the hidden unit
WO2021261825A1 (en) * 2020-06-25 2021-12-30 주식회사 에스아이에이 Device and method for generating meteorological data on basis of machine learning
US11816554B2 (en) 2020-06-25 2023-11-14 Si Analytics Co., Ltd. Method and apparatus for generating weather data based on machine learning
KR20200087731A (en) * 2020-06-30 2020-07-21 동국대학교 산학협력단 Method and device for forecasting meteorological element based on convolutional neural networks using high frequency meteorological data
KR20220030712A (en) 2020-09-03 2022-03-11 주식회사 케이티 Appratus and method for forecasting communications disruption being based machine learning
US11754748B2 (en) 2020-11-12 2023-09-12 Gwangju Institute Of Science And Technology Temperature prediction system
KR102377474B1 (en) * 2020-11-13 2022-03-23 이화여자대학교 산학협력단 Lost data recovery method and apparatus using parameter transfer lstm
CN112959987A (en) * 2021-03-19 2021-06-15 东风汽车股份有限公司 Automatic emergency braking self-adaptive control system and control method thereof
CN112959987B (en) * 2021-03-19 2022-02-18 东风汽车股份有限公司 Automatic emergency braking self-adaptive control system and control method thereof
CN116205317A (en) * 2021-12-06 2023-06-02 中国环境科学研究院 Urban air quality prediction method based on neural network

Also Published As

Publication number Publication date
KR102172925B1 (en) 2020-11-02

Similar Documents

Publication Publication Date Title
KR102172925B1 (en) Operating method of deep learning based climate change prediction system
Gasparin et al. Deep learning for time series forecasting: The electric load case
CN111178456B (en) Abnormal index detection method and device, computer equipment and storage medium
Hernández et al. Rainfall prediction: A deep learning approach
US10289509B2 (en) System failure prediction using long short-term memory neural networks
OMeara et al. Applications of deep learning neural networks to satellite telemetry monitoring
Zhang et al. A gradient boosting method to improve travel time prediction
Ke et al. PCA-based missing information imputation for real-time crash likelihood prediction under imbalanced data
CN110874550A (en) Data processing method, device, equipment and system
Rahman et al. Short-term traffic speed prediction for freeways during hurricane evacuation: a deep learning approach
Vuyyuru et al. A novel weather prediction model using a hybrid mechanism based on MLP and VAE with fire-fly optimization algorithm
Vinod et al. Natural disaster prediction by using image based deep learning and machine learning
Cherdo et al. Unsupervised anomaly detection for cars CAN sensors time series using small recurrent and convolutional neural networks
Bedi Attention based mechanism for load time series forecasting: AN-LSTM
Liu et al. A DLSTM-network-based approach for mechanical remaining useful life prediction
Xiang et al. Concept drift adaptation methods under the deep learning framework: A literature review
Indra et al. Modeling of optimal deep learning based flood forecasting model using twitter data
Cui et al. Spatiotemporal correlation modelling for machine learning-based traffic state predictions: state-of-the-art and beyond
CN116995673B (en) Power load prediction method, power load prediction model training method and device
Bouzidi et al. Enhancing crisis management because of deep learning, big data and parallel computing environment: survey
Lara-Benítez et al. Data streams classification using deep learning under different speeds and drifts
CN117391257A (en) Road congestion condition prediction method and device
Nayak et al. An artificial neural network model for weather forecasting in Bhopal
Utama et al. Intelligent IoT Platform for Multiple PV Plant Monitoring
Sharma et al. Deep Learning Based Prediction Of Weather Using Hybrid_stacked Bi-Long Short Term Memory

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant