KR102172925B1 - 딥러닝 기반 기후 변화 예측 시스템의 동작 방법 - Google Patents

Abstract

본 발명의 일 실시 예에 따른 딥러닝 기반의 기후 변화 예측 시스템의 동작 방법은, 다양한 종류의 기상 데이터들을 기상 정보로서 입력 받는 단계; 입력되어야 할 기상 데이터들 중 누락된 기상 데이터가 있는지를 감지하는 단계; 누락된 기상 데이터가 있는 경우, 누락된 기상 데이터의 위치에 LSTM(long short-terms memory) networks 기반 정제 모델에 의해 예측된 기상 데이터를 적용하여 정제된 기상 정보를 생성하는 단계; 및 상기 정제된 기상 정보를 바탕으로 기후 변화 예측을 수행하는 단계를 포함한다.

Description

딥러닝 기반 기후 변화 예측 시스템의 동작 방법{OPERATING METHOD OF DEEP LEARNING BASED CLIMATE CHANGE PREDICTION SYSTEM}

본 발명은 정확한 기후 변화를 예측할 수 있는 딥러닝 기반 기후 변화 예측 시스템의 동작 방법에 관한 것이다.

오늘날 비정상적인 기후는 삶의 질을 저하시킬 뿐만 아니라, 그 변화에 대한 예측이 불가능하여 생태계에 큰 위협이 되고 있다. 생태계는 기후 변화에 대해 경고하고 있고, 인류는 장기적인 기상 예측에 대한 필요성이 절실한 상황이다. 이러한 기후 변화의 예측은 현재 모델 기반 방법에 주로 의존하여 이루어지고 있으나, 모델 기반 방법을 이용한 기후 변화 예측은 기후 변화 예측의 정확성이 높지 않다는 문제점이 있다.

공개특허: 10-2018-0084684, 공개일: 2018년 7월 25일, 제목: 날씨 콘텐츠 정보 생성 장치. 등록특허: 10-1761686, 등록일: 2017년 07월 20일, 제목: 머신 러닝을 이용한 태양광 발전량 실시간 예측 시스템.

본 발명의 목적은 LSTM 기반 정제 모델을 이용하여 누락된 기상 데이터의 정제 기능을 수행함으로써 보다 정확한 기후 변화를 예측할 수 있는 딥러닝 기반 기후 변화 예측 시스템의 동작 방법을 제공하는데 있다.

본 발명의 기술적 과제는 이상에서 언급한 사항에 제한되지 않으며, 이하에서 설명할 내용으로부터 본 발명이 속하는 기술 분야의 통상의 지식을 가진 자라면 본 발명이 의도하는 기타의 과제들 또한 명료하게 이해할 수 있을 것이다.

상기와 같은 과제를 해결하기 위한 본 발명의 일 실시 예에 따른 딥러닝 기반의 기후 변화 예측 시스템의 동작 방법은, 다양한 종류의 기상 데이터들을 기상 정보로서 입력 받는 단계; 입력되어야 할 기상 데이터들 중 누락된 기상 데이터가 있는지를 감지하는 단계; 누락된 기상 데이터가 있는 경우, 누락된 기상 데이터의 위치에 LSTM(long short-terms memory) networks 기반 정제 모델에 의해 예측된 기상 데이터를 적용하여 정제된 기상 정보를 생성하는 단계; 및 상기 정제된 기상 정보를 바탕으로 기후 변화 예측을 수행하는 단계를 포함한다.

상기 누락된 기상 데이터가 있는 경우, 과거 및 미래의 기상 데이터를 이용하여 상기 누락된 기상 데이터를 선형 보간하고, 보간된 기상 데이터를 포함하는 기상 정보를 사용하여 상기 LSTM 기반 정제 모델을 구성하는 단계를 더 포함한다.

상기 누락된 기상 데이터가 없는 경우, 상기 기상 정보를 이용하여 상기 LSTM 기반 정제 모델을 구성하는 한편, 상기 기상 정보를 이용하여 기후 변화를 예측하는 단계를 더 포함한다.

상기 LSTM 기반 정제 모델은 입력되는 기상 정보를 이용하여 데이터의 불규칙성을 학습하는 attention 훈련 기법에 따라 훈련하는 것을 특징으로 한다.

상기 LSTM 기반 정제 모델은 2개의 LSTM 레이어와 하나의 출력 레이어를 갖는 것을 특징으로 한다.

상기 LSTM 기반 정제 모델은 6시간, 12시간 및 24시간 중에서 어느 하나의 시간에 대한 온도를 예측하는 것을 특징으로 한다.

상기 LSTM 기반 정제 모델은 7일 혹은 14일 중에서 어느 하나의 날짜에 대한 온도를 예측하는 것을 특징으로 한다.

상기 LSTM 기반 정제 모델은 온도에 초점을 맞추기 위해 선형, S자형 및 ReLU 활성화 함수를 통해 입력 특징을 출력값에 연결하는 것을 특징으로 한다.

본 발명의 실시 예에 따른 딥러닝 기반 기후 변화 예측 기술이 적용된 시스템을 이용하면, 누락된 기상 데이터에 대해 LSTM 기반 데이터 정제 모델을 이용하여 정제할 수 있기 때문에 보다 정확한 기후 변화 예측이 가능하다.

이하에 첨부되는 도면들은 본 실시 예에 관한 이해를 돕기 위한 것으로, 상세한 설명과 함께 실시 예들을 제공한다. 다만, 본 실시예의 기술적 특징이 특정 도면에 한정되는 것은 아니며, 각 도면에서 개시하는 특징들은 서로 조합되어 새로운 실시 예로 구성될 수 있다.
도 1은 본 발명의 실시 예에 따른 딥러닝 기반의 기후 변화 예측 기술과 관련된 다양한 기술 분야를 도시적으로 나타낸 것이다.
도 2와 도 3은 본 발명의 실시 예에 따른 기후 변화 예측 시스템의 일례를 도시한 도면이다.
도 4는 도 2의 기후 변화 예측 시스템의 데이터 분류 알고리즘에 따른 동작을 예시적으로 도시한 도면이다.
도 5는 도 2의 기후 변화 예측 시스템의 예측 알고리즘에 따른 동작을 예시적으로 도시한 도면이다.
도 6 내지 도 8은 도 2의 기후 변화 예측 시스템을 이용하여 온도에 대한 예측을 수행한 결과를 나타낸 그래프들이다.
도 9는 본 발명의 기후 변화 예측 시스템을 중기간의 기후 변화 예측을 위해 확장시킨 경우의 예측 모델의 구조를 예시적으로 보여주는 도면이다.
도 10(a)은 DNN의 일반적인 구조를 나타낸 도면이고, 도 10(b)는 6, 12, 24 시간의 기후를 예측하는 DNN 모델을 도시한 도면이다.
도 11은 일반적인 RNN의 단일 루프 모델을 도시한 도면이다.
도 12는 본 발명의 기후 변화 예측 시스템의 예측 모듈에 적용되는 LSTM의 단위 셀의 구조를 예시적으로 보여주는 도면이다.
도 13은 도 12의 LSTM 단위 셀을 이용하여 구현되는 LSTM 기반 예측 모델의 일례를 도시한 도면이다.
도 14는 본 발명에서 제안되는 정제 기능을 갖는 LSTM 기반 기후 변화 예측 모델을 이용한 동작 아키텍처를 보여주는 도면이다.

본문에 개시되어 있는 본 발명의 실시 예들에 대해서, 특정한 구조적 내지 기능적 설명들은 단지 본 발명의 실시 예를 설명하기 위한 목적으로 예시된 것으로, 본 발명의 실시 예들은 다양한 형태로 실시될 수 있으며 본문에 설명된 실시 예들에 한정되는 것으로 해석되어서는 안 된다.

본 발명은 다양한 변경을 가할 수 있고 여러 가지 형태를 가질 수 있는 바, 특정 실시 예들을 도면에 예시하고 본문에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 개시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.

제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위로부터 이탈되지 않은 채 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다.

어떤 구성요소가 다른 구성요소에 “연결되어” 있다거나 “접속되어” 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 “직접 연결되어” 있다거나 “직접 접속되어” 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다. 구성요소들 간의 관계를 설명하는 다른 표현들, 즉 “~사이에”와 “바로 ~사이에” 또는 “~에 이웃하는”과 “~에 직접 이웃하는” 등도 마찬가지로 해석되어야 한다.

본 출원에서 사용한 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, “포함하다” 또는 “가지다” 등의 용어는 개시된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.

다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.

한편, 어떤 실시 예가 달리 구현 가능한 경우에 특정 블록 내에 명기된 기능 또는 동작이 순서도에 명기된 순서와 다르게 일어날 수도 있다. 예를 들어, 연속하는 두 블록이 실제로는 실질적으로 동시에 수행될 수도 있고, 관련된 기능 또는 동작에 따라서는 상기 블록들이 거꾸로 수행될 수도 있다.

딥 러닝(deep learning)은 사람들이 생각하는 방식을 컴퓨터에 가르치고 여러 가지 비선형 변환을 결합하여 주어진 데이터에서 높은 수준의 추상화를 시도하는 기계 학습 분야이다.

기계가 이해할 수 있는 형태로 다양한 데이터를 표현하는 방법에 대한 많은 연구가 수행되고 있다. 그 결과, DNN(deep neural network), CNN(convolutional neural network), RNN(recurrent neural network), LSTM(long short-term memory) 등 다양한 심층 학습 모델이 개발되고 있다.

이것들은 많은 관심을 끌었으며 음성 인식, 이미지 인식, 이벤트 감지 및 자연 언어 처리를 비롯한 많은 응용 분야에서 기존의 신호 처리 기술을 대체하고 있다.

본 발명의 실시 예에 따른 기후 변화 예측 기술은 실제 관측된 기상 데이터를 입력으로 하는 DNN(deep neural network) 기반의 온도 예측 모델을 포함할 수 있다.

제안된 온도 예측 모델은 누락된 기상 데이터를 복원하기 위해 데이터를 정제하는 기능을 가질 수 있다. 또한, 온도가 계절적이기 때문에 장기간의 데이터에 적합한 것으로 알려진 RNN(recurrent neural network)의 일종인 LSTM(long short terms memory networks)이 온도 예측 모델로 이용될 수 있다.

또한, 본 발명에 있어서 LSTM 기반의 온도 예측 모델은 온도 데이터의 시계열 특성을 반영하여 온도를 예측할 수 있다. LSTM 기반의 온도 예측 모델은 시간, 온도, 습도, 풍속, 및 바람 방향 등의 이전의 24 시간 동안의 데이터를 입력으로 사용할 수 있다.

모델 학습 중에 누락된 데이터가 감지되면, 누락된 데이터는 제안된 기능의 일부인 정제 기능을 사용하여 예측될 수 있다. 누락된 데이터가 모두 정제 된 후, 정제된 데이터를 사용하여 온도 예측 모델이 재훈련 될 수 있다.

또한 제안된 LSTM 기반의 온도 예측 모델은 기 설정된 시간 단위(1, 12 및 24 시간 등)로 온도를 예측할 수 있으며, 미래 날짜(7일 후, 14일 후 등)의 온도를 예측할 수 있도록 확장될 수 있다.

제안된 정제 LSTM 기반의 온도 예측 모델의 성능은 실제 온도와 예측된 온도 사이의 RMSE(root-mean-squared error)를 통해 측정될 수 있다.

도 1은 본 발명의 실시 예에 따른 딥러닝 기반의 기후 변화 예측 기술과 관련된 다양한 기술 분야를 도시적으로 나타낸 것이다.

본 발명의 기후 변화 예측 기술은 스마트 센서 기반의 IoT(Internet of Things) 및 인공지능(AI: Artificial Intelligence) 전송 정보 응용 UI(User Interface)를 통해 구현될 수 있다.

구체적으로는, 본 발명의 기후 변화 예측 기술은 Time-series 기후 변화 정보 분류 알고리즘, 시각화를 위한 데이터 검증, 시각화 알고리즘, 예측정보 활용 시나리오, 실시간 환경정보 제공 UI 등을 이용하여 구현될 수 있다.

또한 본 발명의 기후 변화 예측 기술은 기후 변화 정보 응용 모니터링 통합 플랫폼을 통해 구현될 수 있다.

구체적으로, 본 발명의 기후 변화 예측 기술은 무선 통신망 기반 MTC(Machine Type Communication)와 AI간 실시간 정보 송수신, 불완전 데이터 처리를 위한 fault detection, 실시간 모니터링 feedback 프로토콜, 모니터링 서비스 및 응용 시나리오 등을 통해 구현될 수 있다.

도 2와 도 3은 본 발명의 실시 예에 따른 기후 변화 예측 시스템의 일례를 도시한 도면이다.

도 2와 도 3을 참조하면, 본 발명의 기후 변화 예측 시스템(200)은 데이터 입력 모듈(210), 예측 모듈(220) 및 예측결과 출력모듈(230)을 포함할 수 있다.

데이터 입력 모듈(210)은 입력되는 데이터(시간, 온도, 습도, 풍속, 바람 방향, 기압, 지역 정보 등)를 예측 모듈(220)로 제공한다.

실시 예에 있어서, 데이터 입력 모듈(210)은 LSTM(long short terms memory networks) 기반의 정제 모델을 이용할 수 있으며, LSTM 기반의 정제 모델은 데이터의 불규칙성을 학습하는 attention 훈련 기법을 이용하도록 구현될 수 있다.

실시 예에 있어서, 데이터 입력 모듈(210)은 시계열(time-series) 기후 변화 데이터를 정제하도록 구현될 수 있다.

예측 모듈(220)은 데이터 입력 모듈(210)로부터의 데이터에 기반하여 기후 변화를 예측하고, 예측된 결과를 예측결과 출력모듈(230)로 제공한다.

실시 예에 있어서, 예측 모듈(220)은 LSTM(long short terms memory networks)에 기초하여 기후 변화를 예측할 수 있다.

실시 예에 있어서, 예측 모듈(220)은 결측 정보 예측 기능을 활용한 딥 러닝(deep learning)에 기반한 기후 변화 예측 모델을 이용할 수 있다.

실시 예에 있어서, 예측 모듈(220)은 국소 지역에 대한 기후 예측을 할 수 있고, 단기 및 장기 기후 예측을 할 수 있다.

실시 예에 있어서, 데이터 입력 모듈(210)에 의해 수행되는 정제 기능은 예측 모듈(220)에 의해 수행될 수도 있다.

예측결과 출력모듈(230)은 예측 모듈(220)로부터의 예측 결과를 기 설정된 방식으로 출력한다.

도 2의 기후 변화 예측 시스템을 이용하여 테스트를 하기 위한 데이터를 획득하여 분류하기까지의 과정을 예시적으로 설명한다

기상청으로부터 2000년 1월 1일 ~ 2015년 12월 31일 사이의 기후 변화 정보(기온, 습도, 풍속, 풍향, 강수량, 증기압, 이슬점온도, 현지기압, 해면기압, 일조, 일사, 적설, 전운량, 지면 온도)가 수집이 되었다.

그리고, 2000년 1월 1일 ~ 2015년 12월 24일 동안의 기후 변화 정보가 훈련 데이터로 이용되고, 훈련이 종료된 이후, 2015년 12월 25일 ~ 2015년 12월 31일 동안의 온도 변화에 대한 예측 실험이 이루어졌다.

예측 실험 결과는 2015년 12월 25일 ~ 2015년 12월 31일 동안의 실제 온도 변화와 비교되었으며, 비교 결과는 후술하도록 한다.

이상의 과정은 도 2와 도 3의 데이터 입력 모듈(210)에 의해 이루어질 수 있으며, 저장 서버(ex, 기상청 DB)로부터 정보를 수집하는 과정, 수집된 정보에서 특징을 추출하는 과정과, 추출된 특징에 기초하여 정보를 분류하는 과정을 포함할 수 있다.

도 4는 도 2의 기후 변화 예측 시스템의 데이터 분류 알고리즘에 따른 동작을 예시적으로 도시한 도면이다.

도 4에 도시된 데이터 분류 알고리즘은 도 2의 데이터 입력 모듈(210)에 적용되고, 도 3의 단계 S320에서 이용될 수 있다.

도 4를 참조하면, 동시간(t) 대에서 복수의 데이터(400)가 입력되면, 시간별로 상관관계가 높은 기후변화 정보를 선택하도록 구현된 데이터 선택 노드(410)에 의해 데이터가 선택되어 시간 순서에 따라 출력된다.

데이터 선택 노드(410)로부터 출력되는 시계열 데이터(420)는 기간 선택 노드(430)로 입력되고, 기 설정된 소정 기간에 해당하는 데이터를 선택하도록 구현된 기간 선택 노드(430)에 의해 선택되어 소정 기간의 데이터가 출력된다.

기간 선택 노드(430)로부터 출력되는 데이터는 데이터 분류 노드(440)로 입력되고, 데이터 분류 노드(440)는 기 설정된 분류 방법에 따라 데이터를 분류한다.

도 5는 도 2의 기후 변화 예측 시스템의 예측 알고리즘에 따른 동작을 예시적으로 도시한 도면이다.

도 5의 500은 도 2의 예측 모듈(200)에 해당하는 구성이고, 도 5의 510은 도 2의 예측결과 출력모듈(230)에 해당하는 구성으로, 예측 모듈(500)은 LSTM(long short-terms memory networks)에 기반하여 예측을 수행한다.

예측 모듈(500)은 입력층(input layer, 501)을 통해 입력되는 데이터들에 시계열 분석을 수행하여 데이터들을 분해(decomposition)하고, 분해된 데이터들을 입력으로 하는 LSTM 예측 모델(502)을 이용하여 예측을 수행하고, 출력층(output layer, 503)을 통해 예측 결과를 출력한다.

예측결과 출력모듈(510)은 예측 모듈(500)로부터의 예측 결과를 제공받고, 기 설정된 바에 따라 출력하는 구성이다.

예측결과 출력모듈(510)은 예측 결과를 출력하는 기능, 테스트 시 예측 결과와 실측 데이터를 비교한 결과를 출력하는 기능, 예측 결과 및 실측 데이터에 기초하여 기초평균 제곱근 오차(root-mean-square error, RMSE)를 계산하여 출력하는 기능 등 다양한 기능을 수행할 수 있다.

예측결과 출력모듈(510)은 출력하고자 하는 정보를 텍스트 형태, 혹은 그래프 형태 등 다양한 형태로 출력할 수 있다.

도 6 내지 도 8은 도 2의 기후 변화 예측 시스템을 이용하여 온도에 대한 예측을 수행한 결과를 나타낸 그래프들이다.

도 6 내지 8에 도시된 그래프는, 2000년 1월 1일 ~ 2015년 12월 24일 동안의 기후 변화 정보를 이용하여 훈련한 후 2015년 12월 25일 ~ 2015년 12월 31일 동안의 온도 변화를 예측한 결과 데이터이다.

도 6 내지 8의 그래프에는, 비교를 위해, 2015년 12월 25일 ~ 2015년 12월 31일 동안의 실제 온도 변화 곡선과 예측 온도 변화 곡선이 함께 도시되었다.

도 6의 그래프는 훈련 시에 기후 변화 정보로서 기온이 입력된 경우의 온도 예측 결과를 나타낸 것이고, 도 7의 그래프는 훈련 시에 기후 변화 정보로서 기온과 습도가 입력된 경우의 온도 예측 결과를 나타낸 것이고, 도 8의 그래프는 훈련 시에 후 변화 정보로서 기온, 습도, 풍속이 입력된 경우의 온도 예측 결과를 나타낸 것이다.

도 6의 그래프와 관련된 RMSE는 0.64, 도 7의 그래프와 관련된 RMSE는 0.62, 도 8의 그래프와 관련된 RMSE는 0.58로 작게 산출되었다.

도 9는 본 발명의 기후 변화 예측 시스템을 중기간의 기후 변화 예측을 위해 확장시킨 경우의 예측 모델의 구조를 예시적으로 보여주는 도면이다.

도 9에 도시된 바와 같은 LSTM 기반 기후 변화 예측 모델은 중기간의 기후 변화를 예측하는 경우에 많이 발생할 수 있는 데이터 누락을 보간하기 위한 정제(refinement) 기능을 수행하며, 이에 대한 상세한 설명은 도 14를 참조하여 후술한다.

한편, 도 9의 도면부호 '900'은 LSTM 기반 정제 모델을 나타낸다.

도 10(a)은 DNN의 일반적인 구조를 나타낸 도면이고, 도 10(b)는 6, 12, 24 시간의 기후를 예측하는 DNN 모델을 도시한 도면이다.

도 10(a)에 도시된 바와 같이, DNN은 입력층과 출력층 사이에 최소 두 개의 은닉층이 있는 심층신경망이다. 은닉층는 더 깊이 쌓을 수 있으며, 각 층의 노드 사이는 피드-포워드 연결을 가지고 있다. 따라서, 정보 표현은 층의 각 노드에 적용되는 로지스틱 함수에 의해 이루어진다.

도10(b)에 도시된 바와 같이, 3개의 시간(6, 12, 24)에 대한 예측을 위한 DNN 모델은 각각 6, 12 혹은 24시간 예측에 대해 6, 12 혹은 24개의 노드를 포함하는 입력층을 가지고 있다.

또한, 각 DNN 모델에는 층당 96개의 노드를 갖는 3개의 은닉층이 존재하며, 출력층에는 대상값이 해당 미래 시간의 관측 온도로 지정된 단일 노드가 있다.

한편, 시계열 데이터의 특성을 이용하기 위해 RNN은 다양한 애플리케이션에서 최첨단 성능을 제공하는 것으로 입증되고 있다.

도 11은 일반적인 RNN의 단일 루프 모델을 도시한 도면으로서, DNN은 현재 시간 데이터만 처리하는 반면, RNN은 현재 및 과거 시간 데이터를 본질적으로 처리 할 수 있다.

따라서 RNN은 DNN보다 날씨와 같이 시간계열적 특징을 갖는 데이터 예측에 더 적합하다. 하지만, RNN은 숨겨진 상태에서 이전의 데이터를 반복적으로 추적할 필요가 있는데, 이는 모델 훈련 동안 기울기 값이 사라지는 문제를 일으킬 수 있다.

한편, 본 발명에서 이용하는 LSTM는 RNN보다 긴 기간의 데이터를 학습할 수 있도록 개발된 일종의 RNN이다. LSTM은 기울기 값이 사라지는 문제를 해결하기 위해 LSTM에 존재하는 게이트에서 숨겨진 상태를 제어한다.

도 12는 본 발명의 기후 변화 예측 시스템의 예측 모듈에 적용되는 LSTM의 단위 셀의 구조를 예시적으로 보여주는 도면이다.

도 12에 도시된 바와 같이, LSTM의 단위 셀은 입력 게이트(Input gate), 망각 게이트(Forget gate) 및 출력 게이트(Output gate)로 구성된다.

주어진 시간

에 대해, LSTM의 각 게이트는 입력

, 이전 숨은 상태 값

, 현재 셀 값

, 이전 셀 값

에 의해 결정되며, 방정식은 아래의 수학식 1을 만족할 수 있다.

여기서,

,

및

는 각각 현재 시간

에 대한 입력, 삭제 및 출력 게이트의 값이다. σ는 0부터 1까지의 로지스틱 시그모이드 함수로 구현되는 활성화 함수이다.

는 게이트 값을 계산하기 위한 가중치 행렬을 나타내며, 예를 들어,

는 입력

를 입력 게이트

에 연결하는 가중치 행렬이다.

,

및

는훈련 데이터에 따라 데이터 공간의 중심을 조정하기 위해 각 게이트에 추가되는 바이어스이다.

LSTM 단위 셀은 하이퍼볼릭 탄젠트 함수로 구현되는 활성화 함수

를 적용하여 블록 입력을 가져 와서 이전 메모리 전체를 잊었거나 새 입력 데이터를 무시하는지 결정할 수 있다. 결과적으로, 시간

에서의 셀 값(

)은 아래의 수학식 2와 같이 계산될 수 있다.

여기서,

는

이고, 이 때

는 셀의 바이어스이다.

즉, LSTM의 메모리는 이전 셀 값

과 망각 게이트 값

의 곱셈뿐만 아니라

에 의해 제어되는 입력 게이트 값

의 부분량을 유지할 수 있다.

다음으로, 현재의 숨은 상태 값

은

을

함수에 적용하여 하기의 수학식 3에 따라 정의될 수 있다.

RNN과 비교하여, LSTM은 데이터 시퀀스의 길이를 적절하게 절단하는 3개의 게이트(입력 게이트, 망각 게이트, 출력 게이트)를 가지며, 적은 추가 비용으로 기울기 소멸 문제를 해결할 수 있다.

도 13은 도 12의 LSTM 단위 셀을 이용하여 구현되는 LSTM 기반 예측 모델의 일례를 도시한 도면이다.

도 13에 도시된 바와 같이, 본 발명의 기후 변화 예측 시스템의 예측 모듈에 적용되는 LSTM 기반 예측 모델은 하나의 입력 레이어(1300), 하나의 출력 레이어(1310) 및 LSTM 레이어(1320)으로 구성되고, LSTM 레이어(1320)는 도 12에 도시된 바와 같은 구조로 이루어지는 다수의 LSTM 단위 셀(1321)로 구성된다.

LSTM 기반의 기후 변화 예측 모델은 온도 예측에 있어서 어느 정도 정확하게 작동 할 수 있다. 하지만, 결함이 없는 방대한 양의 훈련 데이터를 수집하는 것은 어려운 일이다. 즉, 수집된 데이터는 불규칙하거나 일종의 결측을 가지게 되므로 불완전한 경향이 있다.

이를 해결하기 위해 본 발명에서 제안되는LSTM 기반의 기후 변화 예측 모델은 누락된 기상 데이터를 복원하기 위해 데이터 정제 기능을 갖는다.

흥미롭게도 온도는 상대 습도(RH), 풍속 및 풍향과 같은 다른 많은 기후 요인의 영향을 받는다. 또한, 그러한 기상 요소와 온도 사이에는 복잡한 상관 관계가 있다.

따라서, 주어진 시간에 온도 데이터가 누락되었지만 다른 기상 인자가 이용 가능하다면, 이러한 누락된 데이터는 상관된 특성을 사용함으로써 복원 될 수 있다. 이 사실을 바탕으로, 제안하는 모델의 정제 기능은 기상 요소와 기온 사이의 상관성을 기반으로 작동하는 LSTM을 사용함으로써 실현된다.

도 14는 본 발명에서 제안되는 정제 기능을 갖는 LSTM 기반 기후 변화 예측 모델을 이용한 동작 아키텍처를 보여주는 도면이다.

도 14의 동작 아키텍처는 4개의 기상 데이터(온도, 상대습도, 풍속, 풍향)를 입력으로 하고, 온도 데이터가 누락된 경우를 도시한 것으로, 본 발명의 정제 기능을 갖는 LSTM 기반 기후 변화 예측 모델의 동작이 본 실시 예에 한정되는 것은 아니다.

첫 번째 단계(S1400)에서, 4가지 종류의 기상 데이터(온도, 상대습도, 풍속 및 풍향)가 기상 정보로서 입력되면(S1401), 예측 모델은 기상 정보의 구성 요소에 누락이 있는지를 감지한다(S1402). 즉, 기상 정보 중 입력되어야 할 기상 데이터의 유무를 감지한다.

단계 S1402에서 기상 정보에 누락이 없는 경우(즉, 모든 기상 데이터가 입력된 경우, S1402-N), 예측 모델은 기상 정보를 이용하여 기후 변화 예측을 수행한다(S1430).

이하에서는, 모든 기상 데이터를 포함하는 기상 정보를 ‘완전 기상 정보’라 한다.

또한, 단계 S1402에서 기상 정보에 누락이 없는 경우(S1402-N), 예측 모델은 완전 기상 데이터를 이용하여 LSTM 기반 정제 모델을 구성한다(S1410).

이때, 예측 모델은 데이터의 불규칙성을 학습하는 attention 훈련 기법을 사용하여 기상 데이터가 가지고 있는 불규칙성에 대한 훈련을 진행한다.

단계 S1410에 따라 구성되는 LST 기반 정제 모델은 다차원 기상 데이터를 입력으로 하고, 2개의 LSTM 레이어와 하나의 출력 레이어를 갖는다.

단계 S1402에서 기상 정보에 누락이 있는 경우(즉, 입력되어야 할 기상 데이터 중 누락된 기상 데이터가 있는 경우, S1402-Y), 예측 모델은 누락된 기상 정보를 기준으로 과거 기상 정보 및 미래 기상 정보를 바탕으로 선형 보간(Liner interpolation)한다(S1403).

그리고, 예측 모델은 단계 S1410에 따라, 보간된 데이터를 이용하여 LSTM 기반 정제 모델을 구성한다.

이하에서는, 일부 기상 데이터가 누락되어 모든 기상 데이터를 포함하지 않은 기상 정보를 ‘불완전 기상 정보’라 한다.

또한, 단계 S1402에서 기상 정보에 누락이 있는 경우(S1402-Y), 예측 모델은 불완전 기상 정보를 단계 S1410에 따라 구성된 LSTM 기반 정제 모델에 입력하여, 누락된 기상 데이터의 위치에 LSTM 기반 정제 모델에 의해 예측된 기상 데이터를 적용함으로써, 완전 기상 정보가 생성한다(S1420).

이때, 예측 모델은 기상 정보에 대한 시간 정보를 참조하여, 누락된 기상 데이터를 예측된 기상 데이터로 대체할 수 있다.

이와 같이 누락된 기상 데이터를 예측된 기상 데이터로 대체하여 완전 기상 정보로 생성하는 것을 ‘정제 기능’이라 하고, 정제 기능에 의해 생성된 완전 기상 정보를 ‘정제된 기상 정보’라 한다.

이후, 예측 모델은 정제된 기상 정보를 바탕으로 단계 S1430을 수행하여 기후 변화를 예측한다.

한편, 예측 모델이 날씨를 예측하는데 있어서 날씨 변화는 매우 복잡하여 다양한 변수들이 날씨의 변화를 통제하는 데 중추적인 역할을 한다. 따라서 모델의 훈련을 진행하는 과정에서 다양한 요인이 성능에 영향을 줄 수 있다. LSTM 기반 모델에 있어서 그 요인 중 일부를 하이퍼 파라미터로 간주할 수 있다. 신경망의 깊은 구조는 매우 복잡한 논리로써 기능을 수행한다. 따라서 하이퍼 파라미터와 같은 네트워크 요소의 변화는 예측 결과에 영향을 미칠 수 있다. 하이퍼 파라미터는, 학습 속도, 배치 크기, 에포크(epoch) 수, 정규화, 가중치 초기화, 은닉층의 수, 노드 수 등을 포함할 수 있다.

은닉층의 경우 활성화 함수는 입력 특징값이 출력 값에 연결될 수 있는지 여부를 결정한다. 일반적으로 활성화 함수는 한정되어야 한다. 활성화 함수의 값이 특정 범위를 초과하면, 활성화 된 것으로 간주된다. 그 값이 경계값보다 작은 경우, 그것은 잊혀질 것이다. 제안된 LSTM 기반 예측 모델을 기상 데이터, 특히 온도에 초점을 맞추기 위해 선형, S자형 및 ReLU와 같은 몇 가지 활성화 함수가 경험에 의해 결정된다. 이를 위해 세 가지 활성화 함수가 모델에 사용되고, 그 중 하나가 최상의 예측 정확도를 위해 선택된다. 정규 실험을 거쳐 ReLU가 해당 데이터 형식에 있어서 가장 뛰어난 결과값을 출력하기에 선택되었다.

본 발명의 실시 예에 따른 기후 변화 예측 시스템은 1차 날씨 변수의 주요 영향을 고려하여 6시간에서 14일까지의 시간 주기를 추적하는 신경망 기반 온도 예측 모델을 포함할 수 있다. 제안된 모델은 시계열 데이터에 적합하도록 RNN, 즉 LSTM을 기반으로 한다. 특히 수집된 기상 데이터베이스에 자주 등장하는 누락된 데이터는 온도, 상대 습도, 풍속 및 풍향과 함께 LSTM 프레임 워크를 사용하여 정제될 수 있다. 그 후 제안된 LSTM 기반 모델은 6시간, 12시간 및 24시간과 같은 짧은 시간 동안 온도를 예측하기 위해 구현될 수 있다. 또한 7일과 14일과 같은 상대적으로 오랜 시간 동안 온도를 예측하기 위해 확장 될 수 있다.

본 발명에 따른 단계들 및/또는 동작들은 기술분야의 통상의 기술자에 의해 이해될 수 있는 것과 같이, 다른 순서로, 또는 병렬적으로, 또는 다른 에포크 등을 위해 다른 실시 예들에서 동시에 일어날 수 있다.

실시 예에 따라서는, 단계들 및/또는 동작들의 일부 또는 전부는 하나 이상의 비-일시적 컴퓨터-판독가능 매체에 저장된 명령, 프로그램, 상호작용 데이터 구조(interactive data structure), 클라이언트 및/또는 서버를 구동하는 하나 이상의 프로세서들을 사용하여 적어도 일부가 구현되거나 또는 수행될 수 있다. 하나 이상의 비-일시적 컴퓨터-판독가능 매체는 예시적으로 소프트웨어, 펌웨어, 하드웨어, 및/또는 그것들의 어떠한 조합일 수 있다. 또한, 본 명세서에서 논의된 "모듈"의 기능은 소프트웨어, 펌웨어, 하드웨어, 및/또는 그것들의 어떠한 조합으로 구현될 수 있다.

본 발명의 실시 예들의 하나 이상의 동작들/단계들/모듈들을 구현/수행하기 위한 하나 이상의 비-일시적 컴퓨터-판독가능 매체 및/또는 수단들은 ASICs(application-specific integrated circuits), 표준 집적 회로들, 마이크로 컨트롤러를 포함하는, 적절한 명령들을 수행하는 컨트롤러, 및/또는 임베디드 컨트롤러, FPGAs(field-programmable gate arrays), CPLDs(complex programmable logic devices), 및 그와 같은 것들을 포함할 수 있지만, 여기에 한정되지는 않는다.

한편, 상술 된 본 발명의 내용은 발명을 실시하기 위한 구체적인 실시 예들에 불과하다. 본 발명은 구체적이고 실제로 이용할 수 있는 수단 자체뿐 아니라, 장차 기술로 활용할 수 있는 추상적이고 개념적인 아이디어인 기술적 사상을 포함할 것이다.

200 : 기후 변화 예측 시스템
210 : 데이터 입력 모듈
220 : 예측 모듈
230 : 예측결과 출력모듈

Claims (8)

1. 딥러닝 기반의 기후 변화 예측 시스템의 동작 방법에 있어서,
   다양한 종류의 기상 데이터들을 기상 정보로서 입력 받는 단계;
   입력되어야 할 기상 데이터들 중 누락된 기상 데이터가 있는지를 감지하는 단계;
   누락된 기상 데이터가 있는 경우, 누락된 기상 데이터의 위치에 LSTM(long shortterms memory networks) 기반 정제 모델에 의해 예측된 기상 데이터를 적용하여 정제된 기상 정보를 생성하는 단계; 및
   상기 정제된 기상 정보를 바탕으로 기후 변화 예측을 수행하는 단계;를 포함하고,
   상기 누락된 기상 데이터가 있는 경우,
   상기 누락된 기상 데이터를 기준으로 과거 및 미래의 기상 데이터를 이용하여 상기 누락된 기상 데이터를 선형 보간하고, 보간된 기상 데이터를 포함하는 기상 정보를 사용하여 상기 LSTM 기반 정제 모델을 구성하여 상기 누락된 기상 데이터의 위치에 적용할 상기 예측된 기상 데이터를 예측하는 단계를 더 포함하는 것을 특징으로 하는 방법.
2. 삭제
3. 삭제
4. 제 1 항에 있어서,
   상기 LSTM 기반 정제 모델은 입력되는 기상 정보를 이용하여 데이터의 불규칙성을 학습하는 attention 훈련 기법에 따라 훈련하는 것을 특징으로 하는 방법.
5. 제 1 항에 있어서,
   상기 LSTM 기반 정제 모델은 2개의 LSTM 레이어와 하나의 출력 레이어를 갖는 것을 특징으로 하는 방법.
6. 제 1 항에 있어서,
   상기 기후 변화 예측을 수행하는 단계는 6시간, 12시간 및 24시간 중에서 어느 하나의 시간에 대한 온도를 예측하는 것을 특징으로 하는 방법.
7. 제 1 항에 있어서,
   상기 기후 변화 예측을 수행하는 단계는 7일 혹은 14일 중에서 어느 하나의 날짜에 대한 온도를 예측하는 것을 특징으로 하는 방법.
8. 제 1 항에 있어서,
   상기 기후 변화 예측을 수행하는 단계는 온도에 초점을 맞추기 위해 선형, S자형 및 ReLU 활성화 함수를 통해 입력 특징을 출력값에 연결하는 것을 특징으로 하는 방법.
   

Images