TW202125347A - 基於深度學習的預測區間估測裝置、方法與其訓練方法 - Google Patents

基於深度學習的預測區間估測裝置、方法與其訓練方法 Download PDF

Info

Publication number
TW202125347A
TW202125347A TW108148151A TW108148151A TW202125347A TW 202125347 A TW202125347 A TW 202125347A TW 108148151 A TW108148151 A TW 108148151A TW 108148151 A TW108148151 A TW 108148151A TW 202125347 A TW202125347 A TW 202125347A
Authority
TW
Taiwan
Prior art keywords
prediction
deep learning
prediction interval
interval
learning model
Prior art date
Application number
TW108148151A
Other languages
English (en)
Inventor
呂藝光
Original Assignee
國立臺灣師範大學
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 國立臺灣師範大學 filed Critical 國立臺灣師範大學
Priority to TW108148151A priority Critical patent/TW202125347A/zh
Publication of TW202125347A publication Critical patent/TW202125347A/zh

Links

Images

Landscapes

  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

揭露一種基於深度學習的預測區間估測裝置，且基於深度學習的預測區間估測裝置包括深度學習模型。深度學習模型於訓練時所採用的成本函數關連於預測區間覆蓋範圍機率、預測區間界限與觀測輸出值密集度。深度學習模型用於接收第一輸入資料，並用於估測出預測區間，其中預測區間由預測上限值與預測下限值所組成。

Description

基於深度學習的預測區間估測裝置、方法與其訓練方法
本發明係關於一種預測區間的估測技術，且特別是一種基於深度學習的預測區間估測裝置、方法與其訓練方法。
一般而言，信賴區間（confidence interval）和預測區間（prediction interval）常用來量化和評估預測不確定性的指標，信賴區間是用來描述未知但固定值的不確定性，而預測區間用來描述未來且隨機的值，由此可知預測區間的定義比信賴區間來得廣。在現有文獻中，模型輸出的不確定性常用方法包括機率預測方法、系集（ensemble）預測方法、模型誤差的統計方法及智慧型學習模型（例如類神經網路、模糊類神經網路、模糊理論等）等，機率與系集預測這兩種方法需要先了解輸入與輸出資料間不確定資料分佈狀況，而模型誤差的統計方法常需要對資料進行某些假設，導致預測準確性常受制於這些假設的有效性。
由於智慧型學習模型方法之非線性塑模與強大的學習能力特性，因此智慧型學習模型方法已受到高度重視，例如差值（delta） 方法、貝氏（Bayesian）方法、引導程序（Bootstrap）方法、基於預測區間的成本函數（PI-based cost function）方法等。差值（delta） 方法利用對資料驅動模型的參數線性化來建構預測區間，貝氏（Bayesian）方法透過計算成本價函數的海森（Hessian）矩陣來建構預測區間，引導程序（Bootstrap）方法則是一種在統計學或機器學習領域上常見且有用的估計方法，也易於實現建構預測區間。上述差值（delta） 方法、貝氏（Bayesian）方法與引導程序（Bootstrap）方法在建構預測區間主要是對資料驅動模型的參數進行預測誤差最小化的訓練，例如平方誤差或權重衰減的成本函數，以獲得預測區間。
另外，基於預測區間的成本函數（PI-based cost function）方法是利用將預測誤差最小化的訓練改變為兩個測量指標的最小化的訓練，以考慮預測點輸出在預測區間之量化與目的評估，其中上述兩個測量指標分別為覆蓋範圍機率（coverage probability）與預測區間界限（prediction interval bound）。覆蓋範圍機率考慮預測點輸出的結果在預測區間的比例，預測區間界限考慮預測點輸出的範圍。此兩個測量指標是互相衝突，若要覆蓋範圍機率高，則預測區間界限要大，而預測區間界限大則預測結果不利於使用者決策的判斷。另一方面，若要求預測區間界限小，則覆蓋範圍機率變低，易導致使用者判斷錯誤。因此，資料驅動模型的預測區間估算變成一個權衡的問題（trade-off problems），基於預測區間的成本函數（PI-based cost function）方法主要目的在於求得覆蓋範圍機率與預測區間界限這兩個測量指標的最佳化（可參照相關文獻：[1] D. L. Shrestha and D. P. Solomatine, “Machine learning approaches for estimation of prediction interval for the model output,” Neural Netw.,vol. 19, no. 2, pp. 225–235, Mar. 2006； [2] A. Khosravi, S. Nahavandi, and D. Creighton, “Construction of optimal prediction intervals for load forecasting problems,” IEEE Trans. Power Syst., vol. 25, no. 3, pp. 1496–1503, Aug. 2010.），以改善差值（delta） 方法、貝氏（Bayesian）方法與引導程序（Bootstrap）方法無法保證覆蓋範圍機率與預測區間界限的最佳化問題。再者，現有文獻上解決工程的權衡問題常透過啟發式演算法，例如遺傳演算法（genetic algorithm）、粒子群演算法（particle swarm optimization）、類電磁演算法（electromagnetism-like mechanism）、定序（DNA）演算法、細菌覓食演算法（bacterial foraging algorithm）、蝙蝠演算法（bat algorithm）等，以優化權衡的指標。
請參照圖1，圖1是現有技術之預測區間估測方法所估測的預測區間之曲線示意圖。基於預測區間的成本函數（PI-based cost function）方法考慮覆蓋範圍機率與預測區間界限最佳化的問題，故於較佳情況下，雖然可使得每一個領前時間的觀測輸出值MID_FACT落於對應估測的預測區間（由預測上限值MAX_PRED_P與預測下限值MIN_PRED_P組成）內，但未考量觀測輸出值MID_FACT的密集度問題，故估測的預測區間存在著較不精準的問題，且特別是在觀測輸出值MID_FACT忽然有一個極大或極小值的情況。
綜合上述，差值（delta） 方法、貝氏（Bayesian）方法與引導程序（Bootstrap）方法在於強調預測區間具有預測誤差最優化的預測模型，而基於預測區間的成本函數（PI-based cost function）方法在於強調預測區間具有覆蓋範圍機率與預測區間界限兩者最優化的預測模型。基於預測區間的成本函數（PI-based cost function）方法雖然具有優化之覆蓋範圍機率與預測區間界限，然而並未探討覆蓋範圍與預測區間界限內觀測特性與觀測輸出值分佈情況（即觀測輸出值密集度）對資料驅動模型預測點輸出影響，也就是說，觀測特性與觀測輸出值分佈不同將導致預測準確率不同。另外，資料驅動預測模型常須進行領前多步預測（multistep-ahead forecasting），然而隨著領前步數的增加其預測的不確定性亦將提高，因此，如何有效地獲得較佳領前多步的預測區間亦是一重要課題。
本發明實施例提供一種基於深度學習的預測區間估測裝置，且基於深度學習的預測區間估測裝置包括深度學習模型。深度學習模型於訓練時所採用的成本函數關連於預測區間覆蓋範圍機率、預測區間界限與觀測輸出值密集度。深度學習模型用於接收第一輸入資料，並用於估測出預測區間，其中預測區間由預測上限值與預測下限值所組成。
可選地，預測區間覆蓋範圍機率定義為多個觀測輸出值落入多個訓練預測區間的機率，預測區間界限定義為多個訓練預測上限值與多個訓練預測下限值之差值的均值，以及觀測輸出值密集度定義為多個觀測輸出值與多個訓練預測區間之中心值的差值之均值。
可選地，深度學習模型更用於根據第一輸入資料輸出預測輸出值。
如可選地，預測輸出值為對應之預測上限值與預測下限值的平均值。
如可選地，深度學習模型為類神經網路。
如可選地，深度學習模型包括第一類神經網路與第二類深神經網路。第一類神經網路用於接收第一輸入資料，並根據第一輸入資料產生量值預測資料。第二類神經網路於訓練時，採用所述成本函數。第二類神經網路根據量值預測資料估測出預測區間。
如可選地，深度學習模型更包第三類神經網路。第三類神經網路用於接收第二輸入資料，並根據第二輸入資料產生參數預測資料。第二類神經網路根據參數預測資料修正預測區間。
可選地，預測區間為發電量預測區間，第一輸入資料為氣象資料、日射量觀測資料與選定區域之日射量計算資料的至少其中一者，或者，第一輸入資料為氣象資料與風量觀測資料的至少其中一者。
本發明實施例提供一種基於深度學習的預測區間估測方法，其步驟如下：提供訓練完成的深度學習模型，其中深度學習模型於訓練時所採用的成本函數關連於預測區間覆蓋範圍機率、預測區間界限與觀測輸出值密集度；將輸入資料輸入至深度學習模型；以及深度學習模型根據輸入資料估測出預測區間，其中預測區間由預測上限值與預測下限值所組成。
本發明實施例提供一種深度學習模型的訓練方法，其步驟如下：提供欲訓練的深度學習模型，其中深度學習模型於訓練時所採用的成本函數關連於預測區間覆蓋範圍機率、預測區間界限與觀測輸出值密集度；依序輸入多個觀測輸入資料至深度學習模型，並據此獲得多個觀測輸入資料所對應的多個訓練預測區間，其中每一個訓練預測區間由訓練預測上限值與訓練預測下限值所形成；根據多個訓練預測區間與對應於多個觀測輸入資料的多個觀測輸出值計算成本函數的值；以及根據成本函數的值調整深度學習模型的多個權重值或停止訓練深度學習模型。
簡言之，相較於現有技術，本發明實施例提供的基於深度學習的預測區間估測裝置與方法所估測的預測區間的預測區間界限較小、預測區間覆蓋範圍機率較大且觀測輸出值距離預測界限之中心值較小，亦即，預測區間更為精準。
為充分瞭解本發明之目的、特徵及功效，茲藉由下述具體之實施例，並配合所附之圖式，對本發明做一詳細說明，說明如後。
本發明的目的在於提供一種基於深度學習的預測區間估測裝置或方法，以有效地融入預測誤差最優化至預測區間成本函數法並建構出預測區間，並針對非線性資料驅動預測模型之不確定性，考慮領前多步預測，以及避免受制於資料分佈限制條件、龐大計算量與不易計算等問題。同時，透過本發明的基於深度學習的預測區間估測裝置或方法，於訓練期間，深度學習模型的成本函數同時考慮了覆蓋範圍機率、預測區間界限與輸出值分佈情況的最佳化，因此，本發明的基於深度學習的預測區間估測裝置或方法可以產生較佳的預測區間。
本發明的基於深度學習的預測區間估測裝置或方法可以精確地推估更多預測區間與預測輸出值的資訊，故能夠用於綠能發電（例如，太陽能發電與風力發電，但本發明不以此為限制）的電力預測，但本發明之預測區間估測裝置或方法不限定應用於綠能發電的電力預測，且可以應用於其他需要領前多步預測的應用，例如，工廠用電量的預測、產線產品良率的預測、預後生理指數的預測等。本發明的基於深度學習的預測區間估測裝置或方法整合智慧型相關技術，其包括類神經網路、啟發式優化程序、機械學習等。更確切來說，本發明針對資料驅動預測模型之預測區間問題，發展智慧型預測區間技術與系統，並對該系統進行相關分析與評估。於本發明的實施例中，預測區間模型（即，深度學習模型）選用倒傳遞類神經網路或模糊類神經網路來建模，而啟發式優化程序則可選用類電磁演算法或細菌覓食演算法來學習，但本發明不以上述為限制。
請參照圖2，圖2是本發明實施例的基於深度學習的預測區間估測裝置或方法的應用示意圖。於圖2中，電網系統2包括電力調度端21、綠能電力廠22a～22c與非綠能電力廠23a、23b，其中綠能電力廠22a～22c可以是太陽能發電廠、風力發電廠或其他類型的綠能發電廠，以及非綠能電力廠23a、23b可以是核能發電廠、火力發電廠或其他類型的非綠能發電廠。電網系統2用於提供電力給用電端24a～24c，以及電力調度端21可以用於調度綠能電力廠22a～22c與非綠能電力廠23a、23b的電力，以提供穩定的電力給用電端24a～24c。特別是，綠能電力廠22a～22c容易受到天氣或其他因素的影響，導致其產生的電力比較容易有變化，因此電力調度端21往往需要知道綠能電力廠22a～22c的發電量預測區間（即，發電量預測上限值與發電量預測下限值），以有效進行電力的調度。據此，綠能電力廠22a～22c（或電力調度端21）可以使用本發明實施例提供的基於深度學習的預測區間估測裝置或方法來估測發電量預測區間。另外，用電端24a～24c（或電力調度端21）可以使用本發明實施例提供的基於深度學習的預測區間估測裝置或方法來估測用電量估測區間（即，用電量預測上限值與用電量預測下限值），以使得電力調度端21知悉何種電力調度方式較佳。
接著，請參照圖3，圖3是本發明實施例的基於深度學習的預測區間估測裝置的方塊示意圖。基於深度學習的預測區間估測裝置3主要由深度學習模型31來實現，其中深度學習模型31可以使用類神經網路來實現，例如倒傳遞類神經網路或模糊類神經網路。深度學習模型31是一個類神經網路處理晶片，或者，透過處理單元執行程式語言之編碼所實現，且本發明不此為限制。
深度學習模型31用於接收輸入資料IND1，並用於根據輸入資料IND1產生領前時間的預測輸出值MID_PRED、預測上限值MAX_PRED與預測下限值MIN_PRED，其中預測上限值MAX_PRED與預測下限值MIN_PRED形成預測區間。另外，預測輸出值MID_PRED可以是預測上限值MAX_PRED與預測下限值MIN_PRED的平均值（例如，加權平均值或一般平均值），或僅是根據輸入資料IND1所產生，而非透過預測上限值MAX_PRED與預測下限值MIN_PRED所計算出來者。除此之外，在一些實施例中，深度學習模型31僅輸出預測上限值MAX_PRED與預測下限值MIN_PRED。
當基於深度學習的預測區間估測裝置用於太陽能發電量的預測，輸入資料IND1可以是氣象資料、日射量觀測資料與選定區域之日射量計算資料的至少其中一者，且更可以包括會影響發電模組參數的資料，以及預測輸出值MID_PRED、預測上限值MAX_PRED與預測下限值MIN_PRED分別是發電量預測輸出值、發電量預測上限值與發電量預測下限值。當基於深度學習的預測區間估測裝置用於風力發電量的預測，輸入資料IND1可以是氣象資料與風量觀測資料的至少其中一者，且更可以包括會影響發電模組參數的資料，以及預測輸出值MID_PRED、預測上限值MAX_PRED與預測下限值MIN_PRED分別是發電量預測輸出值、發電量預測上限值與發電量預測下限值。簡單地說，輸入資料IND1與預測輸出值MID_PRED、預測上限值MAX_PRED與預測下限值MIN_PRED會因為應用不同而有所不同。
深度學習模型31於訓練時採用的成本函數考量了預測區間覆蓋範圍機率、預測區間界限與觀測輸出值密集度等因子，並在訓練過程中，調整深度學習模型31的權重值來最佳化成本函數，以使預測區間覆蓋範圍機率盡量地大，預測區間界限盡量地小，以及觀測輸出值盡量地貼近預測區間的中心值，從而讓估測的預測區間相較於現有技術更來得精確。
進一步地說，於訓練過程中，多個觀測輸入資料會被輸入至深度學習模型31，深度學習模型31會開始進行訓練，並根據多個觀測輸入資料產生多個訓練預測上限值與訓練預測下限值，然後，計算成本函數，並根據成本函數調整深度學習模型31之可調整的多個權重值。接著，重複上述的訓練動作，多次地調整深度學習模型31的多個權重值，直到成本函數為最優化的值後，便能結束訓練。
進一步地說，成本函數可以定義為： J(PICP, MPIB, CD)=WPICP *e-PICP +WMPIB **MPIB+WCD *CD， 其中PICP為預測區間覆蓋範圍機率（其值介於0至1之間，0≦PICP≦1），WPICP 為預測區間覆蓋範圍機率之權重參數，MPIB為預測區間界限（0≦MPIB），WMPIB 為預測區間界限之權重參數，CD為觀測輸出值密集度，WCD 為觀測輸出值密集度之權重參數。進一步地，預測區間覆蓋範圍機率為觀測輸出值落入訓練預測上限值與訓練預測下限值之間的機率，故可以定義成多個觀測輸出值落入對應的訓練預測區間之數量相較於多個觀測輸出值之總量的比率值，預測區間界限可以定義為訓練預測上限值與訓練預測下限值之間的距離之均值，以及觀測輸出值密集度可以定義為觀測輸出值與預測區間的中心值之差值的均值。當然，上述成本函數、預測區間覆蓋範圍機率與預測區間界限的定義僅是本發明實施例之一，其並非用以限制本發明。
請接著，參照圖4，圖4是本發明實施例的基於深度學習的預測區間估測裝置所使用的類神經網路的示意圖。圖3之深度學習模型31若為類神經網路時，其架構可以如同圖4。類神經網路4包括多個輸入節點IN1～IN3、多個隱藏節點HID1～HID4與多個輸出節點OUT1～OUT3。多個輸入節點IN1～IN3連接多個隱藏節點HID1～HID4，以及多個隱藏節點HID1～HID4連接多個輸出節點OUT1～OUT3。多個輸入節點IN1～IN3用以接收輸入資料，多個輸出節點OUT1～OUT3 用以輸出處理後的資料，以及多個隱藏節點HID1～HID4具有激勵函數，而可用以對資料進行處理。在此請注意，雖然於此實施例中，隱藏節點HID1～HID4僅有一層，但本發明不以此為限。圖4的類神經網路之架構僅是一種例示性的類神經網路4，本發明所屬技術領域具有通常知識者當知，圖4的類神經網路4之架構並非用以限制上述圖3的深度學習模型31。
請接著參照圖5，圖5是本發明另一實施例的基於深度學習的預測區間估測裝置的方塊示意圖。圖5的基於深度學習的預測區間估測裝置5由第一類神經網路51與第二類神經網路52組成的深度學習模型實現，其中第一類神經網路51的輸出端連接第二類神經網路52的輸入端。第一類神經網路51接收輸入資料IND1，並用於產生與輸出量值預測資料PRED1。在此請注意，輸入資料IND1包括任何會影響量值預測資料PRED1的資料，且量值預測資料PRED1可以用來估測領前時間的預測區間（由預測上限值MAX_PRED與預測下限值MIN_PRED所形成）與預測輸出值MID_PRED。第二類神經網路52會接收量值預測資料PRED1，並根據量值預測資料PRED1估測領前時間的預測區間（由預測上限值MAX_PRED與預測下限值MIN_PRED所形成）與預測輸出值MID_PRED。第二類神經網路52於訓練時採用的成本函數考量預測區間覆蓋範圍機率、預測區間界限與觀測輸出值密集度等因子，因此，相較於現有技術來說，可以估測出更精準的預測區間。
附帶一提的是，於其他實施例中，第一類神經網路51於訓練時採用的成本函數也可以考量預測區間覆蓋範圍機率、預測區間界限與觀測輸出值密集度等因子。因此，第一類神經網路51輸出的量值預測資料PRED1除了包括量值預測值之外，更包括了量值預測上限值與量值預測下限值。
基於深度學習的預測區間估測裝置5可以用在太陽能發電量或風力發電量的預測，估測出的領前時間（例如，領前1到48小時，但本發明不以此為限制）之預測區間（由預測上限值MAX_PRED與預測下限值MIN_PRED所形成）與預測輸出值MID_PRED可以是發電量預測區間（由發電量預測上限值與發電量預測下限值所形成）與發電量預測輸出值。如此，電網系統中的電力調度端可以依據發電量預測上限值與發電量預測下限值來調配各電力廠的電力，以避免用電端忽然斷電或有電力不穩的情況發生。
更進一步地說，於風力發電的情況下，輸入資料IND1可以包括氣象資料與風量觀測資料，量值預測資料PRED1包括風量預測資料。於太陽能發電的情況下，輸入資料IND1可以包括氣象資料、日射量觀測資料與選定區域的日射量計算資料，量值預測資料PRED1包括日射量預測資料。
另外，電力廠中的某些元件在隨時間衰減或重新安裝後，可能會導致發電模組之發電量預測區間（由發電量預測上限值與發電量預測下限值所形成）、發電量預測輸出值與量值與發電模組參數之間的關係式有所改變，因此，需要對發電模組之發電量預測區間、發電量預測輸出值與量值、發電模組參數之間的關係式進行修正調整。於本發明實施例中，第二類神經網路52考量了某些元件在隨時間衰減或重新安裝的因素，因此第二類神經網路52訓練學習出的近似函數可以建立出發電模組之發電量預測區間、發電量預測輸出值與量值、發電模組參數之間的精確關係式。透過基於深度學習的預測區間估測裝置5的架構，僅有在某些元件在隨時間衰減或重新安裝時，才需要對第二類神經網路52重新進行調校訓練，故基於深度學習的預測區間估測裝置5的架構可以減少程式設計人員在重新進行調校訓練所耗費的時間，且可以增加程式設計人員的方便性。
舉例來說，當上述電力廠是風力發電廠時，上述會隨時間衰減或需重新安裝的元件會是風力計。由於風力計重新安裝或衰減時，量測出來的風量觀測資料可能會與未衰減或重新安裝時不同，因此，需要對第二類神經網路52重新進行調校訓練，從而調整發電模組之發電量預測區間、發電量預測輸出值、風量與發電模組參數之間的精確關係式。另外，風力發電設備之一部分或全部零件隨時間衰減或需重新安裝時，一樣可以僅對第二類神經網路52重新進行調校訓練。
請接著參照圖6，圖6是本發明又一實施例的基於深度學習的預測區間估測裝置的方塊示意圖。相較於圖5，圖6的基於深度學習的預測區間估測裝置6除了第一類神經網路61與第二類神經網路62之外，更多了第三類神經網路63。圖6的第一類神經網路61的功能相同於圖5之第一類神經網路51的功能，故不贅述。於圖6中，第三類神經網路63的輸入節點會接收輸入資料IND2，並產生參數預測資料PRED2，其中輸入資料IND2包括任何會影響參數預測資料PRED2的資料。第二類神經網路62可以根據量值預測資料PRED1與參數預測資料PRED2來估測領前時間的預測區間（由預測上限值MAX_PRED與預測下限值MIN_PRED所形成）與預測輸出值MID_PRED。第二類神經網路52於訓練時採用的成本函數考量預測區間覆蓋範圍機率、預測區間界限與觀測輸出值密集度等因子，因此，相較於現有技術來說，可以估測出更精準的預測區間。
附帶一提的是，於其他實施例中，第一與第二類神經網路61與63於訓練時採用的成本函數也可以考量預測區間覆蓋範圍機率、預測區間界限與觀測輸出值密集度等因子。因此，第一類神經網路61輸出的量值預測資料PRED1除了包括量值預測值之外，更包括了量值預測上限值與量值預測下限值，以及第二類神經網路62輸出的參數預測資料PRED2除了包括參數預測值之外，更包括了參數預測上限值與參數預測下限值。
以基於深度學習的預測區間估測裝置6用於估測太陽能發電的粒子為例，圖6中的輸入資料IND1包括氣象資料、日射量觀測資料與選定區域的日射量計算資料，量值預測資料PRED1包括日射量預測資料，輸入資料IND2包括氣象資料與溫度觀測資料，參數預測資料PRED2包括發電模組參數預測資料，以及預測上限值MAX_PRED、預測下限值MIN_PRED與預測輸出值為發電量預測上限值、發電量預測下限值與發電量預測輸出值。
更進一步地，領前時間（例如，領前1到48小時，但不以此為限制）的發電量預測上限值、發電量預測下限值與發電量預測輸出值會被對應的發電模組參數預測資料中的多個模組參數預測值所影響，但是影響的程度不及於前述日射量預測資料的多個日射量預測量值。因此，發電模組參數預測資料可以用來修正發電量預測上限值、發電量預測下限值與發電量預測輸出值。
當上述發電系統是太陽能發電系統時，上述會隨時間衰減或需重新安裝的元件可以是日射計。由於日射計重新安裝或衰減時，量測出來的日射量觀測資料可能會與未衰減或重新安裝時不同，因此，需要對第二類神經網路62重新進行調校訓練，從而調整發電模組之發電量預測區間、發電量預測輸出值與日射量、溫度之間的關係式。另外，在太陽能發電設備之一部分或全部零件重新安裝或衰減時，一樣可以僅對第二類神經網路62重新進行調校訓練。
接著，請參照圖7，圖7是本發明實施例之基於深度學習的預測區間估測裝置或方法所估測的預測區間之曲線示意圖。相較於現有技術之預測區間估測裝置或方法所獲得的預測上限值MAX_PRED_P與預測下限制值MIN_PRED_P，本發明之基於深度學習的預測區間估測裝置或方法所估測的預測上限值MAX_PRED與預測下限制值MIN_PRED會更貼近實際的觀測輸出值MID_FACT，且所具有的預測區間界限更小。
接著，請參照圖8，圖8是本發明實施例之基於深度學習的預測區間估測方法的流程圖。首先，在步驟S81中，提供已訓練完成的深度學習模型，其中此深度學習模型於訓練時所採用的成本函數考量預測區間覆蓋範圍機率、預測區間界限與觀測輸出值密集度等因子。接著，在步驟S82中，將輸入資料輸入至深度學習模型。之後，在步驟S83中，深度學習模型產生
最後，請參照圖9，圖9是本發明實施例之基於深度學習的預測區間估測方法或裝置的訓練方法之流程圖。首先，在步驟S91中，提供欲訓練的深度學習模型，其中此深度學習模型於訓練時所採用的成本函數考量預測區間覆蓋範圍機率、預測區間界限與觀測輸出值密集度等因子。接著，在步驟S92中，依序將多個觀測輸入資料輸入至深度學習模型。之後，在步驟S93中，深度學習模型依據多個觀測輸入資料產生出多個訓練預測區間。然後，在步驟S94中，根據多個訓練預測區間與對應於多個觀測輸入資料的多個觀測區間計算成本函數的值，並根據算出之成本函數的值判斷是否停止訓練。如果判斷可以停止訓練，則執行步驟S96，以獲得已訓練完成的深度學習模型。如果判斷仍需要進行訓練，則執行步驟S95，調整深度學習模型的權重值，並於步驟S95後，執行步驟S92至S94，繼續訓練，直到算出成本函數的值為最佳的值為止。
綜合以上所述，本發明實施例提供一種基於深度學習的預測區間估測裝置與方法，其在訓練過程中，深度學習模型使用的成本函數考量了預測區間覆蓋範圍機率、預測區間界限與觀測輸出值密集度等因子，因此，估測出的預測區間更為精準，且特別是實際的輸出值有極大或極小值的情況下，都不會使得預測區間界限變得太大，而因此不精準。當應用於發電量預測時，基於深度學習的預測區間估測裝置與方法估測出的發電量預測區間可以供電力調度端參考，以有效地進行電力調度，從而提供穩定的電力給用電端。再者，本發明的基於深度學習的預測區間估測裝置與方法之計算複雜度與架構不複雜，且可以用於各種需要領前估測的應用中，故具有相當的經濟價值。
本發明在上文中已以較佳實施例揭露，然熟習本項技術者應理解的是，上述實施例僅用於描繪本發明，而不應解讀為限制本發明之範圍。應注意的是，舉凡與前述實施例等效之變化與置換，均應設為涵蓋於本發明之範疇內。因此，本發明之保護範圍當以申請專利範圍所界定者為準。
2:電網系統 21:電力調度端 22a～22c:綠能電力廠 23a、23b:非綠能電力廠 24a～24c:用電端 3、5、6:基於深度學習的預測區間估測裝置 31:深度學習模型 4:類神經網路 51、61:第一類神經網路 52、62:第二類神經網路 63:第三類神經網路 MAX_PRED、MAX_PRED_P:預測上限值 MID_FACT:觀測輸出值 MID_PRED:預測輸出值 MIN_PRED、MIN_PRED_P:預測下限值 IN1～IN3:輸入節點 IND1、IND2:輸入資料 HID1～HID4:隱藏節點 OUT1、OUT2:輸出節點 PRED_1:量值預測資料 PRED_2:參數預測資料 S81～S83、S91～S96:步驟
圖1是現有技術之預測區間估測方法所估測的預測區間之曲線示意圖。
圖2是本發明實施例的基於深度學習的預測區間估測裝置或方法的應用示意圖。
圖3是本發明實施例的基於深度學習的預測區間估測裝置的方塊示意圖。
圖4是本發明實施例的基於深度學習的預測區間估測裝置所使用的類神經網路的示意圖。
圖5是本發明另一實施例的基於深度學習的預測區間估測裝置的方塊示意圖。
圖6是本發明又一實施例的基於深度學習的預測區間估測裝置的方塊示意圖。
圖7是本發明實施例之基於深度學習的預測區間估測裝置或方法所估測的預測區間之曲線示意圖。
圖8是本發明實施例之基於深度學習的預測區間估測方法的流程圖。
圖9是本發明實施例之基於深度學習的預測區間估測方法或裝置的訓練方法之流程圖。
3:基於深度學習的預測區間估測裝置
31:深度學習模型
MAX_PRED:預測上限值
MID_PRED:預測輸出值
MIN_PRED:預測下限值
IND1:輸入資料

Claims (10)

  1. 一種基於深度學習的預測區間估測裝置，包括： 一深度學習模型，其於訓練時所採用的一成本函數關連於一預測區間覆蓋範圍機率、一預測區間界限與一觀測輸出值密集度； 其中該深度學習模型用於接收一第一輸入資料，並用於估測出一預測區間，其中該預測區間由一預測上限值與一預測下限值所組成。
  2. 如請求項第1項所述之基於深度學習的預測區間估測裝置，其中該預測區間覆蓋範圍機率定義為多個觀測輸出值落入多個訓練預測區間的機率，該預測區間界限定義為多個訓練預測上限值與多個訓練預測下限值之差值的均值，以及該觀測輸出值密集度定義為該等觀測輸出值與該等訓練預測區間之中心值的差值之均值。
  3. 如請求項第1項所述之基於深度學習的預測區間估測裝置，其中該深度學習模型更用於根據該第一輸入資料輸出一預測輸出值。
  4. 如請求項第3項所述之基於深度學習的預測區間估測裝置，其中該預測輸出值為對應之該預測上限值與該預測下限值的一平均值。
  5. 如請求項第1項所述之基於深度學習的預測區間估測裝置，其中該深度學習模型為一類神經網路。
  6. 如請求項第1項所述之基於深度學習的預測區間估測裝置，其中該深度學習模型包括： 一第一類神經網路，用於接收該第一輸入資料，並根據該第一輸入資料產生一量值預測資料；以及 一第二類神經網路，其中該第二類神經網路於訓練時，採用該成本函數，該第二類神經網路根據該量值預測資料估測出該預測區間。
  7. 如請求項第6項所述之基於深度學習的預測區間估測裝置，其中該深度學習模型更包括： 一第三類神經網路，用於接收一第二輸入資料，根據該第二輸入資料產生一參數預測資料； 其中該第二類神經網路根據該參數預測資料修正該預測區間。
  8. 如請求項第1至7項其中一項所述之基於深度學習的預測區間估測裝置，其中預測區間為一發電量預測區間，該第一輸入資料為一氣象資料、一日射量觀測資料與一選定區域之一日射量計算資料的至少其中一者，或者，該第一輸入資料為該氣象資料與一風量觀測資料的至少其中一者。
  9. 一種基於深度學習的預測區間估測方法，包括： 提供訓練完成的一深度學習模型，其中該深度學習模型於訓練時所採用的一成本函數關連於一預測區間覆蓋範圍機率、一預測區間界限與一觀測輸出值密集度；以及 將一輸入資料輸入至該深度學習模型；以及 該深度學習模型根據該輸入資料估測出一預測區間，其中該預測區間由一預測上限值與一預測下限值所組成。
  10. 一種深度學習模型的訓練方法，包括： 提供欲訓練的一深度學習模型，其中該深度學習模型於訓練時所採用的一成本函數關連於一預測區間覆蓋範圍機率、一預測區間界限與一觀測輸出值密集度； 依序輸入多個觀測輸入資料至該深度學習模型，並據此獲得該多個觀測輸入資料所對應的多個訓練預測區間，其中每一個該訓練預測區間由一訓練預測上限值與一訓練預測下限值所形成； 根據該等該訓練預測區間與對應於該等觀測輸入資料的多個觀測輸出值計算該成本函數的值；以及 根據該成本函數的值調整該深度學習模型的多個權重值或停止訓練該深度學習模型。
TW108148151A 2019-12-27 2019-12-27 基於深度學習的預測區間估測裝置、方法與其訓練方法 TW202125347A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
TW108148151A TW202125347A (zh) 2019-12-27 2019-12-27 基於深度學習的預測區間估測裝置、方法與其訓練方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
TW108148151A TW202125347A (zh) 2019-12-27 2019-12-27 基於深度學習的預測區間估測裝置、方法與其訓練方法

Publications (1)

Publication Number Publication Date
TW202125347A true TW202125347A (zh) 2021-07-01

Family

ID=77908473

Family Applications (1)

Application Number Title Priority Date Filing Date
TW108148151A TW202125347A (zh) 2019-12-27 2019-12-27 基於深度學習的預測區間估測裝置、方法與其訓練方法

Country Status (1)

Country Link
TW (1) TW202125347A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI810602B (zh) * 2021-07-07 2023-08-01 友達光電股份有限公司 基於機械學習的關鍵因子自動尋找方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI810602B (zh) * 2021-07-07 2023-08-01 友達光電股份有限公司 基於機械學習的關鍵因子自動尋找方法

Similar Documents

Publication Publication Date Title
Wang et al. Deep learning method based on gated recurrent unit and variational mode decomposition for short-term wind power interval prediction
Mahmoud et al. An advanced approach for optimal wind power generation prediction intervals by using self-adaptive evolutionary extreme learning machine
CN112614009B (zh) 一种基于深度期望q-学习的电网能量管理方法及系统
Zhao et al. A novel bidirectional mechanism based on time series model for wind power forecasting
Yuce et al. ANN–GA smart appliance scheduling for optimised energy management in the domestic sector
Korprasertsak et al. Robust short-term prediction of wind power generation under uncertainty via statistical interpretation of multiple forecasting models
MacDougall et al. Applying machine learning techniques for forecasting flexibility of virtual power plants
JP2020501491A (ja) 動的エネルギーストレージシステム制御のためのシステムおよび方法
Shi et al. Echo state network‐based Q‐learning method for optimal battery control of offices combined with renewable energy
CN110910004A (zh) 一种多重不确定性的水库调度规则提取方法及系统
CN111191854A (zh) 一种基于线性回归及神经网络的光伏发电预测模型和方法
Chitsazan et al. Wind speed forecasting using an echo state network with nonlinear output functions
Morteza et al. Deep learning hyperparameter optimization: Application to electricity and heat demand prediction for buildings
Zhu et al. Short‐Term Electricity Consumption Forecasting Based on the EMD‐Fbprophet‐LSTM Method
Inteha et al. A data driven approach for day ahead short term load forecasting
CN113219871B (zh) 一种养护室环境参数检测系统
Dong et al. Short-term building cooling load prediction model based on DwdAdam-ILSTM algorithm: A case study of a commercial building
Haghi et al. Multivariate predictive analytics of wind power data for robust control of energy storage
Tavares et al. Comparison of PV power generation forecasting in a residential building using ANN and DNN
Mahmoud et al. Advanced method for short‐term wind power prediction with multiple observation points using extreme learning machines
Soares et al. Multi-objective robust optimization to solve energy scheduling in buildings under uncertainty
Lange et al. Probabilistic day-ahead forecast of available thermal storage capacities in residential households
TW202125347A (zh) 基於深度學習的預測區間估測裝置、方法與其訓練方法
Wu et al. Combined IXGBoost-KELM short-term photovoltaic power prediction model based on multidimensional similar day clustering and dual decomposition
Kotthoff et al. Calibrating agent-based models of innovation diffusion with gradients