TWI452529B - Combined with the system equivalent model of the system and its computer program products - Google Patents

Description

結合沃特拉系統的系統等效模型建立方法及其電腦程式產品

本發明是有關於一種等效系統模型的建模方法，且特別是有關於一種利用微分進化演算法，建立未知的目標系統之等效系統模型的建模方法。

先前技術中，系統識別在自動控制領域是一個非常重要的關鍵，基於這個所識別出來的系統模型，我們可使用各種不同的控制技術進一步設計出適當的控制器。為能有效地對未知系統進行辨識的工作，傳統所使用的預估模型包括自回歸時間序列模式、具外部輸入變數的自回歸模式以及自回歸移動平均模式等等。現今，利用人工智慧技術進行系統識別的方法日益受到重視，包括：類神經網路、模糊系統以及這兩者結合的模糊神經網路，這些類型的模式本身具有相當多的可調權重參數，系統識別的能力遠超過傳統的那些數學模式。傳統在修正這些網路內的可調參數往往利用所謂的梯度修正法。

但利用人工智慧技術所建立出來的系統識別模型，如類神經網路模型，此類模型需要複雜的數學推導以及冗長的數值運算，過量的數據運算會增加電腦或其它相類似的電子運算器的軟體與硬體的負擔，同時降低相關設備的運算效能。而且，電子運算器係依據外部輸入的資訊以推演建構上述的等效系統，一但有運算錯誤的情形發生，所得到的等效系統的效能會與真實的未知系統的效能相差甚遠，故需重新建立等效系統模型，無形中提升不少難度。其次，梯度修正法的缺點是所搜尋到的解往往是落在起始值附近的局部最佳解，而非全域的最佳解，原因在於梯度修正法是單一方向的搜尋法，使得找到的解容易落入局部極值上。

本發明欲解決的問題係提供一種使用者可快速對未知的系統建立最適當的等效系統模型的方法。

為解決上述問題，本發明所提供之技術手段係揭露一種結合沃特拉系統的系統等效模型建立方法，用以建立一目標系統模型之等效系統模型，此方法先提供一類神經網路系統模型，其結合一沃特拉(Volterra)系統模型與一前饋式類神經網路模型，將一數位輸入訊號同時輸入類神經網路系統模型與目標系統模型以取得一類神經網路系統輸出訊號與一目標系統輸出訊號，根據類神經網路系統輸出訊號與目標系統輸出訊號為條件，利用一微分進化法則計算出一類神經網路系統係數，以及導入類神經網路系統係數至類神經網路系統模型，以使類神經網路系統輸出訊號逼近目標系統輸出訊號，以使類神經網路系統模型等效於目標系統模型。

為解決上述問題，本發明所提供之技術手段係揭露一種電腦程式產品，一電腦係讀取該電腦程式產品後係執行一種結合沃特拉系統的系統等效模型建立方法，此方法流程包括：提供一類神經網路系統模型，其為一沃特拉系統模型，將一數位輸入訊號同時輸入類神經網路系統模型與目標系統模型以取得一類神經網路系統輸出訊號與一目標系統輸出訊號，根據類神經網路系統輸出訊號與目標系統輸出訊號為條件，利用一微分進化法則計算出一類神經網路系統係數，以及導入類神經網路系統係數至類神經網路系統模型，使類神經網路系統輸出訊號逼近目標系統輸出訊號，以使類神經網路系統模型等效於目標系統模型。

本發明之特點係在於：

其一，此方法具有優異的系統係數搜尋能力與快速收斂等特點，使得所設計出來的類神經網路系統模型，其效能會完全等效、或相當逼近於未知目標系統模型的效能，以完全滿足或盡可能符合未知目標系統模型的運作需求，因此可大幅縮減建立等效系統模型的時間成本。

其二，此方法亦能脫離模型建構期間，因數據轉換而產生的局部最佳解的情形，有助於縮短電子運算器建構上述的等效系統模型的需求時間。

其三，此方式無需複雜的數學推導以及冗長的數值運算，故不會產生大量數據，不會增加電腦或其它相類似的電子運算器的軟體與硬體的負擔，以維持相關設備的一定程度的運算效能。

茲配合圖式將本發明較佳實施例詳細說明如下。

請參閱圖1繪示本發明實施例之方法流程示意圖、圖3繪示之本發明實施例之類神經網路建構系統架構圖與圖4繪示本發明實施例之前饋式類神經網路模型架構圖。此方法主要藉由下列流程以建構出一類神經網路系統模型，此類神經網路系統模型係儲存、執行於一電子設備，用來建立一目標系統模型的等效系統模型。而且，本發明係揭露一電腦程式產品，一電腦係讀取上述電腦程式產品後係執行上述的結合沃特拉系統的系統等效模型建立方法。由圖1得知，類神經網路系統模型之設計方法其步驟說明如下：

首先，先提供一類神經網路系統模型130，其由一沃特拉系統模型131與一前饋式類神經網路模型132所組成(步驟S110)。此沃特拉系統模型131可以用下面的方程式表示：

其中x 是(公式1)之輸入訊號，y 為(公式1)之輸出訊號，h [k ]為(公式1)之一次項系統係數，N 為(公式1)之過去輸入的項次，h [k ₁ ,k ₂ ]為(公式1)之二次項系統係數。為方便以下說明，係可將(公式1)表示為：

y [n ]=h [0]+h [1]x [n ]+h [2]x [n -1]+…+h [N ]x [n -N +1]+h [0,0]x ² [n ]+h [0,1]x [n ]x [n -1]+…+h [0,N -1]x [n ]x [n -N +1]+…+h [N -1,N -1]x ² [n -N +1]　(公式2)

其中，沃特拉系統模型131之係數總數為：

L 即代表沃特拉系統模型之係數總數。之後，為方便沃特拉系統模型131與前饋式類神經網路模型132結合，係令：

X =[x ₁ ,x ₂ ,…,x _L ]=[1,x [n ],x [n -1],…,x [n -N +1],x ² [n ],x [n ]x [n -1],…x [n ]x [n -N +1],…,x ² [n -N +1]]　(公式4)

其中，X =[x ₁ ,x ₂ ,…,x _L ]為前饋式類神經網路模型132之輸入訊號(或稱輸入向量)。

請同時參閱圖4繪示本發明之前饋式類神經網路模型132的結構示意圖式，此前饋式類神經網路模型132包括一輸入層結構1321、一隱藏層結構1322以及一輸出層結構1323。輸入層結構1321所包含的神經元的個數即是前述的係數總數L ，此L 亦是(公式4)之輸入訊號的向量長度。隱藏層結構1322的神經元個數假設是M 個，輸出層結構1323的神經元為一個。

其中X (即X =[x ₁ ,x ₂ ,…,x _L ]，i =1~L 之正整數)為前饋式類神經網路模型132的輸入向量，隱藏層結構1322中每一個神經元可表示為：

其中，w _xh _ij 代表輸入層結構1321第i 個神經元與隱藏層結構1322第j 個神經元連結的權重值，w _hy _j 代表隱藏層結構1322第j 個神經元與輸出層結構1323的神經元連結的權重值，其中i =1,2,...,L 以及j =1,2,...,M ，y _model (說明於後)是代表反饋式類神經網路的輸出層結構1323的輸出訊號。又，net _h _j ，θ_h _j ，及h _j 分別為隱藏層結構1322的第j 個神經元的內部狀態、閥值以及輸出訊號，(公式6)為非線性的激發函數。而輸出層結構1323的神經元可被表示為：

y _model =f (net _y )=net _y 　(公式8)

其中net _y 與θ_y 分別是代表輸出層結構1323之神經元的內部狀態與閥值，y _model 則是前饋式類神經網路模型132的輸出訊號(即後續的類神經網路系統輸出訊號)，此輸出訊號應與目標系統模型的輸出訊號(即後續陳述的目標系統輸出訊號)越接近越好。因此，經由前述各公式之教示，此反饋式類神經網路內可調參數的總數為：

P =L ×M +M +M +1=M (L +2)+1　(公式9)

其中，P 即是前饋式類神經網路模型132的可調參數總數。其中，為使類神經網路系統模型能進一步引用微分進化演算法，係將前饋式類神經網路模型132於結合沃特拉系統模型131後，所需系統預估係數的形成向量揭示如(公式10)所示：

W =[w ₁ ,w ₂ ,…,w _P ]=[w _xh ₁₁ ,…,w _xh _{1 M} ,w _xh ₂₁ ,…,w _xh _{2 M} ,…,,w _xh _{L 1} ,…,w _xh _LM ,θ_h ₁ ,…,θ_h _M ,w _hy ₁ ,…,w _hy _M ,θ_y ]　(公式10)

其中W=[w_i1 ,w_i2 ,…,w_iP ]為類神經網路系統模型之相異數值的各系統預估係數。

將一數位輸入訊號同時輸入類神經網路系統模型130與目標系統模型140以取得一類神經網路系統輸出訊號與一目標系統輸出訊號(步驟S120)。如前述，同一個數位輸入訊號x 會被同時輸入至類神經網路系統模型130與目標系統模型140，以取得兩模式各自的類神經網路系統輸出訊號y _model 與目標系統輸出訊號y 。

續者，為了方便在微分進化演算法中使用，先將類神經網路系統模型130之係數構成多個系統預估係數向量，每一系統預估係數向量即為(公式10)所示，向量長度即為(公式9)所示。

接著，根據類神經網路系統輸出訊號與目標系統輸出訊號為條件，利用一微分進化法則計算出一類神經網路系統係數(步驟S130)。此步驟中，計算模組110係先計算出目標系統輸出訊號y 與類神經網路系統輸出訊號y _model 的誤差值e ，其中e [n ]=y [n ]-y _model [n ]，並將其導入運行微分進化法則的演算模組120中，以期演算模組120找出一組系統預估係數在導入類神經網路系統模型130後，使得類神經網路系統輸出訊號y _model 與目標系統輸出訊號y 之間的誤差值e 得以最小化。

請同時參閱圖2繪示之本發明微分進化法的步驟流程圖。

演算模組120隨機產生複數個系統預估係數向量以形成一族群(步驟S210)，其中每一系統預估係數向量具有複數個系統預估係數，如前述，每一系統預估係數向量係由類神經網路系統模型130之各係數所構成，代表為：

W =[w ₁ ,w ₂ ,…,w _P ]=[w_xh ₁₁ ,…,w_xh _{1 M} ,w_xh ₂₁ ,…,w_xh _{2 M} ,…,,w_xh _{L 1} ,…,w_xh _LM ,θ_h ₁ ,…,θ_h _M ,w_hy ₁ ,…,w_hy _M ,θ_y ]　(公式10)

其中P =L ×M +M +M +1=M (L +2)+1。然而，為避免粒子運作時過度發散，演算模組可預先設定粒子位移的一搜尋邊界[w _l ,w _u ]，用以作為粒子位移的邊界值，但不以此為限。此邊界值係由設計人員預先設計，亦或不使用，端視設計人員之需求而定。

演算模組120計算出每一係數向量之一價值函數(步驟S220)。如上述，為滿足類神經網路系統輸出訊號y _model 接近至目標系統輸出訊號y 之需求，係定義出一價值函數之關係式，並以此關係式計算出各係數向量的價值函數。此價值函數之關係式係表示如下：

其中，H 為n 的最大取樣點數(即時間n 的最大整數數值)，e 為誤差值，當價值函數愈小時，即代表越滿足設計的要求。

演算模組120依據所有的價值函數，從中選出一目標係數向量，並將此目標係數向量的價值函數當作族群之目標價值函數(步驟S230)。目標係數向量即指，族群中，具有最佳之價值函數的係數向量，即此係數向量包含的系統預估係數，可使類神經網路系統輸出訊號y _model 最接近目標系統輸出訊號y ，以期建立出最接近目標系統模型140的類神經網路系統模型130。

演算模組120判斷是否達到一終止條件(步驟S240)。在此，終止條件包含有二：一者為此族群已達到一迭代次數，此迭代次數係指微分進化演算法最高可執行次數，或指族群可進行演化次數，此迭代次數需預先設定。另一者為目標價值函數已收斂至最小，或達到一目標值，此目標值需預先設定。

當終止條件未成立時，即進行族群的演化(步驟S260)。此演化過程係具有突變、交配以及選擇三個運算步驟。

首先，突變演化的方式如下，在此以(公式12)稱之：

V =W _α +f _s ‧(W _β -W _γ )　(公式12)

其中V =[v ₁ ,v ₂ …,v _P ]稱為突變向量(mutant vector)，向量W _α 、W _β 和W _γ 是從上述族群中任意被選擇出來的三個系統預估係數向量，f _s [0,2]稱為是突變常數因子(mutation constant factor)，是決定突變大小的參數。

當演算模組120得到突變向量V 後，即進入微分進化演算的交配演化步驟。於此交配步驟中，假設W =[w ₁ ,w ₂ ,…,w _P ]為族群中的一個目標向量(target vector)。之後，將此目標向量與上述突變過程中所得到的突變向量V 進行向量內的元素(element)交換，交配完後所得到向量T =[t ₁ ,t ₂ …,t _P ]稱為測試向量(trial vector)。其中此交換條件之過程如下：首先，演算模組120產生一組P 個介於r _i [0,1]之間的隨機亂數[r ₁ ,r ₂ ,…,r _P ]，然後依下列公式獲得P 個m _i 的數值：

其中CR (0,1)為交配率(crossover rate)，通常設為0.5。測試向量W 進一步由下面的式子所產生：

當m _i =1，演算模組120則以目標向量的元素當作測試向量的元素；當m _i =0則以突變向量的元素當作測試向量的元素，如此便完成交配的過程。因此測試向量是由突變向量與目標向量二者之元素所充分交配而得到的結果。

當測試向量W 被演算模組120決定後，即進入選擇演化步驟。依據此(公式11)，係將上述測試向量與目標向量的係數向量之價值函數算出，並同時進行比較。

當演算模組120判斷測試向量所得到的價值函數小於目標向量的價值函數時，則在下一代演化(突變、交配與選擇演化)的族群中摒除目標向量，以測試向量遞補之；反之，目標向量則繼續保留，所得到測試向量則摒除不用。

當完成突變、交配與選擇流程後，即返回步驟S220，以重複步驟S220、步驟S230、步驟S240、步驟S260，直至終止條件成立為止。

當終止條件成立時，即族群已達到一迭代次數，或者，目標價值函數已收斂至最小或達到一目標值。

演算模組120即將目標價值函數所屬之目標係數向量輸出(步驟S250)，此時，目標係數向量之目標價值函數必已收斂至最小，而目標係數向量包含之系統預估係數即為類神經網路系統係數。

最後，演算模組120將所得到的類神經網路系統係數導入類神經網路系統模型130以調整類神經網路系統模型130，使類神經網路系統輸出訊號y _model 接近至目標系統輸出訊號y (步驟S140)，以使類神經網路系統模型130運作盡可能等效於目標系統模型140，從而完成整個目標系統模型之等效系統模型的建模流程。

綜上所述，乃僅記載本發明為呈現解決問題所採用的技術手段之實施方式或實施例而已，並非用來限定本發明專利實施之範圍。即凡與本發明專利申請範圍文義相符，或依本發明專利範圍所做的均等變化與修飾，皆為本發明專利範圍所涵蓋。

110．．．計算模組

120．．．演算模組

130．．．類神經網路系統模型

131．．．沃特拉系統模型

132．．．前饋式類神經網路模型

1321．．．輸入層結構

1322．．．隱藏層結構

1323．．．輸出層結構

140．．．目標系統模型

圖1係本發明結合沃特拉系統的系統等效模型建立方法的流程圖；

圖2係本發明微分進化法的工作流程圖；

圖3係本發明實施例之等效模型建立系統架構圖；以及

圖4係本發明實施例之前饋式類神經網路模型架構圖。

步驟S110~步驟S140

Claims (10)

1. 一種結合沃特拉系統的系統等效模型建立方法，用以建立一目標系統模型之等效系統模型，該方法包括：提供一類神經網路系統模型，其由一沃特拉系統模型與一前饋式類神經網路模型所組成；將一數位輸入訊號同時輸入該類神經網路系統模型與該目標系統模型以取得一類神經網路系統輸出訊號與一目標系統輸出訊號；根據該類神經網路系統輸出訊號與該目標系統輸出訊號為條件，利用一微分進化法則計算出一類神經網路系統係數；以及導入該類神經網路系統係數至該類神經網路系統模型，以使該類神經網路系統輸出訊號逼近該目標系統輸出訊號，以使該類神經網路系統模型等效於該目標系統模型。
2. 如申請專利範圍第1項所述結合沃特拉系統的系統等效模型建立方法，其中該沃特拉系統模型架構如下： 其中x 是該沃特拉系統模型之輸入訊號，y 為該沃特拉系統模型之輸出訊號，h [k ]為該沃特拉系統模型之一次項系統係數，N 為該沃特拉系統模型之過去輸入的項次，h [k ₁ ,k ₂ ]為該沃特拉系統模型之二次項系統係數；其中，該沃特拉系統模型之係數總數為： 其中，L 為該沃特拉系統模型之係數總數，且令X =[x ₁ ,x ₂ ,…,x _L ]=[1,x [n ],x [n -1],…,x [n -N +1],x ² [n ],x [n ]x [n -1],…x [n ]x [n -N +1],…,x ² [n -N +1]]；其中，該前饋式類神經網路模型包括一輸入層結構、一隱藏層結構與一輸出層結構，其中該隱藏層結構之神經元架構如下： 其中，該L 為該輸入層結構所包括之神經元之個數、該X =[x ₁ ,x ₂ ,…,x _L ]為該前饋式類神經網路模型之輸入訊號，w _xh _ij 代表該輸入層結構第i 個神經元與該隱藏層結構第j 個神經元連結的權重值，w _hy _j 代表該隱藏層結構第j 個神經元與該輸出層結構之神經元連結的權重值，i =1,2,…,N ，j =1,2,…,M ，,net _h _j 為第j 個神經元的內部狀態，θ_h _j 為第j 個神經元的閥值，h _j 為第j 個神經元的輸出訊號；以及該輸出層結構之神經元架構如下： 其中，y _model 為該前饋式類神經網路模型的輸出訊號，net _y 為該輸出層結構之一輸出神經元的內部狀態，θ_y 為該輸出層結構之該輸出神經元之閥值。
3. 如申請專利範圍第2項所述結合沃特拉系統的系統等效模型建立方法，其中根據該系統輸出訊號與該類神經網路系統輸出訊號為條件，利用一微分進化演算法則計算出一類神經網路系統係數之該步驟至少包含：隨機產生複數個系統預估係數向量以形成一族群，其中每一系統預估係數向量具有複數個系統預估係數；計算出該等系統預估係數向量其個別之價值函數，並依據該等價值函數，從中選出代表該族群之一目標價值函數；以及判斷是否達到一終止條件，若判斷為是，則將該將目標價值函數所屬之目標係數向量，其包含之系統預估係數作為該類神經網路系統係數，若判斷為否，則對該族群進行演化。
4. 如申請專利範圍第3項所述結合沃特拉系統的系統等效模型建立方法，其中每一系統預估係數向量為：W =[w ₁ ,w ₂ ,…,w _P ]=[w _xh ₁₁ ,…,w _xh _{1 M} ,w _xh ₂₁ ,…,w _xh _{2 M} ,…,,w _xh _{L 1} ,…,w _xh _LM ,θ_h ₁ ,…,θ_h _M ,w _hy ₁ ,…,w _hy _M ,θ_y ]，其中W=[w_i1 ,w_i2 ,…,w_iP ]為類神經網路系統模型之相異數值的各該系統預估係數。
5. 如申請專利範圍第3項所述結合沃特拉系統的系統等效模型建立方法，其中該族群進行演化流程係包含下列步驟：對該族群進行一突變演化，從該類神經網路系統模型任意選取該複數個系統預估係數向量以形成一族群，並依據該等系統預估係數向量計算出一突變向量；對該族群進行一交配演化，設定該等系統預估係數向量中之一目標向量，並與該突變向量依據一交換條件而兩者進行交換，以獲得一測試向量(trial vector)；以及對該族群進行一選擇演化，依據該測試向量與該目標向量計算並選出該目標價值函數，以將該目標價值函數當作該族群之該類神經網路系統係數。
6. 如申請專利範圍第5項所述結合沃特拉系統的系統等效模型建立方法，其中該目標價值函數係定義為，其中H 為取樣的點數，e 為誤差值。
7. 如申請專利範圍第6項所述沃特拉系統的系統等效模型建立方法，其中該突變演化步驟中，該突變向量係由一建構式所運算取得，該建構式為V =W _α +f _s ‧(W _β -W _γ )，其中V =[v ₁ ,v ₂ …,v _L ]為該突變向量，而W _α 、W _β 和W _γ 是該族群中任意被選擇出來的該複數個系統預估係數向量，f _s [0,2]稱為是突變常數因子，是決定突變大小的參數。
8. 如申請專利範圍第7項所述結合沃特拉系統的系統等效模型建立方法，其中該交配演化步驟中，係令該W =[w ₁ ,w ₂ ,…,w _P ]為該等系統預估係數向量中之一目標向量，其與該突變演化中所得到的該突變向量進行向量內的元素交換，交換後所得到的係數向量即為該測試向量T =[t ₁ ,t ₂ …,t _P ]，該交換條件如下：產生一組P 個介於r _i [0,1]之間的隨機亂數[r ₁ ,r ₂ ,…,r _P ]，然後依下列公式獲得P 個m _i 的數值： 其中CR (0,1)為交配率(crossover rate)，將其設定為0.5，該測試向量W 如下：
9. 一種電腦程式產品，一電腦係讀取該電腦程式產品後係執行一種結合沃特拉系統的系統等效模型建立方法，用以建立一目標系統模型之等效系統模型，該方法包括：提供一類神經網路系統模型，其係由一沃特拉系統模型與一前饋式類神經網路模型所組成；將一數位輸入訊號同時輸入該類神經網路系統模型與該目標系統模型以取得一類神經網路系統輸出訊號與一目標系統輸出訊號；根據該類神經網路系統輸出訊號與該目標系統輸出訊號為條件，利用一微分進化法則計算出一類神經網路系統係數；以及導入該類神經網路系統係數至該類神經網路系統模型，以使該類神經網路系統輸出訊號逼近該目標系統輸出訊號，以使該類神經網路系統模型等效於該目標系統模型。
10. 如申請專利範圍第9項所述電腦程式產品，其中根據該類神經網路系統輸出訊號與該目標系統輸出訊號為條件，利用一微分進化法則計算出一類神經網路系統係數之該步驟至少包含：隨機產生複數個系統預估係數向量以形成一族群，其中每一系統預估係數向量具有複數個系統預估係數；計算出該等系統預估係數向量其個別之價值函數，並依據該等價值函數，從中選出代表該族群之一目標價值函數；以及判斷是否達到一終止條件，若判斷為是，則將該將目標價值函數所屬之目標係數向量，其包含之系統預估係數作為該類神經網路系統係數，若判斷為否，則對該族群進行演化。