TWI773507B - 預測系統可靠度之方法與裝置 - Google Patents
預測系統可靠度之方法與裝置 Download PDFInfo
- Publication number
- TWI773507B TWI773507B TW110132493A TW110132493A TWI773507B TW I773507 B TWI773507 B TW I773507B TW 110132493 A TW110132493 A TW 110132493A TW 110132493 A TW110132493 A TW 110132493A TW I773507 B TWI773507 B TW I773507B
- Authority
- TW
- Taiwan
- Prior art keywords
- neural network
- deep neural
- data
- hyperparameters
- order state
- Prior art date
Links
Images
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Supply And Distribution Of Alternating Current (AREA)
- Radar Systems Or Details Thereof (AREA)
- Maintenance And Management Of Digital Transmission (AREA)
- Hardware Redundancy (AREA)
Abstract
本發明採用DNN模型在一給定需求水準之下即時預測系統可靠度,首先,將建構一MSN拓撲,並隨機生成其需求量、各傳輸邊容量及機率值為DNN模型之訓練資料,而既有方法求算之系統可靠度做為模型的訓練標籤。DNN模型之超參數組合,包含首層隱藏單元數量、訓練批量大小、學習速率、迭代次數透過BO方法迭代優化。最後將建構之DNN模型與現有方法演算法比較計算效率,探討預測之系統可靠度誤差與運算時間之差異,深度學習模型之應用能在可容許之誤差範圍內有效率地預測系統可靠度,進而幫助管理者有效管理複雜且大型之實務系統。
Description
本發明涉及品質管理之領域,特別是一種預測系統可靠度之方法與裝置。
各種系統,例如電腦通訊系統、電力傳輸系統、交通系統、製造網路等皆可建模為網路進行分析。隨著現代系統和設備日益朝向大型化、複雜化、精密化方向發展,這些設備涉及生產的各個領域,設備能否持續高效、安全穩定的工作是非常地關鍵。因此,系統可靠度對現代工業,特別是高精密、高可靠的生產製造業來說是不可或缺的工程技術。藉由對上述建模之網路模型進行模擬分析,一種有效的可靠度評估方法能準確反映系統狀況、找出最佳實施方案,以提供系統決策的參考。
舉例而言,在工程領域,許多系統可以視為多階狀態系統(multistate system),例如,一個電力供應系統,根據系統退化程度的不同其所對應的電力供應能力可以有100KW(完好狀態)、80KW(輕度故障)、30KW(嚴重故障)以及0KW(完全故障)四種狀態,其本質就是一種多階狀態系統。
上述各種系統能以網路分析之方法建構為一多階狀態網路(multistate network,MSN),其具有複數個傳輸邊(arcs)及節點(nodes),它們具有多種狀態(隨機容量),因此可以表示真實世界的事件,例如故障、維護要求和人為因素。MSN中每個傳輸邊(節點)的容量具有多階狀態(multistate)和離散值(discrete values)。例如,在製造系統中,每條傳輸邊代表一個具有幾台相同的機器工作站,工作站中的機器數量是遵循一定統計分佈的隨機變量。系
統可靠度則定義為滿足MSN可滿足需求量之機率。在品質管理的範疇中,系統可靠度為一評估系統效能之指標,管理者可利用其指標衡量系統之狀態,進而改善其系統能力以滿足需求。
現有計算系統可靠度方法是利用最小路徑(minimal path,MP)概念找出滿足需求之下界向量(d-MP),MP定義為能連接起點(source)與終點(sink)且不會產生迴圈之傳輸邊(arcs)集合。傳統之系統可靠度演算法適合較簡易的網路,然而當系統規模上升或限制增加時,面對大型複雜的實務系統時需要耗費相當多的時間方能求解,無法有效率地進行計算與分析系統可靠度。儘管如此,深度學習(deep learning,DL)在過去幾年中在各種應用中取得了巨大成功。具體來說,DL方法不需要數據分佈假設,並且可以準確地訓練具有更大的未知和複雜數據的模型。眾所周知的DL框架包括深度神經網路(deep neural network,DNN)、卷積神經網路(convolutional neural network)和循環神經網路(recurrent neural network)。深度學習可以高效地應用於文字辨識、影像辨識、電腦視覺、參數調整和自動駕駛等實際問題。DNN有不止一個隱藏層,比傳統的人工神經網路更準確。因此,如何引入深度學習之相關技術預測系統可靠度指標,以提高對大型複雜的實務系統的可靠度計算以及分析之效率,其重要性不言可喻。
綜上所述,有鑑於過去系統可靠度演算法無法有效率地進行計算與分析大型複雜的實務系統之可靠度,本發明提出一方法與裝置於使用深度學習之相關技術預測系統可靠度指標以即時衡量實務系統表現。
基於上述,本發明提出能夠解決現有技術存在的缺失,提出一種預測系統可靠度之方法,其中該系統建構成一多階狀態網路,利用一深度神經網路模型來預測該系統可靠度,該多階狀態網路以及該深度神經網路模型係儲存於一記憶體中,該可靠度的計算方法包含下列步驟:輸入該多階狀態網路數據、訓練數據的比例以及複數個超參數的數值範圍至該深度神經網路模型;使用Bayesian Optimization(BO)優化該複數個超參數;基於已優化之該複數個超參
數來確定該深度神經網路模型的隱藏層數目、相關函數以及其他超參數;利用輸入的該多階狀態網路數據點的數目以及上述訓練數據的比例來訓練該深度神經網路模型;利用已訓練深度神經網路模型對該多階狀態網路數據點中尚未評估有效性數據點預測該多階狀態系統可靠度;以及利用該尚未評估有效性數據點計算均方根誤差(RMSE)來評估上述深度神經網路模型的表現。
以一實施例而言,上述之多階狀態網路,其包含複數個節點以及連結該複數個節點的複數個傳輸邊。
以一實施例而言,上述之多階狀態網路數據包含產能機率表及當下需求。
以一實施例而言,上述之複數個超參數包含學習率(η)、批量大小(B)、迴圈數(number of epochs)以及上述深度神經網路的第一個隱藏層的神經元數量(t)。
以一實施例而言,上述之深度神經網路模型的該相關函數包含激活、損失及優化函數等。
以一實施例而言,上述之輸入多階狀態網路數據點的數目為g個數據點,其中上述訓練數據的比例為p個。
以一實施例而言,上述之尚未評估有效性數據點為g(1-p)個數據點。
一種預測系統可靠度之裝置,用於將該系統建構成一多階狀態網路,利用一深度神經網路模型來預測該系統可靠度,該裝置包括:一記憶體,用以儲存該多階狀態網路、該神經網路模型以及一演算法,該演算法包含下列步驟:輸入該多階狀態網路數據、訓練數據的比例以及複數個超參數的數值範圍至該深度神經網路模型;使用Bayesian Optimization(BO)優化該複數個超參
數;基於已優化之該複數個超參數來確定該深度神經網路模型的隱藏層數目、相關函數以及其他超參數;利用輸入的該多階狀態網路數據點的數目以及上述訓練數據的比例來訓練該深度神經網路模型;利用已訓練深度神經網路模型對該多階狀態網路數據點中尚未評估有效性數據點預測該多階狀態系統可靠度;利用該尚未評估有效性數據點計算均方根誤差(RMSE)來評估上述深度神經網路模型的表現;以及一處理器,與該多階狀態網路及該記憶體電性連接,執行該演算法以取得該多階狀態系統可靠度。
以一實施例而言,上述之多階狀態網路,其包含複數個節點以及連結該複數個節點的複數個傳輸邊。
以一實施例而言,上述之複數個超參數包含學習率(η)、批量大小(B)、迴圈數(number of epochs)以及上述深度神經網路的第一個隱藏層的神經元數量(t)。
以一實施例而言,上述之深度神經網路模型的該相關函數包含激活、損失及優化函數等。
100:多階狀態網路
S201、S203、S205、S207、S209:步驟
300:深度神經網路(DNN)模型
301:輸入層
303:輸出層
305:隱藏層
305a:第一個隱藏層
S401、S403、S405、S407、S409、S411:步驟
500:美國國家科學基金會網路(NSFNET)
600:預測系統可靠度之裝置
601:輸入裝置
603:記憶體
605:處理器
607:輸出裝置
6032:多階狀態網路(MSN)
6033:深度神經網路(deep neural network,DNN)模型
6031:演算法
圖1顯示根據本發明的一個實施例所提出多階狀態網路(MSN)之示意圖。
圖2顯示根據先前技術中用於計算系統可靠度的方法之流程圖。
圖3顯示根據本發明的一個實施例所提出的一個完整的深度神經網路(DNN)模型示意圖。
圖4顯示根據本發明的一個實施例所提出為多階狀態網路(MSN)設計和訓練了一個DNN模型的方法之具體流程圖。
圖5顯示根據本發明的一個實施例所提出多階狀態網路(MSN)之示意圖,其為一美國國家科學基金會網路(NSFNET),該網路包含16個主要的節點以及20條主要的傳輸邊。
圖6顯示根據本發明的一個實施例所提出之用於預測多階狀態網路系統可靠度之裝置的示意圖。
此處本發明將針對發明具體實施例及其觀點加以詳細描述,此類描述為解釋本發明之結構或步驟流程,其係供以說明之用而非用以限制本發明之申請專利範圍。因此,除說明書中之具體實施例與較佳實施例外,本發明亦可廣泛施行於其他不同的實施例中。以下藉由特定的具體實施例說明本發明之實施方式,熟悉此技術之人士可藉由本說明書所揭示之內容輕易地瞭解本發明之功效性與其優點。且本發明亦可藉由其他具體實施例加以運用及實施,本說明書所闡述之各項細節亦可基於不同需求而應用,且在不悖離本發明之精神下進行各種不同的修飾或變更。
參考圖1,其顯示一個多階狀態網路(MSN)100範例之示意圖。多階狀態網路100可以利用G(N,A,M)來表示網路模型的多階狀態,考慮一個具有唯一起點s和目標點t的多階狀態網路G≡(N,A,M),其中N是節點集、是傳輸邊集,M=(M 1,M 2,...,M n )是最大狀態向量,其中M i 是每個a i 的最大容量。網路狀態X=(x 1 ,x 2 ,…,x n )表示MSN中每個傳輸邊的當前容量,其中x i 取整數值:0,1,2,…,M i 。
現有用於計算系統可靠度的方法,例如根據d-MP計算系統可靠度的過程。如圖2所示之流程,對於給定m個最小路徑MP:MP 1 ,MP 2 ,…,MP m ,所有可行的解(feasible solutions)F=(f 1 ,f 2 ,…,f m )都可以透過隱式列舉(implicit enumeration)從以下約束(1)-(3)推導出,其中f j 是可以成功地從s流向t的MP,f 1 +f 2 +…+f m =d (1)
現有用於計算系統可靠度的方法,其具體的流程如圖2所示:首先輸入需求(demand)以及MP(步驟:S201),接著於給定需求(demand)的條件下找出所有可行的解F(步驟:S203),然後將每一個可行的解F轉換為容量向量,接著移除非最小向量(non-minimal vectors)以獲得所有最小容量向量(minimal capacity vectors)d-MP(步驟:S205),最後利用上述d-MP以及每個傳輸邊(each arc)的容量機率即可計算出系統的可靠度(步驟:S207)。
如先前於背景技術所描述,有鑑於現有系統可靠度演算法無法有效率地進行計算與分析大型複雜的實務系統之可靠度,本發明提出一方法與裝置應用於使用深度學習之相關技術來預測系統可靠度指標以即時衡量實務系統表現。
本發明為首度結合深度學習以及網路分析方法評估,可即時評估系統滿足需求之可能性,藉以制訂服務品質之績效,為一結合實務且新穎之應用。
本發明為「品質管理」相關之領域。在系統運作階段,此方法根據現場設備資料,考量設備多階狀態下之機率分佈,採用網路分析技術評估現場軟硬體規劃之能力,亦即系統可靠度,藉以制訂服務品質之績效,在當今大型且複雜之系統下,本方法可依不同系統狀態評估系統績效,提供管理者決策依據。
為了提供了一種有效預測系統可靠度的新方法,我們專門為MSN設計和訓練了一個深度神經網路(DNN)模型,並用它來預測系統可靠
度。為此,應將網路資訊適當地轉換為陣列(array)格式,並輸入到DNN模型中。然後,定義模型的超參數(hyperparameters)和相關函數。
此外,在DNN模型中,超參數(hyperparameters)是非常敏感且係問題針對性(problem-specific)。因此,超參數優化(hyperparameter optimization)對於預測系統可靠度(network reliability)至關重要,其可以透過貝葉斯優化(Bayesian optimization,BO)有效地執行,它是透過基於過去的評估結果構建一個概率模型來確定最小化一個目標函數(objective function)的值。在本案例中,目標函數是DNN模型的驗證誤差(validation error),函數空間由一組超參數定義。
一個多階狀態網路(MSN),如圖1所示,可以利用G≡(N,A,M)來表示網路模型的多階狀態,從歷史數據來看,對於i=1,2,…,n和j=0,1,2,…,M i, 每個容量概率P ij 是容量狀態x i =j在傳輸邊a i 上的概率。如圖2所顯示之計算方法,其可以提供做為本發明中深度學習DNN模型訓練的系統可靠度R d (標籤)。需要注意的是,與現有方法(參考圖2)不同,DNN模型中不一定要提前給出MP。因此,對於深度學習DNN模型訓練不需要d-MP。本發明考慮了每個傳輸邊(arc)和需求(demand)的容量概率。將網路資訊(network information)轉化為一維陣列(one-dimensional array)Y,作為輸入數據。這裡假設總共需要具有不同容量概率和需求的g個數據點。每個數據的需求設定在一特定範圍d min 和d max 內。因此,生成了總共g個訓練數據點。此外,透過p和(1-p)的比例將數據分為訓練組(training group)和未評估有效性組(invalidation group)以進行進一步驗證,其中p為有效比例(validation proportion),亦即訓練數據的比例。
請參考圖3,其顯示一完整的DNN模型300示意圖,DNN模型300由一個輸入層301、一個輸出層303和複數個隱藏層305組成。根據Y k 陣列的大小,確定輸入層的(n×v)+1個神經元。然後,確定輸出層303中的一個神經元來預測系統可靠度。接下來,考慮每個隱藏層305中不同數量的神經元。由於過多的輸入神經元和過少的隱藏層305中的神經元可能會對模型訓
練產生不利影響。因此,採用了一種逐漸減少第r層神經元數量n r 的方法,如下所示,n r =t/2 (r-1) 對於r=2,…,l,其中t是第一個隱藏層305a的神經元數量,l是隱藏層的數量。而且,在本發明中每一層的連接都是全連接的,以便整合所有資訊。
每個連接權重記為,表示第γ層中的第α神經元與第(γ+1)層中的第β神經元相連的權重。每個權重都透過激活函數(activation function)轉換並傳輸到下一層。整流線性單元(ReLU)是激活函數之一。它近似於生物神經激勵系統,適合神經演算法。ReLU的方程如下,ReLU(x)=max(0,x)其中x是神經元的輸入。請注意,所有神經元都由隱藏層中的激活函數ReLU轉換。
損失函數(loss function)是用於計算輸出層303中預測值和真實值之間的差異。設定B是一個指定的批量大小,這樣對於每個訓練,將從所有訓練數據中選擇B個數據點。本發明採用均方根誤差(RMSE)來評估DNN模型的表現:
對於下一個迴圈(epoch),DNN模型會根據當前的RMSE調整所有權重。優化函數最小化損失函數RMSE,每個訓練epoch的預測結果更準確。其中,epoch係指一個完整的資料集通過了神經網路一次並且返回了一次。隨機梯度下降(stochastic gradient decent,SGD)在設計的DNN模型中用作優化函數。SGD是一種簡單的梯度下降方法,它確定參數的梯度並在梯度方向上更新權重,如下所示:
為了驗證所提出的系統可靠度預測模型的可行性,一多階狀態網路(MSN)透過使用Bayesian Optimization(BO)方法來優化上述超參數。
DNN模型的預測精度受超參數影響很大,超參數通常由管理員(administrator)直接確定,並且是具有問題針對性的。在提出的框架中,於針對某個網路訓練DNN模型之前,超參數,亦即學習率(η)、批量大小(B)、迴圈數(number of epochs)和第一個隱藏神經元的數量(t),對不同的網路應該透過使用BO方法來優化。
本發明所提為MSN設計和訓練了一個DNN模型的方法,其具體的流程如圖4所示:首先輸入MSN數據、訓練數據的比例p以及四個超參數(η,B,迴圈數,t)的數值範圍至上述DNN模型中(步驟S401),接著使用Bayesian Optimization(BO)優化上述四個超參數(步驟S403),然後基於已優化之超參數來確定DNN模型的隱藏層數目、相關函數以及其他超參數(步驟S405),隨即利用前述g×p個數據點訓練DNN模型(g為訓練數據點數量、p為訓練數據的比例)(步驟S407),接下來利用已訓練DNN模型來對g(1-p)個數據點預測系統可靠度R d (步驟S409),最後利用g(1-p)個數據點計算均方根誤差(RMSE)來評估DNN模型的表現(步驟S411)。
以一實施例而言,MSN數據(亦即,網路資訊)包括產能機率表及當下需求等。
以一實施例而言,相關函數包括:激活、損失及優化函數等。
這裡以如圖1所示的多階狀態網路(MSN)作為使用Bayesian Optimization(BO)確定超參數的實例。為了設置多階狀態網路的輸入數據,將每條傳輸邊(arc)的最大容量設置為具有相應隨機概率的四個單元。對於所有數據,需求值(d)從1到4隨機設置。特別是,需求不應設置為0,因為相應
的系統可靠度為1。
以一實施例而言,對於上述四個超參數的域空間(domain space),學習率(η)設置在0.0001和0.1之間、批量大小(B)設置為16、32、64或128、迴圈數(number of epochs)設置為1000到10000、以及第一個隱藏層神經元(t)的數量從16到128。
以一實施例而言,超參數優化在Python 3.8中實現,在配備CoreTM i7-8700 CPU、3.19GHz和16GB RAM的個人電腦上實現。選擇具有100次迭代的Tree Parzen估計器(Tree Parzen Estimator)來調整超參數,具有10,000個訓練量和兩個隱藏層。最優超參數如表I所示。再次構建多階狀態網路的DNN模型以驗證優化超參數的可行性。實驗結果如表II所示,包括DNN模型構建和系統可靠度預測的RMSE和CPU時間。RMSE=0.0274意味著準確值和預測系統可靠度之間的平均偏差約為2%。
我們透過使用具有更多節點(nodes)和傳輸邊(arcs)的更複雜的網路來進一步研究計算效率,如圖5所示,其為一美國國家科學基金會網路(NSFNET)500。該網路包含16個主要的節點以及20條主要的傳輸邊,各節點為節點交換系統(NSS)的路由器,並以單位10Gb/s傳輸速度之傳輸邊連接各節點,其以a i 表示網路中不同之傳輸邊(j=1,2,...,20),傳輸邊會根據機器故
障、維修或人為因素而具不同程度之傳輸速度,因此將傳輸邊的容量視為隨機且多階狀態。對於該網路,每個傳輸邊的最大容量設置為100個單位,批量大小為10,其中每個容量都有一個隨機概率。需求級別在網路中從60到100隨機設置,批量大小為10。本發明所解決之實施例中,於此範例中每秒分別需要從華盛頓州的西雅圖(Seattle,WA)到麻薩諸塞州的劍橋(Cambridge,MA)傳輸5種不同的需求級別,分別為60-100(60,70,80,90,100)Gb,各傳輸邊之傳輸量為隨機且多階狀態。
在建構DNN模型中,首先輸入上述之網路資訊,包括需求及各傳輸邊之容量機率,並決定其相關架構及函數,本發明進而利用Bayesian Optimization(BO)優化四種超參數組合,如表III所示。
將訓練後之DNN模型所預測的系統可靠度與現有方法比較,以均方根誤差(RMSE)作為其誤差指標,實驗結果如表IV所示,包括現有算法與DNN模型的CPU時間比較、以及DNN模型構建和系統可靠度預測的RMSE。
透過本發明所提出方法之RMSE為0.0055,其代表與實際系統可靠度值的誤差範圍為正負0.5%內,且利用DNN模型所需之預測時間為0.0074秒,利用傳統系統可靠度演算法計算時間為322.1576秒,相較現有方法所需之時間大約快40,000倍。由此可知,本發明的方法可即時預測複雜且大型
之MSN之系統可靠度,且控制在一定誤差範圍內,管理者可利用此指標評估系統並依此做出相關決策,具有大數據背景之生產現場能夠根據系統可靠度進行即時管理,以達智慧製造之情境實現。
以製造系統為例,透過各機台於現場收集之巨量數據來更新機台資料,可即時評估當前滿足需求之能力,透過此管理方式之實踐,可以落實大數據背景下具機動性之品質管理意涵。本發明所提之方法首先將系統以網路拓樸建立一個多階狀態網路(multistate network,MSN),例如圖1或圖5所示的MSN範例,且不需服從特定之機率分配,將轉換後之網路資訊輸入深度學習模型後,針對該網路預測系統可靠度,其定義為MSN能完成顧客需求之機率。在面對大型且複雜之系統時,現有既存方法評估需耗費大量時間,而配合感測器收集之資料,本發明所提之方法結合深度學習可即時預測出一定誤差內之系統可靠度,針對複雜且不斷變動之實務系統,提供管理者了解當下系統狀態,並依此狀態作出反應,以達成所追求之動態式品質管理系統。
根據上述所提及之方法,其可應用於現實生活中有客戶需求之系統(諸如製造網路、電腦網路及物流網路等),將其建構為一MSN模型評估之。以製造系統為例,透過感測器於製造現場蒐集加工資料(包括動作方位、光學影像感測及環境監測等感測資訊等),即時記錄機台本身製程狀況與被加工品之品質特性,以利進行資料儲存與分析;針對蒐集之資料更新產能機率表,評估當下系統之產能可否滿足需求,以更新投料派工法則、調度產線等相關決策。如上述範例,此方法可評估各實務系統中滿足需求之能力,並針對蒐集之數據有系統性地進行管理及分析。
簡而言之,本發明將依系統建構成一網路拓樸,並使用深度神經網路(deep neural network,DNN)來預測其系統可靠度。首先將網路資訊,如產能機率表及當下需求輸入DNN模型,進而確定DNN模型之結構(訓練量和隱藏層數)與相關函數(激活、損失及優化函數等)。針對其他模型中超參數(如學習率、批次數量及迴圈數等)使用Bayesian Optimization(BO)方法優化DNN模型之超參數,依照可蒐集之資料量作為輸入資料以供DNN模型訓練。根據生產
線中根據現場取得之數據,結合深度學習立即預測現場之系統可靠度,即時回饋生產狀況,以作為管理者決策之依據。
請參閱圖6,其顯示本發明實施例中用於預測系統可靠度之裝置600的示意圖。如圖所示,應用於本發明之多階狀態網路(MSN)之可靠度計算裝置可以至少包含輸入裝置601、記憶體603、處理器605以及輸出裝置607。其中,輸入裝置601與記憶體603電性連接,輸入裝置601可包括電腦裝置的各種輸入介面或是檔案的接收裝置,可以藉由輸入裝置601接收有關MSN 6032的節點以及傳輸邊的架構,並將其儲存於記憶體603中。其中,以圖5的多階狀態網路(MSN)為例,各節點為節點交換系統(NSS)的路由器,而傳輸邊(arc)可以包含各種有線及無線的通訊傳輸方式。此外,記憶體603可以儲存深度神經網路(deep neural network,DNN)模型6033以及上述關於多階狀態網路(MSN)可靠度計算方法的演算法6031,演算法6031如同前述實施例所揭露的流程步驟。
以一較佳實施例,記憶體603可包含唯讀記憶體、快閃記憶體、磁碟或是雲端資料庫等。
以一較佳實施例,上述處理器605與記憶體603電性連接,處理器605包含中央處理器、影像處理器、微處理器等,期可以包含多核心的處理單元或是多個處理單元的組合,處理器605可以存取記憶體中的多階狀態網路(MSN)6032、DNN模型6033以及可靠度計算方法的演算法6031,進行如圖4所示的系統可靠度演算法。
以一較佳實施例,處理器605演算的結果,可由輸出裝置607輸出。輸出裝置607可以為呈現計算結果的顯示器,例如LCD、LED或OLED顯示螢幕,又或者是有線/無線的網路傳輸裝置,將計算結果傳送至遠端之使用者。
以上實施例僅用以說明本發明的技術方案,而非對其限制;儘管
參照前述實施例對本發明及其效益進行詳細說明,本領域的普通技術人員應當理解:其依然可以對前述各實施例所記載的進行修改,或者對其中部分技術特徵進行等同替換;而這些修改或替換,並不使相應技術方案的本質脫離本發明權利要求的範圍。
S401、S403、S405、S407、S409、S411:步驟
Claims (7)
- 一種預測系統可靠度之方法,其中該系統建構成一多階狀態網路,利用一深度神經網路模型來預測該系統可靠度,該多階狀態網路以及該深度神經網路模型係儲存於一記憶體中,該系統可靠度的計算方法包含下列步驟:輸入該多階狀態網路的數據、訓練數據的比例以及複數個超參數的數值範圍至該深度神經網路模型;使用Bayesian Optimization(BO)優化該複數個超參數;基於已優化之該複數個超參數來確定該深度神經網路模型的隱藏層數目、相關函數以及其他超參數,其中,該相關函數包含激活、損失及優化函數;利用輸入的該多階狀態網路的該數據所需之數據點的數目以及該訓練數據的比例來訓練該深度神經網路模型,其中,該數據點的數目為g個數據點,且該訓練數據的比例為p;利用已訓練深度神經網路模型對該多階狀態網路的該數據所需之數據點中尚未評估有效性數據點,預測多階狀態系統可靠度,其中,該尚未評估有效性數據點為g(1-p)個數據點;以及利用該尚未評估有效性數據點計算均方根誤差(RMSE)來評估該深度神經網路模型的表現。
- 如請求項1所述的預測系統可靠度之方法,其中上述多階狀態網路,其包含複數個節點以及連結該複數個節點的複數個傳輸邊。
- 如請求項1所述的預測系統可靠度之方法,其中上述多階狀態網路數據包含產能機率表及當下需求。
- 如請求項1所述的預測系統可靠度之方法,其中上述複數個超參數包含學習率(η)、批量大小(B)、迴圈數(number of epochs)以及上述深度神經網路的第 一個隱藏層的神經元數量(t)。
- 一種預測系統可靠度之裝置,用於將該系統建構成一多階狀態網路,利用一深度神經網路模型來預測該系統可靠度,該裝置包括:一記憶體,用以儲存該多階狀態網路、該神經網路模型以及一演算法,該演算法包含下列步驟:輸入該多階狀態網路的數據、訓練數據的比例以及複數個超參數的數值範圍至該深度神經網路模型;使用Bayesian Optimization(BO)優化該複數個超參數;基於已優化之該複數個超參數來確定該深度神經網路模型的隱藏層數目、相關函數以及其他超參數,其中,該相關函數包含激活、損失及優化函數;利用輸入的該多階狀態網路的該數據所需之數據點的數目以及該訓練數據的比例來訓練該深度神經網路模型,其中,該數據點的數目為g個數據點,且該訓練數據的比例為p;利用已訓練深度神經網路模型對該多階狀態網路的該數據所需之數據點中尚未評估有效性數據點,預測多階狀態系統可靠度;利用該尚未評估有效性數據點計算均方根誤差(RMSE)來評估該深度神經網路模型的表現;以及一處理器,與該多階狀態網路及該記憶體電性連接,執行該演算法以取得該多階狀態系統可靠度。
- 如請求項5所述的預測系統可靠度之裝置,其中上述多階狀態網路,其包含複數個節點以及連結該複數個節點的複數個傳輸邊。
- 如請求項5所述的預測系統可靠度之裝置,其中上述複數個超參數包含學習率(η)、批量大小(B)、迴圈數(number of epochs)以及上述深度神經網路的第 一個隱藏層的神經元數量(t)。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW110132493A TWI773507B (zh) | 2021-09-01 | 2021-09-01 | 預測系統可靠度之方法與裝置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW110132493A TWI773507B (zh) | 2021-09-01 | 2021-09-01 | 預測系統可靠度之方法與裝置 |
Publications (2)
Publication Number | Publication Date |
---|---|
TWI773507B true TWI773507B (zh) | 2022-08-01 |
TW202312029A TW202312029A (zh) | 2023-03-16 |
Family
ID=83807133
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
TW110132493A TWI773507B (zh) | 2021-09-01 | 2021-09-01 | 預測系統可靠度之方法與裝置 |
Country Status (1)
Country | Link |
---|---|
TW (1) | TWI773507B (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TW201903704A (zh) * | 2017-06-13 | 2019-01-16 | 大陸商北京嘀嘀無限科技發展有限公司 | 用於推薦預估到達時間的系統和方法 |
TW202042559A (zh) * | 2019-03-18 | 2020-11-16 | 弗勞恩霍夫爾協會 | 用以壓縮類神經網路參數之方法與裝置 |
US20210012239A1 (en) * | 2019-07-12 | 2021-01-14 | Microsoft Technology Licensing, Llc | Automated generation of machine learning models for network evaluation |
CN112508442A (zh) * | 2020-12-18 | 2021-03-16 | 湖南大学 | 基于自动化和可解释机器学习的暂态稳定评估方法及系统 |
CN112598050A (zh) * | 2020-12-18 | 2021-04-02 | 四川省成都生态环境监测中心站 | 生态环境数据质量控制方法 |
CN112819523A (zh) * | 2021-01-29 | 2021-05-18 | 上海数鸣人工智能科技有限公司 | 结合内/外积特征交互和贝叶斯神经网络的营销预测方法 |
US20210241137A1 (en) * | 2020-02-04 | 2021-08-05 | Vignet Incorporated | Systems and methods for using machine learning to generate precision predictions of readiness |
-
2021
- 2021-09-01 TW TW110132493A patent/TWI773507B/zh active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TW201903704A (zh) * | 2017-06-13 | 2019-01-16 | 大陸商北京嘀嘀無限科技發展有限公司 | 用於推薦預估到達時間的系統和方法 |
TW202042559A (zh) * | 2019-03-18 | 2020-11-16 | 弗勞恩霍夫爾協會 | 用以壓縮類神經網路參數之方法與裝置 |
US20210012239A1 (en) * | 2019-07-12 | 2021-01-14 | Microsoft Technology Licensing, Llc | Automated generation of machine learning models for network evaluation |
US20210241137A1 (en) * | 2020-02-04 | 2021-08-05 | Vignet Incorporated | Systems and methods for using machine learning to generate precision predictions of readiness |
CN112508442A (zh) * | 2020-12-18 | 2021-03-16 | 湖南大学 | 基于自动化和可解释机器学习的暂态稳定评估方法及系统 |
CN112598050A (zh) * | 2020-12-18 | 2021-04-02 | 四川省成都生态环境监测中心站 | 生态环境数据质量控制方法 |
CN112819523A (zh) * | 2021-01-29 | 2021-05-18 | 上海数鸣人工智能科技有限公司 | 结合内/外积特征交互和贝叶斯神经网络的营销预测方法 |
Also Published As
Publication number | Publication date |
---|---|
TW202312029A (zh) | 2023-03-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Ferreira et al. | An approach to reservoir computing design and training | |
Kondratenko et al. | Multi-criteria decision making for selecting a rational IoT platform | |
Yan-hua et al. | Optimization of cloud database route scheduling based on combination of genetic algorithm and ant colony algorithm | |
Rong et al. | A model for software defect prediction using support vector machine based on CBA | |
CN110232461A (zh) | 基于量子遗传算法优化的多关联向量机水质预测方法 | |
Ferreira et al. | Comparing evolutionary methods for reservoir computing pre-training | |
CN117539726B (zh) | 绿色智算中心能效优化方法及系统 | |
Lee et al. | Energy consumption prediction system based on deep learning with edge computing | |
Zou et al. | Deep non-crossing probabilistic wind speed forecasting with multi-scale features | |
Li et al. | Preference incorporation to solve multi-objective mission planning of agile earth observation satellites | |
CN115114128A (zh) | 一种卫星健康状态评估系统及评估方法 | |
CN104021315A (zh) | 基于bp神经网络的电厂厂用电率计算方法 | |
Dehghani et al. | A multi-objective optimization model for a reliable generalized flow network design | |
Gruber et al. | Efficient Bayesian network learning for system optimization in reliability engineering | |
CN111222762A (zh) | 太阳能电池板镀膜工艺状态监控及质量控制系统 | |
Chen et al. | Using deep neural networks to evaluate the system reliability of manufacturing networks | |
Nápoles et al. | Hybrid model based on rough sets theory and fuzzy cognitive maps for decision-making | |
TWI773507B (zh) | 預測系統可靠度之方法與裝置 | |
Lam et al. | Neural predictive intervals for simulation metamodeling | |
Al-Laham et al. | Parameter identification of a multilayer perceptron neural network using an optimized salp swarm algorithm | |
CN117217820A (zh) | 供应链采购需求智能集成预测方法及系统 | |
CN114004008B (zh) | 一种基于神经网络和遗传算法的飞机装配线资源配置优化方法 | |
Sujamol et al. | A genetically optimized method for weight updating in fuzzy cognitive maps | |
EP3701679B1 (en) | Network resource allocation | |
Di Nuovo et al. | A study on evolutionary multi-objective optimization with fuzzy approximation for computational expensive problems |