TWI734059B - 動態預測模型建立方法、電子裝置及使用者介面 - Google Patents
動態預測模型建立方法、電子裝置及使用者介面 Download PDFInfo
- Publication number
- TWI734059B TWI734059B TW107144359A TW107144359A TWI734059B TW I734059 B TWI734059 B TW I734059B TW 107144359 A TW107144359 A TW 107144359A TW 107144359 A TW107144359 A TW 107144359A TW I734059 B TWI734059 B TW I734059B
- Authority
- TW
- Taiwan
- Prior art keywords
- model
- data set
- dynamic prediction
- establishing
- prediction model
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 36
- 238000005070 sampling Methods 0.000 claims abstract description 76
- 238000012545 processing Methods 0.000 claims abstract description 22
- 230000010354 integration Effects 0.000 claims abstract description 8
- 238000009826 distribution Methods 0.000 claims description 15
- 238000004519 manufacturing process Methods 0.000 claims description 15
- 238000004088 simulation Methods 0.000 claims description 4
- 238000013526 transfer learning Methods 0.000 claims description 4
- 238000012795 verification Methods 0.000 claims description 4
- 230000002596 correlated effect Effects 0.000 claims description 3
- 230000004927 fusion Effects 0.000 claims 4
- 238000012549 training Methods 0.000 claims 4
- 101100434460 Arabidopsis thaliana ADS2 gene Proteins 0.000 description 16
- 230000004044 response Effects 0.000 description 13
- 238000010586 diagram Methods 0.000 description 11
- 230000006872 improvement Effects 0.000 description 9
- 238000012821 model calculation Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 7
- 238000007477 logistic regression Methods 0.000 description 4
- 238000002488 metal-organic chemical vapour deposition Methods 0.000 description 4
- 238000007637 random forest analysis Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 101100229939 Mus musculus Gpsm1 gene Proteins 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 230000000875 corresponding effect Effects 0.000 description 2
- 238000013481 data capture Methods 0.000 description 1
- 230000003862 health status Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000007747 plating Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N5/00—Computing arrangements using knowledge-based models
- G06N5/02—Knowledge representation; Symbolic representation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q10/00—Administration; Management
- G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/04—Manufacturing
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Business, Economics & Management (AREA)
- Artificial Intelligence (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Economics (AREA)
- Human Resources & Organizations (AREA)
- Strategic Management (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Business, Economics & Management (AREA)
- Tourism & Hospitality (AREA)
- Marketing (AREA)
- Computational Linguistics (AREA)
- Development Economics (AREA)
- Health & Medical Sciences (AREA)
- Manufacturing & Machinery (AREA)
- General Health & Medical Sciences (AREA)
- Game Theory and Decision Science (AREA)
- Entrepreneurship & Innovation (AREA)
- Operations Research (AREA)
- Quality & Reliability (AREA)
- Primary Health Care (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Arrangements For Transmission Of Measured Signals (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
一種動態預測模型建立方法、電子裝置及使用者介面。動態預測模型建立方法包括以下步驟。依據至少一輔助資料集，一處理裝置建立一整合模型。依據一目標資料集，處理裝置修正整合模型為一動態預測模型。依據輔助資料集及目標資料集之一誤差程度或一不確定程度，處理裝置提供一取樣點推薦資訊。
Description
本揭露是有關於一種動態預測模型建立方法、電子裝置及使用者介面。
在生產製造等各種領域中，經常需要預測模型來進行結果的預測。預測模型可透過目標資料的實作來建立，目標資料具備高真實性，但取得目標資料需要相當高的成本進行實作。在無法提供高資料量的情況下，將無法建立一個精確度高的預測模型(即預測誤差小，不確定性高的預測模型)。
或者，預測模型也可能利用大量的輔助資料來建立，例如是透過物理或化學理論所建立的模擬器來模擬目標產品，或者透過歷史相似產品的資料來推估目標產品。取得輔助資料的成本低，但模擬器並非100%與真實情況完全相同，而有不完備的問題，且相似產品與目標產品存在差異，故預測結果仍然會有一定程度的偏差(即預測誤差大，不確定性低的預測模型)。
因此，研究人員均致力於研發一種低成本且高預測精準度之預測模型，以達到產業界之需求。
本揭露係有關於一種動態預測模型建立方法、電子裝置及使用者介面。
根據本揭露之一實施例，提出一種動態預測模型建立方法。動態預測模型建立方法包括以下步驟。依據至少一輔助資料集，一處理裝置建立一整合模型。依據一目標資料集，處理裝置修正整合模型為一動態預測模型。依據輔助資料集及目標資料集之一誤差程度或一不確定程度，處理裝置提供一取樣點推薦資訊。
根據本揭露之另一實施例，提出一種電子裝置。電子裝置包括一處理裝置。處理裝置用以執行一動態預測模型建立方法。動態預測模型建立方法包括以下步驟。依據至少一輔助資料集，建立一整合模型。依據目標資料集，修正整合模型為一動態預測模型。依據輔助資料集及目標資料集之一誤差程度或一不確定程度，提供一取樣點推薦資訊。
根據本揭露之再一實施例，提出一種使用者介面。使用者介面用以顯示至少一輔助資料集與一目標資料集、及一動態預測模型之一誤差程度與一不確定程度。
為了對本揭露之上述及其他方面有更佳的瞭解，下文特舉實施例，並配合所附圖式詳細說明如下：
100:電子裝置
110:使用者介面
111、112、113:取樣模式按鍵
120:資料擷取裝置
130:處理裝置
131:整合模型計算模組
132:模型效能提升模組
133:取樣點推薦模組
140:輔助資料庫
150:目標資料庫
160:整合資料庫
170:動態資料庫
300:目標系統
ADS1、ADS2:輔助資料集
AM:動態預測模型
C10:輔助資料集之分布曲線
C10a:不確定上限曲線
C10b:不確定下限曲線
C11:不確定曲線
C12:目標資料集之分布曲線
C13:誤差曲線
C14:評分曲線
CM:選擇指令
DC:取樣點分佈資訊
E1、E2:平均絕對誤差
ER:誤差程度
IM:整合模型
IT:輸入參數
M1、M2:個別模型
OT:輸出反應參數
P1、P2:推薦之取樣點
R11、R14:區域
RD:殘差值
RM:殘差模型
S120、S131、S1311、S1312、S1313、S132、S133、S1330、S1331、S1332、S1333:步驟
SL:取樣點推薦資訊
TD:目標資料
TDS:目標資料集
UC:不確定程度
UCB:取樣評分
W1、W2:信心權重
第1圖繪示根據一實施例之電子裝置之示意圖。
第2圖繪示根據一實施例之動態預測模型建立方法的流程圖。
第3圖繪示步驟S120之示意圖。
第4圖繪示步驟S131之細部流程圖。
第5圖繪示步驟S131之示意圖。
第6圖繪示步驟S132之細部流程圖。
第7圖繪示步驟S132之示意圖。
第8圖繪示步驟S133之細部流程圖。
第9圖繪示根據一實施例之使用者介面之示意圖。
第10圖繪示輔助資料集之分布曲線。
第11圖繪示輔助資料集之不確定程度的不確定曲線。
第12圖繪示目標資料集之分布曲線。
第13圖繪示誤差程度之誤差曲線。
第14圖繪示取樣評分之評分曲線。
第15圖繪示根據一實施例之取樣點分佈資訊。
以下說明各種實施例之動態預測模型建立方法，其結合輔助資料集及目標資料集，以在低成本的情況下提升預測精準度，並且透過適當的取樣策略來使低成本與高預測精準度之效益最大化。
請參照第1圖，其繪示根據一實施例之電子裝置100之示意圖。電子裝置100包括一使用者介面110、一資料擷取裝置120、一處理裝置130、一輔助資料庫140、一目標資料庫150、一整合資料庫160及一動態資料庫170。使用者介面110例如是一電腦、一平板、一觸控螢幕、一行動電話、或一螢幕上之畫面，本揭露不限於此。資料擷取裝置120例如是感測器、量測器、數據接收器、或數據輸入裝置，本揭露不限於此。處理裝置130例如是一處理晶片、一電路板、一電路、一電腦、一雲端計算中心、或一行動裝置，本揭露不限於此。處理裝置130用以執行一整合模型計算模組131、一模型效能提升模組132及一取樣點推薦模組133。整合模型計算模組131、模型效能提升模組132及取樣點推薦模組133例如是程式模組、韌體模組、或電路模組，本揭露不限於此。處理裝置130執行整合模型計算模組131、模型效能提升模組132及取樣點推薦模組133以實現動態預測模型建立方法。輔助資料庫140、目標資料庫150、整合資料庫160及動態資料庫170例如是一記憶體、一硬碟、或一雲端儲存中心，本揭露不限於此。以下搭配一流程圖詳細說明上述各項元件之運作。
請參照第2~3圖，其繪示根據一實施例之動態預測模型建立方法的流程圖。在步驟S120中，資料擷取裝置120取得至少一目標資料TD。請參照第3圖，其繪示步驟S120之示意圖。在此步驟中，資料擷取裝置120取得一目標系統300(或一目標製程、一目標機器設備，本揭露不限於此)的至少一個輸入參數IT及至少一個輸出反應參數OT。資料擷取裝置120可利用讀檔、資料擷取卡介面或透過存取一資料庫系統，取得目標系統300(或目標製程、目標機器設備)的輸入參數IT及輸出反應參數OT。輸出反應參數OT可以是離散數值(類別型資料)，例如是產品品質的通過量規(GO)與不通過量規(No-GO)、或推薦偏好排序，本揭露不限於此。
請參照下表一，其示例說明目標系統300之輸入參數IT及輸出反應參數OT。
舉例來說，以MOCVD製程機台為例，當機台型號或品牌更換時，本揭露可充分利用原有MOCVD製程機台的資訊。輸入參數IT例如是MOCVD製程機台的壓力、溫度等感測資
料，本揭露不限於此。輸出反應參數OT例如是MOCVD製程機台之健康狀況，本揭露不限於此。
以LED製程為例，當產品規格更動時(例如波長需求的調整)，也能透過原始產品資訊的協助提升預測模型的預測能力。輸入參數IT例如是LED製程所需的各式氣體流量，本揭露不限於此。輸出反應參數OT例如是產品品質(如鍍率膜厚、應力等)，本揭露不限於此。
以超參數調整(Hyperparameter Auto-Tuning)軟體系統為例，如要進行複雜模型的超參數調整時，可透過先前已完成調整模型或簡單模型之結果資訊，提供自動調整(Auto-Tuning)系統良好的先備資訊。輸入參數IT例如是超參數調整軟體系統中的超參數，本揭露不限於此。輸出反應參數OT例如是超參數調整軟體系統的預測精準度，本揭露不限於此。
目標資料TD儲存於目標資料庫150中，以形成目標資料集TDS。
接著，在步驟S131中，整合模型計算模組131依據至少一輔助資料集，建立一整合模型IM。以下的說明係以兩組輔助資料集ADS1、ADS2為例，但本揭露並不侷限輔助資料集之數量。
請參照第4~5圖，第4圖繪示步驟S131之細部流程圖，第5圖繪示步驟S131之示意圖。步驟S131包括步驟S1311~
S1313。在步驟S1311中，整合模型計算模組131依據至少二輔助資料集ADS1、ADS2，建立至少二個別模型M1、M2。
輔助資料集ADS1、ADS2例如是由模擬軟體提供之一模擬資料集或相似機器設備(或相似製程、相似系統、歷史產品)提供之一近似資料集，本揭露不限於此。輔助資料集ADS1、ADS2包括輸入參數IT及輸出反應參數OT。
以LED製程為例，新產品的研發時，能夠透過物理模擬器或化學模擬器(如STR Group的CVDSim)的模擬資料，提供模型足夠的資訊。
請參照表二，其示例說明輔助資料集ADS1。
請參照表三，其示例說明輔助資料集ADS2。
在步驟S1311中，不同的輔助資料集ADS1、ADS2可根據資料特性選擇合適模型。例如隨機決策森林(Random Forest,RF)、高斯過程(Gaussian Process,GP)及邏輯斯回歸(Logistic Regression,LR)可以作為候選模型，並根據留一驗證法的平均絕對誤差分數(Leave-One-Out MAE score,LOO MAE score)挑選合適模型，本揭露不限於此。
接著，在步驟S1312中，整合模型計算模組131計算各個別模型M1、M2之一信心權重W1、W2。如下表四所示，目標系統300之輸入參數IT(即-10.0,-7.50,-5.00)輸入個別模型M1，即可輸出預測之輸出反應參數OT(即6.58,4.15,4.15)。依據預測之輸出反應參數OT(即6.58,4.15,4.15)與目標系統300之輸出反應參數OT(即12.08,3.13,14.50)運算出平均絕對誤差(Mean Absolute Error,MAE)E1(即6.17)。輔助資料集ADS1、ADS2係來自於模擬軟體、相似系統、相似產品，而目標資料集TDS則來自於目標系統300，因此輔助資料集ADS1、ADS2與目標資料集TDS存在著誤差。誤差越小表示輔助資料集ADS1、ADS2能夠代表目標資料集TDS的程度越高。
如下表四所示，目標系統300之輸入參數IT(即-10.0,-7.50,-5.00)輸入個別模型M2，即可輸出預測之輸出反應參數OT(即6.13,5.34,5.34)。依據預測之輸出反應參數OT(即6.13,5.34,5.34)與之輸出反應參數OT(即12.08,3.13,14.50)運算出平均絕對誤差E2(即5.95)。
如下式(1)、(2)所示，根據個別模型M1、M2之平均絕對誤差E1、E2即可計算出信心權重W1、W2。信心權重W1、W2負相關於各個別模型M1、M2之平均絕對誤差E1、E2。
然後，在步驟S1313中，整合模型計算模組131依據個別模型M1、M2之信心權重W1、W2，整合個別模型M1、M2，以獲得整合模型IM。
透過上述步驟S1311~S1313即可依據多組輔助資料集ADS1、ADS2獲得整合模型IM。整合模型IM融合了模擬器或歷史相似產品所提供的資料，而能夠呈現較佳的預測結果。
接著，請參照第2圖之步驟S132，模型效能提升模組132依據目標資料集TDS，修正整合模型IM為一動態預測模型AM。在步驟S132中，模型效能提升模組132係基於整合模型IM
及目標資料集TDS，透過遷移式學習(Transfer Learning)的方式提升動態預測模型AM的精確度。
請參照第6~7圖，第6圖繪示步驟S132之細部流程圖，第7圖繪示步驟S132之示意圖。步驟S132包括步驟S1321及步驟S1322。在步驟S1321中，模型效能提升模組132依據整合模型IM，訓練一殘差模型RM。在本揭露中，係將目標系統效果(Target System Effect)分解成輔助系統效果(Auxiliary System Effect)與遷移效果(Transferring Effect)，前者由整合模型IM來描述，後者透過殘差模型RM來描述。如表五所示，其示例整合模型IM之殘差值RD。
目標系統300之輸入參數IT與殘差值RD可訓練出殘差模型RM。在步驟S1321中，模型效能提升模組132可以隨機決策森林(Random Forest,RF)、高斯過程(Gaussian Process,GP)及邏輯斯回歸(Logistic Regression,LR)作為候選模型，
並根據留一驗證法的平均絕對誤差分數(Leave-One-Out MAE score,LOO MAE score)挑選合適的殘差模型RM。
然後，在步驟S1322中，模型效能提升模組132結合整合模型IM與殘差模型RM，獲得動態預測模型AM。
透過上述步驟S1321~S1322即可依據目標資料集TDS，修正整合模型IM為動態預測模型AM。本揭露所採用之兩階段模型融合技術(Two-Stage Model Stacking)將殘差模型RM訓練出來後，再與整合模型IM進行融合，使得動態預測模型AM融合了整合模型IM與目標資料集TDS，而能夠呈現較佳的預測結果。
然後，請參照第2圖之步驟S133，取樣點推薦模組133依據輔助資料集ADS1、ADS2及目標資料集TDS之一誤差程度ER或一不確定程度UC，提供一取樣點推薦資訊SL。取樣點推薦模組133可以提供不同的取樣策略，以使每一取樣點都能夠獲得最大的效益。
請參照第8圖，第8圖繪示步驟S133之細部流程圖。步驟S133包括步驟S1330~S1323。在步驟S1330中，判斷所欲進行之取樣模式。若欲進行第一取樣模式，則進入步驟S1331；若欲進行第二取樣模式，則進入步驟S1332；若欲進行第三取樣模式，則進入步驟S1333。如第9圖所示，其繪示根據一實施例之使用者介面110之示意圖。使用者介面110可以顯示數個取樣模式按鍵111、112、113。使用者可以點選取樣模式按鍵111，
輸出選擇指令CM，以決定採用第一取樣模式；使用者可以點選取樣模式按鍵112，輸出選擇指令CM，以決定採用第二取樣模式；使用者可以點選取樣模式按鍵113，輸出選擇指令CM，以決定採用第三取樣模式。
在步驟S1331之第一取樣模式中，取樣點推薦模組133僅依據不確定程度UC，提供取樣點推薦資訊SL。在動態預測模型AM之建立的初期，可能尚未有目標資料TD或僅有非常少量之目標資料TD，故可以採用第一取樣模式。請參照第10~11圖，第10圖繪示輔助資料集ADS1之分布曲線C10，第11圖繪示輔助資料集ADS1之不確定程度UC的不確定曲線C11。不確定程度UC係為第10圖之不確定上限曲線C10a與不確定下限曲線C10b之差距。在第一取樣模式中，可選擇輔助資料集ADS1(或輔助資料集ADS2)之不確定程度UC較低的區域R11(相當於密集度高的區域)，以使輔助資料集ADS1(或輔助資料集ADS2)能夠充分被鏈結至目標資料集TDS。
在步驟S1332之第二取樣模式中，取樣點推薦模組133依據誤差程度ER及不確定程度UC，提供取樣點推薦資訊SL。在動態預測模型AM之建立的中期，可能僅有少量的目標資料TD，故可以採用第二取樣模式。請參照第12圖及第13圖，第12圖繪示目標資料集TDS之分布曲線C12，第13圖繪示誤差程度ER之誤差曲線C13。誤差程度ER係為第10圖之分布曲線C10與第12
圖之分布曲線C12之差。如下式(3)所示，根據誤差程度ER及不確定程度UC即可計算取樣評分UCB。
UCB=α * ER+β * UC................................................(3)
其中，α、β為權衡係數。
請參照第14圖，其繪示取樣評分UCB之評分曲線C14。在第二取樣模式中，可選擇取樣評分UCB較低之區域R14(相當於誤差程度ER高且不確定程度UC高的區域)，以使準確度較低之處能夠被取樣。
在步驟S1333之第三取樣模式中，取樣點推薦模組133依據一取樣點分佈資訊DC，提供取樣點推薦資訊SL。請參照第15圖，其繪示取樣點分佈資訊DC之示意圖。在動態預測模型AM之建立的後期，已蒐集了一定數量之目標資料TD，故可以採用第三取樣模式。請參照第15圖，其繪示根據一實施例之取樣點分佈資訊DC。取樣點推薦模組133可以搜尋出推薦之一取樣點P1，推薦之取樣點P1與已建模之鄰近的取樣點P2具有最大距離，以確保能包含參數空間的最大訊息量。
上述各種實施例揭露動態預測模型建立方法與電子裝置100，其利用目標資料集TDS與輔助資料集ADS1、ADS2的相似程度資訊(例如是平均絕對誤差E1、E2，本揭露不限於此)，建立整合模型IM。並且結合目標資料集TDS與整合模型IM(所建立之殘差模型RM)，獲得高精準度的動態預測模型AM。
此外，更可在不同的取樣策略下，依據誤差程度ER及/或不確定程度UC，找出的預測高風險之取樣區域，並提供取樣點推薦資訊SL。
本揭露之動態預測模型AM與Borehole、Park91a、Park91b、EF、Alpine等方法所建立之預測模型比較，本揭露之動態預測模型能夠達到39%以上的精準度改善率。
上所述，雖然本揭露已以實施例揭露如上，然其並非用以限定本揭露。本揭露所屬技術領域中具有通常知識者，在不脫離本揭露之精神和範圍內，當可作各種之更動與潤飾。因此，本揭露之保護範圍當視後附之申請專利範圍所界定者為準。
100:電子裝置
110:使用者介面
120:資料擷取裝置
130:處理裝置
131:整合模型計算模組
132:模型效能提升模組
133:取樣點推薦模組
140:輔助資料庫
150:目標資料庫
160:整合資料庫
170:動態資料庫
ADS1、ADS2:輔助資料集
AM:動態預測模型
CM:選擇指令
E1、E2:平均絕對誤差
ER:誤差程度
IM:整合模型
M1、M2:個別模型
RM:殘差模型
SL:取樣點推薦資訊
TD:目標資料
TDS:目標資料集
UC:不確定程度
UCB:取樣評分
W1、W2:信心權重
Claims (16)
- 一種製程之動態預測模型建立方法，包括：依據至少一輔助資料集，一處理裝置建立一整合模型；依據一目標資料集，該處理裝置以一兩階段模型融合技術修正該整合模型為一動態預測模型，該兩階段模型融合技術包括：依據該整合模型，訓練一殘差模型；及依據該整合模型與該殘差模型，獲得該動態預測模型；以及依據該至少一輔助資料集及該目標資料集之一誤差程度或一不確定程度，該處理裝置提供一取樣點推薦資訊。
- 如申請專利範圍第1項所述之製程之動態預測模型建立方法，其中該至少一輔助資料集之數量為至少二，該處理裝置建立該整合模型之步驟包括：依據該至少二輔助資料集，建立至少二個別模型；計算各該至少二個別模型之一信心權重；以及依據該至少二個別模型之該些信心權重，整合該至少二個別模型，以獲得該整合模型。
- 如申請專利範圍第2項所述之製程之動態預測模型建立方法，其中在建立該至少二個別模型之步驟中，係根據留一驗證法的平均絕對誤差分數(Leave-One-Out MAE score,LOO MAE score)獲得該至少二個別模型。
- 如申請專利範圍第2項所述之製程之動態預測模型建立方法，其中在計算各該至少二個別模型之該信心權重之步驟中，各該至少二信心權重負相關於各該至少二個別模型之一平均絕對誤差。
- 如申請專利範圍第1項所述之製程之動態預測模型建立方法，其中該處理裝置修正該整合模型為該動態預測模型之步驟係透過遷移式學習(Transfer Learning)的方式獲得該動態預測模型。
- 如申請專利範圍第1項所述之製程之動態預測模型建立方法，其中訓練該殘差模型之步驟係根據留一驗證法的平均絕對誤差分數(Leave-One-Out MAE seore,LOO MAE score)獲得該殘差模型。
- 如申請專利範圍第1項所述之製程之動態預測模型建立方法，其中該處理裝置提供該取樣點推薦資訊之步驟包括：於一第一取樣模式，僅依據該不確定程度，提供該取樣點推薦資訊；於一第二取樣模式，依據該誤差程度及該不確定程度，提供該取樣點推薦資訊；以及 於一第三取樣模式，依據一取樣點分佈資訊，提供該取樣點推薦資訊。
- 如申請專利範圍第1項所述之製程之動態預測模型建立方法，其中該至少一輔助資料集包括一模擬資料集及一近似資料集。
- 一種電子裝置，包括：一處理裝置，用以執行一製程之一動態預測模型建立方法，該動態預測模型建立方法包括：依據至少一輔助資料集，建立一整合模型；依據該目標資料集，以一兩階段模型融合技術修正該整合模型為一動態預測模型，該兩階段模型融合技術包括：依據該整合模型，訓練一殘差模型；及依據該整合模型與該殘差模型，獲得該動態預測模型；以及依據該至少一輔助資料集及該目標資料集之一誤差程度或一不確定程度，提供一取樣點推薦資訊。
- 如申請專利範圍第9項所述之電子裝置，其中依據該至少一輔助資料集之數量為至少二，建立該整合模型之步驟包括：依據該至少二輔助資料集，建立至少二個別模型；計算各該至少二個別模型之一信心權重；以及 依據該至少二個別模型之該些信心權重，整合該至少二個別模型，以獲得該整合模型。
- 如申請專利範圍第10項所述之電子裝置，其中在建立該至少二個別模型之步驟中，係根據留一驗證法的平均絕對誤差分數(Leave-One-Out MAE score,LOO MAE score)獲得該至少二個別模型。
- 如申請專利範圍第10項所述之電子裝置，其中在計算各該至少二個別模型之該信心權重之步驟中，各該至少二信心權重負相關於各該至少二個別模型之一平均絕對誤差。
- 如申請專利範圍第9項所述之電子裝置，其中修正該整合模型為該動態預測模型之步驟係透過遷移式學習(Transfer Learning)的方式獲得該動態預測模型。
- 如申請專利範圍第9項所述之電子裝置，其中訓練該殘差模型之步驟係根據留一驗證法的平均絕對誤差分數(Leave-One-Out MAE score,LOO MAE score)獲得該殘差模型。
- 如申請專利範圍第9項所述之電子裝置，其中提供該取樣點推薦資訊之步驟包括： 於一第一取樣模式，僅依據該不確定程度，提供該取樣點推薦資訊；於一第二取樣模式，依據該誤差程度及該不確定程度，提供該取樣點推薦資訊；以及於一第三取樣模式，依據一取樣點分佈資訊，提供該取樣點推薦資訊。
- 如申請專利範圍第9項所述之電子裝置，其中該至少一輔助資料集包括一模擬資料集及一近似資料集。
Priority Applications (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| TW107144359A TWI734059B (zh) | 2018-12-10 | 2018-12-10 | 動態預測模型建立方法、電子裝置及使用者介面 |
| CN201910090642.8A CN111291917B (zh) | 2018-12-10 | 2019-01-30 | 动态预测模型建立方法、电子装置及用户接口 |
| US16/428,531 US11810002B2 (en) | 2018-12-10 | 2019-05-31 | Dynamic prediction model establishment method, electric device, and user interface |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| TW107144359A TWI734059B (zh) | 2018-12-10 | 2018-12-10 | 動態預測模型建立方法、電子裝置及使用者介面 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| TW202022717A TW202022717A (zh) | 2020-06-16 |
| TWI734059B true TWI734059B (zh) | 2021-07-21 |
Family
ID=70971031
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| TW107144359A TWI734059B (zh) | 2018-12-10 | 2018-12-10 | 動態預測模型建立方法、電子裝置及使用者介面 |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US11810002B2 (zh) |
| CN (1) | CN111291917B (zh) |
| TW (1) | TWI734059B (zh) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| TWI795155B (zh) * | 2021-12-30 | 2023-03-01 | 財團法人工業技術研究院 | 建立製程預測模型的方法及系統 |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN115061365B (zh) * | 2022-07-22 | 2022-11-11 | 浙江中控技术股份有限公司 | 参数整定模型的构建方法及工业过程控制方法 |
| CN115965245B (zh) * | 2023-03-13 | 2023-05-30 | 华东交通大学 | 一种基于机器学习的山地果园冻害风险预测方法 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| TW200745952A (en) * | 2006-04-20 | 2007-12-16 | Celanese Int Corp | A method and apparatus for fuzzy logic control enhancing advanced process control performance |
| TWI509550B (zh) * | 2010-02-16 | 2015-11-21 | Applied Materials Inc | 在虛擬量測中使用適應性預測演算法及決定何時使用適應性預測演算法之方法及設備 |
Family Cites Families (36)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US4858147A (en) | 1987-06-15 | 1989-08-15 | Unisys Corporation | Special purpose neurocomputer system for solving optimization problems |
| US4874963A (en) | 1988-02-11 | 1989-10-17 | Bell Communications Research, Inc. | Neuromorphic learning networks |
| US4943931A (en) | 1988-05-02 | 1990-07-24 | Trw Inc. | Digital artificial neural processor |
| JP2595051B2 (ja) | 1988-07-01 | 1997-03-26 | 株式会社日立製作所 | 半導体集積回路 |
| JPH02136904A (ja) | 1988-11-18 | 1990-05-25 | Hitachi Ltd | 動作系列自己生成機能を持つ運動制御装置 |
| US5016204A (en) | 1989-02-28 | 1991-05-14 | Digital Equipment Corporation | Expert system for performing diagnostic and redesign operations incorporating multiple levels of simulation detail |
| JP2533942B2 (ja) | 1989-03-13 | 1996-09-11 | 株式会社日立製作所 | 知識抽出方法およびプロセス運転支援システム |
| JPH0314002A (ja) | 1989-06-12 | 1991-01-22 | Toshiba Corp | プロセス特性模擬装置 |
| US5056037A (en) | 1989-12-28 | 1991-10-08 | The United States Of America As Represented By The Administrator Of The National Aeronautics And Space Administration | Analog hardware for learning neural networks |
| US5161110A (en) | 1990-02-27 | 1992-11-03 | Atlantic Richfield Company | Hierarchical process control system and method |
| US5142612A (en) | 1990-08-03 | 1992-08-25 | E. I. Du Pont De Nemours & Co. (Inc.) | Computer neural network supervisory process control system and method |
| JPH05127706A (ja) | 1991-10-31 | 1993-05-25 | Toshiba Corp | ニユーラルネツト型シミユレータ |
| US5349541A (en) | 1992-01-23 | 1994-09-20 | Electric Power Research Institute, Inc. | Method and apparatus utilizing neural networks to predict a specified signal value within a multi-element system |
| JP2005135287A (ja) * | 2003-10-31 | 2005-05-26 | National Agriculture & Bio-Oriented Research Organization | 予測装置、予測方法および予測プログラム |
| US20050125434A1 (en) | 2003-12-03 | 2005-06-09 | International Business Machines Corporation | System and method for scalable cost-sensitive learning |
| WO2007038713A2 (en) | 2005-09-28 | 2007-04-05 | Epacris Inc. | Search engine determining results based on probabilistic scoring of relevance |
| US20080154664A1 (en) | 2006-12-21 | 2008-06-26 | Calvin Kuo | System for generating scores related to interactions with a revenue generator |
| US8473415B2 (en) | 2010-05-04 | 2013-06-25 | Kevin Paul Siegel | System and method for identifying a point of compromise in a payment transaction processing system |
| US8412563B2 (en) | 2010-07-02 | 2013-04-02 | Fis Financial Compliance Solutions, Llc | Method and system for analyzing and optimizing distribution of work from a plurality of queues |
| US8363819B2 (en) | 2010-07-27 | 2013-01-29 | Genesys Telecommunications Laboratories, Inc. | Collaboration system and method |
| US8738549B2 (en) | 2010-12-21 | 2014-05-27 | International Business Machines Corporation | Predictive modeling |
| US8635035B2 (en) * | 2011-03-15 | 2014-01-21 | Honeywell International Inc. | Systems and methods for monitoring operation of an LED string |
| US8811490B2 (en) * | 2011-04-14 | 2014-08-19 | Dolby Laboratories Licensing Corporation | Multiple color channel multiple regression predictor |
| US20140114840A1 (en) | 2012-10-19 | 2014-04-24 | Cellco Partnership D/B/A Verizon Wireless | Automated fraud detection |
| US9256838B2 (en) | 2013-03-15 | 2016-02-09 | International Business Machines Corporation | Scalable online hierarchical meta-learning |
| KR101492733B1 (ko) | 2013-10-02 | 2015-02-12 | 서울과학기술대학교 산학협력단 | 이상치 탐지 기법을 이용한 인터넷 전화 서비스에서의 과금 우회 공격 탐지 방법 |
| JP2015095219A (ja) | 2013-11-14 | 2015-05-18 | ソニー株式会社 | 情報処理装置、情報処理方法および記憶媒体 |
| US9998742B2 (en) * | 2015-01-27 | 2018-06-12 | Qualcomm Incorporated | Adaptive cross component residual prediction |
| CN104732303A (zh) * | 2015-04-09 | 2015-06-24 | 中国石油大学(华东) | 一种基于动态径向基函数神经网络的油田产量预测方法 |
| TWI539298B (zh) | 2015-05-27 | 2016-06-21 | 國立成功大學 | 具取樣率決定機制的量測抽樣方法 與其電腦程式產品 |
| US11580375B2 (en) | 2015-12-31 | 2023-02-14 | Kla-Tencor Corp. | Accelerated training of a machine learning based model for semiconductor applications |
| CN106127366A (zh) | 2016-06-16 | 2016-11-16 | 西安电子科技大学 | 一种面向主生产计划的生产数量预测方法 |
| US20180121814A1 (en) * | 2016-10-31 | 2018-05-03 | Microsoft Technology Licensing, Llc | Hyperparameter tuning |
| CN108021985B (zh) | 2016-11-03 | 2022-05-10 | 北京如布科技有限公司 | 一种模型参数训练方法及装置 |
| KR101828503B1 (ko) | 2017-08-23 | 2018-03-29 | 주식회사 에이젠글로벌 | 앙상블 모델 생성 장치 및 방법 |
| CN107679564A (zh) * | 2017-09-20 | 2018-02-09 | 北京百度网讯科技有限公司 | 样本数据推荐方法及其装置 |
-
2018
- 2018-12-10 TW TW107144359A patent/TWI734059B/zh active
-
2019
- 2019-01-30 CN CN201910090642.8A patent/CN111291917B/zh active Active
- 2019-05-31 US US16/428,531 patent/US11810002B2/en active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| TW200745952A (en) * | 2006-04-20 | 2007-12-16 | Celanese Int Corp | A method and apparatus for fuzzy logic control enhancing advanced process control performance |
| TWI509550B (zh) * | 2010-02-16 | 2015-11-21 | Applied Materials Inc | 在虛擬量測中使用適應性預測演算法及決定何時使用適應性預測演算法之方法及設備 |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| TWI795155B (zh) * | 2021-12-30 | 2023-03-01 | 財團法人工業技術研究院 | 建立製程預測模型的方法及系統 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN111291917A (zh) | 2020-06-16 |
| US20200184346A1 (en) | 2020-06-11 |
| CN111291917B (zh) | 2023-07-28 |
| TW202022717A (zh) | 2020-06-16 |
| US11810002B2 (en) | 2023-11-07 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| TWI734059B (zh) | 動態預測模型建立方法、電子裝置及使用者介面 | |
| Sun et al. | Design and application of a variable selection method for multilayer perceptron neural network with LASSO | |
| CN110879864B (zh) | 一种基于图神经网络和注意力机制的上下文推荐方法 | |
| CN110084221A (zh) | 一种基于深度学习的带中继监督的序列化人脸关键点检测方法 | |
| CN112784778B (zh) | 生成模型并识别年龄和性别的方法、装置、设备和介质 | |
| CN106203490A (zh) | 一种安卓平台下基于属性学习和交互反馈的图像在线识别、检索方法 | |
| US20210150284A1 (en) | Classification model building apparatus and classification model building method thereof | |
| CN108776831A (zh) | 一种基于动态卷积神经网络的复杂工业过程数据建模方法 | |
| US20170140287A1 (en) | Bias estimation apparatus and method and failure diagnosis apparatus and method | |
| CN110795571A (zh) | 基于深度学习和知识图谱的文化旅游资源推荐方法 | |
| CN113722583A (zh) | 推荐方法、推荐模型训练方法及相关产品 | |
| CN111353299B (zh) | 基于人工智能的对话场景确定方法和相关装置 | |
| CN106503853A (zh) | 一种基于多标度卷积神经网络的外汇交易预测模型 | |
| CN110309850A (zh) | 基于语言先验问题识别和缓解的视觉问答预测方法及系统 | |
| US20180143968A1 (en) | System, method and non-transitory computer readable storage medium for conversation analysis | |
| Shimoda et al. | Learning food image similarity for food image retrieval | |
| CN109508429A (zh) | 基于教育平台大数据分析的个性化自适应学习推荐方法 | |
| CN111709268A (zh) | 一种深度图像中的基于人手结构指导的人手姿态估计方法和装置 | |
| CN108898612A (zh) | 基于多智能体深度增强学习的多目标跟踪方法 | |
| US20230215152A1 (en) | Learning device, trained model generation method, and recording medium | |
| CN117854156B (zh) | 一种特征提取模型的训练方法和相关装置 | |
| Wang et al. | One-shot retail product identification based on improved Siamese neural networks | |
| CN103678709B (zh) | 一种基于时序数据的推荐系统攻击检测方法 | |
| CN111695743A (zh) | 工厂化食品安全生产监控方法、装置、设备及存储介质 | |
| CN108960954B (zh) | 一种基于用户群行为反馈的内容推荐方法及推荐系统 |