TW202414281A - 工藝設備的非正常工作檢測方法、計算裝置及電腦程式 - Google Patents

工藝設備的非正常工作檢測方法、計算裝置及電腦程式 Download PDF

Info

Publication number
TW202414281A
TW202414281A TW111145228A TW111145228A TW202414281A TW 202414281 A TW202414281 A TW 202414281A TW 111145228 A TW111145228 A TW 111145228A TW 111145228 A TW111145228 A TW 111145228A TW 202414281 A TW202414281 A TW 202414281A
Authority
TW
Taiwan
Prior art keywords
sensor data
process sensor
data
model
learning
Prior art date
Application number
TW111145228A
Other languages
English (en)
Inventor
河承材
Original Assignee
南韓商Ａｉｂｉｚ有限公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 南韓商Ａｉｂｉｚ有限公司 filed Critical 南韓商Ａｉｂｉｚ有限公司
Publication of TW202414281A publication Critical patent/TW202414281A/zh

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0751—Error or fault detection not based on redundancy
    • G06F11/0754—Error or fault detection not based on redundancy by exceeding limits
    • G06F11/076—Error or fault detection not based on redundancy by exceeding limits by exceeding a count or rate limit, e.g. word- or bit count limit
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00—Testing or monitoring of control systems or parts thereof
    • G05B23/02—Electric testing or monitoring
    • G05B23/0205—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0218—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults
    • G05B23/0243—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults model based detection method, e.g. first-principles knowledge model
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G06N3/0455—Auto-encoder networks; Encoder-decoder networks
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00—Programme-control systems
    • G05B19/02—Programme-control systems electric
    • G05B19/418—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00—Testing or monitoring of control systems or parts thereof
    • G05B23/02—Electric testing or monitoring
    • G05B23/0205—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0218—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults
    • G05B23/0221—Preprocessing measurements, e.g. data collection rate adjustment; Standardization of measurements; Time series or signal analysis, e.g. frequency analysis or wavelets; Trustworthiness of measurements; Indexes therefor; Measurements using easily measured parameters to estimate parameters difficult to measure; Virtual sensor creation; De-noising; Sensor fusion; Unconventional preprocessing inherently present in specific fault detection methods like PCA-based methods
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00—Testing or monitoring of control systems or parts thereof
    • G05B23/02—Electric testing or monitoring
    • G05B23/0205—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0218—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults
    • G05B23/0224—Process history based detection method, e.g. whereby history implies the availability of large amounts of data
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00—Testing or monitoring of control systems or parts thereof
    • G05B23/02—Electric testing or monitoring
    • G05B23/0205—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0259—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterized by the response to fault detection
    • G05B23/0262—Confirmation of fault detection, e.g. extra checks to confirm that a failure has indeed occurred
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/07—Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0706—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
    • G06F11/0721—Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment within a central processing unit [CPU]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/042—Knowledge-based neural networks; Logical representations of neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/088—Non-supervised learning, e.g. competitive learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/091—Active learning
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Quality & Reliability (AREA)
  • Manufacturing & Machinery (AREA)
  • Testing And Monitoring For Control Systems (AREA)
  • Testing Or Calibration Of Command Recording Devices (AREA)

Abstract

本發明多種實施例公開工藝設備的非正常工作檢測方法。上述方法可以包括如下步驟：獲取工藝感測器數據及對應於上述工藝感測器數據的先驗知識數據；利用深度學習模型來生成對應於上述工藝感測器數據的重構工藝感測器數據；基於上述工藝感測器數據及上述重構工藝感測器數據來計算重構率誤差；以及基於比較上述重構率誤差和基準閾值來檢測非正常工作。

Description

工藝設備的非正常工作檢測方法、計算裝置及電腦程式
本發明用於辨別工藝設備的非正常工作，更具體地，涉及一種通過利用人工智慧分析工藝過程中按時序獲取的感測器工藝數據來檢測工藝過程中是否發生非正常工作的方法。
通常，建立量產體系的工廠為了提高產品的量產效率而將製造工藝分為多個階段的工序，並針對每個階段的工序運行適合每個工序的自動化設備。
對於自動化設備，在重複執行同一工序的過程中，可能會由於設備本身的錯誤或周圍環境的影響而出現非正常地執行工序的情況。在各個工序連續、有機連接的製造工藝系統中，當某些工序的設備發生異常時，可能會導致整體工藝及產品的不良。因此，針對各個工序中運行的工廠設備定期檢測是否存在異常的作業在維護工廠形態體系層面上至關重要。
工廠設備的異常檢測可以由經驗豐富的工作人員通過各種感測器工藝數據隨時確認相應設備的運行狀態來進行。然而，無論多麼經驗豐富的工作人員也很難即時確認龐大的感測器工藝數據並準確地檢測出異常數據（或非正常數據），而且異常數據的檢測過程也消耗大量的時間。並且，隨著弱電集成（FA）系統的引進等工廠設備趨於複雜化，工作人員所需的知識和技術也大大增加，缺乏經驗的工作人員可能會遇到難以確定導致非正常狀態的因素的情況。
另一方面，隨著可以暫時或存儲在資料庫中來永久使用的感測器工藝數據的積累，正在開展有關各個領域工業裝備監測數據的自動化處理的相關研究。尤其，隨著電腦技術的發展，可處理的資訊量增加，人工智慧正在飛速進化，因此，對於利用人工智慧來檢測數據是否異常的技術也在研發當中。
現有技術文獻 專利文獻 韓國授權專利第10-1909836號
發明所欲解決之問題
本發明要解決的問題針對上述背景技術而提出，可以通過利用人工智慧分析在工藝過程中按時序獲取的感測器工藝數據來檢測工藝過程中是否發生非正常工作。
本發明要解決的問題不限於上述所提及的問題，本發明所屬技術領域的普通技術人員可以通過以下的記載明確地理解未提及的其他問題。
解決問題之技術手段
為了解決上述問題，本發明多種實施例公開工藝設備的非正常工作檢測方法。上述方法可以包括：獲取工藝感測器數據及對應於上述工藝感測器數據的先驗知識數據；利用深度學習模型來生成對應於上述工藝感測器數據的重構工藝感測器數據；基於上述工藝感測器數據及上述重構工藝感測器數據來計算重構率誤差；以及基於比較上述重構率誤差和基準閾值來檢測非正常工作。
在替代性實施例中，上述工藝感測器數據是基於半導體工藝設備的工作來通過多個感測器即時獲取的感測器數據，可以包括與正常工作相關的多個感測器數據，上述先驗知識數據可以包括對於上述多個感測器之間的相關關係的資訊。
在替代性實施例中，上述深度學習模型作為在輸入上述工藝感測器數據時生成對應於上述工藝感測器數據的特徵資訊並恢復所生成的上述特徵資訊來輸出上述重構工藝感測器數據的模型，可以是經過學習以使上述工藝感測器數據與上述重構工藝感測器數據的誤差最小化的神經網路模型。
在替代性實施例中，上述深度學習模型可以包括：第一子模型，輸出對應於上述工藝感測器數據的特性資訊；第二子模型，基於上述工藝感測器數據及上述先驗知識數據來提取各個工藝感測器數據之間的交互關係資訊；注意力模組，通過組合上述第一子模型及上述第二子模型的輸出來生成特徵資訊；以及維度恢復模型，通過恢復上述特徵資訊來生成上述重構工藝感測器數據。
在替代性實施例中，上述第二子模型可以是通過分析隨時間變化的與動態圖結構相關的數據來提取相關關係資訊的圖神經網路（GNN，Graph Neural Network）模型。
在替代性實施例中，上述注意力模組可以通過生成上述第一子模型及上述第二子模型的時間步長之間的相關資訊來組合與同一時間步長相關的輸出。
在替代性實施例中，上述基準閾值可以是在利用多個學習數據的上述深度學習模型的學習過程中，基於與上述多個學習數據分別相關的多個重構率誤差中與最大值相關的重構率誤差來確定。
在替代性實施例中，上述基於比較上述重構率誤差和基準閾值來檢測非正常工作可以包括：當上述重構率誤差為上述基準閾值以下時，辨別為正常工作；以及當上述重構率誤差超過上述基準閾值時，辨別為非正常工作。
本發明另一實施例公開用於檢測工藝設備的非正常工作的計算裝置。上述計算裝置可以包括：記憶體，用於存儲一個或多個指令；以及處理器，用於執行上述記憶體中存儲的上述一個或多個指令，上述處理器可以通過執行上述一個或多個指令來執行上述工藝設備的非正常工作檢測方法。
本發明又一實施例公開用於檢測工藝設備的非正常工作的電腦程式。上述電腦程式可以存儲在電腦可讀記錄介質中，以便可以與作為硬體的電腦結合來執行上述工藝設備的非正常工作檢測方法。
本發明的其他具體事項包括在詳細說明及附圖中。
對照先前技術之功效
根據本發明多種實施例，可以通過利用人工智慧分析在工藝過程中按時序獲取的感測器工藝數據來檢測工藝過程中是否發生非正常工作。
本發明的效果不限於上述所提及的效果，本發明所屬技術領域的普通技術人員可以通過以下的記載明確地理解未提及的其他效果。
以下，將參照附圖對各種實施例進行說明。在本說明書中，為了提供對本發明的理解而提出了各種說明。但顯而易見的是，即使沒有這些具體說明也可以實施這些實施例。
在本說明書中使用的“組件”、“模組”、“系統”等術語用於表示與電腦相關的實體、硬體、韌體、軟體、軟體與硬體的組合或軟體的執行。例如，組件可以是處理器上執行的進程（procedure）、處理器、對象、執行線程、程式和／或電腦，但不限於此。例如，計算裝置上執行的應用程式及計算裝置都可以是組件。一個或多個組件可以駐留在處理器和／或執行線程中。一個組件可以本地化在電腦中。一個組件可以分佈在2臺以上的電腦之間。並且，這些組件可以由其內部存儲有各種數據結構的各種電腦可讀介質執行。例如，組件可以根據具有一個或多個數據包的信號（例如，在本地系統、分佈式系統中，通過來自與其他組件交互的一個組件的數據和／或信號通過因特網等網路向其他系統傳輸的數據），通過本地和／或遠程進程進行通信。
此外，術語“或”旨在表示包含性的“或”，而不是排他性的“或”。即，除非另有說明或在上下文中明確表示，否則“X利用A或B”旨在表示自然的隱含性替換之一。即，在X利用A；X利用B；或X均利用A及B的情況下，對於其中任意一種情況都可以適用“X利用A或B”。並且，本說明書中使用的術語“和／或”應當理解為指代並包括所列出的相關專案中的一個或多個項的所有可能的組合。
並且，術語“包含”和／或“包括”應理解為表示存在相應的特徵和／或結構要素。但“包含”和／或“包括”應理解為不排除存在或添加一個或多個其他特徵、結構要素和／或這些的組合。並且，除非另有說明或在上下文中清楚指出單數形態，否則本說明書及申請專利範圍中的單數表達通常應解釋為表示“一個或一個以上”。
本發明所屬技術領域的技術人員應意識到，有關此處公開的實施例說明的各種示例性邏輯塊、結構、模組、電路、手段、邏輯及演算法步驟可以通過電子硬體、電腦軟體，或以兩者的組合來實現。為了明確例示硬體及軟體的這種互換性，各種示例性組件、塊、結構、手段、邏輯、模組、電路及步驟已在上文中在它們的功能性層面進行了大體的描述。這種功能是作為硬體還是軟體來實現應取決於附加在整個系統的特定應用程式（application）及設計限制。經驗豐富的技術人員可以針對每個特定應用程式以不同的方法實現所描述的功能。但是，這些實現的決定不應被解釋為脫離本發明內容的範圍。
所述多個實施例的描述是為了便於本發明所屬技術領域的普通技術人員利用或實施本發明而提供。對於本發明所屬技術領域的普通技術人員來說，對這些實施例的各種變形是顯而易見的。此處定義的一般原理可以在不脫離本發明的範圍的前提下應用於其他實施例。因此，本發明不限於此處提出的實施例。本發明應在此處提出的原理及新穎特徵一致的最廣範圍內進行解釋。
在本說明書中，電腦是指包括至少一個處理器的所有類型的硬體裝置，根據實施例，也可以理解為包括該硬體裝置上工作的軟體結構。例如，電腦可以理解為包括智能手機、平板電腦（PC）、桌上型電腦、筆記本電腦及在各個裝置上運行的用戶客戶端及應用程式，但不限於此。
以下，將參照附圖對本發明實施例進行詳細的說明。
在本說明書中描述的各個步驟雖然被描述為由電腦執行，但每個步驟的執行主體並不限於此，根據實施例，每個步驟的至少一部分可以在不同的裝置上執行。
圖1為示出能夠實現本發明一實施例的工藝設備的非正常工作檢測方法的簡要系統的示例圖。
如圖1所示，用於實現工藝設備的非正常工作檢測方法的系統可以包括用戶終端10、外部伺服器20、計算裝置100及網路。圖1中示出的組件僅僅是示例性的，還可以存在額外的組件，或者，圖1中示出的一部分組件可以被省略。
本發明實施例的網路可以使用公共交換電話網絡（PSTN，Public Switched Telephone Network）、x數位用戶線（xDSL，x Digital Subscriber Line）、速率自適應數位用戶線（RADSL，Rate Adaptive DSL）、多速率數位用戶線（MDSL，Multi Rate DSL）、甚高速數位用戶線（VDSL，Very High Speed DSL）、通用非對稱數位用戶線（UADSL，Universal Asymmetric DSL）、高比特率數位用戶線（HDSL，High Bit Rate DSL）及局域網（LAN）等多種有線通信系統。
並且，此處提出的網路可以使用碼分多址（CDMA，Code Division Multi Access）、時分多址（TDMA，Time Division Multi Access）、頻分多址（FDMA，Frequency Division Multi Access）、正交頻分多址（OFDMA，Orthogonal Frequency Division Multi Access）、單載波頻分多址（SC-FDMA，Single Carrier-FDMA）及其他系統等多種無線通信系統。
本發明實施例的網路可以不分有線及無線等通信模式來配置，可以配置為個人區域網（PAN，Personal Area Network），廣域網（WAN，Wide Area Network）等多種通信網絡。並且，網路可以為熟知的萬維網（WWW，World Wide Web），也可以使用紅外介面（IrDA，Infrared Data Association）或藍牙（Bluetooth）等用於短距離通信的無線傳輸技術。本說明書中描述的技術不僅可以用於以上提及的網路，也可以用於其他網路。
根據本發明一實施例，用戶終端10可以是與想要訪問計算裝置100來檢測設備工藝中是否發生異常的用戶（或工作人員）相關的終端。例如，用戶終端10的用戶可以是想要管理工藝品質或分析與工藝相關的大數據的工程師。換句話說，用戶終端10的用戶可以包括工作人員或工程師，他們基於工藝設備中獲取的感測數據來檢測工藝設備運行中發生的異常情況。在實施例中，用戶終端10可以從計算裝置100接收與是否發生非正常工作相關的資訊。例如，計算裝置100可以檢測工藝過程中發生的非正常工作並生成非正常工作檢測資訊，並將其發送給用戶終端10，用戶終端10的用戶可以通過非正常工作檢測資訊意識到工藝過程中發生了異常情況。
用戶終端10可以指具有用於與計算裝置100通信的機制的系統中任意形態的（多個）實體。例如，這種用戶終端10可以包括個人電腦（PC，personal computer）、筆記本電腦（note book）、移動終端（mobile terminal）、智能手機（smart phone）、平板電腦（tablet pc）及可穿戴設備（wearable device）等，可以包括能夠接入有線／無線網路的所有類型的終端。並且，用戶終端10可以包括由代理、應用程式編程介面（API，Application Programming Interface）及插件（Plug-in）中的至少一種來實現的任意伺服器。並且，用戶終端10可以包括應用源和／或客戶端應用。
根據本發明一實施例，外部伺服器20可以是存儲對應於自動化工藝的多年間工藝感測器數據及先驗知識數據的伺服器。例如，外部伺服器20中可以存儲有在半導體裝配設施中用於製造晶圓的設備的工作參數及通過設備的工作獲取的各種感測器數據。並且，例如，外部伺服器20可以存儲有與設備之間的相關資訊有關的先驗知識數據。即，外部伺服器20可以是將各種工藝相關數據進行大數據化並進行存儲的伺服器。
存儲在外部伺服器20中的資訊可以用作使本發明的神經網路進行學習的學習數據、驗證數據及測試數據。即，外部伺服器20可以是存儲有用於使本發明的神經網路模型進行學習的數據集相關資訊的伺服器。
本發明的計算裝置100可以接收來自外部伺服器20的工藝感測器數據及先驗知識數據來構件學習數據集，並通過學習數據集使包括一個或多個網路函數的神經網路模型進行學習，從而生成本發明的深度學習模型。
外部伺服器20為數位設備，可以是膝上電腦、筆記本電腦、桌上型電腦、上網本、移動電話等裝載有處理器、具有記憶體並具備計算能力的設備。外部伺服器20可以是處理服務的網路伺服器。上述伺服器的種類僅為示例，本發明不限於此。
根據本發明一實施例，用於檢測工藝設備的非正常工作的計算裝置100（以下簡稱“計算裝置100”）可以檢測出工藝設備的非正常工作。計算裝置100可以獲取在工藝設備過程中獲取的工藝感測器數據及對應於工藝感測器數據的先驗知識數據，並基於工藝感測器數據及先驗知識數據生成重構工藝感測器數據。工藝感測器數據可以包括工藝設備運行中即時獲取的各種感測數據。例如，工藝感測器數據可以包括半導體裝配設施中用於製造晶圓的設備工作參數及通過設備工作獲取的各種感測器數據。
更具體地，計算裝置100可以通過將工藝感測器數據及先驗知識數據處理為深度學習模型的輸入來生成重構工藝感測器數據。深度學習模型可以是經過學習輸出與特定輸入相似的輸出的神經網路模型。深度學習模型可以基於多年來獲取的學習用工藝感測器數據及學習用先驗知識數據來進行預學習。其中，用於深度學習模型進行學習的學習用工藝感測器數據可以只包括與正常相關的感測器數據。換句話說，學習用工藝感測器數據可以不包括與非正常工作相關的感測器數據。
即，由於深度學習模型基於多年積累的數據進行學習，當輸入與現有積累的工藝感測器數據相似的工藝感測器數據時，可以輸出與輸入相關的工藝感測器數據類似的重構工藝感測器數據，當輸入與現有積累的工藝感測器數據不相似的工藝感測器數據時，可以輸出與輸入相關的工藝感測器數據不相似的重構工藝感測器數據。
並且，計算裝置100可以計算出工藝感測器數據和對應於工藝感測器數據輸出的重構工藝感測器數據之間的重構率誤差。具體地，當與輸入相關的工藝感測器數據和與輸出相關的重構工藝感測器數據之間的差異越大時，計算裝置100可以計算出越大的重構率誤差，並且，當與輸入相關的工藝感測器數據和與輸出相關的重構工藝感測器數據之間的差異越小時，則可以計算出越小的重構率誤差。即，重構率誤差可以基於深度學習模型的輸入（即工藝感測器數據）和輸出（即重構工藝感測器數據）之間的差異來計算。
並且，計算裝置100可以基於比較計算出的重構率誤差和基準閾值來檢測非正常工作。在一實施例中，基準閾值是在深度學習模型的學習過程中獲取的，可以基於與多個學習數據分別相關的多個重構率誤差中與最大值相關的重構率誤差來確定。例如，可以基於過去3年間獲取的10萬個工藝感測器數據和與對應於各個工藝感測器數據的重構工藝感測器數據分別對應的重構率誤差中最大的重構率誤差來確定基準閾值。換句話說，可以基於過去多年的工藝感測器數據中恢復最差的工藝感測器數據（即重構率誤差最大的工藝感測器數據）的重構率誤差來確定基準閾值。這種基準閾值可以用作檢測非正常工作的基準。在具體實施例中，當重構率誤差為基準閾值以下時，計算裝置100可以辨別為正常工作，當重構率誤差超過基準閾值時，可以辨別為非正常工作。
換句話說，計算裝置100可以基於工藝感測器數據生成重構工藝感測器數據，並基於比較工藝感測器數據和重構工藝感測器數據計算重構率誤差。計算裝置100可以比較重構率誤差和基準閾值，當重構率誤差超過基準閾值時，可以辨別出設備工藝過程中發生了非正常工作。例如，當工藝感測器數據與用於深度學習模型進行學習的學習數據（即多年積累的工藝感測器數據）相似時，可以計算出較小的重構率誤差。相反地，當工藝感測器數據與用於深度學習模型進行學習的學習數據不相似時，可以計算出較大的重構率誤差。即，當重構率誤差大於基於多年積累的數據計算出的基準閾值時，計算裝置100可以辨別為發生了與現有的正常情況下獲取的數據類型不同的數據類型（即，檢測到過去從未有過的類型的感測器數據），從而辨別為非正常情況。對於深度學習模型的學習方法、非正常情況檢測方法將在下文中參照圖2及圖9進行更具體的描述。
圖2示出本發明一實施例的用於檢測工藝設備的非正常工作的計算裝置的框結構圖。
參照圖2，本發明一實施例的計算裝置100可以包括一個或多個處理器110、用於加載（Load）由處理器110執行的電腦程式151的記憶體120、匯流排130、通信介面140及用於存儲電腦程式151的存儲裝置150。其中，圖2中僅示出了與本發明的實施例相關的結構要素。因此，本發明所屬技術領域的普通技術人員可以知道，除了圖2中示出的結構要素以外，還可以包括其他通用結構要素。
處理器110控制計算裝置100的各個結構的整體工作。處理器110可以包括中央處理單元（CPU，Central Processing Unit）、微處理單元（MPU，Micro Processor Unit）、微控制器單元（MCU，Micro Controller Unit）、圖形處理單元（GPU，Graphic Processing Unit）或本發明所屬技術領域中熟知的任意形態的處理器。
處理器110可以讀取存儲在記憶體120中的電腦程式來執行本發明一實施例的用於檢測工藝設備的非正常工作的數據處理。
處理器110可以讀取存儲在記憶體120中的電腦程式來執行本發明一實施例的用於深度學習的數據處理。根據本發明一實施例，處理器110可以執行用於神經網路進行學習的計算。處理器110可以執行用於深度學習（DL，deep learning）中進行學習的輸入數據的處理、從輸入數據中提取特性、計算誤差、利用反向傳播（backpropagation）更新神經網路的權重等用於神經網路進行學習的計算。
並且，處理器110的中央處理器（CPU）、通用圖形處理器（GPGPU）及張量處理器（TPU）中的至少一個可以處理網路函數的學習。例如，中央處理器和通用圖形處理器可以一起處理網路函數的學習及利用網路函數的數據分類。並且，在本發明一實施例中，可以一起使用多個計算裝置的處理器來處理網路函數的學習及利用網路函數的數據分類。並且，本發明一實施例的計算裝置中執行的電腦程式可以是中央處理器、通用圖形處理器或張量處理器可執行程式。
在本說明書中，網路函數可以與人工神經網路、神經網路互換使用。在本說明書中，網路函數也可以包括一個或多個神經網路，在此情況下，網路函數的輸出可以是一個或多個神經網路的輸出的集合（ensemble）。
根據本發明一實施例，處理器110通常可以處理計算裝置100的整體工作。處理器110可以處理通過上述結構要素輸入或輸出的信號、數據、資訊等，或驅動記憶體120中存儲的應用程式，從而向用戶或用戶終端提供或處理適當的資訊或功能。
並且，處理器110可以對用於執行本發明實施例的方法的至少一個應用程式或程式執行計算，計算裝置100可以具有一個或多個處理器。
在各種實施例中，處理器110還可以包括將處理器110內部處理的信號（或數據）臨時和／或永久存儲的隨機存取記憶體（RAM，Random Access Memory，未示出）及只讀記憶體（ROM，Read-Only Memory，未示出）。並且，處理器110能夠以包括圖形處理部、隨機存取記憶體及只讀記憶體中的至少一種的晶片上系統（SoC：system on chip）形式實現。
記憶體120用於存儲各種數據、指令和／或資訊。記憶體120可以從存儲裝置150加載電腦程式151以執行本發明多種實施例的方法／工作。當電腦程式151被加載到記憶體120中時，處理器110可以通過執行構成電腦程式151的一個或多個指令來執行上述方法／工作。記憶體120能夠以隨機存取記憶體等易失性記憶體來實現，但本發明的技術範圍不限於此。
匯流排130提供計算裝置100的結構要素之間的通信功能。匯流排130能夠以地址匯流排（address Bus）、數據匯流排（Data Bus）及控制匯流排（Control Bus）等各種形式的匯流排實現。
通信介面140支持計算裝置100的有線及無線互聯網通信。並且，通信介面140還可以支持除了互聯網通信以外的多種通信方式。為此，通信介面140可以包括本發明所屬技術領域中熟知的通信模組。在一些實施例中，通信介面140也可以被省略。
存儲裝置150可以非臨時地存儲電腦程式151。當通過計算裝置100執行用於檢測工藝設備的非正常工作的進程時，存儲裝置150可以存儲所需的各類資訊以提供用於檢測工藝設備的非正常工作的進程。
存儲裝置150可以包括只讀記憶體（ROM，Read Only Memory）、可擦除可編程只讀記憶體（EPROM，Erasable Programmable ROM）、電可擦除可編程只讀記憶體（EEPROM，Electrically Erasable Programmable ROM）、閃存等非易失性記憶體、硬碟、可移動磁片或本發明所屬技術領域中熟知的任意形式的電腦可讀記錄介質。
電腦程式151可以包括一個或多個指令，在其加載到記憶體120中時使處理器110執行本發明多種實施例的方法／工作。即，處理器110可以通過執行上述一個或多個指令來執行本發明多種實施例的上述方法／工作。
在一實施例中，電腦程式151可以包括一個或多個指令，其用於執行工藝設備的非正常工作檢測方法，上述方法包括：獲取工藝感測器數據及對應於工藝感測器數據的先驗知識數據；利用深度學習模型來生成對應於工藝感測器數據的重構工藝感測器數據；基於工藝感測器數據及重構工藝感測器數據來計算重構率誤差；以及基於比較重構率誤差和基準閾值來檢測非正常工作。
有關本發明的實施例說明的方法或演算法的步驟可以直接由硬體來實現，或者由硬體執行的軟體模組來實現，或者由它們的組合來實現。軟體模組可以駐留在隨機存取記憶體（RAM，Random Access Memory）、只讀記憶體（ROM，Read Only Memory）、可擦除可編程只讀記憶體（EPROM，Erasable Programmable ROM）、電可擦除可編程只讀記憶體（EEPROM，Electrically Erasable Programmable ROM）、閃存（Flash Memory）、硬碟、可移動磁片、只讀光碟記憶體（CD-ROM）或本發明所屬技術領域中熟知的任意形式的電腦可讀記錄介質中。
本發明的結構要素可以實現為程式（或應用程式）並存儲在介質中，以與作為硬體的電腦結合來執行。本發明的結構要素可以通過軟體編程或軟體要素執行，類似地，實施例可以包括由數據結構、進程、例程或其他編程結構的組合來實現的各種演算法，用C、C++、Java、組合語言（assembler）等編程或腳本語言來實現。功能層面可以通過在一個或多個處理器中執行的演算法來實現。
圖3示出本發明一實施例的工藝設備的非正常工作檢測方法的示例性流程圖。圖3所示的步驟可以根據需求而改變順序，而且可以省略或添加一個或多個步驟。即，以下步驟僅為本發明一實施例，本發明的保護範圍不限於此。
根據本發明一實施例，計算裝置100可以獲取工藝感測器數據及對應於工藝感測器數據的先驗知識數據（S110）。本發明一實施例的獲取工藝感測器數據及先驗知識數據可以是接收或加載（loading）記憶體120中存儲的工藝感測器數據及先驗知識數據。並且，獲取工藝感測器數據及先驗知識數據可以是基於有線／無線通信方式從其他存儲介質、其他計算裝置、同一計算裝置內的單獨處理模組接收或加載數據。
根據實施例，工藝感測器數據可以包括從工業現場獲取的各種類型的數據。工藝感測器數據可以包括工藝過程中發生的以秒為單位的感測器數據。
例如，在生產設備中，每秒可能會生成數百個感測器數據。在半導體生產設備中，設置有用於檢測溫度、壓力、各種化學物質的投入量等的感測器，可以通過這些感測器即時獲取工藝感測器數據。即，工藝感測器數據可以指基於半導體工藝設備的工作通過多個感測器即時獲取的感測器數據。工藝感測器數據可以包括在半導體裝配設施中用於製造晶圓的各種設備的工作參數及通過設備的工作獲取的各種感測器數據。例如，工藝感測器數據可以包括來自管理執行系統（MES，management execution system）的批次（lot）設備歷史數據、來自設備介面數據源的數據、處理工具（tool）配方（recipes）、處理工具測試數據、探針測試數據、電氣測試數據、組合測量數據、診斷數據、遠程診斷數據、後處理數據等，但本發明不限於此。
先驗知識數據可以包括對於多個感測器之間的相關關係的資訊。例如，先驗知識數據可以包括對應於半導體生產過程中特定工藝步驟的用於測量溫度的第一感測器和用於測量同一工藝步驟的壓力的第二感測器彼此相關的資訊。即，先驗知識數據可以包括特定工藝步驟中的特定感測器數據可能會影響其他感測器數據的資訊，即關於相關性的資訊。在實施例中，先驗知識數據可以配置為圖表結構。
這種工藝感測器數據及先驗知識數據可以在生產設備的工藝過程中獲取，並用於檢測非正常工作。非正常工作可以包括阻礙良率的各種工藝狀況，與設備故障相關的非正常工作或檢測到不良條件的情況。
根據實施例，半導體生產工藝由數百個生產步驟組成，可以通過最後一步的最終檢查來測量所生產的晶圓的良率。晶圓的良率可以是指晶圓中的所有晶片中良品晶片的比例。例如，當所有晶片都正常時，該晶圓的良率可以是100％。通常，半導體工藝中晶圓良率較低時，可以分析與生產相關的工藝感測器數據。例如，可以通過工藝感測器數據分析是否經過特定設備的晶圓中出現較多問題，或是否在特定生產條件下出現較多問題等。在生產半導體的數百個步驟中，每個步驟都存在特定的生產條件，若不滿足條件則會影響晶圓的良率。例如，特定設備可能存在投入晶圓後需在特定時間內達到設定溫度的條件，但在實際工藝過程中可能會不滿足該條件，這種情況可以通過從該步驟中獲取的工藝感測器數據來識別。因此，分析工藝過程中即時獲取的數百個工藝感測器數據可以對解決良率問題有很大的幫助。
並且，在實施例中，預測性維護對於半導體工藝非常重要。預測性維護可以指通過在設備完全發生故障之前識別並解決非正常信號或不良條件來防止整個設備中斷的分析過程。例如，在半導體工藝中，需要在300mm的晶圓上發現由設備問題引起的小於20nm的不良，因此可能很難找出不良。隨著技術的進步，電路的線寬變得更細，因此檢測不良可能更加困難。具體舉例來說，半導體工藝通常可以包括500多道工序和1000多個測量步驟。在這些工藝過程中，即使設備出現很小的問題，也可能會導致報廢全部晶圓的巨大損失。為了避免這種問題，收集並分析半導體設備中的工藝感測器中產生的數據非常重要。本發明的計算裝置100可以通過利用人工智慧獲取並分析半導體工藝過程中產生的工藝感測器數據，從而實現檢測工藝過程中非正常工作的自動化。利用人工智慧檢測是否發生非正常工作可以將檢測異常數據所需的時間最小化，還可以在涉及複雜設備的工藝感測器數據時也能夠確定非正常狀態的原因，從而為工作人員提供便利。
根據本發明一實施例，計算裝置100可以利用深度學習模型來生成對應於工藝感測器數據的重構工藝感測器數據（S120）。
在實施例中，深度學習模型可以是輸出與輸入相似的輸出的神經網路模型。深度學習模型可以包括輸出與輸入數據相似的輸出數據的自動編碼器（auto encoder）。自動編碼器可以包括降維網路函數（例如編碼器）及維度恢復網路函數（例如解碼器）。
根據實施例，自動編碼器可以包括一個或多個隱藏層，奇數個隱藏層可以配置在輸入／輸出層之間。每層的節點數可以從輸入層的節點數縮小到稱為瓶頸層（編碼）的中間層，再從瓶頸層與縮小對稱地擴大到輸出層（與輸入層對稱）。降維層和維度恢復層的節點可以是對稱的，也可以是非對稱的。自動編碼器可以執行非線性降維。輸入層及輸出層的數量可以對應於輸入數據的預處理後剩餘的感測器數量。在自動編碼器結構中，包含在編碼器中的隱藏層的節點數可以具有隨著遠離輸入層而減少的結構。若瓶頸層（位於編碼器和解碼器之間的具有最少節點的層）的節點數太小，則可能無法傳遞足夠量的資訊，因此也可以保持在特定數量以上（例如輸入層的一半以上等）。
具體地，參照圖4，深度學習模型400可以基於工藝感測器數據200及對應於工藝感測器數據的先驗知識數據300生成重構工藝感測器數據210。計算裝置100可以將工藝感測器數據200及先驗知識數據300處理為深度學習模型400的輸入，以輸出重構工藝感測器數據210。深度學習模型是經過學習以輸出與特定輸入相似的輸出的模型，深度學習模型輸出的重構工藝感測器數據可以與作為輸入的工藝感測器數據相似。根據一實施例，計算裝置100可以通過使與自動編碼器相關的降維網路函數及維度恢復網路函數進行學習來生成深度學習模型。
深度學習模型可以通過包括多個學習用工藝感測器數據及與之對應的先驗知識數據的學習數據集使一個或多個網路函數進行學習來生成。
在實施例中，用於深度學習模型進行學習的多個學習用工藝感測器數據可以是關於正常工作的感測器數據，而排除與非正常工作相關的感測器數據。多個學習用工藝感測器數據可以包括多年積累的工藝感測器數據中與正常狀態相關的工藝感測器數據。
如圖5及圖6所示，深度學習模型400可以包括第一子模型410、第二子模型420、注意力模組430及維度恢復模型440。
根據實施例，計算裝置100可以通過多個學習數據集對一個或多個網路函數進行學習來生成本發明的深度學習模型410。多個學習數據集可以包括多個學習用工藝感測器數據200a及分別對應於各個學習用工藝感測器數據的學習用先驗知識數據300a。在實施例中，深度學習模型可以通過自動編碼器的至少一部分來實現。例如，深度學習模型可以通過自動編碼器的學習過程來實現。計算裝置100可以對自動編碼器進行學習以輸出與輸入數據相似的數據。
參照圖6進行詳細說明，計算裝置100可以通過將多個學習用工藝感測器數據200a處理為嵌入層411的輸入來輸出對應於各個工藝感測器數據的向量。嵌入層411可以將特定的工藝感測器數據作為輸入來嵌入對應於該工藝感測器數據的向量。嵌入層411可以對應於輸入工藝感測器數據的各個感測器來進行嵌入。例如，嵌入層411可以將與第一感測器的工作相關的第一感測器數據分配為第一向量，將與第二感測器的工作相關的第二感測器數據分配為第二向量。即，嵌入層411可以起到隨機嵌入各種工藝感測器數據的作用。
嵌入層411可以在學習初期隨機嵌入分別對應於多個學習用工藝感測器數據的向量，並且可以在利用學習數據的學習過程中在相應的向量空間中存儲學習數據的特性資訊。
第二子模型420可以是通過分析隨時間變化的與動態圖結構相關的數據來提取相關關係資訊的圖神經網路（GNN，Graph Neural Network）模型。圖神經網路可以是分析圖結構數據的神經網路模型。圖結構可以是由節點（node）及邊（edge）兩種結構要素組成的數據結構。圖G可以是由有向或無向邊連接的多個節點的集合。在實施例中，節點可以是由分別設置在半導體工藝設備的多個區域的各種感測器獲取的感測器，邊可以表示各個感測器之間的連接關係。由於圖適合處理交互等抽象概念，並且易於將複雜的問題簡化為更簡單的表達或用其他角度表達，因此，使用圖神經網路對於分析表示關係或交互的數據可以非常有用。圖神經網路是對圖結構直接進行操作的神經網路，可以對節點之間的相關資訊進行建模。即，GNN可以對圖中每個節點之間的關係進行建模，並對其生成表示（representation）。
第二子模型420可以將學習用先驗知識數據300a作為輸入來輸出交互關係資訊。交互關係資訊可以包括與各個感測器數據之間的相關關係有關的資訊。例如，交互關係資訊可以是關於連接各種感測器數據的相關性的圖網路資訊。在實施例中，第二子模型420可以將學習用工藝感測器數據200a和學習用先驗知識數據300a作為輸入來輸出工藝感測器數據之間的交互關係資訊。例如，先驗知識數據可能不包括與所有感測器數據相關的交互關係資訊。因此，可以通過利用工藝感測器數據和先驗知識數據從工藝感測器數據中提取不包括在先驗知識數據中的關係資訊。
在實施例中，注意力模組430可以組合通過嵌入層411隨機分配的向量和與第二子模型420的輸出相關的交互關係資訊，維度恢復模型440可以通過恢復注意力模組430組合的數據來生成學習用重構工藝感測器數據210a。若學習用工藝感測器數據200a與學習用重構固定感測器數據210a之間的差異越小，則越能通過反向傳播進行學習，由此，特性資訊可以存儲在對應於各個學習用工藝感測器數據的特性空間中。
注意力模組430可以通過生成第一子模型410及第二子模型420的時間步長之間的相關資訊來組合與同一時間步長相關的輸出。例如，注意力模組430可以生成作為第一子模型410的輸出的特性和作為第二子模型420的輸出的交互關係之間的相關資訊。注意力模組430可以生成作為當前第一子模型410的輸出的特性與哪種交互關係最緊密關聯的資訊。即，可以通過生成在第一子模型410輸出對應於工藝感測器數據的特性的過程中會受到哪種交互關係資訊的影響，即在特性輸出過程中應關注哪種交互關係等的相關資訊，將特性與交互關係資訊組合併生成特徵資訊。注意力模組430可以通過第一子模型410的輸出和第二子模型420的輸出之間的相關資訊來強調特性輸出過程中需要關注的交互關係，從而生成特徵資訊。
根據一實施例，深度學習模型400可以包括維度恢復模型440，其通過恢復特徵資訊來生成重構工藝感測器數據。維度恢復模型440可以將特徵資訊作為輸入來輸出學習用重構工藝感測器數據210a。在實施例中，在通過第二子模型420進行解碼的過程中，隱藏層的輸出數據可以是輸入數據（即工藝感測器數據）的近似值，而非完美的複製值。在實施例中，維度恢復模型440可以在經過學習的自動編碼器中通過維度恢復網路函數（即解碼器）來配置。即，維度恢復網路模型可以將注意力模組430組合的特性（即特徵資訊）作為輸入來輸出與該特性相關的重構工藝感測器數據。
如上所述，初期通過嵌入層411隨機分配到各個學習用工藝感測器數據的向量可以隨著學習過程中的更新而存儲感測器數據的特徵資訊。
由此，當輸入工藝感測器數據200及對應於工藝感測器數據200的先驗知識數據300時，完成學習的深度學習模型410可以生成重構工藝感測器數據210。
更具體地，參照圖7，即時獲取的工藝感測器數據200可以處理為第一子模型410的輸入。在此情況下，第一子模型410可以基於前述學習過程中基於包含各個學習用工藝感測器數據的特性資訊的向量來生成。例如，在學習初期對應於各個工藝感測器數據任意分配的向量可以在使輸入與輸出相似的反向傳播學習過程中更新，得到感測器數據的特徵資訊。即，第一子模型410可能已學習與先前工藝感測器數據（即學習用工藝感測器數據）相關的特性資訊，由此，可以將即時產生的工藝感測器數據作為輸入來輸出對應於該工藝感測器數據的特性資訊。
並且，第二子模型420可以基於工藝感測器數據200及先驗知識數據300提取各個工藝感測器數據之間的交互關係資訊。
注意力模組430可以通過組合第一子模型410及第二子模型420的輸出來生成特徵資訊，維度恢復模型440可以通過恢復特徵資訊來生成重構工藝感測器數據。即，深度學習模型410可以通過學習正常分類的工藝感測器數據的特徵來生成與即時獲取的工藝感測器數據相似的重構工藝感測器數據。
根據本發明一實施例，計算裝置100可以基於工藝感測器數據及重構工藝感測器數據來計算重構率誤差（S130）。當與輸入相關的工藝感測器數據和與輸出相關的重構工藝感測器數據之間的差異越大，計算裝置100可以計算出越大的重構率誤差，並且，當與輸入相關的工藝感測器數據和與輸出相關的重構工藝感測器數據之間的差異越小，則可以計算出越小的重構率誤差。即，重構率誤差可以基於深度學習模型的輸入（即工藝感測器數據）和輸出（即，重構工藝感測器數據）之間的差異來計算。
根據本發明一實施例，計算裝置100可以基於比較重構率誤差和基準閾值來檢測非正常工作（S140）。
基準閾值可以是在利用多個學習數據的深度學習模型的學習過程中，基於與多個學習數據分別相關的多個重構率誤差中與最大值相關的重構率誤差來確定。
在一實施例中，基準閾值是在深度學習模型的學習過程中獲取的，並基於與多個學習數據分別相關的多個重構率誤差中與最大值相關的重構率誤差來確定。例如，以基於過去3年間獲取的10萬個工藝感測器數據和與對應於各個工藝感測器數據的重構工藝感測器數據分別對應的重構率誤差中最大的重構率誤差來確定基準閾值。具體舉例來說，參照圖6，由於多個學習用工藝感測器數據200a分別處理為嵌入層411的輸入，因此可以輸出對應於各個工藝感測器數據的多個向量。並且，由於多個學習用先驗知識數據300a分別處理為第二子模型420的輸入，因此可以輸出多個交互關係資訊。其中，多個學習用工藝感測器數據及多個先驗知識數據可以是多年積累的與正常相關的工藝感測器數據。
注意力模組430可以將多個向量及多個交互關係資訊分別組合生成多個特徵資訊，維度恢復模型440可以將多個特徵資訊作為輸入生成多個學習用重構工藝感測器數據210a。在此情況下，計算裝置100可以分別比較多個學習用工藝感測器數據200a和多個學習用重構工藝感測器數據210a來計算出對應於各個學習用工藝感測器數據的重構率誤差。例如，可以將第一學習用工藝感測器數據和對應於該第一學習用工藝感測器數據生成的第一學習用重構工藝感測器數據進行比較來計算出對應於第一學習用工藝感測器數據的重構率誤差。相同地，可以生成分別對應於多個學習用工藝感測器數據的重構率誤差。計算裝置100可以基於與多個學習用工藝感測器數據分別對應的重構率誤差中與最大值相關的重構率誤差來確定基準閾值。
換句話說，可以基於過去多年的工藝感測器數據中恢復最差的工藝感測器數據（即重構率誤差最大的工藝感測器數據）確定基準閾值。這種基準閾值可以用作檢測非正常工作的基準。
在實施例中，計算裝置100可以基於與工藝感測器數據對應地計算出的重構率誤差來檢測非正常工作。具體地，參照圖8，計算裝置100可以基於工藝感測器數據及重構工藝感測器數據來計算重構率誤差（S210）。並且，計算裝置100可以將計算出的重構率誤差與基準閾值進行比較。計算裝置100可以識別重構率誤差是否超過基準閾值（S220）。當重構率誤差不超過基準閾值時（當重構率誤差為基準閾值以下時），計算裝置100可以辨別為正常工作（S230）。並且，當重構率誤差超過基準閾值時，計算裝置100可以辨別為非正常工作（S240）。
更詳細地說，深度學習模型400是基於多年積累的數據（即，過去的工藝過程中通過正常工作獲取的工藝感測器數據）經過學習的神經網路模型，因此，當輸入與現有工藝感測器數據相似的工藝感測器數據時，可以輸出與該工藝感測器數據相似的重構工藝感測器數據，在此情況下，由於工藝感測器數據和重構工藝感測器數據相似，因此可以計算出較小的重構率誤差。相反地，當輸入與現有工藝感測器數據不相似的工藝感測器數據時，深度學習模型沒有經過對此類數據類型的學習，因此輸出與輸入相關的工藝感測器數據不相似的重構工藝感測器數據的概率增加。在此情況下，由於工藝感測器數據和重構工藝感測器數據不相似，因此可以計算出較大的重構率誤差。
即，深度學習模型可以通過學習正常分類的工藝感測器數據的特徵來恢復與工藝感測器數據相似的重構工藝感測器數據，當計算裝置100通過重構率誤差辨別到輸入數據沒有很好地被恢復時（即，重構率誤差較大時），可以辨別為發生了非正常工作。更具體地，當與即時獲取的工藝感測器數據對應地計算出的重構率誤差超過現有學習過程中預設的基準閾值時，計算裝置100可以辨別為發生了非正常工作。
具體舉例來說，可以將過去10年間晶圓生產過程中與30萬件相關的工藝感測器數據用於深度學習模型進行學習的學習數據。計算裝置100可以基於30萬件工藝感測器數據來預設基準閾值。例如，可以基於與30萬件工藝感測器數據分別對應的重構率誤差中與最大值相關的重構率誤差來預設基準閾值。
當設備工藝過程中即時獲取到工藝感測器數據時，計算裝置100可以基於該工藝感測器數據及對應於工藝感測器數據的先驗知識數據生成重構工藝感測器數據，並將工藝感測器數據與重構工藝感測器數據進行比較來計算重構率誤差。
在此情況下，計算裝置100可以通過比較重構率誤差和基準閾值來檢測非正常工作。即，當計算出的重構率誤差比過去30萬件工藝感測器數據中深度學習模型的輸入和輸出之間的差異的最大值（即，基準閾值）更大時，可以辨別為非正常工作。換句話說，當對應於特定工藝感測器數據計算出的重構率誤差比基於多年積累的數據計算出的基準閾值更大時，計算裝置100可以辨別為發生了與現有的正常情況下獲取的數據類型不同的數據類型（即，檢測到過去從未有過的類型的感測器數據），從而辨別為非正常情況。
圖9為示出本發明一實施例的一個或多個網路函數的簡圖。
在整個說明書中，計算模型、神經網路、網路函數、神經網路（neural network）可以用作相同的含義。神經網路通常可以由可稱為“節點”的相互連接的計算單元的集合組成。這種“節點”也可以稱為“神經元（neuron）”。
深度神經網路（DNN，deep neural network）可以指除了輸入層和輸出層以外還包括多個隱藏層的神經網路。利用深度神經網路可以掌握數據的潛在結構（latent structures）。即，可以掌握照片、文字、視頻、聲音及音樂的潛在結構（例如，照片中有什麼物體，文字的內容和情感是什麼，聲音的內容和情感是什麼等）。深度神經網路可以包括卷積神經網路（CNN，convolutional neural network）、迴圈神經網路（RNN，recurrent neural network）、自動編碼器（auto encoder）、生成對抗網路（GAN，Generative Adversarial Networks）、受限玻爾茲曼機（RBM，restricted boltzmann machine）、深度信任網路（DBN，deep belief network）、Q網路、U網路、孿生神經網路等。上述深度神經網路的記載僅為示例，本發明不限於此。
神經網路可以通過監督學習（supervised learning）、無監督學習（unsupervised learning）及半監督學習（semi supervised learning）中的至少一種方式進行學習。神經網路的學習是為了最小化輸出的誤差。在神經網路的學習中，反復將學習數據輸入神經網路並計算對於學習數據的神經網路的輸出和目標的誤差，將神經網路的誤差從神經網路的輸出層向輸入層的方向反向傳播（backpropagation）以減少誤差，從而更新神經網路的各個節點的權重的過程。在監督學習的情況下，使用對於每個學習數據標記了正確答案的學習數據（即，標記的學習數據），而在無監督學習的情況下，每個學習數據可能沒有標記正確答案。即，例如在關於數據分類進行監督學習的情況下，學習數據可以是對於學習數據標記了類別的數據。可以通過將標記的學習數據輸入神經網路，將神經網路的輸出（類別）和學習數據的標記進行比較來計算出誤差（error）。再例如，在關於數據分類進行無監督學習的情況下，可以通過將作為輸入的學習數據和神經網路的輸出進行比較來計算誤差。計算出的誤差在神經網路中沿著反向（即，從輸出層到輸入層的方向）進行反向傳播，神經網路的各層的各個節點的連接權重可以隨著反向傳播而更新。更新的各個節點的連接權重可以根據學習率（learning rate）來確定。神經網路對輸入數據的計算和誤差的反向傳播可以構成學習週期（epoch）。學習率可以根據神經網路的學習週期的重複次數而不同。例如，在神經網路的學習初期，可以使用高學習率使神經網路快速確保一定的性能水準來提高效率，而在學習後期，可以使用低學習率來提高準確性。
在神經網路的學習中，學習數據通常可以是實際數據（即，想要通過經過學習的神經網路進行處理的數據）的子集，因此，可能存在對於學習數據減小誤差但對於實際數據增加誤差的學習週期。過擬合（overfitting）就是指這種對學習數據進行過度學習，導致對於實際數據增加誤差的現象。例如，通過黃色的貓來學習貓的神經網路在看到除了黃色以外的貓時無法識別出它是貓的現象可能是過擬合的一種。過擬合可能是機器學習演算法的誤差增加的原因。為了防止這種過擬合，可以使用多種優化方法。為了防止過擬合，可以採用增加學習數據、正規化（regularization）、在學習過程中省略網路部分節點的隨機失活（dropout）等方法。
有關本發明的實施例說明的方法或演算法的步驟可以直接由硬體來實現，或者由硬體執行的軟體模組來實現，或者由它們的組合來實現。軟體模組可以駐留在隨機存取記憶體（RAM，Random Access Memory）、只讀記憶體（ROM，Read Only Memory）、可擦除可編程只讀記憶體（EPROM，Erasable Programmable ROM）、電可擦除可編程只讀記憶體（EEPROM，Electrically Erasable Programmable ROM）、閃存（Flash Memory）、硬碟、可移動磁片、只讀光碟記憶體（CD-ROM）或本發明所屬技術領域中熟知的任意形式的電腦可讀記錄介質中。
本發明的結構要素可以實現為程式（或應用程式）並存儲在介質中，以與作為硬體的電腦結合來執行。本發明的結構要素可以通過軟體編程或軟體要素執行，類似地，實施例可以包括由數據結構、進程、例程或其他編程結構的組合來實現的各種演算法，用C、C++、Java、組合語言（assembler）等編程或腳本語言來實現。功能層面可以通過在一個或多個處理器中執行的演算法來實現。
本發明所屬技術領域的普通技術人員可以意識到，有關此處公開的實施例說明的各種示例性邏輯塊、模組、處理器、手段、電路及演算法步驟可以通過電子硬體、各種形式的程式或設計代碼（為了便於說明，本文中稱為“軟體”），或這些的組合來實現。為了清楚地說明硬體及軟體的這種互換性，各種示例性組件、塊、模組、電路及步驟已在上文中涉及它們的功能進行了大體的描述。這種功能是作為硬體還是軟體實現取決於特定應用程式（application）及施加在整個系統的設計限制。本發明所屬技術領域的普通技術人員可以針對每個特定應用程式以不同的方法實現所描述的功能，但這些實現的決定不應被解釋為脫離本發明的範圍。
此處提出的各種實施例可以通過方法、裝置或使用標準編程和／或工程技術的製品（article）來實現。術語“製品”包括可由任意的電腦可讀裝置訪問的電腦程式、載體或介質（media）。例如，電腦可讀介質包括磁存儲裝置（例如硬碟、軟碟、磁條等）、光碟（例如CD、DVD等）、智能卡、閃存裝置（例如EEPROM、卡、條、鍵驅動器等），但不限於此。並且，此處提出的各種存儲介質包括用於存儲資訊的一個或多個裝置和／或其他機器可讀介質。術語“機器可讀介質”包括能夠存儲、保留和／或傳遞（多個）指令和／或數據的無線通道及各種其他介質，但不限於此。
應當理解，所提出的過程中步驟的特定順序或層次結構為示例性方法的一例。應當理解，在本發明的範圍內，在多個過程中的步驟的特定順序或層次結構可以根據設計優先順序重新排列。所附方法請求項按照樣本順序提供各種步驟的元素，但這並不意味著局限於所提出的特定順序或層次結構。
所述多個實施例的描述是為了便於本發明所屬技術領域的任意普通技術人員利用或實施本發明而提供。對於本發明所屬技術領域的普通技術人員來說，對這些實施例的各種變形是顯而易見的，此處定義的一般原理可以在不脫離本發明的範圍的情況下應用於其他實施例。因此，本發明不限於此處提出的實施例，而應在此處提出的原理及新穎特徵一致的最廣範圍內進行解釋。
10:用戶終端 20:外部伺服器 100:計算裝置 110:處理器 120:記憶體 130:匯流排 140:通信介面 150:存儲裝置 151:電腦程式 200:工藝感測器數據 200a:學習用工藝感測器數據 210:重構工藝感測器數據 210a:學習用重構固定感測器數據 300:先驗知識數據 300a:學習用先驗知識數據 400:深度學習模型 410:第一子模型 411:嵌入層 420:第二子模型 430:注意力模組 440:維度恢復模型 S110,S120,S130,S140,S210,S220,S230,S240:步驟
圖1為示出能夠實現本發明一實施例的工藝設備的非正常工作檢測方法的簡要系統的示例圖； 圖2示出本發明一實施例的用於檢測工藝設備的非正常工作的計算裝置的框結構圖； 圖3示出本發明一實施例的工藝設備的非正常工作檢測方法的示例性流程圖； 圖4為示出本發明一實施例的利用工藝感測器數據及先驗知識數據來生成重構工藝感測器數據的深度學習模型的示例圖； 圖5示出本發明一實施例的深度學習模型的示例性框結構圖； 圖6為用於說明本發明一實施例的深度學習模型的學習方法及基準閾值生成過程的示例圖； 圖7為用於說明本發明一實施例的利用深度學習模型來計算對應於即時獲取的工藝感測器數據的重構率誤差的過程的示例圖； 圖8為示例性例示本發明一實施例的基於工藝感測器數據及重構工藝感測器數據來檢測非正常工作的過程的示例圖；以及 圖9為示出本發明一實施例的一個或多個網路函數的簡圖。
10:用戶終端
20:外部伺服器
100:計算裝置

Claims (10)

  1. 一種工藝設備的非正常工作檢測方法，其在計算裝置的一個或多個處理器上執行，其中，上述工藝設備的非正常工作檢測方法包括： 獲取工藝感測器數據及對應於上述工藝感測器數據的先驗知識數據； 利用深度學習模型來生成對應於上述工藝感測器數據的重構工藝感測器數據； 基於上述工藝感測器數據及上述重構工藝感測器數據來計算重構率誤差；以及 基於比較上述重構率誤差和基準閾值來檢測非正常工作。
  2. 如請求項1所述之工藝設備的非正常工作檢測方法，其中， 上述工藝感測器數據是基於半導體工藝設備的工作來通過多個感測器即時獲取的感測器數據，包括與正常工作相關的多個感測器數據， 上述先驗知識數據包括對於上述多個感測器之間的相關關係的資訊。
  3. 如請求項2所述之工藝設備的非正常工作檢測方法，其中，上述深度學習模型作為在輸入上述工藝感測器數據時生成對應於上述工藝感測器數據的特徵資訊並恢復所生成的上述特徵資訊來輸出上述重構工藝感測器數據的模型，是經過學習以使上述工藝感測器數據與上述重構工藝感測器數據的誤差最小化的神經網路模型。
  4. 如請求項2所述之工藝設備的非正常工作檢測方法，其中，上述深度學習模型包括： 第一子模型，輸出對應於上述工藝感測器數據的特性資訊； 第二子模型，基於上述工藝感測器數據及上述先驗知識數據來提取各個工藝感測器數據之間的交互關係資訊； 注意力模組，通過組合上述第一子模型及上述第二子模型的輸出來生成特徵資訊；以及 維度恢復模型，通過恢復上述特徵資訊來生成上述重構工藝感測器數據。
  5. 如請求項4所述之工藝設備的非正常工作檢測方法，其中，上述第二子模型是通過分析隨時間變化的與動態圖結構相關的數據來提取相關關係資訊的圖神經網路（GNN，Graph Neural Network）模型。
  6. 如請求項4所述之工藝設備的非正常工作檢測方法，其中，上述注意力模組通過生成上述第一子模型及上述第二子模型的時間步長之間的相關資訊來組合與同一時間步長相關的輸出。
  7. 如請求項1所述之工藝設備的非正常工作檢測方法，其中，上述基準閾值是在利用多個學習數據的上述深度學習模型的學習過程中，基於與上述多個學習數據分別相關的多個重構率誤差中與最大值相關的重構率誤差來確定。
  8. 如請求項1所述之工藝設備的非正常工作檢測方法，其中，上述基於比較上述重構率誤差和基準閾值來檢測非正常工作包括： 當上述重構率誤差為上述基準閾值以下時，辨別為正常工作；以及 當上述重構率誤差超過上述基準閾值時，辨別為非正常工作。
  9. 一種裝置，其中，包括： 記憶體，用於存儲一個或多個指令；以及 處理器，用於執行上述記憶體中存儲的上述一個或多個指令， 上述處理器通過執行上述一個或多個指令來執行請求項1所述的方法。
  10. 一種電腦程式，其中，上述電腦程式存儲在電腦可讀記錄介質中，以便能夠與作為硬體的電腦結合來執行請求項1所述的方法。
TW111145228A 2022-09-27 2022-11-25 工藝設備的非正常工作檢測方法、計算裝置及電腦程式 TW202414281A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2022-0122558 2022-09-27
KR1020220122558A KR102523458B1 (ko) 2022-09-27 2022-09-27 공정 설비의 비정상 동작 감지 방법, 컴퓨팅 장치 및 컴퓨터 프로그램

Publications (1)

Publication Number Publication Date
TW202414281A true TW202414281A (zh) 2024-04-01

Family

ID=86142297

Family Applications (1)

Application Number Title Priority Date Filing Date
TW111145228A TW202414281A (zh) 2022-09-27 2022-11-25 工藝設備的非正常工作檢測方法、計算裝置及電腦程式

Country Status (4)

Country Link
US (1) US20240103950A1 (zh)
KR (4) KR102523458B1 (zh)
CN (1) CN117829209A (zh)
TW (1) TW202414281A (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102623390B1 (ko) * 2023-06-30 2024-01-11 주식회사 에이아이비즈 장비 이상 탐지 모델의 정확도를 유지하기 위한 방법,장치 및 프로그램
KR102619793B1 (ko) * 2023-08-22 2024-01-03 주식회사 에이아이비즈 Ai 기반 안전 센서 이상치 감지 및 알람 분류 방법, 컴퓨팅 장치 및 컴퓨터 프로그램
KR102665637B1 (ko) * 2023-10-19 2024-05-20 주식회사 에이아이비즈 복수의 이상 탐지 기법을 통합하여 공정 설비의 이상을 탐지하는 방법, 장치 및 프로그램

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6402541B2 (ja) * 2014-08-26 2018-10-10 株式会社豊田中央研究所 異常診断装置及びプログラム
JP6896432B2 (ja) * 2017-01-11 2021-06-30 株式会社Ｙｅ Ｄｉｇｉｔａｌ 故障予知方法、故障予知装置および故障予知プログラム
KR101909836B1 (ko) 2017-12-04 2018-10-18 김정석 산업 공정 자동화 제어를 위한 ｈｍｉ 시스템, 이를 기반으로 한 공정 자동화 모니터링 방법
KR20200141812A (ko) * 2019-06-11 2020-12-21 삼성전자주식회사 뉴럴 네트워크를 이용하여 이상 신호를 감지하는 방법 및 장치
US11354184B2 (en) * 2019-06-21 2022-06-07 Palo Alto Research Center Incorporated Method and system for performing automated root cause analysis of anomaly events in high-dimensional sensor data
KR102182226B1 (ko) * 2020-07-22 2020-11-24 경북대학교 산학협력단 고장 검출 진단 시스템 및 진단방법

Also Published As

Publication number Publication date
CN117829209A (zh) 2024-04-05
KR102523458B1 (ko) 2023-04-19
KR20240043656A (ko) 2024-04-03
US20240103950A1 (en) 2024-03-28
KR20240043655A (ko) 2024-04-03
KR20240043654A (ko) 2024-04-03

Similar Documents

Publication Publication Date Title
TW202414281A (zh) 工藝設備的非正常工作檢測方法、計算裝置及電腦程式
KR102101974B1 (ko) 어노말리 디텍션
Caceres et al. A probabilistic Bayesian recurrent neural network for remaining useful life prognostics considering epistemic and aleatory uncertainties
Rodríguez-Ramos et al. An approach to fault diagnosis with online detection of novel faults using fuzzy clustering tools
Xu et al. A novel multi-scale CNN and attention mechanism method with multi-sensor signal for remaining useful life prediction
WO2021257128A2 (en) Quantum computing based deep learning for detection, diagnosis and other applications
KR102531645B1 (ko) 모델의 성능 테스트를 위한 컴퓨터 프로그램
KR102372487B1 (ko) 입력 데이터의 처리를 위한 최적의 어노말리 감지 모델 결정 방법
Xue et al. A novel local binary temporal convolutional neural network for bearing fault diagnosis
KR102711997B1 (ko) 비정상을 감지하는 방법
Roy et al. Accurate detection of bearing faults using difference visibility graph and bi-directional long short-term memory network classifier
Jang et al. Explainable artificial intelligence for fault diagnosis of industrial processes
CN115545169A (zh) 基于gru-ae网络的多视角业务流程异常检测方法、系统以及设备
KR102320707B1 (ko) 설비 모니터링 시스템의 설비 고장 분류 방법
KR20210074269A (ko) 입력 데이터의 처리를 위한 최적의 어노말리 감지 모델 결정 방법
Samarakoon et al. System abnormality detection in stock market complex trading systems using machine learning techniques
Chen et al. Reliability analysis using deep learning
KR102550108B1 (ko) 클라우드 플랫폼에서 인공지능 모델을 활용한 용접 불량 탐지 방법
Tian et al. Anomaly detection with convolutional autoencoder for predictive maintenance
WO2022259446A1 (ja) 異常原因推定装置、異常原因推定方法、及びコンピュータ読み取り可能な記録媒体
Georgoulopoulos et al. A survey on hardware failure prediction of servers using machine learning and deep learning
JP7517482B2 (ja) 学習装置、異常検知装置、学習方法、異常検知方法、及びプログラム
KR102619793B1 (ko) Ai 기반 안전 센서 이상치 감지 및 알람 분류 방법, 컴퓨팅 장치 및 컴퓨터 프로그램
KR102687021B1 (ko) 장비의 이상 원인을 예측하고, 예측 결과를 플랫폼을 통해 제공하기 위한 방법
KR20240084617A (ko) 비정상 공정을 감지하는 인공지능 모델을 학습시키기 위한 학습 데이터 전처리 방법, 서버 및 컴퓨터 프로그램