TW202223567A - 用於工廠自動化生產線之製造系統及方法 - Google Patents

用於工廠自動化生產線之製造系統及方法 Download PDF

Info

Publication number
TW202223567A
TW202223567A TW111108232A TW111108232A TW202223567A TW 202223567 A TW202223567 A TW 202223567A TW 111108232 A TW111108232 A TW 111108232A TW 111108232 A TW111108232 A TW 111108232A TW 202223567 A TW202223567 A TW 202223567A
Authority
TW
Taiwan
Prior art keywords
station
component
tool
quality metric
image data
Prior art date
Application number
TW111108232A
Other languages
English (en)
Inventor
安德魯 桑斯壯
達瑪斯 黎莫葛
恩淑 金
巴迪姆 皮斯基
馬修 Ｃ 樸特曼
Original Assignee
美商奈米創尼克影像公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 美商奈米創尼克影像公司 filed Critical 美商奈米創尼克影像公司
Publication of TW202223567A publication Critical patent/TW202223567A/zh

Links

Images

Classifications

    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00—Programme-control systems
    • G05B19/02—Programme-control systems electric
    • G05B19/418—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM]
    • G05B19/41875—Total factory control, i.e. centrally controlling a plurality of machines, e.g. direct or distributed numerical control [DNC], flexible manufacturing systems [FMS], integrated manufacturing systems [IMS] or computer integrated manufacturing [CIM] characterised by quality surveillance of production
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B29—WORKING OF PLASTICS; WORKING OF SUBSTANCES IN A PLASTIC STATE IN GENERAL
    • B29C—SHAPING OR JOINING OF PLASTICS; SHAPING OF MATERIAL IN A PLASTIC STATE, NOT OTHERWISE PROVIDED FOR; AFTER-TREATMENT OF THE SHAPED PRODUCTS, e.g. REPAIRING
    • B29C64/00—Additive manufacturing, i.e. manufacturing of three-dimensional [3D] objects by additive deposition, additive agglomeration or additive layering, e.g. by 3D printing, stereolithography or selective laser sintering
    • B29C64/30—Auxiliary operations or equipment
    • B29C64/386—Data acquisition or data processing for additive manufacturing
    • B29C64/393—Data acquisition or data processing for additive manufacturing for controlling or regulating additive manufacturing processes
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B33—ADDITIVE MANUFACTURING TECHNOLOGY
    • B33Y—ADDITIVE MANUFACTURING, i.e. MANUFACTURING OF THREE-DIMENSIONAL [3-D] OBJECTS BY ADDITIVE DEPOSITION, ADDITIVE AGGLOMERATION OR ADDITIVE LAYERING, e.g. BY 3-D PRINTING, STEREOLITHOGRAPHY OR SELECTIVE LASER SINTERING
    • B33Y50/00—Data acquisition or data processing for additive manufacturing
    • B33Y50/02—Data acquisition or data processing for additive manufacturing for controlling or regulating additive manufacturing processes
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84—Systems specially adapted for particular applications
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00—Programme-control systems
    • G05B19/02—Programme-control systems electric
    • G05B19/18—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/4155—Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by programme execution, i.e. part programme or machine function execution, e.g. selection of a programme
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G06T7/0004—Industrial image inspection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/70—Determining position or orientation of objects or cameras
    • G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84—Systems specially adapted for particular applications
    • G01N2021/8411—Application to online plant, process monitoring
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00—Program-control systems
    • G05B2219/30—Nc systems
    • G05B2219/31—From computer integrated manufacturing till monitoring
    • G05B2219/31372—Mes manufacturing execution system
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00—Program-control systems
    • G05B2219/30—Nc systems
    • G05B2219/32—Operator till task planning
    • G05B2219/32181—Monitor production, assembly apparatus with multiple sensors
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00—Program-control systems
    • G05B2219/30—Nc systems
    • G05B2219/32—Operator till task planning
    • G05B2219/32216—If machining not optimized, simulate new parameters and correct machining
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/50—Monitoring users, programs or devices to maintain the integrity of platforms, e.g. of processors, firmware or operating systems
    • G06F21/57—Certifying or maintaining trusted computer platforms, e.g. secure boots or power-downs, version controls, system software checks, secure updates or assessing vulnerabilities
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2221/00—Indexing scheme relating to security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F2221/03—Indexing scheme relating to G06F21/50, monitoring users, programs or devices to maintain the integrity of platforms
    • G06F2221/034—Test or assess a computer or a system
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30108—Industrial image inspection
    • G06T2207/30164—Workpiece; Machine component
    • Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Manufacturing & Machinery (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Chemical & Material Sciences (AREA)
  • Automation & Control Theory (AREA)
  • Materials Engineering (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Optics & Photonics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • General Factory Administration (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Image Analysis (AREA)

Abstract

本文中揭示一種製造系統。該製造系統包含一或多個站、一監控平台及一控制模組。該一或多個站之各站經組態以執行一組件之一多步驟製造程序中之至少一個步驟。該監控平台經組態以貫穿該多步驟製造程序監控該組件之進度。該控制模組經組態以動態地調整該多步驟製造程序之各步驟之處理參數以達成該組件之一所要最終品質度量。

Description

用於工廠自動化生產線之製造系統及方法
本發明大體上係關於一種用於製造程序之系統、方法及媒體。
自18世紀工業革命開始以來，自動化一直主導著商品之生產。儘管當今之工廠已完全將自動化視為一核心原則(其中機器人在高產量環境中執行諸多可重複任務)但諸多裝配任務繼續由人類來執行。此等任務歸因於部署用於一低量生產運行之一機器人系統之成本、嚴重故障風險或後勤而難以自動化。此等生產線藉由標準程序控制及人員管理監督，使得一裝配者隨時間推移被教示執行一特定品質度量，或其等由另一操作者取代。自裝配問世以來，此程序基本上保持不變。
在一些實施例中，本文中揭示一種製造系統。該製造系統包含一或多個站、一監控平台及一控制模組。各站經組態以執行一組件之一多步驟製造程序中之至少一個步驟。該監控平台經組態以貫穿該多步驟製造程序監控該組件之進度。該控制模組經組態以動態地調整該多步驟製造程序之一步驟之處理參數以達成該組件之一所要最終品質度量，該控制模組經組態以執行操作。該等操作包含接收該一或多個站之一第一站之工具之影像資料。該等操作進一步包含自該影像資料識別一關鍵點集。該等關鍵點對應於在該第一站處處理期間該工具之位置資訊。該等操作進一步包含基於該等關鍵點，藉由一機器學習模型判定該組件之一最終品質度量。該等操作進一步包含判定該最終品質度量不在該最終品質度量之一臨限容限內。該等操作進一步包含基於該判定而在該多步驟製造程序中更新後繼站之處理參數。
在一些實施例中，本文中揭示一種製造系統。該製造系統包含一或多個站、一監控平台及一控制模組。各處理站經組態以執行一組件之一多步驟製造程序中之至少一個步驟。該監控平台經組態以貫穿該多步驟製造程序監控該組件之進度。該控制模組經組態以動態地調整該多步驟製造程序之一步驟之處理參數以達成該組件之一所要最終品質度量，該控制模組經組態以執行操作。該等操作包含識別對應於該組件在該一或多個處理站之一第一處理站處之位置資訊。該等操作進一步包含基於對應於該組件之該位置資訊而判定存在一不可逆誤差。該等操作進一步包含基於該判定而產生用以校正該不可逆誤差之一經更新指令集，該經更新指令集待由一下游站執行。該等操作進一步包含基於該經更新指令集，藉由一機器學習模型預測該組件之一最終品質度量。該等操作進一步包含基於該經預測最終品質度量而將該經更新指令集提供至該下游站。
在一些實施例中，本文中揭示一種製造系統。該製造系統包含一或多個站、一監控平台及一控制模組。各站經組態以執行一組件之一多步驟製造程序中之至少一個步驟。該監控平台經組態以貫穿該多步驟製造程序監控該組件之進度。該控制模組經組態以動態地調整該多步驟製造程序之一步驟之處理參數以達成該組件之一所要最終品質度量，該控制模組經組態以執行操作。該等操作包含接收該一或多個站之一第一站之工具之影像資料。該等操作進一步包含自該影像資料識別一關鍵點集。該等關鍵點對應於在該第一站處處理期間該工具之位置資訊。該等操作進一步包含基於該等關鍵點，藉由一機器學習模型判定該組件之一最終品質度量。該等操作進一步包含判定該最終品質度量不在該最終品質度量之一臨限容限內。該等操作進一步包含基於該判定而推斷在該第一站處對應於該組件之位置資訊。該等操作進一步包含基於該判定而產生待由一下游站執行之一經更新指令集。該等操作進一步包含基於該經更新指令集，藉由一機器學習模型預測該組件之一最終品質度量。該等操作進一步包含基於該經預測最終品質度量而將該經更新指令集提供至該下游站。
相關申請案之交叉參考
本申請案主張2019年11月6日申請之美國臨時申請案第62/931,448號、2019年11月7日申請之美國臨時申請案第62/932,063號及2019年11月6日申請之美國臨時申請案第62/931,453號之優先權，其等全部內容特此以引用方式併入本文中。
製造程序可能係複雜的且包含由不同處理站(或「若干站」)處理之原材料直至生產出一最終組件為止。在一些實施例中，各處理站接收用於處理之一輸入且可輸出可傳遞至一後繼(下游)處理站以供額外處理之一中間輸出。在一些實施例中，一最終處理站可接收用於處理之一輸入且可輸出最終組件或更一般地最終輸出。
在一些實施例中，各站可包含可執行一組程序步驟之一或多個工具/設備。實例性處理站可包含但不限於傳送帶、射出成型壓機、切割機、模壓機、擠出機、電腦數值控制(CNC)磨機、磨床、裝配站、三維列印機、品質控制站、驗證站及類似物。
在一些實施例中，各處理站之操作可由一或多個程序控制器支配。在一些實施例中，各處理站可包含可經程式化以控制該處理站之操作之一或多個程序控制器。在一些實施例中，一操作者或控制演算法可向站控制器提供可表示各控制值之所要值或值範圍之站控制器設定點。在一些實施例中，在一製造程序中用於回饋或前饋之值可被稱為控制值。實例性控制值可包含但不限於：速度、溫度、壓力、真空、旋轉、電流、電壓、功率、黏度、站處所使用之材料/資源、產出率、停機時間、有毒煙霧及類似物。
本文中所提供之一或多種技術藉由提供一種系統來改良習知程序，透過該系統可使用影像及/或視訊資料來預測或預估一組件之一最終品質度量。在一些實施例中，該系統可包含經組態以擷取或記錄製造系統之各處理節點或站之工具之視訊及/或影像資料之一監控系統。基於在一程序步驟期間工具之定位，本系統可經組態以預測或預估一組件之一最終品質度量。若經預測最終品質度量落在一可接受值範圍之外，則本系統可產生經更新處理指令且將經更新處理指令提供至下游處理節點及/或站，以試圖校正處理中之任何誤差，使得可達成一所要最終品質度量。
在一些實施例中，該系統可包含經組態以擷取或記錄一組件在製造系統之各處理節點或站處之視訊及/或影像資料之一監控系統。基於有關該組件在一處理節點之一末端處之視覺資訊，本系統可經組態以預測或預估一組件之一最終品質度量。若經預測最終品質度量落在一可接受值範圍之外，則本系統可產生經更新處理指令且將經更新處理指令提供至下游處理節點及/或站，以試圖校正處理中之任何誤差，使得可達成一所要最終品質度量。
以此方式，本系統能夠預測或預估在製造程序之任何階段處一組件之一最終品質度量，而無須實際上測試該組件。此系統對於否則將需要破壞性測試之最終品質度量，或無法評估最終品質度量直至處理完成的情況特別有用。
圖1係繪示根據實例實施例之一製造環境100之一方塊圖。製造環境100可包含一製造系統102、一監控平台104及一控制模組106。製造系統102可廣泛地代表一多步驟製造系統。在一些實施例中，製造系統102可代表一裝配線系統，其中各處理站可代表一人類工作者。在一些實施例中，製造系統102可代表用於增材製造中之一製造系統(例如，3D列印系統)。在一些實施例中，製造系統102可代表用於減材製造(例如，CNC加工)中之一製造系統。在一些實施例中，製造系統102可代表用於增材製造及減材製造之一組合中之一製造系統。更一般地，在一些實施例中，製造系統102可代表用於一般製造程序中之一製造系統。
製造系統102可包含一或多個站108 1至108 n(通常，「站108」)。各站108可代表一多步驟製造程序中之一步驟及/或站。例如，各站108可代表一3D列印程序中之一層沈積操作(例如，站108 1可對應於層1，站108 2可對應於層2等)。在另一實例中，各站108可對應於一特定處理站。在另一實例中，各站108可對應於在一裝配線製造程序中執行一特定任務之一特定人類操作者。
各站108可包含一程序控制器114及控制邏輯116。各程序控制器114 1至114 n可經程式化以控制各個各自站108之操作。在一些實施例中，控制模組106可向各程序控制器114提供可表示各控制值之所要值或值範圍之站控制器設定點。各控制邏輯116 1-116 n(統稱控制邏輯116）可參考與一站108之程序步驟相關聯之屬性/參數。在操作中，取決於一最終品質度量之一當前軌跡，可由控制模組106貫穿製造程序動態地更新用於各站108之控制邏輯116。
監控平台104可經組態以監控製造系統102之各站108。在一些實施例中，監控平台104可為製造系統102之一組件。例如，監控平台104可為一3D列印系統之一組件。在一些實施例中，監控平台104可獨立於製造系統102。例如，監控平台104可經改裝至一既有製造系統102上。在一些實施例中，監控平台104可代表經組態以擷取在一多步驟程序之各步驟處一組件或工具(例如，一工作者或一處理工具)之一影像之一成像裝置。例如，監控平台104可經組態以擷取該組件在各站108處之一影像及/或顯影各站108 (例如，工具、人類等)處之一組件之該組件之一影像。通常，監控平台104可經組態以擷取與一組件之生產相關聯之資訊(例如，一影像、一電壓讀數、一速度讀數等)及/或與工具相關聯之資訊(例如，手部位置、工具位置等)，且將彼資訊作為輸入提供至控制模組106以供評估。
控制模組106可經由一或多個通信頻道與製造系統102及監控平台104進行通信。在一些實施例中，一或多個通信頻道可代表經由諸如蜂巢式或Wi-Fi網路之網際網路之個別連接。在一些實施例中，一或多個通信頻道可使用直接連接來連接終端機、服務及行動裝置，諸如射頻識別(RFID)、近場通信(NFC)、藍芽™、低能藍芽™ (BLE)、Wi-Fi™、ZigBee™、環境反向散射通信(ABC)協定、USB、WAN或LAN。
控制模組106可經組態以控制製造系統102之各程序控制器。例如，基於由監控平台104擷取之資訊，控制模組106可經組態以調整與一特定站108相關聯之程序控制。在一些實施例中，控制模組106可經組態以基於一經預計最終品質度量而調整一特定站108之程序控制。
圖2係繪示根據實例性實施例之控制模組106之一方塊圖。控制模組106可包含一工具模組202及一組件模組204。
工具模組202可經組態以基於由監控平台104獲得之影像資料而預計在一給定生產階段處一樣品之一最終品質度量。在操作中，控制模組106可自監控平台104接收輸入。在一些實施例中，此輸入可採取在多步驟製造程序之一給定步驟處執行一子程序之工具之一影像或視訊之形式。例如，影像或視訊資料可包含在執行多步驟製造程序之一特定子程序時一人類之手部之影像或視訊資料。在另一實例中，影像或視訊資料可包含執行沈積一多層製造程序之一特定層之一三維列印機之影像或視訊資料。基於該輸入，控制模組106可預計該組件之一最終品質度量。取決於該組件之經預計最終品質度量，控制模組106可判定待在後繼製造步驟中採取之一或多個動作以便達到一所要或臨限最終品質度量。例如，若經預計最終品質度量落在一可接受值範圍之外，則控制模組106可採取一或多個動作以矯正製造程序。在一些實施例中，控制模組106可與後繼站108中之站控制器介接以調整其等各自控制及/或站參數。在一些實施例中，控制模組106可向人類製造商提供待在一生產線之各下游處理站處執行之經更新指令。此等調整可輔助校正製造程序，使得最終品質度量可在可接受品質度量之範圍內。
組件模組204可經組態以基於由監控平台104獲得之影像資料而預計在一給定生產階段處一樣品之一最終品質度量。在一些實施例中，組件模組204可自監控平台104接收輸入。在一些實施例中，此輸入可採取在多步驟製造程序之一給定步驟處該組件之一影像或視訊之形式。在一些實施例中，組件模組204可在多步驟製造程序之一給定步驟處自工具模組202接收經推斷組件資料。例如，工具模組202可基於工具影像或視訊資料而推斷有關該組件在多步驟製造程序之一給定步驟處之資訊且將彼經推斷資訊作為輸入提供至組件模組204。基於該輸入，組件模組204可預計該組件之一最終品質度量。取決於該組件之經預計最終品質度量，組件模組204可判定待在後繼製造步驟中採取之一或多個動作以便達到一所要或臨限最終品質度量。例如，若經預計最終品質度量落在一可接受值範圍之外，則組件模組204可識別矯正製造程序之一或多個動作。在一些實施例中，控制模組106可與後繼站108中之站控制器介接以調整其等各自控制及/或站參數。在一些實施例中，控制模組106可向人類製造商提供待在一生產線之各下游處理站處執行之經更新指令。此等調整可輔助校正製造程序，使得最終品質度量可在可接受品質度量之範圍內。
工具模組202及組件模組204之各者可包含一或多個軟體模組。一或多個軟體模組可為儲存於一媒體(例如，與控制模組106相關聯之運算系統之記憶體)上之表示實施一或多個演算法步驟之一系列機器指令(例如，程式碼)之碼或指令之集合。此等機器指令可為處理器解釋以實施該等指令之實際電腦碼，或替代地可為經解釋以獲得實際電腦碼之指令之一更高階編碼。一或多個軟體模組亦可包含一或多個硬體組件。一實例演算法之一或多個態樣可由硬體組件(例如，電路)自身來執行，而非作為該等指令之一結果。此外，在一些實施例中，工具模組202及組件模組204之各者可經組態以在該等組件當中傳輸一或多個信號。在此等實施例中，此等信號可不限於由一運算裝置執行之機器指令。
在一些實施例中，工具模組202及組件模組204可經由一或多個區域網路進行通信。網路可為任何合適類型，包含經由諸如蜂巢式或Wi-Fi網路之網際網路之個別連接。在一些實施例中，網路可使用直接連接來連接終端機、服務及行動裝置，諸如射頻識別(RFID)、近場通信(NFC)、藍芽™、低能藍芽™(BLE)、Wi-Fi™、ZigBee™、環境反向散射通信(ABC)協定、USB、WAN或LAN。因為經傳輸資訊可為私人的或機密的，所以安全顧慮可規定待加密或以其他方式保全之此等類型之連接之一或多者。然而，在一些實施例中，正在傳輸之資訊可能不太私人，且因此，可出於便利優先於安全性而選擇網路連接。
工具模組202可包含獲取系統206、提取器模組208及預測模組210。通常，一多節點或多站裝配環境(諸如製造系統102)可廣泛地表示為
Figure 02_image001
，其中
Figure 02_image003
可表示該組件在所有
Figure 02_image005
個節點處之狀態且其中
Figure 02_image007
可表示待由工具在所有
Figure 02_image005
個節點處對該組件執行之動作集。給定一標準或標準品質量測
Figure 02_image009
，工具模組202可經組態以利用一經估計品質度量
Figure 02_image011
最佳化裝配程序中之誤差，使得̂
Figure 02_image011
可在
Figure 02_image009
之一臨限距離內。在一些實施例中，工具模組202可估計該狀態
Figure 02_image013
(其可為該組件在所有
Figure 02_image015
個節點處之一狀態之一數值表示)及動作
Figure 02_image017
(其可表示各節點處之指令或控制值)。
獲取系統206可經組態以接收裝配程序在各節點
Figure 02_image015
處之影像資料。在一些實施例中，獲取系統206可接收監控平台104之裝配程序之影像資料。在一些實施例中，針對各節點
Figure 02_image015
，獲取系統206可接收
Figure 02_image019
個影像，其中
Figure 02_image019
可表示可記錄各節點處之裝配程序之監控平台104之相機之數目。據此，
Figure 02_image019
個影像之各影像可擷取在處理期間該組件之一不同透視圖。在接收到影像資料之後，獲取系統206可經組態以提取圖框之一影像子集。例如，獲取系統206可經組態以自經接收影像資料提取
Figure 02_image021
個影像。經提取影像可被稱為界標圖框。界標圖框可為處於高速運動之影像圖框。經提取影像可包含內含該組件之特定界標
Figure 02_image023
之彼等影像或圖框，其中
Figure 02_image025
，且可表示該組件之整個製造程序。
一給定操作者之最小運動(例如，「界標」)圖框及最大運動(例如，「高速運動」)圖框兩者可含有試圖跨數個操作者以一穩健方式將手指-手部-手臂資料與飛行效能相關之一分類器之有用資訊。在一些實施例中，可使用一光流演算法來量測任何給定圖框中之一運動量。獲取系統206可選擇含有最多運動之彼等圖框。
提取器模組208可經組態以自
Figure 02_image021
個影像提取關鍵點。例如，提取器模組208可經組態以每界標
Figure 02_image027
提取
Figure 02_image029
個關鍵點，即，
Figure 02_image031
對。換言之，提取器模組208可經組態以針對一給定輸入
Figure 02_image033
輸出
Figure 02_image029
個關鍵點，其中
Figure 02_image035
。提取器模組208可產生單個向量
Figure 02_image037
作為輸出。此向量可包含可由
Figure 02_image039
表示之
Figure 02_image029
個
Figure 02_image031
對之界標表示，其中
Figure 02_image041
。
在一些實施例中，為了產生
Figure 02_image043
，提取器模組208可實施兩種單獨演算法：(1)一定界框估計；及(2)關鍵點偵測。
關於定界框估計，給定
Figure 02_image023
，可利用一臨限影像分段處理各界標圖框以產生各工具組件之一遮罩影像。例如，在其中工具係一人類之一實施例中，提取器模組208可產生使用者之手部之各者之一遮罩影像。在一些實施例中，提取器模組208可實施斑點偵測以定位工具之組件。使用一人類作為一實例，提取器模組208可假定該影像始終含有使用者之左手及右手兩者。當一圖框無法包含雙手時，提取器模組208可對該值指派一任意常數值
Figure 02_image045
。
關於關鍵點偵測，提取器模組208可基於經估計定界框而識別工具之關鍵點。例如，利用給定輸入，提取器模組208可估計
Figure 02_image029
個點數
Figure 02_image047
連同其置信度值
Figure 02_image049
。在一些實施例中，提取器模組208不僅可估計圖框上可見之點，而且可估計歸因於銜接、視點、物件或工具互動之一或多者而可能自圖框遮擋之點。因為目標可能係使用經追蹤關鍵點預測品質量測，所以未經估計之經遮擋點可為表示裝配程序之唯一且重要的特徵。因此，可自對界標圖框之小的隨機選定子集中之經遮擋點上之
Figure 02_image049
值之觀察導出一遮擋臨限值
Figure 02_image051
。使用
Figure 02_image051
，提取器模組208可濾除
Figure 02_image053
之估計。針對彼等經過濾點，提取器模組208可對其等指派一任意常數值
Figure 02_image045
。不管工具或圖框上之關鍵點之可見性如何，提取器模組208之輸出皆可包含各組件之
Figure 02_image055
對。
換言之，提取器模組208可經組態以對經遮擋組件指派一預設基本置信度位準且因此估計彼等關鍵點使得一關鍵點全集可用於量測經觀察之試驗工具組件位置與標準工具組件位置之間的差異。在一些實施例中，工具模組202可得出有關該組件在一給定時間點(例如，站
Figure 02_image005
)之狀態之推論且接著輸出待採取以校正經量測差異的經推薦之自標準修改後之後繼動作。
預測模組210可經組態以預測一最終品質度量
Figure 02_image057
。例如，預測模組210可經組態以在給定L個時間點
Figure 02_image043
之工具追蹤資訊之情況下預測一最終品質度量
Figure 02_image059
，其中
Figure 02_image061
，其中可自各處理站108收集
Figure 02_image063
。在一些實施例中，預測模組210可實施一長短期記憶體(LSTM)模型以輸出最終品質度量。LSTM模型可允許預測模組210克服習知遞歸神經網絡中常見之一消失梯度問題。消失梯度問題係其中一模型無法將長序列輸入之早期輸入與後期輸入相關之情況。LSTM模型消除此問題。
圖3係繪示根據實例實施例之LSTM模型之一實例性架構之一方塊圖。如所展示，LSTM模型300可包含三個層302 1至302 3(統稱為層302)。如所展示，各層302可包含一或多個單元304。在一些實施例中，各單元304之輸入可為
Figure 02_image065
，其中
Figure 02_image041
。LSTM中之各單元可被定義為：
Figure 02_image067
Figure 02_image069
Figure 02_image071
Figure 02_image073
Figure 02_image075
其中方程式1決定是否保留來自前一單元之資訊；方程式(2)決定更新哪些值；方程式(3)更新該單元；且方程式(4)決定輸出哪一部分。方程式(5)可過濾輸出部分，使得LSTM模型300僅輸出其經程式化以輸出之內容。
在一些實施例中，LSTM模型300可包含具有30個隱藏大小之三個層302。在一些實施例中，LSTM模型300可為序列對一LSTM模型。為了訓練，L1平均絕對誤差(MAE)損失函數：
Figure 02_image077
可使用一亞當最佳器來最小化。在一些實施例中，可使用MAE係因為目標可為最小化或減小誤差之量值，而不管誤差之方向如何。
再次參考圖2，可使用一標準指令集
Figure 02_image079
及多個組件
Figure 02_image081
訓練預測模組210。例如，使用具有
Figure 02_image081
個資料之10個節點視訊，可藉由首先透過獲取系統206及提取器模組208進行預處理來結構化預測模組210之輸入。在一些實施例中，訓練中涉及之各組件可透過檢查其等組成(例如，形狀)之一驗證演算法來驗證。在一些實施例中，驗證演算法可藉由比較該組成與標準組成來在各節點之結束時運算關於該組成之一類似性指數。因此，用於訓練之組件大致類似於標準組成。
在一些實施例中，針對輸出，可在一受控環境中測試對應實體組件以量測其等品質度量。使用經準備輸入資料與對應輸出資料，可訓練預測模組210，例如，其中
Figure 02_image081
之一部分係訓練資料且M之另一部分係驗證資料。一旦經訓練，預測模組210便可能夠基於工具之影像資料而預測在一給定處理步驟處一組件之一品質量測。
現在參考組件模組204，組件模組204可包含隨機梯度下降(SGD)模組212、閘控遞歸單元(GRU)模型214及模擬模組216。出於此論述之目的，一組件之一部分構造可被定義為̂
Figure 02_image083
，其中步驟
Figure 02_image085
在製造程序中引入一不可逆誤差，且步驟
Figure 02_image087
尚未定義。組件模組204可經組態以識別其餘動作之一最佳校正序列
Figure 02_image089
，其中
Figure 02_image091
及
Figure 02_image093
可對應於待在製造系統102之各後繼處理站(
Figure 02_image095
至
Figure 02_image015
)處對該組件執行之特定操作。更通常，任何組件
Figure 02_image079
可被定義為在製造系統之各處理站
Figure 02_image097
處執行之所有操作之一序列。在數學上，
Figure 02_image099
。在各製造步驟
Figure 02_image101
處，虛擬表示系統可將歐幾里德空間(例如，
Figure 02_image103
)中之組件表示為沿著各表面之外輪廓均勻地分佈之一組所連接表面及一組所連接點。在一些實施例中，產生此等表示之虛擬表示函數可分別被稱為
Figure 02_image105
及
Figure 02_image107
。在一些實施例中，組件模組204可經組態以朝向一特定標準組件
Figure 02_image109
校正
Figure 02_image111
。
模擬模組216可經組態以模擬或產生一給定組件
Figure 02_image113
之一表面模型。例如，模擬模組216可自工具模組202接收工具資訊。基於由工具模組202產生之關鍵點，模擬模組216可經組態以產生表示在一特定程序步驟
Figure 02_image005
處該組件
Figure 02_image113
之狀態之一表面模型。在一些實施例中，該表面模型可被表示為
Figure 02_image105
。在一些實施例中，模擬模組216可進一步經組態以產生或估計該組件
Figure 02_image113
之一品質度量。模擬模組216可經組態以自該表面模型產生表示該組件
Figure 02_image113
之特定座標之一點模型
Figure 02_image115
。例如，模擬模組216可藉由放置在
Figure 02_image105
中之各表面之一定界輪廓周圍均勻地隔開之數個點來根自該表面模型
Figure 02_image105
形成點模型
Figure 02_image115
。在一些實施例中，
Figure 02_image105
可用來模擬假像
Figure 02_image113
之效能。
SGD模組212可自模擬模組216接收點模型
Figure 02_image107
。SGD模組212可藉由比較在步驟
Figure 02_image005
處之一點模型
Figure 02_image107
與一標準組件
Figure 02_image117
之一標準點模型
Figure 02_image119
來判定是否已發生一不可逆誤差
Figure 02_image085
。一不可逆誤差可被定義為在步驟k處與一標準組件之一可量測的顯著結構偏差。SGD模組212可經組態以藉由取得一豪斯多夫(Hausdorff)距離來偵測一不可逆誤差。例如，SGD模組212可基於各自歐幾里得點集而將當前組件
Figure 02_image079
之一處理步驟與標準組件
Figure 02_image117
匹配。在數學上，SGD模組212可經組態以運算
Figure 02_image115
與
Figure 02_image121
之間的豪斯多夫距離，且其中
Figure 02_image123
Figure 02_image125
.。例如，
Figure 02_image127
其中
Figure 02_image129
可為
Figure 02_image131
與
Figure 02_image133
之間的歐幾里得距離，且無向豪斯多夫距離可為：
Figure 02_image135
在當前組件
Figure 02_image137
與標準組件
Figure 02_image117
之間的豪斯多夫距離超過某個臨限容限時，可能存在一不可逆誤差。例如，SGD模組212可在以下情況時判定在步驟k處發生一誤差：
Figure 02_image139
其中
Figure 02_image141
係某個適當定義的容限臨限值。
假定存在一誤差，則SGD模組212可經組態以在給定一動作集之情況下構建一經更新動作集
Figure 02_image089
直至一誤差點(一不可逆誤差
Figure 02_image085
)。在一些實施例中，此經更新動作集可被稱為
Figure 02_image143
。在誤差步驟
Figure 02_image085
之前且包含誤差步驟
Figure 02_image085
之步驟或動作之序列可被稱為
Figure 02_image145
。
Figure 02_image143
及
Figure 02_image145
可一起定義一組件
Figure 02_image137
。基於
Figure 02_image145
，SGD模組212可使用一隨機梯度下降方法對
Figure 02_image143
進行求解。
GRU模型214可經組態以基於
Figure 02_image147
而預測該組件
Figure 02_image137
之一最終品質度量，其中⨁可表示一向量串連運算子。可比較由GRU模型214產生之最終品質度量與一標準最終品質度量以判定
Figure 02_image143
是否恰當。例如，假定
Figure 02_image143
及
Figure 02_image145
之組合產生落在一可接受值範圍之外的一最終品質度量，則GRU模型214可指示SGD模組212產生經更新動作之一經更新序列以供進一步評估。
圖5係繪示根據實例實施例之GRU模型214之架構之一方塊圖500。如所展示，GRU模型214可包含
Figure 02_image015
個GRU單元502 1至502 N(統稱GRU單元502)，其中各GRU單元502對應於一各自處理站108。各GRU單元502可包含一
Figure 02_image149
輸入對及一預定大小之一隱藏狀態輸出
Figure 02_image151
。此等輸入對
Figure 02_image149
一起可定義一給定組件
Figure 02_image137
。在一些實施例中，各GRU單元502可由以下項定義：
Figure 02_image153
Figure 02_image155
Figure 02_image157
Figure 02_image159
其中
Figure 02_image161
可為在時間
Figure 02_image093
之隱藏狀態，
Figure 02_image163
可為在時間
Figure 02_image093
之輸入，且
Figure 02_image165
及
Figure 02_image167
可分別表示在時間
Figure 02_image093
之重設、更新及新閘控。
可訓練GRU模型214以產生對應於其之權重。例如，可反覆地訓練GRU模型214以使GRU模型214偏向於解決一特定子問題。在一些實施例中，在一第一反覆期間，GRU模型214可產生複數個(例如，幾百個至幾千個)最佳預測(針對在步驟
Figure 02_image085
處各可能誤差各一個預測)以在步驟
Figure 02_image087
處完成一給定組件
Figure 02_image109
，連同對應於各預測之對應經預測品質度量。
在一些實施例中，可在一虛擬表示系統中呈現所有經預測飛機完成，運算其等逐步豪斯多夫距離，且模擬其等經呈現表面以獲得經產生預測與標準之間的距離量度。在一些實施例中，可運算標準品質度量量度與經預測品質度量量度之間的損失值且將其等回饋至GRU模型214中，該GRU模型214之權重可經由反向傳播進行調整，從而產生一第二反覆。此程序可繼續直至獲得一所要誤差臨限值為止。
圖4係根據實例實施例之在視覺上繪示用於工具模組202之一回饋段400之總體程序流程之一方塊圖。
如所展示，回饋段400可包含一第一部分402、一第二部分404及一第三部分406。在第一部分402期間，工具模組202可執行一獲取程序，諸如由獲取系統206至少部分地實行之獲取程序。
如所展示，在方塊408處，製造系統102可接收用於處理一組件之處理指令。在一些實施例中，製造系統102可在每站108基礎上接收處理指令。例如，製造系統102之各站108可接收獨立處理指令。在一些實施例中，處理指令可包含定義用於製造之一站108之屬性(例如，溫度、壓力等)之控制值。在一些實施例中，處理指令可包含在視覺上向一人類操作者闡釋如何在製造程序之一處理節點處執行一特定處理步驟之視訊或影像。
在方塊410處，獲取系統206可自監控平台104接收影像資料。在一些實施例中，針對各節點N，獲取系統206可接收V個影像，其中V可表示可記錄各節點處之裝配程序之監控平台104之相機之數目。在接收到影像資料之後，在方塊412處，獲取系統206可經組態以提取圖框之一影像子集。例如，獲取系統206可經組態以自經接收影像資料提取L個影像。經提取影像可被稱為界標圖框。經提取影像可包含內含特定界標之彼等影像或圖框且可表示該組件之整個製造程序。
第二部分404可對應於由提取器模組208執行之操作。如所展示，提取器模組208可自獲取系統206接收至少經提取影像。提取器模組208可經組態以自
Figure 02_image021
個影像提取關鍵點。例如，提取器模組208可經組態以每界標
Figure 02_image027
提取
Figure 02_image029
個關鍵點，即，
Figure 02_image169
對。
在方塊414處，提取器模組208可執行定界框估計。例如，給定
Figure 02_image023
，可利用一臨限影像分段處理各界標圖框以產生各工具組件之一遮罩影像。例如，如所展示，在其中工具係一人類之一實施例中，提取器模組208可產生使用者之手部之各者之一遮罩影像。
在方塊416處，給定定界框估計，提取器模組208可執行關鍵點偵測。例如，利用給定輸入，提取器模組208可估計
Figure 02_image029
個點
Figure 02_image047
連同其置信度值
Figure 02_image049
。在一些實施例中，提取器模組208不僅可估計圖框上可見之點，而且可估計歸因於銜接、視點、物件或工具互動之一或多者而可能自圖框遮擋之點。
第三部分406可對應於由預測模組210執行之操作。如所展示，在方塊418處，預測模組210可自提取器模組208接收關鍵點資訊且可經組態以預測一最終品質度量
Figure 02_image171
。在一些實施例中，預測模組210可實施一長短期記憶體(LSTM)模型以輸出最終品質度量。
圖6係繪示根據實例實施例之校正一多步驟製造程序之一方法600之一流程圖。方法600可在步驟602處開始。
在步驟602處，可將一指令集提供至製造系統102。該指令集可代表用於待由製造系統102實行之一製造程序之一指令集。在一些實施例中，可將該指令集提供至各站108。例如，提供至各個各自站108之各標準指令集可定義用於一特定製造步驟之處理參數。在另一實例中，各標準指令集可為待由一人類行動者在一特定處理節點或站108處執行之離散步驟之一視訊。
在步驟604處，控制模組106可自監控平台104接收工具(例如，站108)之影像資料。例如，獲取系統206可接收一各自處理節點處之裝配程序之影像資料。在一些實施例中，獲取系統206可接收
Figure 02_image019
個影像，其中
Figure 02_image019
可表示可記錄一特定處理站108處之裝配程序之監控平台104之相機之數目。據此，
Figure 02_image019
個影像之各影像可擷取在處理期間工具之一不同透視圖。
在步驟606處，控制模組106可自經獲得影像資料提取一影像子集。例如，在接收到影像資料之後，獲取系統206可經組態以提取圖框之一影像子集。例如，獲取系統206可經組態以自經接收影像資料提取
Figure 02_image021
個影像，即，界標圖框。經提取影像可被稱為界標圖框。界標圖框可為處於高速運動之彼等影像圖框。經提取影像可包含內含該組件之特定界標
Figure 02_image023
之影像或圖框，其中
Figure 02_image025
，且可表示該組件之整個製造程序。
在步驟608處，控制模組106可自界標圖框提取工具之一或多個關鍵點。例如，提取器模組208可自
Figure 02_image021
個影像提取關鍵點。提取器模組208可識別或提取一給定輸入
Figure 02_image033
之
Figure 02_image029
個關鍵點，其中
Figure 02_image035
。提取器模組208可產生單個向量
Figure 02_image037
作為輸出。此向量可包含可由
Figure 02_image039
表示之
Figure 02_image029
個
Figure 02_image031
對之界標表示，其中
Figure 02_image041
。
在步驟610處，控制模組106可基於至少經識別關鍵點而預測該組件之一最終品質度量。在一些實施例中，預測模組210可實施一長短期記憶體(LSTM)模型以輸出最終品質度量。
在步驟612處，控制模組106可比較最終品質度量與一所要品質度量。若在步驟610處，控制模組106判定最終品質度量係所要品質度量之一臨限容限，則製造程序可根據原始指令集繼續進行至下一處理站或節點(例如，步驟616)。然而，若在步驟612處，控制模組106判定最終品質度量不在所要品質度量之一臨限容限內，則在步驟614處控制模組106可調整下游處理站之處理參數。在一些實施例中，控制模組106可與後繼站108中之站控制器介接以調整其等各自控制及/或站參數。在一些實施例中，控制模組106可向人類製造商提供待在一生產線之各下游處理站處執行之經更新指令。此等調整可輔助校正製造程序，使得最終品質度量可在可接受品質度量之範圍內。
圖7係繪示根據實例實施例之校正一多步驟製造程序之一方法700之一流程圖。方法700可在步驟702處開始。
在步驟702處，可將一指令集提供至製造系統102。該指令集可代表用於待由製造系統102實行之一製造程序之一指令集。在一些實施例中，可將該指令集提供至各站108。例如，提供至各個各自站108之各標準指令集可定義用於一特定製造步驟之處理參數。在另一實例中，各標準指令集可為待由一人類行動者在一特定處理節點或站108處執行之離散步驟之一視訊。
在步驟704處，控制模組106可識別對應於一各自處理節點處之一組件之資訊。在一些實施例中，模擬模組216可自工具模組202接收工具資訊。基於由工具模組202產生之關鍵點，模擬模組216可經組態以產生表示在一特定程序步驟
Figure 02_image005
處該組件
Figure 02_image173
之一狀態之一表面模型。在一些實施例中，該表面模型可被表示為
Figure 02_image105
。在一些實施例中，模擬模組216可進一步經組態以產生或估計該組件
Figure 02_image137
之一品質度量。根據該表面模型，模擬模組216可經組態以產生表示該組件
Figure 02_image137
之特定座標之一點模型
Figure 02_image107
。
在步驟706處，控制模組106可判定是否已發生一不可逆誤差。例如，SGD模組212可自模擬模組216接收點模型
Figure 02_image107
。SGD模組212可藉由比較步驟
Figure 02_image005
處之點模型
Figure 02_image115
與一標準組件
Figure 02_image117
之一標準點模型
Figure 02_image119
來判定是否已發生一不可逆誤差
Figure 02_image085
。SGD模組212可經組態以藉由取得點模型與對應標準點模型之間的一豪斯多夫距離來偵測一不可逆誤差。當在各自處理站或節點處當前組件
Figure 02_image137
與標準組件
Figure 02_image117
之間的豪斯多夫距離超過某個臨限容限時，可能存在一不可逆誤差。
若在步驟706處，控制模組106判定尚未發生一不可逆誤差，則製造程序可根據原始指令集繼續進行至下一處理站或節點(步驟705)。然而，若在步驟706處，控制模組106判定已發生一不可逆誤差，則方法700繼續進行至步驟708。
在步驟708處，控制模組106可產生用以校正不可逆誤差之一經更新動作集。SGD模組212可在給定一動作集之情況下構建一經更新動作集
Figure 02_image089
直至一誤差點(一不可逆誤差
Figure 02_image085
)。在一些實施例中，此經更新動作集可被稱為
Figure 02_image143
。在誤差步驟
Figure 02_image085
之前且包含誤差步驟
Figure 02_image085
之步驟或動作之序列可被稱為
Figure 02_image145
。
Figure 02_image143
及
Figure 02_image145
可一起定義一組件
Figure 02_image137
。基於
Figure 02_image145
，SGD模組212可使用一隨機梯度下降方法對
Figure 02_image143
進行求解。
在步驟710處，控制模組106可基於由SGD模組212產生之動作集而產生該組件之一經預測最終品質度量。例如，GRU模型214可經組態以基於
Figure 02_image175
而預測該組件
Figure 02_image137
之一最終品質度量，其中
Figure 02_image177
表示一向量串連運算子。
在步驟712處，控制模組106可判定經預測最終品質度量是否在標準最終品質度量之一臨限容限內。例如，可比較由GRU模型214產生之最終品質度量與一標準最終品質度量以判定
Figure 02_image143
是否恰當。若在步驟712處，控制模組106判定經預測品質度量在臨限容限內，則在步驟714處，控制模組106可調整下游處理站之處理參數。在一些實施例中，控制模組106可與後繼站108中之站控制器介接以調整其等各自控制及/或站參數。在一些實施例中，控制模組106可向人類製造商提供待在一生產線之各下游處理站處執行之經更新指令。此等調整可輔助校正製造程序，使得最終品質度量可在可接受品質度量之範圍內。
然而，若在步驟712處，控制模組106判定經預測品質度量不在臨限容限內，則GRU模型214可提示SGD模組212產生一新
Figure 02_image143
。例如，方法700可回復至步驟708以供SGD模組212構建一新的經更新動作集。
圖8A繪示根據實例實施例之一系統匯流排運算系統架構800。系統800之一或多個組件可使用一匯流排805彼此進行電通信。系統800可包含一處理器(例如，一或多個CPU、GPU或其他類型之處理器) 810及將包含系統記憶體815之各種系統組件(諸如唯讀記憶體(ROM) 820及隨機存取記憶體(RAM) 825)耦合至處理器810之一系統匯流排805。系統800可包含直接與處理器810連接、緊鄰處理器810或整合為處理器810之部分之高速記憶體之一快取區。系統800可將資料自記憶體815及/或儲存裝置830複製至快取區812以供處理器810快速存取。以此方式，快取區812可提供避免處理器810在等待資料的同時延時之一效能提高。此等及其他模組可控制或經組態以控制處理器810以執行各種動作。其他系統記憶體815亦可供使用。記憶體815可包含具有不同效能特性之多種不同類型之記憶體。處理器810可代表單個處理器或多個處理器。處理器810可包含一通用處理器或一硬體模組或軟體模組(諸如儲存於儲存裝置830中、經組態以控制處理器810之服務1 832、服務2 834及服務3 836)以及一專用處理器(其中軟體指令經併入至實際處理器設計中)之一或多者。處理器810可本質上為一完全自含式運算系統，含有多個核心或處理器、一匯流排、記憶體控制器、快取區等。一多核心處理器可為對稱的或非對稱的。
為了實現與運算裝置800之使用者互動，一輸入裝置845可為任何數目個輸入機構，諸如用於語音之一麥克風、用於手勢或圖形輸入之一觸敏螢幕、鍵盤、滑鼠、運動輸入、語音等。一輸出裝置835亦可為熟習此項技術者已知之數個輸出機構之一或多者。在一些例項中，多模式系統可使一使用者能夠提供多種類型之輸入以與運算裝置800進行通信。通信介面840通常可支配及管理使用者輸入及系統輸出。有關任何特定硬體配置之操作不存在限制且因此在此基本特徵可在改良式硬體或韌體配置被開發時容易替換成改良式硬體或韌體配置。
儲存裝置830可為一非揮發性記憶體且可為可儲存可由一電腦存取之資料之一硬碟或其他類型之電腦可讀媒體，諸如卡式磁帶、快閃記憶卡、固態記憶體裝置、數位多功能光碟、卡匣、隨機存取記憶體(RAM) 825、唯讀記憶體(ROM) 820及其等混合物。
儲存裝置830可包含用於控制處理器810之服務832、834及836。其他硬體或軟體模組經考慮。儲存裝置830可經連接至系統匯流排805。在一個態樣中，執行一特定功能之一硬體模組可包含與必要硬體組件(諸如處理器810、匯流排805、顯示器835等)相關地儲存於一電腦可讀媒體中以實行該功能之軟體組件。
圖8B繪示根據實例實施例之具有一晶片組架構之一電腦系統850。電腦系統850可為可用來實施所揭示技術之電腦硬體、軟體及韌體之一實例。系統850可包含代表能夠執行經組態以執行所識別運算之軟體、韌體及硬體之任何數目個實體及/或邏輯上相異的資源之一或多個處理器855。一或多個處理器855可與控制至一或多個處理器855之輸入及來自一或多個處理器855之輸出之一晶片組860進行通信。在此實例中，晶片組860將資訊輸出至輸出865，諸如一顯示器，且可將資訊讀取及寫入至儲存裝置870，該儲存裝置870可例如包含磁性媒體及固態媒體。晶片組860亦可自RAM 875讀取資料及將資料寫入至RAM 875。可提供用於與各種使用者介面組件885介接之一橋接器880以與晶片組860介接。此等使用者介面組件885可包含一鍵盤、一麥克風、觸控偵測及處理電路、一指向裝置，諸如一滑鼠等。通常，至系統850之輸入可來自機器產生及/或人工產生之多種源之任一者。
晶片組860亦可與可具有不同實體介面之一或多個通信介面890介接。此等通信介面可包含用於有線及無線區域網路、用於寬頻無線網路以及個人區域網路之介面。用於產生、顯示及使用本文中所揭示之GUI之方法之一些應用可包含透過實體介面接收或待由機器自身藉由一或多個處理器855分析儲存於儲存器870或875中之資料而產生之有序資料集。此外，該機器可透過使用者介面組件885接收來自一使用者之輸入且藉由使用一或多個處理器855解釋此等輸入來執行適當功能，諸如瀏覽功能。
可暸解，實例系統800及850可具有一個以上處理器810或為一起網路化以提供更大處理能力之運算裝置之一群組或群集之部分。
雖然前文係關於本文中所描述之實施例，但可在不脫離其基本範疇之情況下設計其他及進一步實施例。例如，本發明之態樣可以硬體或軟體或硬體及軟體之一組合來實施。本文中所描述之一項實施例可被實施為與一電腦系統一起使用之一程式產品。程式產品之(若干)程式定義實施例之功能(包含本文中所描述之方法)且可被含在多種電腦可讀儲存媒體上。闡釋性電腦可讀儲存媒體包含但不限於：(i)資訊永久地儲存於其上之不可寫入儲存媒體(例如，一電腦內之唯讀記憶體(ROM)裝置，諸如由一CD-ROM光碟機可讀之CD-ROM光碟、快閃記憶體、ROM晶片或任何類型之固態非揮發性記憶體)；及(ii)可更改資訊經儲存於其上之可寫入儲存媒體(例如，一磁碟機或硬碟機內之軟碟或任何類型之固態隨機存取記憶體)。當攜載指導所揭示實施例之功能之電腦可讀指令時，此等電腦可讀儲存媒體係本發明之實施例。
熟習此項技術者將明白，前述實例係實例性的且非限制性的。意圖係在閱讀說明書及研究圖式之後對熟習此項技術者而言顯而易見的該等實例之所有排列、增強、等效物及改良被包含於本發明之真實精神及範疇內。因此，意圖係以下隨附發明申請專利範圍包含如落入此等教示之真實精神及範疇內之所有此等修改、排列及等效物。
100:製造環境 102:製造系統 104:監控平台 106:控制模組 108 1-108 n:站 114 1-114 n:程序控制器 116:控制邏輯 116 1-116 n:控制邏輯 202:工具模組 204:組件模組 206:獲取系統 208:提取器模組 210:預測模組 212:隨機梯度下降(SGD)模組 214:閘控遞歸單元(GRU)模型 216:模擬模組 300:長短期記憶體(LSTM)模型 302 1:層 302 2:層 302 3:層 304:單元 400:回饋段 402:第一部分 404:第二部分 406:第三部分 408:方塊 410:方塊 412:方塊 414:方塊 416:方塊 418:方塊 500:方塊圖 502 1-502 N:GRU單元 600:方法 602:步驟 604:步驟 606:步驟 608:步驟 610:步驟 612:步驟 614:步驟 616:步驟 700:方法 702:步驟 704:步驟 705:步驟 706:步驟 708:步驟 710:步驟 712:步驟 714:步驟 800:系統匯流排運算系統架構/運算裝置 805:匯流排/系統匯流排 810:處理器 812:快取區 815:系統記憶體 820:唯讀記憶體(ROM) 825:隨機存取記憶體(RAM) 830:儲存裝置 832:服務1 834:服務2 835:輸出裝置/顯示器 836:服務3 840:通信介面 845:輸入裝置 850:電腦系統 855:處理器 860:晶片組 865:輸出 870:儲存裝置/儲存器 875:RAM/儲存器 880:橋接器 885:使用者介面組件 890:通信介面
為了可詳細地理解本發明之上述特徵之方式，可參考實施例對本發明進行上文簡要地概述之一更特定描述，一些該等實施例在隨附圖式中繪示。然而，應注意，隨附圖式僅繪示本發明之典型實施例且因此不應被視為對其範疇之限制，此係因為本發明可允許其他同等有效實施例。
圖1係繪示根據實例實施例之一製造環境之一方塊圖。
圖2係繪示根據實例性實施例之控制模組之一方塊圖。
圖3係繪示根據實例實施例之LSTM模型之一實例性架構之一方塊圖。
圖4係根據實例實施例之在視覺上繪示用於工具模組之一回饋段之總體程序流程之一方塊圖。
圖5係繪示根據實例實施例之GRU模型之架構之一方塊圖。
圖6係繪示根據實例實施例之校正一多步驟製造程序之一方法之流程圖。
圖7係繪示根據實例實施例之校正一多步驟製造程序之一方法之流程圖。
圖8A繪示根據實例實施例之一系統匯流排運算系統架構。
圖8B繪示根據實例實施例之具有一晶片組架構之一電腦系統。
為了促進理解，在可能情況下已使用相同元件符號來指定該等圖所共有之相同元件。經考量，一項實施例中所揭示之元件可在沒有特定敘述之情況下有益地用於其他實施例。
100:製造環境
102:製造系統
104:監控平台
106:控制模組
1081-108n:站
1141-114n:程序控制器

Claims (15)

  1. 一種用於工廠自動化生產線之製造系統，其包括： 一或多個站，各站經組態以執行一組件之一多步驟製造程序中之至少一個步驟； 一監控平台，其經組態以貫穿該多步驟製造程序監控該組件之進度；及 一控制模組，其經組態以動態地調整該多步驟製造程序之一步驟之處理參數以達成該組件之一所要最終品質度量，該控制模組經組態以執行操作，包括： 接收該一或多個站之一第一站之工具之影像資料； 自該影像資料提取一影像子集，其中該影像子集之各影像包含該第一站之該工具，且該影像子集表示在該第一站內之該組件之整個製造程序； 基於該影像子集，藉由一機器學習模型判定該組件之一最終品質度量； 判定該最終品質度量不在該最終品質度量之一臨限容限內；及 基於該判定而在該多步驟製造程序中更新後繼站之處理參數。
  2. 如請求項1之製造系統，其中無法量測該最終品質度量直至該組件之處理完成。
  3. 如請求項1之製造系統，其中該接收該一或多個站之該第一站之工具之影像資料包含： 自該監控平台的一第一相機接收該第一站之該工具之一第一影像資料；及 自該監控平台的一第二相機接收該第一站之該工具之一第二影像資料。
  4. 如請求項1之製造系統，進一步包括： 將斑點偵測技術應用於該影像資料以識別該工具在該影像資料中之一位置。
  5. 如請求項4之製造系統，進一步包括： 基於該工具的該位置執行定界框估計。
  6. 如請求項1之製造系統，其中該機器學習模型係一長短期記憶模型。
  7. 一種方法，其包括： 自一製造系統的一監控平台接收該製造系統的一或多個站的一第一站的工具之影像資料； 自該影像資料提取一影像子集，其中該影像子集之各影像包含該第一站之該工具，且該影像子集表示該第一站中之一組件之整個製造程序； 基於該影像子集，藉由一機器學習模型判定該組件之一最終品質度量； 判定該最終品質度量不在該最終品質度量之一臨限容限內；及 基於該判定而在一多步驟製造程序中更新後繼站之處理參數。
  8. 如請求項7之方法，其中無法量測該最終品質度量直至該組件之處理完成。
  9. 如請求項7之方法，其中該接收該一或多個站之該第一站之工具之影像資料包含： 自該監控平台的一第一相機接收該第一站之該工具之一第一影像資料；及 自該監控平台的一第二相機接收該第一站之該工具之一第二影像資料。
  10. 如請求項7之方法，進一步包括： 將斑點偵測技術應用於該影像資料以識別該工具在該影像資料中之一位置。
  11. 如請求項10之方法，進一步包括： 基於該工具的該位置執行定界框估計。
  12. 如請求項7之方法，其中該機器學習模型係一長短期記憶模型。
  13. 一種系統，其包括： 一處理器；及 一記憶體，其具有儲存該該記憶體內之程式指令，其中當該程式指令藉該處理器被執行時，使該系統執行操作，該操作包含： 接收一第一站之工具之影像； 自該影像資料提取一影像子集，其中該影像子集之各影像包含該第一站之該工具，且該影像子集表示該第一站中之一組件之整個製造程序； 基於該影像子集，藉由一機器學習模型判定該組件之一最終品質度量； 判定該最終品質度量不在該最終品質度量之一臨限容限內；及 基於該判定而在一多步驟製造程序中更新後繼站之處理參數。
  14. 如請求項13之系統，其中無法量測該最終品質度量直至該組件之處理完成。
  15. 如請求項13之系統，其中該接收該第一站之工具之影像資料包含： 自一第一相機接收該第一站之該工具之一第一影像資料；及 自一第二相機接收該第一站之該工具之一第二影像資料。
TW111108232A 2019-11-06 2020-11-06 用於工廠自動化生產線之製造系統及方法 TW202223567A (zh)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
US201962931448P 2019-11-06 2019-11-06
US201962931453P 2019-11-06 2019-11-06
US62/931,448 2019-11-06
US62/931,453 2019-11-06
US201962932063P 2019-11-07 2019-11-07
US62/932,063 2019-11-07

Publications (1)

Publication Number Publication Date
TW202223567A true TW202223567A (zh) 2022-06-16

Family

ID=75687746

Family Applications (2)

Application Number Title Priority Date Filing Date
TW111108232A TW202223567A (zh) 2019-11-06 2020-11-06 用於工廠自動化生產線之製造系統及方法
TW109138941A TWI760916B (zh) 2019-11-06 2020-11-06 用於工廠自動化生產線之製造系統

Family Applications After (1)

Application Number Title Priority Date Filing Date
TW109138941A TWI760916B (zh) 2019-11-06 2020-11-06 用於工廠自動化生產線之製造系統

Country Status (7)

Country Link
US (1) US20210132593A1 (zh)
EP (1) EP4055454A4 (zh)
JP (2) JP7320885B2 (zh)
KR (1) KR20220093171A (zh)
CN (1) CN114585981A (zh)
TW (2) TW202223567A (zh)
WO (1) WO2021092329A1 (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20210192779A1 (en) * 2019-11-06 2021-06-24 Nanotronics Imaging, Inc. Systems, Methods, and Media for Manufacturing Processes
CN113516285B (zh) * 2021-05-12 2024-02-13 中船重工鹏力（南京）智能装备系统有限公司 自动化装配检测生产线在生产中产品质量分析预测方法
TWI813096B (zh) * 2021-12-15 2023-08-21 科智企業股份有限公司 工件加工部位之指示方法與系統
CN115202310B (zh) * 2022-08-12 2024-01-09 山东品正金属制品有限公司 一种电动汽车电机扣件的自动化加工方法及系统
KR102604762B1 (ko) * 2022-08-29 2023-11-22 주식회사 어시스트키친 뉴럴 네트워크를 이용하여 예측된 배송량에 기반하여 물류 거점에 대한 배송량을 결정하는 방법 및 장치

Family Cites Families (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7486813B2 (en) * 1998-10-08 2009-02-03 Easton Hunt Capital Partners, L.P. Electronic assembly video inspection system
JP4677679B2 (ja) * 2001-03-27 2011-04-27 株式会社デンソー 製品の製造プロセスにおける特性調整方法
US7130710B2 (en) * 2002-08-07 2006-10-31 Kimberly-Clark Worldwide, Inc. System and method for tracking and exploiting per station information from a multiple repeat manufacturing device
US20060013505A1 (en) * 2002-11-06 2006-01-19 Shing-Tung Yau Analysis of geometric surfaces by comformal structure
DE102011075467A1 (de) * 2011-05-06 2012-11-08 Deckel Maho Pfronten Gmbh Vorrichtung zum bedienen einer automatisierten maschine zur handhabung, montage oder bearbeitung von werkstücken
WO2013033442A1 (en) * 2011-08-30 2013-03-07 Digimarc Corporation Methods and arrangements for identifying objects
US9110452B2 (en) * 2011-09-19 2015-08-18 Fisher-Rosemount Systems, Inc. Inferential process modeling, quality prediction and fault detection using multi-stage data segregation
US9056422B2 (en) * 2013-04-09 2015-06-16 Massachusetts Institute Of Technology Methods and apparatus for encoded textures
US9855698B2 (en) * 2013-08-07 2018-01-02 Massachusetts Institute Of Technology Automatic process control of additive manufacturing device
DE102013018654A1 (de) * 2013-10-30 2015-04-30 Jenoptik Automatisierungstechnik Gmbh Verfahren und Vorrichtung zur Detektion und zur Korrektur einer räumlichen Lage eines in einer Positionierungseinrichtung gehaltenen Werkstücks
AU2015271638A1 (en) 2014-06-05 2017-01-19 Commonwealth Scientific And Industrial Research Organisation Distortion prediction and minimisation in additive manufacturing
US10176408B2 (en) * 2015-08-14 2019-01-08 Elucid Bioimaging Inc. Systems and methods for analyzing pathologies utilizing quantitative imaging
US9792531B2 (en) * 2015-09-16 2017-10-17 Siemens Healthcare Gmbh Intelligent multi-scale medical image landmark detection
CN105488806B (zh) * 2015-12-23 2018-08-03 华中科技大学 一种工件位置追踪定位方法及定位系统
JP2017113979A (ja) 2015-12-24 2017-06-29 キヤノン株式会社 造形装置、造形方法及びプログラム
US11144842B2 (en) * 2016-01-20 2021-10-12 Robert Bosch Gmbh Model adaptation and online learning for unstable environments
JP6694643B2 (ja) 2016-02-19 2020-05-20 国立研究開発法人産業技術総合研究所 ワークの加工方法
JP6749582B2 (ja) 2016-05-20 2020-09-02 富士ゼロックス株式会社 ３次元データ生成装置、３次元造形装置、造形物の製造方法及びプログラム
JP2017215277A (ja) * 2016-06-02 2017-12-07 住友化学株式会社 欠陥検査システム、フィルム製造装置及び欠陥検査方法
US10565305B2 (en) * 2016-11-18 2020-02-18 Salesforce.Com, Inc. Adaptive attention model for image captioning
EP3641965B1 (de) 2017-06-20 2024-03-20 Carl Zeiss Industrielle Messtechnik GmbH Verfahren und vorrichtung zur additiven fertigung
US10753955B2 (en) * 2017-06-30 2020-08-25 General Electric Company Systems and method for advanced additive manufacturing
US10710307B2 (en) 2017-08-11 2020-07-14 Applied Materials, Inc. Temperature control for additive manufacturing
US11511373B2 (en) * 2017-08-25 2022-11-29 Massachusetts Institute Of Technology Sensing and control of additive manufacturing processes
US11609623B2 (en) * 2017-09-01 2023-03-21 Qualcomm Incorporated Ultra-low power neuromorphic artificial intelligence computing accelerator
US10102495B1 (en) * 2017-12-18 2018-10-16 Samsara Networks Inc. Automatic determination that delivery of an untagged item occurs
JP2019155606A (ja) 2018-03-07 2019-09-19 株式会社リコー 造形装置、造形システムおよび方法
JP2019177494A (ja) 2018-03-30 2019-10-17 株式会社リコー 制御システム、造形システムおよびプログラム
JP7068927B2 (ja) 2018-05-28 2022-05-17 株式会社第一興商 彫刻レッスンシステム、彫刻レッスン用プログラム
JP7091876B2 (ja) 2018-06-22 2022-06-28 株式会社リコー 造形装置、制御装置および方法
JP2020001302A (ja) * 2018-06-29 2020-01-09 株式会社リコー 造形予測システム、造形予測表示システム、情報処理装置およびプログラム
JP7091973B2 (ja) * 2018-09-26 2022-06-28 株式会社リコー 定着装置と画像形成装置並びに定着方法
JP7146576B2 (ja) * 2018-10-29 2022-10-04 芝浦機械株式会社 積層造形装置、積層造形方法、及びプログラム
JP6964801B2 (ja) * 2018-11-09 2021-11-10 三菱電機株式会社 積層造形装置
US20200166909A1 (en) * 2018-11-20 2020-05-28 Relativity Space, Inc. Real-time adaptive control of manufacturing processes using machine learning
JP7062577B2 (ja) * 2018-11-21 2022-05-06 株式会社日立製作所 製造条件特定システムおよび方法
JP7147511B2 (ja) * 2018-11-27 2022-10-05 株式会社リコー 立体物形成装置、立体物形成方法、及びプログラム
DE102018221002A1 (de) * 2018-12-05 2020-06-10 Robert Bosch Gmbh Steuereinrichtung zur Steuerung einer Fertigungsanlage sowie Fertigungsanlage und Verfahren
JP2020132937A (ja) 2019-02-18 2020-08-31 キヤノン株式会社 製造方法、三次元造形装置
JP2020138394A (ja) 2019-02-27 2020-09-03 株式会社リコー 造形装置、システム、方法およびプログラム
US11117328B2 (en) * 2019-09-10 2021-09-14 Nanotronics Imaging, Inc. Systems, methods, and media for manufacturing processes
JP7103379B2 (ja) 2020-03-23 2022-07-20 株式会社ニコン 三次元造形物製造装置

Also Published As

Publication number Publication date
EP4055454A1 (en) 2022-09-14
EP4055454A4 (en) 2024-01-31
JP7320885B2 (ja) 2023-08-04
TW202134808A (zh) 2021-09-16
CN114585981A (zh) 2022-06-03
WO2021092329A1 (en) 2021-05-14
US20210132593A1 (en) 2021-05-06
JP2022554302A (ja) 2022-12-28
KR20220093171A (ko) 2022-07-05
JP2023145545A (ja) 2023-10-11
TWI760916B (zh) 2022-04-11

Similar Documents

Publication Publication Date Title
TWI760916B (zh) 用於工廠自動化生產線之製造系統
US9940726B2 (en) System and method to improve object tracking using tracking fingerprints
US11117328B2 (en) Systems, methods, and media for manufacturing processes
US20210311440A1 (en) Systems, Methods, and Media for Manufacturing Processes
US20210263495A1 (en) Systems, Methods, and Media for Manufacturing Processes
US11203116B2 (en) System and method for predicting robotic tasks with deep learning
TWI765403B (zh) 用於製造程序之系統及方法與三維（３ｄ）列印系統
TWI801820B (zh) 用於製造流程之系統及方法
US20210192779A1 (en) Systems, Methods, and Media for Manufacturing Processes
KR102300500B1 (ko) 제품 입체컷 이미지 처리 방법, 장치 및 시스템
KR20230025698A (ko) 제조 공정을 위한 시스템, 방법 및 매체
EP4354336A1 (en) Automatic generation of as-run results in a three demensional model using augmented reality
Papavasileiou et al. A Voice-Enabled ROS2 Framework for Human–Robot Collaborative Inspection
Shishodia Anomaly Detection in Workstation Using Deep Learning Techniques
CN117377987A (zh) 抓握神经网络的协变量偏移的变换