CN115204441A - 针对制造系统中的多变量时间序列数据的预测方法和系统 - Google Patents

针对制造系统中的多变量时间序列数据的预测方法和系统 Download PDF

Info

Publication number
CN115204441A
CN115204441A CN202210385883.7A CN202210385883A CN115204441A CN 115204441 A CN115204441 A CN 115204441A CN 202210385883 A CN202210385883 A CN 202210385883A CN 115204441 A CN115204441 A CN 115204441A
Authority
CN
China
Prior art keywords
data
prediction
time series
recorded
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210385883.7A
Other languages
English (en)
Inventor
村井诚
森贺新
须山敦志
林素明
工藤卓哉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Accenture Global Solutions Ltd
Original Assignee
Accenture Global Solutions Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Accenture Global Solutions Ltd filed Critical Accenture Global Solutions Ltd
Publication of CN115204441A publication Critical patent/CN115204441A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00—Testing or monitoring of control systems or parts thereof
    • G05B23/02—Electric testing or monitoring
    • G05B23/0205—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0218—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults
    • G05B23/0224—Process history based detection method, e.g. whereby history implies the availability of large amounts of data
    • G05B23/024—Quantitative history assessment, e.g. mathematical relationships between available data; Functions therefor; Principal component analysis [PCA]; Partial least square [PLS]; Statistical classifiers, e.g. Bayesian networks, linear regression or correlation analysis; Neural networks
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B13/00—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion
    • G05B13/02—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric
    • G05B13/04—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric involving the use of models or simulators
    • G05B13/048—Adaptive control systems, i.e. systems automatically adjusting themselves to have a performance which is optimum according to some preassigned criterion electric involving the use of models or simulators using a predictor
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00—Testing or monitoring of control systems or parts thereof
    • G05B23/02—Electric testing or monitoring
    • G05B23/0205—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0218—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults
    • G05B23/0224—Process history based detection method, e.g. whereby history implies the availability of large amounts of data
    • G05B23/0227—Qualitative history assessment, whereby the type of data acted upon, e.g. waveforms, images or patterns, is not relevant, e.g. rule based assessment; if-then decisions
    • G05B23/0232—Qualitative history assessment, whereby the type of data acted upon, e.g. waveforms, images or patterns, is not relevant, e.g. rule based assessment; if-then decisions based on qualitative trend analysis, e.g. system evolution
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B23/00—Testing or monitoring of control systems or parts thereof
    • G05B23/02—Electric testing or monitoring
    • G05B23/0205—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults
    • G05B23/0218—Electric testing or monitoring by means of a monitoring system capable of detecting and responding to faults characterised by the fault detection method dealing with either existing or incipient faults
    • G05B23/0224—Process history based detection method, e.g. whereby history implies the availability of large amounts of data
    • G05B23/0227—Qualitative history assessment, whereby the type of data acted upon, e.g. waveforms, images or patterns, is not relevant, e.g. rule based assessment; if-then decisions
    • G05B23/0237—Qualitative history assessment, whereby the type of data acted upon, e.g. waveforms, images or patterns, is not relevant, e.g. rule based assessment; if-then decisions based on parallel systems, e.g. comparing signals produced at the same time by same type systems and detect faulty ones by noticing differences among their responses
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/04—Manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Business, Economics & Management (AREA)
  • Economics (AREA)
  • Human Resources & Organizations (AREA)
  • Strategic Management (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Tourism & Hospitality (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Theoretical Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Primary Health Care (AREA)
  • Development Economics (AREA)
  • General Health & Medical Sciences (AREA)
  • Operations Research (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Game Theory and Decision Science (AREA)
  • Quality & Reliability (AREA)
  • Manufacturing & Machinery (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • General Factory Administration (AREA)
  • Testing And Monitoring For Control Systems (AREA)

Abstract

一种针对制造系统中的多变量时间序列数据的预测方法和系统。本公开描述了使用多变量时间序列控制制造系统的方法，该方法包括：记录来自制造系统中的一个或多个设备的数据；将所记录的数据作为多个时间序列存储在数据存储装置中，其中每个时间序列具有对应于第一时间的第一所记录的值和对应于时间序列的结束的最终所记录的值；使用贝叶斯模型在第一时间窗口内，在多个时间序列中内插缺失值，其中缺失值落在相应的时间序列的第一时间与结束时间之间；将所内插的值作为预测数据存储在预测存储装置中，其中所内插的值包括每个所内插的值的不确定性。

Description

针对制造系统中的多变量时间序列数据的预测方法和系统
背景技术
时间序列是时序数据点的序列。在制造设置中，时间序列可以表示制造装备随时间的内部状态。备选地，时间序列可以跟踪跨工件序列的特定的参数或特性。例如，可以针对多个工件记录特定的物理测量，以形成随时间来记录测量的时间序列。一些时间序列是多变量的，意味着时间序列具有多于一个的时间依赖变量。在多变量时间序列中，变量取决于其自身的过去值并且至少部分地取决于其他变量。例如，特定的制造参数可以取决于其自身的过去值以及来自上游制造过程步骤的参数两者。
发明内容
本公开的实现总体上涉及使用多变量时间序列来控制制造系统的方法。更具体地，本公开的实现涉及预测制造系统中的多变量时间序列数据并且使用所预测的时间序列数据来对制造系统中的参数进行调整的方法和系统。
在一些实现中，动作包括：记录来自制造系统中的一个或多个设备的数据；将所记录的数据作为多个时间序列存储在数据存储装置中，其中每个时间序列具有对应于第一时间的第一所记录的值和对应于时间序列的结束的最终所记录的值；使用贝叶斯模型在第一时间窗口内，在多个时间序列中内插缺失值，其中缺失值落在相应的时间序列的第一时间与结束时间之间；将所内插的值作为预测数据存储在预测存储装置中，其中所内插的值包括每个所内插的值的不确定性；从数据存储装置加载落在第二时间窗口内的所记录的数据；从预测存储装置加载预测数据，该预测数据落在第二时间窗口内并且针对预测数据没有所记录的数据可用；使用加载的、所记录的数据和预测数据来优化贝叶斯模型的参数；使用贝叶斯模型预测针对时间序列中的每个时间序列的值，针对时间序列加载的、所记录的数据和预测数据不可用；将所预测的值作为预测数据存储在预测存储装置中，其中预测值包括每个预测值的不确定性；以及基于第二时间窗口内的预测数据来调整生成所记录的数据的设备中的一个或多个设备。该方面的其他实现包括被配置为执行在计算机存储器设备上编码的方法的动作的对应的系统、装置、和计算机程序。
这些和其他实现可以各自任选地包括以下特征中的一个或多个特征：在一些实现中，预测数据被存储为统计分布或密度函数。在一些实现中，预测数据被存储为随机(“stochastic”)样本，并且所加载的预测数据包括：选择随机样本中的随机(“random”)样本。一些实现包括，如果加载的、所记录的数据和预测数据的边缘似然性是易处理的，则计算加载的、所记录的数据和预测数据的边缘似然性；如果加载的、所记录的数据和预测数据的边缘似然性是不易处理的，则计算加载的、所记录的数据和预测数据的条件密度。一些实现包括：针对第二时间窗口内的加载的、所记录的数据点中的每个数据点计算条件概率P(xi|Xj≠i)。一些实现包括：计算成本函数，该成本函数包括参数值范围内的条件密度和计算成本；以及调整参数，以对应于成本函数的最小值。在一些实现中，调整一个或多个设备包括：执行或调度一个或多个设备的维护。在一些实现中，调整一个或多个设备包括：调整一个或多个设备的操作设置。
应了解，根据本公开的方法可以包括本文所述的方面和特征的任何组合。即，例如，根据本公开的装置和方法不限于本文具体所述的方面和特征的组合，而是还可以包括所提供的方面和特征的任何组合。
本公开的一个或多个实现的细节在附图和以下描述中阐述。根据说明书，附图和权利要求书，本公开的其他特征和优点将是明显的。
附图说明
图1描绘了可以执行本公开的实现的示例系统。
图2描绘了根据本公开的、针对多变量时间序列数据的示例预测系统。
图3描绘了结合了根据本公开的预测系统的示例制造系统。
图4是三个时间序列在初始时间点的示意图。
图5描绘了可以由图2的训练和预测模块执行的示例过程。
图6A和图6B描绘了在稍后时间点的图4时间序列。
图7描绘了可以由图2的存储装置模块执行的示例过程。
图8A、图9A、和图10A描绘了可以由图2的模型维护模块执行的示例过程。
图8B、图9B、和图10B描绘了在图8A、图9A、和图10A中生成的报告的示例图形表示。
图11和图12描绘了结合了本公开的预测系统的制造系统的另一示例。
在各个附图中相同的附图标记和标号表示相同的元素。
具体实施方式
本公开的实现总体上涉及使用多变量时间序列来控制制造系统的方法。更具体地，本公开的实现涉及预测制造系统中的多变量时间序列数据并且使用所预测的时间序列数据来对制造系统中的参数进行调整的方法和系统。
在一些实现中，动作包括：记录来自制造系统中的一个或多个设备的数据；将所记录的数据作为多个时间序列存储在数据存储装置中，其中每个时间序列具有对应于第一时间的第一所记录的值和对应于时间序列的结束的最终所记录的值；使用贝叶斯模型在第一时间窗口内，在多个时间序列中内插缺失值，其中缺失值落在相应的时间序列的第一时间与结束时间之间；将所内插的值作为预测数据存储在预测存储装置中，其中所内插的值包括每个所内插的值的不确定性；从数据存储装置加载落在第二时间窗口内的所记录的数据；从预测存储装置中加载预测数据，该预测数据落在第二时间窗口内并且针对预测数据没有所记录的数据可用；使用加载的、所记录的数据和预测数据来优化贝叶斯模型的参数；使用贝叶斯模型预测针对时间序列中的每个时间序列的值，针对时间序列加载的、所记录的数据和预测数据不可用；将所预测的值作为预测数据存储在预测存储装置中，其中预测值包括每个预测值的不确定性；以及基于第二时间窗口内的预测数据来调整生成所记录的数据的设备中的一个或多个设备。该方面的其他实现包括被配置为执行在计算机存储器设备上编码的方法的动作的对应的系统、装置、和计算机程序。
本文参考示例性制造系统更详细地描述本公开的实现。示例制造系统被用于处理用于制造半导体器件的晶片。例如，半导体设备制造过程被用于制造独立的半导体设备和集成电路芯片。该制造过程包括在半导体晶片上逐渐形成电子电路的一系列自动化步骤。由于多个步骤，制造过程从开始到结束可能需要数周。然而，预期本公开的实现可以利用任何适当的自动化系统而被实现。
图1描绘了可以执行本公开的实现的示例系统100。示例系统100包括计算设备102、后端系统108、和网络106。在一些示例中，网络106包括局域网(LAN)、广域网(WAN)、互联网、或其组合，并连接网站、设备(例如，计算设备102)、和后端系统(例如，后端系统108)。在一些示例中，可以通过有线和/或无线通信链路来访问网络106。
在一些示例中，计算设备102可以包括任何适当类型的计算设备，诸如台式计算机、便携式计算机、手持计算机、平板计算机、个人数字助理(PDA)、蜂窝电话、网络设备、相机、智能电话、增强型通用分组无线服务(EGPRS)移动电话、媒体播放器、导航设备、电子邮件设备、游戏控制台、或这些设备中的任何两个或更多个设备的适当组合、或其它数据处理设备。
在所描绘的示例中，后端系统108包括至少一个服务器系统112和数据存储库114(例如，数据库和知识图结构)。在一些示例中，至少一个服务器系统112托管一个或多个计算机实现的服务，用户可以使用计算设备与其交互。例如，根据本公开的实现，服务器系统112可以托管作为针对多变量时间序列的预测系统的部分而被提供的一个或多个应用。
在一些示例中，后端系统108托管异常检测系统，该异常检测系统根据本公开的实现来检测制造系统中的异常。例如，用户120(例如，半导体制造厂中的操作方)可以使用计算设备102与预测系统交互。
图2描述了针对多变量时间序列数据的示例预测系统200。系统200包括存储装置模块202、训练和预测模块204、以及模型维护模块206。存储装置模块202包括针对从制造系统(未示出)所记录的时间序列数据的数据存储装置，和针对由训练和产生模块204所预测的数据的预测存储装置。在以下公开中，“所记录的数据”是指从制造系统获得的时间序列数据。所记录的数据可以由在制造装备中的传感器生成。所记录的数据可以对应于制造装备本身的内部状态或对应于由制造装备所处理的工件的特性或参数。存储装置模块202接受来自训练和预测模块204和模型维护模块206的、针对数据的请求，如输入箭头所示。如输出箭头所示，存储装置模块202向训练和预测模块204以及模型维护模块206提供所记录的数据和预测数据。训练和预测模块204基于来自存储装置模块202的最近数据连续地优化模型参数，以生成预测数据。来自训练和产生模块204的预测结果被存储在存储装置模块202中，用于随后的预测。模型维护模块206基于来自存储装置模块202的最近数据来评估训练和预测模块204的预测性能。模型维护模块206还可以基于当前数据难以准确地预测来标识预测数据所在的瓶颈。模块202、模块204、模块206的操作在下文中参考多个示例而被描述。
图3描绘了包括一系列制造步骤302a至制造步骤304c的示例制造系统300。制造步骤302a至制造步骤304c通常分为两类。第一类包括处理步骤302a至处理步骤302c，该处理步骤改变正在被制造的工件(例如，晶片)。第二类包括测量步骤304a至测量步骤304c，该测量步骤测量处理步骤302a至处理步骤302c中的一个处理步骤的结果。例如，测量步骤可以记录在较早处理步骤期间被改变的测量(例如，工件的维度或物理属性)。该系统包括以交替顺序排列的相同数目的处理步骤和测量步骤302a至304c。然而，情况并非必须如此。其它系统可以在两个测量步骤之间包括一个以上的处理步骤。为了简单起见，系统300被示为具有三个处理步骤302a至处理步骤302c。然而，本公开的实现也可以被应用于包括更多数目的处理和测量步骤的复杂制造系统。
每个测量步骤304a至测量步骤310被连接到对应的数据存储装置306a至数据存储装置306c，该数据存储装置306a至数据存储装置306c将在测量步骤304a至测量步骤304c中所获得的值存储为时间序列。针对每个测量步骤304a至测量步骤304c的数据存储装置306a至数据存储装置306c被连接到预测器308a至预测器308c，预测器308a至预测器308c从存储在数据存储装置306a至数据存储装置306c中的时间序列扩充缺失数据，如下文更详细所解释的。每个预测器308a至预测器308c被连接到对应的预测存储装置310a至预测存储装置310c，预测存储装置310a至预测存储装置310c用于存储由预测器308a至预测器308c所生成的值。图3将数据存储装置306a至数据存储装置306c、预测器308a至预测器308c、和预测存储装置310a至预测存储装置310c描述为单独的实体，以示出与相应的测量步骤304a至测量步骤304c的关系。然而，在一些实现中，数据存储装置306a至数据存储装置306c和预测存储装置310a至预测存储装置310c都被包括在图2的存储装置模块202中，并且预测器308a至预测器308c都是图2的训练和预测模块204的部分。例如，数据存储装置306a至数据存储装置306c和预测存储装置310a至预测存储装置310c可以全部存储在图1的后端系统108中的一个或多个服务器114上。
图4是三个时间序列402、404、406在初始时间点的示意图。例如，时间序列402、404、406包括从图3中的测量步骤304a至测量步骤304c所获得的所记录的数据。每个时间序列402、404、406包括多个离散数据点，这些离散数据点被存储在例如针对每个测量步骤304a至测量步骤304c的相应的数据存储装置306a至数据存储装置306c中。虽然每个时间序列402、404、406包括多个所记录的数据点，但是时间序列402、404、406还包括相对于覆盖特定时间帧(例如，t＝5到37)的窗口W所限定的间隙A1、A2、B1、B2、C1。如参考图6A和图6B所述，窗口W可以改变大小或位置，以覆盖时间序列数据内的不同时间帧。在一些情况下，时间序列402、404、406中的间隙归因于装备或通信中断。针对间隙A1、B1，数据点在间隙A1、B1之前和之后都可用。例如，传感器可能未能获得测量，或者传感器可能已经获得了测量，该测量由于通信系统中的中断而未被保存到数据存储装置306a、306b。
在制造应用中，当工件通过相应的测量步骤304a至测量步骤304c时，从测量步骤304a至测量步骤304c获得数据。批次中的第一工件可能已经清除了所有三个测量步骤304a至测量步骤304c，并且对应于第一工件的数据在所有三个时间序列402、404、406中是可用的。相反，第二工件可以仅在考虑中的时间点处清除第一测量步骤304a。在这种情况下，时间序列404、406还不包括对应于第二工件的数据。换而言之，数据获取可以是异步的。例如，图4中的间隙A2、B2、C1可以归因于异步的数据获取。
预测器308a至预测器308c使用贝叶斯统计来估算针对时间序列402、404、406中的间隙A1、A2、B1、B2、C1的缺失值。当系统300被初始化时，预测存储装置310a至预测存储装置310c不具有针对间隙A1、A2、B1、B2、C1中的值的先前预测。在这种情况下，预测器308a至预测器308c最初使用历史数据和数据存储装置306a至数据存储装置306c中可用数据，内插针对间隙A1和B1的缺失值，针对间隙A1和B1的缺失值在每个时间序列中的第一数据点与最后数据点之间。使用相同的模型来预测跟随时间序列的最终值的间隙A2、B2、C1。例如，针对间隙A1和B1的缺失值可以通过计算后验分布p(x|y)而被内插，其中x是缺失值集，y是观测值集。该方法需要概率时间序列模型，诸如针对系统的状态空间模型，但是不需要用于内插缺失值的特殊算法。
预测器308a至预测器308c或训练和预测模块204仅使用针对延迟数据的单个模型来估算缺失数据。换而言之，预测器308a至预测器308c不需要在时间序列中用于内插缺失值的专用方法。单个模型(例如，状态空间模型)表示时间序列数据，并且可以被用于预测和内插缺失值两者。由于所有时间序列模型都可以在数学上被解释为贝叶斯模型，所以所有时间序列模型都可以被用于内插缺失值并且表示不确定性。训练和预测模块可以使用任何时间序列预测模型，诸如高斯过程模型、状态空间模型、ARIMA模型、循环神经网络模型及其变型。缺失值作为预测值与它们的不确定性值一起被存储在预测存储装置310a至预测存储装置310c中。预测值可以作为统计量、作为密度函数、或作为随机样本来被存储。
图5描绘可以由图2的训练和预测模块204以及图3中的预测器308a至预测器308c执行的示例过程500。在502处，训练和预测模块204计算用于预测的目标函数和梯度。在过程500中，仅在系统200的初始化时计算目标函数的梯度，以节省时间和计算资源。训练和预测模块204区分窗口W(图4)相对于时间序列的位置是否已经改变。如果是，则在504处获得滑动窗口的更新的位置，并且在506处使用窗口W的位置来向存储装置模块202请求数据。如果窗口W的位置没有改变，则训练和预测模块204通过向存储装置模块202(未示出)发送针对数据的请求来确定新数据是否可用于窗口W。如果新数据确实可用，则类似于当窗口的位置已经改变时，在506处从存储装置模块202请求数据。在从存储装置模块202取回数据之后，加载的数据相应地被用于在508处优化模型参数并且在510处计算预测。在512处，将在510处所获得的预测数据发送到存储装置模块202，用于在预测存储装置中存储存储装置模块。
通常来说，可以应用任何合适的优化方法。例如，根据贝叶斯统计原理，可以使用诸如马尔可夫链蒙特卡罗(“Markov chain Monte Carlo”，MCMC)和变分推断等算法来计算模型参数。马尔可夫链蒙特卡罗方法使用随机样本来近似不能直接计算的参数的后验分布。例如，该方法利用针对参数的合理的起始值开始。通过将从建议分布生成的随机噪声添加到合理的起始值来生成新建议。针对合理的起始值和新建议两者计算后验分布。如果新建议导致较高的后验值，则针对新建议丢弃起始值。如果新建议导致较低值，则使用等于两个后验值的高度的概率来确定新建议是被接受还是被拒绝。在任一情况下，如果接受新建议，则新建议成为起始点，并且重复该过程。如果新建议被拒绝，则以较早的起始点重新开始该过程。通过重复该过程，MCMC方法可以使用相对少量的样本来生成接近于参数的实际分布的样本分布。
计算预测还遵循贝叶斯统计的原理，并且例如使用所学习的模型参数的分布来计算预测分布。
图6A和图6B描述了对应于图5所示的两种场景的时间序列的示例。与图4所使用的相同的附图标记用于表示对应的元素。通过使用附图标记之后的单引号和双引号来指示随时间进展的类似元素。
图6A描绘了自图4中所描绘的初始时间起经过了一些时间之后的时间序列402’、404’、406’。然而，窗口W的位置与图4中的相同。例如，先前时间序列402中的间隙A2已经被时间序列402’中的所记录数据填充。类似地，时间序列404’、406’中的新可用数据已经填充了时间序列404、406中的间隙B2、C1的部分。然而，尽管有时间的进展，但一些间隙A1、B1保持相同。针对已经保持相同的间隙A1、B1，可以再次使用先前保存在预测存储装置中的预测(所内插的值)来估算缺失数据。针对变化的间隙B2、C1，训练和预测模块204从存储装置模块202加载新添加的数据，以训练该模型并且生成针对时间序列404’、406’中的间隙B2’、C1’的新预测值(见图5中的506至510)。与初始步骤不同，不再次计算目标函数及其梯度。相反，最近的数据和预测结果作为输入被馈送到梯度函数，用于进一步的训练和预测。
图6B描绘了在与图4中的窗口W不同的位置处具有移位的窗口W’的时间序列402’、404’、406’。尽管时间序列402’、404’、406’中所记录的数据与图6A中的相同，但是窗口W’的新位置改变了需要被估算的数据的至少一些区域。例如，来自图4和图6A的间隙B1不再落在新窗口W’中，而间隙B1”、C1”在大小上大于它们在图6A中的对应部分。然而，一些间隙，例如时间序列402’中的间隙A1保持相同。当从图4直接进展到图6B时，用于估算缺失数据的过程类似于图6A所描述的过程。当从图6A进展到图6B时，在时间序列402’、404’、406’本身中没有新记录的数据可用。因此，训练和预测模块204使用相同的数据来生成进一步的预测以估算针对间隙B1”、C1”的值。
尽管图6A和图6B中的窗口W、W’具有相同的大小，但是窗口的大小也可以在从一次迭代到下一次迭代中改变。在窗口大小可变的实现中，梯度函数也可以是可变的。在这种情况下，不需要重新计算梯度函数。相反，当窗口大小增加时，附加地计算梯度函数就足够了。
因此，训练和预测模块携带过去的训练结果，并且利用少量的新数据来扩充这些结果。由于训练和数据加载并行发生，因此可以减少对每个窗口位置进行训练所需的计算时间。这样，可以减少时间序列预测所需的计算时间。此外，由于数据以高频率存储，训练好的模型可以使用最近的数据来快速地生成预测结果。
图7描绘可以由图2的存储装置模块202执行的示例性过程700。在702处，存储装置模块202从训练和预测模块204或模型维护模块206(图2)接收数据请求。例如，该请求可以对应于过程500的506。存储装置模块202最初查询对应于所请求的数据和窗口的所记录的数据是否被存储在数据存储装置(例如，图3中的306a至306c)中。如果是，则在704处从数据存储装置加载所记录的数据。换而言之，如果所记录的数据在数据存储装置中针对先前仅被预测的值是可用的，则存储装置模块202加载所记录的值而不是所预测的值。如果在已经从数据存储装置加载所记录的数据之后，时间序列包含间隙，则在706处，存储装置模块202查询针对缺失数据的值是否被保存在预测存储装置(例如，图3中的310a至310c)中。由于预测存储装置仅包含先前已被预测的值，所以在系统初始化之后完整的数据集和预测数据针对特定时间序列可能不可用。在708处，系统针对这样不可用的值返回未知标志，该未知标志被处理为预定的高方差值并且被用作预测另一值的输入。由于存储装置模块202从数据存储装置和预测存储装置两者加载数据，因此降低了训练和预测模块204由于丢失时间序列数据而不能运行的可能性。
如前所述，预测值可以作为统计量，作为密度函数、或作为随机样本来被存储，这允许保留关于预测值的不确定性信息。相反，点估计不包括不确定性信息。一些复杂的预测分布不能由单个密度函数或少量统计来表示。如果分布太复杂，也可以使用具有增加的样本大小的随机样本或诸如密度的混合的更丰富的表示方法。为了减小预测分布的数据大小，可以使用随机样本作为针对预测值的表示方法，并且可以随机选择一个样本来加载。
图8A、图9A、和图10A描绘可以由图2的模型维护模块206执行，以基于最新数据和训练结果连续地评估预测性能的示例过程。
图8A描绘了用于评估训练和预测模块204使用的当前预测模型的性能的示例过程800。在802处，模型维护模块206接收针对评估的请求。该请求可以由用户(例如，图1中的用户102)触发，或者系统可以根据预定的时间表触发该请求。在这两种情况下，模型维护模块206与训练和预测模块204并行操作。在804处，从存储装置模块202加载最近的可用数据。最近的可用数据包括：由存储在预测存储装置中的值扩充的特定窗口W的数据存储装置中可用的所有数据。基于所加载的数据，模型维护模块206确定针对所加载的数据的边缘似然性p(X)是否是易处理的。如果是，则在806处计算边缘似然性p(X)。如果不是，则在808处计算条件密度q(X)。在这两种情况下，在810处返回报告。在许多情况下，难以定量地评定多个时间序列的预测准确率，因为每个时间序列具有不同的比例。通过使用边缘似然性来评估预测性能，可以自然地解决这种比例上的差异。
图8B是在810处所生成的报告的示例图形表示812。图812示出了九天时间段内的边缘似然性p(X)814。在9天时间段的最后3天内，边缘似然性p(X)显著下降，这表明模型的性能在该时间跨度内下降。作为响应，用户可以根据需要修改模型或调整超参数。自动性能调整机制还可以基于用户输入或根据预定的调度来调整超参数。
图9A描绘了确定每个时间序列内的特定数据点的预测准确率的示例过程900。在902处，模型维护模块206类似于过程800中接收请求。在904处，模型维护模块206加载与过程800中类似的最近的可用数据。在906处和908处，模型维护模块206计算针对数据序列中的n个点中的每个点的条件概率P(xi|Xj≠i)，以确定训练和预测模块204是否预测了接近于稍后被记录的实际数据点的值，即预测准确率。为了获得P(xi|Xj≠i)，将观察到的和未观察到的数据两者都考虑在内。未观察到的数据作为分被布储在存储装置模块202中。在数学上，可以通过对所存储的分布进行积分(平均)来计算针对这些值的P(xi|Xj≠i)。如果仅评估特定窗口中的值，则模型维护模块206计算针对该窗口内的n个点中的每个点的条件概率P(xi|Xj≠i)。一旦计算完成，模型维护模块206在910处生成报告。
图9B是在910报告的、所生成的示例图形表示812。图910包括三个时间序列，该时间序列的各个数据点由圆圈标记。数据点与表示每个数据点处的条件概率P(xi|Xj≠i)的线重叠。条件概率P(xi|Xj≠i)的值越小，由训练和预测模块204生成的预测的准确率越低。例如，基于条件概率P(xi|Xj≠i)的值，模型维护模块206指示难以预测的数据点。这意味着数据点是预测分布中的异常值。用户可以基于这些建议检查数据和模型。预测系统200本身不对数据本身执行操作，诸如移除具有低条件概率值的数据点。
图10A描绘了自动寻找具有最低成本的参数(例如，优化步长)的示例性过程1000。在1002处，模型维护模块206类似于过程800中、过程900接收请求。在1004处，基于该请求来确定参数集。例如，如果参数是优化步长，则参数集可以包括不同步长范围。在1006处，计算针对参数中的每个参数的条件密度q(X)。在计算针对参数中的每个参数的q(X)之后，在1008处生成报告。
图10B是在1008处所生成的报告的示例图形表示1010。图1010的水平轴包括参数集，即优化步长。曲线1012对应于在1006处针对每个步长所计算的q(X)，并且表示在模型性能中的降低。曲线1014表示计算成本，其随着步长而增加。曲线1016是基于-q(X)和计算成本的总成本函数。例如，如果训练和预测模块204当前使用由虚线1018指示的步长6，则模型维护模块206将推荐对应于总成本函数1016的最小值的步长1020。例如，模型维护模块206可以向用户显示推荐。备选地或附加地，训练和预测模块204可以被配置为，基于模型维护模块的推荐来自动更新一个或多个参数。
图11和图12各自描绘了结合了本公开的预测系统的制造系统1100、制造系统1200的示例。例如，制造系统1100、制造系统1200可被用于制造半导体晶片。晶片制造包括四大类处理步骤：电属性的沉积、电属性的去除、电属性的图案化、和电属性的修改。这些处理步骤在晶片上的特定区域执行，并且重复数百次以形成完成的电路。除了处理步骤之外，晶片制造包括散布在处理步骤之间的测量步骤。在每个测量步骤所获得的数据可以被用于在线质量控制。例如，可以将数据与预定的上限和下限进行比较。如果测量数据落在极限之外，则可以认为晶片有缺陷。晶片制造通常在晶片测试步骤中结束，该步骤根据一系列测试图案测试晶片上的电路的功能缺陷。在晶片测试之后，晶片可以继续进行进一步的制造步骤，例如管芯制备。
在半导体制造中所收集的数据具有以下特性。来自多个过程的传感器数据和质量控制数据构成多变量数据。制造装备的内部状态随时间而变化，这使得其自身成为时间序列数据。类似地，晶片本身的状态取决于处理时间。由于制造过程是顺序的，因此数据的可用性取决于晶片通过该顺序的进展，即数据是异步的。最后，质量控制数据通常被子采样，这意味着不是所有的质量控制数据都可用于每个晶片。
在图11和图12中，处理步骤由处理步骤1102、1202表示，并且晶片测试由最终测试1104c、1212表示。来自测量步骤1104、1204的数据可以包括如上所述的线内质量数据，或者指示处理装备的状态的传感器数据。在图11的系统1100中，以与来自测试步骤1104a、1104b的数据相同的方式处理来自最终测试1104c的数据。换而言之，来自最终测试1104c的数据由预测系统200作为多个时间序列中的一个时间序列来处理。根据本公开的预测系统可以表示来自最终测试1104c的数据以及来自测量步骤1104a、1104b的时间序列数据，并且捕获相应的时间序列中的数据之间的相关性。
备选地，图12示出根据本公开所建模的时间序列可以被输入到单独的测试预测器1214(例如，机器学习模型)，其预测单独的最终测试1212的结果。在该示例中，应用程序模块1216可以将在最终测试1212中所测量的数据的结果与由测试预测器1214所生成的数据进行比较。
在两个系统1100、1200中，应用程序模块1114、1216可以包括以下附加功能中的一个或多个功能。应用程序模块1114、1216可视化预测并且提供定量风险评估。应用程序模块1114、1216还可以将所测量的最终测试数据与所预测的最终测试数据进行比较，以监视预测准确率。应用程序模块1114、1216还可以包括警报管理系统，该警报管理系统基于预定的场景来警告用户，例如，如果模型准确率显著降低，或者如果预测偏离预定的限制。
在晶片制造和其它制造系统的上下文中，所描述的技术可以在早期阶段检测制造装备或制造的零件中的异常。例如，异常检测可以通过使用模型维护模块来实现，其可以指示难以预测的数据点。这种数据点可用于检测异常。类似地，预测数据可用于预测制造装备的维护。例如，如果已知装备输出随时间改变，则可以使用时间序列预测来推断装备的未来状态。如果预测到装备状态的主要变化，则可以采取诸如早期维护的措施来将输出参数返回到可接受的范围。例如，给定的机器可以执行在操作之后被测量的蚀刻或机器加工操作。如果时间序列预测指示测量将在给定时间点落在可接受范围之外，则可以在实际测量达到不可接受点之前调节机器的操作参数(例如，经由维护措施)。最后，该技术可以用于虚拟计量，即代替昂贵的晶片物理测量。
尽管先前所述的多个实现涉及制造系统，但本发明中所描述的技术也可以应用于其它上下文。
例如，自主机器人和自主车辆配备有多种类型的传感器并且基于高频传感器数据来控制它们的致动器，例如以便避免与障碍物碰撞。利用这样大量的传感器，多模态传感器可能具有在不同时间接收输入数据的趋势。此外，一些数据可能由于通信条件而丢失。为了监测自主机器人或自主车辆的活动，必须定量地评估其预测功能是否正常工作。这可能是困难的，因为每个传感器具有不同的比例和/或频率。本发明中所描述的技术可以处理延迟的数据并且推断缺失数据。在预测系统中使用的并行处理允许快速的数据获取和预测。模型维护模块可以量化总体预测性能并且标识生成难以处理的数据的各个传感器。
这些技术也可以应用于自动交易。自动交易需要基于来自多个市场的数据的快速交易速度和高预测准确率。这种系统必须在有限的时间内处理大量的交易。来自不同市场的数据可能在它们的时间粒度上不同。当收入下降时，需要标识预测模型中的原因。本发明中所描述的技术可快速执行对大量数据的预测，因为可以减少计算成本。可以推断缺失数据，并且可以预测未观察到的延迟值。模型维护模块可以标识数据难以预测的特定市场，并且自动调整模型以改进预测性能。
通常，本公开中所描述的技术提供了用于处理包括异步值和缺失值的多变量时间序列的一致框架。使用来自不同过程的多变量时间序列数据导致比独立地分析每个过程更高的预测性能。数据获取、学习、和预测的并行例程导致有效的计算。最后，该预测系统能够准确地监测和改进预测模型。
在本说明书中描述的实现和所有功能操作可以在数字电子电路中实现，或者在计算机软件，固件或硬件中实现，包括在本说明书中公开的结构及其结构等同物，或者它们中的一个或多个的组合。实现可以被实现为一个或多个计算机程序产品，即，在计算机可读介质上编码的用于由数据处理装置执行或控制数据处理装置的操作的计算机程序指令的一个或多个模块。计算机可读介质可以是机器可读存储设备，机器可读存储基板，存储器设备，实现机器可读传播信号的物质组成，或它们中的一个或多个的组合。术语“计算系统”包括用于处理数据的所有装置，设备和机器，例如包括可编程处理器、计算机或多个处理器或计算机。除了硬件之外，该装置还可以包括为所讨论的计算机程序创建执行环境的代码(例如，构成处理器固件、协议栈、数据库管理系统、操作系统或其一个或多个的任何适当组合的代码)。传播信号是人工生成的信号(例如，机器生成的电，光或电磁信号)，其被生成以对信息进行编码以传输到合适的接收器装置。
计算机程序(也称为程序、软件、软件应用、脚本、或代码)可以以任何适当形式的编程语言来编写，包括编译的或解释的语言，并且它可以以任何适当的形式来部署，包括作为独立程序或作为模块，组件、子例程、或适用于计算环境中的其他单元。计算机程序不必然对应于文件系统中的文件。程序可以存储在保存其他程序或数据的文件的部分中(例如，存储在标记语言文档中的一个或多个脚本)、存储在专用于所讨论的程序的单个文件中、或者存储在多个协同文件中(例如，存储一个或多个模块、子程序、或代码部分的文件)。计算机程序可以被部署为在位于一个站点或跨多个站点分布并且通过通信网络互连的一个计算机或多个计算机上执行。
本说明书中描述的过程和逻辑流程可以由执行一个或多个计算机程序的一个或多个可编程处理器来执行，以通过对输入数据进行操作并且生成输出来执行功能。该过程和逻辑流程也可以由专用逻辑电路(例如，FPGA(现场可编程门阵列)或ASIC(专用集成电路))来执行，并且装置也可以被实现为专用逻辑电路。
例如，适于执行计算机程序的处理器包括通用微处理器和专用微处理器，以及任何适当类型的数字计算机的任何一个或多个处理器。通常，处理器将从只读存储器或随机存取存储器或两者接收指令和数据。计算机的元素可以包括用于执行指令的处理器和用于存储指令和数据的一个或多个存储设备。通常，计算机还将包括用于存储数据的一个或多个大容量存储设备(例如，磁盘、磁光盘、或光盘)，或可操作地耦合用于从用于存储数据的一个或多个大容量存储设备接收数据或将数据传送到用于存储数据的一个或多个大容量存储设备(例如，磁盘、磁光盘、或光盘)或两者。然而，计算机不需要具有这样的设备。此外，计算机可以嵌入在另一设备(例如，移动电话、个人数字助理(PDA)、移动音频播放器、全球定位系统(GPS)接收器)中。适于存储计算机程序指令和数据的计算机可读介质包括所有形式的非易失性存储器、介质、和存储器设备，包括例如半导体存储器设备(例如，EPROM、EEPROM、和闪存设备)；磁盘(例如，内部硬盘或可移动磁盘)；磁光盘；以及CDROM和DVD-ROM盘。处理器和存储器可由专用逻辑电路补充或并入专用逻辑电路中。
为了提供与用户的交互，实现可以在具有用于向用户显示信息的显示设备(例如，CRT(阴极射线管)、LCD(液晶显示器)监视器)以及用户可以通过其向计算机提供输入的键盘和定点设备(例如，鼠标、跟踪球、触摸板)的计算机上被实现。也可以使用其他类型的设备来提供与用户的交互；例如，提供给用户的反馈可以是任何适当形式的感觉反馈(例如，视觉反馈、听觉反馈、触觉反馈)；并且可以以任何适当的形式接收来自用户的输入，包括声音、语音或、触觉输入。
实现可以在计算系统中实现，该计算系统包括后端组件(例如，作为数据服务器)，中间件组件(例如，应用服务器)和/或前端组件(例如，具有图形用户界面或Web浏览器的客户端计算机，用户可以通过该图形用户界面或Web浏览器与实现交互)，或者一个或多个这样的后端，中间件或前端组件的任何适当组合。系统的组件可以通过任何适当形式或介质的数字数据通信(例如，通信网络)来互连。通信网络的示例包括局域网(“LAN”)和广域网(“WAN”)，例如互联网。
计算系统可以包括客户端和服务器。客户端和服务器通常彼此远离，并且通常通过通信网络进行交互。客户端和服务器的关系是借助于在各个计算机上运行的并且彼此具有客户端-服务器关系的计算机程序而产生的。
虽然本说明书包含许多细节，但是这些不应当被解释为对本公开的范围或可能要求保护的范围的限制，而是作为对特定实现所特有的特征的描述。在本说明书中在单独实现的上下文中描述的某些特征也可以在单个实现中组合实现。相反，在单个实现的上下文中描述的各种特征也可以在多个实现中单独地或以任何合适的子组合来实现。此外，尽管特征可能在上文中被描述为在某些组合中起作用并且甚至最初被如此要求保护，但是来自所要求保护的组合的一个或多个特征在某些情况下可以从该组合中删除，并且所要求保护的组合可以针对子组合或子组合的变型。
类似地，虽然在附图中以特定顺序描绘了操作，但是这不应当被理解为要求以所示的特定顺序或按顺序执行这些操作，或者执行所有示出的操作以实现期望的结果。在某些情况下，多任务和并行处理可能是有利的。此外，上述实现中的各种系统组件的分离不应当被理解为在所有实现中都需要这种分离，并且应当理解，所描述的程序组件和系统通常可以一起集成在单个软件产品中或封装到多个软件产品中。
已经描述了许多实现。然而，应当理解，在不脱离本公开的精神和范围的情况下可以进行各种修改。例如，可以使用上面所示的各种形式的流，其中步骤被重新排序、添加、或移除。因此，其它实现在所附权利要求的范围内。

Claims (20)

1.一种使用多变量时间序列来控制制造系统的方法，所述方法包括：
记录来自所述制造系统中的一个或多个设备的数据；
将所记录的所述数据作为多个时间序列存储在数据存储装置中，其中每个时间序列具有对应于第一时间的第一所记录的值和对应于所述时间序列的结束的最终所记录的值；
使用贝叶斯模型在第一时间窗口内，在所述多个时间序列中内插缺失值，其中所述缺失值落在相应的所述时间序列的所述第一时间与结束时间之间；
将所内插的所述值作为预测数据存储在预测存储装置中，其中所内插的所述值包括每个所内插的值的不确定性；
从所述数据存储装置加载落在第二时间窗口内的所记录的所述数据；
从所述预测存储装置加载预测数据，所述预测数据落在所述第二时间窗口内并且针对所述预测数据没有所记录的数据可用；
使用加载的、所记录的所述数据和所述预测数据来优化所述贝叶斯模型的参数；
使用所述贝叶斯模型预测针对所述时间序列中的每个时间序列的值，针对所述时间序列加载的、所记录的数据和预测数据不可用；
将所预测的所述值作为预测数据存储在所述预测存储装置中，其中所述预测值包括每个预测值的所述不确定性；以及
基于所述第二时间窗内的所述预测数据来调整生成所记录的所述数据的所述设备中的一个或多个设备。
2.根据权利要求1所述的方法，其中所述预测数被存储为统计分布或密度函数。
3.根据权利要求1所述的方法，其中所述预测数据被存储为随机样本，并且加载所述预测数据包括：选择所述随机样本中的随机样本。
4.根据权利要求1所述的方法，还包括：
如果加载的、所记录的所述数据和所述预测数据的边缘似然性是易处理的，则计算加载的、所记录的所述数据和所述预测数据的所述边缘似然性；以及
如果加载的、所记录的所述数据和所述预测数据的所述边缘似然性是不易处理的，则计算加载的、所记录的所述数据和所述预测数据的条件密度。
5.根据权利要求1所述的方法，还包括：
针对所述第二时间窗口内的加载的、所记录的所述数据点中的每个数据点，计算条件概率P(xi|Xj≠i)。
6.根据权利要求1所述的方法，还包括：
计算成本函数，所述成本函数包括参数值范围内的所述条件密度和所述计算成本；以及
调整所述参数，以对应于所述成本函数的最小值。
7.根据权利要求1所述的方法，其中调整所述一个或多个设备包括：执行或调度所述一个或多个设备的维护。
8.根据权利要求1所述的方法，其中调整所述一个或多个设备包括：调整所述一个或多个设备的操作设置。
9.一种系统，包括：
一个或多个处理器；以及
计算机可读存储设备，所述计算机可读存储设备被耦合到所述一个或多个处理器，并且具有被存储在其上的指令，所述指令在由所述一个或多个处理器执行时，使所述一个或多个处理器执行操作，所述操作包括：
记录来自所述制造系统中的一个或多个设备的数据；
将所记录的所述数据作为多个时间序列存储在数据存储装置中，其中每个时间序列具有对应于第一时间的第一所记录的值和对应于所述时间序列的结束的最终所记录的值；
使用贝叶斯模型在第一时间窗口内，在所述多个时间序列中内插缺失值，其中所述缺失值落在相应的所述时间序列的所述第一时间与结束时间之间；
将所内插的所述值作为预测数据存储在预测存储装置中，其中所内插的所述值包括每个所内插的值的不确定性；
从所述数据存储装置加载落在第二时间窗口内的所记录的所述数据；
从所述预测存储装置加载预测数据，所述预测数据落在所述第二时间窗口内并且针对所述预测数据没有所记录的数据可用；
使用加载的、所记录的所述数据和所述预测数据来优化所述贝叶斯模型的参数；
使用所述贝叶斯模型预测针对所述时间序列中的每个时间序列的值，针对所述时间序列加载的、所记录的数据和预测数据不可用；
将所预测的所述值作为预测数据存储在所述预测存储装置中，其中预测值包括每个预测值的所述不确定性；以及
基于所述第二时间窗内的所述预测数据来调整生成所记录的所述数据的所述设备中的一个或多个设备。
10.根据权利要求9所述的系统，所述操作还包括：
将所述预测数据存储为统计分布或密度函数。
11.根据权利要求9所述的系统，所述操作还包括：
将所述预测数据存储为随机样本；以及
通过选择所述随机样本中的随机样本，来加载所述预测数据。
12.根据权利要求9所述的系统，所述操作还包括：
如果加载的、所记录的所述数据和所述预测数据的边缘似然性是易处理的，则计算加载的、所记录的所述数据和所述预测数据的所述边缘似然性；以及
如果加载的、所记录的所述数据和所述预测数据的所述边缘似然性是不易处理的，则计算加载的、所记录的所述数据和所述预测数据的条件密度。
13.根据权利要求9所述的系统，所述操作还包括：
针对所述第二时间窗口内的加载的、所记录的数据点中的每个数据点，计算条件概率P(xi|Xj≠i)。
14.根据权利要求9所述的系统，所述操作还包括：
计算成本函数，所述成本函数包括参数值范围内的所述条件密度和所述计算成本；以及
调整所述参数，以对应于所述成本函数的最小值。
15.根据权利要求9所述的系统，所述操作还包括：
执行或调度所述一个或多个设备的维护。
16.根据权利要求9所述的系统，所述操作还包括：
调整所述一个或多个设备的操作设置。
17.一种计算机可读存储介质，所述计算机可读存储介质被耦合到所述一个或多个处理器，并且具有被存储在其上的指令，所述指令在由所述一个或多个处理器执行时，使所述一个或多个处理器执行操作，所述操作包括：
记录来自所述制造系统中的一个或多个设备的数据；
将所记录的所述数据作为多个时间序列存储在数据存储装置中，其中每个时间序列具有对应于第一时间的第一所记录的值和对应于所述时间序列的结束的最终所记录的值；
使用贝叶斯模型在第一时间窗口内，在所述多个时间序列中内插缺失值，其中所述缺失值落在相应的所述时间序列的所述第一时间与结束时间之间；
将所内插的所述值作为预测数据存储在预测存储装置中，其中所内插的所述值包括每个所内插的值的不确定性；
从所述数据存储装置加载落在第二时间窗口内的所记录的所述数据；
从所述预测存储装置加载预测数据，所述预测数据落在所述第二时间窗口内并且针对所述预测数据没有所记录的数据可用；
使用加载的、所记录的所述数据和所述预测数据来优化所述贝叶斯模型的参数；
使用所述贝叶斯模型预测针对所述时间序列中的每个时间序列的值，针对所述时间序列加载的、所记录的数据和预测数据不可用；
将所预测的所述值作为预测数据存储在所述预测存储装置中，其中预测值包括每个预测值的所述不确定性；以及
基于所述第二时间窗内的所述预测数据来调整生成所记录的所述数据的所述设备中的一个或多个设备。
18.根据权利要求17所述的存储介质，所述操作还包括：
将所述预测数据存储为统计分布或密度函数。
19.根据权利要求17所述的存储介质，所述操作还包括：
将所述预测数据存储为随机样本；以及
通过选择所述随机样本中的随机样本，来加载所述预测数据。
20.根据权利要求17所述的存储介质，所述操作还包括：
如果加载的、所记录的所述数据和所述预测数据的边缘似然性是易处理的，则计算加载的、所记录的所述数据和所述预测数据的所述边缘似然性；以及
如果加载的、所记录的所述数据和所述预测数据的所述边缘似然性是不易处理的，则计算加载的、所记录的所述数据和所述预测数据的条件密度。
CN202210385883.7A 2021-04-13 2022-04-13 针对制造系统中的多变量时间序列数据的预测方法和系统 Pending CN115204441A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US17/229,306 US11619932B2 (en) 2021-04-13 2021-04-13 Prediction method and system for multivariate time series data in manufacturing systems
US17/229,306 2021-04-13

Publications (1)

Publication Number Publication Date
CN115204441A true CN115204441A (zh) 2022-10-18

Family

ID=81327001

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210385883.7A Pending CN115204441A (zh) 2021-04-13 2022-04-13 针对制造系统中的多变量时间序列数据的预测方法和系统

Country Status (4)

Country Link
US (2) US11619932B2 (zh)
EP (1) EP4075211B1 (zh)
JP (1) JP2022162994A (zh)
CN (1) CN115204441A (zh)

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10984338B2 (en) * 2015-05-28 2021-04-20 Raytheon Technologies Corporation Dynamically updated predictive modeling to predict operational outcomes of interest
US11568198B2 (en) * 2018-09-12 2023-01-31 Applied Materials, Inc. Deep auto-encoder for equipment health monitoring and fault detection in semiconductor and display process equipment tools
US11036202B2 (en) * 2018-12-13 2021-06-15 Lam Research Corporation Real-time health monitoring of semiconductor manufacturing equipment
US11263737B2 (en) * 2019-01-10 2022-03-01 Lam Research Corporation Defect classification and source analysis for semiconductor equipment
US11403541B2 (en) 2019-02-14 2022-08-02 Rockwell Automation Technologies, Inc. AI extensions and intelligent model validation for an industrial digital twin
EP4244687A1 (en) * 2020-11-10 2023-09-20 GlobalWafers Co., Ltd. Systems and methods for enhanced machine learning using hierarchical prediction and compound thresholds
KR20230104540A (ko) * 2020-11-12 2023-07-10 램 리써치 코포레이션 반도체 제작 장비를 위한 예측 유지 보수
CN114815763A (zh) * 2021-01-27 2022-07-29 西门子股份公司 一种动态控制系统的异常检测方法、装置和计算机可读介质

Also Published As

Publication number Publication date
US11619932B2 (en) 2023-04-04
EP4075211A1 (en) 2022-10-19
EP4075211B1 (en) 2023-12-06
US20220326699A1 (en) 2022-10-13
US20230205192A1 (en) 2023-06-29
US12078986B2 (en) 2024-09-03
JP2022162994A (ja) 2022-10-25

Similar Documents

Publication Publication Date Title
US11902114B2 (en) System and method for predicting and reducing subscriber churn
US11288577B2 (en) Deep long short term memory network for estimation of remaining useful life of the components
Chien et al. Manufacturing intelligence to forecast and reduce semiconductor cycle time
US7974723B2 (en) Yield prediction feedback for controlling an equipment engineering system
CN109242135B (zh) 一种模型运营方法、装置、及业务服务器
US11984334B2 (en) Anomaly detection method and system for manufacturing processes
JP2006024195A (ja) 生産工程の品質予測システムおよびその方法
JP7297816B2 (ja) 資産の予測健全性解析を実行するための方法およびコンピューティングシステム
CN113366473A (zh) 用于自动选择用于数据流时间序列预测的模型的方法和系统
JP7214417B2 (ja) データ処理方法およびデータ処理プログラム
Srinivasan et al. Semi-Markov decision process with partial information for maintenance decisions
CN117311984B (zh) 基于对比服务的服务器负载均衡方法及系统
US8793106B2 (en) Continuous prediction of expected chip performance throughout the production lifecycle
JP2023120168A (ja) 半導体工場における待ち時間予測のための方法
Villalón-Falcón et al. Computational adaptive multivariable degradation model for improving the remaining useful life prediction in industrial systems
Terceño et al. Prediction of business failure with fuzzy models
EP4075211B1 (en) Prediction method and system for multivariate time series data in manufacturing systems
US20210365189A1 (en) Performance analysis apparatus and performance analysis method
EP3839682B1 (en) Weight assignment for fusion of prognostic estimators
Zhu et al. TD-OCBA: Optimal computing budget allocation and time dilation for simulation optimization of manufacturing systems
FI129751B (en) Monitoring of target systems, such as communication networks or industrial processes
US20220114519A1 (en) Method for Device Monitoring
EP4425335A2 (en) Time series forecasting of application monitoring data and observability data by quantile regression
KR20200137130A (ko) 영 과잉 데이터의 모델을 생성하는 방법 및 그 장치
CN115423186A (zh) 基于神经网络模型的成本预测方法、装置、介质及设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination