CN113168139A - 针对工业厂房中的过程的预测 - Google Patents

Abstract

为了针对工业厂房中的过程生成实时或至少近实时预测，神经网络集被训练来创建训练模型集。训练模型集然后被用于通过将原始空间中的在线测量结果输入到两个训练模型来输出预测，两个训练模型的输出作为缩减空间输入和缩减空间初始状态而被馈送到第三训练模型。第三训练模型将缩减空间输入处理为缩减空间预测。它们被馈送到第四训练模型，第四训练模型输出原始空间中的预测。

Description

针对工业厂房中的过程的预测

技术领域

本发明涉及提供预测，特别是针对工业厂房中具有多个变量的过程来提供预测。

背景技术

计算机与计算设备之间、特别是能够在用户不参与的情况下进行通信的不同传感器之间联网的发展增加了在设施和过程中收集的数据量。例如，在工业厂房内拥有数以千计的传感器和控制元件来监视过程和设施的各方面的情况并非闻所未闻。所收集的大量数据与人工智能和机器学习进行组合，在多个技术领域(包括不同的预测系统)取得了许多进步。例如，Aswani、Anil等人在Automatica第49卷第5期(2013)第1216至1226页的“Provablysafe and robust learning-based model predictive control.”；Rosolia、Ugo以及Francesco Borrelli在IFAC-PapersOnLine第50卷第1期(2017)第3142至3147页的“Learning Model Predictive Control for Iterative Tasks:AComputationallyEfficient Approach for Linear System.”；Hewing、Lukas、Alexander Liniger以及Melanie N.Zeilinger在arXiv preprint arXiv：1711.06586(2017)的“Cautious NMPCwith Gaussian Process Dynamics for Miniature Race Cars.”；以及Koller、Torsten等人在arXiv preprint arXiv：1803.08287(2018)的“Learning-based Model PredictiveControl for Safe Exploration and Reinforcement Learning.”这些出版物公开了利用人工神经网络和高斯过程的非线性黑匣子建模技术的解决方案。EP0907117以及N.Mohajerin和S.Waslander在arXiv preprint arXiv：1806.00526(2018)的“Multi-stepPrediction of Dynamic Systems with RNNs”中公开了使用递归神经网络进行建模的示例。在后者中，使用递归神经网络来对简化过程进行建模。以上所公开的解决方案的问题在于它们在实践中不适合针对工业厂房中的过程、特别是针对工业厂房中具有多个变量的复杂过程生成实时或近实时的预测。

发明内容

本发明的一个目标是提供适合为工业厂房中的过程提供实时或近实时预测的机制。本发明的目标通过方法、计算机程序产品、设备和系统来实现，其特征在于独立权利要求中陈述的内容。本发明的优选实施例在从属权利要求中公开。

根据本发明的一方面，原始空间中的在线测量结果被输入到第一训练模型和第二训练模型，第一训练模型和第二训练模型已针对工业厂房中的过程进行了训练。第一训练模型的输出作为缩减空间输入而被馈送到第三训练模型，并且第二训练模型的输出作为缩减空间初始状态而被馈送到第三训练模型。第三训练模型将缩减空间输入处理为缩减空间预测。它们被馈送到第四训练模型，第四训练模型输出原始空间中的预测。由于使用了缩减空间，可以提供实时或近实时预测。

本发明的另一方面使用过去的测量结果作为训练数据来训练神经网络，以获得针对工业厂房中的过程的上述训练模型集。第一训练模型和第四训练模型通过同时训练神经网络来创建，并且之后，根据实现方式，第三训练模型在第二训练模型之前被创建，或者第三训练模型和第二训练模型通过训练对应的神经网络而被同时创建。

附图说明

在下文中，将参考附图来更详细地描述示例性实施例，其中：

图1示出了系统的简化架构；

图2示意性地示出了训练模型集和信息流；

图3和图4图示了对模型进行训练的不同示例；

图5、图6和图7是图示了示例性功能的流程图；以及

图8是示意性框图。

具体实施方式

以下实施例是示例性的。尽管说明书可能在多个位置引用“一”、“一个”或“一些”实施例，但这并不一定意味着每个这样的引用都指向相同的(多个)实施例，或者该特征仅适用于单个实施例。不同实施例的单个特征也可以被组合来提供其他实施例。

本发明适用于工业厂房中的任何过程，包括针对一个或多个设备(装备)和/或一个或多个过程的多个变量来提供不同测量/感测值的处理系统和/或工业制造相关过程和/或至少部分被自动化、针对技术过程的系统。示例的非限制性列表包括发电厂、制造厂、化学加工厂、电力传输系统、采矿和矿物加工厂、上游石油和天然气系统、数据中心、船舶和运输车队系统。

在不将实施例/示例限于这样的解决方案的情况下，以下使用单个单元、模型、设备和存储器来描述不同的实施例和示例。可以使用被称为云计算和/或虚拟化的概念。虚拟化可以允许单个物理计算设备托管作为独立计算设备出现和操作的虚拟机的一个或多个实例，使得单个物理计算设备可以以动态方式创建、维护、删除或以其他方式管理虚拟机。设备操作也可以分布在多个服务器、节点、设备或主机之间。在云计算网络设备中，计算设备和/或存储设备提供共享资源。一些其他技术进步，诸如软件定义网络(SDN)，可以导致以下描述的一个或多个功能迁移到任何对应的抽象或装置或设备。因此，所有的词语和表达都应被广义地解释，并且它们旨在例示而不是限制实施例。

系统的整体示例性架构如图1所示。图1是经简化的系统架构，仅示出了一些设备(装置、设备、节点)和功能实体，所有这些都是逻辑单元，逻辑单元的实现方式和/或数量可能与图1所示的不同。图1所示的连接为逻辑连接；实际的物理连接可能会有所不同。对本领域技术人员显而易见的是，系统还包括其他设备、功能实体和结构。

在图1所示的示例中，系统102包括工业制造过程系统101、离线设备160和数据存储装置130(测量结果存档)。

工业过程系统101在本文中描绘了工业厂房中的任何过程或过程系统，工业厂房的示例在上文列出。进一步的示例包括纸浆和造纸厂、水泥厂、金属制造厂和精炼厂。然而，工业过程系统不限于列出的示例。工业过程系统101包括例如由控制回路120控制的一个或多个过程110(仅图示了一个)，控制回路120形成控制系统121或一个或多个控制系统。应当理解的是，术语控制在本文中也涵盖供应链管理、服务和维护。控制回路120借助传感器111来测量过程110的过程变量的值并且借助致动器112来操纵过程110。控制回路120可以是开放式控制回路或闭合式控制回路，并且控制系统121可以是分布式控制系统或集中式控制系统。换言之，一个或多个过程110表示其中数据(具有变化频率的变化特征)通过传感器111自动测量和收集的不同设备、机器、装置、设备、系统、子系统、过程等，传感器111测量过程变量的值。

例如在站点和/或远程位置上的监视设备140中，过程变量的测量值被存储到数据存储装置130并且可以经由一个或多个用户接口(U-IF)输出。所存储的值形成测量历史，即，过去的测量结果。换言之，(过去的)测量结果主要包括所测量的输入、输出和干扰。

描绘一个或多个数据存储装置的数据存储装置130可以是任何类型的常规或未来数据储存库，包括由任何合适的管理系统管理的分布式和集中式数据存储。分布式存储的示例包括云环境(例如，可以是公共云、共同体云、私有云或混合云)中的基于云的存储装置。云存储服务可以借助协同定位的云计算机服务、Web服务应用程序编程接口(API)或者通过利用API的应用程序(诸如云桌面存储、云存储网关或基于Web的内容管理系统)来访问。换言之，数据存储装置130可以是配备有一个或多个存储器的计算设备、或者子系统、或者在线存档系统，子系统或系统包括计算设备，计算设备被配置为充当存储数据和/或从中检索数据的设备(设备)的一个逻辑在线档案(历史记录)。但是，数据存储装置130的实现方式、数据如何被存储、检索和更新，即，数据存储装置如何被对接以及数据被存储的位置的细节与本发明无关。对于本领域技术人员来说显而易见的是，可以使用任何已知的或未来的解决方案。

监视设备140用于在站点和/或远程监视和/或控制，包括操纵和调整一个或多个过程110。换言之，监视设备140描绘了可以由不同设备实现的监视和/或控制系统(子系统)，不同设备包括例如用于实时控制目的的、分析数据或某些数据片段的应用程序。特别是在工业环境中，自动化控制和监视系统有着广泛的应用。分析可以包括输出警报、干扰、异常，和/或确定与测量数据有关的不同性质(诸如最小值和最大值)，和/或计算不同的关键性能指标。监视设备140包括一个或多个人机界面，诸如一个或多个用户界面U-IF，以输出不同的输出。通常被称为操作员的用户可以例如通过经由一个或多个用户界面输入用户输入来操纵、控制或调整一个或多个过程。

上述系统的不同实体110、111、112、120、121、130、140仅被描述为例示可能的场景，并且它们、特别是它们的细节，对本发明没有意义。因此，此处不对其进行更详细的描述。

工业制造过程系统101还包括在线预测设备150，在线预测设备150被配置为至少根据传感器针对工业厂房110中的过程而测量的过程变量的值(被输入到监视设备140)来创建/生成实时或近实时预测。此外，根据实现方式，预测被存储或未被存储到数据存储装置130。在线预测设备150包括用于生成/创建预测的一个或多个训练模型集100。在线预测设备150的基本功能在以下利用图2来描述。虽然被描绘为单独的实体，但是在线预测设备150可以被集成为控制系统121的一部分。

图1的示例系统102还包括具有训练器单元161的离线设备160，训练器单元161被配置为使用数据存储装置130中的测量历史来创建/更新训练模型集100。自然地，至少在测量结果也被输入到设备160的意义上，设备160可以是在线设备。训练器单元161的基本功能的不同示例在以下利用图3至图5来描述。应当理解的是，训练器单元161可以是在线设备。此外，经训练的单元161例如可以被实现为在线预测设备150的一部分，甚至可以被实现为控制系统121的一部分。

在线预测设备150和/或离线设备160可以包括用于机器学习应用和/或人工神经网络的自定义计算硬件，以提高效率和实时性能。

图2图示了训练模型集的逻辑结构以及模型或包括模型的设备(诸如图1中的在线预测设备)如何针对工业厂房中的过程生成预测的基本原理，训练模型集被训练来建模。

参考图2，训练模型集200包括针对编码器的模型210，以下被称为“编码器”；针对解码器的模型220，以下被称为“解码器”；以及在编码器210与解码器220之间，针对预测器的模型230，以下被称为“预测器”，预测器还接收来自模型240的针对初始化器(以下被称为“初始化器”)的输入。

过程变量的在线测量值201，即，在线测量结果，被输入到编码器210和初始化器240。除了在线测量结果，编码器210和初始化器240的输入201也可以包括过程变量的历史轨迹或者计划轨迹或者所测量的干扰的预期轨迹(预测)。(干扰是独立变量，通常无法通过控制系统进行调整。)如何获得所测量的干扰的预期轨迹并不重要，可以使用任何已知或未来的方法。例如，所测量的干扰的预期轨迹可以通过假设所测量的干扰值不会在预测范围内改变来获得。在这样的情况下，使用零阶保持。在另一示例中，假设有足够的数据量/知识可用于针对所测量的干扰创建“干扰模型”，则可以使用“干扰模型”的表示，诸如向零衰减，而不是零阶保持。

编码器210将原始空间中的输入201处理为缩减空间输入202，缩减空间输入202被输入/馈送到预测器230。初始化器240将原始空间中的输入201处理为缩减空间初始状态203，缩减空间初始状态203被输入/馈送到预测器230来将预测器230初始化。换言之，初始化器在与编码器生成输入202(变量值)相同的缩减空间中生成状态信息，以将预测器230初始化为缩减状态。与假设初始状态为零的现有技术解决方案相比，通过向预测器230馈送缩减空间初始状态203，性能得到提高并且在预测中避免了不必要的瞬变。应当理解的是，本文中的术语“空间”被用作阶的同义词。换言之，“原始空间”与“原始阶”的含义相同，并且“缩减空间”与“缩减阶”含义相同。

预测器230然后将缩减空间(隐藏空间)中的输入202、203处理为缩减空间预测204(隐藏空间预测)，缩减空间预测204然后由解码器220处理为原始空间中的预测205。换言之，预测在缩减空间中计算，这使得计算过程更快并且需要更少的处理能力，从而实现实时或近实时预测。(近实时吸收了在原始空间中，从测量值的输入201到预测的输出205的处理引起的延迟)。近实时对操作员来说是实时的，因为时间差(如果存在任何显著差)非常小。预测205的示例的非限制性列表包括过程变量、输出和干扰、警报、报告、待自动和/或手动地应用于工业厂房中经建模的过程的优化步进点、可能与所预测的相关行为相关联的步进点(变化)和/或应用步进点的益处的N步提前预测。

根据工业厂房中经建模的模型和过程，输出205(即，预测)可以经由一个或多个用户界面而被直接输出和/或被输入到控制系统和/或被输入到另一训练模型集，例如作为所测量的变量(诸如所测量的干扰)的一部分。

经由用户界面输出的预测帮助操作员决定是否以及如何调整过程。例如，警报的预测性生成可以在紧急情况发生之前向操作员发出警报，与为响应紧急情况发生而生成警报的解决方案相比，这进而提高了生产力(生产效率)并且缩短了停机时间。如果控制系统是模型预测控制(MPC)系统或者任何其他对应的高级过程控制系统，则预测可以被用于将过程推向期望状态。例如，MPC系统可以执行不同类型的优化和控制动作来实现过程(厂房)的自主操作。

例如，当一个或多个控制回路是开放式控制回路时，缩减空间预测204可以被用于仅对未来做出简单预测205、作为控制信息而被输出到一个或多个人类操作员或者预测205被用作分析计算的未来值输入。当输出到人类操作员时，他/她当然可以根据所输出的(多个)值来执行例如控制动作、移动阀位置、改变电机速度、或关闭系统或启动并行过程。当预测205被用作输入时，即，不以其普通形式使用而是以进一步处理的形式使用时，它们可以被用于通过将预测或进一步计算的值与阈值进行比较来生成例如较早的警报和/或警告，以生成例如通知过程何时完成或到达某个阶段的指示或估计。自然地，普通值和进一步处理的值可以被输出到一个或多个人类操作员，他们然后将看到普通预测和进一步的洞察，诸如警报。

例如，当一个或多个控制回路是闭合式控制回路时，预测205将被嵌入到一个或多个计算例程中，这将导致在没有人类参与的情况下执行具体动作。然而，预测205和/或计算结果可以被输出到一个或多个人类操作员。可以自动引起的具体动作的示例包括直接动作，诸如移动泵、改变电机速度、移动阻尼器、改变加热元件的电流等，以及间接动作，诸如启动关闭序列或者例如通过发送电子邮件或致电维护供应商来安排维护服务的自动联系。

应当理解的是，训练模型集可以通过将与所示逻辑结构相对应的两个或更多个结构级联来形成，例如以生成覆盖多个时间步长的预测(MPC系统中的N步提前预测)。

从以上的示例可以明显看出，不同的协作和共存优化解决方案可以通过一个或多个训练模型集来实现。

图3和图4图示了如何创建训练模型集的不同功能示例。更准确地，它们图示了训练器单元的功能示例。在所示示例中，假设有足够的过去测量结果可以被用作训练数据和验证数据来创建训练模型集。由于输入/输出变量已知，因此训练是监督学习任务。尽管没有明确说明，但是训练过程继续，直到达到预测的预定准确度标准。准确度标准与工业厂房中模型训练所针对的过程(包括其控制系统以及如何实现训练器单元的再训练)相关。

在图3的示例中，假设基本的训练模型集被首先创建，然后被进一步优化，而在图4中，除了在训练中寻找正确模型参数的优化步骤之外，没有进一步优化。然而，应当理解的是，图3的过程的进一步优化可以被省略，即，停止训练而不进行任何进一步优化。对应地，图4的训练过程可以继续图3的进一步优化阶段。当工业厂房中模型训练所针对的过程允许选择输入变量的自由度时，可以使用进一步优化：该自由度可以被用于优化期望的控制目标。

参考图3，第一目标是获得降维。降维是用于解决变量之间具有高度相关性的大规模多变量问题的技术。相关性允许使用缩减的潜在变量集来表示整个过程/系统的行为，潜在变量从原始变量构建。缩减空间312(缩减的空间维度)也被称为用于构造针对潜在变量的动态模型的潜在空间。换言之，第一阶段300-1的总体目的是通过使用缩减空间中的递归结构来学习时序演化，并且为训练模型集300a获得用于降维的编码器310和用于维度还原的解码器320。时序演化也被称为原始空间中变量的输出值305a对原始空间中变量的输入值301的变化的动态响应。

为了获得针对训练模型集300a的训练编码器310和训练解码器320，针对编码器310的一个或多个人工神经网络和针对解码器320的一个或多个人工神经网络被训练(学习)。训练(即，阶段300-1)可以使用任何拟合方法来执行。所使用的人工神经网络优选地是通常被实现为前馈神经网络的自动编码器，例如变分自动编码器(VAE)，但是也可以使用任何其他类型的神经网络。具体由变分自动编码器提供的一个优点是它们能够在很宽的操作范围内捕获非线性关系。另一优点包括与其他类型的人工神经网络相比，变分自动编码器对噪声的鲁棒性要强得多。

训练过程的输入301包括至少与变量的测量值有关的过去测量结果。如果所测量的干扰的过去测量结果可用，则它们可以被包括到训练过程的输入301。换言之，过去测量结果被用于基于变量之间的相关性以及原始空间中、即输入301中所测量的干扰(如果被输入)来确定工业厂房中的过程在缩减空间312中的缩减空间维度表示302a。如果输入/输出关系和因果关系被很好地建立，则空间缩减可以只针对输出变量来执行，并且输入变量在原始空间和缩减空间中可以被相同处理。换言之，缩减空间维度表示302a可以包括缩减空间输入和缩减空间输出，或者原始空间中的输入和缩减空间输出。输出305a是原始空间中的预测结果。

当编码器310和解码器320已被训练并且对应的训练模型被创建时，在图3的示例中，在下一阶段300-2中，预测器330和初始化器340通过对其并行训练来针对训练模型集300b创建。预测器330在编码器310与解码器320之间的缩减空间312中被训练。该阶段的目的是使用由初始化器340生成的隐藏层状态信息(即，初始状态303)，针对工业厂房中缩减空间312中的过程来获得系统模型，即，预测器330。为了获得预测器330，一个或多个递归神经网络通过在缩减空间312内部迭代至少一个步骤，在缩减空间312中的阶段300-2中进行训练，目的是在缩减空间中学习N-ahead预测(序列)。一个或多个递归神经网络可以包括长短期记忆单元或门控递归单元或者由其组成。自然地，可以使用具有存储器的任何机器学习结构/单元。

一个或多个递归神经网络在阶段300-2中接收来自编码器310的缩减空间输出302和来自初始化器的缩减空间初始状态303作为输入，初始化器与预测器被同时训练。预测器330或者更准确地，一个或多个递归神经网络，然后输出缩减空间预测304a，缩减空间预测304a被馈送到解码器320，以作为原始空间中的预测305b而输出。为了获得初始化器340，一个或多个前馈人工神经网络通过将过去测量结果301输入到一个或多个前馈人工神经网络来训练。初始化器340的目的以及因此其训练的目的是使用来自原始维度的输入，在缩减维度中将预测器330的存储器方面初始化。

当预测器330和初始化器340已被训练并且对应的训练模型被创建时，在图3的示例中，预测器被进一步优化，例如以跟踪可能彼此相关的多个目标。

首先，在阶段300-3中，优化器350，即，一个或多个优化算法，通过在编码器310与解码器320(在第一阶段300-1中创建)之间训练优化器来针对缩减空间维度而创建(设置)。原始空间中的输入301-o可以是与选定变量集有关的值。选定变量集包括基于优化目的，在其值在测量结果中的多个变量之中选择的变量。选定变量集还可以包括辅助变量，例如，由控制系统封装在测量结果中的错误状态或者其他错误。辅助变量还可以包括目标和/或约束。例如，辅助变量可以包括输出的积分误差，目标与过程/工业厂房相关，并且可以是例如跟踪误差、能耗等。仅举几个示例，进一步的非限制性示例包括压缩系统中，到最大压力约束的距离以及距离激增。

优化器350的训练过程包括编码器310将原始空间中用于优化的输入301-o处理为优化器350(或者更准确地一个或多个优化算法)的缩减空间输入302-o。优化器350然后计算被馈送到解码器320的缩减空间输出306-o。解码器然后将缩减空间输出306-o处理为用于在原始空间中优化的预测结果305-o。

当优化器350已在缩减空间312中建立时，即，阶段300-3已结束时，在阶段300-2中创建的预测器330在阶段300-4中被进一步优化。进一步优化意味着形成预测器的一个或多个递归神经网络在缩减维度312中与一个或多个优化算法组合。优化算法可以改变输入变量的轨迹并且可以确定给定目标的最佳轨迹。目标可以在时间范围内指定和/或例如在模型预测控制(MPC)框架中，以不同方式调整为反映待通过优化实现的实际目标。实际目标的示例包括在时间范围内跟踪参考轨迹、在时间范围结束时满足特定目标以及时间范围内的累积目标，诸如经建模的过程厂房的生产力最大化。调整的示例包括反映进一步的优化目标和相关联的错误，所生成的惩罚将这些错误驱动为零。这样的调整可以适应编码器/解码器中的不完美。不完美可能导致缩减空间和原始空间中对目标的满足度不匹配。

原始空间中用于进一步优化的输入301-o由编码器310处理为缩减空间输入302-o并且由初始化器340处理为缩减空间初始状态303-o。在该阶段300-4中，优化器从编码器310和经进一步优化的预测器330-o接收输入：缩减空间输入302-o和缩减空间预测304-o。根据输入302-o、304-o，优化器计算被馈送到经进一步优化的预测器330-o的缩减空间输入306。预测器将从优化器接收的缩减空间输入306和缩减空间初始状态303-o处理为缩减空间输出304-o，以用于进一步优化。如前所述，用于进一步优化的缩减空间输出304-o被输入到优化器350。此外，缩减空间输出被馈送到解码器320，解码器320输出预测305-o，以在原始空间中进一步优化。

一旦该进一步优化阶段300-4结束，在第一阶段300-1中创建的编码器310和解码器320、在第二阶段300-2中创建的初始化器340以及在最后阶段中创建的经进一步优化的预测器330-o被存储为训练模型集，训练模型集将如上文图2所述来使用。

参见图4，训练400的第一阶段400-1对应于图3中训练的第一阶段，并且因此本文中不再赘述。稍后，编码器410和解码器420使用输入401、缩减空间412中的缩减空间维度表示402a以及与输入301相对应的输出405a、缩减空间维度表示302a、缩减空间312以及以上结合图3描述的输出305a来针对训练模型集400a进行训练。当编码器410和解码器的对应训练模型已被创建时，在图4的示例中，预测器430和初始化器440被顺序地训练来创建对应的训练模型。训练顺序是预测器430首先被训练，然后初始化器440被训练。

在图4的过程中训练的第二阶段400-2中，形成预测器430的一个或多个递归神经网络在不使用任何特定初始化的情况下被训练，这是与上述图3中示例的第二阶段中的预测器训练的唯一区别。换言之，预测器的初始状态可以被假设为零。训练的目的与上述图3针对预测器的第二阶段相同。简而言之，为了获得预测器430，一个或多个递归神经网络通过在缩减空间412内部迭代至少一个步骤，在阶段400-2中、在缩减空间412中进行训练。一个或多个递归神经网络从编码器410接收缩减空间输出402作为输入，输出缩减空间预测404a，缩减空间预测404a被馈送到解码器420，以作为原始空间中的预测405b而输出。

当预测器430已被训练时，与图3所描述的相对应的一个或多个前馈人工神经网络在第三阶段400-3中被训练来创建针对训练模型集400c的初始化器440。训练的目标是通过从输入401调整初始化器440的输出，即，调整缩减空间初始状态的生成，使用预测器430来生成更好的预测。该阶段400-3与上述第二阶段400-2的不同之处在于，除了上述输入和输出之外，输入到编码器410的相同输入401被输入到一个或多个前馈人工神经网络，用于训练目的和获得初始化器，并且来自训练中的初始化器的缩减空间输出403被馈送到预测器430。

当初始化器被训练并且对应模型被创建时，即，第三阶段400-3完成时，在第一阶段400-1中创建的初始化器440、编码器410和解码器420、在第二阶段300-2中创建的预测器430被存储到训练模型集，训练模型集将按上述图2来使用。

获得训练模型集的更进一步的可能性是在一个阶段中并行训练编码器、解码器、预测器和初始化器，或者在一个阶段中并行训练编码器、解码器和预测器并且之后训练初始化器。

无论训练方法如何，即，无论获得训练模型集的方式如何，结果都相同，以上使用图2来描述结果：编码器降维和解码器维数恢复，以及基于一个或多个递归神经网络的预测器，在缩减空间中，使用基于生成隐藏状态信息的一个或多个前馈人工神经网络的单独但增强的初始化器。

应当理解的是，如果工业制造系统包括工业厂房中的两个或更多个过程，则训练模型集可以被创建，过程(具体地以及训练模型集)然后可以经由输入-输出链路来组合。自然地，可以为这样的系统创建一个训练模型集，或者同时训练若干个经链接的人工神经网络来获得训练模型集。

从以上的示例可以看出，最终的模型结构，即，训练模型集，不依赖于任何线性化建模工具。因此，可以学习/训练任何感兴趣的行为，包括非线性行为和时间延迟，唯一的条件是存在具有必要特征的足够的经测量/收集的数据量来提取感兴趣的行为。

曾经创建的模型集可能需要重新训练，或者可以仅被重新训练来确保它们尽可能地反映工业厂房中的建模过程。根据实现方式(在线/离线)、工业厂房中经建模的过程和/或控制系统，重新训练可以基于各种触发事件而触发。重新训练可以例如由控制系统自动触发，和/或手动触发，即，操作者输入导致重新训练被触发的命令。可能导致重新训练被触发的示例包括为过程安装不同的设备或者维护被执行，例如纠正退化，诸如热交换器结垢、烟灰形成、破碎垫磨损等。更进一步的示例包括响应于自上次训练/重新训练模型集的预定时间限制到期，或者响应于所存储的测量结果量增加一定量，或者响应于反映预测准确性的某些标准以及连续监视预测准确度是否已实现或未实现来自动触发重新训练。

图5描述了与重新训练有关的训练器单元的功能示例。在该示例中，假设进一步优化未发生，并且在不将重新训练限制为这样的解决方案的情况下，训练基于图3或图4中的示例。

参考图5，在步骤501中监视重新训练是否被触发。当重新训练被触发时(步骤501：是)，在步骤502中，从数据存储装置中检索(重新检索)过去测量结果来用作训练数据。当过去测量结果被(重新)检索时，在先前训练/重新训练之后存储在数据存储装置中的测量结果将被输入到训练过程中。然后在步骤503中，针对编码器和解码器的一个或多个人工神经网络(ANN)，诸如自动编码器，被训练来获得针对编码器和解码器的经更新的模型。当它们的重新训练过程结束时，针对预测器的一个或多个递归神经网络(RNN)和针对初始化器的一个或多个前馈人工神经网络(ANN)在步骤504中被顺序地或同时(并行)训练，以获取经更新的预测器和经更新的初始化器。当他们的重新训练过程结束时，在步骤505中将模型集更新到在线系统。

如果重新训练不会导致对相应模型的实际更新(即，如果存在，只有很小的改变)，则不需要导致更新(步骤505)。

当然，在步骤504之后，在步骤505之前，进一步优化可以被执行。此外，步骤503和504可以被组合，使得编码器和解码器与预测器被同时训练。自然地，可以首先重新训练/更新解码器和编码器，并且在他们的重新训练结束之后，即，它们被更新之后，更新预测器和初始化器。

在其他实现方式中，其中训练器单元是在线系统的一部分，重新训练过程可以被连续执行(对步骤501的监视未实现，并且所接收的测量结果可以被添加到训练材料中，即，步骤502也可以被省略)。在这些实现方式中，模型集可以以特定间隔来更新(即，步骤504与步骤505之间的对应检查)，和/或响应于检测到至少在模型集中的一个模型中，更新导致了超过预定“在线系统更新”极限的更改来更新。在后一情况下，整个训练模型集可以被更新，或者仅超过极限的模型被更新。此外，应当理解的是，上述神经网络并不是唯一的可能性，任何模型都可以使用任何其他机器学习模型来创建，诸如基于高斯过程或随机森林(随机决策森林)的模型。进一步地，上述任何一个神经网络都可以被上述另一神经网络替换来创建对应的模型。例如，可以使用RNN来代替ANN，反之亦然。

参考图6，在一个或多个模型被更新之后，包括模型集的在线预测设备使用(步骤601)经更新的模型集。

从以上可以看出，公开了可以被用于监视和控制工业厂房中的一个或多个不同过程领域中的复杂工业过程操作的机制。由于训练数据是从工业厂房的过程中收集的数据，因此训练模型集原则上根据工业厂房中他们建模的过程来自动自定义。

所公开的训练模型集克服了黑匣子建模中存在的问题。黑匣子建模适用于孤立的实验，仅适用于线性系统(输出的变化与输入的变化成线性比例)，在没有相当繁重的数据操作的情况下，不能利用闭合回路收集的数据，并且不能考虑连续(常规)发生的刺激。这样的刺激发生的时间示例包括启动和关闭、等级或生产率变化以及现有控制回路在对未测量干扰做出反应期间的相互作用。

此外，也克服了所谓的灰匣子建模中存在的问题，在灰匣子建模中，数学模型使用有关过程的科学知识来创建，并且然后由于基本物理定律的复杂性而通过参数化进行调整：在使用所公开的训练模型集时，无需创建数学模型并对其进行调整。所公开的解决方案相对于灰匣子建模的进一步优势包括：通过重新训练可以更容易地考虑过程中的变化(诸如，新设备)，并且所公开的机制可以与易于参数化的先进的控制系统一起使用。

如上文图1所述，在实现任何基于模型的控制器(诸如MPC(模型预测控制)的控制器中，模型集可以被用作内部模型，而不是状态空间模型或传递函数模型。不同的状态空间模型和传递函数模型基于存在上述问题的灰匣子建模或黑匣子建模。基于机器学习并且根据历史值进行训练、从而具有上述模型结构之一的模型集相当于状态空间模型或传递函数模型中的非线性数学算法的级联，并且因此可以被并入模型预测控制，以为优化问题提供模型和约束。更准确地，模型预测控制使用当前厂房/过程测量、过程的当前动态状态、内部模型和优化算法来确定(计算)待针对N步提前预测执行的一个或多个控制动作，并且重复该功能来补偿过程中预测与(多个)测量结果之间的不匹配。优化算法是用于寻找最佳过程/厂房操纵/动作的优化问题，优化算法对特定目标(诸如，参考跟踪、干扰抑制等)进行优化。

图7描述了控制器通过使用一个或多个训练模型集来实现模型预测控制器的示例功能，一个或多个训练模型集根据图3至图5所述来创建和更新。控制器可以是例如图1中所示的控制回路之一。控制器中作为一个或多个内部模型的一个或多个模型集优选地与图1所示的在线预测设备中使用的相同。

参考图7，控制器在步骤701中接收两个类型的输入：多个过程变量的在线测量值，即，在线测量结果，以及在原始空间中的预测。预测基于在线测量结果，并且由包括一个或多个训练模型集的在线预测设备输出。约束通过使用一个或多个训练模型集作为模型预测控制中的内部模型，在步骤702中根据输入来确定。然后，在步骤703中，用于操纵过程的一个或多个优化动作基于在先前步骤中确定的约束，通过针对工业厂房中的过程的优化问题来确定。优化目标自然会影响优化动作。一旦一个或多个优化动作被确定，则在步骤704中，根据一个或多个优化动作对过程进行操纵。换言之，过程被控制。然后，所描绘的控制功能返回到步骤701来接收输入，输入现在反映了一个或多个优化动作。新输入导致重新计算优化动作、重新操纵、接收新输入等。换言之，控制器在没有用户参与的情况下，与过程/厂房交互。从长远来看，可以实现过程的优化状态。

本文描述的技术可以通过各种方式来实现，使得实现利用实施例/实现方式/示例或者实施例/实现方式/示例的组合描述的一个或多个功能的设备/装置/设备不仅包括现有技术方式，而且还包括用于实现利用实施例/实现方式/示例描述的一个或多个功能的特定方式，并且它可以包括针对每个单独功能的单独方式，或者特定方式可以被配置为执行两个或更多个功能。特定方式可以是软件和/或软件-硬件和/或硬件和/或固件组件(不可磨灭地记录在诸如只读存储器的介质上或者体现在硬连线计算机电路中)或其组合。软件代码可以被存储在任何合适的处理器/(多个)计算机可读数据存储介质或者(多个)存储器单元或制品中，并且由一个或多个处理器/计算机、硬件(一个或多个装置)、固件(一个或多个装置)、软件(一个或多个模块)或其组合来执行。对于固件或软件，实现方式可以借助执行本文中描述的功能的模块(例如，过程、功能等)。

本文中描述的技术和方法可以通过各种方式来实现，使得设备/设备/装置被配置为使用训练模型集或者至少部分地基于以上利用图1至图7中的任一个所公开的内容来创建/更新训练模型集(包括例如借助图1至图7中的任一个，使用实施例/示例来实现上述对应设备/单元的一个或多个功能/操作)，各种方式不仅包括现有技术方式，还包括例如借助图1至图7中的任一个来实现利用实施例/示例描述的对应功能的一个或多个功能/操作的方式，并且装置可以包括针对每个单独功能/操作的单独方式，或者方式可以被配置为执行两个或更多个功能/操作。例如，上述一个或多个方式和/或训练器单元可以以硬件(一个或多个设备)、固件(一个或多个设备)、软件(一个或多个模块)或其组合来实现。对于硬件实现方式，实施例的(多个)设备或(多个)装置可以在一个或多个专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑设备(PLD)、现场可编程门阵列(FPGA)、处理器、控制器、微控制器、微处理器、逻辑门、被设计来执行本文借助图1至图7描述的功能的其他电子单元或者它们的组合内实现。对于固件或软件，实现方式可以借助执行本文中描述的功能的至少一个芯片组(例如，程序、功能等)的模块来执行。软件代码可以被存储在存储器单元中并且由处理器执行。存储器单元可以在处理器内或在处理器外部实现。在后一情况下，它可以通过本领域已知的各种方式与处理器通信地耦合。此外，本文描述的组件可以通过附加组件来重新布置和/或补充，以促进关于其描述的各个方面等的实现，并且如本领域技术人员将理解的，它们不限于在给定图中阐述的精确配置。

图8是图示了针对设备800的一些单元的简化框图，设备800被配置为向在线预测设备或对应的计算设备提供一个或多个训练模型集，和/或提供包括至少一个或多个训练器单元的离线设备，或者如上文图1至图7所述的对应单元和子单元，或者对应功能或一些对应功能(如果功能在未来分布)。在所示示例中，设备包括：一个或多个接口(IF)801，用于向其他设备发射信息和/或从其他设备接收信息，并且可以向用户发射信息或者从用户接收信息；被配置为实现在线预测设备的功能的一个或多个处理器802，或者具有一个或多个训练模型集的对应计算设备，和/或包括如上文结合图1至图7所述的至少一个或多个训练器单元的离线设备，或者具有对应算法803的对应功能的至少一部分(在分布式场景被实现的情况下的子单元功能)；以及一个或多个存储器804，可用于存储具有一个或多个训练模型集的在线预测设备或对应计算设备、和/或包括至少一个或多个训练器单元或者针对一个或多个对应单元或子单元(即，实现功能的算法)的离线设备所需的计算机程序代码。存储器804还可用于存储训练模型集和其他信息。

换言之，设备(设备、装置)被配置为向在线预测设备或对应的计算设备提供一个或多个训练模型集，和/或提供包括至少一个或多个训练器单元的离线设备，或者被配置为提供以上利用图1至图7描述的一个或多个对应功能的设备/装置，设备(设备、装置)是可以是被配置为执行以上利用实施例/示例/实现方式描述的一个或多个对应功能的任何装置或设备或设备或节点的计算设备，并且它可以被配置为执行来自不同实施例/示例/实现方式的功能。所需的单元和子单元，例如，训练器单元，可以是甚至位于另一物理装置中的单独单元、形成提供功能的一个逻辑设备的分布式物理装置或者集成到同一设备中的另一单元。

被配置为向在线预测设备或对应计算设备提供一个或多个训练模型集的设备，和/或包括至少一个或多个训练器单元的离线设备，或者被配置为提供一个或多个对应功能的设备通常可以包括与一个或多个存储器和设备的各种接口连接的一个或多个处理器、控制器、控制单元、微控制器等。通常处理器是中央处理单元，但处理器也可以是附加的运算处理器。本文描述的单元/子单元和/或算法中的每一个或一些或者一个可以被配置为计算机或处理器，或者诸如单芯片计算机元件的微处理器，或者被配置为包括为算术运算提供存储区域的至少一个存储器以及用于执行算术运算的运算处理器的芯片组。上述单元/子单元和/或算法中的每一个或一些或一个可以包括一个或多个计算机处理器、专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、图形处理单元(GPU)、逻辑门和/或已编程和/或将通过下载计算机程序代码(一个或多个算法)进行编程的其他硬件组件来执行一个或多个实施例/实现方式/示例的一个或多个功能。一个实施例提供了在任何客户端可读分发/数据存储介质或(多个)存储器单元或(多个)制品上体现的计算机程序，计算机程序包括可由一个或多个处理器/计算机执行的程序指令，指令在被加载到设备中时，构成跟踪单元和/或存档单元，或任何子单元。也被称为程序产品并且包括软件例程、构成“程序库”的程序片段、小程序和宏程序的程序可以被存储在任何介质中并且可以被下载到装置中。换言之，上述单元/子单元和/或算法中的每一个或一些或一个可以是包括一个或多个算术逻辑单元、多个专用寄存器和控制电路的元件。

此外，在线预测设备或者具有一个或多个训练模型集的对应计算设备和/或包括至少一个或多个训练器单元的离线设备或者被配置为提供以上结合图1至图7描述的一个或多个对应功能的设备通常可以包括易失性和/或非易失性存储器，例如，EEPROM、ROM、PROM、RAM、DRAM、SRAM、双浮栅场效应晶体管、固件、可编程逻辑等，并且通常存储内容、数据等。一个或多个存储器可以是任何类型(彼此不同)、具有任何可能的存储结构并且如果需要，由任何数据库管理系统来管理。换言之，存储器或其一部分可以是处理器/设备内或者处理器/设备外部的任何计算机可用的非暂时性介质，在这种情况下，它可以经由本领域已知的各种方式来与处理器/设备通信地耦合。外部存储器的示例包括可拆卸地连接到装置的可移除存储器、分布式数据库和云服务器。存储器还可以存储计算机程序代码，诸如软件应用程序(例如，针对单元/子单元/算法中的一个或多个)或者操作系统、信息、数据、内容等，以使得处理器执行与根据示例/实施例的设备操作相关联的步骤。

对于本领域技术人员来说显而易见的是，随着技术的进步，本发明构思可以以各种方式来实现。本发明及其实施例不限于上述示例，而是可以在权利要求的范围内变化。

Claims (15)

1.一种计算机实现的方法，包括：

接收在线测量结果，所述在线测量结果包括针对多个变量，从工业厂房中的过程测量的值；

将原始空间中的所述测量结果输入到工业厂房中的所述过程的第一训练模型和所述工业过程的第二训练模型；

由所述第一训练模型来将所述测量结果处理为缩减空间输入；

由所述第二训练模型来将所述测量结果处理为缩减空间初始状态；

将所述缩减空间输入和所述缩减空间初始状态馈送到工业厂房中的所述过程的第三训练模型；

由所述第三训练模型来将所述缩减空间输入和所述缩减空间初始状态处理为缩减空间预测；

将所述缩减空间预测馈送到工业厂房中的所述过程的第四训练模型；

由所述第四训练模型来将所述缩减空间预测处理为所述原始空间中的预测；以及

输出所述预测。

2.根据权利要求1所述的计算机实现的方法，还包括：

接收对所述训练模型中的至少一个训练模型的更新；以及

对应地更新所述训练模型中的所述至少一个训练模型。

3.根据权利要求1或2所述的计算机实现的方法，其中所述第一训练模型和所述第四训练模型基于一个或多个变分自动编码器，所述第三训练模型基于一个或多个递归神经网络，并且所述第二训练模型基于一个或多个前馈人工神经网络。

4.一种用于为工业厂房中的过程创建训练模型集的计算机实现的方法，所述训练模型集包括第一训练模型、第二训练模型、第三训练模型和第四训练模型，所述方法包括：

将来自工业厂房中的所述过程的过去测量结果用作训练数据；

通过同时训练编码人工神经网络和解码人工神经网络来创建所述第一训练模型和所述第四训练模型，所述编码人工神经网络用于降维来学习所述第一训练模型，所述解码人工神经网络用于维度恢复来学习所述第四训练模型，其中所述降维是从原始空间到缩减空间，所述维度恢复是从所述缩减空间到所述原始空间；以及

通过顺序地训练神经网络来创建所述第二训练模型和所述第三训练模型，首先在所述第一训练模型与所述第四训练模型之间训练递归神经网络来创建针对缩减空间预测的所述第三训练模型，然后训练前馈人工神经网络来创建针对缩减空间初始状态的所述第二训练模型，或者同时训练所述第一训练模型与所述第四训练模型之间的所述递归神经网络、以及所述前馈人工神经网络。

5.根据权利要求4所述的计算机实现的方法，其中所述编码人工神经网络和所述解码人工神经网络是变分自动编码器；并且所述第一训练模型和所述第四训练模型在监督学习过程中学习。

6.根据权利要求4或5所述的计算机实现的方法，还包括当通过顺序地训练神经网络来创建所述第二训练模型和所述第三训练模型时：

在训练所述递归神经网络时，将由所述第一训练模型从所述过去测量结果产生的缩减空间输出和作为初始状态的零用作所述递归神经网络的输入；

通过使用来自工业厂房中的所述过程的过去测量结果并且通过调整所输出的降阶初始状态，来训练具有目标的所述人工神经网络，以生成更好的预测结果。

7.根据权利要求4或5所述的计算机实现的方法，还包括当通过同时训练神经网络来创建所述第二训练模型和所述第三训练模型时：

通过并行训练用于创建所述第二训练模型的、针对初始状态的人工神经网络以及用于创建所述第三训练模型的递归神经网络，来创建所述第二训练模型和所述第三训练模型；以及

使用由所述第一训练模型从所述过去测量结果中产生的缩减空间输出来训练所述递归神经网络，并且使用所述过去测量结果来训练针对初始状态的所述人工神经网络。

8.根据权利要求4、5、6或7所述的计算机实现的方法，其中所述递归神经网络包括长短期记忆单元或门控递归单元。

9.根据权利要求4、5、6、7或8所述的计算机实现的方法，还包括：

通过将来自所述递归神经网络的缩减空间输出输入到优化算法并且将所述优化算法的结果作为缩减空间输入而输入到所述递归神经网络，来进一步优化所述第三训练模型。

10.根据权利要求4至9中任一项所述的计算机实现的方法，还包括：

使用来自工业厂房中的所述过程的经更新的过去测量结果作为训练数据来重复训练，以重新训练所述训练模型中的至少一个训练模型；以及

使得在重新训练之后，更新所述训练模型集。

11.一种用于控制工业厂房中的过程的计算机实现的方法，所述方法包括：

在实现模型预测控制的控制器中，接收在线测量结果和原始空间中的预测，所述在线测量结果包括针对多个变量的从所述工业厂房中的所述过程测量的值，所述预测基于所述在线测量结果并且由训练模型集输出，所述训练模型集通过根据权利要求4至10中任一项所述的方法、针对所述工业厂房中的所述过程来创建；

在实现所述模型预测控制的所述控制器中，使用所述训练模型集作为所述模型预测控制中的内部模型，以根据所接收的在线测量结果和预测，确定针对所述模型预测控制的优化问题的约束；

由所述优化问题，基于使用所述训练模型确定的所述约束，确定一个或多个优化动作以操纵所述过程；以及

由所述控制器根据所述一个或多个优化动作来对所述过程进行操纵。

12.一种包括程序指令的计算机程序产品，所述程序指令在计算设备上运行时，使得所述计算设备在接收到从工业厂房中的过程测量的测量结果时，执行根据前述权利要求中任一项所述的方法。

13.一种设备，包括用于实现根据权利要求1至11中任一项所述的方法的装置。

14.一种系统，至少包括：

一个或多个传感器，提供测量结果，所述测量结果包括针对工业厂房中的至少一个过程上的多个变量的值；

存储器，用于存储测量结果；

设备，包括用于实现根据权利要求1、2、3或4所述的方法的装置，以用于使用一个或多个训练模型集，为工业厂房中的所述至少一个过程创建预测；以及

设备，包括用于实现根据权利要求1、2、3或4所述的方法的装置，以用于使用一个或多个训练模型集，为工业厂房中的所述至少一个过程创建预测。

15.根据权利要求14所述的系统，其中工业厂房中的所述至少一个过程在以下之一中：发电厂、制造厂、化学加工厂、电力传输系统、采矿和矿物加工厂、纸浆和造纸厂、上游石油和天然气系统、数据中心、船舶和运输车队系统。

Images