CN114880930A - 一种基于在线学习的实体设备数字孪生建模仿真预测方法 - Google Patents

Abstract

本发明涉及一种基于在线学习的实体设备数字孪生建模仿真预测方法，属于计算机仿真与智能制造技术领域。本方法基于静态的初始训练数据和动态数据来源，以交互形式不断更新学习参数。利用多层神经网络和在线学习方法来构建数字孪生模型，并利用该模型对实体设备运行状态进行仿真预测，从而获得关于实体设备的实时准确预测。本发明基于汤普森采样的在线学习方法，动态更新各项预测参数，能够保持数字孪生模型与实体模型的一致性。本发明能够准确捕捉实体运行过程中的动态变化，抵抗实体运行中随时间变化的干扰因素，可适应实体动态变化扰动。本方法拥有在线学习更新的优点，数据获取方式更便捷，对初始数据量要求低，操作简便，实操性高，应用广泛。

Description

一种基于在线学习的实体设备数字孪生建模仿真预测方法

技术领域

本发明涉及一种基于在线学习的实体设备数字孪生建模仿真预测方法，属于计算机仿真与智能制造技术领域。

背景技术

数字孪生(Digital Twins)，是充分利用物理模型、传感器更新、运行历史等数据，集成多学科、多物理量、多尺度、多概率的仿真过程，在虚拟空间中完成映射，从而反映相对应的实体设备(如飞行器、机械、机床等)的全生命周期过程，在产品设计、产品制造、医学分析、工程建设等众多领域得到了广泛应用。通过大数据分析、人工智能等新一代信息技术在虚拟世界的仿真分析和预测，以最优的结果驱动物理世界的运行。

特别是在工业制造领域，通过构建数字孪生建模仿真，可以大大节省实体设备在制造、运行、维护方面的成本，典型应用场景包括产品全生命周期管理、工程全生命周期管理、车间管控系统等。企业可根据数字孪生模型反馈的信息，对装备实体采取行动和干预。由于数字孪生模型能够准确、实时地反映实体设备的运行状态，在设备运行测试、管理、风险排查等一系列环节起到了重大作用，节约了人力、物力成本。

目前，数字孪生技术在实际应用场景中面临的关键问题之一，是数字孪生模型难以实时反映实体设备的当前运行状态。

传统的数字孪生模型通常使用有限元方程计算得到理论数据或传感器测量的真实数据，寻找各个特征到结果的统计规律，训练机器学习模型。然而，由于现实的环境复杂多变，存在多种不可控因素，例如，环境因素(如温度、湿度等)或实体内部因素(如传感器脱落、损坏等)，因此，传统的静态数字孪生模型并不能动态捕捉到设备状态的变化，难以反映实体设备的真实运动轨迹。并且，受限于实际数据获取方式困难、数据量少、成本较高，实际数据的规模常常不能满足数字孪生模型的训练需要。

发明内容

本发明的目的是针对现有技术的缺陷和不足，为解决目前数字孪生建模仿真技术难以实时反映实体设备运行状态变化、难以反映真实运动轨迹，导致仿真模型训练结果的技术问题，创造性地提出一种基于在线学习的实体设备数字孪生建模仿真预测方法。

本发明的创新点在于：基于静态的初始训练数据和动态数据来源，以交互形式不断更新学习参数。利用多层神经网络和在线学习方法来构建数字孪生模型，并利用该模型对实体设备运行状态进行仿真预测，从而获得关于实体设备的实时准确预测。此外，针对基于传统静态数字孪生模型在动态环境下仿真预测精度不高的技术问题，本发明基于汤普森采样的在线学习方法，动态更新各项预测参数，能够保持数字孪生模型与实体模型的一致性。

为实现上述目的，本发明采用以下技术方案实现。

一种基于在线学习的实体设备数字孪生建模仿真预测方法。

对于实体设备，基于静态的初始训练数据(利用其物理属性、运行历史等数据)和动态的实时运行状态数据，利用多层神经网络构建其数字孪生模型，并利用该模型对实体设备运行状态进行仿真预测，获得关于实体设备的实时准确预测；同时，基于汤普森采样的在线学习方法动态更新各项预测参数，保持数字孪生模型与实体模型的一致性。从而精准预测实体运行的全流程轨迹。

其中，数字孪生模型，是基于特征参数的动态数字孪生建模，包括基于深度学习的基础预测模块和基于在线学习的差异预测模块；

基础预测模块为基于物理模型构建的多层神经网络，差异预测模块为基于汤普森采样的带有适应器的自动学习预测器，用于捕捉基础预测模块预测值与真实值之间的差距，并基于实体返回的运行状态动态，更新各项预测参数；将这两个模块的预测结果进行融合，作为最终的预测结果。

有益效果

对比现有技术，本发明具有以下优点：

1.与传统方法相比，本发明能够准确地捕捉实体在运行过程中的动态变化，抵抗实体运行中随时间变化的干扰因素。同时，本发明融合了基于物理模型的基础预测和自适应变化的差异预测，提高了模型的鲁棒性和泛化能力，更加符合实际场景需要。可以适应实体动态变化的扰动。

2.本方法拥有在线学习更新的优点，可以实现建模特征参数的在线更新，实时与实体进行交互，能够实时监测和预测结果的变化，并动态更新模型参数，保持模型与实体的一致性，从而更好地适应现实场景中复杂多变的情况。

3.本方法数据获取方式更加便捷，对初始数据量要求较低，节约了数据存储的承办，操作简便，实操性高，应用广泛。

附图说明

图1为本发明的模型结构示意图；

图2为本发明给出的静态预测结果与真实结果之间的对比图；

图3为本发明给出的预测结果的遗憾值变化图。

具体实施方式

为使本发明解决的问题、采用的方案和达到的效果更加清楚，下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅表示了与本发明相关的部分而非全部内容。

如图1所示，一种基于在线学习的实体设备数字孪生建模仿真预测方法，包括以下步骤：

步骤1：构建基于深度学习的基础预测模块，寻找输入数据与标签之间的对应关系。

该模块为基于多层神经网络的基础预测模块。基础预测模块是基于实体的基本物理属性，构建关于自变量x和因变量y之间的数学模型，拟合多项式变化曲线。其中，自变量x(输入数据)包括实体设备的特征参数(例如实体设备的直径、重量、温度等属性)，因变量y(标签)为实体的运行状态。

基础预测模块的输入为自变量x，输出为因变量y。训练数据为自变量x_train和因变量y_train，且符合以上x和y的一般性要求。训练方法为梯度下降法，可以采用MSELoss作为损失函数，以最小化损失函数为目标，进行迭代训练(例如，训练次数为30000)。

为了不失一般性，自变量x和因变量y满足：x、y是一维向量或多维向量，即，x满足

d₁≥1，d₁表示自变量x的维数；y满足

d₂≥1，d₂表示因变量y的维数。R表示实数，即，本发明所涉及变量应在实数域范围内。

基础预测模块经过先验专家知识指导的预训练后，能够根据输入的自变量x预测实体的因变量y_dp。

步骤2：构建基于在线学习差异预测模块，寻找基础预测结果与真实值之间差距的规律。

差异预测模块是一个根据实时结果动态更新参数的在线预测模型，能够根据实体设备返回的真实数据，动态调整数字孪生模型的预测。

本模型优选采用线性汤普森采样方法，为自变量x的每一维度维护一个动态变化的权重向量θ，以此来预测参数特征在各个取值时基础预测模块的误差。

具体地，设差异预测模块的输入参数为

R表示实数，即，将自变量x每种参数特征和步骤1中基础预测模块的预测值串联拼接，输出误差y_Δ为：y_Δ＝y-y_dp，即，真实的因变量y与步骤1中预测的因变量y_dp之间的差距。

根据线性汤普森采样算法，设输出y_Δ与输入参数(x,y_dp)之间储存在线性的比例关系y_Δ＝(x,y_dp)*θ，θ是权重参数。参数θ的每一维度服从一个已知的先验分布，在此基础上，根据交互记录获得权重参数的后验分布。

在每次预测结束后，根据返回的实体设备运行结果，差异预测模块使用梯度下降法，对各项参数进行更新。

具体地，以高斯噪声为例，设干扰因素的分布属于高斯分布

更新方法如下：

其中，X是所有历史交互记录的自变量x组成的矩阵。I表示单位矩阵。Reward为当前实体返回结果。v为初始化方差，是由用户预先输入的超参数。

表示矩阵X的转置。μ表示高斯分布的均值，σ表示高斯分布的方差。

在线场景下，差异预测模块通过与实体设备的交互进行动态学习。训练数据包括自变量x、基础预测模块对x的预测的因变量y_dp、以及真实的因变量y。

训练方法为：模型在每一轮训练中输入x和y_dp并预测其可能的误差，预测值为

然后，根据实体设备返回的真实误差y_Δ＝y-y_dp，更新模型的各项预测权重。经过训练后，该模块能够根据自变量x和预测的因变量y_dp预测基础预测结果与真实值之间的差距y_Δ，并根据实体设备返回的真实结果动态更新各项参数。

步骤3：构建滑动窗口适应器，实时检测差异预测模块的预测偏差，并在发现偏差后进行适应性调整。

具体地，包括以下步骤：

步骤3.1：变化检测。

跟踪比较差异预测模块和实体设备的真实结果之间的差距，检测差距发生的显著变化。

采用滑动窗口检测法，选择两个滑动窗口为区间I_t＝(t-N,t)和I_t-N＝(t-2N,t-N)，t为当前时间，N为滑动窗口大小。

以高斯噪声为例，两个滑动窗口分别服从以下的后验分布：

其中，分布

和

之间的距离即为两个窗口之间的距离。

表示高斯分布，μ_t表示当前分布的均值，c_t表示当前分布的方差。

Mahalanobis距离能够用来衡量两个分布之间的距离。使用Mahalanobis距离计算分布

和

之间的距离。当检测到显著的差距变化时，即多个连续区间的Mahalanobis距离大于设定阈值，认为此时实体的部分参数发生了突变，原有的差异预测模块已经不能很好地适应当前实体的预测，需要差异预测模块做出对应调整。

步骤3.2：适应性改变。

在检测到显著变化之后，原先的差异预测模块已经不能够很好地预测实体的运行情况。因此，需重新初始化各项参数，并将各项参数恢复至初始分布，重新学习新的实体运行模式。

步骤4：在线预测。

根据实体设备的各项特征参数，预测实体的运行状态，更新差异预测模块的预测参数，动态调整模型的预测。

在线预测时，使用在步骤1和步骤2训练得到的预测模型，并于在线场景下根据实时输入数据进行预测，更新参数。输入数据为实体的各项自变量x，输出结果为数字孪生模型预测的实体设备运行状态y_twin。

具体地，包括以下步骤：

步骤4.1：将自变量x输入至基础预测模块，输出结果为数字孪生模型的基础运行状态y_dp。

步骤4.2：将输入数据x与预测的因变量y_dp串联拼接为(x,y_dp)，并输入到差异预测模块中，输出结果为基础预测结果与真实值之间的差距y_Δ。

步骤4.3：将预测的因变量y_dp与差异预测模块的结果y_Δ相加，即y_twin＝y_dp+y_Δ，得到数字孪生模型的预测结果。

步骤4.4：当数字孪生模型预测完毕之后，根据实体返回的各项数据，更新自变量x、预测的因变量y_dp与基础模块预测差异y_Δ之间的关系。

更新的各项参数位于差异预测模块，在该轮在线预测结束时进行更新。更新需要使用的数据，其包括该轮自变量x、该轮的预测的因变量y_dp和该轮实体的真实运行状态y，构成差异预测模块自变量与因变量的变量对((x,y_dp),y-y_dp)。

最后，利用该输入数据，基于线性Thompson Sampling算法，运用梯度下降法，更新差异预测模块的各项运行参数。

通过上述步骤效果，实现了对实体设备的数字孪生建模仿真预测。

实施例

基于本发明方法对某实体设备进行仿真预测。

设某实体运行规律具有一定的物理规律，其与多维变量(x₁,x₂,x₃,x₄)有关，之外还存在着一定的对实体运行有影响的干扰因素。

假设干扰因素符合高斯分布，且会随着时间动态变化。假设实体的运行状态y为一维变量，y∈R，且与输入变量x具有多项式数学关系：

其中(a,b,c,d)为常数，干扰因素

符合均值为μ₁，方差为c₁的高斯分布。

首先，使用静态数据训练基础预测模块和差异预测模块，得到的拟合结果如图2所示。从图2中可以看出，相较于单独用深度学习模型预测的基础预测结果，数字孪生模型的融合预测结果与实体的运行结果更加接近。这个过程说明，在有干扰因素的情况下，融合模型可以更好地预测实体运行的各项参数。

之后，将实体和数字孪生模型放入在线场景中进行实验。设置在时间t₀节点处(图3中虚线处)，实体的运行状态将发生一次突变，此次突变后实体的噪声变为高斯分布

如图3所示，在t₀时间点之后预测结果与真实结果之间的差值(用regret表示)突然增高。在t₁时间点(图3中实线处)，适应器检测到实体运行状态发生改变，重新调整差异预测模块的训练，regret逐渐下降，表示数字孪生模型适应了这次突变。

具体步骤如下：

步骤1：设置模型的基础预测模块和差异预测模块参数。

其中，基础预测模块设置为3层线性全连接神经网络，使用ELU函数作为激活函数。损失函数使用均方损失函数MSELoss函数，并使用梯度下降法SGD方法对神经网络进行更新，训练次数设为30000。差异预测模块设置为线性汤普森采样模型，输入为变量x和基础预测模块预测结果y的串联拼接向量。学习率设置为0.001。设置适配器监测的预测差异阈值为0.8，滑动窗口大小为20，连续预测范围阈值为10，即当前20轮预测差异与前40轮到20轮的马氏距离大于阈值0.8的次数大于10次时，认为实体运行参数发生了显著变化。

步骤2：生成静态训练数据集，对基础预测模块和差异预测模块进行静态训练，并保存训练好的模型。

其中，训练集的生成方法为：变量(x₁,x₂,x₃,x₄)为(0,1)之间随机生成的浮点数，生成的数据量大小为1000，运行状态y为根据公式计算出的对应结果。

步骤3：将数字孪生模型部署到在线场景中，通过与实体设备的实时交互，动态更新模型的各项参数。同时，生成在线训练数据集，随机生成每个数据。

为了模拟在线场景，数据集按顺序输入数字孪生模型中，一次预测完后立即对预测参数进行更新，然后输入下一个待训练的数据。为了验证算法能否体现在线学习到实体运行发生的变化，在t₀时间点(图3中虚线处)设置了一次实体运行规律的突变，此次突变后实体的噪声由分布

变为高斯分布

如图3所示，突变后预测值与真实值之间的遗憾大幅增长；随后在t₁时间点(图3中实线处)，适配器检测到发生突变，对差异检测器进行更新。差异检测器重新学习基础预测结果和实际运行结果之间误差的规律，预测值与真实值之间的遗憾逐渐降低，说明了本方法能够检测到学习实体运行的变化并适应这种变化。

Claims (6)

1.一种基于在线学习的实体设备数字孪生建模仿真预测方法，其特征在于：

对于实体设备，基于静态的初始训练数据和动态的实时运行状态数据，利用多层神经网络构建数字孪生模型，并利用该模型对实体设备运行状态进行仿真预测，获得关于实体设备的实时准确预测；同时，利用在线学习方法动态更新各项预测参数，保持数字孪生模型与实体模型的一致性；

其中，数字孪生模型，是基于特征参数的动态数字孪生建模，包括基于深度学习的基础预测模块和基于在线学习的差异预测模块；

基础预测模块为基于物理模型构建的多层神经网络，差异预测模块用于捕捉基础预测模块预测值与真实值之间的差距，并基于实体返回的运行状态动态，更新各项预测参数；将这两个模块的预测结果进行融合，作为最终的预测结果。

2.如权利要求1所述的一种基于在线学习的实体设备数字孪生建模仿真预测方法，其特征在于，具体包括以下步骤：

步骤1：构建基于深度学习的基础预测模块，寻找输入数据与标签之间的对应关系；

该模块为基于多层神经网络的基础预测模块；基础预测模块是基于实体的基本物理属性，构建关于自变量x和因变量y之间的数学模型，拟合多项式变化曲线；其中，作为输入数据的自变量x包括实体设备的特征参数，作为标签的因变量y为实体的运行状态；

基础预测模块的输入为自变量x，输出为因变量y。训练数据为自变量x_train和因变量y_train，且符合以上x和y的一般性要求；训练方法为梯度下降法，以最小化损失函数为目标，进行迭代训练；

其中，自变量x和因变量y满足：x、y是一维向量或多维向量，即，x满足

d₁≥1，d₁表示自变量x的维数；y满足

d₂≥1，d₂表示因变量y的维数；R表示实数，即，本发明所涉及变量应在实数域范围内；

基础预测模块经过先验专家知识指导的预训练后，能够根据输入的自变量x预测实体的因变量y_dp；

步骤2：构建基于在线学习差异预测模块，寻找基础预测结果与真实值之间差距的规律；

差异预测模块是一个根据实时结果动态更新参数的在线预测模型，能够根据实体设备返回的真实数据，动态调整数字孪生模型的预测；

本模型采用线性汤普森采样方法，为自变量x的每一维度维护一个动态变化的权重向量θ，以此来预测参数特征在各个取值时基础预测模块的误差；

设差异预测模块的输入参数为

R表示实数，即，将自变量x每种参数特征和步骤1中基础预测模块的预测值串联拼接，输出误差y_Δ为：y_Δ＝y-y_dp，即，真实的因变量y与步骤1中预测的因变量y_dp之间的差距；

根据线性汤普森采样算法，设输出y_Δ与输入参数(x,y_dp)之间储存在线性的比例关系y_Δ＝(x,y_dp)*θ，θ是权重参数；参数θ的每一维度服从一个已知的先验分布，在此基础上，根据交互记录获得权重参数的后验分布；

在每次预测结束后，根据返回的实体设备运行结果，差异预测模块使用梯度下降法，对各项参数进行更新；

在线场景下，差异预测模块通过与实体设备的交互进行动态学习；训练数据包括自变量x、基础预测模块对x的预测的因变量y_dp、以及真实的因变量y；

训练方法为：模型在每一轮训练中输入x和y_dp并预测其可能的误差，预测值为

然后，根据实体设备返回的真实误差y_Δ＝y-y_dp，更新模型的各项预测权重；经过训练后，该模块能够根据自变量x和预测的因变量y_dp预测基础预测结果与真实值之间的差距y_Δ，并根据实体设备返回的真实结果动态更新各项参数；

步骤3：构建滑动窗口适应器，实时检测差异预测模块的预测偏差，并在发现偏差后进行适应性调整；

步骤4：在线预测；

根据实体设备的各项特征参数，预测实体的运行状态，更新差异预测模块的预测参数，动态调整模型的预测；

在线预测时，使用在步骤1和步骤2训练得到的预测模型，并于在线场景下根据实时输入数据进行预测，更新参数；输入数据为实体的各项自变量x，输出结果为数字孪生模型预测的实体设备运行状态；

最后，利用该输入数据，基于线性算法，运用梯度下降法，更新差异预测模块的各项运行参数。

3.如权利要求2所述的一种基于在线学习的实体设备数字孪生建模仿真预测方法，其特征在于，步骤2中，对于高斯噪声，设干扰因素的分布属于高斯分布

更新方法如下：

μ＝(X^TX+I)^-1X^TReward

σ＝v²(X^TX+I)^-1

其中，X是所有历史交互记录的自变量x组成的矩阵；I表示单位矩阵；Reward为当前实体返回结果；v为初始化方差，是由用户预先输入的超参数；X^T表示矩阵X的转置；μ表示高斯分布的均值，σ表示高斯分布的方差。

4.如权利要求2所述的一种基于在线学习的实体设备数字孪生建模仿真预测方法，其特征在于，步骤3的实现方法如下：

步骤3.1：变化检测；

跟踪比较差异预测模块和实体设备的真实结果之间的差距，检测差距发生的显著变化；

采用滑动窗口检测法，选择两个滑动窗口为区间I_t＝(t-N,t)和I_t-N＝(t-2N,t-N)，t为当前时间，N为滑动窗口大小；

使用Mahalanobis距离计算分布

和

之间的距离；当检测到显著的差距变化时，即多个连续区间的Mahalanobis距离大于设定阈值，认为此时实体的部分参数发生了突变，原有的差异预测模块已经不能很好地适应当前实体的预测，需要差异预测模块做出对应调整；

步骤3.2：适应性改变；

重新初始化各项参数，并将各项参数恢复至初始分布，重新学习新的实体运行模式。

5.如权利要求4所述的一种基于在线学习的实体设备数字孪生建模仿真预测方法，其特征在于，步骤3.1中，对于高斯噪声，两个滑动窗口分别服从以下的后验分布：

其中，分布

和

之间的距离即为两个窗口之间的距离；

表示高斯分布，μ_t表示当前分布的均值，c_t表示当前分布的方差。

6.如权利要求2所述的一种基于在线学习的实体设备数字孪生建模仿真预测方法，其特征在于，步骤4包括以下步骤：

步骤4.1：将自变量x输入至基础预测模块，输出结果为数字孪生模型的基础运行状态y_dp；

步骤4.2：将输入数据x与预测的因变量y_dp串联拼接为(x,y_dp)，并输入到差异预测模块中，输出结果为基础预测结果与真实值之间的差距y_Δ；

步骤4.3：将预测的因变量y_dp与差异预测模块的结果y_Δ相加，即y_twin＝y_dp+y_Δ，得到数字孪生模型的预测结果；

步骤4.4：当数字孪生模型预测完毕之后，根据实体返回的各项数据，更新自变量x、预测的因变量y_dp与基础模块预测差异y_Δ之间的关系；

更新的各项参数位于差异预测模块，在该轮在线预测结束时进行更新；更新需要使用的数据，其包括该轮自变量x、该轮的预测的因变量y_dp和该轮实体的真实运行状态y，构成差异预测模块自变量与因变量的变量对((x,y_dp),y-y_dp)。

Images