CN115329853B - 一种基于多源域迁移的装备参数预测与知识转移方法 - Google Patents
一种基于多源域迁移的装备参数预测与知识转移方法 Download PDFInfo
- Publication number
- CN115329853B CN115329853B CN202210929834.5A CN202210929834A CN115329853B CN 115329853 B CN115329853 B CN 115329853B CN 202210929834 A CN202210929834 A CN 202210929834A CN 115329853 B CN115329853 B CN 115329853B
- Authority
- CN
- China
- Prior art keywords
- data
- prediction
- source domain
- model
- feature
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 39
- 238000013508 migration Methods 0.000 title claims abstract description 28
- 230000005012 migration Effects 0.000 title claims abstract description 28
- 238000012546 transfer Methods 0.000 title claims abstract description 21
- 238000010276 construction Methods 0.000 claims abstract description 34
- 230000004927 fusion Effects 0.000 claims description 14
- 230000008569 process Effects 0.000 claims description 10
- 238000012549 training Methods 0.000 claims description 10
- 238000013507 mapping Methods 0.000 claims description 4
- 230000009467 reduction Effects 0.000 claims description 4
- 230000002787 reinforcement Effects 0.000 claims description 4
- 238000011478 gradient descent method Methods 0.000 claims description 3
- 238000011835 investigation Methods 0.000 claims 1
- 230000003014 reinforcing effect Effects 0.000 claims 1
- 238000013526 transfer learning Methods 0.000 abstract description 16
- 230000000694 effects Effects 0.000 description 10
- 238000004458 analytical method Methods 0.000 description 9
- 238000013528 artificial neural network Methods 0.000 description 6
- 238000009826 distribution Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 5
- 230000005641 tunneling Effects 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 238000011160 research Methods 0.000 description 4
- 238000013527 convolutional neural network Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 230000014509 gene expression Effects 0.000 description 3
- 230000000052 comparative effect Effects 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000007500 overflow downdraw method Methods 0.000 description 2
- 238000012216 screening Methods 0.000 description 2
- 238000005728 strengthening Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000011065 in-situ storage Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000006403 short-term memory Effects 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于多源域迁移的装备参数预测与知识转移方法，针对单个装备或多个装备在不同施工环境下获取的施工参数预测知识如何有效转移的问题，本发明中所提出的方法框架可以有效地学习不同工程项目的施工知识，并可以根据多个源域和目标域的数据分布选择适合迁移的源域。通过多源域迁移学习同时学习各种工况和地质条件下装备施工知识的共性和差异性，最终实现装备参数的精准预测和预测知识跨工程项目的有效转移。
Description
技术领域
本发明属于计算技术领域，具体涉及一种基于多源域迁移的装备参数预测与知识转移方法。
背景技术
大型工程项目是现代化建设的重要组成部分，对国家经济和社会发展起着十分重要的作用。工程项目中施工装备多样化、专业化的发展趋势使装备操作运行知识越来越复杂庞大。通过装备的运行和状态构建装备参数预测模型，实现参数的提前预测，有利于装备的精准控制，提高工程建成质量。
目前，国内外在装备参数的分析预测方面的研究主要包括：理论分析方法，数值分析方法和基于数据驱动的方法。
(1)理论分析法根据装备自身或与环境之间的作用建立模型，研究装备的运行行为。但装备运行时未知因素较多并难以从理论上描述，传统的基于理论模型的方法难以在施工现场直接应用。
(2)数值分析法基于工程经验、现场测量和施工历史数据对装备参数进行统计分析和预测。基于数值模拟分析的研究较多集中在二元参数的分析，往往忽略了装备状态和运行参数之间的相关性。
(3)数据驱动方法主要使用机器学习和深度学习，挖掘装备状态和运行参数之间的关系，实现装备参数的预测。但是现有研究没有考虑在工程施工初期只有少量训练数据的情况下，如何保证预测模型的效果。
理论分析法和数值分析法为装备参数的控制提供了一定的理论依据，但这些研究对装备参数的预测能力是有限的。在复杂多变的施工环境下，装备施工参数和运行状态之间的关系无法通过简单或固定的数学表达式进行描述。而基于数据驱动的预测模型几乎仅使用当前施工项目的大量施工数据训练，缺乏考虑通过迁移学习引入其它相关工程项目的有用信息和知识。特别是，没有考虑工程项目之间的相关关系。此外，现有迁移学习的研究关注在域不变特征表示的学习上，通过迁移相对一般的特征，辅助目标域执行不同的学习任务。较少有研究考虑如何同时在多源域迁移过程中捕捉多个域之间的共性和特异性。当源域数据来自多个分布时，统一进行域不变特征学习是不理想的。特别是在工程项目中，不同的数据分布可能代表着地质情况和工况的差异，过度强调一般特征会忽视域特殊特征，而这些域特殊特征可能是与目标域密切相关并有利于目标域模型性能的提升。
经对现有的专利文献的检索发现：
申请专利号为：CN202210083233.7，专利名称为：一种基于卷积神经网络和知识迁移的信号分类识别方法，该专利采用卷积神经网络提取雷达信号特征，并利用迁移学习技术提升卷积神经网络的训练速率和预测精度。
申请专利号为：CN202210177982.6，专利名称为：基于知识迁移的模糊推理系统小样本缺陷检测方法及装置，该专利提出了一种针对知识迁移的模糊推理系统，通过迁移知识构建模糊逻辑系统的各个部分，以模糊推理的方式实现知识迁移，从而实现小样本条件下的工业缺陷检测。
申请专利号为：CN202110604325.0，专利名称为：一种知识迁移方法、无线网络设备个体识别方法及系统，该专利采用改进的TrAdaboost算法，基于无线网络设备个体暂态特征数据样本，实现小样本数据知识迁移。
申请专利号为：CN201910912401.7，专利名称为：一种基于知识转移的动态工业数据分类方法，该专利利用集成自编码器对数据分布变化进行检测，并利用工况变化和数据演化之间的关联性，采用知识转移的方法进行新分类器的训练，达到在复杂工业条件下，对动态数据进行分类的目的。
申请专利号为：CN202111386994.1，专利名称为：一种盾构姿态位置偏差预测方法，该专利使用混合深度神经网络和迁移学习方法避免了盾构初始阶段中仅有少量的数据进行训练，导致预测效果不准确的情况。
上述相关专利在知识转移过程中均忽视了多源域的情况，没有考虑到在有多个知识来源的条件下，如何处理多个源域知识之间的关联和冲突，以及如何权衡知识转移过程中保留的源域一般特征和域特殊特征的问题。
发明内容
为了解决上述现有技术存在的缺陷，本发明的目的在于提供一种基于多源域迁移学习和特征差异加强的装备参数预测与知识转移方法，可以有效地学习不同工程项目的施工知识，并可以根据多个源域和目标域的数据分布选择适合迁移的源域。通过多源域迁移学习同时学习各种工况和地质条件下装备施工知识的共性和差异性，最终实现装备参数的精准预测和预测知识跨工程项目的有效转移。
本发明采用的技术方案如下：
一种基于多源域迁移的装备参数预测与知识转移方法，包括以下步骤：
步骤1：对每个候选源域建立一个RC_LSTM模型，得到C个装备参数预测模型；
步骤2：分别使用C个装备参数预测模型预测目标域数据，得到预测值，并计算各装备参数预测模型对目标域数据的预测值和真实值之间的拟合优度，选择拟合优度符合条件的E个装备参数预测模型作为可迁移的源域模型；
步骤3：通过特征融合对所选择的E个可迁移源域模型进行集成，并用目标域数据对集成后的模型进行整体微调，获得最终的预测网络。
采用上述技术方案，通过混合深度神经网络和多源域迁移学习，实现了工程项目中装备参数的精准预测和装备参数预测知识的有效转移。所提出的多源域迁移学习方法框架使用混合深度神经网络有效地学习不同工程项目的施工知识，并可以根据多个源域和目标域的数据分布选择适合迁移的源域。针对装备参数的精确预测和预测知识的有效转移问题，多源域迁移学习的想法是通过同时而不是单独学习来利用各种工况和地质条件下装备施工知识的共性和差异性。
优选地，所述步骤1中的RC_LSTM模型包括输入层、卷积层、LSTM层、跳跃连接和全连接层。
具体地，所述步骤2包括如下步骤：
步骤2.1：基于步骤1所得到的装备参数预测模型，对目标域数据进行预测，得到目标域数据的预测值；
步骤2.2：计算目标域数据的预测值与真实值的拟合优度，将拟合优度归一化后作为候选源域数据和目标域数据的相似度判断值；
步骤2.3：基于相似度判断值对候选源域进行降序排列，选取前E个候选源域所对应的装备参数预测模型作为可迁移的源域模型。
优选地，所述步骤3中的集成模型由输入层、可迁移的源域模型、特征差异加强模块和回归层组成。
具体地，所述步骤3中的集成模型构建及微调训练过程包括如下步骤：
步骤3.1：在集成模型的输入层中，将E组目标域数据样本输入到E个源域模型的特征提取器进行高级可转移特征值的提取；
步骤3.2：在多个可迁移源域模型的特征提取器上进行特征差异加强，实现多源域高级特征融合，得到集成模型；
步骤3.3：在集成模型的网络后部，连接回归层，将融合后的高级特征映射到目标数据的真实值上，得到未微调的目标域预测网络，并计算目标域预测网络的输出值预测损失；
步骤3.4：使用目标域数据及梯度下降法对预测网络进行微调及参数更新，获得最终的预测网络。
进一步地，所述步骤3.2的特征差异加强的包括如下步骤：
步骤3.21：针对步骤3.1的E个高级可转移特征，计算其中每个高级可转移特征相较于所有高级可转移特征的均值的差异；
步骤3.22：将差异和高级可转移特征相加，得到带有差异加强的高级特征；
步骤3.23：用全连接层降低特征维度得到，以进行后续的张量堆叠；
步骤3.24：将E个降维后的差异加强的高级特征进行张量堆叠，实现特征融合，进而得到集成模型。
综上所述，由于采用了上述技术方案，本发明的有益效果是：
1、与现有装备知识转移技术中单源域迁移学习方法不同的是，本发明中MTFF框架通过多源域迁移学习，解决了单源域迁移学习中模型知识仅来源于某一源域，知识获取有限的问题，多源域迁移学习通过整合多个源域，学习多个源域数据所包含的知识，一定程度上可以得到更通用的知识，并减少数据噪声对模型的影响，生成更稳定的预测结果，从而相较于单源域迁移学习更好地辅助目标域相关任务的学习。
2、与现有数据融合技术中底层数据融合方法和高层数据融合方法不同的是，本发明中的MTFF框架通过基于特征差异加强的数据融合技术，解决了现有技术中存在的只关注源域一般特征提取的问题，基于特征差异加强的数据融合通过计算不同源域高级可转移特征之间的差异，保证了各源域的相对独立性，可以强化源域所隐含的知识。在后续模型集成时，特征之间的差异也有助于MTFF框架抑制无效特征并增强重要特征。从而挖掘现有数据融合技术所关注不到的有价值的域特殊特征。
3、与现有装备参数预测技术中传统数据驱动方法不同的是，本发明中的MTFF框架通过结合混合深度神经网络和多源域迁移学习，放宽了现有技术对模型训练数据的严格要求，在工程项目初期或者复杂多变的施工环境下，MTFF框架可以拟合施工参数间的映射关系，将源域数据所学到的不同地质情况和工况下的施工知识转移到目标域上，辅助目标域的决策，从而避免传统数据驱动方法在训练数据不充足或数据分布发生改变时容易产生的过拟合或欠拟合的问题。
4、本发明适用于多种装备运行参数的预测问题，如盾构刀盘扭矩、盾构掘进速率、设备电力负荷，以及设备故障诊断等。
附图说明
本发明将通过例子并参照附图的方式说明，其中：
图1是本发明的一种具体实施方式的框架流程示意图；
图2是本发明的一种具体实施方式的RC_LSTM模型示意图；
图3是本发明的一种具体实施方式的集成模型构建示意图；
图4～6是本发明的MTFF在盾构机的盾首水平偏差(HDSH)预测目标上的预测效果图；
图7～9是本发明的MTFF在盾构机的盾首垂直偏差(VDSH)预测目标上的预测效果图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本申请实施例的组件可以各种不同的配置来布置和设计。因此，以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围，而是仅仅表示本申请的选定实施例。基于本申请的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本申请保护的范围。
下面结合图1～图9对本发明作详细说明。
如图1所示本发明提供了一种基于特征差异加强的多源域迁移学习框架(MTFF)，用于装备参数预测和装备知识转移。
MTFF由三部分组成，分别为：初始化模型训练、多源域选择、基于特征差异增强的集成模型构建和微调。
步骤1：对每个候选源域建立一个RC_LSTM模型，得到C个装备参数预测模型RC_LSTM-S。RC_LSTM模型由输入层、卷积层、长短期记忆(LSTM)层和残差网络的跳跃连接和全连接层组成。
步骤2：分别使用C个RC_LSTM-S模型预测目标域数据，得到预测值
计算各模型对目标域数据的预测值和真实值之间的拟合优度，并选择拟合优度较高的E个候选源域作为可迁移的源域。
步骤3：通过特征融合对所选择的E个可迁移源域模型进行集成。最后，使用目标域数据对集成后的模型进行整体微调，获得最终的预测网络。由此，从多个源域中提取的知识和经验被保留并被用来训练新的模型。
所述步骤1中的RC_LSTM模型包括输入层、卷积层、LSTM层、跳跃连接和全连接层。RC_LSTM模型结构如图2所示。
在输入层，第k组源域样本
在一个训练批次中输入到模型中。在RC_LSTM模型中，源域样本首先由两层卷积层进行噪声过滤，并将长输入序列转化为短序列。之后，用几层堆叠的LSTM层提取高级特征，因为LSTM可以从装备施工数据中提取时间变化特征。在此过程中，利用残差网络的跳跃连接来解决多层神经网络训练过程中深度神经网络性能下降的问题。令Fk(·)表示第k组源域样本的特征提取器(特征提取器包括输入层、卷积层、LSTM层、跳跃连接和卷积层)，经过特征提取器得到的高级特征
可以表示为：
其中，
是第k组源域样本，
表示特征提取器的参数。
利用预测器生成第k组源域样本的预测值，表示如下：
其中，Rk(·)表示第k组源域样本的预测器，
表示预测器的参数，
是第k组源域样本的预测值。
所述步骤2的具体实施包括如下步骤：
步骤2.1：根据步骤1得到C个由候选源域数据训练的装备参数预测模型
由Fk(·)和Rk(·)组成；使用
直接对目标域数据
进行预测，得到目标域数据的预测值
其中，
表示目标域数据的模型输入，
表示装备参数预测模型
的参数。
步骤2.2：计算预测值
与真实值
的R2(R-square)，将R2归一化后作为候选源域数据和目标域数据的相似度判断值。
其中，MinMaxScaler表示最大-最小归一化方法。
步骤2.3：将计算得到的相似度降序排列，选取前E个相似度所代表的源域进行后续的模型集成与迁移。
所述步骤3的集成模型由输入层、可迁移的源域模型、特征差异加强模块和回归层组成，如图3所示。集成模型的具体构建及微调训练过程包括如下步骤：
步骤3.1：：在集成模型的输入层中，将E组目标域样本输入到E个源域模型(经由步骤2得到)的特征提取器Fk(·)上进行高级可转移特征的提取。经过第k个源域模型特征提取器得到的高级特征
表示如下：
其中，Fk(·)是第k个源域模型的特征提取器，
表示第k个源域模型特征提取器的参数。
步骤3.2：在多个可迁移源域模型的特征提取器上进行特征差异加强，实现多源域高级特征融合，得到集成模型。
步骤3.3：在集成模型的网络后部，连接回归层(由多层全连接网络堆叠)，将融合后的高级特征映射到目标数据的真实值上，得到未微调的目标域预测网络。
其中，
表示经过特征差异加强和降维的融合特征，RT(·)表示目标域的回归层，
表示目标域回归层的参数，
表示目标域预测网络的预测值。
目标域预测网络的输出值预测损失表示为：
其中，
表示目标域预测网络的预测值，
表示真实值。
步骤3.4：使用目标域数据及梯度下降法对预测网络进行微调。
其中，
是目标域预测网络的参数。
参数更新方式如下：
其中，η是学习率。最终，Fk(·)学习提取适用于fk(·)和RT(·)的目标域特征。经过微调，Fk(·)、fk(·)和RT(·)的组合构成了最终的预测网络。
所述步骤3.2的特征差异加强的具体实施包括如下步骤：
步骤3.21：针对C1步骤的E个高级特征值
计算其中每个高级特征值相较于所有高级特征值的均值的差异值
计算公式如下：
步骤3.22：将差异值
和原高级特征值
相加，得到带有差异加强的高级特征值
表示如下：
步骤3.23：用全连接层降低
特征维度得到
以进行后续的张量堆叠。
其中fk(·)是全连接层，
是全连接层的参数。
步骤3.24：将E个降维后的差异加强的高级特征值进行张量堆叠，实现特征融合。
盾构机作为工程项目中重要的装备，广泛应用于地铁、管廊等隧道及地下空间建设。在掘进过程中，使盾构沿设计轴线行进对于保障盾构掘进的安全和隧道的建成质量具有重要意义。下面以盾构掘进过程中盾构姿态位置偏差预测的实现为例，说明MTFF方法在装备参数预测与知识转移上的适用性：
选取位于中国西南、华南和东北三个不同地域城市的八个盾构施工项目(由A-G表示)作为候选源域。八个施工项目使用的都是直径为6280mm的土压平衡盾构机。从每个项目收集的数据包括现场勘察的地质数据、隧道几何特征数据、盾构采集系统实时记录的施工数据和VMT导向数据。每个项目的数据整合为一个数据集，并从每个数据集中选取1万条序列数据作为候选源域数据，涵盖了多种工况和地质。从三个城市中分别挑选1个项目作为目标域(由O、P、Q表示)，并从这三个项目的数据集中抽取两千条序列数据作为目标域数据(与前述1万条不重叠)。
预测变量为VMT导向系统记录的盾首水平偏差(HDSH)和盾首垂直偏差(VDSH)。使用MinMaxScaler方法对实验数据进行归一化处理，将数据缩放到[0，1]之间，公式如下：
本发明所提出的预测方法旨在依据历史施工数据预测未来盾构位置的变化。预测的样本由具有5个时间间隔(共计大约3分钟)的78个变量的输入和1个时间间隔的输出变量组成。输入样本以1个时间间隔的窗口向前滑动，从而连续预测目标变量。
采用R2，均方根误差(RMSE)和平均绝对误差(MAE)评估预测结果。
其中，n是预测样本的数量，
是第i个样本的预测值，yi是第i个样本的真实值。
基于预测任务，首先使用候选源域数据训练RC_LSTM模型得到8个盾构位置偏差预测模型。然后在候选源域上进行可迁移源域的筛选。基于候选源域的个数将阈值设为3，即从候选源域中选择3个源域作为可迁移源域。
表1和表2是在HDSH和VDSH这两个预测目标上，三个目标域与候选源域的相似度。为了方便比较，目标域与候选源域的相似度被归一化在[0.1，0.9]的范围内。加粗表示经过源域筛选后目标域所对应的可迁移源域。
表1目标域和候选源域在HDSH预测目标上的相似度
表2目标域和候选源域在VDSH预测目标上的相似度
所提出的MTFF在HDSH和VDSH预测目标上对三个迁移学习任务中目标域测试数据集的评估结果如表3和表4所示。F，B，H→O表示可迁移源域为F、B、H，目标域为O的迁移学习任务。A，E，C→P表示可迁移源域为A、E、C，目标域为P的迁移学习任务。C，B，F→Q表示可迁移源域为C、B、F，目标域为Q的迁移学习任务。G，C，H→O表示可迁移源域为G、C、H，目标域为O的迁移学习任务。D，C，H→P表示可迁移源域为D、C、H，目标域为P的迁移学习任务。H，C，B→Q表示可迁移源域为H、C、B，目标域为Q的迁移学习任务。
表3 MTFF在HDSH预测目标上的预测效果
表4 MTFF在VDSH预测目标上的预测效果
图4-图6和图7-图9分别显示了MTFF模型在HDSH和VDSH预测目标上对三个迁移学习任务目标域测试数据集的预测情况。可以看出，图4-图9中的两条线具有一致的波动趋势，模型具有良好的拟合效果，说明MTFF可以很好地预测盾构掘进过程位置的变化。
表5 MTFF和对比模型在HDSH预测目标上的预测效果
表6 MTFF和对比模型在VDSH预测目标上的预测效果
表5和6表显示了MTFF模型与无迁移模型W/O_TS(Without transfer learning)在HDSH和VDSH预测目标上的预测效果。可以看出，在所有的迁移学习任务上，MTFF都具有比W/O_TS更准确的预测表现。进一步说明MTFF实现了装备参数预测知识跨工程项目的有效转移。
以上所述，以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (2)
1.一种基于多源域迁移的装备参数预测与知识转移方法，其特征在于，包括以下步骤：
步骤1：对每个候选源域建立一个RC_LSTM模型，得到C个装备参数预测模型；
步骤2：分别使用C个装备参数预测模型预测目标域数据，得到预测值，并计算各装备参数预测模型对目标域数据的预测值和真实值之间的拟合优度，选择拟合优度符合条件的E个装备参数预测模型作为可迁移的源域模型；
步骤3：通过特征融合对所选择的E个可迁移源域模型进行集成，并用目标域数据对集成后的模型进行整体微调，获得最终的预测网络；
其中，选取位于不同地域的盾构施工项目作为候选源域，从每个项目收集的数据包括，现场勘察的地质数据、隧道几何特征数据、盾构采集系统实时记录的施工数据和VMT导向数据，每个盾构施工项目的数据整合为一个数据集，并从每个数据集中选取涵盖了多种工况和地质的序列数据作为候选源域数据，从不同地域中分别挑选1个项目作为目标域，并从所挑选项目的数据集中抽取序列数据作为目标域数据；
所述步骤1中的RC_LSTM模型包括输入层、卷积层、LSTM层、跳跃连接和全连接层；
所述步骤3中的集成模型由输入层、可迁移的源域模型、特征差异加强模块和回归层组成；
所述步骤3中的集成模型构建及微调训练过程包括如下步骤：
步骤3.1：在集成模型的输入层中，将E组目标域数据样本输入到E个源域模型的特征提取器进行高级可转移特征值的提取；
步骤3.2：在多个可迁移源域模型的特征提取器上进行特征差异加强，实现多源域高级特征融合，得到集成模型；
步骤3.3：在集成模型的网络后部，连接回归层，将融合后的高级特征映射到目标数据的真实值上，得到未微调的目标域预测网络，并计算目标域预测网络的输出值预测损失；
步骤3.4：使用目标域数据及梯度下降法对预测网络进行微调及参数更新，获得最终的预测网络；
所述步骤3.2的特征差异加强包括如下步骤：
步骤3.21：针对步骤3.1的E个高级可转移特征，计算其中每个高级可转移特征相较于所有高级可转移特征的均值的差异；
步骤3.22：将差异和高级可转移特征相加，得到带有差异加强的高级特征；
步骤3.23：用全连接层降低特征维度得到降维后的差异加强的高级特征，以进行后续的张量堆叠；
步骤3.24：将E个降维后的差异加强的高级特征进行张量堆叠，实现特征融合，进而得到集成模型。
2.根据权利要求1所述的一种基于多源域迁移的装备参数预测与知识转移方法，其特征在于，所述步骤2包括如下步骤：
步骤2.1：基于步骤1所得到的装备参数预测模型,对目标域数据进行预测，得到目标域数据的预测值；
步骤2.2：计算目标域数据的预测值与真实值的拟合优度，将拟合优度归一化后作为候选源域数据和目标域数据的相似度判断值；
步骤2.3：基于相似度判断值对候选源域进行降序排列，选取前E个候选源域所对应的装备参数预测模型作为可迁移的源域模型。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210929834.5A CN115329853B (zh) | 2022-08-04 | 2022-08-04 | 一种基于多源域迁移的装备参数预测与知识转移方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210929834.5A CN115329853B (zh) | 2022-08-04 | 2022-08-04 | 一种基于多源域迁移的装备参数预测与知识转移方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN115329853A CN115329853A (zh) | 2022-11-11 |
| CN115329853B true CN115329853B (zh) | 2023-04-21 |
Family
ID=83922766
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210929834.5A Active CN115329853B (zh) | 2022-08-04 | 2022-08-04 | 一种基于多源域迁移的装备参数预测与知识转移方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN115329853B (zh) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN116561710B (zh) * | 2023-05-12 | 2024-02-02 | 西咸新区大熊星座智能科技有限公司 | 基于数据空间转化的焊接参数迁移学习预测方法 |
| CN116934041B (zh) * | 2023-07-28 | 2024-01-26 | 广州普睿特智能包装科技有限公司 | 一种基于物联网协同的工厂任务管理方法及系统 |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111610768B (zh) * | 2020-06-10 | 2021-03-19 | 中国矿业大学 | 基于相似度多源域迁移学习策略的间歇过程质量预测方法 |
| CN112308158B (zh) * | 2020-11-05 | 2021-09-24 | 电子科技大学 | 一种基于部分特征对齐的多源领域自适应模型及方法 |
| CN114548199A (zh) * | 2021-10-09 | 2022-05-27 | 中国舰船研究设计中心 | 一种基于深度迁移网络的多传感器数据融合方法 |
| CN114048568B (zh) * | 2021-11-17 | 2024-04-09 | 大连理工大学 | 一种基于多源迁移融合收缩框架的旋转机械故障诊断方法 |
| CN114241265A (zh) * | 2021-12-15 | 2022-03-25 | 北京工业大学 | 一种基于样本权重的多源域多层级迁移学习方法 |
-
2022
- 2022-08-04 CN CN202210929834.5A patent/CN115329853B/zh active Active
Also Published As
| Publication number | Publication date |
|---|---|
| CN115329853A (zh) | 2022-11-11 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN115329853B (zh) | 一种基于多源域迁移的装备参数预测与知识转移方法 | |
| CN109655259B (zh) | 基于深度解耦卷积神经网络的复合故障诊断方法及装置 | |
| CN109635677B (zh) | 基于多标签分类卷积神经网络的复合故障诊断方法及装置 | |
| CN108960499B (zh) | 一种融合视觉和非视觉特征的服装流行趋势预测系统 | |
| CN111950191B (zh) | 基于混合深度神经网络的回转窑烧结温度预测方法 | |
| CN115096590A (zh) | 一种基于iwoa-elm的滚动轴承故障诊断方法 | |
| CN111144281B (zh) | 基于机器学习的城市轨道交通od客流估计方法 | |
| CN101957889A (zh) | 一种基于选择性磨损的设备最优维修时间预测方法 | |
| CN109614495A (zh) | 一种结合知识图谱和文本信息的相关公司挖掘方法 | |
| CN111507155A (zh) | 联合U-Net++和UDA的微地震有效信号初至拾取方法及装置 | |
| CN114034486A (zh) | 基于无监督迁移学习的泵类机械设备轴承故障诊断方法 | |
| CN114219181A (zh) | 基于迁移学习的风电功率概率预测方法 | |
| CN109993281A (zh) | 一种基于深度学习的因果关系挖掘方法 | |
| CN113850161B (zh) | 基于lstm深度降噪自编码器的飞轮故障识别方法 | |
| Qin et al. | RCLSTMNet: A Residual-convolutional-LSTM Neural Network for Forecasting Cutterhead Torque in Shield Machine | |
| CN115270882A (zh) | 基于神经常微分方程的轻量化智能故障诊断方法及系统 | |
| CN116646929A (zh) | 一种基于pso-cnn-bilstm的短期风电功率预测方法 | |
| CN115423146A (zh) | 一种基于多因子最近邻抽样回归和支持向量机的自适应径流预报方法 | |
| CN110598326A (zh) | 一种基于人工智能的试井解释方法 | |
| CN114782740A (zh) | 结合遗传优化与极端梯度提升的遥感水质监测方法 | |
| CN117664575A (zh) | 基于双图注意力和gru的滚动轴承剩余使用寿命预测方法 | |
| CN113431635A (zh) | 半监督的盾构隧道掌子面地质类型预估方法及系统 | |
| Mete et al. | Predicting semantic building information (BIM) with Recurrent Neural Networks | |
| CN113095479A (zh) | 一种基于多尺度注意力机制的冰下层结构提取方法 | |
| CN116992757A (zh) | 基于深度学习和滚动优化的井口压力预测方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |