CN113536670A - 一种群体产品剩余寿命预测的联邦迁移学习方法 - Google Patents
一种群体产品剩余寿命预测的联邦迁移学习方法 Download PDFInfo
- Publication number
- CN113536670A CN113536670A CN202110778141.6A CN202110778141A CN113536670A CN 113536670 A CN113536670 A CN 113536670A CN 202110778141 A CN202110778141 A CN 202110778141A CN 113536670 A CN113536670 A CN 113536670A
- Authority
- CN
- China
- Prior art keywords
- model
- prediction model
- product
- parameters
- life prediction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 79
- 238000013526 transfer learning Methods 0.000 title claims abstract description 19
- 238000012549 training Methods 0.000 claims abstract description 50
- 230000008569 process Effects 0.000 claims abstract description 30
- 238000012360 testing method Methods 0.000 claims abstract description 12
- 238000010276 construction Methods 0.000 claims abstract description 9
- 238000007781 pre-processing Methods 0.000 claims abstract description 8
- 238000013508 migration Methods 0.000 claims description 42
- 230000005012 migration Effects 0.000 claims description 42
- 239000000178 monomer Substances 0.000 claims description 25
- 238000012545 processing Methods 0.000 claims description 22
- 230000000694 effects Effects 0.000 claims description 17
- 230000008014 freezing Effects 0.000 claims description 12
- 238000007710 freezing Methods 0.000 claims description 12
- WHXSMMKQMYFTQS-UHFFFAOYSA-N Lithium Chemical compound [Li] WHXSMMKQMYFTQS-UHFFFAOYSA-N 0.000 description 23
- 229910052744 lithium Inorganic materials 0.000 description 23
- 238000010606 normalization Methods 0.000 description 20
- 238000009499 grossing Methods 0.000 description 12
- 238000005516 engineering process Methods 0.000 description 9
- 238000012423 maintenance Methods 0.000 description 8
- 230000015556 catabolic process Effects 0.000 description 7
- 238000006731 degradation reaction Methods 0.000 description 7
- 238000011160 research Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- HBBGRARXTFLTSG-UHFFFAOYSA-N Lithium ion Chemical compound [Li+] HBBGRARXTFLTSG-UHFFFAOYSA-N 0.000 description 4
- 230000004913 activation Effects 0.000 description 4
- 229910001416 lithium ion Inorganic materials 0.000 description 4
- 230000036961 partial effect Effects 0.000 description 4
- 230000002829 reductive effect Effects 0.000 description 4
- 238000013459 approach Methods 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 230000018109 developmental process Effects 0.000 description 3
- 230000036541 health Effects 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 3
- 238000007726 management method Methods 0.000 description 3
- 239000013598 vector Substances 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000007405 data analysis Methods 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- 238000012935 Averaging Methods 0.000 description 1
- 206010011906 Death Diseases 0.000 description 1
- 206010063385 Intellectualisation Diseases 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 230000002776 aggregation Effects 0.000 description 1
- 238000004220 aggregation Methods 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 239000010406 cathode material Substances 0.000 description 1
- 238000010277 constant-current charging Methods 0.000 description 1
- 238000002790 cross-validation Methods 0.000 description 1
- 238000007418 data mining Methods 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 238000007599 discharging Methods 0.000 description 1
- 238000004880 explosion Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000008439 repair process Effects 0.000 description 1
- 238000012827 research and development Methods 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000002759 z-score normalization Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
- G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/18—Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
- G06F2119/04—Ageing analysis or optimisation against ageing
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Computing Systems (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Pure & Applied Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Molecular Biology (AREA)
- Medical Informatics (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Computational Mathematics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Probability & Statistics with Applications (AREA)
- Computer Hardware Design (AREA)
- Databases & Information Systems (AREA)
- Algebra (AREA)
- Geometry (AREA)
- Operations Research (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
提出一种群体产品剩余寿命预测的联邦迁移学习方法，包括：获取群体产品原始数据集；将所述原始数据集进行预处理，得到训练集和测试集；将所述训练集送入已构建的群体产品剩余寿命预测模型，并进行训练；其中，所述群体产品剩余寿命预测模型的构建过程包括：设计针对所述群体产品剩余寿命预测的总体框架，所述总体框架包括多个单体产品端和一个中央服务器端；构建基于LSTM的剩余寿命预测模型；基于所述LSTM的剩余寿命预测模型构建所述单体产品端的本地寿命预测模型和和所述中央服务器端的全局寿命预测模型；对全局寿命预测模型进行联邦学习。
Description
技术领域
本发明涉及高端设备的故障测试和预测技术领域，具体而言，涉及一种群体产品剩余寿命预测的联邦迁移学习方法。
背景技术
群体产品指的是既有一定程度的相似性同时又存在一定的差异性的一类产品，随着工业化程度的提高，群体产品逐渐由单一化和简单化向智能化和复杂化发展，在很多领域有着越来越重要的应用价值，这对群体产品的可靠性提出了较高的要求。然而传统的定期保养和故障后维修的手段已经无法满足产品高可靠性的要求，PHM技术(故障预测和健康管理)的出现为提高群体产品的可靠性提供了一种可行的解决办法。PHM技术是一种新发展起来的工程技术,根据用途总体上可以分为剩余寿命预测和健康管理两个部分。对剩余寿命的预测给设备维修起到了指引作用，而健康管理则是对维修和保障工作进行分配规划，可有效提高维修效率并节约维修成本。PHM技术的具体实施流程是利用各种传感器采集到的设备状态信息通过有线或无线传输方式将数据传输至处理系统，运用数据挖掘和信息融合等技术，快速、精准地给出产品设备的智能维护计划，从而降低设备维护过程的时间成本和经济耗费。推进PHM技术的进一步发展有助于进一步提升产品设别的可靠性和维修性，这一技术已经成为实现产品设备智能维护的一项关建手段。
在群体产品上采集到的产品运行状态数据相似性有限，直接整合数据不利于预测结果的准确度，在联合建模时出现较大困难，“数据孤岛”的困局和近几年发布的关于数据隐私保护问题的相关法案更是进一步限制了企业间交换数据的自由，“数据孤岛”的困局和隐私保护的问题严重地阻碍了人工智能技术的进一步发展。
上述两大问题导致了可供训练的数据不足，最终导致产品剩余寿命预测结果不够准确，针对这一问题，联邦学习方法应运而生。联邦学习是谷歌公司在训练模型时为解决数据安全问题和数据大批量传输问题而产生的。应用联邦学习后，个人设备端可以不上传本地数据，只需上传本地训练模型权重参数。这样既满足了个人隐私的保护要求，同时也解决了“数据孤岛”的问题。另外利用迁移学习可以将已有的知识应用于新领域，可以节约模型训练时间。
国外相较于国内，在联邦迁移学习中，主要是算法的优化。Sunghwan Park等人提出了一种FedPSO算法来取代FedAvg算法以提升模型准确性。现有的联邦学习聚合算法在执行时需要发送和接收大量权重等信息，在不稳定的网络环境中，发送和接收信息往往需要耗费大量时间，而且有时可能会遗漏某些信息，最终会出现模型预测的准确性大大降低的情况，而FedPSO算法是在对客户端的模型评分后，每轮迭代只需要将评分最高的权重信息传输回服务器，这在不损失模型预测准确度的前提下极大地减少了发送和接收信息耗费的时间。经过实际测试表明，应用FedPSO算法可以显著减少网络通信中使用的数据量，并可有效地提高全局模型地预测准确性。此外，在不稳定的网络环境中进行的实际测试显示利用FedPSO算法相较于传统的FedAvg算法的模型准确性损失也有所降低。AmirhosseinReisizadeh等人的研究关注联邦学习的通信效率不够高的问题，他们从三个方面给出了提升联邦学习通信效率的方法：服务器上仅对客户端更新的模型进行周期性平均；每一轮训练只有部分设备参与；边缘节点在上传到参数服务器之前对其更新进行量化。
总的来看，目前国内外有关联邦学习的研究较为火热，国内主要侧重于实际应用层面，比如商业银行的反欺诈、医学领域的图像分割等实际问题。国外则侧重于原理层面，提出了一些提升联邦学习通信效率和准确性的方法，但发现对联邦迁移学习的研究较少。
群体产品由于使用的企业不同，使用的工况也不同，采集到的产品状态数据存在一定程度上的相似性，所以适合采用联邦迁移学习来进行其剩余寿命的预测，这样既可以保证数据隐私安全，同时又能充分地利用所有采集到的数据，一定程度上可以提高预测的准确度。
因此，本文将联邦学习和迁移学习结合起来，研究群体产品寿命预测的联邦迁移学习方法。
发明内容
为了解决现有技术所存在的问题，本发明提出一种群体产品剩余寿命预测的联邦迁移学习方法。
根据本发明的一个方面，所述方法包括：一种群体产品剩余寿命预测的联邦迁移学习方法，包括：获取群体产品原始数据集；将所述原始数据集进行预处理，得到训练集和测试集；将所述训练集送入已构建的群体产品剩余寿命预测模型，并进行训练；其中，所述群体产品剩余寿命预测模型的构建过程包括：设计针对所述群体产品剩余寿命预测的总体框架，所述总体框架客户-服务器架构，所述总体框架包括多个单体产品端和一个中央服务器端；构建基于LSTM的剩余寿命预测模型；基于所述LSTM的剩余寿命预测模型构建所述单体产品端的本地寿命预测模型和和所述中央服务器端的全局寿命预测模型；经过所述训练得到所述单体产品端的剩余寿命预测模型的权重参数，所述单体产品端将各自训练好的权重参数送到服务器端；所述服务器端对所述单体产品端的权重参数进行参数汇总处理；所述服务器端汇总处理后，确定下一轮迭代的单体产品端预测模型初始化参数。
优选地是，所述参数汇总处理根据每个产品端样本的数目和对产品端样本模型的损失值loss值对权重进行加权处理，并且所述服务器端将经过加权处理后将权重下发给各个单体产品端。
优选地是，所述权重如下式所示：
其中，wi代表第i个产品端预测模型的权重，lossi代表第i个产品端预测模型的均方误差值，综合考虑了样本数和模型损失值对加权系数的影响。w则代表着中央服务器预测模型的权重，k代表单体产品端的个数。
优选地是，所述单体产品端在接收到服务器下发的权重参数后，选择合适的迁移学习策略来更新本地寿命预测模型；所述单体产品端在更新后的本地寿命预测模型的基础上，再次接收原始数据，对模型进行训练，而后上传本地单体产品端的剩余寿命预测模型的权重参数，然后判断循环次数是否已经达到提前设定的迭代次数，若没有达到，则继续从单体产品本地寿命预测模型的训练开始，否则任意选择一个产品端的模型继承所有的权重参数即为最终的全局模型。
优选地是，将LSTM与基于模型的迁移学习结合起来，通过冻结所述中央服务器端全局寿命预测模型的部分或整体来完成迁移学习。
优选地是，所述LSTM寿命预测模型LSTM寿命预测模型。
优选地是，所述基于模型的迁移策略任选自如下三种的任一种：随机初始化权重参数，训练后微调；冻结预训练模型的权重参数；冻结预训练模型的结构参数。
优选地是，第一种迁移策略是先将预训练模型直接迁移，然后将该模型的第一层LSTM层、第二层Dense层以及第三层LSTM层的结构参数保持不变，随机化其权重参数，随后输入其他同类产品的数据X(t)'，对得到的新模型进行训练，根据输出结果寿命t'不断对前三层的权重参数进行微调，最终得到一个预测效果较好的模型。
优选地是，第二种迁移策略是先将预训练模型直接迁移，然后将该模型的第一层LSTM层和第二层Dense层的结构参数保持不变，随机化其权重参数，随后输入其他同类产品的数据X(t)”，对得到的新模型进行训练，根据输出结果寿命t”不断对前两层的权重参数进行微调，最终得到一个预测效果较好的模型。
优选地是，第三种迁移策略是先将预训练模型直接迁移，然后将该模型的第一层LSTM层结构参数保持不变，随机化其权重参数，随后输入其他同类产品的数据X(t)”'，对得到的新模型进行训练，根据输出结果寿命t”'不断对第一层的权重参数进行微调，最终得到一个预测效果满意的模型。
附图说明
本公开的各种实施例或样例(“示例”)在以下的具体实施方式和附图中得以公开。没必要将附图按比例绘制。一般而言，除非在权利要求中另有规定，否则可以任意顺序执行本发明所公开方法的操作。附图中：
图1示出了本发明的针对群体产品剩余寿命预测的总体框架；
图2示出了本发明的群体产品寿命预测的联邦迁移学习流程；
图3为单体产品端本地寿命预测模型和中央服务器端全局寿命预测模型的设计；
图4为LSTM网络结构示意图；
图4A为LSTM遗忘门单元；
图4B为LSTM输入门单元；
图4C为LSTM的更新操作；
图4D为判断输出细胞的状态特征；
图5为LSTM寿命预测模型；
图5A是基于LSTM的寿命预测的模型迁移过程示例；
图6为25℃锂电池原始数据；
图6为25℃锂电池原始数据；
图7为25℃锂电池数据归一化结果图；
图8为锂电池数据平滑前后对比图；
图9为基于LSTM的锂电池单体产品端寿命预测模型结构；
图10为单体产品端本地预测结果绘图示例；
图11为基于LSTM的学习策略；
图12为方案一预测结果绘图示例；
图13为方案二预测结果绘图示例；
图14为方案三预测结果绘图示例。
具体实施方式
在详细解释本公开的一个或多个实施例之前，应当理解，实施例不限于它们具体应用中的构造细节，以及下文实施方式或附图所提出步骤或方法。
研究群体产品剩余寿命预测，首先要设计针对群体产品剩余寿命预测的总体框架。客户-服务器架构是最常用的一种架构，它的架构比较简单。在这个框架中，多个拥有本地数据的参与方(也可以称为用户或客户)，在中央服务器(也称为参数服务器或聚合服务器)的帮助下，协作共同训练一个适用于所有参与者的机器学习模型。该框架下的具体工作流程是这样的：(1)多个参与方在本地训练模型，得到模型的权重等参数，之后将这些参数发送给中央服务器等待进一步处理。(2)中央服务器得到参与方上传的参数后进行加权平均处理。(3)中央服务器将加权平均处理后的结果下发给各个参与方。(4)各参与方用中央服务器下发的参数更新本地模型。上述步骤会持续进行，直到达到给定的迭代次数，就得到了最终的模型。
具体来说，本发明设计的针对群体产品剩余寿命预测的总体框架如图1所示。如图1所示，本发明的群体产品剩余寿命预测的总体框架包括多个单体产品端和一个中央服务器端，示例性地给出了三个单体产品。每个单体产品端通过例如是传感器的手段获得群体产品(例如锂电池)的原始数据，首先对原始数据进行预处理，预处理包含数据归一化、数据平滑处理、数据集划分等方式，然后在本地单体产品端进行训练，将得到的权重参数上传给中央服务器端。图1所示的单体产品-服务器架构，其示例性的三个单体产品端彼此之间没有任何交互，只需要将在单体产品端训练好的剩余寿命预测模型的权重参数上传给服务器端，随后服务器端对这些权重参数进行加权平均处理并将处理后的权重参数下发给三个单体产品端，三个单体产品端处采用迁移学习的思路选择部分参数用以更新模型，重复上述操作直到服务器端的剩余寿命预测全局模型收敛。
图2为根据本发明设计的群体产品剩余寿命预测的联邦迁移学习流程图。如图2所示，学习流程图包括：开始时，获取群体产品的原始数据；将原始数据送入单体产品端的剩余寿命预测模型，并进行训练，训练后得到单体产品端的剩余寿命预测模型的权重参数；单体产品端将各自训练好的权重参数送到服务器端；服务器器端汇总所有本地寿命预测模型的权重和损失值，经过加权处理后将权重下发给各个单体产品端；接收到服务器下发的权重参数后，各个单体产品端选择合适的迁移学习策略来更新本地寿命预测模型；单体产品端在更新后的本地寿命预测模型的基础上，再次接收原始数据，对模型进行训练，而后上传本地单体产品端的剩余寿命预测模型的权重参数。上述过程为一个完整的循环，然后判断循环次数是否已经达到提前设定的迭代次数，若没有达到，则继续从单体产品本地寿命预测模型的训练开始，否则任意选择一个产品端的模型继承所有的权重参数即为最终的全局模型。
设计好针对群体产品剩余寿命预测的总体框架后，下面按照框架内容完成任务。首先是单体本地寿命预测模型设计，主要包含了以下两个部分：数据分析及预处理、单体本地寿命预测模型构建，然后是中央服务器端全局寿命预测模型的搭建。具体的流程如图3所示。由传感器采集到的产品运行状态数据往往需要经过预处理，才能用于后续寿命预测模型的训练和测试中。本申请选择使用基于机器学习的方法来建立产品端本地寿命预测模型。
下面将参照图3对本发明的示例性模块进行详细说明。
步骤1：单体产品端数据分析及预处理
由于产品运行过程中的非平稳状态的影响或者传感器采集数据时的异常状况，传感器采集到的产品运行状态数据往往存在较大的波动值或数据异常，直接将采集到的这些数据用于模型的训练得到的模型预测效果大都不好，因此在利用这些数据进行寿命预测前往往需要进行预处理。数据预处理主要包括以下三个部分的内容：数据归一化处理、数据平滑处理、数据集划分。
步骤1.1：数据归一化处理
每次采集到的数据范围尺度不同，如果存在一个尺度范围非常大的数据，小尺度范围的数据对模型训练的影响可以忽略不计，因此需要进行归一化。调研发现常用的数据归一化方法主要有两种：0均值标准化(Z-score standardization)、min-max标准化(Min-Max Normalization)。
0均值标准化是对每一个数据利用下式进行处理，经过处理后数据的分布符合标准正态分布，即均值为0，标准差为1[26]。下式中代表采集到的样本数据，μ表示的是所有样本数据的均值，则是所有样本数据的标准差。
min-max标准化是指经过变换使样本值映射到[0，1]，样本数据X(x1，x2，...的标准化方式如下式。
上述两种数据归一化方法各有优劣。0均值标准化的处理过程相对复杂，需要事先利用样本进行一些计算，相对来说比较复杂。而对于min-max标准化来说，它的处理过程相对简单，本质上是把样本数据变成[0，1]之间的小数，在不涉及距离度量的时候使用min-max标准化方法更为简便。实际在应用时要根据具体情况选择合适的方法。
步骤1.2：数据平滑处理
采集到的数据往往存在毛刺和噪声，直接将其用于预测分析效果不好，需要对原始样本数据进行平滑预处理。局部加权回归(Locally Weighted Regression，LWR)算法在数据平滑处理中经常被用到，它的工作流程如下：首先是把样本划分成多个区间，对局部样本进行多项式拟合，然后用最小二乘法估计拟合值，最后便可以完成对原始样本的平滑处理。局部加权回归算法主要的思想就是根据其他点离观测样本点的距离远近计算出不同的权重系数，将样本点乘以对应的拟合权重相加得到观测点的拟合值，所有的样本点经过这样的处理便可以得到去掉噪声的平滑数据。具体的数学原理如下：
提前设定一个范围尺度为2K，对于样本集Q＝{q1，q2，...，qN}中的任意一个样本点qi(i＝1，2，...，N)，用以下式子得到其加权拟合值。
其中权重系数wi(qk)的值由下式决定，从公式可以看出对于距离观测点qk越远的样本点qi，对应权重系数wi(qk)的值也越小，而对于距离观测点qk越近的样本点qi，对应权重系数wi(qk)的值则越大，这样便可以较好的去除原始数据集中异常的噪声点。
局部加权回归算法可以有效地将原始数据集中的噪声去除，使原始数据绘图曲线变得平滑，有利于避免过拟合或欠拟合的情况发生。
步骤1.3：数据集划分
经过数据归一化处理和数据平滑处理后，在进行模型训练前，还需要将数据集划分为训练集和测试集。K折交叉验证是一种划分数据集的方法，它是通过每次不重复的抽取数据集中的一定数据作为测试集其余作为训练集来完成的，这样可以充分利用数据，适合在分类任务中使用。留出法也是划分数据集时常用到的一种方法，这种方法操作起来比较简便，适合在样本数据量比较充足时使用。具体在应用时，要结合任务需求和数据量的大小来选择合适的方法。
步骤2：构建基于LSTM的剩余寿命预测模型
随着传感器技术的发展，通过传感器获得的产品运行状态数据越来越多，传统的浅层机器学习算法在处理海量数据显得力不从心。而深度学习强大的非线性映射能力和高维特征提取能力使其非常适合应对这种情况。RNN是处理时间序列数据的神经网络，而本文研究的是群体产品，其运行状态数据是随时间慢慢衰减的，属于时间序列数据，因此适合应用RNN来解决。但单纯的RNN存在梯度爆炸和梯度消失的问题，长短期记忆(LSTM)通过选择性的遗忘解决了这一问题。因此本文选用LSTM来进行群体产品剩余寿命的预测，图4是根据本发明的LSTM网络结构示意图。
如图4所示。一个LSTM单元里面包含三个门来控制细胞状态，这三个门分别称为遗忘门、输入门和输出门。
前一时刻的信息在传入下一时刻之前往往要经过选择性的抛弃，遗忘门可以完成这一操作。将ht-1和xt带入如下的公式计算得出一个属于[0，1]之间的向量，向量的值表示细胞状态Ct-1中有多少信息被保留或抛弃。0表示没有保留，1表示所有都保留。遗忘门如图4A所示，其中有：
ft＝σ(Wf·[ht-1，xt]+bf)
下一步是决定向单元状态添加哪些新信息。it是更新信息的权重系数，将ht-1和xt代入如图4B所示的第一个公式可以得到，然后通过激活函数tanh，使用ht-1和xt生成新的候选状态向量
这两步描述如图4B所示，其中有：
it＝σ(Wi·[ht-1，xt]+bi)
通过如下所示的公式可以更新状态信息，根据公式来看更新既涵盖上一时刻部分状态信息同时也包括此时状态信息的一部分。更新操作如图4C所示，其中：
细胞的输出也需要根据ht-1和xt来判断，首先将ht-1和xt带入ot＝σ(Wo[ht-1，xt]+bo)得到判断条件，然后将Ct带入tanh激活函数计算出一个属于[-1，1]之间的向量，再乘以判断条件便得到最终输出。这个步骤如图4D所示，其中：
ot＝σ(Wo[ht-1，xt]+bo)
ht＝ot*tanh(Ct)
步骤3：构建单体产品端本地寿命预测模型和中央服务器端全局寿命预测模型的搭建
在构建基于LSTM的剩余寿命预测模型后，进一步构建单体产品端本地寿命预测模型和中央服务器端全局寿命预测模型。
本地和全局寿命预测模型的搭建是用LSTM层、Dropout层以及Dense层来完成的，一般在搭建过程中，可以先根据经验设计一个原始的模型，然后输入样本根据预测结果的准确度与预测时间的长短来决定增加或减少LSTM的层数，一般来说1至3层的LSTM层即可满足预测结果的准确度要求。图5是根据本发明的一个示例性的LSTM寿命预测模型示例，如图5所示，模型中含有2个LSTM层，2个Dense层。输入是产品的状态数据，示例输出是预测的产品的寿命。
在本发明中，为了方便中央服务器端和单体产品端的参数的交互更新，中央服务器端的寿命预测模型结构应与单体产品端的寿命预测模型结构相同，这样同时也可以保证全局模型的收敛，因此在构建模型时，中央服务器端的寿命预测模型结构与单体产品端的寿命预测模型在一个构建过程中完成。
迁移学习可以利用已有的知识经验来学习新的知识，可以节约模型训练时间，并一定程度上可以提高预测结果的准确度。在单体产品端本地寿命预测模型处计划利用迁移学习的思路来更新本地模型。
基于模型的迁移学习是通过将在源域训练好的模型的一部分或整体直接迁移到目标域中使用，在神经网络中使用较多，这也是本发明所用到的方法。这种基于模型的迁移学习的实现方法，首先要事先获得一个已经训练好的用以迁移的模型，这个模型可以是自己训练好的模型，也可以是一些经典的模型，然后将此模型的部分或整体网络结构和权重参数固定，根据实际任务需求添加全连接层，最后输入数据对新模型进行训练并根据模型的训练结构准确度不断优化模型。下面将基于模型，设计本发明的剩余寿命预测模型的迁移学习方法。
本发明的迁移学习是固定单体产品端寿命预测模型的模型结构，把汇总处理后的单体产品端权重参数部分作为其初始化参数。因此关建是要汇总处理单体产品端权重参数，同时要考虑选择哪一部分作为下一轮迭代的单体产品端预测模型初始化参数。
首先是单体产品端本地寿命预测模型的参数汇总处理。现有的处理方式是根据每个产品端样本的数目对模型的权重进行加权，样本数越多的产品其权重的加权系数越大，但这忽略了模型的损失值对加权系数的影响，造成全局模型的预测精度不够高。本发明是根据loss值和样本数目综合对权重值进行加权处理，如式(1.1)所示。wi代表第i个产品端预测模型的权重，lossi代表第i个产品端预测模型的均方误差值，综合考虑了样本数和模型损失值对加权系数的影响。w则代表着中央服务器预测模型的权重，k代表单体产品端的个数。这样做的思想是认为loss值大的单体产品端模型在全局模型的占比更大，其本地数据对全局模型的影响也大。经过中央服务器计算得出的w之后会下发给单体产品端用以更新权重。
上述过程是单体产品端和中央服务器端信息交互的一次完整迭代，为了使全局模型达到令人满意的预测效果，这一过程需要重复进行多次。一般要预先设定一个固定的迭代次数m，当上述过程重复达到m次便停止。
其次介绍选择哪一部分作为下一轮迭代的本地预测模型初始化参数。由于本文的全局寿命预测模型是基于LSTM的，因此在进行迁移学习前，需要掌握LSTM与基于模型的迁移学习结合起来的实现方法。将LSTM与基于模型的迁移学习结合起来的实现方法是逐层将LSTM层的结构参数和权重参数固定，然后重新输入数据训练其他的层数获得新的权重参数，并根据模型的预测结果的准确度来选择最优的冻结层数和最优的结构参数。其中结构参数是指模型的学习率、激活函数、优化器等参数，而权重参数是指模型的偏置及权重值。这其中的原理是已经训练好的模型的前几层具有良好的捕捉输入数据特征关系的功能，直接迁移这几层就可以免去再次重新训练模型使其获得捕捉输入特征的过程，实际在具体应用时迁移几层还需要根据输出预测结果的准确度来决定。因此本发明可以通过冻结中央服务器端全局寿命预测模型的部分或整体来完成迁移学习。
图5A是一个基于LSTM的寿命预测的模型的迁移过程示例，这里用到的基于LSTM的寿命预测模型与图5所示的模型示例一致。如图5A所示，基本的基于模型的迁移策略有三种：随机初始化权重参数，训练后微调；冻结预训练模型的权重参数；冻结预训练模型的结构参数。这三种基本策略组合起来可以变成多种迁移学习的策略。本例中首先根据已经训练好的寿命预测模型得到预训练模型，然后将预训练模型的参数共享，得到了三种迁移学习策略。第一种迁移策略是先将预训练模型直接迁移，然后将该模型的第一层LSTM层、第二层Dense层以及第三层LSTM层的结构参数保持不变，随机化其权重参数，随后输入其他同类产品的数据X(t)'，对得到的新模型进行训练，根据输出结果寿命t'不断对前三层的权重参数进行微调，最终得到一个预测效果较好的模型。第二种迁移策略是先将预训练模型直接迁移，然后将该模型的第一层LSTM层和第二层Dense层的结构参数保持不变，随机化其权重参数，随后输入其他同类产品的数据X(t)”，对得到的新模型进行训练，根据输出结果寿命t”不断对前两层的权重参数进行微调，最终得到一个预测效果较好的模型。第三种迁移策略是先将预训练模型直接迁移，然后将该模型的第一层LSTM层结构参数保持不变，随机化其权重参数，随后输入其他同类产品的数据X(t)”'，对得到的新模型进行训练，根据输出结果寿命t”'不断对第一层的权重参数进行微调，最终得到一个预测效果满意的模型。可以看出这三种迁移策略的方法大致相同，只是每次进行操作的层数不同。在应用到具体的案例中，同一个案例可能存在多个迁移学习的策略，往往需要对源域模型的不同层进行操作，之后根据预测结果的精度和预测时间的长短综合考虑选择最合适的策略，当层数较少时采用上述对每个层逐一进行操作的方法比较适合，但当源域模型层数较多时，往往需要根据经验来进行迁移学习策略的设计，迁移多少层也是基于模型的迁移学习的难点之一。
【示例性实施例：锂电池剩余寿命的预测】
不同型号的锂电池既有一定程度的相似性同时又存在一定的差异性，可以看作是一种群体产品，而且不同型号的锂电池退化趋势差异性较大，再加上采集锂电池容量数据的成本花费较高且不同企业间由于竞争的原因一般不愿意共享数据，因此这里适合基于LSTM对锂电池的寿命进行预测。
本发明用到的数据集是通过循环寿命实验采集的，锂离子电池循环寿命试验台是电池研发企业提供，该数据集采集的温度条件是25℃，利用的是限压恒流充放电方式，实验的停止条件是锂电池容量退化到初始值的82％。
该数据集包括了10种不同型号的锂离子电池容量退化数据，本文用到了其中的3种(A，B，C组)。共计13组数据，每组数据平均包含1000个容量锂电池数据。不同组间的阴极材料相同，但阳极有差异。本发明选用的25℃温度条件下不同型号的电池退化数据如表1所示。
表1 25℃电池分组情况
将上述A、B、C组的锂电池组合起来，作为模型训练的数据集使用，具体的组合如表2所示，共计35种组合方式。
表2数据集分组情况
由于选用了多组不同型号的锂离子电池，不同组别之间的失效过程趋势差异较大，不同型号锂离子电池的原始退化数据(剩余容量)如图6所示。从图中可以看出未经处理前的原始数据失效过程趋势不尽相同，这不利于后续中央服务器端全局寿命预测模型的收敛。
在锂电池循环寿命测试过程中，由于不同电池型号的材料存在差异，需要归一化处理锂电池容量数据。由于此处不涉及距离度量和协方差计算，因此采用更为简便的min-max标准化的方法。将失效阈值设定为锂电池初始容量的82％，记其初始容量为1，失效阈值记为0，样本数据X(x1，x2，...，xn)的标准化方式如式(1)所示，对25℃温度条件下的锂电池样本数据的归一化结果如图7所示。可以看出，归一化使样本有相同分布，有利于提升寿命预测结果精度。
由图7可以看出，经过归一化处理的数据绘制曲线仍存在毛刺状波动，因此需要对原始电池数据进行平滑预处理，选用局部加权回归算法进行处理。如图8是一个锂电池样本数据平滑前后的对比。图中黑色曲线是由原始退化数据绘制而成，蓝色曲线则是由经过平滑处理后的数据绘制而成。从图中可以看出，原始数据退化黑色曲线存在毛刺状波动，经过局部加权回归平滑处理，平滑数据蓝色曲线在保持与原始数据黑色曲线的曲线走势相近的前提下，消除了噪声的干扰，这有利于提升预测结果的准确性。
经过归一化处理和平滑处理后，还需要划分数据集，由于每组的样本数据量比较充足，直接使用留出法。此处把数据集的60％划分为训练集，剩余数据划为测试集。
单体产品端本地预测是各个单体产品在本地利用自身的数据训练出一个本地的寿命预测模型，之后将模型的权重参数上传给中央服务器端。本发明的单体产品端本地预测模型利用LSTM模型，三个单体产品端均采用相同的模型结构。其模型结构包括两个LSTM层，两个Dropout层防止过拟合和一个顶层的预测输出层。前两个LSTM层的激活函数为tanh(双曲正切)，最后输出层Dense层的激活函数为linear(线性)，Dropout rate设定为0.3。其中Dropout rate的设定要经过多次尝试，当模型过拟合时要增大Dropout rate，当模型出现欠拟合时要减小Dropout rate，最终确定当Dropout rate为0.3时模型的拟合效果较好，模型结构具体见图9所示。模型训练过程中，批训练样本batch_size＝32，单个样本输入数据长度为50，输出数据长度为1，即用前50个数据预测第51个数据，模型训练选择优化器rmsprop，学习率为0.001，训练次数epochs为20。
利用上述模型分别对25℃温度条件下采集到的A、B、C三种型号的锂电池数据进行寿命预测并记录预测结果准确度，每次输入一种型号电池的一个样本的退化数据，得到的部分结果如图10所示。根据两条曲线的重合程度可以看出预测效果，根据图像来看预测效果整体上可以接受，但是也存在少数预测结果误差较大的情况，如B_2006、C_3006。
中央服务器端的模型便是最终的全局预测模型，为了使全局模型对每个单体产品的数据均有较好的预测效果，全局寿命预测模型依然利用LSTM网络进行搭建。
为了便于全局模型最后的收敛以及处理单体设备传输的权重等参数，全局模型采用与单体设备端预测模型相似的模型结构，包括两个LSTM层，两个Dropout层防止过拟合和一个顶层的预测输出层。模型训练过程中，批训练样本batch_size＝32，单个样本数据长度为50，模型训练选择优化器Adam，学习率为0.001，训练次数epochs为20。
按照之前本发明所公开的内容，首先要汇总处理单体产品端权重参数，之后要考虑选择哪一部分作为下一轮迭代的单体产品端预测模型初始化参数。
首先介绍单体产品端权重参数的汇总处理过程，中央服务器获取到单体产品传输的权重需要做进一步处理，按照前述内容是利用loss值对权重值进行加权处理。如式(2)所示，wi代表第i个产品端预测模型的权重，lossi代表第i个产品端预测模型的损失值，w则代表着中央服务器预测模型的权重。中央服务器计算得出的w之后会下发给单体产品端用以更新权重，在进行实际操作中，发现将单体设备端和中央服务器端的通信次数设定为20便可以达到较好的预测效果。
将A型号1个样本和B型号7个样本以及C型号5个样本的锂电池数据搭配组合，共计有35种组合方式，每个组合的3个样本作为单体设备数据在单体产品端本地预测模型处训练，获得权重参数wi和损失参数lossi，经过加权平均处理后获得处理后的的权重w，随后将这些权重参数下发给各个单体产品用于更新模型。
之后介绍选择哪一部分作为下一轮迭代的本地预测模型初始化参数，共计以下三种方案，具体如图11所示。第一种方法是直接采用前一轮本地寿命预测模型的结构，保证模型结构不变，冻结前四层的权重参数和结构参数，之后将其余层的权重随机化，进行下一轮训练，输入前50个时刻的状态数据，输出下一时刻的状态数据。第二种是采用前一轮本地寿命预测模型的结构，保证模型结构不变，冻结第三层和第四层的权重参数和结构参数，之后将其余层的权重随机化，得到新的模型。第三种方法是采用前一轮本地寿命预测模型的结构，保证模型结构不变，冻结前两层的权重参数和结构参数，并将其余层的权重随机化，得到新的模型。
按照第一种方案的思想，直接采用前一轮本地寿命预测模型的结构，保证模型结构不变，冻结前四层的权重参数和结构参数，之后将其余层的权重随机化，进行下一轮训练，经过统计其预测结果平均准确度为95.48％，预测结果部分绘图如12所示。
按照第二种方案的思想，采用前一轮本地寿命预测模型的结构，保证模型结构不变，冻结第三层和第四层的权重参数和结构参数，之后将其余层的权重随机化，得到新的模型。预测结果平均准确度为95.55％，相比第一种方案，准确度略有提升，预测结果部分绘图如图13所示。
采用第三种方案的思想，保持前一轮本地寿命预测模型的结构不变，冻结前两层的权重参数和结构参数，并将其余层的权重随机化，得到新的模型。得到的预测结果平均准确度为95.72％，准确度相较于方案二又有了一些提高。预测结果部分绘图如图14所示。
统计中央服务器端全局模型预测结果和单体产品端本地模型预测结果的准确度如下表所示。根据下表可以计算得出，单体产品端本地模型预测结果平均准确度为95.17％，而中央服务器端全局模型预测结果平均准确度分别为95.48％、95.55％、95.72％，可以看出相较于本地预测模型的准确度，中央服务器端全局模型的预测结果准确度有了一定的提升，最后根据准确度选择方案三作为迁移学习策略。
表5.3预测结果准确度统计
在本实施例中，按照本发明所公开的LSTM模型及构建方法对锂电池样本的剩余寿命进行了预测，根据预测结果的图像和准确度记录来看，显然，使用基于LSTM的预测模型对锂电池样本的剩余寿命进行预测，可以有效提高预测结果的准确度。
本发明针对群体产品寿命预测的LSTM方法进行了研究。针对群体产品剩余寿命预测的问题，本发明提出了一种具体实现方法。首先在各单体产品端进行本地寿命预测模型的预测，之后处理本地模型的参数，然后在单体产品端迁移部分处理过的参数进行下一轮迭代，最终得到一个全局寿命预测模型，该方法可以在保证数据不泄露的前提下，最大化利用已有的数据，有利于提升寿命预测结果的准确度。
在中央服务器端全局寿命预测模型处对现有的FedAvg算法进行了改进，不是根据产品端数据量的多少分配权重系数，而是按照产品端寿命预测模型的损失值分配权重系数，损失值较大的寿命预测模型的权重系数也相应较大，这样有助于提升全局寿命预测模型的准确度。
综上所述，尽管已经参考附图所示的实施例描述了本发明，但是可在不脱离权利要求范围的情况下使用等同或替代手段。本发明所描述和图示的组件仅仅是可以用于实现本公开的实施例的系统/设备和方法的示例，并且可以在不脱离权利要求范围的情况下用其他设备和组件进行替换。
Claims (10)
1.一种群体产品剩余寿命预测的联邦迁移学习方法，包括：
获取群体产品原始数据集；
将所述原始数据集进行预处理，得到训练集和测试集；
将所述训练集送入已构建的群体产品剩余寿命预测模型，并进行训练；
其特征在于，所述群体产品剩余寿命预测模型的构建过程包括：
设计针对所述群体产品剩余寿命预测的总体框架，所述总体框架客户-服务器架构，所述总体框架包括多个单体产品端和一个中央服务器端；
构建基于LSTM的剩余寿命预测模型；
基于所述LSTM的剩余寿命预测模型构建所述单体产品端的本地寿命预测模型和和所述中央服务器端的全局寿命预测模型；
经过所述训练得到所述单体产品端的剩余寿命预测模型的权重参数，所述单体产品端将各自训练好的权重参数送到服务器端；
所述服务器端对所述单体产品端的权重参数进行参数汇总处理；
所述服务器端汇总处理后，确定下一轮迭代的单体产品端预测模型初始化参数。
2.根据权利要求1所述的联邦迁移学习方法，其特征在于，所述参数汇总处理根据每个产品端样本的数目和对产品端样本模型的损失值loss值对权重进行加权处理，并且所述服务器端将经过加权处理后将权重下发给各个单体产品端。
3.根据权利要求2所述的联邦迁移学习方法，其特征在于，所述权重如下式所示：
其中，wi代表第i个产品端预测模型的权重，lossi代表第i个产品端预测模型的均方误差值，综合考虑了样本数和模型损失值对加权系数的影响。w则代表着中央服务器预测模型的权重，k代表单体产品端的个数。
4.根据权利要求2所述的联邦迁移学习方法，其特征在于，
所述单体产品端在接收到服务器下发的权重参数后，选择合适的迁移学习策略来更新本地寿命预测模型；所述单体产品端在更新后的本地寿命预测模型的基础上，再次接收原始数据，对模型进行训练，而后上传本地单体产品端的剩余寿命预测模型的权重参数，然后判断循环次数是否已经达到提前设定的迭代次数，若没有达到，则继续从单体产品本地寿命预测模型的训练开始，否则任意选择一个产品端的模型继承所有的权重参数即为最终的全局模型。
5.根据权利要求1-4中任一项所述的联邦迁移学习方法，其特征在于，将LSTM与基于模型的迁移学习结合起来，通过冻结所述中央服务器端全局寿命预测模型的部分或整体来完成迁移学习。
6.根据权利要求5所述的联邦迁移学习方法，其特征在于，所述LSTM寿命预测模型LSTM寿命预测模型。
7.根据权利要求5所述的联邦迁移学习方法，其特征在于，所述基于模型的迁移策略任选自如下三种的任一种：随机初始化权重参数，训练后微调；冻结预训练模型的权重参数；冻结预训练模型的结构参数。
8.根据权利要求5所述的联邦迁移学习方法，其特征在于，第一种迁移策略是先将预训练模型直接迁移，然后将该模型的第一层LSTM层、第二层Dense层以及第三层LSTM层的结构参数保持不变，随机化其权重参数，随后输入其他同类产品的数据X(t)'，对得到的新模型进行训练，根据输出结果寿命t'不断对前三层的权重参数进行微调，最终得到一个预测效果较好的模型。
9.根据权利要求5所述的联邦迁移学习方法，其特征在于，第二种迁移策略是先将预训练模型直接迁移，然后将该模型的第一层LSTM层和第二层Dense层的结构参数保持不变，随机化其权重参数，随后输入其他同类产品的数据X(t)”，对得到的新模型进行训练，根据输出结果寿命t”不断对前两层的权重参数进行微调，最终得到一个预测效果较好的模型。
10.根据权利要求5所述的联邦迁移学习方法，其特征在于，第三种迁移策略是先将预训练模型直接迁移，然后将该模型的第一层LSTM层结构参数保持不变，随机化其权重参数，随后输入其他同类产品的数据X(t)”'，对得到的新模型进行训练，根据输出结果寿命t”'不断对第一层的权重参数进行微调，最终得到一个预测效果满意的模型。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110778141.6A CN113536670B (zh) | 2021-07-09 | 2021-07-09 | 一种群体产品剩余寿命预测的联邦迁移学习方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110778141.6A CN113536670B (zh) | 2021-07-09 | 2021-07-09 | 一种群体产品剩余寿命预测的联邦迁移学习方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN113536670A true CN113536670A (zh) | 2021-10-22 |
| CN113536670B CN113536670B (zh) | 2024-01-12 |
Family
ID=78127262
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110778141.6A Active CN113536670B (zh) | 2021-07-09 | 2021-07-09 | 一种群体产品剩余寿命预测的联邦迁移学习方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113536670B (zh) |
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114037989A (zh) * | 2021-11-03 | 2022-02-11 | 北京科技大学 | 一种基于联邦学习与风格迁移的图像分割方法及装置 |
| CN114399031A (zh) * | 2022-01-18 | 2022-04-26 | 中国石油大学(华东) | 一种基于联邦学习的智能工厂温湿度控制方法 |
| CN114580087A (zh) * | 2022-05-06 | 2022-06-03 | 山东大学 | 一种船载设备的联邦剩余使用寿命预测方法、装置及系统 |
| CN114879050A (zh) * | 2022-06-14 | 2022-08-09 | 山东大学 | 基于云边协同的动力电池寿命智能快速测试方法及系统 |
| CN115600512A (zh) * | 2022-12-01 | 2023-01-13 | 深圳先进技术研究院（Cn） | 一种基于分布式学习的刀具寿命预测方法 |
| WO2024170224A1 (de) * | 2023-02-14 | 2024-08-22 | Volkswagen Aktiengesellschaft | Verfahren und vorrichtung zum maschinellen lernen für die alterungsvorhersage einer komponente eines fahrzeugs |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112036084A (zh) * | 2020-08-28 | 2020-12-04 | 北京航空航天大学 | 一种相似产品寿命迁移筛选方法和系统 |
| CN112241608A (zh) * | 2020-10-13 | 2021-01-19 | 国网湖北省电力有限公司电力科学研究院 | 一种基于lstm网络和迁移学习的锂电池寿命预测方法 |
| CN112308240A (zh) * | 2020-11-02 | 2021-02-02 | 清华大学 | 基于联邦学习的边缘侧机器协同与优化的系统 |
| US20210042645A1 (en) * | 2019-08-06 | 2021-02-11 | doc.ai, Inc. | Tensor Exchange for Federated Cloud Learning |
-
2021
- 2021-07-09 CN CN202110778141.6A patent/CN113536670B/zh active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20210042645A1 (en) * | 2019-08-06 | 2021-02-11 | doc.ai, Inc. | Tensor Exchange for Federated Cloud Learning |
| CN112036084A (zh) * | 2020-08-28 | 2020-12-04 | 北京航空航天大学 | 一种相似产品寿命迁移筛选方法和系统 |
| CN112241608A (zh) * | 2020-10-13 | 2021-01-19 | 国网湖北省电力有限公司电力科学研究院 | 一种基于lstm网络和迁移学习的锂电池寿命预测方法 |
| CN112308240A (zh) * | 2020-11-02 | 2021-02-02 | 清华大学 | 基于联邦学习的边缘侧机器协同与优化的系统 |
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114037989A (zh) * | 2021-11-03 | 2022-02-11 | 北京科技大学 | 一种基于联邦学习与风格迁移的图像分割方法及装置 |
| CN114399031A (zh) * | 2022-01-18 | 2022-04-26 | 中国石油大学(华东) | 一种基于联邦学习的智能工厂温湿度控制方法 |
| CN114580087A (zh) * | 2022-05-06 | 2022-06-03 | 山东大学 | 一种船载设备的联邦剩余使用寿命预测方法、装置及系统 |
| CN114879050A (zh) * | 2022-06-14 | 2022-08-09 | 山东大学 | 基于云边协同的动力电池寿命智能快速测试方法及系统 |
| CN115600512A (zh) * | 2022-12-01 | 2023-01-13 | 深圳先进技术研究院（Cn） | 一种基于分布式学习的刀具寿命预测方法 |
| WO2024170224A1 (de) * | 2023-02-14 | 2024-08-22 | Volkswagen Aktiengesellschaft | Verfahren und vorrichtung zum maschinellen lernen für die alterungsvorhersage einer komponente eines fahrzeugs |
Also Published As
| Publication number | Publication date |
|---|---|
| CN113536670B (zh) | 2024-01-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113536670B (zh) | 一种群体产品剩余寿命预测的联邦迁移学习方法 | |
| CN113191484A (zh) | 基于深度强化学习的联邦学习客户端智能选取方法及系统 | |
| CN107274011A (zh) | 综合马尔科夫模型和概率网络的设备状态识别方法 | |
| CN111539515A (zh) | 一种基于故障预测的复杂装备维修决策方法 | |
| CN106201849B (zh) | 一种有限数据驱动的长寿命部件余寿预测方法 | |
| CN110689171A (zh) | 一种基于e-lstm的汽轮机健康状态预测方法 | |
| CN111445010B (zh) | 一种基于证据理论融合量子网络的配网电压趋势预警方法 | |
| CN113094822A (zh) | 一种机械设备剩余寿命预测方法和系统 | |
| CN111461463A (zh) | 一种基于tcn-bp的短期负荷预测方法、系统及设备 | |
| CN111062464A (zh) | 一种基于深度学习的电力通信网可靠性预测和保障方法和系统 | |
| KR102656115B1 (ko) | 연료전지 시스템의 잔여 수명 예측 방법 및 이를 수행하는 디지털 트윈 장치 | |
| CN111079926B (zh) | 基于深度学习的具有自适应学习率的设备故障诊断方法 | |
| CN113536671B (zh) | 一种基于lstm的锂电池寿命预测方法 | |
| Barzola-Monteses et al. | Energy consumption of a building by using long short-term memory network: a forecasting study | |
| CN113468720B (zh) | 一种数模联动的随机退化设备寿命预测方法 | |
| CN114169416B (zh) | 一种基于迁移学习的小样本集下短期负荷预测方法 | |
| CN116562514B (zh) | 基于神经网络的企业生产状况即时分析方法及系统 | |
| CN116020879B (zh) | 面向工艺参数带钢热连轧时空多尺度过程监控方法及装置 | |
| CN118137618A (zh) | 一种固态锂离子电池电源智能控制系统 | |
| CN114239385A (zh) | 一种面向仓库资源配给的智能决策系统及方法 | |
| CN113449919A (zh) | 一种基于特征和趋势感知的用电量预测方法及系统 | |
| CN112257348B (zh) | 一种锂电池长期退化趋势预测方法 | |
| CN112613227B (zh) | 基于混合机器学习的航空发动机剩余使用寿命预测模型 | |
| CN117420442A (zh) | 一种基于mnq-lstm的电池剩余寿命预测方法 | |
| CN115619028A (zh) | 一种基于聚类算法融合的电力负荷精准预测方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |