CN113868957A - 贝叶斯深度学习下剩余寿命预测及不确定性量化校准方法 - Google Patents
贝叶斯深度学习下剩余寿命预测及不确定性量化校准方法 Download PDFInfo
- Publication number
- CN113868957A CN113868957A CN202111182468.3A CN202111182468A CN113868957A CN 113868957 A CN113868957 A CN 113868957A CN 202111182468 A CN202111182468 A CN 202111182468A CN 113868957 A CN113868957 A CN 113868957A
- Authority
- CN
- China
- Prior art keywords
- uncertainty
- network
- prediction
- calibration
- distribution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 56
- 238000013135 deep learning Methods 0.000 title claims abstract description 38
- 238000009826 distribution Methods 0.000 claims abstract description 63
- 238000013528 artificial neural network Methods 0.000 claims abstract description 39
- 238000012549 training Methods 0.000 claims abstract description 37
- 238000012795 verification Methods 0.000 claims abstract description 23
- 238000006731 degradation reaction Methods 0.000 claims abstract description 20
- 230000015556 catabolic process Effects 0.000 claims abstract description 18
- 238000007781 pre-processing Methods 0.000 claims abstract description 13
- 238000012614 Monte-Carlo sampling Methods 0.000 claims abstract description 10
- 230000019771 cognition Effects 0.000 claims abstract description 6
- 230000001149 cognitive effect Effects 0.000 claims description 51
- 230000006870 function Effects 0.000 claims description 36
- 238000012360 testing method Methods 0.000 claims description 25
- 238000011002 quantification Methods 0.000 claims description 18
- 238000005070 sampling Methods 0.000 claims description 17
- 230000008859 change Effects 0.000 claims description 11
- 238000007476 Maximum Likelihood Methods 0.000 claims description 9
- 238000013527 convolutional neural network Methods 0.000 claims description 6
- 230000001186 cumulative effect Effects 0.000 claims description 6
- 238000000354 decomposition reaction Methods 0.000 claims description 6
- 238000005315 distribution function Methods 0.000 claims description 6
- 238000010606 normalization Methods 0.000 claims description 6
- 210000002569 neuron Anatomy 0.000 claims description 5
- 238000005457 optimization Methods 0.000 claims description 4
- 238000012545 processing Methods 0.000 claims description 4
- 238000011478 gradient descent method Methods 0.000 claims description 3
- 239000011159 matrix material Substances 0.000 claims description 3
- 238000002156 mixing Methods 0.000 claims description 3
- 230000009467 reduction Effects 0.000 claims description 3
- 238000012216 screening Methods 0.000 claims description 3
- 238000009827 uniform distribution Methods 0.000 claims description 3
- 238000013139 quantization Methods 0.000 abstract description 3
- HBBGRARXTFLTSG-UHFFFAOYSA-N Lithium ion Chemical compound [Li+] HBBGRARXTFLTSG-UHFFFAOYSA-N 0.000 description 11
- 229910001416 lithium ion Inorganic materials 0.000 description 11
- 230000036541 health Effects 0.000 description 6
- 238000013398 bayesian method Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- NBIIXXVUZAFLBC-UHFFFAOYSA-N Phosphoric acid Chemical compound OP(O)(O)=O NBIIXXVUZAFLBC-UHFFFAOYSA-N 0.000 description 2
- 230000004913 activation Effects 0.000 description 2
- 210000004027 cell Anatomy 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000012423 maintenance Methods 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- 101100066308 Neisseria gonorrhoeae farB gene Proteins 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 229910000147 aluminium phosphate Inorganic materials 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000007599 discharging Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000013401 experimental design Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 229910002804 graphite Inorganic materials 0.000 description 1
- 239000010439 graphite Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 230000036962 time dependent Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F30/00—Computer-aided design [CAD]
- G06F30/20—Design optimisation, verification or simulation
- G06F30/27—Design optimisation, verification or simulation using machine learning, e.g. artificial intelligence, neural networks, support vector machines [SVM] or training a model
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N7/00—Computing arrangements based on specific mathematical models
- G06N7/01—Probabilistic graphical models, e.g. probabilistic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2111/00—Details relating to CAD techniques
- G06F2111/08—Probabilistic or stochastic CAD
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2111/00—Details relating to CAD techniques
- G06F2111/10—Numerical modelling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2119/00—Details relating to the type or aim of the analysis or the optimisation
- G06F2119/04—Ageing analysis or optimisation against ageing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Evolutionary Computation (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Data Mining & Analysis (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Probability & Statistics with Applications (AREA)
- Medical Informatics (AREA)
- Computer Hardware Design (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Geometry (AREA)
- Algebra (AREA)
- Computational Mathematics (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提供了一种贝叶斯深度学习下剩余寿命预测及不确定性量化校准方法,其包括:预处理系统退化数据获取基础数据集,确定深度神经网络类型和规模,构建基于贝叶斯深度学习的剩余寿命预测网络,确定剩余寿命预测网络的超参数进行训练和验证,量化所训练剩余寿命预测网络的不确定性,获取不确定性校准系数,判断预测不确定性的校准系数和固有不确定性的校准系数是否均不再改变或变化很小,若是输出剩余寿命预测值和不确定性量化结果。本发明构建了贝叶斯深度学习网络进行不确定性建模,通过蒙特卡洛采样获得预测分布,结合保序回归和STDscaling法进行预测不确定性、固有不确定性、认知不确定性的校准,可有效提高预测精度和不确定性校准质量。
Description
技术领域
本发明属于预测与健康管理中的剩余寿命预测技术领域,特别是一种贝叶斯深度学习下剩余寿命预测及不确定性量化校准方法。
背景技术
故障的发生可能会导致巨大的维修更换成本,甚至威胁人们的生命健康安全。为了预测并管理系统未来可能出现的风险,提高战备完好率和任务成功率,让机器设备更安全、可靠地运行,对机器设备进行预测与健康管理(Prognostics and health management,PHM)至关重要。在PHM中,预测是健康管理的基础,健康管理通过感知设备的状态,结合预测信息,根据实际的需求与资源做出下一步维修行为的决策。因此,对设备剩余寿命(Remaining useful life,RUL)进行预测是PHM技术的核心工作。随着传感器技术的飞速发展,各种设备都可以在线监测其健康状态,为数据驱动的预测方法提供了足够的数据支持。深度学习(Deep learning,DL)凭借着其卓越的非线性捕捉能力,在RUL预测领域受到越来越多的关注。
尽管DL方法能够实现良好的RUL预测,但是该方法只能提供RUL点估计值,无法实现不确定性的量化。在现实系统中,RUL预测常常会受到两类不确定性的影响:一种是固有不确定性,与数据本身有关,反映了数据噪声、测量误差等不可控因素的影响;另一种是认知不确定性,反映了数据量的限制对网络可信度的制约。贝叶斯方法通过结合已知信息对后验分布进行推理,是一个强大的不确定性量化框架,近年来将贝叶斯方法同DL结合起来的贝叶斯深度学习(Bayesian deep learning,BDL)方法成为了广大研究者的研究热点。BDL融合了DL强大的非线性处理能力和贝叶斯方法的不确定性量化能力,具有非常广阔的应用前景。但是,BDL的计算需要大量的计算成本和时间成本,大大限制了BDL的实际应用。幸运的是,Gal和Ghahramani已经证明,将正则化方法dropout应用于深度神经网络可将其近似为贝叶斯深度神经网络(Bayesian deep neural network,BDNN),这让BDL的快速计算和实际应用成为可能。但由于网络选取的误差和近似推理的使用,贝叶斯不确定性估计通常是不准确的。例如,置信度为95%的后验置信区间通常无法包含95%的真实结果。因此,为了获取准确的不确定性量化结果,寻求一种贝叶斯深度学习的剩余寿命预测及其不确定性量化校准方法是十分迫切且必要的。
发明内容
本发明针对上述现有技术中的缺陷,提出一种贝叶斯深度学习下剩余寿命预测及不确定性量化校准方法。该方法包括预处理系统退化数据获取基础数据集,确定深度神经网络类型和规模,构建基于贝叶斯深度学习的剩余寿命预测网络,确定剩余寿命预测网络的超参数进行训练和验证,量化所训练剩余寿命预测网络的不确定性,获取不确定性校准系数,判断预测不确定性的校准系数和固有不确定性的校准系数是否均不再改变或变化很小,若是输出剩余寿命预测值和不确定性量化结果。本发明构建了贝叶斯深度学习网络进行不确定性建模,通过蒙特卡洛采样获得预测分布,结合保序回归和STD scaling法进行预测不确定性、固有不确定性、认知不确定性的校准,可有效提高预测精度和不确定性校准质量。
本发明提供一种贝叶斯深度学习下剩余寿命预测及不确定性量化校准方法,其包括以下步骤:
S1、预处理系统退化数据获取基础数据集:对系统退化数据进行预处理,包括特征筛选、特征降维、数据归一化和集合划分,得到用于网络训练、验证、测试和校准的基础数据集,包括训练集、验证集、测试集和校准集;
S2、确定深度神经网络类型和规模:根据退化数据特征选择合适类型的深度神经网络,包括卷积神经网络CNN和长短期记忆网络LSTM,并根据数据集的大小确定网络的规模,包括神经元数目和网络层数;
S3、构建基于贝叶斯深度学习的剩余寿命预测网络:将正则化方法Concretedropout应用于所选的深度神经网络来捕捉认知不确定性,并在网络输出上放置一个高斯分布来捕获固有不确定性,依此构建基于贝叶斯深度学习的剩余寿命预测网络,并确定网络的损失函数;
S31、将认知不确定性量化融入网络,使用KL散度并结合蒙特卡洛采样法得到推断分布和真实后验分布的距离的解析表达式;
S32、将固有不确定性量化融入网络,获取网络的损失函数Loss:
S33、在使用梯度下降法优化损失函数时,从伯努利分布中采样,为使用重参数化法更新参数,将离散的伯努利分布替换成其对应的Concrete分布,即采样点z为:
其中,t为温度参数,用以控制从Concrete分布和伯努利分布中采样点的相似性,取0.1;pl表示dropout概率;u表示均匀分布[0,1]中采样点,得到采样点z关于pl的显式表达;
S4、确定剩余寿命预测网络的超参数进行训练和验证:通过网格搜索策略确定剩余寿命预测网络的超参数,包括批次大小、训练轮数和学习率,在训练集上训练网络并通过验证集验证,以防止网络过拟合;
S5、量化所训练剩余寿命预测网络的不确定性:在剩余寿命预测网络测试阶段,在测试集上通过蒙特卡洛dropout获得预测分布以估计剩余寿命,并利用不确定性分解公式分别量化预测不确定性、认知不确定性和固有不确定性;
S6、获取不确定性校准系数:基于量化所训练剩余寿命预测网络的不确定性,获取对应预测不确定性和固有不确定性的校准系数:
S61、定义校准:校准被定义为网络输出的预测分布的累积分布函数(CDF)和经验得到的CDF在数据量足够大的情况下能够匹配,更直观地,即被定义为置信度为α的后验置信区间应当包含占比为α的真实结果;
S62、基于校准定义,对于未校准网络H,进行预测不确定性校准;
其中,μt和σt分别表示输入xt下的预测均值和预测不确定性,均由步骤S5获得;
其中,I{·}表示指示函数;
S623、构建校准数据集S:
S63、校准固有不确定性和认知不确定性:结合STD scaling方法,直接对网络方差进行放缩,并利用极大似然原则获取校准系数的取值,实现固有不确定性和认知不确定性的校准;
S7、判断预测不确定性的校准系数λp和固有不确定性的校准系数λa是否均不再改变或变化很小,若是则执行步骤S8,否则执行步骤S5;
S8、输出剩余寿命预测值和不确定性量化结果:由校准后的网络输出剩余寿命的预测值及其预测不确定性、固有不确定性和认知不确定性的量化结果。
进一步,所述步骤S31具体包括以下步骤:
S311、对于一个L层的深度神经网络,每层单元数量为Kl,网络权重ω表示为:
其中,Wl表示深度神经网络的第l层网络权重;
S312、将Concrete dropout应用于深度神经网络以捕捉认知不确定性,即把固定的网络权重ω处理成推断分布qθ(ω):
其中,θ表示变分参数且有:
KL(qθ(ω)||p(ω|X,Y))=KL(qθ(ω)||p(ω))-∫qθ(ω)log(p(Y|X,ω))dω (5)
其中,p(Y|X,ω)表示基于历史数据集的似然函数;p(ω)表示权重的先验分布且选取为:
S314、结合蒙特卡洛采样法,得到KL(qθ(ω)||p(ω|X,Y))的解析表达式:
其中,p(yi|xi,ω)表示每个样本的似然函数;Η(pl)表示伯努利随机变量的熵且Η(pl)=-pllogpl-(1-pl)log(1-pl);
所述步骤S32具体包括以下步骤:
S321、在网络输出上放置一个高斯分布:
p(yi|xi,ω)=N(μ(xi,ω),σ2) (8)
其中,μ(xi,ω)表示预测均值;σ2表示观测噪声,用来衡量固有不确定性,并将其视为异方差即随输入数据变化而变化;
S322、考虑到观测噪声的建模会受到数据不足和网络认识不充分的制约,即受到认知不确定性的影响,将固有不确定性建模为σ2=σ(xi,ω)2,则网络的损失函数Loss可表示为:
进一步,所述步骤S63具体包括以下步骤:
S631、通过不确定性分解公式表示各类不确定性校准后数值的关系:
λp·ηpredictive=λa·ηaleatoric+λe·ηepistemic (21)
其中,ηpredictive表示预测不确定性;ηaleatoric表示固有不确定性;ηepistemic表示认知不确定性;λp、λa和λe分别表示预测不确定性、固有不确定性和认知不确定性的校准系数,λp由S61步骤获得,且λe由λp和λa的取值共同决定;
S632、固有不确定性的校准系数λa经极大似然估计进行估计,似然函数p(y|x,X,Y)为:
其中,σb表示预测标准差的采样值;μb,new表示校准后预测均值的采样值且有:
其中,μb表示预测均值的采样值;
优选的,所述步骤S5具体包括以下步骤:
S51、通过预测方差来衡量不确定性,且预测方差Var(y|x)分解为:
Var(y|x)=Varω[Ey|x,ω(y|x,ω)]+Eω[Vary|x,ω(y|x,ω)] (11)
其中,Varω[Ey|x,ω(y|x,ω)]和Eω[Vary|x,ω(y|x,ω)]分别表示衡量认知不确定性和固有不确定性的方差:
S52、对于测试数据x*,在测试阶段打开dropout,即MC dropout,确定循环次数B,通过B次MC dropout得到采样值集合
S53、计算预测均值及不确定性:
其中,预测均值μ*的表达式为:
与现有技术相比,本发明的技术效果为:
1、本发明设计的一种贝叶斯深度学习下剩余寿命预测及不确定性量化校准方法,基于对设备的退化数据进行预处理后得到的数据集,根据数据特征和数据集的大小选择合适类型和规模的深度神经网络,并在此基础上,构建贝叶斯深度学习网络以建模固有不确定性和认知不确定性,并确定其损失函数,网络中的超参数通过网格搜索的策略进行选择,随后进行网络训练,并结合验证集数据防止网络过拟合。
2、本发明设计的一种贝叶斯深度学习下剩余寿命预测及不确定性量化校准方法,对于训练好的网络,通过蒙特卡洛采样获得预测分布,进而得到预测值及各类不确定性的量化结果,为了校准不确定性,结合保序回归和STD scaling方法,提出了预测不确定性、固有不确定性、认知不确定性的校准,最后由已校准的网络预测剩余寿命和量化不确定性,可有效提高预测精度和不确定性校准质量。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显。
图1是本发明的贝叶斯深度学习下剩余寿命预测及不确定性量化校准方法流程图;
图2是本发明的针对涡扇发动机和锂离子电池数据集构建的预测网络图;
图3a为本发明在FD001数据集上剩余寿命预测值及0.9置信度下置信区间的估计结果;
图3b为本发明在FD001数据集上的固有不确定性和认知不确定性的量化结果;
图4a为本发明在FD002数据集上剩余寿命预测值及0.9置信度下置信区间的估计结果;
图4b为本发明在FD002数据集上的固有不确定性和认知不确定性的量化结果;
图5a为本发明在FD003数据集上剩余寿命预测值及0.9置信度下置信区间的估计结果;
图5b为本发明在FD003数据集上的固有不确定性和认知不确定性的量化结果;
图6a为本发明在FD004数据集上剩余寿命预测值及0.9置信度下置信区间的估计结果;
图6b为本发明在FD004数据集上的固有不确定性和认知不确定性的量化结果;
图7a为本发明在锂离子电池数据集上剩余寿命预测值及0.9置信度下置信区间的估计结果;
图7b为本发明在锂离子电池数据集上的固有不确定性和认知不确定性的量化结果。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了本发明的贝叶斯深度学习下剩余寿命预测及不确定性量化校准方法,该方法包括以下步骤:
S1、预处理系统退化数据获取基础数据集:对系统退化数据进行预处理,包括特征筛选、特征降维、数据归一化和集合划分,得到用于网络训练、验证、测试和校准的基础数据集,包括训练集、验证集、测试集和校准集。
S2、确定深度神经网络类型和规模:根据退化数据特征选择合适类型的深度神经网络,包括卷积神经网络CNN和长短期记忆网络LSTM,并根据数据集的大小确定网络的规模,包括神经元数目和网络层数。
S3、构建基于贝叶斯深度学习的剩余寿命预测网络:将正则化方法Concretedropout应用于所选的深度神经网络,以使之近似为贝叶斯深度神经网络来捕捉认知不确定性,并在网络输出上放置一个高斯分布来捕获数据本身的噪声,即固有不确定性,依此构建基于贝叶斯深度学习的剩余寿命预测网络,并确定网络的损失函数。其中,Concretedropout是指在深度学习网络的训练过程中,对于神经网络单元,基于贝叶斯估计,按照一定的概率将其暂时从网络中丢弃并实时优化其丢弃概率的方法。
S31、将认知不确定性量化融入网络,使用KL散度并结合蒙特卡洛采样法得到推断分布和真实后验分布的距离的解析表达式。
S311、对于一个L层的深度神经网络,每层单元数量为Kl,网络权重ω表示为:
其中,Wl表示深度神经网络的第l层网络权重。
S312、将Concrete dropout应用于深度神经网络以捕捉认知不确定性,即把固定的网络权重ω处理成推断分布qθ(ω):
其中,θ表示变分参数且有:
KL(qθ(ω)||p(ω|X,Y))=KL(qθ(ω)||p(ω))-∫qθ(ω)log(p(Y|X,ω))dω (5)
其中,p(Y|X,ω)表示基于历史数据集的似然函数;p(ω)表示权重的先验分布且选取为:
S314、结合蒙特卡洛采样法,得到KL(qθ(ω)||p(ω|X,Y))的解析表达式:
其中,p(yi|xi,ω)表示每个样本的似然函数;Η(pl)表示伯努利随机变量的熵且Η(pl)=-pllogpl-(1-pl)log(1-pl)。
S32、将固有不确定性量化融入网络,获取网络的损失函数Loss。
S321、在网络输出上放置一个高斯分布:
p(yi|xi,ω)=N(μ(xi,ω),σ2) (8)
其中,μ(xi,ω)表示预测均值;σ2表示观测噪声,用来衡量固有不确定性,并将其视为异方差即随输入数据变化而变化。
S322、考虑到观测噪声的建模会受到数据不足和网络认识不充分的制约,即受到认知不确定性的影响,将固有不确定性建模为σ2=σ(xi,ω)2,则网络的损失函数Loss可表示为:
S33、在使用梯度下降法优化损失函数时,从伯努利分布中采样,为使用重参数化法更新参数,将离散的伯努利分布替换成其对应的Concrete分布。Concrete分布是指在具有封闭形式密度的单纯形上的连续分布,且允许梯度信息在概率状态间传递。采样点z为:
其中,t为温度参数,用以控制从Concrete分布和伯努利分布中采样点的相似性,取0.1;u表示均匀分布[0,1]中的采样点,得到采样点z关于pl的显式表达。
上述的步骤S3是本发明的重要发明点,主要体现在,构建贝叶斯深度学习网络以建模固有不确定性和认知不确定性,并确定其损失函数,为量化不确定性提供了重要依据。
S4、确定剩余寿命预测网络的超参数进行训练和验证:通过网格搜索策略确定剩余寿命预测网络的超参数,包括批次大小、训练轮数和学习率,在训练集上训练网络并通过验证集验证,以防止网络过拟合。
S5、量化所训练剩余寿命预测网络的不确定性:在剩余寿命预测网络测试阶段,在测试集上通过蒙特卡洛dropout获得预测分布以估计剩余寿命,并利用不确定性分解公式分别量化预测不确定性、认知不确定性和固有不确定性。其中,蒙特卡洛dropout是指在网络测试阶段将某些神经网络单元从网络中丢弃,对同一个输入进行多次前向传播的过程。
S51、通过预测方差来衡量不确定性,且预测方差Var(y|x)分解为:
Var(y|x)=Varω[Ey|x,ω(y|x,ω)]+Eω[Vary|x,ω(y|x,ω)] (11)
其中,Varω[Ey|x,ω(y|x,ω)]和Eω[Vary|x,ω(y|x,ω)]分别表示衡量认知不确定性和固有不确定性的方差。
S52、对于测试数据x*,在测试阶段打开dropout,即MC dropout,确定循环次数B,通过B次MC dropout得到采样值集合
其中,μb和σb分别表示预测均值和预测标准差的采样值。
S53、计算预测均值及不确定性:
其中,预测均值μ*的表达式为:
S6、获取不确定性校准系数:基于量化所训练剩余寿命预测网络的不确定性,获取对应预测不确定性和固有不确定性的校准系数。
S61、定义校准:校准被定义为网络输出的预测分布的累积分布函数(CDF)和经验得到的CDF在数据量足够大的情况下能够匹配,更直观地,即被定义为置信度为α的后验置信区间应当包含占比为α的真实结果。
S62、基于校准定义,对于未校准网络H,进行预测不确定性校准。
其中,μt和σt分别表示输入xt下的预测均值和预测不确定性,均由步骤S5获得;
其中,I{·}表示指示函数。
S623、构建校准数据集S:
S63、校准固有不确定性和认知不确定性:结合STD scaling方法,直接对网络方差进行放缩,并利用极大似然原则获取校准系数的取值,实现固有不确定性和认知不确定性的校准。其中,STD scaling是指将待校准分布的标准差上乘一放缩因子,以实现对其衡量的不确定性的整体放缩。
S631、通过不确定性分解公式表示各类不确定性校准后数值的关系:
λp·ηpredictive=λa·ηaleatoric+λe·ηepistemic (21)
其中,ηpredictive表示预测不确定性;ηaleatoric表示固有不确定性;ηepistemic表示认知不确定性;λp、λa和λe分别表示预测不确定性、固有不确定性和认知不确定性的校准系数,λp由S61步骤获得,且λe由λp和λa的取值共同决定。
S632、固有不确定性的校准系数λa经极大似然估计进行估计,似然函数p(y|x,X,Y)为:
其中,μb,new表示校准后预测均值的采样值且有:
上述的步骤S6是本发明的重要发明点,主要体现在,结合保序回归和STD scaling方法,提出的预测不确定性、固有不确定性、认知不确定性的校准,为剩余寿命预测和不确定性的精准量化提供了重要依据。
S7、判断预测不确定性的校准系数λp和固有不确定性的校准系数λa是否均不再改变或变化很小,若是则执行步骤S8,否则执行步骤S5。
S8、输出剩余寿命预测值和不确定性量化结果:由校准后的网络输出剩余寿命的预测值及其预测不确定性、固有不确定性和认知不确定性的量化结果。
下面结合涡扇发动机和锂离子电池对本发明做进一步的详细说明。
S1、预处理系统退化数据获取基础数据集:对涡扇发动机和锂离子电池数据集进行分析并预处理:涡扇发动机退化数据集由商用模块化航空推进仿真系统(CommercialModular Aero-Propulsion System Simulation,C-MAPSS)生成。该数据集由FD001、FD002、FD003、FD004四个子数据集组成,每个子数据集包含一个训练集和一个测试集。进一步划分训练发动机数据,取其中20%的发动机数据作为验证集,10%的发动机数据作为校准集,其余为训练集。每个子数据集均由21个传感器信号和3维工况数据多组多个时间序列组成,每组时间序列数据对应一台发动机的退化过程状态参数的变化情况。每台发动机属于同类产品,但有不同的初始状态,包括初始磨损和个体间制造上的差异。该数据集的基本概况如表1所示。
表1
C-MAPSS数据集包含21个传感器采集信号,但是有些传感器信号在整个退化过程中保持恒定,如T2、P2、P15、epr、farB、Nf-dmd和PCNfR-dmd,这些传感器信号无法反映发动机的退化状态。因此,为了降低输入维度,舍弃了这些传感器信号。对于三维的工况数据,通过对其聚类以降低数据维度,简化输入数据的形式,从而利于提高网络的计算速度和预测准确度。因此,最终选取输入数据为14维的传感器数据、1维工况数据和1维运行时间数据。
此外,考虑到不同工况下的传感器信号和不同传感器之间信号的幅值差异,利用归一化技术将原始信号映射到[0,1]范围内:
锂离子电池数据集由A123系统(APR18650M1A)制造的124个锂离子磷酸(LFP)/石墨电池的退化数据组成。在30℃的强制对流温度条件下,这些电池在48通道Arbin LBT恒电位仪上进行快速充放电,并利用传感器采集参数信号。根据测试开始的日期,数据集可以分为3个批次,各个批次之间在实验设计上都有一些不同之处。
选取该数据集的第二个批次共43个电池数据进行实验,每个电池均在同一运行条件下快速充放电直至失效,并进一步划分数据集,其中训练集、验证集、校准集、测试集的电池数量比例为5:2:1:2。与由截断数据组成的发动机测试集不同,锂离子电池测试集由全寿命周期数据组成。每个电池的全寿命周期数据共八维:充电时间、循环次数、内阻抗、放电容量、充电容量、平均温度、最高温度、最低温度。经分析,锂离子电池退化的主要表现形式为放电容量的降低。因此将放电容量达到初始放电容量的80%经历的循环数作为该电池的寿命。此外,上述信号中某些维度信号存在冗余,如放电容量和充电容量,平均温度、最高温度和最低温度。因此,为了简化输入,在这些冗余信号中选取一维信号作为最终的输入。最终选取的输入数据为:内阻抗、放电容量、平均温度、充电时间和循环次数。
与发动机数据预处理一样,选择归一化方法处理不同维度输入数据的幅值差异。但是,与发动机不同的是,锂离子电池的采集信号存在较大尖峰,使得归一化后的数据无法合理分布于[0,1]之间。因此,在归一化之前,需要先去除信号中的尖峰。
S2、确定深度神经网络类型和规模:根据退化数据特征选择合适类型的深度神经网络,并根据数据集的大小确定网络的规模,包括神经元数目、网络层数等。由于涡扇发动机和锂离子电池的退化数据均为时间序列数据,为了捕捉数据中的时序信息并处理长时间依赖的特征,选择LSTM作为基本网络框架。考虑到两个数据集均为中等规模的,因此选择三层LSTM建立网络。经过多次训练验证,每层LSTM选取的神经元数目分别为256、128和64。
S3、构建基于贝叶斯深度学习的剩余寿命预测网络:网络的基本架构如图2所示,将Concrete dropout应用于所选网络的各层中。为了保证贝叶斯推理的正确性,在对网络权重进行dropout操作时,需要保持LSTM层各个时间步的dropout mask相同,即Variational dropout。为了捕获固有不确定性,在最后一层LSTM的最后时间步上连接全连接层输出高斯分布的两个参数:均值μ和标准差σ。为保证输出的标准差有意义,标准差对应全连接层的激活函数选取指数激活函数。经过多次训练验证,各层控制参数αl均选取0.1,该网络对应损失函数为:
S4、确定剩余寿命预测网络的超参数进行训练和验证:选择Adam算法优化网络,通过试错策略结合网格搜索尝试各种超参数的组合,并通过训练验证选取最佳组合,如表2所示。
表2
在网络训练过程中,为了提高网络的泛化能力,利用早停法避免过拟合,即当验证集的Loss不再下降时停止训练。
S5、量化所训练剩余寿命预测网络的不确定性:在测试阶段打开dropout,具体操作为:对于网络中的每一层网络,首先从以优化完成的dropout概率p为参数的伯努利分布中采样得到dropout mask;其次将dropout mask与该层网络的权重相乘,对于LSTM层,保证各个时间步的dropout mask相同,即只需采样一次dropout mask;然后输出均值和标准差。重复上述步骤1000次,得到均值和标准差的1000次采样值最后计算预测值及不确定性:预测均值认知不确定性固有不确定性以及预测不确定性
S6、获取不确定性校准系数:首先确定迭代终止阈值ε=0.01;其次根据不确定性的量化结果在校准集上利用保序回归校准预测不确定性并计算对应的校准系数λp;然后结合STD scaling方法利用MLE估计固有不确定性对应的校准系数λa;随后在训练集上进一步优化子网络并更新网络,其中需继续优化的子网络为输出均值μ对应的全连接网络;最后重复上述校准—再训练步骤若干次,直至两次迭代校准系数的差值均小于等于0.01,得到校准系数的估计值如表3所示。
表3
S8、输出剩余寿命预测值和不确定性量化结果,图3a-7b分别展示了本发明在各个数据集上的剩余寿命预测值及其0.9置信度下的置信区间的估计结果和固有不确定性及认知不确定性的量化结果。
本发明设计的一种贝叶斯深度学习下剩余寿命预测及不确定性量化校准方法,基于对设备的退化数据进行预处理后得到的数据集,根据数据特征和数据集的大小选择合适类型和规模的深度神经网络,并在此基础上,构建贝叶斯深度学习网络以建模固有不确定性和认知不确定性,并确定其损失函数,网络中的超参数通过网格搜索的策略进行选择,随后进行网络训练,并结合验证集数据防止网络过拟合;对于训练好的网络,通过蒙特卡洛采样获得预测分布,进而得到预测值及各类不确定性的量化结果,为了校准不确定性,结合保序回归和STD scaling方法,提出了预测不确定性、固有不确定性、认知不确定性的校准,最后由已校准的网络预测剩余寿命和量化不确定性,可有效提高预测精度和不确定性校准质量。
最后所应说明的是:以上实施例仅以说明而非限制本发明的技术方案,尽管参照上述实施例对本发明进行了详细说明,本领域的普通技术人员应当理解:依然可以对本发明进行修改或者等同替换,而不脱离本发明的精神和范围的任何修改或局部替换,其均应涵盖在本发明的权利要求范围当中。
Claims (5)
1.一种贝叶斯深度学习下剩余寿命预测及不确定性量化校准方法,其特征在于,其包括以下步骤:
S1、预处理系统退化数据获取基础数据集:对系统退化数据进行预处理,包括特征筛选、特征降维、数据归一化和集合划分,得到用于网络训练、验证、测试和校准的基础数据集,包括训练集、验证集、测试集和校准集;
S2、确定深度神经网络类型和规模:根据退化数据特征选择合适类型的深度神经网络,包括卷积神经网络CNN和长短期记忆网络LSTM,并根据数据集的大小确定网络的规模,包括神经元数目和网络层数;
S3、构建基于贝叶斯深度学习的剩余寿命预测网络:将正则化方法应用于所选的深度神经网络来捕捉认知不确定性,并在网络输出上放置一个高斯分布来捕获固有不确定性,依此构建基于贝叶斯深度学习的剩余寿命预测网络,并确定网络的损失函数;
S31、将认知不确定性量化融入网络,使用KL散度并结合蒙特卡洛采样法得到推断分布和真实后验分布的距离的解析表达式;
S32、将固有不确定性量化融入网络,获取网络的损失函数Loss:
S33、在使用梯度下降法优化损失函数时,从伯努利分布中采样,为使用重参数化法更新参数,将离散的伯努利分布替换成其对应的Concrete分布,即采样点z为:
其中,t表示温度参数,用以控制从Concrete分布和伯努利分布中采样点的相似性,取0.1;pl表示dropout概率;u表示均匀分布[0,1]中采样点,得到采样点z关于pl的显式表达;
S4、确定剩余寿命预测网络的超参数进行训练和验证:通过网格搜索策略确定剩余寿命预测网络的超参数,包括批次大小、训练轮数和学习率,在训练集上训练网络并通过验证集验证,以防止网络过拟合;
S5、量化所训练剩余寿命预测网络的不确定性:在剩余寿命预测网络测试阶段,在测试集上通过蒙特卡洛dropout获得预测分布以估计剩余寿命,并利用不确定性分解公式分别量化预测不确定性、认知不确定性和固有不确定性;
S6、获取不确定性校准系数:基于量化所训练剩余寿命预测网络的不确定性,获取对应预测不确定性和固有不确定性的校准系数:
S61、定义校准:校准被定义为网络输出的预测分布的累积分布函数CDF和经验得到的CDF在数据量足够大的情况下能够匹配,即被定义为置信度为α的后验置信区间应当包含占比为α的真实结果;
S62、基于校准定义,对于未校准网络H,进行预测不确定性校准;
其中,μt和σt分别表示输入xt下的预测均值和预测不确定性,均由步骤S5获得;
其中,I{·}表示指示函数;
S623、构建校准数据集S:
S63、校准固有不确定性和认知不确定性:结合STD scaling方法,直接对网络方差进行放缩,并利用极大似然原则获取校准系数的取值,实现固有不确定性和认知不确定性的校准;
S7、判断预测不确定性的校准系数λp和固有不确定性的校准系数λa是否均不再改变或变化很小,若是则执行步骤S8,否则执行步骤S5;
S8、输出剩余寿命预测值和不确定性量化结果:由校准后的网络输出剩余寿命的预测值及其预测不确定性、固有不确定性和认知不确定性的量化结果。
2.根据权利要求1所述的贝叶斯深度学习下剩余寿命预测及不确定性量化校准方法,其特征在于,所述步骤S31具体包括以下步骤:
S311、对于一个L层的深度神经网络,每层单元数量为Kl,网络权重ω表示为:
其中,Wl表示深度神经网络的第l层网络权重;
S312、将Concrete dropout应用于深度神经网络以捕捉认知不确定性,即把固定的网络权重ω处理成推断分布qθ(ω):
其中,θ表示变分参数且有:
KL(qθ(ω)||p(ω|X,Y))=KL(qθ(ω)||p(ω))-∫qθ(ω)log(p(Y|X,ω))dω (5)
其中,p(Y|X,ω)表示基于历史数据集的似然函数;p(ω)表示权重的先验分布且选取为:
S314、结合蒙特卡洛采样法,得到KL(qθ(ω)||p(ω|X,Y))的解析表达式:
其中,p(yi|xi,ω)表示每个样本的似然函数;Η(pl)表示伯努利随机变量的熵且Η(pl)=-pllogpl-(1-pl)log(1-pl);
所述步骤S32具体包括以下步骤:
S321、在网络输出上放置一个高斯分布:
p(yi|xi,ω)=N(μ(xi,ω),σ2) (8)
其中,μ(xi,ω)表示预测均值;σ2表示观测噪声,用来衡量固有不确定性,并将其视为异方差即随输入数据变化而变化;
S322、考虑到观测噪声的建模会受到数据不足和网络认识不充分的制约,即受到认知不确定性的影响,将固有不确定性建模为σ2=σ(xi,ω)2,则网络的损失函数Loss可表示为:
3.根据权利要求1所述的贝叶斯深度学习下剩余寿命预测及不确定性量化校准方法,其特征在于,所述步骤S63具体包括以下步骤:
S631、通过不确定性分解公式表示各类不确定性校准后数值的关系:
λp·ηpredictive=λa·ηaleatoric+λe·ηepistemic (21)
其中,ηpredictive表示预测不确定性;ηaleatoric表示固有不确定性;ηepistemic表示认知不确定性;λp、λa和λe分别表示预测不确定性、固有不确定性和认知不确定性的校准系数,λp由S61步骤获得,且λe由λp和λa的取值共同决定;
S632、固有不确定性的校准系数λa经极大似然估计进行估计,似然函数p(y|x,X,Y)为:
其中,σb表示预测标准差的采样值;μb,new表示校准后预测均值的采样值且有:
其中,μb表示预测均值的采样值;
4.根据权利要求1所述的贝叶斯深度学习下剩余寿命预测及不确定性量化校准方法,其特征在于,所述步骤S5具体包括以下步骤:
S51、通过预测方差来衡量不确定性,且预测方差Var(y|x)分解为:
Var(y|x)=Varω[Ey|x,ω(y|x,ω)]+Eω[Vary|x,ω(y|x,ω)] (11)
其中,Varω[Ey|x,ω(y|x,ω)]和Eω[Vary|x,ω(y|x,ω)]分别表示衡量认知不确定性和固有不确定性的方差:
S52、对于测试数据x*,在测试阶段打开dropout,即MC dropout,确定循环次数B,通过B次MC dropout得到采样值集合
S53、计算预测均值及不确定性:
其中,预测均值μ*的表达式为:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111182468.3A CN113868957B (zh) | 2021-10-11 | 2021-10-11 | 贝叶斯深度学习下剩余寿命预测及不确定性量化校准方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111182468.3A CN113868957B (zh) | 2021-10-11 | 2021-10-11 | 贝叶斯深度学习下剩余寿命预测及不确定性量化校准方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113868957A true CN113868957A (zh) | 2021-12-31 |
CN113868957B CN113868957B (zh) | 2024-05-31 |
Family
ID=78998984
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111182468.3A Active CN113868957B (zh) | 2021-10-11 | 2021-10-11 | 贝叶斯深度学习下剩余寿命预测及不确定性量化校准方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113868957B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114913587A (zh) * | 2022-06-14 | 2022-08-16 | 合肥工业大学 | 基于贝叶斯深度学习的非接触式心率测量不确定度量化方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110222371A (zh) * | 2019-05-05 | 2019-09-10 | 北京大学 | 基于贝叶斯和神经网络的发动机剩余寿命在线预测方法 |
US20190370955A1 (en) * | 2018-06-05 | 2019-12-05 | Kla-Tencor Corporation | Active learning for defect classifier training |
CN110807509A (zh) * | 2018-08-06 | 2020-02-18 | 北京博智天下信息技术有限公司 | 一种基于贝叶斯神经网络的深度知识追踪方法 |
CN111723674A (zh) * | 2020-05-26 | 2020-09-29 | 河海大学 | 基于马尔科夫链蒙特卡洛与变分推断的半贝叶斯深度学习的遥感图像场景分类方法 |
US20210103814A1 (en) * | 2019-10-06 | 2021-04-08 | Massachusetts Institute Of Technology | Information Robust Dirichlet Networks for Predictive Uncertainty Estimation |
CN112862004A (zh) * | 2021-03-19 | 2021-05-28 | 三峡大学 | 基于变分贝叶斯深度学习的电网工程造价管控指标预测方法 |
-
2021
- 2021-10-11 CN CN202111182468.3A patent/CN113868957B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20190370955A1 (en) * | 2018-06-05 | 2019-12-05 | Kla-Tencor Corporation | Active learning for defect classifier training |
CN110807509A (zh) * | 2018-08-06 | 2020-02-18 | 北京博智天下信息技术有限公司 | 一种基于贝叶斯神经网络的深度知识追踪方法 |
CN110222371A (zh) * | 2019-05-05 | 2019-09-10 | 北京大学 | 基于贝叶斯和神经网络的发动机剩余寿命在线预测方法 |
US20210103814A1 (en) * | 2019-10-06 | 2021-04-08 | Massachusetts Institute Of Technology | Information Robust Dirichlet Networks for Predictive Uncertainty Estimation |
CN111723674A (zh) * | 2020-05-26 | 2020-09-29 | 河海大学 | 基于马尔科夫链蒙特卡洛与变分推断的半贝叶斯深度学习的遥感图像场景分类方法 |
CN112862004A (zh) * | 2021-03-19 | 2021-05-28 | 三峡大学 | 基于变分贝叶斯深度学习的电网工程造价管控指标预测方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114913587A (zh) * | 2022-06-14 | 2022-08-16 | 合肥工业大学 | 基于贝叶斯深度学习的非接触式心率测量不确定度量化方法 |
CN114913587B (zh) * | 2022-06-14 | 2024-02-13 | 合肥工业大学 | 基于贝叶斯深度学习的非接触式心率测量不确定度量化方法 |
Also Published As
Publication number | Publication date |
---|---|
CN113868957B (zh) | 2024-05-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112763929B (zh) | 一种储能电站系统电池单体健康预测方法及装置 | |
CN110824364B (zh) | 一种基于ast-lstm神经网络的锂电池soh估计与rul预测方法 | |
Lucu et al. | A critical review on self-adaptive Li-ion battery ageing models | |
CN113777496B (zh) | 基于时间卷积神经网络的锂离子电池剩余寿命预测方法 | |
Fan et al. | A novel machine learning method based approach for Li-ion battery prognostic and health management | |
CN108535656A (zh) | 基于pca-narx神经网络的锂离子电池剩余使用寿命预测方法和系统 | |
CN109902801A (zh) | 一种基于变分推理贝叶斯神经网络的洪水集合预报方法 | |
CN110501646A (zh) | 一种离线锂电池剩余电量估计方法 | |
CN112434848A (zh) | 基于深度信念网络的非线性加权组合风电功率预测方法 | |
CN113554148A (zh) | 一种基于贝叶斯优化的BiLSTM电压偏差预测方法 | |
CN114547974A (zh) | 基于输入变量选择与lstm神经网络的动态软测量建模方法 | |
CN112734002A (zh) | 一种基于数据层和模型层联合迁移学习的寿命预测方法 | |
CN115219906A (zh) | 基于ga-pso优化的多模型融合电池荷电状态预测方法及系统 | |
Li et al. | A hybrid framework for predicting the remaining useful life of battery using Gaussian process regression | |
CN117949832B (zh) | 一种基于优化神经网络的电池soh分析方法 | |
CN114692507A (zh) | 基于堆叠泊松自编码器网络的计数数据软测量建模方法 | |
Xu et al. | High-accuracy health prediction of sensor systems using improved relevant vector-machine ensemble regression | |
CN113868957B (zh) | 贝叶斯深度学习下剩余寿命预测及不确定性量化校准方法 | |
Tang et al. | Parameter identification for lithium batteries: Model variable-coupling analysis and a novel cooperatively coevolving identification algorithm | |
CN113203953B (zh) | 基于改进型极限学习机的锂电池剩余使用寿命预测方法 | |
Kuang et al. | State-of-charge estimation hybrid method for lithium-ion batteries using BiGRU and AM co-modified Seq2Seq network and H-infinity filter | |
CN113627594A (zh) | 基于wgan的一维时序数据增广方法 | |
CN117554820A (zh) | 电池健康状态预测方法、装置、计算机设备和存储介质 | |
Navidi et al. | Physics-informed machine learning for battery degradation diagnostics: A comparison of state-of-the-art methods | |
Wang et al. | A conditional random field based feature learning framework for battery capacity prediction |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |