CN114545279A - 一种基于神经网络常微分方程的锂电池健康状态估计方法 - Google Patents
一种基于神经网络常微分方程的锂电池健康状态估计方法 Download PDFInfo
- Publication number
- CN114545279A CN114545279A CN202210175767.2A CN202210175767A CN114545279A CN 114545279 A CN114545279 A CN 114545279A CN 202210175767 A CN202210175767 A CN 202210175767A CN 114545279 A CN114545279 A CN 114545279A
- Authority
- CN
- China
- Prior art keywords
- lithium battery
- network
- neural network
- data set
- ode
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- WHXSMMKQMYFTQS-UHFFFAOYSA-N Lithium Chemical compound [Li] WHXSMMKQMYFTQS-UHFFFAOYSA-N 0.000 title claims abstract description 111
- 229910052744 lithium Inorganic materials 0.000 title claims abstract description 111
- 238000013528 artificial neural network Methods 0.000 title claims abstract description 81
- 238000000034 method Methods 0.000 title claims abstract description 49
- 230000036541 health Effects 0.000 title claims abstract description 30
- 238000013138 pruning Methods 0.000 claims abstract description 31
- 238000012549 training Methods 0.000 claims abstract description 25
- 238000012360 testing method Methods 0.000 claims abstract description 15
- 238000007781 pre-processing Methods 0.000 claims abstract description 8
- 230000002829 reductive effect Effects 0.000 claims abstract description 7
- 230000006870 function Effects 0.000 claims description 20
- 230000008569 process Effects 0.000 claims description 17
- 238000007599 discharging Methods 0.000 claims description 10
- 238000004364 calculation method Methods 0.000 claims description 7
- 238000012795 verification Methods 0.000 claims description 5
- 230000005611 electricity Effects 0.000 claims description 4
- 230000001351 cycling effect Effects 0.000 claims 1
- 230000000694 effects Effects 0.000 abstract description 5
- 238000011156 evaluation Methods 0.000 abstract description 5
- 238000005457 optimization Methods 0.000 description 15
- 210000002569 neuron Anatomy 0.000 description 8
- 230000032683 aging Effects 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 230000001537 neural effect Effects 0.000 description 5
- HBBGRARXTFLTSG-UHFFFAOYSA-N Lithium ion Chemical compound [Li+] HBBGRARXTFLTSG-UHFFFAOYSA-N 0.000 description 4
- 230000008901 benefit Effects 0.000 description 4
- 238000011161 development Methods 0.000 description 4
- 230000018109 developmental process Effects 0.000 description 4
- 229910001416 lithium ion Inorganic materials 0.000 description 4
- 230000007704 transition Effects 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 230000003862 health status Effects 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 230000003044 adaptive effect Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000002238 attenuated effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000009795 derivation Methods 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 239000007772 electrode material Substances 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 239000000295 fuel oil Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000002427 irreversible effect Effects 0.000 description 1
- 238000005184 irreversible process Methods 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000013178 mathematical model Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 239000003921 oil Substances 0.000 description 1
- 238000011002 quantification Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01R—MEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
- G01R31/00—Arrangements for testing electric properties; Arrangements for locating electric faults; Arrangements for electrical testing characterised by what is being tested not provided for elsewhere
- G01R31/36—Arrangements for testing, measuring or monitoring the electrical condition of accumulators or electric batteries, e.g. capacity or state of charge [SoC]
- G01R31/392—Determining battery ageing or deterioration, e.g. state of health
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01R—MEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
- G01R31/00—Arrangements for testing electric properties; Arrangements for locating electric faults; Arrangements for electrical testing characterised by what is being tested not provided for elsewhere
- G01R31/36—Arrangements for testing, measuring or monitoring the electrical condition of accumulators or electric batteries, e.g. capacity or state of charge [SoC]
- G01R31/367—Software therefor, e.g. for battery testing using modelling or look-up tables
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/082—Learning methods modifying the architecture, e.g. adding, deleting or silencing nodes or connections
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02E—REDUCTION OF GREENHOUSE GAS [GHG] EMISSIONS, RELATED TO ENERGY GENERATION, TRANSMISSION OR DISTRIBUTION
- Y02E60/00—Enabling technologies; Technologies with a potential or indirect contribution to GHG emissions mitigation
- Y02E60/10—Energy storage using batteries
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/60—Other road transportation technologies with climate change mitigation effect
- Y02T10/70—Energy storage systems for electromobility, e.g. batteries
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Secondary Cells (AREA)
Abstract
本发明涉及锂电池健康状态评估技术领域,公开了一种基于神经网络常微分方程的锂电池健康状态估计方法,包括如下步骤:步骤1、对收集到的锂电池数据集进行预处理得到原始数据集;步骤2、将所述原始数据集分类成训练数据集和测试数据集;步骤3、将所述训练数据集输入至通过元学习剪枝后得到的轻量化ODE网络,对所述轻量化ODE网络进行训练得到锂电池的预测容量,并通过所述测试数据集对训练后的轻量化ODE网络进行测试。本发明将元学习剪枝(Meta‑pruning)应用在ODE网络中,简化网络结构并减少网络参数量,达到进一步精简轻量化的ODE网络的效果,并提高神经网络预测锂电池SOH的精度。
Description
技术领域
本发明涉及锂电池健康状态评估技术领域,具体涉及一种基于神经网络常微分方程的锂电池健康状态估计方法。
背景技术
随着能源过度开发和消耗以及环境恶化日益严重,电动汽车产业得到迅猛发展。电池是新能源汽车的动力来源,决定着电动汽车的续航,相当于燃油汽车的油箱。作为电动汽车的“三大件”(电池、电机和电控)之一,动力电池技术水平决定着车辆能源转换效率与行驶安全。近些年来,随着电动汽车的兴起与电池技术的发展,电池的能量密度和功率强度也得到了较大提高,因此,针对高能量密度动力电池的可靠管理则显得尤为重要。电池管理系统(Battery Management System,BMS)是动力电池技术的核心,其主要功能包括:基本参数实时监测、电池状态估计、故障诊断与预警、热管理等。电池健康状态预测作为电池管理系统的核心功能之一,其预测精度及鲁棒性制约着电池管理系统的发展。由于锂离子电池具有循环寿命长、能量密度高、成本价格低等优点,因此被广泛应用于电动汽车上。在实际的运行过程中,锂离子电池的电极材料特性被局部破坏,并且电池内部的物理和化学结构会发生变化,导致电池性能逐步衰减。电池的老化是一个不可逆转的过程,电池的温度、不同的充放电倍率、过充及过放等不良使用习惯都会加速电池的老化。如何对电池的健康状态(State of Health,SOH)进行评估对电动汽车上的电池管理系统来说十分重要。此外,准确预测电池的SOH,对于精确估计电池的其它信息也具有重要的帮助。进行电池的荷电状态(State of Charge,SOC)估算时,如能精准地估计电池的SOH,则可以提高SOC的预测精度。此外,精确的电池SOH也会为电池的均衡控制提供有用的信息。相关研究表明,电池老化速率的相关参数如充放电倍率、放电深度和周围温度以及存储条件等决定了电池的工作状态。如果能获得更多关于电池老化的信息就可以提高电池的使用寿命并且能避免安全事故的发生。
电池健康状态(SOH)主要通过对于电池老化程度即电池使用寿命进行判别从而对电池的性能进行评估。电池在实际工况下,时刻改变的环境及自身的工作状态均会影响电池的老化速率。相关实验表明电池SOH的影响因素有温度、循环次数、充放电电流、电池内阻等。同时,电池的过度充放电、外力冲击或长期工作在腐蚀性环境中等因素,均会对电池的寿命产生不可逆影响,对电池造成损坏,严重时可能会影响行车安全。
对SOH进行准确估算难点在于特征的选取。锂离子电池在实际工况下其内部化学反应复杂,建立数学模型比较复杂,影响因素与SOH本身存在非线性关系,且影响因素的选取与模型的构建息息相关,若在选取过程中忽略主要影响因素则会造成较大的预测误差。因此,在构建预测模型时,需要采集与模型相关的电池参数(温度、内阻等),以此来提升预测精度。由于部分模型适应性较差,输入模型的参数存在差异,难以统一量化。因此,寻找一个合适的方法来构建预测模型是非常重要的。
想要通过人工神经网络构建一个良好的预测模型,性能优良的网络结构和大量的训练数据都是必不可少的。然而在构建网络结构的过程中,为了追求更高的性能而盲目的加深网络深度与宽度对于实际的应用来说并不合适。在实际的应用场景中,嵌入式开发设备的有限算力并不能良好的支持大规模的深度人工神经网络,如何在满足预测精确度需求的情况下寻找最合适的网络结构来评估锂电池健康状态是非常有必要的。
发明内容
本发明提供一种基于神经网络常微分方程的锂电池健康状态估计方法,提出了一种将轻量化网络——神经网络常微分方程(Neural Ordinary Differential Equations,后面简称ODE网络)应用到SOH的估计中来,并且使用元学习剪枝(Meta-pruning)对ODE网络进行进一步的超参数优化以及网络结构的优化。
本发明通过下述技术方案实现:
一种基于神经网络常微分方程的锂电池健康状态估计方法,包括如下步骤:
步骤1、对收集到的锂电池数据集进行预处理得到原始数据集;
步骤2、将所述原始数据集分类成训练数据集和测试数据集;
步骤3、将所述训练数据集输入至通过元学习剪枝后得到的轻量化ODE网络,对所述轻量化ODE网络进行训练得到锂电池的预测容量,并通过所述测试数据集对训练后的轻量化ODE网络进行测试;
步骤4、将需要进行估计的锂电池的数据输入至训练后的轻量化OED网络得到该锂电池的预测容量,通过所述预测容量和锂电池的额定容量得到预测的锂电池健康状态。
作为优化,步骤1中,对所述锂电池数据集进行预处理得到原始数据集具体为对每个锂电池进行充放电循环,循环步骤具体包括:
步骤1.1、以1.38A恒流对锂电池进行充满电;
步骤1.2、对锂电池采用恒压放电一段时间;
步骤1.3、将锂电池静置一段时间以稳定电池温度;
步骤1.4、对锂电池进行2.9A恒流放电一段时间,使得锂电池的电量为0,再静置一段时间;
步骤1.5、重复步骤1.1-步骤1.4数次,采集若干个步骤1.4得到的锂电池数据作为原始数据集z(t_0)。
作为优化,所述原始数据集包括每次锂电池进行2.9A恒流放电期间的电流值、电压值、温度值以及作为采集电流值、电压值、温度值的时间点的时间因子以及锂电池所下降的总电量,所述锂电池所下降的总电量定义为容量值。
作为优化,所述ODE网络包括通过元学习自动搜寻神经网络常微分方程得出的神经网络f和常微分方程解算器ODESolver,步骤3中,将所述训练数据集输入至通过元学习剪枝后得到的轻量化ODE网络,对所述轻量化ODE网络进行训练得到锂电池的预测容量的具体步骤为:
步骤3.1、通过误差容忍度参数确定所述ODESolver的步长;
步骤3.2、将所述原始数据集和神经网络转换函数f(θ)输入至所述ODE网络,并计算所述ODE网络的反向传播误差,以得到锂电池的预测容量。
作为优化,步骤3.1中,所述误差容忍度包括相对误差容忍度和绝对误差容忍度。
作为优化,步骤3.2中,所述ODE网络的反向传播误差的计算步骤如下:
步骤3.21、定义当前时刻的隐藏层为:hc+1=hc+f(hc,θc),
其中,f为通过元学习自动搜寻神经网络常微分方程得出的神经网络,θ为所述神经网络自带参数,c为网络层数,hc为隐藏层的输出,h∈RD;
步骤3.22、对所述隐藏层进行积分,计算出该隐藏层的值:
h(c)=∫f(c,h(c),θc)dc;
步骤3.23、通过所述ODESolver,计算出h(c):
y=h(c1)=ODESolver(h(c0),t0,t1,θ,f);
其中,t0和t1分别对应的微分开始时间和结束时间,θ代表所述神经网络自带参数;
步骤3.24、通过损失函数进行计算所述ODESolver的反向传播误差,所述损失函数如下:
L(t0,t1,θc)=L(ODESolver(h(c0),t0,t1,θ,f))。
作为优化,计算所述原始数据集的反向传播误差的具体计算方式如下:
步骤3.241、将所述原始数据集依次输入至4*25的第一线性全连接层和25*4的第二线性全连接层得到第一中间结果集;
步骤3.242、将所述第一中间结果集和第一数据集输入至odeint函数,计算出第二中间结果集;
步骤3.243、将所述第二中间结果集依次输入至4*25的第三线性全连接层和25*2的第四线性全连接层,得到锂电池的预测容量和预测容量所对应的时间t_p。
作为优化,步骤3.2中,在进行原始数据集的反向传播误差的计算时,计算隐藏层以及隐藏层自带参数的损失梯度,然后通过ODESolver计算出所述隐藏层以及隐藏层自带参数的损失梯度的积分:
作为优化,所述锂电池的额定容量NC为对锂电池进行第一次充放电循环中锂电池进行2.9A恒流放电至0所下降的总电量,步骤4得到的锂电池的预测容量为C,所述锂电池的电池健康状态SOH为:
作为优化,通过元学习自动搜寻神经网络常微分方程得出的神经网络转换函数f的具体过程为:
训练一个PruningNet,用于在向所述PrunedNet输入网络结构向量时提供网络权重,以得到剪枝网络;
在构建的若干剪枝网络中使用验证集对网络性能进行优劣评估,以得到网络性能最优的剪枝网络,该性能最优的剪枝网络即为通过元学习自动搜寻神经网络常微分方程得出的神经网络f。
本发明与现有技术相比,具有如下的优点和有益效果:
1.本发明考虑到移动平台算力受限的情况下,将轻量化神经网络常微分方程(ODE)的神经网络应用到锂电池SOH预测中来,为锂电池SOH预测的实际应用轻量化提供了一种思路,为DMS系统整体的轻量化减轻了压力。
2.本发明改进了普通神经网络常微分方程,增加数据增强机制,提出强化神经网络常微分方程(AUG-ODENet),强化网络对SOH强相关变量的特征提取,在整体网络层数较少的基础上,取得更好的锂电池SOH预测精度,即在普通的ODE网络添加神经网络f,然后把这个小网络的输出加到主网络里面去,最根本的区别就是更改了一下网络结构的基本框架,相比普通的ODE网络会有更好的预测效果。
3.本发明将元学习剪枝(Meta-pruning)应用在ODE网络中,简化网络结构并减少网络参数量,达到进一步精简轻量化的ODE网络的效果,并提高神经网络预测锂电池SOH的精度。
附图说明
为了更清楚地说明本发明示例性实施方式的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。在附图中:
图1为本发明所述的一种基于神经网络常微分方程的锂电池健康状态估计方法的总体技术流程图;
图2为残差网络与ODE网络的步长区别示意图;
图3为ODE网络的结构示意图;
图4为本发明所述的一种基于神经网络常微分方程的锂电池健康状态估计方法中的Recognition的结构示意图;
图5为本发明所述的一种基于神经网络常微分方程的锂电池健康状态估计方法中的Decoder的结构示意图;
图6为本发明所述的一种基于神经网络常微分方程的锂电池健康状态估计方法中的损失函数的反向传播路径图;
图7为本发明所述的一种基于神经网络常微分方程的锂电池健康状态估计方法中的元学习剪枝流程图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白,下面结合实施例和附图,对本发明作进一步的详细说明,本发明的示意性实施方式及其说明仅用于解释本发明,并不作为对本发明的限定。
本发明旨在解决用数据驱动方法来估计锂电池SOH的应用困难。因为现在大多数使用神经网络估计锂电池SOH的方法采用的都是深层次的大网络,对实际应用的平台搭建有很高的算力需求,然而在实际应用场景中,例如智能车辆,不可能为一个电池的BMS搭建一个非常昂贵的高性能平台,所以锂电池SOH的轻量化部署问题应运而生,本发明就是为解决此问题提出了一种可行的方法。
具体的,本发明提出了将一种轻量化网络——神经网络常微分方程(NeuralOrdinary Differential Equations,后面简称ODE网络)应用到SOH的估计中来,并且使用元学习剪枝(Meta-pruning)对ODE网络进行进一步的超参数优化以及网络结构的优化。
具体的估计方式见实施例1
实施例
一种基于神经网络常微分方程的锂电池健康状态估计方法,包括如下步骤:
步骤1、对收集到的锂电池数据集进行预处理得到原始数据集。本实施例中,锂电池数据集使用的是马里兰大学的电池公开数据集。
本实施例中,步骤1中,对所述锂电池数据集进行预处理得到原始数据集具体为对每个锂电池进行充放电循环,循环步骤具体包括:
步骤1.1、以1.38A恒流对锂电池进行充满电;
步骤1.2、对锂电池采用恒压放电一段时间;这里,采用恒压放电放2522s,也就是放电42分钟左右。本发明中,在放电2522s后,记录电池的容量值。
步骤1.3、将锂电池静置一段时间以稳定电池温度;这里静止约300秒,即5分钟左右,
步骤1.4、对锂电池进行2.9A恒流放电一段时间,使得锂电池的电量为0,再静置一段时间;
步骤1.5、重复步骤1.1-步骤1.4数次,采集若干个步骤1.4得到的锂电池数据作为原始数据集Z(t_0)。
本实施例中,所述原始数据集包括每次锂电池进行2.9A恒流放电期间的电流值、电压值、温度值以及作为采集电流值、电压值、温度值的时间点的时间因子以及锂电池所下降的总电量,所述锂电池所下降的总电量定义为容量值。
如图1所示,将马里兰大学锂电池公开数据集(CALCE)进行数据集的预处理,每个充放电循环(cycle)采用以下流程:首先以1.38A恒流充满电,之后先采用恒压放电一段时间,之后将电池静置一段时间稳定电池温度,之后进行2.9A恒流放电,再静置一段时间,进行下一个充放电循环。
将电池以2.9A恒流放电直到电量放空的过程称为一个循环(cycle)。抽取出电池以2.9A恒流放空过程中的电流、电压、温度以及时间因子,由于电流电压等数据是2s采集一次数据,而温度却是1s采集一次数据,于是将温度因子进行间隔取样,使得这四个电池状态因子处在同一个时间频率下,并将这四个电池状态因子组成一个四维向量X,并将整个放电过程中下降的总电量作为当前电池的总容量Y,并将其作为X的标签一起输入模型训练。
步骤2、将所述原始数据集分类成训练数据集和测试数据集。
具体的,将处理后的原始数据集以3:7的比例分为测试数据集和训练数据集,用于之后的训练和测试环节。
步骤3、将所述训练数据集输入至通过元学习剪枝后得到的轻量化ODE网络,对所述轻量化ODE网络进行训练得到锂电池的预测容量,并通过所述测试数据集对训练后的轻量化ODE网络进行测试;
使用常微分方程人工神经网络(Neural ODE)作为基本的网络结构搭建网络模型,将神经网络与常微分方程结合在一起,用ODE网络来做预测。目前现有构建的ODE网络使用了一种适应性的ODEsolver,它不像欧拉法移动固定的步长,相反的,它会根据给定的误差容忍度选择适当的步长逼近真实解,这就使得神经网络可以根据精确度的需要调整误差容忍度,以达到所需的精确度和计算时长之间的平衡。如图2所示,左边的残差网络定义有限转换的离散序列,它从0到1再到5是离散的层级数,且在每一层通过激活函数做一次非线性转换,此外,黑色的评估位置可以视为神经元,它会对输入做一次转换以修正传递的值,而右侧的ODE网络定义了一个向量场,隐藏状态会有一个连续的转换,黑色的评估点也会根据误差容忍度自动调整。
ODE网络结构如图3所示,其基本结构为一个连续的神经网络f和常微分方程解算器ODE Solver,其中神经网络f对输入数据Z(t_0)进行非线性变换,从而得到f(Z(t_0),θ),随后ODE Solver对f进行积分,再加上初始的输入数据Z(t_0)就可以得到最后的预测结果。
而在实际运用中,神经网络f为使用元学习搜寻到的轻量化网络结构函数,在使用ODE Solver之前,需要确定ODE Solver的相对误差容忍度(relative tolerance)和绝对误差容忍度(absolute tolerance)确定计算步长,之后将神经网络f、电池的初始的输入数据Z(t_0)以及容忍度参数(相对误差容忍度(relative tolerance)和绝对误差容忍度(absolute tolerance))输入ODE Solver中并计算反向传播误差,获得ODE Solver方法的反向传播梯度。
具体步骤为:
步骤3.1、通过误差容忍度参数确定所述0DESolver的步长;
步骤3.2、将所述原始数据集和神经网络转换函数f(θ)输入至所述ODE网络,并计算所述ODE网络的反向传播误差,以得到锂电池的预测容量。
本实施例中,步骤3.1中,所述误差容忍度包括相对误差容忍度和绝对误差容忍度。
相对误差容忍度和绝对误差容忍度是0DESolver里面的参数,是可以自定义的,相对容忍度和绝对容忍度的大小可以控制求解器逼近的策略:是降低容忍度来达到更高的精度,还是增加容忍度以求获得更快的拟合速度。这里是取的是默认的相对容忍度和绝对容忍度,默认的取值容忍度范围是Tol=1e-3。
本实施例中,步骤3.2中,所述ODE网络的反向传播误差的计算步骤如下:
步骤3.21、定义当前时刻的隐藏层为:hc+1=hc+f(hc,θc),其中,f为通过元学习自动搜寻神经网络常微分方程得出的神经网络,θ为所述神经网络自带参数,c为网络层数,hc为隐藏层的输出,hc∈RD。hc∈RD就是hc全都为实数。
这里的自带参数就是指神经网络f中的那些参数,就是神经网络f中的各个神经元中的权值。
步骤3.22、对所述隐藏层进行积分,计算出该隐藏层的值:
h(c)=∫f(c,h(c),θc)dc;
步骤3.23、通过所述ODESolver,计算出h(c):
y=h(c1)=ODESolver(h(c0),t0,t1,θ,f);
其中,t0和t1分别对应的微分开始时间和结束时间,θ代表所述神经网络自带参数(权值和参数);
步骤3.24、通过损失函数进行计算所述ODESolver的反向传播误差,即通过连续的隐藏状态进行动态的反向传播(反向模式积分),损失函数如下,
L(t0,t1,θc)=L(ODESolver(h(c0),t0,t1,θ,f))。
在反向传播的路径中,Loss定义为由经过Recognition和Decoder后算出的参数与实际值的平均数,Recognition的结构如图4,Decoder的结构如图5;
本实施例中,计算所述原始数据集的反向传播误差的具体计算方式如下:
步骤3.241、将所述原始数据集依次输入至4*25的第一线性全连接层和25*4的第二线性全连接层得到第一中间结果集;
步骤3.242、将所述第一中间结果集和第一数据集输入至odeint函数,计算出第二中间结果集pred_z;
步骤3.243、将所述第二中间结果集依次输入至4*25的第三线性全连接层和25*2的第四线性全连接层,得到锂电池的预测容量和锂电池充放电过程的预测容量所对应的时间t_p。
Linear是线性全连接层,输入维度输出维度是可以自定义的,图6和图7中ODESlover后的两个linear他们的权值是不一样的,其权值可以根据实际情况来设置。
本发明的这个容量预测的目标是SOH,也就是这个电池的当前最大容量(电池在使用过程中,最大容量会不断衰减),所以本发明的网络模型是将这个电池的整个放电过程中的所有电流电压温度时间都输入进网络,然后输出一个当前电池的最大容量值,所以说这个输出的时间表征的是一个先后顺序的意思,可以把这个时间理解为电池充放电过程的次数。
具体的反向传播路径如图6,
本实施例中,步骤3.2中,在进行原始数据集的反向传播误差的计算时,为了减少误差,需要求出这些参数(每个神经元的权值对总体误差的影响程度的大小,就是正常神经网络神经元梯度)的梯度,跟传统的深度学习反向传播一样,第一步是算出相对于隐藏层状态h(t)的损失梯度最后求出损失函数L对各个参数(隐藏层以及隐藏层自带参数)的损失梯度,然后通过ODESolver计算出所述隐藏层以及隐藏层自带参数的损失梯度的积分:
通过ODESolver可以很好地计算这些损失梯度的积分,至此网络的训练过程可以顺利的解决。其中ODESolver可以理解为一个可以调用的函数,它的输入是前面的神经网络f(g)、需要预测的数据以及确定步长的参数相对误差容忍度(relative tolerance)和绝对误差容忍度(absolute tolerance),之后ODESolver函数便会给算出相应的预测结果。
步骤4、将需要进行估计的锂电池的数据输入至训练后的轻量化OED网络得到该锂电池的预测容量,通过所述预测容量和锂电池的额定容量得到预测的锂电池健康状态。
本实施例中,所述锂电池的额定容量NC为对锂电池进行第一次充放电循环中锂电池进行2.9A恒流放电至0所下降的总电量,步骤4得到的锂电池的预测容量为C,所述锂电池的电池健康状态SOH为:
如图7所示,本实施例中,使用元学习剪枝(Meta_pruning)对neural ODEs进行超参数优化以及网络结构优化,对于neural ODEs神经网络来说,需要寻找网络结构的是进入ODESolver前的神经网络结构,将元学习剪枝方法搜寻出来的网络结构经过ODESlover进过进一步的训练以达到所需的预测精度要求。通过元学习自动搜寻神经网络常微分方程得出的神经网络f的具体过程为:
训练一个PruningNet,用于在向所述PrunedNet输入网络结构向量时提供网络权重,以得到剪枝网络;
网络权重就是神经元之间的参数,比如,要修剪的网络有1000个神经元,连接起来之后有2000个权重,然后这个PruningNet经过训练后就会根据之前定好的约束条件给要修剪的网络在定好的范围内随机提供参数,提供的权值中有一定几率是0,权值为零就意味着这个神经元被废弃了,也就达到了删减神经元修剪网络结构的效果。然后例如PruningNet提供了1000组权值,也就生成了1000个基本框架相同但是结构权值都不相同的神经网络,再把这1000个神经网络分别验证数据集,就选出那个效果最好(准确率最高)的神经网络作为修剪之后的剪枝网络。
在构建的若干剪枝网络中使用验证集对网络性能进行优劣评估,以得到网络性能最优的剪枝网络,该性能最优的剪枝网络即为通过元学习自动搜寻神经网络常微分方程得出的神经网络f。在搜索时间内没有对网络的微调以及重新训练的过程,因此搜索过程是非常高效的。
通过验证,本发明搭建好的ODE网络Flops为8.3M参数量为5666,属于极小的轻量级网络,经过验证在AMD Ryzen 5 3500X的运算条件下可以在300s内完成整个网络训练,并且达到90%以上的准确度。
以上所述的具体实施方式,对本发明的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施方式而已,并不用于限定本发明的保护范围,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种基于神经网络常微分方程的锂电池健康状态估计方法,其特征在于,包括如下步骤:
步骤1、对收集到的锂电池数据集进行预处理得到原始数据集;
步骤2、将所述原始数据集分类成训练数据集和测试数据集;
步骤3、将所述训练数据集输入至通过元学习剪枝后得到的轻量化ODE网络,对所述轻量化ODE网络进行训练得到锂电池的预测容量,并通过所述测试数据集对训练后的轻量化ODE网络进行测试;
步骤4、将需要进行估计的锂电池的数据输入至训练后的轻量化OED网络得到该锂电池的预测容量,通过所述预测容量和锂电池的额定容量得到预测的锂电池健康状态。
2.根据权利要求1所述的一种基于神经网络常微分方程的锂电池健康状态估计方法,其特征在于,步骤1中,对所述锂电池数据集进行预处理得到原始数据集具体为对每个锂电池进行充放电循环,循环步骤具体包括:
步骤1.1、以1.38A恒流对锂电池进行充满电;
步骤1.2、对锂电池采用恒压放电一段时间;
步骤1.3、将锂电池静置一段时间以稳定电池温度;
步骤1.4、对锂电池进行2.9A恒流放电一段时间,使得锂电池的电量为0,再静置一段时间;
步骤1.5、重复步骤1.1-步骤1.4数次,采集若干个步骤1.4得到的锂电池数据作为原始数据集Z(t_0)。
3.根据权利要求2所述的一种基于神经网络常微分方程的锂电池健康状态估计方法,其特征在于,所述原始数据集包括每次锂电池进行2.9A恒流放电期间的电流值、电压值、温度值以及作为采集电流值、电压值、温度值的时间点的时间因子以及锂电池所下降的总电量,所述锂电池所下降的总电量定义为容量值。
4.根据权利要求1所述的一种基于神经网络常微分方程的锂电池健康状态估计方法,其特征在于,所述ODE网络包括通过元学习自动搜寻神经网络常微分方程得出的神经网络f和常微分方程解算器ODESolver,步骤3中,将所述训练数据集输入至通过元学习剪枝后得到的轻量化ODE网络,对所述轻量化ODE网络进行训练得到锂电池的预测容量的具体步骤为:
步骤3.1、通过误差容忍度参数确定所述ODESolver的步长;
步骤3.2、将所述原始数据集和神经网络f(θ)输入至所述ODE网络,并计算所述ODE网络的反向传播误差,以得到锂电池的预测容量。
5.根据权利要求4所述的一种基于神经网络常微分方程的锂电池健康状态估计方法,其特征在于,步骤3.1中,所述误差容忍度包括相对误差容忍度和绝对误差容忍度。
6.根据权利要求4所述的一种基于神经网络常微分方程的锂电池健康状态估计方法,其特征在于,步骤3.2中,所述ODE网络的反向传播误差的计算步骤如下:
步骤3.21、定义当前时刻的隐藏层为:hc+1=hc+f(hc,θc),
其中,f为通过元学习自动搜寻神经网络常微分方程得出的神经网络,θ为所述神经网络自带参数,c为网络层数,hc为隐藏层的输出,h∈RD;
步骤3.22、对所述隐藏层进行积分,计算出该隐藏层的值:
h(c)=∫f(c,h(c),θc)dc;
步骤3.23、通过所述ODESolver,计算出h(c):
y=h(c1)=ODESolver(h(c0),t0,t1,θ,f);
其中,t0和t1分别对应的微分开始时间和结束时间,θ代表所述神经网络自带参数;
步骤3.24、通过损失函数进行计算所述ODESolver的反向传播误差,所述损失函数如下:
L(t0,t1,θc)=L(ODESolver(h(c0),t0,t1,θ,f))。
7.根据权利要求6所述的一种基于神经网络常微分方程的锂电池健康状态估计方法,其特征在于,计算所述原始数据集的反向传播误差的具体计算方式如下:
步骤3.241、将所述原始数据集依次输入至4*25的第一线性全连接层和25*4的第二线性全连接层得到第一中间结果集;
步骤3.242、将所述第一中间结果集和第一数据集输入至odeint函数,计算出第二中间结果集;
步骤3.243、将所述第二中间结果集依次输入至4*25的第三线性全连接层和25*2的第四线性全连接层,得到锂电池的预测容量和预测容量所对应的时间t_p。
10.根据权利要求4所述的一种基于神经网络常微分方程的锂电池健康状态估计方法,其特征在于,通过元学习自动搜寻神经网络常微分方程得出的神经网络f的具体过程为:
训练一个PruningNet,用于在向所述PrunedNet输入网络结构向量时提供网络权重,以得到剪枝网络;
在构建的若干剪枝网络中使用验证集对网络性能进行优劣评估,以得到网络性能最优的剪枝网络,该性能最优的剪枝网络即为通过元学习自动搜寻神经网络常微分方程得出的神经网络f。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210175767.2A CN114545279B (zh) | 2022-02-24 | 2022-02-24 | 一种基于神经网络常微分方程的锂电池健康状态估计方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210175767.2A CN114545279B (zh) | 2022-02-24 | 2022-02-24 | 一种基于神经网络常微分方程的锂电池健康状态估计方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114545279A true CN114545279A (zh) | 2022-05-27 |
CN114545279B CN114545279B (zh) | 2024-09-06 |
Family
ID=81679664
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210175767.2A Active CN114545279B (zh) | 2022-02-24 | 2022-02-24 | 一种基于神经网络常微分方程的锂电池健康状态估计方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114545279B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114879072A (zh) * | 2022-05-31 | 2022-08-09 | 西安交通大学 | 一种计及温度特征的储能电站用锂电池soh评估方法 |
CN115408932A (zh) * | 2022-08-16 | 2022-11-29 | 哈尔滨工业大学 | 一种基于机器学习的非线性常微分方程识别方法 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106646253A (zh) * | 2016-12-07 | 2017-05-10 | 华南农业大学 | 一种在线辨识电池内部参数的方法 |
CN107808212A (zh) * | 2017-10-09 | 2018-03-16 | 南京邮电大学 | 基于灰色神经网络的太阳能收集功率预测方法 |
CN112765772A (zh) * | 2020-12-25 | 2021-05-07 | 武汉理工大学 | 一种基于数据驱动的动力电池剩余寿命预测方法 |
CN112881914A (zh) * | 2021-01-12 | 2021-06-01 | 常州大学 | 一种锂电池健康状态预测方法 |
CN113469219A (zh) * | 2021-06-08 | 2021-10-01 | 中国地质大学(武汉) | 基于元迁移学习的复杂工况下的旋转机械故障诊断方法 |
CN113536676A (zh) * | 2021-07-15 | 2021-10-22 | 重庆邮电大学 | 基于特征迁移学习的锂电池健康状况监测方法 |
CN113552489A (zh) * | 2021-06-29 | 2021-10-26 | 广东工业大学 | 一种基于灰色神经网络的电站备用电源荷电状态估计方法 |
CN113837379A (zh) * | 2021-09-14 | 2021-12-24 | 上海商汤智能科技有限公司 | 神经网络的训练方法及装置、计算机可读存储介质 |
-
2022
- 2022-02-24 CN CN202210175767.2A patent/CN114545279B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106646253A (zh) * | 2016-12-07 | 2017-05-10 | 华南农业大学 | 一种在线辨识电池内部参数的方法 |
CN107808212A (zh) * | 2017-10-09 | 2018-03-16 | 南京邮电大学 | 基于灰色神经网络的太阳能收集功率预测方法 |
CN112765772A (zh) * | 2020-12-25 | 2021-05-07 | 武汉理工大学 | 一种基于数据驱动的动力电池剩余寿命预测方法 |
CN112881914A (zh) * | 2021-01-12 | 2021-06-01 | 常州大学 | 一种锂电池健康状态预测方法 |
CN113469219A (zh) * | 2021-06-08 | 2021-10-01 | 中国地质大学(武汉) | 基于元迁移学习的复杂工况下的旋转机械故障诊断方法 |
CN113552489A (zh) * | 2021-06-29 | 2021-10-26 | 广东工业大学 | 一种基于灰色神经网络的电站备用电源荷电状态估计方法 |
CN113536676A (zh) * | 2021-07-15 | 2021-10-22 | 重庆邮电大学 | 基于特征迁移学习的锂电池健康状况监测方法 |
CN113837379A (zh) * | 2021-09-14 | 2021-12-24 | 上海商汤智能科技有限公司 | 神经网络的训练方法及装置、计算机可读存储介质 |
Non-Patent Citations (2)
Title |
---|
JENNIFER BRUCKER 等: "Grey-box modelling of lithium-ion batteries using neural ordinary differential equations", ENERGY INFORMATICS, vol. 4, 1 January 2021 (2021-01-01), pages 15 * |
SIMONA PEPEA 等: "Neural ordinary differential equations and recurrent neural networks for predicting the state of health of batteries", JOURNAL OF ENERGY STORAGE, vol. 50, 21 February 2022 (2022-02-21), pages 104209, XP087057289, DOI: 10.1016/j.est.2022.104209 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114879072A (zh) * | 2022-05-31 | 2022-08-09 | 西安交通大学 | 一种计及温度特征的储能电站用锂电池soh评估方法 |
CN115408932A (zh) * | 2022-08-16 | 2022-11-29 | 哈尔滨工业大学 | 一种基于机器学习的非线性常微分方程识别方法 |
Also Published As
Publication number | Publication date |
---|---|
CN114545279B (zh) | 2024-09-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105277896B (zh) | 基于elm‑mukf的锂电池剩余寿命预测方法 | |
CN111007401A (zh) | 一种基于人工智能的电动汽车电池故障诊断方法及设备 | |
Haris et al. | Degradation curve prediction of lithium-ion batteries based on knee point detection algorithm and convolutional neural network | |
CN111398832A (zh) | 一种基于anfis模型的公交车电池soc预测方法 | |
CN114545279B (zh) | 一种基于神经网络常微分方程的锂电池健康状态估计方法 | |
CN112215434A (zh) | 一种lstm模型的生成方法、充电时长预测方法及介质 | |
CN107741568A (zh) | 一种基于状态转移优化rbf神经网络的锂电池soc估算方法 | |
CN111898325A (zh) | 一种电动汽车动力电池剩余使用寿命预测方法 | |
CN118311437B (zh) | 一种动力电池剩余寿命预测方法 | |
CN113791351B (zh) | 基于迁移学习和差值概率分布的锂电池寿命预测方法 | |
CN105911476A (zh) | 一种基于数据挖掘的电池储能系统soc预测方法 | |
CN113255205B (zh) | 基于电动汽车电池的生命周期成本和电池温度优化方法 | |
CN113917334A (zh) | 基于进化lstm自编码器的电池健康状态估计方法 | |
CN114384435A (zh) | 一种基于wsa-lstm算法的新能源汽车动力电池剩余使用寿命自适应预测方法 | |
CN113721151B (zh) | 基于双塔深度学习网络的电池容量预估模型及方法 | |
CN116298936A (zh) | 在不完全电压范围内的锂离子电池智能健康状态预测方法 | |
CN115481796A (zh) | 基于贝叶斯混合神经网络的电池剩余使用寿命预测方法 | |
CN117471320A (zh) | 基于充电片段的电池健康状态估计方法及系统 | |
Zhao et al. | State of health estimation of electric vehicle batteries using transformer-based neural network | |
Fu et al. | Transfer learning and vision transformer based state-of-health prediction of lithium-ion batteries | |
CN116679213A (zh) | 基于集成深度学习的电动汽车动力电池soh估算方法 | |
Channegowda et al. | An attention‐based synthetic battery data augmentation technique to overcome limited dataset challenges | |
CN116774045A (zh) | 一种基于hho-svr的锂电池健康状态预测方法 | |
CN116679208A (zh) | 一种锂电池剩余寿命估算方法 | |
CN115078999B (zh) | 基于自适应隐藏层bp神经网络的锂电池状况预测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |