CN116359762B - 一种基于深度学习和网络压缩的电池荷电状态估计方法 - Google Patents
一种基于深度学习和网络压缩的电池荷电状态估计方法 Download PDFInfo
- Publication number
- CN116359762B CN116359762B CN202310466916.5A CN202310466916A CN116359762B CN 116359762 B CN116359762 B CN 116359762B CN 202310466916 A CN202310466916 A CN 202310466916A CN 116359762 B CN116359762 B CN 116359762B
- Authority
- CN
- China
- Prior art keywords
- neurons
- hidden layer
- dnn model
- battery
- charge
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 50
- 230000006835 compression Effects 0.000 title claims abstract description 35
- 238000007906 compression Methods 0.000 title claims abstract description 35
- 238000013135 deep learning Methods 0.000 title claims abstract description 29
- 210000002569 neuron Anatomy 0.000 claims abstract description 137
- 238000012549 training Methods 0.000 claims abstract description 41
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 30
- 238000005457 optimization Methods 0.000 claims abstract description 15
- 238000004590 computer program Methods 0.000 claims description 10
- 230000006870 function Effects 0.000 claims description 9
- 238000007781 pre-processing Methods 0.000 claims description 5
- 230000004913 activation Effects 0.000 claims description 4
- 210000002364 input neuron Anatomy 0.000 claims description 4
- 239000013598 vector Substances 0.000 claims description 4
- 238000009825 accumulation Methods 0.000 claims 1
- 238000004364 calculation method Methods 0.000 abstract description 5
- 238000005070 sampling Methods 0.000 abstract 1
- 238000013528 artificial neural network Methods 0.000 description 5
- 238000013138 pruning Methods 0.000 description 5
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 230000032683 aging Effects 0.000 description 1
- 210000004027 cell Anatomy 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000003487 electrochemical reaction Methods 0.000 description 1
- 238000004836 empirical method Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000008054 signal transmission Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01R—MEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
- G01R31/00—Arrangements for testing electric properties; Arrangements for locating electric faults; Arrangements for electrical testing characterised by what is being tested not provided for elsewhere
- G01R31/36—Arrangements for testing, measuring or monitoring the electrical condition of accumulators or electric batteries, e.g. capacity or state of charge [SoC]
- G01R31/385—Arrangements for measuring battery or accumulator variables
- G01R31/387—Determining ampere-hour charge capacity or SoC
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01R—MEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
- G01R31/00—Arrangements for testing electric properties; Arrangements for locating electric faults; Arrangements for electrical testing characterised by what is being tested not provided for elsewhere
- G01R31/36—Arrangements for testing, measuring or monitoring the electrical condition of accumulators or electric batteries, e.g. capacity or state of charge [SoC]
- G01R31/3644—Constructional arrangements
- G01R31/3648—Constructional arrangements comprising digital calculation means, e.g. for performing an algorithm
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01R—MEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
- G01R31/00—Arrangements for testing electric properties; Arrangements for locating electric faults; Arrangements for electrical testing characterised by what is being tested not provided for elsewhere
- G01R31/36—Arrangements for testing, measuring or monitoring the electrical condition of accumulators or electric batteries, e.g. capacity or state of charge [SoC]
- G01R31/367—Software therefor, e.g. for battery testing using modelling or look-up tables
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01R—MEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
- G01R31/00—Arrangements for testing electric properties; Arrangements for locating electric faults; Arrangements for electrical testing characterised by what is being tested not provided for elsewhere
- G01R31/36—Arrangements for testing, measuring or monitoring the electrical condition of accumulators or electric batteries, e.g. capacity or state of charge [SoC]
- G01R31/396—Acquisition or processing of data for testing or for monitoring individual cells or groups of cells within a battery
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02E—REDUCTION OF GREENHOUSE GAS [GHG] EMISSIONS, RELATED TO ENERGY GENERATION, TRANSMISSION OR DISTRIBUTION
- Y02E60/00—Enabling technologies; Technologies with a potential or indirect contribution to GHG emissions mitigation
- Y02E60/10—Energy storage using batteries
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Secondary Cells (AREA)
Abstract
本发明涉及动力电池技术领域，公开了一种基于深度学习和网络压缩的电池荷电状态估计方法，包括：S1、获取基础数据，S2、得到训练样本，S3、构建并训练DNN模型，S4、优化DNN模型的层数，S5、更新DNN模型的参数，使用Adma优化算法训练DNN模型的参数，S6、优化每一个隐藏层的神经元个数，S7、保存DNN模型，S8、使用DNN模型估计电池荷电状态。本发明首先基于电池的历史采样数据，训练得到适用于多种工况的基于DNN的电池电池荷电状态估计模型，然后对电池电池荷电状态估计模型进行网络压缩，去除DNN模型中的冗余结构和参数，确定模型结构，以减小模型的尺寸和计算复杂度，提高模型的实际应用潜力。
Description
技术领域
本发明涉及动力电池技术领域，尤其涉及一种基于深度学习和网络压缩的电池荷电状态估计方法。
背景技术
可众所周知，电池荷电状态估计是电池管理系统的重要功能之一，实时准确的电池荷电状态信息为电池充放电管理、安全管理、电芯均衡等提供重要参考依据。然而，由于电池本身结构及内部电化学反应复杂，无法直接测量得到电池荷电状态，只能通过各种直接或间接的方式测量得到。
目前常用的电池荷电状态估计方法主要包括：基于模型的估计方法与基于机器学习的估计方法；实践发现，现有技术存在如下缺陷：
基于模型的电池状态估计方法，其性能高度依赖于所建立的电池模型。而想要建立能够精确描述电池动态特性的电池模型需要掌握一定的先验知识，基于对电池的化学或物理特性的了解来建立相应的电化学模型或等效电路模型。此外，电池模型中涉及到的参数并非常数，不同的电池运行工况或电池老化状态往往对应着不同的参数值。这意味着在估算电池荷电状态的同时，还需要对这些参数进行实时更新，这会提高电池荷电状态估计过程中的计算复杂度。
基于机器学习的电池荷电状态估计方法不需要对电池动态特性有充分的理解，只要有足够的数据，就可以训练得到满足需求的电池荷电状态估计模型。其中，深度神经网络(DNN)在电池状态估计领域展现强大应用潜力。然而，DNN通常具有较多的层数和神经元个数，使用经验法确定DNN的层数和神经元个数费时费力，最终确定的模型结构仍然含有冗余结构和信息，从而带来额外的内存占用和计算量。因此，本发明提出一种网络压缩技术，基于重要性剪枝去除模型的冗余结构，确保模型以最少的层数和神经元个数来提供满足要求的电池荷电状态估计精度。
发明内容
本发明的目的在于克服上述一种或多种现有的技术问题，提供一种基于深度学习和网络压缩的电池荷电状态估计方法。
为实现上述目的，本发明提供的一种基于深度学习和网络压缩的电池荷电状态估计方法，包括：
S1、获取基础数据，基础数据包括电池在不同运行状态下的电压、电流和温度；
S2、对时间段T内的基础数据进行标注，并计算时间段T内基础数据的平均电压和累积容量，得到训练样本；
S3、构建并训练DNN模型；
S301、构建具有A个隐藏层的DNN模型，A为大于1的自然数；
S302、基于训练样本，使用Adma优化算法训练DNN模型的参数；
S4、优化DNN模型的层数；
S401、根据泰勒权重算法依次计算每个隐藏层的重要性指标；
S402、按照隐藏层的先后顺序，对A个重要性指标进行排序；
S403、判断是否需要删除部分隐藏层：当第L个隐藏层的重要性指标最大时，则保留1～L个隐藏层，删除其他隐藏层，若A等于L，则执行S6；若A大于L；则执行S5；
S5、更新DNN模型的参数，使用Adma优化算法训练DNN模型的参数；
S6、优化每一个隐藏层的神经元个数；
S7、保存DNN模型；
S8、使用DNN模型估计电池荷电状态。
根据本发明的一个方面，S301具体为：构建具有3个隐藏层的DNN模型，每个隐藏层有32个神经元，第l隐藏层第j个神经元的输出为，
其中，m表示输入神经元个数；
表示第l隐藏层的第k个输入；
表示连接第l隐藏层中第k个输入与第j个神经元的输出的权重；
b(l)表示第l隐藏层的偏置项；
f()表示ReLU激活函数。
根据本发明的一个方面，S401中，根据泰勒权重算法计算第l个隐藏层的重要性指标Q(l)的公式为，
其中，Nl表示第l隐藏层的神经元个数；
表示连接第l隐藏层第i个神经元和第i+1隐藏层所有神经元的权重向量；
表示与权重对应的梯度；
⊙表示哈达玛积。
根据本发明的一个方面，S6中还包括：
S601、使用快速回归算法，计算第L个隐藏层中每一个神经元的重要性；
S602、按照神经元的重要性大小对神经元排序；
S603、逐次选择重要性排在前n的神经元，并更新所选择的神经元对应的权重；
S604、根据所选择的神经元及更新的权重，计算选择n个神经元时输出结果的均方差，以判断是否能满足该隐藏层的输出精度要求；若均方差满足精度要求，则执行S606，否则，执行S605；
S605、若均方差不满足精度要求，则对S603中的n进行n+1，重复S603～S604，直到精度达到要求或n大于N时停止，N为该隐藏层神经元个数，此时该隐藏层保留了n个对该隐藏层输出结果贡献最大的神经元；
S606、若L＝1，则所有的隐藏层神经元都已经过选择；若L-1不为0，则对S601中的L进行L-1,重复步骤S601-S605。
根据本发明的一个方面，S601中，使用快速回归算法，计算隐藏层每一个神经元的重要性Qneuroni+1，其公式为，
其中，Y表示下一个隐藏层的输出；
表示第i隐藏层的i+1个神经元的输入；
T表示转置。
根据本发明的一个方面，S603中，逐次选择重要性排在前n的神经元，并更新所选择的神经元对应的权重其公式为，
其中，表示第j-1隐藏层的j+1个神经元的输入；
表示更新前的权重。
根据本发明的一个方面，S604中，根据所选择的神经元及更新的权重，计算选择n个神经元时输出结果的均方差，判断是否能满足该隐藏层的输出精度要求，其公式为，
其中，Yref表示下一个隐藏层的理想输出；
表示重新选择神经元后下一个隐藏层的实际输出；
NY表示下一个隐藏层的神经元个数。
为实现上述目的，本发明提供一种基于深度学习和网络压缩的电池荷电状态估计系统，包括：
数据获取模块：S1、获取基础数据，基础数据包括电池在不同运行状态下的电压、电流、温度；
数据预处理模块：S2、对时间段T内的基础数据进行标注，并计算时间段T内基础数据的平均电压和累积容量，得到训练样本；
模型构建训练模块：S3、构建并训练DNN模型；
S301、构建具有A个隐藏层的DNN模型，A为大于1的自然数；
S302、基于训练样本，使用Adma优化算法训练DNN模型的参数；
层数优化模块：S4、优化DNN模型的层数；
S401、根据泰勒权重算法依次计算每个隐藏层的重要性指标；
S402、按照隐藏层的先后顺序，对A个重要性指标进行排序；
S403、判断是否需要删除部分隐藏层：当第L个隐藏层的重要性指标最大时，则保留1～L个隐藏层，删除其他隐藏层，若A等于L，则执行S6；若A大于L；则执行S5；
参数更新模块：S5、更新DNN模型的参数，使用Adma优化算法训练DNN模型的参数；
神经元个数优化模块：S6、优化每一个隐藏层的神经元个数；
保存模块：S7、保存DNN模型；
执行模块：S8、使用DNN模型估计电池荷电状态。
为实现上述目的，本发明提供一种电子设备，包括处理器、存储器及存储在存储器上并可在处理器上运行的计算机程序，计算机程序被处理器执行时实现上述针对一种基于深度学习和网络压缩的电池荷电状态估计方法。
为实现上述目的，本发明提供一种计算机可读存储介质，计算机可读存储介质上存储计算机程序，计算机程序被处理器执行时实现上述针对一种基于深度学习和网络压缩的电池荷电状态估计方法。
基于此，本发明的有益效果在于：
本发明首先利用电池在不同工况运行状态下的电压、电流、温度作为DNN模型的训练样本，以电池荷电状态估计作为训练输出，进而得到未压缩的DNN模型，然后基于重要性剪枝去除DNN模型的冗余结构，确保DNN模型以最少的层数和神经元个数来提供满足要求的电池荷电状态估计精度。
附图说明
图1示意性表示根据本发明的一种基于深度学习和网络压缩的电池荷电状态估计方法的流程图；
图2示意性表示根据本发明的一种基于深度学习和网络压缩的电池荷电状态估计系统的流程图。
具体实施方式
现在将参照示例性实施例来论述本发明的内容，应当理解，论述的实施例仅是为了使得本领域普通技术人员能够更好地理解且因此实现本发明的内容，而不是暗示对本发明的范围的任何限制。
如本文中所使用的，术语“包括”及其变体要被解读为意味着“包括但不限于”的开放式术语。术语“基于”要被解读为“至少部分地基于”，术语“一个实施例”和“一种实施例”要被解读为“至少一个实施例”。
图1示意性表示根据本发明的一种基于深度学习和网络压缩的电池荷电状态估计方法的流程图，如图1所示，本发明的一种基于深度学习和网络压缩的电池荷电状态估计方法，包括：
S1、获取基础数据，基础数据包括电池在不同运行状态下的电压、电流和温度；
S2、对时间段T内的基础数据进行标注，并计算时间段T内基础数据的平均电压和累积容量，得到训练样本；
S3、构建并训练DNN模型；
S301、构建具有A个隐藏层的DNN模型，A为大于1的自然数；
S302、基于训练样本，使用Adma优化算法训练DNN模型的参数；
S4、优化DNN模型的层数；
S401、根据泰勒权重算法依次计算每个隐藏层的重要性指标；
S402、按照隐藏层的先后顺序，对A个重要性指标进行排序；
S403、判断是否需要删除部分隐藏层：当第L个隐藏层的重要性指标最大时，则保留1～L个隐藏层，删除其他隐藏层，若A等于L，则执行S6；若A大于L；则执行S5；
S5、更新DNN模型的参数，使用Adma优化算法训练DNN模型的参数；
S6、优化每一个隐藏层的神经元个数；
S7、保存DNN模型；
S8、使用DNN模型估计电池荷电状态。
根据本发明的一个实施方式，S301具体为：构建具有3个隐藏层的DNN模型，每个隐藏层有32个神经元，第l隐藏层第j个神经元的输出为，
其中，m表示输入神经元个数；
表示第l隐藏层的第k个输入；
表示连接第l隐藏层中第k个输入与第j个神经元的输出的权重；
b(l)表示第l隐藏层的偏置项；
f()表示ReLU激活函数。
根据本发明的一个实施方式，S401中，根据泰勒权重算法计算第l个隐藏层的重要性指标Q(l)的公式为，
其中，Nl表示第l隐藏层的神经元个数；
表示连接第l隐藏层第i个神经元和第i+1隐藏层所有神经元的权重向量；
表示与权重对应的梯度；
⊙表示哈达玛积。
根据本发明的一个实施方式，S6中还包括：
S601、使用快速回归算法，计算第L个隐藏层中每一个神经元的重要性；
S602、按照神经元的重要性大小对神经元排序；
S603、逐次选择重要性排在前n的神经元，并更新所选择的神经元对应的权重；
S604、根据所选择的神经元及更新的权重，计算选择n个神经元时输出结果的均方差，以判断是否能满足该隐藏层的输出精度要求；若均方差满足精度要求，则执行S606，否则，执行S605；
S605、若均方差不满足精度要求，则对S603中的n进行n+1，重复S603～S604，直到精度达到要求或n大于N时停止，N为该隐藏层神经元个数，此时该隐藏层保留了n个对该隐藏层输出结果贡献最大的神经元；
S606、若L＝1，则所有的隐藏层神经元都已经过选择；若L-1不为0，则对S601中的L进行L-1,重复步骤S601-S605。
根据本发明的一个实施方式，S601中，使用快速回归算法，计算隐藏层每一个神经元的重要性Qneuroni+1，其公式为，
其中，Y表示下一个隐藏层的输出；
表示第i隐藏层的i+1个神经元的输入；
T表示转置。
根据本发明的一个实施方式，S603中，逐次选择重要性排在前n的神经元，并更新所选择的神经元对应的权重其公式为，
其中，表示第j-1隐藏层的j+1个神经元的输入；
表示更新前的权重。
根据本发明的一个实施方式，S604中，根据所选择的神经元及更新的权重，计算选择n个神经元时输出结果的均方差，判断是否能满足该隐藏层的输出精度要求，其公式为，
其中，Yref表示下一个隐藏层的理想输出；
表示重新选择神经元后下一个隐藏层的实际输出；
NY表示下一个隐藏层的神经元个数。
根据本发明的一个实施例，电池在运行过程中，其内部动态特性可以通过测量电池的电压、电流、温度等信息间接反应，因此需要实时或定时采集电池的电压、电流、温度等参数。电池在多种复杂工况下运行时，可以产生和积累大量的数据。这些全面且丰富多样的历史数据，对监测电池的内部状态至关重要。
根据本发明的一个实施例，数据预处理还可以包括剔除异常值，使用插值法填补空值，将处理好的基础数据进行标注，构建为可供神经网络学习的训练样本。
根据本发明的一个实施例，DNN模型中每一个隐藏层的神经元都是通过神经网络对历史采样数据的学习所获得的特征参数，用来描述电池荷电状态的变化情况，但这些特征参数并非都是有用的，有些参数或许是重复甚至多余的。传统的网络压缩方法直接基于这些神经元输出数值的幅值来判断去除部分神经元，有些输出数字绝对值较小的神经元被直接剔除；但是，需要注意的是，隐藏层神经元输出信号幅值的高低并不能充分代表该神经元对DNN模型输出的重要性；有时，输出结果较小的神经元往往对模型最终输出有着较大的贡献，简单地剔除这样的神经元会导致压缩后模型性能的降低。因此，为了避免上述缺陷，本优选实施例采用基于重要性判断的DNN剪枝方法。
根据本发明的一个实施例，去除S3得到的DNN模型中多余的隐藏层和隐藏层神经元之后，得到结构更紧凑的DNN模型，由于在S6选择神经元的过程中，同时更新了神经元对应的权重，因此在S6结束后不需要再对DNN模型的参数进行微调。将得到的紧凑DNN模型保存，该DNN模型的参数数量大大减小，因而占据更小的内存空间，且大大降低了计算复杂度，提高计算的效率；
根据本发明的一个实施例，在线实时采集电池相关参数(电压、电流和温度)，将实时采集的参数输入到训练好的DNN模型中，对电池荷电状态进行在线估计。
不仅如此，为实现上述发明目的，本发明还提供一种基于深度学习和网络压缩的电池荷电状态估计系统，图2示意性表示根据本发明的一种基于深度学习和网络压缩的电池荷电状态估计系统的流程图，如图2所示，根据本发明的一种基于深度学习和网络压缩的电池荷电状态估计系统，该系统包括：
数据获取模块：S1、获取基础数据，基础数据包括电池在不同运行状态下的电压、电流、温度；
数据预处理模块：S2、对时间段T内的基础数据进行标注，并计算时间段T内基础数据的平均电压和累积容量，得到训练样本；
模型构建训练模块：S3、构建并训练DNN模型；
S301、构建具有A个隐藏层的DNN模型，A为大于1的自然数；
S302、基于训练样本，使用Adma优化算法训练DNN模型的参数；
层数优化模块：S4、优化DNN模型的层数；
S401、根据泰勒权重算法依次计算每个隐藏层的重要性指标；
S402、按照隐藏层的先后顺序，对A个重要性指标进行排序；
S403、判断是否需要删除部分隐藏层：当第L个隐藏层的重要性指标最大时，则保留1～L个隐藏层，删除其他隐藏层，若A等于L，则执行S6；若A大于L；则执行S5；
参数更新模块：S5、更新DNN模型的参数，使用Adma优化算法训练DNN模型的参数；
神经元个数优化模块：S6、优化每一个隐藏层的神经元个数；
保存模块：S7、保存DNN模型；
执行模块：S8、使用DNN模型估计电池荷电状态。
根据本发明的一个实施方式，S301具体为：构建具有3个隐藏层的DNN模型，每个隐藏层有32个神经元，第l隐藏层第j个神经元的输出为，
其中，m表示输入神经元个数；
表示第l隐藏层的第k个输入；
表示连接第l隐藏层中第k个输入与第j个神经元的输出的权重；
b(l)表示第l隐藏层的偏置项；
f()表示ReLU激活函数。
根据本发明的一个实施方式，S401中，根据泰勒权重算法计算第l个隐藏层的重要性指标Q(l)的公式为，
其中，Nl表示第l隐藏层的神经元个数；
表示连接第l隐藏层第i个神经元和第i+1隐藏层所有神经元的权重向量；
表示与权重对应的梯度；
⊙表示哈达玛积。
根据本发明的一个实施方式，S6中还包括：
S601、使用快速回归算法，计算第L个隐藏层中每一个神经元的重要性；
S602、按照神经元的重要性大小对神经元排序；
S603、逐次选择重要性排在前n的神经元，并更新所选择的神经元对应的权重；
S604、根据所选择的神经元及更新的权重，计算选择n个神经元时输出结果的均方差，以判断是否能满足该隐藏层的输出精度要求；若均方差满足精度要求，则执行S606，否则，执行S605；
S605、若均方差不满足精度要求，则对S603中的n进行n+1，重复S603～S604，直到精度达到要求或n大于N时停止，N为该隐藏层神经元个数，此时该隐藏层保留了n个对该隐藏层输出结果贡献最大的神经元；
S606、若L＝1，则所有的隐藏层神经元都已经过选择；若L-1不为0，则对S601中的L进行L-1,重复步骤S601-S605。
根据本发明的一个实施方式，S601中，使用快速回归算法，计算隐藏层每一个神经元的重要性Qneuroni+1，其公式为，
其中，Y表示下一个隐藏层的输出；
表示第i隐藏层的i+1个神经元的输入；
T表示转置。
根据本发明的一个实施方式，S603中，逐次选择重要性排在前n的神经元，并更新所选择的神经元对应的权重其公式为，
其中，表示第j-1隐藏层的j+1个神经元的输入；
表示更新前的权重。
根据本发明的一个实施方式，S604中，根据所选择的神经元及更新的权重，计算选择n个神经元时输出结果的均方差，判断是否能满足该隐藏层的输出精度要求，其公式为，
其中，Yref表示下一个隐藏层的理想输出；
表示重新选择神经元后下一个隐藏层的实际输出；
NY表示下一个隐藏层的神经元个数。
根据本发明的一个实施例，电池在运行过程中，其内部动态特性可以通过测量电池的电压、电流、温度等信息间接反应，因此需要实时或定时采集电池的电压、电流、温度等参数。电池在多种复杂工况下运行时，可以产生和积累大量的数据。这些全面且丰富多样的历史数据，对监测电池的内部状态至关重要。
根据本发明的一个实施例，数据预处理还可以包括剔除异常值，使用插值法填补空值，将处理好的基础数据进行标注，构建为可供神经网络学习的训练样本。
根据本发明的一个实施例，DNN模型中每一个隐藏层的神经元都是通过神经网络对历史采样数据的学习所获得的特征参数，用来描述电池荷电状态的变化情况，但这些特征参数并非都是有用的，有些参数或许是重复甚至多余的。传统的网络压缩方法直接基于这些神经元输出数值的幅值来判断去除部分神经元，有些输出数字绝对值较小的神经元被直接剔除；但是，需要注意的是，隐藏层神经元输出信号幅值的高低并不能充分代表该神经元对DNN模型输出的重要性；有时，输出结果较小的神经元往往对模型最终输出有着较大的贡献，简单地剔除这样的神经元会导致压缩后模型性能的降低。因此，为了避免上述缺陷，本优选实施例采用基于重要性判断的DNN剪枝方法。
根据本发明的一个实施例，去除S3得到的DNN模型中多余的隐藏层和隐藏层神经元之后，得到结构更紧凑的DNN模型，由于在S6选择神经元的过程中，同时更新了神经元对应的权重，因此在S6结束后不需要再对DNN模型的参数进行微调。将得到的紧凑DNN模型保存，该DNN模型的参数数量大大减小，因而占据更小的内存空间，且大大降低了计算复杂度，提高计算的效率；
根据本发明的一个实施例，在线实时采集电池相关参数(电压、电流和温度)，将实时采集的参数输入到训练好的DNN模型中，对电池荷电状态进行在线估计。
为实现上述发明目的，本发明还提供一种电子设备，该电子设备包括：处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序，计算机程序被处理器执行时实现上述一种基于深度学习和网络压缩的电池荷电状态估计方法。
为实现上述发明目的，本发明还提供一种计算机可读存储介质，计算机可读存储介质上存储计算机程序，计算机程序被处理器执行时实现上述一种基于深度学习和网络压缩的电池荷电状态估计方法。
基于此，本发明的有益效果在于，本发明首先利用电池在不同工况运行状态下的电压、电流、温度作为DNN模型的训练样本，以电池荷电状态估计作为训练输出，进而得到未压缩的DNN模型，然后基于重要性剪枝去除DNN模型的冗余结构，确保DNN模型以最少的层数和神经元个数来提供满足要求的电池荷电状态估计精度。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的模块及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的装置和设备的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在本申请所提供的实施例中，应该理解到，所揭露的装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个模块或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或模块的间接耦合或通信连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理模块，即可以位于一个地方，或者也可以分布到多个网络模块上。可以根据实际的需要选择其中的部分或者全部模块来实现本发明实施例方案的目的。
另外，在本发明实施例中的各功能模块可以集成在一个处理模块中，也可以是各个模块单独物理存在，也可以两个或两个以上模块集成在一个模块中。
所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例节能信号发送/接收的方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离所述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
应理解，本发明的发明内容及实施例中各步骤的序号的大小并不绝对意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本发明实施例的实施过程构成任何限定。
Claims (9)
1.一种基于深度学习和网络压缩的电池荷电状态估计方法，其特征在于，包括：
S1、获取基础数据，基础数据包括电池在不同运行状态下的电压、电流和温度；
S2、对时间段T内的基础数据进行标注，并计算时间段T内基础数据的平均电压和累积容量，得到训练样本；
S3、构建并训练DNN模型；
S301、构建具有A个隐藏层的DNN模型，A为大于1的自然数；
S302、基于训练样本，使用Adma优化算法训练DNN模型的参数；
S4、优化DNN模型的层数；
S401、根据泰勒权重算法依次计算每个隐藏层的重要性指标；
S402、按照隐藏层的先后顺序，对A个重要性指标进行排序；
S403、判断是否需要删除部分隐藏层：当第L个隐藏层的重要性指标最大时，则保留1～L个隐藏层，删除其他隐藏层，若A等于L，则执行S6；若A大于L；则执行S5；
S5、更新DNN模型的参数，使用Adma优化算法训练DNN模型的参数；
S6、优化每一个隐藏层的神经元个数；
S7、保存DNN模型；
S8、使用DNN模型估计电池荷电状态；
其中，S6中还包括：
S601、使用快速回归算法，计算第L个隐藏层中每一个神经元的重要性；
S602、按照神经元的重要性大小对神经元排序；
S603、逐次选择重要性排在前n的神经元，并更新所选择的神经元对应的权重；
S604、根据所选择的神经元及更新的权重，计算选择n个神经元时输出结果的均方差，以判断是否能满足该隐藏层的输出精度要求；若均方差满足精度要求，则执行S606，否则，执行S605；
S605、若均方差不满足精度要求，则对S603中的n进行n+1，重复S603～S604，直到精度达到要求或n大于N时停止，N为该隐藏层神经元个数，此时该隐藏层保留了n个对该隐藏层输出结果贡献最大的神经元；
S606、若L=1，则所有的隐藏层神经元都已经过选择；若L-1不为0，则对S601中的L进行L-1,重复步骤S601-S605。
2.根据权利要求1所述的基于深度学习和网络压缩的电池荷电状态估计方法，其特征在于，S301具体为：构建具有3个隐藏层的DNN模型，每个隐藏层有32个神经元，第隐藏层第个神经元的输出为，
；
其中，表示输入神经元个数；
表示第/>隐藏层的第/>个输入；
表示连接第/>隐藏层中第/>个输入与第/>个神经元的输出的权重；
表示第/>隐藏层的偏置项；
表示ReLU激活函数。
3.根据权利要求2所述的基于深度学习和网络压缩的电池荷电状态估计方法，其特征在于，S401中，根据泰勒权重算法计算第个隐藏层的重要性指标/>的公式为，
；
其中，表示第/>隐藏层的神经元个数；
表示连接第/>隐藏层第/>个神经元和第/>+1隐藏层所有神经元的权重向量；
表示与权重对应的梯度；
表示哈达玛积。
4.根据权利要求1所述的基于深度学习和网络压缩的电池荷电状态估计方法，其特征在于，S601中，使用快速回归算法，计算隐藏层每一个神经元的重要性，其公式为，
；
其中，表示下一个隐藏层的输出；
表示第/>隐藏层的/>+1个神经元的输入；
表示转置。
5.根据权利要求4所述的基于深度学习和网络压缩的电池荷电状态估计方法，其特征在于，S603中，逐次选择重要性排在前n的神经元，并更新所选择的神经元对应的权重，其公式为，
；
其中，表示第/>-1隐藏层的/>+1个神经元的输入；
表示更新前的权重。
6.根据权利要求5所述的基于深度学习和网络压缩的电池荷电状态估计方法，其特征在于，S604中，根据所选择的神经元及更新的权重，计算选择n个神经元时输出结果的均方差，判断是否能满足该隐藏层的输出精度要求，其公式为，
；
其中，表示下一个隐藏层的理想输出；
表示重新选择神经元后下一个隐藏层的实际输出；
表示下一个隐藏层的神经元个数。
7.一种基于深度学习和网络压缩的电池荷电状态估计系统，其特征在于，所述基于深度学习和网络压缩的电池荷电状态估计系统应用于权利要求1-6中任一所述的基于深度学习和网络压缩的电池荷电状态估计方法，包括：
数据获取模块，所述数据获取模块用于获取基础数据，基础数据包括电池在不同运行状态下的电压、电流、温度；
数据预处理模块，所述数据预处理模块用于对时间段T内的基础数据进行标注，并计算时间段T内基础数据的平均电压和累积容量，得到训练样本；
模型构建训练模块，所述模型构建训练模块用于构建并训练DNN模型；
层数优化模块，所述层数优化模块用于优化DNN模型的层数；
参数更新模块，所述参数更新模块用于更新DNN模型的参数，使用Adma优化算法训练DNN模型的参数；
神经元个数优化模块，所述神经元个数优化模块用于优化每一个隐藏层的神经元个数；
保存模块，所述保存模块用于保存DNN模型；
执行模块，所述执行模块用于使用DNN模型估计电池荷电状态。
8.一种电子设备，其特征在于，包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如权利要求1至6中任一项所述的一种基于深度学习和网络压缩的电池荷电状态估计方法。
9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储计算机程序，所述计算机程序被处理器执行时实现如权利要求1至6中任一项所述的一种基于深度学习和网络压缩的电池荷电状态估计方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310466916.5A CN116359762B (zh) | 2023-04-27 | 2023-04-27 | 一种基于深度学习和网络压缩的电池荷电状态估计方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202310466916.5A CN116359762B (zh) | 2023-04-27 | 2023-04-27 | 一种基于深度学习和网络压缩的电池荷电状态估计方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN116359762A CN116359762A (zh) | 2023-06-30 |
| CN116359762B true CN116359762B (zh) | 2024-05-07 |
Family
ID=86909006
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202310466916.5A Active CN116359762B (zh) | 2023-04-27 | 2023-04-27 | 一种基于深度学习和网络压缩的电池荷电状态估计方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN116359762B (zh) |
Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106501721A (zh) * | 2016-06-03 | 2017-03-15 | 湘潭大学 | 一种基于生物进化的锂电池soc估算方法 |
| CN108334940A (zh) * | 2018-03-01 | 2018-07-27 | 大连道道科技有限公司 | 一种基于深度神经网络的锂电池包多个电池单体soc实时联合预测方法 |
| JP2020087288A (ja) * | 2018-11-30 | 2020-06-04 | アイシン精機株式会社 | Ｄｎｎ軽量化装置 |
| KR20200088198A (ko) * | 2019-01-11 | 2020-07-22 | 삼성전자주식회사 | 뉴럴 네트워크의 레이어 축소를 이용하여 입력 데이터를 처리하는 방법 및 장치 |
| CN112700057A (zh) * | 2021-01-07 | 2021-04-23 | 福州大学 | 一种基于模块化循环神经网络的电力负荷预测方法 |
| CN112766491A (zh) * | 2021-01-18 | 2021-05-07 | 电子科技大学 | 一种基于泰勒展开及数据驱动的神经网络压缩方法 |
| CN113156320A (zh) * | 2021-03-12 | 2021-07-23 | 山东大学 | 基于深度学习的锂离子电池soc估计方法及系统 |
| CN113761789A (zh) * | 2021-07-23 | 2021-12-07 | 江苏大学 | 基于萤火虫群算法优化后的bp神经网络估算电池soc的方法 |
| CN113917337A (zh) * | 2021-10-13 | 2022-01-11 | 国网福建省电力有限公司 | 基于充电数据和lstm神经网络的电池健康状态估计方法 |
| CN114037858A (zh) * | 2021-10-24 | 2022-02-11 | 西北工业大学 | 一种基于泰勒展开的图像分类网络层剪枝方法 |
| CN114330713A (zh) * | 2022-01-11 | 2022-04-12 | 平安科技（深圳）有限公司 | 卷积神经网络模型剪枝方法和装置、电子设备、存储介质 |
| EP4170549A1 (en) * | 2021-10-25 | 2023-04-26 | Fujitsu Limited | Machine learning program, method for machine learning, and information processing apparatus |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11586929B2 (en) * | 2019-02-15 | 2023-02-21 | Wipro Limited | Method and system for optimizing memory requirement for training an artificial neural network model |
| US11694081B2 (en) * | 2019-05-15 | 2023-07-04 | Advanced Micro Devices, Inc. | Accelerating neural networks with one shot skip layer pruning |
| CN110766137A (zh) * | 2019-10-18 | 2020-02-07 | 武汉大学 | 基于天牛须优化深度置信网络算法的电力电子电路故障诊断方法 |
| WO2021151056A1 (en) * | 2020-01-24 | 2021-07-29 | Northeastern University | Computer-implemented methods and systems for compressing recurrent neural network (rnn) models and accelerating rnn execution in mobile devices to achieve real-time inference |
| US20210334663A1 (en) * | 2020-04-28 | 2021-10-28 | North Carolina State University | Compiler-based method for fast cnn pruning via composability |
| US20220253708A1 (en) * | 2021-02-11 | 2022-08-11 | GE Precision Healthcare LLC | Deep neural network compression based on filter importance |
-
2023
- 2023-04-27 CN CN202310466916.5A patent/CN116359762B/zh active Active
Patent Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN106501721A (zh) * | 2016-06-03 | 2017-03-15 | 湘潭大学 | 一种基于生物进化的锂电池soc估算方法 |
| CN108334940A (zh) * | 2018-03-01 | 2018-07-27 | 大连道道科技有限公司 | 一种基于深度神经网络的锂电池包多个电池单体soc实时联合预测方法 |
| JP2020087288A (ja) * | 2018-11-30 | 2020-06-04 | アイシン精機株式会社 | Ｄｎｎ軽量化装置 |
| KR20200088198A (ko) * | 2019-01-11 | 2020-07-22 | 삼성전자주식회사 | 뉴럴 네트워크의 레이어 축소를 이용하여 입력 데이터를 처리하는 방법 및 장치 |
| CN112700057A (zh) * | 2021-01-07 | 2021-04-23 | 福州大学 | 一种基于模块化循环神经网络的电力负荷预测方法 |
| CN112766491A (zh) * | 2021-01-18 | 2021-05-07 | 电子科技大学 | 一种基于泰勒展开及数据驱动的神经网络压缩方法 |
| CN113156320A (zh) * | 2021-03-12 | 2021-07-23 | 山东大学 | 基于深度学习的锂离子电池soc估计方法及系统 |
| CN113761789A (zh) * | 2021-07-23 | 2021-12-07 | 江苏大学 | 基于萤火虫群算法优化后的bp神经网络估算电池soc的方法 |
| CN113917337A (zh) * | 2021-10-13 | 2022-01-11 | 国网福建省电力有限公司 | 基于充电数据和lstm神经网络的电池健康状态估计方法 |
| CN114037858A (zh) * | 2021-10-24 | 2022-02-11 | 西北工业大学 | 一种基于泰勒展开的图像分类网络层剪枝方法 |
| EP4170549A1 (en) * | 2021-10-25 | 2023-04-26 | Fujitsu Limited | Machine learning program, method for machine learning, and information processing apparatus |
| CN114330713A (zh) * | 2022-01-11 | 2022-04-12 | 平安科技（深圳）有限公司 | 卷积神经网络模型剪枝方法和装置、电子设备、存储介质 |
Non-Patent Citations (5)
| Title |
|---|
| BP网络全局优化算法;蔡蔓 等;武汉大学学报(工学版);第46卷(第6期);第794-798、810页 * |
| 基于GA的NDNN结构与参数优化及其在入侵检测的应用;谭敏生 等;自动化与仪表;20191031;第34卷(第10期);第14-18、24页 * |
| 基于PSO-BP神经网络预测广州市日均PM_(10)浓度;尹安琪 等;中国卫生统计;第33卷(第5期);第763-766页 * |
| 基于快速回归算法的RBF神经网络及其应用;杜大军 等;控制理论与应用;第25卷(第5期);第827-830页 * |
| 基于遗传算法的深度学习优化方法及应用;彭敏;中国优秀硕士学位论文全文数据库 信息科技辑;20210115(第1期);第I140-186页 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116359762A (zh) | 2023-06-30 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Ren et al. | A data-driven auto-CNN-LSTM prediction model for lithium-ion battery remaining useful life | |
| CN107957562B (zh) | 一种锂离子电池剩余寿命在线预测方法 | |
| CN112782591B (zh) | 基于多电池数据融合的锂电池soh长期预测方法 | |
| CN113805064B (zh) | 基于深度学习的锂离子电池组健康状态预测方法 | |
| CN111856287B (zh) | 基于堆叠残差因果卷积神经网络的锂电池健康状态检测方法 | |
| CN110658459B (zh) | 基于双向循环神经网络的锂离子电池荷电状态估计方法 | |
| CN111191824B (zh) | 一种动力电池容量衰减预测方法及系统 | |
| CN113125960A (zh) | 一种基于随机森林模型的车载锂离子电池荷电状态预测方法 | |
| CN109800446B (zh) | 一种锂离子电池放电过程电压不一致性估计方法及装置 | |
| CN112308298B (zh) | 一种面向半导体生产线的多场景性能指标预测方法及系统 | |
| CN112834927A (zh) | 锂电池剩余寿命预测方法、系统、设备及介质 | |
| CN112686380A (zh) | 基于神经网络的梯次动力电芯一致性评估方法和系统 | |
| CN113554200B (zh) | 动力电池电压不一致性预测方法、系统及设备 | |
| CN115902642A (zh) | 电池荷电状态估算方法、装置、电子设备及存储介质 | |
| CN113791351B (zh) | 基于迁移学习和差值概率分布的锂电池寿命预测方法 | |
| CN116359762B (zh) | 一种基于深度学习和网络压缩的电池荷电状态估计方法 | |
| CN117289167A (zh) | 基于多重神经网络的电池剩余寿命预测方法、装置及介质 | |
| CN111626324A (zh) | 基于边缘计算的海底观测网数据异构解析集成方法 | |
| CN115792631A (zh) | 一种结合小波变换和卷积神经网络的锂电池soh预测方法 | |
| CN116224085A (zh) | 一种基于数据驱动的锂电池健康状态评估方法 | |
| CN115808627A (zh) | 一种锂电池soh预测方法及装置 | |
| CN115963420A (zh) | 一种电池soh影响因素分析方法 | |
| CN113610350B (zh) | 复杂工况故障诊断方法、设备、存储介质及装置 | |
| CN115481796A (zh) | 基于贝叶斯混合神经网络的电池剩余使用寿命预测方法 | |
| CN114492199A (zh) | 一种电压互感器性能的分析方法、系统、电子设备及介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |