CN118731751A - 融合注意力机制和深度卷积的锂电池soh估计方法 - Google Patents

融合注意力机制和深度卷积的锂电池soh估计方法 Download PDF

Info

Publication number
CN118731751A
CN118731751A CN202411056529.5A CN202411056529A CN118731751A CN 118731751 A CN118731751 A CN 118731751A CN 202411056529 A CN202411056529 A CN 202411056529A CN 118731751 A CN118731751 A CN 118731751A
Authority
CN
China
Prior art keywords
layer
soh
features
lithium battery
attention mechanism
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202411056529.5A
Other languages
English (en)
Inventor
李潇鹏
李俊夫
陈立新
王俊
赵明航
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Harbin Institute of Technology Weihai
China National Electric Apparatus Research Institute Co Ltd
Original Assignee
Harbin Institute of Technology Weihai
China National Electric Apparatus Research Institute Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Harbin Institute of Technology Weihai, China National Electric Apparatus Research Institute Co Ltd filed Critical Harbin Institute of Technology Weihai
Priority to CN202411056529.5A priority Critical patent/CN118731751A/zh
Publication of CN118731751A publication Critical patent/CN118731751A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01RMEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
    • G01R31/00Arrangements for testing electric properties; Arrangements for locating electric faults; Arrangements for electrical testing characterised by what is being tested not provided for elsewhere
    • G01R31/36Arrangements for testing, measuring or monitoring the electrical condition of accumulators or electric batteries, e.g. capacity or state of charge [SoC]
    • G01R31/392Determining battery ageing or deterioration, e.g. state of health
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01RMEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
    • G01R31/00Arrangements for testing electric properties; Arrangements for locating electric faults; Arrangements for electrical testing characterised by what is being tested not provided for elsewhere
    • G01R31/36Arrangements for testing, measuring or monitoring the electrical condition of accumulators or electric batteries, e.g. capacity or state of charge [SoC]
    • G01R31/367Software therefor, e.g. for battery testing using modelling or look-up tables

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Secondary Cells (AREA)

Abstract

基于融合注意力机制和深度卷积的锂电池SOH估计方法,属于电化学、计算机等交叉技术领域。现有缺少同时兼顾精度和效率的锂电池SOH的估计方法的问题。采集锂电池在每次充放电循环下的电压数据、电流数据和当前可用最大容量,根据当前可用最大容量计算获得SOH;利用多种统计学方法对每次充放电循环下的电压和电流数据进行处理,得到多种衰退特征;获得同一种衰退特征与SOH的皮尔逊相关系数和与SOH的斯皮尔曼相关系数的平均值,作为对应衰退特征的相关系数;从多种衰退特征的相关系数中选出最大值所对应的衰退特征作为最优衰退特征;利用最优衰退特征和对应的SOH训练网络,得到训练完成的模型;利用训练完成的模型预测出该锂电池的SOH。用于预测锂电池SOH。

Description

融合注意力机制和深度卷积的锂电池SOH估计方法
技术领域
本发明涉及SOH估计方法,属于电气工程、电化学、计算机等交叉技术领域。
背景技术
随着新能源技术的快速发展,锂电池作为清洁能源存储和转换的关键组件,在电动汽车、移动设备、储能系统等多个领域得到了广泛应用。然而无论是否使用,电池的容量和性能都会进行持续的非线性退化和衰减,这给电池的高效和安全运行带来了巨大的挑战。因此,电池的健康管理,特别是准确地健康状态估计(State of Health,SOH),对于确保设备安全运行、延长电池寿命以及提高能量利用效率具有决定性意义。
目前,锂电池SOH的估计方法主要包括基于模型的方法或基于数据驱动的方法。基于模型的方法依赖于电池的物理化学过程建立数学模型,虽然理论上可以提供精确的计算,但依赖于详细且高质量的电池参数和复杂且耗时的计算过程。传统的基于数据驱动的方法,如机器学习,能够从大量数据中学习电池的退化模式,但在处理高维序列数据时存在效率和泛化能力的限制。因此,基于模型驱动方法和传统的机器学习方法在精度和效率上总是矛盾的。现有缺少同时兼顾精度和效率的锂电池SOH的估计方法。
发明内容
本发明的目的是为了解决现有缺少同时兼顾精度和效率的锂电池SOH的估计方法的问题,提出了融合注意力机制和深度卷积的锂电池SOH估计方法。
融合注意力机制和深度卷积的锂电池SOH估计方法,所述方法包括以下步骤:
步骤1、采集锂电池在每次充放电循环下的电压数据、电流数据和当前可用最大容量,根据当前可用最大容量计算获得SOH;
步骤2、利用多种统计学方法对每次充放电循环下的电压和电流数据进行处理,得到多种衰退特征;
步骤3、衰退特征筛选:获得同一种衰退特征与SOH的皮尔逊相关系数和与SOH的斯皮尔曼相关系数的平均值,作为该衰退特征的相关系数;从多种衰退特征的相关系数中选出最大值所对应的衰退特征作为最优衰退特征;
步骤4、将最优衰退特征作为融合注意力机制和深度卷积神经网络的输入数据,将最优衰退特征所对应的SOH作为融合注意力机制和深度卷积神经网络的输出数据;
步骤5、利用输入数据和输出数据训练融合注意力机制和深度卷积神经网络,得到训练完成的深度可分离卷积神经网络融合注意力机制和深度卷积神经网络;
步骤6、利用多种统计学方法对待测锂电池每次充放电循环下的电压和电流数据进行处理,得到多种衰退特征,并通过衰退特征筛选方式筛选出待测锂电池的最优衰退特征,并将其输入至训练完成的融合注意力机制和深度卷积神经网络中,预测出该锂电池的SOH。
优选地,步骤1中,SOH表示为:
式中,Cn为当前可用最大容量,C0为电池额定容量。
优选地,步骤2中,多种衰退特征包括恒压充电时间、恒流充电时间、恒流充电容量、恒压充电容量、充电电压均值、充电电流均值、电压方差、电流方差、电压偏度、电流偏度、电压曲线峰度、电流曲线峰度、最大电压值、最大电流值、最小电压值、最小电流值、IC曲线的斜率和IC曲线的峰值。
优选地,充电容量Q,表示为:
Q=∫Idt公式2,
式中,I为电流;
方差s2,表示为:
式中,n为该次衰退循环中的电压或电流个数,xi为一次充放电循环过程中第i个电压或电流值,为该次衰退循环中所有电压或电流的均值;
偏度Skewness,表示为:
峰度,表示为:
优选地,步骤2中,IC曲线的峰值为:
对每次充放电循环下每两个时间点间的电流进行积分,得到截止当前的累计容量Q,根据每次充放电循环下的累计容量Q和对应电压序列,得到容量-电压曲线段,对容量-电压曲线求导得到dQ/dV曲线作为IC曲线,获得IC曲线的峰值。
优选地,步骤3中,皮尔逊相关系数r,表示为:
式中,ki为衰退特征序列的第i个值,k为衰退特征序列所有值的平均值,yi为对应的SOH序列中第i个值,为SOH序列的均值;
斯皮尔曼相关系数ρ,表示为:
式中,di为每种衰退特征与SOH的秩序统计量之差。
优选地,步骤4中,融合注意力机制和深度卷积神经网络包括窗口向量嵌入层、多头自注意力层、深度可分离卷积层、多层感知机和一号全连接层;
窗口向量嵌入层,用于将最优衰退特征转换成高维度特征;
多头自注意力层,用于对高维度特征依次进行加权处理、线性变换、标准化处理和特征融合,获得最终的融合特征;
深度可分离卷积层,用于对最终的融合特征进行数据处理,得到处理后的特征,发送至多层感知机;
多层感知机,用于提取处理后的特征中的全局和局部信息,并对提取的全局和局部信息进行标准化处理,得到处理后的特征,发送至一号全连接层;
一号全连接层,用于通过线性变换将处理后的特征映射到单一的SOH估计值,输出锂电池的SOH估计值。
优选地,多头自注意力层包括二号全连接层、三号全连接层、一号归一化层、残差注意力层、融合层和规范化后的点积注意力机制;
二号全连接层,用于将高维度特征进行加权处理,得到处理后的特征;
规范化后的点积注意力机制,用于将处理后的特征投影到一个空间,该空间中有3种向量,分别为查询向量、键向量和值向量,对处理后的每个特征在每个查询向量和每个键向量上的投影做乘积计算,采用softmax函数对每个计算结果进行归一化,得到每个归一化后的结果,对每个归一化后的结果和处理后的对应特征在值向量上的投影做乘积计算,对多个计算结果进行加权和计算;
融合层,用于将规范化后的点积注意力机制输出的计算结果与高维度特征进行融合,得到融合后的特征;
三号全连接层,用于对融合后的特征进行线性变换,生成变换后的特征;
一号归一化层,用于对变换后的特征进行标准化处理,生成具有全局性和细节性的特征;
残差注意力层,用于对高维度特征进行残差连接处理,得到经过残差连接处理的特征;
对具有全局性和细节性的特征和经过残差连接处理的特征进行融合,输出最终的融合特征。
优选地,深度可分离卷积层包括一号点卷积层、深度卷积层、二号点卷积层和二号归一化层;
一号点卷积层,用于采用逐点卷积操作压缩最终的融合特征维度,得到压缩后的特征;
深度卷积层,用于对压缩后的特征进行逐通道的空间卷积操作,提取每个通道的空间特征;
二号点卷积层,用于通过逐点卷积操作将各通道的空间特征整合,得到整合后的特征;
二号归一化层,用于对整合后的特征进行标准化处理,得到处理后的特征。
优选地,多层感知机包括四号全连接层、五号全连接层和三号归一化层;
四号全连接层,用于通过全连接操作提取处理后的特征,得到提取后的特征;
五号全连接层,用于对提取后的特征进行特征提取,得到全局和局部信息;
三号归一化层,用于对全局和局部信息进行标准化处理,得到处理后的特征。
本发明的有益效果是:
本发明采用皮尔逊相关系数和斯皮尔曼相关系数取平均值的方式,提取对电池衰退影响显著的特征,作为最优特征,从而减少模型计算负担。
本发明首次创造性地结合两种最前沿的深度学习技术和残差注意力机制并精简了模型结构,将其成功应用于SOH估计领域,具体为利用了深度可分离卷积结构对于局部差异特征的敏感性以及Transformer模型中多头自注意力机制对于长期特征的强大捕捉能力以及并行计算能力,以此来在提高模型预测精度的同时大大减少了计算所需时间和计算空间资源,使其能够部署在资源受限的移动设备上。本发明的方法通过轻量化网络结构并组合多头自注意力机制和深度可分离卷积模块来实现更高效的电池健康状态预测。
因此,本发明实现了对电池健康状态(SOH)的高精度预测,同时显著降低对计算资源的需求。这一目标对于将人工智能(AI)技术集成到电池管理系统(BMS)中至关重要,它将使BMS能够以更高效和精确的方式进行电池健康管理,优化电池的使用寿命,提高能源利用效率,并确保电池在各种应用场景中的安全性和可靠性。
本发明不仅在技术上具有创新性,而且在提高电池管理系统性能、降低能耗和推动新能源技术应用方面具有显著的社会效益和市场应用潜力。
附图说明
图1为融合注意力机制和深度卷积的锂电池SOH估计方法的流程图;
图2为融合注意力机制和深度卷积神经网络的结构示意图,图中,reshape表示重塑,dropout表示随机失活;
图3为经过高斯滤波后的IC曲线和dQ/dV曲线示意图;
图4为电池容量状态的预测结果图;
图5为预测结果散点图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
需要说明的是,在不冲突的情况下,本发明中的实施例及实施例中的特征可以相互组合。
下面结合附图和具体实施例对本发明作进一步说明,但不作为本发明的限定。
实施例:
结合图1至图4说明本实施例,融合注意力机制和深度卷积的锂电池SOH估计方法,所述方法包括以下步骤:
步骤1、采集锂电池在每次充放电循环下的电压数据、电流数据和当前可用最大容量,根据当前可用最大容量计算获得SOH;
步骤2、利用多种统计学方法对每次充放电循环下的电压和电流数据进行处理,得到多种衰退特征;
步骤3、衰退特征筛选:获得同一种衰退特征与SOH的皮尔逊相关系数和与SOH的斯皮尔曼相关系数的平均值,作为该衰退特征的相关系数;从多种衰退特征的相关系数中选出最大值所对应的衰退特征作为最优衰退特征;
步骤4、将最优衰退特征作为融合注意力机制和深度卷积神经网络的输入数据,将最优衰退特征对应的SOH作为融合注意力机制和深度卷积神经网络的输出数据;
步骤5、利用输入数据和输出数据训练融合注意力机制和深度卷积神经网络,得到训练完成的融合注意力机制和深度卷积神经网络;
步骤6、利用多种统计学方法对待测锂电池每次充放电循环下的电压和电流数据进行处理,得到多种衰退特征,并通过衰退特征筛选方式筛选出待测锂电池的最优衰退特征,并将其输入至训练完成的融合注意力机制和深度卷积神经网络中,预测出该锂电池的SOH。
具体地,步骤1中采集的锂电池数据来源为来自NASA(美国国家航空航天局)卓越预测中心PCoE的锂离子电池数据集。根据官方文档,所用数据集为4个同种商用18650电池,材料为镍钴铝NCA三元锂电池,额定容量2Ah,充电工况为恒定电流1.5A充电至4.2V,保持电压4.2V继续充电至电流降到20mA截止,放电工况为恒定电流2A放电至电压分别降至2.7V/2.5V2.2V和2.5V,容量失效阈值为70%。
SOH是评估电池健康状态的重要指标之一,反映了电池的健康程度,常用百分数表示,新电池出厂时的额定容量标定为100%。当用容量定义SOH时,计算方法为当前电池剩余可用容量与额定容量的比值:其中,Cn为当前可用最大容量,C0为电池额定容量。
步骤1还包括:对采集到的电压和电流数据进行一维高斯滤波;
一维高斯滤波是一种信号处理方法,用于平滑或过滤一维数据序列。它基于高斯函数的特性,在滤波过程中通过对输入信号的每个数据点应用高斯核来降低噪声或平滑数据。高斯函数(Gaussian function)在一维情况下通常表示为:其中,xi是输入值,σ是高斯分布分的标准差,影响滤波的平滑程度,G(i)为第i个输入xi的高斯核位置;对于每个输入xi,应用高斯核,计算滤波后的输出yi
经过高斯平滑后的IC曲线和dQ/dV曲线图参考图3所示。本实施例通过使用高斯滤波去除了原始数据的噪声影响提高了特征的质量,同时采用不同的特征提取方式和特征相关性分析方法选取最优特征,从而减少模型计算负担。
步骤2中,得到的多种衰退特征包括:恒压充电时间、恒流充电时间、恒流充电容量、恒压充电容量、充电电压均值、充电电流均值、电压方差、电流方差、电压偏度、电流偏度、电压曲线峰度、电流曲线峰度、最大电压值、最大电流值、最小电压值、最小电流值、IC曲线的斜率和IC曲线的峰值等共20多种统计学特征(衰退特征);之后通过皮尔逊相关系数和斯皮尔曼相关系数综合比较选择特征相关性最高的特征,减少模型计算负担。
步骤6中,通过本申请预测出待测锂电池的SOH,通过结果评价指标计算预测出的SOH和真实的SOH偏差,从而根据偏差验证预测结果的准确性,验证方式为:
采用移动窗口划分模型训练前的输入数据集,例如输入数据集为123456…m,则将数据集划为12、23、34、45、56,(m-1)m,将划分后的数据集分成训练集和测试集,利用训练集训练网络,之后将测试集输入网络,由其预测得到的输出的结果与测试集的SOH对比,用结果评价指标评估模型表现。
其中,结果评价指标包括决定系数R2、平均绝对误差MAE、均方根误差RMSE和平均绝对百分比误差MAPE。决定系数用于衡量回归模型对观测数据的拟合程度。其计算公式如下:
平均绝对误差MAE直接反映了预测误差的平均水平,对于异常值不敏感,能够提供对模型预测误差的稳健评估。其计算公式为:
均方根误差RMSE是MSE的平方根,它衡量的是预测误差的平方均值的平方根,因此它能够反映出预测误差的标准偏差,对于评估模型的波动性非常有用。其计算公式为:
平均绝对百分比误差MAPE衡量的是预测值与实际值之间差异的百分比的平均值,对所有数据点的误差都给予了相同的权重,这使得它对异常值不敏感。其计算公式为:
以上,yi为实际值,为预测值,n为样本数量,为样本均值。
本实施例在应用中,得到的验证结果如图4和图5所示,证明本实施例的估计结果准确性。
下面介绍根据当前可用最大容量计算获得SOH方式:
步骤1中,SOH表示为:
式中,Cn为当前可用最大容量,C0为电池额定容量。
下面介绍多种衰退特征的组成:
步骤2中,多种衰退特征包括恒压充电时间、恒流充电时间、恒流充电容量、恒压充电容量、充电电压均值、充电电流均值、电压方差、电流方差、电压偏度、电流偏度、电压曲线峰度、电流曲线峰度、最大电压值、最大电流值、最小电压值、最小电流值、IC曲线的斜率和IC曲线的峰值。
下面介绍多种衰退特征的计算:
充电容量Q,表示为:
Q=∫Idt公式2,
式中,I为电流;
方差s2,表示为:
式中,n为该次衰退循环中的电压或电流个数,xi为一次充放电循环过程中第i个电压或电流值,为该次衰退循环中所有电压或电流的均值;
偏度Skewness,表示为:
峰度,表示为:
具体地,充电容量Q是电流在一段时间内做的功。
偏度用来衡量数据分布的对称性和偏斜程度。正偏态(右偏)表示数据向右偏离平均值,负偏态(左偏)表示数据向左偏离平均值,偏度为0表示数据分布相对对称。
峰度用来衡量数据分布的尖锐程度,即数据分布的尾部厚度和中间部分的平坦度。正常态分布的峰度为3,大于3表示比正态分布更尖,小于3表示比正态分布更平。负峰度表示比正态分布更平。
下面介绍IC曲线峰值的获得过程:
步骤2中,IC曲线的峰值为:
对每次充放电循环下每两个时间点间的电流进行积分,得到截止当前的累计容量Q,根据每次充放电循环下的累计容量Q和对应电压序列,得到容量-电压曲线段,对容量-电压曲线求导得到dQ/dV曲线作为IC曲线,获得IC曲线的峰值。具体地,增量容量曲线IC(Incremental Capacity)用于分析电池的容量特性,通常是通过对电池充放电过程中的容量变化率进行分析得到的曲线。IC曲线的斜率和形状能够提供关于电池性能和健康状态的重要信息。高斜率表示电池在该SOC下的容量变化敏感性高,而平坦的IC曲线可能表示电池在该SOC范围内容量变化相对缓慢。
IC曲线峰值特征提取方式为通过划分不同的电压区间,具体的计算公式如下:
其中,ΔQ是电池在某一片段内的电荷变化量,ΔV是对应的电压变化量。
下面介绍皮尔逊相关系数和斯皮尔曼相关系数公式:
步骤3中,皮尔逊相关系数r,表示为:
式中,ki为衰退特征序列的第i个值,k为衰退特征序列所有值的平均值,yi为对应的SOH序列中第i个值,为SOH序列的均值;斯皮尔曼相关系数ρ,表示为:
式中,di为每种衰退特征与SOH的秩序统计量之差。
具体地,皮尔逊相关系数用于衡量两个变量(衰退特征与SOH)的线性相关性;斯皮尔曼相关系数用来衡量两个变量(衰退特征与SOH)之间的单调关系,适用于非线性关系的判断。这两个相关系数都是介于-1和1之间的值。当相关系数接近于1时,表示有较强的正相关关系;接近于-1时,表示有较强的负相关关系;接近于0时,则表示变量之间基本上没有线性关系。通过分析比较结果确定IC曲线峰值为四节电池两种相关性方法计算下,相关性最高的特征。
下面进一步限定融合注意力机制和深度卷积神经网络的组成:
步骤4中,融合注意力机制和深度卷积神经网络包括窗口向量嵌入层、多头自注意力层、深度可分离卷积层、多层感知机和一号全连接层;
窗口向量嵌入层,用于将最优衰退特征转换成最高维度的特征;
多头自注意力层,用于对高维度特征依次进行加权处理、线性变换、标准化处理和特征融合,获得最终的融合特征;
深度可分离卷积层,用于对最终的融合特征进行数据处理,得到处理后的特征,发送至多层感知机;
多层感知机,用于提取处理后的特征中的全局和局部信息,并对提取的全局和局部信息进行标准化处理,得到处理后的特征,发送至一号全连接层;
一号全连接层,用于通过线性变换将处理后的特征映射到单一的SOH估计值,输出锂电池的SOH估计值。
具体地,首先,窗口向量嵌入层将输入的最优特征进行嵌入,以生成高维度的特征表示,旨在捕捉输入特征中的潜在复杂关系。嵌入后的特征表示输入到多头自注意力层,捕捉特征间的长距离依赖关系,强调重要特征。多头自注意力层通过每个注意力头并行处理特征,并结合多个注意力头的输出,生成更具全局性和细节性的特征表示。随后,深度可分离卷积层接收多头自注意力层的输出,通过逐通道的空间卷积和点卷积,有效提取输入特征中的局部和全局信息,生成经过深度可分离卷积处理后的特征表示。这些特征表示进一步输入到多层感知机,通过多个全连接层和非线性激活函数(如ReLU),逐层提取和组合高维特征,增强特征表达能力。最后,经过多层感知机处理的特征表示输入到一号全连接层,通过线性变换将特征向量映射到单一的SOH估计值,输出锂电池的SOH估计值。
使用网格搜索法进行模型训练并寻找最优超参数组合,定义激活函数ReLU,优化器Adam和损失函数MAE。
参考图2的组合架构示意图,由选取的特征作为输入,进入到窗口向量嵌入层将特征值映射到向量空间,选择映射维度embedding dim为16,之后进入多头自注意力层后再进入深度可分离卷积层,最后由多层感知机和全连接层输出。
网格参数寻优,其通过定义每个超参数的一组候选值,然后穷举组合这些值来评估模型在不同参数设置下的性能,并使用验证集来评估模型性能,选择表现最佳的一组参数。网格参数寻优尝试了所有指定的参数组合,确保找到最优解。
最终,最优参数组合为d_model和p_dim为16,num_heads为4,learning_rate为0.0097,dropout为0.01,epochs为239。其中,d_model表示特征作为一个向量所嵌入的空间维度与p_dim所代表的位置信息向量维度相同,num_heads表示注意力机制的头数。
优化器选择Adam(Adaptive Moment Estimation)。Adam是一种自适应学习率优化算法,它通过估计每个参数的一阶矩(梯度的均值)和二阶矩(梯度的未中心化的方差的均值)来自适应调整学习率。
损失函数选择MAE(Mean Absolute Error)是回归问题中常用的损失函数,用于衡量预测值与真实值之间的平均绝对误差。
对于每个样本,MAE计算预测值与真实值之间的绝对差。假设预测值为真实值为y,则对于单个样本,MAE定义为
Adam优化器通过自适应性学习率和动量来优化模型参数,而MAE损失函数用于指导模型学习如何减少预测值与真实值之间的平均绝对误差。这两者共同作用,有助于提高模型的训练效率和预测精度。
进一步限定,多头自注意力层包括二号全连接层、三号全连接层、一号归一化层、残差注意力层、融合层和规范化后的点积注意力机制;
二号全连接层,用于将高维度特征进行加权处理,得到处理后的特征;
规范化后的点积注意力机制,用于将处理后的特征投影到一个空间,该空间中有3种向量,分别为查询向量、键向量和值向量,对处理后的每个特征在每个查询向量和每个键向量上的投影做乘积计算,采用softmax函数对每个计算结果进行归一化,得到每个归一化后的结果,对每个归一化后的结果和处理后的对应特征在值向量上的投影做乘积计算,对多个计算结果进行加权和计算;
融合层,用于将规范化后的点积注意力机制输出的计算结果与高维度特征进行融合,得到融合后的特征;
三号全连接层,用于对融合后的特征进行线性变换,生成变换后的特征;
一号归一化层,用于对变换后的特征进行标准化处理,生成具有全局性和细节性的特征;
残差注意力层,用于对高维度特征进行残差连接处理,得到经过残差连接处理的特征;
对具有全局性和细节性的特征和经过残差连接处理的特征进行融合,输出最终的融合特征。
具体地,二号全连接层用于将输入特征映射到一个新的特征空间,以便在注意力机制中计算查询(query)、键(key)和值(value)。这些映射有助于捕捉特征之间的复杂关系,从而提高特征表达的丰富性和准确性。三号全连接层用于对经过注意力加权后的特征进行进一步的线性变换,从而生成多头自注意力机制的输出特征,这一步骤有助于整合多个注意力头的信息,提供更全面的特征表示。一号归一化层用于在多头自注意力机制之后,对输出特征进行标准化处理,以提高模型的稳定性和训练效率。归一化处理通过减去均值并除以标准差,确保特征的数值范围一致,避免梯度消失或爆炸的问题,从而促进模型更快地收敛并提高预测性能。
所述多头自注意力层(Multi-Head self Attention)结构由二号全连接层、三号全连接层、一号归一化层、残差注意力层、融合层和规范化后的点积注意力机制组成。残差注意力层有助于帮助模型更好地学习特征的表示;最终的融合特征有助于提高模型的准确性和鲁棒性。规范化后的点积注意力机制是自注意力机制的一种变体,用于计算输入序列中每个位置的注意力权重。它通过计算查询向量与键向量的点积,并对结果进行缩放(通常是点积结果除以查询向量维度的平方根)。接着,应用softmax函数对缩放后的结果进行归一化,以获取每个输入位置的注意力权重。这样可以有效地为序列中的每个位置分配一个权重,以反映其与其他位置的相对重要性,从而更好地捕捉序列内部的长距离依赖关系。自注意力机制Attention(Q,K,V)计算公式为:
其中,Q为查询矩阵,K为键矩阵,V为值矩阵,除以是为了调节注意力分数的尺度,确保在不同维度的计算中具有相似的方差,使得梯度下降更加稳定,其中dk是注意力的维度大小,决定了注意力分布的精细程度。Softmax函数通过指数化和归一化输入向量的每个元素,确保了输出的每个元素在[0,1]的范围内,并且所有元素的和为1,因此可以表示为概率分布,Softmax函数计算公式:
激活函数为模型引入非线性,有助于缓解梯度消失问题,ReLU可以表示为:ReLU(x)=max(0,x)
归一化层,是一种用于改善神经网络训练过程的归一化技术。它通常用于处理每个样本的每个特征,而不是像批量归一化(Batch Normalization)那样处理每个批次的每个特征。层归一化的目的是为每个特征提供一个稳定的分布,从而加速收敛并提高模型的泛化能力。层归一化LayerNorm公式为:
LayerNorm=r(x-μ)+β
σ
其中,x是输入数据,可以是单个样本或层的输出,μ是输入数据的均值,σ是输入数据的标准差,r是可学习的样本参数,用于控制归一化输出的尺度,β是可学习的偏移参数,用于控制归一化输出的位置。
多层感知机(Multilayer Perceptron,MLP),是一种前馈人工神经网络,其在本实施例中包含三层节点:一个线性层、一个激活函数以及一个线性层。本实施例中的多层感知机MLP(x)计算公式为:
MLP(x)=max(0,W1x+b1)W2+b2
其中,W是权重矩阵,b是偏置向量。
进一步限定,深度可分离卷积层包括一号点卷积层、深度卷积层、二号点卷积层和二号归一化层;
一号点卷积层,用于采用逐点卷积操作压缩最终的融合特征维度,得到压缩后的特征;
深度卷积层,用于对压缩后的特征进行逐通道的空间卷积操作,提取每个通道的空间特征;
二号点卷积层,用于通过逐点卷积操作将各通道的空间特征整合,得到整合后的特征;
二号归一化层,用于对整合后的特征进行标准化处理,得到处理后的特征。
具体地,一号点卷积层用于对输入特征进行线性变换,通过逐点卷积操作将高维输入特征压缩到较低维度,从而降低计算复杂度并保留重要信息。深度卷积层用于对一号点卷积层的输出进行逐通道的空间卷积操作,提取每个通道的空间特征,同时减少计算资源的消耗。二号点卷积层用于将深度卷积层提取的特征重新整合,通过逐点卷积将各通道的特征融合在一起,生成更具代表性的高维特征表示。二号归一化层用于对二号点卷积层的输出特征进行标准化处理,通过减去均值并除以标准差,确保特征的数值范围一致,提高模型的稳定性和训练效率,从而促进更快的收敛和更准确的预测。
所述深度可分离卷积(Depthwise Separable Convolution)可以分为两个主要步骤:深度卷积(Depthwise Convolution)和逐点卷积(Pointwise Convolution)。深度卷积首先对输入的每个通道分别进行组卷积操作,不改变通道的数量,每个输出通道只与一个输入通道进行卷积,类似于在每个通道上分别进行滤波操作。逐点卷积则用来替代传统卷积中的全连接层,通过将深度卷积的输出进行线性变换,映射到新的特征空间,可以增加或减少特征通道的数量,从而提高计算效率,减少计算资源的消耗。
具体参数设置为:第一层逐点卷积层过滤器大小和数量分别为1和32;深度卷积的过滤器大小和数量分别为31和16,边缘填充为15,步长为1,不考虑偏置项;最后一层逐点卷积层过滤器大小和数量分别为1和16。这种设计能够提升模型的精度,去除冗余结构,减少所需的计算参数量,并显著提高计算效率。
进一步限定,多层感知机包括四号全连接层、五号全连接层和三号归一化层;
四号全连接层,用于通过全连接操作提取处理后的特征,得到提取后的特征;
五号全连接层,用于对提取后的特征进行特征提取,得到全局和局部信息;
三号归一化层,用于对全局和局部信息进行标准化处理,得到处理后的特征。
具体地,四号全连接层用于对输入的高维特征进行线性变换,通过全连接操作提取更加复杂的特征,并将其映射到一个新的特征空间,以增强特征表示的能力。五号全连接层用于进一步处理四号全连接层的输出特征,进行更深层次的特征提取和组合,提升模型的非线性表达能力,从而更准确地估计锂电池的SOH。三号归一化层用于对五号全连接层的输出特征进行标准化处理,通过减去均值并除以标准差,确保特征的数值范围一致,提高模型的稳定性和训练效率,避免梯度消失或爆炸的问题,促进更快的收敛和更精确的预测。
虽然在本文中参照了特定的实施方式来描述本发明,但是应该理解的是,这些实施例仅仅是本发明的原理和应用的示例。因此应该理解的是,可以对示例性的实施例进行许多修改,并且可以设计出其他的布置,只要不偏离所附权利要求所限定的本发明的精神和范围。应该理解的是,可以通过不同于原始权利要求所描述的方式来结合不同的从属权利要求和本文中所述的特征。还可以理解的是,结合单独实施例所描述的特征可以使用在其他所述实施例中。

Claims (10)

1.融合注意力机制和深度卷积的锂电池SOH估计方法,其特征在于,所述方法包括以下步骤:
步骤1、采集锂电池在每次充放电循环下的电压数据、电流数据和当前可用最大容量,根据当前可用最大容量计算获得SOH;
步骤2、利用多种统计学方法对每次充放电循环下的电压和电流数据进行处理,得到多种衰退特征;
步骤3、衰退特征筛选:获得同一种衰退特征与SOH的皮尔逊相关系数和与SOH的斯皮尔曼相关系数的平均值,作为该衰退特征的相关系数;从多种衰退特征的相关系数中选出最大值所对应的衰退特征作为最优衰退特征;
步骤4、将最优衰退特征作为融合注意力机制和深度卷积神经网络的输入数据,将最优衰退特征所对应的SOH作为融合注意力机制和深度卷积神经网络的输出数据;
步骤5、利用输入数据和输出数据训练融合注意力机制和深度卷积神经网络,得到训练完成的融合注意力机制和深度卷积神经网络;
步骤6、利用多种统计学方法对待测锂电池每次充放电循环下的电压和电流数据进行处理,得到多种衰退特征,并通过衰退特征筛选方式筛选出待测锂电池的最优衰退特征,并将其输入至训练完成的融合注意力机制和深度卷积神经网络中,预测出该锂电池的SOH。
2.根据权利要求1所述的融合注意力机制和深度卷积的锂电池SOH估计方法,其特征在于,步骤1中,SOH表示为:
式中,Cn为当前可用最大容量,C0为电池额定容量。
3.根据权利要求1所述的融合注意力机制和深度卷积的锂电池SOH估计方法,其特征在于,步骤2中,多种衰退特征包括恒压充电时间、恒流充电时间、恒流充电容量、恒压充电容量、充电电压均值、充电电流均值、电压方差、电流方差、电压偏度、电流偏度、电压曲线峰度、电流曲线峰度、最大电压值、最大电流值、最小电压值、最小电流值、IC曲线的斜率和IC曲线的峰值。
4.根据权利要求3所述的融合注意力机制和深度卷积的锂电池SOH估计方法,其特征在于,充电容量Q,表示为:
Q=∫Idt公式2,
式中,I为电流;
方差s2,表示为:
式中,n为该次衰退循环中的电压或电流个数,xi为一次充放电循环过程中第i个电压或电流值,为该次衰退循环中所有电压或电流的均值;
偏度Skewness,表示为:
峰度,表示为:
5.根据权利要求3所述的融合注意力机制和深度卷积的锂电池SOH估计方法,其特征在于,步骤2中,IC曲线的峰值为:
对每次充放电循环下每两个时间点间的电流进行积分,得到截止当前的累计容量Q,根据每次充放电循环下的累计容量Q和对应电压序列,得到容量-电压曲线段,对容量-电压曲线求导得到dQ/dV曲线作为IC曲线,获得IC曲线的峰值。
6.根据权利要求1所述的融合注意力机制和深度卷积的锂电池SOH估计方法,其特征在于,步骤3中,皮尔逊相关系数r,表示为:
式中,ki为衰退特征序列的第i个值,为衰退特征序列所有值的平均值,yi为对应的SOH序列中第i个值,为SOH序列的均值;
斯皮尔曼相关系数ρ,表示为:
式中,di为每种衰退特征与SOH的秩序统计量之差。
7.根据权利要求1所述的融合注意力机制和深度卷积的锂电池SOH估计方法,其特征在于,步骤4中,融合注意力机制和深度卷积神经网络包括窗口向量嵌入层、多头自注意力层、深度可分离卷积层、多层感知机和一号全连接层;
窗口向量嵌入层,用于将最优衰退特征转换成高维度特征;
多头自注意力层,用于对高维度特征依次进行加权处理、线性变换、标准化处理和特征融合,获得最终的融合特征;
深度可分离卷积层,用于对最终的融合特征进行数据处理,得到处理后的特征,发送至多层感知机;
多层感知机,用于提取处理后的特征中的全局和局部信息,并对提取的全局和局部信息进行标准化处理,得到处理后的特征,发送至一号全连接层;
一号全连接层,用于通过线性变换将处理后的特征映射到单一的SOH估计值,输出锂电池的SOH估计值。
8.根据权利要求7所述的融合注意力机制和深度卷积的锂电池SOH估计方法,其特征在于,多头自注意力层包括二号全连接层、三号全连接层、一号归一化层、残差注意力层、融合层和规范化后的点积注意力机制;
二号全连接层,用于将高维度特征进行加权处理,得到处理后的特征;
规范化后的点积注意力机制,用于将处理后的特征投影到一个空间,该空间中有3种向量,分别为查询向量、键向量和值向量,对处理后的每个特征在每个查询向量和每个键向量上的投影做乘积计算,采用softmax函数对每个计算结果进行归一化,得到每个归一化后的结果,对每个归一化后的结果和处理后的对应特征在值向量上的投影做乘积计算,对多个计算结果进行加权和计算;
融合层,用于将规范化后的点积注意力机制输出的计算结果与高维度特征进行融合,得到融合后的特征;
三号全连接层,用于对融合后的特征进行线性变换,生成变换后的特征;
一号归一化层,用于对变换后的特征进行标准化处理,生成具有全局性和细节性的特征;
残差注意力层,用于对高维度特征进行残差连接处理,得到经过残差连接处理的特征;
对具有全局性和细节性的特征和经过残差连接处理的特征进行融合,输出最终的融合特征。
9.根据权利要求8所述的融合注意力机制和深度卷积的锂电池SOH估计方法,其特征在于,深度可分离卷积层包括一号点卷积层、深度卷积层、二号点卷积层和二号归一化层;
一号点卷积层,用于采用逐点卷积操作压缩最终的融合特征维度,得到压缩后的特征;
深度卷积层,用于对压缩后的特征进行逐通道的空间卷积操作,提取每个通道的空间特征;
二号点卷积层,用于通过逐点卷积操作将各通道的空间特征整合,得到整合后的特征;
二号归一化层,用于对整合后的特征进行标准化处理,得到处理后的特征。
10.根据权利要求9所述的融合注意力机制和深度卷积的锂电池SOH估计方法,其特征在于,多层感知机包括四号全连接层、五号全连接层和三号归一化层;
四号全连接层,用于通过全连接操作提取处理后的特征,得到提取后的特征;
五号全连接层,用于对提取后的特征进行特征提取,得到全局和局部信息;
三号归一化层,用于对全局和局部信息进行标准化处理,得到处理后的特征。
CN202411056529.5A 2024-08-02 2024-08-02 融合注意力机制和深度卷积的锂电池soh估计方法 Pending CN118731751A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202411056529.5A CN118731751A (zh) 2024-08-02 2024-08-02 融合注意力机制和深度卷积的锂电池soh估计方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202411056529.5A CN118731751A (zh) 2024-08-02 2024-08-02 融合注意力机制和深度卷积的锂电池soh估计方法

Publications (1)

Publication Number Publication Date
CN118731751A true CN118731751A (zh) 2024-10-01

Family

ID=92853426

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202411056529.5A Pending CN118731751A (zh) 2024-08-02 2024-08-02 融合注意力机制和深度卷积的锂电池soh估计方法

Country Status (1)

Country Link
CN (1) CN118731751A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN118914906A (zh) * 2024-10-11 2024-11-08 南通乐创新能源有限公司 一种基于注意力机制moe模型的电池soh预测方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN118914906A (zh) * 2024-10-11 2024-11-08 南通乐创新能源有限公司 一种基于注意力机制moe模型的电池soh预测方法

Similar Documents

Publication Publication Date Title
WO2022198616A1 (zh) 一种电池寿命预测方法、系统、电子装置及存储介质
CN112782591B (zh) 基于多电池数据融合的锂电池soh长期预测方法
CN110187290B (zh) 一种基于融合型算法的锂离子电池剩余寿命预测方法
CN106446940B (zh) 一种基于支持向量机的超级电容器电容值退化趋势的预测方法
CN117849628B (zh) 基于时序变换记忆网络的锂离子电池健康状态估计方法
CN113449919B (zh) 一种基于特征和趋势感知的用电量预测方法及系统
CN115684971A (zh) 基于片段多充电特征融合的锂离子电池健康状态估计方法
CN112803398A (zh) 基于经验模态分解和深度神经网络的负荷预测方法及系统
CN117538783A (zh) 一种基于时域融合变换器的锂离子电池荷电状态估计方法
CN114397577A (zh) 一种基于astukf-gra-lstm模型的新能源汽车锂电池健康状态评估方法
CN118131044A (zh) 一种基于transformer架构的深度学习锂电池SOH预测方法
CN112418476A (zh) 一种超短期电力负荷预测方法
CN113791351A (zh) 基于迁移学习和差值概率分布的锂电池寿命预测方法
CN118731751A (zh) 融合注意力机制和深度卷积的锂电池soh估计方法
CN117368784A (zh) 一种基于特征压缩的电池健康状态预测方法
CN119044778A (zh) 基于DCAE-Transformer的锂电池寿命预测方法
CN115598557B (zh) 一种基于恒压充电电流的锂电池soh估计方法
CN118330469B (zh) 基于时态图神经网络的锂离子电池健康状态估计方法
CN115128469A (zh) 基于数字孪生的动力锂电池容量退化分析及在线估计方法
CN119780745A (zh) 一种基于大数据的混合储能电池状态监控方法及系统
CN111537889B (zh) 一种数据驱动的梯次电池rul预测与分类方法
CN117783913A (zh) 基于特征提取与bp神经网络估测锂离子电池健康状态的方法
CN118897212B (zh) 基于时间分解与特征融合的锂离子电池健康状态评估方法及系统
Zhang et al. State-of-health estimation of lithium-ion batteries based on self-transformer with few-labeled data and label noise
Wu et al. A hybrid squeeze excitation gate recurrent unit-autoregressive integrated moving average model for long-term state of health estimation of lithium-ion batteries with adaptive enhancement ability

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination