CN116280140A - 基于深度学习的船舶混合动力能量管理方法、设备及介质 - Google Patents

基于深度学习的船舶混合动力能量管理方法、设备及介质 Download PDF

Info

Publication number
CN116280140A
CN116280140A CN202310395995.5A CN202310395995A CN116280140A CN 116280140 A CN116280140 A CN 116280140A CN 202310395995 A CN202310395995 A CN 202310395995A CN 116280140 A CN116280140 A CN 116280140A
Authority
CN
China
Prior art keywords
soc
storage battery
energy storage
battery pack
ship
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202310395995.5A
Other languages
English (en)
Other versions
CN116280140B (zh
Inventor
许媛媛
王利伟
朱少欣
徐茂栋
张智羿
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Ocean University
Original Assignee
Guangdong Ocean University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Ocean University filed Critical Guangdong Ocean University
Priority to CN202310395995.5A priority Critical patent/CN116280140B/zh
Publication of CN116280140A publication Critical patent/CN116280140A/zh
Application granted granted Critical
Publication of CN116280140B publication Critical patent/CN116280140B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B63SHIPS OR OTHER WATERBORNE VESSELS; RELATED EQUIPMENT
    • B63HMARINE PROPULSION OR STEERING
    • B63H21/00Use of propulsion power plant or units on vessels
    • B63H21/12Use of propulsion power plant or units on vessels the vessels being motor-driven
    • B63H21/17Use of propulsion power plant or units on vessels the vessels being motor-driven by electric motor

Landscapes

  • Chemical & Material Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Combustion & Propulsion (AREA)
  • Mechanical Engineering (AREA)
  • Ocean & Marine Engineering (AREA)
  • Charge And Discharge Circuits For Batteries Or The Like (AREA)

Abstract

本发明适用于船舶动力技术领域,提供了一种基于深度学习的船舶混合动力能量管理方法、设备及介质,具体步骤如下:S1:采集船舶系统的相关信息,相关信息包括船舶系统的柴油发电机输出转矩、船舶系统的需求转矩、储能电池组荷电状态、控制动作、状态空间;S2:将相关信息输入到训练模型中,训练模型输出储能电池组最佳荷电状态;S3:获取船舶行驶所需功率;S4:根据储能电池组最佳荷电状态以及船舶行驶所需功率,由逻辑门限生成控制指令,控制指令用于控制船舶系统的运行。本发明通过训练模型获取储能电池组最佳荷电状态,生成控制指令控制船舶系统的运行,使得柴油发电机工作于最佳效率区间,提高燃油经济性,减少污染气体的排放。

Description

基于深度学习的船舶混合动力能量管理方法、设备及介质
技术领域
本发明属于船舶动力技术领域,具体涉及一种基于深度学习的船舶混合动力能量管理方法、设备及介质。
背景技术
目前船舶的动力系统的推进形式主要分为:
一、柴油发电机推进:具有功率密度大、可瞬间提供较大转矩等优点,但其在低转速、低负荷工作情况下,其燃油效率低,同时排放大量的COX以及NOX等污染气体,对海洋环境与空气质量影响较大,且对海洋生态平衡造成影响,于此同时,柴油发电机运行时所产生的噪音相对较大,不仅使船员对内、外沟通产生阻力,而且长时间处于高分贝的环境会对人体身心健康产生不良影响;
二、电力推进:作为推进系统发展中的先进技术,电力推进系统在节能性、环保性、经济性、操纵性、机动性、降噪性等性能上相对柴油发电机推进均有质的提高,但是电力推进负载续航时间短、能力弱、需要电池组容量大且在复杂工况下行驶易对电池组产生损坏;
三、柴电混合动力推进系统:作为一种新的推进方式,同时具有柴油发电机推进与电力推进两种型式的综合优势,符合混合动力系统“双机互补”的理念,对能量的合理管理与调度,可以带给船舶更好的经济效益,柴电混合动力船舶的控制体系较复杂,充分及高效利用能量是柴电混合动力系统能量管理、分配需要解决的关键问题,在船舶安全运行的前提下,对降低油耗、污染与提高燃油效率起到决定性作用,船舶在不同的海域或不同的海况行驶时,需要根据不同运行工况选择最合理的推进模式,从而减少污染排放、降低能耗;但是目前对于柴电混合动力推进系统船舶的能量管理仅限于对各部件的能量进行监测与统一调度,能量分配不合理,船舶运行的经济性不高。
发明内容
本发明的目的是提供一种基于深度学习的船舶混合动力能量管理方法、设备及介质,解决背景技术中存在的上述技术问题。
本发明是这样实现的:
第一方面,本申请提供了一种基于深度学习的船舶混合动力能量管理方法,具体步骤如下:
S1:采集船舶系统的相关信息,相关信息包括:船舶系统的柴油发电机输出转矩
Figure BDA0004177639380000021
船舶系统的需求转矩/>
Figure BDA0004177639380000022
储能电池组荷电状态SOCt,控制动作Zt,状态空间St,其中,
Figure BDA0004177639380000023
S2:将相关信息输入到训练模型中,训练模型输出储能电池组最佳荷电状态SOCl
S3:获取船舶行驶所需功率Pr
S4:根据储能电池组最佳荷电状态SOCl以及船舶行驶所需功率Pr,由逻辑门限生成控制指令,控制指令用于控制船舶系统的运行。
在上述技术方案中,对船舶系统航行过程中的相关信息进行收集,并通过训练模型获取储能电池组最佳荷电状态,最后生成控制指令,船舶系统根据控制指令运行时,位于最佳推进形式,使得柴油发电机工作于最佳效率区间内,提高船舶燃油经济性,提高能量的利用率,减少一氧化碳等污染气体的排放,达到整体节能减排的效果。
进一步地,步骤S2中,所述训练模型输出储能电池组最佳荷电状态SOCl的具体步骤为:
S201:初始化深度强化学习网络W(S,Z),初始化经验池,在经验池中存储动作对at、策略π、最佳策略π*以及权重参数θ;
S202:状态空间St在控制动作Zt的作用下转换到下一状态空间St+1时获得即时奖励rt
Figure BDA0004177639380000031
其中,Ce代表柴油发电机的瞬时油耗,C代表惩罚,值为柴油发电机最大瞬时油耗值与最大污染排放量之和,SOCmin为储能电池组荷电状态的最小值,SOCmax为储能电池组荷电状态的最大值,B为船舶排出的二氧化碳、碳氢化物、氮氧化合物归一化后的排放量之和;
S203:令动作对at=(St,Zt,rt,St+1);
S204:计算从时刻t开始到时刻T过程结束时的奖赏之和Rt
Figure BDA0004177639380000032
Figure BDA0004177639380000033
其中,t、为瞬时时刻,γ为折扣因子,γ∈[0,1],用来权衡未来奖赏对累积奖赏的影响;
S205:在状态空间St下执行控制动作Zt,并遵循策略π到下一工况前获得的累积回报定义为Wt,Wt(S,Z)=E[Rt|S=St,Z=Zt,π],E为期望,最优策略π*的回报大于或等于其他所有策略的回报,多个最优策略π*共享一个回报值函数Wπ*
Figure BDA0004177639380000034
S206:将回报值函数通过贝尔曼最优方程迭代,当t→∞时,Wt(S,Z)→Wπ*(S,Z),回报值函数最终收敛,得到收敛值函数Wk(S,Z),
Figure BDA0004177639380000035
Figure BDA0004177639380000036
式中,S`是下一个时间步长的状态,Z`是下一个时间步长的控制动作,一个时间步长为一次迭代,/>
Figure BDA0004177639380000039
为Wt(S,Z)的最大值;
S207:对损失函数用梯度下降法,获取更新后的权重参数θ*
Figure BDA0004177639380000037
Figure BDA0004177639380000038
J(θ*)为损失函数,更新后的权重参数θ*放入经验池,作为下一循环的初始权重参数;
S208:通过线性函数逼近器拟合得到深度强化学习目标网络值,WL(S,Z|θ*);
S209:令Wt(S,Z)=WL(S,Z|θ*),输出更新后的最佳策略π*、控制动作Z*、状态空间S*,并将输出后的最佳策略π*储存至经验池中;
S210:根据步骤S209输出的数据,获取对应的储能电池组最佳荷电状态SOCl,柴油发电机输出转矩
Figure BDA0004177639380000041
进一步地,步骤S204中,时刻t为状态St采集的时刻,时刻T为状态St+1采集的时刻。
进一步地,步骤S210中,根据状态空间的函数:
Figure BDA0004177639380000042
获取SOCl
进一步地,步骤S3中,船舶行驶所需功率Pr为船舶行驶中使用电器的功率与柴油发电机的功率
Figure BDA0004177639380000043
之和,/>
Figure BDA0004177639380000044
n为柴油发电机的转速。
进一步地,步骤S4中,逻辑门限生成控制指令的具体步骤如下:
比较SOCt`与SOCl、SOCmin、SOCmax的大小,比较Pr与Pb、Pc、Pmax的大小,根据比较结果,生成不同的控制指令,其中,SOCt`为t`时刻储能电池组荷电状态实际运行值,Pb为电池组的最大输出功率,Pc为柴油发电机的最大输出功率,Pmax为船舶最大负载功率,Pb<Pc<Pmax
当Pr<Pb,SOCt`<SOCl时,柴油发电机驱动,并补偿储能电池组;
当Pr<Pb,SOCt`<SOCmin时,柴油发电机驱动,结合超级电容补偿储能电池组;
当Pr<Pb,SOCt`>SOCl时,储能电池组驱动;
当Pb<Pr<Pc,SOCt`<SOCl时,柴油发电机驱动,补偿储能电池组;
当Pb<Pr<Pc,SOCt`>SOCl时,柴油发电机驱动;
当Pc<Pr<Pmax,SOCt`>SOCl时,柴油发电机和储能电池组混合驱动;
当Pc<Pr<Pmax,SOCt`<SOCl时,柴油发电机和储能电池组混合驱动,超级电容补偿储能电池组;
当Pr=0,SOCt`<SOCl时,对储能电池组进行岸电充电;
当Pr=0,SOCt`>SOCl时,对超级电容进行岸电充电;
当Pr=0,SOCt`>SOCmax,制动元件进行消耗;
当Pr=0,SOCt`=SOCmax,船舶系统处于待命状态。
进一步地,柴油发电机驱动时,控制输出转矩等于
Figure BDA0004177639380000051
第二方面,本申请提供了一种计算机设备,包括存储器、处理器机存储在存储器上的计算机程序,处理器执行计算机程序以实现第一方面所述方法的步骤。
第三方面,本申请提供了一种计算机可读存储介质,其上存储有计算机程序指令,该计算机程序指令被处理器执行时实现第一方面所述方法的步骤。
本发明的有益效果是:
1、本发明中,通过采集船舶系统在航行过程中的相关信息进行收集,并将相关信息输入到训练模型中,训练模型依据相关信息获取此阶段船舶系统的储能电池组最佳荷电状态,并据此生成控制指令,船舶系统根据控制指令运行时,位于最佳推进形式,使得柴油发电机工作于最佳效率区间内,提高船舶燃油经济性,提高能量的利用率,增加电池组的使用寿命,减少一氧化碳等污染气体的排放,达到整体节能减排的效果。
2、本发明中,通过对权重参数以及策略进行迭代计算,使得权重参数和策略不停地更新,进一步提高训练模型输出的储能电池组最佳荷电状态的数据准确性。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面所描述的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例1提供的能量管理方法的流程图。
具体实施方式
以下的说明提供了许多不同的实施例、或是例子,用来实施本发明的不同特征。以下特定例子所描述的元件和排列方式,仅用来精简的表达本发明,其仅作为例子,而并非用以限制本发明。
实施例1
本实施例提供了一种基于深度学习的船舶混合动力能量管理方法,结合图1到图3所示,具体步骤如下:
S1:采集船舶系统的相关信息,相关信息包括:船舶系统的柴油发电机输出转矩
Figure BDA0004177639380000061
船舶系统的需求转矩/>
Figure BDA0004177639380000062
储能电池组荷电状态SOCt,控制动作Zt,状态空间St,其中,
Figure BDA0004177639380000063
S2:将相关信息输入到训练模型中,训练模型输出储能电池组最佳荷电状态SOCl,具体输出步骤如下:
S201:初始化深度强化学习网络W(S,Z),初始化经验池,在经验池中存储动作对at、策略π、最佳策略π*以及权重参数θ;
S202:状态空间St在控制动作Zt的作用下转换到下一状态空间St+1时获得即时奖励rt,即时奖励rt的计算公式如下:
Figure BDA0004177639380000064
其中,Ce代表柴油发电机的瞬时油耗,C代表惩罚,值为柴油发电机最大瞬时油耗值与最大污染排放量之和,SOCmin为储能电池组荷电状态的最小值,SOCmax为储能电池组荷电状态的最大值,B为船舶排出的二氧化碳、碳氢化物、氮氧化合物归一化后的排放量之和,根据步骤S1中获取的SOCt值,判断计算即时奖励rt使用的公式,获取与船舶运行工况以及储能电池组的荷电状态均对应的即时奖励;
S203:令动作对at=(St,Zt,rt,St+1);
S204:计算从时刻t开始到时刻T过程结束时的奖赏之和Rt
Figure BDA0004177639380000071
Figure BDA0004177639380000072
其中,t、为瞬时时刻,γ为折扣因子,γ∈[0,1],用来权衡未来奖赏对累积奖赏的影响,状态空间会根据时刻的变化而变化,t时刻是指采集状态空间St所对应的时刻,T时刻是指采集状态空间St+1所对应的时刻;
S205:在状态空间St下执行控制动作Zt,并遵循策略π到下一工况前获得的累积回报定义为Wt,Wt(S,Z)=E[Rt|S=St,Z=Zt,π],E为期望,策略π表示在每个状态空间的时候该如何选择控制动作,最优策略π*的回报大于或等于其他所有策略的回报,多个最优策略π*共享一个回报值函数
Figure BDA0004177639380000073
Figure BDA0004177639380000074
S206:将回报值函数通过贝尔曼最优方程迭代,当t→∞时,
Figure BDA0004177639380000075
Figure BDA0004177639380000076
回报值函数最终收敛,得到收敛值函数Wk(S,Z),收敛值函数
Figure BDA0004177639380000077
式中,S`是下一个时间步长的状态,Z`是下一个时间步长的控制动作,一个时间步长为一次迭代,/>
Figure BDA00041776393800000716
为Wt(S,Z)的最大值;
S207:对损失函数用梯度下降法,获取更新后的权重参数θ*
Figure BDA0004177639380000078
Figure BDA0004177639380000079
J(θ*)为损失函数,更新后的权重参数θ*放入经验池,作为下一循环的初始权重参数;
S208:通过线性函数逼近器拟合得到深度强化学习目标网络值,WL(S,Z|θ*);
S209:令Wt(S,Z)=WL(S,Z|θ*),输出更新后的最佳策略π*、控制动作Z*、状态空间S*,并将输出后的最佳策略π*储存至经验池中;
S210:根据步骤S209输出的数据,状态空间的函数:
Figure BDA00041776393800000710
根据获取SOCl和系统需求转矩/>
Figure BDA00041776393800000711
并根据控制动作函数:/>
Figure BDA00041776393800000712
获取柴油发电机输出转矩
Figure BDA00041776393800000713
柴油发电机驱动时,按照输出转矩等于/>
Figure BDA00041776393800000714
运行,/>
Figure BDA00041776393800000715
为柴油发电机在此阶段的最佳工作转矩,规定此阶段柴油发电机最佳工作效率区间为/>
Figure BDA0004177639380000081
在步骤S2中,通过训练模型对储能电池组最佳荷电状态SOCl进行计算,并将计算过程中得到的新的权重参数θ*、最佳策略π*存储至经验池中,作为下一次计算的基础参数,通过多次循环迭代优化权重参数以及最佳策略,进一步提高运算的准确性;
S3:获取船舶行驶所需功率Pr,Pr为船舶行驶中使用电器的功率与柴油发电机的功率
Figure BDA0004177639380000082
之和,/>
Figure BDA0004177639380000083
n为柴油发电机的转速。
S4:根据储能电池组最佳荷电状态SOCl以及船舶行驶所需功率Pr,由逻辑门限生成控制指令,控制指令用于控制船舶系统的运行,逻辑门限生成控制指令的具体步骤如下;
控制指令依据SOCt`与SOCl、SOCmin、SOCmax的大小比较结果以及Pr与Pb、Pc、Pmax的大小比较结果生成,不同的比较结果,对应不同的控制指令,其中,SOCt`为t`时刻储能电池组荷电状态实际运行值,即此时此刻下,船舶的储能电池组荷电状态实际运行值,Pb为电池组的最大输出功率,Pc为柴油发电机的最大输出功率,Pmax为船舶最大负载功率,Pb<Pc<Pmax
当Pr<Pb,SOCt`<SOCl时,柴油发电机驱动,富足功率通过控制DC、DC变换器对储能电池组进行充电;
当Pr<Pb,SOCt`<SOCmin时,柴油发电机驱动,柴油发电机在满足船舶正常行驶所需要的功率外,富足功率结合超级电容对储能电池组进行充电;
当Pr<Pb,SOCt`>SOCl时,储能电池组单独驱动船舶航行,柴油发电机处于停机或者怠速状态,储能电池组功率供应全船负载需求,经过双向DC/DC变换器电力变换后将电能输出到直流母线上来驱动船舶负载;
当Pb<Pr<Pc,SOCt`<SOCl时,柴油发电机单组驱动,富足功率对储能电池组进行充电,储能电池组在双向DC/DC的控制下进行功率输入;
当Pb<Pr<Pc,SOCt`>SOCl时,柴油发电机单独驱动,储能电池组在双向DC/DC的控制下不进行功率输入或输出;
当Pc<Pr<Pmax,SOCt`>SOCl时,系统所需功率较大,单驱动不能提供足够能量,因此必须采用柴电混合推进,柴油发电机和储能电池组混合驱动;
当Pc<Pr<Pmax,SOCt`<SOCl时,柴油发电机和储能电池组混合驱动,超级电容通过控制双向DC/DC变换器来实现对储能电池组充电;
当Pr=0,船舶为停止状态,SOCt`<SOCl时,对储能电池组进行岸电充电,岸电装置对储能电池组进行充电;
当Pr=0,SOCt`>SOCl时,对超级电容进行岸电充电,岸电装置对超级电容进行充电;
当Pr=0,SOCt`>SOCmax,制动元件进行消耗,防止充电过盛;
当Pr=0,SOCt`=SOCmax,船舶系统处于待命状态。
同时设定,为了防止储能电池组过于频繁的充放电,可能影响系统的协调性以及影响电池组的寿命,一般对于船舶系统航行工况变化不太大的情况下,储能电池组进行充电至达到SOCmin,后续在根据航行工况进行模式切换。
在步骤S4中,进入逻辑门限控制策略,将储能电池组的最佳荷电状态以及柴油发电机的最佳工作效率区间作为逻辑门限控制调度策略对柴油发电机和储能电池组进行分配功率,比较在限定的柴油发电机最佳功率下,储能电池组此阶段的最佳荷电状态与实际运行的荷电状态的大小,根据工作模式与控制调度规则,对船舶系统的运行模式进行切换与调整。
具体实施时,对船舶系统航行过程中的相关信息进行收集,并通过训练模型获取储能电池组最佳荷电状态,最后生成控制指令,船舶系统根据控制指令运行时,位于最佳推进形式,使得柴油发电机工作于最佳效率区间内,提高船舶燃油经济性,提高能量的利用率,减少一氧化碳等污染气体的排放,达到整体节能减排的效果;并且,本实施例基于深度强化学习可实现能量动态控制调度策略的精准、持续使用,通过深度强化学习实时更新逻辑门限的设定限制值,实现对船舶能量分配的长远化、持续化以及精准化;另外,本实施例中,通过采用柴油发电机和储能电池组提供能量,对船舶能量需求进行柔化,且很大程度上对船舶进行降噪,不仅可以增加船舶的物理寿命,同时对船员生活与健康大有裨益。
当一个循环结束后,船舶系统按照控制指令正常运行,同时利用相关检测装置检测系统功率波动、转矩变化等,当变化超过一定范围后,重新采集船舶系统的相关信息开始下一个循环,同时,将上一个循环的相关参数,例如权重参数以及策略,作为新循环的初始值。
在实施过程中,通过设置监测装置对柴油发电机和储能电池组的状态进行实时监测,设置信息采集装置收集柴油发电机组和储能电池组的实时信息,利用电子调速器对柴油发电机组进行转速调节,利用变频器对储能电池组进行功率调节,信息采集装置采集的信息传输到训练模型中,在深度强化学习网络中学习后输入至逻辑门限控制中,再通过逻辑门限控制通过电子调速器和变频器分别对柴油发电机和储能电池组分别进行转速和功率调节。
本实施例提供的能量管理方法主要是为了改善柴油发电机工作特性差的缺点,同时也是为了充分利用储能电池组,该方法可以在船舶系统的航行时主动识别航行工况,对相关信息进行采集,动态调整柴油发电机的功率混合度,以使柴油发电机和储能电池组、超级电容实现动力的最佳耦合,自动动态切换至不同的推动方式,合理分配能量,优化柴油发电机和储能电池组的输出功率,从而提高船舶运行的经济性,降低船舶燃油消耗;根据船舶运行过程中所需负载功率的大小,以及储能电池组的最佳荷电状态,在复杂工况变换下,建立动态逻辑门限调度控制策略,主动识别工况,根据船舶运行所需功率大小和储能电池组的荷电状态切换工作模式,合理调度分配柴油发电机与储能电池组各自需要的功率,使得柴油发电机以及储能电池组工作在最佳效率区间,从而获得较小的燃油消耗及提供强劲的动力。
实施例2
本实施例提供了一种计算机设备,包括存储器、处理器机存储在存储器上的计算机程序,处理器执行计算机程序以实现实施例1提供的能量管理方法的步骤。
实施例3
本实施例提供了一种计算机可读存储介质,其上存储有计算机程序指令,该计算机程序指令被处理器执行时实现实施例1提供的能量管理方法的步骤。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明的保护范围之内。

Claims (9)

1.一种基于深度学习的船舶混合动力能量管理方法,其特征在于,具体步骤如下:
S1:采集船舶系统的相关信息,所述相关信息包括:船舶系统的柴油发电机输出转矩
Figure FDA0004177639360000011
船舶系统的需求转矩/>
Figure FDA0004177639360000012
储能电池组荷电状态SOCt,控制动作Zt,状态空间St,其中,
Figure FDA0004177639360000013
S2:将所述相关信息输入到训练模型中,所述训练模型输出储能电池组最佳荷电状态SOCl
S3:获取船舶行驶所需功率Pr
S4:根据储能电池组最佳荷电状态SOCl以及船舶行驶所需功率Pr,由逻辑门限生成控制指令,所述控制指令用于控制船舶系统的运行。
2.根据权利要求1所述的一种基于深度学习的船舶混合动力能量管理方法,其特征在于,步骤S2中,所述训练模型输出储能电池组最佳荷电状态SOCl的具体步骤为:
S201:初始化深度强化学习网络W(S,Z),初始化经验池,在经验池中存储动作对at、策略π、最佳策略π*以及权重参数θ;
S202:状态空间St在控制动作Zt的作用下转换到下一状态空间St+1时获得即时奖励rt
Figure FDA0004177639360000014
其中,Ce代表柴油发电机的瞬时油耗,C代表惩罚,值为柴油发电机最大瞬时油耗值与最大污染排放量之和,SOCmin为储能电池组荷电状态的最小值,SOCmax为储能电池组荷电状态的最大值,B为船舶排出的二氧化碳、碳氢化物、氮氧化合物归一化后的排放量之和;
S203:令动作对at=(St,Zt,rt,St+1);
S204:计算从时刻t开始到时刻T过程结束时的奖赏之和Rt
Figure FDA0004177639360000021
其中,t`为瞬时时刻,γ为折扣因子,γ∈[0,1],用来权衡未来奖赏对累积奖赏的影响;
S205:在状态空间St下执行控制动作Zt,并遵循策略π到下一工况前获得的累积回报定义为Wt,Wt(S,Z)=E[Rt|S=St,Z=Zt,π],E为期望,最优策略π*的回报大于或等于其他所有策略的回报,多个最优策略π*共享一个回报值函数
Figure FDA0004177639360000027
Figure FDA0004177639360000022
S206:将回报值函数通过贝尔曼最优方程迭代,当t→∞时,
Figure FDA0004177639360000029
Figure FDA0004177639360000028
回报值函数最终收敛,得到收敛值函数Wk(S,Z),
Figure FDA0004177639360000023
式中,S`是下一个时间步长的状态,Z`是下一个时间步长的控制动作,一个时间步长为一次迭代,/>
Figure FDA0004177639360000024
为Wt(S,Z)的最大值;
S207:对损失函数用梯度下降法,获取更新后的权重参数θ*
Figure FDA0004177639360000025
J(θ*)为损失函数,更新后的权重参数θ*放入经验池,作为下一循环的初始权重参数;
S208:通过线性函数逼近器拟合得到深度强化学习目标网络值,WL(S,Z|θ*);
S209:令Wt(S,Z)=WL(S,Z|θ*),输出更新后的最佳策略π*、控制动作Z*、状态空间S*,并将输出后的最佳策略π*储存至经验池中;
S210:根据步骤S209输出的数据,获取对应的储能电池组最佳荷电状态SOCl,柴油发电机输出转矩
Figure FDA0004177639360000026
3.根据权利要求2所述的一种基于深度学习的船舶混合动力能量管理方法,其特征在于,步骤S204中,时刻t为状态St采集的时刻,时刻T为状态St+1采集的时刻。
4.根据权利要求2所述的一种基于深度学习的船舶混合动力能量管理方法,其特征在于,步骤S210中,根据状态空间的函数:
Figure FDA0004177639360000031
获取SOCl
5.根据权利要求2所述的一种基于深度学习的船舶混合动力能量管理方法,其特征在于,步骤S3中,船舶行驶所需功率Pr为船舶行驶中使用电器的功率与柴油发电机的功率
Figure FDA0004177639360000032
之和,/>
Figure FDA0004177639360000033
n为柴油发电机的转速。
6.根据权利要求2所述的一种基于深度学习的船舶混合动力能量管理方法,其特征在于,步骤S4中,逻辑门限生成控制指令的具体步骤如下:
比较SOCt`与SOCl、SOCmin、SOCmax的大小,比较Pr与Pb、Pc、Pmax的大小,其中,SOCt`为t`时刻储能电池组荷电状态实际运行值,Pb为电池组的最大输出功率,Pc为柴油发电机的最大输出功率,Pmax为船舶最大负载功率,Pb<Pc<Pmax
当Pr<Pb,SOCt`<SOCl时,柴油发电机驱动,并补偿储能电池组;
当Pr<Pb,SOCt`<SOCmin时,柴油发电机驱动,结合超级电容补偿储能电池组;
当Pr<Pb,SOCt`>SOCl时,储能电池组驱动;
当Pb<Pr<Pc,SOCt`<SOCl时,柴油发电机驱动,补偿储能电池组;
当Pb<Pr<Pc,SOCt`>SOCl时,柴油发电机驱动;
当Pc<Pr<Pmax,SOCt`>SOCl时,柴油发电机和储能电池组混合驱动;
当Pc<Pr<Pmax,SOCt`<SOCl时,柴油发电机和储能电池组混合驱动,超级电容补偿储能电池组;
当Pr=0,SOCt`<SOCl时,对储能电池组进行岸电充电;
当Pr=0,SOCt`>SOCl时,对超级电容进行岸电充电;
当Pr=0,SOCt`>SOCmax,制动元件进行消耗;
当Pr=0,SOCt`=SOCmax,船舶系统处于待命状态。
7.根据权利要求6所述的一种基于深度学习的船舶混合动力能量管理方法,其特征在于,所述柴油发电机驱动时,控制输出转矩等于
Figure FDA0004177639360000041
8.一种计算机设备,包括存储器、处理器机存储在存储器上的计算机程序,所述处理器执行所述计算机程序以实现权利要求1所述方法的步骤。
9.一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,该计算机程序指令被处理器执行时实现权利要求1所述方法的步骤。
CN202310395995.5A 2023-04-13 2023-04-13 基于深度学习的船舶混合动力能量管理方法、设备及介质 Active CN116280140B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310395995.5A CN116280140B (zh) 2023-04-13 2023-04-13 基于深度学习的船舶混合动力能量管理方法、设备及介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310395995.5A CN116280140B (zh) 2023-04-13 2023-04-13 基于深度学习的船舶混合动力能量管理方法、设备及介质

Publications (2)

Publication Number Publication Date
CN116280140A true CN116280140A (zh) 2023-06-23
CN116280140B CN116280140B (zh) 2023-10-10

Family

ID=86788784

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310395995.5A Active CN116280140B (zh) 2023-04-13 2023-04-13 基于深度学习的船舶混合动力能量管理方法、设备及介质

Country Status (1)

Country Link
CN (1) CN116280140B (zh)

Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011131830A (ja) * 2009-12-25 2011-07-07 Mitsubishi Fuso Truck & Bus Corp ハイブリッド電気自動車の制御装置
KR20130030135A (ko) * 2011-09-16 2013-03-26 콘티넨탈 오토모티브 시스템 주식회사 발전제어 학습 방법
CN103332284A (zh) * 2013-06-27 2013-10-02 上海海事大学 一种混合动力船舶电力推进系统的能量管理与控制方法
CN104859828A (zh) * 2015-06-05 2015-08-26 武汉理工大学 柴电混合动力船舶推进系统及其能量管理方法
KR20190068985A (ko) * 2017-12-11 2019-06-19 (주)마린크래프트 하이브리드 전기 추진 선박 상태 감시 및 운항 제어 시스템
CN110065613A (zh) * 2019-04-08 2019-07-30 三峡大学 一种基于工况识别的船舶柴电混合动力推进系统规则能量管理控制方法
CN110254418A (zh) * 2019-06-28 2019-09-20 福州大学 一种混合动力汽车增强学习能量管理控制方法
CN110406526A (zh) * 2019-08-05 2019-11-05 合肥工业大学 基于自适应动态规划的并联混合动力汽车能量管理方法
CN110457859A (zh) * 2019-08-22 2019-11-15 大连海事大学 混合电力船舶推进系统的优化控制方法
CN111190111A (zh) * 2020-01-14 2020-05-22 北京智芯微电子科技有限公司 电化学储能电池荷电状态估算方法、装置及系统
CN112510701A (zh) * 2020-11-27 2021-03-16 江苏科技大学 多能源船舶能量管理控制装置及方法
CN112821465A (zh) * 2021-01-08 2021-05-18 合肥工业大学 包含热电联产的工业微网负荷优化调度方法与系统
US20220081091A1 (en) * 2019-07-01 2022-03-17 Electronic Power Design, Inc. Hybrid power generation plant system and method
CN114418234A (zh) * 2022-01-19 2022-04-29 江南大学 一种基于强化学习的动力电池制造能力在线预测方法
CN114834622A (zh) * 2022-05-27 2022-08-02 哈尔滨工程大学 一种基于模糊控制的船舶柴电混合动力推进系统
CN114859910A (zh) * 2022-04-28 2022-08-05 武汉理工大学 基于深度强化学习的无人船路径跟随系统及方法

Patent Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011131830A (ja) * 2009-12-25 2011-07-07 Mitsubishi Fuso Truck & Bus Corp ハイブリッド電気自動車の制御装置
KR20130030135A (ko) * 2011-09-16 2013-03-26 콘티넨탈 오토모티브 시스템 주식회사 발전제어 학습 방법
CN103332284A (zh) * 2013-06-27 2013-10-02 上海海事大学 一种混合动力船舶电力推进系统的能量管理与控制方法
CN104859828A (zh) * 2015-06-05 2015-08-26 武汉理工大学 柴电混合动力船舶推进系统及其能量管理方法
KR20190068985A (ko) * 2017-12-11 2019-06-19 (주)마린크래프트 하이브리드 전기 추진 선박 상태 감시 및 운항 제어 시스템
CN110065613A (zh) * 2019-04-08 2019-07-30 三峡大学 一种基于工况识别的船舶柴电混合动力推进系统规则能量管理控制方法
CN110254418A (zh) * 2019-06-28 2019-09-20 福州大学 一种混合动力汽车增强学习能量管理控制方法
US20220081091A1 (en) * 2019-07-01 2022-03-17 Electronic Power Design, Inc. Hybrid power generation plant system and method
CN110406526A (zh) * 2019-08-05 2019-11-05 合肥工业大学 基于自适应动态规划的并联混合动力汽车能量管理方法
CN110457859A (zh) * 2019-08-22 2019-11-15 大连海事大学 混合电力船舶推进系统的优化控制方法
CN111190111A (zh) * 2020-01-14 2020-05-22 北京智芯微电子科技有限公司 电化学储能电池荷电状态估算方法、装置及系统
CN112510701A (zh) * 2020-11-27 2021-03-16 江苏科技大学 多能源船舶能量管理控制装置及方法
CN112821465A (zh) * 2021-01-08 2021-05-18 合肥工业大学 包含热电联产的工业微网负荷优化调度方法与系统
CN114418234A (zh) * 2022-01-19 2022-04-29 江南大学 一种基于强化学习的动力电池制造能力在线预测方法
CN114859910A (zh) * 2022-04-28 2022-08-05 武汉理工大学 基于深度强化学习的无人船路径跟随系统及方法
CN114834622A (zh) * 2022-05-27 2022-08-02 哈尔滨工程大学 一种基于模糊控制的船舶柴电混合动力推进系统

Also Published As

Publication number Publication date
CN116280140B (zh) 2023-10-10

Similar Documents

Publication Publication Date Title
Nuchturee et al. Energy efficiency of integrated electric propulsion for ships–A review
CN108100202B (zh) Lng-蓄电池混合动力船舶推进系统功率分配方法
CN105035296B (zh) 混合动力电力推进船舶能源系统工作模式自动切换装置及方法
CN110457859B (zh) 混合电力船舶推进系统的优化控制方法
CN104015912B (zh) 船舶混合动力控制系统与控制方法
CN110110422B (zh) 船舶多电源复合利用最低耗油率优化方法
WO2023160641A1 (zh) 基于分层博弈的港船能源交通系统融合运行方法
Grimmelius et al. Control of hybrid ship drive systems
CN110294418B (zh) 一种混合动力轮胎式集装箱起重机分布式能量管理方法
CN113043911A (zh) 一种考虑电池寿命衰减的混合动力船舶能量控制方法及计算机设备
CN112758295A (zh) 一种船舶混合动力推进系统及管理策略
Zhang et al. The research of power allocation in diesel-electric hybrid propulsion system
Yuan et al. Optimizing fuel savings and power system reliability for all-electric hybrid vessels using model predictive control
CN116280140B (zh) 基于深度学习的船舶混合动力能量管理方法、设备及介质
Xie et al. A two-layer energy management system for a hybrid electrical passenger ship with multi-PEM fuel cell stack
Bouaicha et al. Optimal economic and pollution-constrained management of a hybrid DC shipboard power system
KR102359219B1 (ko) 선박용 하이브리드 전기추진시스템
CN115347549A (zh) 一种电动船舶上液流电池储能系统及控制方法
Diju et al. Control strategy of hybrid electric ship based on improved fuzzy logic threshold
CN112564253B (zh) 新能源游艇绿色能源系统及能源匹配管理方法
Yang et al. Technology research and experimental simulation of energy management system for diesel electric hybrid ship
CN110516885B (zh) 基于spso与qpso混合优化的船舶能量管理方法
Lai et al. Research on Capacity Configuration of Electric Push Ship Energy Storage System
KR102642885B1 (ko) 신경회로망을 적용한 선박 전력 에너지관리시스템
Roslan et al. Sustainable hybrid marine power systems for power management optimisation: a review. Energies. 2022; 15: 9622

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant