CN112550272A - 基于视觉感知与深度强化学习的智能混合动力汽车分层控制方法 - Google Patents
基于视觉感知与深度强化学习的智能混合动力汽车分层控制方法 Download PDFInfo
- Publication number
- CN112550272A CN112550272A CN202011475175.XA CN202011475175A CN112550272A CN 112550272 A CN112550272 A CN 112550272A CN 202011475175 A CN202011475175 A CN 202011475175A CN 112550272 A CN112550272 A CN 112550272A
- Authority
- CN
- China
- Prior art keywords
- vehicle
- hybrid electric
- electric vehicle
- intelligent
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 38
- 230000002787 reinforcement Effects 0.000 title claims abstract description 20
- 230000016776 visual perception Effects 0.000 title claims abstract description 8
- 239000000446 fuel Substances 0.000 claims abstract description 20
- 230000001133 acceleration Effects 0.000 claims abstract description 15
- 230000005540 biological transmission Effects 0.000 claims abstract description 12
- 238000005096 rolling process Methods 0.000 claims description 11
- 239000011159 matrix material Substances 0.000 claims description 9
- 230000006870 function Effects 0.000 claims description 8
- 230000000007 visual effect Effects 0.000 claims description 8
- 230000009471 action Effects 0.000 claims description 7
- 238000013528 artificial neural network Methods 0.000 claims description 7
- 238000009434 installation Methods 0.000 claims description 7
- 238000012549 training Methods 0.000 claims description 7
- 238000013135 deep learning Methods 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 3
- 230000008859 change Effects 0.000 claims description 3
- 238000013527 convolutional neural network Methods 0.000 claims description 3
- 230000007613 environmental effect Effects 0.000 claims description 3
- 238000003384 imaging method Methods 0.000 claims description 3
- 230000003287 optical effect Effects 0.000 claims description 3
- 238000011176 pooling Methods 0.000 claims description 3
- 230000009466 transformation Effects 0.000 claims description 3
- 238000013519 translation Methods 0.000 claims description 3
- 238000000926 separation method Methods 0.000 claims description 2
- 238000007726 management method Methods 0.000 description 18
- 238000005516 engineering process Methods 0.000 description 10
- 230000004438 eyesight Effects 0.000 description 5
- 238000011160 research Methods 0.000 description 5
- 206010063385 Intellectualisation Diseases 0.000 description 4
- 239000003795 chemical substances by application Substances 0.000 description 4
- 238000011217 control strategy Methods 0.000 description 4
- 238000011161 development Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000005457 optimization Methods 0.000 description 3
- 230000008447 perception Effects 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- UFHFLCQGNIYNRP-UHFFFAOYSA-N Hydrogen Chemical compound [H][H] UFHFLCQGNIYNRP-UHFFFAOYSA-N 0.000 description 2
- 239000010426 asphalt Substances 0.000 description 2
- 229910052739 hydrogen Inorganic materials 0.000 description 2
- 239000001257 hydrogen Substances 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000003487 electrochemical reaction Methods 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 230000001172 regenerating effect Effects 0.000 description 1
- 238000012827 research and development Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000011179 visual inspection Methods 0.000 description 1
Images
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W20/00—Control systems specially adapted for hybrid vehicles
- B60W20/10—Controlling the power contribution of each of the prime movers to meet required power demand
- B60W20/11—Controlling the power contribution of each of the prime movers to meet required power demand using model predictive control [MPC] strategies, i.e. control methods based on models predicting performance
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
- B60W2420/40—Photo, light or radio wave sensitive means, e.g. infrared sensors
- B60W2420/403—Image sensing, e.g. optical camera
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2552/00—Input parameters relating to infrastructure
- B60W2552/05—Type of road, e.g. motorways, local streets, paved or unpaved roads
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2554/00—Input parameters relating to objects
- B60W2554/40—Dynamic objects, e.g. animals, windblown objects
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W2554/00—Input parameters relating to objects
- B60W2554/80—Spatial relation or speed relative to objects
- B60W2554/802—Longitudinal distance
Landscapes
- Engineering & Computer Science (AREA)
- Automation & Control Theory (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Electric Propulsion And Braking For Vehicles (AREA)
- Hybrid Electric Vehicles (AREA)
- Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
Abstract
本发明涉及一种基于视觉感知与深度强化学习的智能混合动力汽车分层控制方法，属于新能源汽车与智能汽车的交叉领域。该方法包括：在上层环境中，通过智能汽车的环境感知，利用摄像头与卷积网络实时监测前方车辆与路面情况，从而根据单目摄像头测距方法计算出实时的跟车距离并且判断出最佳的跟车距离；在中层环境中，利用深度值网络控制车辆的纵向加速度，从而实现混合动力汽车的智能跟车控制；在下层环境中，利用深度值网络算法控制并联式混合动力系统，完成对发动机与机械式无极变速器的协同控制，从而依据实时的需求功率进行混合动力汽车能量管理，最终实现智能化混合动力汽车的最佳燃油经济性。
Description
技术领域
本发明属于新能源汽车与智能汽车的交叉领域，涉及一种基于视觉感知与深度强化学习的智能混合动力汽车分层控制方法。
背景技术
如今，车辆工程领域的研究热点方向大致可分为智能化与新能源化。
首先，新能源汽车的研究对象主要包括纯电动汽车、混合动力汽车以及燃料电池汽车。我国政府近年来大力推广电动化汽车，促使汽车产品向着更加清洁环保的方向发展。纯电动汽车由于结构简单并且能够实现真正的“零”排放而备受青睐，目前各大汽车厂商都在积极推出自己的纯电动汽车产品。但是纯电动汽车的弊端大部分都与动力电池的性能有关，车载动力电池性能成为限制纯电动汽车进一步发展的主要因素。燃料电池利用氢气在电池内部的电化学反应产生电能，从而为电动机提供能量，同样也能够成为未来新能源汽车的主流产品。但是目前燃料电池汽车的相关技术仍在研发中，特别是氢燃料的安全储存是一个关键性技术问题，因此距离真正的产业化发展还需要经历一段时间。混合动力汽车通常是指在动力系统中存在两种或者两种以上动力源的汽车，常规结构是在传统燃油车的基础上增加电动机作为辅助动力源。随着混合程度的加深，电动机能够发挥的作用越来越大，使得混合动力汽车可以同时具有电动机单独驱动、发动机单独驱动、混合驱动、再生制动等运行模式，有利于进一步提高混合动力汽车的燃油经济性。但是也正是因为两个动力源的存在，使得混合动力汽车的机械结构与控制技术相比于前两种汽车而言更加复杂。
其次，在汽车智能化的研究课题中，主要延顺着感知、决策以及控制的技术路线。在感知模块中，可以使用基于非视觉的(激光、毫米波)雷达等或者使用基于视觉的深度学习来获取周围车辆的位置信息。在决策模块中，主要任务是研发汽车针对轨迹规划、超车决策等方面的控制思维，给予汽车一个正确的行驶方案。在控制模块中，主要的任务是确定相应的驱动、制动以及转向命令，让车辆能够安全、舒适、稳定的行驶。但是需要注意的是，目前搭载智能驾驶系统的车辆多数是传统燃油车以及纯电动汽车，因此在不考虑转向的条件下产生的控制命令实际上就是一个需求功率的信号，只需要发动机或者电动机单独满足即可。
就目前研究现状而言，混合动力汽车同样具有良好的发展潜力。在实现良好的燃油经济性以及满足排放规定的条件下，混合动力汽车能够实现更长的续航里程，并且控制技术也相对成熟。因此，本发明旨在将原本属于新能源化领域的混合动力汽车能量管理技术与智能化相结合，从而合力研发交叉领域的智能化混合动力汽车控制技术。其中，混合动力汽车的能量管理策略决定着整车的经济性、排放效果以及舒适性等，属于核心技术之一，并且当接收到智能控制层的需求功率后，需要通过控制发动机与电动机的功率流来共同满足。
能量管理策略的算法主要包含基于规则、基于优化以及基于学习。基于规则与基于优化的能量管理策略中多种算法由于存在各种缺陷，例如：燃油经济性优化效果差、实时应用性差、需要确定特征参数等，使得具体的控制策略应用于实车的难度较大。
发明内容
有鉴于此，本发明的目的在于提供一种基于视觉感知与深度强化学习的智能混合动力汽车分层控制方法，通过利用深度学习的卷积网络为混合动力汽车增加“视觉识别”功能，让汽车行驶时能够实现有效的跟驰控制。具体的，本发明设计了上中下分层模型，实现从环境感知的目标检测与距离计算，到控制层的智能跟车，再到下层的混合动力汽车能量管理，最终旨在实现智能化混合动力汽车的最佳燃油经济性。
为达到上述目的，本发明提供如下技术方案：
一种基于视觉感知与深度强化学习的智能混合动力汽车分层控制方法，包括：在上层环境中，通过智能汽车的环境感知，利用摄像头与卷积网络实时监测前方车辆与路面情况，从而根据单目摄像头测距方法计算出实时的跟车距离并且判断出最佳的跟车距离；在中层环境中，利用深度值网络控制车辆的纵向加速度，从而实现混合动力汽车的智能跟车控制；在下层环境中，利用深度值网络算法控制并联式混合动力系统，完成对发动机与机械式无极变速器的协同控制，从而依据实时的需求功率进行混合动力汽车能量管理，最终实现智能化混合动力汽车的最佳燃油经济性；具体包括以下步骤：
S1：利用车载摄像头采集汽车行驶前方的道路信息，主要包括周围车辆和路面条件等；
S2：通过深度学习中基于卷积网络的目标识别方法实时检测视频图像中的车辆位置与路面条件；
S3：采用单目摄像头测距方法计算与前方车辆的行驶间距；
S4：根据路面条件分析滚动阻力系数计算当前车速下的安全制动距离；
S5：采用基于深度强化学习的深度值网络算法，以纵向加速度作为变量控制混合动力汽车的纵向动力学特性，将跟车间距控制在安全制动距离附近；
S6：根据整车参数、路面条件以及动力性参数，计算实时的需求功率；
S7：设计基于深度强化学习的混合动力汽车能量管理策略，将发动机的功率变化量和机械式无极变速器(Continuously Variable Transmission,CVT)的传动比变化量作为控制变量，实现智能算法对混合动力系统的多目标协同控制。
进一步，步骤S1中，按照如以下方法采集道路信息：在汽车顶部或者车内后视镜处安装摄像头，用于拍摄并记录行车视频，并且对于摄像头安装位置进行精确标定，确定摄像头的安装高度、视野横向角、视野纵向角、镜头光轴与地面夹角等参数，从而有助于之后利用单目摄像头的测距过程。
进一步，步骤S2中，基于卷积网络的目标识别方法具体为：采用YOLO V3(You OnlyLook Once V3)算法进行目标识别，将摄像头拍摄的视频图像作为神经网络的输入信息，通过卷积层、池化层以及全连接层构成的神经网络逐层提取图像特征信息，从而识别图像中的车辆、行人位置并且用方框进行标注。
进一步，步骤S3中，计算与前方车辆行驶间距，具体包括：采用单目摄像头测距方法，根据摄像头安装位置信息首先确定世界坐标系，然后依次进行坐标系转化，从三维世界坐标系到三维镜头坐标系，再到二维成像平面坐标系，最后到而且像素坐标系；坐标系转换矩阵方程定义为：
其中，XW、YW和ZW是世界坐标系的位置参数，R是旋转矩阵，T是平移矩阵，f是相机焦距，dx和dy是像素单元尺寸，u0和v0是像素坐标系原点位置，u和v是像素坐标系内任意点位置，ZC是镜头坐标系位置参数。
进一步，步骤S4中，计算当前车速下的安全制动距离，具体包括以下步骤：
S41：在摄像头拍摄的图像信息中，针对性的检测汽车前方的路面条件；
预先通过有监督学习的方式对卷积神经网络进行训练；收集多种不同环境条件下的路面图片(如：沥青路面、泥土路面、积水路面、结冰路面等)并且标定图中道路的滚动阻力系数等特征参数，将图片作为训练样本的输入量并且将特征参数作为输出量，从而对卷积网络进行训练；
S42：在获得实时路面情况后，结合当前车辆的行驶速度依据下式计算安全制动距离：
其中，τ'2表示制动器空行程时间，τ2"表示制动器制动力线性增长时间，ua0表示起始制动速度，abmax表示制动减速度。其中，制动减速度与路面条件直接相关。
进一步，步骤S5中，采用深度强化学习中深度值网络算法作为控制跟车间距的主算法。根据以下奖励函数计算控制跟车间距；
reward＝-1×[α×abs(dis12-disref)+β×punishdis]
其中，α和β表示权重系数，disref表示参考跟车距离，abs(dis12-disref)表示辆车实时间距dis12与参考间距之差的绝对值，punishdis表示惩罚项。参考跟车距离与制动安全距离保持直接相关。
进一步，步骤S6中，需求功率的计算公式为：
其中，Pdemand为整车需求功率，m为整车质量，G为整车重量，f为滚动阻力系数，i为道路坡度，CD为空气阻力系数，A为迎风面积，ua为行驶速度，du/dt为车辆纵向加速度，δ为旋转质量换算系数，ηT为传动系效率。在汽车视觉的作用下，滚动阻力系数f将成为变化量，根据当前行驶的路面条件来确定。
进一步，步骤S7中，使用深度值网络算法作为混合动力汽车能量管理策略的主算法。混合动力汽车能量管理策略的具体步骤包括：
S71：状态变量空间包括行驶车速v、纵向加速度a、电池电荷状态SOC、需求功率Pdemand和CVT传动比iCVT；
S72：动作变量空间包括发动机的功率变化量ΔPeng以及机械式无极变速器的传动比变化量ΔiCVT；
S73：奖励函数定义为：
其中，α与β为权重参数，
为发动机瞬时燃油消耗量，SOCtarget为SOC参考值，Teng与ωeng分别为发动机转矩与发动机转速；
S74：在维持电池电荷状态SOC平衡的条件下，实现混合动力汽车的最佳燃油经济性就是下层能量管理策略的直接目标。
本发明的有益效果在于：本发明面向智能化混合动力汽车的综合控制技术，利用智能汽车领域中基于深度学习的环境感知技术，测算前方车辆的实时间距以及路面条件，同时利用深度强化学习控制车辆的加速度，使汽车能够将间距保持在安全且合理的范围内，最后利用基于深度强化学习的混合动力汽车能量管理策略来满足汽车的动力性、经济性等要求，实现了面向智能化混合动力汽车决策与控制的目标。具体的，本发明将车辆工程研究领域的新能源化与智能化相结合，为混合动力汽车增加了“视觉”。在下层的能量管理策略基础上，为了实现混合动力汽车的智能跟车控制，将前后两车的行驶间距作为需要实时监测的参数。通过YOLO V3目标识别技术以及单目摄像头测距方法，让两车的实时间距能够直接通过“目测”的方式得出。这也是发展智能化混合动力汽车的第一步，最终目标是让混合动力汽车能够通过“视觉”图像自主判断行驶情况并做成合理的控制命令，然后通过合理的能量管理策略在满足控制命令的条件下实现最佳燃油经济性、舒适性以及排放效果等目标。与此同时，由于YOLO V3以及深度强化学习算法都是建立在深度学习的基础上，因此可以保证良好的运算能力以及实时应用的潜力。
本发明的其他优点、目标和特征在某种程度上将在随后的说明书中进行阐述，并且在某种程度上，基于对下文的考察研究对本领域技术人员而言将是显而易见的，或者可以从本发明的实践中得到教导。本发明的目标和其他优点可以通过下面的说明书来实现和获得。
附图说明
为了使本发明的目的、技术方案和优点更加清楚，下面将结合附图对本发明作优选的详细描述，其中：
图1是本发明设计的控制策略流程图；
图2是并联式混合动力系统结构图。
图3是YOLO V3算法网络结构图；
图4是智能跟车控制算法框架图；
图5是能量管理策略算法框架图。
具体实施方式
以下通过特定的具体实例说明本发明的实施方式，本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加以实施或应用，本说明书中的各项细节也可以基于不同观点与应用，在没有背离本发明的精神下进行各种修饰或改变。需要说明的是，以下实施例中所提供的图示仅以示意方式说明本发明的基本构想，在不冲突的情况下，以下实施例及实施例中的特征可以相互组合。
请参阅图1～图5，本发明设计了一种基于视觉感知与深度强化学习的智能混合动力汽车分层控制策略，具体流程如图1所示，具体包括以下步骤：
S1：在汽车顶部或者车内后视镜处安装摄像头，利用车载摄像头采集汽车行驶前方的道路信息，主要包括周围车辆、路面条件等，并且对于摄像头安装位置进行精确标定，确定摄像头的安装高度、视野横向角、视野纵向角、镜头光轴与地面夹角等参数，从而有助于之后利用单目摄像头的测距过程。
S2：通过基于卷积网络的目标识别技术(You Only Look Once,YOLO)进行目标识别，实时检测视频图像中的车辆位置与路面条件，将摄像头拍摄的视频图像作为神经网络的输入信息，通过卷积层、池化层以及全连接层构成的神经网络逐层提取图像特征信息，从而识别图像中的车辆、行人位置并且用方框进行标注。YOLO V3算法的神经网络结构如图3所示。
S3：基于单目摄像头测距技术计算与前方车辆的行驶间距，根据摄像头安装位置首先确定世界坐标系，然后依次进行坐标系转化，从三维世界坐标系到三维镜头坐标系，再到二维成像平面坐标系，最后到而且像素坐标系。坐标系转换矩阵方程定义为
其中，XW、YW和ZW是世界坐标系的位置参数，R是旋转矩阵，T是平移矩阵，f是相机焦距，dx和dy是像素单元尺寸，u0和v0是像素坐标系原点位置，u和v是像素坐标系内任意点位置，ZC是镜头坐标系位置参数。
最终可以通过前方车辆在像素坐标系中的中心点位置转换到现实世界中的世界坐标系的三维坐标，从而可以计算出车辆的距离。
S4：根据图像中的路面条件分析滚动阻力系数并且计算当前车速下的安全制动距离；
S41：在摄像头拍摄的图像信息中，针对性的检测汽车前方的路面条件。由于不同路面条件对于汽车的制动距离肯定会造成影响，因此判断实时的路面情况对于跟车的安全性具有重大的意义。需要预先通过有监督学习的方式对用于判断另一个用于道路条件的卷积神经网络进行训练，收集多种不同环境条件下的路面图片(如：沥青路面、泥土路面、积水路面、结冰路面等)并且标定图中道路的滚动阻力系数等特征参数，将图片作为训练样本的输入量并且将特征参数作为输出量，从而对卷积网络进行训练。
S42：在获得实时路面情况后，假定车辆具有良好的制动性能，结合当前车辆的行驶速度依据下式计算安全制动距离
其中，τ'2表示制动器空行程时间，τ2"表示制动器制动力线性增长时间，ua0表示起始制动速度，abmax表示制动减速度。此时的制动距离就只与制动器的作用时间、起始的制动速度以及制动减速度有关。其中，制动减速度与路面条件直接相关。
S5：基于深度强化学习的深度值网络算法，以纵向加速度作为变量控制混合动力汽车的纵向动力学特性，将跟车间距控制在安全制动距离附近。智能跟车算法框架如图4所示。深度强化学习中主要包括环境模块以及智能体模块，基本过程是智能体以环境状态state为输入量，根据当前的控制策略π输出动作action，在环境执行动作action后转移到下一状态并且产生相应的奖励reward，智能体根据已知参数计算损失函数并求解梯度数据来更新策略π。
S51：状态变量空间包括两车间距dis12、跟随车的速度v2；
S52：控制变量空间包括跟随车的纵向加速度a2；
S53：奖励函数定义为reward＝-1×[α×abs(dis12-disref)+β×punishdis]；
其中，α和β表示权重系数，disref表示参考跟车距离，abs(dis12-disref)表示实时间距与参考间距之差的绝对值，punishdis表示惩罚项。参考跟车距离与制动安全距离保持直接相关。
S6：在接受到环境感知层给予的路面特征参数以及跟车控制层的驱动或者制动的命令后，根据整车参数、路面条件以及动力性参数，如下式计算需求功率，从而准备进行给予深度强化学习的能量管理；
其中，Pdemand为整车需求功率，m为整车质量，G为整车重量，f为滚动阻力系数，i为道路坡度，CD为空气阻力系数，A为迎风面积，ua为行驶速度，du/dt为车辆纵向加速度，δ为旋转质量换算系数，ηT为传动系效率，并联式混合动力汽车传动系统结构如图2所示。在汽车视觉的作用下，滚动阻力系数f将成为变化量，根据当前行驶的路面条件来确定。同时，车辆的纵向加速度也来自于上层的跟车控制环境，因此下层的能量管理将直接受到上层环境中感知模块以及控制模块的影响。
S7：设计基于深度强化学习的混合动力汽车能量管理策略，将发动机的功率变化量和机械式无极变速器(Continuously Variable Transmission,CVT)的传动比变化量作为控制变量，实现智能算法对混合动力系统的多目标协同控制。算法框架如图5所示。
S71：状态变量空间包括行驶车速v、纵向加速度a、电池电荷状态SOC、需求功率Pdemand、CVT传动比iCVT；
S72：动作变量空间包括发动机的功率变化量ΔPeng以及机械式无极变速器的传动比变化量ΔiCVT；
S73：奖励函数定义为
其中，α与β为权重参数，
为发动机瞬时燃油消耗量，SOCtarget为SOC参考值，Teng与ωeng分别为发动机转矩与发动机转速。
S74：在维持电池电荷状态SOC平衡的条件下，实现混合动力汽车的最佳燃油经济性就是下层能量管理策略的直接目标。
最后说明的是，以上实施例仅用以说明本发明的技术方案而非限制，尽管参照较佳实施例对本发明进行了详细说明，本领域的普通技术人员应当理解，可以对本发明的技术方案进行修改或者等同替换，而不脱离本技术方案的宗旨和范围，其均应涵盖在本发明的权利要求范围当中。
Claims (8)
1.一种基于视觉感知与深度强化学习的智能混合动力汽车分层控制方法，其特征在于，该方法包括：在上层环境中，通过智能汽车的环境感知，利用摄像头与卷积网络实时监测前方车辆与路面情况，从而根据单目摄像头测距方法计算出实时的跟车距离并且判断出最佳的跟车距离；在中层环境中，利用深度值网络控制车辆的纵向加速度，从而实现混合动力汽车的智能跟车控制；在下层环境中，利用深度值网络算法控制并联式混合动力系统，完成对发动机与机械式无极变速器的协同控制，从而依据实时的需求功率进行混合动力汽车能量管理；具体包括以下步骤：
S1：利用车载摄像头采集汽车行驶前方的道路信息，包括周围车辆和路面条件；
S2：通过深度学习中基于卷积网络的目标识别方法实时检测视频图像中的车辆位置与路面条件；
S3：采用单目摄像头测距方法计算与前方车辆的行驶间距；
S4：根据路面条件分析滚动阻力系数计算当前车速下的安全制动距离；
S5：采用基于深度强化学习的深度值网络算法，以纵向加速度作为变量控制混合动力汽车的纵向动力学特性，将跟车间距控制在安全制动距离附近；
S6：根据整车参数、路面条件以及动力性参数，计算实时的需求功率；
S7：设计基于深度强化学习的混合动力汽车能量管理策略，将发动机的功率变化量和机械式无极变速器(Continuously Variable Transmission,CVT)的传动比变化量作为控制变量，实现智能算法对混合动力系统的多目标协同控制。
2.根据权利要求1所述的智能混合动力汽车分层控制方法，其特征在于，步骤S1中，按照如以下方法采集道路信息：在汽车顶部或者车内后视镜处安装摄像头，用于拍摄并记录行车视频，并且对于摄像头安装位置进行精确标定，确定摄像头的安装高度、视野横向角、视野纵向角、镜头光轴与地面夹角。
3.根据权利要求1所述的智能混合动力汽车分层控制方法，其特征在于，步骤S2中，基于卷积网络的目标识别方法具体为：采用YOLO V3算法进行目标识别，将摄像头拍摄的视频图像作为神经网络的输入信息，通过卷积层、池化层以及全连接层构成的神经网络逐层提取图像特征信息，识别图像中的车辆、行人位置并且用方框进行标注。
4.根据权利要求1所述的智能混合动力汽车分层控制方法，其特征在于，步骤S3中，计算与前方车辆行驶间距，具体包括：采用单目摄像头测距方法，根据摄像头安装位置信息首先确定世界坐标系，然后依次进行坐标系转化，从三维世界坐标系到三维镜头坐标系，再到二维成像平面坐标系，最后到而且像素坐标系；坐标系转换矩阵方程定义为：
其中，XW、YW和ZW是世界坐标系的位置参数，R是旋转矩阵，T是平移矩阵，f是相机焦距，dx和dy是像素单元尺寸，u0和v0是像素坐标系原点位置，u和v是像素坐标系内任意点位置，ZC是镜头坐标系位置参数。
5.根据权利要求1所述的智能混合动力汽车分层控制方法，其特征在于，步骤S4中，计算当前车速下的安全制动距离，具体包括以下步骤：
S41：在摄像头拍摄的图像信息中，检测汽车前方的路面条件；
预先通过有监督学习的方式对卷积神经网络进行训练；收集多种不同环境条件下的路面图片并且标定图中道路的滚动阻力系数，将图片作为训练样本的输入量并且将特征参数作为输出量，从而对卷积网络进行训练；
S42：在获得实时路面情况后，结合当前车辆的行驶速度依据下式计算安全制动距离：
其中，τ'2表示制动器空行程时间，τ"2表示制动器制动力线性增长时间，ua0表示起始制动速度，abmax表示制动减速度。
6.根据权利要求1所述的智能混合动力汽车分层控制方法，其特征在于，步骤S5中，根据以下奖励函数计算控制跟车间距；
reward＝-1×[α×abs(dis12-disref)+β×punishdis]
其中，α和β表示权重系数，disref表示参考跟车距离，abs(dis12-disref)表示辆车实时间距dis12与参考间距之差的绝对值，punishdis表示惩罚项。
7.根据权利要求1所述的智能混合动力汽车分层控制方法，其特征在于，步骤S6中，需求功率的计算公式为：
其中，Pdemand为整车需求功率，m为整车质量，G为整车重量，f为滚动阻力系数，i为道路坡度，CD为空气阻力系数，A为迎风面积，ua为行驶速度，du/dt为车辆纵向加速度，δ为旋转质量换算系数，ηT为传动系效率。
8.根据权利要求1所述的智能混合动力汽车分层控制方法，其特征在于，步骤S7中，混合动力汽车能量管理策略的具体步骤包括：
S71：状态变量空间包括行驶车速v、纵向加速度a、电池电荷状态SOC、需求功率Pdemand和CVT传动比iCVT；
S72：动作变量空间包括发动机的功率变化量ΔPeng以及机械式无极变速器的传动比变化量ΔiCVT；
S73：奖励函数定义为：
其中，α与β为权重参数，
为发动机瞬时燃油消耗量，SOCtarget为SOC参考值，Teng与ωeng分别为发动机转矩与发动机转速；
S74：在维持电池电荷状态SOC平衡的条件下，实现混合动力汽车的最佳燃油经济性就是下层能量管理策略的直接目标。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011475175.XA CN112550272B (zh) | 2020-12-14 | 2020-12-14 | 基于视觉感知与深度强化学习的智能混合动力汽车分层控制方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011475175.XA CN112550272B (zh) | 2020-12-14 | 2020-12-14 | 基于视觉感知与深度强化学习的智能混合动力汽车分层控制方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN112550272A true CN112550272A (zh) | 2021-03-26 |
| CN112550272B CN112550272B (zh) | 2021-07-30 |
Family
ID=75063539
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011475175.XA Active CN112550272B (zh) | 2020-12-14 | 2020-12-14 | 基于视觉感知与深度强化学习的智能混合动力汽车分层控制方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112550272B (zh) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113264031A (zh) * | 2021-07-07 | 2021-08-17 | 重庆大学 | 基于路面识别与深度强化学习的混合动力系统控制方法 |
| CN114103926A (zh) * | 2021-12-08 | 2022-03-01 | 北京理工大学 | 混合动力履带车辆速度与能量协同优化方法、介质、设备 |
| CN114475569A (zh) * | 2022-03-25 | 2022-05-13 | 重庆大学 | 基于交通信息与深度强化学习的混合动力汽车能量管理方法 |
| CN116331184A (zh) * | 2023-03-31 | 2023-06-27 | 长安大学 | 基于机器视觉与雷达信息融合的车辆能量控制方法及系统 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103863318A (zh) * | 2014-03-25 | 2014-06-18 | 河南理工大学 | 一种基于跟车模型的混合动力汽车节能预测控制方法 |
| CN107972662A (zh) * | 2017-10-16 | 2018-05-01 | 华南理工大学 | 一种基于深度学习的车辆前向碰撞预警方法 |
| CN111731303A (zh) * | 2020-07-09 | 2020-10-02 | 重庆大学 | 一种基于深度强化学习a3c算法的hev能量管理方法 |
| CN111845701A (zh) * | 2020-08-05 | 2020-10-30 | 重庆大学 | 一种跟车环境下基于深度强化学习的hev能量管理方法 |
| CN112158189A (zh) * | 2020-09-30 | 2021-01-01 | 东南大学 | 基于机器视觉和深度学习的混合动力汽车能量管理方法 |
-
2020
- 2020-12-14 CN CN202011475175.XA patent/CN112550272B/zh active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103863318A (zh) * | 2014-03-25 | 2014-06-18 | 河南理工大学 | 一种基于跟车模型的混合动力汽车节能预测控制方法 |
| CN107972662A (zh) * | 2017-10-16 | 2018-05-01 | 华南理工大学 | 一种基于深度学习的车辆前向碰撞预警方法 |
| CN111731303A (zh) * | 2020-07-09 | 2020-10-02 | 重庆大学 | 一种基于深度强化学习a3c算法的hev能量管理方法 |
| CN111845701A (zh) * | 2020-08-05 | 2020-10-30 | 重庆大学 | 一种跟车环境下基于深度强化学习的hev能量管理方法 |
| CN112158189A (zh) * | 2020-09-30 | 2021-01-01 | 东南大学 | 基于机器视觉和深度学习的混合动力汽车能量管理方法 |
Non-Patent Citations (3)
| Title |
|---|
| XU BIN等: "ensemble reinforcement learning-based supervisory control of hybrid electric vehicle for fuel economy improvement", 《IEEE TRANSACTIONS ON TRANSPORTATION ELECTRIFICATION》 * |
| 唐小林等: "网联环境下基于分层式模型预测控制的车队能量控制策略研究", 《机械工程学报》 * |
| 胡晓松等: "基于机器学习速度预测的并联混合动力车辆能量管理研究", 《机械工程学报》 * |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113264031A (zh) * | 2021-07-07 | 2021-08-17 | 重庆大学 | 基于路面识别与深度强化学习的混合动力系统控制方法 |
| CN114103926A (zh) * | 2021-12-08 | 2022-03-01 | 北京理工大学 | 混合动力履带车辆速度与能量协同优化方法、介质、设备 |
| CN114475569A (zh) * | 2022-03-25 | 2022-05-13 | 重庆大学 | 基于交通信息与深度强化学习的混合动力汽车能量管理方法 |
| CN116331184A (zh) * | 2023-03-31 | 2023-06-27 | 长安大学 | 基于机器视觉与雷达信息融合的车辆能量控制方法及系统 |
| CN116331184B (zh) * | 2023-03-31 | 2024-04-02 | 长安大学 | 基于机器视觉与雷达信息融合的车辆能量控制方法及系统 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN112550272B (zh) | 2021-07-30 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112550272B (zh) | 基于视觉感知与深度强化学习的智能混合动力汽车分层控制方法 | |
| Wang et al. | Hybrid electric vehicle energy management with computer vision and deep reinforcement learning | |
| CN109278752B (zh) | 基于合作感知的插电式混合动力汽车能量优化控制方法 | |
| CN110155046B (zh) | 自动紧急制动分级控制方法与系统 | |
| Han et al. | Research on road environmental sense method of intelligent vehicle based on tracking check | |
| CN107097791B (zh) | 基于道路坡度和曲率的四驱电动车速度优化控制方法 | |
| Tang et al. | Visual detection and deep reinforcement learning-based car following and energy management for hybrid electric vehicles | |
| CN106740846B (zh) | 一种双模式切换的电动汽车自适应巡航控制方法 | |
| CN113386795A (zh) | 一种自动驾驶车辆智能决策及局部轨迹规划方法及其决策系统 | |
| CN110901648A (zh) | 用于实时生态路线选择和自适应驱动控制的车辆、系统和逻辑 | |
| CN111959492B (zh) | 一种网联环境下考虑换道行为的hev能量管理分层控制方法 | |
| CN111038488B (zh) | 一种混合动力汽车的能量优化控制方法及装置 | |
| CN109283843B (zh) | 一种基于多项式与粒子群算法融合的换道轨迹规划方法 | |
| US11577759B2 (en) | Systems and methods for hybrid prediction framework with inductive bias | |
| CN113492860A (zh) | 一种驾驶性能调节方法和装置 | |
| Li et al. | A comparative study of energy-oriented driving strategy for connected electric vehicles on freeways with varying slopes | |
| JP7131440B2 (ja) | 自動車用演算装置 | |
| CN116442799A (zh) | 一种车辆的扭矩分配的控制方法及装置 | |
| Yuan et al. | Research on key technologies of autonomous driving platform | |
| Song et al. | State-of-the-art and development trends of energy management strategies for intelligent and connected new energy vehicles: a review | |
| CN115451987A (zh) | 一种自动驾驶汽车的路径规划学习方法 | |
| Liu et al. | Research on Vehicle Lane Change Based on Vehicle Speed Planning | |
| Shetty et al. | Road slope prediction and vehicle dynamics control for autonomous vehicles | |
| CN113459829A (zh) | 一种基于路况预测的双电机电动汽车智能能量管理方法 | |
| CN111391813A (zh) | 混合动力车辆的控制装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |