CN108921044A - 基于深度卷积神经网络的驾驶员决策特征提取方法 - Google Patents

Abstract

本发明公开了一种基于深度卷积神经网络的驾驶员决策特征提取方法，包括：S1,建立训练样本库，以用于卷积神经网络的训练；S2,建立深度卷积神经网络，以用于提取驾驶决策特征；S3,根据训练样本对深度卷积神经网络进行离线训练，来优化卷积神经网络；S4,保留调整好的深度卷积神经网络，得到新的深度卷积神经网络；S5,将实际驾驶数据经过调整后输入新的深度卷积神经网络得到输出，即决策相关的特征。本申请无需依赖于研究人员对于当前场景的理解进行设定所需要提取特征的类型和种类，只需要选定不同场景下训练样本来对于深度卷积神经网络进行训练，避免了复杂的设定实验过程。

Description

基于深度卷积神经网络的驾驶员决策特征提取方法

技术领域

本发明涉及一种特征提取方法，具体说是一种基于深度卷积神经网络的驾驶员决策特征提取方法。

背景技术

自主驾驶作为智能交通领域的一个重要部分。受当前主观信任感和客观技术等原因，自主车依旧需要智能驾驶系统(智能辅助驾驶系统)和人类驾驶员相互协作以完成驾驶任务。而在这个过程中，无论是更好的量化驾驶员的信息以供智能系统决策，还是通过区分驾驶员的不同以为人们提供个性化的服务，驾驶员建模都是必不可少的重要步骤。

而为了更好的描述驾驶员模型，深入了解驾驶环境与对应驾驶行为之间的关系，建立起来驾驶环境到驾驶员策略之间的映射，因而提取驾驶决策相关的环境特征都是必不可少的一环。通过对于相关技术文献的检索发现，当前对于提取驾驶决策特征包括两种主要的研究思路：思路一是借助传统的基于模型的方法：借助计算机视觉、雷达探测技术、超声波探测技术等信息提取方法，通过复杂的数学推导和模型设计从而实现特定数据集的特征提取，进而基于研究人员的经验来选择其中需要的驾驶决策特征，用于驾驶决策过程。但该方法受特定环境因素影响较大，导致方法的适用性的下降。同时因为需要涉及复杂的数学推导以适应固定的数据集，也体现了其注定普适性的不足。思路二是基于概率的方法，如借助HMM、深度学习，基于概率学的方法，学习获得相关决策的特征。而其中深度卷积神经(CNN)用于提取特征有着很好的结果和表现，于是得到人们的大量应用[专利：行人识别、前车跟随]。但该方法中当前对于驾驶员决策特征的提取，依旧依赖研究人员对于特征的选定，也就是说提取的特征是否有利于驾驶决策依然需要实验验证，该方法受研究人员的主观特征选定经验的限制。同时现有方法因为由研究人员选定特征，也无法根据相应驾驶员的驾驶习惯微调选定的特征，以满足不同个体、不同道路环境的驾驶习惯。

上述技术的两种思路，思路一涉及众多传感设备，因传感设备的不同对于环境信息的获取也有所不同。但大体都可分为三个步骤：信息获取、特征提取、特征筛选。步骤1：基于当前的传感设备对环境进行观测以获取相关环境信息，如计算机视觉的方法获取关于驾驶环境的图像、车载激光雷达技术可以准确获取障碍物的几何信息等。步骤2：基于步骤1中获得信息经过复杂的数学推导和模型设计从而实现特征提取，诸如计算机视觉中，借助机器学习方法完成的对于车道线的检测、借助拓扑分析法通过对于车灯的检测来完成对于前车的识别。车载激光雷达技术中，借助二维激光雷达信息，建立同一贝叶斯框架将观测模型、运动模型及轨迹归于其中，并采用基于马尔科夫链蒙特卡洛的采样方法对车辆检测的最优解进行寻找障碍物。步骤3：基于研究人员的经验，对于步骤2中的众多特征进行筛选，选定可以用于驾驶决策的特征。

思路二中借助CNN对于特征提取，与思路一类似，也是可以分为是三个步骤，但不同之处在于步骤2并非需要建立复杂的模型来提取需要的特征。而是将研究人员的偏好来依概率提取对应偏好的特征，具体的来说就是先选定那些研究人员认为有利于驾驶决策的特征。进而借助多种方法，如分类、HMM等方法筛选得到相关的特征。

现有技术中，共存的一个问题就是都要预先设定好提取的特征的类型种类，导致其特征提取的目的性，也就是针对某些特征对应进行提取，于是受环境影响较大，诸如提取环境中车道线作为特征，而对于一些非结构化道路存在设施损坏、设施数目不足等情况，于是就无法提取该类特征。同时也存在研究人员的经验问题，就是研究人员所选定的驾驶决策特征并不能很好的体现出驾驶决策的特性，不能用于驾驶决策之中，简而言之，两者都过于依赖专家经验，导致无法根据实际情况作出调整。此外对于思路一中也存在着复杂的模型设计对于不同数据集并没有很好适应性的问题，建立的模型复杂度过高，既导致了方法的鲁棒性较差，也大大影响了该类方法的普适性。

发明内容

现有驾驶特征提取依赖专家主观经验，而忽略驾驶策略的个性化。为了解决驾驶策略特征提取的客观性、全面性问题，本申请提供了一种基于深度卷积神经网络的驾驶员决策特征提取方法，无需依赖于研究人员对于当前场景的理解进行设定所需要提取特征的类型和种类，只需要选定不同场景下训练样本来对于深度卷积神经网络进行训练，避免了复杂的设定实验过程。

为了实现上述目的，本发明方案的技术要点是：一种基于深度卷积神经网络的驾驶员决策特征提取方法，包括：

S1,建立训练样本库，以用于后面卷积神经网络的训练；

S2,建立深度卷积神经网络，以用于提取驾驶决策特征；

S3,根据训练样本对深度卷积神经网络进行离线训练，来优化卷积神经网络；

S4,保留调整好的深度卷积神经网络，得到新的深度卷积神经网络；

S5,将实际驾驶数据经过调整后输入新的深度卷积神经网络得到输出，即决策相关的特征。

进一步地，步骤S1的具体实现过程是：

S11,借助实际车辆对不同地点、气候、天气下的行驶活动进行数据采集，具体方法是利用放在车辆挡风玻璃后面的摄像机对于驾驶活动得到驾驶视频，同时记录对应的驾驶操作数据，所述驾驶操作数据根据具体需要的决策信息而变化，如若想获取转向决策结果，收集方向盘转向角度情况；若想获得制动决策结果，则收集包括油门踏板和自动踏板的传感数据；

S12,将收集得到的视觉数据和操作数据进行同步；

S13,对驾驶视频进行采样，离散化数据，以完成训练样本库的建立。

进一步地，步骤S2中建立的深度卷积神经网络包括1个输入层、3个卷积层、3个池化层、4个全连接层；输入层依次连接第一个卷积层、第一个池化层，然后连接第二个卷积层、第二个池化层，再连接第三个卷积层、第三个池化层，最后依次连接第一个全连接层、第二个全连接层、第三个全连接层、第四个全连接层。

进一步地，步骤S3的具体实现过程是：

S31,设置深度卷积神经网络训练参数，参数包括批量样本的数目n、学习率lr、权重衰减的系数ε、动量系数β1和β2：其中批量样本的数目n根据内存上限和是否有GPU来决定，学习率lr决定收敛速度，权重衰减系数ε防止过拟合，动量系数β1和β2用于加快学习速率；

S32,将数据样本输入深度卷积神经网络，同时依照深度卷积神经网络训练参数构建Nadam优化器；

S33,采用基于Nadam优化器的优化方法来对均方误差损失求最优解来优化神经网络的权重参数，直到设定的循环次数完成。

进一步地，所述均方误差损失计算公式为：

其中predicted_t为神经网络预测输出的值，observed_t为样本中的操作数据，N为训练网络时数据样本的总样本个数。

更进一步地，基于Nadam优化器的优化方法即在某个循环中，是基于反向递推的方法。

更进一步地，步骤S4中保留调整好的深度卷积神经网络不包括输出层。

更进一步地，步骤S5的具体实现过程是：

S51,采集实时车况的前视相机视觉数据；

S52,将视觉数据经裁剪后输入新的深度卷积神经网络得到输出，即决策相关的特征。

本发明与现有技术相比有益效果在于：本方法无需依赖于研究人员对于当前场景的理解进行设定所需要提取特征的类型和种类，只需要选定不同场景下训练样本来对于深度卷积神经网络进行训练，避免了复杂的设定实验过程。同时相比于传统的诸如计算机视觉的方法，也避免了复杂的数学推导和模型设计。同时只需加入的数据比重不同，也可以为适应不同驾驶员的个人驾驶习惯来提取更为针对性的驾驶员决策特征，大大降低了对研究人员的要求。

附图说明

图1为新的深度卷积神经网络；

图2为驾驶视频采样图；

图3为本方法流程框图。

具体实施方式

下面将结合说明书附图，对本发明作进一步说明。以下实施例仅用于更加清楚地说明本发明的技术方案，而不能以此来限制本发明的保护范围。

本实施例提供一种基于深度卷积神经网络的驾驶员决策特征提取方法，具体包括如下步骤：

S1,建立训练样本库，以用于后面卷积神经网络的训练；

S11,借助实际车辆对不同地点、气候、天气下的行驶活动进行数据采集，具体方法是利用放在车辆挡风玻璃后面的摄像机对于驾驶活动得到驾驶视频，同时记录对应的驾驶操作数据，操作数据根据具体需要的决策信息而变化，如若想获取转向决策结果，收集方向盘转向角度情况，若想获得制动决策结果，则收集包括油门踏板和自动踏板传感数据。

S12,将收集得到的视觉数据和操作数据进行同步；S13,对驾驶视频进行采样如下图所示，离散化数据，以完成训练样本库的建立。

S2,建立深度卷积神经网络，以用于提取驾驶决策特征；

S21，该卷积神经网络包括1个输入层、3个卷积层、3个池化层、4个全连接层。输入层依次连接第一个卷积层、第一个池化层，然后连接第二个卷积层、第二个池化层，再连接第三个卷积层、第三个池化层，然后依次连接第一个全连接层、第二个全连接层、第三个全连接层、第四个全连接层。

输入层中输入时序的RGB图片，这里的图片可经一定的裁剪，以减少后面的计算量，这里选取裁剪后参数为80x320x3的图像。

卷积层：对图像进行卷积操作，采用3*3尺寸的卷积划窗，同时采取0值边缘填充，其中第一层卷积层的深度为16，第二层和第三层的深度为32，同时第二层和第三层的激活函数采用ReLU(修正线性单元)激活函数，表达式为。

池化层：对图像进行池化操作，采用2*2的池化滑窗，取滑窗中四个数值的最大值，步长为2.

全连接层：第一层、第二层、和第三层采用dropout层，自动丢弃该层内一定比例的神经元来防止过拟合，参数设置为0.2；同时前三层的激活函数采用ReLU函数。第四层为输出层，输出对应离散的车辆操作向量。

S3,根据训练样本对深度卷积神经网络进行离线训练，来优化卷积神经网络；

S31,设置深度卷积神经网络训练参数，参数包括批量样本的数目n、学习率lr、权重衰减的系数ε、动量系数β1和β2：其中批量样本的数目n根据内存上限和是否有GPU来决定，学习率lr决定收敛速度，权重衰减系数ε防止过拟合，动量系数β1和β2用于加快学习速率。

S32,将数据样本输入深度卷积神经网络，同时依照深度卷积神经网络训练参数构建Nadam优化器。

S33,采用基于Nadam优化器的优化方法来对均方误差损失求最优解来优化神经网络的权重参数，直到设定的循环次数完成，均方误差损失计算公式为：

其中predicted_t为神经网络预测输出的值，observed_t为样本中的操作数据。方案中基于Nadam优化器的优化方法即在某个循环中，基于反向递推的方法。

S4,保留调整好的深度卷积神经网络除输出层外的部分，得到新的深度卷积神经网络；

S5,将实际驾驶数据经过微调后输入新的深度卷积神经网络得到输出，也正是决策相关的特征；

S51,采集实时车况的前视相机视觉数据；

S52,将视觉数据经裁剪后输入新的深度卷积神经网络得到输出，也正是决策相关的特征。

卷积神经网络能够捕捉驾驶环境图像的二维属性的特性，基于设定的标签——控制信息，自动地从训练样本中学习用于控制信息的特征。故本发明中将所需要决策的信息作为最后输出，卷积神经网络为了得到该类型的输出，就会自动学习到那些影响动作决策的特征，因而保留其特征提取的部分，所得到的输出也就是卷积神经网络为了获得决策信息而提取的各类特征。同时在卷积神经网络中，越接近底层的全连接层所提取的特征越抽象也越“高级”，更有利于使用。

以上所述，仅为本发明创造较佳的具体实施方式，但本发明创造的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明创造披露的技术范围内，根据本发明创造的技术方案及其发明构思加以等同替换或改变，都应涵盖在本发明创造的保护范围之内。

Claims (8)

1.一种基于深度卷积神经网络的驾驶员决策特征提取方法，其特征在于，包括：

S1,建立训练样本库，以用于卷积神经网络的训练；

S2,建立深度卷积神经网络，以用于提取驾驶决策特征；

S3,根据训练样本对深度卷积神经网络进行离线训练，来优化卷积神经网络；

S4,保留调整好的深度卷积神经网络，得到新的深度卷积神经网络；

S5,将实际驾驶数据经过调整后输入新的深度卷积神经网络得到输出，即决策相关的特征。

2.根据权利要求1所述一种基于深度卷积神经网络的驾驶员决策特征提取方法，其特征在于，步骤S1的具体实现过程是：

S11,借助实际车辆对不同地点、气候、天气下的行驶活动进行数据采集，具体方法是利用放在车辆挡风玻璃后面的摄像机对于驾驶活动得到驾驶视频，同时记录对应的驾驶操作数据，所述驾驶操作数据根据具体需要的决策信息而变化，如若想获取转向决策结果，收集方向盘转向角度情况；若想获得制动决策结果，则收集包括油门踏板和自动踏板的传感数据；

S12,将收集得到的视觉数据和操作数据进行同步；

S13,对驾驶视频进行采样，离散化数据，以完成训练样本库的建立。

3.根据权利要求1所述一种基于深度卷积神经网络的驾驶员决策特征提取方法，其特征在于，步骤S2中建立的深度卷积神经网络包括1个输入层、3个卷积层、3个池化层、4个全连接层；输入层依次连接第一个卷积层、第一个池化层，然后连接第二个卷积层、第二个池化层，再连接第三个卷积层、第三个池化层，最后依次连接第一个全连接层、第二个全连接层、第三个全连接层、第四个全连接层。

4.根据权利要求1所述一种基于深度卷积神经网络的驾驶员决策特征提取方法，其特征在于，步骤S3的具体实现过程是：

S31,设置深度卷积神经网络训练参数，参数包括批量样本的数目n、学习率lr、权重衰减的系数ε、动量系数β1和β2：其中批量样本的数目n根据内存上限和是否有GPU来决定，学习率lr决定收敛速度，权重衰减系数ε防止过拟合，动量系数β1和β2用于加快学习速率；

S32,将数据样本输入深度卷积神经网络，同时依照深度卷积神经网络训练参数构建Nadam优化器；

S33,采用基于Nadam优化器的优化方法来对均方误差损失求最优解来优化神经网络的权重参数，直到设定的循环次数完成。

5.根据权利要求4所述一种基于深度卷积神经网络的驾驶员决策特征提取方法，其特征在于，所述均方误差损失计算公式为：

其中predicted_t为神经网络预测输出的值，observed_t为样本中的操作数据，N为训练网络时数据样本的总样本个数。

6.根据权利要求5所述一种基于深度卷积神经网络的驾驶员决策特征提取方法，其特征在于，基于Nadam优化器的优化方法即在某个循环中，是基于反向递推的方法。

7.根据权利要求1所述一种基于深度卷积神经网络的驾驶员决策特征提取方法，其特征在于，步骤S4中保留调整好的深度卷积神经网络不包括输出层。

8.根据权利要求1所述一种基于深度卷积神经网络的驾驶员决策特征提取方法，其特征在于，步骤S5的具体实现过程是：

S51,采集实时车况的前视相机视觉数据；

S52,将视觉数据经裁剪后输入新的深度卷积神经网络得到输出，即决策相关的特征。