CN111160089A - 一种基于不同车辆类型的轨迹预测系统及方法 - Google Patents
一种基于不同车辆类型的轨迹预测系统及方法 Download PDFInfo
- Publication number
- CN111160089A CN111160089A CN201911155445.6A CN201911155445A CN111160089A CN 111160089 A CN111160089 A CN 111160089A CN 201911155445 A CN201911155445 A CN 201911155445A CN 111160089 A CN111160089 A CN 111160089A
- Authority
- CN
- China
- Prior art keywords
- layer
- trajectory
- vehicle
- output
- different vehicle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
- G06V20/584—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/207—Analysis of motion for motion estimation over a hierarchy of resolutions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于不同车辆类型的轨迹预测系统,包括:车辆类型识别模块,轨迹预测模块和基于不同车辆类型的轨迹预测模块;车辆类型识别模块,以摄像头传输的目标车辆的图像信息I为输入,通过卷积神经网络计算输出车辆类型C i 的概率;轨迹预测模块,获取雷达传感器信息针对车辆类型C i ,得到历史时域[‑T,0]目标车辆的轨迹信息作为输入,包括纵向位置x和侧向位置y;输出未来时域[0,T]的预测轨迹的高斯分布参数Ɵ,即得到预测轨迹的概率分布;基于不同车辆类型的轨迹预测模块,根据上述车辆类型的概率及预测轨迹的概率分布,得到基于不同车辆类型的轨迹预测的概率分布。本发明解决了现有技术中轨迹预测过程中不能区分预测车辆的类型的问题。
Description
技术领域
本发明属于智能驾驶技术领域,具体指代一种基于不同车辆类型的轨迹预测系统及方法。
背景技术
随着汽车保有量的日益增加,道路交通逐渐趋于密集化和复杂化,进而导致驾驶压力的增大,使得驾驶员在正常交通场景下的驾驶能力下降,大大增加了交通事故的发生几率。在智能驾驶决策过程中,能对周围车辆的运动轨迹进行正确的预测,是智能车辆做出合适决策的基础。
目前,智能车辆可以通过先进的技术,根据目标车辆的运动状态来对未来的状态进行预测,据此信息来规划自车的行驶路线,但根据自车的运动状态往往有时间的滞后性,不能及时地反映目标车辆未来的运动趋势;目前技术所采用的方法大多依靠某一时刻的信息来预测下一时刻的信息,不能反映出目标车辆的运动特性是动态变化的。
所以本发明提出一种基于不同车辆类型的轨迹预测系统及方法,所述系统通过CNN(卷积神经网络)网络区分不同车辆类型,来提高轨迹预测的准确性,能使智能驾驶的车辆更好地适应复杂的交通环境。所采用的CNN技术是通过模拟生物视觉皮层中的复杂结构细胞,对视觉输入空间的局部区域很敏感,被称为“感受野”。感受野以某种方式覆盖整个视觉域,它在输入空间中起局部作用,因而能够更好地挖掘出存在于自然图像中强烈的局部空间相关性。
发明内容
针对于上述现有技术的不足,本发明的目的在于提供一种基于不同车辆类型的轨迹预测系统及方法,以解决现有技术中轨迹预测过程中不能区分预测车辆的类型的问题。
为达到上述目的,本发明采用的技术方案如下:
本发明的一种基于不同车辆类型的轨迹预测系统,包括:车辆类型识别模块,轨迹预测模块和基于不同车辆类型的轨迹预测模块;
所述车辆类型识别模块,以摄像头传输的目标车辆的图像信息I为输入,通过卷积神经网络计算输出车辆类型Ci的概率P(Ci|I);
所述轨迹预测模块,获取雷达传感器信息针对车辆类型Ci,得到历史时域[-T,0]目标车辆的轨迹信息X作为输入,包括纵向位置x和侧向位置y;输出未来时域[0,T]的预测轨迹Y的高斯分布参数θ,即得到预测轨迹Y的概率分布Pθ(Y|Ci,X);
所述基于不同车辆类型的轨迹预测模块,根据上述车辆类型的概率及预测轨迹Y的概率分布,得到基于不同车辆类型的轨迹预测的概率分布P(Y|X),如下:
P(Y|X)=∑iPΘ(Y|Ci,X)P(Ci|I)。
优选地,所述输出车辆类型的集合定义为C={乘用车,商用车,摩托车}。
优选地,所述预测轨迹Y信息包括纵向位置x和侧向位置y。
优选地,所述高斯分布参数包括概率分布的均值和协方差。
本发明的一种基于不同车辆类型的轨迹预测方法,步骤如下:
1)从摄像头读取目标车辆的二维图像信息I,并作为输入;获取雷达传感器历史时域[-T,0]目标车辆的轨迹信息X,包括纵向位置x和侧向位置y,作为输入;
2)建立卷积神经网络(CNN)车辆类型识别模型,所采用的CNN网络包括输入层、三层平行的卷积层以及池化层、全连接层、输出层和softmax输出层,由softmax输出层可输出不同车辆类型的概率P(Ci|I);
3)建立LSTM轨迹预测模型,对于t时刻的输入xt,计算过程如下:
上述公式为某一时刻t一个LSTM单元的计算过程,一个LSTM单元包括三个门控单元(输入门it,遗忘门ft和输出门ot)和一个记忆单元ct,ht为网络的输出状态;Wxi,Whi,Wci,Wxf,Whf,Wcf,Wxc,Whc,Wxo,Who,Wco为权重矩阵,bi,bf,bc,bo为偏置向量;
其中,Wy为回归向量的权重系数,by为回归向量的偏置;
4)基于步骤2)中的车辆类型识别结果和步骤3)中预测轨迹结果,得到基于不同车辆类型的轨迹预测的概率分布P(Y|X),由下式表示:
P(Y|X)=ΣiPΘ(Y|Ci,X)P(Ci|I)。
优选地,所述步骤2)中采用的卷积神经网络(CNN)的卷积层之间的输入输出关系可用如下公式表示;
al=σ(zl)=σ(al-1*Wl+bl)
zl=al-1*Wl+bl=σ(zl-1)*Wl+bl
其中,al表示第l层神经元的输出,zl表示第l层神经元的输入,Wl表示从l-1层到l层的权值矩阵,bl表示l层的偏置向量,*表示卷积操作,σ表示该层神经元激活函数;
池化层采用max-pooling池化技术,使用大小为n*n的滑动窗口,按照先行后列的顺序,提取每个窗口中的最大值,形成下一层的隐层;
全连接层与普通神经网络的全连接层相同:
al=σ(zl)=σ(al-1Wl+bl)
输出层采用softmax输出层作为多分类问题的输出概率P(Ci|I):
其中zi为输出层第i个神经元的输出。
本发明的有益效果:
本发明在智能车辆对周围车辆轨迹预测的过程中,除了考虑需要被预测车辆运动信息以外,还考虑了需要被预测车辆的种类,利用卷积神经网络能模拟生物的视觉神经去处理目标车辆的图像,识别目标车辆的类型;基于车辆类型识别结果进行轨迹预测,能更好地去对周围车辆的轨迹进行预测,提高轨迹预测的准确性,使智能车辆能在更复杂存在多种类型车辆的交通环境中安全行驶。
附图说明
图1为本发明系统的实施原理框图。
图2为本发明中所采用的卷积神经网络的结构图。
具体实施方式
为了便于本领域技术人员的理解,下面结合实施例与附图对本发明作进一步的说明,实施方式提及的内容并非对本发明的限定。
参照图1所示,本发明的一种基于不同车辆类型的轨迹预测系统,包括:车辆类型识别模块,轨迹预测模块和基于不同车辆类型的轨迹预测模块;
所述车辆类型识别模块,以摄像头传输的目标车辆的图像信息I为输入,通过卷积神经网络计算输出车辆类型Ci的概率P(Ci|I);输出车辆类型的集合定义为C={乘用车,商用车,摩托车}。
所述轨迹预测模块,获取雷达传感器信息针对车辆类型Ci,得到历史时域[-T,0]目标车辆的轨迹信息X作为输入,包括纵向位置x和侧向位置y;输出未来时域[0,T]的预测轨迹Y的高斯分布参数θ,即得到预测轨迹Y的概率分布Pθ(Y|Ci,X);所述预测轨迹Y信息包括纵向位置x和侧向位置y。高斯分布参数包括概率分布的均值和协方差。
所述基于不同车辆类型的轨迹预测模块,根据上述车辆类型的概率及预测轨迹Y的概率分布,得到基于不同车辆类型的轨迹预测的概率分布P(Y|X),如下:
P(Y|X)=ΣiPΘ(Y|Ci,X)P(Ci|I)。
本发明的一种基于不同车辆类型的轨迹预测方法,步骤如下:
1)从摄像头读取目标车辆的二维图像信息I,并作为输入;获取雷达传感器历史时域[-T,0]目标车辆的轨迹信息X,包括纵向位置x和侧向位置y,作为输入;
2)建立卷积神经网络(CNN)车辆类型识别模型,所采用的CNN网络包括输入层、三层平行的卷积层以及池化层、全连接层、输出层和softmax输出层,由softmax输出层可输出不同车辆类型的概率P(Ci|I);
3)基于长短时记忆网络(Long-Short Term Memory,LSTM),建立LSTM轨迹预测模型,对于t时刻的输入xt,计算过程如下:
上述公式为某一时刻t一个LSTM单元的计算过程,一个LSTM单元包括三个门控单元(输入门it,遗忘门ft和输出门ot)和一个记忆单元ct,ht为网络的输出状态;Wxi,Whi,Wci,Wxf,Whf,Wcf,Wxc,Whc,Wxo,Who,Wco为权重矩阵,bi,bf,bc,bo为偏置向量;
其中,Wy为回归向量的权重系数,by为回归向量的偏置;
4)基于步骤2)中的车辆类型识别结果和步骤3)中预测轨迹结果,得到基于不同车辆类型的轨迹预测的概率分布P(Y|X),由下式表示:
P(Y|X)=ΣiPΘ(Y|Ci,X)P(Ci|I)。
参照图2所示,所述步骤2)中采用的卷积神经网络(CNN)的卷积层之间的输入输出关系可用如下公式表示;
al=σ(zl)=σ(al-1*Wl+bl)
zl=al-1*Wl+bl=σ(zl-1)*Wl+bl
其中,al表示第l层神经元的输出,zl表示第l层神经元的输入,Wl表示从l-1层到l层的权值矩阵,bl表示l层的偏置向量,*表示卷积操作,σ表示该层神经元激活函数;
池化层采用max-pooling池化技术,使用大小为n*n的滑动窗口,按照先行后列的顺序,提取每个窗口中的最大值,形成下一层的隐层;
全连接层与普通神经网络的全连接层相同:
al=σ(zl)=σ(al-1Wl+bl)
输出层采用softmax输出层作为多分类问题的输出概率P(Ci|I):
其中zi为输出层第i个神经元的输出。
本发明具体应用途径很多,以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以作出若干改进,这些改进也应视为本发明的保护范围。
Claims (6)
1.一种基于不同车辆类型的轨迹预测系统,其特征在于,包括:车辆类型识别模块,轨迹预测模块和基于不同车辆类型的轨迹预测模块;
车辆类型识别模块,以摄像头传输的目标车辆的图像信息I为输入,通过卷积神经网络计算输出车辆类型Ci的概率P(Ci|I);
轨迹预测模块,获取雷达传感器信息针对车辆类型Ci,得到历史时域[-T,0]目标车辆的轨迹信息X作为输入,包括纵向位置x和侧向位置y;输出未来时域[0,T]的预测轨迹Y的高斯分布参数θ,即得到预测轨迹Y的概率分布Pθ(Y|Ci,X);
基于不同车辆类型的轨迹预测模块,根据上述车辆类型的概率及预测轨迹Y的概率分布,得到基于不同车辆类型的轨迹预测的概率分布P(Y|X),如下:
P(Y|X)=∑iPΘ(Y|Ci,X)P(Ci|I)。
2.根据权利要求1所述的基于不同车辆类型的轨迹预测系统,其特征在于,所述输出车辆类型的集合定义为C={乘用车,商用车,摩托车}。
3.根据权利要求1所述的基于不同车辆类型的轨迹预测系统,其特征在于,所述预测轨迹Y信息包括纵向位置x和侧向位置y。
4.根据权利要求1所述的基于不同车辆类型的轨迹预测系统,其特征在于,所述高斯分布参数包括概率分布的均值和协方差。
5.一种基于不同车辆类型的轨迹预测方法,其特征在于,步骤如下:
1)从摄像头读取目标车辆的二维图像信息I,并作为输入;获取雷达传感器历史时域[-T,0]目标车辆的轨迹信息X,包括纵向位置x和侧向位置y,作为输入;
2)建立卷积神经网络车辆类型识别模型,所采用的卷积神经网络包括输入层、三层平行的卷积层以及池化层、全连接层、输出层和softmax输出层,由softmax输出层可输出不同车辆类型的概率P(Ci|I);
3)建立LSTM轨迹预测模型,对于t时刻的输入xt,计算过程如下:
上述公式为某一时刻t一个LSTM单元的计算过程,一个LSTM单元包括三个门控单元和一个记忆单元ct,ht为网络的输出状态;Wxi,Whi,Wci,Wxf,Whf,Wcf,Wxc,Whc,Wxo,Who,Wco为权重矩阵,bi,bf,bc,bo为偏置向量;
其中,Wy为回归向量的权重系数,by为回归向量的偏置;
4)基于步骤2)中的车辆类型识别结果和步骤3)中预测轨迹结果,得到基于不同车辆类型的轨迹预测的概率分布P(Y|X),由下式表示:
P(Y|X)=∑iPΘ(Y|Ci,X)P(Ci|I)。
6.根据权利要求1所述的基于不同车辆类型的轨迹预测方法,其特征在于,所述步骤2)中采用的卷积神经网络的卷积层之间的输入输出关系用如下公式表示;
al=σ(zl)=σ(al-1*Wl+bl)
zl=al-1*Wl+bl=σ(zl-1)*Wl+bl
其中,al表示第l层神经元的输出,zl表示第l层神经元的输入,Wl表示从l-1层到l层的权值矩阵,bl表示l层的偏置向量,*表示卷积操作,σ表示该层神经元激活函数;
池化层采用max-pooling池化技术,使用大小为n*n的滑动窗口,按照先行后列的顺序,提取每个窗口中的最大值,形成下一层的隐层;
全连接层与普通神经网络的全连接层相同:
al=σ(zl)=σ(al-1Wl+bl)
输出层采用softmax输出层作为多分类问题的输出概率P(Ci|I):
其中,zi为输出层第i个神经元的输出。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911155445.6A CN111160089B (zh) | 2019-11-22 | 2019-11-22 | 一种基于不同车辆类型的轨迹预测系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911155445.6A CN111160089B (zh) | 2019-11-22 | 2019-11-22 | 一种基于不同车辆类型的轨迹预测系统及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111160089A true CN111160089A (zh) | 2020-05-15 |
CN111160089B CN111160089B (zh) | 2023-05-12 |
Family
ID=70556137
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911155445.6A Active CN111160089B (zh) | 2019-11-22 | 2019-11-22 | 一种基于不同车辆类型的轨迹预测系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111160089B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113743815A (zh) * | 2021-09-13 | 2021-12-03 | 一汽出行科技有限公司 | 运营车辆的风险监控方法、装置、存储介质及计算机设备 |
CN113792782A (zh) * | 2021-09-13 | 2021-12-14 | 一汽出行科技有限公司 | 运营车辆的轨迹监测方法、装置、存储介质及计算机设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106599869A (zh) * | 2016-12-22 | 2017-04-26 | 安徽大学 | 一种基于多任务卷积神经网络的车辆属性识别方法 |
CN106950956A (zh) * | 2017-03-22 | 2017-07-14 | 合肥工业大学 | 融合运动学模型和行为认知模型的行车轨迹预测系统 |
CN107133974A (zh) * | 2017-06-02 | 2017-09-05 | 南京大学 | 高斯背景建模与循环神经网络相结合的车型分类方法 |
CN108022012A (zh) * | 2017-12-01 | 2018-05-11 | 兰州大学 | 基于深度学习的车辆位置预测方法 |
CN110415266A (zh) * | 2019-07-19 | 2019-11-05 | 东南大学 | 一种基于本车周围车辆轨迹预测安全行驶的方法 |
-
2019
- 2019-11-22 CN CN201911155445.6A patent/CN111160089B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106599869A (zh) * | 2016-12-22 | 2017-04-26 | 安徽大学 | 一种基于多任务卷积神经网络的车辆属性识别方法 |
CN106950956A (zh) * | 2017-03-22 | 2017-07-14 | 合肥工业大学 | 融合运动学模型和行为认知模型的行车轨迹预测系统 |
CN107133974A (zh) * | 2017-06-02 | 2017-09-05 | 南京大学 | 高斯背景建模与循环神经网络相结合的车型分类方法 |
CN108022012A (zh) * | 2017-12-01 | 2018-05-11 | 兰州大学 | 基于深度学习的车辆位置预测方法 |
CN110415266A (zh) * | 2019-07-19 | 2019-11-05 | 东南大学 | 一种基于本车周围车辆轨迹预测安全行驶的方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113743815A (zh) * | 2021-09-13 | 2021-12-03 | 一汽出行科技有限公司 | 运营车辆的风险监控方法、装置、存储介质及计算机设备 |
CN113792782A (zh) * | 2021-09-13 | 2021-12-14 | 一汽出行科技有限公司 | 运营车辆的轨迹监测方法、装置、存储介质及计算机设备 |
Also Published As
Publication number | Publication date |
---|---|
CN111160089B (zh) | 2023-05-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11899411B2 (en) | Hybrid reinforcement learning for autonomous driving | |
CN112965499B (zh) | 基于注意力模型和深度强化学习的无人车行驶决策方法 | |
CN107958269B (zh) | 一种基于隐马尔可夫模型的行车危险度预测方法 | |
CN113911129B (zh) | 一种基于驾驶行为生成机制的交通车意图识别方法 | |
Amini et al. | Spatial uncertainty sampling for end-to-end control | |
US10846593B2 (en) | System and method for siamese instance search tracker with a recurrent neural network | |
US11302110B2 (en) | Pedestrian action recognition and localization using RGB images | |
CN112435503B (zh) | 一种辨识高危行人意图的智能汽车主动避撞方法 | |
CN112614373B (zh) | 一种基于BiLSTM周车换道意图预测方法 | |
CN112052802A (zh) | 一种基于机器视觉的前方车辆行为识别方法 | |
Zhang et al. | A framework for turning behavior classification at intersections using 3D LIDAR | |
CN114724392A (zh) | 一种快速路出口匝道与邻接交叉口动态信号控制方法 | |
CN111292366A (zh) | 一种基于深度学习和边缘计算的视觉行车测距算法 | |
CN116383685A (zh) | 一种基于时空交互图注意力网络的车辆变道检测方法 | |
CN111160089B (zh) | 一种基于不同车辆类型的轨迹预测系统及方法 | |
Zhang | Resnet-based model for autonomous vehicles trajectory prediction | |
Wu et al. | Driver lane change intention recognition based on Attention Enhanced Residual-MBi-LSTM network | |
CN107688556B (zh) | 一种基于函数型主成分分析的实时行程时间计算方法 | |
WO2024109763A1 (zh) | 一种基于场景自适应识别的自动驾驶方法及系统 | |
Shao et al. | Failure detection for motion prediction of autonomous driving: An uncertainty perspective | |
CN113435356B (zh) | 一种克服观察噪声与感知不确定性的轨迹预测方法 | |
Li et al. | An end-to-end fully automatic bay parking approach for autonomous vehicles | |
CN113077496A (zh) | 基于轻量级YOLOv3的实时车辆检测、跟踪方法和系统及介质 | |
Wang et al. | Improving target detection by coupling it with tracking | |
Xu et al. | GlobalInsight: An LSTM based model for multi-vehicle trajectory prediction |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |