CN111369566B - 确定路面消隐点位置的方法、装置、设备及存储介质 - Google Patents
确定路面消隐点位置的方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN111369566B CN111369566B CN201811590565.4A CN201811590565A CN111369566B CN 111369566 B CN111369566 B CN 111369566B CN 201811590565 A CN201811590565 A CN 201811590565A CN 111369566 B CN111369566 B CN 111369566B
- Authority
- CN
- China
- Prior art keywords
- target
- modeling
- road picture
- probability map
- road
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 51
- 230000011218 segmentation Effects 0.000 claims abstract description 141
- 238000013136 deep learning model Methods 0.000 claims abstract description 90
- 230000006870 function Effects 0.000 claims description 68
- 238000012545 processing Methods 0.000 claims description 36
- 238000012549 training Methods 0.000 claims description 35
- 230000015654 memory Effects 0.000 claims description 16
- 230000006403 short-term memory Effects 0.000 claims description 3
- 230000007787 long-term memory Effects 0.000 claims 2
- 239000010410 layer Substances 0.000 description 113
- 238000011176 pooling Methods 0.000 description 27
- 238000010586 diagram Methods 0.000 description 11
- 230000002093 peripheral effect Effects 0.000 description 10
- 230000001133 acceleration Effects 0.000 description 9
- 230000002441 reversible effect Effects 0.000 description 8
- 230000008569 process Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 4
- 230000003321 amplification Effects 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 3
- 238000003199 nucleic acid amplification method Methods 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 239000000919 ceramic Substances 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 230000003213 activating effect Effects 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000002457 bidirectional effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 239000002346 layers by function Substances 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 210000002569 neuron Anatomy 0.000 description 1
- IZUPBVBPLAPZRR-UHFFFAOYSA-N pentachlorophenol Chemical compound OC1=C(Cl)C(Cl)=C(Cl)C(Cl)=C1Cl IZUPBVBPLAPZRR-UHFFFAOYSA-N 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 238000012958 reprocessing Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 239000010409 thin film Substances 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种确定路面消隐点位置的方法、装置、设备及存储介质,属于自动驾驶技术领域。所述方法包括:获取前方道路的目标道路图片;将目标道路图片输入到深度学习模型中,输出目标道路图片对应的目标分割概率图,深度学习模型用于确定道路图片对应的分割概率图,分割概率图用于表征道路图片中每个像素点位于道路图片不同区域的概率;根据目标分割概率图,确定目标道路图片的目标路面消隐点位置。本发明通过将获取到的目标道路图片输入到深度学习模型,即可输出目标分割概率图,从而基于目标分割概率图,确定出目标道路图片的目标路面消隐点位置。由于无需进行迭代计算,因而所确定的目标路面消隐点位置更为准确。
Description
技术领域
本发明涉及自动驾驶技术领域,特别涉及一种确定路面消隐点位置的方法、装置、设备及存储介质。
背景技术
随着互联网、传感及智能控制等技术的发展,ADAS(Advanced Driver AssistanceSystems,高级辅助驾驶系统)被广泛应用于各种车辆中。在基于ADAS进行驾驶指导的过程,为了便于进行目标车辆测距、车道线拟合等,需要确定出位于路面无穷远地方的路面消隐点位置,从而为用户制定出安全可靠的驾驶方案。
现有技术在确定路面消隐点位置时,主要采用如下方法:在行车过程中,采用边缘提取算法提取道路边缘信息;基于霍夫变换获取路面直线位置;对检测到的路面直线进行迭代计算,直至得到路面消隐点位置。
在实现本发明的过程中,发明人发现现有技术至少存在以下问题:
由于涉及到多次变换后的迭代计算,容易积累误差,导致所确定的路面消隐点位置并不准确。
发明内容
本发明实施例提供了一种确定路面消隐点位置的方法、装置、设备及存储介质,以提高所确定的路面消隐点位置的准确性。所述技术方案如下:
一方面,提供了一种确定路面消隐点位置的方法,所述方法包括:
获取前方道路的目标道路图片;
将所述目标道路图片输入到深度学习模型中,输出所述目标道路图片对应的目标分割概率图,所述深度学习模型用于确定道路图片对应的分割概率图,所述分割概率图用于表征道路图片中每个像素点位于道路图片不同区域的概率;
根据所述目标分割概率图,确定所述目标道路图片的目标路面消隐点位置。
在本发明的另一个实施例中,所述将所述目标道路图片输入到深度学习模型中,输出所述目标道路图片对应的目标分割概率图之前,还包括:
获取多张建模道路图片,每张建模道路图片均标注有路面消隐点位置;
获取初始深度学习模型;
根据所述多张建模道路图片,对所述初始深度学习模型进行训练,得到深度学习模型。
在本发明的另一个实施例中,所述根据所述多张建模道路图片,对所述初始深度学习模型进行训练,得到深度学习模型,包括:
根据每张建模道路图片上的路面消隐点位置,将每张建模道路图片分割为四个区域,每个区域对应一个子建模分割概率图,且每个区域对应的子建模分割概率图构成所述建模道路图片对应的建模分割概率图;
将每张建模道路图片对应的建模分割概率图输入到第一目标损失函数中;
基于第一目标损失函数的函数值,对所述初始深度学习模型的模型参数进行调整,得到所述深度学习模型。
在本发明的另一个实施例中,所述根据所述目标分割概率图,确定所述目标道路图片的目标路面消隐点位置,包括:
将所述目标分割概率图输入到回归网络中,输出所述目标道路图片对应的目标路面消隐点位置,所述回归网络用于基于分割概率图,确定道路图片的路面消隐点位置。
在本发明的另一个实施例中,所述将所述目标分割概率图输入到回归网络中,输出所述目标道路图片对应的目标路面消隐点位置之前,还包括:
获取多张建模道路图片,每张建模道路图片均标注有路面消隐点位置;
将每张建模道路图片输入到所述深度学习模型中,输出每张建模道路图片对应的建模分割概率图;
获取初始回归网络;
根据每张建模道路图片对应的建模分割概率图,对所述初始回归网络进行训练,得到所述回归网络。
在本发明的另一个实施例中,所述根据每张建模道路图片对应的建模分割概率图,对所述初始回归网络进行训练,得到所述回归网络,包括:
将每张建模道路图片对应的建模分割概率图输入到第二目标损失函数中;
基于第二目标损失函数的函数值,对所述初始回归网络的模型参数进行调整,得到所述回归网络。
在本发明的另一个实施例中,所述根据所述目标分割概率图,确定所述目标道路图片的目标路面消隐点位置,包括:
对于所述目标分割概率图上的每个像素点,获取每个像素点位于所述目标道路图片不同区域的概率;
根据每个像素点位于所述目标道路图片不同区域的概率,确定所述目标道路图片的目标路面消隐点位置。
在本发明的另一个实施例中,所述根据每个像素点位于所述目标道路图片不同区域的概率,确定所述目标道路图片的目标路面消隐点位置,包括:
根据每个像素点位于所述目标道路图片不同区域的概率,应用以下公式,确定所述目标道路图片的目标路面消隐点位置:
其中,locvp表示目标路面消隐点位置,pn(x,y)表示任一像素点位于所述目标道路图片不同区域的概率,n表示区域的数量,x表示像素点的横坐标,y表示像素点的纵坐标。
另一方面,提供了一种确定路面消隐点位置的装置,所述装置包括:
获取模块,用于获取前方道路的目标道路图片;
处理模块,用于将所述目标道路图片输入到深度学习模型中,输出所述目标道路图片对应的目标分割概率图,所述深度学习模型用于确定道路图片对应的分割概率图,所述分割概率图用于表征道路图片中每个像素点位于道路图片不同区域的概率;
确定模块,用于根据所述目标分割概率图,确定所述目标道路图片的目标路面消隐点位置。
在本发明的另一个实施例中,所述装置还包括:
所述获取模块,用于获取多张建模道路图片,每张建模道路图片均标注有路面消隐点位置;
所述获取模块,用于获取初始深度学习模型;
训练模块,用于根据所述多张建模道路图片,对所述初始深度学习模型进行训练,得到深度学习模型。
在本发明的另一个实施例中,所述训练模块,用于根据每张建模道路图片上的路面消隐点位置,将每张建模道路图片分割为四个区域,每个区域对应一个子建模分割概率图,且每个区域对应的子建模分割概率图构成所述建模道路图片对应的建模分割概率图;将每张建模道路图片对应的建模分割概率图输入到第一目标损失函数中;基于第一目标损失函数的函数值,对所述初始深度学习模型的模型参数进行调整,得到所述深度学习模型。
在本发明的另一个实施例中,所述确定模块,用于将所述目标分割概率图输入到回归网络中,输出所述目标道路图片对应的目标路面消隐点位置,所述回归网络用于基于分割概率图,确定道路图片的路面消隐点位置。
在本发明的另一个实施例中,所述装置还包括:
所述获取模块,用于获取多张建模道路图片,每张建模道路图片均标注有路面消隐点位置;
所述处理模块,用于将每张建模道路图片输入到所述深度学习模型中,输出每张建模道路图片对应的建模分割概率图;
所述获取模块,用于获取初始回归网络;
训练模块,用于根据每张建模道路图片对应的建模分割概率图,对所述初始回归网络进行训练,得到所述回归网络。
在本发明的另一个实施例中,所述训练模块,用于将每张建模道路图片对应的建模分割概率图输入到第二目标损失函数中;基于第二目标损失函数的函数值,对所述初始回归网络的模型参数进行调整,得到所述回归网络。
在本发明的另一个实施例中,所述确定模块,用于对于所述目标分割概率图上的每个像素点,获取每个像素点位于所述目标道路图片不同区域的概率;根据每个像素点位于所述目标道路图片不同区域的概率,确定所述目标道路图片的目标路面消隐点位置。
在本发明的另一个实施例中,所述确定模块,用于根据每个像素点位于所述目标道路图片不同区域的概率,应用以下公式,确定所述目标道路图片的目标路面消隐点位置:
其中,locvp表示目标路面消隐点位置,pn(x,y)表示任一像素点位于所述目标道路图片不同区域的概率,n表示区域的数量,x表示像素点的横坐标,y表示像素点的纵坐标。
另一方面,提供了一种用于确定路面消隐点位置的设备,所述设备包括处理器和存储器,所述存储器中存储有至少一条指令,所述指令由所述处理器加载并执行以实现如上述确定路面消隐点位置的方法所执行的操作。
另一方面,提供了一种计算机可读存储介质,所述存储介质中存储有至少一条指令,所述指令由处理器加载并执行以实现如上述确定路面消隐点位置的方法所执行的操作。
本发明实施例提供的技术方案带来的有益效果是:
通过将获取到的目标道路图片输入到深度学习模型,即可输出目标分割概率图,从而基于目标分割概率图,确定出目标道路图片的目标路面消隐点位置。由于无需进行迭代计算,因而所确定的目标路面消隐点位置更为准确。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种深度学习的网络架构图;
图2是本发明实施例提供的一种回归网络的架构图;
图3是本发明实施例提供的一种确定路面消隐点位置的方法流程图;
图4是本发明实施例提供的一种构建深度学习模型的方法流程图;
图5是本发明实施例提供的以消隐点为中心的区域分割标定图;
图6是本发明实施例提供的一种构建回归网络的方法流程图;
图7是本发明实施例提供的一种确定路面消隐点位置的方法流程图;
图8是本发明实施例提供的确定路面消隐点位置的时序图;
图9是本发明实施例提供的确定路面消隐点位置的装置结构示意图;
图10是本发明一个示例性实施例提供的终端的结构框图;
图11是根据一示例性实施例示出的一种服务器的结构框图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明实施方式作进一步地详细描述。
在执行本发明实施例之前,首先对本发明中涉及的名词进行解释。
高级辅助驾驶系统:利用安装于车上的多类传感器,实时收集车内外环境数据,进行静、动态物体的辨识、侦测与追踪,从而让驾驶者在最快时间内察觉可能发生的危险,以提高行车安全的主动安全技术。
LSTM(Long Short-Term Memory,长短期记忆网络):一种时间递归神经网络,适合于处理和预测时间序列中间隔和延迟相对较长的重要事件。
请参考图1,其示出了本发明实施例提供的深度学习的网络架构图,该网络包括多级卷积层、多级池化层、多级处理层、多级反卷积层、多级池化层、多级反处理层、双线性放大层、softmax层等。
其中,多级卷积层用于对输入图像进行卷积操作,多级卷层包括卷积层1-1(图中所示的conv1_1(Convolution))、卷积层2-1(图中所示的conv2_1(Convolution))、卷积层3-1(图中所示的conv3_1(Convolution))、卷积层3-3(图中所示的conv3_3(Convolution))、卷积层4-1(图中所示的conv4_1(Convolution))、卷积层4-3(图中所示的conv4_3(Convolution))等。卷积层1-1的卷积核大小为6*6,卷积层2-1的卷积核大小为3*3,卷积层3-1的卷积核大小为3*3,卷积层3-3的卷积核大小为3*3,卷积层4-1的卷积核大小为3*3,卷积层4-3的卷积核大小为3*3。
多级处理层用于对经过卷积操作的图像进行处理,该处理包括编程、激活等。多级处理层包括处理层1-1(图中所示的conv1_1_batchnorm(Batchnorm)、conv1_1_scale(Scale)及relu1_1(ReLU))、处理层2-1(图中所示的conv2_1_batchnorm(Batchnorm)、conv2_1_scale(Scale)及relu2_1(ReLU))、处理层3-1(图中所示的conv3_1_batchnorm(Batchnorm)、conv3_1_scale(Scale)及relu3_1(ReLU))、处理层3-3(图中所示的conv3_3_batchnorm(Batchnorm)、conv3_3_scale(Scale)及relu3_3(ReLU))、处理层4-1(图中所示的conv4_1_batchnorm(Batchnorm)、conv4_1_scale(Scale)及relu4_1(ReLU))、处理层4-3(图中所示的conv4_3_batchnorm(Batchnorm)、conv4_3_scale(Scale)及relu4_3(ReLU))等。
多级池化层用于对经过处理层处理的图像进行最大池化操作。多级池化层包括池化层1(图中所示的pool1(MAX Pooling))、池化层2(图中所示的pool2(MAX Pooling))、池化层3(图中所示的pool3(MAX Pooling))。
多级反卷积层用于对输入特征进行与卷积层相反的操作,多级反卷积层包括反卷积层4_3(图中所示的conv4_3_D(Convolution))、反卷积层3_3(图中所示的conv3_3_D(Convolution))、反卷积层2_1(图中所示的conv2_1_D_4(Convolution))等。
多级反处理层用于对输入的特征进行与处理层相反的操作,多级反处理层包括反处理层4-3(图中所示的conv4_3_D_batchnorm(Batchnorm)、conv4_3_D_scale(Scale)及relu4_3_D_(ReLU))、反处理层3-3(图中所示的conv3_3_D_batchnorm(Batchnorm)、conv3_3_D_scale(Scale)及relu3_3_D_(ReLU))等。
多级反池化层用于对输入特征进行与池化层相反的操作,在池化时保留最大值所在位置索引,反池化上采样时,将该索引位置赋值,其他补充位补零。多级反池化层包括反池化层3(图中所示的Upsample3)、反池化层2(图中所示的Upsample2)。
双线性放大层用于对当前特征图进行双线性插值到指定图大小。双线性放大层包括双线性放大层1(图中所示的interp1(Interp))、双线性放大层2(图中所示的interp2(Interp)等。
softmax层用于将上一层卷积结果归一化,使得每个像素位置不同通道对应不同类别的概率值。
参见图1,对于输入图像,将输入图像输入到卷积层1-1,经过卷积层1-1进行卷积操作后,将输出特征经过处理层1-1进行处理,再将处理层1-1处理后的特征经过池化层1进行最大池化操作,将第一次池化操作得到的特征输入到卷积层2-1,经过卷积层2-1进行卷积操作后,输入到处理层2-1,经过处理层2-1进行处理后,再输入到池化层2,经过池化层2进行最大池化操作后,将第二次池化操作得到的特征输入到卷积层3-1,经过卷积层3-1进行卷积操作后,输入到处理层3-1,经过处理层3-1进行处理后,输入到池化层3,经过池化层3进行最大池化操作后,将第三次池化操作得到的特征输入到卷积层4-1,经过卷积层4-1进行卷积操作后,输入到处理层4-1,经过处理层4-1进行处理后,输入到卷积层4-3,经过卷积层4-3进行卷积操作后,输入到处理层4-3,经过处理层4-3进行处理后,输入到卷积层4-3,经过卷积层4-3进行卷积操作后,再输入到处理层4-3,经过处理层4-3进行处理。接下来,将经过处理层4-3处理得到的特征输入到反卷积层4_3,经过反卷积层4_3进行反卷积操作后,输入到反处理层4_3,经过反处理层4_3进行反处理操作后,将得到的特征输入到反池化层3,经过反池化层3进行反池化操作后,再输入到反卷积层3_3,经过反卷积层3_3进行反卷积操作后,输入到反处理层3_3,经过反处理层3_3进行反处理操作后,将得到的特征输入到反池化层2,经过反池化层2进行反池化操作后,输入到反卷积层2-1,经过反卷积层2-1进行反卷积操作后,输入到双线性放大层包括双线性放大层1,再输入到双线性放大层包括双线性放大层2,最后输入到softmax层,输出与输入图像大小相同的分割概率图。
请参考图2,其示出了本发明实施例提供的回归网络的网络架构图,该回归网络可以为LSTM网络,参见图2,该网络包括多个功能层。
其中,图2中的conv2_1_D_4(Convolution)为反卷积层,用于对输入特征进行与卷积层2_1相反的操作。
interp1(Interp)和interp2(Interp)为双线性放大层,用于对当前特征图进行双线性插值到指定图大小。
softmax层用于将上一层卷积结果归一化,使得每个像素位置不同通道对应不同类别的概率值。
Droprout层为防止过拟合使用的随机丢失层,用于对于选定的层,按照设定的比例参数对神经元不进行更新。
hor_fc层和hor_x层均为全连接层。
hor_pool层为水平方向的池化层,用于将H*W的特征图pooling至1*W,W作为序列的长度,每个序列像素为1。
Permute层为重新排列特征图的维度层,以hor_pool_permute为例,Permute层用于将上一次水平池化后的特征图(N*C*H*W)重新排列为(W*N*C*H),然后按照W为序列传入下一层的时序网络层。LSTM之后的permute层则是用于将转换后的序列还原。
Hor_lstm(Cumn)用于处理图像按水平方向扫描得到的序列。
回归网络处理步骤如下:
第一步,在竖直方向进行pooling。
具体地,将H*W的特征图pooling至H*1。其中,H作为序列的长度,每个序列像素为1。
第二步,在水平方向进行pooling。
具体地,将H*W的特征图pooling至1*W。其中,W作为序列的长度,每个序列像素为1。
第三步,分别由两层的双向FC-LSTM进行扫描。
第四步,分别输入到两层的全连接层,输出最终的x或y坐标。
第五步,计算EuclideanLoss(欧氏损失)。
本发明实施例提供了一种确定路面消隐点位置的方法流程图,参见图3,本发明实施例提供的方法流程包括:
301、获取前方道路的目标道路图片。
302、将目标道路图片输入到深度学习模型中,输出目标道路图片对应的目标分割概率图。
其中,深度学习模型用于确定道路图片对应的分割概率图,分割概率图用于表征道路图片中每个像素点位于道路图片不同区域的概率。
303、根据目标分割概率图,确定目标道路图片的目标路面消隐点位置。
本发明实施例提供的方法,通过将获取到的目标道路图片输入到深度学习模型,即可输出目标分割概率图,从而基于目标分割概率图,确定出目标道路图片的目标路面消隐点位置。由于无需进行迭代计算,因而所确定的目标路面消隐点位置更为准确。
在本发明的另一个实施例中,将目标道路图片输入到深度学习模型中,输出目标道路图片对应的目标分割概率图之前,还包括:
获取多张建模道路图片,每张建模道路图片均标注有路面消隐点位置;
获取初始深度学习模型;
根据多张建模道路图片,对初始深度学习模型进行训练,得到深度学习模型。
在本发明的另一个实施例中,根据多张建模道路图片,对初始深度学习模型进行训练,得到深度学习模型,包括:
根据每张建模道路图片上的路面消隐点位置,将每张建模道路图片分割为四个区域,每个区域对应一个子建模分割概率图,且每个区域对应的子建模分割概率图构成建模道路图片对应的建模分割概率图;
将每张建模道路图片对应的建模分割概率图输入到第一目标损失函数中;
基于第一目标损失函数的函数值,对初始深度学习模型的模型参数进行调整,得到深度学习模型。
在本发明的另一个实施例中,根据目标分割概率图,确定目标道路图片的目标路面消隐点位置,包括:
将目标分割概率图输入到回归网络中,输出目标道路图片对应的目标路面消隐点位置,回归网络用于基于分割概率图,确定道路图片的路面消隐点位置。
在本发明的另一个实施例中,将目标分割概率图输入到回归网络中,输出目标道路图片对应的目标路面消隐点位置之前,还包括:
获取多张建模道路图片,每张建模道路图片均标注有路面消隐点位置;
将每张建模道路图片输入到深度学习模型中,输出每张建模道路图片对应的建模分割概率图;
获取初始回归网络;
根据每张建模道路图片对应的建模分割概率图,对初始回归网络进行训练,得到回归网络。
在本发明的另一个实施例中,根据每张建模道路图片对应的建模分割概率图,对初始回归网络进行训练,得到回归网络,包括:
将每张建模道路图片对应的建模分割概率图输入到第二目标损失函数中;
基于第二目标损失函数的函数值,对初始回归网络的模型参数进行调整,得到回归网络。
在本发明的另一个实施例中,根据目标分割概率图,确定目标道路图片的目标路面消隐点位置,包括:
对于目标分割概率图上的每个像素点,获取每个像素点位于目标道路图片不同区域的概率;
根据每个像素点位于目标道路图片不同区域的概率,确定目标道路图片的目标路面消隐点位置。
在本发明的另一个实施例中,根据每个像素点位于目标道路图片不同区域的概率,确定目标道路图片的目标路面消隐点位置,包括:
根据每个像素点位于目标道路图片不同区域的概率,应用以下公式,确定目标道路图片的目标路面消隐点位置:
其中,locvp表示目标路面消隐点位置,pn(x,y)表示任一像素点位于目标道路图片不同区域的概率,n表示区域的数量,x表示像素点的横坐标,y表示像素点的纵坐标。
上述所有可选技术方案,可以采用任意结合形成本发明的可选实施例,在此不再一一赘述。
本发明实施例提供了一种构建深度学习模型的方法,该方法应用于服务器中,参见图4,本发明实施例提供的方法流程包括:
401、服务器获取多张建模道路图片。
其中,每张建模道路图片均标注有路面消隐点位置。服务器获取多张建模道路图片的方式,包括但不限于:服务器通过互联网获取多张标注有路面消隐点位置的道路图片,并将所获取到的多张标注有路面消隐点位置道路图片作为多张建模道路图片。
402、服务器获取初始深度学习模型。
服务器获取初始深度学习模型时,可基于图1所示的深度学习的网络架构,获取与图1所示的网络架构相同的网络模型,并将所获取的网络模型作为初始深度学习模型。
403、服务器根据多张建模道路图片,对初始深度学习模型进行训练,得到深度学习模型。
服务器根据多张建模道路图片,对初始深度学习模型进行训练,得到深度学习模型时,可采用如下步骤:
4031、服务器根据每张建模道路图片上的路面消隐点位置,将每张建模道路图片分割为四个区域。
服务器以路面消隐点所在位置为中心,并以经过该中心的水平方向和竖直方向为分割边缘线,对每张建模道路图片进行分割,从而将每张建模道路图片分割为四个区域。图5示出了基于路面消隐点所划分的四个区域的分割区域标定图。
基于所划分的每个区域,服务器获取每个区域对应的子建模分割概率图。接着,服务器将每个区域对应的子建模分割概率图构成建模道路图片对应的建模分割概率图。其中,建模分割概率图用于指示每个像素点位于四个不同区域的概率。
为了便于区分所分割的四个区域,本发明实施例还将以路面消隐点所在位置为原点,建立直角坐标系,根据坐标系所包括的四个象限,将所分割的右上角区域映射到第一象限中,将所分割的左上角区域映射到第二映射到第二象限中,将所分割的左下角区域映射到第三象限中,将所分割的右下角区域映射到第四象限中。
对于第一象限中的像素点,该像素点位于第一象限的概率要高于位于其他象限的概率;对于第二象限中的像素点,该像素点位于第二象限的概率要高于位于其他象限的概率;对于第三象限中的像素点,该像素点位于第三象限的概率要高于位于其他象限的概率;对于第四象限中的像素点,该像素点位于第四象限的概率要高于位于其他象限的概率。
4032、服务器将每张建模道路图片对应的建模分割概率图输入到第一目标损失函数中。
服务器预先为初始深度学习模型构建第一目标损失函数,并为初始深度学习模型的模型参数设置一个初始值,基于所设置的各个参数的初始值,计算第一目标损失函数的函数值。
4033、基于第一目标损失函数的函数值,服务器对初始深度学习模型的模型参数进行调整,得到深度学习模型。
如果第一目标损失函数的函数值不满足第一阈值条件,服务器对初始深度学习模型的模型参数进行调整,并继续计算第一目标损失函数的函数值,直至得到的函数值满足第一阈值条件。其中,第一阈值条件可由服务器根据处理精度进行设置。
进一步地,当得到的函数值不满足第一阈值条件,服务器采用BP(BackPropagation,反向传播)算法对初始深度学习模型的模型参数进行调整,基于调整后的各个参数的参数值继续计算第一目标损失函数的函数值,直至计算后的函数值满足第一阈值条件。其中,BP算法主要由信号的正向传播和误差的反向传播两个过程组成,经过信号正向传播和误差反向传播,权重和阈值的调整反复进行,一直进行到预先设定的学习训练次数,或者输出误差减小到允许的程度。
服务器获取满足第一阈值条件时各个参数的参数值,并将满足第一阈值条件时各个参数的参数值所对应的初始深度学习模型,作为训练得到的深度学习模型。其中,深度学习模型用于确定道路图片对应的分割概率图,分割概率图的大小与道路图片大小相同,分割概率图用于表征道路图片中每个像素点位于道路图片不同区域的概率。
本发明实施例提供了一种构建回归网络的方法,该方法应用于服务器中,参见图6,本发明实施例提供的方法流程包括:
601、服务器获取多张建模道路图片。
其中,每张建模道路图片均标注有路面消隐点位置。服务器获取多张建模道路图片的方式,包括但不限于:服务器通过互联网获取多张标注有路面消隐点位置的道路图片,并将所获取到的多张标注有路面消隐点位置道路图片作为多张建模道路图片。
602、服务器将每张建模道路图片输入到深度学习模型中,输出每张建模道路图片对应的建模分割概率图。
基于上述步骤401~步骤403所训练的深度学习模型,服务器通过将每张建模道路图片输入到深度学习模型中,可输出每张建模道路图片对应的建模分割概率图。
603、服务器获取初始回归网络。
服务器获取回归网络时,可基于图2所示的回归网络的网络架构,获取与图2所示的网络架构相同的网络模型,并将所获取的网络模型作为初始回归网络。
604、服务器根据每张建模道路图片对应的建模分割概率图,对初始回归网络进行训练,得到回归网络。
服务器根据每张建模道路图片对应的建模分割概率图,对初始回归网络进行训练,得到回归网络时,可采用如下步骤:
6041、服务器将每张建模道路图片对应的建模分割概率图输入到第二目标损失函数中。
服务器预先为初始回归网络构建第二目标损失函数,并为初始回归网络的模型参数设置一个初始值,基于所设置的各个参数的初始值,通过对建模分割概率图进行横纵方向的序列扫描,获取目标分割概率图对应的序列特征,进而根据序列特征,计算第二目标损失函数的函数值。
6042、基于第二目标损失函数的函数值,服务器对初始回归网络的模型参数进行调整,得到回归网络。
如果第二目标损失函数的函数值不满足第二阈值条件,服务器对初始回归网络的模型参数进行调整,并继续计算第二目标损失函数的函数值,直至得到的函数值满足第二阈值条件。其中,第二阈值条件可由服务器根据处理精度进行设置。
服务器获取满足第二阈值条件时各个参数的参数值,并将满足第二阈值条件时各个参数的参数值所对应的初始回归网络,作为训练得到的回归网络。其中,回归网络用于基于分割概率图,确定道路图片的路面消隐点位置。
本发明实施例提供了一种确定路面消隐点位置的方法,该方法应用于智能手机、车载设备等终端中,参见图7,本发明实施例提供的方法流程包括:
701、终端获取前方道路的目标道路图片。
为了更好地对用户的驾驶行为进行指导,当车辆在道路上行驶,或者车辆停在道路时,终端可通过摄像头采集前方道路的目标道路图片。
702、终端将目标道路图片输入到深度学习模型中,输出目标道路图片对应的目标分割概率图。
其中,深度学习模型用于确定道路图片对应的分割概率图,该分割概率图的大小可与道路图片大小相同,也可以与道路图片的尺寸不同,但通过对道路图片进行缩放处理,可得到与分割概率图的大小相同的图片。分割概率图用于表征道路图片中每个像素点位于道路图片不同区域的概率。基于所获取到的目标道路图片,终端通过将目标道路图片输入到深度学习模型中,可输出目标道路图片对应的目标分割概率图。
703、终端根据目标分割概率图,确定目标道路图片的目标路面消隐点位置。
在本发明实施例中,终端根据目标分割概率图,确定目标道路图片的目标路面消隐点位置时,可采用如下两种方式:
第一种方式、基于预先建立的回归网络进行确定。
具体实施时,终端可将目标分割概率图输入到预先建立的回归网络中,基于预先建立的回归网络,终端通过对目标分割概率图进行横纵方向的序列扫描,获取目标分割概率图对应的序列特征,进而根据序列特征采用全连接方式实现目标消隐点位置的回归,从而输出目标路面消隐点位置。
第二种方式、基于用于路面消隐点的公式进行确定。
具体实施时,包括以下步骤:
第一步,对于目标分割概率图上的每个像素点,终端获取每个像素点位于目标道路图片不同区域的概率。
第二步,终端根据每个像素点位于目标道路图片不同区域的概率,确定目标道路图片的目标路面消隐点位置。
终端根据每个像素点位于目标道路图片不同区域的概率,应用以下公式,可确定出目标道路图片的目标路面消隐点位置:
其中,locvp表示目标路面消隐点位置,pn(x,y)表示任一像素点位于目标道路图片不同区域的概率,n表示区域的数量,x表示像素点的横坐标,y表示像素点的纵坐标。基于上述公式,终端遍历目标道路图片所包括的每个像素点,并获取每个像素点位于不同区域的概率,进而计算每个像素点位于每个区域的概率与的绝对值的平方和,得到每个像素点作为目标路面消隐点位置方差值,并从所有像素点的作为目标路面消隐点位置方差值中,选择最小的方差值,进而将最小方差值对应的像素点作为目标路面消隐点位置。
在本发明的另一个实施例中,依据以往的计算经验,路面消隐点位置一般位于图像二分之一高度附近。因此,在实际遍历的时候,可选取图像1/3到2/3高度范围即可,从而可减少计算次数。
图8示出了路面消隐点位置的确定时序图,参见图8,该过程包括以下步骤:
1、在车辆行驶过程中,获取目标道路图片。
2、将目标道路图片的图像序列输入到深度学习模型中,采用深度学习模型进行区域分割,并输出目标道路图片对应的目标分割概率图。
3、将目标分割概率图输入到回归网络中,经过回归网络进行图像序列扫描。
4、对经过图像序列扫描之后的目标分割概率图进行全连接回归,得到路面消隐点位置。
5、输出所确定的目标路面消隐点位置。
704、终端根据目标路面消隐点位置进行驾驶指导。
基于所确定的目标道面消隐点位置,终端采用ADAS系统进行车辆测距、车道线拟合等,从而为用户提供安全可靠的驾驶方案。
本发明实施例提供的方法,通过将获取到的目标道路图片输入到深度学习模型,即可输出目标分割概率图,从而基于目标分割概率图,确定出目标道路图片的目标路面消隐点位置。由于无需进行迭代计算,因而所确定的目标路面消隐点位置更为准确。
参见图9,本发明实施例提供了一种确定路面消隐点位置的装置,该装置包括:
获取模块901,用于获取前方道路的目标道路图片;
处理模块902,用于将目标道路图片输入到深度学习模型中,输出目标道路图片对应的目标分割概率图,深度学习模型用于确定道路图片对应的分割概率图,分割概率图用于表征道路图片中每个像素点位于道路图片不同区域的概率;
确定模块903,用于根据目标分割概率图,确定目标道路图片的目标路面消隐点位置。
在本发明的另一个实施例中,该装置还包括:
获取模块901,用于获取多张建模道路图片,每张建模道路图片均标注有路面消隐点位置;
获取模块901,用于获取初始深度学习模型;
训练模块,用于根据多张建模道路图片,对初始深度学习模型进行训练,得到深度学习模型。
在本发明的另一个实施例中,训练模块,用于根据每张建模道路图片上的路面消隐点位置,将每张建模道路图片分割为四个区域,每个区域对应一个子建模分割概率图,且每个区域对应的子建模分割概率图构成建模道路图片对应的建模分割概率图;将每张建模道路图片对应的建模分割概率图输入到第一目标损失函数中;基于第一目标损失函数的函数值,对初始深度学习模型的模型参数进行调整,得到深度学习模型。
在本发明的另一个实施例中,确定模块903,用于将目标分割概率图输入到回归网络中,输出目标道路图片对应的目标路面消隐点位置,回归网络用于基于分割概率图,确定道路图片的路面消隐点位置。
在本发明的另一个实施例中,该装置还包括:
获取模块901,用于获取多张建模道路图片,每张建模道路图片均标注有路面消隐点位置;
处理模块902,用于将每张建模道路图片输入到深度学习模型中,输出每张建模道路图片对应的建模分割概率图;
获取模块901,用于获取初始回归网络;
训练模块,用于根据每张建模道路图片对应的建模分割概率图,对初始回归网络进行训练,得到回归网络。
在本发明的另一个实施例中,训练模块,用于将每张建模道路图片对应的建模分割概率图输入到第二目标损失函数中;基于第二目标损失函数的函数值,对初始回归网络的模型参数进行调整,得到回归网络。
在本发明的另一个实施例中,确定模块,用于对于目标分割概率图上的每个像素点,获取每个像素点位于目标道路图片不同区域的概率;根据每个像素点位于目标道路图片不同区域的概率,确定目标道路图片的目标路面消隐点位置。
在本发明的另一个实施例中,确定模块903,用于根据每个像素点位于目标道路图片不同区域的概率,应用以下公式,确定目标道路图片的目标路面消隐点位置:
其中,locvp表示目标路面消隐点位置,pn(x,y)表示任一像素点位于目标道路图片不同区域的概率,n表示区域的数量,x表示像素点的横坐标,y表示像素点的纵坐标。
综上,本发明实施例提供的装置,通过将获取到的目标道路图片输入到深度学习模型,即可输出目标分割概率图,从而基于目标分割概率图,确定出目标道路图片的目标路面消隐点位置。由于无需进行迭代计算,因而所确定的目标路面消隐点位置更为准确。
图10示出了本发明一个示例性实施例提供的终端1000的结构框图。该终端1000可以是:智能手机、平板电脑、MP3播放器(Moving Picture Experts Group Audio LayerIII,动态影像专家压缩标准音频层面3)、MP4(Moving Picture Experts Group AudioLayer IV,动态影像专家压缩标准音频层面4)播放器、笔记本电脑或台式电脑。终端1000还可能被称为用户设备、便携式终端、膝上型终端、台式终端等其他名称。
通常,终端1000包括有:处理器1001和存储器1002。
处理器1001可以包括一个或多个处理核心,比如4核心处理器、8核心处理器等。处理器1001可以采用DSP(Digital Signal Processing,数字信号处理)、FPGA(Field-Programmable Gate Array,现场可编程门阵列)、PLA(Programmable Logic Array,可编程逻辑阵列)中的至少一种硬件形式来实现。处理器1001也可以包括主处理器和协处理器,主处理器是用于对在唤醒状态下的数据进行处理的处理器,也称CPU(Central ProcessingUnit,中央处理器);协处理器是用于对在待机状态下的数据进行处理的低功耗处理器。在一些实施例中,处理器1001可以在集成有GPU(Graphics Processing Unit,图像处理器),GPU用于负责显示屏所需要显示的内容的渲染和绘制。一些实施例中,处理器1001还可以包括AI(Artificial Intelligence,人工智能)处理器,该AI处理器用于处理有关机器学习的计算操作。
存储器1002可以包括一个或多个计算机可读存储介质,该计算机可读存储介质可以是非暂态的。存储器1002还可包括高速随机存取存储器,以及非易失性存储器,比如一个或多个磁盘存储设备、闪存存储设备。在一些实施例中,存储器1002中的非暂态的计算机可读存储介质用于存储至少一个指令,该至少一个指令用于被处理器1001所执行以实现本申请中方法实施例提供的确定路面消隐点位置的方法。
在一些实施例中,终端1000还可选包括有:外围设备接口1003和至少一个外围设备。处理器1001、存储器1002和外围设备接口1003之间可以通过总线或信号线相连。各个外围设备可以通过总线、信号线或电路板与外围设备接口1003相连。具体地,外围设备包括:射频电路1004、触摸显示屏1005、摄像头1006、音频电路1007、定位组件1008和电源1009中的至少一种。
外围设备接口1003可被用于将I/O(Input/Output,输入/输出)相关的至少一个外围设备连接到处理器1001和存储器1002。在一些实施例中,处理器1001、存储器1002和外围设备接口1003被集成在同一芯片或电路板上;在一些其他实施例中,处理器1001、存储器1002和外围设备接口1003中的任意一个或两个可以在单独的芯片或电路板上实现,本实施例对此不加以限定。
射频电路1004用于接收和发射RF(Radio Frequency,射频)信号,也称电磁信号。射频电路1004通过电磁信号与通信网络以及其他通信设备进行通信。射频电路1004将电信号转换为电磁信号进行发送,或者,将接收到的电磁信号转换为电信号。可选地,射频电路1004包括:天线系统、RF收发器、一个或多个放大器、调谐器、振荡器、数字信号处理器、编解码芯片组、用户身份模块卡等等。射频电路1004可以通过至少一种无线通信协议来与其它终端进行通信。该无线通信协议包括但不限于:城域网、各代移动通信网络(2G、3G、4G及5G)、无线局域网和/或WiFi(Wireless Fidelity,无线保真)网络。在一些实施例中,射频电路1004还可以包括NFC(Near Field Communication,近距离无线通信)有关的电路,本申请对此不加以限定。
显示屏1005用于显示UI(User Interface,用户界面)。该UI可以包括图形、文本、图标、视频及其它们的任意组合。当显示屏1005是触摸显示屏时,显示屏1005还具有采集在显示屏1005的表面或表面上方的触摸信号的能力。该触摸信号可以作为控制信号输入至处理器1001进行处理。此时,显示屏1005还可以用于提供虚拟按钮和/或虚拟键盘,也称软按钮和/或软键盘。在一些实施例中,显示屏1005可以为一个,设置终端1000的前面板;在另一些实施例中,显示屏1005可以为至少两个,分别设置在终端1000的不同表面或呈折叠设计;在再一些实施例中,显示屏1005可以是柔性显示屏,设置在终端1000的弯曲表面上或折叠面上。甚至,显示屏1005还可以设置成非矩形的不规则图形,也即异形屏。显示屏1005可以采用LCD(Liquid Crystal Display,液晶显示屏)、OLED(Organic Light-Emitting Diode,有机发光二极管)等材质制备。
摄像头组件1006用于采集图像或视频。可选地,摄像头组件1006包括前置摄像头和后置摄像头。通常,前置摄像头设置在终端的前面板,后置摄像头设置在终端的背面。在一些实施例中,后置摄像头为至少两个,分别为主摄像头、景深摄像头、广角摄像头、长焦摄像头中的任意一种,以实现主摄像头和景深摄像头融合实现背景虚化功能、主摄像头和广角摄像头融合实现全景拍摄以及VR(Virtual Reality,虚拟现实)拍摄功能或者其它融合拍摄功能。在一些实施例中,摄像头组件1006还可以包括闪光灯。闪光灯可以是单色温闪光灯,也可以是双色温闪光灯。双色温闪光灯是指暖光闪光灯和冷光闪光灯的组合,可以用于不同色温下的光线补偿。
音频电路1007可以包括麦克风和扬声器。麦克风用于采集用户及环境的声波,并将声波转换为电信号输入至处理器1001进行处理,或者输入至射频电路1004以实现语音通信。出于立体声采集或降噪的目的,麦克风可以为多个,分别设置在终端1000的不同部位。麦克风还可以是阵列麦克风或全向采集型麦克风。扬声器则用于将来自处理器1001或射频电路1004的电信号转换为声波。扬声器可以是传统的薄膜扬声器,也可以是压电陶瓷扬声器。当扬声器是压电陶瓷扬声器时,不仅可以将电信号转换为人类可听见的声波,也可以将电信号转换为人类听不见的声波以进行测距等用途。在一些实施例中,音频电路1007还可以包括耳机插孔。
定位组件1008用于定位终端1000的当前地理位置,以实现导航或LBS(LocationBased Service,基于位置的服务)。定位组件1008可以是基于美国的GPS(GlobalPositioning System,全球定位系统)、中国的北斗系统、俄罗斯的格雷纳斯系统或欧盟的伽利略系统的定位组件。
电源1009用于为终端1000中的各个组件进行供电。电源1009可以是交流电、直流电、一次性电池或可充电电池。当电源1009包括可充电电池时,该可充电电池可以支持有线充电或无线充电。该可充电电池还可以用于支持快充技术。
在一些实施例中,终端1000还包括有一个或多个传感器1010。该一个或多个传感器1010包括但不限于:加速度传感器1011、陀螺仪传感器1012、压力传感器1013、指纹传感器1014、光学传感器1015以及接近传感器1016。
加速度传感器1011可以检测以终端1000建立的坐标系的三个坐标轴上的加速度大小。比如,加速度传感器1011可以用于检测重力加速度在三个坐标轴上的分量。处理器1001可以根据加速度传感器1011采集的重力加速度信号,控制触摸显示屏1005以横向视图或纵向视图进行用户界面的显示。加速度传感器1011还可以用于游戏或者用户的运动数据的采集。
陀螺仪传感器1012可以检测终端1000的机体方向及转动角度,陀螺仪传感器1012可以与加速度传感器1011协同采集用户对终端1000的3D动作。处理器1001根据陀螺仪传感器1012采集的数据,可以实现如下功能:动作感应(比如根据用户的倾斜操作来改变UI)、拍摄时的图像稳定、游戏控制以及惯性导航。
压力传感器1013可以设置在终端1000的侧边框和/或触摸显示屏1005的下层。当压力传感器1013设置在终端1000的侧边框时,可以检测用户对终端1000的握持信号,由处理器1001根据压力传感器1013采集的握持信号进行左右手识别或快捷操作。当压力传感器1013设置在触摸显示屏1005的下层时,由处理器1001根据用户对触摸显示屏1005的压力操作,实现对UI界面上的可操作性控件进行控制。可操作性控件包括按钮控件、滚动条控件、图标控件、菜单控件中的至少一种。
指纹传感器1014用于采集用户的指纹,由处理器1001根据指纹传感器1014采集到的指纹识别用户的身份,或者,由指纹传感器1014根据采集到的指纹识别用户的身份。在识别出用户的身份为可信身份时,由处理器1001授权该用户执行相关的敏感操作,该敏感操作包括解锁屏幕、查看加密信息、下载软件、支付及更改设置等。指纹传感器1014可以被设置终端1000的正面、背面或侧面。当终端1000上设置有物理按键或厂商Logo时,指纹传感器1014可以与物理按键或厂商Logo集成在一起。
光学传感器1015用于采集环境光强度。在一个实施例中,处理器1001可以根据光学传感器1015采集的环境光强度,控制触摸显示屏1005的显示亮度。具体地,当环境光强度较高时,调高触摸显示屏1005的显示亮度;当环境光强度较低时,调低触摸显示屏1005的显示亮度。在另一个实施例中,处理器1001还可以根据光学传感器1015采集的环境光强度,动态调整摄像头组件1006的拍摄参数。
接近传感器1016,也称距离传感器,通常设置在终端1000的前面板。接近传感器1016用于采集用户与终端1000的正面之间的距离。在一个实施例中,当接近传感器1016检测到用户与终端1000的正面之间的距离逐渐变小时,由处理器1001控制触摸显示屏1005从亮屏状态切换为息屏状态;当接近传感器1016检测到用户与终端1000的正面之间的距离逐渐变大时,由处理器1001控制触摸显示屏1005从息屏状态切换为亮屏状态。
本领域技术人员可以理解,图10中示出的结构并不构成对终端1000的限定,可以包括比图示更多或更少的组件,或者组合某些组件,或者采用不同的组件布置。
图11是根据一示例性实施例示出的一种服务器的结构框图。参照图11,服务器1100包括处理组件1122,其进一步包括一个或多个处理器,以及由存储器1132所代表的存储器资源,用于存储可由处理组件1122的执行的指令,例如应用程序。存储器1132中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件1122被配置为执行指令,以执行上述构建深度学习模型及构建回归网络中服务器所执行的功能。
服务器1100还可以包括一个电源组件1126被配置为执行服务器1100的电源管理,一个有线或无线网络接口1150被配置为将服务器1100连接到网络,和一个输入输出(I/O)接口1158。服务器1100可以操作基于存储在存储器1132的操作系统,例如WindowsServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM或类似。
本发明实施例提供了一种计算机可读存储介质,所述存储介质中存储有至少一条指令,所述指令由处理器加载并执行以实现如上述确定路面消隐点位置的方法所执行的操作。
需要说明的是:上述实施例提供的确定路面消隐点位置的装置在确定路面消隐点位置时,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将确定路面消隐点位置的装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。另外,上述实施例提供的确定路面消隐点位置的装置与确定路面消隐点位置的方法实施例属于同一构思,其具体实现过程详见方法实施例,这里不再赘述。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种确定路面消隐点位置的方法,其特征在于,所述方法包括:
获取多张建模道路图片,每张建模道路图片均标注有路面消隐点位置;
将所述每张建模道路图片输入到深度学习模型中,输出所述每张建模道路图片对应的建模分割概率图;
获取初始回归网络;
根据所述每张建模道路图片对应的建模分割概率图,对所述初始回归网络进行训练,得到回归网络,所述回归网络为长短期记忆LSTM网络;
获取前方道路的目标道路图片;
将所述目标道路图片输入到所述深度学习模型中,输出所述目标道路图片对应的目标分割概率图,所述深度学习模型用于确定道路图片对应的分割概率图,所述分割概率图用于表征道路图片中每个像素点位于道路图片不同区域的概率;
将所述目标分割概率图输入到所述回归网络中,基于所述回归网络,通过对所述目标分割概率图进行横纵方向的序列扫描,获取所述目标分割概率图对应的序列特征,根据所述序列特征采用全连接方式实现目标消隐点位置的回归,输出所述目标道路图片对应的目标路面消隐点位置。
2.根据权利要求1所述的方法,其特征在于,所述将所述每张建模道路图片输入到深度学习模型中,输出所述每张建模道路图片对应的建模分割概率图之前,还包括:
获取初始深度学习模型;
根据所述多张建模道路图片,对所述初始深度学习模型进行训练,得到深度学习模型。
3.根据权利要求2所述的方法,其特征在于,所述根据所述多张建模道路图片,对所述初始深度学习模型进行训练,得到深度学习模型,包括:
根据每张建模道路图片上的路面消隐点位置,将每张建模道路图片分割为四个区域,每个区域对应一个子建模分割概率图,且每个区域对应的子建模分割概率图构成所述建模道路图片对应的建模分割概率图;
将每张建模道路图片对应的建模分割概率图输入到第一目标损失函数中;
基于第一目标损失函数的函数值,对所述初始深度学习模型的模型参数进行调整,得到所述深度学习模型。
4.根据权利要求1所述的方法,其特征在于,所述根据所述每张建模道路图片对应的建模分割概率图,对所述初始回归网络进行训练,得到回归网络,包括:
将每张建模道路图片对应的建模分割概率图输入到第二目标损失函数中;
基于第二目标损失函数的函数值,对所述初始回归网络的模型参数进行调整,得到所述回归网络。
5.一种确定路面消隐点位置的装置,其特征在于,所述装置包括:
获取模块,用于获取多张建模道路图片,每张建模道路图片均标注有路面消隐点位置;
处理模块,用于将所述每张建模道路图片输入到深度学习模型中,输出所述每张建模道路图片对应的建模分割概率图;
所述获取模块,还用于获取初始回归网络;
训练模块,用于根据所述每张建模道路图片对应的建模分割概率图,对所述初始回归网络进行训练,得到所述回归网络,所述回归网络为长短期记忆LSTM网络;
所述获取模块,还用于获取前方道路的目标道路图片;
所述处理模块,还用于将所述目标道路图片输入到所述深度学习模型中,输出所述目标道路图片对应的目标分割概率图,所述深度学习模型用于确定道路图片对应的分割概率图,所述分割概率图用于表征道路图片中每个像素点位于道路图片不同区域的概率;
确定模块,用于将所述目标分割概率图输入到所述回归网络中,基于所述回归网络,通过对所述目标分割概率图进行横纵方向的序列扫描,获取所述目标分割概率图对应的序列特征,根据所述序列特征采用全连接方式实现目标消隐点位置的回归,输出所述目标道路图片对应的目标路面消隐点位置。
6.根据权利要求5所述的装置,其特征在于,所述装置还包括:
所述获取模块,用于获取初始深度学习模型;
训练模块,用于根据所述多张建模道路图片,对所述初始深度学习模型进行训练,得到深度学习模型。
7.根据权利要求6所述的装置,其特征在于,所述训练模块,用于根据每张建模道路图片上的路面消隐点位置,将每张建模道路图片分割为四个区域,每个区域对应一个子建模分割概率图,且每个区域对应的子建模分割概率图构成所述建模道路图片对应的建模分割概率图;将每张建模道路图片对应的建模分割概率图输入到第一目标损失函数中;基于第一目标损失函数的函数值,对所述初始深度学习模型的模型参数进行调整,得到所述深度学习模型。
8.根据权利要求5所述的装置,其特征在于,所述训练模块,用于将每张建模道路图片对应的建模分割概率图输入到第二目标损失函数中;基于第二目标损失函数的函数值,对所述初始回归网络的模型参数进行调整,得到所述回归网络。
9.一种用于确定路面消隐点位置的设备,其特征在于,所述设备包括处理器和存储器,所述存储器中存储有至少一条指令,所述指令由所述处理器加载并执行以实现如权利要求1至4中任一项所述的确定路面消隐点位置的方法所执行的操作。
10.一种计算机可读存储介质,其特征在于,所述存储介质中存储有至少一条指令,所述指令由处理器加载并执行以实现如权利要求1至4中任一项所述的确定路面消隐点位置的方法所执行的操作。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811590565.4A CN111369566B (zh) | 2018-12-25 | 2018-12-25 | 确定路面消隐点位置的方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811590565.4A CN111369566B (zh) | 2018-12-25 | 2018-12-25 | 确定路面消隐点位置的方法、装置、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111369566A CN111369566A (zh) | 2020-07-03 |
CN111369566B true CN111369566B (zh) | 2023-12-05 |
Family
ID=71211359
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811590565.4A Active CN111369566B (zh) | 2018-12-25 | 2018-12-25 | 确定路面消隐点位置的方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111369566B (zh) |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015207888A (ja) * | 2014-04-18 | 2015-11-19 | 富士通株式会社 | 撮像方向の正常性の判定方法、撮像方向の正常性の判定プログラムおよび撮像方向の正常性の判定装置 |
CN106529415A (zh) * | 2016-10-16 | 2017-03-22 | 北海益生源农贸有限责任公司 | 结合特征和模型的道路检测方法 |
CN108009524A (zh) * | 2017-12-25 | 2018-05-08 | 西北工业大学 | 一种基于全卷积网络的车道线检测方法 |
WO2018117538A1 (ko) * | 2016-12-23 | 2018-06-28 | 삼성전자 주식회사 | 차선 정보를 추정하는 방법 및 전자 장치 |
CN108229274A (zh) * | 2017-02-28 | 2018-06-29 | 北京市商汤科技开发有限公司 | 多层神经网络模型训练、道路特征识别的方法和装置 |
CN108256413A (zh) * | 2017-11-27 | 2018-07-06 | 科大讯飞股份有限公司 | 可通行区域检测方法及装置、存储介质、电子设备 |
CN108399419A (zh) * | 2018-01-25 | 2018-08-14 | 华南理工大学 | 基于二维递归网络的自然场景图像中中文文本识别方法 |
CN108764137A (zh) * | 2018-05-29 | 2018-11-06 | 福州大学 | 基于语义分割的车辆行驶车道定位方法 |
CN108876805A (zh) * | 2018-06-20 | 2018-11-23 | 长安大学 | 一种端对端无监督场景可通行区域认知与理解方法 |
CN109003286A (zh) * | 2018-07-26 | 2018-12-14 | 清华大学苏州汽车研究院(吴江) | 基于深度学习和激光雷达的道路分割方法 |
CN109033927A (zh) * | 2017-06-09 | 2018-12-18 | 株式会社理光 | 检测道路分割物的方法和装置以及计算机可读存储介质 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106997466B (zh) * | 2017-04-12 | 2021-05-04 | 百度在线网络技术(北京)有限公司 | 用于检测道路的方法和装置 |
JP6565967B2 (ja) * | 2017-05-12 | 2019-08-28 | トヨタ自動車株式会社 | 路上障害物検出装置,方法,およびプログラム |
-
2018
- 2018-12-25 CN CN201811590565.4A patent/CN111369566B/zh active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2015207888A (ja) * | 2014-04-18 | 2015-11-19 | 富士通株式会社 | 撮像方向の正常性の判定方法、撮像方向の正常性の判定プログラムおよび撮像方向の正常性の判定装置 |
CN106529415A (zh) * | 2016-10-16 | 2017-03-22 | 北海益生源农贸有限责任公司 | 结合特征和模型的道路检测方法 |
WO2018117538A1 (ko) * | 2016-12-23 | 2018-06-28 | 삼성전자 주식회사 | 차선 정보를 추정하는 방법 및 전자 장치 |
CN108229274A (zh) * | 2017-02-28 | 2018-06-29 | 北京市商汤科技开发有限公司 | 多层神经网络模型训练、道路特征识别的方法和装置 |
CN109033927A (zh) * | 2017-06-09 | 2018-12-18 | 株式会社理光 | 检测道路分割物的方法和装置以及计算机可读存储介质 |
CN108256413A (zh) * | 2017-11-27 | 2018-07-06 | 科大讯飞股份有限公司 | 可通行区域检测方法及装置、存储介质、电子设备 |
CN108009524A (zh) * | 2017-12-25 | 2018-05-08 | 西北工业大学 | 一种基于全卷积网络的车道线检测方法 |
CN108399419A (zh) * | 2018-01-25 | 2018-08-14 | 华南理工大学 | 基于二维递归网络的自然场景图像中中文文本识别方法 |
CN108764137A (zh) * | 2018-05-29 | 2018-11-06 | 福州大学 | 基于语义分割的车辆行驶车道定位方法 |
CN108876805A (zh) * | 2018-06-20 | 2018-11-23 | 长安大学 | 一种端对端无监督场景可通行区域认知与理解方法 |
CN109003286A (zh) * | 2018-07-26 | 2018-12-14 | 清华大学苏州汽车研究院(吴江) | 基于深度学习和激光雷达的道路分割方法 |
Non-Patent Citations (2)
Title |
---|
VPGNet: Vanishing Point Guided Network for Lane and Road Marking Detection and Recognition;Seokju Lee at el;《ICCV 2017》;第3-5章 * |
遥感图像道路提取方法综述;张永宏;何静;阚希;夏广浩;朱灵龙;葛涛涛;;计算机工程与应用(13);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN111369566A (zh) | 2020-07-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3779883B1 (en) | Method and device for repositioning in camera orientation tracking process, and storage medium | |
CN111126182B (zh) | 车道线检测方法、装置、电子设备及存储介质 | |
CN110544272B (zh) | 脸部跟踪方法、装置、计算机设备及存储介质 | |
CN110148178B (zh) | 相机定位方法、装置、终端及存储介质 | |
CN110059685A (zh) | 文字区域检测方法、装置及存储介质 | |
CN111104893B (zh) | 目标检测方法、装置、计算机设备及存储介质 | |
CN111062981A (zh) | 图像处理方法、装置及存储介质 | |
CN112581358B (zh) | 图像处理模型的训练方法、图像处理方法及装置 | |
CN110991457B (zh) | 二维码处理方法、装置、电子设备及存储介质 | |
CN112150560B (zh) | 确定消失点的方法、装置及计算机存储介质 | |
CN113205515B (zh) | 目标检测方法、装置、及计算机存储介质 | |
CN111538009B (zh) | 雷达点的标记方法和装置 | |
CN111127541B (zh) | 车辆尺寸的确定方法、装置及存储介质 | |
CN109754439B (zh) | 标定方法、装置、电子设备及介质 | |
CN110633336B (zh) | 激光数据搜索范围的确定方法、装置及存储介质 | |
CN111179628B (zh) | 自动驾驶车辆的定位方法、装置、电子设备及存储介质 | |
CN111984755A (zh) | 确定目标停车点的方法、装置、电子设备及存储介质 | |
CN111444749B (zh) | 路面导向标志的识别方法、装置及存储介质 | |
CN116824548A (zh) | 障碍物确定方法、装置、设备及可读存储介质 | |
CN110163192B (zh) | 字符识别方法、装置及可读介质 | |
CN111369566B (zh) | 确定路面消隐点位置的方法、装置、设备及存储介质 | |
CN114283395A (zh) | 车道线检测的方法、装置、设备及计算机可读存储介质 | |
CN114623836A (zh) | 车辆位姿确定方法、装置及车辆 | |
CN113298040A (zh) | 关键点检测方法、装置、电子设备及计算机可读存储介质 | |
CN116681755B (zh) | 位姿预测方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |