CN114862931A - 深度距离确定方法、装置、车辆、存储介质与芯片 - Google Patents
深度距离确定方法、装置、车辆、存储介质与芯片 Download PDFInfo
- Publication number
- CN114862931A CN114862931A CN202210616082.7A CN202210616082A CN114862931A CN 114862931 A CN114862931 A CN 114862931A CN 202210616082 A CN202210616082 A CN 202210616082A CN 114862931 A CN114862931 A CN 114862931A
- Authority
- CN
- China
- Prior art keywords
- depth
- distance
- distances
- depth distance
- image sensing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 57
- 230000002159 abnormal effect Effects 0.000 claims description 46
- 230000015654 memory Effects 0.000 claims description 28
- 238000012545 processing Methods 0.000 claims description 20
- 230000004927 fusion Effects 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 6
- 238000004891 communication Methods 0.000 description 22
- 238000010586 diagram Methods 0.000 description 15
- 230000008569 process Effects 0.000 description 12
- 238000004364 calculation method Methods 0.000 description 10
- 238000005259 measurement Methods 0.000 description 6
- 230000006399 behavior Effects 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 230000008447 perception Effects 0.000 description 5
- 230000001133 acceleration Effects 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000033001 locomotion Effects 0.000 description 4
- 230000005291 magnetic effect Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 230000005856 abnormality Effects 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 3
- 230000010267 cellular communication Effects 0.000 description 3
- 238000012937 correction Methods 0.000 description 3
- 239000000446 fuel Substances 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 238000007726 management method Methods 0.000 description 3
- LFQSCWFLJHTTHZ-UHFFFAOYSA-N Ethanol Chemical compound CCO LFQSCWFLJHTTHZ-UHFFFAOYSA-N 0.000 description 2
- ATUOYWHBWRKTHZ-UHFFFAOYSA-N Propane Chemical compound CCC ATUOYWHBWRKTHZ-UHFFFAOYSA-N 0.000 description 2
- 230000009471 action Effects 0.000 description 2
- 238000002485 combustion reaction Methods 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000002829 reductive effect Effects 0.000 description 2
- 230000003068 static effect Effects 0.000 description 2
- SAZUGELZHZOXHB-UHFFFAOYSA-N acecarbromal Chemical compound CCC(Br)(CC)C(=O)NC(=O)NC(C)=O SAZUGELZHZOXHB-UHFFFAOYSA-N 0.000 description 1
- 230000006978 adaptation Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013475 authorization Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000011217 control strategy Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000007499 fusion processing Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000036961 partial effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000003208 petroleum Substances 0.000 description 1
- 239000001294 propane Substances 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 230000000979 retarding effect Effects 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/521—Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10032—Satellite or aerial image; Remote sensing
- G06T2207/10044—Radar image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Optics & Photonics (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
本公开涉及一种深度距离确定方法、装置、车辆、存储介质与芯片,涉及自动驾驶技术领域。所述方法运用于车辆,所述车辆包括图像传感装置与雷达装置,包括:通过图像传感装置获取多个不同时刻下第一目标物与第二目标物之间的第一深度距离;通过雷达装置获取多个不同时刻下所述第一目标物与所述第二目标物之间的第二深度距离;对多个第一深度距离与多个第二深度距离进行融合,得到目标深度距离。采用本公开提出的深度距离确定方法,可以提升确定深度距离的准确性。
Description
技术领域
本公开涉及自动驾驶技术领域,尤其涉及一种深度距离确定方法、装置、车辆、存储介质与芯片。
背景技术
目前,在机器人导航、车辆自动驾驶导航等应用场景中,均会对机器人与障碍物之间的深度距离,或者车辆与障碍物之间的深度距离进行计算,来保证机器人或车辆能够更好地对障碍物进行避障。
相关技术中,以车辆举例,采用图像传感装置来确定车辆与障碍物之间的深度距离的情况下,图像传感装置受到自然光的影响,所拍摄的图像存在会过度曝光或者过暗的现象,导致依据拍摄的图像所计算出的深度距离准确性较低;采用雷达装置来确定车辆与障碍物之间的深度距离的情况下,若障碍物上同样存在雷达装置,会使得车辆上的雷达装置受到障碍物上的雷达装置的影响,导致通过雷达装置所得到的深度距离的准确性较低。
发明内容
为克服相关技术中存在的问题,本公开提供一种深度距离确定方法、装置、车辆、存储介质与芯片。
根据本公开实施例的第一方面,提供一种深度距离确定方法,所述方法运用于车辆,所述车辆包括图像传感装置与雷达装置,包括:
通过图像传感装置获取多个不同时刻下第一目标物与第二目标物之间的第一深度距离;
通过雷达装置获取多个不同时刻下所述第一目标物与所述第二目标物之间的第二深度距离;
对多个第一深度距离与多个第二深度距离进行融合,得到目标深度距离。
可选地,对多个第一深度距离与多个第二深度距离进行融合,得到目标深度距离,包括:
从所述多个第一深度距离和所述多个第二深度距离中,确定异常深度距离;
剔除所述异常深度距离,得到多个正常深度距离;
对所述多个正常深度距离进行加权平均处理,得到所述目标深度距离。
可选地,对多个第一深度距离与多个第二深度距离进行融合,得到目标深度距离,包括:
根据所述多个第一深度距离与所述多个第一深度距离各自的权重,以及所述第二深度距离与所述多个第二深度距离各自的权重,得到所述目标深度距离。
可选地,所述图像传感装置为至少两个,至少两个图像传感装置位于所述第一目标物上,所述第一深度距离通过以下步骤获取:
根据所述至少两个图像传感装置中,每两个图像传感装置拍摄所述第二目标物产生的视差、所述每两个图像传感装置之间的距离以及所述图像传感装置的焦距,确定所述第一深度距离;
其中,所述至少两个图像传感装置的焦距相同。
可选地,所述雷达装置位于所述第一目标物上,所述第二深度距离通过以下步骤获取:
根据所述雷达装置与图像采集装置之间的距离、第一夹角以及第二夹角,确定所述第二深度距离;
其中,所述第一夹角为所述雷达装置与所述第二目标物的连线,以及所述雷达装置与所述图像采集装置的连线之间的夹角;所述第二夹角为所述雷达装置与所述第二目标物的连线,以及所述图像采集装置与所述第二目标物的连线之间的夹角。
可选地,从所述多个第一深度距离和所述多个第二深度距离中,确定异常深度距离之后,所述方法包括:
确定产生所述异常深度距离的目标图像传感装置或目标雷达装置;
显示所述目标图像传感装置或目标雷达装置异常的告警信息。
根据本公开实施例的第二方面,提供一种深度距离确定装置,所述方法运用于车辆,所述车辆包括图像传感装置与雷达装置,所述深度距离确定装置包括:第一深度距离确定模块、第二深度距离确定模块以及融合模块;
所述第一深度距离确定模块,被配置为通过图像传感装置获取多个不同时刻下第一目标物与第二目标物之间的第一深度距离;
所述第二深度距离确定模块,被配置为通过雷达装置获取多个不同时刻下所述第一目标物与所述第二目标物之间的第二深度距离;
所述融合模块,被配置为对所述多个第一深度距离与所述多个第二深度距离进行融合,得到目标深度距离。
根据本公开实施例的第三方面,提供一种车辆,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:
执行本公开第一方面所述提供的深度距离确定方法的步骤。
根据本公开实施例的第四方面,提供一种计算机可读存储介质,其上存储有计算机程序指令,该程序指令被处理器执行时实现本公开第一方面所述提供的深度距离确定方法的步骤。
根据本公开实施例的第五方面,提供一种芯片,包括处理器和接口;所述处理器用于读取指令以执行本公开第一方面所述提供的深度距离确定方法的步骤。
本公开的实施例提供的技术方案可以包括以下有益效果:
可以在通过图像传感装置获取到第一目标物与第二目标物之间的第一深度距离的同时,通过雷达装置来获取第一目标物与第二目标物之间的第二深度距离,并将第一深度距离与第二深度距离进行融合,来得到目标深度距离。
在这个过程中,在图像传感装置受到自然光的影响,而输出准确性较低的第一深度距离的情况下,由于雷达装置不会受到自然光的影响,所以雷达装置会输出准确性较高的第二深度距离,此时采用准确性较高的第二深度距离与第一深度距离之间的融合,可以弱化准确性较低的第一深度距离的影响,来得到准确的目标深度距离。
在雷达装置受到第二目标物发出的激光的影响,而输出准确性较低的第二深度距离的情况下,由于图像传感装置不会受到激光的影响,所以图像传感装置会输出准确性较高的第一深度距离,此时采用准确性较高的第一深度距离与第二深度距离之间的融合,可以弱化准确性较低的第二深度距离的影响,来得到准确的目标深度距离。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。
图1是根据一示例性实施例示出的一种深度距离确定方法的流程图;
图2是根据一示例性实施例示出的一种图像传感装置与雷达装置的分布图;
图3是根据一示例性实施例示出的一种深度距离确定方法的流程图;
图4是根据一示例性实施例示出的一种深度距离确定方法的流程图;
图5是根据一示例性实施例示出的一种计算第一深度距离的原理图;
图6是根据一示例性实施例示出的一种计算第二深度距离的原理图;
图7是根据一示例性实施例示出的一种计算第二深度距离的原理图;
图8是根据一示例性实施例示出的一种深度距离确定装置的框图;
图9是根据一示例性实施例示出的一种装置的框图(移动终端的一般结构);
图10是根据一示例性实施例示出的一种车辆的功能框图示意图(车辆的一般结构);
图11是根据一示例性实施例示出的一种装置的框图(服务器的一般结构)。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
需要说明的是,本申请中所有获取信号、信息或数据的动作都是在遵照所在地国家相应的数据保护法规政策的前提下,并获得由相应装置所有者给予授权的情况下进行的。
图1是根据一示例性实施例示出的一种深度距离确定方法的流程图,如图1所示,深度距离确定方法用于终端中,包括以下步骤。
在步骤S11中,通过图像传感装置获取多个不同时刻下第一目标物与第二目标物之间的第一深度距离。
本步骤中,第一目标物可以是车辆、机器人、虚拟现实眼镜等需要识别障碍物的移动设备,也可以是对微操作进行检测、三维测量等非移动设备。第二目标物可以为车辆、机器人、路牌、墙壁等障碍物,第一目标物与第二目标物可以相同,也可以不同,依据具体的运用场景而定。
其中,图像传感装置的数量可以为至少两个,图像传感装置可以为摄像头。例如,可以在车辆四侧的每一侧上设置两个图像传感装置,也可以在车辆四侧的每一侧上设置三个图像传感装置,本公开在此不做限制。
其中,图像传感装置在预设时长内会获取到多个不同时刻下的第一深度距离,例如,当车辆经过障碍物的100ms内,位于车辆上的图像传感装置会计算得到第1ms、2ms、3ms等等多个不同时刻下的第一深度距离,来确保获取到的第一深度距离的准确性。
其中,图像传感装置在获取第一深度距离的过程中,由于图像传感装置受到环境中的自然光的影响,图像传感装置在光线较暗的环境中拍摄出的图像较暗,在光线较亮的环境中拍摄出的图像较亮,而不论是过亮还是过暗的图像,均不利于图像处理,从而导致依据图像所得到的第一深度距离的准确性较低。
然而,在障碍物上安装有雷达装置,雷达装置发出激光的情况下,若图像传感装置的拍摄方向与障碍物发出的激光错开,图像传感装置则可以不受障碍物发出激光的影响,即使障碍物发出激光,图像传感装置也可以拍摄到清晰的图像,激光在图像中是一个成像的点,所以障碍物产生的激光并不会对图像传感装置造成影响,图像传感装置可以在障碍物发出激光的场景下,进行准确地测距。
具体地,可以将每个目标物上的图像传感装置与雷达装置分布设置在目标物的不同高度。那么,第一目标物经过具有雷达装置的第二目标物时,第一目标物上的图像传感装置会与第二目标物上的雷达装置错开,第二目标物上的图像传感装置也会与第一目标物上的雷达装置错开,请参阅图2所示,车辆A的图像传感装置的拍摄方向并非是直接与车辆B的雷达装置相对,而是与车辆B的雷达装置相互错开,图像传感装置所拍摄出的图像中,车辆B上的雷达装置发出的激光是在图像中为一个成像点。
在第一目标物上的图像传感装置的拍摄方向会与第二目标物上的激光雷达装置发出的激光方向错开,第二目标物上的图像传感装置的拍摄方向也会与第一目标物上的激光雷达装置发出的激光方向错开的情况下,激光雷达装置发出的激光不会烧毁图像传感装置,位于第一目标物上的图像传感装置与第二目标物上的图像传感装置均会采集到清晰的障碍物图像,从而基于清晰的障碍物图像进行第一深度距离的计算。
在步骤S12中,通过雷达装置获取多个不同时刻下所述第一目标物与所述第二目标物之间的第二深度距离。
本步骤中,在图像传感装置获取第一目标物与第二目标物之间的第一深度距离的同时,还可以通过雷达装置获取第一目标物与第二目标物之间的第二深度距离。
其中,雷达装置可以为激光雷达装置,雷达装置的数量为至少一个,至少一个雷达装置布置在车辆上。雷达装置在预设时长内,也可以获取多个不同时刻下的第二深度距离,由于雷达装置与图像传感装置是布置在同一第一目标物,例如车辆上,所以车辆在预设时长内移动的过程中,图像传感装置会实时地计算出多个第一深度距离,雷达装置也会实时地计算出多个第二深度距离。
第一目标物上的雷达装置在获取第二深度距离的过程中,若雷达装置发射出的激光所扫描的第二目标物同样存在雷达装置的情况下,即使第一目标物上的雷达装置与第二目标物上的雷达装置错开,第二目标物上的雷达装置所发出的激光会干扰雷达装置,导致雷达装置无法获取到准确的第二深度距离。
例如,请参阅图2所示,第一目标物(图2中的车辆A)与第二目标物(图2中的车辆B)上均设置有雷达装置,第一目标物上的雷达装置在对第二目标物进行扫描的过程中,第一目标物的雷达装置所发出的激光会受到第二目标物上的雷达装置所发出的激光的影响,而无法准确地获取到第二深度距离。
然而,雷达装置可以准确地感知障碍物的三维信息,其探测精度在厘米级以内,这就使得雷达装置不受自然环境光的影响,能够准确地识别出障碍物与第一目标物之间的距离。在第二目标物上不存在雷达装置的情况下,通过第一目标物上的雷达装置能够准确地计算出第一目标物与第二目标物之间的第二深度距离。
通过步骤S11与步骤S12可以得知,图像传感装置针对于障碍物会发出的激光的场景下,可以准确地获取到第一深度距离;雷达装置针对于自然光变化的场景,可以准确地获取到第二深度距离,那么,对第一深度距离与第二深度距离进行融合,结合图像传感装置与雷达装置各自的测距优势,可以得到准确的目标深度距离。
在步骤S13中,对所述多个第一深度距离与所述多个第二深度距离进行融合,得到目标深度距离。
本步骤中,融合处理可以为对第一深度距离与第二深度距离进行加权平均处理,来得到目标深度距离。
在图像传感装置受到自然光的影响,而输出准确性较低的第一深度距离的情况下,由于雷达装置不会受到自然光的影响,所以雷达装置会输出准确性较高的第二深度距离,此时采用准确性较高的第二深度距离与第一深度距离之间的融合,可以弱化准确性较低的第一深度距离的影响,来得到准确的目标深度距离。
在雷达装置受到第二目标物发出的激光的影响,而输出准确性较低的第二深度距离的情况下,由于图像传感装置不会受到激光的影响,所以图像传感装置会输出准确性较高的第一深度距离,此时采用准确性较高的第一深度距离与第二深度距离之间的融合,可以弱化准确性较低的第二深度距离的影响,来得到准确的目标深度距离。
由于图像传感装置在计算第一深度距离,雷达装置在计算第二深度距离的过程中,图像传感装置与雷达装置均可能计算错误,导致第一深度距离与第二深度距离中存在异常深度距离,而异常深度距离会导致得到的目标深度距离的准确性降低。
因此,在一种可能的实施方式中,请参阅图3所示,对所述多个第一深度距离与所述多个第二深度距离进行融合,得到目标深度距离,包括以下步骤。
在步骤S21中,从所述多个第一深度距离与所述多个第二深度距离中,确定异常深度距离。
本步骤中,可以根据多个第一深度距离中相邻两个第一深度距离的差值与第一预设差值之间的关系,来确定多个第一深度距离中的异常深度距离;也可以根据多个第二深度距离中相邻两个第二深度距离的差值与第二预设差值之间的关系,来确定多个第二深度距离中的异常深度距离。
其中,第一预设差值可以相同,也可以不同,根据具体的实际情况进行设置。
示例地,在计算多个第一深度距离中的异常深度距离的情况下,以第一预设差值为0.2为例,多个第一深度距离依次为5m、5.1m、5.2m、5.3m、6m、5.5m,在多个第一深度距离中,5m、5.1m、5.2m、5.3m中相邻两个第一深度距离的差值均为0.1小于0.2,而5.3m、6m之间的差值为0.7,6m与5.5m之间的差值为0.5,0.7与0.5均大第一预设差值于0.2,所以确定6m的第一深度距离为异常深度距离。
同理,在计算多个第二深度距离中的异常深度距离的情况下,也可以比较相邻两个第二深度距离的差值与第二预设差值之间的大小关系,在相邻两个第二深度距离的差值大于第二预设差值的情况下,将同时与相邻两个第二深度距离的差值大于第二预设差值的第二深度距离作为异常深度距离,也是将多个第二深度距离中突然增大或突然减小的第二深度距离作为异常深度距离。
其中,第一深度距离中的异常深度距离可以为一个,也可以为多个;第二深度距离中的异常深度距离也可以为一个,或者多个。
在步骤S22中,剔除异常深度距离,得到多个正常深度距离。
本步骤中,从所述多个第一深度距离与所述多个第二深度距离中剔除异常深度距离之后,可以避免异常深度距离对目标深度距离的计算造成影响。
在步骤S23中,对所述多个正常深度距离进行加权平均处理,得到所述目标深度距离。
其中,在图像传感装置所计算的多个第一深度距离中存在异常深度距离的情况下,将多个第一深度距离中的正常深度距离与第二深度距离进行加权平均,得到目标深度距离;在雷达装置所计算的多个第二深度距离存在异常深度距离的情况下,将多个第二深度距离中的正常深度距离与多个第一深度距离进行加权平均,得到目标深度距离;在第一深度距离与第二深度距离中均存在异常深度距离的情况下,将第一深度距离中的正常深度距离与第二深度距离中的正常深度距离进行加权平均,得到目标深度距离。
例如,在图像传感装置所采集的图像过亮,且图像传感装置采集错误的情况下,导致获取到的第一深度距离相较于第一目标物与第二目标物之间的真实深度距离(例如为31)较小的情况下,图像传感装置获取到的多个第一深度距离为20m、20m、30m、20m,雷达装置获取到的多个第二深度距离为30m、30m、40m、30m的情况下,此时可以将第一深度距离中的异常深度距离30剔除以及第二深度距离中的异常深度距离40剔除后,将剩余六个第一深度距离与第二深度距离的平均值25作为目标深度距离。由于目标深度距离25,相较于图像传感装置获得的第一深度距离20而言,均更加接近真实深度距离(31),所以得到的目标深度距离的准确性较高。
在这个过程中,由于图像传感装置与雷达装置所测得的数据可能无法达到与实际深度距离完全相同,所以将第一深度距离与第二深度距离融合,通过二者数据的相互修正,可以使得得到的目标深度距离能够在普遍的场景下接近真实深度距离,在提升目标深度距离的准确性的同时,也使得所得到的目标深度距离的可信度较高。
在一种可能的实施方式中,请参阅图4所示,对所述多个第一深度距离与所述多个第二深度距离进行融合,得到目标深度距离,还包括以下步骤。
在步骤S31中,对所述多个第一深度距离与所述多个第二深度距离进行归一化处理,得到正太分布曲线。
本步骤中,在对多个第一深度距离与第二深度距离进行归一化处理后,得到多个第一深度距离与第二深度距离的正太分布公式,依据该正太分布公式可以得到正太分布曲线。
其中,正太分布公式为:
公式(1)中的x为多个第一深度距离与多个第二深度距离的值;u为多个第一深度距离与多个第二深度距离的平均值。
在步骤S32中,根据正太分布曲线,得到多个第一深度距离和多个第二深度距离的权重。
本步骤中,可以在正太分布曲线中,为距离平均值u越近的第一深度距离或第二深度距离,分配更高的权重,距离平均值u越远的第一深度距离或第二深度距离分配更低的权重。
由于异常深度距离往往低于平均值或高于平均值较多,所以距离平均值越远的深度距离的权重越低,也就使得异常深度距离所占的权重较低,弱化了异常深度距离在多个深度距离中的重要性,使得得到的目标深度距离的准确性较高。
示例地,多个第一深度距离为20m、20m、30m、20m,多个第一深度距离的平均值为22.5的情况下,由于第一深度距离20距离平均值22.5较近,所以为多个第一深度距离20m分配0.9的权重,由于30距离平均值22.5的距离较远,所以为第一深度距离30m分配0.1的权重。如此,便提高了正常深度距离20m的重要性,弱化了异常深度距离30m的重要性,使得得到的目标深度距离更加准确。
在步骤S33中,在对第一深度距离与第二深度距离进行融合的情况下,根据所述多个第一深度距离与所述多个第一深度距离各自的权重,以及所述第二深度距离与所述多个第二深度距离各自的权重,得到所述目标深度距离。
本步骤中,可以采用以下两种方式,来得到目标深度距离。
方式1:计算多个第一深度距离与多个第二深度距离的第一平均值,分别确定多个第一深度距离与多个第二深度距离,和第一平均值之间的差值,根据差值为多个第一深度距离与多个第二深度距离分配各自的权重,最后再根据所述多个第一深度距离与所述多个第一深度距离各自的权重,以及所述第二深度距离与所述多个第二深度距离各自的权重,来得到目标深度距离。
示例地,假定多个第一深度距离为d1=[x1,x2,x3,x4],多个第二深度距离为d2=[y1,y2,y3,y4]的情况下,d1与d2的平均值再根据差值越小权重越大,差值越大权重越小的原则,得到第一深度距离d1=[x1,x2,x3,x4]的权重分别为P1=[W1,W2,W3,W4],得到第二深度距离d2=[y1,y2,y3,y4]的权重分别为P2=[W5,W6,W7,W8],那么目标深度距离D=x1*W1+x2*W2+x3*W3+y1*W4+y2*W5+y3*W6+y3*W7+y4*W8。
方式2:计算多个第一深度距离的第二平均值,确定多个第一深度距离与第二平均值之间的差值,根据多个第一深度距离与第二平均值之间的差值,为多个第一深度距离分配各自的权重;计算多个第二深度距离的第三平均值,确定多个第二深度距离与第三平均值之间的差值,根据多个第二深度距离与第三平均值之间的差值,为多个第二深度距离分配各自的权重;最后再根据所述多个第一深度距离与所述多个第一深度距离各自的权重,以及所述第二深度距离与所述多个第二深度距离各自的权重,来得到目标深度距离。
示例地,假定多个第一深度距离为d1=[x1,x2,x3,x4]的情况下,d1的第二平均值为根据多个第一深度距离与第二平均值之间的差值,得到多个第一深度距离的权重分别为P1=[W1,W2,W3,W4];假定多个第二深度距离为d2=[y1,y2,y3,y4]的情况下,d2的第三平均值为根据多个第二深度距离与第三平均值之间的差值,得到多个第二深度距离的权重分别为P2=[W5,W6,W7,W8],那么目标深度距离D=x1*W1+x2*W2+x3*W3+y1*W4+y2*W5+y3*W6+y3*W7+y4*W8。
可见,方式1与方式2均是根据多个第一深度距离与所述多个第一深度距离各自的权重,以及所述第二深度距离与所述多个第二深度距离各自的权重,得到所述目标深度距离。只是在将平均值与多个深度距离进行比较的过程中,方式1是按将所有的第一深度距离与第二深度距离的第一平均值,与第一深度距离或第二深度距离之间的差值,来确定权重;方式2是按照第一深度距离的第二平均值与第一深度距离的差值,来确定第一深度距离的权重,按照第二深度距离的第三平均值与第二深度距离的差值,来确定第二深度距离的权重。
可见,在得到目标深度距离的过程中,异常深度距离与平均值之间距离较远,异常深度距离的权重较小,弱化了异常深度距离对计算目标深度距离的影响,从而提升了目标深度距离的准确性。
在一种可能的实施方式中,可以通过以下步骤确定第一深度距离。
在步骤S41中,确定所述至少两个图像传感装置中,每两个图像传感装置拍摄同一所述第二目标物所产生的视差。
示例地,在图像传感装置的数量为两个时,视差指的就是两个图像传感装置拍摄同一第二目标物所产生的视差;在图像传感装置的数量为三个(例如图像传感装置A、图像传感装置B、图像传感装置C)时,视差指的是图像传感装置A与图像传感装置B之间的视差,或图像传感装置A与图像传感装置C之间的视差,或图像传感装置B与图像传感装置C之间的视差。
在步骤S42中,确定所述每两个图像传感装置之间的距离。
示例地,在图像传感装置的数量为两个时,距离指的就是两个图像传感装置之间的距离;在图像传感装置的数量为三个(例如图像传感装置A、图像传感装置B、图像传感装置C)时,距离指的是图像传感装置A与图像传感装置B之间的距离,或图像传感装置A与图像传感装置C之间的距离,或图像传感装置B与图像传感装置C之间的距离。
在步骤S43中,确定所述至少两个图像传感装置的焦距,所述至少两个图像传感装置的焦距相同。
本步骤中,图像传感装置为至少两个,例如,可以在车辆四侧的每一侧上设置两个图像传感装置,也可以在车辆四侧的每一侧上设置三个图像传感装置,从而在第一目标物的四个方向上对第二目标物与第一目标物之间的第一深度距离进行确定。
在步骤S44中,根据每两个图像传感装置拍摄所述第二目标物产生的视差、所述每两个图像传感装置之间的距离以及所述图像传感装置的焦距,确定所述第一深度距离。
请参阅图5所示,以每两个图像传感装置共同拍摄同一第二目标物举例,从图5中可以根据相似三角形原理得到:
其中,P点为第二目标物;L点与R点分别为两个图像传感装置;Z为第一目标物与第二目标物之间的第一深度距离;b为两个图像传感装置之间的距离;f为图像传感装置的焦距;xl为L点的图像传感装置所拍摄的图像中,像素点距离图像左边缘的距离;xr为R点的图像传感装置所拍摄的图像中,像素点距离图像左边缘的距离。
从公式(2)可以推导得到:
其中,d为每两个图像传感装置拍摄同一第二目标物所产生的视差,该视差可以通过两个不同图像中相同位置的像素点距离图像边缘的距离之差得到。
从公式(3)中可以看出,如果要计算第一深度距离,需要确定图像传感装置的焦距,两个图像传感装置之间的距离以及两个图像传感装置拍摄同一第二目标物所产生的视差,而图像传感装置的焦距在图像传感装置的配置参数中获取,两个图像传感装置之间的距离可以通过测量得到,视差也可以通过计算得到,因此可以确定第一深度距离。
其中,由于两个图像传感装置所拍摄的第二目标物不同的情况下,可能会导致视差的值不同,所以在每次计算第一深度距离之前,可以实时计算视差,而由于图像传感装置的焦距以及两个图像传感装置之间的距离基本不会变化,所以可以在计算得到焦距与距离之后,在后续每次计算第一深度距离时,获取焦距与距离即可,而无需对焦距与距离进行多次计算。
通过至少两个图像传感装置来确定第一深度距离,可以减少视差对于计算第一深度距离的影响,进而提升获取到的目标深度距离的准确性。当至少两个图像传感装置的数量大于或等于3个时,在同一时刻根据视差、距离以及焦距得到的第一深度距离为多个,所以依据至少两个图像传感装置的设置,可以依据同一时刻的多个第一深度距离进行相互校正,来得到更加准确的第一深度距离。
示例地,在第一目标物同一侧的图像传感装置的数量为3个时,在同一时刻所获得的第一深度距离的数量为3个;在第一目标物同一侧的图像传感装置的数量为4个时,在同一时刻所获得的第一深度距离的数量为6个。
具体校正时,可以将至少两个图像传感装置在同一时刻获得的多个第一深度进行加权平均处理,以得到更加准确的第一深度距离。
在一种可能的实施方式中,可以通过以下步骤确定第二深度距离。
在步骤S51中,确定所述雷达装置与图像采集装置之间的距离,其中,所述雷达装置所发出的射线经过所述第二目标物的反射后,入射至所述图像采集装置中,形成所述第二目标物的图像。
本步骤中,图像采集装置可以为相机,具体可以为CCD(charge coupled device,电荷耦合期间)相机。
请参阅图6所示,图6中的A、B、C为不同的第二目标物,当雷达装置发出的激光照射至第二目标物上后,被第二目标物所反射,反射的光入射至图像采集装置中,在图像采集装置上形成图像,例如,A、B、C在图像采集装置上的成像点分别为A’、B’、C’。
在步骤S52中,确定所述雷达装置与所述第二目标物的连线,以及所述雷达装置与所述图像采集装置的连线之间的第一夹角。
请参阅图6所示,第一夹角可以通过测量工具测量得到,图6示出了第一夹角为90度。
在步骤S53中,根据所述第二目标物的图像,确定所述雷达装置与所述第二目标物的连线,以及所述图像采集装置与所述第二目标物的连线之间的第二夹角。
请参阅图6所示,可以根据第二目标物在图像采集装置上的成像点A’、B’、C’,来确定第二夹角。
在步骤S54中,根据所述雷达装置与所述图像采集装置之间的距离、第一夹角以及第二夹角,确定所述第二深度距离。
请参阅图6所示,在确定了雷达装置与图像采集装置之间的距离、第一夹角以及第二夹角之后,确定第二深度距离的计算方式,则变成了三角形中的角边角的计算方式。
例如,请参阅图7所示,图7中的A为第一夹角,B为第二夹角,C为第三夹角,第三夹角指的是雷达装置与图像采集装置之间的连线,以及图像采集装置与第二目标物之间的连线的夹角,a为雷达装置与第二目标物之间的距离,b为雷达装置与图像采集装置之间的距离,c为第二深度距离。
根据三角形的正弦定理可知:
从公式(4)中可以看出,在得知了sin A、sin B以及b之后,可以得到其余的a、c以及sin C,那么,则可以确定第二深度距离C。
在一种可能的实施方式中,在确定了异常深度距离之后,还可以确定产生异常深度近距离的目标图像传感装置或目标雷达装置,显示目标图像传感装置和/或目标雷达装置异常的告警信息。
具体地,可以通过两个图像传感装置来获取多个第一深度距离,可以通过一个或多个雷达装置,来获取第二深度距离。
当第一深度距离中出现异常深度距离的情况下,则可以从两个图像传感装置中确定输出异常深度距离的目标图像传感装置,并报告该目标图像传感装置异常的告警信息;当第二深度距离中出现异常深度距离的情况下,若雷达装置有一个,则该雷达装置为目标雷达装置,若雷达装置有多个,则从多个雷达装置中确定输出异常深度距离的目标雷达装置,并报告目标雷达装置异常的告警信息;当第一深度距离与第二深度距离中同时出现异常深度距离的情况下,则报告输出异常深度距离的目标图像传感装置与目标雷达装置异常的信息。
其中,也可以通过图像传感装置获取到的图像,来确定图像传感装置是否异常,或者通过图像采集装置获取到的图像,来确定图像采集装置是否异常。例如,当图像有污点时,则说明图像传感装置的镜头被污染,当图像中的物体方向错误时,说明图像传感装置的镜头方向不准确等等,图像采集装置的原理与图像传感装置类似。
图8是根据一示例性实施例示出的一种深度距离确定装置的框图。该深度距离确定装置200应用于车辆,车辆包括图像传感装置与雷达装置,该装置200包括:第一深度距离确定模块210、第二深度距离确定模块220以及融合模块230;
所述第一深度距离确定模块210,被配置为通过图像传感装置获取多个不同时刻下第一目标物与第二目标物之间的第一深度距离;
所述第二深度距离确定模块220,被配置为通过雷达装置获取多个不同时刻下所述第一目标物与所述第二目标物之间的第二深度距离;
所述融合模块230,被配置为对所述多个第一深度距离与所述多个第二深度距离进行融合,得到目标深度距离。
可选地,融合模块230包括:
异常深度确定子模块,被配置为从所述多个第一深度距离和所述多个第二深度距离中,确定异常深度距离;
剔除子模块,被配置为剔除所述异常深度距离,得到多个正常深度距离;
第一融合子模块,被配置为对所述多个正常深度距离进行加权平均处理,得到所述目标深度距离。
可选地,融合模块230包括:
第二融合子模块,被配置为根据所述多个第一深度距离与所述多个第一深度距离各自的权重,以及所述第二深度距离与所述多个第二深度距离各自的权重,得到所述目标深度距离。
可选地,所述图像传感装置为至少两个,至少两个图像传感装置位于所述第一目标物上,所述第一深度距离确定模块210包括:
第一距离确定子模块,被配置为根据所述至少两个图像传感装置中,每两个图像传感装置拍摄所述第二目标物产生的视差、所述每两个图像传感装置之间的距离以及所述图像传感装置的焦距,确定所述第一深度距离;
其中,所述至少两个图像传感装置的焦距相同。
可选地,所述雷达装置位于所述第一目标物上,所述第二深度距离确定模块220包括:
第二距离确定子模块,被配置为根据所述雷达装置与图像采集装置之间的距离、第一夹角以及第二夹角,确定所述第二深度距离;
其中,所述第一夹角为所述雷达装置与所述第二目标物的连线,以及所述雷达装置与所述图像采集装置的连线之间的夹角;所述第二夹角为所述雷达装置与所述第二目标物的连线,以及所述图像采集装置与所述第二目标物的连线之间的夹角。
可选地,深度距离确定装置200还包括:
异常设备确定模块,被配置为确定产生所述异常深度距离的目标图像传感装置或目标雷达装置;
告警模块,被配置为显示所述目标图像传感装置或目标雷达装置异常的告警信息。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
本公开还提供一种计算机可读存储介质,其上存储有计算机程序指令,该程序指令被处理器执行时实现本公开提供的深度距离确定方法的步骤。
图9是根据一示例性实施例示出的一种用于确定深度距离的装置800的框图。例如,装置800可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图9,装置800可以包括以下一个或多个组件:处理组件802,存储器804,电源组件806,多媒体组件808,音频组件810,输入/输出接口812,传感器组件814,以及通信组件816。
处理组件802通常控制装置800的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件802可以包括一个或多个处理器820来执行指令,以完成上述深度距离确定方法的全部或部分步骤。此外,处理组件802可以包括一个或多个模块,便于处理组件802和其他组件之间的交互。例如,处理组件802可以包括多媒体模块,以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在装置800的操作。这些数据的示例包括用于在装置800上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件806为装置800的各种组件提供电力。电源组件806可以包括电源管理系统,一个或多个电源,及其他与为装置800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述装置800和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件808包括一个前置摄像头和/或后置摄像头。当装置800处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如,音频组件810包括一个麦克风(MIC),当装置800处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中,音频组件810还包括一个扬声器,用于输出音频信号。
输入/输出接口812为处理组件802和外围接口模块之间提供接口,上述外围接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器,用于为装置800提供各个方面的状态评估。例如,传感器组件814可以检测到装置800的打开/关闭状态,组件的相对定位,例如所述组件为装置800的显示器和小键盘,传感器组件814还可以检测装置800或装置800一个组件的位置改变,用户与装置800接触的存在或不存在,装置800方位或加速/减速和装置800的温度变化。传感器组件814可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件814还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件816被配置为便于装置800和其他设备之间有线或无线方式的通信。装置800可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件816还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,装置800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述深度距离确定方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器804,上述指令可由装置800的处理器820执行以完成上述深度距离确定方法。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
上述装置除了可以是独立的电子设备外,也可是独立电子设备的一部分,例如在一种实施例中,该装置可以是集成电路(Integrated Circuit,IC)或芯片,其中该集成电路可以是一个IC,也可以是多个IC的集合;该芯片可以包括但不限于以下种类:GPU(GraphicsProcessing Unit,图形处理器)、CPU(Central Processing Unit,中央处理器)、FPGA(Field Programmable Gate Array,可编程逻辑阵列)、DSP(Digital Signal Processor,数字信号处理器)、ASIC(Application Specific Integrated Circuit,专用集成电路)、SOC(System on Chip,SoC,片上系统或系统级芯片)等。上述的集成电路或芯片中可以用于执行可执行指令(或代码),以实现上述的深度距离确定方法。其中该可执行指令可以存储在该集成电路或芯片中,也可以从其他的装置或设备获取,例如该集成电路或芯片中包括处理器、存储器,以及用于与其他的装置通信的接口。该可执行指令可以存储于该处理器中,当该可执行指令被处理器执行时实现上述的深度距离确定方法;或者,该集成电路或芯片可以通过该接口接收可执行指令并传输给该处理器执行,以实现上述的深度距离确定方法。
参阅图10,图10是一示例性实施例示出的一种车辆600的功能框图示意图。车辆600可以被配置为完全或部分自动驾驶模式。例如,车辆600可以通过感知系统620获取其周围的环境信息,并基于对周边环境信息的分析得到自动驾驶策略以实现完全自动驾驶,或者将分析结果呈现给用户以实现部分自动驾驶。
车辆600可包括各种子系统,例如,信息娱乐系统610、感知系统620、决策控制系统630、驱动系统640以及计算平台650。可选的,车辆600可包括更多或更少的子系统,并且每个子系统都可包括多个部件。另外,车辆600的每个子系统和部件可以通过有线或者无线的方式实现互连。
在一些实施例中,信息娱乐系统610可以包括通信系统611,娱乐系统612以及导航系统613。
通信系统611可以包括无线通信系统,无线通信系统可以直接地或者经由通信网络来与一个或多个设备无线通信。例如,无线通信系统可使用3G蜂窝通信,例如CDMA、EVD0、GSM/GPRS,或者4G蜂窝通信,例如LTE。或者5G蜂窝通信。无线通信系统可利用WiFi与无线局域网(wireless local area network,WLAN)通信。在一些实施例中,无线通信系统可利用红外链路、蓝牙或ZigBee与设备直接通信。其他无线协议,例如各种车辆通信系统,例如,无线通信系统可包括一个或多个专用短程通信(dedicated short range communications,DSRC)设备,这些设备可包括车辆和/或路边台站之间的公共和/或私有数据通信。
娱乐系统612可以包括显示设备,麦克风和音响,用户可以基于娱乐系统在车内收听广播,播放音乐;或者将手机和车辆联通,在显示设备上实现手机的投屏,显示设备可以为触控式,用户可以通过触摸屏幕进行操作。
在一些情况下,可以通过麦克风获取用户的语音信号,并依据对用户的语音信号的分析实现用户对车辆600的某些控制,例如调节车内温度等。在另一些情况下,可以通过音响向用户播放音乐。
导航系统613可以包括由地图供应商所提供的地图服务,从而为车辆600提供行驶路线的导航,导航系统613可以和车辆的全球定位系统621、惯性测量单元622配合使用。地图供应商所提供的地图服务可以为二维地图,也可以是高精地图。
感知系统620可包括感测关于车辆600周边的环境的信息的若干种传感器。例如,感知系统620可包括全球定位系统621(全球定位系统可以是GPS系统,也可以是北斗系统或者其他定位系统)、惯性测量单元(inertial measurement unit,IMU)622、雷达623、毫米波雷达624、超声雷达625以及摄像装置626。感知系统620还可包括被监视车辆600的内部系统的传感器(例如,车内空气质量监测器、燃油量表、机油温度表等)。来自这些传感器中的一个或多个的传感器数据可用于检测对象及其相应特性(位置、形状、方向、速度等)。这种检测和识别是车辆600的安全操作的关键功能。
全球定位系统621用于估计车辆600的地理位置。
惯性测量单元622用于基于惯性加速度来感测车辆600的位姿变化。在一些实施例中,惯性测量单元622可以是加速度计和陀螺仪的组合。
雷达623利用激光来感测车辆600所位于的环境中的物体。在一些实施例中,雷达623可包括一个或多个激光源、激光扫描器以及一个或多个检测器,以及其他系统组件。
毫米波雷达624利用无线电信号来感测车辆600的周边环境内的物体。在一些实施例中,除了感测物体以外,毫米波雷达624还可用于感测物体的速度和/或前进方向。
超声雷达625可以利用超声波信号来感测车辆600周围的物体。
摄像装置626用于捕捉车辆600的周边环境的图像信息。摄像装置626可以包括单目相机、双目相机、结构光相机以及全景相机等,摄像装置626获取的图像信息可以包括静态图像,也可以包括视频流信息。
决策控制系统630包括基于感知系统620所获取的信息进行分析决策的计算系统631,决策控制系统630还包括对车辆600的动力系统进行控制的整车控制器632,以及用于控制车辆600的转向系统633、油门634和制动系统635。
计算系统631可以操作来处理和分析由感知系统620所获取的各种信息以便识别车辆600周边环境中的目标、物体和/或特征。目标可以包括行人或者动物,物体和/或特征可包括交通信号、道路边界和障碍物。计算系统631可使用物体识别算法、运动中恢复结构(Structure from Motion,SFM)算法、视频跟踪等技术。在一些实施例中,计算系统631可以用于为环境绘制地图、跟踪物体、估计物体的速度等等。计算系统631可以将所获取的各种信息进行分析并得出对车辆的控制策略。
整车控制器632可以用于对车辆的动力电池和引擎641进行协调控制,以提升车辆600的动力性能。
转向系统633可操作来调整车辆600的前进方向。例如在一个实施例中可以为方向盘系统。
油门634用于控制引擎641的操作速度并进而控制车辆600的速度。
制动系统635用于控制车辆600减速。制动系统635可使用摩擦力来减慢车轮644。在一些实施例中,制动系统635可将车轮644的动能转换为电流。制动系统635也可采取其他形式来减慢车轮644转速从而控制车辆600的速度。
驱动系统640可包括为车辆600提供动力运动的组件。在一个实施例中,驱动系统640可包括引擎641、能量源642、传动系统643和车轮644。引擎641可以是内燃机、电动机、空气压缩引擎或其他类型的引擎组合,例如汽油发动机和电动机组成的混动引擎,内燃引擎和空气压缩引擎组成的混动引擎。引擎641将能量源642转换成机械能量。
能量源642的示例包括汽油、柴油、其他基于石油的燃料、丙烷、其他基于压缩气体的燃料、乙醇、太阳能电池板、电池和其他电力来源。能量源642也可以为车辆600的其他系统提供能量。
传动系统643可以将来自引擎641的机械动力传送到车轮644。传动系统643可包括变速箱、差速器和驱动轴。在一个实施例中,传动系统643还可以包括其他器件,比如离合器。其中,驱动轴可包括可耦合到一个或多个车轮644的一个或多个轴。
车辆600的部分或所有功能受计算平台650控制。计算平台650可包括至少一个处理器651,处理器651可以执行存储在例如存储器652这样的非暂态计算机可读介质中的指令653。在一些实施例中,计算平台650还可以是采用分布式方式控制车辆600的个体组件或子系统的多个计算设备。
处理器651可以是任何常规的处理器,诸如商业可获得的CPU。可替换地,处理器651还可以包括诸如图像处理器(Graphic Process Unit,GPU),现场可编程门阵列(FieldProgrammable Gate Array,FPGA)、片上系统(Sysem on Chip,SOC)、专用集成芯片(Application Specific Integrated Circuit,ASIC)或它们的组合。尽管图10功能性地图示了处理器、存储器、和在相同块中的计算机的其它元件,但是本领域的普通技术人员应该理解该处理器、计算机、或存储器实际上可以包括可以或者可以不存储在相同的物理外壳内的多个处理器、计算机、或存储器。例如,存储器可以是硬盘驱动器或位于不同于计算机的外壳内的其它存储介质。因此,对处理器或计算机的引用将被理解为包括对可以或者可以不并行操作的处理器或计算机或存储器的集合的引用。不同于使用单一的处理器来执行此处所描述的步骤,诸如转向组件和减速组件的一些组件每个都可以具有其自己的处理器,处理器只执行与特定于组件的功能相关的计算。
在本公开实施方式中,处理器651可以执行上述的深度距离确定方法。
在此处所描述的各个方面中,处理器651可以位于远离该车辆并且与该车辆进行无线通信。在其它方面中,此处所描述的过程中的一些在布置于车辆内的处理器上执行而其它则由远程处理器执行,包括采取执行单一操纵的必要步骤。
在一些实施例中,存储器652可包含指令653(例如,程序逻辑),指令653可被处理器651执行来执行车辆600的各种功能。存储器652也可包含额外的指令,包括向信息娱乐系统610、感知系统620、决策控制系统630、驱动系统640中的一个或多个发送数据、从其接收数据、与其交互和/或对其进行控制的指令。
除了指令653以外,存储器652还可存储数据,例如道路地图、路线信息,车辆的位置、方向、速度以及其它这样的车辆数据,以及其他信息。这种信息可在车辆600在自主、半自主和/或手动模式中操作期间被车辆600和计算平台650使用。
计算平台650可基于从各种子系统(例如,驱动系统640、感知系统620和决策控制系统630)接收的输入来控制车辆600的功能。例如,计算平台650可利用来自决策控制系统630的输入以便控制转向系统633来避免由感知系统620检测到的障碍物。在一些实施例中,计算平台650可操作来对车辆600及其子系统的许多方面提供控制。
可选地,上述这些组件中的一个或多个可与车辆600分开安装或关联。例如,存储器652可以部分或完全地与车辆600分开存在。上述组件可以按有线和/或无线方式来通信地耦合在一起。
可选地,上述组件只是一个示例,实际应用中,上述各个模块中的组件有可能根据实际需要增添或者删除,图10不应理解为对本公开实施例的限制。
在道路行进的自动驾驶汽车,如上面的车辆600,可以识别其周围环境内的物体以确定对当前速度的调整。物体可以是其它车辆、交通控制设备、或者其它类型的物体。在一些示例中,可以独立地考虑每个识别的物体,并且基于物体的各自的特性,诸如它的当前速度、加速度、与车辆的间距等,可以用来确定自动驾驶汽车所要调整的速度。
可选地,车辆600或者与车辆600相关联的感知和计算设备(例如计算系统631、计算平台650)可以基于所识别的物体的特性和周围环境的状态(例如,交通、雨、道路上的冰、等等)来预测识别的物体的行为。可选地,每一个所识别的物体都依赖于彼此的行为,因此还可以将所识别的所有物体全部一起考虑来预测单个识别的物体的行为。车辆600能够基于预测的识别的物体的行为来调整它的速度。换句话说,自动驾驶汽车能够基于所预测的物体的行为来确定车辆将需要调整到(例如,加速、减速、或者停止)何种稳定状态。在这个过程中,也可以考虑其它因素来确定车辆600的速度,诸如,车辆600在行驶的道路中的横向位置、道路的曲率、静态和动态物体的接近度等等。
除了提供调整自动驾驶汽车的速度的指令之外,计算设备还可以提供修改车辆600的转向角的指令,以使得自动驾驶汽车遵循给定的轨迹和/或维持与自动驾驶汽车附近的物体(例如,道路上的相邻车道中的车辆)的安全横向和纵向距离。
上述车辆600可以为各种类型的行驶工具,例如,轿车、卡车、摩托车、公共汽车、船、飞机、直升飞机、娱乐车、火车等等,本公开实施例不做特别的限定。
在另一示例性实施例中,还提供一种计算机程序产品,该计算机程序产品包含能够由可编程的装置执行的计算机程序,该计算机程序具有当由该可编程的装置执行时用于执行上述的深度距离确定方法的代码部分。
图11是根据一示例性实施例示出的一种用于确定深度距离的装置1900的框图。例如,装置1900可以被提供为一服务器。参照图11,装置1900包括处理组件1922,其进一步包括一个或多个处理器,以及由存储器1932所代表的存储器资源,用于存储可由处理组件1922的执行的指令,例如应用程序。存储器1932中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件1922被配置为执行指令,以执行上述深度距离确定方法。
装置1900还可以包括一个电源组件1926被配置为执行装置1900的电源管理,一个有线或无线网络接口1950被配置为将装置1900连接到网络,和一个输入输出(I/O)接口1958。装置1900可以操作基于存储在存储器1932的操作系统,例如Windows ServerTM,MacOS XTM,UnixTM,LinuxTM,FreeBSDTM或类似。
本领域技术人员在考虑说明书及实践本公开后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
Claims (10)
1.一种深度距离确定方法,其特征在于,所述方法运用于车辆,所述车辆包括图像传感装置与雷达装置,包括:
通过图像传感装置获取多个不同时刻下第一目标物与第二目标物之间的第一深度距离;
通过雷达装置获取多个不同时刻下所述第一目标物与所述第二目标物之间的第二深度距离;
对多个第一深度距离与多个第二深度距离进行融合,得到目标深度距离。
2.根据权利要求1所述的深度距离确定方法,其特征在于,对多个第一深度距离与多个第二深度距离进行融合,得到目标深度距离,包括:
从所述多个第一深度距离和所述多个第二深度距离中,确定异常深度距离;
剔除所述异常深度距离,得到多个正常深度距离;
对所述多个正常深度距离进行加权平均处理,得到所述目标深度距离。
3.根据权利要求1所述的深度距离确定方法,其特征在于,对多个第一深度距离与多个第二深度距离进行融合,得到目标深度距离,包括:
根据所述多个第一深度距离与所述多个第一深度距离各自的权重,以及所述第二深度距离与所述多个第二深度距离各自的权重,得到所述目标深度距离。
4.根据权利要求1所述的深度距离确定方法,其特征在于,所述图像传感装置为至少两个,至少两个图像传感装置位于所述第一目标物上,所述第一深度距离通过以下步骤获取:
根据所述至少两个图像传感装置中,每两个图像传感装置拍摄所述第二目标物产生的视差、所述每两个图像传感装置之间的距离以及所述图像传感装置的焦距,确定所述第一深度距离;
其中,所述至少两个图像传感装置的焦距相同。
5.根据权利要求1所述的深度距离确定方法,其特征在于,所述雷达装置位于所述第一目标物上,所述第二深度距离通过以下步骤获取:
根据所述雷达装置与图像采集装置之间的距离、第一夹角以及第二夹角,确定所述第二深度距离;
其中,所述第一夹角为所述雷达装置与所述第二目标物的连线,以及所述雷达装置与所述图像采集装置的连线之间的夹角;所述第二夹角为所述雷达装置与所述第二目标物的连线,以及所述图像采集装置与所述第二目标物的连线之间的夹角。
6.根据权利要求1所述的深度距离确定方法,其特征在于,从所述多个第一深度距离和所述多个第二深度距离中,确定异常深度距离之后,所述方法包括:
确定产生所述异常深度距离的目标图像传感装置或目标雷达装置;
显示所述目标图像传感装置或目标雷达装置异常的告警信息。
7.一种深度距离确定装置,其特征在于,所述方法运用于车辆,所述车辆包括图像传感装置与雷达装置,所述深度距离确定装置包括:第一深度距离确定模块、第二深度距离确定模块以及融合模块;
所述第一深度距离确定模块,被配置为通过图像传感装置获取多个不同时刻下第一目标物与第二目标物之间的第一深度距离;
所述第二深度距离确定模块,被配置为通过雷达装置获取多个不同时刻下所述第一目标物与所述第二目标物之间的第二深度距离;
所述融合模块,被配置为对所述多个第一深度距离与所述多个第二深度距离进行融合,得到目标深度距离。
8.一种车辆,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为:
执行权利要求1~6任一项所述方法的步骤。
9.一种计算机可读存储介质,其上存储有计算机程序指令,其特征在于,该程序指令被处理器执行时实现权利要求1~6中任一项所述方法的步骤。
10.一种芯片,其特征在于,包括处理器和接口;所述处理器用于读取指令以执行权利要求1~6中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210616082.7A CN114862931A (zh) | 2022-05-31 | 2022-05-31 | 深度距离确定方法、装置、车辆、存储介质与芯片 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210616082.7A CN114862931A (zh) | 2022-05-31 | 2022-05-31 | 深度距离确定方法、装置、车辆、存储介质与芯片 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114862931A true CN114862931A (zh) | 2022-08-05 |
Family
ID=82640392
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210616082.7A Pending CN114862931A (zh) | 2022-05-31 | 2022-05-31 | 深度距离确定方法、装置、车辆、存储介质与芯片 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114862931A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115965942A (zh) * | 2023-03-03 | 2023-04-14 | 安徽蔚来智驾科技有限公司 | 位置估计方法、车辆控制方法、设备、介质及车辆 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180149740A1 (en) * | 2015-05-19 | 2018-05-31 | Denso Corporation | Object detection apparatus and object detection method |
CN112233163A (zh) * | 2020-12-14 | 2021-01-15 | 中山大学 | 一种激光雷达立体相机融合的深度估计方法、装置及其介质 |
CN112927281A (zh) * | 2021-04-06 | 2021-06-08 | Oppo广东移动通信有限公司 | 深度检测方法、深度检测装置、存储介质与电子设备 |
CN113205549A (zh) * | 2021-05-07 | 2021-08-03 | 深圳市商汤科技有限公司 | 深度估计方法及装置、电子设备和存储介质 |
CN113269823A (zh) * | 2021-05-18 | 2021-08-17 | Oppo广东移动通信有限公司 | 深度数据获取方法、装置、存储介质与电子设备 |
-
2022
- 2022-05-31 CN CN202210616082.7A patent/CN114862931A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20180149740A1 (en) * | 2015-05-19 | 2018-05-31 | Denso Corporation | Object detection apparatus and object detection method |
CN112233163A (zh) * | 2020-12-14 | 2021-01-15 | 中山大学 | 一种激光雷达立体相机融合的深度估计方法、装置及其介质 |
CN112927281A (zh) * | 2021-04-06 | 2021-06-08 | Oppo广东移动通信有限公司 | 深度检测方法、深度检测装置、存储介质与电子设备 |
CN113205549A (zh) * | 2021-05-07 | 2021-08-03 | 深圳市商汤科技有限公司 | 深度估计方法及装置、电子设备和存储介质 |
CN113269823A (zh) * | 2021-05-18 | 2021-08-17 | Oppo广东移动通信有限公司 | 深度数据获取方法、装置、存储介质与电子设备 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115965942A (zh) * | 2023-03-03 | 2023-04-14 | 安徽蔚来智驾科技有限公司 | 位置估计方法、车辆控制方法、设备、介质及车辆 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114935334B (zh) | 车道拓扑关系的构建方法、装置、车辆、介质及芯片 | |
CN114882464B (zh) | 多任务模型训练方法、多任务处理方法、装置及车辆 | |
CN115222941A (zh) | 目标检测方法、装置、车辆、存储介质、芯片及电子设备 | |
CN115205365A (zh) | 车辆距离检测方法、装置、车辆、可读存储介质及芯片 | |
CN114862931A (zh) | 深度距离确定方法、装置、车辆、存储介质与芯片 | |
CN114842455B (zh) | 障碍物检测方法、装置、设备、介质、芯片及车辆 | |
CN115170630B (zh) | 地图生成方法、装置、电子设备、车辆和存储介质 | |
CN115164910B (zh) | 行驶路径生成方法、装置、车辆、存储介质及芯片 | |
CN114771539B (zh) | 车辆变道决策方法、装置、存储介质及车辆 | |
CN115223122A (zh) | 物体的三维信息确定方法、装置、车辆与存储介质 | |
CN114973178A (zh) | 模型训练方法、物体识别方法、装置、车辆及存储介质 | |
CN115649190A (zh) | 车辆辅助制动的控制方法、装置、介质、车辆及芯片 | |
CN114987549A (zh) | 车辆控制方法、装置、存储介质及车辆 | |
CN114880408A (zh) | 场景构建方法、装置、介质以及芯片 | |
CN114842454B (zh) | 障碍物检测方法、装置、设备、存储介质、芯片及车辆 | |
CN114821511B (zh) | 杆体检测方法、装置、车辆、存储介质及芯片 | |
CN115535004B (zh) | 距离生成方法、装置、存储介质及车辆 | |
CN115082886B (zh) | 目标检测的方法、装置、存储介质、芯片及车辆 | |
CN115221260B (zh) | 数据处理方法、装置、车辆及存储介质 | |
CN114771514B (zh) | 车辆行驶控制方法、装置、设备、介质、芯片及车辆 | |
CN114572219B (zh) | 自动超车方法、装置、车辆、存储介质及芯片 | |
CN114954528A (zh) | 车辆控制方法、装置、车辆、存储介质及芯片 | |
CN115115822B (zh) | 车端图像处理方法、装置、车辆、存储介质及芯片 | |
CN115214629B (zh) | 自动泊车方法、装置、存储介质、车辆及芯片 | |
CN114789723B (zh) | 车辆行驶控制方法、装置、车辆、存储介质及芯片 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20220805 |