CN114089373A - 基于图像融合激光的雷达系统扫描方法及装置 - Google Patents
基于图像融合激光的雷达系统扫描方法及装置 Download PDFInfo
- Publication number
- CN114089373A CN114089373A CN202210068113.XA CN202210068113A CN114089373A CN 114089373 A CN114089373 A CN 114089373A CN 202210068113 A CN202210068113 A CN 202210068113A CN 114089373 A CN114089373 A CN 114089373A
- Authority
- CN
- China
- Prior art keywords
- image
- exposure
- frame
- frames
- direction displacement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000004927 fusion Effects 0.000 title claims abstract description 63
- 238000000034 method Methods 0.000 title claims abstract description 56
- 238000006073 displacement reaction Methods 0.000 claims description 91
- 238000005259 measurement Methods 0.000 description 20
- 238000001514 detection method Methods 0.000 description 9
- 230000008569 process Effects 0.000 description 7
- 238000012545 processing Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 238000006243 chemical reaction Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 230000000295 complement effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000007499 fusion processing Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000011248 coating agent Substances 0.000 description 1
- 238000000576 coating method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/86—Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Electromagnetism (AREA)
- Theoretical Computer Science (AREA)
- Optical Radar Systems And Details Thereof (AREA)
Abstract
本申请涉及一种基于图像融合激光的雷达系统扫描方法及装置,该方法包括:获取曝光图像和点云数据;将N帧的曝光图像合并为拼接图像;其中,所述N帧的曝光图像中,每一帧曝光图像的初次曝光时刻不同,且每一帧曝光图像的横向分辨率小于所述拼接图像的横向分辨率;N为大于1的正整数;将所述N帧中同步获取的每一帧点云数据分别与所述拼接图像融合。本申请实施例提供的基于图像融合激光的雷达系统扫描方法,可以在不更换器件或调整系统架构的前提下,提高获取的图像数据的横向分辨率,进而可以获得满足需求的图像与激光融合的数据。
Description
技术领域
本申请涉及光电测量技术领域,尤其涉及一种基于图像融合激光的雷达系统扫描方法及装置。
背景技术
应用于自动驾驶等领域的激光雷达系统,通常需要同时满足较高的测距距离、精度、分辨率以及探测率等指标,对于激光雷达来说,其虽然具有距离感知精准和不易受环境干扰等优点,但却具有数据较为稀疏和细节清晰度低等缺点。因而对于整套测量系统而言,利用各类传感器的互补特性来全方位提高系统感知能力的多传感器融合技术,尤其是激光雷达点云和相机图像的融合,是激光雷达感知系统的重要发展方向之一。相机产生的图像具有分辨率高、细节清晰和识别算法功能全面等优点,但却在黑暗处和雨雪天气时探测能力较差,所以激光雷达和相机两者之间具有较强的互补特性,这使得点云和图像融合模型比其他传感器融合配置更有效也更受欢迎。
然而,在图像融合激光的雷达系统中,对于图像数据部分,系统的帧率与横向分辨率决定了其每一帧的最大曝光时间,而对于图像融合激光的雷达系统中目前使用的图像传感器来说,系统的帧率限制了图像数据采集时的最大曝光时间,而现阶段的最大曝光时间并不能满足图像质量的需求,造成现有的图像融合激光的雷达系统采集的图像数据质量较低,且不能满足大多数使用场景下对图像质量的需求。
发明内容
为了解决上述技术问题或者至少部分地解决上述技术问题,本申请提供了一种基于图像融合激光的雷达系统扫描方法和装置。
本申请实施例提供了一种基于图像融合激光的雷达系统扫描方法,该方法包括:
获取曝光图像和点云数据;
将N帧的曝光图像合并为拼接图像;
其中,所述N帧的曝光图像中,每一帧曝光图像的初次曝光时刻不同,且每一帧曝光图像的横向分辨率小于所述拼接图像的横向分辨率;N为大于1的正整数;
将所述N帧中同步获取的每一帧点云数据分别与所述拼接图像融合。
优选地,所述将N帧的曝光图像合并为拼接图像,包括:
第N-1帧扫描时,每隔第一预设时间曝光一次;
第N帧扫描时,每隔第二预设时间曝光一次;
第一预设时间与第二预设时间的差值的绝对值小于等于第三预设时间;
将第N-1帧曝光图像和第N帧曝光图像合并为所述拼接图像。
优选地,所述将所述N帧中同步获取的每一帧点云数据分别与所述拼接图像融合,包括:
将第N-1帧点云数据与所述拼接图像融合;
将第N帧点云数据与所述拼接图像融合。
优选地,在所述将所述N帧中同步获取的每一帧点云数据分别与所述拼接图像融合之后,还包括:
获取待探测移动物体的运动速度。
优选地,所述获取待探测移动物体的运动速度,包括:
获取所述待探测移动物体的水平方向位移量和竖直方向位移量;
根据所述水平方向位移量和所述竖直方向位移量,确定所述待探测移动物体的深度方向位移量;
根据所述深度方向位移量与相邻两帧指向角差值,确定所述水平方向位移量的补偿值;
根据所述水平方向位移量的补偿值确定所述待探测移动物体的运动速度。
优选地,该方法还包括:根据所述深度方向位移量确定水平方向位移量补偿值的基准深度值;
所述水平方向位移量的补偿值x′与所述水平方向位移量补偿值的基准深度值Z′之间的关系满足:
其中,R为所述相邻两帧指向角差值。
优选地,所述待探测移动物体的运动速度v满足如下关系式:
其中,Δx为所述水平方向位移量,Δy为所述竖直方向位移量,Δz为所述深度方向位移量,s为基于图像融合激光的雷达系统的扫描帧率。
优选地,所述根据所述水平方向位移量和所述竖直方向位移量,确定所述待探测移动物体的深度方向位移量之后,还包括:
获取所述待探测移动物体的运动方向。
优选地,所述获取所述待探测移动物体的运动方向,包括:
根据所述水平方向位移量、所述竖直方向位移量和所述深度方向位移量,确定所述待探测移动物体的运动方向。
本申请实施例还提供一种基于图像融合激光的雷达系统扫描装置,该装置包括:
数据获取模块,用于获取曝光图像和点云数据;
图像数据合并模块,用于将N帧的曝光图像合并为拼接图像;其中,所述N帧的曝光图像中,每一帧曝光图像的初次曝光时刻不同,且每一帧曝光图像的横向分辨率小于所述拼接图像的横向分辨率;N为大于1的正整数;
图像融合点云数据模块,用于将所述N帧中同步获取的每一帧点云数据分别与所述拼接图像融合。
本申请实施例提供的技术方案与现有技术相比具有如下优点:
本申请实施例提供的基于图像融合激光的雷达系统扫描方法,可以在不更换器件或调整系统架构的前提下,提高获取的图像数据的横向分辨率,进而可以获得满足需求的图像与激光融合的数据。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本申请的实施例,并与说明书一起用于解释本申请的原理。
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为现有技术中图像融合激光的雷达系统的结构示意图;
图2为现有技术中图像融合激光雷达的融合效果图;
图3为本申请实施例提供的基于图像融合激光的雷达系统扫描方法的一种流程示意图;
图4为本申请实施例提供的基于图像融合激光的雷达系统扫描方法的又一种流程示意图;
图5为本申请实施例提供的基于图像融合激光的雷达系统扫描方法的又一种流程示意图;
图6为本申请实施例提供的基于图像融合激光的雷达系统扫描装置的结构示意图。
具体实施方式
为了能够更清楚地理解本申请的上述目的、特征和优点,下面将对本申请的方案进行进一步描述。需要说明的是,在不冲突的情况下,本申请的实施例及实施例中的特征可以相互组合。
在下面的描述中阐述了很多具体细节以便于充分理解本申请,但本申请还可以采用其他不同于在此描述的方式来实施;显然,说明书中的实施例只是本申请的一部分实施例,而不是全部的实施例。
相关技术中,如图1所示,图1为现有技术中图像融合激光的雷达系统的结构示意图,该系统结构即为激光探测与图像探测的融合系统。在图1中,该图像融合激光的雷达系统的结构由激光雷达发射端、激光雷达接收端以及数据处理模块构成,通过激光雷达发射端发射测距激光,该测距激光可以为脉冲光或连续光均可,图1所示的脉冲波形仅用作示意,测量激光经过被测目标的反射后,再经由二向色镜反射到激光雷达接收端的光电探测器上,完成一次测量。其中,图像传感器和激光雷达接收端沿着二向色镜接收回波信号的平面呈镜像对称设置。二向色镜又称为双色镜,通过对其反射面镀膜,实现一定波段的光几乎完全透射,而一定波段的光几乎完全反射的性能。在图1所示的系统结构中选用的二向色镜,可以将用于雷达测距的单色红外光(如860nm、905nm、1064nm或1550nm等波段)几乎完全反射,而将用于图像传感器成像的可见光波段(380~780nm)几乎完全透射。
在测量过程中,激光雷达发射端在发射测量激光的同时,向数据处理模块发送相同相位的START信号,用于记录测量开始时的初始状态,该初始状态为光脉冲计时点或连续光的初始相位。激光回波达到激光雷达接收端后,光电探测器将激光回波进行光电转换产生的STOP信号,同样被发送到数据处理模块,用于记录测量完成时的最终状态,完成对于START信号与STOP信号中包含的距离甚至速度信息的解算后,即可获得图像融合激光的雷达系统的测距结果,通过阵列探测器和/或扫描系统的配合,即可以实现对雷达视场的完整探测,生成目标点云。
而图像探测部分则由图像传感器以及相对应的数据处理模块构成,在外界环境光(自然光或人造光均可)的照射下,被测目标反射的可见光经由二向色镜透射到图像传感器上,完成一次成像。图像传感器在将图像光进行光电转换后生成图像信号,并发送到数据处理模块,实现实时的成像。
将激光探测的雷达点云与图像传感器的图像进行空间对准以及时间同步后,即可实现如图2所示的图像融合效果图。图2中的横线数据就是雷达点云数据,在中间视场对雷达点云进行了密度提升,以在ROI(Region of Interest,感兴趣区域)部分获得更高的点云纵向分辨率。
这里以纵向线阵光电探测器(如1×64线光电探测器)、纵向线阵图像传感器(如1×1024线CMOS传感器)和横向扫描系统(如转镜或MEMS振镜)为例,通过线阵传感器实现图像与雷达点云的纵向视场角。其中,光电探测器和图像探测器共用接收光学系统。且光电探测器和图像探测器的工作距离相同,保证了二者的视场重合,而在实际应用中,并不一定要求点云与图像的视场角完全重合,只需要保证两个视场的稳定对准即可,即像素之间的对应关系稳定不变即可。并通过共用的横向扫描系统,实现二者的横向视场角。最终在20Hz的扫描频率下,可以实现960*64的激光雷达视场分辨率以及960*1024的图像分辨率。其中,960线为横向扫描过程中在视场范围内,光电探测器和图像探测器的测量频率,该测量频率可以随使用的系统能最短测量周期进行调整。
光电探测器的单次测量时间主要受到所测距离(除以光速)以及数据处理模块的距离解算时间的限制,在目前数百米的极限测量距离需求下,通常可以压缩到20μs甚至10μs以下。而与光电探测器不同,图像探测器在图像获取过程中,需要足够的曝光时间以获取足够质量的图像,通常需要数十、上百μs甚至更长的时间。因此对于图像融合激光的雷达系统,在提升扫描帧率与横向分辨率时,可能会遇到图像信号所需采集周期过长而无法满足需求的问题,即图像融合激光的雷达系统存在图像系统限制系统帧率与横向分辨率的问题。
针对上述问题中的至少一个,本申请实施例提供了一种基于图像融合激光的雷达系统扫描方法,该方法可以由图1所示的图像融合激光的雷达系统来执行,如图3所示,图3为本申请实施例提供的基于图像融合激光的雷达系统扫描方法的一种流程示意图,从图3可以看出,该方法包括:
步骤101:获取曝光图像和点云数据。
步骤102:将N帧的曝光图像合并为拼接图像。
其中,N帧的曝光图像中,每一帧曝光图像的初次曝光时刻不同,且每一帧曝光图像的横向分辨率小于拼接图像的横向分辨率;N为大于1的正整数。
在步骤102中,合并为拼接图像的N帧曝光图像中,该N帧的曝光图像例如可以是2帧的曝光图像、3帧的曝光图像等多帧的曝光图像。且该N帧的曝光图像中每一帧曝光图像的横向分辨率均小于拼接图像的横向分辨率。
步骤103:将所述N帧中同步获取的每一帧点云数据分别与所述拼接图像融合。
本申请实施例提供的一种基于图像融合激光的雷达系统扫描方法,可以在不更换器件或调整系统架构的前提下,提高获取的图像数据的横向分辨率,进而可以获得满足需求的图像与激光融合的数据。
在一些实施例中,步骤101:获取曝光图像和点云数据,例如还包括:在获取曝光图像时同步获取点云数据,即获取N帧的曝光数据,同步获取N帧的点云数据。同步获取曝光数据和点云数据,能够使得获取的曝光数据和点云数据为探测到的同一被测目标,这样可以简化后期图像数据与点云数据融合的复杂度,同时可以提高融合的精度。
在一些实施例中,将N帧的曝光图像合并为拼接图像,该N帧的曝光图像中的每一帧曝光图像的横向分辨率可以相同或者不同。具体可以根据实际探测的需求进行灵活调整,可以提高该基于图像融合激光的雷达系统扫描方法的多样性,进而能够满足不同的探测需求。
且由于每一帧曝光图像的初次曝光时刻均不同,则每一帧曝光图像采集到的图像信息均不同,此时将N帧的包含不同图像信息的曝光图像合并为拼接图像,该拼接图像的横向分辨率会增大。与现有技术相比,获取每一帧曝光图像的扫描时间不变,但是每一帧曝光图像的横向分辨率减小了,进而可以增大每一帧扫描过程中每次曝光的时间,增大曝光时间就可以获得更多的图像信息,进而可以提高整个曝光图像的质量。且将N帧的曝光图像合并为拼接图像,这样获得的拼接图像不仅能够保证达到所需的横向分辨率,同时又能够提高拼接图像的质量。
在一些实施例中,N帧中同步获取的每一帧点云数据的横向分辨率与拼接图像的横向分辨率相同。这样可以便于点云数据与拼接图像进行融合,由于点云数据与拼接数据的横向分辨率相同,这样就不需要进行复杂的数据转换就可以实现点云数据与图像数据的融合,数据融合过程简单,且精确度高。
以上仅为本申请的一种实施方式,本申请的实施方式还可以如图4所示,图4为本申请实施例提供的基于图像融合激光的雷达系统扫描方法的又一种流程示意图,从图4可以看出,该方法包括:
步骤201:获取曝光图像和点云数据。
步骤202:第N-1帧扫描时,每隔第一预设时间曝光一次。
步骤203:第N帧扫描时,每隔第二预设时间曝光一次。
其中,第一预设时间与第二预设时间的差值的绝对值小于等于第三预设时间。
在一些实施例中,该第三预设时间大于等于零,其中,当第三预设时间为0时,说明第N-1帧曝光图像的横向分辨率与第N帧曝光图像的横向分辨率相同。当第三预设时间大于0时,说明第N-1帧曝光图像的横向分辨率与第N帧曝光图像的横向分辨率不同。
其中,第三预设时间的取值以实际基于图像融合激光的雷达系统扫描方法的需求进行设定,本申请对此不作限定。
步骤204:将第N-1帧曝光图像和第N帧曝光图像合并为拼接图像。
步骤205:将第N-1帧点云数据与拼接图像融合,将第N帧点云数据与拼接图像融合。
本申请实施例采用两帧的曝光图像合并为拼接图像,并将两帧的曝光图像合并为拼接图像,可以在不更换器件或调整系统架构的前提下,解决现有技术中图像系统曝光时间限制系统帧率与横向分辨率提升的技术问题。
以两帧的曝光图像合并为拼接图像为例,结合图1所示的纵向线阵传感器配合横向扫描系统的图像融合激光的雷达系统。其每一帧的点云与图像,雷达部分通过线阵探测器在水平方向的逐列扫描,形成点云,图像部分则通过线阵图像传感器的同步逐列扫描,拼接形成图像。因而对于图像部分,系统的帧率与横向分辨率决定了其每一帧的最大曝光时间,以20Hz帧率,120°横向视场,960线横向分辨率,则每次曝光时间需要限制在17.4μs以内,而对于系统中目前使用的图像传感器来说,需要至少25μs以上的曝光时间,才能满足大多数使用场景下,图像质量满足需求。
因此对于上述的测量指标与参数的矛盾,本发明实施例提供的基于图像融合激光的雷达系统扫描方法将图像传感器在每一帧的曝光次数减半,例如第N-1帧在原先的奇数曝光列(即1,3,5,……957,959曝光列)进行曝光。每一帧进行480次曝光,则每次曝光的时间限制可以增加到34.8μs,可以满足25μs的最小曝光时间需求。而此时由于曝光次数减半,会导致每一帧的横向分辨率下降一半,无法满足预期的分辨率指标需求,因此将在下一帧的扫描中,换为在偶数曝光列进行曝光,例如第N帧在原先的偶数曝光列(即2,4,6,……958,960曝光列)进行曝光。而后将两帧的图像合并,实现960线的预期横向分辨率。对于整个雷达扫描系统来说,雷达部分在两帧时间完成两次960线的扫描,图像部分则完成一次完整的960线扫描,通过两帧共用同一幅图像的方式,实现符合需求的测量指标需求。
以上仅为本申请的一种实施方式,本申请的实施方式还可以如图5所示,图5为本申请实施例提供的基于图像融合激光的雷达系统扫描方法的又一种流程示意图,从图5可以看出,该方法包括:
步骤301:获取曝光图像和点云数据。
步骤302:将N帧的曝光图像合并为拼接图像。
其中,N帧的曝光图像中,每一帧曝光图像的初次曝光时刻不同,且每一帧曝光图像的横向分辨率小于拼接图像的横向分辨率;N为大于1的正整数。
步骤303:将所述N帧中同步获取的每一帧点云数据分别与所述拼接图像融合。
步骤304:获取待探测移动物体的运动速度。
本申请实施例提供的一种基于图像融合激光的雷达系统扫描方法,例如可以基于图像识别算法同步获取待探测移动物体的运动速度。
在一些实施例中,步骤304:获取待探测移动物体的运动速度,例如还包括:获取所述待探测移动物体的水平方向位移量和竖直方向位移量。根据所述水平方向位移量和所述竖直方向位移量,确定所述待探测移动物体的深度方向位移量。根据所述深度方向位移量与相邻两帧指向角差值,确定所述水平方向位移量的补偿值。根据所述水平方向位移量的补偿值确定所述待探测移动物体的运动速度。
以20Hz帧率,120°横向视场,960线横向分辨率,采用两帧480线的图像进行合并得到960线横向分辨率的拼接图像为例,两帧480线的图像将会存在一定的时延,以20Hz帧率为例,此处的时延将是50ms,由于该时延已知且固定,同时两帧的指向角之差为图像部分的横向角度分辨率(即120°/960=0.125°),因而可通过两帧之间待探测移动物体的实际位移对其运动速度进行解算,对于分辨率较高(例如纵向1024线)的图像,目前已经有很多成熟的图像识别算法,可以准确确定物体的外型,因而可以通过识别算法,在运动物体上选取特征点,获得其准确的水平与竖直位移量,而后借助相应两帧特征点的激光雷达测距值,获得其深度方向的位移量。而后基于该深度位移量与两帧指向角之差,获取水平方向位移量的补偿值(用于补偿曝光位置不完全相同引入的系统偏差),完成补偿之后,基于该位移量与前述的曝光时延,即可获知移动物体的准确运动方向与运动速度。
以运动物体的某一特征点A为例,其在两帧图像上可以获知的水平、竖直坐标分别为x1、y1与x2、y2,在雷达点云上选取最接近该特征点的有效测量点,可以获知其深度方向的坐标z1与z2。则水平方向位移量Δx = x1-x2,竖直方向位移量Δy = y1-y2,深度方向位移量Δz = z1-z2。以(z1+z2)/2作为水平方向位移量补偿值的基准深度值Z′。
在一些实施例中,该方法还包括:根据深度方向位移量确定水平方向位移量补偿值的基准深度值。例如以(z1+z2)/2作为水平方向位移量补偿值的基准深度值Z′。
其中,水平方向位移量的补偿值x′与水平方向位移量补偿值的基准深度值Z′之间的关系满足:
其中,R为所述相邻两帧指向角差值,R的单位为弧度。
在一些实施例中,待探测移动物体的运动速度v满足如下关系式:
其中,Δx为水平方向位移量,Δy为竖直方向位移量,Δz为深度方向位移量,s为基于图像融合激光的雷达系统的扫描帧率。
在一些实施例中,在根据所述水平方向位移量和所述竖直方向位移量,确定所述待探测移动物体的深度方向位移量之后,例如还包括:获取待探测移动物体的运动方向。
在一些实施例中,获取待探测移动物体的运动方向,例如还包括:根据水平方向位移量、竖直方向位移量和深度方向位移量,确定待探测移动物体的运动方向。该待探测移动物体的运动方向,例如可以采用本领域技术人员所知的由水平方向位移量、竖直方向位移量和深度方向位移量确定的空间向量在雷达坐标系中的方向确定。
本申请实施例提供的一种基于图像融合激光的雷达系统扫描方法,不仅解决了图像系统曝光时间限制系统帧率与横向分辨率提升的问题,同时借助图像识别算法,在本申请提出的扫描方法的基础上,实现了较为准确的测速功能。
本申请实施例还提供一种基于图像融合激光的雷达系统扫描装置,如图6所示,图6为本申请实施例提供的基于图像融合激光的雷达系统扫描装置的结构示意图,该装置包括:数据获取模块401,用于获取曝光图像和点云数据。图像数据合并模块402,用于将N帧的曝光图像合并为拼接图像。其中,所述N帧的曝光图像中,每一帧曝光图像的初次曝光时刻不同,且每一帧曝光图像的横向分辨率小于所述拼接图像的横向分辨率;N为大于1的正整数。图像融合点云数据模块403,用于将所述N帧中同步获取的每一帧点云数据分别与所述拼接图像融合。
在一些实施例中,数据获取模块401,例如还用于在获取曝光图像时同步获取点云数据,即获取N帧的曝光数据,同步获取N帧的点云数据。同步获取曝光数据和点云数据,能够使得获取的曝光数据和点云数据为探测到的同一被测目标,这样可以简化后期图像数据与点云数据融合的复杂度,同时可以提高融合的精度。
在一些实施例中,图像数据合并模块402,例如用于合并为拼接图像的N帧曝光图像中,该N帧的曝光图像例如可以是2帧的曝光图像、3帧的曝光图像等多帧的曝光图像。且该N帧的曝光图像中每一帧曝光图像的横向分辨率均小于拼接图像的横向分辨率。
在一些实施例中,图像数据合并模块402,例如还用于将N帧的曝光图像合并为拼接图像,该N帧的曝光图像中的每一帧曝光图像的横向分辨率可以相同或者不同。具体可以根据实际探测的需求进行灵活调整,可以提高该基于图像融合激光的雷达系统扫描方法的多样性,进而能够满足不同的探测需求。
且由于每一帧曝光图像的初次曝光时刻均不同,则每一帧曝光图像采集到的图像信息均不同,此时将N帧的包含不同图像信息的曝光图像合并为拼接图像,该拼接图像的横向分辨率会增大。与现有技术相比,获取每一帧曝光图像的扫描时间不变,但是每一帧曝光图像的横向分辨率减小了,进而可以增大每一帧扫描过程中每次曝光的时间,增大曝光时间就可以获得更多的图像信息,进而可以提高整个曝光图像的质量。且将N帧的曝光图像合并为拼接图像,这样获得的拼接图像不仅能够保证达到所需的横向分辨率,同时又能够提高拼接图像的质量。
在一些实施例中,N帧中同步获取的每一帧点云数据的横向分辨率与拼接图像的横向分辨率相同。这样可以便于点云数据与拼接图像进行融合,由于点云数据与拼接数据的横向分辨率相同,这样就不需要进行复杂的数据转换就可以实现点云数据与图像数据的融合,数据融合过程简单,且精确度高。
该基于图像融合激光的雷达系统扫描装置例如还包括移动物体测速模块,该移动物体测速模块用于获取待探测移动物体的运动速度。
在一些实施例中,该移动物体测速模块例如还用于获取所述待探测移动物体的水平方向位移量和竖直方向位移量。根据所述水平方向位移量和所述竖直方向位移量,确定所述待探测移动物体的深度方向位移量。根据所述深度方向位移量与相邻两帧指向角差值,确定所述水平方向位移量的补偿值。根据所述水平方向位移量的补偿值确定所述待探测移动物体的运动速度。
在一些实施例中,该移动物体测速模块例如还用于获取待探测移动物体的运动方向。
在一些实施例中,该移动物体测速模块例如还用于根据水平方向位移量、竖直方向位移量和深度方向位移量,确定待探测移动物体的运动方向。该待探测移动物体的运动方向,例如可以采用本领域技术人员所知的由水平方向位移量、竖直方向位移量和深度方向位移量确定的空间向量在雷达坐标系中的方向确定。
本申请实施例提供的一种基于图像融合激光的雷达系统扫描装置,不仅解决了图像系统曝光时间限制系统帧率与横向分辨率提升的问题,同时借助图像识别算法,在本申请提出的扫描方法的基础上,实现了较为准确的测速功能。
以上对本申请实施例所提供的一种基于图像融合激光的雷达系统扫描方法及装置进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的一般技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。
需要说明的是,在本文中,诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上所述仅是本申请的具体实施方式,使本领域技术人员能够理解或实现本申请。对这些实施例的多种修改对本领域的技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下,在其它实施例中实现。因此,本申请将不会被限制于本文所述的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (10)
1.一种基于图像融合激光的雷达系统扫描方法,其特征在于,包括:
获取曝光图像和点云数据;
将N帧的曝光图像合并为拼接图像;
其中,所述N帧的曝光图像中,每一帧曝光图像的初次曝光时刻不同,且每一帧曝光图像的横向分辨率小于所述拼接图像的横向分辨率;N为大于1的正整数;
将所述N帧中同步获取的每一帧点云数据分别与所述拼接图像融合。
2.根据权利要求1所述的方法,其特征在于,所述将N帧的曝光图像合并为拼接图像,包括:
第N-1帧扫描时,每隔第一预设时间曝光一次;
第N帧扫描时,每隔第二预设时间曝光一次;
第一预设时间与第二预设时间的差值的绝对值小于等于第三预设时间;
将第N-1帧曝光图像和第N帧曝光图像合并为所述拼接图像。
3.根据权利要求2所述的方法,其特征在于,所述将所述N帧中同步获取的每一帧点云数据分别与所述拼接图像融合,包括:
将第N-1帧点云数据与所述拼接图像融合;
将第N帧点云数据与所述拼接图像融合。
4.根据权利要求1所述的方法,其特征在于,在所述将所述N帧中同步获取的每一帧点云数据分别与所述拼接图像融合之后,还包括:
获取待探测移动物体的运动速度。
5.根据权利要求4所述的方法,其特征在于,所述获取待探测移动物体的运动速度,包括:
获取所述待探测移动物体的水平方向位移量和竖直方向位移量;
根据所述水平方向位移量和所述竖直方向位移量,确定所述待探测移动物体的深度方向位移量;
根据所述深度方向位移量与相邻两帧指向角差值,确定所述水平方向位移量的补偿值;
根据所述水平方向位移量的补偿值确定所述待探测移动物体的运动速度。
8.根据权利要求5所述的方法,其特征在于,所述根据所述水平方向位移量和所述竖直方向位移量,确定所述待探测移动物体的深度方向位移量之后,还包括:
获取所述待探测移动物体的运动方向。
9.根据权利要求8所述的方法,其特征在于,所述获取所述待探测移动物体的运动方向,包括:
根据所述水平方向位移量、所述竖直方向位移量和所述深度方向位移量,确定所述待探测移动物体的运动方向。
10.一种基于图像融合激光的雷达系统扫描装置,其特征在于,包括:
数据获取模块,用于获取曝光图像和点云数据;
图像数据合并模块,用于将N帧的曝光图像合并为拼接图像;其中,所述N帧的曝光图像中,每一帧曝光图像的初次曝光时刻不同,且每一帧曝光图像的横向分辨率小于所述拼接图像的横向分辨率;N为大于1的正整数;
图像融合点云数据模块,用于将所述N帧中同步获取的每一帧点云数据分别与所述拼接图像融合。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210068113.XA CN114089373B (zh) | 2022-01-20 | 2022-01-20 | 基于图像融合激光的雷达系统扫描方法及装置 |
PCT/CN2023/078240 WO2023138697A1 (zh) | 2022-01-20 | 2023-02-24 | 基于图像融合激光的雷达系统扫描方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210068113.XA CN114089373B (zh) | 2022-01-20 | 2022-01-20 | 基于图像融合激光的雷达系统扫描方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114089373A true CN114089373A (zh) | 2022-02-25 |
CN114089373B CN114089373B (zh) | 2022-05-17 |
Family
ID=80308974
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210068113.XA Active CN114089373B (zh) | 2022-01-20 | 2022-01-20 | 基于图像融合激光的雷达系统扫描方法及装置 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN114089373B (zh) |
WO (1) | WO2023138697A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023138697A1 (zh) * | 2022-01-20 | 2023-07-27 | 探维科技(北京)有限公司 | 基于图像融合激光的雷达系统扫描方法及装置 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101083724A (zh) * | 2006-05-31 | 2007-12-05 | Ess技术公司 | 具有提供增强动态范围图像的交错读取的cmos图像系统 |
US20190098233A1 (en) * | 2017-09-28 | 2019-03-28 | Waymo Llc | Synchronized Spinning LIDAR and Rolling Shutter Camera System |
US20200402209A1 (en) * | 2019-06-20 | 2020-12-24 | Ethicon Llc | Super resolution and color motion artifact correction in a pulsed laser mapping imaging system |
US20210003710A1 (en) * | 2019-07-05 | 2021-01-07 | WeRide Corp. | Image capturing method and device |
CN112288642A (zh) * | 2020-09-21 | 2021-01-29 | 北京迈格威科技有限公司 | 鬼影检测方法、图像融合方法及对应装置 |
CN112738410A (zh) * | 2020-12-24 | 2021-04-30 | 重庆金山医疗器械有限公司 | 一种成像方法及装置、内窥镜设备 |
CN112753212A (zh) * | 2018-09-26 | 2021-05-04 | 祖克斯有限公司 | 图像扫描线时间戳 |
CN112953670A (zh) * | 2021-01-26 | 2021-06-11 | 中电海康集团有限公司 | 一种融合感知同步曝光方法、装置及可读存储介质 |
CN112969037A (zh) * | 2021-02-26 | 2021-06-15 | 北京卓视智通科技有限责任公司 | 一种视频图像侧向融合拼接方法、电子设备及存储介质 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111736169B (zh) * | 2020-06-29 | 2023-04-28 | 杭州海康威视数字技术股份有限公司 | 一种数据同步方法、设备及系统 |
CN111951306B (zh) * | 2020-08-31 | 2024-06-07 | 华通科技有限公司 | 一种激光雷达与图像视频融合的目标检测方法 |
CN112346073B (zh) * | 2020-09-25 | 2023-07-11 | 中山大学 | 一种动态视觉传感器与激光雷达数据融合方法 |
CN112561841A (zh) * | 2020-12-04 | 2021-03-26 | 深兰人工智能(深圳)有限公司 | 激光雷达和相机的点云数据融合方法、装置 |
CN113902662A (zh) * | 2021-09-30 | 2022-01-07 | 苏州智加科技有限公司 | 基于高阶特征的相机与激光雷达同步融合方法及装置 |
CN114089373B (zh) * | 2022-01-20 | 2022-05-17 | 探维科技(北京)有限公司 | 基于图像融合激光的雷达系统扫描方法及装置 |
-
2022
- 2022-01-20 CN CN202210068113.XA patent/CN114089373B/zh active Active
-
2023
- 2023-02-24 WO PCT/CN2023/078240 patent/WO2023138697A1/zh unknown
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101083724A (zh) * | 2006-05-31 | 2007-12-05 | Ess技术公司 | 具有提供增强动态范围图像的交错读取的cmos图像系统 |
US20190098233A1 (en) * | 2017-09-28 | 2019-03-28 | Waymo Llc | Synchronized Spinning LIDAR and Rolling Shutter Camera System |
CN112753212A (zh) * | 2018-09-26 | 2021-05-04 | 祖克斯有限公司 | 图像扫描线时间戳 |
US20200402209A1 (en) * | 2019-06-20 | 2020-12-24 | Ethicon Llc | Super resolution and color motion artifact correction in a pulsed laser mapping imaging system |
US20210003710A1 (en) * | 2019-07-05 | 2021-01-07 | WeRide Corp. | Image capturing method and device |
CN112288642A (zh) * | 2020-09-21 | 2021-01-29 | 北京迈格威科技有限公司 | 鬼影检测方法、图像融合方法及对应装置 |
CN112738410A (zh) * | 2020-12-24 | 2021-04-30 | 重庆金山医疗器械有限公司 | 一种成像方法及装置、内窥镜设备 |
CN112953670A (zh) * | 2021-01-26 | 2021-06-11 | 中电海康集团有限公司 | 一种融合感知同步曝光方法、装置及可读存储介质 |
CN112969037A (zh) * | 2021-02-26 | 2021-06-15 | 北京卓视智通科技有限责任公司 | 一种视频图像侧向融合拼接方法、电子设备及存储介质 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023138697A1 (zh) * | 2022-01-20 | 2023-07-27 | 探维科技(北京)有限公司 | 基于图像融合激光的雷达系统扫描方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN114089373B (zh) | 2022-05-17 |
WO2023138697A1 (zh) | 2023-07-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN1099802C (zh) | 强度调制辐射场的探测与解调的设备和方法 | |
CN101449181B (zh) | 测距方法和用于确定目标的空间维度的测距仪 | |
CN102494609B (zh) | 一种基于激光探针阵列的三维摄影方法及装置 | |
CN102033314B (zh) | 影像采集装置和影像显示方法 | |
CN103791860B (zh) | 基于视觉检测技术的微小角度测量装置及方法 | |
WO2018175387A1 (en) | Lidar based 3-d imaging with structured light and integrated illumination and detection | |
CN101846745B (zh) | 基于强关联量子成像原理的激光雷达 | |
JP2004530144A (ja) | 画像情報を提供する方法 | |
CN105115445A (zh) | 基于深度相机与双目视觉复合的三维成像系统及成像方法 | |
CN103323124B (zh) | 红外成像光谱仪对快速移动目标的超光谱成像方法 | |
CN103994719A (zh) | 基于盖革apd阵列的高精度三维成像装置及其使用方法 | |
US20100296077A1 (en) | Three-dimensional range imaging apparatus and method | |
CN113160327A (zh) | 一种点云补全的实现方法和系统 | |
US20240077612A1 (en) | Sub-sweep sampling in a lidar system | |
Reulke | Combination of distance data with high resolution images | |
CN114089373B (zh) | 基于图像融合激光的雷达系统扫描方法及装置 | |
CN104568152B (zh) | 横向剪切干涉扫描傅里叶变换成像光谱仪 | |
CN113534596B (zh) | Rgbd立体相机及成像方法 | |
CN109490909A (zh) | 激光雷达扫描探测装置及其探测方法 | |
CN102944879A (zh) | 一种基于mems二维扫描镜的四维成像装置及其成像方法 | |
CN103969829B (zh) | 基于mems微扫描镜的单探测器光学成像系统及方法 | |
CN110906883B (zh) | 一种融合多目视觉与合成孔径成像的高分辨率三维探测方法 | |
CN103558160A (zh) | 一种提高光谱成像空间分辨率的方法和系统 | |
CN115824170A (zh) | 一种摄影测量与激光雷达融合测量海洋波浪的方法 | |
CN114322844B (zh) | 一种高速激光轮廓仪 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |