CN113837969B - 非视距图像重建方法、装置、系统和计算机可读存储介质 - Google Patents
非视距图像重建方法、装置、系统和计算机可读存储介质 Download PDFInfo
- Publication number
- CN113837969B CN113837969B CN202111157828.4A CN202111157828A CN113837969B CN 113837969 B CN113837969 B CN 113837969B CN 202111157828 A CN202111157828 A CN 202111157828A CN 113837969 B CN113837969 B CN 113837969B
- Authority
- CN
- China
- Prior art keywords
- frequency
- sensor array
- distribution data
- preset
- laser
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 54
- 238000005286 illumination Methods 0.000 claims abstract description 44
- 230000009466 transformation Effects 0.000 claims description 19
- 238000004590 computer program Methods 0.000 claims description 12
- 238000012545 processing Methods 0.000 claims description 11
- 230000005540 biological transmission Effects 0.000 claims description 9
- 238000007781 pre-processing Methods 0.000 claims description 8
- 230000001154 acute effect Effects 0.000 claims description 3
- 238000000605 extraction Methods 0.000 claims description 3
- 238000003384 imaging method Methods 0.000 abstract description 16
- 238000010586 diagram Methods 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 7
- 238000004364 calculation method Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 6
- 238000001514 detection method Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 239000011248 coating agent Substances 0.000 description 1
- 238000000576 coating method Methods 0.000 description 1
- 238000000205 computational method Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000010304 firing Methods 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/514—Depth or shape recovery from specularities
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10052—Images from lightfield camera
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Optical Radar Systems And Details Thereof (AREA)
Abstract
本申请实施例提供一种非视距图像重建方法、装置、系统和计算机可读存储介质,该方法包括:控制激光器发射激光到中继表面,通过传感器阵列接收经由中继表面反射至传感器阵列的光子以得到各像素点处的光子分布数据;利用虚拟光源构建的调制照明相量,从经过预处理的光子分布数据中提取出主要频率分量,以得到主要光子分布数据;根据调制照明相量的主要频率分量和主要光子分布数据计算等效接收相量;对等效接收相量进行反向投影,以重建得到被遮挡的目标物的图像。本申请的技术方案通过基于传感器阵列及相量场重建场景的方式,可以实现无振镜扫描、且快速并行的非视距成像。
Description
技术领域
本申请涉及非视距成像技术领域,尤其涉及一种非视距图像重建方法、装置、系统和计算机可读存储介质。
背景技术
非视距成像使用窄脉冲光源和时间灵敏的光学传感器,通过计算光学方法从多次漫反射光中对隐藏的非视距场景进行成像,重建被遮挡的场景几何。这种特殊的能力使得非视距成像在行星研究、工业监测、车辆导航及防撞、执法和军事情报等领域具有广泛的应用前景。
在飞行时间非视距成像测量中,中继表面上的点由脉冲激光照射,进而在散射后照亮隐藏的场景,一个飞行时间探测器从中继表面上的点处捕获从场景返回的光信号,使用适当的计算方法即可对隐藏场景进行重建。但是,由于目前的非视距成像方法要求激光器使用振镜扫描来采集数据,而振镜的机械运动需要花费时间,且每个扫描点都需要单独曝光,造成采集一帧图像的时间可长达分钟乃至小时,获得高分辨率实时或近实时的非视距成像十分困难。
发明内容
本申请实施例提供一种非视距图像重建方法、装置、系统和计算机可读存储介质,该方法通过基于传感器阵列及相量场重建场景的方式,可以实现无振镜扫描、且快速并行的非视距成像。
本申请的实施例提供一种非视距图像重建方法,包括:
控制激光器发射激光到中继表面,通过传感器阵列接收经由所述中继表面反射至所述传感器阵列的光子,得到所述传感器阵列中各像素点处的光子分布数据,并对所述光子分布数据进行预处理;
对基于预设频率的虚拟光源构建的调制照明相量进行频域变换,以提取出主要频率分量,并对经过预处理的光子分布数据进行频域变换,得到频域光子分布数据,从所述频域光子分布数据中提取出与所述主要频率分量的频率成分相同的主要光子分布数据;
根据所述主要频率分量和所述主要光子分布数据,计算等效接收相量;
对所述等效接收相量中每个频率分量分别进行反向投影处理,得到每个频率分量对应的反向投影数据,并根据所有所述反向投影数据重建被遮挡的目标物的图像。
进一步地,所述基于预设频率的虚拟光源构建的调制照明相量的获取,包括:
根据所述激光器照射在所述中继表面的位置和预设频率的虚拟光源的位置构造一照明相量,并对所述照明相量进行高斯分布包络调制,得到所述预设频率的调制照明相量。
进一步地,所述对所述等效接收相量中每个频率分量分别进行反向投影处理,包括:
将待重建所述目标物所在的三维空间按照设定深度划分为不同平面;
将所述不同平面与所述等效接收相量中每个频率分量进行二维卷积处理,得到每个所述频率分量对应的反向投影数据。
进一步地,所述根据所有所述反向投影数据重建被遮挡的目标物的图像,包括:
对所有所述反向投影数据进行傅里叶逆变换,得到时域反向投影数据;
计算所述目标物所在的三维空间中的各预设体素点到所述激光器照射在所述中继表面的位置之间的传输时间,并在所述传输时间确定时,对各所述时域反向投影数据进行累加,得到所述预设频率下所述目标物的图像。
进一步地,该非视距图像重建方法,还包括:
基于不同预设频率的虚拟光源构建多个调制照明相量,对于每个预设频率对应的所述调制照明相量,执行所述频域变换、所述等效接收相量计算及图像重建的步骤,以得到每个预设频率对应的所述目标物的重建图像;
对两个不同的预设频率下的所述重建图像中的体素点进行取值对比;
若预设频率更高的所述体素点与频率更低的所述体素点之间的绝对差值大于等于预设阈值,则丢弃当前体素点;
若所述绝对差值小于所述预设阈值,则保留当前体素点,所述保留的体素点将用于重新构建该目标物的图像。
进一步地,所述控制激光器发射激光到中继表面,通过传感器阵列接收经由所述中继表面反射至所述传感器阵列的光子,包括:
控制激光器按照设定的固有频率发射激光脉冲,以使所述激光脉冲通过所述中继表面反射至被遮挡的目标物上;
在发射所述激光脉冲时,同步启动所述传感器阵列的时间仓计数,以记录经由所述中继表面反射至所述传感器阵列的光子数目及到达时间,所述记录的光子数目及到达时间用于得到各像素点处的光子分布数据;
所述光子分布数据的预处理过程,包括:
计算所述光子从所述激光器发射到所述中继表面的照射位置的第一时间、以及所述光子从所述中继表面上的接收位置反射到所述传感器阵列的第二时间;
利用所述第一时间和所述第二时间对所述光子分布数据进行时间平移,得到时间平移后的光子分布数据,所述时间平移后的光子分布数据用于后续的频域变换操作。
进一步地,所述通过传感器阵列接收经由所述中继表面反射至所述传感器阵列的光子,之前还包括:
对所述传感器阵列中的各个像素点进行计时同步校准,以得到各个像素点的延迟时间,所述延迟时间用于对后续采集的光子到达时间进行校准。
本申请的实施例还提供一种非视距图像重建装置,包括:
采集模块,用于控制激光器发射激光到中继表面,通过传感器阵列接收经由所述中继表面反射至所述传感器阵列的光子,得到所述传感器阵列中各像素点处的光子分布数据,并对所述光子分布数据进行预处理;
提取模块,用于对基于预设频率的虚拟光源构建的调制照明相量进行频域变换,以提取出主要频率分量,并对经过预处理的光子分布数据进行频域变换,得到频域光子分布数据,从所述频域光子分布数据中提取出与所述主要频率分量的频率成分相同的主要光子分布数据;
计算模块,用于根据所述主要频率分量和所述主要光子分布数据,计算等效接收相量;
重建模块,用于对所述等效接收相量中每个频率分量分别进行反向投影处理,得到每个频率分量对应的反向投影数据,并根据所有所述反向投影数据重建被遮挡的目标物的图像。
本申请的实施例还提供一种非视距图像重建系统,包括:脉冲激光器、传感器阵列和计算机,其中,所述脉冲激光器的激光信号发射光路与所述传感器阵列的光接收面的中轴线呈锐角,所述计算机连接所述传感器阵列;
所述计算机包括处理器和存储器,所述存储器存储有计算机程序,所述处理器用于执行所述计算机程序以实施所述的非视距图像重建方法。
本申请的实施例还提供一种计算机可读存储介质,其存储有计算机程序,所述计算机程序在处理器上执行时,实施所述的非视距图像重建方法。
本申请的实施例具有如下有益效果:
本申请实施例的非视距图像重建方法通过基于传感器阵列及相量场重建场景的方式,基于虚拟光源及实际测量的光子分布数据进行主要频率分量的接收相量的计算,进而利用接收相量进行反向投影以重建得到被遮挡的目标物的图像,该方法可以实现无振镜扫描且快速并行的非视距成像。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1示出了本申请实施例的非视距图像重建方法的一种应用场景图;
图2示出了本申请实施例的非视距图像重建方法的第一种流程示意图;
图3示出了本申请实施例的非视距图像重建方法的第二种流程示意图;
图4示出了本申请实施例的校准前和校准后的光子分布数据的对比图;
图5示出了本申请实施例的非视距图像重建方法的平面划分的示意图;
图6示出了本申请实施例的非视距图像重建方法的图像重建的流程示意图;
图7示出了本申请实施例的非视距图像重建方法的第三种流程示意图;
图8示出了本申请实施例的非视距图像重建装置的结构示意图。
具体实施方式
下面将结合本申请实施例中附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。
通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。
在下文中,可在本申请的各种实施例中使用的术语“包括”、“具有”及其同源词仅意在表示特定特征、数字、步骤、操作、元件、组件或前述项的组合,并且不应被理解为首先排除一个或更多个其它特征、数字、步骤、操作、元件、组件或前述项的组合的存在或增加一个或更多个特征、数字、步骤、操作、元件、组件或前述项的组合的可能性。
此外,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
除非另有限定,否则在这里使用的所有术语(包括技术术语和科学术语)具有与本申请的各种实施例所属领域普通技术人员通常理解的含义相同的含义。所述术语(诸如在一般使用的词典中限定的术语)将被解释为具有与在相关技术领域中的语境含义相同的含义并且将不被解释为具有理想化的含义或过于正式的含义,除非在本申请的各种实施例中被清楚地限定。
通常地,由于非视距成像问题中,包含场景信息的光子经过三次漫反射,导致信噪比极低。传统方法使用振镜扫描可以使得激光器和传感器始终对准中继墙上的同一个点,这样的同光路配置结合目标物上的逆向反光涂料,可以最大程度上提高信噪比,减小成像难度。然而,这也造成了空间位置校准上的困难,以及过于漫长难以实用的数据采集时间。
为此,本申请实施例提出一种基于传感器阵列采集的非视距成像方法,通过借助相量场重建的技术,针对使用传感器阵列时较低信噪比的情况调整算法来维持较好的成像质量。下面将结合实施例对该非视距图像重建方法进行说明。
实施例1
请参照图1和2,本实施例提出一种非视距图像重建方法,可应用于需要进行非视距成像的场景,如工业监测、车辆导航及防撞等不同领域。
如图1所示,在一种非视距成像场景中,通常包含有非视距目标物、中继(这里以中继墙为例)以及遮挡物,由于目标物被遮挡,不能直接得到该目标物的图像,因此,本实施例的非视距图像重建方法将利用激光器、光学传感器阵列组件等来得到该遮挡的目标物的图像,此外,光学传感器阵列采集的数据将接口同步到计算机等终端设备中,以进行数据分析并最终得到目标物的重建图像。
其中,激光器主要用于发射高频率的脉冲激光信号,例如,可以是纳秒级或亚纳秒级的脉冲信号等,而激光的脉冲宽度可根据实际成像所需的分辨率来选择。光学传感器阵列组件主要基于阵列式的单光子雪崩二极管(SPAD)来实现,其中,在进行数据采集时,阵列式传感器上还设有镜头和滤光片等,以实现对光信号的探测。在一种实施方式中,该传感器阵列可采用100x100的传感器阵列。本实施例中,通过阵列式传感器捕获从场景返回的光信号,可以实现并行数据采集,相比起单个像素的传感器,它们通常具有较小的填充因子和较低的光子检测概率。
结合图1所示的场景,下面对该非视距图像重建方法进行详细说明。
示范性地,如图2所示,该非视距图像重建方法包括:
步骤S110,控制激光器发射激光到中继表面,通过传感器阵列接收经由该中继表面反射至该传感器阵列的光子,得到该传感器阵列中各像素点处的光子分布数据,并对光子分布数据进行预处理。
示范性地,可控制该激光器按照设定的固有频率发射激光脉冲,例如,可以以500KHz甚至是更高的兆级别频率(如1MHz、10MHz等)进行脉冲发射,以使该激光脉冲光信号通过中继表面漫反射至被遮挡的目标物上,如图1所示,经过三次漫反射,最终光信号反射到传感器阵列的接收表面,使得传感器阵列能够接收到光子。优选地,在开始发射激光脉冲时,同步启动传感器阵列的时间仓(TimeBin)计数,以记录经由中继表面反射至传感器阵列的光子数目及到达时间。
其中,记录的光子数目及到达时间可用于得到各像素点处的光子分布数据。例如,可通过统计分析方式,得到该光子的分布情况,以直方图为例,上述的光子分布数据可以是各个像素点处的光子数随时间仓分布的直方图,记为H(xp→xc,t),其中,xp为激光器照射在中继表面上的位置,xc为传感器阵列对应的中继表面上的接收位置,t为光子的到达时间。可以理解,在使用传感器阵列进行并行数据采集时,xp为一固定值,xc的取值数目等于传感器阵列的像素数。
进而,在上述步骤S110中的得到所述传感器阵列中各像素点处的光子分布数据的操作之后,还需要对采集到的数据进行预处理。
示范性地,如图3所示,该预处理过程包括:
步骤S210,计算光子从激光器发射到中继表面的照射位置的第一时间、以及光子从中继表面上的接收位置反射到传感器阵列的第二时间。
对于每个像素点的数据H(xp→xc,t),应当减去光子从激光器发射到xp位置的时间、以及从xc位置回到传感器阵列的时间。示范性地,这两部分时间之和可计算为:
Δt=(|xp-xl|+|xc-xs|)/c;
其中,xl为激光器在三维空间中的位置坐标,xs为SPAD阵列在三维空间中的位置坐标;c为光速。
步骤S220,利用所述第一时间和所述第二时间对所述光子分布数据进行时间平移,得到时间平移后的光子分布数据,所述时间平移后的光子分布数据用于后续的频域变换操作。
示范性地,可利用计算到的第一时间和第二时间进行时间校准,于是,将采集到的数据H(xp→xc,t)进一步在时间上平移为H(xp→xc,t+Δt),后续则利用平移后的数据进行处理。
进一步优选地,本实施例的方法在进行数据采集之前还可进行计时同步校准。示范性地,在上述步骤S110中的通过传感器阵列接收经由所述中继表面反射至所述传感器阵列的光子的操作之前,如图3所示,该非视距图像重建方法还包括:
步骤S230,对传感器阵列中的各个像素点进行计时同步校准,以得到各个像素点的延迟时间,所述延迟时间用于对后续采集的光子到达时间进行校准。
在实际使用中,采用的SPAD阵列中每个像素开始计时的时间并不完全同步,因此需要事先校准。示范性地,可通过移除SPAD阵列前的镜头,并在传感器阵列前的近处放一个小的漫反射白屏,然后使用带匀光片的激光器照射白屏,理论上每个传感器像素应当探测到相同距离,这是由于无镜头时视场角非常小。
然后,将每个传感器像素采集到的距离数据通过低通滤波器,从中取出光子数最大值点所对应的时间作为该像素点的延迟时间τ。于是,使用该延迟数据将用于对后续实际探测过程中采集的数据进行时间平移,即有H(xp→xc,t)应在时间轴上向前平移为H(xp→xc,t+τ)。之后,再经过预处理的数据可表示为H(xp→xc,t+τ+Δt)。
例如,图4中的两个图分别表示计时同步校准前、后的不同像素点采集的数据。可以理解,先通过延迟时间进行同步校准,这样可以保证各个传感器采集的数据基于同一时间基准,得到更为准确的图像重建结果。
步骤S120,对基于预设频率的虚拟光源构建的调制照明相量进行频域变换,以提取出主要频率分量,并对预处理后的光子分布数据进行频域变换,得到频域光子分布数据,从该频域光子分布数据中提取出与该主要频率分量的频率成分相同的主要光子分布数据。
本实施例中,将基于相量场重建技术来进行图像重建。示范性地,可预先选择一个中心频率的光源,将其作为虚拟照明,并构建出一个单频照明相量,进而利用该单频照明相量与实际采集的光子分布数据来得到虚拟的接收相量,该接收相量将用于后续的图像重建。
在一种实施方式中,对于上述的调制照明相量的获取,包括:根据该激光器照射在该中继表面的位置和预设频率的虚拟光源的位置构造一照明相量;对该照明相量进行高斯分布包络调制,,从而得到该预设频率的调制照明相量。
例如,若选取的光源的中心频率为Ω0,按照高斯分布进行包络调制,以使其在时间上具有高斯包络,此时,该预设频率Ω0对应的时域t的调制照明相量可记为:
其中,xls为虚拟光源的位置,xp为激光器照射在中继表面上的位置,σ为高斯函数标准差,通常为一指定值。
由于时域的调制照明相量的幅度符合高斯分布,其频域上的照明向量同样符合高斯包络,于是,这里可对该调制照明相量进行傅里叶变换,以便提取该调制照明相量中的核心频率成分,进而利用核心频率成分进行计算而对于影响较小的频率成分则不参与计算,这样可以减少计算量,从而提升运行速度,又可以尽可能地保证图像成像质量。
以上述的调制照明相量为例,可通过傅里叶变换将时域转换到频域,于是,可得到频域Ω的调制照明相量的表达式:
进而,可根据预先设定的一阈值γ,将大于该阈值γ的频率分量提取出来,作为主要频率分量,这里记为{Ω01,Ω02,...Ω0K}。而对于经过上述预处理后的光子分布数据,同样可通过傅里叶变换得到频域光子分布数据,记为此时,可根据这些主要频率分量,从该频域光子分布数据中提取出与该主要频率分量的频率成分相同的主要光子分布数据。
步骤S130,根据该主要频率分量和该主要光子分布数据,计算等效接收相量。
其中,上述的等效接收相量也为虚拟接收相量。示范性地,通过将上述调制照明相量的主要频率分量与实际采集的频域上的主要光子分布数据进行相乘,可以得到该等效接收相量。
示范性地,该等效接收相量可表示如下:
步骤S140,对该等效接收相量中每个频率分量分别进行反向投影处理,得到每个频率分量对应的反向投影数据,并根据所有反向投影数据重建被遮挡的目标物的图像。
在一种实施方式中,如图5所示,上述的反向投影处理,包括:
子步骤S141,将待重建的目标物所在的三维空间按照设定深度划分为不同平面。
本实施例中,将基于瑞利-索末菲衍射(Rayleigh Sommerfeld Diffraction,RSD)原理,利用在两个平行平面之间传播波,这样可以将目标物所在空间的平面以及中继表面上由各个接收位置xc所在的平面,作为具有间距(或深度)zv的两个平面,如图6所示。其中,目标物所在空间的平面上的点也为感兴趣的点,可通过预先选取得到。
子步骤S142,将该不同平面与该等效接收相量中每个频率分量进行二维卷积处理,得到每个频率分量对应的反向投影数据。
示范性地,对于指定深度zv的平面,基于RSD积分的表达式可通过卷积核G(xv-xc,yv-yc,zv,Ω)表示。进而,上述的各个频率分量与该平面的二维卷积处理,可通过如下表达式表示:
其中,
其中,表示中继表面上由各个接收位置xc所在的平面,xc=(xc,yc,0);/>表示目标物所在空间的平面,定义的体素点xv=(xv,yv,zv)。这里将传播因子通过卷积核G(xv-xc,yv-yc,zv,Ω)来表示,方便进行卷积快速计算。
在一种实施方式中,如图5所示,在重建被遮挡的目标物的图像时,可包括如下处理:
子步骤S143,对所有反向投影数据进行傅里叶逆变换,得到时域反向投影数据。
子步骤S144,计算该目标物所在的三维空间中的各预设体素点到该激光器照射在中继表面的位置之间的传输时间,并在该传输时间确定时,对各时域反向投影数据进行累加,得到该预设频率下该目标物的图像。
示范性地,对于得到的所有反向投影数据可通过傅里叶逆变换,将其均转换到时域,记为/>由于此时的时域数据为四维,即包括三维空间坐标(x、y和z)以及传输时间t,这里将对目标物所在的空间上的每个体素点xv取对应的理论传输时间的取值,即通过固定传输时间来得到三维重建结果。具体地,可按照如下公式进行重建:
其中,
其中,I(xv)表示该目标物的重建图像的强度;c表示光速。
本申请实施例的非视距图像重建方法通过基于传感器阵列及相量场重建场景的方式,基于虚拟光源及实际测量的光子分布数据进行主要频率分量的接收相量的计算,进而利用接收相量进行反向投影以重建得到被遮挡的目标物的图像,该方法可以实现无振镜扫描且快速并行的非视距成像。
实施例2
请参照图7,基于上述实施例1的方法,本实施例还提出一种非视距图像重建方法,与上述实施例1不同的是,上述实施例主要基于一个设定频率的虚拟光源的调制照明相量进行重建,而本实施例通过结合至少两个调制照明相量来进行重建,以用于优化非视距成像时重建的图像质量。
示范性地,该非视距图像重建方法包括:
步骤S310,控制激光器发射激光到中继表面,通过传感器阵列接收经由中继表面反射至传感器阵列的光子,得到该传感器阵列中各像素点处的光子分布数据,并对所述光子分布数据进行预处理。
其中,步骤S310与上述步骤S110相同,故这里不再重复描述。
步骤S320,基于不同预设频率的虚拟光源构建多个调制照明相量,对于每个预设频率对应的调制照明相量,执行上述的频域变换、等效接收相量计算及图像重建的步骤,以得到每个预设频率对应的目标物的重建图像。
示范性地,可构造多个频率Ω1,...,Ωi,...,Ωn(对应波长λ1,...,λi,...,λn)的虚拟光源作为虚拟照明,于是,第i个预设频率Ωi对应的调制照明相量为:
例如,该预设频率的数量可选取为2~3个,具体可根据实际需求来适应性设定。可以理解,对于每个预设频率,可采用上述实施例1中描述的方式来得到其对应的调制照明相量,故这里不再重复描述。相应地,在提取主要频率分量时,对于第i个预设频率Ωi,其主要频率分量可记为{Ωi1,Ωi2,...ΩiK}。
步骤S330,对两个不同的预设频率下的重建图像中的体素点进行取值对比。
示范性地,将预设频率更高的体素点与频率更低的体素点进行作差,若两者的绝对差值(即差值的绝对值)大于等于一个预设阈值,则执行步骤S240,否则执行步骤S250。
步骤S340,若两者的绝对差值大于等于预设阈值,则丢弃当前体素点。
步骤S350,若两者的绝对差值小于该预设阈值,则保留当前体素点。
示范性地,对于两个不同预设频率Ωi和Ωj,将频率更高的体素点的取值记为mh,频率更低的体素点的取值记为ml,于是将这两个值作差,则有|mh-ml|;若|mh-ml|≥阈值th,则视为噪声,丢弃该体素点。反之,则保留,以预设频率更高的重建图像为例,可将当前体素点进行保留。进一步可选地,可使用插值方法填充那些被丢弃的体素点,以保证体素点的数量足够。
步骤S360,将保留的体素点用于组合构建该目标物的图像。
可以理解,由于不同的预设频率会有不同的信噪比,通过组合基于各个预设频率重建的结果,以得到最终的重建结果,这样可以保证得到的图像结果质量更好。
实施例3
请参照图8,基于上述实施例1或2的方法,本实施例还提出一种非视距图像重建装置100,示范性地,该非视距图像重建装置100包括:
采集模块110,用于控制激光器发射激光到中继表面,通过传感器阵列接收经由所述中继表面反射至所述传感器阵列的光子,得到所述传感器阵列中各像素点处的光子分布数据,并对所述光子分布数据进行预处理。
提取模块120,用于对基于预设频率的虚拟光源构建的调制照明相量进行频域变换,以提取出主要频率分量,并对经过预处理的光子分布数据进行频域变换,得到频域光子分布数据,从所述频域光子分布数据中提取出与所述主要频率分量的频率成分相同的主要光子分布数据。
计算模块130,用于根据所述主要频率分量和所述主要光子分布数据,计算等效接收相量。
重建模块140,用于对所述等效接收相量中每个频率分量分别进行反向投影处理,得到每个频率分量对应的反向投影数据,并根据所有所述反向投影数据重建被遮挡的目标物的图像。
可以理解,本实施例的装置对应于上述实施例1的方法,上述实施例1中的可选项同样适用于本实施例,故在此不再重复描述。
请参照图1,本申请还提出一种非视距图像重建系统,示范性地,该非视距图像重建系统可包括:脉冲激光器、传感器阵列和计算机,其中,所述脉冲激光器的激光信号发射光路与所述传感器阵列的光接收面的中轴线呈锐角,所述计算机连接所述传感器阵列。其中,所述计算机包括处理器和存储器,所述存储器存储有计算机程序,所述处理器用于执行所述计算机程序以实施上述实施例的非视距图像重建方法。
本申请还提供了一种终端设备,如计算机等,示范性地,该终端设备包括处理器和存储器,其中,存储器存储有计算机程序,处理器通过运行所述计算机程序,从而使终端设备执行上述的非视距图像重建方法或者上述非视距图像重建装置中的各个模块的功能。
本申请还提供了一种计算机可读存储介质,用于储存上述终端设备中使用的所述计算机程序。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,附图中的流程图和结构图显示了根据本申请的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在作为替换的实现方式中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,结构图和/或流程图中的每个方框、以及结构图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
另外,在本申请各个实施例中的各功能模块或单元可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或更多个模块集成形成一个独立的部分。
所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是智能手机、个人计算机、服务器、或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。
Claims (8)
1.一种非视距图像重建方法,其特征在于,包括:
控制激光器发射激光到中继表面,通过传感器阵列接收经由所述中继表面反射至所述传感器阵列的光子,得到所述传感器阵列中各像素点处的光子分布数据,并对所述光子分布数据进行预处理;其中,所述预处理过程,包括:计算所述光子从所述激光器发射到所述中继表面的照射位置的第一时间、以及所述光子从所述中继表面上的接收位置反射到所述传感器阵列的第二时间;利用所述第一时间和所述第二时间和延迟时间对所述光子分布数据进行时间平移,得到时间平移后的光子分布数据;其中,所述延迟时间通过预先对所述传感器阵列中的各个像素点进行计时同步校准得到;
基于不同预设频率的虚拟光源构建多个调制照明相量,对于每个预设频率对应的所述调制照明相量进行频域变换,以提取出每个预设频率对应的主要频率分量,并对经过预处理的所述光子分布数据进行频域变换,得到频域光子分布数据,从所述频域光子分布数据中提取出与每个预设频率对应的所述主要频率分量的频率成分相同的主要光子分布数据;
根据每个预设频率对应的所述主要频率分量和所述主要光子分布数据,计算每个预设频率对应的等效接收相量;
对每个预设频率对应的所述等效接收相量中每个频率分量分别进行反向投影处理,得到每个频率分量对应的反向投影数据,并根据每个预设频率对应的所有所述反向投影数据进行图像重建,以得到每个预设频率对应的被遮挡的目标物的重建图像;
将两个不同的预设频率下的所述重建图像中的体素点进行取值对比;若预设频率更高的所述体素点与频率更低的所述体素点之间的绝对差值大于等于预设阈值,则丢弃当前体素点;若所述绝对差值小于所述预设阈值,则保留当前体素点,所述保留的体素点将用于重新构建该目标物的图像。
2.根据权利要求1所述的非视距图像重建方法,其特征在于,所述基于不同预设频率的虚拟光源构建多个调制照明相量,包括:
根据所述激光器照射在所述中继表面的位置和当前预设频率的虚拟光源的位置构造一照明相量,并对所述照明相量进行高斯分布包络调制,得到所述当前预设频率的调制照明相量。
3.根据权利要求1所述的非视距图像重建方法,其特征在于,所述对所述等效接收相量中每个频率分量分别进行反向投影处理,包括:
将待重建所述目标物所在的三维空间按照设定深度划分为不同平面;
将所述不同平面与所述等效接收相量中每个频率分量进行二维卷积处理,得到每个所述频率分量对应的反向投影数据。
4.根据权利要求3所述的非视距图像重建方法,其特征在于,所述根据每个预设频率对应的所有所述反向投影数据进行图像重建,以得到每个预设频率对应的被遮挡的目标物的重建图像,包括:
对当前预设频率对应的所有所述反向投影数据进行傅里叶逆变换,得到时域反向投影数据;
计算所述目标物所在的三维空间中的各预设体素点到所述激光器照射在所述中继表面的位置之间的传输时间,并在所述传输时间确定时,对各所述时域反向投影数据进行累加,得到所述当前预设频率下所述目标物的重建图像。
5.根据权利要求1所述的非视距图像重建方法,其特征在于,所述控制激光器发射激光到中继表面,通过传感器阵列接收经由所述中继表面反射至所述传感器阵列的光子,包括:
控制激光器按照设定的固有频率发射激光脉冲,以使所述激光脉冲通过所述中继表面反射至被遮挡的目标物上;
在发射所述激光脉冲时,同步启动所述传感器阵列的时间仓计数,以记录经由所述中继表面反射至所述传感器阵列的光子数目及到达时间,所述记录的光子数目及到达时间用于得到各像素点处的光子分布数据。
6.一种非视距图像重建装置,其特征在于,包括:
采集模块,用于控制激光器发射激光到中继表面,通过传感器阵列接收经由所述中继表面反射至所述传感器阵列的光子,得到所述传感器阵列中各像素点处的光子分布数据,并对所述光子分布数据进行预处理;
其中,所述预处理过程包括:计算所述光子从所述激光器发射到所述中继表面的照射位置的第一时间、以及所述光子从所述中继表面上的接收位置反射到所述传感器阵列的第二时间;利用所述第一时间、所述第二时间和延迟时间对所述光子分布数据进行时间平移,得到时间平移后的光子分布数据;其中,所述延迟时间通过预先对所述传感器阵列中的各个像素点进行计时同步校准得到;
提取模块,用于对基于不同预设频率的虚拟光源构建多个调制照明相量,对于每个预设频率对应的所述调制照明相量进行频域变换,以提取出每个预设频率对应的主要频率分量,并对经过预处理的所述光子分布数据进行频域变换,得到频域光子分布数据,从所述频域光子分布数据中提取出与每个预设频率对应的所述主要频率分量的频率成分相同的主要光子分布数据;
计算模块,用于根据每个预设频率对应的所述主要频率分量和所述主要光子分布数据,计算每个预设频率对应的等效接收相量;
重建模块,用于对每个预设频率对应的所述等效接收相量中每个频率分量分别进行反向投影处理,得到每个频率分量对应的反向投影数据,并根据每个预设频率对应的所有所述反向投影数据进行图像重建,以得到每个预设频率对应的被遮挡的目标物的重建图像;
所述重建模块,还用于将两个不同的预设频率下的所述重建图像中的体素点进行取值对比;若预设频率更高的所述体素点与频率更低的所述体素点之间的绝对差值大于等于预设阈值,则丢弃当前体素点;若所述绝对差值小于所述预设阈值,则保留当前体素点,所述保留的体素点将用于重新构建该目标物的图像。
7.一种非视距图像重建系统,其特征在于,包括:脉冲激光器、传感器阵列和计算机,其中,所述脉冲激光器的激光信号发射光路与所述传感器阵列的光接收面的中轴线呈锐角,所述计算机连接所述传感器阵列;
所述计算机包括处理器和存储器,所述存储器存储有计算机程序,所述处理器用于执行所述计算机程序以实施权利要求1-5中任一项所述的非视距图像重建方法。
8.一种计算机可读存储介质,其特征在于,其存储有计算机程序,所述计算机程序在处理器上执行时,实施根据权利要求1-5中任一项所述的非视距图像重建方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111157828.4A CN113837969B (zh) | 2021-09-28 | 2021-09-28 | 非视距图像重建方法、装置、系统和计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111157828.4A CN113837969B (zh) | 2021-09-28 | 2021-09-28 | 非视距图像重建方法、装置、系统和计算机可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113837969A CN113837969A (zh) | 2021-12-24 |
CN113837969B true CN113837969B (zh) | 2024-05-10 |
Family
ID=78967884
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111157828.4A Active CN113837969B (zh) | 2021-09-28 | 2021-09-28 | 非视距图像重建方法、装置、系统和计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113837969B (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106067954A (zh) * | 2015-04-20 | 2016-11-02 | 三星电子株式会社 | 成像单元和系统 |
CN112540381A (zh) * | 2020-11-17 | 2021-03-23 | 中国科学院西安光学精密机械研究所 | 非均匀快速傅里叶变换的非视域单进多出三维重建方法 |
CN112802142A (zh) * | 2020-12-31 | 2021-05-14 | 之江实验室 | 一种非视域成像方法及系统 |
-
2021
- 2021-09-28 CN CN202111157828.4A patent/CN113837969B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106067954A (zh) * | 2015-04-20 | 2016-11-02 | 三星电子株式会社 | 成像单元和系统 |
CN112540381A (zh) * | 2020-11-17 | 2021-03-23 | 中国科学院西安光学精密机械研究所 | 非均匀快速傅里叶变换的非视域单进多出三维重建方法 |
CN112802142A (zh) * | 2020-12-31 | 2021-05-14 | 之江实验室 | 一种非视域成像方法及系统 |
Non-Patent Citations (1)
Title |
---|
Phasor field diffraction based reconstruction for fast non-line-of-sight imaging systems;Xiaochun Liu;Nature Communications;1-13 * |
Also Published As
Publication number | Publication date |
---|---|
CN113837969A (zh) | 2021-12-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Shin et al. | Photon-efficient computational 3-D and reflectivity imaging with single-photon detectors | |
JP7191921B2 (ja) | Tofカメラシステムおよび該システムにより距離を測定するための方法 | |
DE102016107959B4 (de) | Auf strukturiertem Licht basierende Multipfadlöschung bei ToF-Bilderzeugung | |
US9194953B2 (en) | 3D time-of-light camera and method | |
US9753140B2 (en) | Methods and apparatus for imaging in scattering environments | |
Godbaz et al. | Closed-form inverses for the mixed pixel/multipath interference problem in amcw lidar | |
EP2333481B1 (fr) | Système optronique et procédé d'élaboration d'images en trois dimensions dédiés à l'identification | |
WO2015057535A1 (en) | Probabilistic time of flight imaging | |
CN106546513A (zh) | 一种基于正交双视场的三维降水粒子测量与重构装置及方法 | |
JP2015175644A (ja) | 測距システム、情報処理装置、情報処理方法及びプログラム | |
JP2023525938A (ja) | 摂動合成開口レーダーのグラフベースのアレイ信号ノイズ除去 | |
EP3480782A1 (en) | Method and device for reducing noise in a depth image | |
Lindell et al. | Towards transient imaging at interactive rates with single-photon detectors | |
CN104236707B (zh) | 一种棱镜色散型成像光谱仪条带噪声消除方法 | |
EP3994484A1 (en) | Time-of-flight imaging apparatus and time-of-flight imaging method | |
CN113837969B (zh) | 非视距图像重建方法、装置、系统和计算机可读存储介质 | |
US11415697B2 (en) | Real-time image formation from Geiger-mode LADAR | |
US20190353792A1 (en) | Convolved Augmented Range LIDAR Nominal Area | |
CN113936197B (zh) | 一种基于视觉显著性对图像进行目标检测的方法和系统 | |
Fang et al. | Streak tube imaging lidar with kilohertz laser pulses and few-photons detection capability | |
Neilsen | Signal processing on digitized LADAR waveforms for enhanced resolution on surface edges | |
CN111445507A (zh) | 一种非视域成像的数据处理方法 | |
Fang et al. | The Accuracy Analysis of TOF Camera Based on ANOVA | |
CN116400379B (zh) | 单光子激光雷达三维成像系统和三维成像方法 | |
WO2024038159A1 (en) | Time-of-flight image processing involving a machine learning model to estimate direct and global light component |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |