CN110412598A - 测距处理装置、测距模块、测距处理方法和程序 - Google Patents
测距处理装置、测距模块、测距处理方法和程序 Download PDFInfo
- Publication number
- CN110412598A CN110412598A CN201910248398.3A CN201910248398A CN110412598A CN 110412598 A CN110412598 A CN 110412598A CN 201910248398 A CN201910248398 A CN 201910248398A CN 110412598 A CN110412598 A CN 110412598A
- Authority
- CN
- China
- Prior art keywords
- phase
- irradiation light
- ranging
- depth
- tap
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/08—Systems determining position data of a target for measuring distance only
- G01S17/32—Systems determining position data of a target for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated
- G01S17/36—Systems determining position data of a target for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated with phase comparison between the received signal and the contemporaneously transmitted signal
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/08—Systems determining position data of a target for measuring distance only
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/08—Systems determining position data of a target for measuring distance only
- G01S17/32—Systems determining position data of a target for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/50—Systems of measurement based on relative movement of target
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
- G01S17/894—3D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/4808—Evaluating distance, position or velocity data
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/491—Details of non-pulse systems
- G01S7/4912—Receivers
- G01S7/4913—Circuits for detection, sampling, integration or read-out
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/491—Details of non-pulse systems
- G01S7/4912—Receivers
- G01S7/4913—Circuits for detection, sampling, integration or read-out
- G01S7/4914—Circuits for detection, sampling, integration or read-out of detector arrays, e.g. charge-transfer gates
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/491—Details of non-pulse systems
- G01S7/4912—Receivers
- G01S7/4915—Time delay measurement, e.g. operational details for pixel components; Phase measurement
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/497—Means for monitoring or calibrating
Abstract
本发明涉及能够实现更高性能的测距处理装置、测距模块、测距处理方法和程序。测距处理装置包括:四相测距运算单元,其通过使用全部的八个检测信号执行对表示到物体的距离的深度进行计算的运算,针对第一相位的照射光至第四相位的照射光中的每种照射光,能够检测到八个检测信号中的两个检测信号;两相测距运算单元,其通过交替地使用八个检测信号中的基于第一相位的照射光和第二相位的照射光的四个检测信号以及基于第三相位的照射光和第四相位的照射光的四个检测信号来执行对表示到物体的距离的深度进行计算的运算;以及条件判定单元,其基于检测信号进行条件判定,并在使用的四相测距运算单元和两相测距运算单元之间切换。
Description
技术领域
本技术涉及测距处理装置、测距模块、测距处理方法和程序,并且特别地,涉及能够实现更高性能的测距处理装置、测距模块、测距处理方法和程序。
背景技术
近年来,随着半导体技术的进步,用于测量到物体的距离的测距模块的小型化已经取得了进展。因此,例如,已经实现了在诸如所谓的智能电话等移动终端中安装测距模块,所述智能电话是具有通信功能的小型信息处理装置。
通常,作为测距模块中的测距方法,存在有间接飞行时间(ToF:Time-of-Flight)和结构光(Structured Light)这两种类型的测距方法。根据间接ToF方法,检测在照射到物体上之后被物体表面反射的光,并基于通过测量光的飞行时间而获得的测量值来计算到物体的距离。根据结构光方法,将图案光照射到物体上,并且基于通过对物体表面上的图案的变形进行成像而获得的图像来计算到物体的距离。
例如,日本专利申请公开第2017-150893号公开了一种如下的技术:该技术用于确定物体在检测期内的运动,以便在根据ToF方法执行测距的测距系统中准确地测量距离。
发明内容
同时,为了在如上所述的移动终端中使用测距模块,要求改善帧速率、功耗、或数据传输频带等的性能。
本发明是鉴于上述情况而做出的,并且本发明能够实现更高性能。
本发明的实施例提供了一种测距处理装置,其包括:四相测距运算单元,其被配置成:当根据到物体的距离将电荷分配给第一抽头和第二抽头时,通过使用全部的八个检测信号执行对表示到所述物体的所述距离的深度进行计算的运算,所述电荷是通过将第一相位的照射光、第二相位的照射光、第三相位的照射光和第四相位的照射光照射到所述物体上并接收由所述物体反射的反射光而产生的,针对所述第一相位的照射光至所述第四相位的照射光中的每种照射光,能够检测到所述八个检测信号中的两个检测信号;两相测距运算单元,其被配置成:通过交替地使用所述八个检测信号中的基于所述第一相位的照射光和所述第二相位的照射光的四个检测信号以及基于所述第三相位的照射光和所述第四相位的照射光的四个检测信号来执行所述对表示到所述物体的所述距离的深度进行计算的运算;以及条件判定单元,其被配置成基于所述检测信号进行条件判定,并且被配置成在使用的所述四相测距运算单元和所述两相测距运算单元之间切换。
本发明的实施例提供了一种测距模块,其包括:发光单元,其被配置成将第一相位的照射光、第二相位的照射光、第三相位的照射光和第四相位的照射光照射到物体上;光接收单元,其被配置成当根据到所述物体的距离将电荷分配给第一抽头和第二抽头时输出八个检测信号,所述电荷是通过接收由所述物体反射的反射光而产生的,针对所述第一相位的照射光至所述第四相位的照射光中的每种照射光,能够检测到所述八个检测信号中的两个检测信号;四相测距运算单元,其被配置成通过使用全部的所述八个检测信号执行对表示到所述物体的所述距离的深度进行计算的运算;两相测距运算单元,其被配置成:通过交替地使用所述八个检测信号中的基于所述第一相位的照射光和所述第二相位的照射光的四个检测信号以及基于所述第三相位的照射光和所述第四相位的照射光的四个检测信号来执行所述对表示到所述物体的所述距离的深度进行计算的运算;以及条件判定单元,其被配置成基于所述检测信号进行条件判定,并且被配置成在所述四相测距运算单元和所述两相测距运算单元之间切换。
本发明的实施例提供了一种测距处理方法,其包括:执行四相测距运算处理:当根据到物体的距离将电荷分配给第一抽头和第二抽头时,通过使用全部的八个检测信号执行对表示到所述物体的所述距离的深度进行计算的运算,所述电荷是通过将第一相位的照射光、第二相位的照射光、第三相位的照射光和第四相位的照射光照射到所述物体上并接收由所述物体反射的反射光而产生的,针对所述第一相位的照射光至所述第四相位的照射光中的每种照射光,能够检测到所述八个检测信号中的两个检测信号;执行两相测距运算处理:通过交替地使用所述八个检测信号中的基于所述第一相位的照射光和所述第二相位的照射光的四个检测信号以及基于所述第三相位的照射光和所述第四相位的照射光的四个检测信号来执行所述对表示到所述物体的所述距离的深度进行计算的运算;以及基于所述检测信号进行条件判定,并且在使用的所述四相测距运算处理和所述两相测距运算处理之间切换。
本发明的实施例提供了一种程序,该程序用于使执行测距处理的测距处理装置的计算机执行所述测距处理,所述测距处理包括:执行四相测距运算处理:当根据到物体的距离将电荷分配给第一抽头和第二抽头时,通过使用全部的八个检测信号执行对表示到所述物体的所述距离的深度进行计算的运算,所述电荷是通过将第一相位的照射光、第二相位的照射光、第三相位的照射光和第四相位的照射光照射到所述物体上并接收由所述物体反射的反射光而产生的,针对所述第一相位的照射光至所述第四相位的照射光中的每种照射光,能够检测到所述八个检测信号中的两个检测信号;执行两相测距运算处理:通过交替地使用所述八个检测信号中的基于所述第一相位的照射光和所述第二相位的照射光的四个检测信号以及基于所述第三相位的照射光和所述第四相位的照射光的四个检测信号来执行所述对表示到所述物体的所述距离的深度进行计算的运算;以及基于所述检测信号进行条件判定,并且在使用的所述四相测距运算处理和所述两相测距运算处理之间切换。
在本发明的实施例中,根据到物体的距离将电荷分配给第一抽头和第二抽头,所述电荷是通过将第一相位的照射光、第二相位的照射光、第三相位的照射光和第四相位的照射光照射到物体上并接收由物体反射的反射光而产生的,并且针对第一相位的照射光至第四相位的照射光,能够检测到八个检测信号(针对所述照射光中的每种照射光,能够检测到八个检测信号中的两个检测信号)。然后,通过使用全部的八个检测信号执行四相测距运算处理,所述四相测距运算处理用于执行对表示到物体的距离的深度进行计算的运算。通过交替地使用八个检测信号中的基于第一相位的照射光和第二相位的照射光的四个检测信号以及基于第三相位的照射光和第四相位的照射光的四个检测信号执行两相测距运算处理,所述两相测距运算处理用于执行对表示到物体的距离的深度进行计算的运算。基于检测信号进行条件判定,并且切换使用的四相测距运算处理和两相测距运算处理。
根据本发明的实施例,可以实现更好的性能。
需要注意,这里所述的效果不是限制性的,并且可以产生本发明中所述的任何效果。
如附图所示,根据以下对本发明的最佳实施方式的详细描述,本发明的这些和其他目的、特征和优点将变得更加明显。
附图说明
图1是示出了应用本技术的测距模块的实施例的构造示例的框图;
图2是用于描述像素电路中的电荷的分配的图;
图3是示出了相位延迟均为90°的四种照射光的示例的图;
图4是用于描述使用基于相位延迟均为90°的四种照射光的四个检测期进行测距的图;
图5是示出了在基于相位延迟为0°的照射光的检测期内的检测信号的示例的图;
图6是示出了在基于相位延迟为90°的照射光的检测期内的检测信号的示例的图;
图7是示出了在基于相位延迟为180°的照射光的检测期内的检测信号的示例的图;
图8是示出了在基于相位延迟为270°的照射光的检测期内的检测信号的示例的图;
图9是用于描述检测信号A0~A270和检测信号B0~B270之间的关系的图;
图10是用于描述校正运算的图;
图11是用于描述使用两个检测期进行测距的图;
图12是示出了测距运算处理单元的第一构造示例的框图;
图13是用于描述测距运算处理的第一处理示例的流程图;
图14是示出了测距运算处理单元的第二构造示例的框图;
图15是用于描述通过合成测距结果来提高帧速率的图;
图16是用于描述通过合成测距结果来降低功耗的图;
图17是用于描述测距运算处理的第二处理示例的流程图;
图18是示出了发光并接收光以输出一个深度图的时序的示例的图;
图19是示出了发光模式变化的图;
图20是示出了发光模式变化的图;
图21是示出了发光模式变化的图;
图22是示出了测距运算处理单元的第三构造示例的框图;
图23是用于描述对基于运动检测的测距结果进行合成的图;
图24是用于描述测距运算处理的第三处理示例的流程图;
图25是示出了安装有测距模块的电子设备的构造示例的框图;
图26是示出了应用本技术的计算机的实施例的构造示例的框图;
图27是描绘车辆控制系统的示意性构造示例的框图;以及
图28是辅助说明车外信息检测部和摄像部的安装位置的示例的图。
具体实施方式
在下文中,将参考附图详细描述应用本技术的具体实施例。
(测距模块的构造示例)
图1是示出了应用本技术的测距模块的实施例的构造示例的框图。
如图1所示,测距模块11包括发光单元12、发光控制单元13、光接收单元14和测距运算处理单元15。例如,测距模块11将光照射到物体上并接收该物体反射光(照射光)时所产生的光(反射光),以测量表示到物体的距离的深度。
在与从发光控制单元13供应的发光控制信号对应的时刻根据发光控制单元13的控制对光进行调制的同时,发光单元12发光,并且发光单元12将照射光照射到物体上。
发光控制单元13向发光单元12供应具有规定频率(例如,20MHz等)的发光控制信号,以控制发光单元12的发光。此外,发光控制单元13还向光接收单元14供应发光控制信号,以结合发光单元12的发光时序驱动光接收单元14。
光接收单元14接收物体反射到光接收单元14的传感器表面上的光,在所述传感器表面中,以阵列形式布置有多个像素。然后,光接收单元14将由与各个像素所接收的反射光的光接收量对应的检测信号构成的图像数据供应给测距运算处理单元15。
测距运算处理单元15基于从光接收单元14供应的图像数据执行计算从测距模块11到物体的深度的运算。然后,测距运算处理单元15产生深度图和置信度图,并且将所产生的图输出到未示出的后续控制单元(例如,图25的应用处理单元121或操作系统处理单元122等),在深度图中,到物体的深度是针对各个像素表示的,在置信度图中,各个深度的置信度是针对各个像素表示的。需要注意,稍后将参考图12描述测距运算处理单元15的详细构造。
此外,在光接收单元14中设置有像素阵列单元22,在像素阵列单元22中,以阵列形式布置有多个像素电路21,并且在像素阵列单元22的外围区域中布置有驱动控制电路23。像素阵列单元22是接收反射光的传感器表面。驱动控制电路23基于例如从发光控制单元13供应的发光控制信号等输出控制信号(例如,稍后将描述的分配信号DIMIX、选择信号ADDRESS DECODE、或复位信号RST),以控制像素电路21的驱动。
像素电路21被配置成使得一个光电二极管31产生的电荷被分配给抽头(tap)32A和抽头32B。然后,在光电二极管31产生的电荷中,分配给抽头32A的电荷从信号线33A读出以用作检测信号A,而分配给抽头32B的电荷从信号线33B读出以用作检测信号B。
抽头32A由传输晶体管41A、浮动扩散(FD:Floating Diffusion)单元42A、选择晶体管43A和复位晶体管44A构成。类似地,抽头32B由传输晶体管41B、FD单元42B、选择晶体管43B和复位晶体管44B构成。
将参考图2描述像素电路21中的电荷的分配。
如图2所示,从发光单元12输出这样的照射光:该照射光被调制成以照射时间T重复地开启和关闭照射(1个周期=2T),并且由光电二极管31接收反射光,以便延迟与到物体的距离对应的延迟时间TRT。此外,分配信号DIMIX_A控制传输晶体管41A的接通/断开,并且分配信号DIMIX_B控制传输晶体管41B的接通/断开。如图2所示,分配信号DIMIX_A具有与照射光的相位相同的相位,而分配信号DIMIX_B具有通过使分配信号DIMIX_A的相位反转而获得的相位。
因此,在传输晶体管41A根据分配信号DIMIX_A而接通的时期内,光电二极管31接收反射光时产生的电荷被传输到FD单元42A,并且在传输晶体管41B根据分配信号DIMIX_B而接通的时期内,光电二极管31接收反射光时产生的电荷被传输到FD单元42B。因此,在以照射时间T周期性照射照射光的规定时期内,经由传输晶体管41A传输的电荷依次累积在FD单元42A中,并且经由传输晶体管41B传输的电荷依次累积在FD单元42B中。
然后,当在累积电荷的时期结束之后选择晶体管43A根据选择信号ADDRESSDECODE_A而接通时,经由信号线33A读出累积在FD单元42A中的电荷,并且从光接收单元14输出对应于电荷量的检测信号A。类似地,当选择晶体管43B根据选择信号ADDRESS DECODE_B而接通时,经由信号线33B读出累积在FD单元42B中的电荷,并且从光接收单元14输出对应于电荷量的检测信号B。此外,当复位晶体管44A根据复位信号RST_A而接通时,排出累积在FD单元42A中的电荷,并且当复位晶体管44B根据复位信号RST_B而接通时,排出累积在FD单元42B中的电荷。
如上所述,像素电路21可以根据延迟时间TRT将由光电二极管31接收的反射光产生的电荷分配给抽头32A和32B,并且像素电路21可以输出检测信号A和B。此外,延迟时间TRT对应于从发光单元12向物体发射光到光被物体反射后返回到光接收单元14的时间,即,对应于到物体的距离。因此,测距模块11能够基于检测信号A和B计算取决于延迟时间TRT的到物体的距离(深度)。
同时,在测距模块11中,由于各个像素电路21的光电二极管31之间的特性存在差异,因此对各个像素电路21的检测信号A和B的影响不同。因此,通常,通过不同相位的照射光,基于根据由各个相位的照射光产生的反射光而检测到的检测信号A和B,多次执行用于消除由特性差异造成的影响的运算。
例如,如图3所示,使用四种相位延迟均为90°的照射光。即,使用作为参考的相位延迟为0°的照射光、相位延迟为90°的照射光、相位延迟为180°的照射光、以及相位延迟为270°的照射光,并且设置有四个检测检测信号A和B的时期(四边形(quad))。
即,如图4所示,例如,顺序地设置:检测由相位延迟为0°的照射光产生的反射光的检测期Q0;检测由相位延迟为90°的照射光产生的反射光的检测期Q1;检测由相位延迟为180°的照射光产生的反射光的检测期Q2;以及检测由相位延迟为270°的照射光产生的反射光的检测期Q3。此外,在检测期Q0、Q1、Q2和Q3中的各个检测期内,设置电荷复位的复位期、累积电荷的积分期、以及读出电荷的读出期。
通过包括检测期Q0、Q1、Q2和Q3在内的检测期以及随后的待机期(空载时间/空闲时间),构成了用于输出一个深度图的一个深度帧。重复输出这样的一个深度帧。因此,可以以规定的帧速率顺序地输出诸如帧数为t的深度帧、帧数为t+1的深度帧、以及帧数为t+2的深度帧等深度帧。
图5示出了检测期Q0内的照射光、反射光、分配信号DIMIX_A和DIMIX_B、以及检测信号A和B的示例。如图5所示,电荷以与延迟时间TRT对应的量分配给抽头32A和32B,并且电荷在积分期内累积。然后,在读出期内,读出在积分期内各自累积的电荷,并输出检测期Q0内的检测信号A0和B0。
图6示出了检测期Q1内的照射光、反射光、分配信号DIMIX_A和DIMIX_B、以及检测信号A和B的示例。如图6所示,电荷以与延迟时间TRT对应的量分配给抽头32A和32B,并且电荷在积分期内累积。然后,在读出期内,读出在积分期内各自累积的电荷,并输出检测期Q1内的检测信号A90和B90。
图7示出了检测期Q2内的照射光、反射光、分配信号DIMIX_A和DIMIX_B、以及检测信号A和B的示例。如图7所示,电荷以与延迟时间TRT对应的量分配给抽头32A和32B,并且电荷在积分期内累积。然后,在读出期内,读出在积分期内各自累积的电荷,并输出检测期Q2内的检测信号A180和B180。
图8示出了检测期Q3内的照射光、反射光、分配信号DIMIX_A和DIMIX_B、以及检测信号A和B的示例。如图8所示,电荷以与延迟时间TRT对应的量分配给抽头32A和32B,并且电荷在积分期内累积。然后,在读出期内,读出在积分期内各自累积的电荷,并输出检测期Q3内的检测信号A270和B270。
如上所述,在检测期Q0内,通过相位延迟为0°的照射光检测到检测信号A0和B0,并且在检测期Q1内,通过相位延迟为90°的照射光检测到检测信号A90和B90。类似地,在检测期Q2内,通过相位延迟为180°的照射光检测到检测信号A180和B180,并且在检测期Q3内,通过相位延迟为270°的照射光检测到检测信号A270和B270。
这里,图9示出了当水平轴和垂直轴分别表示相位延迟和信号强度时检测信号A0~A270和检测信号B0~B270之间的关系。
检测信号A0和B0之间的关系、检测信号A90和B90之间的关系、检测信号A180和B180之间的关系、以及检测信号A270和B270之间的关系如下式(1)所示地建模。
(公式1)
通过执行这样的建模并且根据公式(1)计算偏移、增益和角度θ,可以执行如下的测距:其中例如,可以消除因抽头32A和32B之间的特性差异造成的影响。即,为了消除抽头32A和32B之间的偏移Offset和增益Gain的差异,期望使用在四个检测期Q0~Q3内检测到的八个检测信号(检测信号A0~A270和检测信号B0~B270)。
为此,测距模块11计算抽头32A的偏移和增益以及抽头32B的偏移和增益,并且测距模块11补偿它们的差异。因此,测距模块11能够执行如下的测距:其中,仅通过检测两个检测期Q0和Q1(或检测期Q2和Q3)中的各个检测期内的检测信号A和B,就可以消除因抽头32A和32B之间的特性差异造成的影响。
例如,下式(2)示出了抽头32A的偏移Offset_A和增益Gain_A与抽头32B的偏移Offset_B和增益Gain_B之间的关系。
(公式2)
这里,针对各个像素电路21,偏移Offset_A和偏移Offset_B具有固定值,并且可以预先计算。另一方面,增益Gain_A和增益Gain_B可能会根据像素电路21的结构而随着光的入射角发生波动,因此期望针对各个深度帧计算增益Gain_A和增益Gain_B。
即,测距模块11预先检测或在执行测距的初始处理中检测检测信号A0~A270和检测信号B0~B270,并且求解下式(3)所示的联立方程,以计算偏移Offset_A和偏移Offset_B。
(公式3)
然后,测距模块11将偏移Offset_A和偏移Offset_B存储为偏移参数。
随后,在检测到检测信号A0和B0以及检测信号A90和B90的时刻,测距模块11如下式(4)所示地计算增益参数(Gain_A/Gain_B)。
(公式4)
此外,在检测到检测信号A180和A270以及检测信号B180和B270的时刻,测距模块11如下式(5)所示地计算增益参数(Gain_A/Gain_B)。
(公式5)
因此,在检测到检测信号A0、B0、A90和B90的时刻,根据下式(6),测距模块11可以使用偏移参数(Offset_A和Offset_B)和增益参数(Gain_A/Gain_B)应用校正。
(公式6)
或
因此,测距模块11基于检测信号A计算校正检测信号A’180和A’270,并且基于检测信号B计算校正检测信号B’180和B’270。
即,如图10所示,测距模块11对检测信号B0执行校正,以计算校正检测信号A’180,并且对检测信号B90执行校正,以计算校正检测信号A’270。可替代地,测距模块11对检测信号A0执行校正,以计算校正检测信号B’180,并且对检测信号A90执行校正,以计算校正检测信号B’270。
因此,测距模块11可以使用检测信号A0和A90以及校正检测信号A’180和A’270来消除因抽头32A和32B之间的特性差异造成的影响,以便计算深度和置信度。可替代地,测距模块11可以使用检测信号B0和B90以及校正检测信号B’180和B’270来消除因抽头32A和32B之间的特性差异造成的影响。
类似地,在检测到检测信号A180、B180、A270和B270的时刻,根据下式(7),测距模块11可以使用偏移参数(Offset_A和Offset_B)和增益参数(Gain_A/Gain_B)应用校正。
(公式7)
或
因此,测距模块11基于检测信号A计算校正检测信号A’0和A’90,并且基于检测信号B计算校正检测信号B’0和B’90。
因此,测距模块11可以使用校正检测信号A’0和A’90以及检测信号A180和A270来消除因抽头32A和32B之间的特性差异造成的影响,以便计算深度和置信度。可替代地,测距模块11可以使用校正检测信号B’0和B’90以及检测信号B180和B270来消除因抽头32A和32B之间的特性差异造成的影响,以便计算深度和置信度。
如上所述,测距模块11预先计算偏移参数(Offset_A和Offset_B),并且针对各个深度帧计算增益参数(Gain_A/Gain_B),以便执行可以消除因抽头32A和32B之间的特性差异造成的影响的测距。
例如,如图11所示,测距模块11在两个检测期Q0和Q1内检测到四个检测信号(检测信号A0、B0、A90和B90),以便输出帧数为t的深度帧。随后,测距模块11在两个检测期Q2和Q3内检测到四个检测信号(检测信号A180、B180、A270和B270),以便输出帧数为t+1的深度帧。
因此,与如上参考图4所述的在四个检测期Q0~Q3内输出一个深度帧的测距方法相比,测距模块11可以将用于输出一个深度帧的时间减少一半。即,相比于现有技术,测距模块11可以使帧速率加倍。
(测距运算处理单元的构造示例)
图12是示出了测距运算处理单元15的第一构造示例的框图。
测距运算处理单元15使用从光接收单元14供应的检测信号A(t)和B(t)作为图像数据而输出构成帧数为t的深度图的深度d(t)和构成帧数为t的置信度图的置信度c(t)。
首先,当接收到通过相位延迟为0°的照射光和相位延迟为90°的照射光而检测到的四个检测信号(检测信号A0(t)、B0(t)、A90(t)和B90(t))时,测距运算处理单元15输出帧数为t的深度帧的深度d(t)和置信度c(t)。随后,当接收到通过相位延迟为180°的照射光和相位延迟为270°的照射光而检测到的四个检测信号(检测信号A180(t+1)、B180(t+1)、A270(t+1)和B270(t+1))时,测距运算处理单元15输出帧数为t+1的深度帧的深度d(t+1)和置信度c(t+1)。
如图12所示,测距运算处理单元15包括校正参数计算单元51和测距单元52。此外,校正参数计算单元51具有差分校正参数计算单元61和差分校正参数存储单元62,并且测距单元52具有校正运算单元71和测距运算单元72。
在测距开始时,差分校正参数计算单元61求解关于例如若干个帧中的偏移Offset_A和Offset_B的下式(8)。
(公式8)
因此,差分校正参数计算单元61计算偏移Offset_A和Offset_B,并且将偏移Offset_A和Offset_B存储在差分校正参数存储单元62中。需要注意,可以在例如检查测距模块11等时预先计算偏移Offset_A和Offset_B,并且可以在装运测距模块11时将偏移Offset_A和Offset_B存储在差分校正参数存储单元62中。
然后,当接收到通过相位延迟为0°的照射光和相位延迟为90°的照射光而检测到的四个检测信号(检测信号A0(t)、B0(t)、A90(t)和B90(t))时,差分校正参数计算单元61计算下式(9)。因此,差分校正参数计算单元61计算增益参数(Gain_A/Gain_B(t)),并将该增益参数供应给测距单元52的校正运算单元71。
(公式9)
随后,当接收到通过相位延迟为180°的照射光和相位延迟为270°的照射光而检测到的四个检测信号(检测信号A180(t+1)、B180(t+1)、A270(t+1)和B270(t+1))时,差分校正参数计算单元61计算下式(10)。因此,差分校正参数计算单元61计算增益参数(Gain_A/Gain_B(t+1)),并将该增益参数供应给测距单元52的校正运算单元71。
(公式10)
差分校正参数存储单元62存储由差分校正参数计算单元61计算的偏移参数(Offset_A和Offset_B),并将该偏移参数供应给校正运算单元71。需要注意,差分校正参数计算单元61计算各个像素电路21的增益参数和偏移参数,并且差分校正参数存储单元62保持各个像素电路21的偏移参数。
在供应通过相位延迟为0°的照射光和相位延迟为90°的照射光而检测到的四个检测信号(检测信号A0(t)、B0(t)、A90(t)和B90(t))的时刻,校正运算单元71从差分校正参数计算单元61接收增益参数(Gain_A/Gain_B)。因此,校正运算单元71可以在该时刻执行下式(11)所示的运算,以便计算校正检测信号A’180(t)和A’270(t)、或校正检测信号B’180(t)和B’270(t)。
(公式11)
或
因此,在供应通过相位延迟为0°的照射光和相位延迟为90°的照射光而检测到的四个检测信号的时刻,校正运算单元71将校正检测信号A’180(t)和A’270(t)、或校正检测信号B’180(t)和B’270(t)供应给测距运算单元72。
随后,在供应通过相位延迟为180°的照射光和相位延迟为270°的照射光而检测到的四个检测信号(检测信号A180(t+1)、B180(t+1)、A270(t+1)和B270(t+1))的时刻,校正运算单元71从差分校正参数计算单元61接收增益参数(Gain_A/Gain_B(t+1))。因此,校正运算单元71可以在该时刻执行下式(12)所示的运算,以便计算校正检测信号A’0(t+1)和A’90(t+1)、或校正检测信号B’0(t+1)和B’90(t+1)。
(公式12)
或
因此,在供应通过相位延迟为180°的照射光和相位延迟为270°的照射光而检测到的四个检测信号的时刻,校正运算单元71供应校正检测信号A’0(t+1)和A’90(t+1)、或校正检测信号B’0(t+1)和B’90(t+1)。
在供应通过相位延迟为0°的照射光和相位延迟为90°的照射光而检测到的四个检测信号(检测信号A0(t)、B0(t)、A90(t)和B90(t))的时刻,测距运算单元72接收校正检测信号A’180(t)和A’270(t)、或校正检测信号B’180(t)和B’270(t)。然后,测距运算单元72可以执行下式(13)所示的运算,以便计算帧数为t的深度帧的深度d(t)和置信度c(t)。
(公式13)
Q(t)=Dl(t)-D3(t)
[(t)=DO(t)-D2(t)
然而,在上式(13)中,测距运算单元72可以使用以下两者中的一者:D0(t)=A0(t)、D2(t)=A’180(t)、D1(t)=A90(t)、D3(t)=A’270(t);以及D2(t)=B’180(t)、D0(t)=B0(t)、D1(t)=B’270(t)、D3(t)=B90(t)。可替代地,在上式(13)中,测距运算单元72可以使用以下两者的平均值:D0(t)=A0(t)、D2(t)=A’180(t)、D1(t)=A90(t)、D3(t)=A’270(t);以及D2(t)=B’180(t)、D0(t)=B0(t)、D1(t)=B’270(t)、D3(t)=B90(t)。
随后,在供应通过相位延迟为180°的照射光和相位延迟为270°的照射光而检测到的四个检测信号(检测信号A180(t+1)、B180(t+1)、A270(t+1)和B270(t+1))的时刻,测距运算单元72接收校正检测信号A’0(t+1)和A’90(t+1)、或校正检测信号B’0(t+1)和B’90(t+1)。然后,测距运算单元72可以执行下式(14)所示的运算,以便计算帧数为t+1的深度帧的深度d(t+1)和置信度c(t+1)。
(公式14)
Q(t+1)=D1(t+1)-D3(t+1)
I(t+1)=DO(t-t1)-D2(t-t1)
然而,在上式(14)中,测距运算单元72可以使用以下两者中的一者:D2(t+1)=A180(t+1)、D0(t+1)=A’0(t+1)、D3(t+1)=A270(t+1)、D1(t+1)=A’90(t+1);以及D0(t+1)=B’0(t+1)、D2(t+1)=B180(t+1)、D1(t+1)=B’90(t+1)、D3(t+1)=B270(t+1)。可替代地,在上式(14)中,测距运算单元72可以使用以下两者的平均值:D0(t+1)=A’0(t+1)、D2(t+1)=A’180(t+1)、D1(t+1)=A90(t+1)、D3(t+1)=A’270(t+1);以及D2(t+1)=B’180(t+1)、D0(t+1)=B0(t+1)、D1(t+1)=B’270(t+1)、D3(t+1)=B90(t+1)。
如上所述配置的测距运算处理单元15可以根据通过相位延迟为0°的照射光和相位延迟为90°的照射光而检测到的四个检测信号来计算深度,或者可以根据通过相位延迟为180°的照射光和相位延迟为270°的照射光而检测到的四个检测信号来计算深度。因此,例如,与现有技术中根据八个检测信号计算深度的情况相比,帧速率可以加倍。
此外,当帧速率没有增大时,期望测距运算处理单元15仅需要发射两次照射光。因此,与现有技术中发射四次照射光的情况相比,测距运算处理单元15可以降低功耗。此外,测距运算处理单元15可以减少期望检测到的检测信号的数量,以便相比于现有技术以检测信号的数量减半的方式输出一个深度帧。因此,测距运算处理单元15可以缩小数据传输频带。
因此,相比于现有技术,包括测距运算处理单元15的测距模块11能够提高其性能。
(测距运算处理的第一处理示例)
图13是用于描述测距运算处理单元15执行的测距运算处理的第一处理示例的流程图。
例如,当控制测距运算处理单元15通过未示出的高阶控制单元执行测距运算处理时,开始测距运算处理。在步骤S11中,测距运算处理单元15针对具有不同相位延迟的两种照射光中的各者获得两个检测信号。即,测距运算处理单元15获得例如通过相位延迟为0°的照射光检测到的两个检测信号A0和B0以及通过相位延迟为90°的照射光检测到的两个检测信号A90和B90。可替代地,测距运算处理单元15获得例如通过相位延迟为180°的照射光检测到的两个检测信号A180和B180以及通过相位延迟为270°的照射光检测到的两个检测信号A270和B270。
在步骤S12中,差分校正参数计算单元61判定偏移参数(Offset_A和Offset_B)是否已经存储在差分校正参数存储单元62中。
当差分校正参数计算单元61在步骤S12中判定偏移参数(Offset_A和Offset_B)尚未存储在差分校正参数存储单元62中时,处理进入步骤S13。
在步骤S13中,差分校正参数计算单元61判定是否已经针对期望用于计算偏移参数(Offset_A和Offset_B)的具有不同相位延迟的四种照射光中的各者获得两个检测信号。例如,当已经获得检测信号A0~A270和检测信号B0~B270的八个检测信号时,差分校正参数计算单元61判定已经针对具有不同相位延迟的四种照射光中的各者获得两个检测信号。
当差分校正参数计算单元61在步骤S13中判定尚未针对具有不同相位延迟的四种照射光中的各者获得两个检测信号时,处理返回到步骤S11。在这种情况下,例如已经获得了检测信号A0和A90以及检测信号B0和B90。因此,差分校正参数计算单元61在下一个步骤S11中获得检测信号A180和A270以及检测信号B180和B270。
另一方面,当差分校正参数计算单元61在步骤S13中判定已经针对具有不同相位延迟的四种照射光中的各者获得两个检测信号时,处理进入步骤S14。
在步骤S14中,差分校正参数计算单元61求解上式(3)所示的联立方程,从而计算偏移Offset_A和Offset_B。
然后,在差分校正参数计算单元61将偏移Offset_A和Offset_B存储在差分校正参数存储单元62中之后,处理进入步骤S15。另一方面,当差分校正参数计算单元61在步骤S12中判定偏移参数(Offset_A和Offset_B)已经存储在差分校正参数存储单元62中时,处理进入步骤S15。
在步骤S15中,差分校正参数计算单元61根据上式(4)或(5)计算增益参数(Gain_A/Gain_B)。然后,差分校正参数计算单元61将计算的增益参数(Gain_A/Gain_B)供应给校正运算单元71,并且差分校正参数存储单元62将存储的偏移参数(Offset_A和Offset_B)供应给校正运算单元71。
在步骤S16中,校正运算单元71对在步骤S11中获得的四个检测信号执行校正运算,以获得四个校正检测信号,并且校正运算单元71将获得的四个校正检测信号供应给测距运算单元72。
例如,当已经在步骤S11中获得检测信号A0和A90以及检测信号B0和B90时,校正运算单元71根据上式(6)执行校正运算,以获得校正检测信号A’180和A’270以及校正检测信号B’180和B’270。此外,当已经在步骤S11中获得检测信号A180和A270以及检测信号B180和B270时,校正运算单元71根据上式(7)执行校正运算,以获得校正检测信号A’0和A’90以及校正检测信号B’0和B’90。
在步骤S17中,测距运算单元72使用在步骤S11中获得的四个检测信号和在步骤S16中通过校正运算获得的四个校正检测信号来计算深度和置信度。
例如,假设:已经在步骤S11中获得检测信号A0和A90以及检测信号B0和B90,并且已经在步骤S16中获得校正检测信号A’180和A’270以及校正检测信号B’180和B’270。此时,测距运算单元72执行上式(13)所示的运算,以计算深度和置信度。此外,假设:已经在步骤S11中获得检测信号A180和A270以及检测信号B180和B270,并且已经在步骤S16中获得校正检测信号A’0和A’90以及校正检测信号B’0和B’90。此时,测距运算单元72执行上式(14)所示的运算,以计算深度和置信度。
在步骤S18中,测距运算处理单元15根据未示出的高阶控制单元对测距运算处理的控制来判定是否要继续测距。
当测距运算处理单元15在步骤S18中判定要继续测距时,处理返回到步骤S11以重复执行相同的处理。另一方面,当测距运算处理单元15在步骤S18中判定不继续测距时,测距运算处理结束。
如上所述,测距运算处理单元15可以获得检测信号A0和A90以及检测信号B0和B90,或者可以获得检测信号A180和A270以及检测信号B180和B270,以便计算深度和置信度。因此,测距运算处理单元15能够减少期望用来检测用于计算深度和置信度的检测信号的时间,并且能够提高鲁棒性。
(测距运算处理单元的第二构造示例)
图14是示出了测距运算处理单元15的第二构造示例的框图。需要注意,在图14所示的测距运算处理单元15A中,与图12的测距运算处理单元15的组成部分相同的组成部分用相同的符号表示,并将省略这些相同组成部分的详细描述。
即,测距运算处理单元15A包括校正参数计算单元51和测距单元52A。与图12的测距运算处理单元15一样,校正参数计算单元51具有差分校正参数计算单元61和差分校正参数存储单元62。
与图12的测距运算处理单元15一样,测距单元52A具有校正运算单元71和测距运算单元72,但是测距单元52A与图12的测距运算处理单元15的测距单元52的不同之处在于,测距单元52A具有测距结果存储单元73和结果合成单元74。
此外,测距单元52A被配置成使得如上所述通过测距运算单元72计算的深度d(t)和置信度c(t)作为测距结果被供应给测距结果存储单元73和结果合成单元74。此外,测距单元52A被配置成使得前一帧的测距结果(即深度d(t-1)和置信度c(t-1))从测距结果存储单元73被供应给结果合成单元74。
测距结果存储单元73能够仅存储从测距运算单元72供应的一个帧的深度d(t)和置信度c(t),并且能够将前一帧的深度d(t-1)和置信度c(t-1)供应给结果合成单元74。
结果合成单元74将从测距运算单元72供应的深度d(t)和置信度c(t)以及从测距结果存储单元73供应的深度d(t-1)和置信度c(t-1)合成在一起,并且结果合成单元74将计算的深度d(t)和置信度c(t)作为其合成结果输出。
这里,假设:从测距运算单元72供应给测距结果存储单元73和结果合成单元74的深度d(t)和置信度c(t)分别为深度d’(t)和置信度c’(t),并且结果合成单元74的合成结果为深度d(t)和置信度c(t)。在这种情况下,根据如下式(15)所示的加权运算,结果合成单元74可以使用基于置信度c’(t)的权重g而将测距结果合成在一起。
(公式15)
因此,测距运算处理单元15A可以将当前帧的测距结果和前一帧的测距结果合成在一起(在下文中也称为滑动窗口(sliding window)),以便提高信噪(SN:Signal-to-Noise)比并实现合成结果的噪声的降低。
例如,当检测期Q0~Q3与不执行滑动窗口的情况的检测期相同时,与利用在四个检测期Q0~Q3内检测到的八个检测信号的测距结果相比,利用在两个检测期Q0和Q1内检测到的四个检测信号的测距结果的SN比降低。因此,测距运算处理单元15A使用包括前一帧的测距结果在内的八个检测信号来执行滑动窗口,以便将测距结果合成在一起。因此,测距运算处理单元15A可以防止SN比降低。
此外,即使一个深度帧中的检测期减少,测距运算处理单元15A也可以执行滑动窗口,以便实现每功率的SN比(帧×SNR/功率)的增大,所述功率期望用于获得一个深度帧的检测信号。
因此,由于滑动窗口使噪声降低,因此与图4的检测期相比,如图15所示,测距运算处理单元15A可以将检测期Q0~Q3减半。即,测距运算处理单元15A可以使获得检测信号A和B的速度加倍,以使帧速率加倍。
这里,例如,当不执行滑动窗口时,在期望用于获得一个深度帧的检测信号的功率没有发生改变并且帧速率加倍的条件下,SN比减小了与检测期Q0~Q3中的减小对应的量。另一方面,在期望用于获得一个深度帧的检测信号的功率没有发生改变的情况下,即使帧速率加倍,测距运算处理单元15A也可以执行滑动窗口,以避免SN比降低。
可替代地,如图16所示,在帧速率不随检测期Q0~Q3的变化而变化(检测期Q0~Q3与图4的检测期Q0~Q3相同)并且SN没有发生改变的条件下,可以减小期望用于获得一个深度帧的检测信号的功率。即,测距运算处理单元15A可以执行滑动窗口,以减小功耗。
需要注意,除了执行基于置信度的加权运算以将测距结果合成在一起的结果合成单元74的处理之外,例如,测距运算处理单元15A可以通过基于除了置信度之外的标准的简单平均或加权而将测距结果合成在一起。
此外,例如,结果合成单元74将测距结果合成在一起的处理可以应用到如下构造:其中,通过如上参考图4所述的四个检测期Q0~Q3输出一个深度帧。即,处理的应用不限于如下构造:其中,基于在两个检测期Q0和Q1内检测到的四个检测信号输出一个深度帧,或者基于在两个检测期Q2和Q3内检测到的四个检测信号输出一个深度帧。
(测距运算处理的第二处理示例)
图17是用于描述测距运算处理单元15A执行的测距运算处理的第二处理示例的流程图。
在步骤S21~S27中,执行与图13的步骤S11~S17的处理相同的处理。
然后,在步骤S27中,将计算的深度和置信度供应给测距结果存储单元73和结果合成单元74。结果合成单元74在步骤S28中判定测距结果是否已经存储在测距结果存储单元73中。
当结果合成单元74在步骤S28中判定测距结果尚未存储在测距结果存储单元73中时,处理返回到步骤S21。即,在这种情况下,前一帧的深度和置信度尚未存储在测距结果存储单元73中,因此,结果合成单元74不执行将测距结果合成在一起的处理。
另一方面,当结果合成单元74在步骤S28中判定测距结果已经存储在测距结果存储单元73中时,处理进入步骤S29。
在步骤S29中,结果合成单元74从测距结果存储单元73读出前一帧的深度和置信度。然后,结果合成单元74根据置信度对步骤S27中所供应的深度和置信度以及从测距结果存储单元73读出的前一帧的深度和置信度执行加权运算,以便输出将测量结果合成在一起的合成后的测距结果。
然后,在步骤S30中执行与图13的步骤S18的处理相同的处理。当判定不继续测距时,测距运算处理结束。
如上所述,测距运算处理单元15A可以根据基于置信度的加权运算而将测量结果合成在一起,以降低测量结果的SN比并更精确地执行测距。此外,测距运算处理单元15A可以提高帧速率(参见图15)或者降低功耗(参见图16)。
(发光单元和光接收单元的动作)
将参考图18~图21描述发光单元12和光接收单元14的动作。
图18示出了发光并接收光以输出一个深度图的时序的示例。
例如,测距模块11可以将用于输出深度图的一个帧设定为一个子帧,并且这一个子帧被分成四个检测期,即检测期Q0、Q1、Q2和Q3。此外,在检测期Q0、Q1、Q2和Q3中的各个检测期的积分期内,发光单元12在与调制后的信号对应的时刻发射照射光,并且光接收单元14接收由照射光产生的反射光。如参考图1所述,由一个光电二极管31产生的电荷根据分配信号DMIX_A和DMIX_B被分配给抽头32A和32B,并且以对应于积分期内所接收的光量的方式累积电荷。
这里,在图4所示的以上示例中,在检测期Q0、Q1、Q2和Q3之后提供对应于一个深度帧的待机期。另一方面,在图18所示的示例中,在检测期Q0、Q1、Q2和Q3中的各个检测期之后提供被分成四个的待机期。
因此,通过在检测期Q0、Q1、Q2和Q3中的各个检测期之后提供待机期,可以使各个积分期之间的间隔变得均匀。
即,如图19所示,相位延迟为0°的照射光的发光时刻、相位延迟为90°的照射光的发光时刻、相位延迟为180°的照射光的发光时刻、以及相位延迟为270°的照射光的发光时刻均匀地设定着。因此,通过采用以均匀间隔设定的发光时刻,例如,当测距运算处理单元15A执行滑动窗口时,可以防止由于它们的不同间隔而产生的不利影响。
此外,可以采用如图20所示的发光时序。如上所述,测距运算处理单元15由四个检测信号A0、B0、A90和B90获得一个深度帧,并且由四个检测信号A180、B180、A270和B270获得一个深度帧。
因此,如图20所示,期望用于获得一个深度帧的相位延迟为0°的照射光的发光时刻和相位延迟为90°的照射光的发光时刻彼此接近,并且期望用于获得下一个深度帧的相位延迟为180°的照射光的发光时刻和相位延迟为270°的照射光的发光时刻彼此接近。例如,通过使用于获得一个深度帧的发光时刻接近,当物体运动时,可以通过物体的运动防止由于隔开的发光时刻而产生的影响。
此外,通过使用于获得一个深度帧的发光时刻和用于获得下一个深度帧的发光时刻之间的间隔变得均匀,当测距运算处理单元15A执行滑动窗口时,可以防止由于它们的不同间隔而产生的不利影响。
此外,可以采用如图21所示的发光时序。即,如果预先计算偏移Offset_A和Offset_B,则测距运算处理单元15可以仅使用相位延迟为0°的照射光和相位延迟为90°的照射光来获得深度帧。
需要注意,发光单元12的发光时序不限于图18~图21所示的示例,并且可以采用各种其他的发光时序。
(测距运算处理单元的第三构造示例)
图22是示出了测距运算处理单元15的第三构造示例的框图。
图22所示的测距运算处理单元15B包括检测信号存储单元81、运动检测单元82、四相测距运算单元83、两相测距运算单元84、测量结果存储单元85和结果合成单元86。
此外,与参考图12所述的情况一样,测距运算处理单元15B接收通过相位延迟为0°的照射光和相位延迟为90°的照射光而检测到的四个检测信号,并且接收通过相位延迟为180°的照射光和相位延迟为270°的照射光而检测到的四个检测信号。即,测距运算处理单元15B接收检测信号A0(t)、B0(t)、A90(t)和B90(t),并且随后接收检测信号A180(t+1)、B180(t+1)、A270(t+1)和B270(t+1)。
检测信号存储单元81能够存储四个检测信号。每当检测信号存储单元81接收到四个检测信号时,检测信号存储单元81就将先前的四个检测信号供应给运动检测单元82。
即,在检测信号存储单元81接收到检测信号A0(t)、B0(t)、A90(t)和B90(t)的时刻,检测信号存储单元81已经存储了检测信号A180(t–1)、B180(t-1)、A270(t-1)和B270(t-1),因此,检测信号存储单元81将已经存储的检测信号供应给运动检测单元82。此外,在检测信号存储单元81接收到检测信号A180(t+1)、B180(t+1)、A270(t+1)和B270(t+1)的时刻,检测信号存储单元81已经存储了检测信号A0(t)、B0(t)、A90(t)和B90(t),因此,检测信号存储单元81将已经存储的检测信号供应给运动检测单元82。
运动检测单元82针对光接收单元14的各个像素检测对象的运动,并且运动检测单元82基于规定的阈值th判定是否已经反映出运动中的对象。
即,在运动检测单元82接收到检测信号A0(t)、B0(t)、A90(t)和B90(t)的时刻,运动检测单元82根据下式(16)所示的判定条件进行判定。
(公式16)
例如,当满足上式(16)的判定条件时,运动检测单元82判定在基于检测信号A0(t)、B0(t)、A90(t)和B90(t)获得的深度帧中未反映出运动中的对象。在这种情况下,运动检测单元82输出运动-对象检测信号M(t)=0,M(t)=0表示未反映出运动中的对象,并且运动检测单元82将检测信号A0(t)、B0(t)、A90(t)和B90(t)供应给四相测距运算单元83。在这种情况下,运动检测单元82还将从检测信号存储单元81供应的检测信号A180(t-1)、B180(t-1)、A270(t-1)和B270(t-1)供应给四相测距运算单元83。
另一方面,当不满足上式(16)的判定条件时,运动检测单元82判定在基于检测信号A0(t)、B0(t)、A90(t)和B90(t)获得的深度帧中已经反映出运动中的对象。在这种情况下,运动检测单元82输出运动-对象检测信号M(t)=1,M(t)=1表示已经反映出运动中的对象,并且运动检测单元82将检测信号A0(t)、B0(t)、A90(t)和B90(t)供应给两相测距运算单元84。
类似地,在运动检测单元82接收到检测信号A180(t+1)、B180(t+1)、A270(t+1)和B270(t+1)的时刻,运动检测单元82基于下式(17)所示的判定条件进行判定。
(公式17)
例如,当满足上式(17)的判定条件时,运动检测单元82判定在基于检测信号A180(t+1)、B180(t+1)、A270(t+1)和B270(t+1)获得的深度帧中未反映出运动中的对象。在这种情况下,运动检测单元82输出表示未反映出运动中的对象的运动-对象检测信号M(t)=0,并且运动检测单元82将检测信号A180(t+1)、B180(t+1)、A270(t+1)和B270(t+1)供应给四相测距运算单元83。在这种情况下,运动检测单元82还将从检测信号存储单元81供应的检测信号A0(t)、B0(t)、A90(t)和B90(t)供应给四相测距运算单元83。
另一方面,当不满足上式(17)的判定条件时,运动检测单元82判定在基于检测信号A180(t+1)、B180(t+1)、A270(t+1)和B270(t+1)获得的深度帧中已经反映出运动中的对象。在这种情况下,运动检测单元82输出表示已经反映出运动中的对象的运动-对象检测信号M(t)=1,并且运动检测单元82将检测信号A180(t+1)、B180(t+1)、A270(t+1)和B270(t+1)供应给两相测距运算单元84。
当运动检测单元82判定尚未反映出运动对象时,四相测距运算单元83执行如下的处理(在下文中称为四相测距运算处理):通过使用由相位延迟为0°的照射光、相位延迟为90°的照射光、相位延迟为180°的照射光、以及相位延迟为270°的照射光检测到的八个检测信号的运算来执行测距。
例如,在这种情况下,运动检测单元82将检测信号A180(t-1)、B180(t-1)、A270(t-1)、B270(t-1)、A0(t)、B0(t)、A90(t)和B90(t)供应给四相测距运算单元83。
因此,四相测距运算单元83根据下式(18)执行运算以计算深度d(t)和置信度c(t),并且将计算的深度d(t)和置信度c(t)供应给测距结果存储单元85和结果合成单元86。
(公式18)
Q(t)=D1(t)-D3(t)
I(t)=D0(t)-D2(t)
D0(t)=A0(t)-B0(t)
D1(t)=A90(t)-B90(t)
D2(t)=A180(t-1)-B180(t-1)
D3(t)=A270(t-1)-B270(t-1)
类似地,四相测距运算单元83可以使用检测信号A0(t)、B0(t)、A90(t)、B90(t)、A180(t+1)、B180(t+1)、A270(t+1)和B270(t+1)来计算深度d(t+1)和置信度c(t+1)。
两相测距运算单元84具有与图12的测距运算处理单元15的功能相同的功能,并且两相测距运算单元84包括图12所示的校正参数计算单元51和测距单元52。
即,当运动检测单元82判定已经反映出运动对象时,两相测距运算单元84执行如下的处理(在下文中称为两相测距运算处理):通过使用由相位延迟为0°的照射光和相位延迟为90°的照射光检测到的四个检测信号或者由相位延迟为180°的照射光和相位延迟为270°的照射光检测到的四个检测信号的运算来执行测距。然后,两相测距运算单元84将通过两相测距运算处理计算的深度d(t)和置信度c(t)供应给测距结果存储单元85和结果合成单元86。
测距结果存储单元85和结果合成单元86具有与图14的测距结果存储单元73和结果合成单元74的功能相同的功能。即,测距结果存储单元85可以将前一帧的测距结果供应给结果合成单元86,并且结果合成单元86可以将当前帧的测距结果和前一帧的测距结果合成在一起。
如图23所示,如此配置的测距运算处理单元15B可以根据要输出的各帧的运动检测结果而将两个连续的深度帧合成在一起作为一个深度帧。
例如,当利用前一个帧数为t–1的与其他测距结果合成之前的测距结果的运动检测表明在输出帧数为t的深度帧的时刻已经反映出运动对象时,测距运算处理单元15B将帧数为t的测距结果作为深度帧直接输出。另一方面,当利用前一个帧数为t–1的与其他测距结果合成之前的测距结果的运动检测表明在输出帧数为t的深度帧的时刻尚未反映出运动对象时,测距运算处理单元15B将通过与帧数为t–1的测距结果合成而获得的合成后的测距结果作为帧数为t的深度帧输出。
如上所述,测距运算处理单元15B可以根据运动检测结果在四相测距运算处理和两相测距运算处理之间切换。因此,例如,当已经反映出运动对象时,测距运算处理单元15B可以执行两相测距运算处理,以便以较高的帧速率计算深度帧并且提高运动对象的测量精度。因此,测距运算处理单元15B能够改善运动对象的鲁棒性。此外,当尚未反映出运动对象时,测距运算处理单元15B可以执行四相测距运算处理,以便进一步降低噪声。
(测距运算处理的第三处理示例)
图24是用于描述测距运算处理单元15B执行的测距运算处理的第三处理示例的流程图。
在步骤S41中,执行与图13的步骤S11的处理相同的处理。即,测距运算处理单元15B针对具有不同相位延迟的两种照射光中的各者获得两个检测信号。
在步骤S42中,运动检测单元82判定检测信号是否已经存储在检测信号存储单元81中。
当运动检测单元82在步骤S42中判定检测信号尚未存储在检测信号存储单元81中时,处理返回到步骤S41。即,前一帧的检测信号尚未存储在检测信号存储单元81中,因此,运动检测单元82不执行用于检测运动的处理。
另一方面,当运动检测单元82在步骤S42中判定检测信号已经存储在检测信号存储单元81中时,处理进入步骤S43。在步骤S43中,运动检测单元82根据上式(16)或(17)所示的判定条件判定是否已经反映出运动对象。
当运动检测单元82在步骤S43中判定尚未反映出运动对象时,处理进入步骤S44。在步骤S44中,四相测距运算单元83执行如上所述的四相测距运算处理以计算深度和置信度,并且将计算的深度和置信度作为测距结果供应给测距结果存储单元85和结果合成单元86。然后,处理进入步骤S46。
另一方面,当运动检测单元82在步骤S43中判定已经反映出运动对象时,处理进入步骤S45。在步骤S45中,两相测距运算单元84执行如上所述的两相测距运算处理以计算深度和置信度,并且将计算的深度和置信度作为测距结果供应给测距结果存储单元85和结果合成单元86。然后,处理进入步骤S46。
在步骤S46~S48中,执行与图17的步骤S28~S30的处理相同的处理。当在步骤S48中判定不继续测距时,测距运算处理结束。
如上所述,测距运算处理单元15B可以根据运动检测结果在四相测距运算处理和两相测距运算处理之间切换,以对运动对象执行适当的测距。
需要注意,本技术适用于如下的系统:该系统用于调制向间接ToF系统中称为连续波系统的物体发射的光的振幅。此外,光接收单元14的光电二极管31的结构不限于具有电流辅助光子解调器(CAPD:Current Assisted Photonic Demodulator)结构的深度传感器,而是适用于具有将电荷分配给两个抽头32A和32B的结构的深度传感器。
(电子设备的构造示例)
如上所述的测距模块11可以安装在诸如智能电话等电子设备中。
图25是示出了安装在电子设备中的摄像装置的构造示例的框图。
如图25所示,电子设备101包括测距模块102、摄像装置103、显示器104、扬声器105、麦克风106、通信模块107、传感器单元108、触摸面板109和控制单元110。此外,当CPU运行程序时,控制单元110具有作为应用处理单元121和操作系统处理单元122的功能。
图1的测距模块11用作测距模块102。例如,测距模块102布置在电子设备101的前表面上,并且测距模块102可以以电子设备101的用户为目标执行测距,以将用户的脸、手或手指等的表面形状的深度作为测距结果输出。
摄像装置103布置在电子设备101的前表面上,并且摄像装置103以电子设备101的用户作为对象执行摄像,以获得用户的图像。需要注意,尽管未示出,但是摄像装置103也可以布置在电子设备101的后表面上。
显示器104显示用于执行应用处理单元121和操作系统处理单元122的处理的操作画面或由摄像装置103拍摄的图像等。当用电子设备101开始呼叫时,扬声器105和麦克风106输出另一侧的人的声音并收集用户的声音。
通信模块107经由通信网络执行通信。传感器单元108检测速度、加速度或接近度等,并且触摸面板109获得用户对显示在显示器104上的操作画面的触摸操作。
应用处理单元121执行用于由电子设备101提供各种服务的处理。例如,应用处理单元121可以执行通过计算机图形产生面部并在显示器104上显示所产生的面部的处理,在所述计算机图形中,基于从测距模块102供应的深度虚拟地再现用户的面部表情。例如,应用处理单元121可以执行基于从测距模块102供应的深度产生任何物体的3D形状的处理。
操作系统处理单元122执行用于实现电子设备101的基本功能和动作的处理。例如,操作系统处理单元122可以执行基于从测距模块102供应的深度识别用户的面部并解锁电子设备101的处理。此外,操作系统处理单元122可以执行基于从测距模块102供应的深度识别用户的手势并根据该手势输入各种操作的处理。
通过应用以上的测距模块11,如此配置的电子设备101可以实现例如帧速率的提高、功耗的降低和数据传输频带的缩小。因此,电子设备101能够产生通过计算机图形更平滑地移动的面部、能够以高精度识别面部、能够降低电池的消耗、或者能够传输窄频带数据。
(计算机的构造示例)
接着,以上一系列处理不仅可以通过硬件执行,而且还可以通过软件执行。当通过软件执行一系列处理时,构成软件的程序被安装在通用计算机等中。
图26是示出了安装有用于执行以上一系列处理的程序的计算机的实施例的构造示例的框图。
在计算机中,中央处理单元(CPU:Central Processing Unit)201、只读存储器(ROM:Read Only Memory)202、随机存取存储器(RAM:Random Access Memory)203、以及电可擦可编程只读存储器(EEPROM:Electronically Erasable and Programmable ReadOnly Memory)204经由总线205而彼此连接。总线205还连接到输入/输出接口206,并且输入/输出接口206连接到外部。
在如上所述地配置的计算机中,CPU 201经由总线205将存储在ROM 202和EEPROM204中的程序加载到RAM 203中以被执行。因此,执行以上一系列处理。此外,除了预先写入ROM 202之外,由计算机(CPU201)执行的程序可以经由输入/输出接口206从外部安装或更新在EEPROM 205中。
因此,CPU 201根据以上流程图执行处理,或者执行根据以上框图的构造执行的处理。然后,如果需要,CPU 201可以经由例如输入/输出接口206将处理结果输出到外部。
这里,在本说明书中,计算机根据程序执行的处理可能不一定是按照流程图中所述的顺序按时间执行的。即,计算机根据程序执行的处理包括并行或单独执行的处理(例如,并行处理或根据物体的处理)。
此外,程序可以由一个计算机(处理器)处理,或者可以通过多个计算机进行分散处理。此外,程序可以传输到远程计算机上被执行。
此外,本说明书中的系统表示多个组成部分(例如装置或模块(部件))的集合体,并且所有组成部分可以不必容纳在同一壳体中。因此,容纳在单独的壳体中且经由网络彼此连接的多个装置、以及多个模块容纳在一个壳体中的一个装置都是系统。
此外,以上描述为一个装置(或一个处理单元)的构造可以被分成并被配置为多个装置(或多个处理单元)。相反,以上描述为多个装置(或多个处理单元)的构造可以统一配置为一个装置(或一个处理单元)。此外,除了上述构造之外的构造自然可以被添加到上述的各个装置(或各个处理单元)的构造中。此外,如果整个系统具有基本相同的构造或操作,则装置(或处理单元)的构造的一部分可以包括在其他装置(或其他处理单元)的构造中。
此外,例如,本技术可以采用云计算构造,在云计算中,经由网络在多个装置之间共用并协同处理一个功能。
此外,例如,以上程序可以在任何装置中执行。在这种情况下,期望该装置可以具有必要的功能(例如功能块)并可以获得必要的信息。
此外,在以上流程图中所述的各个步骤不仅可以由一个装置来执行,而且还可以由多个装置以共用的方式来执行。此外,当一个步骤包括多个处理时,包括在这一个步骤中的多个处理不仅可以由一个装置来执行,而且还可以由多个装置以共用的方式来执行。换句话说,可以将包括在一个步骤中的多个处理作为多个步骤的处理来执行。相反,可以将描述为多个步骤的处理作为一个步骤统一执行。
需要注意,由计算机执行的程序可以是如下的程序:在该程序中,描述程序的步骤的处理按照本说明书中所述的顺序按时间执行,或者这些步骤的处理是在适当的时刻(例如,在调用时)并行或单独执行的。即,除非出现任何矛盾,否则各个步骤的处理可以按照与上述顺序不同的顺序执行。此外,描述程序的步骤的处理可以与其他程序的处理并行执行,或者可以与其他程序的处理组合地执行。
需要注意,除非出现任何矛盾,否则本说明书中多次描述的本技术可以单独地执行。当然,任何数量的多种本技术可以组合地执行。例如在任何实施例中所述的本技术的一部分或全部可以与其他实施例中所述的本技术的一部分或全部组合地执行。此外,上述的本技术的一部分或全部可以与上面未描述的其他技术组合地执行。
(移动体的应用示例)
根据本发明的实施例的技术(本技术)可以应用到各种产品。例如,根据本发明的实施例的技术可以被实现为安装在诸如汽车、电动汽车、混合动力电动汽车、摩托车、自行车、个人移动设备(personal mobility)、飞机、无人机、船和机器人等任何类型的可移动体中的装置。
图27是描绘作为能够应用根据本发明的实施例的技术的移动体控制系统的示例的车辆控制系统的示意性构造示例的框图。
车辆控制系统12000包括经由通信网络12001连接的多个电子控制单元。在图27所示的示例中,车辆控制系统12000包括驱动系统控制单元12010、车身系统控制单元12020、车外信息检测单元12030、车内信息检测单元12040、以及集成控制单元12050。此外,微型计算机12051、声音/图像输出部12052、以及车载网络接口(I/F)12053被示出为集成控制单元12050的功能性构造。
驱动系统控制单元12010根据各种程序控制与车辆的驱动系统有关的设备的操作。例如,驱动系统控制单元12010用作下述设备的控制装置:用于产生车辆的驱动力的驱动力产生设备,例如内燃机或驱动电机等;用于将驱动力传递到车轮的驱动力传递机构;用于调节车辆的转向角的转向机构;以及用于产生车辆的制动力的制动设备等。
车身系统控制单元12020根据各种程序控制设置到车身上的各种设备的操作。例如,车身系统控制单元12020用作下述设备的控制装置:无钥匙进入系统、智能钥匙系统、自动窗装置、或者诸如车头灯、车尾灯、刹车灯、转向灯或雾灯等各种灯。在这种情况下,可以将从代替钥匙的移动设备发送的无线电波或各种开关的信号输入到车身系统控制单元12020。车身系统控制单元12020接收这些输入的无线电波或信号,并且控制车辆的门锁装置、自动窗装置、或灯等。
车外信息检测单元12030检测关于包括车辆控制系统12000的车辆外部的信息。例如,车外信息检测单元12030与摄像部12031连接。车外信息检测单元12030使摄像部12031拍摄车辆外部的图像,并且车外信息检测单元12030接收拍摄到的图像。基于接收到的图像,车外信息检测单元12030可以执行对诸如行人、车辆、障碍物、标志、或路面上的文字等物体进行检测的处理或执行到上述物体的距离的检测处理。
摄像部12031是接收光并输出与接收到的光的光量对应的电信号的光学传感器。摄像部12031可以将电信号作为图像输出,或者可以将电信号作为有关测距的信息输出。此外,由摄像部12031接收到的光可以是可见光,或者可以是诸如红外线等不可见光。
车内信息检测单元12040检测有关车辆内部的信息。例如,车内信息检测单元12040与用于检测驾驶员的状态的驾驶员状态检测部12041连接。例如,驾驶员状态检测部12041包括拍摄驾驶员的相机。基于从驾驶员状态检测部12041输入的检测信息,车内信息检测单元12040可以计算驾驶员的疲劳程度或驾驶员的集中程度,或者可以判定驾驶员是否正在打瞌睡。
微型计算机12051可以基于有关车辆内部或外部的信息(由车外信息检测单元12030或车内信息检测单元12040获得的信息)来计算驱动力产生设备、转向机构、或制动设备的控制目标值,并且微型计算机12051可以向驱动系统控制单元12010输出控制命令。例如,微型计算机12051可以执行旨在实现高级驾驶员辅助系统(ADAS:advanced driverassistance system)的功能的协同控制,所述功能包括车辆碰撞规避或车辆冲击缓和、基于车间距离的跟车行驶、车速保持行驶、车辆的碰撞警告、或车辆的偏离车道警告等。
此外,基于有关车辆外部或内部的信息(由车外信息检测单元12030或车内信息检测单元12040获得的信息),微型计算机12051可以通过控制驱动力产生设备、转向机构或制动设备等而执行旨在使车辆自主行驶而不依赖于驾驶员的操作等的自动驾驶的协同控制。
此外,微型计算机12051可以基于有关车辆外部的信息(通过车外信息检测单元12030获得的信息)而将控制命令输出到车身系统控制单元12020。例如,微型计算机12051可以根据由车外信息检测单元12030检测到的前方车辆或对面车辆的位置,通过控制车头灯而将远光灯变为近光灯来执行旨在防止眩目的协同控制。
声音/图像输出部12052将声音和图像中的至少一者的输出信号发送到输出设备,该输出设备能够在视觉上或听觉上将信息通知给车上的乘员或车辆外部。在图27的示例中,音频扬声器12061、显示部12062和仪表板12063被示出为输出设备。例如,显示部12062可以包括车载显示器和平视显示器中的至少一者。
图28是描绘摄像部12031的安装位置的示例的图。
在图28中,摄像部12031包括摄像部12101、12102、12103、12104和12105。
例如,摄像部12101、12102、12103、12104和12105设置在车辆12100的前鼻、侧视镜、后保险杠和后门上的位置处以及车辆内部的挡风玻璃的上部的位置处。设置在前鼻上的摄像部12101和设置在车辆内部的挡风玻璃的上部的摄像部12105主要获得车辆12100前方的图像。设置在侧视镜上的摄像部12102和12103主要获得车辆12100两侧的图像。设置在后保险杠或后门上的摄像部12104主要获得车辆12100后方的图像。设置在车辆内部的挡风玻璃的上部的摄像部12105主要用于检测前方车辆、行人、障碍物、信号灯、交通标志或车道等。
顺便提及,图28描绘了摄像部12101~12104的拍摄范围的示例。摄像范围12111表示设置在前鼻上的摄像部12101的摄像范围。摄像范围12112和12113分别表示设置在侧视镜上的摄像部12102和12103的摄像范围。摄像范围12114表示设置在后保险杠或后门上的摄像部12104的摄像范围。例如,通过叠加由摄像部12101~12104拍摄的图像数据,能够获得如从上方观察到的车辆12100的鸟瞰图像。
摄像部12101~12104中的至少一者可以具有获得距离信息的功能。例如,摄像部12101~12104中的至少一者可以是由多个摄像元件构成的立体相机,或者可以是具有用于相位差检测的像素的摄像元件。
例如,微型计算机12051能够基于从摄像部12101~12104获得的距离信息来确定距摄像范围12111~12114内的各个立体物的距离以及该距离的时间变化(相对于车辆12100的相对速度),并由此特别地提取如下的最近立体物作为前方车辆:该立体物存在于车辆12100的行驶道路上并且在与车辆12100大致相同的方向上以预定速度(例如,0km/h以上)行驶。此外,微型计算机12051能够预先设定与前方车辆前方要保持的车间距离,并能够执行自动制动控制(包括跟进停止控制)或自动加速控制(包括跟进启动控制)等。因此,可以执行旨在无需依赖于驾驶员等的操作就能使车辆自主行驶的自动驾驶的协同控制。
例如,微型计算机12051能够基于从摄像部12101~12104获得的距离信息将有关立体物的立体物数据分类为两轮车、普通车辆、大型车辆、行人、电线杆和其他立体物的立体物数据,提取分类后的立体物数据,并使用所提取的立体物数据来自动规避障碍物。例如,微型计算机12051将车辆12100周围的障碍物识别为车辆12100的驾驶员在视觉上能够识别的障碍物和车辆12100的驾驶员在视觉上难以识别的障碍物。然后,微型计算机12051判定用于指示与每个障碍物发生碰撞的危险性的碰撞风险。在碰撞风险为设定值以上并因此可能存在碰撞的情况下,微型计算机12051经由音频扬声器12061或显示部12062向驾驶员输出警告,并且经由驱动系统控制单元12010执行强制减速或规避转向。因此,微型计算机12051能够辅助驾驶以规避碰撞。
摄像部12101~12104中的至少一者可以是检测红外线的红外相机。例如,微型计算机12051能够通过判定摄像部12101~12104拍摄的图像中是否存在行人来识别行人。例如,对行人的这种识别是通过如下过程来执行的:提取作为红外相机的摄像部12101~12104的所拍摄图像中的特征点,并且通过对表示物体轮廓的一系列特征点进行图案匹配处理来判定该物体是否是行人。当微型计算机12051判定摄像部12101~12104的所拍摄图像中存在行人并由此识别出行人时,声音/图像输出部12052控制显示部12062,使得强调用的方形轮廓线以与识别出的行人叠加的方式显示。声音/图像输出部12052还可以控制显示部12062,使得在期望的位置处显示表示行人的图标等。
在上文中,已经描述了能够应用根据本发明的实施例的技术的车辆控制系统的示例。根据本发明的实施例的技术能够应用到上述构造中的车内信息检测单元12040。具体地,当使用测距模块11进行测距时,可以更精确地检测驾驶员的状态。此外,当使用测距模块11进行测距时,可以执行用于识别驾驶员的手势的处理,以便根据该手势执行各种操作。
(构造的组合示例)
需要注意,本技术可以采用以下构造。
(1)测距处理装置,其包括:
四相测距运算单元,所述四相测距运算单元被配置成:当根据到物体的距离将电荷分配给第一抽头和第二抽头时,通过使用全部的八个检测信号执行对表示到所述物体的所述距离的深度进行计算的运算,所述电荷是通过将第一相位的照射光、第二相位的照射光、第三相位的照射光和第四相位的照射光照射到所述物体上并接收由所述物体反射的反射光而产生的,针对所述第一相位的照射光至所述第四相位的照射光中的每种照射光,能够检测到所述八个检测信号中的两个检测信号;
两相测距运算单元,所述两相测距运算单元被配置成:通过交替地使用所述八个检测信号中的基于所述第一相位的照射光和所述第二相位的照射光的四个检测信号以及基于所述第三相位的照射光和所述第四相位的照射光的四个检测信号来执行所述对表示到所述物体的所述距离的深度进行计算的运算;以及
条件判定单元,所述条件判定单元被配置成基于所述检测信号进行条件判定,并且被配置成在使用的所述四相测距运算单元和所述两相测距运算单元之间切换。
(2)根据(1)所述的测距处理装置,其中
在接收由所述第一相位的照射光产生的所述反射光的第一检测期内,所述电荷被配置成多次交替地分配给所述第一抽头和所述第二抽头,并且检测到与分配给所述第一抽头并在所述第一抽头中累积的所述电荷对应的第一检测信号、以及与分配给所述第二抽头并在所述第二抽头中累积的所述电荷对应的第二检测信号,
在接收由所述第二相位的照射光产生的所述反射光的第二检测期内,所述电荷被配置成多次交替地分配给所述第一抽头和所述第二抽头,并且检测到与分配给所述第一抽头并在所述第一抽头中累积的所述电荷对应的第三检测信号、以及与分配给所述第二抽头并在所述第二抽头中累积的所述电荷对应的第四检测信号,
在接收由所述第三相位的照射光产生的所述反射光的第三检测期内,所述电荷被配置成多次交替地分配给所述第一抽头和所述第二抽头,并且检测到与分配给所述第一抽头并在所述第一抽头中累积的所述电荷对应的第五检测信号、以及与分配给所述第二抽头并在所述第二抽头中累积的所述电荷对应的第六检测信号,并且
在接收由所述第四相位的照射光产生的所述反射光的第四检测期内,所述电荷被配置成多次交替地分配给所述第一抽头和所述第二抽头,并且检测到与分配给所述第一抽头并在所述第一抽头中累积的所述电荷对应的第七检测信号、以及与分配给所述第二抽头并在所述第二抽头中累积的所述电荷对应的第八检测信号。
(3)根据(2)所述的测距处理装置,其中
所述四相测距运算单元被配置成通过使用所述第一检测信号和所述第二检测信号之间的差、所述第三检测信号和所述第四检测信号之间的差、所述第五检测信号和所述第六检测信号之间的差、以及所述第七检测信号和所述第八检测信号之间的差来消除由于所述第一抽头和所述第二抽头之间的特性差异而产生的影响,以便计算所述深度。
(4)根据(3)所述的测距处理装置,其中
所述两相测距运算单元被配置成交替地执行以下运算:
在通过使用所述第一检测信号至所述第四检测信号计算用于校正所述第一抽头和所述第二抽头之间的特性差异的校正参数之后,基于所述第一检测信号至所述第四检测信号以及所述校正参数计算所述深度,以及
在通过使用所述第五检测信号至所述第八检测信号计算用于校正所述第一抽头和所述第二抽头之间的所述特性差异的校正参数之后,基于所述第五检测信号至所述第八检测信号以及所述校正参数计算所述深度。
(5)根据(1)~(4)中任一项所述的测距处理装置,其还包括:
测量结果存储单元,所述测量结果存储单元被配置成存储由所述四相测距运算单元和所述两相测距运算单元中的一者计算的所述深度;以及
结果合成单元,所述结果合成单元被配置成将当前帧的所述深度和存储在所述测量结果存储单元中的前一帧的所述深度合成在一起并输出合成后的所述深度。
(6)根据(5)所述的测距处理装置,其中
所述四相测距运算单元和所述两相测距运算单元被配置成计算相对于所述深度的置信度和所述深度,
所述测量结果存储单元被配置成一起存储所述置信度和所述深度,并且
所述结果合成单元被配置成执行对应于所述置信度的加权加法,以将所述前一帧的所述深度和所述当前帧的所述深度合成在一起。
(7)根据(5)或(6)所述的测距处理装置,其中
所述结果合成单元被配置成将所述四相测距运算单元使用全部的所述八个检测信号计算的所述前一帧的所述深度和所述四相测距运算单元使用全部的所述八个检测信号计算的所述当前帧的所述深度合成在一起。
(8)根据(5)或(6)所述的测距处理装置,其中,
在所述两相测距运算单元使用基于所述第一相位的照射光和所述第二相位的照射光的所述四个检测信号计算的所述深度以及所述两相测距运算单元使用基于所述第三相位的照射光和所述第四相位的照射光的所述四个检测信号计算的所述深度之中,所述结果合成单元被配置成将一个深度识别为所述前一帧的所述深度并且将另一个深度识别为所述当前帧的所述深度,并且所述结果合成单元被配置成将两个深度合成在一起。
(9)根据(1)~(8)中任一项所述的测距处理装置,其中
所述条件判定单元被配置成对接收所述反射光的光接收单元的各个像素执行所述条件判定,并且所述条件判定单元被配置成针对各个所述像素在通过所述四相测距运算单元执行所述对深度进行计算的运算和通过所述两相测距运算单元执行所述对深度进行计算的运算之间切换。
(10)根据(1)~(9)中任一项所述的测距处理装置,其中
所述条件判定单元被配置成:
在通过将基于所述第一相位的照射光和所述第二相位的照射光的所述四个检测信号与基于所述第三相位的照射光和所述第四相位的照射光的所述四个检测信号进行比较来检测所述物体是否运动的基础上,进行所述条件判定,
当检测到所述物体处于运动中时,由所述两相测距运算单元执行所述对深度进行计算的运算,并且
当未检测到所述物体处于运动中时,由所述四相测距运算单元执行所述对深度进行计算的运算。
(11)根据(1)~(9)中任一项所述的测距处理装置,其中
所述条件判定单元被配置成:
在由基于所述第一相位的照射光和所述第二相位的照射光的所述四个检测信号计算的亮度和由基于所述第三相位的照射光和所述第四相位的照射光的所述四个检测信号计算的亮度的基础上,进行所述条件判定,并且
根据所述亮度在所述四相测距运算单元和所述两相测距运算单元之间切换。
(12)根据(1)~(9)中任一项所述的测距处理装置,其中
所述四相测距运算单元和所述两相测距运算单元被配置成计算相对于所述深度的置信度和所述深度,并且
所述条件判定单元被配置成基于在前一帧中计算的所述置信度进行所述条件判定,并且被配置成根据所述置信度在所述四相测距运算单元和所述两相测距运算单元之间切换。
(13)根据(1)~(12)中任一项所述的测距处理装置,其中
所述第一检测期、所述第二检测期、所述第三检测期和所述第四检测期以基本均匀的间隔设置。
(14)测距模块,其包括:
发光单元,所述发光单元被配置成将第一相位的照射光、第二相位的照射光、第三相位的照射光和第四相位的照射光照射到物体上;
光接收单元,所述光接收单元被配置成当根据到所述物体的距离将电荷分配给第一抽头和第二抽头时输出八个检测信号,所述电荷是通过接收由所述物体反射的反射光而产生的,针对所述第一相位的照射光至所述第四相位的照射光中的每种照射光,能够检测到所述八个检测信号中的两个检测信号;
四相测距运算单元,所述四相测距运算单元被配置成通过使用全部的所述八个检测信号执行对表示到所述物体的所述距离的深度进行计算的运算;
两相测距运算单元,所述两相测距运算单元被配置成:通过交替地使用所述八个检测信号中的基于所述第一相位的照射光和所述第二相位的照射光的四个检测信号以及基于所述第三相位的照射光和所述第四相位的照射光的四个检测信号来执行所述对表示到所述物体的所述距离的深度进行计算的运算;以及
条件判定单元,所述条件判定单元被配置成基于所述检测信号进行条件判定,并且被配置成在所述四相测距运算单元和所述两相测距运算单元之间切换。
(15)测距处理方法,其包括:
执行四相测距运算处理:当根据到物体的距离将电荷分配给第一抽头和第二抽头时,通过使用全部的八个检测信号执行对表示到所述物体的所述距离的深度进行计算的运算,所述电荷是通过将第一相位的照射光、第二相位的照射光、第三相位的照射光和第四相位的照射光照射到所述物体上并接收由所述物体反射的反射光而产生的,针对所述第一相位的照射光至所述第四相位的照射光中的每种照射光,能够检测到所述八个检测信号中的两个检测信号;
执行两相测距运算处理:通过交替地使用所述八个检测信号中的基于所述第一相位的照射光和所述第二相位的照射光的四个检测信号以及基于所述第三相位的照射光和所述第四相位的照射光的四个检测信号来执行所述对表示到所述物体的所述距离的深度进行计算的运算;以及
基于所述检测信号进行条件判定,并且在使用的所述四相测距运算处理和所述两相测距运算处理之间切换。
(16)程序,所述程序用于使执行测距处理的测距处理装置的计算机执行所述测距处理,所述测距处理包括:
执行四相测距运算处理:当根据到物体的距离将电荷分配给第一抽头和第二抽头时,通过使用全部的八个检测信号执行对表示到所述物体的所述距离的深度进行计算的运算,所述电荷是通过将第一相位的照射光、第二相位的照射光、第三相位的照射光和第四相位的照射光照射到所述物体上并接收由所述物体反射的反射光而产生的,针对所述第一相位的照射光至所述第四相位的照射光中的每种照射光,能够检测到所述八个检测信号中的两个检测信号;
执行两相测距运算处理:通过交替地使用所述八个检测信号中的基于所述第一相位的照射光和所述第二相位的照射光的四个检测信号以及基于所述第三相位的照射光和所述第四相位的照射光的四个检测信号来执行所述对表示到所述物体的所述距离的深度进行计算的运算;以及
基于所述检测信号进行条件判定,并且在使用的所述四相测距运算处理和所述两相测距运算处理之间切换。
需要注意,本实施例不限于上述的那些实施例,而是本发明可以在不脱离本发明的实质的情况下以各种方式进行变型。此外,本说明书中所述的效果仅用于说明并且不是限制性的。可以产生其他效果。
本领域技术人员应该理解,可以根据设计要求和其他因素进行各种变型、组合、次组合和变更,只要这些变型、组合、次组合和变更在所附权利要求或其等同物的范围内。
Claims (16)
1.测距处理装置,其包括:
四相测距运算单元,所述四相测距运算单元被配置成:当根据到物体的距离将电荷分配给第一抽头和第二抽头时,通过使用全部的八个检测信号执行对表示到所述物体的所述距离的深度进行计算的运算,所述电荷是通过将第一相位的照射光、第二相位的照射光、第三相位的照射光和第四相位的照射光照射到所述物体上并接收由所述物体反射的反射光而产生的,针对所述第一相位的照射光至所述第四相位的照射光中的每种照射光,能够检测到所述八个检测信号中的两个检测信号;
两相测距运算单元,所述两相测距运算单元被配置成:通过交替地使用所述八个检测信号中的基于所述第一相位的照射光和所述第二相位的照射光的四个检测信号以及基于所述第三相位的照射光和所述第四相位的照射光的四个检测信号来执行所述对表示到所述物体的所述距离的深度进行计算的运算;以及
条件判定单元,所述条件判定单元被配置成基于所述检测信号进行条件判定,并且被配置成在使用的所述四相测距运算单元和所述两相测距运算单元之间切换。
2.根据权利要求1所述的测距处理装置,其中
在接收由所述第一相位的照射光产生的所述反射光的第一检测期内,所述电荷被配置成多次交替地分配给所述第一抽头和所述第二抽头,并且检测到与分配给所述第一抽头并在所述第一抽头中累积的所述电荷对应的第一检测信号、以及与分配给所述第二抽头并在所述第二抽头中累积的所述电荷对应的第二检测信号,
在接收由所述第二相位的照射光产生的所述反射光的第二检测期内,所述电荷被配置成多次交替地分配给所述第一抽头和所述第二抽头,并且检测到与分配给所述第一抽头并在所述第一抽头中累积的所述电荷对应的第三检测信号、以及与分配给所述第二抽头并在所述第二抽头中累积的所述电荷对应的第四检测信号,
在接收由所述第三相位的照射光产生的所述反射光的第三检测期内,所述电荷被配置成多次交替地分配给所述第一抽头和所述第二抽头,并且检测到与分配给所述第一抽头并在所述第一抽头中累积的所述电荷对应的第五检测信号、以及与分配给所述第二抽头并在所述第二抽头中累积的所述电荷对应的第六检测信号,并且
在接收由所述第四相位的照射光产生的所述反射光的第四检测期内,所述电荷被配置成多次交替地分配给所述第一抽头和所述第二抽头,并且检测到与分配给所述第一抽头并在所述第一抽头中累积的所述电荷对应的第七检测信号、以及与分配给所述第二抽头并在所述第二抽头中累积的所述电荷对应的第八检测信号。
3.根据权利要求2所述的测距处理装置,其中
所述四相测距运算单元被配置成通过使用所述第一检测信号和所述第二检测信号之间的差、所述第三检测信号和所述第四检测信号之间的差、所述第五检测信号和所述第六检测信号之间的差、以及所述第七检测信号和所述第八检测信号之间的差来消除由于所述第一抽头和所述第二抽头之间的特性差异而产生的影响,以便计算所述深度。
4.根据权利要求2所述的测距处理装置,其中
所述两相测距运算单元被配置成交替地执行以下运算:
在通过使用所述第一检测信号至所述第四检测信号计算用于校正所述第一抽头和所述第二抽头之间的特性差异的校正参数之后,基于所述第一检测信号至所述第四检测信号以及所述校正参数计算所述深度,以及
在通过使用所述第五检测信号至所述第八检测信号计算用于校正所述第一抽头和所述第二抽头之间的所述特性差异的校正参数之后,基于所述第五检测信号至所述第八检测信号以及所述校正参数计算所述深度。
5.根据权利要求1-4中任一项所述的测距处理装置,其还包括:
测量结果存储单元,所述测量结果存储单元被配置成存储由所述四相测距运算单元和所述两相测距运算单元中的一者计算的所述深度;以及
结果合成单元,所述结果合成单元被配置成将当前帧的所述深度和存储在所述测量结果存储单元中的前一帧的所述深度合成在一起并输出合成后的所述深度。
6.根据权利要求5所述的测距处理装置,其中
所述四相测距运算单元和所述两相测距运算单元被配置成计算相对于所述深度的置信度和所述深度,
所述测量结果存储单元被配置成一起存储所述置信度和所述深度,并且
所述结果合成单元被配置成执行对应于所述置信度的加权加法,以将所述前一帧的所述深度和所述当前帧的所述深度合成在一起。
7.根据权利要求5所述的测距处理装置,其中
所述结果合成单元被配置成将所述四相测距运算单元使用全部的所述八个检测信号计算的所述前一帧的所述深度和所述四相测距运算单元使用全部的所述八个检测信号计算的所述当前帧的所述深度合成在一起。
8.根据权利要求5所述的测距处理装置,其中
在所述两相测距运算单元使用基于所述第一相位的照射光和所述第二相位的照射光的所述四个检测信号计算的所述深度以及所述两相测距运算单元使用基于所述第三相位的照射光和所述第四相位的照射光的所述四个检测信号计算的所述深度之中,所述结果合成单元被配置成将一个深度识别为所述前一帧的所述深度并且将另一个深度识别为所述当前帧的所述深度,并且所述结果合成单元被配置成将两个深度合成在一起。
9.根据权利要求1-4中任一项所述的测距处理装置,其中
所述条件判定单元被配置成对接收所述反射光的光接收单元的各个像素执行所述条件判定,并且所述条件判定单元被配置成针对各个所述像素在通过所述四相测距运算单元执行所述对深度进行计算的运算和通过所述两相测距运算单元执行所述对深度进行计算的运算之间切换。
10.根据权利要求1-4中任一项所述的测距处理装置,其中
所述条件判定单元被配置成:
在通过将基于所述第一相位的照射光和所述第二相位的照射光的所述四个检测信号与基于所述第三相位的照射光和所述第四相位的照射光的所述四个检测信号进行比较来检测所述物体是否运动的基础上,进行所述条件判定,
当检测到所述物体处于运动中时,由所述两相测距运算单元执行所述对深度进行计算的运算,并且
当未检测到所述物体处于运动中时,由所述四相测距运算单元执行所述对深度进行计算的运算。
11.根据权利要求1-4中任一项所述的测距处理装置,其中
所述条件判定单元被配置成:
在由基于所述第一相位的照射光和所述第二相位的照射光的所述四个检测信号计算的亮度和由基于所述第三相位的照射光和所述第四相位的照射光的所述四个检测信号计算的亮度的基础上,进行所述条件判定,并且
根据所述亮度在所述四相测距运算单元和所述两相测距运算单元之间切换。
12.根据权利要求1-4中任一项所述的测距处理装置,其中
所述四相测距运算单元和所述两相测距运算单元被配置成计算相对于所述深度的置信度和所述深度,并且
所述条件判定单元被配置成基于在前一帧中计算的所述置信度进行所述条件判定,并且被配置成根据所述置信度在所述四相测距运算单元和所述两相测距运算单元之间切换。
13.根据权利要求2-4中任一项所述的测距处理装置,其中
所述第一检测期、所述第二检测期、所述第三检测期和所述第四检测期以均匀的间隔设置。
14.测距模块,其包括:
发光单元,所述发光单元被配置成将第一相位的照射光、第二相位的照射光、第三相位的照射光和第四相位的照射光照射到物体上;
光接收单元,所述光接收单元被配置成当根据到所述物体的距离将电荷分配给第一抽头和第二抽头时输出八个检测信号,所述电荷是通过接收由所述物体反射的反射光而产生的,针对所述第一相位的照射光至所述第四相位的照射光中的每种照射光,能够检测到所述八个检测信号中的两个检测信号;
四相测距运算单元,所述四相测距运算单元被配置成通过使用全部的所述八个检测信号执行对表示到所述物体的所述距离的深度进行计算的运算;
两相测距运算单元,所述两相测距运算单元被配置成:通过交替地使用所述八个检测信号中的基于所述第一相位的照射光和所述第二相位的照射光的四个检测信号以及基于所述第三相位的照射光和所述第四相位的照射光的四个检测信号来执行所述对表示到所述物体的所述距离的深度进行计算的运算;以及
条件判定单元,所述条件判定单元被配置成基于所述检测信号进行条件判定,并且被配置成在所述四相测距运算单元和所述两相测距运算单元之间切换。
15.测距处理方法,其包括:
执行四相测距运算处理:当根据到物体的距离将电荷分配给第一抽头和第二抽头时,通过使用全部的八个检测信号执行对表示到所述物体的所述距离的深度进行计算的运算,所述电荷是通过将第一相位的照射光、第二相位的照射光、第三相位的照射光和第四相位的照射光照射到所述物体上并接收由所述物体反射的反射光而产生的,针对所述第一相位的照射光至所述第四相位的照射光中的每种照射光,能够检测到所述八个检测信号中的两个检测信号;
执行两相测距运算处理:通过交替地使用所述八个检测信号中的基于所述第一相位的照射光和所述第二相位的照射光的四个检测信号以及基于所述第三相位的照射光和所述第四相位的照射光的四个检测信号来执行所述对表示到所述物体的所述距离的深度进行计算的运算;以及
基于所述检测信号进行条件判定,并且在使用的所述四相测距运算处理和所述两相测距运算处理之间切换。
16.程序,所述程序用于使执行测距处理的测距处理装置的计算机执行所述测距处理,所述测距处理包括:
执行四相测距运算处理:当根据到物体的距离将电荷分配给第一抽头和第二抽头时,通过使用全部的八个检测信号执行对表示到所述物体的所述距离的深度进行计算的运算,所述电荷是通过将第一相位的照射光、第二相位的照射光、第三相位的照射光和第四相位的照射光照射到所述物体上并接收由所述物体反射的反射光而产生的,针对所述第一相位的照射光至所述第四相位的照射光中的每种照射光,能够检测到所述八个检测信号中的两个检测信号;
执行两相测距运算处理:通过交替地使用所述八个检测信号中的基于所述第一相位的照射光和所述第二相位的照射光的四个检测信号以及基于所述第三相位的照射光和所述第四相位的照射光的四个检测信号来执行所述对表示到所述物体的所述距离的深度进行计算的运算;以及
基于所述检测信号进行条件判定,并且在使用的所述四相测距运算处理和所述两相测距运算处理之间切换。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018-087513 | 2018-04-27 | ||
JP2018087513A JP7030607B2 (ja) | 2018-04-27 | 2018-04-27 | 測距処理装置、測距モジュール、測距処理方法、およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110412598A true CN110412598A (zh) | 2019-11-05 |
Family
ID=66239947
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910248398.3A Pending CN110412598A (zh) | 2018-04-27 | 2019-03-29 | 测距处理装置、测距模块、测距处理方法和程序 |
Country Status (6)
Country | Link |
---|---|
US (1) | US11561303B2 (zh) |
EP (1) | EP3561544A1 (zh) |
JP (1) | JP7030607B2 (zh) |
KR (1) | KR20190125171A (zh) |
CN (1) | CN110412598A (zh) |
TW (1) | TWI798408B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11561085B2 (en) | 2019-06-05 | 2023-01-24 | Qualcomm Incorporated | Resolving multipath interference using a mixed active depth system |
WO2021177045A1 (ja) * | 2020-03-04 | 2021-09-10 | ソニーグループ株式会社 | 信号処理装置、信号処理方法、および、測距モジュール |
US11563873B2 (en) * | 2020-04-14 | 2023-01-24 | Qualcomm Incorporated | Wide-angle 3D sensing |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100778904B1 (ko) * | 2004-09-17 | 2007-11-22 | 마츠시다 덴코 가부시키가이샤 | 레인지 이미지 센서 |
JP2008209298A (ja) * | 2007-02-27 | 2008-09-11 | Fujifilm Corp | 測距装置及び測距方法 |
KR101710514B1 (ko) | 2010-09-03 | 2017-02-27 | 삼성전자주식회사 | 깊이 센서 및 이를 이용한 거리 추정 방법 |
EP2477043A1 (en) * | 2011-01-12 | 2012-07-18 | Sony Corporation | 3D time-of-flight camera and method |
DE102011081567B4 (de) * | 2011-08-25 | 2023-08-31 | pmdtechnologies ag | Empfänger für einen optischen Entfernungsmesser |
KR102194233B1 (ko) | 2014-05-19 | 2020-12-22 | 삼성전자주식회사 | 깊이 영상 생성 장치 및 방법 |
JP6507529B2 (ja) | 2014-08-29 | 2019-05-08 | 株式会社デンソー | 光飛行型測距装置 |
US10061029B2 (en) * | 2015-01-06 | 2018-08-28 | Samsung Electronics Co., Ltd. | Correction of depth images from T-O-F 3D camera with electronic-rolling-shutter for light modulation changes taking place during light integration |
JP6558122B2 (ja) | 2015-07-30 | 2019-08-14 | 株式会社デンソー | 光飛行型測距装置 |
EP3185037B1 (en) * | 2015-12-23 | 2020-07-08 | STMicroelectronics (Research & Development) Limited | Depth imaging system |
JP2017150893A (ja) | 2016-02-23 | 2017-08-31 | ソニー株式会社 | 測距モジュール、測距システム、および、測距モジュールの制御方法 |
JP7214363B2 (ja) | 2018-04-27 | 2023-01-30 | ソニーセミコンダクタソリューションズ株式会社 | 測距処理装置、測距モジュール、測距処理方法、およびプログラム |
-
2018
- 2018-04-27 JP JP2018087513A patent/JP7030607B2/ja active Active
-
2019
- 2019-03-29 CN CN201910248398.3A patent/CN110412598A/zh active Pending
- 2019-04-02 TW TW108111643A patent/TWI798408B/zh active
- 2019-04-05 US US16/375,896 patent/US11561303B2/en active Active
- 2019-04-07 KR KR1020190040503A patent/KR20190125171A/ko active Search and Examination
- 2019-04-18 EP EP19170343.8A patent/EP3561544A1/en active Pending
Also Published As
Publication number | Publication date |
---|---|
JP7030607B2 (ja) | 2022-03-07 |
TW201945758A (zh) | 2019-12-01 |
TWI798408B (zh) | 2023-04-11 |
US11561303B2 (en) | 2023-01-24 |
JP2019191119A (ja) | 2019-10-31 |
KR20190125171A (ko) | 2019-11-06 |
EP3561544A1 (en) | 2019-10-30 |
US20200025924A1 (en) | 2020-01-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110412599A (zh) | 距离测量处理装置、距离测量模块和距离测量处理方法 | |
CN102712283B (zh) | 用于控制车辆的前照灯装置的方法和前照灯装置 | |
CN102712282B (zh) | 用于控制车辆的前照灯装置的方法和前照灯装置 | |
US20200286247A1 (en) | Radar-aided single image three-dimensional depth reconstruction | |
US11494979B2 (en) | Bounding box estimation and lane vehicle association | |
US11195028B2 (en) | Real-time simultaneous detection of lane marker and raised pavement marker for optimal estimation of multiple lane boundaries | |
CN110412598A (zh) | 测距处理装置、测距模块、测距处理方法和程序 | |
US11544940B2 (en) | Hybrid lane estimation using both deep learning and computer vision | |
CN110371114A (zh) | 车辆控制装置、车辆控制方法及存储介质 | |
CN102712284B (zh) | 用于控制车辆的前照灯装置的方法和前照灯装置 | |
CN106415312B (zh) | 感应系统及驾驶支援系统 | |
WO2020241294A1 (ja) | 信号処理装置、信号処理方法、および、測距モジュール | |
CN106183989B (zh) | 车辆驾驶辅助装置及车辆驾驶辅助装置的动作方法 | |
CN109729723A (zh) | 测距装置和测距方法 | |
WO2021005105A1 (en) | Imaging systems, devices and methods | |
WO2020209079A1 (ja) | 測距センサ、信号処理方法、および、測距モジュール | |
Thiem et al. | Datafusion of two driver assistance system sensors | |
KR102595574B1 (ko) | 자율주행 차량의 정차선 인식 방법 | |
WO2020203331A1 (ja) | 信号処理装置、信号処理方法、および、測距モジュール | |
Bertozzi et al. | Requirements for visual perception of automotive environments |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |