CN113874750A - 信号处理装置、信号处理方法和测距模块 - Google Patents

信号处理装置、信号处理方法和测距模块 Download PDF

Info

Publication number
CN113874750A
CN113874750A CN202080038326.7A CN202080038326A CN113874750A CN 113874750 A CN113874750 A CN 113874750A CN 202080038326 A CN202080038326 A CN 202080038326A CN 113874750 A CN113874750 A CN 113874750A
Authority
CN
China
Prior art keywords
unit
light
exposure control
signal processing
control parameter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202080038326.7A
Other languages
English (en)
Inventor
三原基
海津俊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Group Corp
Original Assignee
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Group Corp filed Critical Sony Group Corp
Publication of CN113874750A publication Critical patent/CN113874750A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/483Details of pulse systems
    • G01S7/486Receivers
    • G01S7/4868Controlling received signal intensity or exposure of sensor
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • G01S17/32Systems determining position data of a target for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated
    • G01S17/36Systems determining position data of a target for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated with phase comparison between the received signal and the contemporaneously transmitted signal
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • G01S17/8943D imaging with simultaneous measurement of time-of-flight at a 2D array of receiver pixels, e.g. time-of-flight cameras or flash lidar
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/93Lidar systems specially adapted for specific applications for anti-collision purposes
    • G01S17/931Lidar systems specially adapted for specific applications for anti-collision purposes of land vehicles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/491Details of non-pulse systems
    • G01S7/4912Receivers
    • G01S7/4913Circuits for detection, sampling, integration or read-out
    • G01S7/4914Circuits for detection, sampling, integration or read-out of detector arrays, e.g. charge-transfer gates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/497Means for monitoring or calibrating

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Electromagnetism (AREA)
  • Optical Radar Systems And Details Thereof (AREA)
  • Measurement Of Optical Distance (AREA)
  • Studio Devices (AREA)

Abstract

本技术涉及能够执行适当的曝光控制的信号处理装置、信号处理方法和测距模块。测距模块的参数确定单元基于使用根据光接收单元的检测信号计算出的距离信息和亮度信息的评估指标来确定曝光控制参数。本技术可以应用于通过间接(ToF)方法执行测距的测距模块等。

Description

信号处理装置、信号处理方法和测距模块
技术领域
本技术涉及信号处理装置、信号处理方法和测距模块,具体涉及能够进行适当的曝光控制的信号处理装置、信号处理方法和测距模块。
背景技术
已知使用间接飞行时间(ToF)方法的测距传感器。在间接ToF方法的测距传感器中,通过接收被测量目标反射的反射光而获得的信号电荷被分配给两个电荷累积区域,并且根据信号电荷的分配比率计算距离。作为这样的测距传感器,提出了具有改进的光接收特性的背照式测距传感器(例如,参照专利文献1)。
引用列表
专利文献
专利文献1:国际公开第2018/135320号
发明内容
本发明要解决的问题
在接收反射光的测距传感器中,诸如太阳光的环境光和发光源的光量会影响光接收量,因此需要适当的曝光控制以准确地测量距离。
本技术是鉴于这种情况而实现的,并且本技术的目的是执行适当的曝光控制。
问题的解决方案
根据本技术的第一方面的信号处理装置设置有参数确定单元,该参数确定单元基于使用根据光接收传感器的检测信号计算出的距离信息和亮度信息的评估指标来确定曝光控制参数。
在根据本技术的第二方面的信号处理方法中,信号处理装置基于使用根据光接收传感器的检测信号计算出的距离信息和亮度信息的评估指标来确定曝光控制参数。
根据本技术的第三方面的测距模块设置有:发光单元,其以预定频率发光;光接收传感器,其接收作为由对象反射来自发光单元的光的反射光;以及参数确定单元,其基于使用根据光接收传感器的检测信号计算出的距离信息和亮度信息的评估指标来确定曝光控制参数。
在本技术的第一至第三方面中,基于使用根据光接收传感器的检测信号计算的距离信息和亮度信息的评估指标来确定曝光控制参数。
信号处理装置和测距模块可以是独立的装置或者包含在其他装置中的模块。
附图说明
图1是示出应用本技术的测距模块的一个实施方式的配置示例的框图。
图2是用于示出间接ToF方法中的像素的操作的视图。
图3是用于示出四相位检测方法的视图。
图4是用于示出四相位检测方法的视图。
图5是用于示出通过两相位方法和四相位方法计算深度值和可靠度的方法的视图。
图6是示出亮度值l与方差σ2(l)之间的关系的视图。
图7是示出与距离对应的信噪比的视图。
图8是用于示出当确定曝光控制参数时的评估指标的视图。
图9是用于示出对评估值E的搜索的视图。
图10是示出信号处理单元的第一配置示例的框图。
图11是用于示出第一深度图生成处理的流程图。
图12是示出信号处理单元的第二配置示例的框图。
图13是用于示出在第二配置示例中采用的信噪比的视图。
图14是用于示出在第二配置示例中采用的评估指标的视图。
图15是示出多个SNR的示例的视图。
图16是示出SNR的等高线的视图。
图17是用于示出第二深度图生成处理的流程图。
图18是示出信号处理单元的第三配置示例的框图。
图19是用于示出在约束条件下搜索曝光控制参数的视图。
图20是用于示出第三深度图生成处理的流程图。
图21是示出信号处理单元的第四配置示例的框图。
图22是用于示出关注区域的设置的视图。
图23是用于示出第四深度图生成处理的流程图。
图24是示出应用本技术的电子装置的配置示例的框图。
图25是示出应用本技术的计算机的一个实施方式的配置示例的框图。
图26是示出车辆控制系统的示意性配置的示例的框图。
图27是示出车辆外部信息检测单元和成像单元的安装位置的示例的说明图。
具体实施方式
下面描述用于实施本技术的方式(在下文中,称为实施方式)。注意,按以下顺序给出描述。
1.测距模块的配置示例
2.间接ToF方法中的像素操作
3.计算信号处理单元的曝光控制参数的方法
4.信号处理单元的第一配置示例
5.第一深度图生成处理
6.信号处理单元的第二配置示例
7.第二深度图生成处理
8.信号处理单元的第三配置示例
9.第三深度图生成处理
10.信号处理单元的第四配置示例
11.第四深度图生成处理
12.第一变型例
13.第二变型例
14.第三变型例
15.总结
16.电子装置的配置示例
17.计算机的配置示例
18.移动体的应用示例
<1.测距模块的配置示例>
图1是示出应用本技术的测距模块的一个实施方式的配置示例的框图。
图1所示的测距模块11是通过间接ToF方式进行测距的测距模块(ToF模块),并且包括发光单元12、发光控制单元13、光接收单元14和信号处理单元15。测距模块11用光照射对象并且接收作为光(照射光)被对象反射的光(反射光),从而生成深度图(距离图像)作为到对象的距离信息并且生成可靠度图(可靠度图像)作为亮度信息以进行输出。
发光单元12包括例如作为光源的红外激光二极管等,并且在发光控制单元13的控制下在与从发光控制单元13提供的发光控制信号对应的定时处进行调制的同时发光,并且用照射光照射对象。
发光控制单元13通过向发光单元12提供发光控制信号来控制发光单元12的发光,该发光控制信号控制允许光源发光时的频率(例如,20MHz等)和发光量。此外,为了根据发光单元12的发光定时来驱动光接收单元14,发光控制单元13也将发光控制信号提供给光接收单元14。
光接收单元14设置有像素阵列单元22,在像素阵列单元22中,生成与接收光量对应的电荷并且输出与该电荷对应的信号的像素21在行方向和列方向上二维布置成矩阵,并且像素阵列单元22的外围区域布置有驱动控制电路23。光接收单元14是接收反射光的光接收传感器,也称为ToF传感器。
光接收单元14由其中多个像素21被二维布置的像素阵列单元22接收来自对象的反射光。然后,光接收单元14将与由像素阵列单元22的每个像素21接收到的反射光量对应的检测信号作为像素数据提供给信号处理单元15。
驱动控制电路23基于例如从发光控制单元13提供的发光控制信号等来输出用于控制像素21的驱动的控制信号(例如,后述的分配信号DIMIX、选择信号ADDRESS DECODE、复位信号RST等)。
像素21包括光电二极管31以及检测由光电二极管31光电转换的电荷的第一抽头32A和第二抽头32B。在像素21中,在一个光电二极管31中产生的电荷被分配给第一抽头32A或第二抽头32B。然后,在光电二极管31中产生的电荷中,分配给第一抽头32A的电荷作为检测信号A从信号线33A输出,分配给第二抽头32B的电荷作为检测信号B从信号线33B输出。
第一抽头32A包括转移晶体管41A、浮动扩散(FD)单元42A、选择晶体管43A和复位晶体管44A。类似地,第二抽头32B包括转移晶体管41B、FD单元42B、选择晶体管43B和复位晶体管44B。
信号处理单元15基于从光接收单元14提供的像素数据针对像素阵列单元22的每个像素21计算深度值,该深度值是从测距模块11到对象的距离。此外,信号处理单元15生成深度图以进行输出,在该深度图中,存储深度值(深度信息)作为像素阵列单元22的每个像素21的像素值。此外,信号处理单元15还计算针对像素阵列单元22的每个像素21计算的深度值的可靠度,并且生成可靠度图以进行输出,在该可靠度图中,存储可靠度(亮度信息)作为像素阵列单元22的每个像素21的像素值。
此外,信号处理单元15根据所获得的深度图和可靠度图计算在下次接收反射光时的最佳曝光控制参数,并且将最佳曝光控制参数提供给发光控制单元13。发光控制单元13基于来自信号处理单元15的曝光控制参数来生成发光控制信号。
<2.间接ToF方法中的像素操作>
参照图2描述间接ToF方法中的像素21的操作。
如图2所示,从发光单元12输出被调制为以照射时间T重复地打开/关闭(1个周期=2T)的照射光,并且反射光以与到对象的距离对应的延迟时间ΔT被光电二极管31接收。此外,分配信号DIMIX_A控制转移晶体管41A的导通/截止,分配信号DIMIX_B控制转移晶体管41B的导通/截止。分配信号DIMIX_A是与照射光同相位的信号,分配信号DIMIX_B是将通过将分配信号DIMIX_A反相而获得的相位。
因此,当光电二极管31接收反射光时产生的电荷根据分配信号DIMIX_A在转移晶体管41A导通时转移至FD单元42A,并且根据分配信号DIMIX_B在转移晶体管41B导通时转移至FD单元42B。因此,在周期性地执行照射时间T的照射光的照射的预定时间段中,经由转移晶体管41A转移的电荷依次累积在FD部42A中,经由转移晶体管41B转移的电荷依次累积在FD单元42B中。
然后,当选择晶体管43A根据选择信号ADDRESS DECODE_A在电荷累积的时间段结束之后被导通时,在FD单元42A中累积的电荷经由信号线33A被读出,与电荷量对应的检测信号A从光接收单元14输出。同样,当选择晶体管43B根据选择信号ADDRESS DECODE_B被导通时,在FD单元42B中累积的电荷经由信号线33B被读出,与电荷量对应的检测信号B从光接收单元14输出。此外,当复位晶体管44A根据复位信号RST_A被导通时,在FD单元42A中累积的电荷被释放,并且当复位晶体管44B根据复位信号RST_B被导通时,在FD单元42B中累积的电荷被释放。
这样,像素21根据延迟时间ΔT将由光电二极管31接收到的反射光产生的电荷分配给第一抽头32A或第二抽头32B,并且输出检测信号A和检测信号B。那么,延迟时间ΔT对应于由发光单元12发出的光飞向对象并且在被对象反射后飞向光接收单元14的时间,即对应于到对象的距离。因此,测距模块11可以基于检测信号A和检测信号B根据延迟时间ΔT获得到对象的距离(深度值)。
注意,在像素阵列单元22中,由于每个像素21中包括的诸如光电二极管31以及诸如转移晶体管41等的像素晶体管的元件的特性的偏差(灵敏度差异),存在检测信号A和B受到各个像素21的影响不同的情况。因此,在间接ToF方法的测距模块11中,采用如下方法:通过在同一像素21中改变相位的同时接收反射光,通过获得检测信号A和检测信号B来消除各个像素的抽头之间的灵敏度差异,从而提高信噪比。
作为在改变相位的同时接收反射光并且计算深度值的方法,例如,描述了通过两相位的检测方法(两相位方法)和通过四相位的检测方法(四相位方法)。
如图3所示,光接收单元14在相对于照射光的照射定时具有0°、90°、180°和270°的相位偏移的光接收定时处接收反射光。更具体地,光接收单元14在以时分方式改变相位的同时接收反射光,以接收在特定帧周期内相对于照射光的照射定时相位被设置为0°的光,在下一帧周期内接收相位被设置为90°的光,在下一帧周期内接收相位被设置为180°的光,并且在下一帧周期内接收相位被设置为270°的光。
图4是其中像素21的第一抽头32A在0°、90°、180°和270°的各个相位中的曝光周期被布置成使得相位差易于理解的视图。
如图4所示,在第一抽头32A中,通过接收与照射光同相位(相位0°)的光而获得的检测信号A被称为检测信号A0,通过接收与照射光偏移90度的相位(相位90°)的光而获得的检测信号A被称为检测信号A90,通过接收与照射光偏移180度的相位(相位180°)的光而获得的检测信号A被称为检测信号A180,通过接收与照射光偏移270度的相位(相位270°)的光而获得的检测信号A被称为检测信号A270
此外,虽然未示出,但是在第二抽头32B中,通过接收与照射光同相位(相位0°)的光而获得的检测信号B被称为检测信号B0,通过接收与照射光偏移90度的相位(相位90°)的光而获得的检测信号B被称为检测信号B90,通过接收与照射光偏移180度的相位(相位180°)的光而获得的检测信号B被称为检测信号B180,通过接收与照射光偏移270度的相位(相位270°)的光而获得的检测信号B被称为检测信号B270
图5是示出通过两相位方法和四相位方法计算深度值和可靠度的方法的视图。
在间接ToF方法中,深度值d可以通过以下表达式(1)获得。
[数学表达式1]
Figure BDA0003369373440000071
在表达式(1)中,c表示光速,ΔT表示延迟时间,f表示光的调制频率。此外,表达式(1)中的
Figure BDA0003369373440000072
表示反射光的相移量[rad],并且由以下表达式(2)表示。
[数学表达式2]
Figure BDA0003369373440000081
在四相位方法中,使用通过将相位设置为0°、90°、180和270°而获得的检测信号A0至A270以及检测信号B0至B270,通过以下表达式(3)计算表达式(2)中的I和Q。I和Q表示通过假设照射光的亮度变化是cos波,将cos波的相位从极坐标转换为正交坐标系(IQ平面)而获得的信号。
I=c0-c180=(A0-B0)-(A180-B180)
Q=c90-c270=(A90-B90)-(A270-B270)
..........(3)
在四相位方法中,例如,通过取与表达式(3)中的“A0至A180”或“A90至A270”相同像素的相反相位的检测信号之间的差异,可以消除各个像素中的抽头之间的特性变化即抽头之间的灵敏度差异。
相比之下,在两相位方法中,可以仅使用在将相位设置为0°、90°、180°和270°时获得的检测信号A0至A270和检测信号B0至B270中具有正交关系的两个相位来获得到对象的深度值d。例如,在使用0°相位的检测信号A0和B0以及90°相位的检测信号A90和B90的情况下,表达式(2)中的I和Q由以下表达式(4)表达。
I=c0-c180=(A0-B0)
Q=c90-c270=(A90-B90)..........(4)
例如,在使用180°相位的检测信号A180和B180以及270°相位的检测信号A270和B270的情况下,表达式(2)中的I和Q由以下表达式(5)表达。
I=c0-c180=-(A180-B180)
Q=c90-c270=-(A270-B270)..........(5)
在两相位方法中,无法消除每个像素中的抽头之间的特性变化,但是可以仅通过两个相位的检测信号获得到对象的深度值d,从而可以以四相位方法的帧速率两倍的帧速率来执行测距。抽头之间的特性变化可以通过增益、偏移等校正参数来调整。
在两相位方法和四相位方法二者中,可靠度cnf都通过以下表达式(6)获得。
[数学表达式3]
Figure BDA0003369373440000091
从表达式(6)可以理解,可靠度cnf对应于像素21接收到的反射光的幅度,即亮度信息(亮度值)。
在本实施方式中,测距模块11可以使用与通过四相位方法计算出的延迟时间ΔT对应的I和Q信号,或者可以使用与通过两相位方法计算出的延迟时间ΔT对应的I和Q信号来使用深度值d和可靠度cnf。可以固定地使用四相位方法或者两相位方法,或者例如可以使用根据对象的运动等适当地选择或混合四相位方法和两相位方法的方法。在下文中,为了简单起见,假设采用四相位方法。
注意,在下文中,用于输出一张深度图的单位被称为一帧(周期),并且用于在0°、90°、180°或270°的每个相位中生成像素数据(检测信号)的单位被称为微帧(周期)。在四相位方法中,一帧包括四个微帧,而在两相位方法中,一帧包括两个微帧。此外,在以下描述中,为了便于理解,有时将深度值d称为距离d。
<3.计算信号处理单元的曝光控制参数的方法>
如上所述,测距模块11的信号处理单元15通过四相位方法基于反射光的光接收结果来生成深度图和可靠度图以进行输出,并且计算当从所获得的深度图和可靠度图中下次接收反射光时的最佳曝光控制参数,并且将该最佳曝光控制参数提供给发光控制单元13。
因此,接下来,参照图6至图9描述由信号处理单元15计算曝光控制参数的方法。
首先,假设在作为光接收传感器的光接收单元14的每个像素21中观察到的亮度值l中出现由均值为0且方差为σ2(l)的正态分布表达的加性噪声(光散粒噪声)。方差σ2(l)由以下表达式(7)表达。
σ2(l)=a·l+b..........(7)
这里,a和b表示由诸如光接收单元14的增益等驱动参数确定的值,并且可以通过例如预先校准获得。
图6示出了亮度值l与由以下表达式(7)表达的方差σ2(l)之间的关系。如图6所示,亮度值l越大,方差σ2(l)越大。
此外,间接ToF方法是将自发光光源的光作为反射光接收的方法,根据光的强度与距离的平方成反比的性质,可以预先估计存在于预定距离处的对象的亮度值。
例如,距离d处的亮度值l(r,p,t,d)可以由以下表达式(8)的模型表示。
[数学表达式4]
Figure BDA0003369373440000101
在表达式(8)中,d代表距离,r代表对象的反射率,p代表发光单元12的光源的发光量,t代表光接收单元14的像素21的曝光时间(累积时间)。系数A(r,p,t)是相对于反射率r、发光量p和曝光时间t呈线性的系数,并且offset表示偏移常数。
由于存在于距离d处的对象的亮度信息可以通过表达式(8)的亮度值l(r,p,t,d)来估计,并且与亮度信息对应的方差可以由表达式(7)的σ2(l)表达,使得作为与距离d对应的信噪比的SNR(d)使用亮度信息由下面的表达式(9)表示。
[数学表达式5]
Figure BDA0003369373440000102
然而,在到对象的距离较短的情况下,检测信号饱和,无法获得准确的信号。因此,考虑到饱和,SNR(d)可以由表达式(9)'表示。
[数学表达式6]
Figure BDA0003369373440000103
图7示出了表达式(9)'的SNR(d)的示例。例如,可以根据诸如光接收单元14的饱和电荷量之类的传感器性能来确定在图7中的SNR(d)中确定为饱和状态的距离d_sat。
这里,假设信号处理单元15在确定光接收单元14的最佳曝光控制参数时采用光接收单元14的所有像素的SNR(d)的平均值作为评估值E,则评估值E可以通过如下表达式来表达,在该表达式中,将整个光接收单元14中距离d的出现频率p(d)和与距离d对应的SNR(d)进行卷积,如图8所示。换言之,评估值E可以由在以下表达式(10)的一帧中检测到的距离d的出现频率p(d)与SNR(d)的乘积之和来表示。
[数学表达式7]
Figure BDA0003369373440000111
根据表达式(10),可以求出在以当前曝光控制参数接收反射光时期望的信噪比。因此,信号处理单元15可以搜索使表达式(10)的评估值E变为最大的曝光控制参数,从而计算最佳曝光控制参数。
图9示出了在曝光时间t固定并且发光单元12的光源的发光量p顺序改变的情况下作为曝光控制参数的评估值E的转变。使评估值E变为最大的发光量p和曝光时间t是最佳曝光控制参数。
<4.信号处理单元的第一配置示例>
图10是示出执行搜索上述曝光控制参数的最佳值的处理的信号处理单元15的第一配置示例的框图。注意,图10还示出了测距模块11以外的配置。
信号处理单元15包括距离图像/可靠度计算单元61、统计量计算单元62、评估值计算单元63、评估指标存储单元64、参数确定单元65和参数保持单元66。处理单元15可以通过使用一个信号处理芯片或信号处理装置来形成。此外,发光控制单元13和信号处理单元15可以通过使用一个信号处理芯片或信号处理装置来形成,或者光接收单元14和信号处理单元15可以通过使用一个信号处理芯片或信号处理装置来形成。
距离图像/可靠度计算单元61基于从光接收单元14提供的每个像素21的像素数据(检测信号A和B)来计算每个像素21的距离d和可靠度cnf。计算每个像素的距离d和可靠度cnf的方法如上所述。
距离图像/可靠度计算单元61生成其中存储每个像素21的距离d作为像素阵列单元22的像素值的深度图(距离图像)以及其中存储每个像素21的可靠度cnf作为像素阵列单元22的像素值的可靠度图(可靠度图像),并且将深度图和可靠度图输出到外部。
此外,距离图像/可靠度计算单元61也将深度图作为距离信息并且将可靠度图作为亮度信息提供给统计量计算单元62。
统计量计算单元62根据从距离图像/可靠度计算单元61提供的一张深度图计算深度图的统计量。具体地,统计量计算单元62生成通过对图8所示的像素阵列单元22的所有像素的距离d的出现频率(频率)进行计数而获得的距离d的直方图,并且将该直方图提供给评估值计算单元63。
评估值计算单元63根据由评估指标存储单元64提供的评估指标用当前曝光控制参数计算评估值。具体地,评估值计算单元63基于从评估指标存储单元64提供的表达式(10)来计算评估值E作为评估指标,并且将其结果提供给参数确定单元65。
评估指标存储单元64存储表达式(10)的评估值E的算术表达式作为评估指标,并且存储表示与距离d对应的SNR的表达式(9)',并且将上述表达式提供给评估值计算单元63。表达式(10)的评估值E是使用深度图和可靠度图的统计量计算的值,更具体地,是通过其中距离d的出现频率p(d)和与距离d对应的SNR(d)进行卷积的表达式计算的值。
参数确定单元65确定当前曝光控制参数是否是使评估值E变为最大的值。然后,在确定当前曝光控制参数不是使评估值E变为最大的值的情况下,例如,这通过使用梯度方法等确定下一个曝光控制参数并且将下一个曝光控制参数提供给发光控制单元13。此外,参数确定单元65将当前曝光控制参数和此时的评估值E提供给参数保持单元66并且允许参数保持单元66保持该曝光控制参数和评估值E。在确定搜索到使评估值E变为最大的曝光控制参数的情况下,参数确定单元65完成曝光控制参数的更新。在本实施方式中,参数确定单元65将发光单元12的光源的发光量p更新为待更新的曝光控制参数,并且将待更新的曝光控制参数提供给参数保持单元66和发光控制单元13。
参数保持单元66保持从参数确定单元65提供的曝光控制参数和此时的评估值E。参数确定单元65根据需要参照在参数保持单元66中保持的曝光控制参数和评估值E。
发光控制单元13基于从参数确定单元65提供的发光量p作为更新后的曝光控制参数来生成发光控制信号,并且将发光控制信号提供给发光单元12和光接收单元14。
<5.第一深度图生成处理>
接下来,参照图11中的流程图描述由具有信号处理单元15的第一配置示例的测距模块11进行的深度图生成处理(第一深度图生成处理)。例如,当开始测距的指令被提供给测距模块11时,该处理开始。
首先,在步骤S11处,参数确定单元65将预先确定的曝光控制参数的初始值提供给发光控制单元13。
在步骤S12处,发光控制单元13基于从参数确定单元65提供的曝光控制参数来生成发光控制信号,并且将发光控制信号提供给发光单元12和光接收单元14。在发光控制信号中,定义了在发光单元12从光源发光时的频率和发光量。在光接收单元14中,根据由发光控制信号定义的光源的发光定时来确定曝光时间段(光接收时间段),并且驱动像素阵列单元22的每个像素21。
在步骤S13处,发光单元12基于发光控制信号以预定频率和预定发光量发光,并且光接收单元14接收来自对象的反射光,即从发光单元12发射并且被对象反射回的照射光。然后,光接收单元14的每个像素21将根据光接收量生成的像素数据输出到信号处理单元15的距离图像/可靠度计算单元61。光接收单元14接收能够通过四相位方法生成一张深度图的反射光。即,光接收单元14以相对于照射光的发光定时偏移0°、90°、180°和270°的四个相位接收光,并且将作为结果而获得的像素数据输出到距离图像/可靠度计算单元61。
在步骤S14处,距离图像/可靠度计算单元61基于从光接收单元14提供的每个像素21的像素数据来计算每个像素21的距离d和可靠度cnf,生成深度图和可靠度图,并且将深度图和可靠度图输出到外部。此外,距离图像/可靠度计算单元61也将所生成的深度图和可靠度图提供给统计量计算单元62。
在步骤S15处,统计量计算单元62根据从距离图像/可靠度计算单元61提供的一张深度图计算深度图的统计量。具体地,统计量计算单元62生成通过对像素阵列单元22的所有像素的距离d的出现频率进行计数而获得的图8所示的距离d的直方图,并且将该直方图提供给评估值计算单元63。
在步骤S16处,评估值计算单元63根据从评估指标存储单元64提供的评估指标,用当前曝光控制参数计算评估值E。具体地,评估值计算单元63计算从评估指标存储单元64提供的表达式(10)的评估值E作为评估指标,并且将其结果提供给参数确定单元65。
在步骤S17处,参数确定单元65确定是否搜索到使评估值E变为最大的曝光控制参数。例如,在使用梯度方法搜索曝光控制参数的情况下,参数确定单元65基于梯度是否落入可以被视为0的预定范围内来确定是否搜索到使评估值E变为最大的曝光控制参数。替选地,在搜索曝光控制参数的处理被重复预定次数的情况下或者在确定不存在改进评估值E的曝光控制参数的更新的情况下,参数确定单元65可以确定搜索到了使评估值E变为最大的曝光控制参数。
在步骤S17处确定尚未搜索到使评估值E变为最大的曝光控制参数的情况下,过程转移到步骤S18,并且参数确定单元65更新曝光控制参数并且将曝光控制参数提供给发光控制单元13。具体地,参数确定单元65将其中光源的发光量p以预定设置宽度改变的曝光控制参数提供给发光控制单元13。此外,在步骤S18中处,还执行允许参数保持单元66存储更新前的曝光控制参数和此时的评估值E的处理。在步骤S18之后,过程返回到步骤S12,并且重复上述步骤S12至S17的处理。
然后,在步骤S17处确定搜索到使评估值E变为最大的曝光控制参数的情况下,过程转移到步骤S19,测距模块11设置被确定为最佳的曝光控制参数,基于接收到的反射光来生成深度图和可靠度图,并且将深度图和可靠度图输出到外部。即,参数确定单元65将使评估值E被确定最大的最佳曝光控制参数再次提供给发光控制单元13。发光控制单元13基于从参数确定单元65提供的最佳曝光控制参数来生成发光控制信号,并且将该发光控制信号提供给发光单元12和光接收单元14。光接收单元14接收来自对象的反射光并且输出像素数据。距离图像/可靠度计算单元61生成具有最佳曝光控制参数的深度图和可靠度图,并且将深度图和可靠度图输出到外部。
然后,第一深度图生成处理完成。
根据第一深度图生成处理,可以基于使用根据距离假设的亮度信息以及通过实际接收反射光而获得的对象(被摄体)的距离信息的评估指标来搜索和确定使评估指标最大化的曝光控制参数。因此,可以执行适当的曝光控制。
注意,在上述第一深度图生成处理中,被确定为最佳的曝光控制参数再次被提供给发光控制单元13,并且具有最佳曝光控制参数的深度图和可靠度图被再次生成并且输出;然而,也可以允许参数保持单元66存储使用所搜索的每个曝光控制参数时生成的深度图和可靠度图,并且在最佳曝光控制参数固定的情况下从参数保持单元66获得深度图以及此时的可靠度图,并且将深度图和可靠度图输出到外部。此外,虽然将具有依次设置的曝光控制参数的深度图和可靠度图输出到外部,但是也可以仅将具有最佳曝光控制参数的深度图和可靠度图输出到外部。
<6.信号处理单元的第二配置示例>
图12是示出信号处理单元15的第二配置示例的框图。图12还示出了测距模块11的除此之外的配置。
在图12的第二配置示例中,对与图10所示的第一配置示例的部分对应的部分分配相同的附图标记,并且适当省略其描述;侧重于与第一配置示例中不同的部分并且进行描述。
图12中的第二配置示例的不同之处在于,在距离图像/可靠度计算单元61的后级新增加了图像合成单元81,除此之外的配置与第一配置示例中的配置类似。
根据第二配置示例的信号处理单元15在发光控制单元13中两次将发光量p设置为曝光控制参数(高亮度和低亮度),并且生成通过将高亮度环境下生成的第一深度图与在低亮度环境下生成的第二深度图进行合成而获得的深度图并且进行输出。对于可靠度图,同样,生成并且输出通过将在高亮度环境下生成的第一可靠度图与在低亮度环境下生成的第二可靠度图进行合成而获得的可靠度图。
在ToF传感器中,当增加发光以获得远距离的信息时,存在在近距离的对象处发生电荷饱和而无法获得信息的问题;反之,当减少发光时,没有足够的光到达远距离的对象,并且无法获得信噪比。上述问题可以通过两次设置光源的发光量p(高亮度和低亮度)并且合成多张深度图来解决。
例如,当生成第一深度图时,参数确定单元65将包括低亮度的第一发光量Plow的曝光控制参数提供给发光控制单元13。发光单元12发射具有第一发光量Plow的光,并且光接收单元14将与光接收量对应的像素数据输出到距离图像/可靠度计算单元61。距离图像/可靠度计算单元61基于每个像素21的像素数据来生成低亮度时的第一深度图和第一可靠度图。
接下来,当生成第二深度图时,参数确定单元65将包括高亮度的第二发光量Phigh的曝光控制参数提供给发光控制单元13。发光单元12发射具有第二发光量Phigh的光,并且光接收单元14将与光接收量对应的像素数据输出到距离图像/可靠度计算单元61。距离图像/可靠度计算单元61基于每个像素21的像素数据来生成高亮度时的第二深度图和第二可靠度图。
图像合成单元81对低亮度时的第一深度图和高亮度时的第二深度图执行合成处理,以生成动态范围扩大的深度图(在下文中称为HDR深度图)。此外,图像合成单元81对低亮度时的第一可靠度图和高亮度时的第二可靠度图进行合成处理,以生成动态范围扩大的可靠度图(在下文中称为HDR可靠度图)。所生成的HDR深度图和HDR可靠度图被输出到外部并且提供给统计量计算单元62。
在具有第一发光量plow的亮度值l(r,plow,t,d)和具有第二发光量phigh的亮度值l(r,phigh,t,d)被合成的情况下的亮度值lhdr可以由以下表达式(11)表达。
lhdr=α·r·l(r,plow,t,d)+(1-α)·l(r,phigh,t,d)
..........(11)
在表达式(11)中,r表示第一发光量plow与第二发光量phigh的亮度比(r=phigh/plow),α表示低亮度时的第一深度图与高亮度时的第二深度图的混合比(0≤α≤1)。
混合比α可以由与亮度值对应的可靠度cnf来确定。由于噪声的大小可以由可靠度cnf的水平来假设,例如,可以设置为:在可靠度cnf小于第一阈值TH1的情况下仅使用在设置α=1的同时具有第一发光量plow的亮度值l(r,plow,t,d);并且在可靠度cnf等于或大于第一阈值TH1的情况下仅使用在设置α=0的同时具有第二发光量phigh的亮度值l(r,phigh,t,d)。因此,即使当作为被摄体的对象距离很近也不会发生电荷饱和,并且即使对象距离很远也可以获得足够光量的像素数据,从而可以执行从近到远的大范围测距。
图像合成单元81对HDR深度图的合成也可以通过类似于表达式(11)的混合处理来执行。这同样适用于HDR可靠度图的合成。
统计量计算单元62根据从距离图像/可靠度计算单元61提供的一张HDR深度图计算HDR深度图的统计量。即,如在第一配置示例中那样,生成HDR深度图的距离d的直方图。
评估值计算单元63根据从评估指标存储单元64提供的评估指标,用当前曝光控制参数计算评估值E。用于获得从评估指标存储单元64提供的评估值E的表达式与上述表达式(10)相同。即,评估值E由对距离d的出现频率p(d)和与距离d对应的SNR(d)进行卷积的表达式来表达。
注意,在高亮度和低亮度时的两张深度图像以混合比α合成的情况下,作为与距离d对应的信噪比的SNR(d)由以下表达式(12)定义,并且考虑到短距离的饱和度,进一步表示为表达式(12)'。
[数学表达式8]
Figure BDA0003369373440000171
Figure BDA0003369373440000172
图13示出了表达式(12)'的SNR(d)的示例。
图14是与使用图13中的SNR(d)获得评估值E的表达式(10)对应的概念图。
在评估指标存储单元64中存储有多个SNR(d),评估值计算单元63根据操作模式、测量目标的反射率r和测距范围等从评估指标存储单元64中获得预定SNR(d)。
图15示出了在评估指标存储单元64中存储的多个SNR(d)的示例。
评估指标存储单元64存储SNR101至103这三种类型的SNR(d)。
在SNR 101中,用于短距离的具有第一发光量plow的SNR和用于长距离的具有第二发光量phigh的SNR在距离d1处切换。
在SNR102中,与SNR 101的情况一样,用于短距离的SNR和用于长距离的SNR在距离d1处切换;然而,具有短距离的第一发光量的SNR的测量范围比SNR 101的测量范围窄,但是被设置为高信噪比。
在SNR103中,用于短距离的SNR和用于长距离的SNR所切换的距离d2被设置为长于SNR 101与102的距离d1(d1<d2),并且用于短距离的SNR被设置为大于SNR 102的SNR。
图16示出了二维区域中SNR的等高线,在该二维区域中,用于长距离的第二发光量phigh沿水平轴绘制,用于短距离的第一发光量plow沿竖直轴绘制。
由于发光量越大SNR越高,所以在图16中的二维区域的右上方,即在第一发光量plow和第二发光量phigh都大的情况下,SNR最高,并且在图16中的二维区域的左下方,即在第一发光量plow和第二发光量phigh都小的情况下,SNR最低。参数确定单元65依次更新曝光控制参数,并且搜索确定使SNR最高的曝光控制参数。
<7.第二深度图生成处理>
接下来,参照图17中的流程图描述由具有信号处理单元15的第二配置示例的测距模块11进行的深度图生成处理(第二深度图生成处理)。例如,当开始测距的指令被提供给测距模块11时,该处理开始。
首先,在步骤S31处,参数确定单元65将预先确定的曝光控制参数的初始值提供给发光控制单元13。这里,提供给发光控制单元13的曝光控制参数包括至少两种类型的发光量p:用于近距离的第一发光量plow和用于远距离的第二发光量phigh
在步骤S32处,发光控制单元13基于从参数确定单元65提供的曝光控制参数生成包括第一发光量plow的发光控制信号,并且将该发光控制信号提供给发光单元12和光接收单元14。
在步骤S33处,发光单元12基于发光控制信号以预定频率和第一发光量plow发光,并且光接收单元14接收来自对象的反射光。然后,光接收单元14的每个像素21将根据光接收量生成的像素数据输出到信号处理单元15的距离图像/可靠度计算单元61。光接收单元14接收相对于照射光的发光定时在4个相位中偏移了0°、90°、180°和270°的光,并且将作为结果而获得的像素数据输出到距离图像/可靠度计算单元61。
在步骤S34处,距离图像/可靠度计算单元61基于从光接收单元14提供的每个像素21的像素数据生成第一深度图和第一可靠度图,并且将第一深度图和第一可靠度图提供给统计量计算单元62。
在步骤S35处,发光控制单元13生成包括第二发光量phigh的发光控制信号,并且将该发光控制信号提供给发光单元12和光接收单元14。
在步骤S36处,发光单元12基于发光控制信号以预定频率和第二发光量phigh发光,并且光接收单元14接收来自对象的反射光。然后,光接收单元14的每个像素21将根据光接收量生成的像素数据输出到信号处理单元15的距离图像/可靠度计算单元61。光接收单元14接收相对于照射光的发光定时在4个相位中偏移了0°、90°、180°和270°的光,并且将作为结果而获得的像素数据输出到距离图像/可靠度计算单元61。
在步骤S37处,距离图像/可靠度计算单元61基于从光接收单元14提供的每个像素21的像素数据生成第二深度图和第二可靠度图,并且将第二深度图和第二可靠度图提供给统计量计算单元62。
在步骤S38处,图像合成单元81执行低亮度时的第一深度图与高亮度时的第二深度图的合成处理,以生成动态范围扩大的HDR深度图。此外,图像合成单元81执行低亮度时的第一可靠度图与高亮度时的第二可靠度图的合成处理,以生成动态范围扩大的HDR可靠度图。所生成的HDR深度图和HDR可靠度图被输出到外部并且提供给统计量计算单元62。
在步骤S39处,统计量计算单元62根据距离图像/可靠度计算单元61提供的一张HDR深度图计算HDR深度图的统计量。即,统计量计算单元62生成HDR深度图的距离d的直方图,并且将该直方图提供给评估值计算单元63。
在步骤S40处,评估值计算单元63根据由评估指标存储单元64提供的评估指标,用当前曝光控制参数计算评估值E。具体地,评估值计算单元63计算从评估指标存储单元64提供的表达式(10)的评估值E作为评估指标,并且将其结果提供给参数确定单元65。
在步骤S41处,参数确定单元65确定是否搜索到使评估值E变为最大的曝光控制参数。该确定处理类似于上述图11中的步骤S17处的确定处理。
在步骤S41处确定尚未搜索到使评估值E变为最大的曝光控制参数的情况下,过程转移到步骤S42,并且参数确定单元65更新曝光控制参数,并且将该曝光控制参数提供给发光控制单元13。在步骤S42之后,过程返回到步骤S32,并且重复上述步骤S32至S41的处理。
然后,在步骤S41处确定搜索到了使评估值E变为最大的曝光控制参数的情况下,过程转移到步骤S43。使评估值E变为最大的曝光控制参数是最佳曝光控制参数。
在步骤S43处,测距模块11设置最佳曝光控制参数,基于接收到的反射光生成HDR深度图和HDR可靠度图,并且将HDR深度图和HDR可靠度图输出到外部。即,测距模块11通过被确定为最佳曝光控制参数的用于短距离的第一发光量plow和用于长距离的第二发光量phigh这两种类型的发光量p生成两张深度图和可靠度图,执行合成处理,生成DR深度图和HDR可靠度图,并且将DR深度图和HDR可靠度图输出到外部。
然后,完成第二深度图生成处理。
根据第二深度图生成处理,通过在将光源的发光量设置两次(低亮度和高亮度)的同时接收反射光,可以使用低亮度时的第一深度图和高亮度时的第二深度图这两张深度图获得对象从近距离到远距离的距离信息。同样在两次光接收中,基于使用根据距离假设的亮度信息和通过实际接收要确定的反射光而获得的对象(被摄体)的距离信息的评估指标,搜索使评估指标最大化的曝光控制参数。因此,可以执行适当的曝光控制。
<8.信号处理单元的第三配置示例>
图18是示出信号处理单元15的第三配置示例的框图。图18还示出了测距模块11的除此之外的配置。
在图18的第3配置示例中,对与图12所示的第二配置示例对应的部分分配相同的附图标记,并且适当省略其说明;侧重于与第二配置示例中不同的部分并且进行描述。
图18中的第三配置示例的不同之处在于,新增加了约束设置单元82,除此之外的配置与第二配置示例中的配置类似。
在根据上述第二配置示例的第二深度图生成处理中,信号处理单元15搜索使评估值E变为最大的曝光控制参数。然而,从图16所示的SNR的等高线可知,随着第一发光量plow和第二发光量phigh变大,SNR变高,使得使曝光控制参数变大的功耗的评估值E也变大。因此,需要考虑到功耗来确定最佳曝光控制参数。
在图18的第三配置示例中新增加的约束设置单元82在参数确定单元65中确定最佳曝光控制参数时设置约束条件。约束设置单元82将测距模块11在测距中应满足的SNR(在下文中称为最低SNR)的最小值设置为约束条件。例如,作为约束条件的最低SNR由测距模块11的设计者预先确定以进行存储,或者由在使用测距模块11的应用的设置画面上使用该应用的用户确定。
参数确定单元65顺序地改变曝光控制参数,并且确定满足由约束设置单元82设置的使评估值E变为最大的最低SNR的曝光控制参数。
例如,假设由约束设置单元82确定的最低SNR被设置为图19中的SNR等高线111所指示的SNR,首先,与SNR等高线111的SNR匹配的曝光控制参数从要搜索的预定初始值开始被依次更新,然后从SNR等高线111上的SNR中确定功耗最小的第一发光量plow和第二发光量phigh的组合112。
<9.第三深度图生成处理>
接下来,参照图20中的流程图描述由具有信号处理单元15的第三配置示例的测距模块11进行的深度图生成处理(第三深度图生成处理)。例如,当开始测距的指令被提供给测距模块11时,该处理开始。
由于图20中的步骤S61至S70类似于图17中所示的第二深度图生成处理的步骤S31至S40,因此省略其描述。
在步骤S70处计算具有当前曝光控制参数的评估值E之后,在步骤S71处,参数确定单元65确定由评估值计算单元63计算的评估值E是否与作为约束条件的最低SNR匹配。在计算出的评估值E落入接近作为目标值的最低SNR的预定范围内的情况下,参数确定单元65确定这与最低SNR匹配。在深度图生成处理之前或根据需要从约束设置单元82提供作为约束条件的最低SNR。
在步骤S71处确定当前曝光控制参数的评估值与最低SNR不匹配的情况下,过程转移到步骤S72,并且参数确定单元65更新曝光控制参数,并且将曝光控制参数提供给发光控制单元13。在步骤S72之后,过程返回到步骤S62,并且重复上述步骤S62至S71的处理。
然后,在确定当前曝光控制参数的评估值与最低SNR匹配的情况下,过程转移到步骤S73。在步骤S73处,参数确定单元65确定当前曝光控制参数是否是使功耗最小的曝光控制参数。这里,由于用于短距离的第一发光量plow和用于长距离的第二发光量phigh这两个类型的发光量p随着搜索曝光控制参数的处理而改变,因此步骤S73的功耗可以简单地认为是第一发光量plow与第二发光量phigh之和。
在步骤S73处确定当前曝光控制参数不是使功耗最小的曝光控制参数的情况下,过程转移到步骤S72,曝光控制参数变为下一个值,并且重复上述步骤S62至S73的处理。
相比之下,在步骤S73处确定当前曝光控制参数是使功耗最小的曝光控制参数的情况下,过程转移到步骤S74。即,在确定满足使评估值E变为最大的约束条件的曝光控制参数的情况下,过程转移到步骤S74。
在步骤S74处,测距模块11设置最佳曝光控制参数,基于接收到的反射光来生成HDR深度图和HDR可靠度图,并且将深度图和HDR可靠度图输出到外部。即,测距模块11通过被确定为最佳曝光控制的用于短距离的第一发光量plow和用于长距离的第二发光量phigh的两个类型的发光量p生成两张深度图和可靠度图,执行合成处理,生成HDR深度图和HDR可靠度图,并且将HDR深度图和HDR可靠度图输出到外部。
然后,完成第三深度图生成处理。
根据第三深度图生成处理,可以考虑功耗来确定最佳曝光控制参数。
注意,在上述第三深度图生成处理中,执行如下处理:首先搜索与最低SNR匹配的曝光控制参数,然后搜索使功耗最小的曝光控制参数;然而,可以搜索同时满足最低SNR和最小功耗的曝光控制参数。
<10.信号处理单元的第四配置示例>
图21是示出信号处理单元15的第四配置示例的框图。图21还示出了测距模块11的除此之外的配置。
在图21的第四配置示例中,对与图10所示的第一配置示例对应的部分分配相同的附图标记,并且适当省略其说明;侧重于与第一配置示例中不同的部分并且进行描述。
图21中的第四配置示例的不同之处在于,新增加了关注区域确定单元91,除此之外的配置与图10所示的第一配置示例类似。
与上述第一配置示例的情况一样,根据第四配置示例的信号处理单元15将使评估值E变为最大的曝光控制参数确定为最佳曝光控制参数;然而,这不是针对像素阵列单元22的整个像素区域而是针对整个像素区域中特别关注的关注区域将使评估值E变得最大的曝光控制参数确定为最佳曝光控制参数。
深度图和可靠度图从距离图像/可靠度计算单元61提供给关注区域确定单元91。关注区域确定单元91使用深度图或可靠度图中的至少一个来确定像素阵列单元22的整个像素区域中的关注区域,并且将用于设置关注区域的区域设置信息提供给统计量计算单元62。关注区域确定单元91确定关注区域的方法不被特别限制。例如,关注区域确定单元91可以根据由深度图指示的距离信息或者由可靠度图指示的亮度信息,将每个对象的区域区分为集群,并且将与预先登记的识别目标最接近的集群确定为关注区域。此外,例如,关注区域确定单元91可以根据由可靠度图指示的亮度信息将每个对象的区域区分为集群,并且将具有最高可靠度的集群确定为关注区域。关注区域确定单元91可以通过使用任意对象识别器,根据对象识别器的对象识别结果来确定关注区域。
此外,关注区域确定单元91还可以基于从测距模块11外部的装置提供的区域指定信号来确定关注区域。例如,当用户在其中并入了测距模块11等的智能电话的触摸面板上执行操作时,由用户设置关注区域,将指示关注区域的区域指定信号提供给关注区域确定单元91。关注区域确定单元91将指示基于区域指定信号确定的关注区域的区域设置信息提供给统计量计算单元62。
图22的A示出了通过使用深度图或可靠度图的自动识别处理来设置关注区域92的状态。
图22的B示出了通过用户在智能电话的触摸面板上指定关注区域92来设置关注区域92的状态。
统计量计算单元62根据从距离图像/可靠度计算单元61提供的一张深度图以及从关注区域确定单元91提供的关注区域的区域设置信息来计算关于关注区域的深度图的统计量。具体地,统计量计算单元62生成通过对图8所示的关注区域的像素的距离d的出现频率(频率)进行计数而获得的距离d的直方图,并且将该直方图提供给评估值计算单元63。
评估值计算单元63计算关注区域的评估值E并且将评估值E提供给参数确定单元65。
<11.第四深度图生成处理>
接下来,参照图23中的流程图描述由具有信号处理单元15的第四配置示例的测距模块11进行的深度图生成处理(第四深度图生成处理)。例如,当开始测距的指令被提供给测距模块11时,该处理开始。
图23中的步骤S91至S94类似于图11所示的第一深度图生成处理的步骤S11至S14。通过直到步骤S94的处理,由距离图像/可靠度计算单元61生成的深度图和可靠度图被提供给统计量计算单元62和关注区域确定单元91。
在步骤S95处,关注区域确定单元91确定针对其生成深度图和可靠度图的整个像素区域中的关注区域。例如,在关注区域确定单元91自身判别关注区域的情况下,关注区域确定单元91根据深度图指示的距离信息或者由可靠度图指示的亮度信息,将每个对象的区域判别为集群,并且将最接近预先登记的识别目标的集群确定为关注区域。在关注区域被设置在测距模块11外部的情况下,关注区域确定单元91基于输入的区域指定信号来确定关注区域。用于设置所确定的关注区域的区域设置信息被提供给统计量计算单元62。
在步骤S96处,统计量计算单元62根据从距离图像/可靠度计算单元61提供的一张深度图以及从关注区域确定单元91提供的指示关注区域的区域设置信息来计算关于关注区域的深度图的统计量。
在步骤S97处,评估值计算单元63用当前曝光控制参数计算关注区域的评估值E。除了针对关注区域计算评估值E之外,该过程类似于图11中的步骤S16的过程。
步骤S98至S100的处理类似于图11所示的第一深度图生成处理的步骤S17至S19的处理。即,重复该处理,直到确定基于关注区域的评估值E搜索到了使评估值E变为最大的最佳曝光控制参数,并且通过所确定的最佳曝光控制参数生成深度图和可靠度图以输出到外部。
然后,完成第四深度图生成处理。
根据第四深度图生成处理,可以不是针对测距模块11的整个光接收区域而是针对其部分区域来搜索使评估指标最大化的曝光控制参数来进行确定。因此,可以执行专用于光接收区域的部分区域的适当曝光控制。
注意,图21中的第四配置示例是通过将关注区域确定单元91添加到图10所示的第一配置示例而获得的配置;通过将关注区域确定单元91添加到图12所示的第二配置示例和图18所示的第三配置示例而获得的配置也是可能的。换言之,可以针对使用低亮度时的第一深度图和高亮度时的第二深度图这两张深度图生成的HDR深度图和HDR可靠度图设置关注区域,并且获得适当的曝光控制参数。
<12.第一变型例>
<控制以改变发光频率>
在上述示例中,发光单元12例如基于发光控制信号用20MHz等的单一频率的调制光照射对象。当光源的调制频率变得高到例如100MHz等时,距离信息的分辨率可以增加,但是可以执行测距的范围变窄。相比之下,当调制频率较低时,可以扩大可以执行测距的范围。
距离d由上述表达式(1)表达,并且距离信息是基于反射光的相移量
Figure BDA0003369373440000251
计算的。此时,当在相移量
Figure BDA0003369373440000252
中出现的噪声是亮度值l的函数
Figure BDA0003369373440000254
时,叠加在距离d上的噪声σd可以由表达式(1)定义为以下表达式(13)。
[数学表达式9]
Figure BDA0003369373440000253
这里,表达式(13)中的k表示满足k=c/4π的常数。
由表达式(13)可知,调制频率越高,距离d的误差(噪声)越小。因此,作为信号处理单元15的第一变型例,可以配置成使得从参数确定单元65提供给发光控制单元13的曝光控制参数除了曝光时间t和发光量p之外还包括调制频率f,并且确定包括调制频率f的最佳曝光控制参数。
具体地,例如,测距模块11首先用第一频率20MHz等的照射光照射对象,以执行深度图生成处理,并且在确定作为深度图生成处理的结果到测量目标的距离短(到测量目标的距离落入预定范围内)的情况下,在将调制频率变为高于第一频率的第二频率(例如100MHz)的同时执行深度图生成处理。在这种情况下,由距离图像/可靠度计算单元61生成的深度图和可靠度图也被提供给参数确定单元65,并且参数确定单元65将根据到测量目标的距离变为第二频率的曝光控制参数提供给发光控制单元13。
除了如上所述的确定发光量p的最佳值然后确定调制频率f的最佳值的两阶段参数搜索方法之外,还可以采用如下方法:表达式(9)和(12)的SNR(d)包括发光量p和调制频率f二者,并且同时确定其中使表达式(10)的评估值E成为最大的发光量p和调制频率f的最佳值。
确定包括调制频率的曝光控制参数的第一变型例可以与上述第一至第四配置示例中的任何一个组合来执行。
<13.第二变型例>
<控制以改变曝光时间>
在上述第一深度图生成处理至第四深度图生成处理中,信号处理单元15改变作为曝光控制参数的发光量p,并且确定发光量p的最佳值。
在光接收单元14中产生的信号电荷随着发光量p的增加而变化,但是也可以通过在发光量p固定的情况下改变曝光时间t来增加信号电荷。即,由于发光量p的变化而引起的亮度变化与曝光时间t的变化基本相同。因此,代替在上述第一深度图生成处理至第四深度图生成处理中改变发光量p,处理可以控制以改变曝光时间t,并且确定曝光时间t的最佳值作为曝光控制参数。
注意,当曝光时间t变长时,帧速率可能会降低。在这种情况下,例如,图18所示的信号处理单元15的第三配置示例中的约束设置单元82可以将帧速率的下限值设置为约束条件。因此,可以确定满足由约束设置单元82设置的帧速率的下限值的使评估值E变为最大曝光控制参数。
<14.第三变型例>
<考虑环境光的控制>
在光接收单元14的每个像素21中获得的像素数据(检测信号)的分量被粗略地划分为有效分量、环境光分量和噪声分量。有效分量是要返回的被对象反射的照射光的光分量。环境光分量是由于环境光例如太阳光引起的光分量。虽然在上述表达式(3)至(5)的算术运算过程中消除了环境光分量,但是噪声分量仍然存在,因此随着环境光分量的增加,噪声分量的比率增加,SN率相对下降。
因此,在确定环境光分量的比率大的情况下,信号处理单元15可以执行生成缩短曝光时间t和增加发光量p的曝光控制参数的处理,并且将该曝光控制参数提供给发光控制单元13。环境光分量的比率可以例如根据由各个像素21获得的像素数据(检测信号)的平均值与根据从距离图像/可靠度计算单元61提供的可靠度图计算出的各个像素的可靠度的平均值之间的差来确定。替选地,环境光分量的比率可以简单地由根据可靠度图计算出的各个像素的可靠度(的大小)的平均值来确定。
具体地,参数确定单元65从光接收单元14获得每个像素21的像素数据,并且从距离图像/可靠度计算单元61获得可靠度图。然后,参数确定单元65确定环境光分量的比率是否大,在确定环境光分量的比率大的情况下,这可以生成缩短曝光时间t并且增加发光量p的曝光控制参数。因此,可以通过增加有效分量的比率来降低噪声增加的影响。
<15.总结>
图1中的测距模块11可以包括信号处理单元15的第一至第四配置示例或其变型例,并且可以执行第一深度图生成处理至第四深度图生成处理以及根据其变型例的处理。测距模块11可以被配置成仅执行第一深度图生成处理至第四深度图生成处理以及根据其变型例的处理中的一个,或者可以被配置成通过切换操作模式等来选择性地执行所有处理。
根据图1中的测距模块11,可以使用根据距离假设的亮度信息以及通过实际接收反射光而确定的对象(被摄体)的距离信息,基于评估指标来搜索使评估指标最大化的曝光控制参数。因此,可以执行适当的曝光控制。
此外,可以基于光接收结果生成动态范围扩大的HDR深度图和HDR可靠度图,同时将光源的发光量设置为低亮度和低亮度的两次,并且在这种情况下也可以执行适当的曝光控制。
由于在确定最佳曝光控制参数时的评估指标可以在评估指标存储单元64中定义,因此测距模块11的设计者、使用测距模块11的测距应用的设计者、测距应用的用户等可以任意设置评估指标。
此外,在增加了约束设置单元82的配置中,在设置了信噪比、功耗、帧速率等约束条件后,可以执行适当的曝光控制。
在增加了关注区域确定单元91的配置中,可以不是针对测距模块11的整个光接收区域而是针对其部分区域来搜索使评估指标最大化的曝光控制参数以进行确定。
<16.电子装置的配置示例>
上述测距模块11可以被安装在例如智能电话、平板终端、手机、个人电脑、游戏机、电视接收机、可穿戴终端、数码相机、数码摄像机等电子装置上。
图24是示出作为配备有测距模块的电子装置的智能电话的配置示例的框图。
如图24所示,智能电话201通过经由总线211连接测距模块202、成像装置203、显示器204、扬声器205、麦克风206、通信模块207、传感器单元208、触摸板209和控制单元210配置而成。此外,控制单元210通过执行程序的CPU而具有作为应用处理单元221和操作系统处理单元222的功能。
图1中的测距模块11应用于测距模块202。例如,测距模块202被布置在智能电话201的正面,并且可以对智能电话201的用户执行测距,以输出用户的脸、手、手指等的表面形状的深度值作为测距结果。
成像装置203被布置在智能电话201的前表面上,并且执行对作为被摄体的智能电话201的用户的成像以获得其中捕获了用户的图像。注意,尽管未示出,但是成像装置203也可以被布置在智能电话201的后表面上。
显示器204显示用于执行由应用处理单元221和操作系统处理单元222的处理的操作画面、由成像装置203捕获的图像等。例如,当在智能电话201上通话时,扬声器205和麦克风206输出对方的语音并且收集用户的语音。
通信模块207经由通信网络执行通信。传感器单元208感测速度、加速度、接近度等,并且触摸面板209获得用户在显示器204上显示的操作画面上的触摸操作。
应用处理单元221执行用于通过智能电话201提供各种服务的处理。例如,应用处理单元221可以执行通过基于从测距模块202提供的深度来虚拟地再现用户的表情的计算机图形来创建面部并且将该面部显示在显示器204上的处理。此外,应用处理单元221可以执行基于例如从测距模块202提供的深度来创建任意立体对象的三维形状数据的处理。
操作系统处理单元222执行用于实现智能电话201的基本功能和操作的处理。例如,操作系统处理单元222可以基于从测距模块202提供的深度值来执行对用户的面部进行认证并且解锁智能电话201的处理。此外,基于从测距模块202提供的深度值,操作系统处理单元222可以执行例如识别用户手势的处理以及根据手势输入各种操作的处理。
在以这种方式配置的智能电话201中,可以通过应用上述测距模块11来执行适当的曝光控制。因此,智能电话201可以更准确地检测测距信息。
<17.计算机的配置示例>
接下来,可以通过硬件或软件来执行上述一系列处理。在通过软件执行一系列处理的情况下,形成软件的程序被安装在通用计算机等上。
图25是示出安装了执行上述一系列处理的程序的计算机的一个实施方式的配置示例的框图。
在计算机中,中央处理单元(CPU)301、只读存储器(ROM)302、随机存取存储器(RAM)303和电可擦除可编程只读存储器(EEPROM)304通过总线305相互连接。总线305还连接有输入输出接口306,并且输入输出接口306连接到外部。
在以上述方式配置的计算机中,CPU 301经由总线305将存储在ROM302和EEPROM304中的程序加载到例如RAM 303上以执行,因此执行上述系列的处理。此外,由计算机(CPU301)执行的程序可以经由输入/输出接口306在外部安装在EEPROM 304上,或者除了预先写入ROM 302之外还可以更新。
因此,CPU 301执行根据上述流程图的处理或者由上述框图的配置执行的处理。然后,CPU 301可以根据需要例如经由输入/输出接口306将处理结果输出到外部。
这里,在本说明书中,计算机根据程序执行的处理不一定需要按照流程图中描述的顺序按时间顺序执行。即,计算机根据程序执行的处理还包括并行执行或独立执行的处理(例如,并行处理或对象处理)。
此外,程序可以由一台计算机(处理器)处理,或者可以由多台计算机以分布式方式处理。此外,程序可以传送到远程计算机上执行。
<18.移动体的应用示例>
根据本公开的技术(本技术)可以应用于各种产品。例如,根据本公开的技术还可以实现为安装在任何类型的移动体上的装置,所述移动体例如汽车、电动汽车、混合动力电动汽车、摩托车、自行车、个人移动装置、飞机、无人机、船舶、机器人等。
图26是示出车辆控制系统的示意性配置示例的框图,该车辆控制系统是可以应用根据本公开的技术的移动体控制系统的示例。
车辆控制系统12000设置有经由通信网络12001彼此连接的多个电子控制单元。在图26所示的示例中,车辆控制系统12000设置有驱动系统控制单元12010、车身系统控制单元12020、车辆外部信息检测单元12030、车辆内部信息检测单元12040和综合控制单元12050。此外,微计算机12051、音频图像输出单元12052和车载网络接口(I/F)12053被示出为综合控制单元12050的功能配置。
驱动系统控制单元12010根据各种程序对与车辆的驱动系统有关的装置的操作进行控制。例如,驱动系统控制单元12010用作控制装置来控制:生成车辆驱动力的驱动力生成装置,例如内燃机、驱动电机等;驱动力传递机构,用于将驱动力传递至车轮;转向机构,用于调节车辆的转向角;制动装置,用于生成车辆的制动力,等等。
车身系统控制单元12020根据各种程序控制安装在车身上的各种装置的操作。例如,车身系统控制单元12020用作无钥匙进入系统、智能钥匙系统、电动车窗装置或者诸如前照灯、倒车灯、刹车灯、转向灯、雾灯等的各种灯的控制装置。在这种情况下,从替代各种开关的键或信号的便携式装置发送的无线电波可以被输入到车身系统控制单元12020。车身系统控制单元12020接收无线电波或信号的输入并且控制车辆的门锁装置、电动车窗装置、车灯等。
车辆外部信息检测单元12030检测装备有车辆控制系统12000的车辆外部的信息。例如,成像单元12031连接到车辆外部信息检测单元12030。车辆外部信息检测单元12030允许成像单元12031捕获车辆外部的图像并且接收所捕获的图像。车辆外部信息检测单元12030可以基于接收到的图像来执行诸如人、车辆、障碍物、标志、路面上的字符等的对象的检测处理或者距离检测处理。
成像单元12031是接收光并且输出与接收到的光量对应的电信号的光学传感器。成像单元12031可以将电信号作为图像来输出或者作为测距信息来输出。此外,成像单元12031接收到的光可以是可见光,或者可以是红外光等不可见光。
车辆内部信息检测单元12040检测车辆内部的信息。车辆内部信息检测单元12040连接到例如检测驾驶员状态的驾驶员状态检测单元12041。驾驶员状态检测单元12041包括例如对驾驶员进行成像的摄像装置,并且车辆内部信息检测单元12040可以基于从驾驶员状态检测单元12041输入的检测信息来计算驾驶员的疲劳程度或专注程度,或者可以确定驾驶员是否正在打瞌睡。
微计算机12051可以基于由车辆外部信息检测单元12030或车辆外部信息检测单元12040获得的车辆内部或外部的信息,对驱动力生成装置、转向机构或制动装置的控制目标值进行算术运算,并且向驱动系统控制单元12010输出控制指令。例如,微计算机12051可以执行协同控制以实现高级驾驶辅助系统(ADAS)的功能,该功能包括避免车辆碰撞或衰减碰撞、基于车间距离的跟随行驶、车辆速度保持行驶、车辆碰撞警告、车道偏离警告等。
此外,微计算机12051可以通过基于由车辆外部信息检测单元12030或车辆内部信息检测单元12040获取的车辆周围的信息来控制驱动力生成装置、转向机构、制动装置等,来执行用于实现自主驾驶等的协同控制,以独立于驾驶员的操作自主行驶。
此外,微计算机12051可以基于由车辆外部信息检测单元12030获得的车辆外部的信息,向车身系统控制单元12020输出控制指令。例如,微计算机12051可以进行协同控制,以实现眩光保护,例如根据由车辆外部信息检测单元12030检测到的前车或迎面车辆的位置控制前照灯,以将远光切换为近光。
音频图像输出单元12052将音频或图像输出信号中的至少一个发送到能够以视觉或听觉方式将信息通知给车辆的乘员或车辆外部的输出装置。在图26的示例中,作为输出装置,示出了音频扬声器12061、显示单元12062和仪表板12063。例如,显示单元12062可以包括车载显示器或平视显示器中的至少一种。
图27是示出成像单元12031的安装位置的示例的视图。
在图27中,车辆12100包括作为成像单元12031的成像单元12101、12102、12103、12104和12105。
成像单元12101、12102、12103、12104和12105被设置在例如车辆12100的前鼻、侧镜、后保险杠、后门、车辆内部的前挡风玻璃的上部等位置中。设置在前鼻部的成像单元12101和设置在车辆内部的前挡风玻璃的上部的成像单元12105主要获得车辆12100前方的图像。设置在侧镜上的成像单元12102和12103主要获得车辆12100侧面的图像。设置在后保险杠或后门上的成像单元12104主要获得车辆12100后方的图像。由成像单元12101和12105获得的前方图像主要用于检测前方车辆或行人、障碍物、交通信号、交通标志、车道等。
注意,在图27中,示出了成像单元12101至12104的成像范围的示例。成像范围12111指示设置在前鼻部的成像单元12101的成像范围、指示设置在侧镜上的成像单元12102和12103的成像范围12112和12113以及指示设置在后保险杠或后门上的成像单元12104的成像范围12114。例如,由成像单元12101至12104成像的图像数据被叠加,从而获得从上方看到的车辆12100的俯视图像。
成像单元12101至12104中的至少一个可以具有获得距离信息的功能。例如,成像单元12101至12104中的至少一个可以是包括多个成像元件的立体摄像装置,或者可以是包括用于相位差检测的像素的成像元件。
例如,微计算机12051可以基于从成像单元12101至12104获得的距离信息,通过获得到成像范围12111至12114中的每个立体对象的距离和距离的时间变化(相对于车辆12100的相对速度),特别地提取在车辆12100的行驶路径上最近的立体对象作为前车,该立体对象以预定速度(例如,0km/h或更高)在与车辆12100的方向基本相同的方向上行驶。此外,微计算机12051可以设置与前车的预先确保的车间距离,并且可以执行自动制动控制(也包括跟随停止控制)、自动加速控制(也包括跟随启动控制)等。以此方式,可以执行用于实现自主驾驶等的协同控制以独立于驾驶员的操作自主行驶。
例如,微计算机12051可以提取关于立体对象的立体对象数据,同时基于从成像单元12101至12104获得的距离信息将立体对象分类为摩托车、标准车辆、大型车辆、行人以及例如电线杆等的其他立体对象,并且用于自动避开障碍物。例如,微计算机12051将车辆12100周围的障碍物区分为车辆12100的驾驶员可见的障碍物和难以看到的障碍物。然后,微计算机12051确定碰撞危险度,该碰撞危险度指示与每个障碍物碰撞的危险程度,并且当碰撞危险度等于或高于设置值并且存在碰撞可能性时,可以通过经由音频扬声器12061和显示单元12062向驾驶员输出警报或者经由驱动系统控制单元12010执行强制减速或避让转向来执行驾驶辅助以避开障碍物。
成像单元12101至12104中的至少一个可以是检测红外光的红外摄像装置。例如,微计算机12051可以通过确定由摄像单元12101至12104捕获的图像中是否存在行人来识别行人。这种行人识别例如通过在由作为红外摄像装置的成像单元12101至12104捕获的图像中提取特征点的过程以及对指示对象轮廓的一系列特征点执行模式匹配处理以判别这是否为行人的过程来执行。当微计算机12051确定在由成像单元12101至12104捕获的图像中存在行人并且识别出该行人时,音频图像输出单元12052控制显示单元12062在识别出的行人上叠加矩形轮廓以强调显示。此外,音频图像输出单元12052可以控制显示单元12062在期望的位置显示指示行人的图标等。
上面描述了可以应用根据本公开的技术的车辆控制系统的示例。根据本公开的技术适用于上述配置中的车辆外部信息检测单元12030和车辆内部信息检测单元12040。具体地,通过使用作为车辆外部信息检测单元12030和车辆内部信息检测单元12040的测距模块11的测距,可以执行识别驾驶员手势、根据手势执行各种操作(例如,音频系统、导航系统和空调系统)以及更准确地检测驾驶员的状态的处理。此外,可以使用测距模块11的测距来识别路面的不平坦并且在悬架的控制中反映该不平坦。
注意,本技术可以应用于对投射到对象的光执行幅度调制的方法,该方法被称为间接ToF方法中的连续波方法。此外,光接收单元14的光电二极管31的结构可以应用于具有其中电荷分布到两个电荷累积单元的结构的测距传感器,例如具有电流辅助光子解调器(CAPD)结构的测距传感器,或者将光电二极管的电荷脉冲交替地施加到两个门的门型测距传感器。此外,本技术可以应用于结构光型测距传感器。
本技术的实施方式不限于上述实施方式,并且在不脱离本技术的主旨的情况下可以进行各种修改。
只要不存在不一致,则本说明书中描述的多种现有技术中的每一种都可以独立地单独实现。不言而喻,还可以通过组合多种现有技术来实现。例如,任一实施方式中描述的本技术的一部分或全部可以与其他实施方式中描述的本技术的一部分或全部结合实施。此外,上述任意现有技术的一部分或全部可以与上述未描述的其他技术相结合来实现。
此外,例如,还可以将描述为一个装置(或处理单元)的配置划分为多个装置(或处理单元)。反过来,也可以将作为多个装置(或处理单元)的上述配置放在一起成为一个装置(或处理单元)。此外,不言而喻,可以将除了上述配置之外的配置添加到每个装置(或每个处理单元)的配置中。此外,只要作为整个系统的配置和操作基本相同,则某个装置(或处理单元)的配置的一部分也可以被包括在另一个装置(或其他处理单元)的配置中。
此外,在本说明书中,系统旨在表示多个部件(装置、模块(部件)等)的组装,并且所有部件是否在同一外壳中都无关紧要。因此,存储在不同外壳中并且通过网络连接的多个装置以及通过将多个模块存储在一个外壳中而获得的一个装置都是系统。
此外,例如,上述程序可以由任意装置执行。在这种情况下,只要装置具有必要的功能(功能块等),就可以获得必要的信息。
注意,本技术还可以采用以下配置。
(1)
一种信号处理装置,设置有:
参数确定单元,其基于使用根据光接收传感器的检测信号计算出的距离信息和亮度信息的评估指标来确定曝光控制参数。
(2)
根据上述(1)所述的信号处理装置,还设置有:
评估值计算单元,其计算评估值,所述评估值是基于使用所述距离信息和所述亮度信息的评估指标的值,其中,
所述参数确定单元基于所述评估值来确定所述曝光控制参数。
(3)
根据上述(2)的信号处理装置,其中,
所述参数确定单元确定使所述评估值变为最大的所述曝光控制参数。
(4)
根据上述(2)或(3)所述的信号处理装置,还设置有:
评估指标存储单元,其存储所述评估指标,其中,
所述评估值计算单元计算基于从所述评估指标存储单元提供的所述评估指标的所述评估值。
(5)
根据上述(1)至(4)中任一项所述的信号处理装置,还设置有:
距离图像可靠度计算单元,其根据所述光接收传感器的检测信号生成作为所述距离信息的距离图像和作为所述亮度信息的可靠度图像;以及
统计量计算单元,其计算所述距离图像的统计量。
(6)
根据上述(5)所述的信号处理装置,还设置有:
图像合成单元,其生成通过将第一曝光控制参数下的第一距离图像与第二曝光控制参数下的第二距离图像进行合成而获得的合成距离图像,并且生成通过将所述第一曝光控制参数下的第一可靠度图像与所述第二曝光控制参数下的第二可靠度图像进行合成而获得的合成可靠度图像,其中,
所述距离图像可靠度计算单元生成所述第一距离图像和所述第二距离图像以及所述第一可靠度图像和所述第二可靠度图像,
所述统计量计算单元计算所述合成距离图像的统计量,并且
所述参数确定单元确定所述第一曝光控制参数和所述第二曝光控制参数。
(7)
根据上述(5)或(6)所述的信号处理装置,其中,
所述评估指标是使用所述距离图像的统计量和所述可靠度图像而计算出的值。
(8)
根据上述(7)所述的信号处理装置,其中,
所述距离图像的统计量是所述距离信息的出现频率。
(9)
根据上述(8)所述的信号处理装置,其中,
所述评估指标是通过对所述距离信息的出现频率和使用所述可靠度图像的与所述距离信息对应的信噪比进行卷积的表达式计算出的值。
(10)
根据上述(1)至(9)中任一项所述的信号处理装置,其中,
所述参数确定单元将发射由所述光接收传感器接收的光的光源的发光量确定为所述曝光控制参数。
(11)
根据(1)至(10)中任一项所述的信号处理装置,其中,
所述参数确定单元将发射由所述光接收传感器接收的光的光源的调制频率确定为所述曝光控制参数。
(12)
根据上述(1)至(11)中任一项所述的信号处理装置,其中,
所述参数确定单元将所述光接收传感器的曝光时间确定为所述曝光控制参数。
(13)
根据上述(1)至(12)中任一项所述的信号处理装置,其中,
所述参数确定单元确定以下曝光控制参数,所述曝光控制参数在环境光分量的比率大的情况下缩短所述光接收传感器的曝光时间并且增加发射由所述光接收传感器接收的光的光源的发光量。
(14)
根据上述(1)至(13)中任一项所述的信号处理装置,还设置有:
约束设置单元,其设置在确定所述曝光控制参数时的约束条件,其中,
所述参数确定单元确定满足所述约束条件的所述曝光控制参数。
(15)
根据上述(1)至(14)中任一项所述的信号处理装置,还设置有:
关注区域确定单元,其确定在所述光接收传感器的整个像素区域中特别关注的关注区域,其中,
所述参数确定单元基于使用所述关注区域的距离信息和亮度信息的所述评估指标来确定所述曝光控制参数。
(16)
根据上述(15)的信号处理装置,其中,
所述关注区域确定单元使用所述距离信息或者所述亮度信息中的至少一个来确定所述关注区域。
(17)
根据上述(15)或(16)所述的信号处理装置,其中,
所述关注区域确定单元基于从外部提供的指示所述关注区域的区域指定信号来确定所述关注区域。
(18)
一种信号处理方法,其中,
信号处理装置基于使用根据光接收传感器的检测信号计算出的距离信息和亮度信息的评估指标来确定曝光控制参数。
(19)
一种测距模块,设置有:
发光单元,其以预定频率发光;
光接收传感器,其接收由对象反射来自所述发光单元的光的反射光;以及
参数确定单元,其基于使用根据所述光接收传感器的检测信号计算出的距离信息和亮度信息的评估指标来确定曝光控制参数。
附图标记列表
11 测距模块
12 发光单元
13 发光控制单元
14 光接收单元
15 信号处理单元
21 像素
22 像素阵列单元
61 距离图像/可靠度计算单元
62 统计量计算单元
63 评估值计算单元
64 评估指标存储单元
65 参数确定单元
66 参数保持单元
81 图像合成单元
82 约束设置单元
91 关注区域确定单元
92 关注区域
201 智能电话
202 测距模块
301 CPU
302 ROM
303 RAM。

Claims (19)

1.一种信号处理装置,包括:
参数确定单元,其基于使用根据光接收传感器的检测信号计算出的距离信息和亮度信息的评估指标来确定曝光控制参数。
2.根据权利要求1所述的信号处理装置,还包括:
评估值计算单元,其计算评估值,所述评估值是基于使用所述距离信息和所述亮度信息的评估指标的值,其中,
所述参数确定单元基于所述评估值来确定所述曝光控制参数。
3.根据权利要求2所述的信号处理装置,其中,
所述参数确定单元确定使所述评估值变为最大的所述曝光控制参数。
4.根据权利要求2所述的信号处理装置,还包括:
评估指标存储单元,其存储所述评估指标,其中,
所述评估值计算单元计算基于从所述评估指标存储单元提供的所述评估指标的所述评估值。
5.根据权利要求1所述的信号处理装置,还包括:
距离图像可靠度计算单元,其根据所述光接收传感器的检测信号生成作为所述距离信息的距离图像和作为所述亮度信息的可靠度图像;以及
统计量计算单元,其计算所述距离图像的统计量。
6.根据权利要求5所述的信号处理装置,还包括:
图像合成单元,其生成通过将第一曝光控制参数下的第一距离图像与第二曝光控制参数下的第二距离图像进行合成而获得的合成距离图像,并且生成通过将所述第一曝光控制参数下的第一可靠度图像与所述第二曝光控制参数下的第二可靠度图像进行合成而获得的合成可靠度图像,其中,
所述距离图像可靠度计算单元生成所述第一距离图像和所述第二距离图像以及所述第一可靠度图像和所述第二可靠度图像,
所述统计量计算单元计算所述合成距离图像的统计量,并且
所述参数确定单元确定所述第一曝光控制参数和所述第二曝光控制参数。
7.根据权利要求5所述的信号处理装置,其中,
所述评估指标是使用所述距离图像的统计量和所述可靠度图像而计算出的值。
8.根据权利要求7所述的信号处理装置,其中,
所述距离图像的统计量是所述距离信息的出现频率。
9.根据权利要求8所述的信号处理装置,其中,
所述评估指标是通过对所述距离信息的出现频率和使用所述可靠度图像的与所述距离信息对应的信噪比进行卷积的表达式计算出的值。
10.根据权利要求1所述的信号处理装置,其中,
所述参数确定单元将发射由所述光接收传感器接收的光的光源的发光量确定为所述曝光控制参数。
11.根据权利要求1所述的信号处理装置,其中,
所述参数确定单元将发射由所述光接收传感器接收的光的光源的调制频率确定为所述曝光控制参数。
12.根据权利要求1所述的信号处理装置,其中,
所述参数确定单元将所述光接收传感器的曝光时间确定为所述曝光控制参数。
13.根据权利要求1所述的信号处理装置,其中,
所述参数确定单元确定以下曝光控制参数,所述曝光控制参数在环境光分量的比率大的情况下缩短所述光接收传感器的曝光时间并且增加发射由所述光接收传感器接收的光的光源的发光量。
14.根据权利要求1所述的信号处理装置,还包括:
约束设置单元,其设置在确定所述曝光控制参数时的约束条件,其中,
所述参数确定单元确定满足所述约束条件的所述曝光控制参数。
15.根据权利要求1所述的信号处理装置,还包括:
关注区域确定单元,其确定在所述光接收传感器的整个像素区域中特别关注的关注区域,其中,
所述参数确定单元基于使用所述关注区域的距离信息和亮度信息的所述评估指标来确定所述曝光控制参数。
16.根据权利要求15所述的信号处理装置,其中,
所述关注区域确定单元使用所述距离信息或者所述亮度信息中的至少一个来确定所述关注区域。
17.根据权利要求15所述的信号处理装置,其中,
所述关注区域确定单元基于从外部提供的指示所述关注区域的区域指定信号来确定所述关注区域。
18.一种信号处理方法,其中,
信号处理装置基于使用根据光接收传感器的检测信号计算出的距离信息和亮度信息的评估指标来确定曝光控制参数。
19.一种测距模块,包括:
发光单元,其以预定频率发光;
光接收传感器,其接收由对象反射来自所述发光单元的光的反射光;以及
参数确定单元,其基于使用根据所述光接收传感器的检测信号计算出的距离信息和亮度信息的评估指标来确定曝光控制参数。
CN202080038326.7A 2019-05-31 2020-05-15 信号处理装置、信号处理方法和测距模块 Pending CN113874750A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019102151 2019-05-31
JP2019-102151 2019-05-31
PCT/JP2020/019375 WO2020241294A1 (ja) 2019-05-31 2020-05-15 信号処理装置、信号処理方法、および、測距モジュール

Publications (1)

Publication Number Publication Date
CN113874750A true CN113874750A (zh) 2021-12-31

Family

ID=73553448

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202080038326.7A Pending CN113874750A (zh) 2019-05-31 2020-05-15 信号处理装置、信号处理方法和测距模块

Country Status (5)

Country Link
US (1) US20220317269A1 (zh)
JP (1) JP7517335B2 (zh)
CN (1) CN113874750A (zh)
DE (1) DE112020002746T5 (zh)
WO (1) WO2020241294A1 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115219988A (zh) * 2021-04-19 2022-10-21 日立乐金光科技株式会社 测距装置及其控制方法
CN116338707A (zh) * 2023-05-31 2023-06-27 深圳玩智商科技有限公司 曝光调整方法、装置、设备和计算机可读存储介质

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024009739A1 (ja) * 2022-07-08 2024-01-11 ソニーグループ株式会社 光学式測距センサ、及び光学式測距システム
WO2024039160A1 (ko) * 2022-08-18 2024-02-22 삼성전자주식회사 Itof 센서에 기반한 라이다 센서 및 그 제어 방법

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005098884A (ja) * 2003-09-25 2005-04-14 Nec Engineering Ltd 三次元形状計測装置
JP4939901B2 (ja) 2006-11-02 2012-05-30 富士フイルム株式会社 距離画像生成方法及びその装置
JP4993084B2 (ja) 2007-03-20 2012-08-08 株式会社Ihi レーザ監視装置
JP5190663B2 (ja) 2007-03-27 2013-04-24 スタンレー電気株式会社 距離画像生成装置
JP2009192499A (ja) 2008-02-18 2009-08-27 Stanley Electric Co Ltd 距離画像生成装置
JP5448617B2 (ja) * 2008-08-19 2014-03-19 パナソニック株式会社 距離推定装置、距離推定方法、プログラム、集積回路およびカメラ
JP5743390B2 (ja) 2009-09-15 2015-07-01 本田技研工業株式会社 測距装置、及び測距方法
JP5974561B2 (ja) 2012-03-15 2016-08-23 オムロン株式会社 光学式センサおよび感度調整制御のための設定方法
JP2013195117A (ja) * 2012-03-16 2013-09-30 Ricoh Co Ltd 測距装置
CN105899966B (zh) 2014-01-14 2019-05-07 松下知识产权经营株式会社 距离图像生成装置以及距离图像生成方法
JP6922187B2 (ja) 2016-11-08 2021-08-18 株式会社リコー 測距装置、監視カメラ、3次元計測装置、移動体、ロボット及び光源駆動条件設定方法
JP6846708B2 (ja) * 2017-03-30 2021-03-24 パナソニックIpマネジメント株式会社 画像認識装置および距離画像生成方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115219988A (zh) * 2021-04-19 2022-10-21 日立乐金光科技株式会社 测距装置及其控制方法
CN116338707A (zh) * 2023-05-31 2023-06-27 深圳玩智商科技有限公司 曝光调整方法、装置、设备和计算机可读存储介质
CN116338707B (zh) * 2023-05-31 2023-08-11 深圳玩智商科技有限公司 曝光调整方法、装置、设备和计算机可读存储介质

Also Published As

Publication number Publication date
JP7517335B2 (ja) 2024-07-17
JPWO2020241294A1 (zh) 2020-12-03
US20220317269A1 (en) 2022-10-06
WO2020241294A1 (ja) 2020-12-03
DE112020002746T5 (de) 2022-03-03

Similar Documents

Publication Publication Date Title
TWI814804B (zh) 距離測量處理設備,距離測量模組,距離測量處理方法及程式
CN113874750A (zh) 信号处理装置、信号处理方法和测距模块
US8879050B2 (en) Method for dynamically adjusting the operating parameters of a TOF camera according to vehicle speed
WO2021065495A1 (ja) 測距センサ、信号処理方法、および、測距モジュール
WO2017195459A1 (ja) 撮像装置、および撮像方法
CN114424022A (zh) 测距设备,测距方法,程序,电子装置,学习模型生成方法,制造方法和深度图生成方法
US11561303B2 (en) Ranging processing device, ranging module, ranging processing method, and program
WO2020209079A1 (ja) 測距センサ、信号処理方法、および、測距モジュール
WO2021177045A1 (ja) 信号処理装置、信号処理方法、および、測距モジュール
WO2021065494A1 (ja) 測距センサ、信号処理方法、および、測距モジュール
CN113875214A (zh) 距离测量传感器、信号处理方法和距离测量模块
WO2021065500A1 (ja) 測距センサ、信号処理方法、および、測距モジュール
WO2021106623A1 (ja) 測距センサ、測距システム、および、電子機器
JP7476170B2 (ja) 信号処理装置、信号処理方法、および、測距モジュール
JP7517349B2 (ja) 信号処理装置、信号処理方法、および、測距装置
WO2022254792A1 (ja) 受光素子およびその駆動方法、並びに、測距システム
US20240168159A1 (en) Distance measuring device, distance measuring system, and distance measuring method
JP2021099271A (ja) 測距装置およびその制御方法、並びに、電子機器

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination