CN111580119A - 深度相机、电子设备及控制方法 - Google Patents
深度相机、电子设备及控制方法 Download PDFInfo
- Publication number
- CN111580119A CN111580119A CN202010472386.1A CN202010472386A CN111580119A CN 111580119 A CN111580119 A CN 111580119A CN 202010472386 A CN202010472386 A CN 202010472386A CN 111580119 A CN111580119 A CN 111580119A
- Authority
- CN
- China
- Prior art keywords
- signals
- signal
- taps
- tap
- normalized
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/08—Systems determining position data of a target for measuring distance only
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/521—Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Electromagnetism (AREA)
- Signal Processing (AREA)
- Computer Networks & Wireless Communication (AREA)
- Multimedia (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Optics & Photonics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Optical Radar Systems And Details Thereof (AREA)
- Measurement Of Optical Distance (AREA)
- Studio Devices (AREA)
Abstract
本申请公开了一种深度相机、电子设备及控制方法。深度相机包括光发射模组、光接收模组及处理电路。光发射模组用于在一个子周期内发送一个光脉冲信号,在一个帧周期内发送多个光脉冲信号,帧周期包括多个连续的子周期。光接收模组包括像素,像素包括多个抽头,多个抽头获取由光脉冲信号和/或环境光信号生成的多个电信号,任意两个抽头的开启时间不重叠,且任意两个抽头在帧周期内的开启频率不同。处理电路用于根据多个电信号计算被摄场景的深度信息。本申请实施方式的深度相机、电子设备及控制方法中,光接收模组内的多个抽头可以在一个帧周期内以不同的开启频率开启,从而可以使得各个抽头能够获取到信噪比较高的电信号。
Description
技术领域
本申请涉及深度测量技术领域,特别涉及一种深度相机、电子设备及控制方法。
背景技术
脉冲调制式I-TOF(Indirect-Time of Flight,I-TOF)三维测距技术是利用对反射激光脉冲延 迟的间接测量来获取深度数据的。与连续调制式I-TOF相比,脉冲调制式I-TOF具有占空比 低、节省功耗等优势。然而,目前的脉冲调制式I-TOF的测距精度较差。
发明内容
本申请实施方式提供了一种深度相机、电子设备及控制方法。
本申请实施方式的深度相机包括光发射模组、光接收模组及处理电路。所述光发射模组 用于在一个子周期内发送一个光脉冲信号,在一个帧周期内发送多个所述光脉冲信号,所述 帧周期包括多个连续的所述子周期。所述光接收模组包括像素,所述像素包括多个抽头,所 述多个抽头获取由所述光脉冲信号和/或环境光信号生成的多个电信号,任意两个所述抽头 的开启时间不重叠,且任意两个所述抽头在所述帧周期内的开启频率不同。所述处理电路用 于根据所述多个电信号计算被摄场景的深度信息。
本申请实施方式的电子设备包括壳体及深度相机。所述深度相机与所述壳体结合。所述 深度相机包括光发射模组、光接收模组及处理电路。所述光发射模组用于在一个子周期内发 送一个光脉冲信号,在一个帧周期内发送多个所述光脉冲信号,所述帧周期包括多个连续的 所述子周期。所述光接收模组包括像素,所述像素包括多个抽头,所述多个抽头获取由所述 光脉冲信号和/或环境光信号生成的多个电信号,任意两个所述抽头的开启时间不重叠,且 任意两个所述抽头在所述帧周期内的开启频率不同。所述处理电路用于根据所述多个电信号 计算被摄场景的深度信息。
本申请实施方式的控制方法用于深度相机。所述深度相机包括光发射模组及光接收模组。 所述光接收模组包括像素,所述像素包括多个抽头。所述控制方法包括:所述光发射模组在 一个子周期内发射一个光脉冲信号,在一个帧周期内发送多个所述光脉冲信号,所述帧周期 包括多个连续的所述子周期;所述多个抽头获取由所述光脉冲信号和/或环境光信号生成的 多个电信号,任意两个所述抽头的开启时间不重叠,且任意两个所述抽头在所述帧周期内的 开启频率不同;及根据所述多个电信号计算被摄场景的深度信息。
本申请实施方式的深度相机、电子设备及控制方法通过在光接收模组中设置多个抽头, 多个抽头可以在一个帧周期内以不同的开启频率开启,从而可以使得各个抽头能够获取到信 噪比较高的电信号,根据信噪比较高的电信号算出来的深度信息的精度也较高。
本申请实施方式的附加方面和优点将在下面的描述中部分给出,部分将从下面的描述中 变得明显,或通过本申请的实践了解到。
附图说明
本申请的上述和/或附加的方面和优点可以从结合下面附图对实施方式的描述中将变得 明显和容易理解,其中:
图1是本申请某些实施方式的深度相机的示意图;
图2是本申请某些实施方式的深度相机中像素的结构示意图;
图3是本申请某些实施方式的深度相机中像素的结构示意图;
图4是本申请某些实施方式的深度相机中像素的结构示意图;
图5是本申请某些实施方式的深度相机中像素的结构示意图;
图6是本申请某些实施方式的深度相机中的工作时序示意图;
图7是本申请某些实施方式的电子设备的示意图;
图8是本申请某些实施方式的控制方法的流程示意图。
具体实施方式
下面详细描述本申请的实施方式,所述实施方式的示例在附图中示出,其中,相同或类 似的标号自始至终表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图 描述的实施方式是示例性的,仅用于解释本申请的实施方式,而不能理解为对本申请的实施 方式的限制。
请参阅图1、图2和图6,本申请实施方式提供一种深度相机100。深度相机100包括光发射模组10、光接收模组20及处理电路30。光发射模组10用于在一个子周期T1内发送 一个光脉冲信号,在一个帧周期T2内发送多个光脉冲信号,帧周期T2包括多个连续的子 周期T1。光接收模组20包括像素21,像素21包括多个抽头23,多个抽头23用于获取由 光脉冲信号和/或环境光信号生成的多个电信号,任意两个抽头23的开启时间不重叠,且任 意两个抽头23在帧周期T2内的开启频率不同。处理电路30用于根据多个电信号计算被摄 场景的深度信息。
其中,光发射模组10发射的光脉冲信号可以是不可见光,例如红外光、紫外光等。如 图6所示,光发射模组10发射的光脉冲信号的脉冲宽度为T0。光发射模组10在一个子周期T1内会发射一个脉冲宽度为T0的光脉冲信号,子周期T1表示为任意两个相邻的光脉冲信号的发射时刻之间的间隔与一个光脉冲信号的脉冲宽度T0之和。多个连续的子周期T1组成一个帧周期T2,帧周期T2表示为深度相机100获取一帧深度图像(由多个深度信息组成)的周期,其中,光发射模组10在一个帧周期T2内会发射多个脉冲宽度为T0的光脉冲 信号,任意两个相邻的光脉冲信号的发射时刻之间的间隔相同。
光接收模组20中的像素21可以采集光脉冲信号和/或环境光信号。具体地,当被摄场 景的亮度较低时,光接收模组20中的像素21可能仅能够采集到光脉冲信号。当被摄场景具 有一定亮度时,光接收模组20中可能同时采集到光脉冲信号和环境光信号,也可能仅采集 到环境光信号。
可以理解,在使用基于飞行时间的深度相机100进行深度信息的测量时,可以采用具有 多个抽头23(也称为采样窗口)的像素21进行光线的采集。而当被摄物体的距离较近时, 抽头23采集到的由被摄物体反射回的光线的强度会较强,容易发生信号饱和;而当被摄物 体的距离较远时,抽头23采集到的由被摄物体返回的光线的强度会较弱,抽头23采集到的 电信号中,由光脉冲信号生成的部分的占比较小,信噪比较低,使用这一电信号进行深度信 息的计算,会影响深度信息的测量精度(也可理解为深度分辨率,深度分辨率用于衡量深度 相机对距离的分辨能力)。
本申请实施方式的深度相机100中,光接收模组20内的像素21设置了多个抽头23,且多个抽头23在帧周期内以不同的开启频率开启。通过这种深度自适应的抽头23的开启频率分配操作,可以最大程度地避免用于测量近距离的被摄物体的抽头23的饱和,同时可以保证用于测量远距离的被摄物体能够最大化地采集到光线,从而获得信噪比较高的电信号。 基于信噪比较高的电信号进行深度信息的计算,有利于提升深度信息的测量精度。
请继续参阅图1和图2,在某些实施方式中,光接收模组20中的像素21可以是一个或 多个。在本申请的具体实施例中,像素21的数量为多个。每个像素21均包括一个光电转换 元件22及多个抽头23,其中,抽头23的数量可以是四个、五个、六个、七个、八个、十 个、二十个、五十个等等,在此不作限制。光电转换元件22用于接收光脉冲信号和/或环境 光信号以获得电信号。每个抽头23包括电荷转移栅极231(Transfer gate,TG)、电荷存储 栅极233(Storage gate,SG)及浮动扩散区235(Floating Diffusion,FD)。电荷转移栅极231 用于将光电转换元件22接收光线后生成的电荷转移到电荷存储栅极233上进行存储,浮动 扩散区235与像素21的读出电路(图未示)连接,电荷存储栅极233中的电荷可以通过浮 动扩散区235被读出电路读出。
请参阅图2至图4,在某些实施方式中,光电转换元件22的收光面221为多边形,多边形的每条边上分布有一个或多个抽头23。多边形例如可以为三角形、四边形、五边形、 六边形、八边形、十二边、十六边形等等,在此不作限制。多边形可以为正多边形或非正多 边形,在此也不作限制。在本申请的一个实施例中,光电转换元件22的收光面221为正多 边形。收光面221为正多边形的光电转换元件22的电场分布较为对称,可以提高电荷转移 速率。
如图2所示,在一个例子中,光电转换元件22的收光面221为正方形。正方形的四条边中,每条边均分布有两个抽头23,每条边上分布的两个抽头23可以关于该条边的垂直平分线对称设置。八个抽头23呈上下及左右对称结构。图2所示的像素21中,由于光电转换 元件22的收光面221为正方形,光电转换元件22的电场分布较为对称,可以提高电荷转移 速率。需要说明的是,图2所示的像素21中,每条边上的抽头23的数量也可以是一个、三 个、五个等,在此不作限制。
如图3所示,在另一个例子中,光电转换元件22的收光面221为正六边形。正六边形的六条边中,每条边均分布有一个抽头23,每个抽头23均可以位于对应边的中心位置。六个抽头23呈上下及左右对称结构。与图2的像素21相比,图3的像素21的收光面221为 正六边形,收光面221为正六边形的光电转换元件22的电场分布的对称度相较于收光面221 为正方形的光电转换元件22的电场分布的对称度来得高,电荷转移速率也较高。需要说明 的是,图3所示的像素21中,每条边上的抽头23的数量也可以是两个、三个、五个等,在 此不作限制。
如图4所示,在又一个例子中,光电转换元件22的收光面221为正八边形。正八边形的八条边中,每条边均分布有一个抽头23,每个抽头23均可以位于对应边的中心位置。八个抽头23呈上下及左右对称结构。与图3的像素21相比,图4的像素21的收光面221为 正八边形,收光面221为正八边形的光电转换元件22的电场分布的对称度相较于收光面221 为正六边形的光电转换元件22的电场分布的对称度来得高,电荷转移速率也较高。需要说 明的是,图4所示的像素21中,每条边上的抽头23的数量也可以是两个、三个、五个等, 在此不作限制。
请参阅图5,在某些实施方式中,光电转换元件22的收光面221为圆形。多个抽头23环绕收光面221的中心分布。在图5所示实施例中,多个抽头23环绕收光面221的中心均 匀分布。收光面221为圆形的光电转换元件22的电场分布的对称度相较于收光面221为多 边形的光电转换元件22的电场分布的对称度来得高,电荷转移速率也较高。
请参阅图2和图6,在某些实施方式中,多个抽头23具有相同的采样时长,且采样时长与光脉冲信号的脉冲宽度T0相同。在一个子周期T1内,前一个抽头23的关闭时刻为下 一个抽头23的开启时刻。在每个帧周期T2内的第一个子周期T1中,多个抽头23依次序 开启。在每个帧周期T2内,在第一个子周期T1中越先开启的抽头23在该帧周期内的开启 频率越低,在第一个子周期T1中越晚开启的抽头23在该帧周期T2内的开启频率越高。
具体地,请结合图1、图2及图6,假设像素21具有八个抽头23,分别为抽头1、抽头2、抽头3、抽头4、抽头5、抽头6、抽头7及抽头8。光发射模组10发射光脉冲信号的帧 周期为T2,子周期为T1,在每个子周期T1中,一个光脉冲信号的脉冲宽度为T0。那么, 八个抽头23中,每个抽头23的采样时长(也即抽头23处于开启状态以获取电信号的时长) 均为T0。
如图6所示,八个子周期T1组成一个帧周期T2。在每个子周期T1内,开启顺序相邻的两个抽头23中,前一个抽头23的关闭时刻为下一个抽头23的开启时刻。例如,在图6 中的第一个子周期T1中,抽头1至抽头8依次序开启。其中,抽头1的开启时刻与光发射 模组10开始发射光脉冲信号的时刻相同,抽头1的关闭时刻与光发射模组10停止发射光脉 冲信号的时刻相同。抽头2的开启时刻与抽头1的关闭时刻相同。抽头3的开启时刻与抽头 2的关闭时刻相同。抽头4的开启时刻与抽头3的关闭时刻相同。以此类推,抽头8的开启 时刻与抽头7的关闭时刻相同。再例如,在图6中的第二子周期T1中,抽头2和抽头8依 次开启。抽头2的开启时刻与光发射模组10停止发射光脉冲信号的时刻相同。抽头3的开 启时刻与抽头2的关闭时刻相同。抽头4的开启时刻与抽头3的关闭时刻相同。以此类推, 抽头8的开启时刻与抽头7的关闭时刻相同。也即是说,第N个子周期T1内的第n个抽头 23的开启时刻满足以下规律:该第n个抽头23的开启时刻相对于该第N个子周期T1的光 脉冲信号的发射时刻存在有(n-1)T0的延迟。
如图6所示,第一个子周期T1内,开启的抽头23的数量为8个,开启的8个抽头23 分别为抽头1至抽头8。第二个子周期T1内,开启的抽头23的数量为7个,开启的7个抽 头23分别为抽头2至抽头8。第三个子周期T1内,开启的抽头23的数量为6个,开启的6 个抽头23分别为抽头3至抽头8。第四个子周期内T1内,开启的抽头23的数量为5个, 开启的5个抽头23分别为抽头4至抽头8。第五个子周期T1内,开启的抽头23的数量为4 个,开启的4个抽头23分别为抽头5至抽头8。第六个子周期T1内,开启的抽头23的数 量为3个,开启的3个抽头23分别为抽头6至抽头8。第七个子周期T1内,开启的抽头23 的数量为2个,开启的2个抽头23分别为抽头7及抽头8。第八个子周期T1内,开启的抽 头23的数量为1个,开启的1个抽头23为抽头8。也即是说,在每个帧周期T2内,开启 时刻相对于该子周期T1的光脉冲信号的发射时刻存在的延迟时间越短的抽头23,在该帧周 期T1内的开启频率越低。开启时刻相对于该子周期T1的光脉冲信号的发射时刻存在的延 迟时间越长的抽头23,在该帧周期T2内的开启频率越高。
如图6所示,抽头1至抽头8依次序开启,越早开启的抽头23可以用于测量距离深度相机100越近的被摄物体,越晚开启的抽头23可以用于测量距离深度相机100越远的被摄物体。而由于随着飞行路程的增加,光线的能量衰减也会更多,导致测量越近距离的被摄物体的抽头23可以接收到的光线的能量越高,信号容易饱和,测量越远距离的被摄物体的抽头23可以接收到的光线的能量越低,获取的电信号的信噪比较差。
本申请实施方式的深度相机100通过这种深度自适应的抽头23的开启频率分配操作, 可以最大程度地避免用于测量近距离的被摄物体的抽头23的饱和,同时可以保证用于测量 远距离的被摄物体能够最大化地采集到光线,从而获得信噪比较高的电信号。基于信噪比较 高的电信号进行深度信息的计算,有利于提升深度信息的测量精度。
请参阅图1、图2和图6,在某些实施方式中,处理电路30可以用于根据每个抽头23在一个帧周期T2内获得的所有电信号计算每个抽头23在一个帧周期内获得的总电信号,并根据多个总电信号计算被摄场景的深度信息。
具体地,如图6所示,抽头1在一个帧周期T2内获得的电信号包括Q11(在第一个子周期T1内获得),则抽头1的总电信号为Q1=Q11。抽头2在一个帧周期T2内获得的电信 号包括Q21(在第一个子周期T1内获得)和Q22(在第二个子周期T1内获得),则抽头2 的总电信号为Q2=Q21+Q22。抽头3在一个帧周期T2内获得的电信号包括Q31(在第一个 子周期T1内获得)、Q32(在第二个子周期T1内获得)及Q33(在第三个子周期T1内获得), 则抽头3的总电信号为Q3=Q31+Q32+Q33。以此类推,抽头8在一个帧周期内获得的电信 号包括Q81(在第一个子周期T1内获得)、Q82(在第二个子周期T1内获得)、Q83(在第 三个子周期T1内获得)、Q84(在第四个子周期T1内获得)、Q85(在第五个子周期T1内 获得)、Q86(在第六个子周期T1内获得)、Q87(在第七个子周期T1内获得)、Q88(在第 八个子周期T1内获得),则处理电路30计算到的抽头8的总电信号为 Q8=Q81+Q82+Q83+Q84+Q85+Q86+Q87+Q88。处理电路30获得多个抽头23的总信号后, 即可根据多个总信号来计算被摄场景的深度信息。由于用于测量远距离物体的抽头23开启 的频率较高,使得用于测量远距离物体的抽头23可以最大化地采集到光线,从而可以获得 更多的电信号。
请参阅图1、图2和图6,在某些实施方式中,处理电路30可以用于从多个总信号中确 定预定数量个目标信号,并根据预定数量个目标信号计算深度信息。其中,预定数量个目标 信号由开启顺序相邻的预定数量个抽头23获得。在一个例子中,预定数量的取值为三,三 个目标信号由开启顺序相邻的三个抽头23获得。在处理电路30用于从多个总信号中确定三 个目标信号时,处理电路30主要用于对多个总信号进行归一化处理以获得多个归一化信号, 并根据多个抽头23的开启顺序计算出任意两个相邻的归一化信号的和值,再从多个和值中 选取最大的和值,并将组成该和值的两个归一化信号确定为目标信号,最后根据多个抽头23的开启顺序确定多个归一化信号中的与两个目标信号中的任意一个相邻的归一化信号为 目标信号。
具体地,处理电路30首先对多个总信号进行归一化处理以获得多个归一化信号。例如, 抽头1的归一化信号Q1’=Q1/1。抽头2的归一化信号Q2’=Q2/2。抽头3的归一化信号Q3’=Q3/3。以此类推,抽头8的归一化信号Q8’=Q8/8。也即抽头n的归一化信号Qn’=Qn/n。任意一个抽头23的归一化信号的信噪比都大于该抽头23在任意一个子周期T1内获得的电信号的信噪比。
随后,处理电路30从Q1’、Q2’、Q3’、Q4’、Q5’、Q6’、Q7’、Q8’这八个归一化信号 中选取三个归一化信号作为目标信号。处理电路30可以计算任意两个相邻的归一化信号的 和值(归一化信号的幅值之和),其中,相邻的归一化信号表示这两个归一化信号由开启顺 序相邻的两个抽头23获得。例如,处理电路30计算Q1’和Q2’的和值S12,计算Q2’和Q3’ 的和值S23,计算Q3’和Q4’的和值S34,计算Q4’和Q5’的和值S45,计算Q5’和Q6’的和 值S56,计算Q6’和Q7’的和值S67,计算Q7’和Q8’的和值S78。最后,处理电路30从S12、 S23、S34、S45、S56、S67、S78这6个和值中选出最大的和值。假设最大的和值为S34, 则说明抽头3获取的归一化信号Q3’及抽头4获取的归一化信号Q4’均是由包含光脉冲信号 的光线生成的,归一化信号Q3’及归一化信号Q4’均为目标信号。随后,处理电路30选取与 这两个目标信号中的任意一个相邻的归一化信号作为目标信号,与归一化信号Q3’相邻的归 一化信号为Q2’,与归一化信号Q4’相邻的归一化信号为Q5’,处理电路30可选取归一化信 号Q2’或归一化信号Q5’来作为目标信号。假设处理电路30选择归一化信号Q2’来作为目标 信号,则深度信息其中,括号中的数字2表示的是抽头3的 开启时刻相对于光脉冲信号的发射时刻存在的延迟时间对应的系数。假设处理电路30选择 归一化信号Q5’来作为目标信号,则深度信息其中,括号中 的数字2表示的是抽头3的开启时刻相对于光脉冲信号的发射时刻存在的延迟时间对应的系 数。
当光接收模组20中的每个像素21都具有八个抽头23时,则深度相机100的最远可以 测量到的距离测距范围为[0,3c·T0]。与仅具有三个抽头的像素相 比(三个抽头的像素的测距范围为,本申请实施方式的深度相机100中设置了更 多数量的抽头23,使得深度相机100的测距范围得到了提升。并且,本申请实施方式的深 度相机100将多个抽头23获得的电信号进行相减来消除固有噪声和环境光信号的干扰,不 需要额外引入环境光信号的采样窗口。
在某些实施方式中,当预定数量为三时,处理电路30在获得多个归一化信号后,也可 以从多个归一化信号中选出幅值最大的一个归一化信号,例如幅值最大的归一化信号为 Q(n+1)’,则处理电路30首先判断与归一化信号Q(n+1)’相邻的两个归一化信号Qn’和归一化 信号Q(n+2)’之间的大小。当Qn’-Q(n+2)’>0时,处理电路30确定归一化信号Q(n+2)’由环 境光信号生成,而归一化信号Qn’及归一化信号Q(n+1)’由光脉冲信号及环境光信号共同生 成,则处理电路30可以根据以下公式计算深度信息D,其中, Xn表示和延迟时间相关的线性系数,dn=Q(n+1)’-Q(n+2)’,表示第n+1个抽头23的电信号与第n+2个抽头23的电信号之间的差值,Zn=Qn’+Q(n+1)’- 2Q(n+2)′,表示反射回的光脉冲信号的幅值,则当Q(n)’-Q(n+2)’<0时,处理电路30确定归一化信号Qn’由环境光信号生成,而归一化信号 Q(n+1)’及归一化信号Q(n+2)’由光脉冲信号及环境光信号共同生成,则处理电路30可以根 据以下公式计算深度信息D,其中,Xn表示和延迟时间相关的线性系 数,dn=Q(n+2)’-Qn’,表示第n+2个抽头23的电信号与第n个抽头23的电 信号之间的差值,Zn=Q(n+1)’+Q(n+2)’-2Qn’,表示反射回的光脉冲信号的幅值,则
本申请实施方式的深度相机100中设置了更多数量的抽头23,使得深度相机100的测 距范围得到了提升。并且,本申请实施方式的深度相机100将多个抽头23获得的电信号进 行相减来消除固有噪声和环境光信号的干扰,不需要额外引入环境光信号的采样窗口。
在某些实施方式中,预定数量的取值也可以为四,四个目标信号由开启顺序相邻的四个 抽头23获得。在处理电路30用于从多个总信号中确定四个目标信号时,处理电路30主要 用于对多个总信号进行归一化处理以获得多个归一化信号,并根据多个抽头23的开启顺序 计算出任意两个相邻的归一化信号的和值,再从多个和值中选取最大的和值,并将组成该和 值的两个归一化信号确定为目标信号,最后根据多个抽头23的开启顺序确定多个归一化信 号中的与两个目标信号相邻的两个归一化信号为目标信号。
具体地,处理电路30首先对多个总信号进行归一化处理以获得多个归一化信号。例如, 抽头1的归一化信号Q1’=Q1/1。抽头2的归一化信号Q2’=Q2/2。抽头3的归一化信号Q3’=Q3/3。以此类推,抽头8的归一化信号Q8’=Q8/8。也即抽头n的归一化信号Qn’=Qn/n。任意一个抽头23的归一化信号的信噪比都大于该抽头23在任意一个子周期T1内获得的电信号的信噪比。
随后,处理电路30从Q1’、Q2’、Q3’、Q4’、Q5’、Q6’、Q7’、Q8’这八个归一化信号 中选取三个归一化信号作为目标信号。处理电路30可以计算任意两个相邻的归一化信号的 和值(归一化信号的幅值之和),其中,相邻的归一化信号表示这两个归一化信号由开启顺 序相邻的两个抽头23获得。例如,处理电路30计算Q1’和Q2’的和值S12,计算Q2’和Q3’ 的和值S23,计算Q3’和Q4’的和值S34,计算Q4’和Q5’的和值S45,计算Q5’和Q6’的和 值S56,计算Q6’和Q7’的和值S67,计算Q7’和Q8’的和值S78。最后,处理电路30从S12、 S23、S34、S45、S56、S67、S78这6个和值中选出最大的和值。假设最大的和值为S34, 则说明抽头3获取的归一化信号Q3’及抽头4获取的归一化信号Q4’均是由包含光脉冲信号 的光线生成的,归一化信号Q3’及归一化信号Q4’均为目标信号。随后,处理电路30选取与 这两个目标信号相邻的两个归一化信号作为目标信号,与归一化信号Q3’相邻的归一化信号 为Q2’,与归一化信号Q4’相邻的归一化信号为Q5’,处理电路30可选取归一化信号Q2’和 归一化信号Q5’来作为目标信号,此时,深度信息其中, 括号中的数字2表示的是抽头3的开启时刻相对于光脉冲信号的发射时刻存在的延迟时间对 应的系数。
与选择三个目标信号进行深度信息计算的方式相比,选择四个目标信号进行深度信息计 算的方式中,在消除抽头3的归一化信号Q3’中由环境光信号生成的部分时,减去的是抽头 2的归一化信号Q2’,而不是抽头5的归一化信号Q5’。可以理解的是,抽头2与抽头3是 开启顺序相邻的两个抽头23,二者的归一化信号中由环境光信号生成的部分的量更为相近, 从而可以更加准确地去除抽头3的归一化信号Q3’中的环境光分量,有利于获得更准确的深 度信息。
在某些实施方式中,预定数量为四时,处理电路30在获得多个归一化信号后,也可以 从多个归一化信号中选出幅值最大的一个归一化信号作为目标信号,并选取与这一归一化信 号相邻的另外三个(包括直接相邻的两个及间接相邻的一个,间接相邻的归一化信号与幅值 最大的归一化信号之间间隔一个归一化信号)归一化信号以作为目标信号。例如幅值最大的 归一化信号为Q(n+1)’,则处理电路30首先判断与归一化信号Q(n+1)’直接相邻的两个归一 化信号Qn’和归一化信号Q(n+2)’之间的大小。当Qn’-Q(n+2)’>0时,处理电路30确定归一 化信号Q(n+2)’由环境光信号生成,而归一化信号Qn’及归一化信号Q(n+1)’由光脉冲信号及 环境光信号共同生成。随后,处理器30确定归一化信号Qn’、归一化信号Q(n+1)’、归一化 信号Q(n+2)’为目标信号,并再从剩余的归一化信号中选取与归一化信号Qn’直接相邻的归 一化信号Q(n-1)’。随后,处理电路30可以根据以下公式计算深度信息D, 其中,Xn表示和延迟时间相关的线性系数,表 示第n+1个抽头23的电信号与第n+2个抽头23的电信号之间的差值,Zn=[Qn’- Q(n-1)′]+[Q(n+1)’-Q(n+2)′],表示反射回的光脉冲信号的幅值,则 当Q(n)’-Q(n+2)’<0时,处理电路30确定归一化信号Qn’ 由环境光信号生成,而归一化信号Q(n+1)’及归一化信号Q(n+2)’由光脉冲信号及环境光信号 共同生成。随后,处理器30确定归一化信号Qn’、归一化信号Q(n+1)’、归一化信号Q(n+2)’ 为目标信号,并再从剩余的归一化信号中选取与归一化信号Q(n+2)’直接相邻的归一化信号 Q(n+3)’。随后,处理电路30可以根据以下公式计算深度信息D,其 中,Xn表示和延迟时间相关的线性系数,dn=Q(n+2)’-Q(n+3)’,表示第n+2 个抽头23的电信号与第n+3个抽头23的电信号之间的差值,Zn=[Q(n+1)’-Qn′]+ [Q(n+2)’-Q(n+3)’],表示反射回的光脉冲信号的幅值,则
与选择三个目标信号进行深度信息计算的方式相比,选择四个目标信号进行深度信息计 算的方式中,在消除第n个抽头23的归一化信号Qn’中由环境光信号生成的部分时,减去 的是第n-1个抽头23的归一化信号Q(n-1)’,而不是第n+2个抽头23的归一化信号Q(n+2)’。 可以理解的是,第n-1个抽头23与第n个抽头23是开启顺序相邻的两个抽头23,二者的归 一化信号中由环境光信号生成的部分的量更为相近,从而可以更加准确地去除第n个抽头 23的归一化信号Qn’中的环境光分量,有利于获得更准确的深度信息。同样地,在消除第n+2个抽头23的归一化信号Q(n+2)’中由环境光信号生成的部分时,减去的是第n+3个抽头23的归一化信号Q(n+3)’,而不是第n个抽头23的归一化信号Qn’。可以理解的是,第n+2 个抽头23与第n+3个抽头23是开启顺序相邻的两个抽头23,二者的归一化信号中由环境 光信号生成的部分的量更为相近,从而可以更加准确地去除第n+2个抽头23的归一化信号 Q(n+2)’中的环境光分量,有利于获得更准确的深度信息。
在某些实施方式中,预定数量的取值还可以是五个、六个、七个、八个、十个等,在此 不作限制。多个目标信号中除了两个同时由环境光信号和光脉冲信号生成的目标信号外,其 余的目标信号均是由环境光信号生成,处理电路30可以对该多个由环境光信号生成的目标 信号取均值,该均值可以用于去除该两个同时由环境光信号和光脉冲信号生成的目标信号中 的环境光分量。
请参阅图2和图7,本申请实施方式还提供一种电子设备1000。电子设备1000包括壳 体200及上述任意一个实施方式所述的深度相机100。深度相机100与壳体200结合。在一个例子中,深度相机100可以设置在壳体200的安装有显示屏的一面;在另一个例子中,深度相机100可以设置在壳体200的与安装有显示屏的一面相背的另一面,在此不作限制。电子设备1000可以是手机、平板电脑、笔记本电脑、智能穿戴设备(智能手表、智能手环、 智能眼镜、智能头盔等)、虚拟现实设备等,在此不作限制。
本申请实施方式的电子设备1000安装有深度相机100,深度相机100中的像素21设置 了多个抽头23,且多个抽头23在帧周期内以不同的开启频率开启。通过这种深度自适应的 抽头23的开启频率分配操作,可以最大程度地避免用于测量近距离的被摄物体的抽头23的 饱和,同时可以保证用于测量远距离的被摄物体能够最大化地采集到光线,从而获得信噪比 较高的电信号。基于信噪比较高的电信号进行深度信息的计算,有利于提升深度信息的测量 精度。
请参阅图1、图2及图8,本申请实施方式还提供一种控制方法。本申请实施方式的控 制方法可以用于上述任意一个实施方式所述的深度相机100。控制方法包括:
01:光发射模组10在一个子周期内发射一个光脉冲信号,在一个帧周期内发送多个光 脉冲信号,帧周期包括多个连续的子周期;
02:多个抽头23获取由光脉冲信号和/或环境光信号生成的多个电信号,任意两个抽头 23的开启时间不重叠,且任意两个抽头23在帧周期内的开启频率不同;及
03:根据多个电信号计算被摄场景的深度信息。
请参阅图2,在某些实施方式中,步骤03根据多个电信号计算被摄场景的深度信息, 包括:
计算每个抽头23在一个帧周期内获得的总电信号;及
根据多个总电信号计算深度信息。
请参阅图2和图6,在某些实施方式中,根据多个总电信号计算深度信息的步骤,包括:
根据每个抽头23在一个帧周期T2内获得的所有电信号计算每个抽头23在一个帧周期 T2内获得的总电信号;及
根据多个总电信号计算深度信息。
请参阅图2和图6,在某些实施方式中,根据多个总电信号计算深度信息的步骤,包括:
从多个总信号中确定预定数量个目标信号,预定数量个目标信号由开启顺序相邻的预定 数量个抽头23获得;及
根据预定数量个目标信号计算深度信息。
在某些实施方式中,预定数量为三,从多个总信号中确定预定数量个目标信号的步骤, 包括:
对多个所述总信号进行归一化处理以获得多个归一化信号;
从所述多个归一化信号中选出幅值最大的归一化信号作为所述目标信号;及
从所述多个所述归一化信号中选出与所述幅值最大的归一化信号相邻的两个归一化信 号作为所述目标信号。
请参阅图2,在某些实施方式中,预定数量为三,从多个总信号中确定预定数量个目标 信号的步骤,包括:
对多个总信号进行归一化处理以获得多个归一化信号;
根据多个抽头23的开启顺序计算出任意两个相邻的归一化信号的和值;
从多个和值中选取最大的和值,并将组成该和值的两个归一化信号确定为目标信号;
根据多个抽头23的开启顺序确定多个归一化信号中的与两个目标信号中的任意一个相 邻的归一化信号为目标信号。
在本说明书的描述中,参考术语“一个实施方式”、“一些实施方式”、“示意性实施方式”、 “示例”、“具体示例”或“一些示例”等的描述意指结合所述实施方式或示例描述的具体特 征、结构、材料或者特点包含于本申请的至少一个实施方式或示例中。在本说明书中,对上 述术语的示意性表述不一定指的是相同的实施方式或示例。而且,描述的具体特征、结构、 材料或者特点可以在任何的一个或多个实施方式或示例中以合适的方式结合。此外,在不相 互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实 施例或示例的特征进行结合和组合。
流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为,表示包括一个或 更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分,并且 本申请的优选实施方式的范围包括另外的实现,其中可以不按所示出或讨论的顺序,包括根 据所涉及的功能按基本同时的方式或按相反的顺序,来执行功能,这应被本申请的实施例所 属技术领域的技术人员所理解。
尽管上面已经示出和描述了本申请的实施方式,可以理解的是,上述实施方式是示例性 的,不能理解为对本申请的限制,本领域的普通技术人员在本申请的范围内可以对上述实施 方式进行变化、修改、替换和变型。
Claims (14)
1.一种深度相机,其特征在于,包括:
光发射模组,所述光发射模组用于在一个子周期内发送一个光脉冲信号,在一个帧周期内发送多个所述光脉冲信号,所述帧周期包括多个连续的所述子周期;
光接收模组,所述光接收模组包括像素,所述像素包括多个抽头,所述多个抽头用于获取由所述光脉冲信号和/或环境光信号生成的多个电信号,任意两个所述抽头的开启时间不重叠,且任意两个所述抽头在所述帧周期内的开启频率不同;及
处理电路,所述处理电路用于根据所述多个电信号计算被摄场景的深度信息。
2.根据权利要求1所述的深度相机,其特征在于,所述像素包括一个光电转换元件,每个所述抽头包括一个转移栅极,所述光电元件用于接收所述光脉冲信号和/或环境光信号以获得所述电信号,所述转移栅极用于转移所述电信号。
3.根据权利要求2所述的深度相机,其特征在于,所述光电转换元件的收光面为多边形,所述多边形的每条边上分布有一个或多个所述抽头。
4.根据权利要求2所述的深度相机,其特征在于,所述光电转换元件的收光面为圆形,多个所述抽头环绕所述收光面的中心分布。
5.根据权利要求1所述的深度相机,其特征在于,所述多个抽头具有相同的采样时长,且所述采样时长与所述光脉冲信号的脉冲宽度相同;
在一个所述子周期内,前一个所述抽头的关闭时刻为下一个所述抽头的开启时刻。
6.根据权利要求5所述的深度相机,其特征在于,在每个所述帧周期内的第一个子周期中,所述多个抽头依次序开启;
在每个所述帧周期内,在所述第一个子周期中越先开启的所述抽头在该帧周期内的开启频率越低,在所述第一个子周期中越晚开启的所述抽头在该帧周期内的开启频率越高。
7.根据权利要求1所述的深度相机,其特征在于,所述处理电路还用于:
根据每个所述抽头在一个所述帧周期内获得的所有所述电信号计算每个所述抽头在一个所述帧周期内获得的总电信号;及
根据多个所述总电信号计算所述深度信息。
8.根据权利要求7所述的深度相机,其特征在于,所述处理电路还用于:
从多个所述总信号中确定预定数量个目标信号,所述预定数量个目标信号由开启顺序相邻的预定数量个抽头获得;及
根据所述预定数量个目标信号计算所述深度信息。
9.根据权利要求8所述的深度相机,其特征在于,所述预定数量为三,所述从多个所述总信号中确定预定数量个目标信号,包括:
对多个所述总信号进行归一化处理以获得多个归一化信号;
从所述多个归一化信号中选出幅值最大的归一化信号作为所述目标信号;及
从所述多个所述归一化信号中选出与所述幅值最大的归一化信号相邻的两个归一化信号作为所述目标信号。
10.一种电子设备,其特征在于,包括:
壳体;及
权利要求1-9任意一项所述的深度相机,所述深度相机与所述壳体结合。
11.一种控制方法,用于深度相机,其特征在于,所述深度相机包括光发射模组及光接收模组,所述光接收模组包括像素,所述像素包括多个抽头;所述控制方法包括:
所述光发射模组在一个子周期内发射一个光脉冲信号,在一个帧周期内发送多个所述光脉冲信号,所述帧周期包括多个连续的所述子周期;
所述多个抽头获取由所述光脉冲信号和/或环境光信号生成的多个电信号,任意两个所述抽头的开启时间不重叠,且任意两个所述抽头在所述帧周期内的开启频率不同;及
根据所述多个电信号计算被摄场景的深度信息。
12.根据权利要求11所述的控制方法,其特征在于,所述根据所述多个电信号计算被摄场景的深度信息,包括:
根据每个所述抽头在一个所述帧周期内获得的所有所述电信号计算每个所述抽头在一个所述帧周期内获得的总电信号;及
根据多个所述总电信号计算所述深度信息。
13.根据权利要求12所述的控制方法,其特征在于,所述根据多个所述总电信号计算所述深度信息,包括:
从多个所述总信号中确定预定数量个目标信号,所述预定数量个目标信号由开启顺序相邻的预定数量个抽头获得;及
根据所述预定数量个目标信号计算所述深度信息。
14.根据权利要求13所述的控制方法,其特征在于,所述预定数量为三,所述从多个所述总信号中确定预定数量个目标信号,包括:
对多个所述总信号进行归一化处理以获得多个归一化信号;
从所述多个归一化信号中选出幅值最大的归一化信号作为所述目标信号;及
从所述多个所述归一化信号中选出与所述幅值最大的归一化信号相邻的两个归一化信号作为所述目标信号。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010472386.1A CN111580119B (zh) | 2020-05-29 | 2020-05-29 | 深度相机、电子设备及控制方法 |
PCT/CN2021/087277 WO2021238477A1 (zh) | 2020-05-29 | 2021-04-14 | 深度相机、电子设备及控制方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010472386.1A CN111580119B (zh) | 2020-05-29 | 2020-05-29 | 深度相机、电子设备及控制方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111580119A true CN111580119A (zh) | 2020-08-25 |
CN111580119B CN111580119B (zh) | 2022-09-02 |
Family
ID=72112713
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010472386.1A Active CN111580119B (zh) | 2020-05-29 | 2020-05-29 | 深度相机、电子设备及控制方法 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN111580119B (zh) |
WO (1) | WO2021238477A1 (zh) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021238477A1 (zh) * | 2020-05-29 | 2021-12-02 | Oppo广东移动通信有限公司 | 深度相机、电子设备及控制方法 |
WO2022154073A1 (ja) * | 2021-01-14 | 2022-07-21 | 凸版印刷株式会社 | 距離画像撮像装置、及び距離画像撮像方法 |
CN115047436A (zh) * | 2022-08-16 | 2022-09-13 | 武汉极动智能科技有限公司 | 抗干扰方法、装置、系统及存储介质 |
WO2024050903A1 (zh) * | 2022-09-07 | 2024-03-14 | 奥比中光科技集团股份有限公司 | 一种消除运动伪影的深度相机及方法 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5767953A (en) * | 1993-04-12 | 1998-06-16 | The Regents Of The University Of California | Light beam range finder |
EP2402784A2 (en) * | 2010-06-25 | 2012-01-04 | Samsung Electronics Co., Ltd. | Apparatus and method for generating depth image |
CN102694998A (zh) * | 2011-03-24 | 2012-09-26 | 三星电子株式会社 | 深度传感器、深度信息误差补偿方法及信号处理系统 |
CN110187355A (zh) * | 2019-05-21 | 2019-08-30 | 深圳奥比中光科技有限公司 | 一种距离测量方法及深度相机 |
CN110221274A (zh) * | 2019-05-09 | 2019-09-10 | 深圳奥比中光科技有限公司 | 时间飞行深度相机及多频调制解调的距离测量方法 |
CN110320528A (zh) * | 2019-06-14 | 2019-10-11 | 深圳奥比中光科技有限公司 | 时间深度相机及多频调制解调的降低噪声的距离测量方法 |
CN110361751A (zh) * | 2019-06-14 | 2019-10-22 | 深圳奥比中光科技有限公司 | 时间飞行深度相机及单频调制解调的降低噪声的距离测量方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111580119B (zh) * | 2020-05-29 | 2022-09-02 | Oppo广东移动通信有限公司 | 深度相机、电子设备及控制方法 |
-
2020
- 2020-05-29 CN CN202010472386.1A patent/CN111580119B/zh active Active
-
2021
- 2021-04-14 WO PCT/CN2021/087277 patent/WO2021238477A1/zh active Application Filing
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5767953A (en) * | 1993-04-12 | 1998-06-16 | The Regents Of The University Of California | Light beam range finder |
EP2402784A2 (en) * | 2010-06-25 | 2012-01-04 | Samsung Electronics Co., Ltd. | Apparatus and method for generating depth image |
CN102694998A (zh) * | 2011-03-24 | 2012-09-26 | 三星电子株式会社 | 深度传感器、深度信息误差补偿方法及信号处理系统 |
CN110221274A (zh) * | 2019-05-09 | 2019-09-10 | 深圳奥比中光科技有限公司 | 时间飞行深度相机及多频调制解调的距离测量方法 |
CN110187355A (zh) * | 2019-05-21 | 2019-08-30 | 深圳奥比中光科技有限公司 | 一种距离测量方法及深度相机 |
CN110320528A (zh) * | 2019-06-14 | 2019-10-11 | 深圳奥比中光科技有限公司 | 时间深度相机及多频调制解调的降低噪声的距离测量方法 |
CN110361751A (zh) * | 2019-06-14 | 2019-10-22 | 深圳奥比中光科技有限公司 | 时间飞行深度相机及单频调制解调的降低噪声的距离测量方法 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021238477A1 (zh) * | 2020-05-29 | 2021-12-02 | Oppo广东移动通信有限公司 | 深度相机、电子设备及控制方法 |
WO2022154073A1 (ja) * | 2021-01-14 | 2022-07-21 | 凸版印刷株式会社 | 距離画像撮像装置、及び距離画像撮像方法 |
CN115047436A (zh) * | 2022-08-16 | 2022-09-13 | 武汉极动智能科技有限公司 | 抗干扰方法、装置、系统及存储介质 |
WO2024050903A1 (zh) * | 2022-09-07 | 2024-03-14 | 奥比中光科技集团股份有限公司 | 一种消除运动伪影的深度相机及方法 |
Also Published As
Publication number | Publication date |
---|---|
WO2021238477A1 (zh) | 2021-12-02 |
CN111580119B (zh) | 2022-09-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111580119B (zh) | 深度相机、电子设备及控制方法 | |
US9316735B2 (en) | Proximity detection apparatus and associated methods having single photon avalanche diodes for determining a quality metric based upon the number of events | |
US9417326B2 (en) | Pulsed light optical rangefinder | |
CN102004254B (zh) | 调制光学飞行时间相位估计中的延迟补偿 | |
CN110221272B (zh) | 时间飞行深度相机及抗干扰的距离测量方法 | |
WO2021120402A1 (zh) | 一种融合的深度测量装置及测量方法 | |
WO2022017366A1 (zh) | 一种深度成像方法及深度成像系统 | |
CN113661407A (zh) | 测量飞行时间传感器中的光学串扰的方法和对应的飞行时间传感器 | |
CN110221274B (zh) | 时间飞行深度相机及多频调制解调的距离测量方法 | |
CN105807285B (zh) | 多区域测距方法、测距装置及终端 | |
CN109870704A (zh) | Tof相机及其测量方法 | |
WO2021169531A1 (zh) | 一种ToF深度测量装置、控制ToF深度测量装置的方法及电子设备 | |
CN110266394A (zh) | 调节方法、终端及计算机可读存储介质 | |
CN107907885A (zh) | 一种基于单光子计数方法的水下目标探测装置 | |
CN110361751A (zh) | 时间飞行深度相机及单频调制解调的降低噪声的距离测量方法 | |
CN111025315A (zh) | 一种深度测量系统及方法 | |
WO2022241942A1 (zh) | 一种深度相机及深度计算方法 | |
EP3945341A1 (en) | Photon-based detection using single-channel time-to-digital conversion | |
CN114488173A (zh) | 一种基于飞行时间的距离探测方法和系统 | |
GB2486164A (en) | Using a single photon avalanche diode (SPAD) as a proximity detector | |
GB2485990A (en) | An optical user-input device using SPADs | |
CN112346076A (zh) | 电子装置的控制方法、电子装置及计算机可读存储介质 | |
WO2022242348A1 (zh) | dTOF深度图像的采集方法、装置、电子设备及介质 | |
CN110244310A (zh) | 一种tof系统及图像处理方法、存储介质 | |
CN213365014U (zh) | 微型tof单点测距模组以及微型tof单点测距设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |