CN109618108A - 电子设备和移动平台 - Google Patents
电子设备和移动平台 Download PDFInfo
- Publication number
- CN109618108A CN109618108A CN201910013290.6A CN201910013290A CN109618108A CN 109618108 A CN109618108 A CN 109618108A CN 201910013290 A CN201910013290 A CN 201910013290A CN 109618108 A CN109618108 A CN 109618108A
- Authority
- CN
- China
- Prior art keywords
- camera
- binocular camera
- light
- image
- light projector
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B10/00—Transmission systems employing electromagnetic waves other than radio-waves, e.g. infrared, visible or ultraviolet light, or employing corpuscular radiation, e.g. quantum communication
- H04B10/40—Transceivers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/50—Constructional details
- H04N23/55—Optical parts specially adapted for electronic image sensors; Mounting thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
Abstract
本申请公开了一种电子设备和移动平台。电子设备包括本体和设置在本体上的多个双目相机组件。多个双目相机组件分别位于本体的多个不同方位,每个双目相机组件均包括双目相机和光投射器,每个双目相机均包括第一相机和第二相机。光投射器用于向本体外发射形成光斑图案的光线。第一相机用于接收场景中的光线以及光投射器发射的光线,第二相机用于接收场景中的光线以及光投射器发射的光线。多个光投射器向本体外发射光线,多个双目相机组件中的所述第一相机曝光以获取多张场景的第一图像,多个双目相机组件中的第二相机曝光以获取多张场景的第二图像,多张第一图像及多张第二图像用于获取全景深度图像。
Description
技术领域
本申请涉及三维成像技术领域,特别涉及一种电子设备和移动平台。
背景技术
为了使得电子设备的功能更加多样化,电子设备上可以设置有深度图像获取装置,以获取被摄目标的深度图像。然而,目前的深度图像获取装置只能够获取一个方向或一个角度范围内的深度图像,获取到的深度信息较少。
发明内容
本申请实施方式提供了一种电子设备和移动平台。
本申请实施方式的电子设备包括本体和设置在所述本体上的多个双目相机组件。多个所述双目相机组件分别位于所述本体的多个不同方位,每个所述双目相机组件均包括双目相机和光投射器,每个所述双目相机均包括第一相机和第二相机,所述光投射器用于向所述本体外发射光线,所述光线形成光斑图案,所述第一相机用于接收场景中的光线以及所述光投射器发射的光线,所述第二相机用于接收所述场景中的光线以及所述光投射器发射的光线。多个所述光投射器向所述本体外发射光线,多个所述双目相机组件中的所述第一相机曝光以获取多张所述场景的第一图像,多个所述双目相机组件中的所述第二相机曝光以获取多张所述场景的第二图像,多张所述第一图像及多张所述第二图像用于获取全景深度图像。
本申请实施方式的移动平台包括本体和设置在所述本体上的多个双目相机组件。多个所述双目相机组件分别位于所述本体的多个不同方位,每个所述双目相机组件均包括双目相机和光投射器,每个所述双目相机均包括第一相机和第二相机,所述光投射器用于向所述本体外发射光线,所述光线形成光斑图案,所述第一相机用于接收场景中的光线以及所述光投射器发射的光线,所述第二相机用于接收所述场景中的光线以及所述光投射器发射的光线。多个所述光投射器向所述本体外发射光线,多个所述双目相机组件中的所述第一相机曝光以获取多张所述场景的第一图像,多个所述双目相机组件中的所述第二相机曝光以获取多张所述场景的第二图像,多张所述第一图像及多张所述第二图像用于获取全景深度图像。
本申请实施方式的电子设备和移动平台中,位于本体的多个不同方位的多个光投射器投射光斑图案,多个双目相机曝光,以获取全景深度图像,能够一次性获取到较为全面的深度信息。
本申请实施方式的附加方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本申请的实践了解到。
附图说明
本申请的上述和/或附加的方面和优点可以从结合下面附图对实施方式的描述中将变得明显和容易理解,其中:
图1是本申请某些实施方式的电子设备的结构示意图。
图2是本申请某些实施方式的电子设备的模块示意图。
图3是本申请某些实施方式的双目相机组件的光投射器的结构示意图。
图4是本申请某些实施方式的光投射器的光源的结构示意图。
图5是本申请某些实施方式的光投射器的衍射光学元件的立体结构示意图。
图6是本申请某些实施方式的光投射器的衍射光学元件的剖视图。
图7是本申请某些实施方式的光投射器的衍射光学元件的平面结构示意图。
图8是本申请某些实施方式的多个光投射器分时投射光斑图案的时间以及多个双目相机分时曝光的时间示意图。
图9(a)和图9(b)是本申请某些实施方式的是本申请某些实施方式的多个光投射器分时投射光斑图案的时间以及多个双目相机分时曝光的时间示意图。
图10(a)和图10(b)是本申请某些实施方式的多个光投射器分时投射光斑图案的时间以及多个双目相机分时曝光的时间示意图。
图11(a)至图11(c)是本申请某些实施方式的多个光投射器分时投射光斑图案的时间以及多个双目相机分时曝光的时间示意图。
图12是本申请某些实施方式的相邻方位的光投射器分时投射光斑图案的时间以及多个双目相机分时曝光的时间示意图。
图13是本申请某些实施方式的电子设备的应用场景示意图。
图14是本申请某些实施方式的初始深度图像拼接的坐标系示意图。
图15至图19是本申请某些实施方式的电子设备的应用场景示意图。
图20是本申请某些实施方式的电子设备的结构示意图。
图21至图24是本申请某些实施方式的移动平台的结构示意图。
具体实施方式
下面详细描述本申请的实施方式,所述实施方式的示例在附图中示出,其中,相同或类似的标号自始至终表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施方式是示例性的,仅用于解释本申请的实施方式,而不能理解为对本申请的实施方式的限制。
请一并参阅图1和图2,本申请实施方式的电子设备100包括本体10、双目相机组件20和处理器30。
本体10包括多个不同方位。例如图1中,本体10可具有四个不同方位,沿顺时针方向依次为:第一方位、第二方位、第三方位和第四方位,第一方位与第三方位相背,第二方位与第四方位相背。第一方位即为与本体10的右侧对应的方位、第二方位即为与本体10的下方对应的方位、第三方位即为与本体10的左侧对应的方位、第四方位即为与本体10的上方对应的方位。
双目相机组件20设置在本体10上。双目相机组件20的数量可以为多个,多个双目相机组件20分别位于本体10的多个不同方位。具体地,如图1所示,双目相机组件20的数量可为四个,分别为双目相机组件20a、双目相机组件20b、双目相机组件20c和双目相机组件20d。双目相机组件20a设置在第一方位,双目相机组件20b设置在第二方位,双目相机组件20c设置在第三方位,双目相机组件20d设置在第四方位。当然,双目相机组件20的数量也可为八个(或其他任意大于两个的数量,尤其是任意大于四个的数量),第一方位、第二方位、第三方位和第四方位可各设置两个(或其他数量)双目相机组件20。本申请实施方式以双目相机组件20的数量是四个为例进行说明,可以理解,四个双目相机组件20即可实现获取全景深度图像(全景深度图像指的是该全景深度图像的视场角大于或等于180度,例如,全景深度图像的视场角可为180度、240度、360度、480度、720度等等),且有利于节省电子设备100的制造成本、以及减小电子设备100的体积和功耗等。本实施方式的电子设备100可以是设置有多个双目相机组件20的手机、平板电脑、笔记本电脑等便携式电子装置,此时,本体10可以为手机机身,平板电脑机身,笔记本电脑机身等。
每个双目相机组件20均包括双目相机21和光投射器24,双目相机21包括第一相机22和第二相机23。光投射器24用于向本体10外发射光线,其中,光投射器24发射出的光线形成一幅带有多个斑点的光斑图案。第一相机22用于接收被摄目标反射的场景中的光线以及对应的光投射器24发射的光线以形成第一图像,第二相机23用于接收被摄目标反射的场景中的光线以及对应的光投射器24发射的光线以形成第二图像。同一双目相机21获取的第一图像和第二图像可用于计算初始深度图像。
其中,第一相机22和第二相机23可以均为可见光相机,对应地,光投射器24为可见光投射器,此时,可见光投射器投射出可见光并形成可见光图案(即光斑图案为可见光图案),第一图像和第二图像均为可见光图像;或者,第一相机22和第二相机23可以均为红外相机,对应地,光投射器24为红外光投射器,此时,红外光投射器投射出红外光并形成红外光图案(即光斑图案为红外光图案),第一图像和第二图像均为红外图像。第一相机22和第二相机23为可见光相机,光投射器24为可见光投射器的电子设备100适用于室内的三维场景建模等应用场景,此时,双目相机21可以一次性获得场景中的物体的深度信息和色彩信息,电子设备100无需额外的相机辅助获取色彩信息,三维场景建模更加简单快捷,且电子设备100的体积较小。红外光投射器发射的光线通常为红外激光,外界环境的光线对红外激光的影响较小,因此,第一相机22和第二相机23为红外光相机,光投射器24为红外光投射器的电子设备100适用于室内或室外的测距等应用场景(例如,用于无人机、船舶、机器人等移动设备的避障等)。
具体地,第一相机22和第二相机23的视场存在重叠区域,使得第一图像和第二图像中存在多对匹配的像素点对,每对像素点对均包括存在于第一图像中的第一像素点和存在于第二图像中的第二像素点(第一像素点和第二像素点对场景中的同一位置成像),基于每一对像素点对中的第一像素点和第二像素点之间的视差信息、第一相机22和第二相机23之间的相对位置信息即可计算出与第一像素点和第二像素点对应的深度信息,多对像素点对对应多个深度信息,多个深度信息即可组成对应该双目相机组件20的初始深度图像。其中,像素点对是通过对第一图像和第二图像进行特征匹配得到的。当场景比较复杂、场景中的被摄物体细节丰富时,第一图像和第二图像的特征提取较为容易,第一图像和第二图像之间的特征匹配较为容易,第一像素点和第二像素点之间的匹配也较为准确。但当场景比较单一、场景中的被摄物体较为平滑、纹理细节较少(例如场景中的被摄物体为一面光滑的白墙等)时,第一图像和第二图像之间的特征匹配较为困难,第一像素点和第二像素点之间特征匹配的准确率可能较低,但由于每个双目相机组件20均包括有可以投射光斑图案的光投射器24,此时第一相机22和第二相机23均能够拍摄到全部或大部分的光投射器24投射到场景中的光斑图案,第一图像和第二图像中均包含全部或大部分的光斑图案,如此,光斑图案中的斑点相当于增加了场景的复杂性、以及场景中被摄物体的细节丰富度,第一图像和第二图像即可基于斑点进行特征匹配,以提升第一像素点和第二像素点之间的特征匹配的准确率。对于场景中的一些纹理细节较为丰富的区域,斑点也可以进一步增加这部分区域的细节丰富度,进一步提升第一像素点和第二像素点之间的特征匹配的准确率。也即是说,对于第一图像和第二图像中的平滑区域和纹理区域,借助斑点来进行特征匹配可以提升特征匹配的准确率,进一步地可以提升初始深度图像中的深度信息的准确度。
如图1所示,双目相机组件20a包括双目相机21a和光投射器24a,双目相机21a包括第一相机22a和第二相机23a;双目相机组件20b包括双目相机21b和光投射器24b,双目相机21b包括第一相机22b和第二相机23b;双目相机组件20c包括双目相机21c和光投射器24c,双目相机21c包括第一相机22c和第二相机23c;双目相机组件20d包括双目相机21d和光投射器24d,双目相机21d包括第一相机22d和第二相机23d。光投射器24a、光投射器24b、光投射器24c和光投射器24d分别用于向本体10外第一方位、第二方位、第三方位和第四方位投射光斑图案,双目相机21a、双目相机21b、双目相机21c和双目相机21d分别用于接收第一方位的被摄目标反射的场景中的光线及光投射器24a发射的光线、第二方位的被摄目标反射的场景中的光线及光投射器24b发射的光线、第三方位的被摄目标反射的场景中的光线及光投射器24c发射的光线、第四方位的被摄目标反射的场景中的光线及光投射器24d发射的光线。双目相机21a获取的第一图像和第二图像可以用于计算第一方位的被摄物体的深度信息以得到第一方位的初始深度图像,双目相机21b获取的第一图像和第二图像可以用于计算第二方位的被摄物体的深度信息以得到第二方位的初始深度图像,双目相机21c获取的第一图像和第二图像可以用于计算第三方位的被摄物体的深度信息以得到第三方位的初始深度图像,双目相机21d获取的第一图像和第二图像可以用于计算第四方位的被摄物体的深度信息以得到第四方位的初始深度图像,从而能够覆盖本体10外的各个不同区域,相较于现有的需要旋转360度才能获取较为全面的深度信息而言,本实施方式的电子设备100能够不旋转就可一次性获取较为全面的深度信息,执行简单且响应速度迅速。
每个第一相机22、每个第二相机23及每个光投射器24的视场角均为80度~100度中的任意值。其中,第一相机22和第二相机23组成的双目相机21的视场角与第一相机22或第二相机23的视场角相等或者略小于第一相机22或第二相机23的视场角。下面以第一相机22的视场角为例进行说明,第二相机23及光投射器24的视场角可以与对应的第一相机22的视场角相同或近似相同,在此不重复说明。
在一个实施例中,第一相机22a、第一相机22b、第一相机22c和第一相机22d的视场角均为80度。当第一相机22的视场角不超过80度时,镜头畸变较小,获取的第一图像质量较好,从而得到的初始深度图像和全景深度图像质量也较好,且能够获取到较为准确的深度信息。
在一个实施例中,第一相机22a、第一相机22b、第一相机22c和第一相机22d的视场角之和等于360度。具体地,第一相机22a、第一相机22b、第一相机22c和第一相机22d的视场角可以均为90度,且四个第一相机22相互之间的视场角互不交叠,以实现获取360度或近似360度的全景深度图像。或者,第一相机22a的视场角可为80度、第一相机22b的视场角为100度、第一相机22c的视场角为80度、第一相机22d的视场角为100度等,四个第一相机22通过角度互补实现获取360度或近似360度的全景深度图像。
在一个实施例中,第一相机22a、第一相机22b、第一相机22c和第一相机22d的视场角之和大于360度,四个第一相机22中的至少两个第一相机22相互之间的视场角交叠。具体地,第一相机22a、第一相机22b、第一相机22c和第一相机22d的视场角可以均为100度,四个第一相机22两两之间的视场角相互交叠。在获取全景深度图像时,可以先识别四个初始深度图像的边缘交叠部分,再将四个初始深度图像拼接为360度的全景深度图像。由于四个第一相机22两两之间的视场角相互交叠,可以确保获取的全景深度图像覆盖本体10外360度的深度信息。
当然,每个第一相机22(及每个第二相机23和每个光投射器24)的视场角的具体数值并不限于上述举例,本领域的技术人员可以根据需要将第一相机22(及每个第二相机23和每个光投射器24)的视场角设定为80度~100度之间的任意数值,例如:第一相机22的视场角为80度、82度、84度、86度、90度、92度、94度、96度、98度、100度或任意二者之间的任意值,第二相机23的视场角为80度、82度、84度、86度、90度、92度、94度、96度、98度、100度或任意二者之间的任意值,光投射器24的视场角为80度、82度、84度、86度、90度、92度、94度、96度、98度、100度或任意二者之间的任意值,在此不作限制。
在一个例子中,多个双目相机组件20中的光投射器24同时发射光线,与之对应的,每个双目相机组件20中的第一相机22和第二相机23同时曝光,并且多个双目相机组件20中的第一相机22和第二相机23均同时曝光以获取全景深度图像。具体地,光投射器24a、光投射器24b、光投射器24c和光投射器24d同时发射光线,双目相机21a、双目相机21b、双目相机21c和双目相机21d同时曝光。由于多个光投射器24同时发射光线,多个双目相机21同时曝光,在根据多个双目相机21采集的第一图像和第二图像获取得到对应的多张初始深度图像时,多张初始深度图像具有相同的时效性,能够反映本体10外同一时刻各个方位显示的画面,即同一时刻的全景深度图像。
请继续参阅图1和图2,一般情况下,相邻方位的光投射器24同时投射的光斑图案相互之间容易造成干扰,而处于对立方位的光投射器24投射的光斑图案相互之间不易造成干扰。因此,为了提高获取的深度信息的准确性,相邻方位的光投射器24投射的光斑图案可以不同,以便于区分和计算初始深度图像。具体地,假设第一方位的光投射器24a投射的光斑图案为pattern1,第二方位的光投射器24b投射的光斑图案为pattern2,第三方位的光投射器24c投射的光斑图案为pattern3,第四方位的光投射器24d投射的光斑图案为pattern4,则只需满足pattern1与pattern2不同,pattern1与pattern4不同,pattern3与pattern2不同,pattern3与pattern4不同即可。其中,pattern1与pattern3可以是相同的,也可以是不同的,pattern2与pattern4可以是相同的,也可以是不同的。较佳地,每个光投射器24投射的光斑图案可以不同,以进一步提高获取的深度信息的准确性。也即是说,在pattern1、pattern2、pattern3和pattern4均不相同的情况下,多个双目相机组件20均互不干扰,各自的初始深度图像的计算最为容易。
请参阅图3,每个光投射器24包括光源242和衍射光学元件244。衍射光学元件244依次设置在光源242的光路上。光源242用于发射光线,衍射光学元件244用于衍射光源242发射的光线以形成用于投射的光斑图案。
进一步地,请结合图4,光源242包括衬底2422和设置在衬底2422上的多个发光元件2424。衬底2422可以为半导体衬底,多个发光元件2424可直接设置在衬底2422上;或者,可先利用晶圆级光学工艺在半导体衬底2422上开设一个或多个凹槽,再将多个发光元件2424置于凹槽内。
请结合图5,衍射光学元件244包括衍射本体2442和形成在衍射本体2442上的衍射结构2444。衍射本体2442包括相背的衍射入射面和衍射出射面,衍射结构2444可以形成在衍射入射面上;或者形成在衍射出射面上;或者同时形成在衍射入射面和衍射出射面上。
为了使得相邻方位的光投射器24投射的光斑图案不同,或者使得每个光投射器24投射的光斑图案不同,可采用如下实现方式:
一种方式是:在不同的光投射器24之间,多个发光元件2424的排布、形状、或大小中的至少一种不同,以使得不同的光投射器24投射的光斑图案不同。
具体地,请参阅图4,光投射器24a与光投射器24b,光投射器24a与光投射器24d,光投射器24c与光投射器24b,光投射器24c与光投射器24d,在发光元件2424的排布、形状、或大小中的至少一种不同,以使得相邻方位的光投射器24投射的光斑图案不同。光投射器24a、光投射器24b、光投射器24c、光投射器24d,四者在发光元件2424的排布、形状、或大小中的至少一种不同,以使得每个光投射器24投射的光斑图案不同。例如,请参阅图4,图4(a)表示的是光投射器24a的光源242的结构,图4(b)表示的是光投射器24b的光源242的结构,图4(c)表示的是光投射器24c的光源242的结构,图4(d)表示的是光投射器24d的光源242的结构。光投射器24a与光投射器24b的发光元件2424的形状不同,光投射器24a与光投射器24c的发光元件2424的大小不同,光投射器24c与光投射器24b的发光元件2424的形状和大小均不相同,光投射器24c与光投射器24d的发光元件2424的排布、形状、大小均不相同,则相邻方位的光投射器24投射的光斑图案不同。
另外一种方式是:在不同的光投射器24之间,衍射结构2444不同,以使得不同的光投射器24投射的光斑图案不同。
具体地,请参阅图5,光投射器24a与光投射器24b,光投射器24a与光投射器24d,光投射器24c与光投射器24b,光投射器24c与光投射器24d,两者的衍射结构2444不同,以使得相邻方位的光投射器24投射的光斑图案不同。光投射器24a、光投射器24b、光投射器24c、光投射器24d,四者的衍射结构2444均不同,以使得每个光投射器24投射的光斑图案不同。
请结合图6和图7,衍射结构2444不同可包括:衍射结构2444形成的台阶的深度D、台阶的长度L、台阶的宽度W、台阶的个数中的至少一种不同。当然,衍射结构2444不同也可以是其他形式的结构不同,只需要满足衍射结构2444的不同使得光投射器24投射的光斑图案不同即可。
需要指出的是,除了上述两种方式外,本领域的技术人员也可以采用其他方式实现相邻方位或每个光投射器24投射的光斑图案不同,例如,对于相邻方位的光投射器24使用不同的驱动电流驱动光源242发光,从而可以根据亮度来区分不同光投射器24投射的光斑图案中的斑点,则在后续进行每个双目相机组件20获取的第一图像和第二图像的匹配前,即可基于亮度滤除不属于该双目相机组件20中的光投射器24投射的斑点。实现相邻方位或每个光投射器24投射的光斑图案不同的方式在此不作限制。
在另一例子中,为避免相邻方位的光投射器24同时投射的光斑图案相互之间造成干扰,相邻方位的光投射器24可以分时投射光斑图案,与之对应的,相邻方位的双目相机21也分时曝光,以获取全景深度图像。具体地,第一方位的光投射器24a与第二方位的光投射器24b分时投射光斑图案,第一方位的光投射器24a与第四方位的光投射器24d分时投射光斑图案,第三方位的光投射器24c与第二方位的光投射器24b分时投射光斑图案,第三方位的光投射器24c与第四方位的光投射器24d分时投射光斑图案。而第一方位的光投射器24a与第三方位的光投射器24c可以同时投射光斑图案,或者分时投射光斑图案;第二方位的光投射器24b与第四方位的光投射器24d可以同时投射光斑图案,或者分时投射光斑图案,在此不作限制。同理,第一方位的双目相机21a与第二方位的双目相机21b分时曝光,第一方位的双目相机21a与第四方位的双目相机21d分时曝光,第三方位的双目相机21c与第二方位的双目相机21b分时曝光,第三方位的双目相机21c与第四方位的双目相机21d分时曝光。而第一方位的双目相机21a与第三方位的双目相机21c可以同时曝光,或者分时曝光;第二方位的双目相机21b与第四方位的双目相机21d可以同时曝光,或者分时曝光,在此不作限制。
较佳地,多个双目相机组件20中的光投射器24分时投射光斑图案,与之对应的,多个双目相机组件20中的双目相机21也分时曝光,以获取全景深度图像。其中,当任意一个双目相机组件20中的双目相机21曝光时,其他的双目相机组件20中的光投射器24均关闭。每个双目相机21仅能采集到对应的光投射器24投射的光斑图案,而不会采集到其余光投射器24投射的光斑图案,从而可以更好地避免上述的干扰问题。其中,双目相机21曝光时间指的是第一相机22和第二相机23的曝光时间,其中,第一相机22的曝光开始时刻及曝光截止时刻分别与第二相机23的曝光开始时刻与曝光截止时刻相同。
具体地,请参阅图8、图9(a)及图9(b),在一个实施例中,多个双目相机组件20中的多个光投射器24依次接续且不间断地投射光斑图案,每个双目相机组件20中的双目相机21的曝光时间位于该光投射器24投射光斑图案的时间范围内。光投射器24a、光投射器24b、光投射器24c和光投射器24d分时投射光斑图案,且在光投射器24a停止投射光斑图案的时刻,光投射器24b立即从该时刻开始投射光斑图案,在光投射器24b停止投射光斑图案的时刻,光投射器24c立即从该时刻开始投射光斑图案,在光投射器24c停止投射光斑图案的时刻,光投射器24d立即从该时刻开始投射光斑图案,在光投射器24d停止投射光斑图案的时刻,光投射器24a立即从该时刻开始投射光斑图案。光投射器24a、光投射器24b、光投射器24c和光投射器24d投射光斑图案的时间共同组成一个交替周期T。此时,双目相机21a、双目相机21b、双目相机21c和双目相机21d的曝光方式可以包括以下两种:
(1)双目相机21a、双目相机21b、双目相机21c和双目相机21d依次接续且不间断地曝光。具体地,四个双目相机21的曝光时间分别与对应的光投射器24投射光斑图案的时间一致。如图8所示,双目相机21a、双目相机21b、双目相机21c和双目相机21d依次交替曝光。双目相机21a的曝光开始时刻与当前交替周期T的光投射器24a投射光斑图案的开始时刻一致,双目相机21a的曝光截止时刻与当前交替周期T的光投射器24a投射光斑图案的截止时刻一致;双目相机21b的曝光开始时刻与当前交替周期T的光投射器24b投射光斑图案的开始时刻一致,双目相机21b的曝光截止时刻与当前交替周期T的光投射器24b投射光斑图案的截止时刻一致;双目相机21c的曝光开始时刻与当前交替周期T的光投射器24c投射光斑图案的开始时刻一致,双目相机21c的曝光截止时刻与当前交替周期T的光投射器24c投射光斑图案的截止时刻一致;双目相机21d的曝光开始时刻与当前交替周期T的光投射器24d投射光斑图案的开始时刻一致,双目相机21d的曝光截止时刻与当前交替周期T的光投射器24d投射光斑图案的截止时刻一致。此时,双目相机21a仅能采集到光投射器24a投射的光斑图案,而采集不到光投射器24b、光投射器24c和光投射器24d投射的光斑图案;双目相机21b仅能采集到光投射器24b投射的光斑图案,而采集不到光投射器24a、光投射器24c和光投射器24d投射的光斑图案;双目相机21c仅能采集到光投射器24c投射的光斑图案,而采集不到光投射器24a、光投射器24b和光投射器24d投射的光斑图案;双目相机21d仅能采集到光投射器24d投射的光斑图案,而采集不到光投射器24a、光投射器24b和光投射器24c投射的光斑图案。双目相机21a、双目相机21b、双目相机21c和双目相机21d依次接续且不间断地曝光的控制方式中,双目相机21a和光投射器24a同步控制,双目相机21b和光投射器24b同步控制,双目相机21c和光投射器24c同步控制,双目相机21d和光投射器24d同步控制,控制逻辑较为简单。
(2)如图9(a)及图9(b)所示,双目相机21a、双目相机21b、双目相机21c和双目相机21d依次接续且间隔预定时间曝光。其中,至少一个双目相机21的曝光时间要小于对应的光投射器24投射光斑图案的时间。具体地,如图9(a)所示,在一个例子中,双目相机21a、双目相机21b、双目相机21c和双目相机21d依次交替曝光。双目相机21a的曝光时间小于光投射器24a投射光斑图案的时间,双目相机21b的曝光时间等于光投射器24b投射光斑图案的时间,双目相机21c的曝光时间小于光投射器24c投射光斑图案的时间,双目相机21d的曝光时间等于光投射器24d投射光斑图案的时间。双目相机21a的曝光开始时刻大于当前交替周期T的光投射器24a投射光斑图案的开始时刻,曝光截止时刻小于当前交替周期T的光投射器24a投射光斑图案的截止时刻;双目相机21b的曝光开始时刻和曝光截止时刻分别与当前交替周期T的光投射器24b投射光斑图案的开始时刻和截止时刻一致;双目相机21c的曝光开始时刻大于当前交替周期T的光投射器24c投射光斑图案的开始时刻,曝光截止时刻小于当前交替周期T的光投射器24c投射光斑图案的截止时刻;双目相机21d的曝光开始时刻和曝光截止时刻分别与当前交替周期T的光投射器24d投射光斑图案的开始时刻和截止时刻一致。双目相机21a曝光截止时刻与当前交替周期T的双目相机21b的曝光开始时刻之间间隔预定时间Δt1,双目相机21b曝光截止时刻与当前交替周期T的双目相机21c的曝光开始时刻之间间隔预定时间Δt2,双目相机21c曝光截止时刻与当前交替周期T的双目相机21d的曝光开始时刻之间间隔预定时间Δt3,双目相机21d的曝光截止时刻与下一交替周期T的双目相机21a的曝光开始时刻之间间隔预定时间Δt4,Δt1、Δt2、Δt3和Δt4可以全部相等,或者全部不等,或者部分相等、部分不等。双目相机21a仅能采集到光投射器24a投射的光斑图案,双目相机21b仅能采集到光投射器24b投射的光斑图案,双目相机21c仅能采集到光投射器24c投射的光斑图案,双目相机21d仅能采集到光投射器24d投射的光斑图案。如图9(b)所示,在另一个例子中,双目相机21a、双目相机21b、双目相机21c和双目相机21d依次交替曝光。双目相机21a的曝光时间小于光投射器24a投射光斑图案的时间,双目相机21b的曝光时间小于光投射器24b投射光斑图案的时间,双目相机21c的曝光时间小于光投射器24c投射光斑图案的时间,双目相机21d的曝光时间小于光投射器24d投射光斑图案的时间。双目相机21a的曝光开始时刻大于当前交替周期T的光投射器24a投射光斑图案的开始时刻,曝光截止时刻小于当前交替周期T的光投射器24a投射光斑图案的截止时刻;双目相机21b的曝光开始时刻大于当前交替周期T的光投射器24b投射光斑图案的开始时刻,曝光截止时刻小于当前交替周期T的光投射器24b投射光斑图案的截止时刻;双目相机21c的曝光开始时刻大于当前交替周期T的光投射器24c投射光斑图案的开始时刻,曝光截止时刻小于当前交替周期T的光投射器24c投射光斑图案的截止时刻;双目相机21d的曝光开始时刻大于当前交替周期T的光投射器24d投射光斑图案的开始时刻,曝光截止时刻小于当前交替周期T的光投射器24d投射光斑图案的截止时刻。双目相机21a曝光截止时刻与当前交替周期T的双目相机21b的曝光开始时刻之间间隔预定时间Δt1,双目相机21b曝光截止时刻与当前交替周期T的双目相机21c的曝光开始时刻之间间隔预定时间Δt2,双目相机21c曝光截止时刻与当前交替周期T的双目相机21d的曝光开始时刻之间间隔预定时间Δt3,双目相机21d的曝光截止时刻与下一交替周期T的双目相机21a的曝光开始时刻之间间隔预定时间Δt4,Δt1、Δt2、Δt3和Δt4可以全部相等,或者全部不等,或者部分相等、部分不等。双目相机21a仅能采集到光投射器24a投射的光斑图案,双目相机21b仅能采集到光投射器24b投射的光斑图案,双目相机21c仅能采集到光投射器24c投射的光斑图案,双目相机21d仅能采集到光投射器24d投射的光斑图案。双目相机21a、双目相机21b、双目相机21c和双目相机21d依次接续且间隔预定时间曝光的控制方式中,至少一个双目相机21的曝光时间相较于对应的光投射器24投射光斑图案的时间更短,有利于减小电子设备100的功耗。
多个双目相机组件20中的多个光投射器24依次接续且不间断地投射光斑图案的控制方式中,双目相机组件20采集初始深度图像的帧率较高,适用于对采集初始深度图像的帧率要求较高的场景。
请参阅图10(a)至图11(c),在另一个实施例中,多个双目相机组件20中的多个光投射器24依次接续且间隔预定时间投射光斑图案,即光投射器24a、光投射器24b、光投射器24c和光投射器24d交替投射光斑图案,光投射器24a投射光斑图案的截止时刻与当前交替周期T中的光投射器24b投射光斑图案的开始时刻之间间隔预定时间Δt5,光投射器24b投射光斑图案的截止时刻与当前交替周期T中的光投射器24c投射光斑图案的开始时刻之间间隔预定时间Δt6,光投射器24c投射光斑图案的截止时刻与当前交替周期T中的光投射器24d投射光斑图案的开始时刻之间间隔预定时间Δt7,光投射器24d投射光斑图案的截止时刻与下一交替周期T中的光投射器24a投射光斑图案的开始时刻之间间隔预定时间Δt8,Δt5、Δt6、Δt7和Δt8可以全部相等,或者全部不等,或者部分相等、部分不等,其中,光投射器24a、光投射器24b、光投射器24c和光投射器24d投射光斑图案的时间、以及预定时间Δt5、预定时间Δt6、预定时间Δt7和预定时间Δt8共同组成一个交替周期T。此时,双目相机21a、双目相机21b、双目相机21c和双目相机21d的曝光方式可以包括以下两种:
(1)双目相机21a、双目相机21b、双目相机21c和双目相机21d依次接续且不间断地曝光。具体地,如图10(a)所示,在一个例子中,双目相机21a的曝光开始时刻与当前交替周期T的光投射器24a投射光斑图案的开始时刻一致,曝光截止时刻与当前交替周期T的光投射器24a投射光斑图案的截止时刻一致;双目相机21b的曝光开始时刻与当前交替周期T的光投射器24a投射光斑图案的截止时刻一致,曝光截止时刻与当前交替周期T的光投射器24c投射光斑图案的开始时刻一致;双目相机21c的曝光开始时刻与当前交替周期T的光投射器24c投射光斑图案的开始时刻一致,曝光截止时刻与当前交替周期T的光投射器24c投射光斑图案的截止时刻一致;双目相机21d的曝光开始时刻与当前交替周期T的光投射器24c投射光斑图案的截止时刻一致,曝光截止时刻与下一交替周期T的光投射器24a投射光斑图案的开始时刻一致。双目相机21a仅能采集到光投射器24a投射的光斑图案,双目相机21b仅能采集到光投射器24b投射的光斑图案,双目相机21c仅能采集到光投射器24c投射的光斑图案,双目相机21d仅能采集到光投射器24d投射的光斑图案。如图10(b)所示,在另一个例子中,双目相机21a的曝光开始时刻与当前交替周期T的光投射器24a投射光斑图案的开始时刻一致,曝光截止时刻与当前交替周期T的光投射器24b投射光斑图案的开始时刻一致;双目相机21b的曝光开始时刻与当前交替周期T的光投射器24b投射光斑图案的开始时刻一致,曝光截止时刻与当前交替周期T的光投射器24c投射光斑图案的开始时刻一致;双目相机21c的曝光开始时刻与当前交替周期T的光投射器24c投射光斑图案的开始时刻一致,曝光截止时刻与当前交替周期T的光投射器24d投射光斑图案的开始时刻一致;双目相机21d的曝光开始时刻与当前交替周期T的光投射器24d投射光斑图案的开始时刻一致,曝光截止时刻与下一交替周期T光投射器24a投射光斑图案的开始时刻一致。双目相机21a仅能采集到光投射器24a投射的光斑图案,双目相机21b仅能采集到光投射器24b投射的光斑图案,双目相机21c仅能采集到光投射器24c投射的光斑图案,双目相机21d仅能采集到光投射器24d投射的光斑图案。
(2)双目相机21a、双目相机21b、双目相机21c和双目相机21d依次接续且间隔预定时间曝光。具体地,如图11(a)所示,在一个例子中,双目相机21a的曝光开始时刻与曝光截止时刻分别与当前交替周期T的光投射器24a投射光斑图案的开始时刻和截止时刻一致;双目相机21b的曝光开始时刻与曝光截止时刻分别与当前交替周期T的光投射器24b投射光斑图案的开始时刻和截止时刻一致;双目相机21c的曝光开始时刻与曝光截止时刻分别与当前交替周期T的光投射器24c投射光斑图案的开始时刻和截止时刻一致;双目相机21d的曝光开始时刻和曝光截止时刻分别与当前交替周期T的光投射器24d投射光斑图案的开始时刻和截止时刻一致。双目相机21a的曝光截止时刻与当前交替周期T的双目相机21b的曝光开始时刻间隔预定时间Δt5,双目相机21b的曝光截止时刻与当前交替周期T的双目相机21c的曝光开始时刻间隔预定时间Δt6,双目相机21c的曝光截止时刻与当前交替周期T的双目相机21d的曝光开始时刻间隔预定时间Δt7,双目相机21d的曝光截止时刻与下一交替周期T的双目相机21a的曝光开始时刻间隔预定时间Δt8。Δt5、Δt6、Δt7和Δt8可以全部相等,或者全部不等,或者部分相等、部分不等。双目相机21a仅能采集到光投射器24a投射的光斑图案,双目相机21b仅能采集到光投射器24b投射的光斑图案,双目相机21c仅能采集到光投射器24c投射的光斑图案,双目相机21d仅能采集到光投射器24d投射的光斑图案。如图11(b)所示,在另一个例子中,双目相机21a的曝光开始时刻与曝光截止时刻分别与当前交替周期T的光投射器24a投射光斑图案的开始时刻和截止时刻一致;双目相机21b的曝光开始时刻大于当前交替周期T的光投射器24a投射光斑图案的截止时刻,曝光截止时刻小于当前交替周期T的光投射器24c投射光斑图案的开始时刻;双目相机21c的曝光开始时刻与曝光截止时刻分别与当前交替周期T的光投射器24c投射光斑图案的开始时刻和截止时刻一致;双目相机21d的曝光开始时刻大于当前交替周期T的光投射器24c投射光斑图案的截止时刻,曝光截止时刻小于下一交替周期T的光投射器24a投射光斑图案的开始时刻。双目相机21a的曝光截止时刻与当前交替周期T的双目相机21b的曝光开始时刻间隔预定时间Δt9,双目相机21b的曝光截止时刻与当前交替周期T的双目相机21c的曝光开始时刻间隔预定时间Δt10,双目相机21c的曝光截止时刻与当前交替周期T的双目相机21d的曝光开始时刻间隔预定时间Δt11,双目相机21d的曝光截止时刻与下一交替周期T的双目相机21a的曝光开始时刻间隔预定时间Δt12。Δt9、Δt10、Δt11和Δt12可以全部相等,或者全部不等,或者部分相等、部分不等。双目相机21a仅能采集到光投射器24a投射的光斑图案,双目相机21b仅能采集到光投射器24b投射的光斑图案,双目相机21c仅能采集到光投射器24c投射的光斑图案,双目相机21d仅能采集到光投射器24d投射的光斑图案。如图11(c)所示,在又一个例子中,双目相机21a的曝光开始时刻大于前一交替周期T的光投射器24d投射光斑图案的截止时刻,曝光截止时刻小于当前交替周期T的光投射器24b投射光斑图案的开始时刻;双目相机21a的曝光开始时刻大于前一交替周期T的双目相机21d的曝光截止时刻,曝光截止时刻小于当前交替周期T的双目相机21b的曝光开始时刻。双目相机21b的曝光开始时刻大于当前交替周期T的光投射器24a投射光斑图案的截止时刻,曝光截止时刻小于当前交替周期T的光投射器24c投射光斑图案的开始时刻;双目相机21b的曝光开始时刻大于当前交替周期T的双目相机21a的曝光截止时刻,曝光截止时刻小于当前交替周期T的双目相机21c的曝光开始时刻。双目相机21c的曝光开始时刻大于当前交替周期T的光投射器24b投射光斑图案的截止时刻,曝光截止时刻小于当前交替周期T的光投射器24d投射光斑图案的开始时刻;双目相机21c的曝光开始时刻大于当前交替周期T的双目相机21b的曝光截止时刻,曝光截止时刻小于当前交替周期T的双目相机21d的曝光开始时刻。双目相机21d的曝光开始时刻大于当前交替周期T的光投射器24c投射光斑图案的截止时刻,曝光截止时刻小于下一交替周期T的光投射器24a投射光斑图案的开始时刻;双目相机21d的曝光开始时刻大于当前交替周期T的双目相机21c的曝光截止时刻,曝光截止时刻小于下一交替周期T的双目相机21a的曝光开始时刻。双目相机21a的曝光截止时刻与当前交替周期T的双目相机21b的曝光开始时刻间隔预定时间Δt9,双目相机21b的曝光截止时刻与当前交替周期T的双目相机21c的曝光开始时刻间隔预定时间Δt10,双目相机21c的曝光截止时刻与当前交替周期T的双目相机21d的曝光开始时刻间隔预定时间Δt11,双目相机21d的曝光截止时刻与下一交替周期T的双目相机21a的曝光开始时刻间隔预定时间Δt12。Δt9、Δt10、Δt11和Δt12可以全部相等,或者全部不等,或者部分相等、部分不等。
多个双目相机组件20中的多个光投射器24依次接续且间隔预定时间投射光斑图案的控制方式中,双目相机组件20采集初始深度图像的帧率较低,适用于对采集初始深度图像的帧率要求较低的场景,同时有利于减小电子设备100的功耗。
另外,如前所述,当相邻方位的光投射器24分时投射光斑图案、相邻方位的双目相机21分时曝光时,第一方位的光投射器24a与第三方位的光投射器24c可以同时投射光斑图案,第一方位的双目相机21a与第三方位的双目相机21c可以同时曝光,第二方位的光投射器24b与第四方位的光投射器24d可以同时投射光斑图案,第二方位的双目相机21b与第四方位的双目相机21d可以同时曝光。此时请参阅图12,光投射器24a投射光斑图案的时间(即光投射器24c投射光斑图案的时间)和光投射器24b投射光斑图案的时间(即光投射器24d投射光斑图案的时间)共同组成一个交替周期T(一个交替周期T内也可包括前述各个预定时间Δt)。光投射器24a、光投射器24b、光投射器24c和光投射器24d可以当成两个光投射器24来进行控制,双目相机21a、双目相机21b、双目相机21c和双目相机21d也可以当成两个双目相机21来进行控制,控制方式参照前述图8~图11及其对应解释,在此不详细展开说明。
请参阅图2,多个双目相机组件20均与处理器30连接。具体地,每个双目相机组件20中的第一相机22、第二相机23及光投射器24均与处理器30连接。其中,处理器30的个数可为一个或多个。处理器30的个数为一个时,多个双目相机组件20中的第一相机22、第二相机23及光投射器24均与该处理器30连接。处理器30的个数为多个时,每个处理器30对应一个双目相机组件20,每个处理器30与对应的双目相机组件20中的第一相机22、第二相机23及光投射器24连接。在本申请的具体实施例中,处理器30的个数为一个。相比于设置多个处理器30而言,一个处理器30的成本较低、且占据电子设备的空间较小。
处理器30可通过驱动电路驱动多个光投射器24同时或分时发射光线。处理器30还可以给每个双目相机21中的第一相机22和第二相机23提供接收光线的时钟信息以使得第一相机22曝光获取第一图像、第二相机24曝光获取第二图像。处理器30还可以处理多张第一图像和多张第二图像得到多张初始深度图像。例如,处理器30依次处理双目相机21a获取的第一图像和第二图像得到初始深度图像P1、处理双目相机21b获取的第一图像和第二图像得到初始深度图像P2、处理双目相机21c获取的第一图像和第二图像得到初始深度图像P3、处理双目相机21d获取的第一图像和第二图像得到初始深度图像P4(如图13的上部分所示)。处理器30还可以对每一张初始深度图像进行片面化、畸变校正、自校准等算法处理,以提高初始深度图像的质量。
请参阅图13,在一个实施例中,处理器30用于根据双目相机21的视场角将多张初始深度图像合成为一帧全景深度图像。
具体地,请结合图1,以本体10的中心为圆心O,以横轴线为X轴,以纵轴线为Y轴建立直角坐标系XOY,在该直角坐标系XOY中,双目相机21a的视场位于45度~315度之间(顺时针旋转,后同),双目相机21b的视场位于315度~225度之间,双目相机21c的视场位于225度~135度之间,双目相机21d的视场位于135度~45度之间,则处理器30根据四个双目相机21的视场角将初始深度图像P1、初始深度图像P2、初始深度图像P3、初始深度图像P4依次拼接为一帧360度的全景深度图像P1234,以便深度信息的使用。
处理器40处理每一个双目相机21获取的第一图像和第二图像得到的初始深度图像中,每个像素的深度信息为对应方位的被摄目标与该方位上的双目相机21之间的距离。即,初始深度图像P1中每个像素的深度信息为第一方位的被摄目标与双目相机21a之间的距离;初始深度图像P2中每个像素的深度信息为第二方位的被摄目标与双目相机21b之间的距离;初始深度图像P3中每个像素的深度信息为第三方位的被摄目标与双目相机21c之间的距离;初始深度图像P4中每个像素的深度信息为第四方位的被摄目标与双目相机21d之间的距离。在将多个方位的多张初始深度图像拼接为一帧360度的全景深度图像的过程中,首先要将每张初始深度图像中每个像素的深度信息转化成统一化深度信息,统一化深度信息表示各个方位的各个被摄目标与某个基准位置的距离。深度信息转化为统一化深度信息后,方便处理器30根据统一化深度信息做初始深度图像的拼接。
具体地,选择一个基准坐标系,基准坐标系可以是以某一个方位的双目相机21中的第一相机22或第二相机23的图像坐标系作为基准坐标系,也可以是选择其他的坐标系作为基准坐标系。以图14为例,以xo-yo-zo坐标系为基准坐标系。图14所示的坐标系xa-ya-za为第一相机22a的图像坐标系,坐标系xb-yb-zb为第一相机22b的图像坐标系,坐标系xc-yc-zc为第一相机22c的图像坐标系,坐标系xd-yd-zd为第一相机22d的图像坐标系。处理器30根据坐标系xa-ya-za与基准坐标系xo-yo-zo之间的旋转矩阵和平移矩阵将初始深度图像P1中每个像素的深度信息转换为统一化深度信息,根据坐标系xb-yb-zb与基准坐标系xo-yo-zo之间的旋转矩阵和平移矩阵将初始深度图像P2中每个像素的深度信息转换为统一化深度信息,根据坐标系xc-yc-zc与基准坐标系xo-yo-zo之间的旋转矩阵和平移矩阵将初始深度图像P3中每个像素的深度信息转换为统一化深度信息;根据坐标系xd-yd-zd与基准坐标系xo-yo-zo之间的旋转矩阵和平移矩阵将初始深度图像P4中每个像素的深度信息转换为统一化深度信息。
深度信息转化完成后,多张初始深度图像位于一个统一的基准坐标系下,每一张初始深度图像的一个像素点对应一个坐标(xo,yo,zo),那么可以通过坐标匹配做初始深度图像的拼接。例如,在初始深度图像P1中某一个像素点Pa的坐标为(xo1,yo1,zo1),在初始深度图像P2中某一个像素点Pb的坐标也为(xo1,yo1,zo1),由于Pa和Pb在当前的基准坐标系下具有相同的坐标值,则说明像素点Pa与像素点Pb实际上为同一个点,初始深度图像P1和初始深度图像P2拼接时,像素点Pa需要和像素点Pb重合。如此处理器30即可通过坐标的匹配关系进行多张初始深度图像的拼接,并得到360度的全景深度图像。
需要说明的是,基于坐标的匹配关系进行初始深度图像的拼接要求初始深度图像的分辨率需要大于一个预设分辨率。可以理解,如果初始深度图像的分辨率较低,则坐标(xo,yo,zo)的精确度也会相对较低,此时,直接根据坐标进行匹配,可能出现Pa点和Pb点实际上没有重合,而是相差一个偏移量offset,且offset的值超过误差界限值的问题。如果图像的分辨率较高,则坐标(xo,yo,zo)的精确度也会相对较高,此时,直接根据坐标进行匹配,即使Pa点和Pb点实际上没有重合,相差一个偏移量offset,但offset的值也会小于误差界限值,即处于误差允许的范围内,不会对初始深度图像的拼接造成太大影响。
可以理解,后续实施方式均可采用上述方式将两个或两个以上的初始深度图像进行拼接或合成,不再一一说明。
请参阅图2,处理器30还可以将多张初始深度图像与对应的多张第一图像合成为三维场景图像以进行显示供用户观看,或者将多张初始深度图像与对应的多张第二图像合成为三维场景图像以进行显示供用户观看。例如,多张第一图像分别为第一图像V1、第一图像V2、第一图像V3和第一图像V4。则处理器30分别将初始深度图像P1与第一图像V1合成、将初始深度图像P2与第一图像V2合成、将初始深度图像P3与第一图像V3合成、将初始深度图像P4与第一图像V4合成,再将合成后的四张图像进行拼接得到一帧360度的三维场景图像。或者,处理器30先将初始深度图像P1、初始深度图像P2、初始深度图像P3和初始深度图像P4拼接得到一帧360度的全景深度图像,并将第一图像V1、第一图像V2、第一图像V3和第一图像V4拼接得到一帧360度的全景色彩图像(可为全景灰度图像或全景彩色图像,全景灰度图像由红外相机获取,全景彩色图像由可见光相机获取);再将全景深度图像与全景色彩图像合成为360度的三维场景图像。
请参阅图15,在一个实施例中,处理器30用于根据多张初始深度图像及多张第一图像识别被摄目标。
具体地,处理器30分别根据初始深度图像P1和第一图像V1识别第一方位的被摄目标、根据初始深度图像P2和第一图像V2识别第二方位的被摄目标、根据初始深度图像P3和第一图像V3识别第三方位的被摄目标、根据初始深度图像P4和第一图像V4识别第四方位的被摄目标。
当识别被摄目标为进行人脸识别时,处理器30根据初始深度图像和第一图像进行人脸识别的过程可如下:
首先,根据第一图像进行人脸检测确定目标人脸区域。由于第一图像包括有场景的细节信息,在获取到第一图像之后,可以根据第一图像进行人脸检测,从而检测出第一图像中是否包含人脸。若第一图像中包含人脸,则提取第一图像中人脸所在的目标人脸区域。
然后,根据初始深度图像对目标人脸区域进行活体检测处理。由于每个初始深度图像和第一图像是对应的,初始深度图像中包括有对应的第一图像的深度信息,因此,可以根据初始深度图像获取与目标人脸区域对应的深度信息。进一步地,由于活体人脸是立体的,而例如图片、屏幕等显示的人脸则是平面的,因此,可以根据获取的目标人脸区域的深度信息判断目标人脸区域是立体还是平面的,从而对目标人脸区域进行活体检测。
若活体检测成功,则获取目标人脸区域对应的目标人脸属性参数,并根据目标人脸属性参数对第一图像中的目标人脸区域进行人脸匹配处理,得到人脸匹配结果。目标人脸属性参数是指可以表征目标人脸的属性的参数,根据目标人脸属性参数可以对目标人脸进行识别和匹配处理。目标人脸属性参数包括但不限于为人脸偏转角度、人脸亮度参数、五官参数、肤质参数、几何特征参数等。电子设备100可以预先存储用于匹配的人脸属性参数。在获取到目标人脸属性参数之后,就可以将目标人脸属性参数与预先存储的人脸属性参数进行比较。若目标人脸属性参数与预先存储的人脸属性参数匹配,则人脸识别通过。
需要指出的是,处理器30根据初始深度图像和第一图像进行人脸识别的具体过程并不限于此,例如处理器30还可以根据初始深度图像辅助检测人脸轮廓,以提高人脸识别精度等。
在另一个实施例中,处理器30还可用于根据多张初始深度图像及多张第二图像识别被摄目标,处理器30根据多张初始深度图像及多张第二图像识别被摄目标与处理器根据多张初始深度图像及多张第一图像识别被摄目标的过程类似,在此不再赘述。
请参阅图15和图16,处理器30还用于在根据多张第一图像或多张第二图像及多张初始深度图像识别被摄目标失败时,根据双目相机21的视场角将至少两张初始深度图像合成为一帧合并深度图像,将至少两张第一图像或至少两张第二图像合成为一帧合并场景图像,并根据合并深度图像和合并场景图像识别被摄目标。
具体地,处理器30可用于在根据多张第一图像及多张初始深度图像识别被摄目标失败时,根据双目相机21的视场角将至少两张初始深度图像合成为一帧合并深度图像,将至少两张第一图像合成为一帧合并场景图像,并根据合并深度图像和合并场景图像识别被摄目标。图15和图16所示的实施例中,由于每个双目相机组件20的双目相机21的视场角有限,可能存在人脸的一半位于初始深度图像P2、另一半位于初始深度图像P3的情形,处理器30将初始深度图像P2和初始深度图像P3合成为一帧合并深度图像P23,并对应将第一图像V2和第一图像V3合成为一帧合并场景图像V23,以重新根据合并深度图像P23和合并场景图像V23识别被摄目标。
可以理解,当被摄目标同时分布在更多张初始深度图像中时,处理器30可以将更多张初始深度图像(对应不同方位)合成为一帧合并深度图像,并对应将更多个第一图像(对应不同方位)合成为一帧合并场景图像,以重新识别被摄目标。
处理器30还可用于在根据多张第二图像及多张初始深度图像识别被摄目标失败时,根据双目相机21的视场角将至少两张初始深度图像合成为一帧合并深度图像,将至少两张第二图像合成为一帧合并场景图像,并根据合并深度图像和合并场景图像识别被摄目标。处理器30根据多张初始深度图像和多张第二图像识别被摄目标的过程与处理器30根据多张初始深度图像和多张第一图像识别被摄目标的过程类似,在此不再赘述。
请参阅图17和图18,在一个实施例中,处理器30用于根据多张初始深度图像判断被摄目标与电子设备100之间的距离变化。
具体地,每个双目相机21均可以多次获取第一图像和第二图像。例如,在第一时刻t1,双目相机21a、双目相机21b、双目相机21c和双目相机21d均获取第一图像和第二图像,处理器30依次处理多张第一图像和多张第二深度图像得到初始深度图像P11、初始深度图像P21、初始深度图像P31、初始深度图像P41;在第二时刻t2,双目相机21a、双目相机21b、双目相机21c和双目相机21d均获取第一图像和第二图像,处理器30依次处理多张第一图像和多张第二深度图像初始深度图像P12、初始深度图像P22、初始深度图像P32、初始深度图像P42。然后,处理器30分别根据初始深度图像P11和初始深度图像P12判断第一方位的被摄目标与电子设备100之间的距离变化、根据初始深度图像P21和初始深度图像P22判断第二方位的被摄目标与电子设备100之间的距离变化、根据初始深度图像P31和初始深度图像P32判断第三方位的被摄目标与电子设备100之间的距离变化、根据初始深度图像P41和初始深度图像P42判断第四方位的被摄目标与电子设备100之间的距离变化。
可以理解,由于初始深度图像中包括有被摄目标的深度信息,因此,处理器30可以根据多个连续时刻的深度信息变化判断对应方位的被摄目标与电子设备100之间的距离变化。
请参阅图19,处理器30还用于在根据多张初始深度图像判断距离变化失败时,根据双目相机21的视场角将至少两张初始深度图像合成为一帧合并深度图像,处理器30连续执行合成步骤以得到多帧连续的合并深度图像,并根据多帧合并深度图像判断距离变化。
具体地,图19所示的实施例中,由于每个双目相机组件20的双目相机21的视场角有限,可能存在人脸的一半位于初始深度图像P21、另一半位于初始深度图像P31的情形,处理器30将第一时刻t1的初始深度图像P21和初始深度图像P31合成为一帧合并深度图像P231,并对应将第二时刻t2的初始深度图像P22和初始深度图像P32合成为一帧合并深度图像P232,然后根据合并后的这两帧合并深度图像P231和P232重新判断距离变化。
可以理解,当被摄目标同时分布在更多张初始深度图像中时,处理器30可以将更多张初始深度图像(对应不同方位)合成为一帧合并深度图像,并针对多个时刻连续执行该合成步骤。
请参阅图18,当根据多个初始深度图像判断距离变化为距离减小时,或者根据多帧合并深度图像判断距离变化为距离减小时,处理器30会提高从至少一个双目相机组件20中的双目相机21中获取用以判断距离变化的初始深度图像的帧率。
可以理解,当被摄目标与电子设备100之间的距离减小时,电子设备100无法预判该距离减小是否存在危险性,因此,处理器30可提高从至少一个双目相机21获取用以判断距离变化的初始深度图像的帧率,以更加密切的关注该距离变化。具体地,当判断某一个方位对应的距离减小时,处理器30可提高该方位的双目相机21获取用以判断距离变化的初始深度图像的帧率。
例如,在第一时刻t1,处理器30获得初始深度图像P11、初始深度图像P21、初始深度图像P31、初始深度图像P41;在第二时刻t2,处理器30获得初始深度图像P12、初始深度图像P22、初始深度图像P32、初始深度图像P42;在第三时刻t3,处理器30获得初始深度图像P13、初始深度图像P23、初始深度图像P33、初始深度图像P43;在第四时刻t4,处理器30获得初始深度图像P14、初始深度图像P24、初始深度图像P34、初始深度图像P44。
在正常情况下,处理器30选取初始深度图像P11和初始深度图像P14判断第一方位的被摄目标与电子设备100之间的距离变化、选取初始深度图像P21和初始深度图像P24判断第二方位的被摄目标与电子设备100之间的距离变化、选取初始深度图像P31和初始深度图像P34判断第三方位的被摄目标与电子设备100之间的距离变化、选取初始深度图像P41和初始深度图像P44判断第四方位的被摄目标与电子设备100之间的距离变化。处理器30在各个方位采集初始深度图像的帧率均为每间隔两帧采集一帧,即每三帧选取一帧。
当根据初始深度图像P11和初始深度图像P14判断出第一方位对应的距离减小时,处理器30则会选取初始深度图像P11和初始深度图像P13判断第一方位的被摄目标与电子设备100之间的距离变化。处理器30采集第一方位的初始深度图像的帧率变为每间隔一帧采集一帧,即每两帧选取一帧。而其他方位的帧率保持不变,即处理器30仍选取初始深度图像P21和初始深度图像P24判断距离变化;选取初始深度图像P31和初始深度图像P34判断距离变化;选取初始深度图像P41和初始深度图像P44判断距离变化。
当根据初始深度图像P11和初始深度图像P14判断出第一方位对应的距离减小,同时根据初始深度图像P21和初始深度图像P24判断出第二方位对应的距离减小时,处理器30则会选取初始深度图像P11和初始深度图像P13判断第一方位的被摄目标与电子设备100之间的距离变化,选取初始深度图像P21和初始深度图像P23判断第二方位的被摄目标与电子设备100之间的距离变化,处理器30采集第一方位和第二方位的初始深度图像的帧率变为每间隔一帧采集一帧,即每两帧选取一帧。而其他方位的帧率保持不变,即处理器30仍选取初始深度图像P31和初始深度图像P34判断第三方位的被摄目标与电子设备100之间的距离变化;选取初始深度图像P41和初始深度图像P44判断第四方位的被摄目标与电子设备100之间的距离变化。
当然,处理器30也可以在判断出任一个方位对应的距离减小时,提高每个双目相机21获取用以判断距离变化的初始深度图像的帧率。即:当根据初始深度图像P11和初始深度图像P14判断出第一方位的被摄目标与电子设备100之间的距离减小时,处理器30则会选取初始深度图像P11和初始深度图像P13判断第一方位的被摄目标与电子设备100之间的距离变化、选取初始深度图像P21和初始深度图像P23判断第二方位的被摄目标与电子设备100之间的距离变化、选取初始深度图像P31和初始深度图像P33判断第三方位的被摄目标与电子设备100之间的距离变化、及选取初始深度图像P41和初始深度图像P43判断第四方位的被摄目标与电子设备100之间的距离变化。
处理器30还可以在距离减小时,结合第一图像或第二图像来判断该距离变化。具体地,处理器30先根据第一图像或第二图像识别被摄目标,然后再根据多个时刻的初始深度图像判断距离变化,从而针对不同的被摄目标与不同的距离控制电子设备100执行不同的操作。或者,在距离减小时,处理器30控制提高光投射器24投射光斑图案的频率以及对应的双目相机21的曝光频率等。
需要说明的是,本实施方式的电子设备100还可以作为一个外置终端,固定安装或可拆卸安装在例如手机、平板电脑、笔记本电脑等便携式电子装置上使用外,还可固定安装在车辆本体(如图16和图17所示)、无人机机身、机器人本体或船舶本体等可移动物体上使用。具体使用时,当电子设备100如前所述根据多个初始深度图像合成为一帧全景深度图像,全景深度图像可以用于三维建模、即时定位与地图构建(simultaneous localizationand mapping,SLAM)、增强现实显示。当电子设备100如前所述识别被摄目标时,则可应用于便携式电子装置的人脸识别解锁、支付,或应用于机器人、车辆、无人机、船舶等的避障。当电子设备100如前所述判断被摄目标与电子设备100之间的距离变化时,则可应用于机器人、车辆、无人机、船舶等自动行驶、物体追踪等。
请参阅图20,在某些实施方式中,当双目相机组件20的数量为两个时,两个双目相机组件20分别为双目相机组件20a和双目相机组件20b。双目相机组件20a设置在第四方位,双目相机组件20b设置在第二方位。双目相机组件20a包括双目相机21a和光投射器24a,双目相机21a包括第一相机22a和第二相机23a。双目相机组件20b包括双目相机21b和光投射器24b,双目相机21b包括第一相机22b和第二相机23b。每个双目相机组件20中的光投射器24的视场角均为180度~200度,每个双目相机组件20中的第一相机22的视场角均为180度~200度,每个双目相机组件20中的第二相机23的视场角均为180度~200度。以第一相机22为例,第一相机22的视场角可为180度、182度、183.5度、185度、188度、189度、190度、191度、193度、194度、196度、197度、198度、199度、200度等。第二相机23及光投射器24的视场角可以与对应的第一相机22的视场角相同或近似相同,在此不重复说明。上述基于四个双目相机组件20进行示例说明的多个实施方式均适用于双目相机组件20的数量为两个的情形,在此不再展开说明。
请参阅图2和图21,本申请实施方式还提供一种移动平台300。移动平台300包括本体10和设置在本体10上的多个双目相机组件20。多个双目相机组件20分别位于本体10的多个不同方位。每个双目相机组件20均包括双目相机21和光投射器24,每个双目相机21均包括第一相机22和第二相机23。光投射器24用于向本体10发射光线,光线形成光斑图案。第一相机22用于接收场景中的光线以及光投射器24发射的光线。第二相机23用于接收场景中的光线以及光投射器24发射的光线。多个光投射器24向本体10外发射光线,多个双目相机组件20中的第一相机22曝光以获取多张场景的第一图像,多个双目相机组件20中的第二相机23曝光以获取多张场景的第二图像。多张第一图像及多张第二图像用于获取全景深度图像。其中,第一相机22和第二相机23可以均为可见光相机,对应地,光投射器24为可见光投射器。或者,第一相机22和第二相机23可以均为红外相机,对应地,光投射器24为红外光投射器。
具体地,本体10可以为车辆本体、无人机机身、机器人本体或船舶本体。
请参阅图21,当本体10为车辆本体时,多个双目相机组件20的数量为四个,四个双目相机组件20分别安装在车辆本体的四侧,例如,车头、车尾、车身左侧、车身右侧。车辆本体可以带动多个双目相机组件20在道路上移动,构建行进路线上的360度全景深度图像,以作为参考地图等;或者获取多个不同方位的初始深度图像,以识别被摄目标、判断被摄目标与移动平台300之间的距离变化,从而控制车辆本体加速、减速、停车、绕行等,实现无人驾驶避障,例如,在车辆在道路上移动时,若识别到被摄目标与车辆的距离减小且被摄目标为道路上的凹坑,则车辆以第一加速度减速,若识别到被摄目标与车辆的距离减小且被摄目标为人,则车辆以第二加速度减速,其中第一加速度的绝对值小于第二加速度的绝对值。如此,在距离减小时根据不同的被摄目标执行不同的操作,可以使得车辆更加智能化。
请参阅图22,当本体10为无人机机身时,多个双目相机组件20的数量为四个,四个双目相机组件20分别安装在无人机机身的前、后、左、右四侧,或者安装在无人机机身上搭载的云台的前、后、左、右四侧。无人机机身可以带动多个双目相机组件20在空中飞行,以进行航拍、巡检等,无人机可将获取的全景深度图像传回给地面控制端,也可直接进行SLAM。多个双目相机组件20可实现无人机加速、减速、停止、避障、物体追踪。
请参阅图23,当本体10为机器人本体时,例如扫地机器人,多个双目相机组件20的数量为四个,四个双目相机组件20分别安装在机器人本体的前、后、左、右四侧。机器人本体可以带动多个双目相机组件20在家中运动,获取多个不同方位的初始深度图像,以识别被摄目标、判断被摄目标与移动平台300之间的距离变化,从而控制机器人本体运动,实现机器人清除垃圾、避障等。
请参阅图24,当本体10为船舶本体时,多个双目相机组件20的数量为四个,四个双目相机组件20分别安装在船舶本体的前、后、左、右四侧。船舶本体可以带动双目相机组件20运动,获取多个不同方位的初始深度图像,从而在恶劣环境(例如起雾环境下)准确地识别被摄目标、判断被摄目标与移动平台300之间的距离变化,提高海上航行的安全性等。
本申请实施方式的移动平台300为能够独立移动的平台,多个双目相机组件20安装在移动平台300的本体10上,以获取全景深度图像。而本申请实施方式的电子设备100本身一般不能够独立移动,电子设备100可进一步搭载于类似于移动平台300等能够移动的装置上,从而帮助该装置获取全景深度图像。
在本说明书的描述中,参考术语“一个实施方式”、“一些实施方式”、“示意性实施方式”、“示例”、“具体示例”或“一些示例”等的描述意指结合所述实施方式或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施方式或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施方式或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施方式或示例中以合适的方式结合。
尽管上面已经示出和描述了本申请的实施方式,可以理解的是,上述实施方式是示例性的,不能理解为对本申请的限制,本领域的普通技术人员在本申请的范围内可以对上述实施方式进行变化、修改、替换和变型。
Claims (16)
1.一种电子设备,其特征在于,所述电子设备包括:
本体;和
设置在所述本体上的多个双目相机组件,多个所述双目相机组件分别位于所述本体的多个不同方位,每个所述双目相机组件均包括双目相机和光投射器,每个所述双目相机均包括第一相机和第二相机,所述光投射器用于向所述本体外发射光线,所述光线形成光斑图案,所述第一相机用于接收场景中的光线以及所述光投射器发射的光线,所述第二相机用于接收所述场景中的光线以及所述光投射器发射的光线;
多个所述光投射器向所述本体外发射光线,多个所述双目相机组件中的所述第一相机曝光以获取多张所述场景的第一图像,多个所述双目相机组件中的所述第二相机曝光以获取多张所述场景的第二图像,多张所述第一图像及多张所述第二图像用于获取全景深度图像。
2.根据权利要求1所述的电子设备,其特征在于,所述第一相机和所述第二相机均为可见光相机,所述光投射器为可见光投射器;或
所述第一相机和所述第二相机均为红外相机,所述光投射器为红外光投射器。
3.根据权利要求1所述的电子设备,其特征在于,所述双目相机组件包括四个,每个所述双目相机组件中的所述第一相机和所述第二相机的视场角均为80度~100度,每个所述双目相机组件中的所述光投射器的视场角均为80度~100度。
4.根据权利要求1所述的电子设备,其特征在于,所述双目相机组件包括两个,每个所述双目相机组件中的所述第一相机和所述第二相机的视场角均为180度~200度,每个所述双目相机组件中的所述光投射器的视场角均为180度~200度。
5.根据权利要求1所述的电子设备,其特征在于,每个所述双目相机组件中的所述第一相机和所述第二相机同时曝光,多个所述双目相机组件中的所述双目相机同时曝光。
6.根据权利要求4所述的电子设备,其特征在于,相邻方位的所述双目相机组件中的所述光投射器投射的所述光斑图案不同。
7.根据权利要求1所述的电子设备,其特征在于,每个所述双目相机组件中的所述第一相机和所述第二相机同时曝光,相邻方位的所述双目相机组件中的所述双目相机分时曝光。
8.根据权利要求7所述的电子设备,其特征在于,多个所述双目相机组件中的所述双目相机分时曝光,当任意一个所述双目相机组件中的所述双目相机曝光时,其他的所述双目相机组件中的所述光投射器均关闭。
9.根据权利要求1所述的电子设备,其特征在于,所述电子设备还包括处理器,每个所述双目相机组件均与所述处理器连接,所述处理器用于处理每个所述双目相机组件的所述第一相机获取的所述第一图像和所述第二相机获取的所述第二图像得到初始深度图像,并用于根据所述双目相机组件中的所述双目相机的视场角将多张所述深度图像合成为一帧所述全景深度图像。
10.根据权利要求1所述的电子设备,其特征在于,所述电子设备还包括处理器,每个所述双目相机组件均与所述处理器连接,所述处理器用于处理每个所述双目相机组件的所述第一相机获取的所述第一图像和所述第二相机获取的所述第二图像得到初始深度图像,并用于根据多张所述第一图像以及多张所述初始深度图像识别所述场景中的被摄目标,或用于根据多张所述第二图像以及多张所述初始深度图像识别所述场景中的被摄目标。
11.根据权利要求10所述的电子设备,其特征在于,所述处理器还用于在根据多张所述第一图像或多张所述第二图像以及多张所述初始深度图像识别所述被摄目标失败时,根据所述双目相机的视场角将至少两张所述初始深度图像合成为一帧合并深度图像,将至少两张所述第一图像或至少两张所述第二图像合成为一帧合并场景图像,并根据所述合并深度图像和所述合并场景图像识别所述被摄目标。
12.根据权利要求1所述的电子设备,其特征在于,所述电子设备还包括处理器,每个所述双目相机组件均与所述处理器连接,所述处理器用于处理每个所述双目相机组件的所述第一相机多次获取的多张所述第一图像和所述第二相机多次获取的多张所述第二图像得到多张初始深度图像,并用于根据多张所述初始深度图像判断所述场景中的被摄目标与所述电子设备之间的距离变化。
13.根据权利要求12所述的电子设备,其特征在于,所述处理器还用于在根据多张所述初始深度图像判断所述被摄目标与所述电子设备之间的距离变化失败时,根据所述双目相机的视场角将至少两张所述初始深度图像合成为一帧合并深度图像,并连续执行合成步骤以得到多帧连续的所述合并深度图像,并根据多帧所述合并深度图像判断所述距离变化。
14.根据权利要求12或13所述的电子设备,其特征在于,所述处理器还用于在判断所述距离变化为距离减小时,提高从至少一个所述双目相机组件的所述双目相机中获取用以判断所述距离变化的初始深度图像的帧率。
15.一种移动平台,其特征在于,所述移动平台包括:
本体;和
设置在所述本体上的多个双目相机组件,多个所述双目相机组件分别位于所述本体的多个不同方位,每个所述双目相机组件均包括双目相机和光投射器,每个所述双目相机均包括第一相机和第二相机,所述光投射器用于向所述本体外发射光线,所述光线形成光斑图案,所述第一相机用于接收场景中的光线以及所述光投射器发射的光线,所述第二相机用于接收所述场景中的光线以及所述光投射器发射的光线;
多个所述光投射器向所述本体外发射光线,多个所述双目相机组件中的所述第一相机曝光以获取多张所述场景的第一图像,多个所述双目相机组件中的所述第二相机曝光以获取多张所述场景的第二图像,多张所述第一图像及多张所述第二图像用于获取全景深度图像。
16.根据权利要求15所述的移动平台,其特征在于,所述本体为车辆本体、无人机机身、机器人本体或船舶本体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910013290.6A CN109618108B (zh) | 2019-01-07 | 2019-01-07 | 电子设备和移动平台 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910013290.6A CN109618108B (zh) | 2019-01-07 | 2019-01-07 | 电子设备和移动平台 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109618108A true CN109618108A (zh) | 2019-04-12 |
CN109618108B CN109618108B (zh) | 2021-04-16 |
Family
ID=66018186
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910013290.6A Active CN109618108B (zh) | 2019-01-07 | 2019-01-07 | 电子设备和移动平台 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109618108B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110398870A (zh) * | 2019-07-23 | 2019-11-01 | 武汉大势智慧科技有限公司 | 一种多相机组协同采集云台及其控制系统 |
CN110505387A (zh) * | 2019-08-29 | 2019-11-26 | Oppo广东移动通信有限公司 | 成像系统、终端和图像获取方法 |
CN111953933A (zh) * | 2020-07-03 | 2020-11-17 | 北京中安安博文化科技有限公司 | 一种确定火灾区域的方法、装置、介质和电子设备 |
US11423560B2 (en) * | 2019-07-05 | 2022-08-23 | Everdrone Ab | Method for improving the interpretation of the surroundings of a vehicle |
CN115278067A (zh) * | 2022-07-19 | 2022-11-01 | Oppo广东移动通信有限公司 | 相机、电子设备、拍摄方法及存储介质 |
Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101494736A (zh) * | 2009-02-10 | 2009-07-29 | 杨立群 | 一种拍摄系统 |
CN101984463A (zh) * | 2010-11-02 | 2011-03-09 | 中兴通讯股份有限公司 | 全景图合成方法及装置 |
CN104055489A (zh) * | 2014-07-01 | 2014-09-24 | 李栋 | 一种血管成像装置 |
US20170019594A1 (en) * | 2015-07-13 | 2017-01-19 | Futurewei Technologies, Inc. | Increasing spatial resolution of panoramic video captured by a camera array |
CN107263480A (zh) * | 2017-07-21 | 2017-10-20 | 深圳市萨斯智能科技有限公司 | 一种机器人操作方法和机器人 |
CN107742296A (zh) * | 2017-09-11 | 2018-02-27 | 广东欧珀移动通信有限公司 | 动态图像生成方法和电子装置 |
US20180139431A1 (en) * | 2012-02-24 | 2018-05-17 | Matterport, Inc. | Capturing and aligning panoramic image and depth data |
CN108122191A (zh) * | 2016-11-29 | 2018-06-05 | 成都观界创宇科技有限公司 | 鱼眼图像拼接成全景图像和全景视频的方法及装置 |
CN108234984A (zh) * | 2018-03-15 | 2018-06-29 | 百度在线网络技术(北京)有限公司 | 双目深度相机系统和深度图像生成方法 |
US20180208311A1 (en) * | 2017-01-23 | 2018-07-26 | Hangzhou Zero Zero Technology Co., Ltd. | System and method for omni-directional obstacle avoidance in aerial systems |
CN108471487A (zh) * | 2017-02-23 | 2018-08-31 | 钰立微电子股份有限公司 | 产生全景深度图像的图像装置及相关图像装置 |
CN108965751A (zh) * | 2017-05-25 | 2018-12-07 | 钰立微电子股份有限公司 | 用于产生360度深度图的图像装置 |
-
2019
- 2019-01-07 CN CN201910013290.6A patent/CN109618108B/zh active Active
Patent Citations (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101494736A (zh) * | 2009-02-10 | 2009-07-29 | 杨立群 | 一种拍摄系统 |
CN101984463A (zh) * | 2010-11-02 | 2011-03-09 | 中兴通讯股份有限公司 | 全景图合成方法及装置 |
US20180139431A1 (en) * | 2012-02-24 | 2018-05-17 | Matterport, Inc. | Capturing and aligning panoramic image and depth data |
CN104055489A (zh) * | 2014-07-01 | 2014-09-24 | 李栋 | 一种血管成像装置 |
US20170019594A1 (en) * | 2015-07-13 | 2017-01-19 | Futurewei Technologies, Inc. | Increasing spatial resolution of panoramic video captured by a camera array |
CN108122191A (zh) * | 2016-11-29 | 2018-06-05 | 成都观界创宇科技有限公司 | 鱼眼图像拼接成全景图像和全景视频的方法及装置 |
US20180208311A1 (en) * | 2017-01-23 | 2018-07-26 | Hangzhou Zero Zero Technology Co., Ltd. | System and method for omni-directional obstacle avoidance in aerial systems |
CN108471487A (zh) * | 2017-02-23 | 2018-08-31 | 钰立微电子股份有限公司 | 产生全景深度图像的图像装置及相关图像装置 |
CN108965751A (zh) * | 2017-05-25 | 2018-12-07 | 钰立微电子股份有限公司 | 用于产生360度深度图的图像装置 |
CN107263480A (zh) * | 2017-07-21 | 2017-10-20 | 深圳市萨斯智能科技有限公司 | 一种机器人操作方法和机器人 |
CN107742296A (zh) * | 2017-09-11 | 2018-02-27 | 广东欧珀移动通信有限公司 | 动态图像生成方法和电子装置 |
CN108234984A (zh) * | 2018-03-15 | 2018-06-29 | 百度在线网络技术(北京)有限公司 | 双目深度相机系统和深度图像生成方法 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11423560B2 (en) * | 2019-07-05 | 2022-08-23 | Everdrone Ab | Method for improving the interpretation of the surroundings of a vehicle |
CN110398870A (zh) * | 2019-07-23 | 2019-11-01 | 武汉大势智慧科技有限公司 | 一种多相机组协同采集云台及其控制系统 |
CN110505387A (zh) * | 2019-08-29 | 2019-11-26 | Oppo广东移动通信有限公司 | 成像系统、终端和图像获取方法 |
CN111953933A (zh) * | 2020-07-03 | 2020-11-17 | 北京中安安博文化科技有限公司 | 一种确定火灾区域的方法、装置、介质和电子设备 |
CN111953933B (zh) * | 2020-07-03 | 2022-07-05 | 北京中安安博文化科技有限公司 | 一种确定火灾区域的方法、装置、介质和电子设备 |
CN115278067A (zh) * | 2022-07-19 | 2022-11-01 | Oppo广东移动通信有限公司 | 相机、电子设备、拍摄方法及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN109618108B (zh) | 2021-04-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109618108A (zh) | 电子设备和移动平台 | |
EP1504597B1 (en) | Method for displaying an output image on an object | |
CN109862275A (zh) | 电子设备和移动平台 | |
US9662583B2 (en) | Portable type game device and method for controlling portable type game device | |
US7453511B2 (en) | Apparatus and method for inputting reflected light image of a target object | |
CN108027441A (zh) | 混合模式深度检测 | |
CN110572630B (zh) | 三维图像拍摄系统、方法、装置、设备以及存储介质 | |
CN109831660A (zh) | 深度图像获取方法、深度图像获取模组及电子设备 | |
CN110213413A (zh) | 电子装置的控制方法及电子装置 | |
CN109688400A (zh) | 电子设备和移动平台 | |
CN109618085A (zh) | 电子设备和移动平台 | |
CN109660731A (zh) | 电子设备和移动平台 | |
CN109788172A (zh) | 电子设备和移动平台 | |
CN109803089A (zh) | 电子设备和移动平台 | |
JP2019054360A (ja) | 電子機器、モーションセンサー、位置変化検出プログラムおよび位置変化検出方法 | |
CN109587304A (zh) | 电子设备和移动平台 | |
CN109660733A (zh) | 电子设备和移动平台 | |
US20220321780A1 (en) | Systems and Methods for Capturing and Generating Panoramic Three-Dimensional Models and Images | |
CN109788195A (zh) | 电子设备和移动平台 | |
CN109587303A (zh) | 电子设备和移动平台 | |
CN111242107B (zh) | 用于设置空间中的虚拟对象的方法和电子设备 | |
JP2000098300A (ja) | 仮想画像立体合成装置、仮想画像立体合成方法、ゲーム装置及び記録媒体 | |
CN109660732A (zh) | 电子设备和移动平台 | |
CN109788196A (zh) | 电子设备和移动平台 | |
CN109756660A (zh) | 电子设备和移动平台 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |