CN109660732B - 电子设备和移动平台 - Google Patents

电子设备和移动平台 Download PDF

Info

Publication number
CN109660732B
CN109660732B CN201910007563.6A CN201910007563A CN109660732B CN 109660732 B CN109660732 B CN 109660732B CN 201910007563 A CN201910007563 A CN 201910007563A CN 109660732 B CN109660732 B CN 109660732B
Authority
CN
China
Prior art keywords
structured light
application processor
camera
initial depth
assemblies
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910007563.6A
Other languages
English (en)
Other versions
CN109660732A (zh
Inventor
张学勇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Oppo Mobile Telecommunications Corp Ltd
Original Assignee
Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Oppo Mobile Telecommunications Corp Ltd filed Critical Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority to CN201910007563.6A priority Critical patent/CN109660732B/zh
Publication of CN109660732A publication Critical patent/CN109660732A/zh
Application granted granted Critical
Publication of CN109660732B publication Critical patent/CN109660732B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70—Circuitry for compensating brightness variation in the scene
    • H04N23/74—Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

本申请公开了一种电子设备和移动平台。电子设备包括本体和设置在本体的多个不同方位的多个结构光组件。每个结构光组件均包括结构光投射器和结构光摄像头，每个结构光投射器及每个结构光摄像头的视场角均为180度～200度中的任意值。结构光投射器用于向本体外投射激光图案，结构光摄像头用于采集被摄目标反射的对应的结构光投射器投射的激光图案。多个结构光投射器分时投射激光图案，多个结构光摄像头分时曝光以获取全景深度图像，当任意一个结构光组件中的结构光摄像头曝光时，其他结构光组件中的结构光投射器均关闭。本申请的电子设备，位于不同方位的结构光投射器分时投射激光图案，多个结构光摄像头分时曝光，能够一次性获取到较为全面的深度信息。

Description

电子设备和移动平台
技术领域
本申请涉及图像采集技术领域，更具体而言，涉及一种电子设备和移动平台。
背景技术
为了使得电子设备的功能更加多样化，电子设备上可以设置有深度图像获取装置，以获取被摄目标的深度图像。然而，目前的深度图像获取装置只能够获取一个方向或一个角度范围内的深度图像，获取到的深度信息较少。
发明内容
本申请实施方式提供一种电子设备和移动平台。
本申请实施方式的电子设备包括本体和设置在所述本体上的多个结构光组件，多个所述结构光组件分别位于所述本体的多个不同方位，每个所述结构光组件均包括结构光投射器和结构光摄像头，每个所述结构光投射器及每个所述结构光摄像头的视场角均为180度～200度中的任意值，所述结构光投射器用于向所述本体外投射激光图案，所述结构光摄像头用于采集被摄目标反射的对应的所述结构光投射器投射的所述激光图案；多个所述结构光组件中的所述结构光投射器分时投射所述激光图案，多个所述结构光组件中的所述结构光摄像头分时曝光，以获取全景深度图像，当任意一个所述结构光组件中的所述结构光摄像头曝光时，其他的所述结构光组件中的所述结构光投射器均关闭。
本申请实施方式的移动平台包括本体和设置在所述本体上的多个结构光组件，多个所述结构光组件分别位于所述本体的多个不同方位，每个所述结构光组件均包括结构光投射器和结构光摄像头，每个所述结构光投射器及每个所述结构光摄像头的视场角均为180度～200度中的任意值，所述结构光投射器用于向所述本体外投射激光图案，所述结构光摄像头用于采集被摄目标反射的对应的所述结构光投射器投射的所述激光图案；多个所述结构光组件中的所述结构光投射器分时投射所述激光图案，多个所述结构光组件中的所述结构光摄像头分时曝光，以获取全景深度图像，当任意一个所述结构光组件中的所述结构光摄像头曝光时，其他的所述结构光组件中的所述结构光投射器均关闭。
本申请实施方式的电子设备和移动平台中，位于本体的多个不同方位的多个结构光投射器分时投射激光图案，多个结构光摄像头分时曝光，以获取全景深度图像，能够一次性获取到较为全面的深度信息。
本申请的实施方式的附加方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实施方式的实践了解到。
附图说明
本申请的上述和/或附加的方面和优点从结合下面附图对实施方式的描述中将变得明显和容易理解，其中：
图1是本申请某些实施方式的电子设备的结构示意图；
图2是本申请某些实施方式的电子设备的模块示意图；
图3是本申请某些实施方式的多个结构光投射器分时投射激光图案的时间以及多个结构光摄像头分时曝光的时间示意图；
图4(a)和图4(b)是本申请某些实施方式的多个结构光投射器分时投射激光图案的时间以及多个结构光摄像头分时曝光的时间示意图；
图5(a)和图5(b)是本申请某些实施方式的多个结构光投射器分时投射激光图案的时间以及多个结构光摄像头分时曝光的时间示意图；
图6(a)至图6(c)是本申请某些实施方式的多个结构光投射器分时投射激光图案的时间以及多个结构光摄像头分时曝光的时间示意图；
图7是本申请某些实施方式的电子设备的模块示意图；
图8是本申请某些实施方式的电子设备的应用场景示意图；
图9是本申请某些实施方式的初始深度图像拼接的坐标系示意图；
图10至图14是本申请某些实施方式的电子设备的应用场景示意图；
图15至图18是本申请某些实施方式的移动平台的结构示意图。
具体实施方式
以下结合附图对本申请的实施方式作进一步说明。附图中相同或类似的标号自始至终表示相同或类似的元件或具有相同或类似功能的元件。下面结合附图描述的本申请的实施方式是示例性的，仅用于解释本申请的实施方式，而不能理解为对本申请的限制。
请一并参阅图1和图2，本申请实施方式的电子设备100包括本体10、结构光组件20、摄像头组件30、微处理器40和应用处理器50。
本体10包括多个不同方位。例如图1中，本体10可具有四个不同方位，沿顺时针方向依次为：第一方位、第二方位、第三方位和第四方位，第一方位与第三方位相背，第二方位与第四方位相背。第一方位即为与本体10的上方对应的方位、第二方位即为与本体10的右侧对应的方位、第三方位即为与本体10的下方对应的方位、第四方位即为与本体10的左侧对应的方位。
结构光组件20设置在本体10上。结构光组件20的数量可以为多个，多个结构光组件20分别位于本体10的多个不同方位。具体地，结构光组件20的数量可为两个，分别为结构光组件20a和结构光组件20b。结构光组件20a设置在第一方位，结构光组件20b设置在第三方位。当然，结构光组件20的数量也可以为四个(或其他任意大于两个的数量)，另外的两个结构光组件20可以分别设置在第二方位和第四方位。本申请实施方式以结构光组件20的数量是两个为例进行说明，可以理解，两个结构光组件20即可实现获取全景深度图像(全景深度图像指的是该全景深度图像的视场角大于或等于180度，例如，全景深度图像的视场角可为180度、240度、360度、480度、720度等等)，有利于节省电子设备100的制造成本、以及减小电子设备100的体积和功耗等。本实施方式的电子设备100可以是设置有多个结构光组件20的手机、平板电脑、笔记本电脑等便携式电子装置，此时，本体10可以为手机机身，平板电脑机身，笔记本电脑机身等。对于厚度要求较高的电子设备100，如手机来说，由于手机要求机身厚度较薄，因而机身的侧边通常无法安装结构光组件20，那么采用两个结构光组件20来获取全景深度图像的设置可以解决上述问题，此时两个结构光组件20可以分别安装在手机机身的正面和背面上。另外，两个结构光组件20即可获取全景深度图像的方式也有利于减小全景深度图像的计算量。相比于设置飞行时间组件获取全景深度图像而言，结构光组件20获取的全景深度图像分辨率较高，在三维场景或人体等的建模中使用分辨率较高的深度图像可以提高建模的三维场景与实际场景之间的匹配度、提高建模的三维人体与实际人体之间的匹配度等。
每个结构光组件20均包括结构光投射器22和结构光摄像头24。结构光投射器22用于向本体10外投射激光图案，结构光摄像头24用于采集被摄目标反射的对应的结构光投射器22投射的激光图案。具体地，结构光组件20a包括结构光投射器22a和结构光摄像头24a，结构光组件20b包括结构光投射器22b和结构光摄像头24b。结构光投射器22a、结构光投射器22b分别用于向本体10外第一方位、第三方位投射激光图案，结构光摄像头24a、结构光摄像头24b分别用于采集第一方位的被摄目标反射的结构光投射器22a投射的激光图案、第三方位的被摄目标反射的结构光投射器22b投射的激光图案，从而能够覆盖本体10外的各个不同区域，相较于现有的需要旋转360度才能获取较为全面的深度信息而言，本实施方式的电子设备100能够不旋转就可一次性获取较为全面的深度信息，执行简单且响应速度迅速。
每个结构光投射器22及每个结构光摄像头24的视场角均为180度～200度中的任意值。下面以结构光摄像头24的视场角为例进行说明，结构光投射器22的视场角可以与对应的结构光摄像头24的视场角相同或近似相同，在此不重复说明。
在一个实施例中，结构光摄像头24a和结构光摄像头24b的视场角均为180度。结构光摄像头24的视场角较小时，镜头畸变也较小，获取的初始深度图像质量较好，从而得到的全景深度图像质量也较好，且能够获取到较为准确的深度信息。
在一个实施例中，结构光摄像头24a和结构光摄像头24b的视场角之和等于360度。具体地，结构光摄像头24a和结构光摄像头24b的视场角可以均为180度，且两个结构光摄像头24相互之间的视场角互不交叠，以实现获取360度或近似360度的全景深度图像。
在一个实施例中，结构光摄像头24a和结构光摄像头24b的视场角之和大于360度，两个结构光摄像头24相互之间的视场角交叠。具体地，结构光摄像头24a和结构光摄像头24b的视场角可以均为200度，两个结构光摄像头24之间的视场角相互交叠。在获取全景深度图像时，可以先识别两张初始深度图像的边缘交叠部分，再将两张初始深度图像拼接为360度的全景深度图像。由于两个结构光摄像头24之间的视场角相互交叠，可以确保获取的全景深度图像覆盖本体10外360度的深度信息。
当然，每个结构光摄像头24(及每个结构光投射器22)的视场角的具体数值并不限于上述举例，本领域的技术人员可以根据需要将结构光摄像头24(及结构光投射器22)的视场角设定为180度～200度之间的任意数值，例如：结构光摄像头24的视场角为180度、181度、185度、187度、190度、195度、196.5度、198度、199度、200度或任意二者之间的任意值，结构光投射器22的视场角为180度、181度、182度、187度、188度、193.2度、195度、200度或任意二者之间的任意值，在此不作限制。
一般情况下，当结构光投射器22a和结构光投射器22b的视场角相互交叠时，结构光投射器22a和结构光投射器22b投射的激光图案相互之间容易造成干扰。因此，为了提高获取的深度信息的准确性，两个结构光组件20中的结构光投射器22可以分时投射激光图案，与之对应的，两个结构光组件20中的结构光摄像头24也分时曝光，以获取全景深度图像。其中，当任意一个结构光组件20中的结构光摄像头24曝光时，另外一个结构光组件20中的结构光投射器22关闭。如此，结构光摄像头24仅能采集到对应的结构光投射器22投射的激光图案，而不会采集到其余结构光投射器22投射的激光图案，从而可以避免上述的干扰问题，保证采集的激光图案的准确性。
具体地，请参阅图3和图4，在一个实施例中，两个结构光组件20中的两个结构光投射器22依次接续且不间断地投射激光图案，每个结构光组件20中的结构光摄像头24的曝光时间位于该结构光投射器22投射激光图案的时间范围内。结构光投射器22a与结构光投射器22b分时投射激光图案，且在结构光投射器22a停止投射激光图案的时刻，结构光投射器22b立即从该时刻开始投射激光图案，在结构光投射器22b停止投射激光图案的时刻，结构光投射器22a立即从该时刻开始投射激光图案。结构光投射器22a与结构光投射器22b投射激光图案的时间共同组成一个交替周期T。此时，结构光摄像头24a和结构光摄像头24b的曝光方式可以包括以下两种：
(1)结构光摄像头24a和结构光摄像头24b依次接续且不间断地曝光。具体地，两个结构光摄像头24的曝光时间分别与对应的结构光投射器22投射激光图案的时间一致。如图3所示，结构光摄像头24a和结构光摄像头24b依次交替曝光。结构光摄像头24a的曝光开始时刻与当前交替周期T的结构光投射器22a投射激光图案的开始时刻一致，结构光摄像头24a的曝光截止时刻与当前交替周期T的结构光投射器22a投射激光图案的截止时刻一致，且结构光摄像头24b的曝光开始时刻与当前交替周期T的结构光投射器22b投射激光图案的开始时刻一致，结构光摄像头24b的曝光截止时刻与当前交替周期T的结构光投射器22b投射激光图案的截止时刻一致。此时，结构光摄像头24a仅能采集到结构光投射器22a投射的激光图案，而采集不到结构光投射器22b投射的激光图案；结构光摄像头24b仅能采集到结构光投射器22b投射的激光图案，而采集不到结构光投射器22a投射的激光图案。结构光摄像头24a和结构光摄像头24b依次接续且不间断地曝光的控制方式中，结构光摄像头24a和结构光投射器22a同步控制，结构光摄像头24b和结构光投射器22b同步控制，控制逻辑较为简单。
(2)如图4所示，结构光摄像头24a和结构光摄像头24b依次接续且间隔预定时间曝光。其中，至少一个结构光摄像头24的曝光时间要小于对应的结构光投射器22投射激光图案的时间。具体地，如图4(a)所示，在一个例子中，结构光摄像头24a和结构光摄像头24b依次交替曝光。结构光摄像头24a的曝光时间小于结构光投射器22a投射激光图案的时间，结构光摄像头24b的曝光时间等于结构光投射器22b投射激光图案的时间，结构光摄像头24a的曝光开始时刻大于当前交替周期T的结构光投射器22a投射激光图案的开始时刻，曝光截止时刻小于当前交替周期T的结构光投射器22a投射激光图案的截止时刻，结构光摄像头24b的曝光开始时刻和曝光截止时刻分别与当前交替周期T的结构光投射器22b投射激光图案的开始时刻和截止时刻一致，结构光摄像头24a曝光截止时刻与当前交替周期T的结构光摄像头24b的曝光开始时刻之间间隔预定时间Δt1，结构光摄像头24b的曝光截止时刻与下一交替周期T的结构光摄像头24a的曝光开始时刻之间间隔预定时间Δt2，Δt1和Δt2可以相等或不等。结构光摄像头24a仅能采集到结构光投射器22a投射的激光图案，结构光摄像头24b仅能采集到结构光投射器22b投射的激光图案。如图4(b)所示，在另一个例子中，结构光摄像头24a和结构光摄像头24b依次交替曝光。结构光摄像头24a的曝光时间小于结构光投射器22a投射激光图案的时间，结构光摄像头24b的曝光时间也小于结构光投射器22b投射激光图案的时间，结构光摄像头24a的曝光开始时刻大于当前交替周期T的结构光投射器22a投射激光图案的开始时刻，曝光截止时刻小于当前交替周期T的结构光投射器22a投射激光图案的截止时刻，结构光摄像头24b的曝光开始时刻大于当前交替周期T的结构光投射器22b投射激光图案的开始时刻，曝光截止时刻小于当前交替周期T的结构光投射器22b投射激光图案的截止时刻，结构光摄像头24a曝光截止时刻与当前交替周期T的结构光摄像头24b的曝光开始时刻之间间隔预定时间Δt1，结构光摄像头24b的曝光截止时刻与下一交替周期T的结构光摄像头24a的曝光开始时刻之间间隔预定时间Δt2，Δt1和Δt2可以相等或不等。结构光摄像头24a仅能采集到结构光投射器22a投射的激光图案，结构光摄像头24b仅能采集到结构光投射器22b投射的激光图案。结构光摄像头24a和结构光摄像头24b依次接续且间隔预定时间曝光的控制方式中，至少一个结构光摄像头24的曝光时间相较于对应的结构光投射器22投射激光图案的时间来得短，有利于减小电子设备100的功耗。
两个结构光组件20中的两个结构光投射器22依次接续且不间断地投射激光图案的控制方式中，结构光组件20采集初始深度图像的帧率较高，适用于对采集初始深度图像的帧率要求较高的场景。
请参阅图5和图6，在另一个实施例中，两个结构光组件20中的两个结构光投射器22依次接续且间隔预定时间投射激光图案，即结构光投射器22a和结构光投射器22b交替投射激光图案，结构光投射器22a投射激光图案的截止时刻与当前交替周期T中的结构光投射器22b投射激光图案的开始时刻之间间隔预定时间Δt3，结构光投射器22b投射激光图案的截止时刻与下一交替周期T中的结构光投射器22a投射激光图案的开始时刻之间间隔预定时间Δt4，Δt3可以与Δt4相等或不等，其中，结构光投射器22a与结构光投射器22b投射激光图案的时间、以及预定时间Δt3和预定时间Δt4共同组成一个交替周期T。此时，结构光摄像头24a和结构光摄像头24b的曝光方式可以包括以下两种：
(1)结构光摄像头24a和结构光摄像头24b依次接续且不间断地曝光。具体地，如图5(a)所示，在一个例子中，结构光摄像头24a的曝光开始时刻与当前交替周期T的结构光投射器22a投射激光图案的开始时刻一致，曝光截止时刻与当前交替周期T的结构光投射器22a投射激光图案的截止时刻一致，且结构光摄像头24b的曝光开始时刻与当前交替周期T的结构光投射器22a投射激光图案的截止时刻一致，曝光截止时刻与下一交替周期T的结构光投射器22a投射激光图案的开始时刻一致。结构光摄像头24a仅能采集到结构光投射器22a投射的激光图案，结构光摄像头24b仅能采集到结构光投射器22b投射的激光图案。如图5(b)所示，在另一个例子中，结构光摄像头24a的曝光开始时刻与当前交替周期T的结构光投射器22a投射激光图案的开始时刻一致，曝光截止时刻与当前交替周期T的结构光投射器22b投射激光图案的开始时刻一致，且结构光摄像头24b的曝光开始时刻与当前交替周期T的结构光投射器22b投射激光图案的开始时刻一致，曝光截止时刻与下一交替周期T结构光投射器22a投射激光图案的开始时刻一致。结构光摄像头24a仅能采集到结构光投射器22a投射的激光图案，结构光摄像头24b仅能采集到结构光投射器22b投射的激光图案。
(2)结构光摄像头24a和结构光摄像头24b依次接续且间隔预定时间曝光。具体地，如图6(a)所示，在一个例子中，结构光摄像头24a的曝光开始时刻与曝光截止时刻分别与当前交替周期T的结构光投射器22a投射激光图案的开始时刻和截止时刻一致，且结构光摄像头24b的曝光开始时刻和曝光截止时刻分别与当前交替周期T的结构光投射器22b投射激光图案的开始时刻和截止时刻一致，结构光摄像头24a的曝光截止时刻与当前交替周期T的结构光摄像头24b的曝光开始时刻间隔预定时间Δt3，结构光摄像头24b的曝光截止时刻与下一交替周期T的结构光摄像头24a的曝光开始时刻间隔预定时间Δt4。结构光摄像头24a仅能采集到结构光投射器22a投射的激光图案，结构光摄像头24b仅能采集到结构光投射器22b投射的激光图案。如图6(b)所示，在另一个例子中，结构光摄像头24a的曝光开始时刻与曝光截止时刻分别与当前交替周期T的结构光投射器22a投射激光图案的开始时刻和截止时刻一致，且结构光摄像头24b的曝光开始时刻大于当前交替周期T的结构光投射器22a投射激光图案的截止时刻，曝光截止时刻小于下一交替周期T的结构光投射器22a投射激光图案的开始时刻。结构光摄像头24a的曝光截止时刻与当前交替周期T的结构光摄像头24b的曝光开始时刻间隔预定时间Δt5，结构光摄像头24b的曝光截止时刻与下一交替周期T的结构光摄像头24a的曝光开始时刻间隔预定时间Δt6，Δt5与Δt6可以相等或不等。结构光摄像头24a仅能采集到结构光投射器22a投射的激光图案，结构光摄像头24b仅能采集到结构光投射器22b投射的激光图案。如图6(c)所示，在又一个例子中，结构光摄像头24a的曝光开始时刻大于前一交替周期T的结构光投射器22b投射激光图案的截止时刻，曝光截止时刻小于当前交替周期T的结构光投射器22b投射激光图案的开始时刻，且结构光摄像头24b的曝光开始时刻大于当前交替周期T的结构光摄像头24a的曝光截止时刻，结构光摄像头24b的曝光截止时刻小于下一交替周期T的结构光摄像头24a的曝光开始时刻。结构光摄像头24a的曝光截止时刻与当前交替周期T的结构光摄像头24b的曝光开始时刻间隔预定时间Δt5，结构光摄像头24b的曝光截止时刻与下一交替周期T的结构光摄像头24a的曝光开始时刻间隔预定时间Δt6，Δt5与Δt6可以相等或不等。结构光摄像头24a仅能采集到结构光投射器22a投射的激光图案，结构光摄像头24b仅能采集到结构光投射器22b投射的激光图案。
两个结构光组件20中的两个结构光投射器22依次接续且间隔预定时间投射激光图案的控制方式中，结构光组件20采集初始深度图像的帧率较低，适用于对采集初始深度图像的帧率要求较低的场景，同时有利于减小电子设备100的功耗。
请参阅图1和图2，摄像头组件30设置在本体10上。摄像头组件30的数量可以为多个，每个摄像头组件30对应一个结构光组件20。例如，当结构光组件20的数量为两个时，摄像头组件30的数量也为两个，两个摄像头组件30分别设置在第一方位和第三方位。
多个摄像头组件30均与应用处理器50连接。每个摄像头组件30用于采集被摄目标的场景图像并输出至应用处理器50。本实施方式中，两个摄像头组件30分别用于采集第一方位的被摄目标的场景图像、第三方位的被摄目标的场景图像并分别输出至应用处理器50。可以理解，每个摄像头组件30与对应的结构光组件20的结构光摄像头24的视场角相同或近似相同，以使得每个场景图像能够与对应的初始深度图像能够更好的匹配。
摄像头组件30可以是可见光摄像头32，或者是红外光摄像头34。当摄像头组件30为可见光摄像头32时，场景图像为可见光图像；当摄像头组件30为红外光摄像头34时，场景图像为红外光图像。
请参阅图2和图7，微处理器40可以是处理芯片。
在一个实施例中，如图2所示，微处理器40的数量可以为多个，每个微处理器40对应一个结构光组件20。例如，本实施方式中，结构光组件20的数量为两个，微处理器40的数量也为两个。每个微处理器40与对应的结构光组件20中的结构光投射器22和结构光摄像头24均连接。每个微处理器40可通过驱动电路驱动对应的结构光投射器22投射激光图案，并通过两个微处理器40的控制实现两个结构光投射器22分时投射激光图案。每个微处理器40还用于给对应的结构光摄像头24提供采集激光图案的时钟信息以使得结构光摄像头24曝光，并通过两个微处理器40的控制实现两个结构光摄像头24的分时曝光。每个微处理器40还用于处理对应的结构光摄像头24采集的激光图案得到初始深度图像。例如，两个微处理器40分别处理结构光摄像头24a采集的激光图案得到初始深度图像P1、处理结构光摄像头24b采集的激光图案得到初始深度图像P2(如图8的上部分所示)。每个微处理器40还可以对初始深度图像进行面片化、畸变校正、自校准等算法处理，以提高初始深度图像的质量。
在另一个实施例中，如图7所示，微处理器40的数量也可以为一个。此时，微处理器40同时与结构光投射器22a、结构光摄像头24a、结构光投射器22b、结构光摄像头24b连接。一个微处理器40可以分时控制两个不同的驱动电路分别驱动对应的结构光投射器22投射激光图案，还可以分时给两个结构光摄像头24提供采集激光图案的时钟信息使得结构光摄像头24分时曝光，并依次处理两个结构光摄像头24采集的激光图案得到初始深度图像。例如，微处理器40先处理结构光摄像头24a采集的激光图案得到初始深度图像P1，再处理结构光摄像头24b采集的激光图案得到初始深度图像P2(如图8的上部分所示)。两个微处理器40相对于一个微处理器40而言，处理速度更快，延时较小。但一个微处理器40相对于两个微处理器40而言，一个微处理器100有利于减小电子设备100的体积，还有利于减少电子设备100的制造成本。
微处理器40为两个时，两个微处理器40均与应用处理器50连接，以将初始深度图像传输至应用处理器50。微处理器40为一个时，一个微处理器40与应用处理器50连接，以将初始深度图像传输至应用处理器50。在一个实施例中，微处理器40可通过移动产业处理器接口(Mobile Industry Processor Interface，MIPI)与应用处理器50连接，具体地，微处理器40通过移动产业处理器接口与应用处理器50的可信执行环境(Trusted ExecutionEnvironment，TEE)连接，以将微处理器40中的数据(初始深度图像)直接传输到可信执行环境中，以提高电子设备100内的信息的安全性。其中，可信执行环境中的代码和内存区域都是受访问控制单元控制的，不能被非可信执行环境(Rich Execution Environment，REE)中的程序所访问，可信执行环境和非可信执行环境均可以形成在应用处理器50中。
应用处理器50可以作为电子设备100的系统。应用处理器50可以重置微处理器40、唤醒(wake)微处理器40、纠错(debug)微处理器40等。应用处理器50还可以与电子设备100的多个电子元器件连接并控制该多个电子元器件按照预定的模式运行，例如应用处理器50与可见光摄像头32和红外光摄像头34连接，以控制可见光摄像头32和红外光摄像头34拍摄可见光图像和红外光图像，并处理该可见光图像和红外光图像；当电子设备100包括显示屏时，应用处理器50可以控制显示屏显示预定的画面；应用处理器50还可以控制电子设备100的天线发送或接收预定的数据等。
请参阅图8，应用处理器50可用于根据结构光摄像头24的视场角将两个微处理器40获取的两张初始深度图像合成为一帧全景深度图像；或者，应用处理器50可用于根据结构光摄像头24的视场角将一个微处理器40依次获取的两张初始深度图像合成为一帧全景深度图像。
具体地，请结合图1和图9，以本体10的中心为圆心O，以横轴线为X轴，以纵轴线为Y轴建立直角坐标系XOY，在该直角坐标系XOY中，结构光摄像头24a的视场位于350度～190度之间(逆时针旋转，后同)，结构光摄像头24b的视场位于170度～10度之间，则应用处理器50根据两个结构光摄像头24的视场角将初始深度图像P1、初始深度图像P2拼接为一帧360度的全景深度图像P12，以便深度信息的使用。
微处理器40处理结构光摄像头24采集的激光图案得到的初始深度图像中，每个像素的深度信息为对应方位的被摄目标与该方位上的结构光摄像头24之间的距离。即，初始深度图像P1中每个像素的深度信息为第一方位的被摄目标与结构光摄像头24a之间的距离；初始深度图像P2中每个像素的深度信息为第三方位的被摄目标与结构光摄像头24b之间的距离。在将多个方位的多张初始深度图像拼接为一帧360度的全景深度图像的过程中，首先要将每张初始深度图像中每个像素的深度信息转化成统一化深度信息，统一化深度信息表示各个方位的各个被摄目标与某个基准位置的距离。深度信息转化为统一化深度信息后，方便应用处理器40根据统一化深度信息做初始深度图像的拼接。
具体地，选择一个基准坐标系，基准坐标系可以是以某一个方位的结构光摄像头24的图像坐标系作为基准坐标系，也可以是选择其他的坐标系作为基准坐标系。以图9为例，以xo-yo-zo坐标系为基准坐标系。图9所示的坐标系xa-ya-za为结构光摄像头24a的图像坐标系，坐标系xb-yb-zb为结构光摄像头24b的图像坐标系。应用处理器50根据坐标系xa-ya-za与基准坐标系xo-yo-zo之间的旋转矩阵和平移矩阵将初始深度图像P1中每个像素的深度信息转换为统一化深度信息，根据坐标系xb-yb-zb与基准坐标系xo-yo-zo之间的旋转矩阵和平移矩阵将初始深度图像P2中每个像素的深度信息转换为统一化深度信息。
深度信息转化完成后，多张初始深度图像位于一个统一的基准坐标系下，每一张初始深度图像的一个像素点对应一个坐标(xo,yo,zo)，那么可以通过坐标匹配做初始深度图像的拼接。例如，在初始深度图像P1中某一个像素点Pa的坐标为(xo1,yo1,zo1)，在初始深度图像P2中某一个像素点Pb的坐标也为(xo1,yo1,zo1)，由于Pa和Pb在当前的基准坐标系下具有相同的坐标值，则说明像素点Pa与像素点Pb实际上为同一个点，初始深度图像P1和初始深度图像P2拼接时，像素点Pa需要和像素点Pb重合。如此，应用处理器50即可通过坐标的匹配关系进行多张初始深度图像的拼接，并得到360度的全景深度图像。
需要说明的是，基于坐标的匹配关系进行初始深度图像的拼接要求初始深度图像的分辨率需要大于一个预设分辨率。可以理解，如果初始深度图像的分辨率较低，则坐标(xo,yo,zo)的精确度也会相对较低，此时，直接根据坐标进行匹配，可能出现Pa点和Pb点实际上没有重合，而是相差一个偏移量offset，且offset的值超过误差界限值的问题。如果图像的分辨率较高，则坐标(xo,yo,zo)的精确度也会相对较高，此时，直接根据坐标进行匹配，即使Pa点和Pb点实际上没有重合，相差一个偏移量offset，但offset的值也会小于误差界限值，即处于误差允许的范围内，不会对初始深度图像的拼接造成太大影响。
可以理解，后续实施方式均可采用上述方式将两张的初始深度图像进行拼接或合成，不再一一说明。
应用处理器50还可以将两张初始深度图像与对应的两张可见光图像合成为三维场景图像，以进行显示供用户观看。例如，两张可见光图像分别为可见光图像V1和可见光图像V2，则应用处理器50分别将初始深度图像P1与可见光图像V1合成、将初始深度图像P2与可见光图像V2合成，再将合成后的两张图像进行拼接得到一帧360度的三维场景图像。或者，应用处理器50先将初始深度图像P1和初始深度图像P2拼接得到一帧360度的全景深度图像，并将可见光图像V1和可见光图像V2拼接得到一帧360度的全景可见光图像；再将全景深度图像与全景可见光图像合成为360度的三维场景图像。
请参阅图10，在一个实施例中，应用处理器50用于根据两个微处理器40分别获取的两张初始深度图像及两个摄像头组件30采集的两张场景图像识别被摄目标，或者根据一个微处理器40依次获取的两张初始深度图像及两个摄像头组件30采集的两张场景图像识别被摄目标。
具体地，当场景图像为红外光图像时，两张红外光图像可以分别是红外光图像I1和红外光图像I2。应用处理器50分别根据初始深度图像P1和红外光图像I1识别第一方位的被摄目标、根据初始深度图像P2和红外光图像I2识别第三方位的被摄目标。当场景图像为可见光图像时，两张可见光图像分别是可见光图像V1和可见光图像V2。应用处理器50分别根据初始深度图像P1和可见光图像V1识别第一方位的被摄目标、根据初始深度图像P2和可见光图像V2识别第三方位的被摄目标。
当识别被摄目标为进行人脸识别时，应用处理器50采用红外光图像作为场景图像进行人脸识别准确性更高。应用处理器50根据初始深度图像和红外光图像进行人脸识别的过程可如下：
首先，根据红外光图像进行人脸检测确定目标人脸区域。由于红外光图像包括有场景的细节信息，在获取到红外光图像之后，可以根据红外光图像进行人脸检测，从而检测出红外光图像中是否包含人脸。若红外光图像中包含人脸，则提取红外光图像中人脸所在的目标人脸区域。
然后，根据初始深度图像对目标人脸区域进行活体检测处理。由于每张初始深度图像和红外光图像是对应的，初始深度图像中包括有对应的红外光图像的深度信息，因此，可以根据初始深度图像获取与目标人脸区域对应的深度信息。进一步地，由于活体人脸是立体的，而例如图片、屏幕等显示的人脸则是平面的，因此，可以根据获取的目标人脸区域的深度信息判断目标人脸区域是立体还是平面的，从而对目标人脸区域进行活体检测。
若活体检测成功，则获取目标人脸区域对应的目标人脸属性参数，并根据目标人脸属性参数对红外光图像中的目标人脸区域进行人脸匹配处理，得到人脸匹配结果。目标人脸属性参数是指可以表征目标人脸的属性的参数，根据目标人脸属性参数可以对目标人脸进行识别和匹配处理。目标人脸属性参数包括但不限于为人脸偏转角度、人脸亮度参数、五官参数、肤质参数、几何特征参数等。电子设备100可以预先存储用于匹配的人脸属性参数。在获取到目标人脸属性参数之后，就可以将目标人脸属性参数与预先存储的人脸属性参数进行比较。若目标人脸属性参数与预先存储的人脸属性参数匹配，则人脸识别通过。
需要指出的是，应用处理器50根据初始深度图像和红外光图像进行人脸识别的具体过程并不限于此，例如应用处理器50还可以根据初始深度图像辅助检测人脸轮廓，以提高人脸识别精度等。应用处理器50根据初始深度图像和可见光图像进行人脸识别的过程与应用处理器50根据初始深度图像和红外光图像进行人脸识别的过程类似，在此不再另行阐述。
请参阅图10和图11，应用处理器50还用于在根据两张初始深度图像及两张场景图像识别被摄目标失败时，根据结构光摄像头24的视场角将两个微处理器40获取的两张初始深度图像合成为一帧合并深度图像，将两个摄像头组件30采集的两张场景图像合成为一帧合并场景图像，并根据合并深度图像和合并场景图像识别被摄目标；或者，应用处理器50还用于在根据两张初始深度图像及两张场景图像识别被摄目标失败时，根据结构光摄像头24的视场角将一个微处理器40依次获取的两张初始深度图像合成为一帧合并深度图像，将两个摄像头组件30采集的两张场景图像合成为一帧合并场景图像，并根据合并深度图像和合并场景图像识别被摄目标。
具体地，图10和图11所示的实施例中，由于每个结构光组件20的结构光摄像头24的视场角有限，可能存在人脸的一半位于初始深度图像P1、另一半位于初始深度图像P2的情形，应用处理器50将初始深度图像P1和初始深度图像P2合成为一帧合并深度图像P12，并对应将红外光图像I1和红外光图像I2(或可见光图像V1和可见光图像V2)合成为一帧合并场景图像I12(或V12)，以重新根据合并深度图像P12和合并场景图像I12(或V12)识别被摄目标。
请参阅图12和图13，在一个实施例中，应用处理器50用于根据多张初始深度图像判断被摄目标与电子设备100之间的距离变化。
具体地，每个结构光摄像头24均可以多次采集激光图案。例如，在第一时刻t1结构光摄像头24a采集激光图案，在第二时刻t2结构光摄像头24b采集激光图案(第一时刻t1与第二时刻t2位于同一交替周期T内)，此时，两个微处理器40对应得到初始深度图像P11、初始深度图像P21，或者一个微处理器40依次得到初始深度图像P11、初始深度图像P21；在第三时刻t3结构光摄像头24a采集激光图案，在第四时刻t4结构光摄像头24b采集激光图案(第三时刻t3与第四时刻t4位于同一交替周期T内)，此时，两个微处理器40对应得到初始深度图像P12、初始深度图像P22，或者一个微处理器40依次得到初始深度图像P12、初始深度图像P22。然后，应用处理器50分别根据初始深度图像P11和初始深度图像P12判断第一方位的被摄目标与电子设备100之间的距离变化、根据初始深度图像P21和初始深度图像P22判断第三方位的被摄目标与电子设备100之间的距离变化。
可以理解，由于初始深度图像中包括有被摄目标的深度信息，因此，应用处理器50可以根据多个连续时刻的深度信息变化判断对应方位的被摄目标与电子设备100之间的距离变化。
请参阅图14，应用处理器50还用于在根据多张初始深度图像判断距离变化失败时，根据结构光摄像头24的视场角将两个微处理器40获取的两张初始深度图像合成为一帧合并深度图像，应用处理器50连续执行合成步骤以得到多帧连续的合并深度图像，并根据多帧合并深度图像判断距离变化；或者，应用处理器50还用于在根据多张初始深度图像判断距离变化失败时，根据结构光摄像头24的视场角将一个微处理器40依次获取的两张初始深度图像合成为一帧合并深度图像，应用处理器50连续执行合成步骤以得到多帧连续的合并深度图像，并根据多帧合并深度图像判断距离变化。
具体地，图14所示的实施例中，由于每个结构光组件20的结构光摄像头24的视场角有限，可能存在人脸的一半位于初始深度图像P11、另一半位于初始深度图像P21的情形，应用处理器50将第一时刻t1的初始深度图像P11和第二时刻t2的初始深度图像P21合成为一帧合并深度图像P121，并对应将第三时刻t3的初始深度图像P12和第四时刻t4的初始深度图像P22合成为一帧合并深度图像P122，然后根据合并后的这两帧合并深度图像P121和P122重新判断距离变化。
请参阅图14，当根据多张初始深度图像判断距离变化为距离减小时，或者根据多帧合并深度图像判断距离变化为距离减小时，应用处理器50会提高从微处理器40传输的多张初始深度图像中采集用以判断距离变化的初始深度图像的帧率。具体地，当微处理器40的个数为多个时，应用处理器50会提高从至少一个微处理器40传输的多张初始深度图像中采集用以判断距离变化的初始深度图像的帧率；当微处理器40的个数为一个时，应用处理器50会提高从该微处理器40传输的多张初始深度图像中采集用以判断距离变化的初始深度图像的帧率。
可以理解，当被摄目标与电子设备100之间的距离减小时，电子设备100无法预判该距离减小是否存在危险性，因此，应用处理器50可提高从微处理器40传输的多张初始深度图像中采集用以判断距离变化的初始深度图像的帧率，以更加密切的关注该距离变化。具体地，当判断某一个方位对应的距离减小时，应用处理器50可提高该方位从微处理器40传输的多张初始深度图像中采集用以判断距离变化的初始深度图像的帧率。
例如，在第一时刻t1一个微处理器40获得初始深度图像P11、在第二时刻t2另一个微处理器40获得初始深度图像P21(或者一个微处理器40在第一时刻t1获得初始深度图像P11并在第二时刻t2获得初始深度图像P21)；在第三时刻t3一个微处理器40获得初始深度图像P12、在第四时刻t4另一个微处理器40获得初始深度图像P22(或者一个微处理器40在第三时刻t3获得初始深度图像P12并在第四时刻t4获得初始深度图像P22)；在第五时刻t5一个微处理器40获得初始深度图像P13、在第六时刻t6另一个微处理器40获得初始深度图像P23(或者一个微处理器40在第五时刻t5获得初始深度图像P13并在第六时刻t6获得初始深度图像P23)；在第七时刻t7一个微处理器40获得初始深度图像P14、在第八时刻t8另一个微处理器40获得初始深度图像P24(或者一个微处理器40在第七时刻t7获得初始深度图像P14并在第八时刻t8获得初始深度图像P24)。其中，第一时刻t1和第二时刻t2位于同一个交替周期T内，第三时刻t3和第四时刻t4位于同一个交替周期T内，第五时刻t5和第六时刻t6位于同一个交替周期T内，第七时刻t7和第八时刻t8位于同一个交替周期T内。
在正常情况下，应用处理器50选取初始深度图像P11和初始深度图像P14判断第一方位的被摄目标与电子设备100之间的距离变化；选取初始深度图像P21和初始深度图像P24判断第三方位的被摄目标与电子设备100之间的距离变化。应用处理器50在各个方位采集初始深度图像的帧率均为每间隔两帧采集一帧，即每三帧选取一帧。
当根据初始深度图像P11和初始深度图像P14判断出第一方位对应的距离减小时，应用处理器50则会选取初始深度图像P11和初始深度图像P13判断第一方位的被摄目标与电子设备100之间的距离变化。应用处理器50采集第一方位的初始深度图像的帧率变为每间隔一帧采集一帧，即每两帧选取一帧。而其他方位的帧率保持不变，即应用处理器50仍选取初始深度图像P21和初始深度图像P24判断距离变化。
当然，应用处理器50也可以在判断出任一个方位对应的距离减小时，提高从微处理器40传输的每个方位的多张初始深度图像中采集用以判断距离变化的初始深度图像的帧率。即：当根据初始深度图像P11和初始深度图像P14判断出第一方位的被摄目标与电子设备100之间的距离减小时，应用处理器50则会选取初始深度图像P11和初始深度图像P13判断第一方位的被摄目标与电子设备100之间的距离变化、选取初始深度图像P21和初始深度图像P23判断第三方位的被摄目标与电子设备100之间的距离变化。
应用处理器50还可以在距离减小时，结合可见光图像或红外光图像来判断该距离变化。具体地，应用处理器50先根据可见光图像或红外光图像识别被摄目标，然后再根据多个时刻的初始深度图像判断距离变化，从而针对不同的被摄目标与不同的距离控制电子设备100执行不同的操作。或者，在距离减小时，微处理器40控制提高对应结构光投射器22投射激光图案及结构光摄像头24曝光的频率等。
需要说明的是，本实施方式的电子设备100还可以作为一个外置终端，固定安装或可拆卸安装在例如手机、平板电脑、笔记本电脑等便携式电子装置上使用外，还可固定安装在车辆本体(如图13和图14所示)、无人机机身、机器人本体或船舶本体等可移动物体上使用。具体使用时，当电子设备100如前所述根据多张初始深度图像合成为一帧全景深度图像，全景深度图像可以用于三维建模、即时定位与地图构建(simultaneous localizationand mapping，SLAM)、增强现实显示。当电子设备100如前所述识别被摄目标时，则可应用于便携式电子装置的人脸识别解锁、支付，或应用于机器人、车辆、无人机、船舶等的避障。当电子设备100如前所述判断被摄目标与电子设备100之间的距离变化时，则可应用于机器人、车辆、无人机、船舶等自动行驶、物体追踪等。
请参阅图2和图15，本申请实施方式还提供一种移动平台300。移动平台300包括本体10和设置在本体10上的多个结构光组件20。多个结构光组件20分别位于本体10的多个不同方位。每个结构光组件20均包括结构光投射器22和结构光摄像头24。每个结构光投射器22及每个结构光摄像头24的视场角均为180度～200度中的任意值。结构光投射器22用于向本体10外投射激光图案，结构光摄像头24用于采集被摄目标反射的对应的结构光投射器22投射的激光图案。多个结构光组件20中的结构光投射器22分时投射激光图案，多个结构光组件20中的结构光摄像头24分时曝光，以获取全景深度图像。
具体地，本体10可以为车辆本体、无人机机身、机器人本体或船舶本体。
请参阅图15，当本体10为车辆本体时，多个结构光组件20的数量为两个，两个结构光组件20分别安装在车辆本体的两侧，例如，安装在车头与车尾，或者，安装在车身右侧与车身左侧。车辆本体可以带动两个结构光组件20在道路上移动，构建行进路线上的360度全景深度图像，以作为参考地图等；或者获取多个不同方位的初始深度图像，以识别被摄目标、判断被摄目标与移动平台300之间的距离变化，从而控制车辆本体加速、减速、停车、绕行等，实现无人驾驶避障，例如，在车辆在道路上移动时，若识别到被摄目标与车辆的距离减小且被摄目标为道路上的凹坑，则车辆以第一加速度减速，若识别到被摄目标与车辆的距离减小且被摄目标为人，则车辆以第二加速度减速，其中第一加速度的绝对值小于第二加速度的绝对值。如此，在距离减小时根据不同的被摄目标执行不同的操作，可以使得车辆更加智能化。
请参阅图16，当本体10为无人机机身时，多个结构光组件20的数量为两个，两个结构光组件20分别安装在无人机机身的相对的两侧，如前、后两侧或左、右两侧等，或者安装在无人机机身上搭载的云台的相对的两侧。无人机机身可以带动多个结构光组件20在空中飞行，以进行航拍、巡检等，无人机可将获取的全景深度图像传回给地面控制端，也可直接进行SLAM。多个结构光组件20可实现无人机加速、减速、停止、避障、物体追踪。
请参阅图17，当本体10为机器人本体时，例如扫地机器人，多个结构光组件20的数量为两个，两个结构光组件20分别安装在机器人本体的相对的两侧。机器人本体可以带动多个结构光组件20在家中运动，获取多个不同方位的初始深度图像，以识别被摄目标、判断被摄目标与移动平台300之间的距离变化，从而控制机器人本体运动，实现机器人清除垃圾、避障等。
请参阅图18，当本体10为船舶本体时，多个结构光组件20的数量为两个，两个结构光组件20分别安装在船舶本体的相对的两侧。船舶本体可以带动结构光组件20运动，获取多个不同方位的初始深度图像，从而在恶劣环境(例如起雾环境下)准确地识别被摄目标、判断被摄目标与移动平台300之间的距离变化，提高海上航行的安全性等。
本申请实施方式的移动平台300为能够独立移动的平台，多个结构光组件20安装在移动平台300的本体10上，以获取全景深度图像。而本申请实施方式的电子设备100本身一般不能够独立移动，电子设备100可进一步搭载于类似于移动平台300等能够移动的装置上，从而帮助该装置获取全景深度图像。
需要指出的是，上述对电子设备100的本体10、结构光组件20、摄像头组件30、微处理器40和应用处理器50的解释说明同样适用于本申请实施方式的移动平台300，在此不再重复说明。
尽管上面已经示出和描述了本申请的实施例，可以理解的是，上述实施例是示例性的，不能理解为对本申请的限制，本领域的普通技术人员在本申请的范围内可以对上述实施例进行变化、修改、替换和变型，本申请的范围由权利要求及其等同物限定。

Claims (17)

1.一种电子设备，其特征在于，所述电子设备包括：
本体；和
设置在所述本体上的多个结构光组件，多个所述结构光组件分别位于所述本体的多个不同方位，每个所述结构光组件均包括结构光投射器和结构光摄像头，每个所述结构光投射器及每个所述结构光摄像头的视场角均为180度～200度中的任意值，所述结构光投射器用于向所述本体外投射激光图案，所述结构光摄像头用于采集被摄目标反射的对应的所述结构光投射器投射的所述激光图案；
多个所述结构光组件中的所述结构光投射器分时投射所述激光图案，多个所述结构光组件中的所述结构光摄像头分时曝光，以获取全景深度图像，当任意一个所述结构光组件中的所述结构光摄像头曝光时，其他的所述结构光组件中的所述结构光投射器均关闭；
微处理器，所述微处理器处理每个所述结构光摄像头采集的所述激光图案以得到初始深度图像；
应用处理器，在根据每个图像坐标系与基准坐标系之间的旋转矩阵与平移矩阵将每个所述初始深度图像中每个像素的深度信息转化成在所述基准坐标系下的统一化深度信息后，每个所述初始深度图像中的任意一个像素点均对应一个坐标值，所述应用处理器用于根据所述统一化深度信息并通过坐标匹配对转化后的多个初始深度图像进行拼接以获取所述全景深度图像；在拼接多个所述初始深度图像时，若存在坐标值相同的所述像素点，且所述像素点对应的所述初始深度图像的分辨率均大于预设分辨率，则将坐标值相同的所述像素点重合。
2.根据权利要求1所述的电子设备，其特征在于，所述结构光组件包括两个，两个所述结构光组件中的两个所述结构光投射器依次接续且不间断地投射所述激光图案，每个所述结构光组件中的所述结构光摄像头的曝光时间位于该结构光组件中的所述结构光投射器的投射时间范围内。
3.根据权利要求1所述的电子设备，其特征在于，所述结构光组件包括两个，两个所述结构光组件中的两个所述结构光投射器依次接续且间隔预定时间投射所述激光图案，两个所述结构光组件中的两个所述结构光摄像头依次接续且间隔预定时间曝光。
4.根据权利要求1所述的电子设备，其特征在于，所述结构光组件包括两个，两个所述结构光组件中的两个所述结构光投射器依次接续且间隔预定时间投射所述激光图案，两个所述结构光组件中的两个所述结构光摄像头依次接续且不间断地曝光。
5.根据权利要求1所述的电子设备，其特征在于，所述结构光组件包括两个，所述电子设备还包括所述应用处理器及两个所述微处理器，每个所述微处理器对应一个所述结构光组件，两个所述微处理器均与所述应用处理器连接，每个所述微处理器用于处理对应的所述结构光组件的所述结构光摄像头采集的所述激光图案得到初始深度图像并传输至所述应用处理器；所述应用处理器用于根据所述结构光摄像头的视场角将两个所述微处理器获取的两张所述初始深度图像合成为一帧所述全景深度图像。
6.根据权利要求1所述的电子设备，其特征在于，所述结构光组件包括两个，所述电子设备还包括所述应用处理器及一个所述微处理器，所述微处理器与所述应用处理器连接，所述微处理器用于依次处理两个所述结构光组件的两个所述结构光摄像头采集的所述激光图案得到两张初始深度图像并传输至所述应用处理器；所述应用处理器用于根据所述结构光摄像头的视场角将所述微处理器获取的两张所述初始深度图像合成为一帧所述全景深度图像。
7.根据权利要求1所述的电子设备，其特征在于，所述结构光组件包括两个，所述电子设备还包括所述应用处理器及两个所述微处理器，每个所述微处理器对应一个所述结构光组件，两个所述微处理器均与所述应用处理器连接，每个所述微处理器用于处理对应的所述结构光组件的所述结构光摄像头采集的所述激光图案得到初始深度图像并传输至所述应用处理器；
所述电子设备还包括设置在所述本体上的两个摄像头组件，每个所述摄像头组件对应一个所述结构光组件，两个所述摄像头组件均与所述应用处理器连接，每个所述摄像头组件用于采集所述被摄目标的场景图像并输出至所述应用处理器；
所述应用处理器用于根据两个所述微处理器获取的两张所述初始深度图像及两个所述摄像头组件采集的两张所述场景图像识别所述被摄目标。
8.根据权利要求7所述的电子设备，其特征在于，所述应用处理器还用于在根据两张所述初始深度图像及两张所述场景图像识别所述被摄目标失败时，根据所述结构光摄像头的视场角将两个所述微处理器获取的两张所述初始深度图像合成为一帧合并深度图像，将两个所述摄像头组件采集的两张所述场景图像合成为一帧合并场景图像，并根据所述合并深度图像和所述合并场景图像识别所述被摄目标。
9.根据权利要求1所述的电子设备，其特征在于，所述结构光组件包括两个，所述电子设备还包括所述应用处理器及一个所述微处理器，所述微处理器与所述应用处理器连接，所述微处理器用于依次处理两个所述结构光组件的两个所述结构光摄像头采集的所述激光图案得到两张初始深度图像并传输至所述应用处理器；
所述电子设备还包括设置在所述本体上的两个摄像头组件，每个所述摄像头组件对应一个所述结构光组件，两个所述摄像头组件均与所述应用处理器连接，每个所述摄像头组件用于采集所述被摄目标的场景图像并输出至所述应用处理器；
所述应用处理器用于根据所述微处理器获取的两张所述初始深度图像及两个所述摄像头组件采集的两张所述场景图像识别所述被摄目标。
10.根据权利要求9所述的电子设备，其特征在于，所述应用处理器还用于在根据两张所述初始深度图像及两张所述场景图像识别所述被摄目标失败时，根据所述结构光摄像头的视场角将所述微处理器获取的两张所述初始深度图像合成为一帧合并深度图像，将两个所述摄像头组件采集的两张所述场景图像合成为一帧合并场景图像，并根据所述合并深度图像和所述合并场景图像识别所述被摄目标。
11.根据权利要求1所述的电子设备，其特征在于，所述结构光组件包括两个，所述电子设备还包括所述应用处理器及两个所述微处理器，每个所述微处理器对应一个所述结构光组件，两个所述微处理器均与所述应用处理器连接，每个所述微处理器用于处理对应的所述结构光组件的所述结构光摄像头多次采集的所述激光图案得到多张初始深度图像并传输至所述应用处理器；所述应用处理器用于根据多张所述初始深度图像判断所述被摄目标与所述电子设备之间的距离变化。
12.根据权利要求11所述的电子设备，其特征在于，所述应用处理器还用于在根据多张所述初始深度图像判断所述距离变化失败时，根据所述结构光摄像头的视场角将两个所述微处理器获取的两张所述初始深度图像合成为一帧合并深度图像，所述应用处理器连续执行合成步骤以得到多帧连续的所述合并深度图像，并根据多帧所述合并深度图像判断所述距离变化。
13.根据权利要求1所述的电子设备，其特征在于，所述结构光组件包括两个，所述电子设备还包括所述应用处理器及一个所述微处理器，所述微处理器与所述应用处理器连接，所述微处理器用于依次处理两个所述结构光组件的两个所述结构光摄像头多次采集的所述激光图案得到多张初始深度图像并传输至所述应用处理器；所述应用处理器用于根据多张所述初始深度图像判断所述被摄目标与所述电子设备之间的距离变化。
14.根据权利要求13所述的电子设备，其特征在于，所述应用处理器还用于在根据多张所述初始深度图像判断所述距离变化失败时，根据所述结构光摄像头的视场角将所述微处理器获取的两张所述初始深度图像合成为一帧合并深度图像，所述应用处理器连续执行合成步骤以得到多帧连续的所述合并深度图像，并根据多帧所述合并深度图像判断所述距离变化。
15.根据权利要求11至14任意一项所述的电子设备，其特征在于，所述应用处理器还用于在判断所述距离变化为距离减小时，提高从所述微处理器传输的多张所述初始深度图像中采集用以判断所述距离变化的所述初始深度图像的帧率。
16.一种移动平台，其特征在于，所述移动平台包括：
本体；和
设置在所述本体上的多个结构光组件，多个所述结构光组件分别位于所述本体的多个不同方位，每个所述结构光组件均包括结构光投射器和结构光摄像头，每个所述结构光投射器及每个所述结构光摄像头的视场角均为180度～200度中的任意值，所述结构光投射器用于向所述本体外投射激光图案，所述结构光摄像头用于采集被摄目标反射的对应的所述结构光投射器投射的所述激光图案；
多个所述结构光组件中的所述结构光投射器分时投射所述激光图案，多个所述结构光组件中的所述结构光摄像头分时曝光，以获取全景深度图像，当任意一个所述结构光组件中的所述结构光摄像头曝光时，其他的所述结构光组件中的所述结构光投射器均关闭；
微处理器，所述微处理器处理每个所述结构光摄像头采集的所述激光图案以得到初始深度图像；
应用处理器，在根据每个图像坐标系与基准坐标系之间的旋转矩阵与平移矩阵将每个所述初始深度图像中每个像素的深度信息转化成在所述基准坐标系下的统一化深度信息后，每个所述初始深度图像中的任意一个像素点均对应一个坐标值，所述应用处理器用于根据所述统一化深度信息并通过坐标匹配对转化后的多个初始深度图像进行拼接以获取所述全景深度图像；在拼接多个所述初始深度图像时，若存在坐标值相同的所述像素点，且所述像素点对应的所述初始深度图像的分辨率均大于预设分辨率，则将坐标值相同的所述像素点重合。
17.根据权利要求16所述的移动平台，其特征在于，所述本体为车辆本体、无人机机身、机器人本体或船舶本体。
CN201910007563.6A 2019-01-04 2019-01-04 电子设备和移动平台 Active CN109660732B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910007563.6A CN109660732B (zh) 2019-01-04 2019-01-04 电子设备和移动平台

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910007563.6A CN109660732B (zh) 2019-01-04 2019-01-04 电子设备和移动平台

Publications (2)

Publication Number Publication Date
CN109660732A CN109660732A (zh) 2019-04-19
CN109660732B true CN109660732B (zh) 2021-07-23

Family

ID=66118763

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910007563.6A Active CN109660732B (zh) 2019-01-04 2019-01-04 电子设备和移动平台

Country Status (1)

Country Link
CN (1) CN109660732B (zh)

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101494736A (zh) * 2009-02-10 2009-07-29 杨立群 一种拍摄系统
CN102129550A (zh) * 2011-02-17 2011-07-20 华南理工大学 场景感知方法
CN104055489A (zh) * 2014-07-01 2014-09-24 李栋 一种血管成像装置
CN106991716A (zh) * 2016-08-08 2017-07-28 深圳市圆周率软件科技有限责任公司 一种全景三维建模装置、方法及系统
CN107263480A (zh) * 2017-07-21 2017-10-20 深圳市萨斯智能科技有限公司 一种机器人操作方法和机器人
CN107465906A (zh) * 2017-08-09 2017-12-12 广东欧珀移动通信有限公司 场景的全景拍摄方法、装置及终端设备
CN107742296A (zh) * 2017-09-11 2018-02-27 广东欧珀移动通信有限公司 动态图像生成方法和电子装置
CN108174180A (zh) * 2018-01-02 2018-06-15 京东方科技集团股份有限公司 一种显示装置、显示系统及三维显示方法
CN108471487A (zh) * 2017-02-23 2018-08-31 钰立微电子股份有限公司 产生全景深度图像的图像装置及相关图像装置
CN108965751A (zh) * 2017-05-25 2018-12-07 钰立微电子股份有限公司 用于产生360度深度图的图像装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10848731B2 (en) * 2012-02-24 2020-11-24 Matterport, Inc. Capturing and aligning panoramic image and depth data
US10419703B2 (en) * 2014-06-20 2019-09-17 Qualcomm Incorporated Automatic multiple depth cameras synchronization using time sharing
US10003740B2 (en) * 2015-07-13 2018-06-19 Futurewei Technologies, Inc. Increasing spatial resolution of panoramic video captured by a camera array
CN106373088B (zh) * 2016-08-25 2019-08-06 中国电子科技集团公司第十研究所 大倾斜低重叠率航空图像的快速拼接方法
CN108122191B (zh) * 2016-11-29 2021-07-06 成都美若梦景科技有限公司 鱼眼图像拼接成全景图像和全景视频的方法及装置
US10266263B2 (en) * 2017-01-23 2019-04-23 Hangzhou Zero Zero Technology Co., Ltd. System and method for omni-directional obstacle avoidance in aerial systems

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101494736A (zh) * 2009-02-10 2009-07-29 杨立群 一种拍摄系统
CN102129550A (zh) * 2011-02-17 2011-07-20 华南理工大学 场景感知方法
CN104055489A (zh) * 2014-07-01 2014-09-24 李栋 一种血管成像装置
CN106991716A (zh) * 2016-08-08 2017-07-28 深圳市圆周率软件科技有限责任公司 一种全景三维建模装置、方法及系统
CN108471487A (zh) * 2017-02-23 2018-08-31 钰立微电子股份有限公司 产生全景深度图像的图像装置及相关图像装置
CN108965751A (zh) * 2017-05-25 2018-12-07 钰立微电子股份有限公司 用于产生360度深度图的图像装置
CN107263480A (zh) * 2017-07-21 2017-10-20 深圳市萨斯智能科技有限公司 一种机器人操作方法和机器人
CN107465906A (zh) * 2017-08-09 2017-12-12 广东欧珀移动通信有限公司 场景的全景拍摄方法、装置及终端设备
CN107742296A (zh) * 2017-09-11 2018-02-27 广东欧珀移动通信有限公司 动态图像生成方法和电子装置
CN108174180A (zh) * 2018-01-02 2018-06-15 京东方科技集团股份有限公司 一种显示装置、显示系统及三维显示方法

Also Published As

Publication number Publication date
CN109660732A (zh) 2019-04-19

Similar Documents

Publication Publication Date Title
JP4825980B2 (ja) 魚眼カメラの校正方法。
US10085011B2 (en) Image calibrating, stitching and depth rebuilding method of a panoramic fish-eye camera and a system thereof
EP3028252B1 (en) Rolling sequential bundle adjustment
US10410089B2 (en) Training assistance using synthetic images
Bensrhair et al. A cooperative approach to vision-based vehicle detection
CN109618108B (zh) 电子设备和移动平台
JP4825971B2 (ja) 距離算出装置、距離算出方法、構造解析装置及び構造解析方法。
CN112444242B (zh) 一种位姿优化方法及装置
US20200074196A1 (en) Method and apparatus for recognizing object, device, vehicle and medium
KR102436730B1 (ko) 가상 스크린의 파라미터 추정 방법 및 장치
CN109862275A (zh) 电子设备和移动平台
CN113034612B (zh) 一种标定装置、方法及深度相机
CN111429521B (zh) 相机与激光雷达的外参标定方法、装置、介质及电子设备
CN109618085B (zh) 电子设备和移动平台
CN109587304B (zh) 电子设备和移动平台
CN111105351A (zh) 一种视频序列影像拼接方法及装置
CN109803089B (zh) 电子设备和移动平台
JP2016148956A (ja) 位置合わせ装置、位置合わせ方法及び位置合わせ用コンピュータプログラム
CN109660731B (zh) 电子设备和移动平台
CN109587303B (zh) 电子设备和移动平台
CN109660733B (zh) 电子设备和移动平台
CN109660732B (zh) 电子设备和移动平台
CN109788195B (zh) 电子设备和移动平台
CN114821544B (zh) 感知信息生成方法、装置、车辆、电子设备及存储介质
CN113378605A (zh) 多源信息融合方法及装置、电子设备和存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant