CN109085603A - 光学三维成像系统和彩色三维图像成像方法 - Google Patents
光学三维成像系统和彩色三维图像成像方法 Download PDFInfo
- Publication number
- CN109085603A CN109085603A CN201710448077.9A CN201710448077A CN109085603A CN 109085603 A CN109085603 A CN 109085603A CN 201710448077 A CN201710448077 A CN 201710448077A CN 109085603 A CN109085603 A CN 109085603A
- Authority
- CN
- China
- Prior art keywords
- rgb
- sensor
- depth
- pixel
- image data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/481—Constructional features, e.g. arrangements of optical elements
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Electromagnetism (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Spectrometry And Color Measurement (AREA)
Abstract
本发明提供一种光学三维图像成像系统,其包括TOF传感器、RGB传感器、用于提供具有预设波长的测量光的主动光源和控制器,其中该控制器分别与该TOF传感器和该RGB传感器可通电地相连接,其中该TOF传感器被设置能够感应被测物体反射的该测量光,并生成相应深度检测数据,和该RGB传感器被设置能够感应被测物体反射的可见光,并生成相应RGB图像数据,其中该控制器被设置分别自该TOF传感器和该RGB传感器接收该深度检测数据和该RGB图像数据,并为该深度检测数据和该RGB图像数据建立相互之间的对应,以确定该RGB图像数据中的每个像素的三维空间信息。
Description
技术领域
本发明涉及光学三维成像技术领域,尤其涉及一种能够实现彩色三维图像成像的三维成像系统。本发明进一步涉及一种彩色三维图像成像方法。
背景技术
随着激光技术、计算机及图像处理技术的不断发展,光学三维测量技术在逐渐成熟。现有得到实用的光学三维测量技术可被分为接触式和非接触式两种,其中前者需要探针直接接触被测物体表面,而后者无需与被测物体发生直接接触。非接触三位测量技术基于原理可被分为三种:飞行时间法、干涉法和三角法。飞行时间法(Time Of Flight,TOF)通过测量测量仪器发出的脉冲信号从发射到接收的时间间隔t(常被称为脉冲测距法)或激光往返被测物体一次所产生的相位(相位差测距法)来实现对被测物体的三维测量,其中基于激光的相位差测距法因为其具有较高的精度、良好的普适性和易于小型化的优点,被广泛应用在手势控制、3D建模、汽车雷达和机器人视觉系统等多个领域。
因此,基于激光测距的TOF三维测量技术主要是通过TOF深度相机捕捉被测物体反射的测量光,然后根据测量光由发出到被捕获之间的时间差来计算物体与TOF深度相机的距离。然而,现有的TOF深度相机在获取被测物体的深度信息和实现三维成像时,无法获得被测物体表面颜色。这限制了光学三维测量技术的广泛应用,尤其是限制了其在电子消费品的普及。
发明内容
本发明的主要目的在于提供一种用于彩色三维图像成像的三维成像系统,其中该三维成像系统能够生成彩色三维图像,从而给使用者带来更好体验。
本发明的另一目的在于提供一种用于彩色三维图像成像的三维成像系统,其中该三维成像系统能够结合基于TOF三维测量技术的相位差测距法和RGB光学成像得到彩色光学三维图像。
本发明的另一目的在于提供一种用于实现彩色三维图像成像的三维成像系统,其中该三维成像系统所得到的彩色三维图像具有较高的分辨率。
本发明的另一目的在于提供一种用于彩色三维图像成像的三维成像系统,其中该三维成像系统所得到的彩色三维图像相对于普通图像具有更好的对比度。尤其是,被测物体不同位置和不同物体之间的对比度更加明显。本发明的另一目的在于提供一种用于彩色三维图像成像的三维成像系统,其中该三维成像系统所得到的彩色三维图像可直接用于被测物体的三维建模,且使用者无需再对根据彩色三维图像得到的三维模型表面进行色彩渲染。
本发明的另一目的在于提供一种用于彩色三维图像成像的三维成像系统,其中该三维成像系统的成像并不影响现有的对目标图像的分割、标记和跟踪等应用。
本发明的另一目的在于提供一种用于彩色三维图像成像的三维成像系统,其中本发明改进后的三维成像系统相对现有的三维成像系统并没有增加精密和复杂的部件。换句话说,本发明改进后的三维成像系统相对现有的三维成像系统增加的部件的生产成本低廉和结构简单。
本发明的另一目的在于提供一种用于彩色三维图像成像的三维成像系统,其中本发明改进后的该三维成像系统的应用领域将更为广泛
通过下面的描述,本发明的其它优势和特征将会变得显而易见,并可以通过权利要求书中特别指出的手段和组合得到实现。
依本发明,前述以及其它目的和优势可以通过一种三维成像系统被实现,其中该三维成像系统包括:
TOF传感器;
RGB传感器;
主动光源,用于提供具有预设波长的测量光;和
控制器,其中该控制器分别与该TOF传感器和RGB传感器可通电地相连接,其中该TOF传感器被设置能够感应被测物体反射的所述测量光,并生成相应深度检测数据,和该RGB传感器被设置能够感应被测物体反射的可见光,并生成相应RGB图像数据,其中该控制器被设置能够分别自该TOF传感器和RGB传感器接收该深度检测数据和该RGB图像数据,并为该深度检测数据和该RGB图像数据建立相互之间的对应,以确定该RGB图像数据中的每个像素的三维空间信息。
本发明进一步提供一种彩色三维图像成像方法,其包括以下步骤:
(A)检测被测物体反射的测量光,并根据检测到的该测量光的深度(值)生成相应的深度检测数据;
(B)检测被测物体反射的可见光,并根据检测到的该可见光的RGB数据生成相应的RGB图像数据,其中该RGB图像数据中的每个像素被定义为一个像素点;
(C)映射被检测到的测量光的深度值至RGB图像数据形成的图像,其中每个深度值被定义为一个深度标记;
(D)根据公式D=D1*q1+…+Dn*qn,计算该RGB图像数据的每个像素点的深度,其中D为像素点的深度,D1…Dn分别为距离该像素点最近的N个深度标记,其中q值的计算公式为qi=(1/Di)/((1/D1)+…+(1/Dn));和
(E)基于具有深度值的该RGB图像数据的像素点,实现被测物体的彩色三维成像。
本发明进一步提供一种彩色三维图像成像方法,其包括以下步骤:
(A)检测被测物体反射的测量光,并根据检测到的该测量光的深度(值)生成相应的深度检测数据,和根据TOF标定参数,校正TOF传感器生成的深度检测数据,以得到有效深度检测数据;
(B)检测被测物体反射的可见光,并根据检测到的该可见光的RGB数据生成相应的RGB图像数据,和对RGB图像数据进行降噪处理,其中经过降噪处理后的该RGB图像数据中的每个像素被定义为一个像素点;
(C)映射有效深度检测数据中测量光的深度值至RGB图像数据形成的图像,其中每个被映射深度值被定义为一个深度标记;
(D)根据公式D=D1*q1+…+Dn*qn,计算该RGB图像数据的每个像素点的深度,其中D为像素点的深度,D1…Dn分别为距离该像素点最近的N个深度标记,其中q值的计算公式为qi=(1/Di)/((1/D1)+…+(1/Dn));和
(E)基于具有深度值的该RGB图像数据的像素点,实现被测物体的彩色三维成像。
优选地,该步骤(A)和该步骤(B)没有先后顺序。
本发明进一步提供一种彩色三维图像成像方法,其包括以下步骤:
(a)检测被测物体反射的测量光,并根据检测到的该测量光的深度值生成相应的深度检测数据,其中该深度检测数据中的每个测量光的深度值被定义为一个深度标记;
(b)检测被测物体反射的可见光,并根据检测到的该可见光的RGB数据生成相应的RGB图像数据,其中该RGB图像数据中的每个像素被定义为一个像素点;
(c)确定与该深度检测数据的每个深度标记相对应的该RGB图像数据的像素点;
(d)根据该深度检测数据中的每个深度标记相对应的该RGB图像数据的像素点的像素值,计算相应深度标记的像素值;和
(e)基于具有像素值的深度标记,实现被测物体的彩色三维成像。
通过对随后的描述和附图的理解,本发明进一步的目的和优势将得以充分体现。
本发明的这些和其它目的、特点和优势,通过下述的详细说明,附图和权利要求得以充分体现。
附图说明
图1A是根据本发明较佳实施例的光学三维成像系统的结构示意图。
图1B所示的是根据本发明较佳实施例的光学三维成像系统的控制器的结构示意图。
图2是根据上述本发明较佳实施例的彩色三维图像成像方法的流程图。
图3是根据上述本发明较佳实施例的被测物体表面深度检测方法的流程图,其中该被测物体表面深度检测方法被用于彩色三维图像成像。
图4是根据上述本发明较佳实施例的被测物体表面RGB成像方法的流程图,其中该被测物体表面RGB成像方法被用于彩色三维图像成像。
图5是根据上述本发明较佳实施例的将被测物体RGB图像和深度图像相融合的流程图,其被用于彩色三维图像成像。
图6是根据上述本发明较佳实施例的为被测物体RGB图像的每个像素建立深度的方法流程图。
图7是根据上述本发明较佳实施例的为被测物体RGB图像的每个像素建立深度的方法的一种可选实施的流程图。
具体实施方式
以下描述用于揭露本发明以使本领域技术人员能够实现本发明。以下描述中的优选实施例只作为举例,本领域技术人员可以想到其他显而易见的变型。在以下描述中界定的本发明的基本原理可以应用于其他实施方案、变形方案、改进方案、等同方案以及没有背离本发明的精神和范围的其他技术方案。
本领域技术人员应理解的是,在本发明的揭露中,术语“纵向”、“横向”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”“内”、“外”等指示的方位或位置关系是基于附图所示的方位或位置关系,其仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此上述术语不能理解为对本发明的限制。
可以理解的是,术语“一”应理解为“至少一”或“一个或多个”,即在一个实施例中,一个元件的数量可以为一个,而在另外的实施例中,该元件的数量可以为多个,术语“一”不能理解为对数量的限制。
参考附图之图1A和图1B,依本发明较佳实施例的光学三维成像系统被阐明,其中本发明光学三维成像系统包括至少一个TOF传感器10、至少一个RGB传感器20、至少一个用于提供测量光的主动光源30和一个控制器40,其中该控制器40分别与该TOF传感器10和RGB传感器20可通电地相连接,其中该TOF传感器10被设置能够接收(和/或感应)被测物体反射的所述测量光,并生成相应深度检测数据,和该RGB传感器20被设置能够接收(和/或感应)被测物体反射的可见光,并生成相应RGB图像数据,其中该控制器40被设置能够分别自该TOF传感器和RGB传感器接收该深度检测数据和该RGB图像数据,并为该深度检测数据和该RGB图像数据建立相互之间的对应,以确定该RGB图像数据中的每个像素的三维空间信息,从而实现被测物体的彩色三维成像。
值得注意的是,本文中的TOF传感器10和主动光源30形成深度检测系统,用以检测被测物体(或目标物体)的表面深度,从而得到被测物体深度成像数据。可以理解的是,本发明光学三维成像系统的主动光源30发射的测量光被目标物体反射后,进一步被TOF传感器10感应和检测到。因此,TOF传感器10检测到的每个测量光点数据均具有深度(值)信息。另一方面,本发明光学三维成像系统的RGB传感器20检测目标物体反射的可见光,并得到被测物体的RGB图像。本领域技术人员可知,本发明光学三维成像系统的主动光源30发出(发射)的测量光可以是红外光。优选地,该主动光源30发出的测量光为具有一个预设波长的激光。因此,该主动光源30优选为激光器。更优选地,该主动光源30为垂直腔面发射激光器。本领域技术人员可知,本发明光学三维成像系统的该控制器40可以是可编程SOC芯片,或包括至少一个可编程SOC芯片。
如附图之图1A和图1B所示,依本发明较佳实施例的光学三维成像系统的该控制器40包括一个控制模块41,其中该控制模块41被设置能够根据控制指令,如来自上位机的控制指令,控制TOF传感器10和/或该RGB传感器20运行。该控制模块41也可根据预设程序控制TOF传感器10和/或该RGB传感器20运行。进一步地,该控制模块41被设置能够控制该控制器40的其它结构模块的运行,如控制该控制器40的一个数据处理模块42对TOF传感器10生成的深度检测数据和RGB传感器20生成的RGB图像数据进行处理,以建立该深度检测数据和该RGB图像数据之间的对应。
如附图之图1A和图1B所示,依本发明较佳实施例的光学三维成像系统的该控制器40进一步包括一个同步模块42,其中该控制器40的该同步模块42分别与该TOF传感器10和该RGB传感器20可通电地相连接,从而使得该同步模块42能够同步该TOF传感器10和该RGB传感器20生成该深度检测数据和RGB图像数据。进一步地,该TOF传感器10与该主动光源30可通电地相连接,以在该TOF传感器10和该RGB传感器20被同步时间的同时,控制该主动光源30发光,以使该TOF传感器10能够在该RGB传感器20生成RGB图像数据的同时,生成该深度检测数据。
值得注意的是,该控制器40的该同步模块42同步该TOF传感器10和该RGB传感器20生成该深度检测数据和RGB图像数据,可以是同步该TOF传感器10和该RGB传感器20生成该深度检测数据和RGB图像数据的时间,也可以是同步该TOF传感器10和该RGB传感器20对同一目标物体成像,或对同一目标物体的相同部分(或区域)成像。
可选地,该控制器40的该同步模块42分别与该TOF传感器10、该RGB传感器20和该主动光源30可通电地相连接,以使该同步模块42能够同时同步该TOF传感器10、该RGB传感器20和该主动光源30的时间,从而使得该TOF传感器10和该RGB传感器20能够同时生成该深度检测数据和该RGB图像数据。
如附图之图1A和图1B所示,依本发明较佳实施例的光学三维成像系统的该控制器40进一步包括一个数据处理模块43,其中该控制器40的该数据处理模块43被设置能够建立该深度检测数据和该RGB图像数据之间的对应,以确定该RGB图像数据中的每个像素的三维空间信息,和实现被测物体的彩色三维成像。优选地,本文中建立该深度检测数据和该RGB图像数据之间的对应,指的是映射被检测到的测量光的深度值至RGB图像数据形成的图像,其中每个深度值被定义为一个深度标记,该RGB图像数据中的每个像素被定义为一个像素点。同时,针对每个像素点,选择距离相应像素点最近的N个深度标记,D1…Dn。相应地,该深度检测数据和该RGB图像数据之间的对应被建立,每个像素点对应N个深度标记,且N>1。因此,进一步地,该控制器40的该数据处理模块43被设置能够确定与RGB图像数据中的每个像素点相对应的该深度检测数据的深度标记,并确定每个像素点的深度。具体地,在确定该深度检测数据中的深度标记与该RGB图像数据中的像素点之间的对应时,可将该深度检测数据的每个测量光的深度(值)映射至RGB图像(例如,经坐标转换后的映射),并根据公式di=kd*dd+kc*dc,为每个像素点寻找距离(di)最小的N个深度标记,其中dd与dc分别为空间距离和彩色距离,kd、kc具有一个可调预设值,N>1。进一步地,根据公式D=D1*q1+…+Dn*qn,计算每个像素点的深度(值),其中D为像素点的深度,D1…Dn为与该像素点距离最近的N个种子的深度,qi为(1/Di)/((1/D1)+…+(1/Dn)),从而获得该RGB图像数据的每个像素点的深度(值)和实现彩色三维图像成像。例如,公式D=D1*q1+…+Dn*qn中的q1的数值为:(1/D1)/((1/D1)+…+(1/Dn)),qn的数值为:(1/Dn)/((1/D1)+…+(1/Dn))。
值得注意的是,该深度检测数据的深度标记映射至RGB图像可通过坐标转换的方式实现。例如,可将TOF传感器检测到的深度检测数据[X,Y,Z],根据公式[u,v,1]=M*[R|T]*[X,Y,Z]映射到RGB图像形成深度标记。其中u,v为RGB图像中的坐标,[X,Y,Z]为TOF传感器测到的深度检测数据,R、T分别为将TOF坐标系转换到RGB相机坐标系的旋转矩阵和平移矩阵,M为RGB相机内部参数。可以理解,也可通过其它方式实现将该深度检测数据的深度标记映射至RGB图像。
优选地,该控制器40的该数据处理模块43被设置能够根据TOF标定参数,校正TOF传感器10生成的深度检测数据。更优选地,该控制器40的该数据处理模块43被设置能够根据RGB传感器参数,优化RGB传感器20生成的RGB图像数据。例如,为了减小本发明光学三维成像系统所成图像的偏差和失真,在将该深度检测数据的深度标记映射至RGB图像和确定该深度检测数据中的深度标记与该RGB图像数据中的像素点之间的对应时,去除TOF检测数据中与相邻测量光(点)存在较大差异(过高或过低)的测量光。这些光(点)可被看做TOF成像中的飞点。可以理解的是,该TOF标定参数可在初始化该TOF传感器10时被配置。例如,该TOF标定参数可以提前存储或烧录在一个存储器中,在该TOF传感器10被启动和初始化后,该TOF标定参数被读取和被配置。该TOF标定参数也可以被预先存储或烧录在数据处理模块43中。可选地,该TOF标定参数也可以通过外接设备被手动设置或配置。同理地,该RGB传感器20的(工作)参数也可以通过手动或自动的方式,在初始化该RGB传感器20时,被配置。例如,在该RGB传感器20被启动和初始化时,该RGB传感器20的参数根据外界环境,如环境亮度等,被配置。可选地,该RGB传感器20的参数也可以通过手动调节的方式被配置。
如附图之图1A和图1B所示,依本发明较佳实施例的光学三维成像系统的该控制器40的该控制模块41分别与该同步模块42和该数据处理模块43可通电地相连接,从而使得该控制模块41能够根据控制指令,如来自上位机的控制指令或预设程序,控制该同步模块42同步TOF传感器10和该RGB传感器20,和控制该数据处理模块43处理TOF传感器10生成的深度检测数据和RGB传感器20生成的RGB图像数据。
如附图之图1A和图1B所示,依本发明较佳实施例的光学三维成像系统的该控制器40进一步包括一个数据接口44,以使该控制器40中的该深度检测数据、RGB图像数据和/或彩色三维图像数据等数据可被传输给上位机。例如,通过一个USB数据接口(或USB),将该深度检测数据、RGB图像数据和/或彩色三维图像数据等数据传输给上位机。
如附图之图2至图6所示,依本发明较佳实施例,本发明进一步提供一种彩色三维图像成像方法,其包括以下步骤:
(A)检测被测物体反射的测量光,并根据检测到的该测量光的深度(值)生成相应的深度检测数据;
(B)检测被测物体反射的可见光,并根据检测到的该可见光的RGB数据生成相应的RGB图像数据,其中该RGB图像数据中的每个像素被定义为一个像素点;
(C)映射被检测到的测量光的深度值至RGB图像数据形成的图像,其中每个被映射深度值被定义为一个深度标记;
(D)根据公式D=D1*q1+…+Dn*qn,计算该RGB图像数据的每个像素点的深度,其中D为像素点的深度,D1…Dn分别为距离该像素点最近的N个深度标记,其中q值的计算公式为qi=(1/Di)/((1/D1)+…+(1/Dn));和
(E)基于具有深度值的该RGB图像数据的像素点,实现被测物体的彩色三维成像。
优选地,该步骤(A)和该步骤(B)没有先后顺序。
更优选地,在步骤(C)中,根据公式di=kd*dd+kc*dc,确定与该RGB图像数据的每个像素点距离(di)最近的N个深度标记,其中dd与dc分别为空间距离和彩色距离,kd、kc具有一个可调预设值,N>1。
如附图之图3和图4所示,依本发明较佳实施例,本发明彩色三维图像成像方法进一步包括以下步骤:
(S11)初始化TOF传感器,以配置TOF标定参数,其中该步骤(S11)位于步骤(A)之前。
如附图之图3和图4所示,依本发明较佳实施例,本发明彩色三维图像成像方法进一步包括以下步骤:
(S12)对深度检测数据进行优化(ISP)处理,如去飞点处理(去除假阳性,以得到真实深度检测数据),其中该步骤(S12)位于步骤(A)之后。
如附图之图3和图4所示,依本发明较佳实施例,本发明彩色三维图像成像方法进一步包括以下步骤:
(S21)初始化RGB传感器,以配置RGB传感器参数,其中该步骤(S21)位于步骤(B)之前。
如附图之图3和图4所示,依本发明较佳实施例,本发明彩色三维图像成像方法进一步包括以下步骤:
(S22)对RGB图像数据进行优化(ISP)处理,如降噪处理(去除假阳性,以得到真实RGB图像数据),其中该步骤(S22)位于步骤(B)之后。
如附图之图3和图4所示,依本发明较佳实施例,本发明彩色三维图像成像方法进一步包括以下步骤:
(S31)根据TOF标定参数,对优化后的深度检测数据进行标定,其中该步骤(S31)位于步骤(S12)之后。
如附图之图6所示,依本发明较佳实施例,本发明进一步提供一种彩色三维图像成像方法,其包括以下步骤:
(A)检测被测物体反射的测量光,并根据检测到的该测量光的深度值生成相应的深度检测数据,和根据TOF标定参数,校正TOF传感器生成的深度检测数据,以得到有效深度检测数据;
(B)检测被测物体反射的可见光,并根据检测到的该可见光的RGB数据生成相应的RGB图像数据,和对RGB图像数据进行优化(ISP)处理,如降噪,其中经过优化处理后的该RGB图像数据中的每个像素被定义为一个像素点;
(C)映射有效深度检测数据中测量光的深度值至RGB图像数据形成的图像,其中每个被映射深度值被定义为一个深度标记;
(D)根据公式D=D1*q1+…+Dn*qn,计算该RGB图像数据的每个像素点的深度,其中D为像素点的深度,D1…Dn分别为距离该像素点最近的N个深度标记,其中q值的计算公式为qi=(1/Di)/((1/D1)+…+(1/Dn));和
(E)基于具有深度值的该RGB图像数据的像素点,实现被测物体的彩色三维成像。
优选地,该步骤(A)和该步骤(B)没有先后顺序。
如附图之图3和图4所示,依本发明较佳实施例,本发明彩色三维图像成像方法进一步包括以下步骤:
(S11)初始化TOF传感器,以配置TOF标定参数,其中该步骤(S11)位于步骤(A)之前。
依本发明较佳实施例,本发明彩色三维图像成像方法进一步包括以下步骤:
(S21)初始化RGB传感器,以配置RGB传感器参数,其中该步骤(S21)位于步骤(B)之前。
如附图之图3和图4所示,RGB传感器获得的RGB图像数据(如RAW格式彩色图像信息或RAW文件)经图像信号处理(IPS,Image Signal Processing,如线性纠正、噪声去除、坏点去除、内插、白平衡、自动曝光控制等)后,对RGB图像质量进行优化和输出预设格式(如YUV格式)图像(数据)。
如附图之图5所示,深度检测数据和RGB图像数据的融合(或深度成像与RGB图像的融合)通过将测量光的深度值被映射至RGB图像被实现。在测量光的深度值被映射至RGB图像后,根据公式D=D1*q1+…+Dn*qn,计算该RGB图像数据的每个像素点的深度,则RGB图像数据的每个像素点的深度值被确定,从而使基于RGB图像数据所成的RGB图像为彩色三维图像。
如附图之图7所示,依本发明较佳实施例,本发明进一步提供一种彩色三维图像成像方法,其包括以下步骤:
(a)检测被测物体反射的测量光,并根据检测到的该测量光的深度值生成相应的深度检测数据,其中该深度检测数据中的每个测量光的深度值被定义为一个深度标记;
(b)检测被测物体反射的可见光,并根据检测到的该可见光的RGB数据生成相应的RGB图像数据,其中该RGB图像数据中的每个像素被定义为一个像素点;
(c)确定与该深度检测数据的每个深度标记相对应的该RGB图像数据的像素点;
(d)根据该深度检测数据中的每个深度标记相对应的该RGB图像数据的像素点的像素值,计算相应深度标记的像素值;和
(e)基于具有像素值的深度标记,实现被测物体的彩色三维成像。
优选地,为了提高数据处理速度,可根据该深度检测数据中的深度标记数量,选择每个深度标记相对应的该RGB图像数据的像素点的数量。比如,如果该深度检测数据中的深度标记数目为W个,每个深度标记相对应的该RGB图像数据的像素点的预设数量为5个,则可将该RGB图像数据的整个成像面等分成5W个区域,并分别计算每个区域的像素值。此时,每个区域的像素值可被认为是每个深度标记相对应的该RGB图像数据的像素点的像素值。然后,再根据深度标记相对应的5个区域的像素值计算该深度标记的像素值。可以理解的是,每个区域(或分区域)的像素值的计算方法通过计算该区域内所有像素点的像素值的中位数得到。可选地,也可通过计算该区域内所有像素点的像素值的算术平均数得到。可选地,也可以通过确定每个区域中的平面中心的像素点和以该像素点的像素值作为该区域的像素值。
值得注意的是,根据深度标记相对应的该RGB图像数据的像素点计算深度标记的像素值可采用多种方法(或公式)。如,可通过计算深度标记相对应的RGB图像数据的像素点的像素值的中位数来计算相应深度标记的像素值。可选地,也可通过计算深度标记相对应的RGB图像数据的像素点的像素值的算术平均数来计算相应深度标记的像素值。当然,也可以通过与本文计算RGB图像数据的像素点的深度数据相类似的方法计算相应深度标记的像素值。
本领域技术人员会明白附图中所示的和以上所描述的本发明实施例仅是对本发明示例而不是限制。
由此可以看到本发明目的可被充分有效完成。用于解释本发明功能和结构原理的该实施例已被充分说明和描述,且本发明不受基于这些实施例原理基础上的改变的限制。因此,本发明包括涵盖在附属权利要求书要求范围和精神之内的所有修改。
Claims (20)
1.一种光学三维成像系统,其特征在于,包括:
TOF传感器;
RGB传感器;
主动光源,用于提供具有预设波长的测量光;和
控制器,其中该控制器分别与该TOF传感器和该RGB传感器可通电地相连接,其中该TOF传感器被设置能够感应被测物体反射的该测量光,并生成相应深度检测数据,和该RGB传感器被设置能够感应被测物体反射的可见光,并生成相应RGB图像数据,其中该控制器被设置分别自该TOF传感器和该RGB传感器接收该深度检测数据和该RGB图像数据,并为该深度检测数据和该RGB图像数据建立相互之间的对应,以确定该RGB图像数据中的每个像素的三维空间信息。
2.根据权利要求1所述的光学三维成像系统,其特征在于,该控制器包括一个数据处理模块,其中该控制器的该数据处理模块被设置能够将该深度检测数据的测量光的深度值映射至该RGB图像数据形成的RGB图像,并根据公式di=kd*dd+kc*dc,为该RGB图像数据的每个像素点寻找距离(di)最小的N个深度值,其中dd与dc分别为空间距离和彩色距离,kd、kc具有一个预设值,N>1。
3.根据权利要求2所述的光学三维成像系统,其特征在于,该控制器的该数据处理模块进一步被设置能够根据公式D=D1*q1+…+Dn*qn,计算每个像素点的深度,其中D为像素点的深度,D1…Dn为与该像素点距离最近的N个深度值,qi=(1/Di)/((1/D1)+…+(1/Dn)),从而确定该RGB图像数据中的每个像素点的三维空间信息。
4.根据权利要求2所述的光学三维成像系统,其特征在于,该控制器的该数据处理模块进一步被设置能够根据TOF标定参数,校正TOF传感器生成的深度检测数据,和/或根据RGB传感器参数,优化RGB传感器生成的RGB图像数据。
5.根据权利要求3所述的光学三维成像系统,其特征在于,该控制器的该数据处理模块进一步被设置能够根据TOF标定参数,校正TOF传感器生成的深度检测数据,和/或根据RGB传感器参数,优化RGB传感器生成的RGB图像数据。
6.根据权利要求1所述的光学三维成像系统,其特征在于,该控制器进一步包括一个同步模块,其中该控制器的该同步模块分别与该TOF传感器和该RGB传感器可通电地相连接。
7.根据权利要求5所述的光学三维成像系统,其特征在于,该控制器进一步包括一个同步模块,其中该控制器的该同步模块分别与该TOF传感器和该RGB传感器可通电地相连接。
8.根据权利要求6所述的光学三维成像系统,其特征在于,该控制器的该同步模块被设置能够同步该TOF传感器和该RGB传感器的时间。
9.根据权利要求7所述的光学三维成像系统,其特征在于,该控制器的该同步模块被设置能够同步该TOF传感器和该RGB传感器的时间。
10.根据权利要求1、2、3、4、5、6、7、8或9所述的光学三维成像系统,其特征在于,该主动光源发出的该测量光为具有一个预设波长的激光。
11.一种彩色三维图像成像方法,其特征在于,包括以下步骤:
(A)检测被测物体反射的测量光,并根据检测到的该测量光的深度(值)生成相应的深度检测数据;
(B)检测被测物体反射的可见光,并根据检测到的该可见光的RGB数据生成相应的RGB图像数据,其中该RGB图像数据中的每个像素被定义为一个像素点;
(C)映射被检测到的测量光的深度值至RGB图像数据形成的图像,其中每个被映射深度值被定义为一个深度标记;
(D)根据公式D=D1*q1+…+Dn*qn,计算该RGB图像数据的每个像素点的深度,其中D为像素点的深度,D1…Dn分别为距离该像素点最近的N个深度标记,其中q值的计算公式为qi=(1/Di)/((1/D1)+…+(1/Dn));和
(E)基于具有深度值的该RGB图像数据的像素点,实现被测物体的彩色三维成像。
12.根据权利要求11所述的彩色三维图像成像方法,其特征在于,该步骤(A)和该步骤(B)没有先后顺序。
13.根据权利要求11所述的彩色三维图像成像方法,其特征在于,进一步包括以下步骤:
(S11)初始化TOF传感器,以配置TOF传感器参数和标定参数,其中该步骤(S1)位于步骤(A)之前。
14.根据权利要求11所述的彩色三维图像成像方法,其特征在于,进一步包括以下步骤:
(S21)初始化RGB传感器,以配置RGB传感器参数,其中该步骤(S2)位于步骤(B)之前。
15.根据权利要求13所述的彩色三维图像成像方法,其特征在于,进一步包括以下步骤:
(S21)初始化RGB传感器,以配置RGB传感器参数,其中该步骤(S2)位于步骤(B)之前。
16.一种彩色三维图像成像方法,其特征在于,包括以下步骤:
(A)检测被测物体反射的测量光,并根据检测到的该测量光的深度值生成相应的深度检测数据,和根据TOF标定参数,校正TOF传感器生成的深度检测数据,以得到有效深度检测数据;
(B)检测被测物体反射的可见光,并根据检测到的该可见光的RGB数据生成相应的RGB图像数据,和对RGB图像数据进行优化处理,其中经过优化处理后的该RGB图像数据中的每个像素被定义为一个像素点;
(C)映射有效深度检测数据中测量光的深度值至RGB图像数据形成的图像,其中每个被映射深度值被定义为一个深度标记;
(D)根据公式D=D1*q1+…+Dn*qn,计算该RGB图像数据的每个像素点的深度,其中D为像素点的深度,D1…Dn分别为距离该像素点最近的N个深度标记,其中q值的计算公式为qi=(1/Di)/((1/D1)+…+(1/Dn));和
(E)基于具有深度值的该RGB图像数据的像素点,实现被测物体的彩色三维成像。
17.根据权利要求16所述的彩色三维图像成像方法,其特征在于,该步骤(A)和该步骤(B)没有先后顺序。
18.根据权利要求16所述的彩色三维图像成像方法,其特征在于,进一步包括以下步骤:
(S11)初始化TOF传感器,以配置TOF传感器参数和标定参数,其中该步骤(S1)位于步骤(A)之前。
19.根据权利要求16所述的彩色三维图像成像方法,其特征在于,进一步包括以下步骤:
(S21)初始化RGB传感器,以配置RGB传感器参数,其中该步骤(S2)位于步骤(B)之前。
20.根据权利要求18所述的彩色三维图像成像方法,其特征在于,进一步包括以下步骤:
(S21)初始化RGB传感器,以配置RGB传感器参数,其中该步骤(S2)位于步骤(B)之前。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710448077.9A CN109085603A (zh) | 2017-06-14 | 2017-06-14 | 光学三维成像系统和彩色三维图像成像方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710448077.9A CN109085603A (zh) | 2017-06-14 | 2017-06-14 | 光学三维成像系统和彩色三维图像成像方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109085603A true CN109085603A (zh) | 2018-12-25 |
Family
ID=64839524
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710448077.9A Pending CN109085603A (zh) | 2017-06-14 | 2017-06-14 | 光学三维成像系统和彩色三维图像成像方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109085603A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110312056A (zh) * | 2019-06-10 | 2019-10-08 | 青岛小鸟看看科技有限公司 | 一种同步曝光方法和图像采集设备 |
CN111982071A (zh) * | 2019-05-24 | 2020-11-24 | Tcl集团股份有限公司 | 一种基于tof相机的3d扫描方法及系统 |
CN113884022A (zh) * | 2021-09-28 | 2022-01-04 | 天津朗硕机器人科技有限公司 | 一种基于结构光的三维检测装置 |
WO2023037813A1 (ja) * | 2021-09-13 | 2023-03-16 | マクセル株式会社 | 空間浮遊映像情報表示システムおよびそれに用いられる立体センシング装置 |
WO2024087982A1 (zh) * | 2022-10-28 | 2024-05-02 | 华为技术有限公司 | 一种图像处理方法及电子设备 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101866056A (zh) * | 2010-05-28 | 2010-10-20 | 中国科学院合肥物质科学研究院 | 基于led阵列共透镜tof深度测量的三维成像方法和系统 |
CN102445688A (zh) * | 2010-08-20 | 2012-05-09 | 电装国际美国公司 | 组合的飞行时间和图像传感器系统 |
CN205354047U (zh) * | 2014-10-10 | 2016-06-29 | 手持产品公司 | 一种标记读取终端 |
WO2016172960A1 (en) * | 2015-04-30 | 2016-11-03 | SZ DJI Technology Co., Ltd. | System and method for enhancing image resolution |
-
2017
- 2017-06-14 CN CN201710448077.9A patent/CN109085603A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101866056A (zh) * | 2010-05-28 | 2010-10-20 | 中国科学院合肥物质科学研究院 | 基于led阵列共透镜tof深度测量的三维成像方法和系统 |
CN102445688A (zh) * | 2010-08-20 | 2012-05-09 | 电装国际美国公司 | 组合的飞行时间和图像传感器系统 |
CN205354047U (zh) * | 2014-10-10 | 2016-06-29 | 手持产品公司 | 一种标记读取终端 |
WO2016172960A1 (en) * | 2015-04-30 | 2016-11-03 | SZ DJI Technology Co., Ltd. | System and method for enhancing image resolution |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111982071A (zh) * | 2019-05-24 | 2020-11-24 | Tcl集团股份有限公司 | 一种基于tof相机的3d扫描方法及系统 |
CN111982071B (zh) * | 2019-05-24 | 2022-09-27 | Tcl科技集团股份有限公司 | 一种基于tof相机的3d扫描方法及系统 |
CN110312056A (zh) * | 2019-06-10 | 2019-10-08 | 青岛小鸟看看科技有限公司 | 一种同步曝光方法和图像采集设备 |
WO2023037813A1 (ja) * | 2021-09-13 | 2023-03-16 | マクセル株式会社 | 空間浮遊映像情報表示システムおよびそれに用いられる立体センシング装置 |
CN113884022A (zh) * | 2021-09-28 | 2022-01-04 | 天津朗硕机器人科技有限公司 | 一种基于结构光的三维检测装置 |
WO2024087982A1 (zh) * | 2022-10-28 | 2024-05-02 | 华为技术有限公司 | 一种图像处理方法及电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109085603A (zh) | 光学三维成像系统和彩色三维图像成像方法 | |
JP6552729B2 (ja) | 異なる分解能を有するセンサーの出力を融合するシステム及び方法 | |
CN103959012B (zh) | 6自由度位置和取向确定 | |
Moghadam et al. | Line-based extrinsic calibration of range and image sensors | |
CN103424112B (zh) | 一种基于激光平面辅助的运动载体视觉导航方法 | |
US9432593B2 (en) | Target object information acquisition method and electronic device | |
JP5548482B2 (ja) | 位置姿勢計測装置、位置姿勢計測方法、プログラム及び記憶媒体 | |
CN108406731A (zh) | 一种基于深度视觉的定位装置、方法及机器人 | |
US20100245851A1 (en) | Method and apparatus for high-speed unconstrained three-dimensional digitalization | |
KR102424135B1 (ko) | 2개의 카메라로부터의 곡선의 세트의 구조형 광 매칭 | |
JP6727539B2 (ja) | 距離センサ、走行体、ロボット及び3次元計測装置 | |
JP2013101045A (ja) | 物品の3次元位置姿勢の認識装置及び認識方法 | |
CN106651925B (zh) | 一种彩色深度图像的获取方法、获取设备 | |
JPWO2017038659A1 (ja) | 運動検出装置及びそれを用いた三次元形状測定装置 | |
CN110278431A (zh) | 相位检测自动聚焦三维图像撷取系统 | |
CN105004324A (zh) | 一种具有三角测距功能的单目视觉传感器 | |
WO2018169467A1 (en) | A vehicle with a crane with object detecting device | |
SE541528C2 (en) | A vehicle provided with an arrangement for determining a three dimensional representation of a movable member | |
CN111854661A (zh) | 可视化设备和存储介质 | |
Harvent et al. | Multi-view dense 3D modelling of untextured objects from a moving projector-cameras system | |
CN204904359U (zh) | 一种基于双摄像头的三维景深识别装置 | |
CN102401901B (zh) | 测距系统及测距方法 | |
WO2021231406A1 (en) | Vision sensing device and method | |
Zhang et al. | A simplified 3D gaze tracking technology with stereo vision | |
JP2010002326A (ja) | 移動ベクトル検出装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20181225 |