WO2015178575A1 - Apparatus for acquiring three-dimensional time of flight image - Google Patents

Apparatus for acquiring three-dimensional time of flight image Download PDF

Info

Publication number
WO2015178575A1
WO2015178575A1 PCT/KR2015/002711 KR2015002711W WO2015178575A1 WO 2015178575 A1 WO2015178575 A1 WO 2015178575A1 KR 2015002711 W KR2015002711 W KR 2015002711W WO 2015178575 A1 WO2015178575 A1 WO 2015178575A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
viewing angle
light source
time
dimensional
Prior art date
Application number
PCT/KR2015/002711
Other languages
French (fr)
Korean (ko)
Inventor
이민구
한승헌
Original Assignee
주식회사 더에스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 더에스 filed Critical 주식회사 더에스
Publication of WO2015178575A1 publication Critical patent/WO2015178575A1/en

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B7/00Mountings, adjusting means, or light-tight connections, for optical elements
    • G02B7/02Mountings, adjusting means, or light-tight connections, for optical elements for lenses
    • G02B7/04Mountings, adjusting means, or light-tight connections, for optical elements for lenses with mechanism for focusing or varying magnification
    • G02B7/09Mountings, adjusting means, or light-tight connections, for optical elements for lenses with mechanism for focusing or varying magnification adapted for automatic focusing or varying magnification

Abstract

An apparatus for acquiring a three-dimensional (3D) time of flight image is provided. The apparatus for acquiring a 3D time of flight image of an object, according to one embodiment of the present invention, comprises: a light source for emitting light in the direction of the object; a viewing angle controller for controlling a viewing angle of the light source according to a distance between the object and the apparatus for acquiring a 3D time of flight image; a control lens unit for controlling a focus according to the distance between the object and the apparatus for acquiring a 3D time of flight image, wherein the light reflected from the object passes through the control lens unit to be received by an imaging device; the imaging device receiving the light reflected from the object so as to generate raw image data; and a signal processing unit for receiving the raw image data from the imaging device and processing the raw image data so as to generate a 3D depth image and a 3D intensity image.

Description

3차원 시간 비행 이미지 획득 장치3D time flight image acquisition device
본 발명은 3차원 시간 비행 이미지 획득 장치에 관한 것으로, 보다 자세하게는 광원의 시야각과 물체로부터 반사되는 광의 초점을 자동으로 조절할 수 있는 3차원 시간 비행 이미지 획득 장치에 관한 것이다.The present invention relates to a three-dimensional time-flight image acquisition device, and more particularly to a three-dimensional time-flight image acquisition device that can automatically adjust the viewing angle of the light source and the focus of the light reflected from the object.
종래의 스테레오스코픽(stereoscopic) 방식의 3차원 스캐너는 2대의 카메라를 이용하며, 촬영된 2개의 이미지를 2개의 기준 좌표에 대비하여 측정된 이미지와 비교함으로써, 관측 시야각에 따른 방사 왜곡을 보정하고, 스테레오 매칭 및 삼각법에 따른 이미지 처리를 하여 3차원 깊이 이미지 맵을 구성한다.The conventional stereoscopic three-dimensional scanner uses two cameras, and compares the two images taken with the image measured against two reference coordinates, thereby correcting the radiation distortion according to the viewing field of view, Stereo matching and trigonometric image processing are used to construct a 3D depth image map.
그리고, 키넥트(kinect) 센서 기반의 3차원 스캐너는 광원에서 작은 반점 무늬의 광을 발생시켜, 기준 패턴과 측정된 패턴의 상관관계의 차이를 이용하여 거리를 측정한다.In addition, the kinect sensor-based 3D scanner generates light of a small spot pattern from a light source, and measures a distance by using a difference between a reference pattern and a measured pattern.
그러나, 스테레오스코픽 방식의 3차원 스캐너는, 데이터의 처리에 많은 시간이 소요되며, 이 밖에 전력 소모, 외부 광원에 의한 영향 및 표면 무늬에 의한 초기 보정의 필요 등 고려해야 할 요소가 상당하다.However, the stereoscopic 3D scanner takes a lot of time to process data, and there are many factors to consider such as power consumption, influence by external light sources, and the need for initial correction by surface fringes.
또한, 키넥트 센서 기반의 3차원 스캐너는, 각 환경에 따라서 사용자가 직접 기준 패턴의 생성을 위한 보정 처리 과정을 수행해야하는 불편함이 있으며, 광의 강도 정보를 거리 정보로 환산하는 알고리즘에 기반하기 때문에, 광원의 변화가 심한 실외에서는 사용에 제약이 따른다.In addition, the three-dimensional scanner based on the Kinect sensor is inconvenient to perform a correction process for generating a reference pattern directly according to each environment, and is based on an algorithm that converts light intensity information into distance information. However, the use of the product is restricted in the outdoor where the change of the light source is severe.
위와 같은 문제점으로부터 안출된 본 발명이 해결하고자 하는 기술적 과제는, 획득되는 3차원 시간 비행 이미지의 정확도를 높일 수 있는 3차원 시간 비행 이미지 획득 장치를 제공하고자 하는 것이다.The technical problem to be solved by the present invention to solve the above problems is to provide a three-dimensional time flight image acquisition apparatus that can increase the accuracy of the three-dimensional time flight image obtained.
본 발명이 해결하고자 하는 다른 기술적 과제는, 소형의 핸드헬드 타입(handheld type)으로, 사용이 간편하고 실외에서 사용이 가능한 3차원 시간 비행 이미지 획득 장치를 제공하고자 하는 것이다.Another technical problem to be solved by the present invention is to provide a small three-dimensional hand-held type (handheld type), a three-dimensional time flight image acquisition device that is easy to use and can be used outdoors.
본 발명이 해결하고자 하는 또 다른 기술적 과제는, 광원의 시야각을 조절하여 멀리까지 광을 도달시킬 수 있는 3차원 시간 비행 이미지 획득 장치를 제공하고자 하는 것이다.Another technical problem to be solved by the present invention is to provide a three-dimensional time-flight image acquisition device that can reach the far distance by adjusting the viewing angle of the light source.
본 발명의 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.The technical problems of the present invention are not limited to the above-mentioned technical problems, and other technical problems not mentioned will be clearly understood by those skilled in the art from the following description.
상기 언급된 기술적 과제들을 해결하기 위한, 본 발명의 일 실시예에 따른 3차원 시간 비행 이미지 획득 장치는, 물체의 3차원 시간 비행 이미지를 획득하기 위한 3차원 시간 비행 이미지 획득 장치에 있어서, 상기 물체를 향해 광을 조사하는 광원; 상기 물체와 상기 3차원 시간 비행 이미지 획득 장치 사이의 거리에 따라 상기 광원의 시야각을 조절하는 시야각 조절부; 상기 물체와 상기 3차원 시간 비행 이미지 획득 장치 사이의 거리에 따라 초점을 조절하는 조절 렌즈부로서, 상기 물체로부터 반사된 광은 상기 조절 렌즈부를 거쳐서 촬상 소자로 수신되는 것인, 조절 렌즈부; 상기 물체로부터 반사된 광을 수신하여 로우 이미지 데이터(raw image data)를 생성하는 촬상 소자; 및 상기 촬상 소자로부터 상기 로우 이미지 데이터를 제공받고, 상기 로우 데이터를 처리하여 3차원 깊이 이미지 및 3차원 강도 이미지를 생성하는 신호 처리부를 포함한다.In order to solve the above-mentioned technical problems, a three-dimensional time flight image acquisition apparatus according to an embodiment of the present invention, in the three-dimensional time flight image acquisition device for obtaining a three-dimensional time flight image of the object, the object A light source for irradiating light toward the light source; A viewing angle adjusting unit configured to adjust a viewing angle of the light source according to a distance between the object and the 3D time-flight image acquisition device; An adjustment lens unit for adjusting focus according to a distance between the object and the three-dimensional time-flight image acquisition device, wherein the light reflected from the object is received by the image pickup device via the adjustment lens unit; An imaging device configured to receive light reflected from the object and generate raw image data; And a signal processor configured to receive the raw image data from the imaging device and to process the raw data to generate a three-dimensional depth image and a three-dimensional intensity image.
상기와 같은 본 발명에 따르면, 광원의 관측 시야각을 조절할 수 있고, 물체로부터 반사되는 광의 초점이 촬상 소자 상에 형성되도록 초점을 자동으로 조절할 수 있기 때문에, 획득되는 3차원 시간 비행 이미지에 대한 정확도를 높일 수 있다.According to the present invention as described above, since the viewing angle of the light source can be adjusted, and the focus can be automatically adjusted so that the focus of the light reflected from the object is formed on the image pickup device, the accuracy of the obtained three-dimensional time-flight image is improved. It can increase.
또한, 비행 시간 방식을 3차원 시간 비행 이미지 획득 장치에 적용시키는 것이기 때문에, 종래의 방식에 비해 간단한 구성으로 물체에 대한 3차원 시간 비행 이미지를 얻을 수 있다.In addition, since the flight time method is applied to the three-dimensional time flight image acquisition device, it is possible to obtain a three-dimensional time flight image of the object with a simple configuration compared to the conventional method.
도 1은 본 발명의 일 실시예에 따른 3차원 시간 비행 이미지 획득 장치의 구성을 나타내는 도면이다.1 is a view showing the configuration of a three-dimensional time flight image acquisition apparatus according to an embodiment of the present invention.
도 2는 도 1의 3차원 시간 비행 이미지 획득 장치에서 시야각 조절부에 의해 광원의 시야각이 조절되는 것을 나타내는 도면이다.2 is a view illustrating that the viewing angle of the light source is adjusted by the viewing angle adjusting unit in the 3D time-flight image acquisition device of FIG. 1.
도 3은 도 1의 3차원 시간 비행 이미지 획득 장치에서 조절 렌즈부에 의해 반사된 광의 초점이 조절되는 것을 나타내는 도면이다.3 is a view illustrating that the focus of light reflected by the adjustment lens unit is adjusted in the 3D time-flight image acquisition device of FIG. 1.
도 4는 본 발명의 일 실시예에 따른 3차원 시간 비행 이미지 획득 장치의 시야각 조절 기능을 설명하기 위한 순서도이다.4 is a flowchart illustrating a viewing angle adjustment function of a 3D time-flight image acquisition device according to an embodiment of the present invention.
도 5는 본 발명의 일 실시예에 따른 3차원 시간 비행 이미지 획득 장치의 초점 조절 기능을 설명하기 위한 순서도이다.5 is a flowchart illustrating a focus adjustment function of the apparatus for acquiring a 3D time flight image according to an embodiment of the present invention.
도 6은 도 1의 3차원 시간 비행 이미지 획득 장치를 포함하는 3차원 시간 비행 이미지 획득 시스템의 구성을 나타내는 도면이다.FIG. 6 is a diagram illustrating a configuration of a 3D time flight image acquisition system including the 3D time flight image acquisition device of FIG. 1.
도 7은 도 6의 3차원 시간 비행 이미지 획득 시스템의 디스플레이부에 3차원 깊이 이미지가 표시된 것을 나타내는 도면이다.FIG. 7 is a diagram illustrating that a 3D depth image is displayed on a display unit of the 3D time flight image acquisition system of FIG. 6.
도 8은 도 6의 3차원 시간 비행 이미지 획득 시스템의 디스플레이부에 3차원 강도 이미지가 표시된 것을 나타내는 도면이다.FIG. 8 is a diagram illustrating that a 3D intensity image is displayed on a display unit of the 3D time flight image acquisition system of FIG. 6.
도 9는 도 1의 3차원 비행 이미지 획득 장치가 적용되는 전자 기기의 예를 도시한 것이다.FIG. 9 illustrates an example of an electronic device to which the 3D flying image acquisition device of FIG. 1 is applied.
이하, 첨부된 도면을 참조하여 본 발명의 바람직한 실시예를 상세히 설명한다. 본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 게시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 게시가 완전하도록 하고, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 명세서 전체에 걸쳐 동일 참조 부호는 동일 구성 요소를 지칭한다.Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings. Advantages and features of the present invention and methods for achieving them will be apparent with reference to the embodiments described below in detail with the accompanying drawings. However, the present invention is not limited to the embodiments disclosed below, but may be implemented in various forms, and only the embodiments are intended to complete the disclosure of the present invention, and the general knowledge in the art to which the present invention pertains. It is provided to fully inform the person having the scope of the invention, which is defined only by the scope of the claims. Like reference numerals refer to like elements throughout.
다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.Unless otherwise defined, all terms (including technical and scientific terms) used in the present specification may be used in a sense that can be commonly understood by those skilled in the art. In addition, the terms defined in the commonly used dictionaries are not ideally or excessively interpreted unless they are specifically defined clearly.
본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다.The terminology used herein is for the purpose of describing particular embodiments only and is not intended to be limiting of the invention. In this specification, the singular also includes the plural unless specifically stated otherwise in the phrase. As used herein, "comprises" and / or "comprising" does not exclude the presence or addition of one or more other components in addition to the mentioned components.
이하, 도면을 참조하여 본 발명의 실시예들에 따른 3차원 시간 비행 이미지 획득 장치에 대해 설명하기로 한다.Hereinafter, an apparatus for obtaining 3D time flight images according to embodiments of the present invention will be described with reference to the accompanying drawings.
도 1 내지 도 3을 참조하여, 본 발명의 일 실시예에 따른 3차원 시간 비행 이미지 획득 장치에 대해 설명한다. 도 1을 참조하면, 본 발명의 일 실시예에 따른 3차원 시간 비행 이미지 획득 장치의 구성이 개시되고, 도 2를 참조하면, 도 1의 3차원 시간 비행 이미지 획득 장치에서 시야각 조절부에 의해 광원의 시야각이 조절되는 것이 개시되고, 도 3을 참조하면, 도 1의 3차원 시간 비행 이미지 획득 장치에서 조절 렌즈부에 의해 반사된 광의 초점이 조절되는 것이 개시된다.1 to 3, a three-dimensional time flight image acquisition apparatus according to an embodiment of the present invention will be described. Referring to FIG. 1, a configuration of an apparatus for obtaining 3D time flight images according to an embodiment of the present invention is disclosed. Referring to FIG. 2, a light source is controlled by a viewing angle controller in the apparatus for obtaining 3D time flight images of FIG. 1. It is disclosed that the viewing angle of is adjusted, and referring to FIG. 3, it is disclosed that the focus of the light reflected by the adjusting lens unit is adjusted in the three-dimensional time-flight image acquisition apparatus of FIG. 1.
도 1을 참조하면, 3차원 시간 비행 이미지 획득 장치(1)는, 광원(10), 시야각 조절부(11), 조절 렌즈부(21), 촬상 소자(20) 및 신호 처리부(30)를 포함할 수 있다. 다만, 이에 제한되지 않고, 3차원 시간 비행 이미지 획득 장치(1)는, 광원 렌즈(12), 광원 구동부(13), 필터(22), 수광 렌즈(23), 변조 구동부(24), 제어부(40) 및 모션 센서(50)를 더 포함할 수 있다.Referring to FIG. 1, the 3D time-flight image acquisition device 1 includes a light source 10, a viewing angle adjusting unit 11, an adjusting lens unit 21, an imaging device 20, and a signal processing unit 30. can do. However, the present invention is not limited thereto, and the 3D time-flight image acquisition device 1 may include a light source lens 12, a light source driver 13, a filter 22, a light receiving lens 23, a modulation driver 24, and a controller ( 40 and the motion sensor 50 may be further included.
우선, 도 1 및 도 2를 참조하면, 3차원 이미지를 획득하고자 하는 물체(100)에 광을 조사하는 구성에 대하여 살펴본다. 예컨대, 광원 구동부(13)에 의해 광원(10)이 제어되고, 광원(10)으로부터 조사된 광은 시야각 조절부(11)와 광원 렌즈(12)를 거쳐서 물체(100)에 도달할 수 있다.First, referring to FIGS. 1 and 2, a configuration of irradiating light onto an object 100 to obtain a 3D image will be described. For example, the light source 10 is controlled by the light source driver 13, and the light irradiated from the light source 10 may reach the object 100 via the viewing angle adjusting unit 11 and the light source lens 12.
구체적으로, 광원(10)은 물체(100)를 향해 광을 조사할 수 있다. 광원(10)은 예컨대, 발광 다이오드(LED) 또는 레이저 다이오드(LD)일 수 있으며, 구체적으로 발광 다이오드 또는 레이저 다이오드가 어레이 형태로 배열될 수 있지만, 이에 제한되지 않는다. 그리고, 광원(10)은 사람에게 유해하지 않도록 약 850 nm의 파장을 갖는 근적외선(NIR: NearInfraRed)을 조사할 수 있지만, 이에 제한되지 않는다. 따라서, 본 발명의 일 실시예에 따른 3차원 시간 비행 이미지 획득 장치(1)에 따르면, 근적외선의 광을 이용하기 때문에, 주간 및 야간 모두 3차원 시간 비행 이미지 획득 장치(1)를 사용할 수 있다. 더욱이, 광원(10)이 약 850 nm의 파장을 갖는 근적외선을 조사하면, 실리콘 기반의 CMOS 이미지 소자인 촬상 소자(20)에 대하여 수신 감도가 우수할 수 있다.In detail, the light source 10 may irradiate light toward the object 100. The light source 10 may be, for example, a light emitting diode (LED) or a laser diode (LD), and specifically, the light emitting diode or the laser diode may be arranged in an array form, but is not limited thereto. In addition, the light source 10 may irradiate near infrared rays (NIR: NearInfraRed) having a wavelength of about 850 nm so as not to be harmful to a person, but is not limited thereto. Therefore, according to the three-dimensional time-flight image acquisition device 1 according to an embodiment of the present invention, since the light of the near infrared is used, the three-dimensional time-flight image acquisition device 1 can be used for both day and night. Furthermore, when the light source 10 irradiates near infrared rays having a wavelength of about 850 nm, the reception sensitivity may be excellent with respect to the imaging device 20 which is a silicon-based CMOS image device.
광원(10)은 광원 구동부(13)에 의해 제어될 수 있으며, 물체(100)로 조사되는 광은 소정의 주기를 갖는 주기적인 연속 함수의 형태를 가질 수 있지만, 이에 제한되지 않으며, 불연속적인 펄스의 형태를 가질 수도 있다. 예컨대, 조사광은 정현파, 삼각파, 톱니파, 램프파, 구형파 등과 같이 특별히 정의된 파형을 가질 수도 있지만, 이에 제한되지 않으며, 특별히 정의되지 않은 일반적인 형태의 파형을 가질 수도 있다.The light source 10 may be controlled by the light source driver 13, and the light irradiated to the object 100 may have a form of a periodic continuous function having a predetermined period, but is not limited thereto. It may also have the form of. For example, the irradiation light may have a specially defined waveform such as a sine wave, a triangular wave, a sawtooth wave, a ramp wave, a square wave, or the like, but is not limited thereto and may have a general shape waveform that is not specifically defined.
광원 구동부(13)는 제어부(40)에 의해 제어됨으로써 광원(10)을 변조하여 구동시킬 수 있고, 예컨대, 조사되는 광의 크기(amplitude)를 변조시키거나, 펄스를 변조시키거나, 또는 광의 위상(phase), 주파수, 펄스 암호화 여부, 펄스의 폭 및 상승 시간 등을 변조시키는 방식으로 광원(10)을 구동시킬 수 있다.The light source driver 13 may be driven by modulating the light source 10 by being controlled by the controller 40. For example, the light source driver 13 modulates an amplitude of the irradiated light, modulates a pulse, or modulates a phase of light. The light source 10 may be driven by modulating a phase), a frequency, whether a pulse is encrypted, a pulse width, and a rise time.
도 2를 참조하면, 시야각 조절부(11)는 광원(10)의 시야각을 변경시킬 수 있다. 구체적으로, 물체(100)와 3차원 시간 비행 이미지 획득 장치(1) 사이의 거리에 따라 광원(10)의 시야각이 조절될 수 있으며, 시야각 조절부(11)는 광원 렌즈(12)와 광원(10) 사이에 위치하여 다양한 방식으로 구현될 수 있다.Referring to FIG. 2, the viewing angle adjusting unit 11 may change the viewing angle of the light source 10. Specifically, the viewing angle of the light source 10 may be adjusted according to the distance between the object 100 and the 3D time-flight image acquisition device 1, and the viewing angle adjusting unit 11 may include the light source lens 12 and the light source ( 10) and may be implemented in various ways.
광원(10)의 시야각을 조절함으로써 충분한 양의 광이 물체(100)에 도달하도록 할 수 있다. 예컨대, 광원(10)의 시야각이 작을수록 먼 거리까지 광이 도달할 수 있으며, 광원(10)의 시야각이 클수록 광이 도달할 수 있는 거리는 짧아질 수 있다. 따라서, 물체(100)와 광원(10) 사이의 거리를 측정하고 측정된 거리에 기초하여 광원(10)의 시야각을 조절함으로써, 물체(100)까지 충분한 양의 광이 도달할 수 있도록 할 수 있다. 따라서, 본 발명의 일 실시예에 따른 3차원 시간 비행 이미지 획득 장치(1)에 따르면, 광원(10)의 시야각을 조절하기 때문에 전력 소비를 최소화하면서 양질의 3차원 이미지를 얻을 수 있다.By adjusting the viewing angle of the light source 10, a sufficient amount of light can reach the object 100. For example, the smaller the viewing angle of the light source 10 may reach the far distance, and the larger the viewing angle of the light source 10 may shorten the distance that the light can reach. Therefore, by measuring the distance between the object 100 and the light source 10 and adjusting the viewing angle of the light source 10 based on the measured distance, a sufficient amount of light can reach the object 100. . Therefore, according to the three-dimensional time-flight image acquisition device 1 according to an embodiment of the present invention, since the viewing angle of the light source 10 is adjusted, it is possible to obtain a high quality three-dimensional image while minimizing power consumption.
도 1 및 도 3을 참조하여, 물체(100)로부터 반사된 광을 수신하고 수신된 광에 대한 데이터를 처리하는 구성에 대하여 살펴본다. 도 3을 참조하면, 물체(100)를 향해 입사하는 광과 물체(100)로부터 반사된 광이 서로 이격되어 도시되었지만, 이는 설명의 편의를 위해 이격하여 도시된 것일 뿐이다.1 and 3, a configuration of receiving the light reflected from the object 100 and processing data on the received light will be described. Referring to FIG. 3, the light incident toward the object 100 and the light reflected from the object 100 are shown spaced apart from each other, but only the spaces are shown for convenience of description.
도 1 및 도 3을 참조하면, 물체(100)로부터 반사된 광은 수광 렌즈(23)와 필터(22)를 거쳐서 촬상 소자(20)에 수신될 수 있으며, 변조 구동부(24)에 의해 구동되는 촬상 소자(20)는 수신된 반사광으로부터 로우 이미지 데이터(raw image data)를 생성하고, 신호 처리부(30)는 촬상 소자(20)로부터 받은 로우 이미지 데이터를 처리할 수 있다.1 and 3, the light reflected from the object 100 may be received by the imaging device 20 through the light receiving lens 23 and the filter 22, and may be driven by the modulation driver 24. The imaging device 20 may generate raw image data from the received reflected light, and the signal processor 30 may process the raw image data received from the imaging device 20.
구체적으로, 수광 렌즈(23)는 물체(100)로부터 반사된 광을 촬상 소자(20)가 위치한 영역으로 집광할 수 있다. 그리고, 필터(22)는 미리 정해진 파장을 갖는 광만을 투과시킬 수 있으며, 예컨대, 대역통과 광학 필터일 수 있다.In detail, the light receiving lens 23 may collect light reflected from the object 100 to a region where the imaging device 20 is located. In addition, the filter 22 may transmit only light having a predetermined wavelength, and may be, for example, a bandpass optical filter.
조절 렌즈부(21)는 수광 렌즈(23)와 촬상 소자(20) 사이에 위치하며, 물체(100)와 3차원 시간 비행 이미지 획득 장치(1) 사이의 거리에 따라 초점을 조절할 수 있다. 예컨대, 제어부(40)의 제어에 따라 조절 렌즈부(21)에 포함된 조절 매체(미도시)를 조절하여 초점 위치를 조절할 수 있다. 따라서, 3차원 시간 비행 이미지 획득 장치(1)를 통해 얻어진 해당 물체(100)에 초점이 형성된 3차원 이미지를 얻을 수 있다.The adjustment lens unit 21 may be positioned between the light receiving lens 23 and the imaging device 20, and may adjust the focus according to the distance between the object 100 and the 3D time-flight image acquisition device 1. For example, the focal position may be adjusted by adjusting an adjustment medium (not shown) included in the adjustment lens unit 21 under the control of the controller 40. Therefore, a three-dimensional image in which a focus is formed on the corresponding object 100 obtained through the three-dimensional time-flight image acquisition device 1 may be obtained.
예컨대, 도 3을 참조하면, 물체(100)와 3차원 시간 비행 이미지 획득 장치(1) 사이의 거리(더욱 자세하게는 물체(100)와 촬상 소자(20) 사이의 거리)를 D1 내지 D3로 표현하고, D1 내지 D3에 각각 물체(100)가 위치하고 있는 경우를 상정할 수 있다. 만약 가장 가까운 거리인 D1에 위치한 물체(100)에 초점을 맞춘 3차원 이미지를 획득하고자 한다면, D1에 위치한 물체(100)로부터 반사된 광을 수신하여 분석함으로써 물체(100)로부터 3차원 시간 비행 이미지 획득 장치(1) 사이의 거리에 대한 정보를 얻고, 해당 정보를 이용하여 조절 렌즈부(21) 내에 포함된 조절 매체를 조절하여 초점을 조절할 수 있다.For example, referring to FIG. 3, the distance between the object 100 and the three-dimensional time-flight image acquisition device 1 (more specifically, the distance between the object 100 and the imaging device 20) is represented by D1 to D3. The case where the object 100 is located in D1-D3 can be assumed, respectively. If the 3D image focused on the object 100 located at the closest distance D1 is acquired, the 3D time-flight image from the object 100 is analyzed by receiving and analyzing the light reflected from the object 100 located at D1. Information about the distance between the acquisition apparatuses 1 may be obtained, and the focus may be adjusted by adjusting the adjustment medium included in the adjustment lens unit 21 using the corresponding information.
한편, 조절 렌즈부(21)는 물체(100)로부터 반사된 광의 경로를 조절하여 광원(10)의 시야각 내의 물체(100)의 특정 부분이 확대되어 촬상 소자(20)에 이미지를 형성하도록 할 수 있으며, 예컨대 렌즈가 기계식으로 조절되어 줌-인(zoom-in) 또는 줌-아웃(zoom-out)될 수 있지만, 구동 방식은 이에 제한되지 않는다.Meanwhile, the adjustment lens unit 21 may adjust a path of the light reflected from the object 100 so that a specific portion of the object 100 within the viewing angle of the light source 10 may be enlarged to form an image on the imaging device 20. For example, although the lens may be mechanically adjusted to zoom-in or zoom-out, the driving scheme is not limited thereto.
초점의 기준이 되는 물체의 선정은, 입력 수단을 이용하여 사용자로부터 기준이 되는 대상에 대한 정보를 입력받을 수 있지만, 이에 제한되지 않고, 미리 정해진 기준을 만족시키는 특정한 물체가 기준으로서 자동으로 선택되도록 할 수도 있다. 따라서, 본 발명의 일 실시예에 따른 3차원 시간 비행 이미지 획득 장치(1)에 따르면, 초점의 자동 조절로 인해 획득되는 3차원 이미지의 정밀도를 향상시킬 수 있다. 여기서, 초점의 조절은 거리 값의 에러율 보정을 위해 수행되는 것일 수 있다.The selection of an object as a reference for focusing may be performed by inputting information about a reference object from a user by using an input means, but the present invention is not limited thereto, and a specific object satisfying a predetermined criterion is automatically selected as a reference. You may. Therefore, according to the three-dimensional time flight image acquisition apparatus 1 according to an embodiment of the present invention, it is possible to improve the accuracy of the three-dimensional image obtained by the automatic adjustment of the focus. Here, the adjustment of the focus may be performed to correct the error rate of the distance value.
촬상 소자(20)는 물체(100)로부터 반사된 광을 수신할 수 있고, 반사된 광으로부터 로우 이미지 데이터(raw image data)를 생성할 수 있다. 예컨대, 촬상 소자(20)는 2D 이미지 센서를 포함할 수 있으며, 이에 제한되지 않고 RGB 카메라 센서를 포함할 수도 있으며, 예컨대 반사된 광이 스플릿되어 2D 이미지 센서 및 RGB 센서에 동시에 수용되는 구조를 가질 수 있지만, 이에 제한되지 않는다. 또한, 촬상 소자(20)는 3차원 시간 비행(Time of Flight) 방식으로 광학적인 합성(Photonic Mixer) 기능을 갖춘 단위 픽셀의 집합으로 이루어질 수 있지만, 이에 제한되지 않는다.The imaging device 20 may receive light reflected from the object 100 and generate raw image data from the reflected light. For example, the imaging device 20 may include a 2D image sensor, and the present invention may include, but is not limited to, an RGB camera sensor. For example, the image pickup device 20 may have a structure in which reflected light is split and simultaneously accommodated in the 2D image sensor and the RGB sensor. Can be, but is not limited to this. In addition, the imaging device 20 may be configured as a set of unit pixels having an optical synthesis function in a 3D time of flight, but is not limited thereto.
변조 구동부(24)는 3차원 촬상 소자(20)를 구동시킬 수 있으며, 광원(10)으로부터 조사된 광과 동일하거나 90°, 180° 및 270° 등의 위상 차이가 있는 신호가 생성되도록 3차원 촬상 소자(20)로부터 출력되는 파형을 변조시킬 수 있지만, 직접 시간 비행(direct TOF) 방식을 이용하는 경우, 불연속적인 펄스를 갖는 광원(10)이 이용되므로 이와 다를 수 있다.The modulation driver 24 may drive the three-dimensional imaging device 20, and the three-dimensional imaging unit 20 may generate a signal having the same phase as the light emitted from the light source 10 or having a phase difference such as 90 °, 180 °, and 270 °. Although the waveform output from the imaging device 20 can be modulated, when using a direct time-of-flight (direct TOF) method, since the light source 10 having the discontinuous pulse is used, it may be different.
신호 처리부(30)는 촬상 소자(20)로부터 로우 이미지 데이터를 제공받고, 로우 데이터를 처리하여 3차원 깊이 이미지 및 3차원 강도 이미지를 생성할 수 있다. 신호 처리부(30)는 3차원 깊이 이미지 및 3차원 강도 이미지를 형성하기 위해, 예컨대, 광원(10)으로부터 조사된 광의 위상을 변조시킨 변조광의 파형과 반사된 광의 파형을 비교함으로써, 깊이(거리)와 강도에 대한 값을 얻을 수 있다. 신호 처리부(30)로부터 얻어진 깊이 값 및 강도 값은, 후처리 과정에서 포인트 클라우드 방식이나, 복셀, 칼라 코드 맵 방식을 통해 실제 물체와 비슷한 볼륨을 가지는 3D 이미지를 생성하는데 이용될 수 있다.The signal processor 30 may receive the raw image data from the imaging device 20 and may process the raw data to generate a 3D depth image and a 3D intensity image. The signal processor 30 compares the waveform of the modulated light with the modulated phase of the light irradiated from the light source 10 with the waveform of the reflected light to form a three-dimensional depth image and a three-dimensional intensity image. You can get values for and strength. The depth value and the intensity value obtained from the signal processor 30 may be used to generate a 3D image having a volume similar to a real object through a point cloud method, a voxel, or a color code map method in a post-processing process.
다만, 3차원 깊이 이미지와 3차원 강도 이미지를 생성하는 방식으로 위상 차이를 이용한 전술한 위상 변조 방식 이외에, 3차원 시간 비행(Time of Flight) 방식을 직접적으로 이용하는 직접 시간 비행(direct TOF) 방식을 이용할 수도 있다.However, in addition to the above-described phase modulation method using the phase difference as a method of generating a three-dimensional depth image and a three-dimensional intensity image, a direct time flight method using a three-dimensional time of flight method is used. It can also be used.
제어부(40)는 3차원 시간 비행 이미지 획득 장치(1)의 전반적인 작동을 제어하며, 예컨대, 시야각 조절부(11), 광원 구동부(13), 조절 렌즈부(21), 변조 구동부(24) 및 신호 처리부(30) 등이 제어부(40)에 의해 제어될 수 있다.The controller 40 controls the overall operation of the three-dimensional time-flight image acquisition device 1, for example, the viewing angle adjusting unit 11, the light source driving unit 13, the adjusting lens unit 21, the modulation driving unit 24, and the like. The signal processor 30 and the like may be controlled by the controller 40.
모션 센서(50)는 3차원 시간 비행 이미지 획득 장치(1)의 이동, 기울기 및 방향 등의 정보를 감지하여 3차원 이미지를 생성하는데 정확도를 높일 수 있으며, 이러한 정보는 3차원 이미지와 함께 저장되고 3차원 이미지를 표시할 때 이용될 수 있다.The motion sensor 50 may increase the accuracy in generating a three-dimensional image by detecting information such as movement, tilt and direction of the three-dimensional time-flight image acquisition device 1, and the information may be stored together with the three-dimensional image. It can be used when displaying three-dimensional images.
구체적으로 3차원 이미지의 절대 좌표값을 감지하여 생성할 수 있다. 3차원 이미지의 절대 좌표값을 표시하기 위해, 예컨대, X축, Y축 및 Z축 3개의 축이 이용될 수 있다.In detail, the absolute coordinate value of the 3D image may be detected and generated. In order to display the absolute coordinate values of the three-dimensional image, for example, three axes of the X axis, the Y axis and the Z axis may be used.
모션 센서(50)로서 예컨대, 3차원 시간 비행 이미지 획득 장치(1)의 회전 상태를 3개의 축을 기초로 감지하여 기울기를 인식하는 자이로 센서, 3차원 시간 비행 이미지 획득 장치(10)의 이동 상태를 3개의 축을 기초로 감지하는 가속도 센서 및 자기장 세기를 3개의 축을 기초로 감지하는 지자기 센서 중 적어도 하나 이상이 이용될 수 있지만, 이에 제한되지 않는다.As the motion sensor 50, for example, a gyro sensor which detects a tilt by detecting a rotation state of the 3D time flight image acquisition device 1 based on three axes, and displays a movement state of the 3D time flight image acquisition device 10. At least one or more of an acceleration sensor for sensing based on three axes and a geomagnetic sensor for sensing magnetic field strength based on three axes may be used, but is not limited thereto.
도 4를 참조하여, 본 발명의 일 실시예에 따른 3차원 시간 비행 이미지 획득 장치(1)의 시야각 조절 기능을 설명한다. 도 4를 참조하면, 본 발명의 일 실시예에 따른 3차원 시간 비행 이미지 획득 장치(1)의 시야각 조절 기능을 설명하기 위한 순서도가 도시된다.Referring to FIG. 4, the viewing angle adjustment function of the 3D time-flight image acquisition device 1 according to an embodiment of the present invention will be described. Referring to FIG. 4, a flowchart for explaining a viewing angle adjustment function of the 3D time-flight image acquisition device 1 according to an embodiment of the present invention is shown.
우선, 신호 처리부(30)는 3차원 깊이 이미지 및 3차원 강도 이미지를 분석하여, 물체를 검출하고 검출된 물체에 대한 깊이 값 및 강도 값을 산출할 수 있다(S1). 깊이 값은 거리 값일 수 있으며, 3차원 깊이 이미지로부터 산출되는 3차원 시간 비행 이미지 획득 장치(1)와 물체(100) 사이의 거리에 대한 값을 의미할 수 있다, 강도 값은 3차원 강도 이미지로부터 얻을 수 있는 물체(100)로부터 반사된 광의 세기 값을 의미할 수 있다.First, the signal processor 30 may analyze the 3D depth image and the 3D intensity image to detect an object and calculate a depth value and an intensity value of the detected object (S1). The depth value may be a distance value, and may mean a value for the distance between the 3D time flight image obtaining apparatus 1 and the object 100 calculated from the 3D depth image. The intensity value of the light reflected from the object 100 may be obtained.
예컨대, 3차원 깊이 이미지와 3차원 강도 이미지를 서로 매칭시켜서 검출된 물체에 대한 깊이 값 및 강도 값을 산출할 수 있으며, 상대적으로 가까이 위치한 물체는 강도 값이 크고 깊이 값이 작을 수 있고, 상대적으로 멀리 위치한 물체는 강도 값이 작고 깊이 값이 클 수 있다.For example, a three-dimensional depth image and a three-dimensional intensity image may be matched to each other to calculate a depth value and an intensity value for a detected object. A relatively close object may have a large intensity value and a small depth value, and may be relatively Far away objects may have small strength values and large depth values.
이후에, 신호 처리부(30)는 산출된 깊이 값 및 강도 값을 보정할 수 있다(S2). 3차원 이미지를 획득하고자 하는 물체(100)가 유리와 같이 투명하고 빛을 과도하게 반사시키는 경우, 왜곡된 3차원 깊이 이미지 및 3차원 강도 이미지가 생성될 수 있다. 예컨대, 투명 반사 물체에 대한 3차원 깊이 이미지를 참조하면, 유리컵에 대한 이미지가 명확하지 않은 반면에, 투명 반사 물체에 대한 3차원 강도 이미지를 참조하면, 유리컵에 대한 이미지가 명확하다. 따라서, 왜곡을 보정하기 위해, 산출된 깊이 값 및 강도 값에 대한 보정을 수행할 수 있다.Thereafter, the signal processor 30 may correct the calculated depth value and the intensity value (S2). When the object 100 to acquire the 3D image is transparent and excessively reflects light such as glass, a distorted 3D depth image and a 3D intensity image may be generated. For example, referring to the three-dimensional depth image for the transparent reflective object, the image for the glass is not clear, while referring to the three-dimensional intensity image for the transparent reflective object, the image for the glass is clear. Therefore, in order to correct distortion, it is possible to perform correction on the calculated depth value and intensity value.
이후에, 신호 처리부(30)는 산출된 깊이 값 및 강도 값에 기초하여 검출된 물체의 크기와 검출된 물체와 3차원 시간 비행 이미지 획득 장치(1) 사이의 거리에 대한 정보를 산출할 수 있다(S3). 검출된 물체(100)가 복수인 경우에는 복수의 물체에 대해 크기 및 거리에 대한 정보를 산출할 수 있다.Thereafter, the signal processor 30 may calculate information on the size of the detected object and the distance between the detected object and the 3D time-flight image acquisition device 1 based on the calculated depth value and the intensity value. (S3). When there are a plurality of detected objects 100, information about a size and a distance may be calculated for the plurality of objects.
그리고, 신호 처리부(30)는 산출된 크기 및 거리, 위치에 대한 정보에 기초하여 광원(10)의 최대 시야각을 산출할 수 있다(S4). 즉, 검출된 물체의 크기 및 거리를 고려하여, 검출하고자 하는 모든 물체를 포함하면서 해당 물체(100)까지 충분한 양의 광이 도달할 수 있는 광원(10)의 최대 시야각을 도출할 수 있다. 이를 위해, 신호 처리부(30)는 물체(100)의 크기나 위치에 따라 필요한 광량이 기록된 데이터 베이스를 가질 수 있다.The signal processor 30 may calculate the maximum viewing angle of the light source 10 based on the calculated size, distance, and position information (S4). That is, in consideration of the size and distance of the detected object, it is possible to derive the maximum viewing angle of the light source 10 that can include all the objects to be detected and can reach a sufficient amount of light to the object 100. To this end, the signal processor 30 may have a database in which the required amount of light is recorded according to the size or position of the object 100.
한편, 검출된 물체(100)가 복수인 경우에는, 검출된 물체 중 최대 크기를 가지거나 3차원 시간 비행 이미지 획득 장치(1)로부터 거리가 가장 멀리 떨어진 물체를 기준으로, 광원(10)의 최대 시야각을 산출할 수 있다. 또한, 넓게 퍼진 복수의 물체인 경우에는, 가장 외곽에 있는 물체들을 기준으로 최대 시야각을 산출할 수 있다.On the other hand, when there are a plurality of detected objects 100, the maximum of the light source 10, based on the object having the largest size or the farthest distance from the three-dimensional time-flight image acquisition device 1 among the detected objects The viewing angle can be calculated. In addition, in the case of a plurality of objects spread widely, the maximum viewing angle may be calculated based on the outermost objects.
그리고, 신호 처리부(30)는 현재의 광원(10)의 시야각과 산출된 최대 시야각을 비교함으로써, 현재 시야각의 유효성을 판단할 수 있다(S5). 현재의 광원(10)의 시야각과 산출된 최대 시야각이 일치하지 않는 경우에는, 현재의 시야각이 유효하지 않다고 판단될 수 있고, 현재의 광원(10)의 시야각과 산출된 최대 시야각이 일치하는 경우에는 현재의 시야각이 유효하다고 판단될 수 있다.The signal processor 30 may determine the validity of the current viewing angle by comparing the current viewing angle of the current light source 10 with the calculated maximum viewing angle (S5). When the viewing angle of the current light source 10 and the calculated maximum viewing angle do not coincide, it may be determined that the current viewing angle is not valid, and when the viewing angle of the current light source 10 coincides with the calculated maximum viewing angle. It can be determined that the current viewing angle is valid.
유효하지 않다고 판단되는 경우에, 제어부(40)는 시야각 조절부(11)가 광원(10)이 최대 시야각을 가지도록 시야각을 조절될 수 있고(S6), 유효하다고 판단되는 경우에, 제어부(40)는 시야각 조절부(11)는 현재의 시야각을 유지할 수 있다(S7).If it is determined that it is not valid, the control unit 40 may adjust the viewing angle so that the viewing angle adjusting unit 11 has the maximum viewing angle of the light source 10 (S6), and when it is determined to be effective, the control unit 40 ), The viewing angle adjusting unit 11 may maintain the current viewing angle (S7).
이와 같은 시야각 조절 기능에 따라 자동으로 시야각이 조절되기 때문에, 본 발명의 일 실시예에 따른 3차원 시간 비행 이미지 획득 장치에 따르면, 전력 소비를 최소화하면서 양질의 3차원 이미지를 얻을 수 있다. 여기서, 전력 소비의 최소화는, 광원의 시야각 조절과 함께 물체의 거리에 따른 광원 세기의 조절을 병행함으로써 달성할 수 있으며, 결과적으로 전력 소비 절감 효과를 얻을 수 있다.Since the viewing angle is automatically adjusted according to the viewing angle adjustment function as described above, according to the 3D time-flight image acquisition device according to an embodiment of the present invention, it is possible to obtain a high quality 3D image while minimizing power consumption. Here, minimizing the power consumption can be achieved by simultaneously adjusting the viewing angle of the light source and adjusting the light source intensity according to the distance of the object, and as a result, a power consumption reduction effect can be obtained.
도 5를 참조하여, 본 발명의 일 실시예에 따른 3차원 시간 비행 이미지 획득 장치의 초점 조절 기능을 설명한다. 도 5를 참조하면, 본 발명의 일 실시예에 따른 3차원 시간 비행 이미지 획득 장치의 초점 조절 기능을 설명하기 위한 순서도가 도시된다.Referring to FIG. 5, a focus adjustment function of a 3D time flight image acquisition device according to an embodiment of the present invention will be described. Referring to FIG. 5, a flowchart for describing a focus adjustment function of an apparatus for acquiring 3D time flight images according to an embodiment of the present invention is shown.
우선, 신호 처리부(30)는 3차원 깊이 이미지 및 3차원 강도 이미지를 분석하여 물체를 검출하고, 검출된 물체에 대한 깊이 값 및 강도 값을 산출할 수 있다(S11). 깊이 값은 거리 값일 수 있으며, 3차원 깊이 이미지로부터 산출되는 3차원 시간 비행 이미지 획득 장치(1)와 물체(100) 사이의 거리에 대한 값을 의미할 수 있다, 강도 값은 3차원 강도 이미지로부터 얻을 수 있는 물체(100)로부터 반사된 광의 세기 값을 의미할 수 있다.First, the signal processor 30 may detect an object by analyzing a 3D depth image and a 3D intensity image, and calculate a depth value and an intensity value of the detected object (S11). The depth value may be a distance value, and may mean a value for the distance between the 3D time flight image obtaining apparatus 1 and the object 100 calculated from the 3D depth image. The intensity value of the light reflected from the object 100 may be obtained.
이후에, 신호 처리부(30)는 산출된 깊이 값 및 강도 값을 보정할 수 있다(S12). 3차원 이미지를 획득하고자 하는 물체(100)가 유리와 같이 투명하고 빛을 과도하게 반사시키는 경우, 왜곡된 3차원 깊이 이미지 및 3차원 강도 이미지가 생성될 수 있다. 예컨대, 투명 반사 물체에 대한 3차원 깊이 이미지를 참조하면, 유리컵에 대한 이미지가 명확하지 않은 반면에, 투명 반사 물체에 대한 3차원 강도 이미지를 참조하면, 유리컵에 대한 이미지가 명확하다. 따라서, 왜곡을 보정하기 위해, 산출된 깊이 값 및 강도 값에 대한 보정을 수행할 수 있다.Thereafter, the signal processor 30 may correct the calculated depth value and the intensity value (S12). When the object 100 to acquire the 3D image is transparent and excessively reflects light such as glass, a distorted 3D depth image and a 3D intensity image may be generated. For example, referring to the three-dimensional depth image for the transparent reflective object, the image for the glass is not clear, while referring to the three-dimensional intensity image for the transparent reflective object, the image for the glass is clear. Therefore, in order to correct distortion, it is possible to perform correction on the calculated depth value and intensity value.
이후에, 신호 처리부(30)는 산출된 깊이 값 및 강도 값에 기초하여 검출된 물체의 경계 및 검출된 물체와 3차원 시간 비행 이미지 획득 장치(1) 사이의 거리에 대한 정보를 산출할 수 있다(S13).Subsequently, the signal processor 30 may calculate information about the boundary of the detected object and the distance between the detected object and the 3D time flight image obtaining apparatus 1 based on the calculated depth value and the intensity value. (S13).
그리고, 신호 처리부(30)는 산출된 경계 및 거리에 대한 정보에 기초하여 검출된 물체 상에 초점이 형성된 3차원 시간 비행 이미지를 얻기 위해 필요한 초점 계수를 산출할 수 있다(S14). 검출되는 물체가 복수인 경우, 초점의 기준이 되는 물체의 선정은, 입력 수단을 이용하여 사용자로부터 기준이 되는 대상에 대한 정보를 입력받을 수 있지만, 이에 제한되지 않고, 특정한 물체가 기준으로서 자동으로 선택되도록 할 수도 있다.The signal processor 30 may calculate a focus coefficient required to obtain a 3D time-flight image in which a focus is formed on the detected object based on the calculated information about the boundary and the distance (S14). When there are a plurality of objects to be detected, the selection of an object as a reference for focusing may be inputted by the user with information about a reference object from a user, but the present invention is not limited thereto, and a specific object is automatically used as a reference. It can also be selected.
그리고, 신호 처리부(30)는 현재의 초점 계수와 산출된 계수를 비교함으로써, 초점 조절의 필요성 여부를 판단할 수 있다(S15). 현재의 초점 계수와 산출된 초점 계수가 일치하지 않는 경우에는 초점 조절이 필요하다고 판단할 수 있고, 현재의 초점 계수와 산출된 초점 계수가 일치하는 경우에는 초점 조절이 필요하지 않다고 판단할 수 있다.The signal processor 30 may determine whether focus adjustment is necessary by comparing the current focus coefficient with the calculated coefficient (S15). If the current focus coefficient and the calculated focus coefficient do not match, it may be determined that focus adjustment is necessary. If the current focus coefficient and the calculated focus coefficient match, it may be determined that focus adjustment is not necessary.
초점 조절이 필요하다고 판단되는 경우에, 제어부(40)는 조절 렌즈부(21)가 산출된 초점 계수가 되도록 초점 위치를 조정할 수 있고(S16), 초점 조절이 필요하지 않다고 판단되는 경우에는, 제어부(40)는 조절 렌즈부(21)는 현재의 초점 위치를 유지할 수 있다(S17).When it is determined that focus adjustment is necessary, the control unit 40 can adjust the focus position so that the adjustment lens unit 21 becomes the calculated focus coefficient (S16), and when it is determined that focus adjustment is not necessary, the control unit 40 40, the adjustment lens unit 21 may maintain the current focus position (S17).
이와 같은 초점 조절 기능에 따라 자동으로 초점이 조절되기 때문에, 본 발명의 일 실시예에 따른 3차원 시간 비행 이미지 획득 장치에 따르면, 초점의 자동 조절로 인해 획득되는 3차원 이미지의 정밀도를 향상시킬 수 있다.Since the focus is automatically adjusted according to the focus adjustment function, according to the 3D time-flight image acquisition device according to an embodiment of the present invention, it is possible to improve the accuracy of the 3D image obtained by the automatic adjustment of the focus. have.
도 6을 참조하여, 본 발명의 일 실시예에 따른 3차원 시간 비행 이미지 획득 장치를 포함하는 3차원 시간 비행 이미지 획득 시스템을 설명한다. 도 6을 참조하면, 도 1의 3차원 시간 비행 이미지 획득 장치를 포함하는 3차원 시간 비행 이미지 획득 시스템의 구성이 개시된다.Referring to FIG. 6, a 3D time flight image acquisition system including a 3D time flight image acquisition device according to an embodiment of the present invention will be described. Referring to FIG. 6, a configuration of a 3D time flight image acquisition system including the 3D time flight image acquisition device of FIG. 1 is disclosed.
3차원 시간 비행 이미지 획득 시스템은 3차원 시간 비행 이미지 획득 장치(1)와 3차원 시간 비행 이미지 획득 장치(1)로부터 전송되는 이미지를 표시하는 디스플레이부(2), 사용자로부터 입력을 받을 수 있는 입력부(3) 및 3차원 시간 비행 이미지 획득 장치(1)로부터 생성되는 데이터를 저장할 수 있는 데이터 저장부(4), 3차원 시간 비행 이미지 획득 장치(1)를 포함한 3차원 시간 비행 이미지 획득 시스템에 전원을 공급하는 전원 공급부(5) 및 3차원 시간 비행 이미지 획득 장치(1)가 외부 장치와 통신을 할 수 있도록 하는 통신부(6)를 포함할 수 있다.The 3D time flight image acquisition system includes a display unit 2 for displaying an image transmitted from the 3D time flight image acquisition device 1 and the 3D time flight image acquisition device 1, and an input unit for receiving input from a user. (3) and a power supply for a three-dimensional time flight image acquisition system including a data storage unit 4 capable of storing data generated from the three-dimensional time flight image acquisition device 1 and a three-dimensional time flight image acquisition device 1. It may include a power supply unit (5) for supplying a and a three-dimensional time flight image acquisition device (1) for communicating with an external device.
통신부(6)는 블루투스, 지그비 및 NFC를 포함하는 WPAN(Wireless Personal Area Networks), WLAN(Wireless LAN), 와이파이(Wi-Fi), 와이브로(Wibro), 와이맥스(Wimax), HSDPA(High Speed Downlink Packet Access), GPS(Global Positioning System) 등의 무선 통신방식 또는 이더넷(Ethernet), xDSL(ADSL, VDSL), HFC(Hybrid Fiber Coax), FTTC(Fiber to The Curb), FTTH(Fiber To The Home), USB(Universal Serial Bus) 등의 유선 통신방식을 이용할 수 있지만, 통신부(6)의 통신 방식은 상기에 제시된 통신 방식에 한정되는 것은 아니며, 상술한 통신 방식 이외에도 기타 널리 공지되었거나 향후 개발될 모든 형태의 통신 방식을 포함할 수 있다.The communication unit 6 includes WPAN (Wireless Personal Area Networks) including Bluetooth, ZigBee, and NFC, Wireless LAN (WLAN), Wi-Fi, Wibro, Wimax, and High Speed Downlink Packet. Wireless communication method such as Access, Global Positioning System (GPS) or Ethernet, xDSL (ADSL, VDSL), Hybrid Fiber Coax (HFC), Fiber to The Curb (FTTC), Fiber To The Home (FTTH), Although a wired communication method such as USB (Universal Serial Bus) can be used, the communication method of the communication unit 6 is not limited to the communication method described above, and in addition to the above-mentioned communication method, all other forms of well-known or future development It may include a communication scheme.
도 7 및 도 8을 참조하여, 본 발명의 일 실시예에 따른 3차원 시간 비행 이미지 획득 장치를 포함하는 3차원 시간 비행 이미지 획득 시스템에서, 디스플레이부에 표시되는 사용자 인터페이스(user interface)를 설명한다. 도 7을 참조하면, 도 6의 3차원 시간 비행 이미지 획득 시스템의 디스플레이부에 3차원 깊이 이미지가 표시된 것을 나타내는 도면이 개시되고, 도 8을 참조하면, 도 6의 3차원 시간 비행 이미지 획득 시스템의 디스플레이부에 3차원 강도 이미지가 표시된 것을 나타내는 도면이 개시된다.7 and 8, a user interface displayed on a display unit in a 3D time flight image acquisition system including a 3D time flight image acquisition device according to an embodiment of the present invention will be described. . Referring to FIG. 7, a diagram illustrating that a 3D depth image is displayed on a display unit of the 3D time flight image acquisition system of FIG. 6 is described. Referring to FIG. 8, the 3D time flight image acquisition system of FIG. A diagram showing that a three-dimensional intensity image is displayed on a display is disclosed.
디스플레이부(2)에는 3차원 이미지의 해상도가 표시되는 해상도 표시 영역(110)이 포함될 수 있으며, 예컨대 Full-HD와 같이 표시될 수 있지만, 이에 제한되지 않는다.The display unit 2 may include a resolution display area 110 in which the resolution of the 3D image is displayed. For example, the display unit 2 may be displayed as Full-HD, but is not limited thereto.
그리고, 디스플레이부(2)에는 조절 렌즈부(21)에 의해 조절되어 초점이 형성되는 영역의 위치를 표시하는 자동 초점 영역(120)이 포함될 수 있으며, 예컨대 사각형의 형태로 표시될 수 있지만, 이에 제한되지 않는다.In addition, the display unit 2 may include an auto focus region 120 that is displayed by the adjustment lens unit 21 to display the position of the region where the focus is to be formed. It is not limited.
또한, 디스플레이부(2)에는 3차원 깊이 이미지가 각각의 거리 값에 크기에 대응되는 색으로 표시될 수 있으며, 거리 값과 색상과의 관계를 막대기 형태로 표현하는 색상-거리 값 대응 관계 표시 영역(130)이 디스플레이부(2)에 포함될 수 있다.In addition, the display unit 2 may display a three-dimensional depth image in a color corresponding to the size at each distance value, and a color-distance value correspondence relationship display area expressing a relationship between the distance value and the color in the form of a stick. 130 may be included in the display unit 2.
한편, 디스플레이부(2)에는 조절 렌즈부(21)에서 자동 초점 조절이 되고 있는지를 아이콘 형태로 표시하는 자동 초점 조절 표시 영역(140) 및 시야각 조절부(11)에서 자동 시야각 조절이 되고 있는지를 아이콘 형태로 표시하는 자동 시야각 조절 표시 영역(150)이 포함될 수 있다.On the other hand, the display unit 2 indicates whether the auto focus control is performed by the adjustment lens unit 21 in the form of an icon in the auto focus display area 140 and the viewing angle control unit 11 that the auto viewing angle is adjusted. An automatic viewing angle adjustment display area 150 displayed in the form of an icon may be included.
그리고, 디스플레이부(2)에는 3차원 강도 이미지가 각각의 강도 값에 크기에 대응되는 음영으로 표시될 수 있으며, 거리 값과 음영과의 관계를 막대기 형태로 표현하는 음영-강도 값 대응 관계 표시 영역(160)이 디스플레이부(2)에 포함될 수 있다.In addition, the display unit 2 may display a three-dimensional intensity image in a shade corresponding to the size of each intensity value, and a shade-intensity value correspondence relation display area expressing a relationship between the distance value and the shade in the form of a stick. 160 may be included in the display unit 2.
도 9를 참조하여, 본 발명의 일 실시예에 따른 3차원 시간 비행 이미지 획득 장치가 적용될 수 있는 실시예를 설명한다. 도 7을 참조하면, 도 1의 3차원 비행 이미지 획득 장치가 적용되는 전자 기기의 예가 도시된다.Referring to FIG. 9, an embodiment to which an apparatus for obtaining 3D time flight images according to an embodiment of the present invention may be applied will be described. Referring to FIG. 7, an example of an electronic device to which the 3D flying image acquisition device of FIG. 1 is applied is shown.
3차원 시간 비행 이미지 획득 장치(1)는 다양한 전자 기기들의 이미지 획득 장치로서 이용될 수 있다. 예를 들어, 3차원 시간 비행 이미지 획득 장치(1)는 스마트폰(200)에 적용될 수 있고, 이 밖에, 태블릿 PC, 프린터, 휴대용 게임기, 휴대용 노트북, 네비게이션(navigation), 자동차 또는 가전 제품(household appliances)에 적용될 수 있다.The three-dimensional time-flight image acquisition device 1 may be used as an image acquisition device of various electronic devices. For example, the three-dimensional time flight image acquisition device 1 may be applied to a smartphone 200, in addition to a tablet PC, a printer, a handheld game console, a portable notebook, navigation, a car or a household appliance. appliances).
이상 첨부된 도면을 참조하여 본 발명의 실시예들을 설명하였지만, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 본 발명이 그 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다.Although embodiments of the present invention have been described above with reference to the accompanying drawings, those skilled in the art to which the present invention pertains may implement the present invention in other specific forms without changing the technical spirit or essential features thereof. I can understand that. Therefore, it should be understood that the embodiments described above are exemplary in all respects and not restrictive.

Claims (8)

  1. 물체의 3차원 시간 비행(Time of Flight) 이미지를 획득하기 위한 3차원 시간 비행 이미지 획득 장치에 있어서,An apparatus for acquiring a three-dimensional time flight image for acquiring a three-dimensional time of flight image of an object,
    상기 물체를 향해 광을 조사하는 광원;A light source for irradiating light toward the object;
    상기 물체와 상기 3차원 시간 비행 이미지 획득 장치 사이의 거리에 따라 상기 광원의 시야각을 조절하는 시야각 조절부;A viewing angle adjusting unit configured to adjust a viewing angle of the light source according to a distance between the object and the 3D time-flight image acquisition device;
    상기 물체와 상기 3차원 시간 비행 이미지 획득 장치 사이의 거리에 따라 초점을 조절하는 조절 렌즈부로서, 상기 물체로부터 반사된 광은 상기 조절 렌즈부를 거쳐서 촬상 소자로 수신되는 것인, 조절 렌즈부;An adjustment lens unit for adjusting focus according to a distance between the object and the three-dimensional time-flight image acquisition device, wherein the light reflected from the object is received by the image pickup device via the adjustment lens unit;
    상기 물체로부터 반사된 광을 수신하여 로우 이미지 데이터(raw image data)를 생성하는 촬상 소자; 및An imaging device configured to receive light reflected from the object and generate raw image data; And
    상기 촬상 소자로부터 상기 로우 이미지 데이터를 제공받고, 3차원 시간 비행 방식을 이용하여 상기 로우 데이터를 처리함으로써 3차원 깊이 이미지 및 3차원 강도 이미지를 생성하는 신호 처리부The signal processor receives the raw image data from the imaging device and generates a three-dimensional depth image and a three-dimensional intensity image by processing the raw data by using a three-dimensional time flight method.
    를 포함하는 3차원 시간 비행 이미지 획득 장치.3D time flight image acquisition device comprising a.
  2. 제1항에 있어서,The method of claim 1,
    상기 신호 처리부는,The signal processing unit,
    상기 3차원 깊이 이미지 및 상기 3차원 강도 이미지를 분석하여, 물체를 검출하고 검출된 물체에 해당하는 깊이 값과 강도 값을 산출하고,Analyzing the three-dimensional depth image and the three-dimensional intensity image to detect an object and calculate a depth value and an intensity value corresponding to the detected object,
    산출된 깊이 값 및 강도 값에 기초하여 검출된 물체의 크기와 검출된 물체와 상기 3차원 시간 비행 이미지 획득 장치 사이의 거리에 대한 정보를 산출하고,Calculating information on the size of the detected object and the distance between the detected object and the three-dimensional time-flight image acquisition device based on the calculated depth value and intensity value,
    상기 산출된 크기 및 거리에 대한 정보에 기초하여 상기 광원의 최대 시야각을 산출하고,Calculating a maximum viewing angle of the light source based on the calculated size and distance information,
    상기 시야각 조절부는, 상기 광원의 현재 시야각과 도출된 최대 시야각이 일치하지 않는 경우, 상기 광원의 시야각이 상기 최대 시야각이 되도록 조절하는 것인, 3차원 시간 비행 이미지 획득 장치.And the viewing angle adjusting unit adjusts the viewing angle of the light source to be the maximum viewing angle when the current viewing angle of the light source does not coincide with the derived maximum viewing angle.
  3. 제2항에 있어서,The method of claim 2,
    검출된 물체가 복수인 경우, 상기 산출된 크기 및 거리에 대한 정보에 기초하여 상기 광원의 최대 시야각을 산출하는 것은, 상기 산출된 크기 및 거리에 대한 정보에 기초하여 도출되는 최대 크기를 가지는 검출된 물체, 상기 3차원 시간 비행 이미지 획득 장치로부터 가장 멀리 떨어져 있는 검출된 물체 또는 서로 이격된 복수의 검출된 물체를 기준으로 상기 광원의 최대 시야각을 도출하는 것인, 3차원 시간 비행 이미지 획득 장치.When there are a plurality of detected objects, calculating the maximum viewing angle of the light source based on the calculated size and distance information may include detecting the maximum size derived based on the calculated size and distance information. Deriving a maximum viewing angle of the light source based on an object, a detected object farthest from the three-dimensional time-flight image acquisition device, or a plurality of detected objects spaced apart from each other.
  4. 제1항에 있어서,The method of claim 1,
    상기 신호 처리부는,The signal processing unit,
    상기 3차원 깊이 이미지 및 상기 3차원 강도 이미지를 분석하여 물체를 검출하고 검출된 물체에 해당하는 깊이 값과 강도 값을 산출하고,The object is detected by analyzing the 3D depth image and the 3D intensity image, and a depth value and an intensity value corresponding to the detected object are calculated.
    산출된 깊이 값 및 강도 값에 기초하여 검출된 물체의 경계 및 검출된 물체와 상기 3차원 시간 비행 이미지 획득 장치 사이의 거리에 대한 정보를 산출하고,Calculating information on the boundary of the detected object and the distance between the detected object and the three-dimensional time-flight image acquisition device based on the calculated depth value and intensity value;
    상기 산출된 경계 및 거리에 대한 정보에 기초하여 검출된 물체 상에 초점이 형성된 3차원 시간 비행 이미지를 얻기 위해 필요한 초점 계수를 산출하고,Calculating a focus coefficient required to obtain a 3D time-flight image in which a focal point is formed on the detected object based on the calculated boundary and distance information,
    상기 조절 렌즈부는, 현재 초점 계수와 산출된 초점 계수가 일치하지 않는 경우, 산출된 초점 계수가 되도록 초점 위치를 조절하는 것인, 3차원 시간 비행 이미지 획득 장치.The adjustment lens unit, if the current focus coefficient and the calculated focus coefficient does not match, to adjust the focus position to be the calculated focus coefficient, 3D time-flight image acquisition device.
  5. 제1항에 있어서,The method of claim 1,
    상기 광원으로부터 조사되는 광의 크기, 위상, 주파수, 펄스 암호화 여부, 펄스의 폭 및 상승 시간 중 적어도 하나 이상을 제어하는 광원 구동부를 더 포함하는 것인, 3차원 시간 비행 이미지 획득 장치.And a light source driver for controlling at least one of the size, phase, frequency, pulse encryption, pulse width, and rise time of the light irradiated from the light source.
  6. 제1항에 있어서,The method of claim 1,
    상기 조절 렌즈부는, 상기 물체로부터 반사된 광의 경로를 조절하여 상기 광원의 시야각 내의 상기 물체의 특정 부분이 확대되어 상기 촬상 소자에 이미지를 형성하도록 하는 것인, 3차원 시간 비행 이미지 획득 장치.And the adjustment lens unit adjusts a path of light reflected from the object so that a specific portion of the object within the viewing angle of the light source is enlarged to form an image on the imaging device.
  7. 제1항에 있어서,The method of claim 1,
    상기 3차원 시간 비행 이미지 획득 장치의 이동, 기울기 및 방향을 감지하는 모션 센서를 더 포함하는 것인, 3차원 시간 비행 이미지 획득 장치.And a motion sensor for detecting a movement, inclination, and a direction of the 3D time flight image acquisition device.
  8. 제1항에 기재된 3차원 시간 비행 이미지 획득 장치; 및A three-dimensional time flight image acquisition device according to claim 1; And
    상기 3차원 시간 비행 이미지 획득 장치로부터 전송되는 3차원 이미지를 표시하는 디스플레이부A display unit for displaying a three-dimensional image transmitted from the three-dimensional time flight image acquisition device
    를 포함하고,Including,
    상기 디스플레이부에는 상기 조절 렌즈부에 의해 조절되어 초점이 형성되는 영역의 위치가 표시되는 것인, 3차원 시간 비행 이미지 획득 시스템.The display unit is to display the position of the area that is adjusted by the control lens to form a focus, 3D time flight image acquisition system.
PCT/KR2015/002711 2014-05-21 2015-03-20 Apparatus for acquiring three-dimensional time of flight image WO2015178575A1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR10-2014-0061191 2014-05-21
KR1020140061191A KR101557295B1 (en) 2014-05-21 2014-05-21 3-dimensional time of flight image capturing device

Publications (1)

Publication Number Publication Date
WO2015178575A1 true WO2015178575A1 (en) 2015-11-26

Family

ID=54344616

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2015/002711 WO2015178575A1 (en) 2014-05-21 2015-03-20 Apparatus for acquiring three-dimensional time of flight image

Country Status (2)

Country Link
KR (1) KR101557295B1 (en)
WO (1) WO2015178575A1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112950694A (en) * 2021-02-08 2021-06-11 Oppo广东移动通信有限公司 Image fusion method, single camera module, shooting device and storage medium

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102476404B1 (en) * 2017-07-18 2022-12-12 엘지이노텍 주식회사 Tof module and subject recogniging apparatus using the same
WO2023055223A1 (en) * 2021-10-01 2023-04-06 설윤호 Method for calculating three-dimensional terrain site information of control object

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004077262A (en) * 2002-08-16 2004-03-11 Fuji Xerox Co Ltd Three-dimensional imaging apparatus and method
JP2004170305A (en) * 2002-11-21 2004-06-17 Nippon Telegr & Teleph Corp <Ntt> Method and apparatus for measuring three-dimensional shape
KR20120043843A (en) * 2010-10-27 2012-05-07 한국과학기술원 The three-dimensional imaging pulsed laser radar system using Geiger-mode avalanche photo-diode focal plane array and Auto-focusing method for the same
KR20130102400A (en) * 2012-03-07 2013-09-17 삼성전자주식회사 Time of flight sensor and time of flight camera

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004077262A (en) * 2002-08-16 2004-03-11 Fuji Xerox Co Ltd Three-dimensional imaging apparatus and method
JP2004170305A (en) * 2002-11-21 2004-06-17 Nippon Telegr & Teleph Corp <Ntt> Method and apparatus for measuring three-dimensional shape
KR20120043843A (en) * 2010-10-27 2012-05-07 한국과학기술원 The three-dimensional imaging pulsed laser radar system using Geiger-mode avalanche photo-diode focal plane array and Auto-focusing method for the same
KR20130102400A (en) * 2012-03-07 2013-09-17 삼성전자주식회사 Time of flight sensor and time of flight camera

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112950694A (en) * 2021-02-08 2021-06-11 Oppo广东移动通信有限公司 Image fusion method, single camera module, shooting device and storage medium

Also Published As

Publication number Publication date
KR101557295B1 (en) 2015-10-05

Similar Documents

Publication Publication Date Title
CN110998223B (en) Detector for determining the position of at least one object
US9900517B2 (en) Infrared binocular system with dual diopter adjustment
US9451240B2 (en) 3-dimensional image acquisition apparatus and 3D image acquisition method for simultaneously obtaining color image and depth image
US8451535B2 (en) Display apparatus and method
US9667944B2 (en) Imaging optical system and 3D image acquisition apparatus including the imaging optical system
US20150098075A1 (en) Scanner for space measurement
US20150002649A1 (en) Device for detecting the three-dimensional geometry of objects and method for the operation thereof
US20170050555A1 (en) Light control systems and methods
EP2873986A1 (en) Camera integrated with light source
WO2013138082A3 (en) Video otoscanner with line-of-sight probe and screen
CN105279490A (en) Man-machine interaction type iris image automatic acquisition apparatus
JP2012252091A5 (en)
WO2015178575A1 (en) Apparatus for acquiring three-dimensional time of flight image
JP2006280938A (en) Safe detection of eyeball
CN109990757A (en) Laser ranging and illumination
CN104657970B (en) A kind of scaling method and calibration system of full-automatic binocular endoscope
KR102099935B1 (en) Time of flight camera apparatus
WO2015115799A1 (en) Camera device
CN110491316A (en) A kind of projector and its method for controlling projection
CN102685537A (en) Display device, display system, and method for controlling display device
WO2016068353A1 (en) Image processing based distance measurement equipment and method therefor
KR20120056441A (en) 3-Dimension depth camera using the Infrared laser projection display
JP4930115B2 (en) Image display system
CN105278228B (en) Laser projection display and its color alignment method
KR20210029269A (en) 3D image generating apparatus and method

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 15796702

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

32PN Ep: public notification in the ep bulletin as address of the adressee cannot be established

Free format text: NOTING OF LOSS OF RIGHTS PURSUANT TO RULE 112(1) EPC (EPO FORM 1205 DATED 27.01.2017)

122 Ep: pct application non-entry in european phase

Ref document number: 15796702

Country of ref document: EP

Kind code of ref document: A1