KR101769611B1 - Depth information acquiring device and method thereof - Google Patents
Depth information acquiring device and method thereof Download PDFInfo
- Publication number
- KR101769611B1 KR101769611B1 KR1020160076766A KR20160076766A KR101769611B1 KR 101769611 B1 KR101769611 B1 KR 101769611B1 KR 1020160076766 A KR1020160076766 A KR 1020160076766A KR 20160076766 A KR20160076766 A KR 20160076766A KR 101769611 B1 KR101769611 B1 KR 101769611B1
- Authority
- KR
- South Korea
- Prior art keywords
- image
- discoloration
- input
- disparity
- parameter set
- Prior art date
Links
Images
Classifications
-
- H04N13/0271—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/271—Image signal generators wherein the generated image signals comprise depth maps or disparity maps
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- H04N13/0022—
-
- H04N13/0239—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/128—Adjusting depth or disparity
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
Abstract
Description
본 발명은 깊이 정보 획득 장치 및 그 방법에 관한 것이다.The present invention relates to an apparatus and method for acquiring depth information.
최근 스마트폰 제조사들이 스테레오 카메라가 장착된 스마트폰 모델을 출시하고 있다. 스테레오 카메라에서 추출된 영상의 깊이 정보는 영상에 재미있는 특수효과를 줄 수 있고, 인식 성능을 향상시키는 데 사용될 수도 있다.Recently, smartphone makers are launching smartphone models equipped with stereo cameras. The depth information of the image extracted from the stereo camera can give interesting special effects to the image and can be used to improve the recognition performance.
하지만 기존의 스테레오 카메라는 저조도 환경에서 증폭되는 노이즈 문제로 인해서 깊이 정보 측정에서 심각한 오차를 일으킬 수도 있다. 따라서 플래시, 적외선 장치 등의 별도의 광원을 이용해서 저조도 환경을 극복하는 방법을 사용하기도 한다.However, conventional stereo cameras may cause serious errors in depth information measurement due to noise problems amplified in low-light environments. Therefore, a method of overcoming the low light environment is also used by using a separate light source such as a flash or an infrared device.
해결하고자 하는 기술적 과제는 별도의 광원 없이도 저조도 환경에 강인한 깊이 정보 획득 장치 및 그 방법을 제공하는 데 있다.A technical problem to be solved is to provide an apparatus and method for acquiring depth information robust to a low-illuminance environment without a separate light source.
발명의 한특징에 따른 스테레오 촬영된 입력 컬러 이미지 및 입력 흑백 이미지를 이용하여 깊이 정보를 획득하는 장치는, 임의의 복수의 탈색 파라미터 세트 중 상기 입력 컬러 이미지에 대한 적어도 하나의 후보 탈색 파라미터 세트를 선택하는 후보 탈색 파라미터 세트 선택부 상기 후보 탈색 파라미터 세트를 적용하여 상기 입력 컬러 이미지에 대응하는 적어도 하나의 탈색 이미지를 생성하는 탈색 이미지 생성부 및 상기 적어도 하나의 탈색 이미지와 상기 입력 흑백 이미지를 스테레오 매칭하여 제1 디스패리티 맵(disparity map)을 획득하는 제1 디스패리티 맵 획득부를 포함한다. An apparatus for acquiring depth information using a stereoscopic input color image and an input monochrome image according to an aspect of the present invention includes at least one of a set of a plurality of discoloration parameters and a set of at least one candidate discoloration parameter for the input color image A candidate decoloring parameter set selection unit for deciding a candidate decoloring parameter set by using the candidate decoloring parameter set to generate at least one decolored image corresponding to the input color image; and a controller for performing stereo matching on the at least one decolored image and the input monochrome image And a first disparity map obtaining unit for obtaining a first disparity map.
상기 깊이 정보 획득 장치는, 상기 제1 디스패리티 맵을 이용하여, 상기 입력 흑백 이미지의 복수의 단위 영역 각각에 대한 게인 및 제2 디스패리티를 포함하는 게인 맵 및 제2 디스패리티 맵을 획득하는 게인 맵 및 제2 디스패리티 맵 획득부를 더 포함할 수 있다.Wherein the depth information obtaining apparatus includes a gain map for obtaining a gain map and a second disparity for each of the plurality of unit areas of the input monochrome image and a gain for obtaining a second disparity map using the first disparity map And a second disparity map obtaining unit.
상기 깊이 정보 획득 장치는, 상기 제2 디스패리티 맵을 이용하여 상기 입력 컬러 이미지의 크로미넌스(chrominance) 정보를 상기 입력 흑백 이미지의 루미넌스(luminacne) 정보에 전파시켜 컬러 복원 이미지를 생성하는 컬러 복원부를 더 포함할 수 있다.The apparatus of claim 1, wherein the depth information obtaining apparatus comprises: a color restoration unit that uses the second disparity map to propagate chrominance information of the input color image to luminacity information of the input monochrome image to generate a color restoration image And the like.
상기 후보 탈색 파라미터 세트 선택부는 상기 복수의 탈색 파라미터 세트 중, 탈색 파라미터 세트가 적용된 예상 탈색 이미지의 콘트라스트(contrast)로 복구된 복구 컬러 이미지와 자기유도된 입력 컬러 이미지의 차이가 일정 기준 이하인 적어도 하나의 제1 탈색 파라미터 세트를 선택하고, 상기 복수의 탈색 파라미터 세트 중 정규화 희박도(normalized sparsity)가 일정 기준 이하인 적어도 하나의 제2 탈색 파라미터 세트를 선택하며, 상기 적어도 하나의 제1 탈색 파라미터 세트 및 상기 적어도 하나의 제2 탈색 파라미터 세트의 교집합으로 상기 적어도 하나의 후보 탈색 파라미터 세트를 선택할 수있다.Wherein the candidate decoloring parameter set selection unit selects one of the plurality of decoloring parameter sets so that the difference between the restored color image recovered to the contrast of the anticipated decoloring image to which the decoloring parameter set is applied and the self- Selecting a first set of color decay parameters and selecting at least one second set of color decay parameters having a normalized sparsity of the plurality of sets of color decay parameters less than a predetermined criterion; The at least one candidate discoloration parameter set may be selected as the intersection of at least one second discoloration parameter set.
상기 깊이 정보 획득 장치는, 상기 제1 디스패리티 맵 획득부는 각각의 픽셀에 대해서, 상기 입력 흑백 이미지의 픽셀 강도 및 엣지 정보와 상기 적어도 하나의 탈색 이미지의 픽셀 강도 및 엣지 정보의 차이가 최소값이 되도록 하는 디스패리티를 획득하여 상기 제1 디스패리티 맵을 구성하고, 각각의 픽셀에 대해서, 상기 입력 흑백 이미지로부터의 디스패리티와 상기 적어도 하나의 탈색 이미지로부터의 디스패리티의 차이가 일정 기준 이상인 경우, 대응되는 픽셀을 상기 제1 디스패리티 맵에서 제거할 수 있다. Wherein the first disparity map obtaining unit obtains the difference between pixel intensity and edge information of the input monochrome image and pixel intensity and edge information of the at least one discoloration image to a minimum value for each pixel, And for each pixel, if the difference between the disparity from the input monochrome image and the disparity from the at least one decolorized image is equal to or greater than a certain reference, a corresponding corresponding disparity Pixels from the first disparity map.
상기 게인 맵 및 제2 디스패리티 맵 획득부는 각각의 상기 단위 영역에 대해서, 상기 단위 영역 내부의 대응점의 픽셀 강도와 상기 적어도 하나의 탈색 이미지의 대응하는 픽셀 강도의 차이가 최소가 되는 상기 게인 및 상기 제2 디스패리티를 획득할 수 있다.Wherein the gain map and the second disparity map obtaining unit obtains, for each of the unit areas, the gain in which a difference between a pixel intensity of a corresponding point in the unit area and a corresponding pixel intensity of the at least one discoloration image is minimum, A second disparity can be obtained.
상기 깊이 정보 획득 장치는, 상기 컬러 복원 이미지는 루미넌스 채널인 Y 채널 및 크로미넌스 채널인 U 채널 및 V 채널을 갖고, 상기 입력 흑백 이미지의 정보는 상기 Y 채널을 구성하며, 상기 입력 컬러 이미지의 정보는 상기 U 채널 및 상기 V 채널을 구성할 수 있다.Wherein the color depth restoration image has a U channel and a V channel which are Y channel and chrominance channel which are luminance channels and the information of the input monochrome image constitutes the Y channel, The information may constitute the U channel and the V channel.
발명의 다른 특징에 따른 스테레오 촬영된 입력 컬러 이미지 및 입력 흑백 이미지를 이용하여 깊이 정보를 획득하는 방법은, 임의의 복수의 탈색 파라미터 세트 중 상기 입력 컬러 이미지에 대한 적어도 하나의 후보 탈색 파라미터 세트를 선택하는 단계 상기 후보 탈색 파라미터 세트를 적용하여 상기 입력 컬러 이미지에 대응하는 적어도 하나의 탈색 이미지를 생성하는 단계 및 상기 적어도 하나의 탈색 이미지와 상기 입력 흑백 이미지를 스테레오 매칭하여 제1 디스패리티 맵을 획득하는 단계를 포함할 수 있다.A method for acquiring depth information using a stereoscopically input color image and an input monochrome image according to another aspect of the invention includes selecting at least one candidate discoloration parameter set for the input color image from among a plurality of sets of discoloration parameters The method comprising: generating at least one discoloration image corresponding to the input color image by applying the candidate discoloration parameter set; and stereo matching the at least one discoloration image and the input monochrome image to obtain a first disparity map Step < / RTI >
상기 깊이 정보 획득 방법은, 상기 제1 디스패리티 맵을 이용하여, 상기 입력 흑백 이미지의 복수의 단위 영역 각각에 대한 게인 및 제2 디스패리티를 포함하는 게인 맵 및 제2 디스패리티 맵을 획득하는 단계를 더 포함할 수 있다.The method of acquiring depth information includes obtaining a gain map and a second disparity map including a gain and a second disparity for each of a plurality of unit areas of the input monochrome image using the first disparity map As shown in FIG.
상기 깊이 정보 획득 방법은, 상기 제2 디스패리티 맵을 이용하여 상기 입력 컬러 이미지의 크로미넌스 정보를 상기 입력 흑백 이미지의 루미넌스 정보에 전파시켜 컬러 복원 이미지를 생성하는 단계를 더 포함할 수 있다.The method of acquiring depth information may further include generating chrominance reconstructed image by propagating chrominance information of the input color image to luminance information of the input monochrome image using the second disparity map.
상기 적어도 하나의 후보 탈색 파라미터 세트를 선택하는 단계는, 상기 복수의 탈색 파라미터 세트 중, 탈색 파라미터 세트가 적용된 예상 탈색 이미지의 콘트라스트로 복구된 복구 컬러 이미지와 자기유도된 입력 컬러 이미지의 차이가 일정 기준 이하인 적어도 하나의 제1 탈색 파라미터 세트를 선택하는 단계 상기 복수의 탈색 파라미터 세트 중 정규화 희박도(normalized sparsity)가 일정 기준 이하인 적어도 하나의 제2 탈색 파라미터 세트를 선택하는 단계 및 상기 적어도 하나의 제1 탈색 파라미터 세트 및 상기 적어도 하나의 제2 탈색 파라미터 세트의 교집합으로 상기 적어도 하나의 후보 탈색 파라미터 세트를 선택하는 단계를 포함할 수 있다.Wherein the step of selecting the at least one candidate decolorization parameter set further comprises the step of determining whether the difference between the restored color image recovered to the contrast of the anticipated decoloring image to which the decoloring parameter set is applied and the self- Selecting a set of at least one first discoloration parameter that is less than or equal to a normalized sparsity of the plurality of sets of discoloration parameters; And selecting the at least one candidate discoloration parameter set as an intersection of the set of discoloration parameters and the at least one second discoloration parameter set.
상기 제1 디스패리티 맵을 획득하는 단계는, 각각의 픽셀에 대해서, 상기 입력 흑백 이미지의 픽셀 강도 및 엣지 정보와 상기 적어도 하나의 탈색 이미지의 픽셀 강도 및 엣지 정보의 차이가 최소값이 되도록 하는 디스패리티를 획득하여 상기 제1 디스패리티 맵을 구성하고, 각각의 픽셀에 대해서, 상기 입력 흑백 이미지로부터의 디스패리티와 상기 적어도 하나의 탈색 이미지로부터의 디스패리티의 차이가 일정 기준 이상인 경우, 대응되는 픽셀을 상기 제1 디스패리티 맵에서 제거하는 단계를 포함할 수 있다.Wherein the obtaining of the first disparity map comprises, for each pixel, disparity so that the difference between the pixel intensity and edge information of the input monochrome image and the pixel intensity and edge information of the at least one discoloration image is at a minimum And for each pixel, if the difference between the disparity from the input monochrome image and the disparity from the at least one decolorized image is greater than or equal to a certain reference, Removing from the first disparity map.
상기 게인 맵 및 제2 디스패리티 맵을 획득하는 단계에서, 각각의 상기 단위 영역에 대해서, 상기 단위 영역 내부의 대응점의 픽셀 강도와 상기 적어도 하나의 탈색 이미지의 대응하는 픽셀 강도의 차이가 최소가 되는 상기 게인 및 상기 제2 디스패리티를 획득할 수 있다.Wherein in obtaining the gain map and the second disparity map, for each of the unit areas, a difference between a pixel intensity of a corresponding point inside the unit area and a corresponding pixel intensity of the at least one discoloration image is minimized And obtain the gain and the second disparity.
상기 컬러 복원 이미지는 루미넌스 채널인 Y 채널 및 크로미넌스 채널인 U 채널 및 V 채널을 갖고, 상기 입력 흑백 이미지의 정보는 상기 Y 채널을 구성하며, 상기 입력 컬러 이미지의 정보는 상기 U 채널 및 상기 V 채널을 구성할 수 있다. Wherein the color restored image has a Y channel as a luminance channel and a U channel and a V channel as chrominance channels, the information of the input monochrome image constitutes the Y channel, V channel.
실시예들에 따른 깊이 정보 획득 장치 및 그 방법에 따르면 별도의 광원 없이도 저조도 환경에서도 강인한 깊이 정보가 추정 가능하다.According to the depth information obtaining apparatus and method according to embodiments, robust depth information can be estimated even in a low-illuminance environment without a separate light source.
도 1은 본 발명의 한 실시예에 따른 깊이 정보 획득 장치를 설명하기 위한 도면이다.
도 2는 입력 컬러 이미지를 설명하기 위한 도면이다.
도 3은 입력 흑백 이미지를 설명하기 위한 도면이다.
도 4는 제2 디스패리티 맵을 설명하기 위한 도면이다.
도 5는 컬러 복원 이미지를 설명하기 위한 도면이다.
도 6은 응용 어플리케이션에 따른 재초점 이미지를 설명하기 위한 도면이다.
도 7은 응용 어플리케이션에 따른 스타일링된 이미지를 설명하기 위한 도면이다.FIG. 1 is a view for explaining a depth information obtaining apparatus according to an embodiment of the present invention.
2 is a diagram for explaining an input color image.
3 is a diagram for explaining an input monochrome image.
4 is a diagram for explaining a second disparity map.
5 is a diagram for explaining a color restored image.
6 is a view for explaining a refocused image according to an application application.
7 is a diagram for explaining a stylized image according to an application application.
이하, 첨부한 도면을 참고로 하여 여러 실시예들에 대하여 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 실시예들은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예들에 한정되지 않는다.DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings. The embodiments may be implemented in various different forms and are not limited to the embodiments described herein.
실시예들을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 동일 또는 유사한 구성요소에 대해서는 동일한 참조 번호를 붙이도록 한다. 따라서 이전 도면에 사용된 구성요소의 참조 번호를 다음 도면에서 사용할 수 있다.In order to clearly illustrate the embodiments, parts not related to the description are omitted, and the same reference numerals are used for the same or similar components throughout the specification. Therefore, reference numerals of the components used in the previous drawings can be used in the following drawings.
도 1은 본 발명의 한 실시예에 따른 깊이 정보 획득 장치를 설명하기 위한 도면이다.FIG. 1 is a view for explaining a depth information obtaining apparatus according to an embodiment of the present invention.
도 1을 참조하면 본 발명의 한 실시예에 따른 깊이 정보 획득 장치(10)는 후보 탈색 파라미터 세트 선택부(11), 탈색 이미지 생성부(12), 제1 디스패리티 맵 획득부(13), 게인 맵 및 제2 디스패리티 맵 획득부(14), 및 컬러 복원부(15)를 포함한다.1, the depth
깊이 정보 획득 장치(10)는 스테레오 촬영된 입력 컬러 이미지(200) 및 입력 흑백 이미지(300)를 이용하여 깊이 정보를 획득하는 장치이다(도 2 및 도 3 참조). 입력 흑백 이미지(300)의 경우 단색광 카메라로 촬영되어 광량 손실이 비교적 적은 반면, 입력 컬러 이미지(200)는 단색광 카메라에 컬러 필터를 더 적용시켜 촬영되기 때문에 광량의 손실이 비교적 크다. 도 2의 입력 컬러 이미지(200)의 확대 부분과 도 3의 입력 흑백 이미지(300)의 확대 부분을 비교하면, 입력 흑백 이미지(300)가 더 선명한 것을 확인할 수 있다. 또한 Raw 영상에서 컬러 영상을 만들기 위한 데모사이싱(demosaicing)은 컬러 영상의 해상도를 떨어뜨리는 문제점을 갖는다. 본 발명에 따르면 입력 컬러 이미지(200)의 크로미넌스(chrominance) 정보를 입력 흑백 이미지(300)에 전파하는 방식을 이용하여 선명한 컬러 복원 이미지를 생성할 수 있다.The depth
깊이 정보 획득 장치(10)는 데스크탑, 노트북, 서버 등 프로그램을 연산할 수 있는 컴퓨팅 장치(computing device)일 수 있다. 깊이 정보 획득 장치(10)는 최소한 하나의 프로세서와 메모리를 포함할 수 있다. 메모리에는 본 발명의 실시예에 따른 깊이 정보 획득 방법이 미리 프로그램되어 있을 수 있다. 프로세서는 이러한 프로그램을 구동시킬 수 있다. 한편, 이러한 프로그램은 외부 서버 등으로부터 원격으로 가져올 수도 있다. 다른 한편, 깊이 정보 획득 장치(10)에서 프로세서와 메모리의 구분이 모호할 수 있으며, 깊이 정보 획득 방법을 구현하기 위한 소프트웨어와 하드웨어 각각의 비중을 정하는 것은 당업자 선택에 따를 수 있다.The depth
깊이 정보 획득 장치(10)는 하나의 프로세서 및 하나의 메모리로 본 발명의 깊이 정보 획득 방법을 구현할 수도 있지만, 복수의 프로세서 및 복수의 메모리 또는 다양한 소프트웨어 및 하드웨어의 조합으로 본 발명의 깊이 정보 획득 방법을 구현할 수 있다. 따라서 도 1에서는, 그러한 한 실시예로서, 깊이 정보 획득 장치(10)가 깊이 정보 획득 방법에 따라 논리적으로 구분된 복수의 기능부(function unit)(11, 12, 13, 14, 15)를 포함한다. 각각의 기능부를 하나 또는 특정 개수로 통합하거나 분리시켜 하드웨어 및 소프트웨어로 구현하는 것은 당업자의 선택 사항이다.Although the depth
먼저, 후보 탈색 파라미터 세트 선택부(11)는 임의의 복수의 탈색 파라미터 세트 중 입력 컬러 이미지(200)에 대한 적어도 하나의 후보 탈색 파라미터 세트를 선택한다.First, the candidate decoloring parameter set
이때, 후보 탈색 파라미터 세트 선택부(11)는 복수의 탈색 파라미터 세트 중, 탈색 파라미터 세트가 적용된 예상 탈색 이미지의 콘트라스트(contrast)로 복구된 복구 컬러 이미지와 자기유도된 입력 컬러 이미지의 차이가 일정 기준 이하인 적어도 하나의 제1 탈색 파라미터 세트를 선택하고, 복수의 탈색 파라미터 세트 중 정규화 희박도(normalized sparsity)가 일정 기준 이하인 적어도 하나의 제2 탈색 파라미터 세트를 선택하고, 적어도 하나의 제1 탈색 파라미터 세트 및 상기 적어도 하나의 제2 탈색 파라미터 세트의 교집합으로 적어도 하나의 후보 탈색 파라미터 세트를 선택할 수 있다.At this time, the candidate decoloring parameter set
먼저, 제1 탈색 파라미터 세트를 선택하는 방법에 대해 설명한다. 이는 탈색 처리에도 불구하고 탈색 이미지에 최대한 많은 정보를 유지하기 위함이다.First, a method of selecting the first set of discoloration parameters will be described. This is to maintain as much information as possible on the decolorized image despite the decolorizing treatment.
탈색 이미지(decolorized image)를 라고 하는 경우, 탈색 이미지 는, 아래 수학식 1과 같이, 입력 컬러 이미지(200)의 적색 컬러 채널 , 녹색 컬러 채널 , 및 청색 컬러 채널 에 탈색 파라미터 , , 가 각각 적용된 합으로 표현될 수 있다.Decolorized image When it is called, discoloration image Of the
[수학식 1][Equation 1]
본 실시예의 탈색 파라미터 세트는 탈색 파라미터 , , 를 포함한다. 이러한 탈색 파라미터 세트는 탈색 파라미터의 임의 조합에 따라 무한정으로 존재할 수 있다. 따라서 복수의 탈색 파라미터 세트는 그 개수에 제한이 없다. 한 실시예로 각각의 탈색 파라미터는 0.1 간격(interval)을 갖도록 할 수 있다.The color fading parameter set of this embodiment is a color fading parameter , , . This set of bleaching parameters may be present indefinitely depending on any combination of bleaching parameters. Therefore, the number of sets of the plurality of discoloration parameters is not limited. In one embodiment, each of the decolorization parameters may have an interval of 0.1.
후보 탈색 파라미터 세트 선택부(11)는 입력 컬러 이미지(200)인 를 임의의 탈색 파라미터 세트가 적용된 예상 탈색 이미지 의 콘트라스트(contrast)로 유도함으로써, 복구 컬러 이미지 를 획득할 수 있다.The candidate color fading parameter set
이때 유도된 필터(guided filter)인 가 이용될 수 있다(K. He, J. Sun, and X. Tang. Guided image filtering. IEEE Transactions on Pattern Analysis and Machine Intelligence (PAMI), 35(6):1397-1409, 2013.). 참조). 는 각각의 픽셀 i에 대해서 아래 수학식 2와 같이 표현될 수 있다. 는 픽셀 i에 대해서 의 콘트라스트로 를 유도하여 를 출력한다.In this case, the guided filter (K. He, J. Sun, and X. Tang, Guided image filtering, IEEE Transactions on Pattern Analysis and Machine Intelligence (PAMI), 35 (6): 1397-1409, 2013.). Reference). Can be expressed by Equation (2) below for each pixel i. For pixel i In contrast To induce .
[수학식 2]&Quot; (2) "
이때, 는 픽셀 k를 중심으로한 윈도우(window)이고, 는 윈도우 에 포함된 픽셀의 개수이다. 는 정규화 파라미터(regularization parmeter)이다. 및는 각각, 윈도우 내의 의 평균(mean) 및 표준 편차(standard deviation)이다.At this time, Is a window centered on the pixel k, Windows Lt; / RTI > Is a regularization parmeter. And Respectively, undergarment Mean and standard deviation of the mean.
유사하게, 후보 탈색 파라미터 세트 선택부(11)는 유도된 필터 를 이용하여 입력 컬러 이미지 를 자기유도할 수 있다. 이때 출력 값은 이다.Similarly, the candidate decoloring parameter set
후보 탈색 파라미터 세트 선택부(11)는, 아래 수학식 3에 따라, 자기유도된 입력 컬러 이미지 와 복구 컬러 이미지 의 차이가 일정 기준 이하인 적어도 하나의 제1 탈색 파라미터 세트를 선택할 수 있다.The candidate decoloring parameter set
[수학식 3]&Quot; (3) "
는 임의의 탈색 파라미터 세트를 의미하고, 는 복수의 탈색 파라미터 세트를 의미한다. 은 콘트라스트 보존 비용(contrast preserviing cost)를 의미한다. Quot; means any set of bleaching parameters, Means a plurality of sets of discoloration parameters. Means the contrast preserving cost.
후보 탈색 파라미터 세트 선택부(11)는 각각의 탈색 파라미터 세트에 대해서 콘트라스트 보존 비용 을 계산하고, 이산적인 데이터들을 선형적으로 보간(interpolating)시킨 다음, 국소적인 최소점들을 검출함으로써 적어도 하나의 제1 탈색 파라미터 세트인 로 선택할 수 있다.The candidate decoloring parameter set
다음으로, 제2 탈색 파라미터 세트를 선택하는 방법에 대해서 설명한다. 이는 저조도 환경에서 발생하는 노이즈 증폭을 방지하기 위해서이다.Next, a method of selecting the second color decoloring parameter set will be described. This is to prevent noise amplification occurring in a low-light environment.
후보 탈색 파라미터 세트 선택부(11)는 복수의 탈색 파라미터 세트 중 정규화 희박도(normalized sparsity)가 일정 기준 이하인 적어도 하나의 제2 탈색 파라미터 세트를 선택할 수 있다.The candidate color fading parameter set
정규화 희박도인 는 아래 수학식 4와 같이 표현될 수 있다.Normalized sparse Can be expressed as Equation (4) below.
[수학식 4]&Quot; (4) "
는 탈색 파라미터 로 탈색된 탈색 이미지이고, 는 각각 x, y 방향에 대한 그래디언트 크기(gradient magnitude)이다. 및 는 각각 L1-놈(norm) 및 L2-놈을 의미한다. The decoloring parameter ≪ / RTI > is a decolorized image, Are the gradient magnitudes for the x and y directions, respectively. And Denote L 1 -nom and L 2 -nom, respectively.
후보 탈색 파라미터 세트 선택부(11)는 획득된 전체 정규화 희박도 값 중 20%에 해당하는 값들에 대한 탈색 파라미터 세트를 제2 탈색 파라미터 세트인 로 선택할 수 있다. 20% 등 퍼센티지는 당업자의 선택에 의해 적절히 선택될 수 있다.The candidate decoloring parameter set
최종적으로, 후보 탈색 파라미터 세트 선택부(11)는 적어도 하나의 제1 탈색 파라미터 세트 및적어도 하나의 제2 탈색 파라미터 세트 의 교집합 으로 적어도 하나의 후보 탈색 파라미터 세트 를 선택할 수 있다.Finally, the candidate decoloring parameter set
탈색 이미지 생성부(12)는 후보 탈색 파라미터 세트 를 적용하여 입력 컬러 이미지(200)에 대응하는 적어도 하나의 탈색 이미지 를 생성한다. 탈색 이미지 생성에 대해서는 수학식 1을 다시 참조한다.The discoloration
다음으로, 제1 디스패리티 맵 획득부(13)는 적어도 하나의 탈색 이미지와 입력 흑백 이미지(300)를 스테레오 매칭하여 제1 디스패리티 맵(disparity map)을 획득한다.Next, the first disparity
이때, 제1 디스패리티 맵 획득부(13)는 각각의 픽셀(pixel)에 대해서, 입력 흑백 이미지(300)의 픽셀 강도 및 엣지(edge) 정보와 탈색 이미지의 픽셀 강도 및 엣지 정보의 차이가 최소값이 되도록 하는 디스패리티를 획득하여 제1 디스패리티 맵을 구성한다.At this time, the first disparity
아래 수학식 5에서는 임의의 픽셀 에 대한 비용 부피(cost volume) 를 픽셀 강도 차이에 대한 비용 부피 와 엣지 정보 차이에 대한 비용 부피 의 합으로 나타낸다. 은 비용 레이블(cost label)이고, 는 밸런싱 파라미터(balancing parameter)이다(비용 부피에 대해서는 논문 C. Rhemann, A. Hosni, M. Bleyer, C. Rother, and M. Gelautz. Fast cost-volume filtering for visual correspon-dence and beyond. In Proceedings of IEEE International Conference on Computer Vision and Pattern Recognition (CVPR), 2011. 참조).In Equation (5) below, The cost volume for the < RTI ID = 0.0 > The cost volume for the pixel intensity difference And the cost of the difference in edge information . Is a cost label, Is the balancing parameter (see Costs Volume by C. Rhemann, A. Hosni, M. Bleyer, C. Rother, and M. Gelautz, Fast Cost-Volume Filtering for Visual Correction- IEEE International Conference on Computer Vision and Pattern Recognition (CVPR), 2011.).
[수학식 5]&Quot; (5) "
SAD(sum of absolute differences)는 밝기 일관성을 측정하기 위해 이용되고, SIE(sum of informative edges)는 엣지 유사성을 측정하기 위해 이용된다.The sum of absolute differences (SAD) is used to measure brightness consistency, and the sum of informative edges (SIE) is used to measure edge similarity.
는 아래 수학식 6과 같이 표현될 수 있다. Can be expressed as Equation (6) below.
[수학식 6]&Quot; (6) "
는 픽셀 를 중심으로 하는 지지 윈도우(supporting window)이고, 은 입력 흑백 이미지(300)이고, 는 탈색 이미지이고, 는 디스패리티이고, 는 절단값(truncation value)이다. Gt; And a supporting window, Is an input
는 아래 수학식 7과 같이 표현될 수 있다. Can be expressed by Equation (7) below.
[수학식 7]&Quot; (7) "
는 절단값이고, 함수 는 유익한 엣지(informative edge)를 판단하는 데 사용되는 기준(criterion)으로 이용된다(L. Xu and J. Jia. Two-phase kernel estimation for robust motion deblurring. In Proceedings of European Conference on Computer Vision (ECCV). 2010. 참조). Is the cutoff value, Is used as a criterion used to judge informative edges (L. Xu and J. Jia. Two-phase kernel estimation for robust motion deblurring. In Proceedings of the European Conference on Computer Vision (ECCV) 2010.).
따라서 제1 디스패리티 맵 획득부(13)는 비용 부피 를 최소로 하는 임의의 픽셀 에 대한 디스패리티 를 획득할 수 있다.Therefore, the first disparity
다음으로, 제1 디스패리티맵 획득부(13)는 각각의 픽셀에 대해서, 입력 흑백 이미지(300)로부터의 디스패리티와 탈색 이미지로부터의 디스패리티의 차이가 일정 기준 이상인 경우, 대응되는 픽셀을 이상점(outlier)으로 판단하고, 이를 제1 디스패리티 맵에서 제거할 수있다. 이러한 좌우 일관성 검토(left-right consistency check)는 좌측 시점에서 대응점의 디스패리티와 우측 시점에서 대응점의 디스패리티를 서로 비교해서, 일관성이 없으면 픽셀을 이상점으로판단한다.Next, for each pixel, the first disparity
다음으로, 게인 맵 및 제2 디스패리티 맵 획득부(14)는 상술한 제1 디스패리티 맵을 이용하여, 입력 흑백 이미지(300)의 복수의 단위 영역 각각에 대한 게인(gain) 및 제2 디스패리티를 포함하는 게인 맵 및 제2 디스패리티 맵(400)을 획득한다. 게인 맵 및 제2 디스패리티 맵 획득부(14)는 각각의 단위 영역에 대해서, 단위 영역 내부의 대응점의 픽셀 강도와 적어도 하나의 탈색 이미지의 대응하는 픽셀 강도의 차이가 최소가 되는 게인 및 상기 제2 디스패리티를 획득할 수 있다.Next, the gain map and second disparity
구체적으로, 입력 흑백 이미지(300)를 복수의 단위 영역으로 구분하고, 각각의 단위 영역은 하나의 게인 값 및 하나의 디스패리티 값을 갖는 것으로 정한다. 예를 들어, 각각의 단위 영역은 15*20 픽셀로 구성될 수 있다.Specifically, the input
게인 및 제2 디스패리티는 아래 수학식 8에 따라 획득될 수 있다.The gain and the second disparity can be obtained according to Equation (8) below.
[수학식 8]&Quot; (8) "
는 단위 영역의 인덱스(index)이고, 는 단위 영역 내부의 대응점들의 강도 세트(set of intensities)이다. 는 가 해당 디스패리티로 로 정렬된 이미지(aligned image)이다. 는 디스패리티 추정(disparity estimation)과 게인 조정 루프(gain adjustment loop)에 대한 반복 인덱스(iteration index)이다. 는 지시자 함수(indicator function)로서 단위 영역 내부의 대응점의 개수가 적어도 3 개보다 많을 때 활성화된다. 지시자 함수를 활성화 시키는 대응점의 개수는 당업자의 선택에 의해 임의로 설정될 수 있다. Is an index of a unit area, Lt; RTI ID = It is the set of intensities of the corresponding points inside. The To the disparity Is an aligned image. Is an iteration index for disparity estimation and gain adjustment loop. As an indicator function, And is activated when the number of internal corresponding points is greater than at least three. The number of corresponding points for activating the indicator function can be arbitrarily set by a person skilled in the art.
수학식 8의 해를 구하면, 조밀하고 부드러운(dense and smooth) 게인 맵을 추정할 수 있고, 국소 관련 모델(local affinity model)을 이용해서 이러한 게인 맵을 전체 이미지 에 전파할 수 있다(A. Levin, D. Lischinski, and Y. Weiss. Colorization using optimization. In ACM Transactions on Graphics (TOG), volume 23, pages 689-694, 2004. 참조).By solving Equation 8, a dense and smooth gain map can be estimated, and a local affinity model can be used to map these gain maps to the entire image (A. Levin, D. Lischinski, and Y. Weiss, Colorization using optimization, In ACM Transactions on Graphics (TOG), volume 23, pages 689-694, 2004).
다음으로, 컬러 복원부(15)는 제2 디스패리티 맵을 이용하여 입력 컬러 이미지(200)의 크로미넌스(chrominance) 정보를 입력 흑백 이미지(300)의 루미넌스(luminacne) 정보에 전파시켜 컬러 복원 이미지(500)를 생성한다. 컬러 복원 이미지(500)는 루미넌스 채널인 Y 채널 및 크로미넌스 채널인 U 채널 및 V 채널을 갖고, 입력 흑백 이미지(300)의 정보는 Y 채널을 구성하고, 입력 컬러 이미지(200)의 정보는 U 채널 및 V 채널을 구성할 수 있다.Next, the
도 5의 컬러 복원 이미지(500)를 참조하면 도 2의 입력 컬러 이미지(200)에 비해 선명한 컬러 이미지가 복원되었음을 확인할 수 있다.Referring to the color restored
도 6은 응용 어플리케이션에 따른 재초점 이미지를 설명하기 위한 도면이다.6 is a view for explaining a refocused image according to an application application.
컬러 복원 이미지(500)에 대한 제2 디스패리티 맵이 있으므로, 깊이 정보를 복원할 수 있고, 원하는 부분에 초점을 맞춰 재초점 이미지(600)를 생성할 수 있다.Since there is a second disparity map for the color restored
도 7은 응용 어플리케이션에 따른 스타일링된 이미지를 설명하기 위한 도면이다.7 is a diagram for explaining a stylized image according to an application application.
유사하게, 컬러 복원 이미지(500)에 대한 제2 디스패리티 맵이 있으므로, 깊이 정보에 따라 특정 효과를 주어 스타일링된 이미지(700)를 생성하는 것이 가능하다.Similarly, since there is a second disparity map for the color restored
지금까지 참조한 도면과 기재된 발명의 상세한 설명은 단지 본 발명의 예시적인 것으로서, 이는 단지 본 발명을 설명하기 위한 목적에서 사용된 것이지 의미 한정이나 특허청구범위에 기재된 본 발명의 범위를 제한하기 위하여 사용된 것은 아니다. 그러므로 본 기술 분야의 통상의 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 타 실시예가 가능하다는 점을 이해할 것이다. 따라서, 본 발명의 진정한 기술적 보호 범위는 첨부된 특허청구범위의 기술적 사상에 의해 정해져야 할 것이다.It is to be understood that both the foregoing general description and the following detailed description of the present invention are illustrative and explanatory only and are intended to be illustrative of the invention and are not to be construed as limiting the scope of the invention as defined by the appended claims. It is not. Therefore, those skilled in the art will appreciate that various modifications and equivalent embodiments are possible without departing from the scope of the present invention. Accordingly, the true scope of the present invention should be determined by the technical idea of the appended claims.
10: 깊이 정보 획득 장치
11: 후보 탈색 파라미터 세트 선택부
12: 탈색 이미지 생성부
13: 제1 디스패리티 맵 획득부
14: 게인 맵 및 제2 디스패리티 맵 획득부
15: 컬러 복원부10: Depth information acquisition device
11: Candidate decoloring parameter set selection unit
12: Discoloration image generating unit
13: First disparity map acquisition unit
14: gain map and second disparity map obtaining unit
15: Color restoration unit
Claims (14)
상기 후보 탈색 파라미터 세트를 적용하여 상기 입력 컬러 이미지에 대응하는 적어도 하나의 탈색 이미지를 생성하는 탈색 이미지 생성부; 및
상기 적어도 하나의 탈색 이미지와 입력 흑백 이미지를 스테레오 매칭하여 제1 디스패리티 맵(disparity map)을 획득하는 제1 디스패리티 맵 획득부를 포함하며,
상기 입력 컬러 이미지 및 상기 입력 흑백 이미지는 컬러 카메라 및 단색광 카메라에 의해 스테레오 촬영된 이미지들로서, 상기 입력 컬러 이미지는 상기 컬러 카메라에 의해 촬영된 이미지이고, 상기 입력 흑백 이미지는 상기 단색광 카메라에 의해 촬영된 이미지인 깊이 정보 획득 장치.A candidate decoloring parameter set selection unit that selects at least one candidate decoloring parameter set for an input color image from among a plurality of any of the plurality of decoloring parameter sets;
A discoloration image generating unit applying the set of candidate discoloring parameters to generate at least one discolored image corresponding to the input color image; And
And a first disparity map obtaining unit for obtaining a first disparity map by stereo matching the at least one discoloration image and the input monochrome image,
Wherein the input color image and the input monochrome image are stereoscopic images taken by a color camera and a monochromatic camera, the input color image is an image photographed by the color camera, and the input monochrome image is an image captured by the monochromatic camera Image depth information acquisition device.
상기 제1 디스패리티 맵을 이용하여, 상기 입력 흑백 이미지의 복수의 단위 영역 각각에 대한 게인 및 제2 디스패리티를 포함하는 게인 맵 및 제2 디스패리티 맵을 획득하는 게인 맵 및 제2 디스패리티 맵 획득부를 더 포함하는
깊이 정보 획득 장치.The method according to claim 1,
A gain map for obtaining a gain map including a gain and a second disparity for each of a plurality of unit areas of the input monochrome image and a gain map for obtaining a second disparity map and a second disparity map Further,
Depth information acquisition device.
상기 제2 디스패리티 맵을 이용하여 상기 입력 컬러 이미지의 크로미넌스(chrominance) 정보를 상기 입력 흑백 이미지의 루미넌스(luminacne) 정보에 전파시켜 컬러 복원 이미지를 생성하는 컬러 복원부를 더 포함하는
깊이 정보 획득 장치.3. The method of claim 2,
And a color restoration unit for generating chrominance restoration image by propagating chrominance information of the input color image to luminosity information of the input monochrome image using the second disparity map
Depth information acquisition device.
상기 후보 탈색 파라미터 세트 선택부는
상기 복수의 탈색 파라미터 세트 중, 탈색 파라미터 세트가 적용된 예상 탈색 이미지의 콘트라스트(contrast)로 복구된 복구 컬러 이미지와 자기유도된 입력 컬러 이미지의 차이가 일정 기준 이하인 적어도 하나의 제1 탈색 파라미터 세트를 선택하고,
상기 복수의 탈색 파라미터 세트 중 정규화 희박도(normalized sparsity)가 일정 기준 이하인 적어도 하나의 제2 탈색 파라미터 세트를 선택하고,
상기 적어도 하나의 제1 탈색 파라미터 세트 및 상기 적어도 하나의 제2 탈색 파라미터 세트의 교집합으로 상기 적어도 하나의 후보 탈색 파라미터 세트를 선택하는,
깊이 정보 획득 장치.The method according to claim 1,
The candidate decoloring parameter set selection unit
Selecting at least one first discoloration parameter set having a difference between the restored color image recovered to the contrast of the anticipated discoloration image to which the discoloration parameter set is applied and the magnetically induced input color image, and,
Selecting at least one second set of discoloration parameters, the normalized sparsity of which is less than or equal to a predetermined criterion,
Selecting the at least one candidate discoloration parameter set as the intersection of the at least one first discoloration parameter set and the at least one second discoloration parameter set,
Depth information acquisition device.
상기 제1 디스패리티 맵 획득부는 각각의 픽셀에 대해서,
상기 입력 흑백 이미지의 픽셀 강도 및 엣지 정보와 상기 적어도 하나의 탈색 이미지의 픽셀 강도 및 엣지 정보의 차이가 최소값이 되도록 하는 디스패리티를 획득하여 상기 제1 디스패리티 맵을 구성하고,
각각의 픽셀에 대해서, 상기 입력 흑백 이미지로부터의 디스패리티와 상기 적어도 하나의 탈색 이미지로부터의 디스패리티의 차이가 일정 기준 이상인 경우, 대응되는 픽셀을 상기 제1 디스패리티 맵에서 제거하는,
깊이 정보 획득 장치.The method according to claim 1,
The first disparity map obtaining unit obtains, for each pixel,
Wherein the first disparity map is constructed by obtaining a disparity so that a difference between pixel intensity and edge information of the input monochrome image and pixel intensity and edge information of the at least one discoloration image is a minimum value,
For each pixel, removing a corresponding pixel from the first disparity map when the difference between the disparity from the input monochrome image and the disparity from the at least one discoloration image is greater than a certain criterion,
Depth information acquisition device.
상기 게인 맵 및 제2 디스패리티 맵 획득부는
각각의 상기 단위 영역에 대해서, 상기 단위 영역 내부의 대응점의 픽셀 강도와 상기 적어도 하나의 탈색 이미지의 대응하는 픽셀 강도의 차이가 최소가 되는 상기 게인 및 상기 제2 디스패리티를 획득하는,
깊이 정보 획득 장치.3. The method of claim 2,
The gain map and the second disparity map obtaining unit
Acquiring, for each of the unit areas, the gain and the second disparity, in which a difference between a pixel intensity of a corresponding point inside the unit area and a corresponding pixel intensity of the at least one discoloration image is minimized,
Depth information acquisition device.
상기 컬러 복원 이미지는 루미넌스 채널인 Y 채널 및 크로미넌스 채널인 U 채널 및 V 채널을 갖고,
상기 입력 흑백 이미지의 정보는 상기 Y 채널을 구성하고,
상기 입력 컬러 이미지의 정보는 상기 U 채널 및 상기 V 채널을 구성하는,
깊이 정보 획득 장치.The method of claim 3,
Wherein the color restoration image has a Y channel which is a luminance channel and a U channel and a V channel which are chrominance channels,
Wherein the information of the input monochrome image constitutes the Y channel,
Wherein the information of the input color image comprises the U channel and the V channel,
Depth information acquisition device.
임의의 복수의 탈색 파라미터 세트 중 입력 컬러 이미지에 대한 적어도 하나의 후보 탈색 파라미터 세트를 선택하는 단계;
상기 후보 탈색 파라미터 세트를 적용하여 상기 입력 컬러 이미지에 대응하는 적어도 하나의 탈색 이미지를 생성하는 단계; 및
상기 적어도 하나의 탈색 이미지와 입력 흑백 이미지를 스테레오 매칭하여 제1 디스패리티 맵을 획득하는 단계를 포함하며,
상기 입력 컬러 이미지 및 상기 입력 흑백 이미지는 컬러 카메라 및 단색광 카메라에 의해 스테레오 촬영된 이미지들로서, 상기 입력 컬러 이미지는 상기 컬러 카메라에 의해 촬영된 이미지이고, 상기 입력 흑백 이미지는 상기 단색광 카메라에 의해 촬영된 이미지인 깊이 정보 획득 방법.A depth information obtaining method of a depth information obtaining apparatus,
Selecting at least one candidate bleaching parameter set for an input color image from among a plurality of any of the plurality of bleaching parameter sets;
Applying the candidate discoloration parameter set to generate at least one discolored image corresponding to the input color image; And
And stereo matching the input monochrome image with the at least one decolorized image to obtain a first disparity map,
Wherein the input color image and the input monochrome image are stereoscopic images taken by a color camera and a monochromatic camera, the input color image is an image photographed by the color camera, and the input monochrome image is an image captured by the monochromatic camera An image depth acquisition method.
상기 제1 디스패리티 맵을 이용하여, 상기 입력 흑백 이미지의 복수의 단위 영역 각각에 대한 게인 및 제2 디스패리티를 포함하는 게인 맵 및 제2 디스패리티 맵을 획득하는 단계를 더 포함하는
깊이 정보 획득 방법.9. The method of claim 8,
And obtaining a gain map and a second disparity map including a gain and a second disparity for each of the plurality of unit areas of the input monochrome image using the first disparity map
Depth information acquisition method.
상기 제2 디스패리티 맵을 이용하여 상기 입력 컬러 이미지의 크로미넌스 정보를 상기 입력 흑백 이미지의 루미넌스 정보에 전파시켜 컬러 복원 이미지를 생성하는 단계를 더 포함하는
깊이 정보 획득 방법.10. The method of claim 9,
And propagating the chrominance information of the input color image to the luminance information of the input monochrome image using the second disparity map to generate a color restoration image
Depth information acquisition method.
상기 적어도 하나의 후보 탈색 파라미터 세트를 선택하는 단계는:
상기 복수의 탈색 파라미터 세트 중, 탈색 파라미터 세트가 적용된 예상 탈색 이미지의 콘트라스트로 복구된 복구 컬러 이미지와 자기유도된 입력 컬러 이미지의 차이가 일정 기준 이하인 적어도 하나의 제1 탈색 파라미터 세트를 선택하는 단계;
상기 복수의 탈색 파라미터 세트 중 정규화 희박도(normalized sparsity)가 일정 기준 이하인 적어도 하나의 제2 탈색 파라미터 세트를 선택하는 단계; 및
상기 적어도 하나의 제1 탈색 파라미터 세트 및 상기 적어도 하나의 제2 탈색 파라미터 세트의 교집합으로 상기 적어도 하나의 후보 탈색 파라미터 세트를 선택하는 단계를 포함하는,
깊이 정보 획득 방법.9. The method of claim 8,
Wherein the selecting of the at least one candidate bleaching parameter set comprises:
Selecting at least one first discoloration parameter set in which the difference between the restored color image recovered to the contrast of the anticipated discoloration image to which the discoloration parameter set is applied and the magnetically induced input color image is less than or equal to a certain criterion, among the plurality of discoloration parameter sets;
Selecting at least one second set of discoloration parameters, wherein the normalized sparsity of the plurality of sets of discoloration parameters is less than or equal to a predetermined criterion; And
And selecting the at least one candidate discoloration parameter set as an intersection of the at least one first discoloration parameter set and the at least one second discoloration parameter set.
Depth information acquisition method.
상기 제1 디스패리티 맵을 획득하는 단계는, 각각의 픽셀에 대해서,
상기 입력 흑백 이미지의 픽셀 강도 및 엣지 정보와 상기 적어도 하나의 탈색 이미지의 픽셀 강도 및 엣지 정보의 차이가 최소값이 되도록 하는 디스패리티를 획득하여 상기 제1 디스패리티 맵을 구성하고,
각각의 픽셀에 대해서, 상기 입력 흑백 이미지로부터의 디스패리티와 상기 적어도 하나의 탈색 이미지로부터의 디스패리티의 차이가 일정 기준 이상인 경우, 대응되는 픽셀을 상기 제1 디스패리티 맵에서 제거하는 단계인,
깊이 정보 획득 방법.9. The method of claim 8,
Wherein obtaining the first disparity map comprises: for each pixel,
Wherein the first disparity map is constructed by obtaining a disparity so that a difference between pixel intensity and edge information of the input monochrome image and pixel intensity and edge information of the at least one discoloration image is a minimum value,
And removing, for each pixel, a corresponding pixel from the first disparity map if the difference between the disparity from the input monochrome image and the disparity from the at least one discoloration image is greater than a certain criterion,
Depth information acquisition method.
상기 게인 맵 및 제2 디스패리티 맵을 획득하는 단계에서,
각각의 상기 단위 영역에 대해서, 상기 단위 영역 내부의 대응점의 픽셀 강도와 상기 적어도 하나의 탈색 이미지의 대응하는 픽셀 강도의 차이가 최소가 되는 상기 게인 및 상기 제2 디스패리티를 획득하는,
깊이 정보 획득 방법.10. The method of claim 9,
In the step of acquiring the gain map and the second disparity map,
Acquiring, for each of the unit areas, the gain and the second disparity, in which a difference between a pixel intensity of a corresponding point inside the unit area and a corresponding pixel intensity of the at least one discoloration image is minimized,
Depth information acquisition method.
상기 컬러 복원 이미지는 루미넌스 채널인 Y 채널 및 크로미넌스 채널인 U 채널 및 V 채널을 갖고,
상기 입력 흑백 이미지의 정보는 상기 Y 채널을 구성하고,
상기 입력 컬러 이미지의 정보는 상기 U 채널 및 상기 V 채널을 구성하는,
깊이 정보 획득 방법.11. The method of claim 10,
Wherein the color restoration image has a Y channel which is a luminance channel and a U channel and a V channel which are chrominance channels,
Wherein the information of the input monochrome image constitutes the Y channel,
Wherein the information of the input color image comprises the U channel and the V channel,
Depth information acquisition method.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160076766A KR101769611B1 (en) | 2016-06-20 | 2016-06-20 | Depth information acquiring device and method thereof |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020160076766A KR101769611B1 (en) | 2016-06-20 | 2016-06-20 | Depth information acquiring device and method thereof |
Publications (1)
Publication Number | Publication Date |
---|---|
KR101769611B1 true KR101769611B1 (en) | 2017-08-18 |
Family
ID=59753259
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020160076766A KR101769611B1 (en) | 2016-06-20 | 2016-06-20 | Depth information acquiring device and method thereof |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101769611B1 (en) |
-
2016
- 2016-06-20 KR KR1020160076766A patent/KR101769611B1/en active IP Right Grant
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11210799B2 (en) | Estimating depth using a single camera | |
JP6431245B1 (en) | Edge recognition bidirectional image processing | |
Zhuo et al. | Defocus map estimation from a single image | |
US11315274B2 (en) | Depth determination for images captured with a moving camera and representing moving features | |
Srinivasan et al. | Aperture supervision for monocular depth estimation | |
JP6485078B2 (en) | Image processing method and image processing apparatus | |
Jeon et al. | Stereo matching with color and monochrome cameras in low-light conditions | |
Hua et al. | Holopix50k: A large-scale in-the-wild stereo image dataset | |
Bätz et al. | High dynamic range video reconstruction from a stereo camera setup | |
US20220277545A1 (en) | Binocular image-based model training method and apparatus, and data processing device | |
US20180198970A1 (en) | High dynamic range imaging using camera arrays | |
EP3349359A1 (en) | Compressive sensing capturing device and method | |
CN109661815B (en) | Robust disparity estimation in the presence of significant intensity variations of the camera array | |
Chang et al. | Siamese dense network for reflection removal with flash and no-flash image pairs | |
WO2012094076A1 (en) | Morphological anti-aliasing (mlaa) of a re-projection of a two-dimensional image | |
JP7223117B2 (en) | Super-resolution using natural hand-held motion applied to the user device | |
US20120176367A1 (en) | Morphological anti-aliasing (mlaa) of a re-projection of a two-dimensional image | |
CN105791793A (en) | Image processing method and electronic device | |
KR20210063223A (en) | Multi-task fusion neural network architecture | |
US20140198177A1 (en) | Realtime photo retouching of live video | |
KR20220014308A (en) | System and method for generating bokeh image for dslr quality depth-of-field rendering and refinement and training method for the same | |
KR101769611B1 (en) | Depth information acquiring device and method thereof | |
KR20140121711A (en) | Method of image proccessing, Computer readable storage medium of recording the method and a digital photographing apparatus | |
Kriener et al. | Accelerating defocus blur magnification | |
US11816855B2 (en) | Array-based depth estimation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |