KR101769611B1 - Depth information acquiring device and method thereof - Google Patents

Depth information acquiring device and method thereof Download PDF

Info

Publication number
KR101769611B1
KR101769611B1 KR1020160076766A KR20160076766A KR101769611B1 KR 101769611 B1 KR101769611 B1 KR 101769611B1 KR 1020160076766 A KR1020160076766 A KR 1020160076766A KR 20160076766 A KR20160076766 A KR 20160076766A KR 101769611 B1 KR101769611 B1 KR 101769611B1
Authority
KR
South Korea
Prior art keywords
image
discoloration
input
disparity
parameter set
Prior art date
Application number
KR1020160076766A
Other languages
Korean (ko)
Inventor
권인소
전해곤
임성훈
하효원
Original Assignee
한국과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국과학기술원 filed Critical 한국과학기술원
Priority to KR1020160076766A priority Critical patent/KR101769611B1/en
Application granted granted Critical
Publication of KR101769611B1 publication Critical patent/KR101769611B1/en

Links

Images

Classifications

    • H04N13/0271
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/271Image signal generators wherein the generated image signals comprise depth maps or disparity maps
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • H04N13/0022
    • H04N13/0239
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/128Adjusting depth or disparity
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/239Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)

Abstract

A device for obtaining depth information by using an input color image and an input black and white image which are stereo captured according to an embodiment of the present invention comprises: a candidate bleaching parameter set selecting part selecting at least one candidate bleaching parameter set with respect to the input color image from a plurality of random bleaching parameter sets; a bleaching image generating part generating at least one bleaching image corresponding to the input color image by applying the candidate bleaching parameter set; and a first disparity map obtaining part obtaining a first disparity map by stereo matching the at least one bleaching image and the input black and white image.

Description

깊이 정보 획득 장치 및 그 방법{DEPTH INFORMATION ACQUIRING DEVICE AND METHOD THEREOF}TECHNICAL FIELD [0001] The present invention relates to a depth information acquisition apparatus,

본 발명은 깊이 정보 획득 장치 및 그 방법에 관한 것이다.The present invention relates to an apparatus and method for acquiring depth information.

최근 스마트폰 제조사들이 스테레오 카메라가 장착된 스마트폰 모델을 출시하고 있다. 스테레오 카메라에서 추출된 영상의 깊이 정보는 영상에 재미있는 특수효과를 줄 수 있고, 인식 성능을 향상시키는 데 사용될 수도 있다.Recently, smartphone makers are launching smartphone models equipped with stereo cameras. The depth information of the image extracted from the stereo camera can give interesting special effects to the image and can be used to improve the recognition performance.

하지만 기존의 스테레오 카메라는 저조도 환경에서 증폭되는 노이즈 문제로 인해서 깊이 정보 측정에서 심각한 오차를 일으킬 수도 있다. 따라서 플래시, 적외선 장치 등의 별도의 광원을 이용해서 저조도 환경을 극복하는 방법을 사용하기도 한다.However, conventional stereo cameras may cause serious errors in depth information measurement due to noise problems amplified in low-light environments. Therefore, a method of overcoming the low light environment is also used by using a separate light source such as a flash or an infrared device.

해결하고자 하는 기술적 과제는 별도의 광원 없이도 저조도 환경에 강인한 깊이 정보 획득 장치 및 그 방법을 제공하는 데 있다.A technical problem to be solved is to provide an apparatus and method for acquiring depth information robust to a low-illuminance environment without a separate light source.

발명의 한특징에 따른 스테레오 촬영된 입력 컬러 이미지 및 입력 흑백 이미지를 이용하여 깊이 정보를 획득하는 장치는, 임의의 복수의 탈색 파라미터 세트 중 상기 입력 컬러 이미지에 대한 적어도 하나의 후보 탈색 파라미터 세트를 선택하는 후보 탈색 파라미터 세트 선택부 상기 후보 탈색 파라미터 세트를 적용하여 상기 입력 컬러 이미지에 대응하는 적어도 하나의 탈색 이미지를 생성하는 탈색 이미지 생성부 및 상기 적어도 하나의 탈색 이미지와 상기 입력 흑백 이미지를 스테레오 매칭하여 제1 디스패리티 맵(disparity map)을 획득하는 제1 디스패리티 맵 획득부를 포함한다. An apparatus for acquiring depth information using a stereoscopic input color image and an input monochrome image according to an aspect of the present invention includes at least one of a set of a plurality of discoloration parameters and a set of at least one candidate discoloration parameter for the input color image A candidate decoloring parameter set selection unit for deciding a candidate decoloring parameter set by using the candidate decoloring parameter set to generate at least one decolored image corresponding to the input color image; and a controller for performing stereo matching on the at least one decolored image and the input monochrome image And a first disparity map obtaining unit for obtaining a first disparity map.

상기 깊이 정보 획득 장치는, 상기 제1 디스패리티 맵을 이용하여, 상기 입력 흑백 이미지의 복수의 단위 영역 각각에 대한 게인 및 제2 디스패리티를 포함하는 게인 맵 및 제2 디스패리티 맵을 획득하는 게인 맵 및 제2 디스패리티 맵 획득부를 더 포함할 수 있다.Wherein the depth information obtaining apparatus includes a gain map for obtaining a gain map and a second disparity for each of the plurality of unit areas of the input monochrome image and a gain for obtaining a second disparity map using the first disparity map And a second disparity map obtaining unit.

상기 깊이 정보 획득 장치는, 상기 제2 디스패리티 맵을 이용하여 상기 입력 컬러 이미지의 크로미넌스(chrominance) 정보를 상기 입력 흑백 이미지의 루미넌스(luminacne) 정보에 전파시켜 컬러 복원 이미지를 생성하는 컬러 복원부를 더 포함할 수 있다.The apparatus of claim 1, wherein the depth information obtaining apparatus comprises: a color restoration unit that uses the second disparity map to propagate chrominance information of the input color image to luminacity information of the input monochrome image to generate a color restoration image And the like.

상기 후보 탈색 파라미터 세트 선택부는 상기 복수의 탈색 파라미터 세트 중, 탈색 파라미터 세트가 적용된 예상 탈색 이미지의 콘트라스트(contrast)로 복구된 복구 컬러 이미지와 자기유도된 입력 컬러 이미지의 차이가 일정 기준 이하인 적어도 하나의 제1 탈색 파라미터 세트를 선택하고, 상기 복수의 탈색 파라미터 세트 중 정규화 희박도(normalized sparsity)가 일정 기준 이하인 적어도 하나의 제2 탈색 파라미터 세트를 선택하며, 상기 적어도 하나의 제1 탈색 파라미터 세트 및 상기 적어도 하나의 제2 탈색 파라미터 세트의 교집합으로 상기 적어도 하나의 후보 탈색 파라미터 세트를 선택할 수있다.Wherein the candidate decoloring parameter set selection unit selects one of the plurality of decoloring parameter sets so that the difference between the restored color image recovered to the contrast of the anticipated decoloring image to which the decoloring parameter set is applied and the self- Selecting a first set of color decay parameters and selecting at least one second set of color decay parameters having a normalized sparsity of the plurality of sets of color decay parameters less than a predetermined criterion; The at least one candidate discoloration parameter set may be selected as the intersection of at least one second discoloration parameter set.

상기 깊이 정보 획득 장치는, 상기 제1 디스패리티 맵 획득부는 각각의 픽셀에 대해서, 상기 입력 흑백 이미지의 픽셀 강도 및 엣지 정보와 상기 적어도 하나의 탈색 이미지의 픽셀 강도 및 엣지 정보의 차이가 최소값이 되도록 하는 디스패리티를 획득하여 상기 제1 디스패리티 맵을 구성하고, 각각의 픽셀에 대해서, 상기 입력 흑백 이미지로부터의 디스패리티와 상기 적어도 하나의 탈색 이미지로부터의 디스패리티의 차이가 일정 기준 이상인 경우, 대응되는 픽셀을 상기 제1 디스패리티 맵에서 제거할 수 있다. Wherein the first disparity map obtaining unit obtains the difference between pixel intensity and edge information of the input monochrome image and pixel intensity and edge information of the at least one discoloration image to a minimum value for each pixel, And for each pixel, if the difference between the disparity from the input monochrome image and the disparity from the at least one decolorized image is equal to or greater than a certain reference, a corresponding corresponding disparity Pixels from the first disparity map.

상기 게인 맵 및 제2 디스패리티 맵 획득부는 각각의 상기 단위 영역에 대해서, 상기 단위 영역 내부의 대응점의 픽셀 강도와 상기 적어도 하나의 탈색 이미지의 대응하는 픽셀 강도의 차이가 최소가 되는 상기 게인 및 상기 제2 디스패리티를 획득할 수 있다.Wherein the gain map and the second disparity map obtaining unit obtains, for each of the unit areas, the gain in which a difference between a pixel intensity of a corresponding point in the unit area and a corresponding pixel intensity of the at least one discoloration image is minimum, A second disparity can be obtained.

상기 깊이 정보 획득 장치는, 상기 컬러 복원 이미지는 루미넌스 채널인 Y 채널 및 크로미넌스 채널인 U 채널 및 V 채널을 갖고, 상기 입력 흑백 이미지의 정보는 상기 Y 채널을 구성하며, 상기 입력 컬러 이미지의 정보는 상기 U 채널 및 상기 V 채널을 구성할 수 있다.Wherein the color depth restoration image has a U channel and a V channel which are Y channel and chrominance channel which are luminance channels and the information of the input monochrome image constitutes the Y channel, The information may constitute the U channel and the V channel.

발명의 다른 특징에 따른 스테레오 촬영된 입력 컬러 이미지 및 입력 흑백 이미지를 이용하여 깊이 정보를 획득하는 방법은, 임의의 복수의 탈색 파라미터 세트 중 상기 입력 컬러 이미지에 대한 적어도 하나의 후보 탈색 파라미터 세트를 선택하는 단계 상기 후보 탈색 파라미터 세트를 적용하여 상기 입력 컬러 이미지에 대응하는 적어도 하나의 탈색 이미지를 생성하는 단계 및 상기 적어도 하나의 탈색 이미지와 상기 입력 흑백 이미지를 스테레오 매칭하여 제1 디스패리티 맵을 획득하는 단계를 포함할 수 있다.A method for acquiring depth information using a stereoscopically input color image and an input monochrome image according to another aspect of the invention includes selecting at least one candidate discoloration parameter set for the input color image from among a plurality of sets of discoloration parameters The method comprising: generating at least one discoloration image corresponding to the input color image by applying the candidate discoloration parameter set; and stereo matching the at least one discoloration image and the input monochrome image to obtain a first disparity map Step < / RTI >

상기 깊이 정보 획득 방법은, 상기 제1 디스패리티 맵을 이용하여, 상기 입력 흑백 이미지의 복수의 단위 영역 각각에 대한 게인 및 제2 디스패리티를 포함하는 게인 맵 및 제2 디스패리티 맵을 획득하는 단계를 더 포함할 수 있다.The method of acquiring depth information includes obtaining a gain map and a second disparity map including a gain and a second disparity for each of a plurality of unit areas of the input monochrome image using the first disparity map As shown in FIG.

상기 깊이 정보 획득 방법은, 상기 제2 디스패리티 맵을 이용하여 상기 입력 컬러 이미지의 크로미넌스 정보를 상기 입력 흑백 이미지의 루미넌스 정보에 전파시켜 컬러 복원 이미지를 생성하는 단계를 더 포함할 수 있다.The method of acquiring depth information may further include generating chrominance reconstructed image by propagating chrominance information of the input color image to luminance information of the input monochrome image using the second disparity map.

상기 적어도 하나의 후보 탈색 파라미터 세트를 선택하는 단계는, 상기 복수의 탈색 파라미터 세트 중, 탈색 파라미터 세트가 적용된 예상 탈색 이미지의 콘트라스트로 복구된 복구 컬러 이미지와 자기유도된 입력 컬러 이미지의 차이가 일정 기준 이하인 적어도 하나의 제1 탈색 파라미터 세트를 선택하는 단계 상기 복수의 탈색 파라미터 세트 중 정규화 희박도(normalized sparsity)가 일정 기준 이하인 적어도 하나의 제2 탈색 파라미터 세트를 선택하는 단계 및 상기 적어도 하나의 제1 탈색 파라미터 세트 및 상기 적어도 하나의 제2 탈색 파라미터 세트의 교집합으로 상기 적어도 하나의 후보 탈색 파라미터 세트를 선택하는 단계를 포함할 수 있다.Wherein the step of selecting the at least one candidate decolorization parameter set further comprises the step of determining whether the difference between the restored color image recovered to the contrast of the anticipated decoloring image to which the decoloring parameter set is applied and the self- Selecting a set of at least one first discoloration parameter that is less than or equal to a normalized sparsity of the plurality of sets of discoloration parameters; And selecting the at least one candidate discoloration parameter set as an intersection of the set of discoloration parameters and the at least one second discoloration parameter set.

상기 제1 디스패리티 맵을 획득하는 단계는, 각각의 픽셀에 대해서, 상기 입력 흑백 이미지의 픽셀 강도 및 엣지 정보와 상기 적어도 하나의 탈색 이미지의 픽셀 강도 및 엣지 정보의 차이가 최소값이 되도록 하는 디스패리티를 획득하여 상기 제1 디스패리티 맵을 구성하고, 각각의 픽셀에 대해서, 상기 입력 흑백 이미지로부터의 디스패리티와 상기 적어도 하나의 탈색 이미지로부터의 디스패리티의 차이가 일정 기준 이상인 경우, 대응되는 픽셀을 상기 제1 디스패리티 맵에서 제거하는 단계를 포함할 수 있다.Wherein the obtaining of the first disparity map comprises, for each pixel, disparity so that the difference between the pixel intensity and edge information of the input monochrome image and the pixel intensity and edge information of the at least one discoloration image is at a minimum And for each pixel, if the difference between the disparity from the input monochrome image and the disparity from the at least one decolorized image is greater than or equal to a certain reference, Removing from the first disparity map.

상기 게인 맵 및 제2 디스패리티 맵을 획득하는 단계에서, 각각의 상기 단위 영역에 대해서, 상기 단위 영역 내부의 대응점의 픽셀 강도와 상기 적어도 하나의 탈색 이미지의 대응하는 픽셀 강도의 차이가 최소가 되는 상기 게인 및 상기 제2 디스패리티를 획득할 수 있다.Wherein in obtaining the gain map and the second disparity map, for each of the unit areas, a difference between a pixel intensity of a corresponding point inside the unit area and a corresponding pixel intensity of the at least one discoloration image is minimized And obtain the gain and the second disparity.

상기 컬러 복원 이미지는 루미넌스 채널인 Y 채널 및 크로미넌스 채널인 U 채널 및 V 채널을 갖고, 상기 입력 흑백 이미지의 정보는 상기 Y 채널을 구성하며, 상기 입력 컬러 이미지의 정보는 상기 U 채널 및 상기 V 채널을 구성할 수 있다. Wherein the color restored image has a Y channel as a luminance channel and a U channel and a V channel as chrominance channels, the information of the input monochrome image constitutes the Y channel, V channel.

실시예들에 따른 깊이 정보 획득 장치 및 그 방법에 따르면 별도의 광원 없이도 저조도 환경에서도 강인한 깊이 정보가 추정 가능하다.According to the depth information obtaining apparatus and method according to embodiments, robust depth information can be estimated even in a low-illuminance environment without a separate light source.

도 1은 본 발명의 한 실시예에 따른 깊이 정보 획득 장치를 설명하기 위한 도면이다.
도 2는 입력 컬러 이미지를 설명하기 위한 도면이다.
도 3은 입력 흑백 이미지를 설명하기 위한 도면이다.
도 4는 제2 디스패리티 맵을 설명하기 위한 도면이다.
도 5는 컬러 복원 이미지를 설명하기 위한 도면이다.
도 6은 응용 어플리케이션에 따른 재초점 이미지를 설명하기 위한 도면이다.
도 7은 응용 어플리케이션에 따른 스타일링된 이미지를 설명하기 위한 도면이다.
FIG. 1 is a view for explaining a depth information obtaining apparatus according to an embodiment of the present invention.
2 is a diagram for explaining an input color image.
3 is a diagram for explaining an input monochrome image.
4 is a diagram for explaining a second disparity map.
5 is a diagram for explaining a color restored image.
6 is a view for explaining a refocused image according to an application application.
7 is a diagram for explaining a stylized image according to an application application.

이하, 첨부한 도면을 참고로 하여 여러 실시예들에 대하여 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 실시예들은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예들에 한정되지 않는다.DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings. The embodiments may be implemented in various different forms and are not limited to the embodiments described herein.

실시예들을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 동일 또는 유사한 구성요소에 대해서는 동일한 참조 번호를 붙이도록 한다. 따라서 이전 도면에 사용된 구성요소의 참조 번호를 다음 도면에서 사용할 수 있다.In order to clearly illustrate the embodiments, parts not related to the description are omitted, and the same reference numerals are used for the same or similar components throughout the specification. Therefore, reference numerals of the components used in the previous drawings can be used in the following drawings.

도 1은 본 발명의 한 실시예에 따른 깊이 정보 획득 장치를 설명하기 위한 도면이다.FIG. 1 is a view for explaining a depth information obtaining apparatus according to an embodiment of the present invention.

도 1을 참조하면 본 발명의 한 실시예에 따른 깊이 정보 획득 장치(10)는 후보 탈색 파라미터 세트 선택부(11), 탈색 이미지 생성부(12), 제1 디스패리티 맵 획득부(13), 게인 맵 및 제2 디스패리티 맵 획득부(14), 및 컬러 복원부(15)를 포함한다.1, the depth information obtaining apparatus 10 according to an exemplary embodiment of the present invention includes a candidate decoloring parameter set selection unit 11, a decoloring image generation unit 12, a first disparity map obtaining unit 13, A gain map and second disparity map acquiring unit 14, and a color restoring unit 15. [

깊이 정보 획득 장치(10)는 스테레오 촬영된 입력 컬러 이미지(200) 및 입력 흑백 이미지(300)를 이용하여 깊이 정보를 획득하는 장치이다(도 2 및 도 3 참조). 입력 흑백 이미지(300)의 경우 단색광 카메라로 촬영되어 광량 손실이 비교적 적은 반면, 입력 컬러 이미지(200)는 단색광 카메라에 컬러 필터를 더 적용시켜 촬영되기 때문에 광량의 손실이 비교적 크다. 도 2의 입력 컬러 이미지(200)의 확대 부분과 도 3의 입력 흑백 이미지(300)의 확대 부분을 비교하면, 입력 흑백 이미지(300)가 더 선명한 것을 확인할 수 있다. 또한 Raw 영상에서 컬러 영상을 만들기 위한 데모사이싱(demosaicing)은 컬러 영상의 해상도를 떨어뜨리는 문제점을 갖는다. 본 발명에 따르면 입력 컬러 이미지(200)의 크로미넌스(chrominance) 정보를 입력 흑백 이미지(300)에 전파하는 방식을 이용하여 선명한 컬러 복원 이미지를 생성할 수 있다.The depth information obtaining apparatus 10 is an apparatus for obtaining depth information by using a stereoscopically input input color image 200 and an input monochrome image 300 (see FIGS. 2 and 3). In the case of the input monochrome image 300, the loss of the light amount is relatively small because the input color image 200 is photographed by applying a color filter to the monochromatic camera. By comparing the enlarged portion of the input color image 200 of FIG. 2 with the enlarged portion of the input black image 300 of FIG. 3, it can be seen that the input black and white image 300 is clearer. In addition, demosaicing for creating a color image in a raw image has a problem of lowering the resolution of a color image. According to the present invention, a vivid color restored image can be generated using a method of transmitting chrominance information of the input color image 200 to the input monochrome image 300.

깊이 정보 획득 장치(10)는 데스크탑, 노트북, 서버 등 프로그램을 연산할 수 있는 컴퓨팅 장치(computing device)일 수 있다. 깊이 정보 획득 장치(10)는 최소한 하나의 프로세서와 메모리를 포함할 수 있다. 메모리에는 본 발명의 실시예에 따른 깊이 정보 획득 방법이 미리 프로그램되어 있을 수 있다. 프로세서는 이러한 프로그램을 구동시킬 수 있다. 한편, 이러한 프로그램은 외부 서버 등으로부터 원격으로 가져올 수도 있다. 다른 한편, 깊이 정보 획득 장치(10)에서 프로세서와 메모리의 구분이 모호할 수 있으며, 깊이 정보 획득 방법을 구현하기 위한 소프트웨어와 하드웨어 각각의 비중을 정하는 것은 당업자 선택에 따를 수 있다.The depth information acquisition apparatus 10 may be a computing device capable of operating a program such as a desktop, a notebook, and a server. The depth information obtaining apparatus 10 may include at least one processor and a memory. The depth information acquisition method according to an embodiment of the present invention may be pre-programmed in the memory. The processor can drive such a program. On the other hand, such a program may be imported remotely from an external server or the like. On the other hand, the distinction between the processor and the memory may be ambiguous in the depth information acquiring apparatus 10, and it is possible for a person skilled in the art to determine the proportion of software and hardware for implementing the depth information acquiring method.

깊이 정보 획득 장치(10)는 하나의 프로세서 및 하나의 메모리로 본 발명의 깊이 정보 획득 방법을 구현할 수도 있지만, 복수의 프로세서 및 복수의 메모리 또는 다양한 소프트웨어 및 하드웨어의 조합으로 본 발명의 깊이 정보 획득 방법을 구현할 수 있다. 따라서 도 1에서는, 그러한 한 실시예로서, 깊이 정보 획득 장치(10)가 깊이 정보 획득 방법에 따라 논리적으로 구분된 복수의 기능부(function unit)(11, 12, 13, 14, 15)를 포함한다. 각각의 기능부를 하나 또는 특정 개수로 통합하거나 분리시켜 하드웨어 및 소프트웨어로 구현하는 것은 당업자의 선택 사항이다.Although the depth information obtaining apparatus 10 may implement the depth information obtaining method of the present invention by one processor and one memory, the depth information obtaining apparatus 10 may use a plurality of processors and a plurality of memories, or a combination of various software and hardware, Can be implemented. 1, the depth information obtaining apparatus 10 includes a plurality of function units 11, 12, 13, 14, 15 logically divided according to the depth information obtaining method do. It is optional for those skilled in the art to integrate or separate each functional unit into one or a specific number and implement it in hardware and software.

먼저, 후보 탈색 파라미터 세트 선택부(11)는 임의의 복수의 탈색 파라미터 세트 중 입력 컬러 이미지(200)에 대한 적어도 하나의 후보 탈색 파라미터 세트를 선택한다.First, the candidate decoloring parameter set selector 11 selects at least one candidate decoloring parameter set for the input color image 200 among the plurality of decoloring parameter sets.

이때, 후보 탈색 파라미터 세트 선택부(11)는 복수의 탈색 파라미터 세트 중, 탈색 파라미터 세트가 적용된 예상 탈색 이미지의 콘트라스트(contrast)로 복구된 복구 컬러 이미지와 자기유도된 입력 컬러 이미지의 차이가 일정 기준 이하인 적어도 하나의 제1 탈색 파라미터 세트를 선택하고, 복수의 탈색 파라미터 세트 중 정규화 희박도(normalized sparsity)가 일정 기준 이하인 적어도 하나의 제2 탈색 파라미터 세트를 선택하고, 적어도 하나의 제1 탈색 파라미터 세트 및 상기 적어도 하나의 제2 탈색 파라미터 세트의 교집합으로 적어도 하나의 후보 탈색 파라미터 세트를 선택할 수 있다.At this time, the candidate decoloring parameter set selection unit 11 selects the candidate decoloring parameter set selector 11 from among the plurality of decoloring parameter sets, the difference between the restored color image recovered to the contrast of the anticipated decoloring image to which the decoloring parameter set is applied and the self- Selecting at least one second set of discoloration parameter sets having a normalized sparsity of less than a certain standard among the plurality of set of discolored parameter sets; And selecting at least one candidate discoloration parameter set as an intersection of the at least one second discoloration parameter set.

먼저, 제1 탈색 파라미터 세트를 선택하는 방법에 대해 설명한다. 이는 탈색 처리에도 불구하고 탈색 이미지에 최대한 많은 정보를 유지하기 위함이다.First, a method of selecting the first set of discoloration parameters will be described. This is to maintain as much information as possible on the decolorized image despite the decolorizing treatment.

탈색 이미지(decolorized image)를

Figure 112016059346086-pat00001
라고 하는 경우, 탈색 이미지
Figure 112016059346086-pat00002
는, 아래 수학식 1과 같이, 입력 컬러 이미지(200)의 적색 컬러 채널
Figure 112016059346086-pat00003
, 녹색 컬러 채널
Figure 112016059346086-pat00004
, 및 청색 컬러 채널
Figure 112016059346086-pat00005
에 탈색 파라미터
Figure 112016059346086-pat00006
,
Figure 112016059346086-pat00007
,
Figure 112016059346086-pat00008
가 각각 적용된 합으로 표현될 수 있다.Decolorized image
Figure 112016059346086-pat00001
When it is called, discoloration image
Figure 112016059346086-pat00002
Of the input color image 200, as shown in Equation (1) below,
Figure 112016059346086-pat00003
, Green color channel
Figure 112016059346086-pat00004
, And a blue color channel
Figure 112016059346086-pat00005
The decolorization parameter
Figure 112016059346086-pat00006
,
Figure 112016059346086-pat00007
,
Figure 112016059346086-pat00008
Can be expressed as a sum applied to each of them.

[수학식 1][Equation 1]

Figure 112016059346086-pat00009
Figure 112016059346086-pat00009

본 실시예의 탈색 파라미터 세트는 탈색 파라미터

Figure 112016059346086-pat00010
,
Figure 112016059346086-pat00011
,
Figure 112016059346086-pat00012
를 포함한다. 이러한 탈색 파라미터 세트는 탈색 파라미터의 임의 조합에 따라 무한정으로 존재할 수 있다. 따라서 복수의 탈색 파라미터 세트는 그 개수에 제한이 없다. 한 실시예로 각각의 탈색 파라미터는 0.1 간격(interval)을 갖도록 할 수 있다.The color fading parameter set of this embodiment is a color fading parameter
Figure 112016059346086-pat00010
,
Figure 112016059346086-pat00011
,
Figure 112016059346086-pat00012
. This set of bleaching parameters may be present indefinitely depending on any combination of bleaching parameters. Therefore, the number of sets of the plurality of discoloration parameters is not limited. In one embodiment, each of the decolorization parameters may have an interval of 0.1.

후보 탈색 파라미터 세트 선택부(11)는 입력 컬러 이미지(200)인

Figure 112016059346086-pat00013
를 임의의 탈색 파라미터 세트가 적용된 예상 탈색 이미지
Figure 112016059346086-pat00014
의 콘트라스트(contrast)로 유도함으로써, 복구 컬러 이미지
Figure 112016059346086-pat00015
를 획득할 수 있다.The candidate color fading parameter set selector 11 selects the input color image 200
Figure 112016059346086-pat00013
≪ RTI ID = 0.0 > a < / RTI > expected discoloration image
Figure 112016059346086-pat00014
To the contrast of the restored color image < RTI ID = 0.0 >
Figure 112016059346086-pat00015
Can be obtained.

이때 유도된 필터(guided filter)인

Figure 112016059346086-pat00016
가 이용될 수 있다(K. He, J. Sun, and X. Tang. Guided image filtering. IEEE Transactions on Pattern Analysis and Machine Intelligence (PAMI), 35(6):1397-1409, 2013.). 참조).
Figure 112016059346086-pat00017
는 각각의 픽셀 i에 대해서 아래 수학식 2와 같이 표현될 수 있다.
Figure 112016059346086-pat00018
는 픽셀 i에 대해서
Figure 112016059346086-pat00019
의 콘트라스트로
Figure 112016059346086-pat00020
를 유도하여
Figure 112016059346086-pat00021
를 출력한다.In this case, the guided filter
Figure 112016059346086-pat00016
(K. He, J. Sun, and X. Tang, Guided image filtering, IEEE Transactions on Pattern Analysis and Machine Intelligence (PAMI), 35 (6): 1397-1409, 2013.). Reference).
Figure 112016059346086-pat00017
Can be expressed by Equation (2) below for each pixel i.
Figure 112016059346086-pat00018
For pixel i
Figure 112016059346086-pat00019
In contrast
Figure 112016059346086-pat00020
To induce
Figure 112016059346086-pat00021
.

[수학식 2]&Quot; (2) "

Figure 112016059346086-pat00022
Figure 112016059346086-pat00022

이때,

Figure 112016059346086-pat00023
는 픽셀 k를 중심으로한 윈도우(window)이고,
Figure 112016059346086-pat00024
는 윈도우
Figure 112016059346086-pat00025
에 포함된 픽셀의 개수이다.
Figure 112016059346086-pat00026
는 정규화 파라미터(regularization parmeter)이다.
Figure 112016059346086-pat00027
Figure 112016059346086-pat00028
는 각각, 윈도우
Figure 112016059346086-pat00029
내의
Figure 112016059346086-pat00030
의 평균(mean) 및 표준 편차(standard deviation)이다.At this time,
Figure 112016059346086-pat00023
Is a window centered on the pixel k,
Figure 112016059346086-pat00024
Windows
Figure 112016059346086-pat00025
Lt; / RTI >
Figure 112016059346086-pat00026
Is a regularization parmeter.
Figure 112016059346086-pat00027
And
Figure 112016059346086-pat00028
Respectively,
Figure 112016059346086-pat00029
undergarment
Figure 112016059346086-pat00030
Mean and standard deviation of the mean.

유사하게, 후보 탈색 파라미터 세트 선택부(11)는 유도된 필터

Figure 112016059346086-pat00031
를 이용하여 입력 컬러 이미지
Figure 112016059346086-pat00032
를 자기유도할 수 있다. 이때 출력 값은
Figure 112016059346086-pat00033
이다.Similarly, the candidate decoloring parameter set selection section 11 selects the candidate decoloring parameter set
Figure 112016059346086-pat00031
Input color image using
Figure 112016059346086-pat00032
Can be magnetically induced. At this time,
Figure 112016059346086-pat00033
to be.

후보 탈색 파라미터 세트 선택부(11)는, 아래 수학식 3에 따라, 자기유도된 입력 컬러 이미지

Figure 112016059346086-pat00034
와 복구 컬러 이미지
Figure 112016059346086-pat00035
의 차이가 일정 기준 이하인 적어도 하나의 제1 탈색 파라미터 세트를 선택할 수 있다.The candidate decoloring parameter set selection section 11 selects, according to the following equation (3), the self-induced input color image
Figure 112016059346086-pat00034
Color Image Recovery
Figure 112016059346086-pat00035
At least one first discoloration parameter set whose difference is less than or equal to a certain standard value can be selected.

[수학식 3]&Quot; (3) "

Figure 112016059346086-pat00036
Figure 112016059346086-pat00036

Figure 112016059346086-pat00037
는 임의의 탈색 파라미터 세트를 의미하고,
Figure 112016059346086-pat00038
는 복수의 탈색 파라미터 세트를 의미한다.
Figure 112016059346086-pat00039
은 콘트라스트 보존 비용(contrast preserviing cost)를 의미한다.
Figure 112016059346086-pat00037
Quot; means any set of bleaching parameters,
Figure 112016059346086-pat00038
Means a plurality of sets of discoloration parameters.
Figure 112016059346086-pat00039
Means the contrast preserving cost.

후보 탈색 파라미터 세트 선택부(11)는 각각의 탈색 파라미터 세트에 대해서 콘트라스트 보존 비용

Figure 112016059346086-pat00040
을 계산하고, 이산적인 데이터들을 선형적으로 보간(interpolating)시킨 다음, 국소적인 최소점들을 검출함으로써 적어도 하나의 제1 탈색 파라미터 세트인
Figure 112016059346086-pat00041
로 선택할 수 있다.The candidate decoloring parameter set selector 11 selects a candidate decoloring parameter set
Figure 112016059346086-pat00040
, Linearly interpolating the discrete data, and then detecting local minimum points to determine at least one set of first discoloration parameters < RTI ID = 0.0 >
Figure 112016059346086-pat00041
.

다음으로, 제2 탈색 파라미터 세트를 선택하는 방법에 대해서 설명한다. 이는 저조도 환경에서 발생하는 노이즈 증폭을 방지하기 위해서이다.Next, a method of selecting the second color decoloring parameter set will be described. This is to prevent noise amplification occurring in a low-light environment.

후보 탈색 파라미터 세트 선택부(11)는 복수의 탈색 파라미터 세트 중 정규화 희박도(normalized sparsity)가 일정 기준 이하인 적어도 하나의 제2 탈색 파라미터 세트를 선택할 수 있다.The candidate color fading parameter set selector 11 can select at least one second color fading parameter set among the plurality of color fading parameter sets whose normalized sparsity is below a certain standard.

정규화 희박도인

Figure 112016059346086-pat00042
는 아래 수학식 4와 같이 표현될 수 있다.Normalized sparse
Figure 112016059346086-pat00042
Can be expressed as Equation (4) below.

[수학식 4]&Quot; (4) "

Figure 112016059346086-pat00043
Figure 112016059346086-pat00043

Figure 112016059346086-pat00044
는 탈색 파라미터
Figure 112016059346086-pat00045
로 탈색된 탈색 이미지이고,
Figure 112016059346086-pat00046
는 각각 x, y 방향에 대한 그래디언트 크기(gradient magnitude)이다.
Figure 112016059346086-pat00047
Figure 112016059346086-pat00048
는 각각 L1-놈(norm) 및 L2-놈을 의미한다.
Figure 112016059346086-pat00044
The decoloring parameter
Figure 112016059346086-pat00045
≪ / RTI > is a decolorized image,
Figure 112016059346086-pat00046
Are the gradient magnitudes for the x and y directions, respectively.
Figure 112016059346086-pat00047
And
Figure 112016059346086-pat00048
Denote L 1 -nom and L 2 -nom, respectively.

후보 탈색 파라미터 세트 선택부(11)는 획득된 전체 정규화 희박도 값 중 20%에 해당하는 값들에 대한 탈색 파라미터 세트를 제2 탈색 파라미터 세트인

Figure 112016059346086-pat00049
로 선택할 수 있다. 20% 등 퍼센티지는 당업자의 선택에 의해 적절히 선택될 수 있다.The candidate decoloring parameter set selection unit 11 sets the decoloring parameter set for the values corresponding to 20% of the obtained full normalization dilution value to the second decoloring parameter set
Figure 112016059346086-pat00049
. 20%, etc. may be appropriately selected by a person skilled in the art.

최종적으로, 후보 탈색 파라미터 세트 선택부(11)는 적어도 하나의 제1 탈색 파라미터 세트

Figure 112016059346086-pat00050
및적어도 하나의 제2 탈색 파라미터 세트
Figure 112016059346086-pat00051
의 교집합
Figure 112016059346086-pat00052
으로 적어도 하나의 후보 탈색 파라미터 세트
Figure 112016059346086-pat00053
를 선택할 수 있다.Finally, the candidate decoloring parameter set selector 11 selects at least one first decoloring parameter set < RTI ID = 0.0 >
Figure 112016059346086-pat00050
And at least one second discoloration parameter set
Figure 112016059346086-pat00051
Intersection of
Figure 112016059346086-pat00052
At least one candidate discoloration parameter set
Figure 112016059346086-pat00053
Can be selected.

탈색 이미지 생성부(12)는 후보 탈색 파라미터 세트

Figure 112016059346086-pat00054
를 적용하여 입력 컬러 이미지(200)에 대응하는 적어도 하나의 탈색 이미지
Figure 112016059346086-pat00055
를 생성한다. 탈색 이미지
Figure 112016059346086-pat00056
생성에 대해서는 수학식 1을 다시 참조한다.The discoloration image generating unit 12 generates a discoloration image parameter set
Figure 112016059346086-pat00054
To obtain at least one discoloration image 200 corresponding to the input color image 200
Figure 112016059346086-pat00055
. Discoloration image
Figure 112016059346086-pat00056
For the generation, refer to Equation 1 again.

다음으로, 제1 디스패리티 맵 획득부(13)는 적어도 하나의 탈색 이미지와 입력 흑백 이미지(300)를 스테레오 매칭하여 제1 디스패리티 맵(disparity map)을 획득한다.Next, the first disparity map obtaining unit 13 stereo-matches at least one discoloration image and the input monochrome image 300 to obtain a first disparity map.

이때, 제1 디스패리티 맵 획득부(13)는 각각의 픽셀(pixel)에 대해서, 입력 흑백 이미지(300)의 픽셀 강도 및 엣지(edge) 정보와 탈색 이미지의 픽셀 강도 및 엣지 정보의 차이가 최소값이 되도록 하는 디스패리티를 획득하여 제1 디스패리티 맵을 구성한다.At this time, the first disparity map acquiring unit 13 acquires the difference between the pixel intensity and edge information of the input monochrome image 300 and the pixel intensity and edge information of the decoloring image, for each pixel, So as to construct a first disparity map.

아래 수학식 5에서는 임의의 픽셀

Figure 112016059346086-pat00057
에 대한 비용 부피(cost volume)
Figure 112016059346086-pat00058
를 픽셀 강도 차이에 대한 비용 부피
Figure 112016059346086-pat00059
와 엣지 정보 차이에 대한 비용 부피
Figure 112016059346086-pat00060
의 합으로 나타낸다.
Figure 112016059346086-pat00061
은 비용 레이블(cost label)이고,
Figure 112016059346086-pat00062
는 밸런싱 파라미터(balancing parameter)이다(비용 부피에 대해서는 논문 C. Rhemann, A. Hosni, M. Bleyer, C. Rother, and M. Gelautz. Fast cost-volume filtering for visual correspon-dence and beyond. In Proceedings of IEEE International Conference on Computer Vision and Pattern Recognition (CVPR), 2011. 참조).In Equation (5) below,
Figure 112016059346086-pat00057
The cost volume for the < RTI ID = 0.0 >
Figure 112016059346086-pat00058
The cost volume for the pixel intensity difference
Figure 112016059346086-pat00059
And the cost of the difference in edge information
Figure 112016059346086-pat00060
.
Figure 112016059346086-pat00061
Is a cost label,
Figure 112016059346086-pat00062
Is the balancing parameter (see Costs Volume by C. Rhemann, A. Hosni, M. Bleyer, C. Rother, and M. Gelautz, Fast Cost-Volume Filtering for Visual Correction- IEEE International Conference on Computer Vision and Pattern Recognition (CVPR), 2011.).

[수학식 5]&Quot; (5) "

Figure 112016059346086-pat00063
Figure 112016059346086-pat00063

SAD(sum of absolute differences)는 밝기 일관성을 측정하기 위해 이용되고, SIE(sum of informative edges)는 엣지 유사성을 측정하기 위해 이용된다.The sum of absolute differences (SAD) is used to measure brightness consistency, and the sum of informative edges (SIE) is used to measure edge similarity.

Figure 112016059346086-pat00064
는 아래 수학식 6과 같이 표현될 수 있다.
Figure 112016059346086-pat00064
Can be expressed as Equation (6) below.

[수학식 6]&Quot; (6) "

Figure 112016059346086-pat00065
Figure 112016059346086-pat00065

Figure 112016059346086-pat00066
는 픽셀
Figure 112016059346086-pat00067
를 중심으로 하는 지지 윈도우(supporting window)이고,
Figure 112016059346086-pat00068
은 입력 흑백 이미지(300)이고,
Figure 112016059346086-pat00069
는 탈색 이미지이고,
Figure 112016059346086-pat00070
는 디스패리티이고,
Figure 112016059346086-pat00071
는 절단값(truncation value)이다.
Figure 112016059346086-pat00066
Gt;
Figure 112016059346086-pat00067
And a supporting window,
Figure 112016059346086-pat00068
Is an input monochrome image 300,
Figure 112016059346086-pat00069
Is a discoloration image,
Figure 112016059346086-pat00070
Is a disparity,
Figure 112016059346086-pat00071
Is a truncation value.

Figure 112016059346086-pat00072
는 아래 수학식 7과 같이 표현될 수 있다.
Figure 112016059346086-pat00072
Can be expressed by Equation (7) below.

[수학식 7]&Quot; (7) "

Figure 112016059346086-pat00073
Figure 112016059346086-pat00073

Figure 112016059346086-pat00074
는 절단값이고, 함수
Figure 112016059346086-pat00075
는 유익한 엣지(informative edge)를 판단하는 데 사용되는 기준(criterion)으로 이용된다(L. Xu and J. Jia. Two-phase kernel estimation for robust motion deblurring. In Proceedings of European Conference on Computer Vision (ECCV). 2010. 참조).
Figure 112016059346086-pat00074
Is the cutoff value,
Figure 112016059346086-pat00075
Is used as a criterion used to judge informative edges (L. Xu and J. Jia. Two-phase kernel estimation for robust motion deblurring. In Proceedings of the European Conference on Computer Vision (ECCV) 2010.).

따라서 제1 디스패리티 맵 획득부(13)는 비용 부피

Figure 112016059346086-pat00076
를 최소로 하는 임의의 픽셀
Figure 112016059346086-pat00077
에 대한 디스패리티
Figure 112016059346086-pat00078
를 획득할 수 있다.Therefore, the first disparity map obtaining unit 13 obtains the cost disparity
Figure 112016059346086-pat00076
Lt; RTI ID = 0.0 >
Figure 112016059346086-pat00077
Disparity for
Figure 112016059346086-pat00078
Can be obtained.

다음으로, 제1 디스패리티맵 획득부(13)는 각각의 픽셀에 대해서, 입력 흑백 이미지(300)로부터의 디스패리티와 탈색 이미지로부터의 디스패리티의 차이가 일정 기준 이상인 경우, 대응되는 픽셀을 이상점(outlier)으로 판단하고, 이를 제1 디스패리티 맵에서 제거할 수있다. 이러한 좌우 일관성 검토(left-right consistency check)는 좌측 시점에서 대응점의 디스패리티와 우측 시점에서 대응점의 디스패리티를 서로 비교해서, 일관성이 없으면 픽셀을 이상점으로판단한다.Next, for each pixel, the first disparity map acquiring unit 13 acquires the disparity from the input monochrome image 300 and the disparity from the decolorized image, It can be determined as an outlier and removed from the first disparity map. In this left-right consistency check, the disparity of the corresponding point is compared with the disparity of the corresponding point at the right point, and if the inconsistency is not determined, the pixel is determined as the abnormal point.

다음으로, 게인 맵 및 제2 디스패리티 맵 획득부(14)는 상술한 제1 디스패리티 맵을 이용하여, 입력 흑백 이미지(300)의 복수의 단위 영역 각각에 대한 게인(gain) 및 제2 디스패리티를 포함하는 게인 맵 및 제2 디스패리티 맵(400)을 획득한다. 게인 맵 및 제2 디스패리티 맵 획득부(14)는 각각의 단위 영역에 대해서, 단위 영역 내부의 대응점의 픽셀 강도와 적어도 하나의 탈색 이미지의 대응하는 픽셀 강도의 차이가 최소가 되는 게인 및 상기 제2 디스패리티를 획득할 수 있다.Next, the gain map and second disparity map acquiring section 14 acquires the gain for each of the plurality of unit areas of the input monochrome image 300 and the gain of the second monochrome image 300 using the first disparity map, A gain map including parity and a second disparity map 400 are obtained. The gain map and the second disparity map obtaining unit 14 obtains, for each unit area, a gain that minimizes the difference between the pixel intensity of the corresponding point inside the unit area and the corresponding pixel intensity of at least one discoloration image, 2 disparity can be obtained.

구체적으로, 입력 흑백 이미지(300)를 복수의 단위 영역으로 구분하고, 각각의 단위 영역은 하나의 게인 값 및 하나의 디스패리티 값을 갖는 것으로 정한다. 예를 들어, 각각의 단위 영역은 15*20 픽셀로 구성될 수 있다.Specifically, the input monochrome image 300 is divided into a plurality of unit areas, and each unit area has one gain value and one disparity value. For example, each unit area may be composed of 15 * 20 pixels.

게인 및 제2 디스패리티는 아래 수학식 8에 따라 획득될 수 있다.The gain and the second disparity can be obtained according to Equation (8) below.

[수학식 8]&Quot; (8) "

Figure 112016059346086-pat00079
Figure 112016059346086-pat00079

Figure 112016059346086-pat00080
는 단위 영역의 인덱스(index)이고,
Figure 112016059346086-pat00081
는 단위 영역
Figure 112016059346086-pat00082
내부의 대응점들의 강도 세트(set of intensities)이다.
Figure 112016059346086-pat00083
Figure 112016059346086-pat00084
가 해당 디스패리티로
Figure 112016059346086-pat00085
로 정렬된 이미지(aligned image)이다.
Figure 112016059346086-pat00086
는 디스패리티 추정(disparity estimation)과 게인 조정 루프(gain adjustment loop)에 대한 반복 인덱스(iteration index)이다.
Figure 112016059346086-pat00087
는 지시자 함수(indicator function)로서 단위 영역
Figure 112016059346086-pat00088
내부의 대응점의 개수가 적어도 3 개보다 많을 때 활성화된다. 지시자 함수를 활성화 시키는 대응점의 개수는 당업자의 선택에 의해 임의로 설정될 수 있다.
Figure 112016059346086-pat00080
Is an index of a unit area,
Figure 112016059346086-pat00081
Lt; RTI ID =
Figure 112016059346086-pat00082
It is the set of intensities of the corresponding points inside.
Figure 112016059346086-pat00083
The
Figure 112016059346086-pat00084
To the disparity
Figure 112016059346086-pat00085
Is an aligned image.
Figure 112016059346086-pat00086
Is an iteration index for disparity estimation and gain adjustment loop.
Figure 112016059346086-pat00087
As an indicator function,
Figure 112016059346086-pat00088
And is activated when the number of internal corresponding points is greater than at least three. The number of corresponding points for activating the indicator function can be arbitrarily set by a person skilled in the art.

수학식 8의 해를 구하면, 조밀하고 부드러운(dense and smooth) 게인 맵을 추정할 수 있고, 국소 관련 모델(local affinity model)을 이용해서 이러한 게인 맵을 전체 이미지

Figure 112016059346086-pat00089
에 전파할 수 있다(A. Levin, D. Lischinski, and Y. Weiss. Colorization using optimization. In ACM Transactions on Graphics (TOG), volume 23, pages 689-694, 2004. 참조).By solving Equation 8, a dense and smooth gain map can be estimated, and a local affinity model can be used to map these gain maps to the entire image
Figure 112016059346086-pat00089
(A. Levin, D. Lischinski, and Y. Weiss, Colorization using optimization, In ACM Transactions on Graphics (TOG), volume 23, pages 689-694, 2004).

다음으로, 컬러 복원부(15)는 제2 디스패리티 맵을 이용하여 입력 컬러 이미지(200)의 크로미넌스(chrominance) 정보를 입력 흑백 이미지(300)의 루미넌스(luminacne) 정보에 전파시켜 컬러 복원 이미지(500)를 생성한다. 컬러 복원 이미지(500)는 루미넌스 채널인 Y 채널 및 크로미넌스 채널인 U 채널 및 V 채널을 갖고, 입력 흑백 이미지(300)의 정보는 Y 채널을 구성하고, 입력 컬러 이미지(200)의 정보는 U 채널 및 V 채널을 구성할 수 있다.Next, the color restoring unit 15 uses the second disparity map to propagate chrominance information of the input color image 200 to the luminacity information of the input monochrome image 300, Thereby generating an image 500. The color restoration image 500 has a Y channel as a luminance channel and a U channel and a V channel as chrominance channels, the information of the input monochrome image 300 constitutes a Y channel, the information of the input color image 200 is U channel and V channel.

도 5의 컬러 복원 이미지(500)를 참조하면 도 2의 입력 컬러 이미지(200)에 비해 선명한 컬러 이미지가 복원되었음을 확인할 수 있다.Referring to the color restored image 500 of FIG. 5, it can be seen that a clear color image is restored as compared to the input color image 200 of FIG.

도 6은 응용 어플리케이션에 따른 재초점 이미지를 설명하기 위한 도면이다.6 is a view for explaining a refocused image according to an application application.

컬러 복원 이미지(500)에 대한 제2 디스패리티 맵이 있으므로, 깊이 정보를 복원할 수 있고, 원하는 부분에 초점을 맞춰 재초점 이미지(600)를 생성할 수 있다.Since there is a second disparity map for the color restored image 500, the depth information can be restored and the refocused image 600 can be generated with focus on the desired portion.

도 7은 응용 어플리케이션에 따른 스타일링된 이미지를 설명하기 위한 도면이다.7 is a diagram for explaining a stylized image according to an application application.

유사하게, 컬러 복원 이미지(500)에 대한 제2 디스패리티 맵이 있으므로, 깊이 정보에 따라 특정 효과를 주어 스타일링된 이미지(700)를 생성하는 것이 가능하다.Similarly, since there is a second disparity map for the color restored image 500, it is possible to generate the stylized image 700 with specific effects according to the depth information.

지금까지 참조한 도면과 기재된 발명의 상세한 설명은 단지 본 발명의 예시적인 것으로서, 이는 단지 본 발명을 설명하기 위한 목적에서 사용된 것이지 의미 한정이나 특허청구범위에 기재된 본 발명의 범위를 제한하기 위하여 사용된 것은 아니다. 그러므로 본 기술 분야의 통상의 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 타 실시예가 가능하다는 점을 이해할 것이다. 따라서, 본 발명의 진정한 기술적 보호 범위는 첨부된 특허청구범위의 기술적 사상에 의해 정해져야 할 것이다.It is to be understood that both the foregoing general description and the following detailed description of the present invention are illustrative and explanatory only and are intended to be illustrative of the invention and are not to be construed as limiting the scope of the invention as defined by the appended claims. It is not. Therefore, those skilled in the art will appreciate that various modifications and equivalent embodiments are possible without departing from the scope of the present invention. Accordingly, the true scope of the present invention should be determined by the technical idea of the appended claims.

10: 깊이 정보 획득 장치
11: 후보 탈색 파라미터 세트 선택부
12: 탈색 이미지 생성부
13: 제1 디스패리티 맵 획득부
14: 게인 맵 및 제2 디스패리티 맵 획득부
15: 컬러 복원부
10: Depth information acquisition device
11: Candidate decoloring parameter set selection unit
12: Discoloration image generating unit
13: First disparity map acquisition unit
14: gain map and second disparity map obtaining unit
15: Color restoration unit

Claims (14)

임의의 복수의 탈색 파라미터 세트 중 입력 컬러 이미지에 대한 적어도 하나의 후보 탈색 파라미터 세트를 선택하는 후보 탈색 파라미터 세트 선택부;
상기 후보 탈색 파라미터 세트를 적용하여 상기 입력 컬러 이미지에 대응하는 적어도 하나의 탈색 이미지를 생성하는 탈색 이미지 생성부; 및
상기 적어도 하나의 탈색 이미지와 입력 흑백 이미지를 스테레오 매칭하여 제1 디스패리티 맵(disparity map)을 획득하는 제1 디스패리티 맵 획득부를 포함하며,
상기 입력 컬러 이미지 및 상기 입력 흑백 이미지는 컬러 카메라 및 단색광 카메라에 의해 스테레오 촬영된 이미지들로서, 상기 입력 컬러 이미지는 상기 컬러 카메라에 의해 촬영된 이미지이고, 상기 입력 흑백 이미지는 상기 단색광 카메라에 의해 촬영된 이미지인 깊이 정보 획득 장치.
A candidate decoloring parameter set selection unit that selects at least one candidate decoloring parameter set for an input color image from among a plurality of any of the plurality of decoloring parameter sets;
A discoloration image generating unit applying the set of candidate discoloring parameters to generate at least one discolored image corresponding to the input color image; And
And a first disparity map obtaining unit for obtaining a first disparity map by stereo matching the at least one discoloration image and the input monochrome image,
Wherein the input color image and the input monochrome image are stereoscopic images taken by a color camera and a monochromatic camera, the input color image is an image photographed by the color camera, and the input monochrome image is an image captured by the monochromatic camera Image depth information acquisition device.
제1 항에 있어서,
상기 제1 디스패리티 맵을 이용하여, 상기 입력 흑백 이미지의 복수의 단위 영역 각각에 대한 게인 및 제2 디스패리티를 포함하는 게인 맵 및 제2 디스패리티 맵을 획득하는 게인 맵 및 제2 디스패리티 맵 획득부를 더 포함하는
깊이 정보 획득 장치.
The method according to claim 1,
A gain map for obtaining a gain map including a gain and a second disparity for each of a plurality of unit areas of the input monochrome image and a gain map for obtaining a second disparity map and a second disparity map Further,
Depth information acquisition device.
제2 항에 있어서,
상기 제2 디스패리티 맵을 이용하여 상기 입력 컬러 이미지의 크로미넌스(chrominance) 정보를 상기 입력 흑백 이미지의 루미넌스(luminacne) 정보에 전파시켜 컬러 복원 이미지를 생성하는 컬러 복원부를 더 포함하는
깊이 정보 획득 장치.
3. The method of claim 2,
And a color restoration unit for generating chrominance restoration image by propagating chrominance information of the input color image to luminosity information of the input monochrome image using the second disparity map
Depth information acquisition device.
제1 항에 있어서,
상기 후보 탈색 파라미터 세트 선택부는
상기 복수의 탈색 파라미터 세트 중, 탈색 파라미터 세트가 적용된 예상 탈색 이미지의 콘트라스트(contrast)로 복구된 복구 컬러 이미지와 자기유도된 입력 컬러 이미지의 차이가 일정 기준 이하인 적어도 하나의 제1 탈색 파라미터 세트를 선택하고,
상기 복수의 탈색 파라미터 세트 중 정규화 희박도(normalized sparsity)가 일정 기준 이하인 적어도 하나의 제2 탈색 파라미터 세트를 선택하고,
상기 적어도 하나의 제1 탈색 파라미터 세트 및 상기 적어도 하나의 제2 탈색 파라미터 세트의 교집합으로 상기 적어도 하나의 후보 탈색 파라미터 세트를 선택하는,
깊이 정보 획득 장치.
The method according to claim 1,
The candidate decoloring parameter set selection unit
Selecting at least one first discoloration parameter set having a difference between the restored color image recovered to the contrast of the anticipated discoloration image to which the discoloration parameter set is applied and the magnetically induced input color image, and,
Selecting at least one second set of discoloration parameters, the normalized sparsity of which is less than or equal to a predetermined criterion,
Selecting the at least one candidate discoloration parameter set as the intersection of the at least one first discoloration parameter set and the at least one second discoloration parameter set,
Depth information acquisition device.
제1 항에 있어서,
상기 제1 디스패리티 맵 획득부는 각각의 픽셀에 대해서,
상기 입력 흑백 이미지의 픽셀 강도 및 엣지 정보와 상기 적어도 하나의 탈색 이미지의 픽셀 강도 및 엣지 정보의 차이가 최소값이 되도록 하는 디스패리티를 획득하여 상기 제1 디스패리티 맵을 구성하고,
각각의 픽셀에 대해서, 상기 입력 흑백 이미지로부터의 디스패리티와 상기 적어도 하나의 탈색 이미지로부터의 디스패리티의 차이가 일정 기준 이상인 경우, 대응되는 픽셀을 상기 제1 디스패리티 맵에서 제거하는,
깊이 정보 획득 장치.
The method according to claim 1,
The first disparity map obtaining unit obtains, for each pixel,
Wherein the first disparity map is constructed by obtaining a disparity so that a difference between pixel intensity and edge information of the input monochrome image and pixel intensity and edge information of the at least one discoloration image is a minimum value,
For each pixel, removing a corresponding pixel from the first disparity map when the difference between the disparity from the input monochrome image and the disparity from the at least one discoloration image is greater than a certain criterion,
Depth information acquisition device.
제2 항에 있어서,
상기 게인 맵 및 제2 디스패리티 맵 획득부는
각각의 상기 단위 영역에 대해서, 상기 단위 영역 내부의 대응점의 픽셀 강도와 상기 적어도 하나의 탈색 이미지의 대응하는 픽셀 강도의 차이가 최소가 되는 상기 게인 및 상기 제2 디스패리티를 획득하는,
깊이 정보 획득 장치.
3. The method of claim 2,
The gain map and the second disparity map obtaining unit
Acquiring, for each of the unit areas, the gain and the second disparity, in which a difference between a pixel intensity of a corresponding point inside the unit area and a corresponding pixel intensity of the at least one discoloration image is minimized,
Depth information acquisition device.
제3 항에 있어서,
상기 컬러 복원 이미지는 루미넌스 채널인 Y 채널 및 크로미넌스 채널인 U 채널 및 V 채널을 갖고,
상기 입력 흑백 이미지의 정보는 상기 Y 채널을 구성하고,
상기 입력 컬러 이미지의 정보는 상기 U 채널 및 상기 V 채널을 구성하는,
깊이 정보 획득 장치.
The method of claim 3,
Wherein the color restoration image has a Y channel which is a luminance channel and a U channel and a V channel which are chrominance channels,
Wherein the information of the input monochrome image constitutes the Y channel,
Wherein the information of the input color image comprises the U channel and the V channel,
Depth information acquisition device.
깊이 정보 획득 장치의 깊이 정보 획득 방법으로서,
임의의 복수의 탈색 파라미터 세트 중 입력 컬러 이미지에 대한 적어도 하나의 후보 탈색 파라미터 세트를 선택하는 단계;
상기 후보 탈색 파라미터 세트를 적용하여 상기 입력 컬러 이미지에 대응하는 적어도 하나의 탈색 이미지를 생성하는 단계; 및
상기 적어도 하나의 탈색 이미지와 입력 흑백 이미지를 스테레오 매칭하여 제1 디스패리티 맵을 획득하는 단계를 포함하며,
상기 입력 컬러 이미지 및 상기 입력 흑백 이미지는 컬러 카메라 및 단색광 카메라에 의해 스테레오 촬영된 이미지들로서, 상기 입력 컬러 이미지는 상기 컬러 카메라에 의해 촬영된 이미지이고, 상기 입력 흑백 이미지는 상기 단색광 카메라에 의해 촬영된 이미지인 깊이 정보 획득 방법.
A depth information obtaining method of a depth information obtaining apparatus,
Selecting at least one candidate bleaching parameter set for an input color image from among a plurality of any of the plurality of bleaching parameter sets;
Applying the candidate discoloration parameter set to generate at least one discolored image corresponding to the input color image; And
And stereo matching the input monochrome image with the at least one decolorized image to obtain a first disparity map,
Wherein the input color image and the input monochrome image are stereoscopic images taken by a color camera and a monochromatic camera, the input color image is an image photographed by the color camera, and the input monochrome image is an image captured by the monochromatic camera An image depth acquisition method.
제8 항에 있어서,
상기 제1 디스패리티 맵을 이용하여, 상기 입력 흑백 이미지의 복수의 단위 영역 각각에 대한 게인 및 제2 디스패리티를 포함하는 게인 맵 및 제2 디스패리티 맵을 획득하는 단계를 더 포함하는
깊이 정보 획득 방법.
9. The method of claim 8,
And obtaining a gain map and a second disparity map including a gain and a second disparity for each of the plurality of unit areas of the input monochrome image using the first disparity map
Depth information acquisition method.
제9 항에 있어서,
상기 제2 디스패리티 맵을 이용하여 상기 입력 컬러 이미지의 크로미넌스 정보를 상기 입력 흑백 이미지의 루미넌스 정보에 전파시켜 컬러 복원 이미지를 생성하는 단계를 더 포함하는
깊이 정보 획득 방법.
10. The method of claim 9,
And propagating the chrominance information of the input color image to the luminance information of the input monochrome image using the second disparity map to generate a color restoration image
Depth information acquisition method.
제8 항에 있어서,
상기 적어도 하나의 후보 탈색 파라미터 세트를 선택하는 단계는:
상기 복수의 탈색 파라미터 세트 중, 탈색 파라미터 세트가 적용된 예상 탈색 이미지의 콘트라스트로 복구된 복구 컬러 이미지와 자기유도된 입력 컬러 이미지의 차이가 일정 기준 이하인 적어도 하나의 제1 탈색 파라미터 세트를 선택하는 단계;
상기 복수의 탈색 파라미터 세트 중 정규화 희박도(normalized sparsity)가 일정 기준 이하인 적어도 하나의 제2 탈색 파라미터 세트를 선택하는 단계; 및
상기 적어도 하나의 제1 탈색 파라미터 세트 및 상기 적어도 하나의 제2 탈색 파라미터 세트의 교집합으로 상기 적어도 하나의 후보 탈색 파라미터 세트를 선택하는 단계를 포함하는,
깊이 정보 획득 방법.
9. The method of claim 8,
Wherein the selecting of the at least one candidate bleaching parameter set comprises:
Selecting at least one first discoloration parameter set in which the difference between the restored color image recovered to the contrast of the anticipated discoloration image to which the discoloration parameter set is applied and the magnetically induced input color image is less than or equal to a certain criterion, among the plurality of discoloration parameter sets;
Selecting at least one second set of discoloration parameters, wherein the normalized sparsity of the plurality of sets of discoloration parameters is less than or equal to a predetermined criterion; And
And selecting the at least one candidate discoloration parameter set as an intersection of the at least one first discoloration parameter set and the at least one second discoloration parameter set.
Depth information acquisition method.
제8 항에 있어서,
상기 제1 디스패리티 맵을 획득하는 단계는, 각각의 픽셀에 대해서,
상기 입력 흑백 이미지의 픽셀 강도 및 엣지 정보와 상기 적어도 하나의 탈색 이미지의 픽셀 강도 및 엣지 정보의 차이가 최소값이 되도록 하는 디스패리티를 획득하여 상기 제1 디스패리티 맵을 구성하고,
각각의 픽셀에 대해서, 상기 입력 흑백 이미지로부터의 디스패리티와 상기 적어도 하나의 탈색 이미지로부터의 디스패리티의 차이가 일정 기준 이상인 경우, 대응되는 픽셀을 상기 제1 디스패리티 맵에서 제거하는 단계인,
깊이 정보 획득 방법.
9. The method of claim 8,
Wherein obtaining the first disparity map comprises: for each pixel,
Wherein the first disparity map is constructed by obtaining a disparity so that a difference between pixel intensity and edge information of the input monochrome image and pixel intensity and edge information of the at least one discoloration image is a minimum value,
And removing, for each pixel, a corresponding pixel from the first disparity map if the difference between the disparity from the input monochrome image and the disparity from the at least one discoloration image is greater than a certain criterion,
Depth information acquisition method.
제9 항에 있어서,
상기 게인 맵 및 제2 디스패리티 맵을 획득하는 단계에서,
각각의 상기 단위 영역에 대해서, 상기 단위 영역 내부의 대응점의 픽셀 강도와 상기 적어도 하나의 탈색 이미지의 대응하는 픽셀 강도의 차이가 최소가 되는 상기 게인 및 상기 제2 디스패리티를 획득하는,
깊이 정보 획득 방법.
10. The method of claim 9,
In the step of acquiring the gain map and the second disparity map,
Acquiring, for each of the unit areas, the gain and the second disparity, in which a difference between a pixel intensity of a corresponding point inside the unit area and a corresponding pixel intensity of the at least one discoloration image is minimized,
Depth information acquisition method.
제10 항에 있어서,
상기 컬러 복원 이미지는 루미넌스 채널인 Y 채널 및 크로미넌스 채널인 U 채널 및 V 채널을 갖고,
상기 입력 흑백 이미지의 정보는 상기 Y 채널을 구성하고,
상기 입력 컬러 이미지의 정보는 상기 U 채널 및 상기 V 채널을 구성하는,
깊이 정보 획득 방법.
11. The method of claim 10,
Wherein the color restoration image has a Y channel which is a luminance channel and a U channel and a V channel which are chrominance channels,
Wherein the information of the input monochrome image constitutes the Y channel,
Wherein the information of the input color image comprises the U channel and the V channel,
Depth information acquisition method.
KR1020160076766A 2016-06-20 2016-06-20 Depth information acquiring device and method thereof KR101769611B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020160076766A KR101769611B1 (en) 2016-06-20 2016-06-20 Depth information acquiring device and method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160076766A KR101769611B1 (en) 2016-06-20 2016-06-20 Depth information acquiring device and method thereof

Publications (1)

Publication Number Publication Date
KR101769611B1 true KR101769611B1 (en) 2017-08-18

Family

ID=59753259

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160076766A KR101769611B1 (en) 2016-06-20 2016-06-20 Depth information acquiring device and method thereof

Country Status (1)

Country Link
KR (1) KR101769611B1 (en)

Similar Documents

Publication Publication Date Title
US11210799B2 (en) Estimating depth using a single camera
JP6431245B1 (en) Edge recognition bidirectional image processing
Zhuo et al. Defocus map estimation from a single image
US11315274B2 (en) Depth determination for images captured with a moving camera and representing moving features
Srinivasan et al. Aperture supervision for monocular depth estimation
JP6485078B2 (en) Image processing method and image processing apparatus
Jeon et al. Stereo matching with color and monochrome cameras in low-light conditions
Hua et al. Holopix50k: A large-scale in-the-wild stereo image dataset
Bätz et al. High dynamic range video reconstruction from a stereo camera setup
US20220277545A1 (en) Binocular image-based model training method and apparatus, and data processing device
US20180198970A1 (en) High dynamic range imaging using camera arrays
EP3349359A1 (en) Compressive sensing capturing device and method
CN109661815B (en) Robust disparity estimation in the presence of significant intensity variations of the camera array
Chang et al. Siamese dense network for reflection removal with flash and no-flash image pairs
WO2012094076A1 (en) Morphological anti-aliasing (mlaa) of a re-projection of a two-dimensional image
JP7223117B2 (en) Super-resolution using natural hand-held motion applied to the user device
US20120176367A1 (en) Morphological anti-aliasing (mlaa) of a re-projection of a two-dimensional image
CN105791793A (en) Image processing method and electronic device
KR20210063223A (en) Multi-task fusion neural network architecture
US20140198177A1 (en) Realtime photo retouching of live video
KR20220014308A (en) System and method for generating bokeh image for dslr quality depth-of-field rendering and refinement and training method for the same
KR101769611B1 (en) Depth information acquiring device and method thereof
KR20140121711A (en) Method of image proccessing, Computer readable storage medium of recording the method and a digital photographing apparatus
Kriener et al. Accelerating defocus blur magnification
US11816855B2 (en) Array-based depth estimation

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant