KR20120073466A - Method for converting 2 dimensional video image into stereoscopic video - Google Patents

Method for converting 2 dimensional video image into stereoscopic video Download PDF

Info

Publication number
KR20120073466A
KR20120073466A KR1020100135244A KR20100135244A KR20120073466A KR 20120073466 A KR20120073466 A KR 20120073466A KR 1020100135244 A KR1020100135244 A KR 1020100135244A KR 20100135244 A KR20100135244 A KR 20100135244A KR 20120073466 A KR20120073466 A KR 20120073466A
Authority
KR
South Korea
Prior art keywords
image
map
edge
pixels
depth map
Prior art date
Application number
KR1020100135244A
Other languages
Korean (ko)
Other versions
KR101336956B1 (en
Inventor
유기령
이광호
김만배
Original Assignee
주식회사 넥시아 디바이스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 넥시아 디바이스 filed Critical 주식회사 넥시아 디바이스
Priority to KR1020100135244A priority Critical patent/KR101336956B1/en
Priority to PCT/KR2011/008185 priority patent/WO2012091273A1/en
Publication of KR20120073466A publication Critical patent/KR20120073466A/en
Application granted granted Critical
Publication of KR101336956B1 publication Critical patent/KR101336956B1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/261Image signal generators with monoscopic-to-stereoscopic image conversion

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Processing Or Creating Images (AREA)

Abstract

PURPOSE: A method for converting a 2D image into a stereographic image is provided to generate a natural stereographic image using a generated final depth map. CONSTITUTION: An object depth map is integrated with a background depth map. A final depth map is generated(ST160). A 2D RGB image is horizontally moved using the final depth map. An image for a right eye and an image for a left eye are obtained(ST170). An empty hole pixel is filled with surrounding pixel values(ST180).

Description

2차원 영상을 스테레오 영상으로 변환하는 방법{METHOD FOR CONVERTING 2 DIMENSIONAL VIDEO IMAGE INTO STEREOSCOPIC VIDEO}How to convert 2D video to stereo video {METHOD FOR CONVERTING 2 DIMENSIONAL VIDEO IMAGE INTO STEREOSCOPIC VIDEO}

본 발명은 2차원 영상을 스테레오 영상으로 변환하는 방법에 관한 것으로서, 보다 상세하게는 객체 깊이맵과 배경 깊이맵을 별도로 생성한 후 이를 합체하여 최종 깊이맵을 생성하고, 생성된 최종 깊이맵을 이용하여 스테레오 영상으로 변환하는 방법에 관한 것이다.
The present invention relates to a method for converting a 2D image into a stereo image. More specifically, an object depth map and a background depth map are separately generated and merged to generate a final depth map, and use the generated final depth map. The present invention relates to a stereo image.

최근 3D 영상(Stereoscopic Video)에 대한 관심이 증폭되면서, 3D 영상에 대한 연구가 활발히 진행되고 있다. 일반적으로 인간은 양 안 사이의 시차에 의해 입체감을 가장 크게 느끼는 것으로 알려져 있다. 따라서, 3D 영상은 인간의 이러한 특성을 이용하여 구현될 수 있다. 예컨대, 특정 피사체를 시청자의 좌측 눈을 통해 보여지는 좌안 영상과 시청자의 우측 눈을 통해 보여지는 우안 영상으로 구별하여, 상기 좌안 영상과 상기 우안 영상을 동시에 디스플레이함으로써 시청자가 상기 특정 피사체를 3D 영상으로 볼 수 있도록 할 수 있다. 결국, 3D 영상은 좌안 영상과 우안 영상으로 구분된 양안(binocular) 영상을 제작하여 이를 디스플레이함으로써 구현될 수 있다.
Recently, as interest in 3D video (Stereoscopic Video) has been amplified, research on 3D video has been actively conducted. In general, it is known that humans feel the most three-dimensional effect by the parallax between both eyes. Thus, 3D imaging can be implemented using these characteristics of humans. For example, by distinguishing a particular subject into a left eye image seen through the viewer's left eye and a right eye image seen through the viewer's right eye, the viewer simultaneously displays the left eye image and the right eye image, thereby allowing the viewer to view the 3D image as a 3D image. I can make it visible. As a result, the 3D image may be implemented by producing a binocular image divided into a left eye image and a right eye image and displaying the same.

본 발명의 목적은 2차원 영상으로부터 객체 깊이맵과 배경 깊이맵을 별도로 생성한 후 이를 합체하여 최종 깊이맵을 생성하고, 생성된 최종 깊이맵을 이용하여 보다 자연스러운 스테레오 영상을 생성하는 2차원 영상을 스테레오 영상으로 변환하는 방법을 제공하고자 하는 것이다.본 발명의 목적은 2차원 영상으로부터 객체 깊이맵과 배경 깊이맵을 별도로 생성한 후 이를 합체하여 최종 깊이맵을 생성하고, 생성된 최종 깊이맵을 이용하여 보다 자연스러운 스테레오 영상을 생성하는 2차원 영상을 스테레오 영상으로 변환하는 방법을 제공하고자 하는 것이다.
An object of the present invention is to create an object depth map and a background depth map separately from the two-dimensional image and merge them to create a final depth map, and to create a two-dimensional image to generate a more natural stereo image using the generated final depth map SUMMARY OF THE INVENTION An object of the present invention is to separately generate an object depth map and a background depth map from a two-dimensional image, merge them together to generate a final depth map, and use the generated final depth map. To provide a method of converting a two-dimensional image to a stereo image to create a more natural stereo image.

상기 본 발명의 목적은 2차원 RGB 영상을 스테레오 영상으로 변환하는 방법에 있어서, 2차원 RGB 영상을 2차원 YUV 영상으로 변환하는 제 1단계와, 2차원 YUV 영상으로부터 에지맵을 생성하는 제 2단계와, 에지맵을 이용하여 객체 깊이맵과 배경 깊이맵을 각각 생성한 후, 객체 깊이맵과 배경 깊이맵을 통합하여 최종 깊이맵을 생성하는 제 3단계와, 최종 깊이맵을 이용하여 상기 2차원 RGB 영상을 수평 방향으로 이동시켜 좌안용 영상과 우안용 영상을 획득하는 제 4단계 및 제 4단계에서 발생되는 빈 홀 화소를 주위 화소값을 이용하여 채우는 제 5단계를 포함하는 것을 특징으로 하는 2차원 영상을 스테레오 영상으로 변환하는 방법에 의해서 달성 가능하다.
An object of the present invention is a method for converting a two-dimensional RGB image to a stereo image, a first step of converting a two-dimensional RGB image to a two-dimensional YUV image, and a second step of generating an edge map from the two-dimensional YUV image And a third step of generating an object depth map and a background depth map by using an edge map, and then integrating an object depth map and a background depth map to generate a final depth map, and using the final depth map. And a fifth step of filling the empty hole pixels generated in the fourth step and the fourth step of acquiring the left-eye image and the right-eye image by moving the RGB image in the horizontal direction, using the surrounding pixel values. Achievable by a method of converting a dimensional image into a stereo image.

본 발명에서는 2차원 영상으로부터 객체 깊이맵과 배경 깊이맵을 별도로 생성한 후 이를 합체하여 최종 깊이맵을 생성하고, 생성된 최종 깊이맵을 이용하여 보다 자연스러운 스테레오 영상을 생성하여 제공할 수 있게 되었다.
In the present invention, the object depth map and the background depth map are separately generated from the two-dimensional image, and the final depth map is generated by merging them, and a more natural stereo image can be generated and provided using the generated final depth map.

도 1은 본 발명에 따른 2차원 영상을 스테레오 영상으로 변환하는 흐름을 설명하는 흐름도.
도 2는 크기가 W x H 인 에지맵 영상에서 좌우배경 깊이맵을 생성하는 방법을 설명하는 도면.
도 3은 크기가 W x H 인 에지맵 영상에서 좌우배경깊이맵에 깊이를 할당하는 방식을 설명하는 도면.
도 4는 크기가 W x H 인 에지맵 영상에서 상하배경깊이맵을 생성하는 방법을 설명하는 도면.
도 5는 크기가 W x H 인 에지맵 영상에서 상하배경깊이맵에 깊이를 할당하는 방식을 설명하는 도면.
도 6은 영상의 좌우 이동에 따라 발생하는 홀 픽셀을 채우는 방법을 설명하는 설명도.
도 7은 홀 픽셀이 발생한 경우, 홀 픽셀을 채우는 방법을 설명하는 흐름도.
도 8은 비에지 픽셀의 블록 위치를 계산하는 방식을 도식화한 도면.
도 9는 현재 블록에서 탐색 윈도우의 범위를 결정하는 설명도.
도 10은 현재 블록에 해당하는 탐색윈도우 크기를 설정하는 것을 설명하는 설명도.
도 11은 텔레비젼과 같은 영상표시장치에 본 발명을 적용하는 일부 구성도.
도 12는 새로운 삼차원 영상 포맷을 설명하는 설명도.
1 is a flow chart illustrating a flow of converting a two-dimensional image to a stereo image according to the present invention.
2 is a diagram illustrating a method of generating a left and right background depth map in an edge map image having a size W × H.
FIG. 3 is a view for explaining a method of allocating depth to left and right background depth maps in an edge map image having a size W × H. FIG.
4 is a view for explaining a method of generating a vertical background depth map in an edge map image of size W x H.
FIG. 5 is a diagram for explaining a method of allocating depth to a vertical background depth map in an edge map image having a size W × H. FIG.
FIG. 6 is an explanatory diagram for explaining a method of filling a hole pixel generated according to left and right movement of an image; FIG.
7 is a flowchart for explaining a method of filling a hole pixel when a hole pixel occurs.
8 is a diagram illustrating a method of calculating block positions of non-edge pixels.
9 is an explanatory diagram for determining a range of a search window in a current block.
10 is an explanatory diagram illustrating setting a search window size corresponding to a current block;
Fig. 11 is a partial configuration diagram of applying the present invention to an image display apparatus such as a television.
12 is an explanatory diagram for explaining a new three-dimensional image format.

이하에서, 첨부된 도면을 참조하여 본 발명의 바람직한 실시예, 장점 및 특징에 대하여 상세히 설명하도록 한다.
In the following, preferred embodiments, advantages and features of the present invention will be described in detail with reference to the accompanying drawings.

도 1은 본 발명에 따른 2차원 영상을 스테레오 영상으로 변환하는 흐름을 설명하는 흐름도의 일 례이다. 도 1에 도시된 바와 같이 입력되는 RGB 영상을 YUV 컬러 모델로 변환하고(ST100), 변환된 YUV 컬러 모델로부터 에지를 추출하여 에지맵을 생성한다(ST110). 이후 영상에 포함된 움직이는 객체를 고려하여 보완된 에지맵을 생성한다(ST115). 다음으로 보완된 에지맵을 이용하여 객체 깊이맵을 생성하고(ST120), 또한 동일한 보완된 에지맵을 이용하여 좌우 배경 깊이맵과 상하 배경 깊이맵을 계산하고(ST130 및 ST140), 계산된 좌우 배경 깊이맵과 상하 배경 깊이맵을 통합하여 배경 깊이맵을 생성한다(ST150). 생성된 객체 깊이맵과 배경 깊이맵을 통합하여 최종 깊이맵을 생성하고(ST160), 최종 깊이맵을 이용하여 픽셀의 변이를 구하고, 변이만큼 RGB 영상을 좌우로 이동하여 좌우 영상을 생성한다(ST170). 다음으로 변이만큼 이동으로 인해 발생되는 비어있는 홀 픽셀을 채움으로써(ST180), 최종적인 스테레오 영상(IR, IL)을 생성할 수 있게 된다(ST190).1 is an example of a flowchart illustrating a flow of converting a 2D image into a stereo image according to the present invention. As shown in FIG. 1, an input RGB image is converted into a YUV color model (ST100), and an edge map is generated by extracting an edge from the converted YUV color model (ST110). After that, a complementary edge map is generated in consideration of the moving object included in the image (ST115). Next, an object depth map is generated using the complementary edge map (ST120), and the left and right background depth map and the vertical background depth map are calculated using the same complementary edge map (ST130 and ST140), and the calculated left and right backgrounds are calculated. The background depth map is generated by integrating the depth map and the vertical background depth map (ST150). The final depth map is generated by integrating the generated object depth map and the background depth map (ST160), and the variation of pixels is obtained using the final depth map, and the left and right images are generated by moving the RGB image left and right by the variation (ST170). ). Next, by filling the empty hole pixels generated by the shift by the shift (ST180), it is possible to generate the final stereo image (I R , I L ) (ST190).

도 1에 설명된 처리 흐름은 하드웨어적으로 처리하거나 또는 소프트웨어적으로 처리할 수 있음은 물론이며, 다양한 장치에서 본 발명의 처리 기술을 사용할 수 있다. 본 발명의 변환 기술을 적용하는 장치의 일 예로는 2차원 영상을 수신하는 텔레비젼 수상기에서 이를 스테레오 영상으로 변환하여 시청자에게 제공하는 장치를 들 수 있다. 이러한 텔레비젼 수상기는 압축된 2차원 영상을 수신한 후, 디코딩하여 2차원 RGB 영상을 생성하여 메모리에 저장하고, 처리 프로세서를 이용하여 도 1의 ST100 내지 ST180 단계를 수행한 후, 좌안용 영상과 우안용 영상을 생성하여 비디오 신호로 제공하게 된다.
The processing flow described in FIG. 1 can be processed in hardware or software, as well as the processing techniques of the present invention in various devices. An example of a device to which the conversion technology of the present invention is applied is a device for converting a stereoscopic image into a stereo image in a television receiver receiving a 2D image and providing the same to a viewer. The television receiver receives a compressed two-dimensional image, decodes it, generates a two-dimensional RGB image, stores it in a memory, and performs the steps ST100 to ST180 of FIG. 1 using a processing processor. It generates a video for providing a video signal.

다음으로 도 1의 각 단계에 대해 상세히 설명하기로 한다. 보완된 에지맵 생성 단계(ST115)를 제외한 플로우에 대해서 설명하고, 마지막으로 보완된 에지맵 생성 단계에 대해서 설명하기로 한다. 따라서, 아래 설명에서는 ST110 단계에서 생성된 에지맵을 이용하여 이후 단계인 ST120과 ST130 및 ST140 단계를 진행하는 과정으로 설명을 진행하나 실질적으로는 ST115 단계에서 생성된 보완된 에지맵을 이용하여 ST120과 ST130 및 ST140 단계가 수행되는 것으로 이해되어져야 한다.
Next, each step of FIG. 1 will be described in detail. The flow except for the supplementary edge map generation step ST115 will be described, and finally, the complementary edge map generation step will be described. Therefore, in the following description, the process proceeds to the subsequent steps ST120, ST130, and ST140 by using the edge map generated in step ST110, but the ST120 and ST120 are substantially used using the complementary edge map generated in step ST115. It should be understood that steps ST130 and ST140 are performed.

1. 컬러모델변환1. Color Model Conversion

RGB영상이 주어지면, 먼저 YUV 컬러공간으로 변환한다. YUV 컬러 영상은 Y(luminance)는 밝기, U는 청색-밝기, V는 적색-밝기로 색상을 표현하며, RGB 영상과 달리 색차 정보를 가지는 것을 특징이다.
Given an RGB image, first convert it to the YUV color space. A YUV color image is represented by Y (luminance) brightness, U is blue-brightness, V is red-brightness, and has color difference information unlike an RGB image.

2. 2. 에지맵Edge map ( ( edgeedge mapmap ) 계산) Calculation

다음으로 에지 정보을 구해야 하며, 단일 데이터에서 얻은 정보는 불확실성이 크기 때문에, 복합 데이터로부터 에지 데이터를 얻는다. 에지정보는 Y, U, V 에 각각 적용하는데, 다음 식에 따라 에지를 추출한다.Next, the edge information must be obtained, and since the information obtained from a single data is uncertain, the edge data is obtained from the composite data. Edge information is applied to Y, U, and V, respectively, and the edge is extracted according to the following equation.

각 화소에 다음과 같이 주변 블록(block) 픽셀들의 편차(variance)

Figure pat00001
를 구한다. 먼저 Y영상에서 주어진 화소를 포함하는 NxN 블록 B의 평균값은 수학식 1과 같이 계산된다.Variance of neighboring block pixels in each pixel as follows
Figure pat00001
. First, the average value of the N × N block B including the given pixel in the Y image is calculated as in Equation 1.

Figure pat00002
Figure pat00002

편차

Figure pat00003
은 다음 수학식 2와 같이 계산된다.Deviation
Figure pat00003
Is calculated as in Equation 2 below.

Figure pat00004
Figure pat00004

또한 U, V 데이터에서 화소의 편차는 다음 수학식 3, 수학식 4, 수학식 5 및 수학식 6과 같이 구해진다.In addition, the deviation of the pixels in the U and V data is calculated as in Equation 3, Equation 4, Equation 5 and Equation 6 below.

Figure pat00005
Figure pat00005

Figure pat00006
Figure pat00006

Figure pat00007
Figure pat00007

Figure pat00008
Figure pat00008

Figure pat00009
,
Figure pat00010
,
Figure pat00011
가 얻어지면 평균
Figure pat00012
를 수학식 7를 이용하여 구한다.
Figure pat00009
,
Figure pat00010
,
Figure pat00011
Average is obtained
Figure pat00012
Is obtained using Equation 7.

Figure pat00013
Figure pat00013

또는 평균값 이외에도 화소의 최대값을 구할 수 있다.Alternatively, the maximum value of the pixel can be obtained in addition to the average value.

Figure pat00014
Figure pat00014

또는 가중치 곱의 합으로도 수학식 9와 같이 구할 수 있다.Alternatively, the sum of the weighted products may be obtained as shown in Equation 9.

Figure pat00015
Figure pat00015

여기서

Figure pat00016
이다.here
Figure pat00016
to be.

각 화소의 편차가 구해지면,

Figure pat00017
중에서 하나를 선택하여 영상의 에지맵
Figure pat00018
을 구한다.Once the deviation of each pixel is found,
Figure pat00017
Select one of the edge maps of the image
Figure pat00018
.

또한 에지는 소벨(Sobel) 에지연산, 캐니(Canny) 에지연산 등의 다양한 에지 검출 방법들이 있는데, 2차원 영상으로부터 깊이를 예측하기 위해서, 평균 필터와 에지필터를 결합한다. 이것을 만족하는 필터 M은 다음 수학식 10을 사용하였다.In addition, edges include various edge detection methods such as Sobel edge operation and Canny edge operation. An average filter and an edge filter are combined to predict depth from a 2D image. The filter M satisfying this used the following equation (10).

Figure pat00019
Figure pat00019

수학식 11의 F(i, j)는 영상 I를 필터 M으로 콘볼루션하여 얻은 결과이다.F (i, j) in Equation 11 is a result obtained by convolving the image I with the filter M.

Figure pat00020
Figure pat00020

여기서

Figure pat00021
는 콘볼루션 연산자이다. 에지맵은 수학식 12와 같이 F(i,j)의 절대값으로 표현된다.here
Figure pat00021
Is the convolution operator. The edge map is represented by the absolute value of F (i, j) as shown in Equation 12.

Figure pat00022
Figure pat00022

마지막으로 최종 에지맵 EdgeMap

Figure pat00023
와 수학식 13의 가중치곱의 합으로 얻어진다.Finally, the final edge map EdgeMap
Figure pat00023
And the sum of the weighted products of Equation (13).

Figure pat00024
Figure pat00024

이렇게 함으로써 한 개의 에지 추출 기법을 사용하는 것보다는 복합 기법들을 사용함으로써 에지의 불확실성을 줄일 수 있다.
This reduces the uncertainty of the edges by using complex techniques rather than one edge extraction technique.

3. 객체 3. Object 깊이맵Depth map 생성 produce

수학식 13에서 얻어진 에지맵을 객체의 깊이맵으로 사용하면, 에지정보의 손실, 이웃 화소들간에 에지 강도의 강약 차이로 만족스러운 깊이를 얻을 수가 없다. 이 경우 좌우입체영상을 시청하면, 눈의 피로감 등의 입체시청 저하현상이 발생한다. 이를 해결하기 위하여 에지맵을 다음과 같이 처리한다.When the edge map obtained in Equation 13 is used as the depth map of the object, satisfactory depth cannot be obtained due to the loss of edge information and the strength difference between edge intensities between neighboring pixels. In this case, when viewing the left and right stereoscopic images, stereoscopic hearing deterioration such as eye fatigue occurs. To solve this problem, the edge map is processed as follows.

먼저 에지맵을 [0, 255]로 정규화값으로 변환한다. 변환식은 수학식 14처럼 선형변환을 사용한다. EdgeMap의 최대값을

Figure pat00025
라고 하면, 에지강도 값 E는 [0, 255]의
Figure pat00026
값으로 변환한다.First, the edge map is converted to a normalized value with [0, 255]. The transformation uses a linear transformation as shown in equation (14). The maximum value of the EdgeMap
Figure pat00025
, The edge strength value E is equal to [0, 255].
Figure pat00026
Convert to a value.

Figure pat00027
Figure pat00027

모든 화소들의

Figure pat00028
값으로부터 정규화된 에지맵
Figure pat00029
이 만들어진다. 정규화 값에서 에지강도가 임계치 T보다 큰 에지맵 화소들의 평균
Figure pat00030
을 수학식 15와 같이 계산한다. 여기서 임계치 T는 여러 영상 처리를 통해 경험적으로 얻어지는 임의의 수이다.Of all the pixels
Figure pat00028
Normalized Edgemap from Values
Figure pat00029
This is made. Average of edgemap pixels whose edge intensity is greater than threshold T at normalization value
Figure pat00030
Is calculated as shown in Equation 15. The threshold T here is an arbitrary number obtained empirically through various image processing.

Figure pat00031
Figure pat00031

다음 과정에서는 이웃 화소간에 에지강도의 차이를 줄이기 위하여 먼저

Figure pat00032
보다 큰 화소에는 동일한 값
Figure pat00033
(예, 30) 을 할당하고, 아닌 화소에는 0을 할당하여, 강도가 매우 약한 화소는 무시하고, 그렇지 않은 화소로 일단 동일 에지로 판단한다. 얻어진 임계치화된 에지맵은 수학식 16에 제시된
Figure pat00034
이다. In the next step, first, to reduce the difference in edge strength between neighboring pixels,
Figure pat00032
Same value for larger pixels
Figure pat00033
(E.g., 30) is assigned and 0 is assigned to non-pixels, so that pixels with very low intensity are ignored, and pixels that are not very strong are determined as the same edge once. The obtained thresholded edgemap is presented in equation (16).
Figure pat00034
to be.

Figure pat00035
Figure pat00035

다음에

Figure pat00036
Figure pat00037
의 적절한 조합으로 객체의 깊이맵
Figure pat00038
을 만든다.Next
Figure pat00036
and
Figure pat00037
Depth map of objects with proper combination of
Figure pat00038
Make

Figure pat00039
Figure pat00039

여기서

Figure pat00040
는 입체감의 강도를 조절하는 기능을 가지고 있다.
here
Figure pat00040
Has the function of adjusting the intensity of the three-dimensional effect.

4. 좌우 4. Left and right 배경깊이맵Background Depth Map 생성 produce

전체 배경 구도를 결정하는 것은 입체감을 전달하는데, 중요한 역할을 한다. 주어진 영상에서 좌측과 우측 중 어느 곳이 앞에 있고 뒤에 있는지를 판단하고 깊이를 달리해야 하며, 이를 좌우 배경깊이맵에 의해 결정한다. 수학식 13에서 얻어진 에지맵을 활용하여 배경깊이맵을 만든다. Determining the overall background composition plays an important role in conveying three-dimensional appearance. In a given image, it is necessary to determine whether the left side and the right side are in front and behind, and have different depths, which are determined by the left and right background depth maps. A background depth map is made using the edge map obtained in Equation 13.

도 2는 크기가 W x H 인 에지맵 영상에서 좌우 배경깊이맵을 생성하는 방법을 설명하는 도면이다. 수직중심선은 j = W/2인 선인데, 수직중심선을 중심으로 좌측에 v1, v2, 우측에 v3, v4를 설정한다. 그러면, 좌측의 에지 강도(edge strength)를 다음 수학식 18에서 계산한다.FIG. 2 is a diagram for describing a method of generating left and right background depth maps in an edge map image having a size W × H. The vertical center line is j = W / 2, and sets v1, v2 on the left and v3, v4 on the right. Then, the edge strength of the left side is calculated by the following equation (18).

Figure pat00041
Figure pat00041

우측의 에지 강도는 다음 수학식 19에서 계산된다.The edge strength on the right side is calculated in the following equation (19).

Figure pat00042
Figure pat00042

여기서 min(v1) = 0, max(v2) = H/2, min(v3) = H/2, max(v4) = W이다.
Where min (v1) = 0, max (v2) = H / 2, min (v3) = H / 2, max (v4) = W.

두 개의 에지 강도로부터 좌우배경 깊이맵의 깊이 범위인 [

Figure pat00043
]를 계산한다. 최소 및 최대 깊이값은 다음과 같이 계산된다. 최대 깊이값이
Figure pat00044
이면, 최소 깊이값은 다음 수학식 20으로 결정한다.The depth range of the left and right background depth maps from the two edge intensities, [
Figure pat00043
] Is calculated. The minimum and maximum depth values are calculated as follows. Maximum depth value
Figure pat00044
In this case, the minimum depth value is determined by the following equation (20).

Figure pat00045
Figure pat00045

여기서

Figure pat00046
은 사용자가 지정할 수 있다(예를 들어 2.0, 3.0, 등등). 비율
Figure pat00047
는 다음 수학식 21과 같이 계산된다.here
Figure pat00046
Can be specified by the user (eg 2.0, 3.0, etc.). ratio
Figure pat00047
Is calculated as in Equation 21 below.

Figure pat00048
Figure pat00048

두 에지강도의 차이가 적으면, 양쪽의 깊이 차이가 없다는 것이므로, 깊이 차이값을 줄이고, 반대로 차이가 크면, 양쪽의 깊이차이가 크다는 것을 의미한다. 따라서 제안방법은 영상 내용에 따라 적절한 깊이값을 할당할 수 있는 장점이 있다. 동시에 좌측 또는 우측 중에 어느 쪽이 멀고 가까운지에 대한 정보를 저장한다.If the difference between the two edge strengths is small, there is no depth difference between the two sides, and therefore, the depth difference value is reduced, and if the difference is large, the difference between the two means a large depth difference. Therefore, the proposed method has an advantage of assigning an appropriate depth value according to the image content. At the same time, it stores information about which side is far or near.

얻어진 깊이값의 범위는 D = [

Figure pat00049
]이다. 이 범위를 도 3에서 보는 것처럼, 다음 수학식 22를 이용하여 수직선에 깊이를 할당한다. 도 3은 크기가 W x H 인 에지맵 영상에서 좌우 배경깊이맵에 깊이를 할당하는 방식을 설명하는 도면이다.The range of the obtained depth values is D = [
Figure pat00049
]to be. As shown in FIG. 3, this range is assigned to a vertical line using the following equation (22). FIG. 3 is a diagram for describing a method of allocating depth to left and right background depth maps in an edge map image having a size W × H.

Figure pat00050
Figure pat00050

여기서 j = [0, W-1]이다.
Where j = [0, W-1].

5. 상하 5. Up and down 배경깊이맵Background Depth Map 생성 produce

주어진 영상에서 상측과 하측 중 어느 곳이 앞에 있고 뒤에 있는지를 판단하고 깊이를 달리해야 하며, 이를 상하 배경깊이맵에 의해 결정한다.In a given image, it is necessary to determine whether the upper side or the lower side is in front and behind, and the depth is different, which is determined by the upper and lower background depth map.

도 4는 크기가 W x H 인 에지맵 영상에서 상하 배경깊이맵을 생성하는 방법을 설명하는 도면이다. 수평중심선은 i = H/2인 라인이데, 수평중심선을 중심으로 위로 h1, h2, 아래로 h3, h4를 설정한다. 그러면, 상단의 에지 강도를 다음 수학식 23에서 계산한다.FIG. 4 is a diagram for describing a method of generating a vertical background depth map in an edge map image having a size W × H. The horizontal center line is a line with i = H / 2, and sets h1, h2, and h3, h4 up and down about the horizontal center line. Then, the edge strength at the top is calculated in the following equation (23).

Figure pat00051
Figure pat00051

하단의 에지 강도를 다음 수학식 24에서 계산한다.The edge strength at the bottom is calculated in the following equation (24).

Figure pat00052
Figure pat00052

두 값이 결정되면, 상하 배경깊이맵의 깊이값은 다음과 같이 계산된다. 최대 깊이값이

Figure pat00053
이면, 최소 깊이값은 다음 수학식 25로 결정한다.Once the two values are determined, the depth values of the upper and lower background depth maps are calculated as follows. Maximum depth value
Figure pat00053
In this case, the minimum depth value is determined by the following equation (25).

Figure pat00054
Figure pat00054

여기서

Figure pat00055
은 사용자가 지정할 수 있다. here
Figure pat00055
Can be specified by the user.

여기서 비율

Figure pat00056
는 다음 수학식 26과 같이 계산된다.Where ratio
Figure pat00056
Is calculated as in Equation 26 below.

Figure pat00057
Figure pat00057

동시에 하단 또는 상단 중에서 어느 쪽이 가깝고 먼지를 결정한다.
At the same time, either the bottom or the top is close and determines the dust.

얻어진 깊이값의 범위는 D = [

Figure pat00058
]이다. 이 범위를 도 5에서 보는 것처럼, 다음 수학식 27을 이용하여 분할된 수평선에 깊이를 할당한다. 도 5는 크기가 W x H 인 에지맵 영상에서 상하 배경깊이맵에 깊이를 할당하는 방식을 설명하는 도면이다.The range of the obtained depth values is D = [
Figure pat00058
]to be. As shown in FIG. 5, this range is assigned the depth to the divided horizontal lines using the following equation (27). FIG. 5 is a diagram illustrating a method of allocating depth to upper and lower background depth maps in an edge map image having a size W × H.

Figure pat00059
Figure pat00059

6. 좌우/상하 6. Left / Right / Up / Down 깊이맵Depth map 통합 integrated

수학식 22와 수학식 27에 의해서 얻어진 배경 깊이값을 다음 수학식 28을 이용하여 통합한다.The background depth values obtained by the equations (22) and (27) are integrated using the following equation (28).

Figure pat00060
Figure pat00060

7. 최종 7. Final 깊이맵Depth map 생성 produce

최종적으로 깊이맵은 배경 깊이맵과 객체깊이맵의 합으로 구해진다.Finally, the depth map is obtained from the sum of the background depth map and the object depth map.

Figure pat00061
Figure pat00061

여기서

Figure pat00062
= [0, 1]을 조정하여, 객체의 입체감의 증감이 가능하다.
here
Figure pat00062
= [0, 1] can be adjusted to increase or decrease the three-dimensional effect of the object.

8. 8. 좌안용For left eye 영상,  video, 우안용Right eye 영상 생성 Create image

RGB영상과 최종 깊이맵이 구해지면, 좌안용 영상과 우안용 영상은 다음 수학식 30과 같이 계산된다. 픽셀의 변이(disparity)를 구해 영상을 좌측 및 우측으로 수평으로 이동하여 각각 좌안용 영상과 우안용 영상을 만든다.When the RGB image and the final depth map are obtained, the left eye image and the right eye image are calculated as in Equation 30 below. The disparity of the pixels is obtained and the image is moved horizontally to the left and the right to make a left eye image and a right eye image, respectively.

Figure pat00063
Figure pat00063

여기서 IL과 IR은 각각 좌안용 영상 및 우안용 영상이고, 변이 d는 다음 수학식 31을 이용하여 수학식 29의 D로부터 계산한다.Where I L and I R are the left eye image and the right eye image, respectively, and the variation d is calculated from D in Equation 29 using Equation 31 below.

Figure pat00064
Figure pat00064

여기서 τ는 최대 입체 시차이다. 영상을 변이값에 의해 이동을 하게 되면 홀이 발생한다. 이 홀들은 주변 화소값으로 채우게 된다.
Where τ is the maximum stereo parallax. When the image is moved by the shift value, a hole occurs. These holes are filled with the surrounding pixel values.

깊이맵에서 D의 범위는 일반적으로 [0, 255]이다. 이것을 변이 d로 변환하는데, 각 픽셀은 해당 d값에 따라 좌영상은 좌측으로, 우영상에서는 우측으로 이동한다. 따라서 좌영상과 우영상에서 발생할 수 있는 최대 시차값은 2d 가 됩니다.
The range of D in the depth map is typically [0, 255]. This is transformed into a variation d. Each pixel moves to the left in the left image and to the right in the right image according to the corresponding d value. Therefore, the maximum parallax that can occur in the left and right images is 2d.

9. 9. 홀화소Hall pixel 채우기( Fill ( HoleHole pixelpixel fillingfilling ))

영상을 좌우로 이동하게 되면 비어있는 홀(hole) 화소가 발생한다. 홀 화소들은 도 6과 같이 채워지며 이를 홀 필링(filling)이라고 한다. 도 6은 영상의 좌우 이동에 따라 발생하는 홀 화소를 채우는 방법을 설명하는 설명도이다. 홀 필링은 주변화소들의 평균값을 일반적으로 사용하고 있으나, 보간(interpolation)기법을 이용하여 개선된 화질을 얻을 수 있다.When the image is moved left and right, empty hole pixels are generated. The hole pixels are filled as shown in FIG. 6, which is called hole filling. FIG. 6 is an explanatory diagram for explaining a method of filling a hole pixel generated according to left and right movement of an image. Hole filling generally uses an average value of neighboring pixels, but an improved image quality can be obtained by using an interpolation technique.

비어있는 홀 화소들이

Figure pat00065
이면, 동일 스캔라인에서 N개의 화소를 탐색한다. 영상의 각 화소를 수학식 31의 변위값으로 이동하게 되면, 변위값이 큰 화소는 상대적으로 멀리 보이게 되는데, 변위값이 작은 화소의 이동에서 홀이 발생하게 된다. 도 7은 홀 화소가 발생한 경우, 홀 화소를 채우는 방법을 설명하는 흐름도이다. 도 7에 도시된 바와 같이 홀 화소가 L개 발생하면(ST700), 변이 값이 큰 화소가 있는 방향으로 연속적으로 화소들의 편차를 구한다(ST710). 구한 편차값이 임계치 P보다 작거나 동일할 때까지 탐색한다. 탐색한 화소들
Figure pat00066
의 개수가 N이면, N개의 화소로 L개의 홀 화소
Figure pat00067
들을 보간법으로 채운다. 먼저 수학식 32와 같이 신축비율(Scale factor)을 구한다.
Empty hole pixels
Figure pat00065
In this case, N pixels are searched in the same scan line. When each pixel of the image is moved to the displacement value of Equation 31, a pixel having a large displacement value is relatively far away, and a hole is generated in the movement of the pixel having a small displacement value. 7 is a flowchart illustrating a method of filling a hall pixel when the hall pixel is generated. As shown in FIG. 7, when L Hall pixels are generated (ST700), deviations of the pixels are continuously calculated in a direction in which the pixel having a large disparity value exists (ST710). Search until the deviation value is less than or equal to the threshold P. Searched pixels
Figure pat00066
If the number of is N, L pixels
Figure pat00067
Fill them with interpolation. First, a scaling factor is obtained as shown in Equation 32.

Figure pat00068
Figure pat00068

신축비율을 구한 다음 수학식 33의 역변환을 이용하여 화소값을 가져온다.After the expansion ratio is obtained, pixel values are obtained by using an inverse transformation of Equation 33.

Figure pat00069
Figure pat00069

10. 최종 10. Final 좌안용For left eye 영상 및 최종  Visual and final 우안용Right eye 영상 생성 Create image

홀 필링이 완료된 좌안용 영상과 우안용 영상이 만들어지면, 3D 디스플레이의 전송 포맷에 적합하게 Top-bottom, Side by Side, Vertical Interleaving, Interlaced 포맷으로 변환하여 전송하면 된다.
When the left eye image and the right eye image are completed, the hole filling is completed, and then converted into Top-bottom, Side by Side, Vertical Interleaving, and Interlaced formats for transmission format of 3D display.

11. 보완 에지맵 생성 단계11. Generation of Complementary Edgemaps

이하에서는 도 1의 보완 에지맵 생성 단계(ST115)에 대해 설명하기로 한다. 보완 에지맵은 도 1의 ST110 단계에서 생성된 에지맵을 움직이는 객체 정보를 이용하여 좀더 정확하게 보완하기 위한 단계이다.Hereinafter, the complementary edge map generation step ST115 of FIG. 1 will be described. The complementary edge map is a step for more accurately supplementing the edge map generated in step ST110 of FIG. 1 using moving object information.

11-1. 운동벡터 계산(ST807)11-1. Motion vector calculation (ST807)

이전 luma 영상 Yk-1와 현재 luma Yk로부터 NxN 블록의 운동벡터를 구하기 위해서 블록 기반 운동예측 (block based motion estimation)을 사용하는데, 속도개선을 위해서 다음의 운동예측 기법을 사용한다. 이 방법은 x축으로 좌우이동을 하면서 최소 에러를 주는 매칭블록 (matching block)을 찾고, 또한 y축으로 상하이동을 하면서 매칭블록을 찾는 기법이다. 운동벡터

Figure pat00070
는 수학식 34로 표현된다.Block-based motion estimation is used to obtain the motion vectors of NxN blocks from the previous luma image Yk-1 and the current luma Yk, and the following motion prediction technique is used to improve the speed. This method finds a matching block that gives the least error while moving left and right on the x axis, and also finds a matching block while moving on the y axis. Exercise vector
Figure pat00070
Is represented by equation (34).

Figure pat00071
Figure pat00071

Figure pat00072
Figure pat00072

여기서

Figure pat00073
은 현재 영상이 휘도값이고,
Figure pat00074
는 이전 영상의 휘도값이다. 또한 운동벡터의 방향
Figure pat00075
는 수학식 35에서 계산된다.here
Figure pat00073
Is the luminance value of the current video,
Figure pat00074
Is the luminance value of the previous image. Also the direction of the motion vector
Figure pat00075
Is calculated in equation (35).

Figure pat00076
Figure pat00076

Figure pat00077
의 범의는 [
Figure pat00078
] 이다.
Figure pat00077
The offense of the [
Figure pat00078
] to be.

11-2. 비에지 픽셀 찾기11-2. Find non-edge pixels

에지맵이 주어지면, 에지 강도(edge strength)가 임계값 (threshold) T 보다 작은 픽셀은 수학식 36과 같이 비에지 픽셀로 분류하고, 아니면 에지 픽셀로 분류한다.Given an edge map, pixels whose edge strength is less than the threshold T are classified as non-edge pixels as shown in Equation 36, or as edge pixels.

Figure pat00079
Figure pat00079

11-3. 비에지 픽셀의 블록 위치 계산11-3. Calculate block position of non-edge pixels

도 8은 비에지 픽셀의 블록 위치를 계산하는 방식을 도식화한 것이다. 비에지 픽셀이면 이 픽셀이 속해 있는 블록을 계산한다. 블록크기가 NxN 이고, 비에지 픽셀의 좌표값이 (

Figure pat00080
)이면, 블록의 상좌(top-left) 좌표값은 수학식 37에서 계산된다.8 is a diagram illustrating a method of calculating block positions of non-edge pixels. If it is a non-edge pixel, the block to which it belongs is calculated. The block size is NxN, and the coordinate value of the non-edge pixel is (
Figure pat00080
), The top-left coordinate value of the block is calculated in equation (37).

Figure pat00081
Figure pat00081

11-4. 탐색윈도우 (Search Window) 결정11-4. Determining the Search Window

탐색하는 주변 블록의 개수를 결정한다. 도 10은 현재 블록에 해당하는 탐색윈도우 크기를 설정하는 것을 설명하는 설명도이다. 탐색윈도우의 크기가 K이면, 좌우상하로

Figure pat00082
개의 블록을 탐색하게 된다. 도 9는 현재 블록에서 탐색 윈도우의 범위를 결정하는 설명도이다.
Determine the number of neighboring blocks to search. FIG. 10 is an explanatory diagram illustrating setting a search window size corresponding to a current block. If the size of the search window is K,
Figure pat00082
Will be searched for blocks. 9 is an explanatory diagram for determining a range of a search window in the current block.

11-5. 최소 유사성 블록 찾음11-5. Minimum similarity block found

유사성 함수는 현재 블록과 k번째 블록에서 수학식 38에서 정의된다.The similarity function is defined in Equation 38 in the current block and the k-th block.

Figure pat00083
Figure pat00083

여기서 k는 주변 탐색 블록의 번호이다.

Figure pat00084
는 홀 픽셀 블록의 운동벡터이고,
Figure pat00085
는 k번째 블록의 운동블록이다. 수학식 38의 함수에서 최소 S를 주는 블록을 수학식 39에 의해 찾는다.Where k is the number of neighboring search blocks.
Figure pat00084
Is the motion vector of the Hall pixel block,
Figure pat00085
Is the motion block of the k-th block. The block giving the minimum S in the function of equation 38 is found by equation 39.

Figure pat00086
Figure pat00086

11-6. 최소 유사성 블록의 에지 값의 평균 계산11-6. Calculate the average of the edge values in the least similarity block

블록을 찾으면 이 블록에 있는 에지픽셀의 평균값을 수학식 40에서 계산한다.When the block is found, the average value of the edge pixels in the block is calculated in Equation 40.

Figure pat00087
Figure pat00087

여기서 식 (3)에서 얻어진 에지 픽셀만의 평균이다.

Figure pat00088
는 블록
Figure pat00089
안에 있는 에지픽셀이다.
Here, it is the average of only the edge pixel obtained by Formula (3).
Figure pat00088
Block
Figure pat00089
Edge pixels inside.

11-7. 비에지 픽셀 채움 (filling)11-7. Non-Edge Pixel Filling

홀픽셀을

Figure pat00090
값으로 채운다.
Hole pixels
Figure pat00090
Fill it with a value.

도 1에 설명된 처리 흐름은 하드웨어적으로 처리하거나 또는 소프트웨어적으로 처리할 수 있음은 물론이며, 다양한 장치에서 본 발명의 처리 기술을 사용할 수 있다. 본 발명의 변환 기술을 적용하는 장치의 일 예로는 2차원 영상을 수신하는 텔레비젼 수상기에서 이를 스테레오 영상으로 변환하여 시청자에게 제공하는 장치를 들 수 있다. 도 11은 텔레비젼과 같은 영상표시장치에 본 발명을 적용하는 일부 구성도를 보여주는 것으로서, 영상표시장치는 프레임버퍼부(10), FRC(Frame Rate Conversion)부(20), 및 디스플레이부(30)를 포함한다.The processing flow described in FIG. 1 can be processed in hardware or software, as well as the processing techniques of the present invention in various devices. An example of a device to which the conversion technology of the present invention is applied may be a device for converting a stereoscopic image into a stereo image in a television receiver receiving a 2D image and providing the same to a viewer. FIG. 11 is a view illustrating some components of the present invention applied to an image display apparatus such as a television. The image display apparatus includes a frame buffer unit 10, a frame rate conversion unit (FRC) unit 20, and a display unit 30. It includes.

프레임버퍼부(10)에는 영상신호가 일시적으로 저장되며, FRC부(20)로 소정 프레임레이트로 영상신호를 출력한다. FRC부(20)는 영상신호의 프레임레이트를 디스플레이부(30)에서 표시가능한 프레임 레이트로 변환한다. 그러면, 디스플레이부(30)는 영상신호를 신호처리하여 화면에 표시한다.The video signal is temporarily stored in the frame buffer unit 10 and outputs the video signal to the FRC unit 20 at a predetermined frame rate. The FRC unit 20 converts the frame rate of the video signal into a frame rate displayable on the display unit 30. Then, the display unit 30 processes the video signal and displays it on the screen.

여기서, FRC부(30)는 움직임 저더를 제거하기 위해, 입력되는 영상신호의 프레임레이트를 변환하여 출력하게된다. 즉, 입력 영상신호의 프레임레이트가 15Hz인 경우 30Hz로 변환하여 출력하고, 30Hz인 경우 60Hz로 변환하여 출력하고, 50Hz인 경우 100Hz로 변환하여 출력하고, 60Hz인 경우 120Hz로 변환하여 출력하게 된다. 이때, 움직임 추정을 통해 보정된 프레임을 원래의 프레임에 추가함으로써, 입력 영상신호의 프레임레이트를 두 배로 변환하여 출력할 수 있다.Here, the FRC unit 30 converts and outputs the frame rate of the input video signal to remove the motion judder. That is, when the frame rate of the input video signal is 15Hz, the frame rate is converted to 30Hz, and when 30Hz is converted to 60Hz, and when 50Hz is converted to 100Hz, and when 60Hz, 120Hz is converted and output. In this case, by adding the frame corrected by the motion estimation to the original frame, the frame rate of the input video signal can be doubled and output.

또한 프레임레이트부(20)에서는 프레임버퍼부(10)로부터 입력되는 2차원 영상에 도 1의 ST100 내지 ST180 단계를 수행하여 좌안용 영상과 우안용 영상을 생성하도록 하였다. 또는 프레임버퍼부(10)와 프레임레이트부(20) 사이에 2D 영상을 3D 영상으로 변환하는 2D 3D 변환부(50)를 별도로 구비할 수 있도록 할 수도 있다.In addition, the frame rate unit 20 performs the steps ST100 to ST180 of FIG. 1 on the two-dimensional image input from the frame buffer unit 10 to generate the left eye image and the right eye image. Alternatively, a 2D 3D converter 50 for converting a 2D image into a 3D image may be separately provided between the frame buffer unit 10 and the frame rate unit 20.

그리고, FRC부(30)는 입력되는 영상신호의 프레임레이트가 입력 영상신호의 전송방식에 따라 다른 경우에도 디스플레이부(70)의 표시방식에 대응하는 프레임레이트로 변환하여 출력한다. 즉, PAL(Phase Alternation by Line system)방식으로 입력되는 50Hz의 영상신호나 SECAM(Sequential Couleur a Memoire)방식으로 입력되는 24Hz의 영상신호를 디스플레이부(70)의 표시방식에 대응하는 NTSC(National Television System Committee)방식의 60Hz의 영상신호로 변환하여 출력한다.
The FRC unit 30 converts and outputs the frame rate corresponding to the display method of the display unit 70 even when the frame rate of the input video signal is different depending on the transmission method of the input video signal. That is, NTSC (National Television) corresponding to the display method of the display unit 70 may be used to output a 50 Hz video signal input by a PAL (Phase Alternation by Line system) method or a 24 Hz video signal input by a Sequential Couleur a Memoire (SECAM) method. It converts to 60Hz video signal of System Committee type and outputs it.

지금까지 설명한 바와는 달리 영상 송신부에서 송신하는 영상 신호의 포맷을 변경할 경우 수신 장치에서는 보다 용이하게 삼차원 영상을 제공할 수 있다. 이차원 영상을 구성하는 화소 데이터 일부를 입체 정보인 깊이 데이터로 대체하고 이차원 영상으로 전송하고 수신된 깊이 정보를 사용하여 삼차원 영상으로 디스플레이 하도록 하는 것이다.Unlike the above description, when the format of the video signal transmitted by the video transmitter is changed, the receiver may more easily provide a 3D image. A portion of the pixel data constituting the two-dimensional image is replaced with depth data, which is stereoscopic information, transmitted as the two-dimensional image, and displayed as a three-dimensional image using the received depth information.

이차원 영상은 일반적으로 RGB 각 8비트씩 총 24비트로 된 이루어진 연속된 화소로써 구성된다. 24비트로 구성된 화소에서 하위 비트 일부에 영상 정보 대신 입체 정보인 깊이 데이터를 넣어 전달한 후 화면에 영상을 표시할 때, 깊이 정보로 사용하여 삼차원 영상 화면을 구성할 수 있다. 이러한 기능을 사용하면 2D 3D 변환 기능의 한계를 극복할 수 있고, 사용자 임의의 입체 화면을 수월하게 만들 수 있다.The two-dimensional image is generally composed of a series of pixels consisting of a total of 24 bits, each 8 bits RGB. When displaying an image on the screen after transferring the depth data instead of the image information into a part of the lower bits in the 24-bit pixel, the three-dimensional image screen may be used as the depth information. This feature overcomes the limitations of 2D 3D conversion and makes it easy for users to create stereoscopic images.

도 12는 새로운 삼차원 영상 포맷을 설명하는 설명도이다. (a)에 도시된 바와 같이 이차원 화면을 시청할 경우에는 화소당 24비트를 사용하여 이차원 이미지를 전송하고, 삼차원 영상을 전송할 경우에는 (b)에 도시된 바와 같이 화소당 20비트에는 이차원 영상을 송부하고 나머지 네 개의 비트에는 깊이 정보를 전송하는 것이다. 도 12(b)에 제시된 포맷의 삼차원 영상을 전송받을 경우에는 (1) 수신된 영상 데이터에서 이차원 영상 데이터와 깊이 데이터 분리하고, (2) 깊이 데이터를 이용하여 수신된 이차원 영상 데이터를 좌안용 영상과 우안용 영상으로 생성하는 단계가 필요하다.
12 is an explanatory diagram for explaining a new three-dimensional image format. As shown in (a), when viewing a two-dimensional screen, a two-dimensional image is transmitted using 24 bits per pixel, and when a three-dimensional image is transmitted, a two-dimensional image is sent to 20 bits per pixel as shown in (b). The remaining four bits transmit depth information. When receiving the 3D image in the format shown in FIG. 12 (b), (1) the 2D image data and the depth data are separated from the received image data, and (2) the received 2D image data using the depth data for the left eye image. It is necessary to generate a right eye image.

상기에서 본 발명의 바람직한 실시예가 특정 용어들을 사용하여 설명 및 도시되었지만 그러한 용어는 오로지 본 발명을 명확히 설명하기 위한 것일 뿐이며, 본 발명의 실시예 및 기술된 용어는 다음의 청구범위의 기술적 사상 및 범위로부터 이탈되지 않고서 여러가지 변경 및 변화가 가해질 수 있는 것은 자명한 일이다.While the preferred embodiments of the present invention have been described and illustrated using specific terms, such terms are only for clarity of the present invention, and the embodiments and the described terms of the present invention are defined and the technical spirit and scope of the following claims. It is obvious that various changes and changes can be made without departing from the scope.

Claims (8)

2차원 RGB 영상을 스테레오 영상으로 변환하는 방법에 있어서,
상기 2차원 RGB 영상을 2차원 YUV 영상으로 변환하는 제 1단계;
상기 2차원 YUV 영상으로부터 에지맵을 생성하는 제 2단계;
상기 에지맵을 움직임을 보상하여 보완된 에지맵을 생성하는 제 3단계;
상기 보완된 에지맵을 이용하여 객체 깊이맵과 배경 깊이맵을 각각 생성한 후, 상기 객체 깊이맵과 상기 배경 깊이맵을 통합하여 최종 깊이맵을 생성하는 제 4단계;
상기 최종 깊이맵을 이용하여 상기 2차원 RGB 영상을 수평 방향으로 이동시켜 좌안용 영상과 우안용 영상을 획득하는 제 5단계; 및
상기 제 4단계에서 발생되는 빈 홀 화소를 주위 화소값을 이용하여 채우는 제 6단계를 포함하는 것을 특징으로 하는 2차원 영상을 스테레오 영상으로 변환하는 방법.
In the method for converting a two-dimensional RGB image to a stereo image,
A first step of converting the two-dimensional RGB image into a two-dimensional YUV image;
A second step of generating an edge map from the two-dimensional YUV image;
Generating a complementary edge map by compensating for the edge map movement;
A fourth step of generating an object depth map and a background depth map by using the complementary edge map, and then generating a final depth map by integrating the object depth map and the background depth map;
A fifth step of obtaining a left eye image and a right eye image by moving the 2D RGB image in a horizontal direction by using the final depth map; And
And a sixth step of filling the empty hole pixels generated in the fourth step using surrounding pixel values.
제 1항에 있어서,
상기 제 3단계의 보완된 에지맵은 블록 기반 운동예측을 이용하여 수행되는 것을 특징으로 하는 2차원 영상을 스테레오 영상으로 변환하는 방법.
The method of claim 1,
Complementary edge map of the third step is a method for converting a two-dimensional image to a stereo image, characterized in that performed using block-based motion prediction.
제 2항에 있어서,
상기 2단계가 주변 블록 화소들의 Y, U, 및 V에 대한 각각의 편차를 구하고, 각 편차의 평균값, 편차의 최대값 및 가중치 곱 중에서 선택된 어느 하나를 이용하여 에지맵
Figure pat00091
을 생성하는 것을 특징으로 하는 2차원 영상을 스테레오 영상으로 변환하는 방법.
The method of claim 2,
The second step calculates respective deviations of Y, U, and V of neighboring block pixels, and uses an edge map using any one selected from the mean value, the maximum value of the deviations, and the weighted product.
Figure pat00091
Method for converting a two-dimensional image to a stereo image, characterized in that for generating a.
제 3항에 있어서,
상기 에지맵
Figure pat00092

(1) 주변 블록 화소들의 Y, U, 및 V에 대한 각각의 편차를 구하고, 각 편차의 평균값, 편차의 최대값 및 가중치 곱 중에서 선택된 어느 하나를 이용하여 생성되는 에지맵
Figure pat00093
와,
(2) 상기 이차원 영상 I(i,j)를 아래 수학식의 필터로 콘볼루션한 결과의 절대값으로 표현되는 에지맵
Figure pat00094

의 가중치 합으로 생성되는 것을 특징으로 하는 2차원 영상을 스테레오 영상으로 변환하는 방법.
수학식
Figure pat00095

The method of claim 3,
The edge map
Figure pat00092
silver
(1) An edge map generated by using each selected deviation of Y, U, and V of neighboring block pixels, and using any one selected from an average value of each deviation, a maximum value of the deviations, and a weighted product.
Figure pat00093
Wow,
(2) an edge map expressed as an absolute value of a result of convolution of the two-dimensional image I (i, j) with a filter of the following equation
Figure pat00094

Method for converting a two-dimensional image to a stereo image, characterized in that generated by the weighted sum of.
Equation
Figure pat00095

제 3항 또는 제 4항에 있어서,
상기 제 4단계의 객체 깊이맵 생성은
상기 에지맵
Figure pat00096
으로부터 정규화된 에지맵
Figure pat00097
을 생성하는 제 3-1 단계;
임계치 T보다 큰 에지맵 화소들의 평균
Figure pat00098
를 계산하고,
Figure pat00099
보다 큰 화소에는 동일값(K)을 할당하고, 같거나 작은 화소에는 0을 할당하여 임계치화된 에지맵
Figure pat00100
를 생성하는 제 3-2 단계; 및
상기 정규화된 에지맵
Figure pat00101
과 상기 임계치화된 에지맵
Figure pat00102
의 가중치 합으로 객체 깊이맵을 생성하는 것을 특징으로 하는 2차원 영상을 스테레오 영상으로 변환하는 방법.
The method according to claim 3 or 4,
The object depth map generation of the fourth step
The edge map
Figure pat00096
Normalized edge map from
Figure pat00097
Generating a 3-1 step;
Average of Edgemap Pixels Above Threshold T
Figure pat00098
And calculate
Figure pat00099
Edge map that is thresholded by assigning the same value (K) to larger pixels and assigning zeros to equal or smaller pixels
Figure pat00100
Generating a 3-2 step; And
The normalized edgemap
Figure pat00101
And the thresholded edgemap
Figure pat00102
A method for converting a 2D image into a stereo image, characterized in that to generate an object depth map by the weighted sum of.
제 2항에 있어서,
상기 제 4단계에서 상기 좌우 배경깊이맵 생성은 에지맵을 수직 이등분을 기준으로 분할한 후, 분할된 좌측에 위치하는 화소의 에지맵 합과, 분할된 우측에 위치하는 화소의 에지맵 합의 차이값을 이용하여 생성하는 것을 특징으로 하는 2차원 영상을 스테레오 영상으로 변환하는 방법.
The method of claim 2,
In the fourth step, the left and right background depth maps are generated by dividing an edge map based on vertical bisectors, and then a difference value between sums of edge maps of pixels located on the left and divided edge maps of pixels located on the divided right. Method for converting a two-dimensional image to a stereo image, characterized in that for generating using.
제 2항에 있어서,
상기 제 4단계에서 상기 상하 배경깊이맵 생성은 에지맵을 수평 이등분을 기준으로 분할한 후, 분할된 상측에 위치하는 화소의 에지맵 합과, 분할된 하측에 위치하는 화소의 에지맵 합의 차이값을 이용하여 생성하는 것을 특징으로 하는 2차원 영상을 스테레오 영상으로 변환하는 방법.
The method of claim 2,
In the fourth step, the top and bottom background depth maps are generated by dividing an edge map based on horizontal bisectors, and then a difference value between sums of edge maps of the pixels located above the divided pixels and edge map sums of the pixels located below the divided pixels. Method for converting a two-dimensional image to a stereo image, characterized in that for generating using.
제 2항에 있어서,
상기 제 5단계의 상기 2차원 RGB 영상을 수평 방향으로 이동시키는 량은 최대 입체 시차와 깊이맵에 대한 함수의 곱으로 결정되는 것을 특징으로 하는 2차원 영상을 스테레오 영상으로 변환하는 방법.
The method of claim 2,
And the amount of shifting the two-dimensional RGB image in the horizontal direction in the fifth step is determined as a product of a maximum stereo parallax and a function of the depth map.
KR1020100135244A 2010-12-27 2010-12-27 Method for converting 2 dimensional video image into stereoscopic video KR101336956B1 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020100135244A KR101336956B1 (en) 2010-12-27 2010-12-27 Method for converting 2 dimensional video image into stereoscopic video
PCT/KR2011/008185 WO2012091273A1 (en) 2010-12-27 2011-10-31 Method for converting two-dimensional image to stereo image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020100135244A KR101336956B1 (en) 2010-12-27 2010-12-27 Method for converting 2 dimensional video image into stereoscopic video

Publications (2)

Publication Number Publication Date
KR20120073466A true KR20120073466A (en) 2012-07-05
KR101336956B1 KR101336956B1 (en) 2013-12-04

Family

ID=46383316

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020100135244A KR101336956B1 (en) 2010-12-27 2010-12-27 Method for converting 2 dimensional video image into stereoscopic video

Country Status (2)

Country Link
KR (1) KR101336956B1 (en)
WO (1) WO2012091273A1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180051241A (en) * 2016-11-08 2018-05-16 한국전자통신연구원 Method and system for stereo matching by using rectangular window

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11531842B2 (en) 2020-05-20 2022-12-20 Toyota Research Institute, Inc. Invertible depth network for image reconstruction and domain transfers
CN116193095A (en) * 2023-01-18 2023-05-30 四川大学 Method for realizing color 3D display based on monochromatic image

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100322727B1 (en) * 1995-10-24 2002-06-20 윤종용 Method and system for converting two-dimensional/stereo images
WO2005013623A1 (en) * 2003-08-05 2005-02-10 Koninklijke Philips Electronics N.V. Multi-view image generation
KR100757259B1 (en) * 2004-10-25 2007-09-11 전자부품연구원 2d/3d converting method of compressed motion pictures using motion vectors therein, and device thereby
KR100927734B1 (en) * 2006-12-05 2009-11-18 한국전자통신연구원 Multi-view image generating device and method
KR20090054835A (en) * 2007-11-27 2009-06-01 삼성전자주식회사 The method for processing 3-dimensional image and the apparatus thereof

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180051241A (en) * 2016-11-08 2018-05-16 한국전자통신연구원 Method and system for stereo matching by using rectangular window

Also Published As

Publication number Publication date
KR101336956B1 (en) 2013-12-04
WO2012091273A1 (en) 2012-07-05

Similar Documents

Publication Publication Date Title
KR101185870B1 (en) Apparatus and method for processing 3 dimensional picture
KR101385514B1 (en) Method And Apparatus for Transforming Stereoscopic Image by Using Depth Map Information
US7254265B2 (en) Methods and systems for 2D/3D image conversion and optimization
EP2299726B1 (en) Video communication method, apparatus and system
RU2519433C2 (en) Method and system for processing input three-dimensional video signal
KR100720722B1 (en) Intermediate vector interpolation method and 3D display apparatus
JP2014103689A (en) Method and apparatus for correcting errors in three-dimensional images
Po et al. Automatic 2D-to-3D video conversion technique based on depth-from-motion and color segmentation
CN105681777A (en) Glasses-free 3D display method and system
KR20130137000A (en) Image processing device, image processing method, and program
US20140085435A1 (en) Automatic conversion of a stereoscopic image in order to allow a simultaneous stereoscopic and monoscopic display of said image
CN102547350B (en) Method for synthesizing virtual viewpoints based on gradient optical flow algorithm and three-dimensional display device
KR20120055991A (en) Image processing apparatus and control method thereof
EP2326096A2 (en) 3D Image Display Apparatus and Display Method
US9723290B2 (en) Method for generating, transmitting and receiving stereoscopic images and relating devices
KR101336956B1 (en) Method for converting 2 dimensional video image into stereoscopic video
KR20120004203A (en) Method and apparatus for displaying
JP4214529B2 (en) Depth signal generation device, depth signal generation program, pseudo stereoscopic image generation device, and pseudo stereoscopic image generation program
KR101302431B1 (en) Method for converting 2 dimensional video image into stereoscopic video
KR101207862B1 (en) Method for converting 2 dimensional video image into stereoscopic video
JP2014072809A (en) Image generation apparatus, image generation method, and program for the image generation apparatus
KR100372177B1 (en) Method for converting 2 dimension image contents into 3 dimension image contents
CN103379350A (en) Virtual viewpoint image post-processing method
WO2012175386A1 (en) Method for reducing the size of a stereoscopic image
Lü et al. Virtual view synthesis for multi-view 3D display

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
LAPS Lapse due to unpaid annual fee