KR102045563B1 - 멀티뷰 영상 생성방법과 이를 이용한 입체영상 표시장치 - Google Patents

Abstract

본 발명은 멀티뷰 영상 생성방법과 이를 이용한 입체영상 표시장치에 관한 것이다. 본 발명의 실시 예에 따른 멀티뷰 영상 생성 방법은 제N-1(N은 2 이상의 자연수) 프레임의 디스패러티들, 좌안 영상 데이터 및 우안 영상 데이터를 분석하여 게인 값을 산출하는 제1 단계; 상기 게인 값과 제N 프레임의 좌안 영상 데이터와 우안 영상 데이터를 이용하여 디스패러티들을 산출하는 제2 단계; 및 상기 제N 프레임의 좌안 영상 데이터 또는 우안 영상 데이터를 상기 디스패러티들에 따라 쉬프트시켜 멀티뷰 영상 데이터를 생성하는 제3 단계를 포함한다.

Description

멀티뷰 영상 생성방법과 이를 이용한 입체영상 표시장치{MULTIVIEW IMAGE GENERATION METHOD AND STEREOSCOPIC IMAGE DISPLAY DEVICE}

본 발명은 멀티뷰 영상 생성방법과 이를 이용한 입체영상 표시장치에 관한 것이다.

입체영상 표시장치는 양안시차방식(stereoscopic technique)과 복합시차지각방식(autostereoscopic technique)으로 나뉘어진다. 양안시차방식은 입체 효과가 큰 좌우 눈의 시차 영상을 이용하며, 안경방식과 무안경방식이 있고 두 방식 모두 실용화되고 있다. 안경방식은 직시형 표시소자나 프로젝터에 좌우 시차 영상의 편광 방향을 바꿔서 표시하고 편광 안경을 사용하여 입체영상을 구현하는 패턴 리타더 방식이 있다. 또한, 안경방식은 직시형 표시소자나 프로젝터에 좌우 시차 영상을 시분할하여 표시하고 액정셔터안경을 사용하여 입체영상을 구현하는 셔터안경 방식이 있다. 무안경 방식은 일반적으로 패럴렉스 베리어, 렌티큘러 렌즈 등의 광학판을 사용하여 좌우시차 영상의 광축을 분리하여 입체영상을 구현한다.

사용자가 셔터안경이나 편광안경을 착용하지 않고 입체영상을 시청할 수 있는 편의성으로 인해, 무안경 방식은 최근에 스마트폰(smart phone), 태블릿(tablet), 및 노트북(notebook) 등의 중소형 디스플레이에 많이 적용되고 있다. 무안경 방식은 3D 크로스토크(crosstalk)를 줄이기 위해 광학판을 이용하여 k(k는 3 이상의 자연수) 개의 뷰 영상들을 포함하는 멀티뷰 영상을 k 개의 뷰 영역들에 표시함으로써 입체영상을 구현한다. 3D 크로스토크는 복수 개의 뷰 영상들이 사용자에게 겹쳐보이는 것을 의미하며, 3D 크로스토크로 인해 입체영상의 품질이 낮아지게 된다.

멀티뷰 영상은 일반인의 양안 간격만큼 k 개의 카메라를 이격하고 객체에 대한 이미지를 촬영함으로써 생성될 수 있다. 하지만, 멀티뷰 영상은 비디오 컨텐츠로 제작하기 쉽지 않을 뿐만 아니라 비디오 컨텐츠로 제작하기 위한 단가가 높기 때문에, 멀티뷰 영상으로 구현된 비디오 컨텐츠는 많이 부족한 실정이다. 따라서, 좌안 영상과 우안 영상(또는 2 개의 뷰 영상들)을 포함하는 3D 영상을 이용하여 멀티뷰 영상을 생성하는 방법이 많이 이용되고 있다.

3D 영상을 이용한 멀티뷰 영상 생성 방법은 좌안 영상과 우안 영상을 분석하여 디스패러티(diparity)들을 산출한다. 디스패러티는 입체감을 형성하기 위해 좌안 영상과 우안 영상을 쉬프트시키기 위한 값을 의미한다.

도 1a는 좌안 영상과 좌안 영상보다 밝은 우안 영상으로부터 산출된 디스패러티 영상을 보여주는 일 예시도면이고, 도 1b는 좌안 영상과 좌안 영상과 밝기가 실질적으로 동일한 우안 영상으로부터 산출된 디스패러티 영상을 보여주는 일 예시도면이다. 도 1a 및 도 1b에 도시된 디스패러티 영상(DI)은 디스패러티들을 256 계조값으로 정규화하여 표시한 영상이다.

종래 디스패러티 산출방법은 좌안 영상(LI)과 우안 영상(RI) 간의 밝기 또는 색상 차이를 반영하지 못하기 때문에, 좌안 영상(LI)과 우안 영상(RI) 간의 밝기 또는 색상에 차이가 있는 경우 도 1a와 같이 디스패러티들이 부정확하게 산출되는 문제가 있다. 좌안 영상(LI)과 우안 영상(RI) 간의 밝기 또는 색상 차이는 촬영 카메라의 CMOS 센서의 특성으로 인해 색좌표가 달라지는 경우에 발생할 수 있으며, 또는 촬영시 노출 조건 차이에 의해 발생할 수도 있다.

본 발명은 좌안 영상과 우안 영상 간의 밝기 또는 색상에 차이가 있는 경우에도 디스패러티들을 정확하게 산출할 수 있는 디스패러티 산출방법과 입체영상 표시장치를 제공한다.

본 발명의 실시 예에 따른 멀티뷰 영상 생성 방법은 제N-1(N은 2 이상의 자연수) 프레임의 디스패러티들, 좌안 영상 데이터 및 우안 영상 데이터를 분석하여 게인 값을 산출하는 제1 단계; 상기 게인 값과 제N 프레임의 좌안 영상 데이터와 우안 영상 데이터를 이용하여 디스패러티들을 산출하는 제2 단계; 및 상기 제N 프레임의 좌안 영상 데이터 또는 우안 영상 데이터를 상기 디스패러티들에 따라 쉬프트시켜 멀티뷰 영상 데이터를 생성하는 제3 단계를 포함한다.

본 발명의 실시 예에 따른 입체영상 표시장치는 데이터 라인들과 게이트 라인들을 포함하는 표시패널; 좌안 영상 데이터와 우안 영상 데이터를 포함하는 3D 영상 데이터로부터 디스패러티들을 산출하는 디스패러티 산출부와 상기 디스패러티들에 따라 상기 좌안 영상 데이터 또는 상기 우안 영상 데이터를 쉬프트시켜 멀티뷰 영상 데이터를 생성하는 멀티뷰 영상 생성부를 포함하는 영상처리부; 상기 멀티뷰 영상 데이터를 데이터 전압으로 변환하여 상기 데이터 라인들에 공급하는 데이터 구동회로; 및 상기 게이트 라인들에 게이트 펄스를 순차적으로 공급하는 게이트 구동회로를 구비하고, 상기 디스패러티 산출부는, 제N-1(N은 2 이상의 자연수) 프레임의 디스패러티들, 좌안 영상 데이터 및 우안 영상 데이터를 분석하여 게인 값들 산출하는 게인 값 산출부; 및 상기 게인 값과 제N 프레임의 좌안 영상 데이터와 우안 영상 데이터를 이용하여 디스패러티들을 산출하는 디스패러티 산출부를 포함하는 것을 특징으로 한다.

본 발명은 좌안 영상과 우안 영상 간의 밝기 또는 색상 차이가 클수록 게인 값을 크게 산출하며, 이러한 게인 값을 반영하여 디스패러티들을 산출한다. 그 결과, 본 발명은 좌안 영상과 우안 영상 간의 밝기 또는 색상 차이가 큰 경우에도 디스패러티들을 정확하게 산출할 수 있다.

도 1a는 좌안 영상과 좌안 영상보다 밝은 우안 영상으로부터 산출된 디스패러티 영상을 보여주는 일 예시도면.
도 1b는 좌안 영상과 좌안 영상과 밝기가 실질적으로 동일한 우안 영상으로부터 산출된 디스패러티 영상을 보여주는 일 예시도면.
도 2는 본 발명의 실시 예에 따른 입체영상 표시장치를 개략적으로 보여주는 블록도.
도 3은 본 발명의 실시 예에 따른 입체영상 표시장치의 입체영상 구현방법을 보여주는 일 예시 도면.
도 4는 도 2의 영상처리부를 상세히 보여주는 블록도.
도 5는 본 발명의 실시 예에 따른 멀티뷰 영상 생성방법을 상세히 보여주는 흐름도.
도 6은 좌안 영상 데이터, 우안 영상 데이터 및 뷰 영상 데이터를 보여주는 일 예시도면.
도 7은 도 4의 디스패러티 산출부를 상세히 보여주는 블록도.
도 8은 디스패러티 산출부의 디스패러티 산출방법을 상세히 보여주는 흐름도.
도 9는 게인 값 산출부의 게인 값 산출방법을 상세히 보여주는 흐름도.
도 10은 초기 디스패러티 산출부를 상세히 보여주는 블록도.
도 11은 초기 디스패러티 산출부의 초기 디스패러티 산출방법을 상세히 보여주는 흐름도.
도 12는 제1 센서스 윈도우의 센서스 변환과 제2 센서스 윈도우의 센서스 변환을 보여주는 일 예이다.

이하 첨부된 도면을 참조하여 본 발명에 따른 바람직한 실시예들을 상세히 설명한다. 명세서 전체에 걸쳐서 동일한 참조번호들은 실질적으로 동일한 구성요소들을 의미한다. 이하의 설명에서, 본 발명과 관련된 공지 기능 혹은 구성에 대한 구체적인 설명이 본 발명 요지를 불필요하게 흐릴 수 있다고 판단되는 경우, 그 상세한 설명을 생략한다. 이하의 설명에서 사용되는 구성요소 명칭은 명세서 작성의 용이함을 고려하여 선택된 것일 수 있는 것으로서, 실제 제품의 부품 명칭과는 상이할 수 있다.

도 2는 본 발명의 실시 예에 따른 입체영상 표시장치를 개략적으로 보여주는 블록도이다. 도 2를 참조하면, 본 발명의 실시 예에 따른 입체영상 표시장치는 표시패널(10), 광학판(30), 게이트 구동회로(110), 데이터 구동회로(120), 타이밍 콘트롤러(130), 영상 처리부(140), 및 호스트 시스템(150) 등을 구비한다. 본 발명의 실시 예에 따른 입체영상 표시장치의 표시패널(10)은 액정표시소자(Liquid Crystal Display, LCD), 전계 방출 표시소자(Field Emission Display, FED), 플라즈마 디스플레이 패널(Plasma Display Panel, PDP), 유기발광다이오드 소자(Organic Light Emitting Diode, OLED) 등의 평판 표시소자로 구현될 수 있다. 본 발명은 아래의 실시 예에서 표시패널(10)이 액정표시소자로 구현된 것을 중심으로 예시하였지만, 이에 한정되지 않는 것에 주의하여야 한다.

표시패널(10)은 액정층을 사이에 두고 대향하는 상부기판과 하부기판을 포함한다. 표시패널(10)에는 데이터 라인(D)들과 게이트 라인(G)들(또는 스캔 라인들)의 교차 구조에 의해 매트릭스 형태로 배열되는 픽셀들을 포함하는 화소 어레이가 형성된다. 화소 어레이의 화소들 각각은 TFT(Thin Film Transistor)를 통해 데이터 전압이 충전되는 화소 전극과 공통전압이 인가되는 공통전극의 전압 차에 의해 액정층의 액정을 구동시켜 빛의 투과량을 조정함으로써 화상을 표시한다. 표시패널(10)의 상부기판상에는 블랙매트릭스와 컬러필터가 형성된다. 공통전극은 TN(Twisted Nematic) 모드와 VA(Vertical Alignment) 모드와 같은 수직전계 구동방식의 경우에 상부기판상에 형성되며, IPS(In-Plane Switching) 모드와 FFS(Fringe Field Switching) 모드와 같은 수평전계 구동방식의 경우에 화소전극과 함께 하부기판상에 형성될 수 있다. 표시패널(10)의 액정모드는 TN 모드, VA 모드, IPS 모드, FFS 모드뿐 아니라 어떠한 액정모드로도 구현될 수 있다. 액정표시패널의 상부기판과 하부기판 각각에는 편광판이 부착되고 액정의 프리틸트각(pre-tilt angle)을 설정하기 위한 배향막이 형성된다. 표시패널(10)의 상부기판과 하부기판 사이에는 액정층의 셀갭(cell gap)을 유지하기 위한 스페이서(spacer)가 형성된다.

표시패널(10)은 투과형 액정표시패널, 반투과형 액정표시패널, 반사형 액정표시패널 등 어떠한 형태로도 구현될 수 있다. 투과형 액정표시패널과 반투과형 액정표시패널에서는 백라이트 유닛이 필요하다. 백라이트 유닛은 직하형(direct type) 백라이트 유닛 또는 에지형(edge type) 백라이트 유닛으로 구현될 수 있다.

멀티뷰 영상은 제1 내지 제k(k는 3 이상의 자연수) 뷰 영상들을 포함한다. 멀티뷰 영상은 일반인의 양안 간격만큼 k 개의 카메라를 이격하고 객체에 대한 이미지를 촬영함으로써 생성될 수 있다. 광학판(30)은 표시패널(10) 상에 배치되어 표시패널(10)의 화소들에 표시되는 제1 내지 제k 뷰 영상들을 제1 내지 제k 뷰 영역들로 진행시킨다. 제1 내지 제k 뷰 영상들은 제1 내지 제k 뷰 영역들과 일대일로 매칭된다. 즉, 광학판(30)은 화소들에 표시되는 제t(t는 1≤t≤k을 만족하는 자연수) 뷰 영상을 제t 뷰 영역으로 진행시킨다. 본 발명의 실시 예에 따른 입체영상 표시장치의 광학판(30)은 패럴렉스 배리어(parallax barrier), 스위쳐블 배리어(switchable barrier), 렌티큘러 렌즈(lenticular lens), 스위쳐블 렌즈(switchable lens) 등 어떠한 형태로도 구현될 수 있다. 한편, 광학판(30)이 스위쳐블 배리어 또는 스위쳐블 렌즈로 구현되는 경우, 광학판(30)을 구동하기 위한 광학판 구동회로가 필요하다. 광학판 구동회로는 광학판(30)에 구동전압을 공급함으로써 스위쳐블 배리어 또는 스위쳐블 렌즈의 광분리를 온-오프시킬 수 있다. 이하에서, 도 3을 참조하여 광학판(30)을 이용한 입체영상 구현방법을 상세히 살펴본다.

도 3은 본 발명의 실시 예에 따른 무안경 방식의 입체영상 표시장치의 입체영상 구현방법을 보여주는 일 예시 도면이다. 도 3에서는 설명의 편의를 위해 표시패널(10)이 4 개의 뷰 영상들(V1, V2, V3, V4)을 표시하고, 광학판(30)이 표시패널(10)에 표시된 4 개의 뷰 영상들(V1, V2, V3, V4)을 4 개의 뷰 영역들(VP1, VP2, VP3, VP4)로 진행시키는 것을 중심으로 설명하였다. 도 3에서 광학판(30)은 렌티큘러 렌즈로 구현된 것을 중심으로 예시하였지만, 본 발명의 실시 예에 따른 광학판(30)은 패럴렉스 배리어, 스위쳐블 배리어, 스위쳐블 렌즈 등 어떠한 형태로도 구현될 수 있음에 유의하여야 한다.

도 3을 참조하면, 광학판(30)은 화소들에 표시되는 제1 뷰 영상(V1)을 제1 뷰 영역(VP1)으로 진행시키고, 화소들에 표시되는 제2 뷰 영상(V2)을 제2 뷰 영역(VP2)으로 진행시키며, 화소들에 표시되는 제3 뷰 영상(V3)을 제3 뷰 영역(VP3)으로 진행시키고, 화소들에 표시되는 제4 뷰 영상(V4)을 제4 뷰 영역(VP4)으로 진행시킨다. 사용자의 좌안이 제t 뷰 영역(VPt)에 위치하고, 우안이 제t-1 뷰 영역(VPt-1)에 위치하는 경우, 사용자는 좌안으로 제t 뷰 영상(Vt)을 시청하고, 우안으로 제t-1 뷰 영상을 시청할 수 있다. 따라서, 사용자는 양안 시차에 의해 입체감을 느낄 수 있다. 예를 들어, 도 3과 같이 사용자의 좌안이 제2 뷰 영역(VP2)에 위치하고 우안이 제1 뷰 영역(VP1)에 위치하는 경우, 사용자는 좌안으로 제2 뷰 영상(V2)을 시청하고 우안으로 제1 뷰 영상(V1)을 시청할 수 있으므로, 사용자는 양안 시차에 의해 입체감을 느낄 수 있다.

데이터 구동회로(120)는 다수의 소스 드라이브 집적회로(Integrated Circuit, 이하 'IC'라 칭함)들을 포함한다. 소스 드라이브 IC들은 타이밍 콘트롤러(130)의 제어 하에 2D 영상 데이터(RGB2D) 또는 멀티뷰 영상 데이터(MVD)를 정극성/부극성 감마보상전압으로 변환하여 정극성/부극성 아날로그 데이터전압들을 발생한다. 소스 드라이브 IC들로부터 출력되는 정극성/부극성 아날로그 데이터 전압들은 표시패널(10)의 데이터 라인(D)들에 공급된다.

게이트 구동회로(110)는 타이밍 콘트롤러(130)의 제어 하에 표시패널(10)의 게이트 라인(G)들에 게이트 펄스들(또는 스캔 펄스들)을 순차적으로 공급한다. 게이트 구동부(110)는 쉬프트 레지스터, 쉬프트 레지스터의 출력신호를 액정셀의 TFT 구동에 적합한 스윙폭으로 변환하기 위한 레벨 쉬프터, 및 출력 버퍼 등을 각각 포함하는 다수의 게이트 드라이브 집적회로들로 구성될 수 있다.

타이밍 콘트롤러(130)는 영상 처리부(140)로부터 2D 영상 데이터(RGB2D) 또는 멀티뷰 영상 데이터(MVD)와 타이밍 신호들과 모드 신호(MODE) 등을 입력받는다. 타이밍 콘트롤러(130)는 2D 모드에서 2D 영상 데이터(RGB2D)를 입력받고, 3D 모드에서 3D 영상 데이터(RGB3D)를 입력받는다. 모드 신호(MODE)는 2D 모드 또는 3D 모드를 지시한다. 타이밍 신호들은 수직동기신호(vertical synchronization signal), 수평동기신호(horizontal synchronization signal), 데이터 인에이블 신호(data enable signal), 및 클럭 신호(clock signal) 등을 포함할 수 있다.

타이밍 콘트롤러(130)는 타이밍 신호들에 기초하여 게이트 구동회로(110)를 제어하기 위한 게이트 제어신호(GCS)를 생성하고, 데이터 구동회로(120)를 제어하기 위한 데이터 제어신호(DCS)를 생성한다. 타이밍 콘트롤러(130)는 게이트 제어신호(GCS)를 게이트 구동회로(110)에 공급한다. 타이밍 콘트롤러(130)는 2D 모드에서 2D 영상 데이터(RGB2D)와 데이터 제어신호(DCS)를 데이터 구동회로(120)로 공급하고, 3D 모드에서 멀티뷰 영상 데이터(MVD)와 데이터 제어신호(DCS)를 데이터 구동회로(120)로 공급한다.

호스트 시스템(150)은 외부 비디오 소스 기기로부터 입력되는 2D 영상 데이터(RGB2D) 또는 3D 영상 데이터(RGB3D)를 표시패널(10)에 표시하기에 적합한 해상도의 데이터 포맷으로 변환하기 위해 스케일러(scaler)가 내장된 시스템 온 칩(System on Chip)을 포함할 수 있다. 호스트 시스템(150)은 LVDS(Low Voltage Differential Signaling) 인터페이스, TMDS(Transition Minimized Differential Signaling) 인터페이스 등의 인터페이스를 통해 2D 영상 데이터(RGB2D) 또는 3D 영상 데이터(RGB3D)와 타이밍 신호들을 영상 처리부(140)에 공급한다. 또한, 호스트 시스템(150)은 2D 모드 또는 3D 모드를 지시하는 모드 신호(MODE)를 영상 처리부(140)에 공급한다.

영상 처리부(140)는 2D 모드에서 2D 영상 데이터(RGB2D)를 변환하지 않고 그대로 타이밍 콘트롤러(130)로 출력한다. 영상 처리부(140)는 3D 모드에서 3D 영상 데이터(RGB3D)로부터 멀티뷰 영상 데이터(MVD)를 생성하여 타이밍 콘트롤러(130)로 출력한다. 3D 영상 데이터(RGB3D)는 단안(單眼) 영상 데이터와 또 다른 단안 영상 데이터(또는 2 개의 뷰 영상 데이터)를 포함한다. 이하에서는 설명의 편의를 위해 단안 영상 데이터가 좌안 영상 데이터이고, 또 다른 단안 영상 데이터는 우안 영상 데이터인 것을 중심으로 설명하였음에 주의하여야 한다.

결국, 본 발명의 실시 예에 따른 입체영상 표시장치는 3D 영상 데이터(RGB3D)가 입력되더라도, 영상 처리부(140)를 이용하여 멀티뷰 영상 데이터(MVD)를 생성함으로써, 표시패널(10)에 멀티뷰 영상을 표시할 수 있다. 그 결과, 본 발명의 실시 예에 따른 입체영상 표시장치는 입체영상의 품질을 높일 수 있다. 이하에서, 도 4 및 도 5를 참조하여 영상 처리부(140)의 멀티뷰 영상 데이터(MVD) 생성방법에 대하여 상세히 설명한다.

도 4는 도 2의 영상처리부를 상세히 보여주는 블록도이다. 도 5는 본 발명의 실시 예에 따른 멀티뷰 영상 생성방법을 상세히 보여주는 흐름도이다. 도 4를 참조하면, 영상처리부(140)는 디스패러티 산출부(200)와 멀티뷰 영상 생성부(300)를 포함한다. 이하에서, 도 4 및 도 5를 결부하여 영상처리부(140)의 멀티뷰 영상 생성방법을 상세히 설명한다.

첫 번째로, 디스패러티 산출부(200)는 3D 영상 데이터(RGB3D)의 좌안 영상 데이터(RGBL)와 우안 영상 데이터(RGBR)를 이용하여 디스패러티(disparity)들(DIS)을 산출하여 출력한다. 디스패러티는 입체감을 형성하기 위해 좌안 영상 데이터(RGBL) 또는 우안 영상 데이터(RGBR)을 쉬프트시키기 위한 값을 의미한다. 디스패러티 산출부(200)의 디스패러티 산출방법에 대한 자세한 설명은 도 5 및 도 6을 결부하여 후술한다. (S101)

멀티뷰 영상 생성부(300)는 디스패러티 산출부(200)에 의해 산출된 디스패러티들(DIS)에 따라 좌안 영상 데이터(RGBL) 또는 우안 영상 데이터(RGBR)를 쉬프트시켜 멀티뷰 영상 데이터(MVD)를 생성한다. 구체적으로, 멀티뷰 영상 생성부(300)는 도 6과 같이 좌안 영상 데이터(RGBL)를 제1 뷰 영상 데이터(VD1)로 설정하고, 우안 영상 데이터(RGBR)를 제k 뷰 영상 데이터(VDk)로 설정하며, 디스패러티들(DIS)을 이용하여 좌안 영상 데이터(RGBL) 또는 우안 영상 데이터(RGBR)를 쉬프트시키며 제2 내지 제k-1 뷰 영상 데이터(VD2~VDk-1)를 생성함으로써, k 개의 뷰 영상 데이터를 포함하는 멀티뷰 영상 데이터(MVD)를 생성할 수 있다. 예를 들어, 제t 뷰 영상 데이터(VDt)는 좌안 영상 데이터(RGBL)를 디스패러티들(DIS)에 (t/k-1)를 곱한 값만큼 제1 수평 방향으로 쉬프트시킴으로써 생성될 수 있다.

멀티뷰 영상 생성부(300)의 멀티뷰 영상 생성방법은 공지의 어떠한 방법도 적용될 수 있다. 멀티뷰 영상 생성부(300)는 멀티뷰 영상 데이터(MVD)에 홀 필링(hole filling) 등의 후처리 연산을 수행할 수 있다. 또한, 멀티뷰 영상 생성부(300)는 3D 포맷터를 이용하여 멀티뷰 영상 데이터(MVD)를 표시패널(10)의 3D 표시 배열에 맞게 배열한 후 타이밍 콘트롤러(130)로 출력할 수 있다. (S102)

도 7은 도 4의 디스패러티 산출부를 상세히 보여주는 블록도이다. 도 8은 디스패러티 산출부의 디스패러티 산출방법을 상세히 보여주는 흐름도이다. 도 7을 참조하면, 디스패러티 산출부(200)는 게인 값 산출부(210), 초기 디스패러티 산출부(220) 및 후처리부(230)를 포함한다. 이하에서, 도 7 및 도 8을 결부하여 본 발명의 실시 예에 따른 디스패러티 산출부의 디스패러티 산출방법을 상세히 설명한다.

첫 번째로, 게인 값 산출부(210)는 제N 프레임의 디스패러티들, 좌안 영상 데이터 및 우안 영상 데이터를 분석하여 제N 프레임의 게인 값(G)을 산출한다. 게인 값 산출부(210)는 게인 값(G)을 저장하기 위한 메모리를 포함할 수 있다. 메모리에는 제N-1 프레임에 산출된 게인 값(G)이 저장되어 있다. 게인 값 산출부(210)는 제N 프레임 동안 제N-1 프레임에 산출된 게인 값을 초기 디스패러티 산출부(220)로 출력하고, 제N 프레임에 산출된 게인 값을 메모리에 저장한다. 게인 값 산출부(210)에 대한 자세한 설명은 도 9 및 도 10을 결부하여 후술한다. (S201)

두 번째로, 초기 디스패러티 산출부(220)는 게인 값 산출부(210)으로부터 게인 값(G)을 입력받고, 호스트 시스템(150)으로부터 제N 프레임의 좌안 영상 데이터(RGBL)과 우안 영상 데이터(RGBR)를 포함하는 3D 영상 데이터(RGB3D)를 입력받는다. 초기 디스패러티 산출부(220)는 게인 값과 제N 프레임의 좌안 영상 데이터(RGBL)과 우안 영상 데이터(RGBR)를 이용하여 초기 디스패러티들(IDIS)을 산출한다. 초기 디스패러티 산출부(220)의 초기 디스패러티들(IDIS) 산출방법에 대한 자세한 설명은 도 11 및 도 12를 결부하여 후술한다. (S202)

세 번째로, 후처리부(230)는 초기 디스패러티들(IDIS)을 후처리하여 디스패러티들(DIS)을 산출한다. 후처리부(230)는 메디안 필터(median filter), 가중치 메디안 필터(weighted median filter), 가중치 최빈값 필터(weighted voting filter) 등 여러가지 필터들 중 어느 하나를 사용하여 초기 디스패러티들(IDIS)을 후처리할 수 있다. 메디안 필터는 마스크의 중심 좌표에서의 데이터를 마스크 내 데이터들의 중앙값으로 변환하는 필터이다. 가중치 메디안 필터는 마스크 내 데이터들을 가중치 마스크의 가중치를 적용하여 배열한 후 중앙값을 선택하고, 마스크 내 중심 좌표에서의 데이터를 그 중앙값으로 변환하는 필터이다. 가중치 최빈값 필터는 마스크 내 데이터들을 가중치 마스크의 가중치를 적용하여 히스토그램 작성 후 최빈값을 선택하고, 마스크 내 중심 좌표에서의 데이터를 그 최빈값으로 변환하는 필터이다. 후처리부(230)는 후처리된 디스패러티들(DIS)을 멀티뷰 영상 생성부(300)로 출력한다. (S203)

도 9는 게인 값 산출부의 게인 값 산출방법을 상세히 보여주는 흐름도이다. 도 9를 참조하면, 첫 번째로, 게인 값 산출부(210)는 제N 프레임의 좌안 디스패러티들과 우안 디스패러티들을 입력받는다. 좌안 디스패러티들과 우안 디스패러티들의 위치는 좌표로 표현될 수 있다. 게인 값 산출부(210)는 제N 프레임의 좌안 디스패러티들과 우안 디스패러티들을 분석하여 오클루전(occlusion) 영역에 해당하는 좌표들을 산출한다. 오클루전 영역은 디스패러티들을 이용하여 좌안 영상 데이터(RGBL) 또는 우안 영상 데이터(RGBR)을 쉬프트시켜 뷰 영상 데이터를 생성하는 경우, 뷰 영상 데이터에는 어떠한 정보도 갖고 있지 않은 데이터를 의미한다. 따라서, 오클루전 영역은 뷰 영상 데이터에서 어떠한 정보도 갖고 있지 않은 데이터의 좌표들을 포함한다. 또한, 좌안 디스패러티(left-eye disparity)는 입체감을 형성하기 위해 좌안 영상 데이터를 쉬프트시키기 위한 값으로, 좌안 영상 데이터를 기준으로 산출한 좌안 영상 데이터의 위치(좌표)와 우안 영상 데이터의 위치(좌표)의 차이를 의미한다. 우안 디스패러티(right-eye disparity)는 입체감을 형성하기 위해 우안 영상을 쉬프트시키기 위한 값으로, 우안 영상 데이터를 기준으로 산출한 좌안 영상 데이터의 위치(좌표)와 우안 영상 데이터의 위치(좌표)의 차이를 의미한다.

게인 값 산출부(210)는 제N 프레임의 좌안 디스패러티들과 우안 디스패러티들을 분석하여 오클루전 영역에 해당하는 좌표들을 산출한다. 구체적으로, 게인 값 산출부(210)는 수학식 1과 같이 제N 프레임의 (x,y) 좌표에서의 좌안 디스패러티와 (x-Dl(x,y),y) 좌표에서의 우안 디스패러티의 차이의 절대값이 제1 문턱 값보다 큰 경우 (x,y) 좌표를 오클루전 영역으로 산출한다. Dl(x,y)은 (x,y) 좌표에서의 좌안 디스패러티이다.

수학식 1에서, Dl(x,y)는 (x,y) 좌표에서의 좌안 디스패러티, Dr(x,y)는 (x,y) 좌표에서의 우안 디스패러티, TH1은 제1 문턱 값을 의미한다. (S301)

두 번째로, 게인 값 산출부(210)는 제N 프레임의 좌안 영상 데이터를 입력받는다. 좌안 영상 데이터의 위치는 좌표로 표현될 수 있다. 게인 값 산출부(210)는 제N 프레임의 좌안 영상 데이터 중에서 오클루전 영역에 해당하지 않는 좌안 영상 데이터의 서브 화소 데이터의 평균값들을 산출한다. 좌안 영상 데이터는 제1 내지 제3 서브 화소 데이터를 포함할 수 있으며, 제1 내지 제3 서브 화소 데이터는 적색 데이터, 녹색 데이터 및 청색 데이터로 구현될 수 있다. 이 경우, 게인 값 산출부(210)는 제N 프레임의 좌안 영상 데이터 중에서 오클루전 영역에 해당하지 않는 좌안 적색 데이터의 평균값(RAVG_L), 좌안 녹색 데이터의 평균값(GAVG_L) 및 좌안 청색 데이터의 평균값(BAVG_L)을 산출한다. (S302)

세 번째로, 게인 값 산출부(210)는 제N 프레임의 우안 영상 데이터를 입력받는다. 우안 영상 데이터의 위치는 좌표로 표현될 수 있다. 게인 값 산출부(210)는 제N 프레임의 우안 영상 데이터 중에서 오클루전 영역에 해당하지 않는 우안 영상 데이터의 서브 화소 데이터의 평균값들을 산출한다. 우안 영상 데이터는 제1 내지 제3 서브 화소 데이터를 포함할 수 있으며, 제1 내지 제3 서브 화소 데이터는 적색 데이터, 녹색 데이터 및 청색 데이터로 구현될 수 있다. 이 경우, 게인 값 산출부(210)는 제N 프레임의 우안 영상 데이터 중에서 오클루전 영역에 해당하지 않는 우안 적색 데이터의 평균값(RAVG_R), 우안 녹색 데이터의 평균값(GAVG_R) 및 우안 청색 데이터의 평균값(BAVG_R)을 산출한다. (S303)

네 번째로, 게인 값 산출부(210)는 오클루전 영역에 해당하지 않는 좌안 영상 데이터의 서브 화소 데이터의 평균값들과 오클루전 영역에 해당하지 않는 우안 영상 데이터의 서브 화소 데이터의 평균값들을 이용하여 제1 서브 화소 데이터 차이 값, 제2 서브 화소 데이터 차이 값 및 제3 서브 화소 데이터 차이 값을 산출한다. 구체적으로, 게인 값 산출부(210)는 수학식 2와 같이 좌안 적색 데이터의 평균값(RAVG_L)과 우안 적색 데이터의 평균값(RAVG_R)의 차이의 절대값을 산출하고, 좌안 적색 데이터의 평균값(RAVG_L)과 우안 적색 데이터의 평균값(RAVG_R)의 차이의 절대값과 최대 차이 값(Dmax) 중에서 작은 값을 적색 차이 값(Dred)으로 산출한다. 한편, 최대 차이 값(Dmax)은 좌안 적색 데이터의 평균값(RAVG_L)과 우안 적색 데이터의 평균값(RAVG_R)의 차이의 절대값의 최대값을 설정하기 위한 값으로, 생략될 수 있다. 게인 값 산출부(210)는 최대 차이 값(Dmax)이 생략되는 경우, 좌안 적색 데이터의 평균값(RAVG_L)과 우안 적색 데이터의 평균값(RAVG_R)의 차이의 절대값을 적색 차이 값(Dred)으로 산출할 수 있다.

게인 값 산출부(210)는 수학식 3과 같이 좌안 녹색 데이터의 평균값(GAVG_L)과 우안 녹색 데이터의 평균값(GAVG_R)의 차이의 절대값을 산출하고, 좌안 녹색 데이터의 평균값(GAVG_L)과 우안 녹색 데이터의 평균값(GAVG_R)의 차이의 절대값과 최대 차이 값(Dmax) 중에서 작은 값을 녹색 차이 값(Dgreen)으로 산출한다. 한편, 게인 값 산출부(210)는 최대 차이 값(Dmax)이 생략될 수 있으며, 이 경우 좌안 녹색 데이터의 평균값(GAVG_L)과 우안 녹색 데이터의 평균값(GAVG_R)의 차이의 절대값을 녹색 차이 값(Dgreen)으로 산출할 수 있다.

게인 값 산출부(210)는 수학식 4와 같이 좌안 청색 데이터의 평균값(BAVG_L)과 우안 청색 데이터의 평균값(BAVG_R)의 차이의 절대값을 산출하고, 좌안 청색 데이터의 평균값(BAVG_L)과 우안 청색 데이터의 평균값(BAVG_R)의 차이의 절대값과 최대 차이 값(Dmax) 중에서 작은 값을 청색 차이 값(Dblue)으로 산출한다. 한편, 게인 값 산출부(210)는 최대 차이 값(Dmax)은 생략될 수 있으며, 이 경우 좌안 청색 데이터의 평균값(BAVG_L)과 우안 청색 데이터의 평균값(BAVG_R)의 차이의 절대값을 청색 차이 값(Dblue)으로 산출할 수 있다.

다섯 번째로, 게인 값 산출부(210)는 적색 차이 값(Dred), 녹색 차이 값(Dgreen) 및 청색 차이 값(Dblue)을 이용하여 게인 값(G)을 산출한다. 구체적으로, 게인 값 산출부(210)는 수학식 5와 같이 게인 값(G)을 산출할 수 있다.

수학식 5에서, G는 게인 값, G_offset은 오프셋 게인 값, Dred는 적색 차이 값, Dgreen은 녹색 차이 값, Dblue는 청색 차이 값, Dmax는 최대 차이 값을 의미한다. G_offset은 0 내지 1 사이의 값을 가지며, G_offset은 클수록 게인 값(G)은 크게 산출된다. G_offset은 사전 실험을 통해 미리 설정될 수 있다. 또한, 좌안 영상(LI)과 우안 영상(RI) 간의 밝기 또는 색상 차이가 클수록 적색 차이 값(Dred), 녹색 차이 값(Dgreen) 및 청색 차이 값(Dblue)이 크게 산출되며, 게인 값(G)는 크게 산출된다. (S305)

도 10은 초기 디스패러티 산출부를 상세히 보여주는 블록도이다. 도 11은 초기 디스패러티 산출부의 초기 디스패러티 산출방법을 상세히 보여주는 흐름도이다. 도 10을 참조하면, 초기 디스패러티 산출부(220)는 AD 값 산출부(221), 센서스 값 산출부(222), 초기 매칭 값 산출부(223), 초기 매칭 합산 값 산출부(224) 및 초기 디스패러티 출력부(225)를 포함한다. 이하에서, 도 10 및 도 11을 결부하여 초기 디스패러티 산출부의 초기 디스패러티 산출방법을 상세히 살펴본다.

한편, 초기 디스패러티 산출부(220)는 좌안 영상 데이터와 우안 영상 데이터 중 어느 하나를 기준 영상 데이터로 설정하고, 나머지 하나를 비교 영상 데이터로 설정하여 초기 디스패러티(IDIS)를 산출한다. 본 발명의 실시 예에서는 좌안 영상 데이터가 기준 영상 데이터이고, 우안 영상 데이터가 비교 영상 데이터인 것을 중심으로 설명하였음에 주의하여야 한다.

첫 번째로, AD 값 산출부(221)는 호스트 시스템(150)으로부터 제N 프레임의 3D 영상 데이터(RGB3D)를 입력받는다. 제N 프레임의 3D 영상 데이터(RGB3D)는 좌안 영상 데이터(RGBL)와 우안 영상 데이터(RGBR)를 포함한다. AD 값 산출부(221)는 제N 프레임의 좌안 영상 데이터(RGBL)와 우안 영상 데이터(RGBR)를 분석하여 AD 값을 산출한다. AD 값은 좌안 영상 데이터와 그 좌안 영상 데이터로부터 제1 범위 내에 위치한 우안 영상 데이터의 차이를 의미한다.

AD 값 산출부(221)는 기준 영상 데이터인 좌안 영상 데이터에 중심 좌표를 설정한다. 예를 들어, AD 값 산출부(221)는 (x,y) 좌표를 중심 좌표로 설정할 수 있다. 이 경우, AD 값 산출부(221)는 수학식 6과 같이 (x,y) 좌표에서의 좌안 영상 데이터(RGBL(x,y))와 (x-r,y)(r은 자연수) 좌표에서의 우안 영상 데이터(RGBR(x-r,y))의 차이의 절대값을 (x,y,r)에 해당하는 AD 값(C_AD(x,y,r))으로 산출한다. r은 0 내지 r_max 값을 가진다.

예를 들어, AD 값 산출부(221)는 r_max가 60이라면, (x,y) 좌표에서의 좌안 영상 데이터와 (x,y) 좌표 내지 (x-60,y) 좌표에서의 우안 영상 데이터 각각의 차이를 (x,y,0) 내지 (x,y,60)에 해당하는 AD 값(C_AD(x,y,0)~C_AD(x,y,60))으로 산출한다. (S401)

두 번째로, 센서스 값 산출부(222)는 호스트 시스템(150)으로부터 제N 프레임의 3D 영상 데이터(RGB3D)를 입력받는다. 센서스 값 산출부(222)는 제N 프레임의 좌안 영상 데이터와 그의 주변 데이터 및 우안 영상 데이터와 그의 주변 데이터를 이용하여 센서스 값을 산출한다.

구체적으로, 센서스 값 산출부(222)는 (x,y) 좌표에서의 좌안 영상 데이터를 중심 좌표(CC)로 제1 센서스 윈도우(CW1)를 설정한다. 도 12에서는 제1 센서스 윈도우(CW1)가 3×3 크기로 구현된 것을 중심으로 설명하였으나, 이에 한정되지 않으며, p×q(p, q는 자연수) 크기로 구현될 수 있다. 센서스 값 산출부(222)는 제1 센서스 윈도우(CW1) 내에서 어느 한 좌표에서의 좌안 영상 데이터가 중심 좌표(CC)에서의 좌안 영상 데이터보다 크거나 같은 경우 제1 값을 그 좌표의 값으로 할당하고, 그보다 작은 경우 제2 값을 그 좌표의 값으로 할당하는 센서스 변환을 수행한다. 제1 값은 "1"이고, 제2 값은 "0"일 수 있다. 예를 들어, 도 12와 같이 제1 센서스 윈도우(CW1) 내에서 어느 한 좌표의 좌안 영상 데이터가 중심 좌표(CC)에서의 좌안 영상 데이터인 "85"보다 크거나 같은 경우 그 좌표의 값으로 "1"을 할당하고, "85"보다 작은 경우 그 좌표의 값으로 "0"을 할당할 수 있다.

센서스 값 산출부(222)는 (x-r,y) 좌표에서의 우안 영상 데이터를 중심 좌표(CC)로 제2 센서스 윈도우(CW2)를 설정한다. S401 단계에서 설명한 바와 같이, r은 0 내지 r_max 값을 가진다. 도 12에서는 제2 센서스 윈도우(CW1)가 3×3 크기로 구현된 것을 중심으로 설명하였으나, 이에 한정되지 않으며, p×q 크기로 구현될 수 있다. 센서스 값 산출부(222)는 제2 센서스 윈도우(CW2) 내에서 어느 한 좌표에서의 우안 영상 데이터가 중심 좌표에서의 우안 영상 데이터보다 크거나 같은 경우 제1 값을 그 좌표의 값으로 할당하고, 그보다 작은 경우 제2 값을 그 좌표의 값으로 할당하는 센서스 변환을 수행한다. 제1 값은 "1"이고, 제2 값은 "0"일 수 있다. 예를 들어, 도 12와 같이 제2 센서스 윈도우(CW2) 내에서 어느 한 좌표의 우안 영상 데이터가 중심 좌표에서의 우안 영상 데이터인 "30"보다 크거나 같은 경우 그 좌표의 값으로 "1"을 할당하고, "30"보다 작은 경우 그 좌표의 값으로 "0"을 할당할 수 있다.

센서스 값 산출부(222)는 도 12와 같이 제1 센서스 윈도우(CW1) 내 센서스 변환된 값들을 제1 비트 열(bit string)(BS1)로 만들고 제2 센서스 윈도우(CW2) 내 센서스 변환된 값들을 제2 비트 열(BS2)로 만든 후, 배타적 논리합(Exclusive OR, XOR) 연산하여 제3 비트 열(BS3)을 만든다. 센서스 값 산출부(222)는 제3 비트 열(BS3)의 비트 값들을 합산하여 (x,y,r)에 해당하는 센서스 값(C_cen(x,y,r))을 산출한다. 도 12에서는 (x,y,r)에 해당하는 센서스 값(C_cen(x,y,r))은 "2"로 산출될 수 있다. 한편, (x,y,r)에 해당하는 센서스 값(C_cen(x,y,r))은 (x,y) 좌표에서의 좌안 영상 데이터(RGBL(x,y))를 중심 좌표로 설정하고, (x-r,y) 좌표에서의 우안 영상 데이터(RGBR(x-r,y))를 중심 좌표로 설정하여 산출된 센서스 값을 의미한다. (S402)

세 번째로, 초기 매칭 값 산출부(223)는 게인 값 산출부(210)로부터 게인 값(G)을 입력받는다. 또한, 초기 매칭 값 산출부(223)는 AD 값 산출부(221)로부터 AD 값들(VAD)을 입력받고, 센서스 값 산출부(222)로부터 센서스 값들(VCEN)을 입력받는다. 초기 매칭 값 산출부(223)는 게인 값(G)을 AD 값들(VAD)과 센서스 값들(VCEN)에 적용하여 초기 매칭 값들(IMV)을 산출한다.

구체적으로, 초기 매칭 값 산출부(223)는 수학식 7과 같이 (x,y,r)에 해당하는 초기 매칭 값을 산출한다. 수학식 7에서, IMV(x,y,r)은 (x,y,r)에 해당하는 초기 매칭 값, G는 게인 값, C_cen(x,y,r)은 (x,y,r)에 해당하는 센서스 값, C_AD(x,y,r)은 (x,y,r)에 해당하는 AD 값을 의미한다.

결국, 본 발명은 좌안 영상과 우안 영상 간의 밝기 또는 색상 차이가 클수록 게인 값을 크게 산출한다. 또한, 본 발명은 게인 값이 클수록 수학식 7과 같이 센서스 값을 높게 반영하고 AD 값을 낮게 반영하여 초기 매칭 값을 산출한다. AD 값은 좌안 영상 데이터와 우안 영상 데이터의 차이의 절대값으로 산출되므로, 좌안 영상과 우안 영상 간의 밝기 또는 색상 차이가 클수록 오산출될 확률이 높다. 이에 비해, 센서스 값은 센서스 윈도우 내 좌안 영상 데이터와 우안 영상 데이터를 비교 판단하여 산출되는 값이므로, 좌안 영상과 우안 영상 간의 밝기 또는 색상 차이에 AD 값에 비해 덜 민감한 값이다. 따라서, 본 발명은 게인 값이 클수록 센서스 값을 높게 반영하고 AD 값을 낮게 반영하여 초기 매칭 값을 산출함으로써, 좌안 영상과 우안 영상 간의 밝기 또는 색상 차이에 따른 초기 매칭 값의 오산출을 방지할 수 있다. 특히, 디스패러티는 초기 매칭 값을 이용하여 산출되므로, 초기 매칭 값을 정확하게 산출함으로써, 디스패러티 역시 정확하게 산출될 수 있다. (S403)

네 번째로, 초기 매칭 합산 값 산출부(224)는 초기 매칭 값 산출부(223)로부터 초기 매칭 값들(IMV)을 입력받는다. 초기 매칭 합산 값 산출부(224)는 초기 매칭 값(IMV)을 그 주변의 초기 매칭 값들과 합산하여 초기 매칭 합산 값(IMAV)을 산출한다. 구체적으로, 초기 매칭 합산 값 산출부(224)는 (x,y,r)에 해당하는 초기 매칭 값(IMV(x,y))을 중심 좌표로 마스크를 설정하고, 마스크 내 좌표들 각각의 초기 매칭 값들을 합산하여 (x,y,r)에서의 초기 매칭 합산 값(IMAV(x,y,r))를 산출한다. 마스크는 i×j(i,j는 2 이상의 자연수) 개의 초기 매칭 값들을 포함하도록 구현될 수 있다. (S404)

다섯 번째로, 초기 디스패러티 출력부(225)는 초기 매칭 합산 값 산출부(224)로부터 초기 매칭 합산 값들(IMAV)을 입력받는다. 초기 디스패러티 출력부(225)는 초기 매칭 합산 값들(IMAV)을 분석하여 초기 디스패러티들(IDIS)을 산출한다. 구체적으로, 초기 디스패러티 출력부(225)는 (x,y,r) 내지 (x,y,r_max)에 해당하는 초기 매칭 합산 값들(IMAV(x,y,0)~C(x,y,r_max)) 중에서 최소값을 갖는 초기 매칭 합산 값의 r을 (x,y) 좌표에서의 초기 디스패러티(IDIS(x,y))로 산출한다. 예를 들어, 초기 디스패러티 출력부(225)는 (x,y,r) 내지 (x,y,r_max)에 해당하는 초기 매칭 합산 값들(IMAV(x,y,0)~C(x,y,r_max)) 중에서 (x,y,10)에 해당하는 초기 매칭 합산 값이 최소값을 갖는 경우, "10"을 (x,y) 좌표에서의 초기 디스패러티(IDIS(x,y))로 산출할 수 있다. (S405)

한편, 본 발명의 실시 예에서는 좌안 영상 데이터를 기준 영상 데이터로 설정하고, 우안 영상 데이터를 비교 영상 데이터로 설정하여 디스패러티들을 산출하는 것을 중심으로 설명하였다. 하지만, 본 발명의 실시 예는 우안 영상 데이터를 기준 영상 데이터로 설정하고, 좌안 영상 데이터를 비교 영상 데이터로 설정하여 디스패러티들을 산출할 수 있다. 좌안 영상 데이터를 기준 영상 데이터로 설정하고 우안 영상 데이터를 비교 영상 데이터로 설정하여 산출된 디스패러티들은 좌안 디스패러티들에 해당하고, 우안 영상 데이터를 기준 영상 데이터로 설정하고 좌안 영상 데이터를 비교 영상 데이터로 설정하여 산출된 디스패러티들은 우안 디스패러티들이다. 우안 디스패러티들의 산출 방법은 도 8 내지 도 12를 결부하여 설명한 바와 실질적으로 동일하다.

이상에서 살펴본 바와 같이, 본 발명은 좌안 영상과 우안 영상 간의 밝기 또는 색상 차이가 클수록 게인 값을 크게 산출하며, 이러한 게인 값을 반영하여 디스패러티들을 산출한다. 그 결과, 본 발명은 좌안 영상과 우안 영상 간의 밝기 또는 색상 차이가 큰 경우에도 디스패러티들을 정확하게 산출할 수 있다.

이상 설명한 내용을 통해 당업자라면 본 발명의 기술사상을 일탈하지 아니하는 범위 내에서 다양한 변경 및 수정이 가능함을 알 수 있을 것이다. 따라서, 본 발명은 상세한 설명에 기재된 내용으로 한정되는 것이 아니라 특허 청구의 범위에 의해 정하여져야만 할 것이다.

10: 표시패널 30: 광학판
110: 게이트 구동회로 120: 데이터 구동회로
130: 타이밍 콘트롤러 140: 영상 처리부
150: 호스트 시스템 200: 디스패러티 산출부
210: 게인 값 산출부 220: 초기 디스패러티 산출부
230: 후처리부 300: 입체영상 생성부

Claims (11)

1. 제N(N은 2 이상의 자연수) 프레임의 디스패러티들, 좌안 영상 데이터 및 우안 영상 데이터를 분석하여 게인 값을 산출하는 제1 단계;
   제N-1 프레임에 산출된 게인 값과 제N 프레임의 좌안 영상 데이터와 우안 영상 데이터를 이용하여 디스패러티들을 산출하는 제2 단계; 및
   상기 제N 프레임의 좌안 영상 데이터 또는 우안 영상 데이터를 상기 디스패러티들에 따라 쉬프트시켜 멀티뷰 영상 데이터를 생성하는 제3 단계를 포함하고,
   상기 제1 단계는,
   상기 제N 프레임의 (x,y) 좌표에서의 좌안 디스패러티와 (x-Dl(x,y),y) 좌표에서의 우안 디스패러티의 차이의 절대값이 문턱 값보다 큰 경우 상기 (x,y) 좌표를 오클루전 영역에 해당하는 좌표로 설정하며, Dl(x,y)은 상기 (x,y) 좌표에서의 좌안 디스패러티에 해당하는 (1-a) 단계; 및
   상기 제N 프레임의 좌안 영상 데이터와 우안 영상 데이터 중에서 상기 오클루전 영역에 해당하지 않는 좌안 영상 데이터와 우안 영상 데이터를 이용하여 게인 값을 산출하는 (1-b) 단계를 포함하는 멀티뷰 영상 생성방법.
2. 삭제
3. 삭제
4. 제 1 항에 있어서,
   상기 (1-b) 단계는,
   상기 제N 프레임의 좌안 영상 데이터 중에서 상기 오클루전 영역에 해당하지 않는 좌안 영상 데이터의 서브 화소 데이터의 평균값들을 산출하는 단계;
   상기 제N 프레임의 우안 영상 데이터 중에서 상기 오클루전 영역에 해당하지 않는 우안 영상 데이터의 서브 화소 데이터의 평균값들을 산출하는 단계; 및
   상기 좌안 영상 데이터의 서브 화소 데이터의 평균값들과 상기 우안 영상 데이터의 서브 화소 데이터의 평균값들을 이용하여 상기 게인 값을 산출하는 단계를 포함하는 것을 특징으로 하는 멀티뷰 영상 생성방법.
5. 제 4 항에 있어서,
   상기 좌안 영상 데이터의 서브 화소 데이터의 평균값들과 상기 우안 영상 데이터의 서브 화소 데이터의 평균값들을 이용하여 상기 게인 값을 산출하는 단계는,
   상기 좌안 영상 데이터의 제1 서브 화소 데이터의 평균값과 상기 우안 영상 데이터의 제1 서브 화소 데이터의 평균값의 차이의 절대값이 Dred이고, 상기 좌안 영상 데이터의 제2 서브 화소 데이터의 평균값과 상기 우안 영상 데이터의 제2 서브 화소 데이터의 평균값의 차이의 절대값이 Dgreen이며, 상기 좌안 영상 데이터의 제3 서브 화소 데이터의 평균값과 상기 우안 영상 데이터의 제3 서브 화소 데이터의 평균값의 차이의 절대값이 Dblue이고, Dred, Dgreen 및 Dblue의 최대값이 Dmax이며, 상기 게인 값이 G이고, 오프셋 게인 값이 G_offset일 때,
   상기 게인 값은,
   

   

   에 의해 산출되는 것을 특징으로 하는 멀티뷰 영상 생성방법.
6. 제 1 항에 있어서,
   상기 제2 단계는,
   상기 제N 프레임의 좌안 영상 데이터와 우안 영상 데이터를 분석하여 AD 값들을 산출하는 (2-a) 단계;
   제N 프레임의 좌안 영상 데이터와 그의 주변 데이터 및 우안 영상 데이터와 그의 주변 데이터를 이용하여 센서스 값들을 산출하는 (2-b) 단계;
   상기 게인 값을 상기 AD 값들과 상기 센서스 값들에 적용하여 초기 매칭 값을 산출하는 (2-c) 단계; 및
   상기 초기 매칭 값을 그 주변의 초기 매칭 값들과 합산하여 초기 매칭 합산 값을 산출하고, 중심 좌표가 설정된 초기 매칭 합산 값을 상기 중심 좌표로부터 제2 범위 내에 위치한 초기 매칭 합산 값들과 비교하여 상기 초기 디스패러티를 산출하는 (2-d) 단계를 포함하는 것을 특징으로 하는 멀티뷰 영상 생성방법.
7. 제 6 항에 있어서,
   상기 (2-a) 단계는,
   (x,y) 좌표에서의 좌안 영상 데이터와 (x-r,y)(r은 자연수) 좌표들 각각에서의 우안 영상 데이터의 차이의 절대값을 산출하는 것을 (x,y,r)에 해당하는 AD 값으로 산출하는 것을 특징으로 하는 멀티뷰 영상 생성방법.
8. 제 6 항에 있어서,
   상기 (2-b) 단계는,
   (x,y) 좌표에서의 좌안 영상 데이터를 중심 좌표로 제1 센서스 윈도우를 설정하고, 상기 제1 센서스 윈도우 내에서 어느 한 좌표에서의 좌안 영상 데이터가 상기 (x,y) 좌표에서의 좌안 영상 데이터보다 크거나 같은 경우 제1 값을 그 좌표의 값으로 할당하고, 그보다 작은 경우 제2 값을 그 좌표의 값으로 할당하는 센서스 변환을 수행하는 단계;
   (x-r,y) 좌표에서의 우안 영상 데이터를 중심 좌표로 제2 센서스 윈도우를 설정하고, 상기 제2 센서스 윈도우 내에서 어느 한 좌표에서의 우안 영상 데이터가 상기 (x,y) 좌표에서의 우안 영상 데이터보다 크거나 같은 경우 제1 값을 그 좌표의 값으로 할당하고, 그보다 작은 경우 제2 값을 그 좌표의 값으로 할당하는 센서스 변환을 수행하는 단계;
   상기 제1 센서스 윈도우 내 센서스 변환된 값들을 제1 비트 열로 만들고 상기 제2 센서스 윈도우 내 센서스 변환된 값들을 제2 비트 열로 만든 후, 배타적 논리합 연산하여 제3 비트 열을 만드는 단계; 및
   상기 제3 비트 열의 비트 값들을 합산하여 (x,y,r)에 해당하는 센서스 값을 산출하는 단계를 포함하는 것을 특징으로 하는 멀티뷰 영상 생성방법.
9. 제 6 항에 있어서,
   상기 (2-c) 단계는,
   C(x,y,r)은 (x,y,r)에 해당하는 초기 매칭 값, G는 게인 값, C_cen(x,y,r)은 상기 (x,y,r)에 해당하는 센서스 값, C_AD(x,y,r)은 상기 (x,y,r)에 해당하는 AD 값, 상기 게인 값을 G라 할 때,
   상기 (x,y,r)에 해당하는 초기 매칭 값은,
   

   

   에 의해 산출되는 것을 특징으로 하는 멀티뷰 영상 생성방법.
10. 제 6 항에 있어서,
    상기 (2-d) 단계는,
    (x,y,r)에 해당하는 초기 매칭 값을 상기 중심 좌표로 마스크를 설정하고, 상기 마스크 내 좌표들 각각의 초기 매칭 값들을 합산하여 상기 (x,y,r)에 해당하는 초기 매칭 합산 값을 산출하는 단계; 및
    (x,y,0) 내지 (x,y,r_max)에 해당하는 초기 매칭 합산 값들 중에서 최소값을 갖는 초기 매칭 합산 값의 r을 (x,y) 좌표에서의 초기 디스패러티로 산출하는 단계를 포함하는 것을 특징으로 하는 멀티뷰 영상 생성방법.
11. 데이터 라인들과 게이트 라인들을 포함하는 표시패널;
    좌안 영상 데이터와 우안 영상 데이터를 포함하는 3D 영상 데이터로부터 디스패러티들을 산출하는 디스패러티 산출부와 상기 디스패러티들에 따라 상기 좌안 영상 데이터 또는 상기 우안 영상 데이터를 쉬프트시켜 멀티뷰 영상 데이터를 생성하는 멀티뷰 영상 생성부를 포함하는 영상처리부;
    상기 멀티뷰 영상 데이터를 데이터 전압으로 변환하여 상기 데이터 라인들에 공급하는 데이터 구동회로; 및
    상기 게이트 라인들에 게이트 펄스를 순차적으로 공급하는 게이트 구동회로를 구비하고,
    상기 디스패러티 산출부는,
    제N(N은 2 이상의 자연수) 프레임의 디스패러티들, 좌안 영상 데이터 및 우안 영상 데이터를 분석하여 게인 값을 산출하는 게인 값 산출부; 및
    제N-1 프레임에 산출된 게인 값과 제N 프레임의 좌안 영상 데이터와 우안 영상 데이터를 이용하여 디스패러티들을 산출하는 디스패러티 산출부를 포함하는 것을 특징으로 하는 입체영상 표시장치.

Images