KR101556149B1 - 수신 시스템 및 데이터 처리 방법 - Google Patents

Abstract

3D 영상을 수신하여 처리할 수 있는 수신 시스템 및 데이터 처리 방법이 개시된다. 상기 수신 시스템은 수신부, 복호부, 보상부, 및 디스플레이 장치를 포함할 수 있다. 상기 수신부는 3D 콘텐츠와 상기 3D 콘텐츠에 관련된 시스템 정보를 포함하는 방송 신호를 수신한다. 상기 복호부는 상기 수신된 3D 콘텐츠를 코덱 정보를 기초로 복호하여 상기 3D 콘텐츠로부터 제1 영상과 제2 영상을 복원한다. 상기 보상부는 상기 복호부에서 복원된 제2 영상을 기초로 제3 영상을 생성한다. 상기 디스플레이 장치는 상기 복호부에서 복원된 제1 영상과 상기 보상부에서 생성된 제3 영상을 순차적으로 디스플레이한다.

3차원 영상, 디스플레이 시차, 보상

Description

수신 시스템 및 데이터 처리 방법{Receiving system and method of processing data}

본 발명은 영상 신호를 처리하기 위한 장치 및 방법에 관한 것으로서, 보다 상세하게는 3차원 영상 신호를 수신하여 처리하기 위한 수신 시스템 및 데이터 처리 방법에 관한 것이다.

일반적으로 3차원(3 dimensions ; 3D) 영상(또는 입체 영상)은 두 눈의 스테레오(stereo) 시각 원리에 의한다. 두 눈의 시차 다시 말해 약 65mm 정도 떨어져 존재하는 두 눈 사이의 간격에 의한 양안시차(binocular parallax)는 입체감을 느끼게 하는 중요한 요인으로 좌우 눈이 각각 연관된 평면 영상을 볼 경우 뇌는 이들 서로 다른 두 영상을 융합하여 3D 영상 본래의 깊이감과 실재감을 재생할 수 있다.

이러한 3D 영상 표시는 크게 스테레오스코픽(stereoscopic) 방식, 부피표현(volumetric) 방식, 홀로그래픽(holographic) 방식으로 구분된다. 예를 들어, 스테레오스코픽 기술을 적용한 3D 영상 디스플레이 장치는 2D 영상에 깊이(depth) 정보를 부가하고, 이 깊이 정보를 이용하여 관찰자가 3D의 생동감과 현실감을 느낄 수 있게 하는 화상 표시 장치이다.

그리고 3D 영상을 보여주는 방식에는 크게 안경을 착용하는 방식과 안경을 착용하지 않는 무안경 방식이 있다.

안경을 착용하는 방식은 다시 패시브(passive) 방식과 액티브(active) 방식으로 나눈다. 상기 passive 방식은 편광필터를 사용해서 좌영상과 우영상을 구분해서 보여주는 방식이다. 즉, 상기 passive 방식은 양안에 각각 청색과 적색의 색안경을 쓰고 보는 방식이다. 상기 active 방식은 시간적으로 왼쪽 눈과 오른쪽 눈을 순차적으로 가림으로써 좌영상과 우영상을 구분하는 방식이다. 즉, 상기 active 방식은 시간 분할된 화면을 주기적으로 반복시키고 이 주기에 동기시킨 전자셔터가 설치된 안경을 쓰고 보는 방식이며, 시분할 방식(time split type) 또는 셔텨드 글래스(shuttered glass) 방식이라 하기도 한다.

안경을 착용하지 않는 무안경 방식으로서 알려진 대표적인 것으로는 원통형의 렌즈 어레이를 수직으로 배열한 렌티큘러(lenticular) 렌즈판을 영상 패널 전방에 설치하는 렌티큘러 방식과, 영상 패널 상부에 주기적인 슬릿을 갖는 배리어 층을 구비하는 패러랙스 배리어(parallax barrier) 방식이 있다.

본 발명의 목적은 좌영상과 우영상을 번갈아 디스플레이하여 3D 영상을 구현할 때, 디스플레이 시차(time difference)로 발생하는 왜곡을 보상하기 위한 수신 시스템 및 데이터 처리 방법을 제공함에 있다.

본 발명의 일 실시예에 따른 수신 시스템은 수신부, 복호부, 보상부, 및 디스플레이 장치를 포함할 수 있다. 상기 수신부는 3D 콘텐츠와 상기 3D 콘텐츠에 관련된 시스템 정보를 포함하는 방송 신호를 수신한다. 상기 복호부는 상기 수신된 3D 콘텐츠를 코덱 정보를 기초로 복호하여 상기 3D 콘텐츠로부터 제1 영상과 제2 영상을 복원한다. 상기 보상부는 상기 복호부에서 복원된 제2 영상을 기초로 제3 영상을 생성한다. 상기 디스플레이 장치는 상기 복호부에서 복원된 제1 영상과 상기 보상부에서 생성된 제3 영상을 순차적으로 디스플레이한다.

상기 시스템 정보로부터 해당 3D 콘텐츠의 코덱 정보를 추출하여 상기 복호부로 출력하는 시스템 정보 처리부를 더 포함할 수 있다.

상기 보상부는 상기 복호부에서 출력되는 제1 영상을 저장하는 제1 영상 저장부, 상기 복호부에서 출력되는 제2 영상을 저장한 후 참조 영상으로 출력하는 제2 영상 저장부, 상기 제2 영상 저장부에서 출력되는 적어도 하나의 참조 영상을 기초로 제3 영상을 생성하는 보간기, 상기 보간기에서 출력되는 제3 영상을 저장하는 제3 영상 저장부, 및 상기 제1 영상 저장부에 저장된 제1 영상과 제3 영상 저장부 에 저장된 제3 영상을 순차적으로 출력하는 선택부를 포함할 수 있다.

본 발명의 일 실시예에 따른 수신 시스템의 데이터 처리 방법은, 3D 콘텐츠와 상기 3D 콘텐츠에 관련된 시스템 정보를 포함하는 방송 신호를 수신하는 단계, 상기 수신된 3D 콘텐츠를 코덱 정보를 기초로 복호하여 상기 3D 콘텐츠로부터 제1 영상과 제2 영상을 복원하는 단계, 상기 복원된 제2 영상을 기초로 제3 영상을 생성하는 단계, 및 상기 복원된 제1 영상과 상기 생성된 제3 영상을 순차적으로 디스플레이하는 단계를 포함할 수 있다.

본 발명의 다른 목적, 특징 및 잇점들은 첨부한 도면을 참조한 실시예들의 상세한 설명을 통해 명백해질 것이다.

본 발명에 따른 수신 시스템 및 데이터 처리 방법은 좌영상과 우영상의 샘플링 시간이 동일한 3D 콘텐츠를 수신하여 좌영상과 우영상을 복원한 후 순차적으로 디스플레이할 때, 두 영상 중 하나의 영상을 보간하여 디스플레이한다. 이렇게 함으로써, 디스플레이 시차로 인해 오브젝트(물체)의 깊이 정보가 왜곡되는 것을 방지할 수 있다.

이하 상기의 목적을 구체적으로 실현할 수 있는 본 발명의 바람직한 실시예를 첨부한 도면을 참조하여 설명한다. 이때 도면에 도시되고 또 이것에 의해서 설명되는 본 발명의 구성과 작용은 적어도 하나의 실시예로서 설명되는 것이며, 이것에 의해서 본 발명의 기술적 사상과 그 핵심 구성 및 작용이 제한되지는 않는다.

본 발명에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어를 선택하였으나, 이는 당분야에 종사하는 기술자의 의도 또는 관례 또는 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 발명에서 사용되는 용어는 단순한 용어의 명칭이 아닌 그 용어가 가지는 의미와 본 발명의 전반에 걸친 내용을 토대로 정의되어야 함을 밝혀두고자 한다.

본 발명은 3D 영상을 처리할 수 있는 수신 시스템의 디스플레이 장치가 좌 영상과 우 영상을 순차적으로 보여주는 액티브 방식일 때, 디스플레이 시차에서 발생하는 왜곡을 보상하도록 하는데 있다.

상기 3D 영상으로는 두개의 시점을 고려하는 스테레오(또는 스테레오스코픽) 영상, 세 시점 이상을 고려하는 다시점 영상 등이 있다.

상기 스테레오 영상은 일정한 거리로 이격되어 있는 좌측 카메라와 우측 카메라로 동일한 피사체를 촬영하여 획득한 1쌍의 좌우 영상을 말한다. 상기 다시점 영상은 일정한 거리나 각도를 갖는 3개 이상의 카메라로 동일한 피사체를 촬영하여 획득한 3개 이상의 영상을 말한다.

상기 스테레오 영상의 전송 포맷으로는 싱글 비디오 스트림 포맷과 멀티 비디오 스트림 포맷이 있다. 상기 싱글 비디오 스트림 포맷으로는 도 1의 (a)의 사이드 바이 사이드(side by side), 도 1의 (b)의 톱/다운(top/down), 도 1의 (c)의 인터레이스드(interlaced), 도 1의 (d)의 프레임 시퀀셜(frame sequential), 도 1의 (e)의 체커 보드(checker board), 도 1의 (f)의 애너그리프(anaglyph) 등이 있다. 상기 멀티 비디오 스트림 포맷으로는 도 2의 (a)의 풀 좌/우(Full left/right), 도 2의 (b)의 풀 좌/하프 우(Full left/Half right), 도 2의 (c)의 2D 비디오/깊이(2D video/depth) 등이 있다. 예를 들어, 상기 도 1의 (a)의 사이드 바이 사이드 포맷은 좌 영상과 우 영상을 각각 수평 방향으로 1/2 서브 샘플링하고, 샘플링한 좌 영상을 좌측에, 샘플링한 우 영상을 우측에 위치시켜 하나의 스테레오 영상을 만든 경우이다. 도 1의 (b)의 탑/다운 포맷은 좌 영상과 우 영상을 각각 수직 방향으로 1/2 서브 샘플링하고, 샘플링한 좌 영상을 상부에, 샘플링한 우 영상을 하부에 위치시켜 하나의 스테레오 영상을 만든 경우이다. 도 1의 (c)의 인터레이스드 포맷은 좌 영상과 우 영상을 각각 수직 방향으로 1/2 서브 샘플링하고, 샘플링한 좌 영상의 화소와 우 영상의 화소가 라인마다 교대로 위치하도록 하여 스테레오 영상을 만들거나, 좌 영상과 우 영상을 각각 수평 방향으로 1/2 서브 샘플링하고, 샘플링한 좌 영상의 화소와 우 영상의 화소가 한 화소씩 교대로 위치하도록 하여 스테레오 영상을 만든 경우이다. 도 1의 (e)의 체커 보드 포맷은 좌 영상과 우 영상을 각각 수직과 수평 방향으로 1/2 서브 샘플링하고, 샘플링한 좌 영상의 화소와 우 영상의 화소가 한 화소씩 교대로 위치하도록 하여 스테레오 영상을 만든 경우이다.

또한 도 2의 (a)의 풀 좌/우 포맷은 좌 영상과 우 영상을 순차적으로 각각 전송하는 경우이고, 도 2의 (b)의 풀 좌/하프 우 포맷은 좌 영상은 그대로, 우 영상은 수직 또는 수평 방향으로 1/2 서브 샘플링하여 전송하는 경우이다. 도 2의 (c)의 2D 비디오/깊이 포맷은 좌 영상과 우 영상 중 하나의 영상과 다른 하나의 영 상을 만들어내기 위한 깊이 정보를 함께 전송하는 경우이다.

이때 상기 스테레오 영상 또는 다시점 영상은 MPEG 또는 여러 가지 방법으로 압축 부호화되어 수신 시스템으로 전송된다.

예를 들어, 상기 사이드 바이 사이드 포맷, 톱/다운 포맷, 인터레이스드 포맷, 체커 보드 등과 같은 스테레오 영상은 H.264/AVC 방식으로 압축 부호화하여 전송할 수 있다. 이때 수신 시스템에서 H.264/AVC 코딩 방식의 역으로 상기 스테레오 영상에 대해 복호를 수행하여 3D 영상을 얻을 수 있다.

또한 상기 풀 좌/하프 우 포맷의 좌 영상 또는 다시점 영상 중 하나의 영상은 기본 계층(based layer) 영상으로, 나머지 영상은 상위 계층(enhanced layer) 영상으로 할당한 후, 기본 계층의 영상은 모노스코픽 영상과 동일한 방식으로 부호화하고, 상위 계층의 영상은 기본 계층과 상위 계층의 영상간의 상관 정보에 대해서만 부호화하여 전송할 수 있다. 상기 기본 계층의 영상에 대한 압축 부호화 방식의 예로는 JPEG, MPEG-1, MPEG-2, MPEG-4, H.264/AVC 방식 등이 사용될 수 있으며, 본 발명은 H.264/AVC 방식을 사용하는 것을 일 실시예로 한다. 그리고 상위 계층의 영상에 대한 압축 부호화 방식은 H.264/MVC (Multi-view Video Coding) 방식을 사용하는 것을 일 실시예로 한다. 이때, 스테레오 영상은 기본 계층의 영상과 하나의 상위 계층 영상으로 할당되나, 다시점 영상은 하나의 기본 계층의 영상과 복수개의 상위 계층 영상으로 할당된다. 상기 다시점 영상을 기본 계층의 영상과 하나 이상의 상위 계층의 영상으로 구분하는 기준은 카메라의 위치에 따라 결정될 수도 있고, 카메라의 배열 형태에 따라 결정될 수도 있다. 또는 특별한 기준을 따르지 않 고 임의로 결정될 수도 있다.

본 발명은 압축 부호화되어 수신되는 스테레오 영상 또는 다시점 영상으로부터 좌영상과 우영상을 복원하고, 복원된 좌영상과 우영상을 순차적으로 보여줄 때 디스플레이 시차로 인해 발생할 수 있는 왜곡을 보상한 후 디스플레이하는 것을 특징으로 한다. 여기서 디스플레이 시차는 샘플링 시간이 동일한 좌영상과 우영상을 시간 차이를 두고 순차적으로 디스플레이할 때 발생한다. 그리고 이 디스플레이 시차로 인해 화면에 표시되는 3D 영상에 왜곡이 발생할 수 있다.

예를 들어, 동일한 시간에 복수개의 카메라로 획득한 좌영상과 우영상의 샘플링 시간이 동일하다고 가정하자. 이때 수신 시스템의 디스플레이 장치에서 동일한 샘플링 시간을 가지는 좌영상과 우영상을 시간 차이를 두고 좌측 눈과 우측 눈에 보여줄 경우에는 왜곡이 발생할 수 있다.

도 3의 (a)는 사다리꼴을 배경으로 해서 왼쪽에서 오른쪽으로 이동하는 물체를 스테레오 카메라로 촬영한 예를 보이고 있다. 이때 각각의 영상들이 같은 시간에 샘플링되었으며, 뒤에 보이는 사다리꼴의 모양과는 다른 심도를 보인다. 도 3의 (a)에서는 사다리꼴 모양의 앞쪽에 보인다고 가정한다.

만일 디스플레이 장치가 시간적으로 좌영상과 우영상을 순차적으로 보여주는 액티브 형식이라고 가정하자. 이 경우, 도 3의 (b)는 샘플링 시간과 동일하게 좌영상을 디스플레이하고, 도 3의 (c)는 샘플링 시간의 중간 시간에 우영상을 디스플레이하는 예를 보이고 있다.

즉, t0,t2,t4 시간에 좌영상과 우영상을 샘플링한 후, 좌영상은 t0,t2,t4 시 간에 디스플레이하고, 우영상은 t1,t3,t5 시간에 디스플레이하는 예이다.

도 3의 (d)는 도 3의 (b),(c)와 같이 좌영상과 우영상을 시간 차이를 두고 디스플레이할 때, 우영상이 보이는 시점에서 두뇌가 받아들이는 좌영상의 예를 보인 것으로서, 좌우 영상의 디스플레이 시차로 인해 왜곡이 발생함을 알 수 있다.

즉, 물체가 움직이지 않을 경우에는 원래의 심도(深度)로 보이지만, 물체가 움직이기 시작하면 방향에 따라서 원래의 심도보다 얕게 보일 수도 있으며, 원래의 심도보다 깊게 보일 수도 있다. 이를 좌/우 영상의 샘플링 시간과 디스플레이 시간이 다른데서, 즉 디스플레이 시차(時差)에서 발생하는 왜곡이라 한다.

도 4는 이러한 왜곡을 보상하기 위한 본 발명에 따른 수신 시스템의 일 실시예를 보인 구성 블록도로서, 디코딩 장치(110), 보상부(120), 디스플레이 장치(130)를 포함할 수 있다.

상기 보상부(120)는 디코딩 장치(110)와 디스플레이 장치(130) 중 어느 하나에 포함되어 구성될 수도 있고, 도 4와 같이 별도로 구성될 수도 있다. 또한 디코딩 장치(110), 보상부(120), 및 디스플레이 장치(130)는 일체형으로 구성될 수도 있고, 분리형으로 구성될 수도 있다.

상기 디코딩 장치(110)는 콘텐트 소스(도시되지 않음)로부터 스테레오 영상 또는 다시점 영상을 수신 및 복호하여 원래 영상을 복원한다.

상기 콘텐트 소스는 3차원 영상을 위한 3D 콘텐츠를 포함하며, 일 예로 디스크, 인터넷 서버, 지상파/위성/케이블 방송국 등이 될 수 있다.

상기 디코딩 장치(110)로는 디스크 플레이어(Disc player), IPTV 셋톱박 스(settop box), 지상파, 위성, 케이블 등을 시청할 수 있는 텔레비전(TV)이 될 수 있다.

도 5는 도 4의 디코딩 장치의 일 실시예를 보인 상세 구성 블록도이다. 상기 디코딩 장치(110)는 제어부(211), 유저 인터페이스부(212), 수신부(213), 역다중화기(214), 시스템 정보 처리부(215), 오디오 복호기(216), 및 비디오 복호기(217)를 포함할 수 있다.

즉, 콘텐트 소스로부터 전송되는 2D 영상 또는 3D 영상 콘텐츠 및 상기 2D 영상 또는 3D 영상을 복호하는데 필요한 시스템 정보는 수신부(213)로 수신된다.

그리고 유저 인터페이스부(212)를 통해 수신을 원하는 특정 채널이 선택되면 제어부(211)는 해당 채널의 2D 콘텐츠 또는 3D 콘텐츠를 수신하도록 수신부(213)를 제어한다.

상기 수신부(211)는 특정 채널의 2D 콘텐츠 또는 3D 콘텐츠에 대해 복조 및 채널 등화를 수행한 후 스트림 형태로 역다중화기(214)로 출력한다. 상기 수신부(211)로 수신된 시스템 정보도 스트림 형태로 역다중화기(214)로 출력된다.

상기 역다중화기(214)는 각 스트림의 패킷 식별자(PID)를 참조하여 오디오 스트림은 오디오 복호기(216)로 출력하고, 비디오 스트림은 비디오 복호기(217)로 출력하며, 시스템 정보는 시스템 정보 처리부(215)로 출력한다.

상기 시스템 정보 처리부(215)는 시스템 정보로부터 역다중화기(214)의 역다중화에 필요한 PID를 추출하여 역다중화기(214)로 제공한다.

상기 시스템 정보는 경우에 따라서는 서비스 정보라고도 불리운다. 상기 시 스템 정보는 채널 정보, 프로그램 정보, 이벤트 정보 등을 포함할 수 있다.

본 발명의 실시예에서는 상기 시스템 정보로서 PSI/PSIP(Program Specific Information/Program and System Information Protocol)을 적용하나 본 발명은 이에 한정하는 것은 아니다. 즉 시스템 정보를 테이블 포맷으로 전송하는 프로토콜이라면 그 명칭에 상관없이 본 발명에 적용 가능할 것이다.

상기 PSI는 채널 및 프로그램을 분류하기 위해 정의된 MPEG-2의 시스템 규격이고, 상기 PSIP는 채널 및 프로그램의 분류가 가능한 ATSC(Advanced Television Systems Committee) 규격이다.

상기 PSI는 일 실시예로서, PAT(Program Association Table), CAT(Conditional Access Table), PMT(Program Map Table), 및 NIT(Network Information Table)를 포함할 수 있다.

상기 PAT는 PID가 '0'인 패킷에 의해 전송되는 특수 정보로서, 각 프로그램마다 해당 PMT의 PID 정보와 NIT의 PID 정보를 전송한다. 상기 CAT는 송신측에서 사용하고 있는 유료 방송 시스템에 대한 정보를 전송한다. 상기 PMT는 프로그램 식별 번호와 프로그램을 구성하는 비디오, 오디오 등의 개별 비트 스트림이 전송되는 트랜스포트 스트림 패킷의 PID 정보, 및 PCR이 전달되는 PID 정보를 전송한다. 상기 NIT는 실제 전송망의 정보를 전송한다. 예를 들어, PID가 0인 PAT 테이블을 파싱하여 프로그램 번호(Program number)와 PMT의 PID를 알아낸다. 그리고 상기 PAT로부터 얻어낸 PMT를 파싱하면 프로그램을 구성하는 구성 요소들간의 상관 관계를 알 수 있다.

상기 PISP은 일 실시예로서, VCT(Virtual Channel Table), STT(System Time Table), RRT(Rating Region Table), ETT(Extended Text Table), DCCT(Direct Channel Change Table), DCCSCT(Direct Channel Change Selection Code Table), EIT(Event Information Table), 및 MGT(Master Guide Table)를 포함할 수 있다.

상기 VCT는 가상 채널에 대한 정보 예를 들어, 채널 선택을 위한 채널 정보와 오디오 및/또는 비디오의 수신을 위한 패킷 식별자(PID) 등의 정보를 전송한다. 즉, 상기 VCT를 파싱하면 채널 이름, 채널 번호 등과 함께 채널 내에 실려오는 방송 프로그램의 오디오와 비디오의 PID를 알 수 있다. 상기 STT는 현재의 날짜와 시간 정보를 전송하고, 상기 RRT는 프로그램 등급을 위한 지역 및 심의 기관 등에 대한 정보를 전송한다. 상기 ETT는 채널 및 방송 프로그램에 대한 부가 설명을 전송하고, 상기 EIT는 가상 채널의 이벤트에 대한 정보(예를 들어, 제목, 시작 시간 등등)를 전송한다. 상기 DCCT/DCCSCT는 자동 채널 변경과 관련된 정보를 전송하고, 상기 MGT는 상기 PSIP 내 각 테이블들의 버전 및 PID 정보를 전송한다.

본 발명에서는 상기 수신부(213)로 수신되는 프로그램이 3D 콘텐츠임을 인식할 수 있는 식별 정보가 상기 시스템 정보에 포함될 수 있으며, 이 경우 시스템 정보 처리부(215)는 이를 추출하여 역다중화기(214)로 제공한다.

본 발명에서는 해당 3D 콘텐츠가 어떤 전송 포맷으로 수신되는지를 식별할 수 있는 전송 포맷 정보가 상기 시스템 정보에 포함되어 수신될 수 있다. 본 발명은 PMT와 VCT 중 적어도 하나의 테이블에 전송 포맷 정보가 포함되어 수신되는 것을 일 실시예로 한다. 즉, 상기 시스템 정보 처리부(215)에서 PMT나 VCT에 포함되 어 수신되는 전송 포맷 정보를 파싱하면, 해당 3D 콘텐츠가 사이드 바이 사이드(side by side), 톱/다운(top/down), 인터레이스드(interlaced), 프레임 시퀄셜(frame sequential), 체커 보드(checker board), 애너그리프(anaglyph), 풀 좌/우(Full left/right), 풀 좌/하프 우(Full left/Half right), 2D 비디오/깊이(2D video/depth) 중 어떤 전송 포맷으로 수신되는지를 알 수 있다.

본 발명에서는 해당 3D 콘텐츠가 다시점 영상인 경우, 다시점 영상을 복호할 수 있는 시점 정보가 상기 시스템 정보에 포함되어 수신될 수 있다. 상기 시점 정보도 PMT와 VCT 중 적어도 하나의 테이블에 시점 정보가 포함되어 수신되는 것을 일 실시예로 한다. 즉, 상기 시스템 정보 처리부(215)에서 PMT나 VCT에 포함되어 수신되는 시점 정보를 파싱하면, 해당 시점에 대한 정보와 해당 시점의 영상을 부호화할 때 참조한 시점에 대한 정보를 얻을 수 있다.

그리고 상기 시스템 정보 처리부(215)에서 파싱된 전송 포맷 정보와 시점 정보 중 적어도 하나는 비디오 스트림의 복호를 위해 역다중화기(214)나 제어부(211)를 통해 또는 직접 비디오 복호기(217)로 제공된다. 본 발명은 설명의 편의를 위해 전송 포맷 정보와 시점 정보를 코덱 정보라 하기로 한다.

상기 비디오 복호기(217)는 역다중화기(214)에서 출력되는 비디오 스트림이 스테레오 영상의 비디오 스트림이라면, 상기 코덱 정보 중 전송 포맷 정보를 기초로 입력되는 비디오 스트림을 H.264/AVC 방식으로 복호하여 좌영상과 우영상을 복원하는 것을 일 실시예로 한다. 예를 들어, 상기 전송 포맷 정보가 해당 3D 콘텐츠가 도 1의 (a)와 같이 사이드 바이 사이드 포맷으로 전송되었음을 표시하면, 상기 비디오 복호기(217)는 비디오 스트림을 H.264/AVC 방식으로 수평 방향에 대해 복호하여 좌영상과 우영상을 복원할 수 있다.

상기 비디오 복호기(217)는 복원된 좌영상과 우영상 중 하나의 영상은 보상부(120)의 제1 버퍼(121)로 출력하고, 다른 하나의 영상은 제3 버퍼(123)로 출력한다. 즉, 그대로 디스플레이 장치(130)로 출력할 영상은 제1 버퍼(121)로 출력하고, 보간 과정을 거쳐 디스플레이 장치(130)로 출력할 영상은 제3 버퍼(123)로 출력한다. 본 발명은 좌영상은 제1 버퍼(121)로 출력하고, 우영상은 제3 버퍼(123)로 출력하는 것을 일 실시예로 한다.

또한 상기 비디오 복호기(217)는 역다중화기(214)에서 출력되는 비디오 스트림이 다시점 영상의 비디오 스트림이라면, 상기 코덱 정보 중 시점 정보를 기초로 입력되는 비디오 스트림을 복호하여 다시점 영상을 복원한다. 예를 들어, 기본 계층의 영상은 H.264/AVC 방식으로 복호하고, 상위 계층의 영상은 H.264/MVC 방식으로 복호하여 원래의 다시점 영상을 복원하는 것을 일 실시예로 한다. 본 발명은 복원된 다시점 영상 중 좌측 눈에 보여줄 좌영상과 우측 눈에 보여줄 우영상을 선택하고, 선택된 좌영상은 제1 버퍼(121)로 출력하고, 우영상은 제3 버퍼(123)로 출력하는 것을 일 실시예로 한다.

본 발명은 설명의 편의를 위해 제1 버퍼(121)로 입력되는 좌영상을 제1 영상이라 하기로 하고, 제3 버퍼(123)로 입력되는 우영상을 제2 영상이라 하기로 한다.

즉, 상기 보상부(120)는 디코딩 장치(110)에서 출력되는 제1 영상을 일시 저장하는 제1 버퍼(121), 제1 버퍼(121)에서 일시 저장된 후 출력되는 제1 영상을 일 시 저장하는 제2 버퍼(122), 디코딩 장치(110)에서 출력되는 제2 영상을 일시 저장하는 제3 버퍼(123), 제3 버퍼(123)에서 일시 저장된 후 출력되는 제2 영상을 일시 저장하는 제4 버퍼(124), 상기 제3, 제4 버퍼(123,124)에서 출력되는 제2 영상을 기초로 보간을 수행하여 제3 영상을 생성하는 보간기(interpolator)(125), 상기 보간기(125)에서 생성된 제3 영상을 일시 저장하는 제5 버퍼(126), 및 상기 제2 버퍼(122)의 제1 영상과 제5 버퍼(126)의 제3 영상 중 하나를 선택하여 디스플레이 장치(130)로 출력하는 선택부(127)를 포함할 수 있다.

상기 제1 내지 제5 버퍼(121-124,126)는 적어도 한 필드 또는 한 프레임의 크기를 갖도록 설계될 수 있다. 예를 들어, 한 프레임의 크기를 갖도록 설계된다면, 상기 제1 내지 제5 버퍼(121-124,126)는 프레임 지연기의 역할을 수행한다.

이 경우 상기 제1 버퍼(121)는 상기 디코딩 장치(110)에서 복호되어 출력되는 제1 영상을 입력받아 한 프레임 동안 지연한 후 제2 버퍼(122)로 출력된다. 상기 제2 버퍼(122)는 제1 버퍼(121)에서 지연되어 출력되는 제1 영상을 일정 시간 (예를 들어, 한 프레임 동안) 지연한 후 선택부(127)로 출력한다.

상기 제3 버퍼(123)는 상기 디코딩 장치(110)에서 복호되어 출력되는 제2 영상을 입력받아 한 프레임 동안 지연한 후 제4 버퍼(124)와 보간기(125)로 출력한다. 상기 제4 버퍼(124)는 제3 버퍼(123)에서 출력되는 제2 영상을 다시 한 프레임 동안 지연한 후 상기 보간기(125)로 출력한다.

즉, 상기 제3 버퍼(123)에서 출력되는 제2 영상은 현재 제2 영상이 되고, 제4 버퍼(124)에서 출력되는 제2 영상은 이전 제2 영상이 된다.

상기 보간기(125)는 제3 버퍼(123)에서 출력되는 현재 제2 영상과 제4 버퍼(124)에서 출력되는 이전 제2 영상을 기초로 보간을 수행하여 제3 영상을 생성한다. 본 발명은 제3 영상을 생성하는데 참조되는 영상을 참조 영상이라 하기로 한다. 본 발명에서는 현재 제2 영상과 이전 제2 영상이 참조 영상이 된다.

상기 보간 방법은 입력되는 영상의 개수, 동일한 시간에 샘플링된 좌영상과 우영상 중 어느 것을 먼저 디스플레이하는냐에 따라 달라질 수 있다.

만일 디스플레이 장치(130)가 제1 영상 즉, 좌영상을 먼저 디스플레이하고, 그 다음에 제2 영상 즉, 우영상을 디스플레이한다고 가정할 경우에, 상기 보간기(125)에서는 이전 우영상과 현재 우영상을 기초로 보간을 수행하여 제3 영상 즉, 새로운 우영상을 생성하는 것을 일 실시예로 한다.

이때, 보간을 통해 새로운 영상을 생성하는 방법은 다양하다. 예를 들어, 두 참조 영상 간에 움직임이 있다면 두 영상으로부터 움직임 벡터를 추출하여 새로운 영상의 생성에 이용할 수도 있다. 상기 움직임 벡터는 영상간의 움직임 정도와 방향을 나타낸다.

만일 두 참조 영상 간에 움직임이 없다면 두 영상의 평균을 구하여 새로운 영상을 생성할 수도 있다. 상기 보간기(125)에서 적어도 하나의 영상을 참조하여 새로운 영상을 생성하는 방법은 당업자에 의해 변경이 용이하므로 본 발명은 상기된 실시예로 한정되지 않을 것이다.

도 6은 보간기(125)에서 현재 영상 f(n+1)과 이전 영상 f(n-1)으로부터 움직임 벡터를 추정하여 새로운 영상 f(n)을 만드는 과정을 보여준다.

예를 들어, t(n-1), t(n+1) 시간에 좌/우 영상이 동시에 샘플링되어 수신되었다고 가정하면, 상기 디코딩 장치(110)에서 복호된 좌영상과 우영상은 시간 t(n-1),t(n+1)의 영상이다. 이때 디스플레이 장치(130)에서 좌영상은 시간 t(n-1), t(n+1)에 디스플레이하고, 우영상은 시간 t(n), t(n+2)에 디스플레이한다고 가정하자.

이 경우 상기 보간기(125)는 이전 우영상 f(n-1)에 포함되어 있는 오브젝트가 현재 우영상 f(n+1)의 어디에 위치하는가를 알 수 있는 움직임 벡터를 찾는다. 그리고 그 움직임 벡터와 이전 우영상 f(n-1) 또는 현재 우영상 f(n+1)을 이용해서 시간 t(n)에 필요한 우영상 f(n)을 생성한다.

만일 버퍼의 용량 또는 버퍼의 개수를 늘릴 수 있다면, 상기 보간에 이용된 참조 영상보다 더욱 많은 참조 영상을 이용하여 새로운 우영상을 만들어낼 수도 있다. 이때 참조되는 영상이 많을수록 새로운 영상의 해상도는 높아지지만 버퍼의 증가로 인해 가격이 상승하므로, 시스템에 따라 참조 영상의 수 및 보간 방법을 결정한다.

상기 보간기(125)에서 생성된 제3 영상은 제5 버퍼(126)로 출력되어 일정 시간(예를 들어 한 프레임 동안) 지연된 후 선택부(127)로 출력된다.

상기 선택부(127)는 스위칭 소자, 먹스 등을 이용하여 구현될 수 있다. 상기 선택부(127)는 제2 버퍼(122)에 저장된 제1 영상(L1,L2,...)과 제5 버퍼(126)에 저장된 제3 영상(R1',R2',...)을 순차적으로 선택하여 디스플레이 장치(130)로 출력한다. 도 7에서, L1,L2,...는 제2 버퍼(122)에서 선택부(127)로 출력되는 제1 영상 즉, 좌영상을 표시하고, R1,R2,...는 보간기(125)로 입력되는 제2 영상 즉, 우영상을 표시한다. 그리고, R1',R2',...는 제5 버퍼(126)에서 선택부(127)로 출력되는 제3 영상 즉, 새로운 우영상을 표시한다.

상기 디스플레이 장치(130)는 상기 디코딩 장치(110) 또는 보상부(120)에서 출력되는 영상을 2차원 또는 3차원 형태로 디스플레이한다. 상기 디스플레이 장치로는 일반 2D 영상을 디스플레이할 수 있는 장치, 안경을 필요로 하는 3D 영상을 디스플레이할 수 있는 장치, 안경을 필요로 하지 않는 3D 영상을 디스플레이할 수 있는 장치 등이 될 수 있다.

상기 디스플레이 장치(130)는 상기 보상부(120)의 선택부(127)에서 출력되는 제1 영상과 제3 영상을 이용하여 다양한 방법으로 3D 영상을 만들어 디스플레이하는 것을 일 실시예로 한다.

본 발명의 디스플레이 장치(130)는 안경을 착용하는 방식 중 좌영상과 우영상을 순차적으로 디스플레이하는 셔텨드 글래스(shuttered glass) 방식을 이용하는 것을 일 실시예로 한다.

이를 위해 상기 디스플레이 장치(130)는 셔터 글래스를 포함하는 것을 일 실시예로 한다.

상기 셔터 글래스는 디스플레이 장치(130)의 화면에 표시되는 3D 영상을 보기 위해 사용자에게 착용되어야 하는 장치로서, 동기 신호(도시되지 않음)에 따라 좌우 렌즈를 번갈아 개폐함으로써 사용자에게 3D 영상을 제공한다. 즉, 상기 셔터 글래스의 좌우 렌즈가 번갈아 개폐됨에 따라 좌영상과 우영상이 번갈아 차단됨으로 써 좌우 양안에는 서로 다른 상이 맺히게 되고, 이를 통해 사용자는 입체감을 느끼게 된다. 다시 말해, 상기 셔터 글래스의 좌우 렌즈가 번갈아 개폐됨으로써, 사용자의 좌측 눈으로는 좌영상만을 보게되고, 우측 눈으로는 우영상만을 보게 되는데, 이러한 동작이 빠른 속도로 수행되면서 사용자는 좌/우영상을 동시에 보는 것처럼 느끼게 되고, 그 결과 영상이 입체적으로 보이게 된다.

도 7을 예로 들면, 상기 디스플레이 장치(130)는 같은 샘플링 시간에 대해 선택부(127)에서 출력되는 제1 영상 즉, 좌영상을 먼저 디스플레이하고, 이어 선택부(127)에서 출력되는 제3 영상 즉, 새로운 우영상을 디스플레이한다. 이러한 과정을 반복하여 3D 영상을 구현하면, 디스플레이 시차로 인한 왜곡이 발생하지 않게 된다.

만일 콘텐트 소스로부터 2D 콘텐츠가 전송되었다면, 상기 디코딩 장치(110)는 기존 방식에 따라 비디오 스트림과 오디오 스트림을 분리하고, 각각의 복호 알고리즘으로 복호한 후 디스플레이 장치(130)로 바로 출력한다. 상기 디스플레이 장치(130)는 기존의 방식대로 2D 영상을 디스플레이한다.

이상에서와 같이 본 발명에 따른 수신 시스템 및 데이터 처리 방법은 좌영상과 우영상의 샘플링 시간이 동일한 3D 콘텐츠를 수신하여 좌영상과 우영상을 복원한 후 순차적으로 디스플레이할 때, 두 영상 중 하나의 영상을 보간하여 디스플레이한다. 이렇게 함으로써, 디스플레이 시차로 인해 오브젝트(물체)의 깊이 정보가 왜곡되는 것을 방지할 수 있다.

본 발명은 좌영상과 우영상이 각각 눈에 보여지는 시간이 다른 형태의 디스 플레이 장치에 적용하면 효과적이다.

지금까지 설명한 본 발명은 상술한 실시예에 한정되지 않으며, 첨부된 청구범위에서 알 수 있는 바와 같이 본 발명이 속한 분야의 통상의 지식을 가지 자에 의해 변형이 가능하고 이러한 변형은 본 발명의 범위에 속한다.

이상 설명한 내용을 통해 당업자라면 본 발명의 기술 사상을 일탈하지 아니하는 범위에서 다양한 변경 및 수정이 가능함을 알 수 있을 것이다.

따라서 본 발명의 기술적 범위는 실시예에 기재된 내용으로 한정되는 것이 아니라 특허 청구의 범위에 의하여 정해져야 한다.

도 1은 본 발명에 따른 3D 영상의 전송 포맷들 중 싱글 비디오 스트림 포맷의 예들을 보인 도면

도 2는 본 발명에 따른 3D 영상의 전송 포맷들 중 멀티 비디오 스트림 포맷의 예들을 보인 도면

도 3의 (a) 내지 (d)는 동일한 시간에 샘플링된 좌영상과 우영상의 디스플레이 과정을 보인 도면

도 4는 본 발명에 따른 수신 시스템의 일 실시예를 보인 구성 블록도

도 5는 도 4의 디코딩 장치의 일 실시예를 보인 상세 블록도

도 6은 도 4의 보상부의 보간 과정의 일 실시예를 보인 도면

도 7은 도 4의 디스플레이 장치에서 좌영상과 보간된 우영상을 디스플레이하는 과정의 일 실시예를 보인 도면

*도면의 주요부분에 대한 부호의 설명*

110 : 디코딩 장치 120 : 보상부

130 : 디스플레이 장치

211 : 제어부 212 : 유저 인터페이스부

213 : 수신부 214 : 역다중화기

215 : 시스템 정보 처리부 216 : 오디오 복호기

217 : 비디오 복호기

Claims (12)

1. 3D 콘텐츠와 상기 3D 콘텐츠에 관련된 시스템 정보를 포함하는 방송 신호를 수신하는 수신부;

   상기 수신된 3D 콘텐츠를 코덱 정보를 기초로 복호하여 상기 3D 콘텐츠로부터 제1 영상과 제2 영상을 복원하는 복호부,

   여기서, 상기 제1 영상과 제2 영상은 각각 동일 시간에 샘플링된 좌영상과 우영상이고;

   상기 복호부에서 복원된 제2 영상을 기초로 제3 영상을 생성하는 보상부,

   여기서, 상기 제3 영상은 상기 제2 영상이 샘플링된 시간보다 일정 시간이 지연된 시간에 대한 영상이고; 및

   상기 복호부에서 복원된 제1 영상과 상기 보상부에서 생성된 제3 영상을 각각 상기 제1 영상이 샘플링된 시간 및 제2 영상이 샘플링된 시간보다 일정 시간이 지연된 시간에 순차적으로 디스플레이하는 디스플레이 장치;

   를 포함하는 것을 특징으로 하는 수신 시스템.
2. 제 1 항에 있어서,

   상기 시스템 정보로부터 상기 3D 콘텐츠의 코덱 정보를 추출하여 상기 복호부로 출력하는 시스템 정보 처리부;

   를 더 포함하는 것을 특징으로 하는 수신 시스템.
3. 제 2 항에 있어서,

   상기 코덱 정보는 전송 포맷 정보와 시점 정보 중 적어도 하나를 포함하는 것을 특징으로 하는 수신 시스템.
4. 제 1 항에 있어서, 상기 보상부는

   상기 복호부에서 출력되는 제1 영상을 저장하는 제1 영상 저장부;

   상기 복호부에서 출력되는 제2 영상을 저장한 후 참조 영상으로 출력하는 제2 영상 저장부;

   상기 제2 영상 저장부에서 출력되는 적어도 하나의 참조 영상을 기초로 제3 영상을 생성하는 보간기;

   상기 보간기에서 출력되는 제3 영상을 저장하는 제3 영상 저장부; 및

   상기 제1 영상 저장부에 저장된 제1 영상과 제3 영상 저장부에 저장된 제3 영상을 순차적으로 출력하는 선택부;

   를 포함하는 것을 특징으로 하는 수신 시스템.
5. 제 4 항에 있어서, 상기 보간기는

   상기 제2 영상 저장부에서 이전 제2 영상과 현재 제2 영상을 입력받아 두 영상간의 움직임 벡터를 추출한 후, 추출된 상기 움직임 벡터를 이용하여 제3 영상을 생성하는 것을 특징으로 하는 수신 시스템.
6. 3D 콘텐츠와 상기 3D 콘텐츠에 관련된 시스템 정보를 포함하는 방송 신호를 수신하는 단계;

   상기 수신된 3D 콘텐츠를 코덱 정보를 기초로 복호하여 상기 3D 콘텐츠로부터 제1 영상과 제2 영상을 복원하는 단계,

   여기서, 상기 제1 영상과 제2 영상은 각각 동일 시간에 샘플링된 좌영상과 우영상이고;

   상기 복원된 제2 영상을 기초로 제3 영상을 생성하는 단계,

   여기서, 상기 제3 영상은 상기 제2 영상이 샘플링된 시간보다 일정 시간이 지연된 시간에 대한 영상이고; 및

   상기 복원된 제1 영상과 상기 생성된 제3 영상을 각각 상기 제1 영상이 샘플링된 시간 및 상기 제2 영상이 샘플링된 시간보다 일정 시간이 지연된 시간에 순차적으로 디스플레이하는 단계;

   를 포함하는 것을 특징으로 하는 수신 시스템의 데이터 처리 방법.
7. 제 6 항에 있어서,

   상기 시스템 정보로부터 상기 3D 콘텐츠의 코덱 정보를 추출하여 상기 복호 단계로 출력하는 단계;

   를 더 포함하는 것을 특징으로 하는 수신 시스템의 데이터 처리 방법.
8. 제 7 항에 있어서,

   상기 코덱 정보는 전송 포맷 정보와 시점 정보 중 적어도 하나를 포함하는 것을 특징으로 하는 수신 시스템의 데이터 처리 방법.
9. 제 6 항에 있어서, 상기 제3 영상을 생성하는 단계는

   상기 복원된 제1 영상을 저장하는 단계;

   상기 복원된 제2 영상을 저장한 후 적어도 하나의 참조 영상으로 출력하는 단계;

   상기 참조 영상을 기초로 제3 영상을 생성하는 단계;

   상기 생성된 제3 영상을 저장하는 단계; 및

   상기 저장된 제1 영상과 상기 저장된 제3 영상을 순차적으로 출력하는 단계;

   를 포함하는 것을 특징으로 하는 수신 시스템의 데이터 처리 방법.
10. 제 9 항에 있어서, 상기 제3 영상 생성 단계는

    상기 참조 영상 중 이전 제2 영상과 현재 제2 영상간의 움직임 벡터를 추출한 후, 추출된 상기 움직임 벡터를 이용하여 제3 영상을 생성하는 것을 특징으로 하는 수신 시스템의 데이터 처리 방법.
11. 삭제
12. 삭제

Images