KR20160034259A - 비디오 신호 처리 방법 및 장치 - Google Patents

비디오 신호 처리 방법 및 장치 Download PDF

Info

Publication number
KR20160034259A
KR20160034259A KR1020157036465A KR20157036465A KR20160034259A KR 20160034259 A KR20160034259 A KR 20160034259A KR 1020157036465 A KR1020157036465 A KR 1020157036465A KR 20157036465 A KR20157036465 A KR 20157036465A KR 20160034259 A KR20160034259 A KR 20160034259A
Authority
KR
South Korea
Prior art keywords
data
layer
depth
alpha
video signal
Prior art date
Application number
KR1020157036465A
Other languages
English (en)
Inventor
루사노브스키드미트로
예세훈
김태섭
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Publication of KR20160034259A publication Critical patent/KR20160034259A/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/186—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a colour or a chrominance component
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • H04N13/0422—
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 발명은 비디오 신호 처리 방법 및 장치에 관한 것으로서, 다시점 비디오 신호를 수신하고, 제1 레이어 및 제2 레이어를 포함하는 현재 픽쳐가 상기 다시점 비디오 신호 내 알파 데이터를 이용하여 디코딩되는지 식별하고, 상기 현재 픽쳐가 상기 알파 데이터를 이용하여 디코딩된다고 식별될 때, 상기 제1 레이어 및 상기 제2 레이어에 대응되는 상기 알파 데이터를 획득하고, 상기 알파 데이터를 이용하여 상기 현재 픽쳐에 포함되는 현재 블록를 디코딩하되, 상기 알파 데이터는 상기 현재 픽쳐의 투명 정보에 관한 정보를 포함할 수 있다.

Description

비디오 신호 처리 방법 및 장치{METHOD AND APPARATUS FOR PROCESSING VIDEO SIGNAL}
본 발명은 비디오 신호의 코딩 방법 및 장치에 관한 것이다.
압축 부호화란 디지털화한 정보를 통신 회선을 통해 전송하거나, 저장 매체에 적합한 형태로 저장하는 일련의 신호 처리 기술을 의미한다. 압축 부호화의 대상에는 음성, 영상, 문자 등의 대상이 존재하며, 특히 영상을 대상으로 압축 부호화를 수행하는 기술을 비디오 영상 압축이라고 일컫는다. 다시점 비디오 영상의 일반적인 특징은 공간적 중복성, 시간적 중복성 및 시점 간 중복성을 지니고 있는 점에 특징이 있다.
본 발명의 목적은 비디오 신호의 코딩 효율을 높이고자 함에 있다.
본 발명은 다시점 비디오 신호 데이터에 투명도와 관련된 알파 데이터를 포함시키는 것을 특징으로 한다.
또한, 본 발명은 알파 데이터를 텍스쳐 데이터 및 뎁스 데이터를 이용하여 코딩하는 것을 특징으로 한다.
본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
본 발명은 알파 데이터를 이용하여 다시점 영상의 투명 또는 반투명 영역을 정확하게 디코딩할 수 있다.
또한, 본 발명은 텍스쳐 데이터 및 뎁스 데이터를 이용하여 알파 데이터를 디코딩하기 위한 다시점 비디오 신호의 비트수를 줄이고 효율적인 압축을 할 수 있다.
본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명이 적용되는 실시예로서, 뎁스 코딩이 적용되는 방송 수신기의 내부 블록도를 나타낸다.
도 2는 본 발명이 적용되는 일 실시예로서, 비디오 디코더의 개략적인 블록도를 도시한 것이다.
도 3은 본 발명이 적용되는 일 실시예로서, 알파 데이터가 포함된 다시점 비디오 신호의 일례를 나타낸 것이다.
도 4는 본 발명이 적용되는 일 실시예로서, 알파 데이터를 이용하여 다시점 영상을 디코딩하는 일례에 대한 흐름도를 도시한 것이다.
도 5는 본 발명이 적용되는 일 실시예로서, 다시점 비디오 신호의 구성에 대한 일례를 도시한 것이다.
도 6은 본 발명이 적용되는 일 실시예로서, 다시점 비디오 신호의 구성에 대한 일례를 도시한 것이다.
도 7은 본 발명이 적용되는 일 실시예로서, 다시점 비디오 신호의 구성에 대한 일례를 도시한 것이다.
발명의 실시를 위한 최선의 형태
본 발명은 다시점 비디오 신호를 수신하고, 제1 레이어 및 제2 레이어를 포함하는 현재 픽쳐가 상기 다시점 비디오 신호 내 알파 데이터를 이용하여 디코딩되는지 식별하고, 상기 현재 픽쳐가 상기 알파 데이터를 이용하여 디코딩된다고 식별될 때, 상기 제1 레이어 및 상기 제2 레이어에 대응되는 상기 알파 데이터를 획득하고, 상기 알파 데이터를 이용하여 상기 현재 픽쳐에 포함되는 현재 블록를 디코딩하되, 상기 알파 데이터는 상기 현재 픽쳐의 투명 정보에 관한 정보를 포함하는 것을 특징으로 하는 다시점 비디오 신호 처리 방법 및 장치다.
또한, 본 발명은 상기 알파 데이터를 이용하여 상기 현재 블록을 디코딩하기 위해 상기 제1 레이어를 디코딩하고, 상기 제2 레이어를 디코딩하고, 상기 제1 레이어 및 상기 제2 레이어를 상기 알파 데이터를 이용하여 결합하는 다시점 비디오 신호 처리 방법 및 장치다.
또한, 본 발명은 상기 다시점 비디오 신호는 제1 레이어에 대응되는 텍스쳐 데이터, 뎁스 데이터 및 알파 데이터 및 제2 레이어에 대응되는 텍스쳐 데이터, 뎁스 데이터 및 알파 데이터를 포함하는 것을 특징으로 하는 다시점 비디오 신호 처리 방법 및 장치다.
또한, 본 발명은 상기 다시점 비디오 신호는 제1 레이어에 대응되는 텍스쳐 데이터 및 뎁스 데이터 및 제2 레이어에 대응되는 텍스쳐 데이터, 뎁스 데이터 및 알파 데이터를 포함하는 것을 특징으로 하는 다시점 비디오 신호 처리 방법 및 장치다.
또한, 본 발명은 상기 다시점 비디오 신호는 제1 레이어에 대응되는 텍스쳐 데이터 및 뎁스 데이터 및 제2 레이어에 대응되는 뎁스 데이터 및 알파 데이터를 포함하는 것을 특징으로 하는 다시점 비디오 신호 처리 방법 및 장치다.
또한, 본 발명은 상기 배경의 텍스쳐 데이터는 휘도 신호, 제 1 색차 신호 및 제 2 색차 신호를 포함하고, 상기 전경에 대응되는 뎁스 데이터는 상기 배경에 대응되는 상기 휘도 신호를 이용하여 획득하고, 상기 배경에 대응되는 뎁스 데이터는 상기 배경에 대응되는 상기 제 1 색차 신호를 이용하여 획득하고, 상기 전경에 대응되는 알파 데이터는 배경에 대응되는 상기 제 2 색차 신호를 이용하여 획득하는 것을 특징으로 하는 비디오 신호 처리 방법 및 장치다.
발명의 실시를 위한 형태
다시점 비디오 신호 데이터를 압축 부호화 또는 복호화하는 기술은 공간적 중복성, 시간적 중복성 및 시점 간 존재하는 중복성을 고려하고 있다. 또한, 다시점 영상의 경우, 3차원 영상을 구현하기 위해 2개 이상의 시점에서 촬영된 다시점 텍스쳐 영상을 코딩할 수 있다. 또한, 필요에 따라 다시점 텍스쳐 영상에 대응하는 뎁스 데이터를 더 코딩할 수도 있다. 뎁스 데이터를 코딩함에 있어서, 공간적 중복성, 시간적 중복성 또는 시점 간 중복성을 고려하여 압축 코딩할 수 있음은 물론이다. 뎁스 데이터는 카메라와 해당 화소 간의 거리 정보를 표현한 것이며, 본 명세서 내에서 뎁스 데이터는 뎁스 정보, 뎁스 영상, 뎁스 픽쳐, 뎁스 시퀀스, 뎁스 비트스트림 등과 같이 뎁스에 관련된 정보로 유연하게 해석될 수 있다. 또한, 본 명세서에서 코딩이라 함은 인코딩과 디코딩의 개념을 모두 포함할 수 있고, 본 발명의 기술적 사상 및 기술적 범위에 따라 유연하게 해석할 수 있을 것이다.
도 1은 본 발명이 적용되는 실시예로서, 뎁스 코딩이 적용되는 방송 수신기의 내부 블록도를 나타낸다.
본 실시예에 따른 방송 수신기는 공중파 방송신호를 수신하여 영상을 재생하기 위한 것이다. 상기 방송 수신기는 수신된 뎁스 관련 정보들을 이용하여 3차원 콘텐츠를 생성할 수 있다. 상기 방송 수신기는 튜너(100), 복조/채널 디코더(102), 트랜스포트 역다중화부(104), 패킷 해제부(106), 오디오 디코더(108), 비디오 디코더(110), PSI/PSIP 처리부(114), 3D 렌더링부(116), 포맷터(120) 및 디스플레이부(122)를 포함한다.
튜너(100)는 안테나(미도시)를 통해 입력되는 다수의 방송 신호들 중에서 사용자가 선국한 어느 한 채널의 방송 신호를 선택하여 출력한다. 복조/채널 디코더(102)는 튜너(100)로부터의 방송 신호를 복조하고 복조된 신호에 대하여 에러 정정 디코딩을 수행하여 트랜스포트 스트림(TS)을 출력한다. 트랜스포트 역다중화부(104)는 트랜스포트 스트림을 역다중화하여, 비디오 PES와 오디오 PES를 분리하고, PSI/PSIP 정보를 추출해낸다. 패킷 해제부(106)는 비디오 PES와 오디오 PES에 대하여 패킷을 해제하여 비디오 ES와 오디오 ES를 복원한다. 오디오 디코더(108)는 오디오 ES를 디코딩하여 오디오 비트스트림을 출력한다. 오디오 비트스트림은 디지털-아날로그 변환기(미도시)에 의해 아날로그 음성신호로 변환되고, 증폭기(미도시됨)에 의해 증폭된 후, 스피커(미도시됨)를 통해 출력된다. 비디오 디코더(110)는 비디오 ES를 디코딩하여 원래의 영상을 복원한다. 상기 오디오 디코더(108) 및 상기 비디오 디코더(110)의 디코딩 과정은 PSI/PSIP 처리부(114)에 의해 확인되는 패킷 ID(PID)를 토대로 진행될 수 있다. 디코딩 과정에서, 상기 비디오 디코더(110)는 뎁스 정보를 추출할 수 있다. 또한, 가상 카메라 시점의 영상을 생성하는데 필요한 부가 정보, 예를 들어, 카메라 정보, 또는 상대적으로 앞에 있는 객체에 의해 가려지는 영역(Occlusion)을 추정하기 위한 정보(예컨대, 객체 윤곽선 등 기하학적 정보, 객체 투명도 정보 및 컬러 정보) 등을 추출하여 3D 렌더링부(116)에 제공할 수 있다. 그러나, 본 발명의 다른 실시예에 있어서는, 상기 뎁스 정보 및/또는 부가 정보가 트랜스포트 역다중화부(104)에 의해 분리될 수도 있다.
PSI/PSIP 처리부(114)는 트랜스포트 역다중화부(104)로부터의 PSI/PSIP 정보를 받아들이고, 이를 파싱하여 메모리(미도시) 또는 레지스터에 저장함으로써, 저장된 정보를 토대로 방송이 재생되도록 한다. 3D 렌더링부(116)는 복원된 영상, 뎁스 정보, 부가 정보 및 카메라 파라미터를 이용하여, 가상 카메라 위치에서의 컬러 정보, 뎁스 정보 등을 생성할 수 있다.
또한, 3D 렌더링부(116)는 복원된 영상과, 상기 복원된 영상에 대한 뎁스 정보를 이용하여 3D 와핑(Warping)을 수행함으로써, 가상 카메라 위치에서의 가상 영상을 생성한다. 본 실시예에서는 상기 3D 렌더링부(116)가 상기 비디오 디코더(110)와 별개의 블록으로 구성되어 설명되고 있지만, 이는 일실시예에 불과하며, 상기 3D 렌더링부(116)는 상기 비디오 디코더(110)에 포함되어 수행될 수도 있다.
포맷터(120)는 디코딩 과정에서 복원한 영상 즉, 실제 카메라에 의하여 촬영된 영상과, 3D 렌더링부(116)에 의하여 생성된 가상 영상을 해당 수신기에서의 디스플레이 방식에 맞게 포맷팅하여, 디스플레이부(122)를 통해 3D 영상이 표시되도록 하게 된다. 여기서, 상기 3D 렌더링부(116)에 의한 가상 카메라 위치에서의 뎁스 정보 및 가상 영상의 합성, 그리고 포맷터(120)에 의한 영상 포맷팅이 사용자의 명령에 응답하여 선택적으로 수행될 수도 있다. 즉, 시청자는 리모콘(미도시)을 조작하여 합성 영상이 표시되지 않도록 할 수도 있고, 영상 합성이 이루어질 시점을 지정할 수도 있다.
상기에서 살펴본 바와 같이, 3D 영상을 생성하기 위해 뎁스 정보는 3D 렌더링부(116)에서 이용되고 있지만, 다른 실시예로서 상기 비디오 디코더(110)에서 이용될 수도 있다. 이하에서는 상기 비디오 디코더(110)에서 뎁스 정보를 이용하는 다양한 실시예들을 살펴보도록 한다.
도 2는 본 발명이 적용되는 실시예로서, 비디오 디코더의 개략적인 블록도를 나타낸다.
도 2를 참조하면, 상기 비디오 디코더(110)는 크게 엔트로피 디코딩부(210), 역양자화부(220), 역변환부(230), 디블로킹 필터부(240), 복호 픽쳐 버퍼부(250), 인터 예측부(260) 및 인트라 예측부(270)를 포함할 수 있다. 여기서, 실선은 컬러 픽쳐 데이터의 흐름을 의미하며, 점선은 뎁스 픽쳐 데이터의 흐름을 의미한다. 이와 같이, 상기 도 2에서는 컬러 픽쳐 데이터와 뎁스 픽쳐 데이터를 구분하여 표시하였지만, 이는 별개의 비트스트림을 의미할 수 있고, 또는 하나의 비트스트림 내에서 데이터의 흐름만을 구분한 것으로 볼 수도 있다. 즉, 상기 컬러 픽쳐 데이터와 상기 뎁스 픽쳐 데이터는 하나의 비트스트림, 또는 별개의 비트스트림으로 전송될 수 있고, 도 2에서는 데이터의 흐름을 나타낼 뿐 하나의 디코더 내에서 모두 수행되는 것으로 한정되지 않는다.
먼저, 수신된 뎁스 비트스트림(200)을 복호하기 위하여 NAL 단위로 파싱을 수행한다. 이 때 NAL 헤더 영역, NAL 헤더의 확장 영역, 시퀀스 헤더 영역(예를 들어, 시퀀스 파라미터 세트), 시퀀스 헤더의 확장 영역, 픽쳐 헤더 영역(예를 들어, 픽쳐 파라미터 세트), 픽쳐 헤더의 확장 영역, 슬라이스 헤더 영역, 슬라이스 헤더의 확장 영역, 슬라이스 데이터 영역, 또는 매크로 블록 영역에는 뎁스에 관련된 여러 가지 속성 정보가 포함될 수 있다. 뎁스 코딩은 별개의 코덱으로 이용될 수 있지만, 기존 코덱과의 호환을 이루는 경우라면 뎁스 비트스트림인 경우에 한해 뎁스에 관련된 여러 가지 속성 정보들을 추가하는 것이 더 효율적일 수 있다. 예를 들어, 상기 시퀀스 헤더 영역(예를 들어, 시퀀스 파라미터 세트) 또는 시퀀스 헤더의 확장 영역에서 뎁스 비트스트림인지 여부를 식별할 수 있는 뎁스 식별 정보를 추가할 수 있다. 상기 뎁스 식별 정보에 따라, 입력된 비트스트림이 뎁스 코딩된 비트스트림일 경우에 한해 뎁스 시퀀스에 대한 속성 정보들을 추가할 수 있다.
파싱된 뎁스 비트스트림(200)은 엔트로피 디코딩부(210)를 통하여 엔트로피 디코딩되고, 각 매크로블록의 계수, 움직임 벡터 등이 추출된다. 역양자화부(220)에서는 수신된 양자화된 값에 일정한 상수를 곱하여 변환된 계수값을 획득하고, 역변환부(230)에서는 상기 계수값을 역변환하여 뎁스 픽쳐의 뎁스 정보를 복원하게 된다. 인트라 예측부(270)에서는 현재 뎁스 픽쳐의 복원된 뎁스 정보를 이용하여 화면내 예측을 수행하게 된다. 한편, 디블로킹 필터부(240)에서는 블록 왜곡 현상을 감소시키기 위해 각각의 코딩된 매크로블록에 디블로킹 필터링을 적용한다. 필터는 블록의 가장자리를 부드럽게 하여 디코딩된 프레임의 화질을 향상시킨다. 필터링 과정의 선택은 경계 세기(boundary strenth)와 경계 주위의 이미지 샘플의 변화(gradient)에 의해 좌우된다. 필터링을 거친 뎁스 픽쳐들은 출력되거나 참조 픽쳐로 이용하기 위해 복호 픽쳐 버퍼부(250)에 저장된다.
복호 픽쳐 버퍼부(Decoded Picture Buffer unit)(250)에서는 화면간 예측을 수행하기 위해서 이전에 코딩된 뎁스 픽쳐들을 저장하거나 개방하는 역할 등을 수행한다. 이 때 복호 픽쳐 버퍼부(250)에 저장하거나 개방하기 위해서 각 픽쳐의 frame_num 과 POC(Picture Order Count)를 이용하게 된다. 따라서, 뎁스 코딩에 있어서 상기 이전에 코딩된 픽쳐들 중에는 현재 뎁스 픽쳐와 다른 시점에 있는 뎁스 픽쳐들도 있으므로, 이러한 픽쳐들을 참조 픽쳐로서 활용하기 위해서는 상기 frame_num 과 POC 뿐만 아니라 뎁스 픽쳐의 시점을 식별하는 뎁스 시점 정보도 함께 이용할 수 있다.
또한, 상기 복호 픽쳐 버퍼부(250)는 뎁스 픽쳐의 시점간 예측을 위한 참조 픽쳐 리스트를 생성하기 위하여 뎁스 시점에 대한 정보를 이용할 수 있다. 예를 들어, 뎁스-뷰 참조 정보(depth-view reference information)를 이용할 수 있다. 뎁스-뷰 참조 정보란, 뎁스 픽쳐들의 시점간 의존 관계를 나타내기 위해 이용되는 정보들을 말한다. 예를 들어, 전체 뎁스 시점의 개수, 뎁스 시점 식별 번호, 뎁스-뷰 참조 픽쳐의 개수, 뎁스-뷰 참조 픽쳐의 뎁스 시점 식별 번호 등이 있을 수 있다.
상기 복호 픽쳐 버퍼부(250)는 보다 유연하게 화면간 예측을 실현하기 위하여 참조 픽쳐를 관리한다. 예를 들어, 적응 메모리 관리 방법(Memory Management Control Operation Method)과 이동 윈도우 방법(Sliding Window Method)이 이용될 수 있다. 이는 참조 픽쳐와 비참조 픽쳐의 메모리를 하나의 메모리로 통일하여 관리하고 적은 메모리로 효율적으로 관리하기 위함이다. 뎁스 코딩에 있어서, 뎁스 픽쳐들은 복호 픽쳐 버퍼부 내에서 컬러 픽쳐들과 구별하기 위하여 별도의 표시로 마킹될 수 있고, 상기 마킹 과정에서 각 뎁스 픽쳐를 식별해주기 위한 정보가 이용될 수 있다. 이러한 과정을 통해 관리되는 참조 픽쳐들은 인터 예측부(260)에서 뎁스 코딩을 위해 이용될 수 있다.
도 2를 참조하면, 인터 예측부(260)는 움직임 보상부(261), 가상시점 합성부(262) 및 뎁스 픽쳐 예측부(263)를 포함할 수 있다.
움직임 보상부(261)에서는 엔트로피 디코딩부(210)로부터 전송된 정보들을 이용하여 현재 블록의 움직임을 보상한다. 비디오 신호로부터 현재 블록에 이웃하는 블록들의 움직임 벡터를 추출하고, 상기 현재 블록의 움직임 벡터 예측값을 획득한다. 상기 움직임 벡터 예측값과 상기 비디오 신호로부터 추출되는 차분 벡터를 이용하여 현재 블록의 움직임을 보상한다. 또한, 이러한 움직임 보상은 하나의 참조 픽쳐를 이용하여 수행될 수도 있고, 복수의 픽쳐를 이용하여 수행될 수도 있다. 뎁스 코딩에 있어서, 현재 뎁스 픽쳐가 다른 시점에 있는 뎁스 픽쳐를 참조하게 되는 경우, 상기 복호 픽쳐 버퍼부(250)에 저장되어 있는 뎁스 픽쳐의 시점간 예측을 위한 참조 픽쳐 리스트에 대한 정보를 이용하여 움직임 보상을 수행할 수 있다. 또한, 그 뎁스 픽쳐의 시점을 식별하는 뎁스 시점 정보를 이용하여 움직임 보상을 수행할 수도 있다.
또한, 가상 시점 합성부(Virtual View Synthesizing Unit)(262)는 현재 컬러 픽쳐의 시점에 이웃하는 시점의 컬러 픽쳐를 이용하여 가상 시점의 컬러 픽쳐를 합성한다. 서로 이웃하는 시점의 컬러 픽쳐들을 이용하기 위해 또는 원하는 특정 시점의 컬러 픽쳐들을 이용하기 위해, 상기 컬러 픽쳐의 시점을 나타내는 시점 식별 정보가 이용될 수 있다. 상기 가상 시점의 컬러 픽쳐를 생성할 경우, 상기 가상 시점의 컬러 픽쳐를 생성할지 여부를 지시하는 플래그 정보를 정의할 수 있다. 상기 플래그 정보가 상기 가상 시점의 컬러 픽쳐를 생성할 것을 지시하는 경우, 상기 시점 식별 정보를 이용하여 가상 시점의 컬러 픽쳐를 생성할 수 있다. 상기 가상 시점 합성부(262)를 통해 획득된 가상 시점의 컬러 픽쳐는 레퍼런스 픽쳐로 사용될 수도 있으며, 이 경우 상기 가상 시점의 컬러 픽쳐에도 상기 시점 식별 정보를 할당할 수 있음은 물론이다.
다른 실시예로, 상기 가상 시점 합성부(262)는 현재 뎁스 픽쳐의 시점에 이웃하는 시점에 있는 뎁스 픽쳐를 이용하여 가상 시점의 뎁스 픽쳐를 합성할 수 있다. 마찬가지로, 뎁스 픽쳐의 시점을 나타내기 위해 뎁스 시점 식별 정보가 이용될 수 있다. 여기서, 상기 뎁스 시점 식별 정보는 대응되는 컬러 픽쳐의 시점 식별 정보로부터 유도될 수 있다. 예를 들어, 상기 대응되는 컬러 픽쳐는 현재 뎁스 픽쳐와 동일한 픽쳐 출력 순서 정보 및 동일한 시점 식별 정보를 가질 수 있다.
뎁스 픽쳐 생성부(263)는 뎁스 코딩 정보를 이용하여 현재 뎁스 픽쳐를 생성할 수 있다. 여기서, 상기 뎁스 코딩 정보는 카메라와 객체간의 거리를 나타내는 거리 변수(예를 들어, 카메라 좌표계상의 Z좌표값 등), 뎁스 코딩을 위한 매크로블록 타입 정보, 뎁스 픽쳐 내의 경계선 식별 정보, RBSP내의 데이터가 뎁스 코딩된 데이터를 포함하고 있는지 여부를 나타내는 정보, 또는 데이터 타입이 뎁스 픽쳐 데이터인지 컬러 픽쳐 데이터인지 또는 패러렉스 데이터인지 여부를 나타내는 정보 등을 포함할 수 있다. 또한, 상기 뎁스 코딩 정보를 이용하여 현재 뎁스 픽쳐를 예측할 수도 있다. 즉, 현재 뎁스 픽쳐에 이웃하는 뎁스 픽쳐를 이용한 인터 예측이 가능하며, 현재 뎁스 픽쳐내 디코딩된 뎁스 정보를 이용한 인트라 예측이 가능할 것이다.
한편, 다시점 영상에 투명하거나 반투명한 영역 또는 물체가 있는 경우 뎁스 정보를 이용한 다시점 영상 처리 과정에 어려움이 있다. 따라서, 본 발명에서는 텍스쳐 정보 및 뎁스 정보 외 투명 영역에 관련된 정보를 추가하여 다시점 영상을 처리하는 방법 및 이와 관련된 장치에 대해 제안한다. 이하에서는 투명 영역에 관련된 정보로서 알파 정보에 대해 설명하도록 한다.
도 3은 본 발명이 적용되는 일 실시예로서, 알파 데이터가 포함된 다시점 비디오 신호의 일례를 나타낸 것이다.
다시점 비디오 신호는 텍스쳐 데이터(310), 뎁스 데이터(320) 및 알파 데이터(330)를 포함할 수 있다. 텍스쳐 데이터(310)는 휘도 신호(Y) 및 색차 신호(U, V)를 포함할 수 있다. 그리고, 뎁스 데이터(320)는 카메라와 해당 화소 간의 거리 정보를 표현한 것이다. 그리고, 알파 데이터(330)는 투명도에 관한 모든 정보를 포함할 수 있다. 예를 들어, 알파 데이터(330)는 현재 블록의 투명 효과를 이용하는지 여부, 투명 효과의 정도를 포함할 수 있다.
본 발명의 다시점 영상은 전경(foreground) 레이어와 배경(background) 레이어을 포함하여 구성될 수 있다. 그리고, 전경 레이어는 배경 레이어에 앞서 배치되는 레이어를 나타낼 수 있다. 따라서 전경 레이어가 존재하는 영역에서는 배경 레이어가 존재하더라고 표시되지 않을 수 있다. 그러나, 알파 데이터를 이용하여 전경 레이어가 존재하는 영역에서도 배경 레이어를 표시할 수 있다.
이하에서는 알파 데이터를 이용하여 다시점 영상을 디코딩하는 일례에 대해 도 4를 참조하여 설명하도록 한다.
도 4는 본 발명이 적용되는 일 실시예로서, 알파 데이터를 이용하여 다시점 영상을 디코딩하는 일례에 대한 흐름도를 도시한 것이다.
현재 블록이 알파 데이터를 이용하여 디코딩되는지 여부를 식별할 수 있다(S410). 현재 블록이 알파 데이터를 이용하는지 여부는 알파 데이터의 존재 여부를 나타내는 플래그를 이용하여 식별될 수 있다. 또는, 현재 블록에 대응되는 다시점 비디오 신호에 알파 데이터가 존재하는지 여부로 식별될 수도 있다.
알파 데이터를 이용하여 디코딩되는지 여부가 식별되는 현재 블록은 다시점 영상 내 모든 블록일 수 있다. 또는, 전경 레이어와 배경 레이어가 모두 존재하는 영역의 블록일 수도 있다. 도는, 전경 레이어만 존재하는 영역의 블록일 수도 있다.
만일, 현재 블록이 알파 데이터를 이용하여 디코딩되는 블록인 경우, 현재 블록에 대응되는 알파 데이터를 획득할 수 있다(S420). 알파 데이터는 다시점 비디오 신호로부터 획득되거나 이웃 블록의 알파 데이터를 이용하여 획득될 수 있다. 또는, 알파 데이터는 대응되는 텍스쳐 데이터 및 뎁스 데이터를 이용하여 획득될 수도 있다.
텍스쳐 데이터, 뎁스 데이터 및 알파 데이터를 이용하여 현재 블록을 디코딩할 수 있다(S430).
이하에서는 다시점 비디오 신호가 코딩되는 실시예에 대해 도 5 내지 도 8을 참조하여 설명하도록 한다. 아래의 실시예에서 다시점 비디오 신호는 2 개의 시점(기준 시점(V0) 및 현재 시점(V1))을 포함하고, 각 시점은 2 개의 레이어(제1 레이어 및 제2 레이어)를 포함하는 것을 전제로 한다. 도 5 내지 도 8에서 제1 레이어가 전경에 대응되는 레이어인 경우, 제2 레이어는 후경에 대응되는 레이어일 수 있다. 반대로, 제1 레이어가 후경에 대응되는 레이어인 경우, 제2 레이어는 전경에 대응되는 레이어일 수 있다. 그러나, 본 발명은 이에 국한되지 않고, 2개 이상의 시점 및 2개 이상의 레이어를 포함하는 다시점 비디오 신호에 대해서도 적용될 수 있다.
도 5는 본 발명이 적용되는 일 실시예로서, 다시점 비디오 신호의 구성에 대한 일례를 도시한 것이다.
다시점 비디오 신호는 도 5와 같이 각 시점 및 각 레이어에 대응되는 텍스쳐 데이터(Video0-0, Video0-0, Video1-0, Video1-1), 뎁스 데이터(D0-0, D0-1, D1-0, D1-1) 및 알파 데이터(A0-0, A0-1, A1-0, A1-1)를 포함할 수 있다. 다시점 비디오 신호에 포함되는 텍스쳐 데이터, 뎁스 데이터 및 알파 데이터 각각은 독립적으로 코딩될 수 있다.
제1 레이어에 대응되는 텍스쳐 데이터와 뎁스 데이터 및 제2 레이어에 대응되는 텍스쳐 데이터 및 뎁스 데이터를 이용하여 각 시점의 레이어를 획득한 뒤, 각 시점의 알파 데이터를 이용하여 획득된 레이어를 결합하여 다시점 영상의 픽쳐를 디코딩할 수 있다.
도 6은 본 발명이 적용되는 일 실시예로서, 다시점 비디오 신호의 구성에 대한 일례를 도시한 것이다.
다시점 비디오 신호는 특징 레이어에 알파 데이터가 포함되지 않도록 설정될 수 있다. 예를 들어, 도 6과 같이 기준 시점 및 현재 시점의 제2 레이어에 대응되는 알파 데이터만 포함되도록 다시점 비디오 신호가 설정될 수 있다. 기준 시점 및 현재 시점의 제1 레이어는 알파 데이터가 포함되지 않을 수 있다.
제1 레이어에 대응되는 텍스쳐 데이터(Video0-0, Video1-0)와 뎁스 데이터(D0-0, D1-0) 및 제2 레이어에 대응되는 텍스쳐 데이터(Video0-1, Video1-1) 및 뎁스 데이터(D0-1, D1-1)를 이용하여 각 시점의 레이어를 획득한 뒤, 제2 레이어의 알파 데이터(A0-1, A1-1)를 이용하여 획득된 레이어를 결합하여 다시점 영상의 픽쳐를 디코딩할 수 있다.
도 7은 본 발명이 적용되는 일 실시예로서, 다시점 비디오 신호의 구성에 대한 일례를 도시한 것이다.
다시점 비디오 신호는 특정 레이어에 텍스쳐 데이터 및 알파 데이터가 포함되지 않도록 설정될 수 있다. 예를 들어, 도 7과 같이 기준 시점 및 현재 시점의 제1 레이어는 알파 데이터가 포함되지 않고, 기준 시점 및 현재 시점의 제2 레이어는 텍스쳐 데이터가 포함되지 않도록 설정될 수 있다.
제1 레이어에 대응되는 텍스쳐 데이터(Video0-0, Video1-0) 및 제2 레이어에 대응되는 뎁스 데이터(D0-1, D1-1)를 이용하여 각 시점의 레이어를 획득한 뒤, 제2 레이어의 알파 데이터(A0-1, A1-1)를 이용하여 획득된 레이어를 결합하여 다시점 영상의 픽쳐를 디코딩할 수 있다.
이하에서는 다시점 비디오 신호의 알파 데이터가 획득되는 일례에 대해 설명하도록 한다.
알파 데이터는 텍스쳐 데이터 및 뎁스 데이터와는 별도로 코딩되어 다시점 비디오 신호로부터 획득될 수 있다.
또는, 알파 데이터는 텍스쳐 데이터 및 뎁스 데이터를 이용하여 획득될 수 있다. 예를 들어, 전경에 대응되는 뎁스 데이터는 배경의 휘도 신호를 이용하여 획득될 수 있다. 또한, 배경에 대응되는 뎁스 데이터는 배경의 제 1 색차 신호(U)를 이용하여 획득될 수 있다. 또한, 전경에 대응되는 알파 데이터는 배경의 제 2 색차 신호(V)를 이용하여 획득될 수 있다.
이상에서 설명한 바와 같이, 본 발명이 적용되는 디코딩/인코딩 장치는 DMB(Digital Multimedia Broadcasting)과 같은 멀티미디어 방송 송/수신 장치에 구비되어, 비디오 신호 및 데이터 신호 등을 디코딩하는데 사용될 수 있다. 또한 상기 멀티미디어 방송 송/수신 장치는 이동통신 단말기를 포함할 수 있다.
또한, 본 발명이 적용되는 디코딩/인코딩 방법은 컴퓨터에서 실행되기 위한 프로그램으로 제작되어 컴퓨터가 읽을 수 있는 기록 매체에 저장될 수 있으며, 본 발명에 따른 데이터 구조를 가지는 멀티미디어 데이터도 컴퓨터가 읽을 수 있는 기록 매체에 저장될 수 있다. 상기 컴퓨터가 읽을 수 있는 기록 매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 저장 장치를 포함한다. 컴퓨터가 읽을 수 있는 기록 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 인코딩 방법에 의해 생성된 비트스트림은 컴퓨터가 읽을 수 있는 기록 매체에 저장되거나, 유/무선 통신망을 이용해 전송될 수 있다.
본 발명은 비디오 신호를 코딩하는데 이용될 수 있다.

Claims (12)

  1. 다시점 비디오 신호를 수신하는 단계;
    제1 레이어 및 제2 레이어를 포함하는 현재 픽쳐가 상기 다시점 비디오 신호 내 알파 데이터를 이용하여 디코딩되는지 식별하는 단계;
    상기 현재 픽쳐가 상기 알파 데이터를 이용하여 디코딩된다고 식별될 때, 상기 제1 레이어 및 상기 제2 레이어에 대응되는 상기 알파 데이터를 획득하는 단계; 및
    상기 알파 데이터를 이용하여 상기 현재 픽쳐에 포함되는 현재 블록를 디코딩하는 단계를 포함하되,
    상기 알파 데이터는 상기 현재 픽쳐의 투명 정보에 관한 정보를 포함하는 것을 특징으로 하는 다시점 비디오 신호 처리 방법.
  2. 제 1 항에 있어서,
    상기 알파 데이터를 이용하여 상기 현재 블록을 디코딩하는 단계는,
    상기 제1 레이어를 디코딩하는 단계;
    상기 제2 레이어를 디코딩하는 단계; 및
    상기 제1 레이어 및 상기 제2 레이어를 상기 알파 데이터를 이용하여 결합하는 단계를 포함하는 것을 특징으로 하는 다시점 비디오 신호 처리 방법.
  3. 제 1 항에 있어서,
    상기 다시점 비디오 신호는 제1 레이어에 대응되는 텍스쳐 데이터, 뎁스 데이터 및 알파 데이터 및 제2 레이어에 대응되는 텍스쳐 데이터, 뎁스 데이터 및 알파 데이터를 포함하는 것을 특징으로 하는 다시점 비디오 신호 처리 방법.
  4. 제 1 항에 있어서,
    상기 다시점 비디오 신호는 제1 레이어에 대응되는 텍스쳐 데이터 및 뎁스 데이터 및 제2 레이어에 대응되는 텍스쳐 데이터, 뎁스 데이터 및 알파 데이터를 포함하는 것을 특징으로 하는 다시점 비디오 신호 처리 방법.
  5. 제 1 항에 있어서,
    상기 다시점 비디오 신호는 제1 레이어에 대응되는 텍스쳐 데이터 및 뎁스 데이터 및 제2 레이어에 대응되는 뎁스 데이터 및 알파 데이터를 포함하는 것을 특징으로 하는 다시점 비디오 신호 처리 방법.
  6. 제 3 항에 있어서,
    상기 배경의 텍스쳐 데이터는 휘도 신호, 제 1 색차 신호 및 제 2 색차 신호를 포함하고,
    상기 전경에 대응되는 뎁스 데이터는 상기 배경에 대응되는 상기 휘도 신호를 이용하여 획득하고, 상기 배경에 대응되는 뎁스 데이터는 상기 배경에 대응되는 상기 제 1 색차 신호를 이용하여 획득하고, 상기 전경에 대응되는 알파 데이터는 배경에 대응되는 상기 제 2 색차 신호를 이용하여 획득하는 것을 특징으로 하는 비디오 신호 처리 방법.
  7. 다시점 비디오 신호를 수신하는 엔트로피 디코딩부;
    제1 레이어 및 제2 레이어를 포함하는 현재 픽쳐가 상기 다시점 비디오 신호 내 알파 데이터를 이용하여 디코딩되는지 식별하고, 상기 현재 픽쳐가 상기 알파 데이터를 이용하여 디코딩된다고 식별될 때, 상기 제1 레이어 및 상기 제2 레이어에 대응되는 상기 알파 데이터를 획득하고, 상기 알파 데이터를 이용하여 상기 현재 픽쳐에 포함되는 현재 블록를 디코딩하는 인터 예측부를 포함하되,
    상기 알파 데이터는 상기 현재 픽쳐의 투명 정보에 관한 정보를 포함하는 것을 특징으로 하는 다시점 비디오 신호 처리 장치.
  8. 제 7 항에 있어서,
    상기 인터 예측부는, 상기 제1 레이어를 디코딩하고, 상기 제2 레이어를 디코딩하고, 상기 알파 데이터를 이용하여 상기 제1 레이어 및 상기 제2 레이어를 결합하는 것을 특징으로 하는 다시점 비디오 신호 처리 장치.
  9. 제 7 항에 있어서,
    상기 다시점 비디오 신호는 제1 레이어에 대응되는 텍스쳐 데이터, 뎁스 데이터 및 알파 데이터 및 제2 레이어에 대응되는 텍스쳐 데이터, 뎁스 데이터 및 알파 데이터를 포함하는 것을 특징으로 하는 다시점 비디오 신호 처리 장치.
  10. 제 7 항에 있어서,
    상기 다시점 비디오 신호는 제1 레이어에 대응되는 텍스쳐 데이터 및 뎁스 데이터 및 제2 레이어에 대응되는 텍스쳐 데이터, 뎁스 데이터 및 알파 데이터를 포함하는 것을 특징으로 하는 다시점 비디오 신호 처리 장치.
  11. 제 7 항에 있어서,
    상기 다시점 비디오 신호는 제1 레이어에 대응되는 텍스쳐 데이터 및 뎁스 데이터 및 제2 레이어에 대응되는 뎁스 데이터 및 알파 데이터를 포함하는 것을 특징으로 하는 다시점 비디오 신호 처리 장치.
  12. 제 9 항에 있어서,
    상기 배경의 텍스쳐 데이터는 휘도 신호, 제 1 색차 신호 및 제 2 색차 신호를 포함하고,
    상기 전경에 대응되는 뎁스 데이터는 상기 배경에 대응되는 상기 휘도 신호를 이용하여 획득하고, 상기 배경에 대응되는 뎁스 데이터는 상기 배경에 대응되는 상기 제 1 색차 신호를 이용하여 획득하고, 상기 전경에 대응되는 알파 데이터는 배경에 대응되는 상기 제 2 색차 신호를 이용하여 획득하는 것을 특징으로 하는 비디오 신호 처리 장치.
    제 9 항에 있어서,
    상기 배경의 텍스쳐 데이터는 휘도 신호, 제 1 색차 신호 및 제 2 색차 신호를 포함하고,
    상기 전경에 대응되는 뎁스 데이터는 상기 배경에 대응되는 상기 휘도 신호를 이용하여 획득하고, 상기 배경에 대응되는 뎁스 데이터는 상기 배경에 대응되는 상기 제 1 색차 신호를 이용하여 획득하고, 상기 전경에 대응되는 알파 데이터는 배경에 대응되는 상기 제 2 색차 신호를 이용하여 획득하는 것을 특징으로 하는 비디오 신호 처리 장치.
KR1020157036465A 2013-07-18 2014-07-18 비디오 신호 처리 방법 및 장치 KR20160034259A (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201361856011P 2013-07-18 2013-07-18
US61/856,011 2013-07-18
PCT/KR2014/006532 WO2015009098A1 (ko) 2013-07-18 2014-07-18 비디오 신호 처리 방법 및 장치

Publications (1)

Publication Number Publication Date
KR20160034259A true KR20160034259A (ko) 2016-03-29

Family

ID=52346469

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020157036465A KR20160034259A (ko) 2013-07-18 2014-07-18 비디오 신호 처리 방법 및 장치

Country Status (3)

Country Link
US (1) US9986259B2 (ko)
KR (1) KR20160034259A (ko)
WO (1) WO2015009098A1 (ko)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220286709A1 (en) * 2021-02-26 2022-09-08 Lemon Inc. Methods of coding images/videos with alpha channels
US20220279185A1 (en) * 2021-02-26 2022-09-01 Lemon Inc. Methods of coding images/videos with alpha channels
US12058310B2 (en) 2021-02-26 2024-08-06 Lemon Inc. Methods of coding images/videos with alpha channels
CN113099232B (zh) * 2021-03-25 2024-01-19 杭州网易云音乐科技有限公司 视频解码方法、装置、电子设备及计算机存储介质
CN113613008A (zh) * 2021-08-20 2021-11-05 百果园技术(新加坡)有限公司 一种视频编解码的方法、装置、电子设备及存储介质
EP4300477A1 (en) * 2022-06-30 2024-01-03 Beijing Xiaomi Mobile Software Co., Ltd. Encoding/decoding a video sequence associated with alpha channel information

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE10204500A1 (de) * 2002-02-03 2003-08-14 Fraunhofer Ges Forschung Echtzeitfähiges Erkennungs- und Kompensationsverfahren von Beleuchtungsschwankungen in digitalen Farbbildsignalen
EP1605408A1 (en) * 2004-06-11 2005-12-14 Saab Ab Image-based rendering (IBR)
EP1862969A1 (en) * 2006-06-02 2007-12-05 Eidgenössische Technische Hochschule Zürich Method and system for generating a representation of a dynamically changing 3D scene
US10043304B2 (en) * 2008-09-25 2018-08-07 Koninklijke Philips N.V. Three dimensional image data processing
KR101667723B1 (ko) * 2008-12-02 2016-10-19 엘지전자 주식회사 3차원 영상신호 전송 방법과, 3차원 영상표시 장치 및 그에 있어서의 신호 처리 방법
WO2011087289A2 (en) * 2010-01-13 2011-07-21 Samsung Electronics Co., Ltd. Method and system for rendering three dimensional views of a scene
KR101100829B1 (ko) * 2010-03-09 2012-01-02 (주)네오위즈게임즈 이미지 데이터 무손실 압축 및 해제하는 시스템 및 방법.

Also Published As

Publication number Publication date
US20160165262A1 (en) 2016-06-09
WO2015009098A1 (ko) 2015-01-22
US9986259B2 (en) 2018-05-29

Similar Documents

Publication Publication Date Title
KR101619450B1 (ko) 뎁스 정보를 이용한 비디오 신호 처리 방법 및 장치
KR101619448B1 (ko) 영상 신호 처리 방법 및 장치
KR101697598B1 (ko) 가상 뷰 이미지 합성 방법 및 장치
KR20160034259A (ko) 비디오 신호 처리 방법 및 장치
KR20150116840A (ko) 비디오 신호 처리 방법 및 장치
KR101770211B1 (ko) 비디오 신호 처리 방법 및 장치
KR102248074B1 (ko) 비디오 신호 처리 방법 및 장치
CA2897299C (en) Method and apparatus for processing video signal
US9955166B2 (en) Method and device for processing video signal
KR101753592B1 (ko) 비디오 신호 처리 방법 및 장치
KR101750316B1 (ko) 비디오 신호 처리 방법 및 장치
KR20150095679A (ko) 비디오 신호 처리 방법 및 장치
KR101783617B1 (ko) 비디오 신호 처리 방법 및 장치
KR20150079606A (ko) 비디오 신호 처리 방법 및 장치
KR20160002712A (ko) 비디오 신호 처리 방법 및 장치
KR102300036B1 (ko) 비디오 신호 처리 방법 및 장치

Legal Events

Date Code Title Description
WITN Withdrawal due to no request for examination