KR20150054751A - 영상 복호화 방법 및 이를 이용하는 장치 - Google Patents

영상 복호화 방법 및 이를 이용하는 장치 Download PDF

Info

Publication number
KR20150054751A
KR20150054751A KR1020157001216A KR20157001216A KR20150054751A KR 20150054751 A KR20150054751 A KR 20150054751A KR 1020157001216 A KR1020157001216 A KR 1020157001216A KR 20157001216 A KR20157001216 A KR 20157001216A KR 20150054751 A KR20150054751 A KR 20150054751A
Authority
KR
South Korea
Prior art keywords
layer
information
prediction
decoding
image
Prior art date
Application number
KR1020157001216A
Other languages
English (en)
Other versions
KR102160242B1 (ko
Inventor
헨드리 헨드리
박준영
김철근
전병문
김정선
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Publication of KR20150054751A publication Critical patent/KR20150054751A/ko
Application granted granted Critical
Publication of KR102160242B1 publication Critical patent/KR102160242B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/20—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding
    • H04N19/29—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video object coding involving scalability at the object level, e.g. video object layer [VOL]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12—Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132—Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136—Incoming video signal characteristics or properties
    • H04N19/137—Motion inside a coding unit, e.g. average field, frame or block difference
    • H04N19/139—Analysis of motion vectors, e.g. their magnitude, direction, variance or reliability
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/187—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scalable video layer
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 발명은 복수의 레이어를 포함하는 비트스트림을 디코딩하는 영상의 디코딩 방법 및 장치에 대한 것으로 영상의 디코딩 방법은 상위 레이어가 하위 레이어와 동일한 코딩 방식으로 코딩되었는지 여부를 알려주는 의존성 정보를 수신하여 파악하는 단계와; 상기 파악된 의존성 정보에 기초하여 상기 상위 레이어의 영상을 복원하는 단계를 포함할 수 있다. 이로 인하여, 현재 레어어가 참조하는 참조 레이어의 정보가 부호화된 데이터인지 복원된 값인지 여부를 지시하는 정보를 파악할 수 있다.

Description

영상 복호화 방법 및 이를 이용하는 장치{IMAGE DECODING METHOD AND APPARATUS USING SAME}
본 발명은 비디오 압축 기술에 관한 것으로서 더 구체적으로는 스케일러블 비디오 코딩을 수행하는 방법 및 장치에 관한 것이다.
최근 고해상도, 고품질의 영상에 대한 요구가 다양한 응용 분야에서 증가하고 있다. 영상이 고해상도를 가지고 고품질이 될수록 해당 영상에 관한 정보량도 함께 증가하고 있다.
정보량의 증가로 인해 다양한 성능의 장치와 다양한 환경의 네트워크가 등장하고 있다. 다양한 성능의 장치와 다양한 환경의 네트워크가 등장함에 따라서, 동일한 콘텐츠를 다양한 품질로 이용할 수 있게 되었다.
구체적으로, 단말 장치가 지원할 수 있는 품질의 영상이 다양해지고, 구축된 네트워크 환경이 다양해짐으로써, 어떤 환경에서는 일반적인 품질의 영상을 이용하지만, 또 다른 환경에서는 더 높은 품질의 영상을 이용할 수 있게 된다.
예를 들어, 휴대 단말에서 비디오 콘텐츠를 구매한 소비자가 가정 내 대화면의 디스플레이를 통해 동일한 비디오 콘텐츠를 더 큰 화면과 더 높은 해상도로 감상할 수 있게 되는 것이다.
최근에는 HD(High Definition) 해상도를 가지는 방송이 서비스되면서 많은 사용자들은 이미 고해상도, 고화질의 영상에 익숙해지고 있고, 서비스 제공자와 사용자들은 HDTV와 더불어 HDTV의 4배 이상의 해상도를 갖는 UHD(Ultra High Definition)의 서비스에도 관심을 기울이고 있다.
따라서, 다양한 환경에서 사용자가 요구하는 영상 서비스를 품질에 따라서 다양하게 제공하기 위해 고용량 비디오에 대한 고효율의 인코딩/디코딩 방법을 기반으로 영상의 품질, 예컨대 영상의 화질, 영상의 해상도, 영상의 크기, 비디오의 프레임 레이트 등에 스케일러빌러티를 제공하는 것이 필요하다. 또한, 이러한 스케일러빌러티에 수반되는 다양한 영상 처리 방법이 논의되어야 한다.
본 발명은 다른 레이어의 정보를 이용하여 현재 레이어에 대한 예측을 수행하는 방법 및 이를 이용하는 장치를 제공하는 것을 목적으로 한다.
또한, 본 발명은 현재 레어어가 참조하는 참조 레이어의 정보가 부호화된 데이터인지 복원된 값인지 여부를 지시하는 정보를 수신 및 파악할 수 있는 장치 및 이를 이용하는 방법을 목적으로 한다.
또한, 본 발명은 상이한 코딩 구조로 코딩된 영상을 디코딩 할 때 레이어 간 참조성 형태(dependency type)를 파악할 수 있는 방법 및 이를 이용하는 장치를 제공하는 것을 목적으로 한다.
본 발명의 일 실시형태는 복수의 레이어를 포함하는 비트스트림을 디코딩하는 영상의 디코딩 방법에 대한 것으로 영상의 디코딩 방법은 상위 레이어가 하위 레이어와 동일한 코딩 방식으로 코딩되었는지 여부를 알려주는 의존성 정보를 수신하여 파악하는 단계와; 상기 파악된 의존성 정보에 기초하여 상기 상위 레이어의 영상을 복원하는 단계를 포함할 수 있다.
상기 의존성 정보는 상기 상위 레이어가 상기 하위 레이어의 코딩된 데이터를 참조하는지 여부를 지시하는 정보를 포함할 수 있다.
상기 의존성 정보는 상기 상위 레이어가 상기 하위 레이어의 복원 데이터를 참조하는지 여부를 지시하는 포함할 수 있다.
상기 상위 레이어의 영상을 복원하는 단계는, 상기 하위 레이어의 코딩된 데이터를 파싱하는 단계와; 상기 파싱된 데이터를 이용하여 상기 상위 레이어의 영상을 예측하는 단계를 포함할 수 있다.
상기 코딩된 데이터는 상기 하위 레이어의 영상에 대한 움직임 정보, 블록 파티셔닝 및 레지듀얼 중 적어도 하나를 포함할 수 있다.
상기 상위 레이어의 영상을 복원하는 단계는, 상기 하위 레이어의 복원 데이터를 이용하여 상기 상위 레이어의 영상을 예측하는 단계를 포함할 수 있다.
상기 복원 데이터는 상기 하위 레이어의 영상에 대한 업샘플링된 픽셀값을 포함할 수 있다.
상기 의존성 정보는 비트스트림 내 비디오 파라미터 세트에 포함되어 수신될 수 있다.
상기 의존성 정보는 비트스트림 내 슬라이스 헤더에 포함되어 수신될 수 있다.
본 발명의 다른 실시 형태에 따른 복수의 레이어를 포함하는 비트스트림을 디코딩하는 영상의 디코딩 장치는 상위 레이어가 하위 레이어와 동일한 코딩 방식으로 코딩되었는지 여부를 알려주는 의존성 정보를 수신하여 파악하는 의존성 정보 파악부와, 상기 파악된 의존성 정보에 기초하여 상기 상위 레이어의 영상을 복원하는 상위 레이어 디코딩부를 포함할 수 있다.
본 발명의 일 실시예에 따르면, 다른 레이어의 정보를 이용하여 현재 레이어에 대한 예측을 수행하는 방법 및 이를 이용하는 장치가 제공된다.
또한, 본 발명의 일 실시예에 따르면 현재 레어어가 참조하는 참조 레이어의 정보가 부호화된 데이터인지 복원된 값인지 여부를 지시하는 정보를 수신 및 파악할 수 있는 장치 및 이를 이용하는 방법이 제공된다.
또한, 본 발명은의 일 실시예에 따르면 상이한 코딩 구조로 코딩된 영상을 디코딩 할 때 레이어 간 참조성 형태(dependency type)를 파악할 수 있는 방법 및 이를 이용하는 장치가 제공된다.
도 1은 본 발명의 일 실시예에 따라 스케일러빌러티를 지원하는 비디오 인코딩 장치를 개략적으로 도시한 블록도이다.
도 2는 본 발명의 일 실시예에 따라 스케일러빌러티를 지원하는 비디오 디코딩 장치를 개략적으로 도시한 블록도이다.
도 3은 본 발명의 일 예에 따라 참조 레이어와 참조 레이어의 정보를 이용하는 인핸스먼트 레이어를 도시한 도면이다.
도 4 는 본 발명의 다른 예에 따라 참조 레이어와 참조 레이어의 정보를 이용하는 인핸스먼트 레이어를 도시한 도면이다.
도 5는 본 발명의 또 다른 예에 따라 참조 레이어와 참조 레이어의 정보를 이용하는 인핸스먼트 레이어를 도시한 도면이다.
도 6은 본 발명의 일 실시예에 따른 비디오 인코딩 장치를 도시한 제어 블록도이다.
도 7은 본 발명의 일 실시예에 따른 비디오 디코딩 장치를 도시한 제어 블록도이다.
도 8은 본 발명의 일 실시예에 따른 영상의 디코딩 방법을 설명하기 제어 흐름도이다.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니다. 본 명세서에서 사용하는 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명의 기술적 사상을 한정하려는 의도로 사용되는 것은 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성 요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성 요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
한편, 본 발명에서 설명되는 도면상의 각 구성들은 비디오 인코딩 장치/디코딩 장치에서 서로 다른 특징적인 기능들에 관한 설명의 편의를 위해 독립적으로 도시된 것으로서, 각 구성들이 서로 별개의 하드웨어나 별개의 소프트웨어로 구현된다는 것을 의미하지는 않는다. 예컨대, 각 구성 중 두 개 이상의 구성이 합쳐져 하나의 구성을 이룰 수도 있고, 하나의 구성이 복수의 구성으로 나뉘어질 수도 있다. 각 구성이 통합 및/또는 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명의 권리범위에 포함된다.
이하, 첨부한 도면들을 참조하여, 본 발명의 바람직한 실시예를 보다 상세하게 설명하고자 한다. 이하, 도면상의 동일한 구성 요소에 대해서는 동일한 참조 부호를 사용하고 동일한 구성 요소에 대해서 중복된 설명은 생략한다.
스케일러빌러티를 지원하는 비디오 코딩 방법(이하, '스케일러블 코딩'이라 함)에서는 입력 신호들을 레이어 별로 처리할 수 있다. 레이어에 따라서 입력 신호(입력 영상)들은 해상도(resolution), 프레임 레이트(frame rate), 비트 뎁스(bit-depth), 컬러 포맷(color format), 애스팩트 율(aspect ratio) 중 적어도 하나가 상이할 수 있다.
본 명세서에서, 스케일러블 코딩이라 함은 스케일러블 인코딩과 스케일러블 디코딩을 포함한다.
스케일러블 인코딩/디코딩에서는 레이어 간의 차이를 이용하여, 즉 스케일러빌러티에 기반하여, 레이어 간의 예측을 수행함으로써 정보의 중복 전송/처리를 줄이고 압축 효율을 높일 수 있다.
도 1은 본 발명의 일 실시예에 따라 스케일러빌러티를 지원하는 비디오 인코딩 장치를 개략적으로 도시한 블록도이다.
도 1을 참조하면, 인코딩 장치(100)는 레이어 1에 대한 인코딩부(105)와 레이어 0에 대한 인코딩부(135)를 포함한다.
레이어 0은 베이스 레이어, 참조 레이어 혹은 하위 레이어일 수 있으며, 레이어 1은 인핸스먼트 레이어, 현재 레이어 혹은 상위 레이어일 수 있다.
레이어 1의 인코딩부(105)는 예측부(110), 변환/양자화부(115), 필터링부(120), DPB(Decoded Picture Buffer, 125), 엔트로피 코딩부(130), 및 MUX(Multiplexer, 165)를 포함한다.
레이어 0의 인코딩부(135)는 예측부(140), 변환/양자화부(145), 필터링부(150), DPB(155) 및 엔트로피 코딩부(160)를 포함한다.
예측부(110, 140)는 입력된 영상에 대하여 인터 예측과 인트라 예측을 수행할 수 있다. 예측부(110, 140)는 소정의 처리 단위로 예측을 수행할 수 있다. 예측의 수행 단위는 코딩 유닛(Coding Unit: CU)일 수도 있고, 예측 유닛(Prediction Unit: PU)일 수도 있으며, 변환 유닛(Transform Unit: TU)일 수도 있다.
예컨대, 예측부(110, 140)는 CU 단위로 인터 예측을 적용할 것인지 인트라 예측을 적용할 것인지를 결정하고, PU 단위로 예측의 모드를 결정하며, PU 단위 혹은 TU 단위로 예측을 수행할 수도 있다. 수행되는 예측은 예측 블록의 생성과 레지듀얼 블록(레지듀얼 신호)의 생성을 포함한다.
인터 예측을 통해서는 현재 픽처의 이전 픽처 및/또는 이후 픽처 중 적어도 하나의 픽처의 정보를 기초로 예측을 수행하여 예측 블록을 생성할 수 있다. 인트라 예측을 통해서는 현재 픽처 내의 픽셀 정보를 기초로 예측을 수행하여 예측 블록을 생성할 수 있다.
인터 예측의 모드 또는 방법으로서, 스킵(skip) 모드, 머지(merge) 모드, MVP(Motion Vector Predictor) 모드 방법 등이 있다. 인터 예측에서는 예측 대상인 현재 PU에 대하여 참조 픽처를 선택하고, 참조 픽처 내에서 현재 PU에 대응하는 참조 블록을 선택할 수 있다. 예측부(110, 140)는 참조 블록을 기반으로 예측 블록을 생성할 수 있다.
예측 블록은 정수 샘플 단위로 생성될 수도 있고, 정수 이하 픽셀 단위로 생성될 수도 있다. 이때, 움직임 벡터 역시 정수 픽셀 단위 혹은 정수 픽셀 이하의 단위로 표현될 수 있다.
인터 예측에 있어서 움직임 정보 즉, 참조 픽처의 인덱스, 움직임 벡터, 레지듀얼 신호 등의 정보는 엔트로피 인코딩되어 디코딩 장치에 전달된다. 스킵 모드가 적용되는 경우에는 레지듀얼을 생성, 변환, 양자화, 전송하지 않을 수 있다.
인트라 예측에서 예측 모드는 33개의 방향성 예측 모드와 적어도 두 개 이상의 비방향성 모드를 가질 수 있다. 비향성성 모드는 DC 예측 모드 및 플래이너 모드(Planar 모드)을 포함할 수 있다. 인트라 예측에서는 참조 샘플에 필터를 적용한 후 예측 블록을 생성할 수도 있다.
PU는 다양한 사이즈/형태의 블록일 수 있으며, 예컨대 인터 예측의 경우에 PU는 2N×2N 블록, 2N×N 블록, N×2N 블록, 또는 N×N 블록 (N은 정수) 등일 수 있다. 인트라 예측의 경우에 PU는 2N×2N 블록 또는 N×N 블록 (N은 정수) 등일 수 있다. 이때, N×N 블록 크기의 PU는 특정한 경우에만 적용하도록 설정할 수 있다. 예컨대 최소 크기 CU에 대해서만 NxN 블록 크기의 PU를 이용하도록 정하거나 인트라 예측에 대해서만 이용하도록 정할 수도 있다. 또한, 상술한 크기의 PU 외에, N×mN 블록, mN×N 블록, 2N×mN 블록 또는 mN×2N 블록 (m＜1) 등의 PU를 더 정의하여 사용할 수도 있다.
또한, 예측부(110)는 레이어 0의 정보를 이용하여 레이어 1에 대한 예측을 수행할 수 있다. 본 명세서에서는 다른 레이어의 정보를 이용하여 현재 레이어의 정보를 예측하는 방법을, 설명의 편의를 위해, 인터 레이어 예측이라고 한다.
다른 레이어의 정보를 이용하여 예측되는 (즉, 인터 레이어 예측에 의해 예측되는) 현재 레이어의 정보로는 텍스처, 움직임 정보, 유닛 정보, 소정의 파라미터(예컨대, 필터링 파라미터 등) 등이 있을 수 있다.
또한, 현재 레이어에 대한 예측에 이용되는 (즉, 인터 레이어 예측에 이용되는) 다른 레이어의 정보로는 텍스처, 움직임 정보, 유닛 정보, 소정의 파라미터(예컨대, 필터링 파라미터 등)이 있을 수 있다.
인터 레이어 예측의 일 예로서, 인터 레이어 움직임 예측은 인터 레이어 인터 예측이라고도 한다. 인터 레이어 인터 예측에 의하면, 레이어 0 (참조 레이어 혹은 베이스 레이어)의 움직임 정보를 이용하여 레이어 1 (현재 레이어 혹은 인핸스먼트 레이어)의 현재 블록에 대한 예측을 수행할 수 있다.
인터 레이어 인터 예측을 적용하는 경우에는, 참조 레이어의 움직임 정보를 스케일링 할 수도 있다.
인터 레이어 예측의 또 다른 예로서 인터 레이어 텍스쳐 예측은 인터 레이어 인트라 예측 혹은 인트라 BL(Base Layer) 예측이라고도 명명될 수도 있다. 인터 레이어 텍스처 예측은 참조 레이어 내 참조 블록이 인트라 예측에 의해 복원된 경우에 적용될 수 있다.
인터 레이어 인트라 예측에서는 참조 레이어 내 참조 블록의 텍스처를 인핸스먼트 레이어의 현재 블록에 대한 예측 값으로 사용할 수 있다. 이때, 참조 블록의 텍스처는 업샘플링에 의해 스케일링될 수 있다.
인터 레이어 예측의 다른 예인 인터 레이어 유닛 파라미터 예측에서는 베이스 레이어의 유닛(CU, PU 및/또는 TU) 정보를 유도하여 인핸스먼트 레이어의 유닛 정보로 사용하거나, 베이스 레이어의 유닛 정보를 기반으로 인핸스먼트 레이어의 유닛 정보를 결정할 수 있다.
또한, 유닛 정보는 각 유닛 레벨에서의 정보를 포함할 수 있다. 예컨대, CU 정보의 경우, 파티션(CU, PU 및 또는 TU)에 관한 정보, 변환에 관한 정보, 예측에 대한 정보, 코딩에 대한 정보를 포함할 수 있다. PU 정보의 경우, PU 파티션에 관한 정보, 예측에 관한 정보(예컨대, 움직임 정보, 예측 모드에 관한 정보 등) 등을 포함할 수 있다. TU에 관한 정보는 TU 파티션에 관한 정보, 변환에 관한 정보(변환 계수, 변환 방법 등) 등을 포함할 수 있다.
또한, 유닛 정보는 처리 단위(예컨대, CU, PU, TU 등)의 분할 정보만을 포함할 수도 있다.
인터 레이어 예측의 또 다른 예인 인터 레이어 파라미터 예측에서는 베이스 레이어에서 사용한 파라미터를 유도하여 인핸스먼트 레이어에서 재사용하도록 하거나 베이스 레이어에서 사용한 파라미터를 기반으로 인핸스먼트 레이어에 대한 파라미터를 예측할 수 있다.
여기서는 인터 레이어 예측의 예로서, 인터 레이어 텍스처 예측, 인터 레이어 움직임 예측, 인터 레이어 유닛 정보 예측, 인터 레이어 파라미터 예측을 설명하였으나, 본 발명에서 적용할 수 있는 인터 레이어 예측은 이에 한정되지 않는다.
예컨대, 예측부(110)는 인터 레이어 예측으로서 다른 레이어의 레지듀얼 정보를 이용하여 현재 레이어의 레지듀얼을 예측하고 이를 기반으로 현재 레이어 내 현재 블록에 대한 예측을 수행하는 인터 레이어 레지듀얼 예측을 이용할 수도 있다.
또한, 예측부(110)는 인터 레이어 예측으로서 현재 레이어의 복원 픽처와 다른 레이어의 복원 픽처를 업샘플링 혹은 다운샘플링한 영상 간의 차분 (차분 영상) 영상을 이용하여 현재 레이어 내 현재 블록에 대한 예측을 수행하는 인터 레이어 차분 예측을 수행할 수도 있다.
또한, 예측부(110)는 인터 레이어 예측으로, 다른 레이어의 신택스 정보를 이용하여 현재 블록의 텍스처를 예측하거나 생성하는 인터 레이어 신택스 예측을 이용할 수도 있다. 이때, 현재 블록의 예측에 이용하는 참조 레이어의 신택스 정보는 인트라 예측 모드에 관한 정보, 움직임 정보 등일 수 있다.
이 때, 참조 레이어에서 인트라 예측 모드가 적용된 블록(intra)으로부터는 인트라 예측 모드를 참조하고, 인터 예측 모드가 적용된 블록(MV)으로부터는 움직임 정보를 참조하여 인터 레이어 신택스 예측을 수행할 수 있다.
예를 들면, 참조 레이어가 P 슬라이스나 B 슬라이스이지만, 슬라이스 내에 참조 블록은 인트라 예측 모드가 적용된 블록일 수 있다. 이런 경우 인터 레이어 신택스 예측을 적용하면, 참조 레이어의 신택스 정보 중 참조 블록의 인트라 예측 모드를 이용하여 현재 블록에 대한 텍스처를 생성/ 예측하는 인터 레이어 예측을 수행할 수 있다.
상술된 인터 레이어를 이용한 여러 예측 방법은 특정 블록에 대한 예측 시 복수개가 이용될 수도 있다. 예를 들어 현재 블록을 예측하기 위하여 레이어 0의 예측 정보를 이용하면서, 대응되는 레이어 0 또는 대응 블록의 유닛 정보 또는 필터링 파라미터 정보 등을 추가적으로 이용할 수 있다. 이러한 인터 레이어 예측 방법의 결합은 본 명세서 이하에서 설명될 예측에도 적용될 수 있다.
변환/양자화부(115, 145)는 변환 블록 단위로 레지듀얼 블록에 대한 변환을 수행하여 변환 계수를 생성하고, 변환 계수를 양자화 할 수 있다.
변환 블록은 샘플들의 사각형 블록으로서 동일한 변환이 적용되는 블록이다. 변환 블록은 변환 유닛(TU)일 수 있으며, 쿼드 트리(quad tree) 구조를 가질 수 있다.
변환/양자화부(115, 145)는 레지듀얼 블록에 적용된 예측 모드와 블록의 크기에 따라서 변환을 수행해서 변환 계수들의 2차원 어레이를 생성할 수 있다. 예컨대, 레지듀얼 블록에 인트라 예측이 적용되었고 블록이 4x4의 레지듀얼 배열이라면, 레지듀얼 블록을 DST(Discrete Sine Transform)를 이용하여 변환하고, 그 외의 경우라면 레지듀얼 블록을 DCT(Discrete Cosine Transform)를 이용하여 변환할 수 있다.
변환/양자화부(115, 145)는 변환 계수들을 양자화하여 양자화된 변환 계수를 생성할 수 있다.
변환/양자화부(115, 145)는 양자화된 변환 계수를 엔트로피 코딩부(130, 180)로 전달할 수 있다. 이때, 변환/양자화부(145)는 양자화된 변환 계수의 2차원 어레이를 소정의 스캔 순서에 따라 1차원 어레이로 재정렬하여 엔트로피 코딩부(130, 180)로 전달할 수도 있다. 또한, 변환/양자화부(115, 145)는 인터 예측을 위해, 레지듀얼과 예측 블록을 기반으로 생성된 복원 블록을 변환/양자화하지 않고, 필터링부(120, 150)에 전달할 수 있다.
한편, 변환/양자화부(115, 145)는 필요에 따라서, 변환을 생략(skip)하고 양자화만 수행하거나 변환과 양자화를 모두 생략할 수도 있다. 예컨대, 변환/양자화부(115, 165)는 특정한 예측 방법이 적용되거나 특정 크기를 갖는 블록, 혹은 특정 예측 블록이 적용된 특정한 크기의 블록에 대하여 변환을 생략할 수도 있다.
엔트로피 코딩부(130, 160)는 양자화된 변환 계수들에 대한 엔트로피 인코딩을 수행할 수 있다. 엔트로피 인코딩에는 예를 들어, 지수 골롬(Exponential Golomb), CABAC(Context-Adaptive Binary Arithmetic Coding) 등과 같은 인코딩 방법을 사용할 수 있다.
필터링부(120, 150)는 디블록킹 필터, ALF(Adaptive Loop Filter), SAO(Sample Adaptive Offset)를 복원된 픽처에 적용할 수 있다.
디블록킹 필터는 복원된 픽처에서 블록 간의 경계에 생긴 왜곡을 제거할 수 있다. ALF(Adaptive Loop Filter)는 디블록킹 필터를 통해 블록이 필터링된 후 복원된 영상과 원래의 영상을 비교한 값을 기초로 필터링을 수행할 수 있다. SAO는 디블록킹 필터가 적용된 레지듀얼 블록에 대하여, 픽셀 단위로 원본 영상과의 오프셋 차이를 복원하며, 밴드 오프셋(Band Offset), 에지 오프셋(Edge Offset) 등의 형태로 적용된다.
필터링부(120, 150)는 디블록킹 필터, ALF, SAO를 모두 적용하지 않고 디블록킹 필터만 적용하거나 디블록킹 필터와 ALF만 적용하거나 디블록킹 필터와 SAO만을 적용할 수도 있다.
DPB(125, 155)는 필터링부(120, 150)로부터 복원 블록 또는 복원 픽처를 전달받아 저장할 수 있다. DPB(125, 155)는 복원 블록 또는 픽처를 인터 예측을 수행하는 예측부(110, 140)에 제공할 수 있다.
레이어 0의 엔트로피 코딩부(160)에서 출력되는 정보와 레이어 1의 엔트로피 코딩부(130)에서 출력되는 정보는 MUX(185)에서 멀티플렉싱되어 비트스트림으로 출력될 수 있다.
한편, 여기서는 설명의 편의를 위해, 레이어 1의 인코딩부(105)가 MUX(165)를 포함하는 것으로 설명하였으나, MUX는 레이어 1의 인코딩부(105) 및 레이어 0의 인코딩부(135)와는 별도의 장치 혹은 모듈일 수 있다.
도 1의 인코딩 장치는 카메라 등을 포함하여 영상을 촬상하고 인코딩 할 수 있는 전자장치 등으로 구현될 수 있다. 예를 들어 인코딩 장치는 텔레비전, 컴퓨터 시스템, 휴대용 전화기 또는 태블랫 PC와 같은 개인 단말기 등으로 구현되거나 이들 전자장치에 포함될 수 있다.
도 2는 본 발명에 따라서 스케일러블 코딩을 수행하는 인코딩 장치에서의 인터 레이어 예측에 관한 일 예를 설명하는 블록도이다.
도 2를 참조하면, 디코딩 장치(200)는 레이어 1의 디코딩부(210)와 레이어 0의 디코딩부(250)를 포함한다.
레이어 0은 베이스 레이어, 참조 레이어 혹은 하위 레이어일 수 있으며, 레이어 1은 인핸스먼트 레이어, 현재 레이어 혹은 상위 레이어일 수 있다.
레이어 1의 디코딩부(210)는 엔트로피 디코딩부(215), 재정렬부(220), 역양자화부(225), 역변환부(230), 예측부(235), 필터링부(240), 메모리를 포함할 수 있다.
레이어 0의 디코딩부(250)는 엔트로피 디코딩부(255), 재정렬부(260), 역양자화부(265), 역변환부(270), 예측부(275), 필터링부(280), 메모리(285)를 포함할 수 있다.
인코딩 장치로부터 영상 정보를 포함하는 비트스트림이 전송되면, DEMUX(205)는 레이어별로 정보를 디멀티플렉싱하여 각 레이어별 디코딩 장치로 전달할 수 있다.
엔트로피 디코딩부(215, 255)는 인코딩 장치에서 사용한 엔트로피 코딩 방식에 대응하여 엔트로피 디코딩을 수행할 수 있다. 예컨대, 인코딩 장치에서 CABAC이 사용된 경우에, 엔트로피 디코딩부(215, 255)도 CABAC을 이용하여 엔트로피 디코딩을 수행할 수 있다.
엔트로피 디코딩부(215, 255)에서 디코딩된 정보 중 예측 블록을 생성하기 위한 정보는 예측부(235, 275)로 제공되고, 엔트로피 디코딩부(215, 255)에서 엔트로피 디코딩이 수행된 레지듀얼 값, 즉 양자화된 변환 계수는 재정렬부(220, 260)로 입력될 수 있다.
재정렬부(220, 260)는 엔트로피 디코딩부(215, 255)에서 엔트로피 디코딩된 비트스트림의 정보, 즉 양자화된 변환 계수를 인코딩 장치에서 재정렬한 방법을 기초로 재정렬할 수 있다.
예컨대, 재정렬부(220, 260)는 1차원 어레이의 양자화된 변환 계수들을 다시 2차원 어레이의 계수들로 재정렬할 수 있다. 재정렬부(220, 260)는 현재 블록(변환 블록)에 적용된 예측 모드 및/또는 변환 블록의 크기를 기반으로 스캐닝을 수행하여 계수(양자화된 변환 계수)들의 2차원 어레이를 생성할 수 있다.
역양자화부(225, 265)는 인코딩 장치에서 제공된 양자화 파라미터와 재정렬된 블록의 계수값을 기초로 역양자화를 수행하여 변환 계수들을 생성할 수 있다.
역변환부(230, 270)는 변환 계수들에 대하여 인코딩 장치의 변환부가 수행한 변환에 대한 역변환을 수행할 수 있다. 역변환부(230, 270)는 인코딩 장치에서 수행된 DCT(Discrete Cosine Transform) 및 DST(Discrete Sine Transform)에 대해 역DCT 및/또는 역DST를 수행할 수 있다.
인코딩 장치에서 DCT 및/또는 DST는 예측 방법, 현재 블록의 크기 및 예측 방향 등 복수의 정보에 따라 선택적으로 수행될 수 있고, 디코딩 장치의 역변환부(230, 270)는 인코딩 장치에서 수행된 변환 정보를 기초로 역변환을 수행할 수 있다.
예컨대, 역변환부(230, 270)은 예측 모드/블록 크기에 따라서 역DCT와 역DST를 적용할 수 있다. 가령, 역변환부(230, 270)은 인트라 예측이 적용된 4x4 루마 블록에 대해서 역DST를 적용할 수도 있다.
또한, 역변환부(230, 270)는 예측 모드/블록 크기에 상관 없이, 특정 역변환 방법을 고정적으로 사용할 수도 있다. 예컨대, 역변환부(330, 370)는 모든 변환 블록에 역DST만을 적용할 수 있다. 또한, 역변환부(330, 370)는 모든 변환 블록에 역DCT만을 적용할 수도 있다.
역변환부(230, 270)는 변환 계수들 혹은 변환 계수의 블록을 역변환하여 레지듀얼 혹은 레지듀얼 블록을 생성할 수 있다.
역변환부(230, 270)는 또한, 필요에 따라서 혹은 인코딩 장치에서 인코딩된 방식에 따라서, 변환을 생략(skip) 할 수도 있다. 예컨대, 역변환(230, 270)는 특정한 예측 방법이 적용되거나 특정 크기를 갖는 블록, 혹은 특정 예측 블록이 적용된 특정한 크기의 블록에 대하여 변환을 생략할 수도 있다.
예측부(235, 275)는 엔트로피 디코딩부(215, 255)로부터 전달된 예측 블록 생성 관련 정보와 메모리(245, 285)에서 제공된 이전에 디코딩된 블록 및/또는 픽처 정보를 기초로 현재 블록에 대한 예측 블록을 생성할 수 있다.
현재 블록에 대한 예측 모드가 인트라 예측(intra prediction) 모드인 경우에, 예측부(235, 275)는 현재 픽처 내의 픽셀 정보를 기초로 현재 블록에 대한 인트라 예측을 수행할 수 있다.
현재 블록에 대한 예측 모드가 인터 예측(inter prediction) 모드인 경우에, 예측부(235, 275)는 현재 픽처의 이전 픽처 또는 이후 픽처 중 적어도 하나의 픽처에 포함된 정보를 기초로 현재 블록에 대한 인터 예측을 수행할 수 있다. 인터 예측에 필요한 움직임 정보의 일부 또는 전부는 인코딩 장치로부터 수신한 정보를 확인하고, 이에 대응하여 유도될 수 있다.
인터 예측의 모드로서 스킵 모드가 적용되는 경우에는 인코딩 장치로부터 레지듀얼이 전송되지 않으며 예측 블록을 복원 블록으로 할 수 있다.
한편, 레이어 1의 예측부(235)는 레이어 1 내의 정보만을 이용하여 인터 예측 또는 인트라 예측을 수행할 수도 있고, 다른 레이어(레이어 0)의 정보를 이용하여 인터 레이어 예측을 수행할 수도 있다.
예컨대, 레이어 1의 예측부(235)는 레이어 1의 움직임 정보, 레이어 1의 텍스처 정보, 레이어 1의 유닛 정보, 레이어 1의 파라미터 정보 중 하나를 이용하여 현재 블록에 대한 예측을 수행할 수 있다.
레이어 1의 예측부(235)는 레이어 0의 예측부(275)로부터 레이어 1의 움직임 정보를 전달받아서 움직임 예측을 수행할 수 있다. 인터 레이어 움직임 예측을 인터 레이어 인터 예측이라고도 한다. 인터 레이어 움직임 예측에 의해, 참조 레이어(베이스 레이어)의 움직임 정보를 이용하여 현재 레이어(인핸스먼트 레이어)의 현재 블록에 대한 예측이 수행될 수 있다. 예측부(335)는 필요한 경우에, 참조 레이어의 움직임 정보를 스케일링 하여 이용할 수도 있다.
레이어 1의 예측부(235)는 레이어 0의 예측부(275)로부터 레이어 0의 텍스처 정보를 전달받아서 텍스처 예측을 수행할 수 있다. 텍스처 예측은 인터 레이어 인트라 예측 혹은 인트라 BL(Base Layer) 예측이라고도 명명될수 있다. 텍스처 예측은 참조 레이어의 참조 블록이 인트라 예측에 의해 복원된 경우에 적용될 수 있다. 또는 텍스처 예측은 참조 레이어에 참조 인덱스를 할당하여 참조할 수도 있다.
인터 레이어 인트라 예측에서는 참조 레이어 내 참조 블록의 텍스처를 인핸스먼트 레이어의 현재 블록에 대한 예측 값으로 사용할 수 있다. 이때, 참조 블록의 텍스처는 업샘플링에 의해 스케일링될 수 있다.
레이어 1의 예측부(235)는 레이어 0의 예측부(275)로부터 레이어 0의 유닛 파라미터 정보를 전달받아서 유닛 파라미터 예측을 수행할 수 있다. 유닛 파라미터 예측에 의해, 베이스 레이어의 유닛(CU, PU 및/또는 TU) 정보가 인핸스먼트 레이어의 유닛 정보로 사용되거나, 베이스 레이어의 유닛 정보를 기반으로 인핸스먼트 레이어의 유닛 정보가 결정될 수 있다.
레이어 1의 예측부(235)는 레이어 0의 예측부(275)로부터 레이어 0의 필터링에 관한 파라미터 정보를 전달받아서 파라미터 예측을 수행할 수도 있다. 파라미터 예측에 의해, 베이스 레이어에서 사용한 파라미터를 유도하여 인핸스먼트 레이어에서 재사용하거나, 베이스 레이어에서 사용한 파라미터를 기반으로 인핸스먼트 레이어에 대한 파라미터를 예측할 수 있다.
상술된 인터 레이어를 이용한 여러 예측 방법은 특정 블록에 대한 예측 시 복수개가 이용될 수도 있다. 예를 들어 현재 블록을 예측하기 위하여 레이어 0의 예측 정보를 이용하면서, 대응되는 레이어 0 또는 대응 블록의 유닛 정보 또는 필터링 파라미터 정보 등을 추가적으로 이용할 수 있다. 이러한 인터 레이어 예측 방법의 결합은 본 명세서 이하에서 설명될 예측에도 적용될 수 있다.
가산기(290, 295)는 예측부(235, 275)에서 생성된 예측 블록과 역변환부(230, 270)에서 생성된 레지듀얼 블록을 이용해 복원 블록을 생성할 수 있다. 이 경우, 가산기(290, 295)를 복원 블록을 생성하는 별도의 유닛(복원 블록 생성부)로 볼 수 있다.
가산기(290, 295)에서 복원된 블록 및/또는 픽처는 필터링부(240, 280)로 제공될 수 있다.
도 2의 예를 참조하면, 레이어 1의 필터링부(240)는 레이어 1의 예측부(235) 및/또는 레이어 0의 필터링부(280)으로부터 전달되는 파라미터 정보를 이용하여 복원된 픽처에 대한 필터링을 수행할 수도 있다. 예컨대, 레이어 1에서 필터링부(240)는 레이어 0에서 적용된 필터링의 파라미터로부터 예측된 파라미터를 이용하여 레이어 1에 대한 혹은 레이어 간의 필터링을 적용할 수 있다.
메모리(245, 285)는 복원된 픽처 또는 블록을 저장하여 참조 픽처 또는 참조 블록으로 사용할 수 있도록 할 수 있다. 메모리(245, 285)는 저장된 복원 픽처를 소정의 출력부(미도시) 혹은 디스플레이(미도시)를 통해 출력할 수도 있다.
도 2의 예에서는 재정렬부, 역양자화부, 역변환부 등으로 나누어 설명하였으나, 도 1의 인코딩 장치에서와 같이, 역양자화/역변환부의 한 모듈에서 재정렬, 역양자화, 역변환을 순서대로 수행하도록 디코딩 장치를 구성할 수도 있다.
도 1 및 도 2의 예에서는 예측부로 설명하였으나, 발명의 이해를 돕기 위해, 레이어 1의 예측부는 다른 레이어(레이어 0)의 정보를 이용하여 예측을 수행하는 인터 레이어 예측부와 다른 레이어(레이어 0)의 정보를 이용하지 않고 예측을 수행하는 인터/인트라 예측부를 포함하는 것으로 볼 수도 있다.
도 2의 디코딩 장치는 영상을 재생하고, 또는 재생하여 표시할 수 있는 다양한 전자장치로 구현될 수 있다. 예를 들어 디코딩 장치는 셋탑 박스, 텔레비전, 컴퓨터 시스템, 휴대용 전화기, 태블랫 PC와 같은 개인 단말기 등으로 구현되거나 이들 전자장치에 포함될 수 있다.
비트스트림 내 복수의 레이어를 지원하는 비디오의 부호화 및 복호화, 즉 스케일러블 코딩(scalable coding)의 경우, 복수의 레이어 간에는 강한 연관성(correlation)이 존재하기 때문에 이런 연관성을 이용하여 예측을 수행하면 데이터의 중복 요소를 제거할 수 있고 영상의 부호화 성능을 향상시킬 수 있다. 다른 레이어의 정보를 이용하여 예측의 대상이 되는 현재 레이어의 예측을 수행하는 것을 이하에서는 레이어 간 예측(inter-layer prediction)이라고 표현한다. 스케일러블 비디오 코딩은 이하 부호화 관점에서는 스케일러블 비디오 부호화, 복호화 관점에서는 스케일러블 비디오 복호화와 동일한 의미를 가진다.
복수의 계층들은 해상도, 프레임 레이트, 컬러 포맷 중 적어도 하나가 서로 다를 수 있으며, 레이어 간 예측 시 해상도의 조절을 위하여 레이어의 업샘플링 또는 다운샘플링이 수행될 수 있다.
도 3은 본 발명의 일 예에 따라 베이스 레이어, 즉 참조 레이어와 참조 레이어의 정보를 이용하는 인핸스먼트 레이어를 도시한 도면이다.
제1 인핸스먼트 레이어(320)는 참조 레이어(310)의 움직임 벡터와 같은 움직임 정보, 블록 파티셔닝 및 레지듀얼 등과 같은 코딩된 데이터(coded data)를 참조할 수 있다. 즉, 코딩된 데이터는 인코딩 장치로부터 전송되는 신택스 및 시멘틱스와 같은 정보를 의미할 수 있다.
또한, 도시된 바와 같이, 제2 인핸스먼트 레이어(320)는 참조 레이어(310) 및 제1 인핸스먼트 레이어(320)의 움직임 벡터, 블록 파티셔닝 및 레지듀얼 등과 같은 코딩된 데이터(coded data)를 참조할 수 있다.
제2 인핸스먼트 레이어(320)는 참조 레이어(310)만을 참조할 수도 있고, 제1 인핸스먼트 레이어(320)만을 이용할 수도 있다.
도 3과 같이, 인핸스먼트 레이어가 하위 레이어의 정보를 참조할 때 참조 레이어의 코딩된 블록 또는 코딩된 픽처의 정보에 대한 의존성(dependency)이 고려될 수 있다. 예를 들어, 인핸스먼트 레이어는 움직임 벡터와 같은 움직임 정보를 참조하여 움직임 예측이 수행될 수 있다.
본 발명에서 의존성이란 인핸스먼트 레이어와 같은 상위 레이어의 디코딩 시, 참조 하위 레이어의 정보가 이용되는 것 또는 이러한 관계를 의미할 수 있으며, 또는 특정 스케일러빌러티 형태(scalability type)에서 하위 레이어를 참조하는 참조 형태를 의미할 수도 있다. 레이어 간 예측을 위하여 의존성에 대한 명확한 시그널링이 요구된다.
이러한 코딩된 데이터는 디코딩 과정이 필요 없으며, 디코딩 장치는 파싱 과정을 통하여 코딩된 데이터를 획득할 수 있다. 파싱 과정이 필요하기 때문에 참조 레이어 및 이를 참조하는 인핸스먼트 레이어는 동일한 코덱 구조(codec scheme)로 코딩 되어야 한다.
본 발명에서 코덱 구조란 영상을 코딩하고, 코딩된 영상을 역으로 디코딩하는 구조를 의미하며, 통상적으로 영상은 소정의 규격에 따른 동일한 구조를 이용하여 코딩 및 디코딩될 수 있다. 현재 코덱 구조로는 H.264 / MPEG AVC 및 HEVC Scalable Extension 등이 존재한다.
H.264/MPEG-4 파트 10 또는 AVC(Advanced Video Coding, 고급 영상 부호화)는 영상 압축 표준의 하나로, 현재 고선명 비디오의 녹화, 압축, 배포를 위한 가장 일반적인 포맷 가운데 하나이며, 매우 높은 데이터 압축률을 자랑한다.이 표준은 ITU-T의 비디오 코딩 전문가 그룹(Video Coding Experts Group, VCEG)과 ISO/IEC의 동화상 전문가 그룹(Moving Picture Experts Group, MPEG)이 공동으로 조인트 비디오 팀(Joint Video Team, JVT)을 구성하고 표준화를 진행한 결과물로 나온 것이다. 그러므로 ITU-T의 H.264와 ISO/IEC의 MPEG-4 파트 10 AVC(공식적으로는 ISO/IEC 14496-10-MPEG-4 파트 10, 고급 비디오 부호화)은 기술적으로 동일한 표준안이다. 표준안은 2003년 5월에 발표되었다.
HEVC는 고효율 비디오 코딩(High Efficiency Video Coding)는 H.264/MPEG-4 AVC의 성공에 힘입어 개발에 착수한 차세대 동영상 부호화 기술이다. 기존에 H.264/MPEG-4 AVC를 개발했던 ISO/IEC MPEG과 ITU-T의 영상 부호화 전문가 그룹(Video Coding Experts Group)이 Joint Collaborative Team on Video Coding(JCT-VC)으로서 2010년 1월 팀을 결성하여 현재 작업 중이다. 현재 표준화 작업은 완료되었다. 메인 프로파일(Main profile)에 대한 내용은 확정되어 있으며, 이를 기반으로 크기 가변적 비디오 코딩(Scalable Video coding)과 3D 비디오 코딩 기술이 각각 개발 중이다.
2013년 1월 25일, ITU는 스위스 제네바에서 HEVC를 차세대 최종 표준안으로 승인하였다. ISO/IEC 표준 번호는 ISO/IEC 23008-2 이며, 현재 FPS(Final Draft International Stansrad) 상태 이다. ITU-T 표준 번호는 2013년 4월 13일에 H.265로 발행되었다.
도 1의 레이어 1, 즉 인핸스먼트 레이어에 대한 인코딩부(105)와 도 2의 인핸스먼트 레이어에 대한 디코딩부(210)는 동일한 코덱 구조로 코딩된 영상을 처리할 수 있고, 도 1의 레이어 0, 즉 참조 레이어에 대한 인코딩부(135)와 도 2의 참조 레이어 0에 대한 디코딩부(250) 역시 동일한 코덱 구조로 코딩된 영상을 처리할 수 있도록 서로 쌍을 이루고 있다.
코덱 구조가 다른 경우, 정보를 파싱하는 파싱 구조가 상이하기 때문에 상술한 바와 같이, 파싱 과정을 거쳐야 하는 코딩 데이터는 다른 코덱 구조를 이용하여 코딩된 영상 간에서 참조될 수 없다.
따라서, 도 3과 같이 레이어 간 코딩된 데이터에 대한 의존성이 존재하는 경우, 참조 레이어 및 이를 참조하는 인핸스먼트 레이어는 동일한 코덱에 의하여 코딩되어야 한다. 따라서, 레이어 간 코딩된 데이터에 대한 의존성 정보는 참조되는 레이어와 참조하는 레이어가 동일한 부호화 방식으로 코딩되었는지 여부, 즉 코덱 구조의 동일성 여부에 대한 정보가 될 수 있다.
예를 들어, 참조 레이어가 H.264 / MPEG AVC에 따라 코딩되었다면, 인핸스먼트 레이어 역시 H.264 / MPEG AVC에 따라 코딩되어야 인핸스먼트 레이어는 참조 레이어의 코딩 정보를 이용할 수 있다.
만약, 참조 레이어가 H.264 / MPEG AVC에 따라 코딩되고, 참조 레이어를 참조하는 인핸스먼트 레이어가 H.264/MPEG AVC가 아닌 HEVC Scalable Extension에 따라 코딩되었다면, 두 개의 레이어를 디코딩하는 디코딩 장치의 파싱부의 구조가 상이하기 때문에 인핸스먼트 레이어는 참조 레이어의 코딩된 데이터를 참조할 수 없다.
이러한, 레이어 간 코딩된 데이터의 의존성이 존재하는 경우, 레이어 별로 독립적인 디코딩 과정이 수행되는 단일 루프 디코딩(Single-loop decoding)이 가능하다.
한편, 레이어간 코딩 데이터가 아닌 복원 값에 대한 의존성이 존재할 수 있다.
도 4는 본 발명의 다른 예에 따라 베이스 레이어, 즉 참조 레이어(410)와 참조 레이어(410)의 정보를 이용하는 인핸스먼트 레이어(420)를 도시한 도면이다.
인핸스먼트 레이어(420)는 참조 레이어(410)의 복원 데이터(reconstructed data), 즉 디코딩 과정을 거쳐 복원된 참조 픽처 또는 참조 블록의 픽셀값, 샘플값, 또는 복원 과정을 거친 데이터를 참조할 수 있다. 이러한 복원 데이터는 도 4와 같이 인핸스먼트 레이어의 픽처의 크기에 대응되도록 업샘플링 될 수 있다
이와 같이 복원된 샘플값에 대한 정보는 인핸스먼트 레이어(420)의 텍스처 예측 즉, 샘플 예측에 이용될 수 있다.
또한, 도시하지 않았지만, 도 3과 같이 추가적인 인핸스먼트 레이어가 존재할 수 있으며, 이 경우 추가적인 인핸스먼트 레이어는 참조 레이어 및 하위 인핸스먼트 레이어 중 적어도 하나의 픽셀값과 같은 복원 데이터를 참조할 수 있다.
도 4과 같이 레이어 간에 복원 데이터에 대한 의존성이 존재하는 경우, 참조 레이어의 참조 픽처가 어떻게 코딩되었는지 여부, 즉 코딩 방법이나 코덱 구조는 인핸스먼트 레이어가 참조 레이어를 참조하는데 필요하지 않다. 즉, 인핸스먼트 레이어와 참조 레이어가 다른 코덱 구조에 의하여 코딩되고, 디코딩 과정을 거쳤다 하더라도 참조할 수 있는 복원 데이터만 존재한다면 레이어 간 의존성이 성립될 수 있다.
따라서, 코딩된 데이터의 의존성과 비교하여 복원 데이터의 의존성이 존재하는 레이어 간에는 레이어의 코덱 구조가 상이하더라도 인핸스먼트 레이어가 참조 레이어를 참조하는 것이 가능하다.
이러한 레이어 간 복원 데이터 의존성이 존재하는 경우, 인핸스먼트 레이어의 디코딩 과정에 참조 레이어의 디코딩된 정보가 필요하므로 다중 루프 디코딩(multi-loop decoding)이 요구된다.
상기에서 살펴본 바와 같이, 인핸스먼트 레이어가 참조 레이어의 코딩된 데이터를 참조하는지 복원 데이터를 참조하는지에 따라 코덱 구조의 동일성 여부가 레이어 간 의존성에 영향을 줄 수도 있다.
달리 말하면, 디코딩 장치는 레이어간 예측을 위하여 상이한 코덱 구조 간에는 코딩된 데이터를 이용할 수 있고, 동일한 코덱 구조로 코딩된 레이어 간에는 코딩된 데이터 및 복원 데이터를 이용할 수 있다.
본 발명에서는 이러한 의존성 관계를 명확히 시그널링하고 시그널링된 의존성 정보게 기초하여 레이어 간 예측을 수행할 수 있는 디코딩 장치를 제공한다.
도 5는 본 발명의 또 다른 실시예에 따라 참조 레이어와 참조 레이어의 정보를 이용하는 인핸스먼트 레이어를 도시한 도면이다.
도 5에 도시된 바와 같이, 참조 레이어(510)는 제1 코덱 구조, 예를 들면 H.264/MPEG AVC에 의하여 코딩되었고, 제1 인핸스먼트 레이어(520) 및 제2 인핸스먼트 레이어(530)는 제2 코덱 구조, 예를 들면 HEVC Scalable Extension에 의하여 코딩될 수 있다.
레이어의 코딩 구조는 도 5에 한정되지 않으며, 제 1 인핸스먼트 레이어와 제2 인핸스먼트 레이어는 서로 다른 코덱 구조에 의하여 코딩될 수도 있다.
도 5를 참조하면, 코덱 구조에 따라 레이어 간의 의존성에는 명확한 차이가 발생한다. 코덱 구조의 차이도 불구하고 제1 인핸스먼트 레이어(520)는 제1 코덱 구조로 코딩된 참조 레이어(510)의 복원된 정보를 이용할 수 있으므로, 제1 인핸스먼트 레이어(520)와 참조 레이어(510) 간에는 복원 데이터 의존성이 존재한다. 즉, 제1 인핸스먼트 레이어(520)와 참조 레이어(510)는 상이한 코덱 구조로 코딩되었기 때문에 양 레이어 간에는 코딩된 데이터 의존성은 존재하지 않는다.
반면, 제2 인핸스먼트 레이어(520)는 제1 인핸스먼트 레이어(520)와 동일한 코덱 구조로 코딩되었기 때문에 제2 인핸스먼트 레이어(520)는 제1 인핸스먼트 레이어(520)의 코딩된 데이터 및 복원된 데이터 모두를 참조할 수 있다. 즉, 제2 인핸스먼트 레이어(520)는 제1 인핸스먼트 레이어(520)에 대하여 복원 데이터 및 코딩된 데이터 모두에 대하여 직접적인 의존성을 가질 수 있다.
물론, 제2 인핸스먼트 레이어(520)는 참조 레이어(510)와 상이한 코딩 구조로 코딩되었기 때문에 제2 인핸스먼트 레이어(520)는 참조 레이어(510)에 대하여 코딩된 데이터 의존성은 갖지 못하지만 복원 데이터에 대한 의존성을 가질 수 있다.
정리하면, 코딩된 데이터의 의존성 및 복원 데이터의 의존성을 서로 상이한 형태(type)의 의존성으로 간주한다면, 각 레이어 간에는 레이어가 코딩된 코덱 구조에 따라 서로 다른 타입의 의존성을 가질 수 있다. 도 5의 경우, 제1 인핸스먼트 레이어(520)는 참조 레이어(510)에 대하여 직접적인 복원 데이터 의존성을 가지고, 제2 인핸스먼트 레이어(520)는 제1 인핸스먼트 레이어(520)에 대하여 복원 데이터 및 코딩된 데이터에 대한 직접적인 의존성을 가진다. 제2 인핸스먼트 레이어(520)는 참조 레이어(510)에 대하여 직접적인 복원 데이터 의존성을 가질 수 있다.
상위 레이어가 하위 레이어를 참조함에 있어 상기와 같이 상이한 형태의 의존성을 가지는 경우, 디코딩 장치가 의존성을 정확하게 파악하고 디코딩 과정을 수행하기 위하여 의존성의 시그널링이 중요하다.
도 6은 본 발명의 일 실시예에 따른 비디오 인코딩 장치를 도시한 제어 블록도이다.
도 6에 도시되어 있는 바와 같이, 본 실시예에 따른 인코딩 장치는 제1 인코딩부(610), 제2 인코딩부(620) 및 의존성 정보 생성부(630)를 포함한다.
제1 인코딩부(610)는 도 1의 비디오 인코딩 장치에서 레이어 0의 인코딩을 위한 인코딩부(135)에 대응될 수 있고, 제2 인코딩부(620)는 도 1의 비디오 인코딩 장치에서 레이어 1의 인코딩을 위한 인코딩부(105)에 대응될 수 있다.
제1 인코딩부(610) 및 제2 인코딩부(620)에서는 각 레이어에 대한 영상에 대한 예측, 변환 및 엔트로피 코딩이 이루어지며, 이러한 내용은 도 1을 참조하여 설명된 인코딩 장치의 설명과 대동 소이하므로 생략한다.
인코딩 장치는 두 개의 레이어가 아닌 세 개 이상의 레이어에 대한 인코딩을 수행할 수 있으며, 이 경우 제3 인코딩부, 제4 인코딩부를 더 포함할 수 있다.
본 실시예에 따른 의존성 정보 생성부(630)는 각 인코딩부(610, 620)에서 레이어가 인코딩될 때 레이어 간 어떠한 정보가 서로 참조되었는지에 대한 의존성 정보를 생성한다. 의존성 정보 생성부(630)는 제1 인코딩부(610)에 포함되어 있는 부분적인 구성일 수도 있고, 제2 인코딩부(620)에 포함될 수 있는 일 구성일 수도 있다. 또는 의존성 정보 생성부(630)는 각 인코딩부(610, 620)에 포함되는 구성으로 설계될 수도 있다. 즉 설명의 편의를 위하여 의존성 정보 생성부(630)는 도 6에 독립된 구성으로 도시되었으나, 의존성 정보 생성부(630)의 물리적인 구조 및 위치는 도 6에 한정되지 않는다.
이러한 의존성 정보 생성부(630)에서 생성된 정보는 다른 정보와 유사하게 인코딩 과정을 거쳐 비트스트림 형태로 비디오 디코딩 장치로 전송된다.
표 1은 본 발명의 일 예에 따라 의존성 정보 생성부(630)에서 생성된 의존성 정보에 대한 구문 요소를 도시한 것이다.
Figure pct00001
표 1을 참고하면, 레이어 간 의존성 정보는 비디오 파라미터 세트(Video Parameter Set)에 포함되어 시그널링 된다.
num_direct_ref_layers[i]은 i 번째 레이어가 직접적으로 의존하는 레이어의 개수를 의미한다. 예를 들어, 참조 레이어 및 2개의 인핸스먼트 레이어가 존재하는 비트스트림의 경우, 가장 상위의 인핸스먼트 레이어는 직접적으로 최대 2개의 레이어에 의존성을 가질 수 있다.
ref_layer_id[ i ][ j ]는 i번째 레이어가 직접적으로 의존하는 j번째 레이어를 가리키는 것으로 특정 레이어가 참조하는 참조 레이어를 식별하는 정보를 나타낸다.
inter_layer_coded_flag[ i ][ j ]는 i 번째 레이어가 j 번째 레이어로 식별된 레이어를 참조할 때 코딩된 데이터에 대한 의존성이 존재하는지 여부를 나타내는 플래그 정보이다. inter_layer_coded_flag[ i ][ j ] 가 1이면 i 번째 레이어가 j 번째 레이어에 대하여 코딩된 데이터에 대한 의존성을 갖는 것을 의미하며, 0이면 i 번째 레이어가 j 번째 레이어에 대하여 코딩된 데이터에 대한 의존성을 갖지 않는 것을 나타낸다.
inter_layer_reconstructed_flag[ i ][ j ]는 i 번째 레이어가 j 번째 레이어로 식별된 레이어를 참조할 때 복원 데이터에 대한 의존성이 존재하는지 여부를 나타내는 플래그 정보이다. inter_layer_coded_flag[ i ][ j ] 가 1이면 i 번째 레이어가 j 번째 레이어에 대하여 복원 데이터에 대한 의존성을 갖는 것을 의미하며, 0이면 i 번째 레이어가 j 번째 레이어에 대하여 복원 데이터에 대한 의존성을 갖지 않는 것을 나타낸다.
즉, 상기 플래그 정보는 레이어 간 참조 관계를 시그널링 할 때 상위 레이어가 하위 레이어의 코딩 정보를 이용하는 또는 복원된 정보를 이용하는지 직접적으로 알려주는 역할을 한다. 이러한 플래그 정보는 레이어 간 참조 관계가 성립할 때, 의존성의 형태를 직접적으로 알려주는 정보가 될 수도 있다.
표 2는 본 발명의 다른 예에 따라 의존성 정보 생성부(630)에서 생성된 의존성 정보에 대한 구문 요소를 도시한 것이다.
Figure pct00002
표 2를 참고하면, 레이어 간 의존성 정보는 슬라이스 헤더(slice_header)에 포함되어 시그널링 된다. 즉, 레이어 간 의존성 정보는 각 슬라이스 별로 생성되어 비디오 디코딩 장치로 전송된다.
inter_layer_coded_flag[ i ][ j ]는 해당 슬라이스에 포함되어 있는 코딩된 트리 블록(treeblock)이 참조 레이어를 참조할 때 코딩된 데이터에 대한 의존성이 존재하는지 여부를 나타내는 플래그 정보이다. inter_layer_coded_flag[ i ][ j ] 가 1이면 해당 슬라이스가 참조 레이어에 대하여 코딩된 데이터에 대한 의존성을 갖는 것을 의미하며, 0이면 해당 슬라이스가 참조 레이어에 대하여 코딩된 데이터에 대한 의존성을 갖지 않는 것을 나타낸다.
inter_layer_reconstructed_flag[ i ][ j ]는 해당 슬라이스에 포함되어 있는 코딩된 트리 블록(treeblock)이 참조 레이어를 참조할 때 복원 데이터에 대한 의존성이 존재하는지 여부를 나타내는 플래그 정보이다. inter_layer_coded_flag[ i ][ j ] 가 1이면 해당 슬라이스가 참조 레이어에 대하여 복원 데이터에 대한 의존성을 갖는 것을 의미하며, 0이면 해당 슬라이스가 참조 레이어에 대하여 복원 데이터에 대한 의존성을 갖지 않는 것을 나타낸다.
도 7은 본 발명의 일 실시예에 따른 비디오 디코딩 장치를 도시한 제어 블록도이다.
도 7에 도시되어 있는 바와 같이, 본 실시예에 따른 디코딩 장치는 의존성 정보 파악부(710), 제1 디코딩부(720) 및 제2 디코딩부(730)를 포함한다.
본 실시예에 따른 의존성 정보 파악부(710)는 비디오 인코딩 장치로부터 수신되는 비트스트림에 기초하여 각 디코딩부(720, 730)에서 레이어가 인코딩될 때 레이어 간 어떠한 정보가 서로 참조되었는지에 대한 의존성 정보를 파악한다. 의존성 정보 파악부(710)는 비트스트림을 파싱하는 파싱부로 구현될 수 있으며, 또는 비트스트림을 엔트로피 디코딩하는 엔트로피 디코딩부로 구현될 수도 있다.
이러한 의존성 정보 파악부(710)는 제1 디코딩부(720)에 포함되어 있는 부분적인 구성일 수도 있고, 제2 디코딩부(730)에 포함될 수 있는 일 구성일 수도 있다. 또는 의존성 정보 파악부(710)는 각 디코딩부(720, 730)에 포함되는 복수의 구성 요소로 설계될 수도 있다. 즉 설명의 편의를 위하여 의존성 정보 파악부(710)는 도 7에 독립된 구성으로 도시되었으나, 의존성 정보 파악부(710)의 물리적인 구조 및 위치는 도 7에 한정되지 않는다.
인코딩 장치로부터 수신되어 의존성 정보 파악부(710)에서 파악되는 의존성 정보는 상위 레이어가 하위 레이어의 코딩된 데이터를 참조하는지 여부를 지시하는 정보일 수 있으며, 일 예로 표 1 및 표 2의 inter_layer_coded_flag[ i ][ j ]와 같은 플래그 정보일 수 있다.
또한, 의존성 정보는 상위 레이어가 하위 레이어의 복원 데이터를 참조하는지 여부를 지시하는 정보일 수 있으며, 이러한 의존성 정보는 표 1 및 표 2의 inter_layer_reconstructed_flag[ i ][ j ]일 수 있다.
상기 플래그 정보는 상위 레이어가 참조하는 하위 레이어의 의존성 형태를 지시할 수 있다. 만약, 의존성 정보가 inter_layer_coded_flag[ i ][ j ]이고, 플래그 값이 1이면 상위 레이어가 하위 레이어의 코딩된 데이터를 참조할 수 있다는 의존성 형태를 지시할 수 있다.
의존성 정보가 코딩된 데이터의 의존성을 지시하는 경우, 이는 상위 레이어와 하위 레이어가 동일한 코덱 구조로 코딩되었다는 것으로 해석할 수 있고, 더 나아가 상위 레이어가 코딩 데이터 특히 움직임 정보를 이용하여 움직임 예측을 할 수 있는 것으로 해석할 수 있다. 즉, 상기 플래그 정보는 다양한 의미로 기설정된 다양한 의미로 해석될 수 있다.
상기 의존성 정보의 플래그 값이 0이면, 상위 레이어가 하위 레이어의 코딩된 데이터를 이용하지 않는 것으로 해석될 수도 있고, 양 레이어가 상이한 코덱 구조로 코딩되었음을 지시하는 것으로 해석될 수도 있다.
한편, 만약, 의존성 정보가 inter_layer_reconstructed_flag[ i ][ j ]이고, 플래그 값이 1이면, 상위 레이어가 하위 레이어의 복원 데이터를 참조할 수 있는 의존성 형태를 알려주는 정보가 된다. 이러한 복원 데이터는 상위 레이어의 텍스처 예측, 즉 샘플 예측에 이용될 수 있다.
이러한 의존성 정보는 표 1과 같이 비트스트림 내 비디오 파라미터 세트에 포함되어 수신될 수도 있고, 표 2와 같이 슬라이스 헤더에 포함되어 수신될 수도 있다.
의존성 정보 파악부(710)에서 파악된 레이어 간 의존성 정보는 디코딩부(720, 730)에 전달되고, 디코딩부(720, 730)는 의존성 정보에 기초하여 레이어 간 예측 및 복원을 수행할 수 있다.
제1 디코딩부(720)는 도 2의 비디오 디코딩 장치에서 레이어 0의 디코딩을 위한 디코딩부(135)에 대응될 수 있고, 제2 디코딩부(730)는 도 2의 비디오 디코딩 장치에서 레이어 1의 디코딩을 위한 디코딩부(105)에 대응될 수 있다.
제1 디코딩부(720) 및 제2 디코딩부(730)에서는 각 레이어의 영상에 대한 엔트로피 디코딩, 역변환 및 예측, 복원이 이루어지며, 이러한 내용은 도 2을 참조하여 설명된 디코딩 장치의 설명과 대동 소이하므로 생략한다.
디코딩 장치는 두 개의 레이어가 아닌 세 개 이상의 레이어에 대한 디코딩을 수행할 수 있으며, 이 경우 제3 디코딩부, 제4 디코딩부를 더 포함할 수 있다.
도 8은 본 발명의 일 실시예에 따른 영상의 디코딩 방법을 설명하기 제어 흐름도이다. 도 8을 참조하여 본 실시예에 따른 영상의 디코딩 방법을 정리하면 다음과 같다.
우선, 파싱부 또는 엔트로피 디코딩부로 구현될 수 있는 의존성 정보 파악부는 비트스트림 내 하위 레이어를 참조하는 상위 레이어의 의존성 정보를 파악한다(S810).
이러한 의존성 정보는 비디오 파라미터 세트 또는 슬라이스 헤더에 포함되어 수신될 수 있으며, 상위 레이어가 하위 레이어와 동일한 코딩 방식으로 코딩되었는지 여부를 알려주는 정보일 수 있다. 의존성 정보는 복원된 데이터 또는 코딩된 데이터에 대한 의존성 여부를 지시하는 플래그 정보를 포함할 수 있다.
파악 결과, 코딩된 데이터에 대한 의존성 여부를 지시하는 플래그가 1이어서 상위 레이어가 하위 레이어의 코딩된 데이터를 참조하는 의존성이 존재한다면(S820), 순차적으로 의존성 정보 파악부는 상위 레이어가 하위 레이어의 복원 데이터를 참조하는 복원 데이터에 대한 의존성 여부를 파악할 수 있다(S830).
파악된 결과, 상위 레이어가 하위 레이어에 대하여 복원 데이터에 대한 의존성을 갖는다면, 즉, 상위 레이어가 하위 레이어의 코딩된 데이터 및 복원 데이터를 모두 참조하면, 상위 레이어에 대한 디코딩부는 하위 레이어의 코딩된 데이터 및 복원 데이터를 모두 참조하여 상위 레이어의 영상을 예측 및 복원할 수 있다(S840).
이 경우, 코딩된 데이터에 대한 의존성 여부를 지시하는 플래그가 1이므로 상위 레이어와 하위 레이어는 동일한 코덱 구조로 디코딩 된 것으로 파악될 수 있다.
이 때, 하위 레이어의 코딩된 데이터는 하위 레이어의 영상에 대한 움직임 벡터와 같은 움직임 정보, 블록 파티셔닝 및 레지듀얼 중 적어도 하나일 수 있고, 하위 레이어의 복원 데이터는 하위 레이어의 영상의 픽셀값 및/또는 픽셀값의 업샘플링된 값일 수도 있다.
디코딩 장치는 하위 레이어의 코딩된 데이터를 파싱하고, 하위 레이어의 픽셀값을 복원하여 이를 상위 레이어의 예측 및 복원에 이용할 수 있다.
즉, 디코딩 장치는 하위 레이어의 복원값을 이용하여 상위 레이어의 샘플 예측, 하위 레이어의 움직임 정보를 이용하여 움직임 예측을 수행할 수 있다.
반면, 상위 레이어가 하위 레이어에 대한 복원 데이터 의존성이 없는 경우, 즉, 상위 레이어가 하위 레이어의 코딩된 데이터만을 참조하는 경우, 디코딩 장치는 하위 레이어의 코딩된 데이터를 파싱한다(S850).
하위 레이어의 코딩된 데이터는 하위 레이어의 영상에 대한 움직임 벡터를 포함하는 움직임 정보, 블록 파티셔닝 및 레지듀얼 중 적어도 하나일 수 있다.
상위 레이어를 디코딩하는 디코딩부는 코딩된 데이터를 참조하여 디코딩된 대상이 되는 상위 레이어의 영상을 파티셔닝하거나 움직임을 보상하는 등의 예측 과정 및 레지듀얼 정보를 이용하여 영상을 복원하는 등의 디코딩 과정을 수행한다(S860).
이 경우 역시 코딩된 데이터에 대한 의존성 여부를 지시하는 플래그가 1이므로 상위 레이어와 하위 레이어는 동일한 코덱 구조로 디코딩 된 것으로 파악될 수 있다.
한편, 상위 레이어가 하위 레이어의 코딩된 데이터에 대한 의존성이 없으면(S820), 상위 레이어가 하위 레이어의 복원 데이터를 참조하는 복원 데이터에 대한 의존성 여부가 파악될 수 있다. 이 경우는 상위 레이어와 하위 레이어는 동일한 코덱 구조로 코딩될 수도 있고 서로 다른 코덱 구조로 코딩될 수도 있다.
플래그 정보 등을 통하여 상위 레이어가 하위 레이어의 복원 데이터를 참조하는 것으로 파악되면, 즉, 상위 레이어가 하위 레이어의 복원 데이터만을 참조하는 경우(S870), 하위 레이어를 디코딩하는 디코딩부는 하위 레이어의 영상을 복원하는 디코딩 과정 및 업샘플링을 수행할 수 있다(S880).
하위 레이어에 대한 디코딩 과정 및/또는 업샘플링 과정은 상위 레이어의 디코딩 과정 전에 수행될 수 있으며, 디코딩 과정을 통하여 생성된 하위 레이어의 픽셀값과 같은 복원 데이터는 DPB(decoded picture buffer)와 같은 메모리에 저장될 수 있다. 또는 이러한 복원 데이터는 상위 레이어의 디코딩 과정에서 필요한 때 복원 및/또는 업샘플링될 수도 있다.
상위 레이어를 디코딩하는 디코딩부는 복원 데이터를 참조하여 상위 레이어의 영상을 예측 및 복원한다(S890).
한편, 상위 레이어가 하위 레이어의 코딩된 데이터 및 복원 데이터에 대한 의존성이 없는 경우, 상위 레이어를 디코딩하는 디코딩부는 상위 레이어의 정보만을 이용하여 통상적인 디코딩 과정을 수행할 수 있다(S801).
이와 같이 본 발명은 다른 레이어의 정보를 이용하여 현재 레이어에 대한 예측을 수행하는 방법에 대한 것으로, 현재 레어어가 참조하는 참조 레이어의 정보가 부호화된 데이터인지 복원된 값인지 여부를 지시하는 정보를 수신 및 파악할 수 방법 및 장치를 제공한다.
이를 통하여 또한, 상이한 코딩 구조로 코딩된 영상을 디코딩 할 때 레이어 간 참조성 형태(dependency type) 역시 파악할 수 있다.
상술한 예시적인 시스템에서, 방법들은 일련의 단계 또는 블록으로써 순서도를 기초로 설명되고 있지만, 본 발명은 단계들의 순서에 한정되는 것은 아니며, 어떤 단계는 상술한 바와 다른 단계와 다른 순서로 또는 동시에 발생할 수 있다. 또한, 상술한 실시예들은 다양한 양태의 예시들을 포함할 수 있으므로 각 실시예의 조합 역시 본 발명의 일 실시예로서 이해되어야 할 것이다. 따라서, 본 발명은 이하의 특허청구범위 내에 속하는 모든 다른 교체, 수정 및 변경을 포함한다고 할 것이다.

Claims (18)

  1. 복수의 레이어를 포함하는 비트스트림을 디코딩하는 영상의 디코딩 방법에 있어서,
    상위 레이어가 하위 레이어와 동일한 코딩 방식으로 코딩되었는지 여부를 알려주는 의존성 정보를 수신하여 파악하는 단계와;
    상기 파악된 의존성 정보에 기초하여 상기 상위 레이어의 영상을 복원하는 단계를 포함하는 것을 특징으로 하는 영상의 디코딩 방법.
  2. 제1항에 있어서,
    상기 의존성 정보는 상기 상위 레이어가 상기 하위 레이어의 코딩된 데이터를 참조하는지 여부를 지시하는 정보를 포함하는 것을 특징으로 하는 영상의 디코딩 방법.
  3. 제2항에 있어서,
    상기 코딩된 데이터는 상기 하위 레이어의 영상에 대한 움직임 정보, 블록 파티셔닝 및 레지듀얼 중 적어도 하나를 포함하는 것을 특징으로 하는 영상 디코딩 방법.
  4. 제3항에 있어서,
    상기 상위 레이어의 영상을 복원하는 단계는,
    상기 하위 레이어의 코딩된 데이터를 파싱하는 단계와;
    상기 움직임 정보를 참조하여 상기 상위 레이어의 영상에 대한 움직임을 예측하는 단계를 포함하는 것을 특징으로 하는 영상의 디코딩 방법.
  5. 제2항에 있어서,
    상기 의존성 정보는 상기 상위 레이어가 상기 하위 레이어의 복원 데이터를 참조하는지 여부를 지시하는 정보를 포함하는 것을 특징으로 하는 영상의 디코딩 방법.
  6. 제5항에 있어서,
    상기 복원 데이터는 상기 하위 레이어의 영상에 대한 업샘플링된 샘플값을 포함하는 것을 특징으로 하는 영상 디코딩 방법.
  7. 제6항에 있어서,
    상기 상위 레이어의 영상을 복원하는 단계는,
    상기 샘플값을 참조하여 상기 상위 레이어의 영상을 예측하는 단계를 포함하는 것을 특징으로 하는 영상의 디코딩 방법.
  8. 제1항에 있어서,
    상기 의존성 정보는 비트스트림 내 비디오 파라미터 세트에 포함되어 수신되는 것을 특징으로 하는 영상 디코딩 방법.
  9. 제1항에 있어서,
    상기 의존성 정보는 비트스트림 내 슬라이스 헤더에 포함되어 수신되는 것을 특징으로 하는 영상 디코딩 방법.
  10. 복수의 레이어를 포함하는 비트스트림을 디코딩하는 영상의 디코딩 장치에 있어서,
    상위 레이어가 하위 레이어와 동일한 코딩 방식으로 코딩되었는지 여부를 알려주는 의존성 정보를 수신하여 파악하는 의존성 정보 파악부와;
    상기 파악된 의존성 정보에 기초하여 상기 상위 레이어의 영상을 복원하는 상위 레이어 디코딩부를 포함하는 것을 특징으로 하는 영상의 디코딩 장치.
  11. 제10항에 있어서,
    상기 의존성 정보는 상기 상위 레이어가 상기 하위 레이어의 코딩된 데이터를 참조하는지 여부를 지시하는 정보를 포함하는 것을 특징으로 하는 영상의 디코딩 장치.
  12. 제11항에 있어서,
    상기 코딩된 데이터는 상기 하위 레이어의 영상에 대한 움직임 정보, 블록 파티셔닝 및 레지듀얼 중 적어도 하나를 포함하는 것을 특징으로 하는 영상 디코딩 장치.
  13. 제12항에 있어서,
    상기 상위 레이어 디코딩부는,
    상기 하위 레이어의 코딩된 데이터를 파싱하고,
    상기 움직임 정보를 참조하여 상기 상위 레이어의 영상을 예측하는 것을 특징으로 하는 영상의 디코딩 장치.
  14. 제10항에 있어서,
    상기 의존성 정보는 상기 상위 레이어가 상기 하위 레이어의 복원 데이터를 참조하는지 여부를 지시하는 정보를 포함하는 것을 특징으로 하는 영상의 디코딩 장치.
  15. 제14항에 있어서,
    상기 복원 데이터는 상기 하위 레이어의 영상에 대한 업샘플링된 샘플값을 포함하는 것을 특징으로 하는 영상 디코딩 장치.
  16. 제15항에 있어서,
    상기 상위 레이어 디코딩부는 상기 샘플값을 참조하여 상기 상위 레이어의 영상을 예측하는 것을 특징으로 하는 영상의 디코딩 장치.
  17. 제10항에 있어서,
    상기 의존성 정보는 비트스트림 내 비디오 파라미터 세트에 포함되어 수신되는 것을 특징으로 하는 영상 디코딩 장치.
  18. 제10항에 있어서,
    상기 의존성 정보는 비트스트림 내 슬라이스 헤더에 포함되어 수신되는 것을 특징으로 하는 영상 디코딩 장치.
KR1020157001216A 2012-09-09 2013-09-09 영상 복호화 방법 및 이를 이용하는 장치 KR102160242B1 (ko)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US201261698706P 2012-09-09 2012-09-09
US61/698,706 2012-09-09
PCT/KR2013/008119 WO2014038905A2 (ko) 2012-09-09 2013-09-09 영상 복호화 방법 및 이를 이용하는 장치

Publications (2)

Publication Number Publication Date
KR20150054751A true KR20150054751A (ko) 2015-05-20
KR102160242B1 KR102160242B1 (ko) 2020-09-25

Family

ID=50237731

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020157001216A KR102160242B1 (ko) 2012-09-09 2013-09-09 영상 복호화 방법 및 이를 이용하는 장치

Country Status (7)

Country Link
US (1) US9654786B2 (ko)
EP (1) EP2894854A4 (ko)
JP (1) JP6055098B2 (ko)
KR (1) KR102160242B1 (ko)
CN (3) CN108769683B (ko)
HK (2) HK1257972A1 (ko)
WO (1) WO2014038905A2 (ko)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
MX361767B (es) * 2012-07-09 2018-12-17 Vid Scale Inc Arquitectura de códec para codificación de video de múltiples capas.
US10805605B2 (en) * 2012-12-21 2020-10-13 Telefonaktiebolaget Lm Ericsson (Publ) Multi-layer video stream encoding and decoding
KR20140087971A (ko) 2012-12-26 2014-07-09 한국전자통신연구원 계층적 비디오 부호화에서 다중참조계층을 적용한 화면간 부／복호화 방법 및 그 장치
US10129550B2 (en) * 2013-02-01 2018-11-13 Qualcomm Incorporated Inter-layer syntax prediction control
US20140254681A1 (en) * 2013-03-08 2014-09-11 Nokia Corporation Apparatus, a method and a computer program for video coding and decoding
US10212437B2 (en) * 2013-07-18 2019-02-19 Qualcomm Incorporated Device and method for scalable coding of video information
JP6212212B2 (ja) * 2013-10-11 2017-10-11 ヴィド スケール インコーポレイテッド Ｈｅｖｃ拡張のための高レベル構文

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1800494A1 (en) 2004-10-13 2007-06-27 Thomson Licensing Method and apparatus for complexity scalable video encoding and decoding
KR100885443B1 (ko) * 2005-04-06 2009-02-24 엘지전자 주식회사 레이어간 예측방식를 사용해 엔코딩된 영상신호를디코딩하는 방법
KR100678911B1 (ko) * 2005-07-21 2007-02-05 삼성전자주식회사 방향적 인트라 예측의 적용을 확장하여 비디오 신호를인코딩하고 디코딩하는 방법 및 장치
US7840078B2 (en) * 2006-07-10 2010-11-23 Sharp Laboratories Of America, Inc. Methods and systems for image processing control based on adjacent block characteristics
US7535383B2 (en) * 2006-07-10 2009-05-19 Sharp Laboratories Of America Inc. Methods and systems for signaling multi-layer bitstream data
KR20080008205A (ko) * 2006-07-19 2008-01-23 엘지전자 주식회사 영상 신호의 인코딩 및 디코딩 방법
US7991236B2 (en) * 2006-10-16 2011-08-02 Nokia Corporation Discardable lower layer adaptations in scalable video coding
TWI368443B (en) * 2006-11-09 2012-07-11 Lg Electronics Inc Method and apparatus for decoding/encoding a video signal
WO2008071036A1 (en) * 2006-12-14 2008-06-19 Thomson Licensing Method and apparatus for encoding and/or decoding bit depth scalable video data using adaptive enhancement layer prediction
EP2092748A4 (en) * 2006-12-14 2011-01-05 Thomson Licensing METHOD AND DEVICE FOR CODING AND / OR DECODING VIDEO DATA USING EXPANSION LAYER RESTRICTION FOR SOFTENCE SCALINGABILITY
EP1933564A1 (en) * 2006-12-14 2008-06-18 Thomson Licensing Method and apparatus for encoding and/or decoding video data using adaptive prediction order for spatial and bit depth prediction
US8767834B2 (en) * 2007-03-09 2014-07-01 Sharp Laboratories Of America, Inc. Methods and systems for scalable-to-non-scalable bit-stream rewriting
KR20090097015A (ko) * 2008-03-10 2009-09-15 삼성전자주식회사 스케일러블 영상 부호화장치 및 스케일러블 영상복호화장치
US8542748B2 (en) * 2008-03-28 2013-09-24 Sharp Laboratories Of America, Inc. Methods and systems for parallel video encoding and decoding
CN102257818B (zh) * 2008-10-17 2014-10-29 诺基亚公司 3d视频编码中运动向量的共享
EP2425626A2 (en) * 2009-05-01 2012-03-07 Thomson Licensing Inter-layer dependency information for 3dv
CN102075766B (zh) * 2009-11-23 2013-01-09 华为技术有限公司 视频编码、解码方法、装置及视频编解码系统
US8705624B2 (en) * 2009-11-24 2014-04-22 STMicroelectronics International N. V. Parallel decoding for scalable video coding
JP2011228059A (ja) 2010-04-16 2011-11-10 Sumitomo Electric Ind Ltd レドックスフロー電池用双極板
US20110274178A1 (en) * 2010-05-06 2011-11-10 Canon Kabushiki Kaisha Method and device for parallel decoding of video data units
US9398313B2 (en) * 2010-12-29 2016-07-19 Nokia Technologies Oy Depth map coding
WO2013009441A2 (en) * 2011-07-12 2013-01-17 Vidyo, Inc. Scalable video coding using multiple coding technologies
US20130243100A1 (en) * 2012-03-15 2013-09-19 Mediatek Inc. System and Method for Adaptive Frame Re-compression in Video Processing System
US10205961B2 (en) * 2012-04-23 2019-02-12 Qualcomm Incorporated View dependency in multi-view coding and 3D coding

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Danny Hong ET AL., Scalability Support in HEVC, Joint Collaborative Team on Video Coding (JCT-VC) of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 6th Meeting: Torino, IT, 2011.07.13., JCTVC-F290.* *

Also Published As

Publication number Publication date
CN108718411B (zh) 2022-07-15
CN104604228B (zh) 2018-06-29
CN108769683A (zh) 2018-11-06
JP2015529410A (ja) 2015-10-05
WO2014038905A3 (ko) 2014-05-01
HK1257971A1 (zh) 2019-11-01
US20150201203A1 (en) 2015-07-16
JP6055098B2 (ja) 2016-12-27
CN108769683B (zh) 2022-07-12
KR102160242B1 (ko) 2020-09-25
EP2894854A2 (en) 2015-07-15
US9654786B2 (en) 2017-05-16
HK1257972A1 (zh) 2019-11-01
CN108718411A (zh) 2018-10-30
CN104604228A (zh) 2015-05-06
WO2014038905A2 (ko) 2014-03-13
EP2894854A4 (en) 2016-01-27

Similar Documents

Publication Publication Date Title
US20220030282A1 (en) Method and an apparatus for processing a video signal
US11223837B2 (en) Inter-layer texture coding with adaptive transform and multiple inter-layer motion candidates
KR20220113326A (ko) 스케일러블 비디오 코딩 및 디코딩 방법과 이를 이용한 장치
US9924181B2 (en) Method and apparatus of bi-directional prediction for scalable video coding
JP5993092B2 (ja) 映像復号化方法及びそれを利用する装置
KR102094557B1 (ko) 화상 처리 장치 및 방법
KR102160242B1 (ko) 영상 복호화 방법 및 이를 이용하는 장치
EP2201770A1 (en) Method, medium, and apparatus for encoding and/or decoding video
KR20190060008A (ko) 영상 디코딩 방법 및 이를 이용하는 장치
WO2013147557A1 (ko) 인터 레이어 예측 방법 및 이를 이용하는 인코딩 장치와 디코딩 장치
KR20150091043A (ko) 복수의 레이어를 지원하는 영상 부호화/복호화 방법 및 장치
KR20150013112A (ko) 비디오 인코딩 방법, 비디오 디코딩 방법 및 이를 이용하는 장치
CA2882519C (en) Method and apparatus of interlayer texture prediction
WO2013145021A1 (ja) 画像復号方法及び画像復号装置
WO2014129873A1 (ko) 스케일러빌러티를 지원하는 멀티 레이어 구조의 비디오 인코딩 방법 및 비디오 디코딩 방법과 이를 이용하는 장치
WO2013147497A1 (ko) 스케일러블 비디오 코딩에서 샘플 적응적 오프셋 적용 방법 및 이를 이용한 장치

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant