KR20170089777A - 예측을 사용하는 비디오의 부호화 및 복호화를 위한 방법 및 장치 - Google Patents

예측을 사용하는 비디오의 부호화 및 복호화를 위한 방법 및 장치 Download PDF

Info

Publication number
KR20170089777A
KR20170089777A KR1020170012160A KR20170012160A KR20170089777A KR 20170089777 A KR20170089777 A KR 20170089777A KR 1020170012160 A KR1020170012160 A KR 1020170012160A KR 20170012160 A KR20170012160 A KR 20170012160A KR 20170089777 A KR20170089777 A KR 20170089777A
Authority
KR
South Korea
Prior art keywords
prediction
block
reconstructed
unit
current block
Prior art date
Application number
KR1020170012160A
Other languages
English (en)
Inventor
임성창
고현석
강정원
이진호
전동산
김휘용
전병우
김남욱
전승수
최진수
Original Assignee
한국전자통신연구원
성균관대학교산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원, 성균관대학교산학협력단 filed Critical 한국전자통신연구원
Priority to PCT/KR2017/000965 priority Critical patent/WO2017131473A1/ko
Priority to CN202211613690.9A priority patent/CN115733978A/zh
Priority to CN202211613450.9A priority patent/CN116016911A/zh
Priority to CN202211613703.2A priority patent/CN115941948A/zh
Priority to CN202211615144.9A priority patent/CN116016912A/zh
Priority to CN202211613836.XA priority patent/CN115733979A/zh
Priority to CN201780009090.2A priority patent/CN108605123B/zh
Priority to CN202211613933.9A priority patent/CN115941949A/zh
Priority to CN202211613078.1A priority patent/CN115733977A/zh
Publication of KR20170089777A publication Critical patent/KR20170089777A/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/567—Motion estimation based on rate distortion criteria
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

제1 예측 및 제2 예측을 사용하는 부호화 및 복호화를 위한 방법 및 장치가 개시된다. 현재 블록의 부호화에 있어서, 현재 블록의 잔차 신호는 현재 블록, 제1 예측 및 제2 예측에 기반하여 생성된다. 또한, 잔차 신호에 대한 부호화를 수행함으로써 부호화된 잔차 신호에 대한 정보가 생성된다. 현재 블록의 복호화에 있어서, 현재 블록에 대한 복원된 잔차 신호가 생성된다. 복원된 잔차 신호, 제2 예측 및 제1 예측에 기반하여 현재 블록에 대한 복원된 블록이 생성된다.

Description

예측을 사용하는 비디오의 부호화 및 복호화를 위한 방법 및 장치{METHOD AND APPARATUS FOR ENCODING AND DECODING VIDEO USING PREDICTION}
아래의 실시예들은 비디오의 복호화 방법, 복호화 장치, 부호화 방법 및 부호화 장치에 관한 것으로서, 보다 상세하게는 대상 블록에 대한 예측을 사용하여 동영상에 대한 부호화 및 복호화를 수행하는 방법 및 장치에 관한 것이다.
정보 통신 산업의 지속적인 발달을 통해 HD(High Definition) 해상도를 가지는 방송 서비스가 세계적으로 확산되었다. 이러한 확산을 통해, 많은 사용자들이 고해상도이며 고화질인 영상(image) 및/또는 비디오(video)에 익숙해지게 되었다.
높은 화질에 대한 사용자들의 수요를 만족시키기 위하여, 많은 기관들이 차세대 영상 기기에 대한 개발에 박차를 가하고 있다. 에이치디티브이(High Definition TV; HDTV) 및 풀에이치디(Full HD; FHD) TV뿐만 아니라, FHD TV에 비해 4배 이상의 해상도를 갖는 울트라에이치디(Ultra High Definition; UHD) TV에 대한 사용자들의 관심이 증대하였고, 이러한 관심의 증대에 따라, 더 높은 해상도 및 화질을 갖는 영상에 대한 영상 부호화(encoding)/복호화(decoding) 기술이 요구된다.
영상 부호화(encoding)/복호화(decoding) 장치 및 방법은 고해상도 및 고화질의 영상에 대한 부호화/복호화를 수행하기 위해, 인터(inter) 예측(prediction) 기술, 인트라(intra) 예측 기술 및 엔트로피 부호화 기술 등을 사용할 수 있다. 인터 예측 기술은 시간적으로(temporally) 이전의 픽쳐 및/또는 시간적으로 이후의 픽쳐를 이용하여 현재 픽쳐에 포함된 픽셀의 값을 예측하는 기술일 수 있다. 인트라 예측 기술은 현재 픽쳐 내의 픽셀의 정보를 이용하여 현재 픽쳐에 포함된 픽셀의 값을 예측하는 기술일 수 있다. 엔트로피 부호화 기술은 출현 빈도가 높은 심볼에는 짧은 코드(code)를 할당하고, 출현 빈도가 낮은 심볼에는 긴 코드를 할당하는 기술일 수 있다.
영상의 부호화 및 복호화에 있어서, 예측은 원본 신호와 유사한 예측 신호를 생성하는 것을 의미할 수 있다. 예측은 크게 공간적(spatial) 복원된(reconstructed) 영상을 참조하는 예측, 시간적(temporal) 복원된 영상을 참조하는 예측 및 그 밖의 심볼에 대한 예측으로 분류될 수 있다. 말하자면, 시간적 참조는 시간적 복원된 영상을 참조하는 것을 의미할 수 있고, 공간적 참조는 공간적 복원된 영상을 참조하는 것을 의미할 수 있다.
현재 블록은 현재 부호화 또는 복호화의 대상인 블록일 수 있다. 현재 블록은 대상 블록 또는 대상 유닛으로 명명될 수 있다. 부호화에 있어서, 현재 블록은 부호화 대상 블록 또는 부호화 대상 유닛으로 명명될 수 있다. 복호화에 있어서, 현재 블록은 복호화 대상 블록 또는 복호화 대상 유닛으로 명명될 수 있다.
인터(inter) 예측은 시간적 참조 및 공간적 참조를 사용하여 현재 블록을 예측하는 기술일 수 있다. 인트라(intra) 예측은 공간적 참조만을 사용하여 현재 블록을 예측하는 기술일 수 있다.
영상 부호화/복호화 기술은 공간적인 반복을 감소시키기 위해 인트라 예측을 수행할 때 복수의 예측 모드들 중 하나의 예측 모드를 사용하여 현재 블록을 부호화한다. 예를 들면, 고 효율 비디오 코딩(High Efficiency Video Coding; HEVC) 기술에서는 35 개의 인트라 예측 모드들을 사용한다.
부호화 장치는 복수의 예측 모드들 중 가용한 모든 예측 모드들을 사용하여 현재 블록의 예측 블록들을 생성하고, 가장 우수한 결과를 낳는 하나의 예측 모드들 현재 블록의 부호화의 예측 모드로서 선택한다. 그러나, 가장 우수한 결과를 낳는 예측 모드를 사용하더라도, 원래의 블록 및 예측 블록 간에는 여전히 오차가 존재한다. 이러한 오차는 잔차 블록으로서 표현된다.
픽셀들 중 일부에 대해서는, 원래의 블록 및 예측 블록 간에 큰 오차가 존재한다. 이러한 큰 오차에 의해 잔차 블록에 대한 변환 및/또는 양자화가 적용된 이후에도 충분한 공간적 반복 감소가 이루어지지 않을 수 있다.
일 실시예는 예측에 의해 발생하는 예측 단위의 예측 오차를 감소시키는 방법 및 장치를 제공할 수 있다.
일 실시예는 예측 모드의 예측 방향에 의해 발생하는 예측 오차를 감소시키는 방법 및 장치를 제공할 수 있다.
일 실시예는 제1 예측에 따른 예측 오차에 대해 제1 예측 모드의 방향으로 선택적인 제2 예측을 수행하는 방법 및 장치를 제공할 수 있다.
일 실시예는 제1 예측에 따른 예측 오차 중 일부에 대해 선택적인 제2 예측을 수행하는 방법 및 장치를 제공할 수 있다.
일 실시예는 제1 예측에 따른 예측 오차 중 왜곡이 심한 부분에 대해 선택적인 제2 예측을 수행하는 방법 및 장치를 제공할 수 있다.
일 실시예는 제1 예측에 따른 예측 오차 중 일부에 대해서만 선택적인 제2 예측을 수행함으로써 예측 오차의 전체에 대해 제2 예측을 수행할 경우에 발생할 수 있는 추가적인 예측 오차를 방지하는 방법 및 장치를 제공할 수 있다.
일 실시예는 예측 방향으로 생성되는 큰 예측 오차를 감소시킴으로써 변환 양자화의 진행을 통해 충분한 공간적 반복 감소를 획득하는 방법 및 장치를 제공할 수 있다.
일 측에 있어서, 현재 블록, 제1 예측 및 제2 예측에 기반하여 현재 블록의 잔차 신호를 생성하는 단계; 및 상기 잔차 신호에 대한 부호화를 수행함으로써 부호화된 잔차 신호에 대한 정보를 생성하는 단계를 포함하고, 상기 제2 예측은 상기 제1 예측의 예측 오차에 대한 예측인, 부호화 방법이 제공된다.
다른 일 측에 있어서, 현재 블록에 대한 복원된 잔차 신호를 생성하는 복원된 잔차 신호 생성부; 및 상기 복원된 잔차 신호, 제2 예측 및 제1 예측에 기반하여 현재 블록에 대한 복원된 블록을 생성하는 복원된 블록 생성부를 포함하는, 복호화 방법이 제공된다.
또 다른 일 측에 있어서, 현재 블록에 대한 복원된 잔차 신호를 생성하는 단계; 및 상기 복원된 잔차 신호, 제2 예측 및 제1 예측에 기반하여 현재 블록에 대한 복원된 블록을 생성하는 단계를 포함하는, 복호화 방법이 제공된다.
상기 복원된 블록은 상기 복원된 잔차 신호, 상기 제1 예측에 의해 생성된 제1 예측 신호 및 상기 제2 예측에 의해 생성된 제2 예측 신호의 합에 대응할 수 있다.
상기 제1 예측 및 상기 제2 예측은 인트라 예측일 수 있다.
상기 제2 예측의 예측 방향은 상기 제1 예측 방향과 동일할 수 있다.
제1 예측의 복수의 제1 참조 블록들 및 제2 예측의 복수의 제2 참조 블록들 중 적어도 일부는 서로 상이할 수 있다.
제1 예측의 제1 참조 블록의 종류 및 제2 예측의 제2 참조 블록의 종류는 서로 상이할 수 있다.
제1 예측의 제1 참조 블록은 현재 블록에 이웃한 복원된 이웃 블록일 수 있다.
제2 예측의 제2 참조 블록은 현재 블록에 이웃한 복원된 이웃 잔차 블록일 수 있다.
상기 복원된 이웃 잔차 블록은 상기 복원된 이웃 블록 및 상기 복원된 이웃 블록의 제1 예측 블록 간의 차분일 수 있다.
상기 제2 예측의 참조 샘플의 영역은 상기 제1 예측의 참조 샘플의 영역의 일부일 수 있다.
상기 제2 예측이 적용될 영역은 상기 제2 예측에 사용되는 참조 샘플들의 범위에 기반하여 특정될 수 있다.
상기 제2 예측이 적용될 영역은 상기 제2 예측의 예측 방향에 기반하여 특정될 수 있다.
상기 참조 샘플들의 범위는 상기 제2 예측에 사용될 첫 번째의 참조 샘플을 가리키는 정보 및 상기 제2 예측에 사용될 참조 샘플의 개수를 가리키는 정보에 의해 특정되는, 복호화 방법.
상기 제2 예측이 적용될 영역은 상기 범위의 참조 샘플들이 제2 예측의 예측 방향으로 진행함에 따라 생성된 영역일 수 있다.
상기 범위의 바깥의 참조 샘플의 값은 널 또는 0으로 간주될 수 있다.
상기 현재 블록의 부호화에 있어서 상기 제2 예측의 사용 여부를 나타내는 제2 예측 사용 정보가 상기 제2 예측을 사용하지 않는다는 것을 나타내는 경우 상기 제2 예측은 사용되지 않을 수 있다.
상기 제1 예측의 예측 모드가 비방향성 모드이면 상기 제2 예측은 사용되지 않을 수 있다.
상기 현재 블록이 상단의 경계 및 좌측의 경계에 인접하면 상기 제2 예측은 사용되지 않을 수 있다.
상기 경계는 픽쳐의 경계, 슬라이스의 경계 또는 타일의 경계일 수 있다.
상기 제2 예측이 사용될지 여부는 상기 현재 블록에 인접한 복원된 블록의 개수에 기반하여 결정될 수 있다.
상기 제2 예측이 사용되지 않은 경우 상기 복원된 블록은 상기 복원된 잔차 신호 및 상기 제1 예측에 의한 제1 예측 신호에 기반하여 생성될 수 있다.
예측에 의해 발생하는 예측 단위의 예측 오차를 감소시키는 방법 및 장치가 제공된다.
예측 모드의 예측 방향에 의해 발생하는 예측 오차를 감소시키는 방법 및 장치가 제공된다.
제1 예측에 따른 예측 오차에 대해 제1 예측 모드의 방향으로 선택적인 제2 예측을 수행하는 방법 및 장치가 제공된다.
제1 예측에 따른 예측 오차 중 일부에 대해 선택적인 제2 예측을 수행하는 방법 및 장치가 제공된다.
제1 예측에 따른 예측 오차 중 왜곡이 심한 부분에 대해 선택적인 제2 예측을 수행하는 방법 및 장치가 제공된다.
제1 예측에 따른 예측 오차 중 일부에 대해서만 선택적인 제2 예측을 수행함으로써 예측 오차의 전체에 대해 제2 예측을 수행할 경우에 발생할 수 있는 추가적인 예측 오차를 방지하는 방법 및 장치가 제공된다.
예측 방향으로 생성되는 큰 예측 오차를 감소시킴으로써 변환 양자화의 진행을 통해 충분한 공간적 반복 감소를 획득하는 방법 및 장치가 제공된다.
도 1은 본 발명이 적용되는 부호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.
도 2는 본 발명이 적용되는 복호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.
도 3은 영상을 부호화 및 복호화할 때의 영상의 분할 구조를 개략적으로 나타내는 도면이다.
도 4는 코딩 유닛(CU)이 포함할 수 있는 예측 유닛(PU)의 형태를 도시한 도면이다.
도 5는 코딩 유닛(CU)에 포함될 수 있는 변환 유닛(TU)의 형태를 도시한 도면이다.
도 6은 인트라 예측 과정의 실시예를 설명하기 위한 도면이다.
도 7은 인트라 예측 과정에서 사용되는 참조 샘플의 위치를 설명하기 위한 도면이다.
도 8은 인터 예측 과정의 실시예를 설명하기 위한 도면이다.
도 9는 일 예에 따른 원본 영상이 수직 방향으로 예측된 경우의 예측 오차를 나타낸다.
도 10은 일 실시예에 따른 부호화 장치의 구조도이다.
도 11은 일 실시예에 따른 부호화 방법의 흐름도이다.
도 12는 일 실시예에 따른 인트라 예측을 사용하는 제1 예측 및 제2 예측을 나타낸다.
도 13은 일 실시예에 따른 잔차 블록의 생성 방법의 흐름도이다.
도 14는 일 예에 따른 복원된 블록의 생성 방법의 흐름도이다.
도 15는 일 실시예에 따른 부호화 과정을 도시한다.
도 16은 일 실시예에 따른 복호화 장치의 구조도이다.
도 17은 일 실시예에 따른 복호화 방법의 흐름도이다.
도 18은 일 실시예에 따른 복원된 블록의 생성 방법의 흐름도이다.
도 19는 일 실시예에 따른 복호화 과정을 도시한다.
후술하는 예시적 실시예들에 대한 상세한 설명은, 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이들 실시예는 당업자가 실시예를 실시할 수 있기에 충분하도록 상세히 설명된다. 다양한 실시예들은 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 여기에 기재되어 있는 특정 형상, 구조 및 특성은 일 실시예에 관련하여 본 발명의 정신 및 범위를 벗어나지 않으면서 다른 실시예로 구현될 수 있다. 또한, 각각의 개시된 실시예 내의 개별 구성요소의 위치 또는 배치는 실시예의 정신 및 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 취하려는 것이 아니며, 예시적 실시예들의 범위는, 적절하게 설명된다면, 그 청구항들이 주장하는 것과 균등한 모든 범위와 더불어 첨부된 청구항에 의해서만 한정된다.
도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭한다. 도면에서의 요소들의 형상 및 크기 등은 보다 명확한 설명을 위해 과장될 수 있다.
어떤 구성요소(component)가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기의 2개의 구성요소들이 서로 간에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있으나, 상기의 2개의 구성요소들의 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 또한, 예시적 실시예들에서 특정 구성을 "포함"한다고 기술하는 내용은 상기의 특정 구성 이외의 구성을 배제하는 것이 아니며, 추가적인 구성이 예시적 실시예들의 실시 또는 예시적 실시예들의 기술적 사상의 범위에 포함될 수 있음을 의미한다.
제1 및 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기의 구성요소들은 상기의 용어들에 의해 한정되어서는 안 된다. 상기의 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하여 지칭하기 위해서 사용된다. 예를 들어, 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다.
또한 실시예들에 나타나는 구성요소들은 서로 다른 특징적인 기능들을 나타내기 위해 독립적으로 도시되는 것으로, 각 구성요소가 분리된 하드웨어나 하나의 소프트웨어 구성 단위로만 이루어짐을 의미하지 않는다. 즉, 각 구성요소는 설명의 편의상 각각의 구성요소로 나열된 것이다. 예를 들면, 구성요소들 중 적어도 두 개의 구성요소들이 하나의 구성요소로 합쳐질 수 있다. 또한, 하나의 구성요소가 복수의 구성요소들로 나뉠 수 있다. 이러한 각 구성요소의 통합된 실시예 및 분리된 실시예 또한 본질에서 벗어나지 않는 한 권리범위에 포함된다.
또한, 일부의 구성요소는 본질적인 기능을 수행하는 필수적인 구성요소는 아니고 단지 성능을 향상시키기 위한 선택적 구성요소일 수 있다. 실시예들은 실시예의 본질을 구현하는데 필수적인 구성부만을 포함하여 구현될 수 있고, 예를 들면, 단지 성능 향상을 위해 사용되는 구성요소와 같은, 선택적 구성요소가 제외된 구조 또한 권리 범위에 포함된다.
이하에서는, 기술분야에서 통상의 지식을 가진 자가 실시예들을 용이하게 실시할 수 있도록 하기 위하여, 첨부된 도면을 참조하여 실시예들을 상세히 설명하기로 한다. 실시예들을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 명세서의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다.
이하에서, 영상은 비디오(video)을 구성하는 하나의 픽쳐(picture)를 의미할 수 있으며, 비디오 자체를 나타낼 수도 있다. 예를 들면, "영상의 부호화 및/또는 복호화"는 "비디오의 부호화 및/또는 복호화"를 의미할 수 있으며, "비디오를 구성하는 영상들 중 하나의 영상의 부호화 및/또는 복호화"를 의미할 수도 있다.
이하에서, "비디오" 및 "동영상(motion picture)"은 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
이하에서, "영상", "픽쳐", "프레임(frame)" 및 "스크린(screen)"은 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
실시예들에서, 특정된 정보, 데이터, 플래그(flag) 및 요소(element), 속성(attribute) 등의 각각은 값을 가질 수 있다. 정보, 데이터, 플래그(flag) 및 요소(element), 속성(attribute) 등의 값 "0"은 논리 거짓(logical false) 또는 제1 기정의된(predefined) 값을 나타낼 수 있다. 말하자면, 값 "0", 논리 거짓 및 제1 기정의된 값은 서로 대체되어 사용될 수 있다. 정보, 데이터, 플래그(flag) 및 요소(element), 속성(attribute) 등의 값 "1"은 논리 참(logical true) 또는 제2 기정의된(predefined) 값을 나타낼 수 있다. 말하자면, 값 "1", 논리 참 및 제2 기정의된 값은 서로 대체되어 사용될 수 있다.
행, 열 또는 인덱스(index)를 나타내기 위해 i 또는 j 등의 변수가 사용될 -, i의 값은 0 이상의 정수일 수 있으며, 1 이상의 정수일 수도 있다. 말하자면, 실시예들에서 행, 열 및 인덱스 등은 0에서부터 카운트될 수 있으며, 1에서부터 카운트될 수 있다.
아래에서는, 실시예들에서 사용되는 용어가 설명된다.
유닛(unit): "유닛"은 영상의 부호화 및 복호화의 단위를 나타낼 수 있다. 유닛 및 블록(block)의 의미들은 동일할 수 있다. 또한, 용어 "유닛" 및 "블록"은 서로 교체되어 사용될 수 있다.
- 유닛(또는, 블록)은 샘플의 MxN 배열일 수 있다. M 및 N은 각각 양의 정수일 수 있다. 유닛은 흔히 2차원의 샘플의 배열을 의미할 수 있다. 샘플은 픽셀 또는 픽셀 값일 수 있다.
- 용어 "픽셀" 및 "샘플"은 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
- 영상의 부호화 및 복호화에 있어서, 유닛은 하나의 영상의 분할에 의해 생성된 영역일 수 있다. 하나의 영상은 복수의 유닛들로 분할될 수 있다. 영상의 부호화 및 복호화에 있어서, 유닛의 종류에 따라서 유닛에 대한 기정의된 처리가 수행될 수 있다. 기능에 따라서, 유닛의 타입은 매크로 유닛(Macro Unit), 코딩 유닛(Coding Unit; CU), 예측 유닛(Prediction Unit; PU) 및 변환 유닛(transform Unit; TU) 등으로 분류될 수 있다. 하나의 유닛은 유닛에 비해 더 작은 크기를 갖는 하위 유닛으로 더 분할될 수 있다.
- 유닛 분할 정보는 유닛의 깊이(depth)에 관한 정보를 포함할 수 있다. 깊이 정보는 유닛이 분할되는 회수 및/또는 정도를 나타낼 수 있다.
- 하나의 유닛은 트리 구조(tree structure)에 기반하여 깊이 정보(depth)를 가지면서 계층적으로 복수의 하위 유닛들로 분할될 수 있다. 말하자면, 유닛 및 상기의 유닛의 분할에 의해 생성된 하위 유닛은 노드 및 상기의 노드의 자식 노드에 각각 대응할 수 있다. 각각의 분할된 하위 유닛은 깊이 정보를 가질 수 있다. 유닛의 깊이 정보는 유닛이 분할된 회수 및/또는 정도를 나타내므로, 하위 유닛의 분할 정보는 하위 유닛의 크기에 관한 정보를 포함할 수도 있다.
- 트리 구조에서, 가장 상위 노드는 분할되지 않은 최초의 유닛에 대응할 수 있다. 가장 상위 노드는 루트 노드(root node)로 칭해질 수 있다. 또한, 가장 상위 노드는 최소의 깊이 값을 가질 수 있다. 이 때, 가장 상위 노드는 레벨 0의 깊이를 가질 수 있다.
- 레벨 1의 깊이를 갖는 노드는 최초의 유닛이 한 번 분할됨에 따라 생성된 유닛을 나타낼 수 있다. 레벨 2의 깊이를 갖는 노드는 최초의 유닛이 두 번 분할됨에 따라 생성된 유닛을 나타낼 수 있다.
- 레벨 n의 깊이를 갖는 노드는 최초의 유닛이 n번 분할됨에 따라 생성된 유닛을 나타낼 수 있다.
- 리프 노드는 가장 하위의 노드일 수 있으며, 더 분할될 수 없는 노드일 수 있다. 리프 노드의 깊이는 최대 레벨일 수 있다. 예를 들면, 최대 레벨의 기정의된 값은 3일 수 있다.
변환 유닛(Transform Unit): 변환 유닛은 변환, 역변환, 양자화, 역양자화, 변환 계수 부호화, 및 변환 계수 복호화 등과 같은 잔차 신호(residual signal) 부호화 및/또는 잔여 신호 복호화에 있어서의 기본 유닛일 수 있다. 하나의 변환 유닛은 더 작은 크기를 갖는 다수의 변환 유닛들 분할될 수 있다.
예측 유닛(Prediction Unit) : 예측 유닛은 예측 또는 보상(compensation)의 수행에 있어서의 기본 단위일 수 있다. 예측 유닛은 분할에 의해 다수의 파티션(partition)들이 될 수 있다. 다수의 파티션들 또한 예측 또는 보상의 수행에 있어서의 기본 단위일 수 있다. 예측 유닛의 분할에 의해 생성된 파티션 또한 예측 유닛일 수 있다.
복원된 이웃 유닛(Reconstructed Neighbor Unit) : 복원된 이웃 유닛은 부호화 대상 유닛 또는 복호화 대상 유닛의 주변에 이미 부호화 또는 복호화되어 복원된 유닛일 수 있다. 복원된 이웃 유닛은 대상 유닛에 대한 공간적(spatial) 인접 유닛 또는 시간적(temporal) 인접 유닛일 수 있다.
예측 유닛 파티션 : 예측 유닛 파티션은 예측 유닛이 분할된 형태를 의미할 수 있다.
파라미터 세트(Parameter Set): 파라미터 세트는 비트스트림 내의 구조(structure) 중 헤더(header) 정보에 해당할 수 있다. 예를 들면, 파라미터 세트는 시퀀스 파라미터 세트(sequence parameter set), 픽쳐 파라미터 세트(picture parameter set) 및 적응 파라미터 세트(adaptation parameter set) 등을 포함할 수 있다.
율-왜곡 최적화(rate-distortion optimization): 부호화 장치는 코딩 유닛의 크기, 예측 모드, 예측 유닛의 크기, 움직임 정보 및, 변환 유닛의 크기 등의 조합을 이용해서 높은 부호화 효율을 제공하기 위해 율-왜곡 최적화를 사용할 수 있다.
- 율-왜곡 최적화 방식은 상기의 조합들 중에서 최적의 조합을 선택하기 위해 각 조합의 율-왜곡 비용(rate-distortion cost)을 계산할 수 있다. 율-왜곡 비용은 아래의 수학식 1을 이용하여 계산될 수 있다. 일반적으로 상기 율-왜곡 비용이 최소가 되는 조합이 율-왜곡 최적화 방식에 있어서의 최적의 조합으로 선택될 수 있다.
Figure pat00001
D는 왜곡을 나타낼 수 있다. D는 변환 블록 내에서 원래의 변환 계수들 및 복원된 변환 계수들 간의 차이 값들의 제곱들의 평균(mean square error)일 수 있다.
R은 율을 나타낼 수 있다. R은 관련된 문맥 정보를 이용한 비트 율을 나타낼 수 있다.
λ는 라그랑지안 승수(Lagrangian multiplier)를 나타낼 수 있다. R은 예측 모드, 움직임 정보 및 부호화 블록 플래그(coded block flag) 등과 같은 부호화 파라미터 정보뿐만 아니라, 변환 계수의 부호화에 의해 발생하는 비트도 포함할 수 있다.
부호화 장치는 정확한 D 및 R을 계산하기 위해 인터 예측 및/또는 인트라 예측, 변환, 양자화, 엔트로피 부호화, 역양자화, 역변환 등의 과정을 수행하는데, 이러한 과정은 부호화 장치에서의 복잡도를 크게 증가시킬 수 있다.
참조 픽쳐(reference picture) : 참조 픽쳐는 인터 예측 또는 움직임 보상에 사용되는 영상일 수 있다. 참조 픽쳐는 인터 예측 또는 움직임 보상을 위해 대상 유닛이 참조하는 참조 유닛을 포함하는 픽쳐일 수 있다. 픽쳐 및 영상의 의미들은 동일할 수 있다. 또한, 용어 "픽쳐" 및 "영상"은 서로 교체되어 사용될 수 있다.
참조 픽쳐 리스트(reference picture list) : 참조 픽쳐 리스트는 인터 예측 또는 움직임 보상에 사용되는 참조 영상들을 포함하는 리스트일 수 있다. 참조 픽쳐 리스트의 종류는 리스트 조합(List Combined; LC), 리스트 0(List 0; L0) 및 리스트 1(List 1; L1) 등이 있을 수 있다.
움직임 벡터(Motion Vector; MV) : 움직임 벡터는 인터 예측에서 사용되는 2차원의 벡터일 수 있다. 예를 들면, MV는 (mvx, mvy)와 같은 형태로 표현될 수 있다. mvx는 수평(horizontal) 성분을 나타낼 수 있고, mvy 는 수직(vertical) 성분을 나타낼 수 있다.
- MV는 대상 픽쳐 및 참조 픽쳐 간의 오프셋(offset)을 나타낼 수 있다.
탐색 영역(search range) : 탐색 영역은 인터 예측 중 MV에 대한 탐색이 이루어지는 2차원의 영역일 수 있다. 예를 들면, 탐색 영역의 크기는 MxN일 수 있다. M 및 N은 각각 양의 정수일 수 있다.
도 1은 본 발명이 적용되는 부호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.
부호화 장치(100)는 비디오 부호화 장치 또는 영상 부호화 장치일 수 있다. 비디오는 하나 이상의 영상들을 포함할 수 있다. 부호화 장치(110)는 비디오의 하나 이상의 영상들을 시간에 따라 순차적으로 부호화할 수 있다.
도 1을 참조하면, 부호화 장치(100)는 인터 예측부(110), 인트라 예측부(120), 스위치(115), 감산기(125), 변환부(130), 양자화부(140), 엔트로피 복호화부(150), 역양자화부(160), 역변환부(170), 가산기(175), 필터부(180) 및 참조 픽쳐 버퍼(190)를 포함할 수 있다.
부호화 장치(100)는 입력 영상에 대해 인트라 모드 및/또는 인터 모드로 부호화를 수행할 수 있다. 입력 영상은 현재 부호화의 대상인 현재 영상으로 칭해질 수 있다.
또한, 부호화 장치(100)는 입력 영상에 대한 부호화를 통해 부호화의 정보를 포함하는 비트스트림을 생성할 수 있고, 생성된 비트스트림을 출력할 수 있다.
인트라 모드가 사용되는 경우, 스위치(115)는 인트라로 전환될 수 있다. 인터 모드가 사용되는 경우, 스위치(115)는 인터로 전환될 수 있다.
부호화 장치(100)는 입력 영상의 입력 블록에 대한 예측 블록을 생성할 수 있다. 또한, 부호화 장치(100)는 예측 블록이 생성된 후, 입력 블록 및 예측 블록의 차분(residual)을 부호화할 수 있다. 입력 블록은 현재 부호화의 대상인 현재 블록으로 칭해질 수 있다.
예측 모드가 인트라 모드인 경우, 인트라 예측부(120)는 현재 블록의 주변에 있는, 이미 부호화된 블록의 픽셀 값을 참조 픽셀로서 이용할 수 있다. 인트라 예측부(120)는 참조 픽셀을 이용하여 현재 블록에 대한 공간적 예측을 수행할 수 있고, 공간적 예측을 통해 현재 블록에 대한 예측 샘플들을 생성할 수 있다.
인터 예측부(110)는 움직임 예측부 및 움직임 보상부를 포함할 수 있다.
예측 모드가 인터 모드인 경우, 움직임 예측부는, 움직임 예측 과정에서 참조 영상으로부터 현재 블록과 가장 매치가 잘 되는 영역을 검색할 수 있고, 현재 블록 및 검색된 영역에 대한 움직임 벡터를 도출할 수 있다. 참조 영상은 참조 픽쳐 버퍼(190)에 저장될 수 있으며, 참조 영상에 대한 부호화 및/또는 복호화가 처리될 때 참조 픽쳐 버퍼(190)에 저장될 수 있다.
움직임 보상부는 움직임 벡터를 이용하는 움직임 보상을 수행함으로써 예측 블록을 생성할 수 있다. 여기에서, 움직임 벡터는 인터 예측에 사용되는 2차원 벡터일 수 있다. 또한 움직임 벡터는 현재 영상 및 참조 영상 간의 오프셋(offset)을 나타낼 수 있다.
감산기(125)는 입력 블록 및 예측 블록의 차분인 잔차 블록(residual block)을 생성할 수 있다. 잔차 블록은 잔차 신호로 칭해질 수도 있다.
변환부(130)는 잔차 블록에 대해 변환(transform)을 수행하여 변환 계수를 생성할 수 있고, 생성된 변환 계수(transform coefficient)를 출력할 수 있다. 여기서, 변환 계수는 잔차 블록에 대한 변환을 수행함으로써 생성된 계수 값일 수 있다. 변환 생략(transform skip) 모드가 적용되는 경우, 변환부(130)는 잔차 블록에 대한 변환을 생략할 수도 있다.
변환 계수에 양자화를 적용함으로써 양자화된 변환 계수 레벨(transform coefficient level)이 생성될 수 있다. 이하, 실시예들에서는 양자화된 변환 계수 레벨도 변환 계수로 칭해질 수 있다.
양자화부(140)는 변환 계수를 양자화 파라미터에 맞춰 양자화함으로써 양자화된 변환 계수 레벨(quantized transform coefficient level)을 생성할 수 있다. 양자화부(140)는 생성된 양자화된 변환 계수 레벨을 출력할 수 있다. 이때, 양자화부(140)에서는 양자화 행렬을 사용하여 변환 계수를 양자화할 수 있다.
엔트로피 복호화부(150)는, 양자화부(140)에서 산출된 값들 및/또는 부호화 과정에서 산출된 부호화 파라미터 값들 등에 기초하여 확률 분포에 따른 엔트로피 부호화를 수행함으로써 비트스트림(bitstream)을 생성할 수 있다. 엔트로피 복호화부(150)는 생성된 비트스트림을 출력할 수 있다.
엔트로피 복호화부(150)는 영상의 픽셀의 정보 외에 영상의 복호화를 위한 정보에 대한 엔트로피 부호화를 수행할 수 있다. 예를 들면, 영상의 복호화를 위한 정보는 신택스 엘리먼트(syntax element) 등을 포함할 수 있다.
부호화 파라미터는 부호화 및/또는 복호화를 위해 요구되는 정보일 수 있다. 부호화 파라미터는 부호화 장치에서 부호화되어 복호화 장치로 전달되는 정보를 포함할 수 있고, 부호화 혹은 복호화 과정에서 유추될 수 있는 정보를 포함할 수 있다. 예를 들면, 복호화 장치로 전달되는 정보로서, 신택스 엘리먼트가 있다.
예를 들면, 부호화 파라미터는 예측 모드, 움직임 벡터, 참조 픽쳐 색인(index), 부호화 블록 패턴(pattern), 잔차 신호 유무, 변환 계수, 양자화된 변환 계수, 양자화 파라미터, 블록 크기, 블록 분할(partition) 정보 등의 값 또는 통계를 포함할 수 있다. 예측 모드는 인트라 예측 모드 또는 인터 예측 모드를 가리킬 수 있다.
잔차 신호는 원 신호 및 예측 신호 간의 차이(difference)를 의미할 수 있다. 또는, 잔차 신호는 원신호 및 예측 신호 간의 차이를 변환(transform)함으로써 생성된 신호일 수 있다. 또는, 잔차 신호는 원 신호 및 예측 신호 간의 차이를 변환 및 양자화함으로써 생성된 신호일 수 있다. 잔차 블록은 블록 단위의 잔차 신호일 수 있다.
엔트로피 부호화가 적용되는 경우, 높은 발생 확률을 갖는 심볼에 적은 수의 비트가 할당될 수 있고, 낮은 발생 확률을 갖는 심볼에 많은 수의 비트가 할당될 수 있다. 이러한 할당을 통해 심볼이 표현됨에 따라, 부호화의 대상인 심볼들에 대한 비트열(bitstring)의 크기가 감소될 수 있다. 따라서, 엔트로피 부호화를 통해서 영상 부호화의 압축 성능이 향상될 수 있다.
또한, 엔트로피 부호화를 위해 지수 골롬(exponential golomb), 문맥-적응형 가변 길이 코딩(Context-Adaptive Variable Length Coding; CAVLC) 및 문맥-적응형 이진 산술 코딩(Context-Adaptive Binary Arithmetic Coding; CABAC) 등과 같은 부호화 방법이 사용될 수 있다. 예를 들면, 엔트로피 복호화부(150)는 가변 길이 부호화(Variable Lenghth Coding/Code; VLC) 테이블을 이용하여 엔트로피 부호화를 수행할 수 있다. 예를 들면, 엔트로피 복호화부(150)는 대상 심볼에 대한 이진화(binarization) 방법을 도출할 수 있다. 또한, 엔트로프 복호화부(150)는 대상 심볼/빈(bin)의 확률 모델(probability model)을 도출할 수 있다. 엔트로피 복호화부(150)는 도출된 이진화 방법 또는 확률 모델을 사용하여 엔트로피 부호화를 수행할 수도 있다.
부호화 장치(100)에 의해 인터 예측을 통한 부호화를 수행되기 때문에, 부호화된 현재 영상은 이후에 처리되는 다른 영상(들)에 대하여 참조 영상으로서 사용될 수 있다. 따라서, 부호화 장치(100)는 부호화된 현재 영상을 다시 복호화할 수 있고, 복호화된 영상을 참조 영상으로서 저장할 수 있다. 복호화를 위해 부호화된 현재 영상에 대한 역양자화 및 역변환이 처리될 수 있다.
양자화된 계수는 역양자화부(160)에서 역양자화될(inversely quantized) 수 있고, 역변환부(170)에서 역변환될(inversely transformed) 수 있다. 역양자화 및 역변환된 계수는 가산기(175)를 통해 예측 블록과 합해질 수 있다, 역양자화 및 역변환된 계수 및 예측 블록을 합함으로써 복원된(reconstructed) 블록이 생성될 수 있다.
복원된 블록은 필터부(180)를 거칠 수 있다. 필터부(180)는 디블록킹 필터(deblocking filter), 에스에이오(Sample Adaptive Offset; SAO), 에이엘에프(Adaptive Loop Filter; ALF) 중 적어도 하나 이상을 복원된 블록 또는 복원된 픽쳐에 적용할 수 있다. 필터부(180)는 적응적(adaptive) 인루프(in-loop) 필터로 칭해질 수도 있다.
디블록킹 필터는 블록들 간의 경계에서 발생한 블록 왜곡을 제거할 수 있다. SAO는 코딩 에러에 대한 보상을 위해 픽셀 값에 적정 오프셋(offset) 값을 더할 수 있다. ALF는 복원된 영상 및 원래의 영상을 비교한 값에 기반하여 필터링을 수행할 수 있다. 필터부(180)를 거친 복원된 블록은 참조 픽쳐 버퍼(190)에 저장될 수 있다.
도 2는 본 발명이 적용되는 복호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.
복호화 장치(200)는 비디오 복호화 장치 또는 영상 복호화 장치일 수 있다.
도 2를 참조하면, 복호화 장치(200)는 엔트로피 복호화부(210), 역양자화부(220), 역변환부(230), 인트라 예측부(240), 인터 예측부(250), 가산기(255), 필터부(260) 및 참조 픽쳐 버퍼(270)를 포함할 수 있다.
복호화 장치(200)는 부호화 장치(100)에서 출력된 비트스트림을 수신할 수 있다. 복호화 장치(200)는 비트스트림에 대하여 인트라 모드 및/또는 인터 모드의 복호화를 수행할 수 있다. 또한, 복호화 장치(200)는 복호화를 통해 복원된 영상을 생성할 수 있고, 생성된 복원된 영상을 출력할 수 있다.
예를 들면, 복호화에 사용되는 예측 모드에 따른 인트라 모드 또는 인터 모드로의 전환은 스위치에 의해 이루어질 수 있다. 복호화에 사용되는 예측 모드가 인트라 모드인 경우 스위치가 인트라로 전환될 수 있다. 복호화에 사용되는 예측 모드가 인터 모드인 경우 스위치가 인터로 전환될 수 있다.
복호화 장치(200)는 입력된 비트스트림으로부터 복원된 잔차 블록(reconstructed residual block)을 획득할 수 있고, 예측 블록을 생성할 수 있다. 복원된 잔차 블록 및 예측 블록이 획득되면, 복호화 장치(200)는 복원된 잔차 블록 및 예측 블록을 더함으로써 복원된 블록을 생성할 수 있다.
엔트로피 복호화부(210)는 확률 분포에 기초하여 비트스트림에 대한 엔트로피 복호화를 수행함으로써 심볼들을 생성할 수 있다. 생성된 심볼들은 양자화된 계수(quantized coefficient) 형태의 심볼을 포함할 수 있다. 여기에서, 엔트로피 복호화 방법은 상술된 엔트로피 부호화 방법과 유사할 수 있다. 예를 들면, 엔트로피 복호화 방법은 상술된 엔트로피 부호화 방법의 역과정일 수 있다.
양자화된 계수는 역양자화부(220)에서 역양자화될 수 있다. 또한, 역양자화된 계수는 역변환부(230)에서 역변환될 수 있다. 양자화된 계수가 역양자화 및 역변환 된 결과로서, 복원된 잔차 블록이 생성될 수 있다. 이때, 역양자화부(220)는 양자화된 계수에 양자화 행렬을 적용할 수 있다.
인트라 모드가 사용되는 경우, 인트라 예측부(240)는 현재 블록 주변의 이미 복호화된 블록의 픽셀 값을 이용하는 공간적 예측을 수행함으로써 예측 블록을 생성할 수 있다.
인터 예측부(250)는 움직임 보상부를 포함할 수 있다. 인터 모드가 사용되는 경우, 움직임 보상부는 움직임 벡터 및 참조 영상을 이용하는 움직임 보상을 수행함으로써 예측 블록을 생성할 수 있다. 참조 영상은 참조 픽쳐 버퍼(270)에 저장될 수 있다.
복원된 잔차 블록 및 예측 블록은 가산기(255)를 통해 더해질 수 있다. 가산기(255)는 복원된 잔차 블록 및 예측 블록을 더함으로써 복원된 블록을 생성할 수 있다.
복원된 블록은 필터부(260)를 거칠 수 있다. 필터부(260)는 디블록킹 필터, SAO 및 ALF 중 적어도 하나 이상을 복원된 블록 또는 복원된 픽쳐에 적용할 수 있다. 필터부(260)는 복원된 영상을 출력할 수 있다. 복원된 영상은 참조 픽쳐 버퍼(270)에 저장되어 인터 예측에 사용될 수 있다.
도 3은 영상을 부호화 및 복호화할 때의 영상의 분할 구조를 개략적으로 나타내는 도면이다.
영상을 효율적으로 분할하기 위해, 부호화 및 복호화에 있어서, 코딩 유닛(Coding Unit; CU)이 사용될 수 있다. 유닛은 1) 영상 샘플들을 포함하는 블록 및 2) 구문 요소(syntax element)을 합쳐서 지칭하는 용어일 수 있다. 예를 들면, "유닛의 분할"은 "유닛에 해당하는 블록의 분할"을 의미할 수 있다.
도 3을 참조하면, 영상(300)은 최대 코딩 유닛(Largest Coding Unit; LCU)의 단위로 순차적으로 분할될 수 있고, 영상(300)의 분할 구조는 LCU에 따라서 결정될 수 있다. 여기서, LCU는 코딩 트리 유닛(Coding Tree Unit; CTU)과 동일한 의미로 사용될 수 있다.
분할 구조는 LCU(310) 내에서의, 영상을 효율적으로 부호화하기 위한, 코딩 유닛(Coding Unit; CU)의 분포를 의미할 수 있다. 이러한 분포는 하나의 CU를 4개의 CU들로 분할할지 여부에 따라 결정될 수 있다. 분할에 의해 생성된 CU의 가로 크기 및 세로 크기는 각각 분할 전의 CU의 가로 크기의 절반 및 세로 크기의 절반일 수 있다. 분할된 CU는 동일한 방식으로 가로 크기 및 세로 크기가 절반으로 감소된 4개의 CU로 재귀적으로 분할될 수 있다.
이때, CU의 분할은 기정의된 깊이까지 재귀적으로 이루어질 수 있다. 깊이 정보는 CU의 크기를 나타내는 정보일 수 있다. 각 CU 별로 깊이 정보가 저장될 수 있다. 예컨대, LCU의 깊이는 0일 수 있고, 최소 코딩 유닛(Smallest Coding Unit; SCU)의 깊이는 기정의된 최대 깊이일 수 있다. 여기서, LCU는 상술된 것과 같이 최대의 코딩 유닛 크기를 가지는 CU일 수 있고, SCU는 최소의 코딩 유닛 크기를 가지는 CU일 수 있다.
LCU(310)로부터 분할이 시작될 수 있고, 분할에 의해 CU의 가로 크기 및 세로 크기가 절반으로 줄어들 때마다 CU의 깊이는 1씩 증가할 수 있다. 각각의 깊이 별로, 분할되지 않는 CU는 2Nx2N 크기를 가질 수 있다. 또한, 분할되는 CU의 경우, 2Nx2N 크기의 CU가 NxN 크기를 가지는 4개의 CU들로 분할될 수 있다. N의 크기는 깊이가 1씩 증가할 때마다 절반으로 감소할 수 있다.
도 3을 참조하면, 깊이가 0인 LCU는 64x64 픽셀들일 수 있다. 0은 최소 깊이일 수 있다. 깊이가 3인 SCU는 8x8 픽셀들일 수 있다. 3은 최대 깊이일 수 있다. 이때, LCU인 64x64 픽셀들의 CU는 깊이 0으로 표현될 수 있다. 32x32 픽셀들의 CU는 깊이 1로 표현될 수 있다. 16x16 픽셀들의 CU는 깊이 2로 표현될 수 있다. SCU인 8x8 픽셀들의 CU는 깊이 3으로 표현될 수 있다.
또한, CU가 분할되는지 여부에 대한 정보는 CU의 분할 정보를 통해 표현될 수 있다. 분할 정보는 1비트의 정보일 수 있다. SCU를 제외한 모든 CU는 분할 정보를 포함할 수 있다. 예를 들면, CU가 분할되지 않는 경우 CU의 분할 정보의 값은 0일 수 있고, CU가 분할되는 경우 CU의 분할 정보의 값은 1일 수 있다.
도 4는 코딩 유닛(CU)이 포함할 수 있는 예측 유닛(PU)의 형태를 도시한 도면이다.
LCU로부터 분할된 CU 중 더 이상 분할되지 않는 CU는 하나 이상의 예측 유닛(Prediction Unit; PU)들로 분할될 수 있다. 이러한 분할 또한, 파티션(partition)로 칭해질 수 있다.
PU는 예측에 대한 기본 단위일 수 있다. PU는 스킵(skip) 모드, 인터 모드 및 인트라 모드 중 어느 하나로 부호화 및 복호화될 수 있다. PU는 각 모드에 따라서 다양한 형태로 분할될 수 있다.
스킵 모드에서는, CU 내에 분할이 존재하지 않을 수 있다. 스킵 모드에서는 분할 없이 PU 및 CU의 크기들이 동일한 2Nx2N 모드(410)가 지원될 수 있다.
인터 모드에서는, CU 내에서 8가지로 분할된 형태들이 지원될 수 있다. 예를 들면, 인터 모드에서는 2Nx2N 모드(410), 2NxN 모드(415), Nx2N 모드(420), NxN 모드(425), 2NxnU 모드(430), 2NxnD 모드(435), nLx2N 모드(440) 및 nRx2N 모드(445)가 지원될 수 있다.
인트라 모드에서는, 2Nx2N 모드(410) 및 NxN 모드(425)가 지원될 수 있다.
2Nx2N 모드(410)에서는 2Nx2N의 크기의 PU가 부호화될 수 있다. 2Nx2N의 크기의 PU는 CU의 크기와 동일한 크기의 PU를 의미할 수 있다. 예를 들면, 2Nx2N의 크기의 PU는 64x64, 32x32, 16x16 또는 8x8의 크기를 가질 수 있다.
NxN 모드(425)에서는 NxN의 크기의 PU가 부호화될 수 있다.
예를 들면, 인트라 예측에서, PU의 크기가 8x8일 때, 4개의 분할된 PU들이 부호화될 수 있다. 분할된 PU의 크기는 4x4일 수 있다.
PU가 인트라 모드에 의해 부호화될 경우, PU는 복수의 인트라 예측 모드들 중 하나의 인트라 예측 모드를 사용하여 부호화될 수 있다. 예를 들면, 고 효율 비디오 코딩(High Efficiency Video Coding; HEVC) 기술에서는 35 개의 인트라 예측 모드들을 제공할 수 있고, PU는 35 개의 인트라 예측 모드들 중 하나의 인트라 예측 모드로 부호화될 수 있다.
PU가 2Nx2N 모드(410) 및 NxN 모드(425) 중 어느 모드에 의해 부호화될 것인가는 율-왜곡 비용(rate-distortion cost)에 의해 결정될 수 있다.
부호화 장치(100)는 2Nx2N 크기의 PU에 대해 부호화 연산을 수행할 수 있다. 여기에서, 부호화 연산은 부호화 장치(100)가 사용할 수 있는 복수의 인트라 예측 모드들의 각각으로 PU를 부호화하는 것일 수 있다. 부호화 연산을 통해 2Nx2N 크기의 PU에 대한 최적의 인트라 예측 모드가 도출될 수 있다. 최적의 인트라 예측 모드는 부호화 장치(100)가 사용할 수 있는 복수의 인트라 예측 모드들 중 2Nx2N 크기의 PU의 부호화에 대하여 최소의 율-왜곡 비용을 발생시키는 인트라 예측 모드일 수 있다.
또한, 부호화 장치(100)는 NxN으로 분할된 PU들의 각 PU에 대해서 순차적으로 부호화 연산을 수행할 수 있다. 여기에서, 부호화 연산은 부호화 장치(100)가 사용할 수 있는 복수의 인트라 예측 모드들의 각각으로 PU를 부호화하는 것일 수 있다. 부호화 연산을 통해 NxN 크기의 PU에 대한 최적의 인트라 예측 모드가 도출될 수 있다. 최적의 인트라 예측 모드는 부호화 장치(100)가 사용할 수 있는 복수의 인트라 예측 모드들 중 NxN 크기의 PU의 부호화에 대하여 최소의 율-왜곡 비용을 발생시키는 인트라 예측 모드일 수 있다.
부호화 장치(100)는 2Nx2N 크기의 PU의 율-왜곡 비용 및 NxN 크기의 PU들의 율-왜곡 비용들의 비교에 기반하여 2Nx2N 크기의 PU 및 NxN 크기의 PU들 중 어느 것을 부호화할 지를 결정할 수 있다.
도 5는 코딩 유닛(CU)에 포함될 수 있는 변환 유닛(TU)의 형태를 도시한 도면이다.
변환 유닛(Transform Unit; TU)은 CU 내에서 변환, 양자화, 역변환, 역양자화, 엔트로피 부호화 및 엔트로피 복호화의 과정을 위해 사용되는 기본 단위일 수 있다. TU는 정사각형 형태 또는 직사각형 형태를 가질 수 있다.
LCU로부터 분할된 CU 중, 더 이상 CU들로 분할되지 않는 CU는 하나 이상의 TU들로 분할될 수 있다. 이때, TU의 분할 구조는 쿼드-트리(quad-tree) 구조일 수 있다. 예컨대, 도 5에서 도시된 것과 같이, 하나의 CU(510)가 쿼드-트리 구조에 따라서 한 번 혹은 그 이상 분할될 수 있다. 분할을 통해, 하나의 CU(510)는 다양한 크기의 TU들로 구성될 수 있다.
도 6은 인트라 예측 과정의 실시예를 설명하기 위한 도면이다.
도 6의 그래프의 중심으로부터 외곽으로의 화살표들은 인트라 예측 모드들의 예측 방향들을 나타낼 수 있다. 또한, 화살표에 근접하게 표시된 숫자는 인트라 예측 모드 또는 인트라 예측 모드의 예측 방향에 할당된 모드 값의 일 예를 나타낼 수 있다.
인트라 부호화 및/또는 복호화는 대상 유닛의 주변의 유닛의 참조 샘플을 이용하여 수행될 수 있다. 주변의 유닛은 주변의 복원된 유닛일 수 있다. 예를 들면, 인트라 부호화 및/또는 복호화는 주변의 복원된 유닛이 포함하는 참조 샘플의 값 또는 부호화 파라미터를 이용하여 수행될 수 있다.
부호화 장치(100) 및/또는 복호화 장치(200)는 현재 픽쳐 내의 샘플의 정보에 기초하여 대상 유닛에 대한 인트라 예측을 수행함으로써 예측 블록을 생성할 수 있다. 인트라 예측을 수행할 때, 부호화 장치(100) 및/또는 복호화 장치(200)는 현재 픽쳐 내의 샘플의 정보에 기반하여 인트라 예측을 수행함으로써 대상 유닛에 대한 예측 블록을 생성할 수 있다. 인트라 예측을 수행할 때, 부호화 장치(100) 및/또는 복호화 장치(200)는 적어도 하나의 복원된 참조 샘플에 기반하여 방향성 예측 및/또는 비방향성 예측을 수행할 수 있다.
예측 블록은 인트라 예측의 수행의 결과로 생성된 블록을 의미할 수 있다. 예측 블록은 CU, PU 및 TU 중 적어도 하나에 해당할 수 있다.
예측 블록의 단위는 CU, PU 및 TU 중 적어도 하나의 크기일 수 있다. 예측 블록은 2Nx2N의 크기 또는 NxN의 크기를 갖는, 정사각형의 형태를 가질 수 있다. NxN의 크기는 4x4, 8x8, 16x16, 32x32 및 64x64 등을 포함할 수 있다.
또는, 예측 블록은 2x2, 4x4, 16x16, 32x32 또는 64x64 등의 크기를 갖는 정사각형의 형태의 블록일 수 있고, 2x8, 4x8, 2x16, 4x16 및 8x16 등의 크기를 갖는 직사각형 모양의 블록일 수도 있다.
인트라 예측은 대상 유닛에 대한 인트라 예측 모드에 따라 수행될 수 있다. 대상 유닛이 가질 수 있는 인트라 예측 모드의 개수는 기정의된 고정된 값일 수 있으며, 예측 블록의 속성에 따라 다르게 결정된 값일 수 있다. 예를 들면, 예측 블록의 속성은 예측 블록의 크기 및 예측 블록의 타입 등을 포함할 수 있다.
예를 들면, 인트라 예측 모드의 개수는 예측 유닛의 크기에 관계없이 35개로 고정될 수 있다. 또는, 예를 들면, 인트라 예측 모드의 개수는 3, 5, 9, 17, 34, 35 또는 36 등일 수 있다.
인트라 예측 모드는 도 6에서 도시된 것과 같이 2개의 비방향성 모드들 및 33개의 방향성 모드들을 포함할 수 있다. 2개의 비방향성 모드들은 디씨(DC) 모드 및 플래너(Planar) 모드를 포함할 수 있다.
예를 들면, 모드 값이 26인 수직 모드의 경우, 참조 샘플의 픽셀 값에 기반하여 수직 방향으로 예측이 수행될 수 있다. 예를 들면, 모드 값이 10인 수평 모드의 경우, 참조 샘플의 픽셀 값에 기반하여 수평 방향으로 예측이 수행될 수 있다. 예를 들면, 모드 값이 26인 수직 모드의 경우, 참조 샘플의 픽셀 값에 기반하여 수직 방향으로 예측이 수행될 수 있다.
전술된 모드 이외의 방향성 모드인 경우에도 부호화 장치(100) 및 복호화 장치(200)는 방향성 모드에 대응하는 각도에 따라 참조 샘플을 이용하여 대상 유닛에 대한 인트라 예측을 수행할 수 있다.
수직 모드의 우측에 위치한 인트라 예측 모드는 수직 우측 모드(vertical-right mode)로 명명될 수 있다. 수평 모드의 하단에 위치한 인트라 예측 모드는 수형 하단 모드(horizontal-below mode)로 명명될 수 있다. 예를 들면, 도 6에서, 모드 값이 27, 28, 29, 30, 31, 32, 33 및 34 중 하나인 인트라 예측 모드들은 수직 우측 모드들(613)일 수 있다. 모드 값이 2, 3, 4, 5, 6, 7, 8 및 9 중 하나인 인트라 예측 모드들은 수평 하단 모드들(616)일 수 있다.
비방향성 모드는 디씨(DC) 모드 및 플래너(planar) 모드를 포함할 수 있다. 예를 들면, 디씨 모드의 모드 값은 1일 수 있다. 플래너 모드의 모드 값은 0일 수 있다.
방향성 모드는 각진(angular) 모드를 포함할 수 있다. 복수의 인트라 예측 모드들 중 DC 모드 및 플래너 모드를 제외한 나머지의 모드는 방향성 모드일 수 있다.
DC 모드인 경우, 복수의 참조 샘플들의 픽셀 값들의 평균에 기반하여 예측 블록이 생성될 수 있다. 예를 들면, 예측 블록의 픽셀의 값은 복수의 참조 샘플들의 픽셀 값들의 평균에 기반하여 결정될 수 있다.
전술된 인트라 예측 모드들의 개수 및 각 인트라 예측 모드들의 모드 값은 단지 예시적인 것일 수 있다. 전술된 인트라 예측 모드들의 개수 및 각 인트라 예측 모드들의 모드 값은 실시예, 구현 및/또는 필요에 따라 다르게 정의될 수도 있다.
인트라 예측 모드의 개수는 색 성분(color component)의 타입에 따라 상이할 수 있다. 예를 들면, 색 성분이 휘도(luma) 신호인지 아니면 색차(chroma) 신호인지에 따라 예측 모드의 개수가 다를 수 있다.
도 7은 인트라 예측 과정에서 사용되는 참조 샘플의 위치를 설명하기 위한 도면이다.
도 7은 대상 유닛의 인트라 예측을 위해 사용되는 참조 샘플의 위치를 도시한다. 도 7을 참조하면, 현재 블록의 인트라 예측에 사용되는 복원된 참조 픽셀에는 예를 들어, 참조 샘플은 하단 좌측(below-left) 참조 샘플들(731), 좌측(left) 참조 샘플들(733), 상단 좌측(above-left) 코너 참조 샘플(735), 상단(above) 참조 샘플들(737) 및 상단 우측(above-right) 참조 샘플들(739) 등을 포함할 수 있다.
예를 들면, 좌측 참조 샘플들(733)은 대상 유닛의 좌측에 인접한 복원된 참조 픽셀을 의미할 수 있다. 상단 참조 샘플들(737)은 대상 유닛의 상단에 인접한 복원된 참조 픽셀을 의미할 수 있다. 상단 좌측 코너 참조 픽셀(735)은 대상 유닛의 상단 좌측 코너에 위치한 복원된 참조 픽셀을 의미할 수 있다. 또한, 하단 좌측 참조 샘플들(731)은 좌측 참조 샘플들(733)로 구성된 좌측 샘플 라인과 동일 선상에 위치한 샘플들 중에서 좌측 샘플 라인의 하단에 위치한 참조 샘플을 의미할 수 있다. 상단 우측 참조 샘플들(739)은 상단 참조 샘플들(737)로 구성된 상단 샘플 라인과 동일 선상에 위치한 샘플들 중에서 상단 픽셀 라인의 우측에 위치한 참조 샘플들을 의미할 수 있다.
대상 유닛의 크기가 NxN일 때, 하단 좌측 참조 샘플들(731), 좌측 참조 샘플들(733), 상단 참조 샘플들(737) 및 상단 우측 참조 샘플들(739)은 각각 N개일 수 있다.
대상 유닛에 대한 인트라 예측을 통해 예측 블록이 생성될 수 있다. 예측 블록의 생성은 예측 블록의 픽셀들의 값이 결정되는 것을 포함할 수 있다. 대상 유닛 및 예측 블록의 크기는 동일할 수 있다.
대상 유닛의 인트라 예측에 사용되는 참조 샘플은 대상 유닛의 인트라 예측 모드에 따라 달라질 수 있다. 인트라 예측 모드의 방향은 참조 샘플들 및 예측 블록의 픽셀들 간의 의존 관계를 나타낼 수 있다. 예를 들면, 특정된 참조 샘플의 값이 예측 블록의 특정된 하나 이상의 픽셀들의 값으로서 사용될 수 있다. 이 경우, 특정된 참조 샘플 및 예측 블록의 특정된 하나 이상의 픽셀들은 인트라 예측 모드의 방향의 직선으로 지정되는 샘플 및 픽셀들일 수 있다. 말하자면, 특정된 참조 샘플의 값은 인트라 예측 모드의 방향의 역방향에 위치한 픽셀의 값으로 복사될 수 있다. 또는, 예측 블록의 픽셀의 값은 상기의 픽셀의 위치를 기준으로 인트라 예측 모드의 방향에 위치한 참조 샘플의 값일 수 있다.
예를 들면, 대상 유닛의 인트라 예측 모드가 모드 값이 26인 수직 모드인 경우, 상단 참조 샘플들(737)이 인트라 예측에 사용될 수 있다. 인트라 예측 모드가 수직 모드인 경우, 예측 블록의 픽셀의 값은 상기의 픽셀의 위치를 기준으로 수직으로 위에 위치한 참조 픽셀의 값일 수 있다. 따라서, 대상 유닛에 상단으로 인접한 상단 참조 샘플들(737)이 인트라 예측을 위해 사용될 수 있다. 또한, 예측 블록의 한 행의 픽셀들의 값들은 상단 참조 샘플들(737)의 값들과 동일할 수 있다.
예를 들면, 현재 블록의 인트라 예측 모드가 모드 값이 10인 수평 모드인 경우, 좌측 참조 샘플들(733)이 인트라 예측에 사용될 수 있다. 인트라 예측 모드가 수평 모드인 경우, 예측 블록의 픽셀의 값은 상기의 픽셀을 기준으로 수평으로 좌측에 위치한 참조 픽셀의 값일 수 있다. 따라서, 대상 유닛에 좌측으로 인접한 좌측 참조 샘플들(733)이 인트라 예측을 위해 사용될 수 있다. 또한, 예측 블록의 한 열의 픽셀들의 값들은 좌측 참조 샘플들(733)의 값들과 동일할 수 있다.
예를 들면, 현재 블록의 인트라 예측 모드의 모드 값이 18인 경우 좌측 참조 샘플들(733)의 적어도 일부, 상단 좌측 코너 참조 샘플(735) 및 상단 참조 샘플들(737)의 적어도 일부 인트라 예측에 사용될 수 있다. 인트라 예측 모드의 모드 값이 18인 경우, 예측 블록의 픽셀의 값은 상기의 픽셀을 기준으로 대각선으로 상단 좌측에 위치한 참조 픽셀의 값일 수 있다.
또한, 모드 값이 27, 28, 29, 30, 31, 32, 33 또는 34인 인트라 예측 모드가 사용되는 경우에는 상단 우측 참조 픽셀들(439) 중 적어도 일부가 인트라 예측에 사용될 수 있다.
또한, 모드 값이 2, 3, 4, 5, 6, 7, 8 또는 9인 인트라 예측 모드가 사용되는 경우에는 하단 좌측 참조 픽셀들(431) 중 적어도 일부가 인트라 예측에 사용될 수 있다.
또한, 모드 값이 11 내지 25 중 하나인 인트라 예측 모드가 사용되는 경우에는 상단 좌측 코너 참조 샘플들(735)이 인트라 예측에 사용될 수 있다.
예측 블록의 하나의 픽셀의 픽셀 값을 결정하기 위해 사용되는 참조 샘플은 1개일 수 있고, 2개 이상일 수도 있다.
전술된 것과 같이 예측 블록의 픽셀의 픽셀 값은 상기의 픽셀의 위치 및 인트라 예측 모드의 방향에 의해 가리켜지는 참조 샘플의 위치에 따라 결정될 수 있다. 픽셀의 위치 및 인트라 예측 모드의 방향에 의해 가리켜지는 참조 샘플의 위치가 정수 위치인 경우, 정수 위치가 가리키는 하나의 참조 샘플의 값이 예측 블록의 픽셀의 픽셀 값을 결정하기 위해 사용될 수 있다.
픽셀의 위치 및 인트라 예측 모드의 방향에 의해 가리켜지는 참조 샘플의 위치가 정수 위치가 아닌 경우, 참조 샘플의 위치에 가장 가까운 2개의 참조 샘플들에 기반하여 보간된(interpolated) 참조 샘플이 생성될 수 있다. 보간된 참조 샘플의 값이 예측 블록의 픽셀의 픽셀 값을 결정하기 위해 사용될 수 있다. 말하자면, 예측 블록의 픽셀의 위치 및 인트라 예측 모드의 방향에 의해 가리켜지는 참조 샘플의 위치가 2개의 참조 샘플들 간의 사이를 나타낼 때, 상기의 2개의 샘플들의 값들에 기반하여 보간된 값이 생성될 수 있다.
예측에 의해 생성된 예측 블록은 원래의 대상 유닛과는 동일하지 않을 수 있다. 말하자면, 대상 유닛 및 예측 블록 간의 차이인 예측 오차가 존재할 수 있으며, 대상 유닛의 픽셀 및 예측 블록의 픽셀 간에도 예측 오차가 존재할 수 있다. 예를 들면, 방향성 인트라 예측의 경우, 예측 블록의 픽셀 및 참조 샘플 간의 거리가 더 멀수록 더 큰 예측 오차가 발생할 수 있다. 이러한 예측 오차에 등 의해 생성된 예측 블록 및 주변 블록 간에는 불연속성이 발생할 수 있다.
예측 오차의 감소를 위해 예측 블록에 대한 필터링이 사용될 수 있다. 필터링은 예측 블록 중 큰 예측 오차를 갖는 것으로 간주되는 영역에 대해 적응적으로 필터를 적용하는 것일 수 있다. 예를 들면, 큰 예측 오차를 갖는 것으로 간주되는 영역은 예측 블록의 경계일 수 있다. 또한, 인트라 예측 모드에 따라서 예측 블록 중 큰 예측 오차를 갖는 것으로 간주되는 영역이 다를 수 있으며, 필터의 특징이 다를 수 있다.
도 8은 인터 예측 과정의 실시예를 설명하기 위한 도면이다.
도 8에 도시된 사각형은 영상(또는, 픽쳐)를 나타낼 수 있다. 또한, 도 8에서 화살표는 예측 방향을 나타낼 수 있다. 즉, 영상은 예측 방향에 따라 부호화 및/또는 복호화될 수 있다.
각 영상(또는, 픽쳐)는 부호화 타입에 따라 I 픽쳐(Intra Picture), P 픽쳐(Uni-prediction Picture), B 픽쳐(Bi-prediction Picture)로 분류될 수 있다. 각 픽쳐는 각 픽쳐의 부호화 타입에 따라 부호화될 수 있다.
부호화의 대상인 영상이 I 픽쳐인 경우, 영상은 인터 예측 없이 영상 자체에 대해 부호화될 수 있다. 부호화의 대상인 영상이 P 픽쳐인 경우, 영상은 순방향으로만 참조 픽쳐를 이용하는 인터 예측을 통해 부호화될 수 있다. 부호화의 대상인 영상이 B 픽쳐인 경우, 순방향 및 역방향의 양측으로 참조 픽쳐들을 이용하는 인터 예측을 통해 부호화될 수 있으며, 순방향 및 역방향 중 일 방향으로 참조 픽쳐를 이용하는 인터 예측을 통해 부호화될 수 있다.
참조 픽쳐를 이용하여 부호화 및/또는 복호화되는 P 픽쳐 및 B 픽쳐는 인터 예측이 사용되는 영상으로 간주될 수 있다.
아래에서, 실시예에 따른 인터 모드에서의 인터 예측에 대해 구체적으로 설명된다.
인터 모드에서, 부호화 장치(100) 및 복호화 장치(200)는 부호화 대상 유닛 및 복호화 대상 유닛에 대한 예측 및/또는 움직임 보상을 수행할 수 있다. 예를 들면, 부호화 장치(100) 또는 복호화 장치(200)는 복원된 주변 유닛의 움직임 정보를 부호화 대상 유닛 또는 복호화 대상 유닛의 움직임 정보로 사용함으로써 예측 및/또는 움직임 보상을 수행할 수 있다. 여기에서, 부호화 대상 유닛 또는 복호화 대상 유닛은 예측 유닛 및/또는 예측 유닛 파티션을 의미할 수 있다.
인터 예측은 참조 픽쳐 및 움직임 정보를 이용하여 수행될 수 있다. 또한, 인터 예측은 전술된 스킵 모드를 이용할 수도 있다.
참조 픽쳐(reference picture)는 현재 픽쳐의 이전 픽쳐 또는 현재 픽쳐의 이후 픽쳐 중 적어도 하나일 수 있다. 이때, 인터 예측은 참조 픽쳐에 기반하여 현재 픽쳐의 블록에 대한 예측을 수행할 수 있다. 여기에서, 참조 픽쳐는 블록의 예측에 이용되는 영상을 의미할 수 있다.
이때, 참조 픽쳐 내의 영역은 참조 픽쳐를 지시하는 참조 픽쳐 인덱스(refIdx) 및 후술될 움직임 벡터(motion vector) 등을 이용함으로써 특정될 수 있다.
인터 예측은 참조 픽쳐 및 참조 픽쳐 내에서 현재 블록에 대응하는 참조 블록을 선택할 수 있고, 선택된 참조 블록을 사용하여 현재 블록에 대한 예측 블록을 생성할 수 있다. 현재 블록은 현재 픽쳐의 블록들 중 현재 부호화 또는 복호화의 대상인 블록일 수 있다.
움직임 정보는 부호화 장치(100) 및 복호화 장치(200)의 각각에 의해 인터 예측 중 도출될 수 있다. 또한, 도출된 움직임 정보는 인터 예측을 수행하는데 사용될 수 있다.
이때, 부호화 장치(100) 및 복호화 장치(200)는 복원된 주변 블록(neighboring block)의 움직임 정보 및/또는 콜 블록(collocated block; col block)의 움직임 정보를 이용함으로써 부호화 효율 및/또는 복호화 효율을 향상시킬 수 있다. 콜 블록은 이미 복원된 콜 픽쳐(collocated picture; col picture) 내의 현재 블록에 대응하는 블록일 수 있다.
복원된 주변 블록은 현재 픽쳐 내의 블록이면서, 이미 부호화 및/또는 복호화를 통해 복원된 블록일 수 있다. 복원된 블록은 현재 블록에 인접한 이웃 블록 및/또는 현재 블록의 외부 코너에 위치한 블록일 수 있다. 여기에서, 현재 블록의 외부 코너에 위치한 블록이란, 현재 블록에 가로로 인접한 이웃 블록에 세로로 인접한 블록 또는 현재 블록에 세로로 인접한 이웃 블록에 가로로 인접한 블록일 수 있다.
예를 들면, 복원된 주변 유닛은 대상 유닛의 좌측에 위치한 유닛, 대상 유닛의 상단에 위치한 유닛, 대상 유닛의 좌측 하단 코너에 위치한 유닛, 대상 유닛의 우측 상단 코너에 위치한 유닛 또는 대상 유닛의 좌측 상단 코너에 위치한 유닛일 수 있다.
부호화 장치(100) 및 복호화 장치(200)의 각각은 콜 픽쳐 내에서 공간적으로 현재 블록에 대응하는 위치에 존재하는 블록을 결정할 수 있고, 결정된 블록을 기준으로 기정의된 상대적인 위치를 결정할 수 있다. 기정의된 상대적인 위치는 공간적으로 현재 블록에 대응하는 위치에 존재하는 블록의 내부 및/또는 외부의 위치일 수 있다. 또한, 부호화 장치(100) 및 복호화 장치(200)의 각각은 결정된 기정의된 상대적인 위치에 기반하여 콜 블록을 도출할 수 있다. 여기서, 콜 픽쳐는 참조 픽쳐 리스트에 포함된 적어도 하나의 참조 픽쳐 중에서 하나의 픽쳐일 수 있다.
참조 픽쳐 내의 블록은 복원된 참조 픽쳐 내에서 현재 블록의 위치에 공간적으로 대응되는 위치에 존재할 수 있다. 말하자면, 현재 픽쳐 내에서의 현재 블록의 위치 및 참조 픽쳐 내에서의 블록의 위치는 서로 대응할 수 있다. 이하, 참조 픽쳐에 포함된 블록의 움직임 정보는 시간적 움직임 정보로 불릴 수 있다.
움직임 정보의 도출 방식은 현재 블록의 예측 모드에 따라 변할 수 있다. 예를 들면, 인터 예측을 위해 적용되는 예측 모드로서, 향상된 움직임 벡터 예측자(Advanced Motion Vector Predictor; AMVP) 및 머지(merge) 등이 있을 수 있다.
예를 들면, 예측 모드로서, AMVP가 적용되는 경우, 부호화 장치(100) 및 복호화 장치(200)의 각각은 복원된 주변 블록의 움직임 벡터 및/또는 콜 블록의 움직임 벡터를 이용하여 예측 움직임 벡터 후보 리스트를 생성할 수 있다. 복원된 주변 블록의 움직임 벡터 및/또는 콜 블록의 움직임 벡터는 예측 움직임 벡터 후보로 사용될 수 있다.
부호화 장치(100)에 의해 생성된 비트스트림은 예측 움직임 벡터 인덱스를 포함할 수 있다. 예측 움직임 벡터 인덱스는 예측 움직임 벡터 후보 리스트에 포함된 예측 움직임 벡터 후보 중에서 선택된 최적의 예측 움직임 벡터를 지시할 수 있다. 비트스트림을 통해 예측 움직임 벡터 인덱스는 부호화 장치(100)로부터 복호화 장치(200)로 전송될 수 있다.
복호화 장치(200)는 예측 움직임 벡터 인덱스를 이용하여 예측 움직임 벡터 후보 리스트에 포함된 예측 움직임 벡터 후보 중에서 현재 블록의 예측 움직임 벡터를 선택할 수 있다.
부호화 장치(100)는 현재 블록의 움직임 벡터 및 예측 움직임 벡터 간의 움직임 벡터 차분(MVD: Motion Vector Difference)을 계산할 수 있고, MVD를 부호화할 수 있다. 비트스트림은 부호화된 MVD를 포함할 수 있다. MVD는 비트스트림을 통해 부호화 장치(100)로부터 복호화 장치(200)로 전송될 수 있다. 이 때, 복호화 장치(200)는 수신된 MVD를 복호화할 수 있다. 복호화 장치(200)는 복호화된 MVD 및 예측 움직임 벡터의 합을 통해 현재 블록의 움직임 벡터를 도출할 수 있다.
비트스트림은 참조 픽쳐를 지시하는 참조 픽쳐 인덱스 등을 포함할 수 있다. 참조 픽쳐 인덱스는 비트스트림을 통해 부호화 장치(100)로부터 복호화 장치(200)로 전송될 수 있다. 복호화 장치(200)는 주변 블록의 움직임 정보들을 이용하여 현재 블록의 움직임 벡터를 예측할 수 있고, 예측된 움직임 벡터 및 움직임 벡터 차분을 이용하여 현재 블록의 움직임 벡터를 유도할 수 있다. 복호화 장치(200)는 유도된 움직임 벡터와 참조 픽쳐 인덱스 정보에 기반하여 현재 블록에 대한 예측 블록을 생성할 수 있다.
부호화 대상 유닛 및 복호화 대상 유닛에 대해서 복원된 주변 유닛의 움직임 정보가 사용될 수 있기 때문에, 특정한 인터 예측 모드에서는, 부호화 장치(100)가 대상 유닛에 대한 움직임 정보를 별도로 부호화하지 않을 수도 있다. 대상 유닛의 움직임 정보가 부호화되지 않으면, 복호화 장치(200)로 전송되는 비트량이 감소될 수 있고, 부호화 효율이 향상될 수 있다. 예를 들면, 이러한 대상 유닛의 움직임 정보가 부호화되지 않는 인터 예측 모드로서, 스킵 모드(skip mode) 및/또는 머지 모드(merge mode) 등이 있을 수 있다. 이때, 부호화 장치(100) 및 복호화 장치(200)는 복원된 주변 유닛 중 어떤 유닛의 움직임 정보를 대상 유닛의 움직임 정보로서 사용되는지를 지시하는 식별자 및/또는 인덱스를 사용할 수 있다.
움직임 정보의 도출 방식의 다른 예로, 머지(merge)가 있다. 머지란 복수의 블록들에 대한 움직임의 병합을 의미할 수 있다. 머지는 하나의 블록의 움직임 정보를 다른 블록에도 함께 적용시키는 것을 의미할 수 있다. 머지가 적용되는 경우, 부호화 장치(100) 및 복호화 장치(200)의 각각은 복원된 주변 블록의 움직임 정보 및/또는 콜 블록의 움직임 정보를 이용하여 머지 후보 목록(merge candidate list)를 생성할 수 있다. 움직임 정보는 1) 움직임 벡터, 2) 참조 영상에 대한 인덱스, 및 3) 예측 방향 중 적어도 하나를 포함할 수 있다. 예측 방향은 단방향 또는 양방향일 수 있다.
이때, 머지는 CU 단위 또는 PU 단위로 적용될 수 있다. CU 단위 또는 PU 단위로 머지가 수행되는 경우, 부호화 장치(100)는 비트스트림을 통해 기정의된 정보를 복호화 장치(200)로 전송할 수 있다. 비트스트림은 기정의된 정보를 포함할 수 있다. 기정의된 정보는, 1) 블록 파티션(partition)별로 머지를 수행할지 여부를 나타내는 정보, 2) 현재 블록에 인접한 주변 블록들 중 어떤 블록과 머지를 할 것인가에 대한 정보를 포함할 수 있다. 예를 들면, 현재 블록의 주변 블록들은 현재 블록의 좌측 인접 블록, 현재 블록의 상단 인접 블록 및 현재 블록의 시간적(temporal) 인접 블록 등을 포함할 수 있다.
머지 후보 목록은 움직임 정보들이 저장된 목록을 나타낼 수 있다. 또한, 머지 후보 목록은 머지가 수행되기 전에 생성될 수 있다. 머지 후보 목록에 저장되는 움직임 정보는, 1) 현재 블록에 인접한 주변 블록의 움직임 정보 또는 2) 참조 영상 에서 현재 블록에 대응하는 콜 블록(collocated block) 움직임 정보일 수 있다. 또한, 머지 후보 목록에 저장된 움직임 정보는 이미 머지 후보 목록에 존재하는 움직임 정보들의 조합에 의해 생성된 새로운 움직임 정보일 수 있다.
스킵 모드는 주변 블록의 정보를 그대로 현재 블록에 적용하는 모드일 수 있다. 스킵 모드는 인터 예측에 이용되는 모드 중 하나일 수 있다. 스킵 모드가 사용되는 경우, 부호화 장치(100)는 어떤 블록의 움직임 정보를 현재 블록의 움직임 정보로서 이용할 것인지에 대한 정보만을 비트스트림을 통해 복호화 장치(200)에 전송할 수 있다. 부호화 장치(100)는 다른 정보는 복호화 장치(200)에 전송하지 않을 수 있다. 예를 들면, 다른 정보는 신택스(syntax) 정보일 수 있다. 신택스 정보는 움직임 벡터 차분 정보를 포함할 수 있다.
도 9는 일 예에 따른 원본 영상이 수직 방향으로 예측된 경우의 예측 오차를 나타낸다.
전술된 것과 같이, 인트라 예측으로 원본 영상에 대한 부호화가 수행될 때, 가능한 모든 PU들 및 예측 모드들에 대한 연산이 수행된 뒤, 하나의 PU 및 예측 모드가 선택될 수 있다. 선택된 PU 및 예측 모드에 따라서 원본 영상에 대한 예측이 수행될 때, 예측 모드의 방향으로 예측 오차의 왜곡이 남는 경향성이 발견된다.
따라서, PU에 대해 복수의 예측 모드들 중 하나의 선택된 예측 모드를 사용하여 1차의 제1 인트라 예측을 수행한 후, 2차의 제2 인트라 예측이 수행될 수 있다. 여기에서, 2차의 인트라 예측은 제1 인트라 예측의 예측 모드의 방향으로 특정된 픽셀들의 영역에 한정된 인트라 예측일 수 있다. 말하자면, 2차의 인트라 예측의 예측 모드는 제1 인트라 예측의 예측 모드와 동일할 수 있다. 반면, 제1 인트라 예측은 PU의 전체에 대해 적용되지만, 2차의 인트라 예측은 PU의 일부에만 적용될 수 있다.
부호화 장치는 2차의 인트라 예측이 적용될 PU의 일부를 결정할 수 있다. 예를 들면, 부호화 장치는 복수의 후보 영역들의 각 후보 영역에 대해, 상기의 후보 영역에 2차의 인트라 예측이 적용될 경우의 율-왜곡 비용을 계산할 수 있다. 부호화 장치는 가장 작은 율-왜곡 비용의 후보 영역을 2차의 인트라 예측이 적용될 PU의 일부로서 결정할 수 있다.
PU는 복수의 픽셀들을 포함할 수 있다. 복수의 후보 영역들은 PU의 복수의 픽셀들 중 특정된 방식에 의해 결정된 일부들일 수 있다. 예를 들면, 복수의 후보 영역들은 제1 인트라 예측의 예측 방향에 의해 결정될 수 있다.
제1 인트라 예측 및 제2 인트라 예측을 적용함으로써 PU에 대한 예측 오차가 제1 인트라 예측만이 적용되는 경우에 비해 더 감소될 수 있다.
아래의 실시예들은 전술된 경향성을 효율적으로 사용함으로써 인트라 예측의 성능을 향상시키고 예측 오차를 감소시키는 방법 및 장치를 제시할 수 있다
도 10은 일 실시예에 따른 부호화 장치의 구조도이다.
부호화 장치(1000)는 부호화를 수행하는 범용의 컴퓨터 시스템일 수 있다.
도 10에서 도시된 바와 같이, 부호화 장치(1000)는 버스(1090)를 통하여 서로 통신하는 적어도 하나의 프로세서(1010), 메모리(1030), 사용자 인터페이스(User Interface; UI) 입력 디바이스(1050), UI 출력 디바이스(1060) 및 저장소(1040)를 포함할 수 있다. 또한, 부호화 장치(1000)는 네트워크(1099)에 연결되는 통신부(1020)를 더 포함할 수 있다. 프로세서(1010)는 중앙 처리 장치(Central Processing Unit; CPU), 메모리(1030) 또는 저장소(1040)에 저장된 프로세싱(processing) 명령어(instruction)들을 실행하는 반도체 장치일 수 있다. 메모리(1030) 및 저장소(1040)는 다양한 형태의 휘발성 또는 비휘발성 저장 매체일 수 있다. 예를 들면, 메모리는 롬(ROM)(1031) 및 램(RAM)(1032) 중 적어도 하나를 포함할 수 있다.
프로세서(1010)는 부호화 장치(100)의 인터 예측부(110), 인트라 예측부(120), 스위치(115), 감산기(125), 변환부(130), 양자화부(140), 엔트로피 복호화부(150), 역양자화부(160), 역변환부(170), 가산기(175), 필터부(180) 및 참조 픽쳐 버퍼(190)를 포함할 수 있다.
기록 매체는 부호화 장치(1000)의 동작을 위한 적어도 하나의 모듈을 저장할 수 있다. 메모리(1030)는 적어도 하나의 모듈을 저장할 수 있고, 적어도 하나의 프로세서(1010)에 의하여 실행되도록 구성될 수 있다.
일 실시예에 따르면, 부호화 장치(100)의 인터 예측부(110), 인트라 예측부(120), 스위치(115), 감산기(125), 변환부(130), 양자화부(140), 엔트로피 복호화부(150), 역양자화부(160), 역변환부(170), 가산기(175), 필터부(180) 및 참조 픽쳐 버퍼(190)의 적어도 일부는 프로그램 모듈들일 수 있으며, 외부의 장치 또는 시스템과 통신할 수 있다. 프로그램 모듈들은 운영 체제, 응용 프로그램 모듈 및 기타 프로그램 모듈의 형태로 부호화 장치(1000)에 포함될 수 있다.
프로그램 모듈들은 물리적으로는 여러 가지 공지의 기억 장치 상에 저장될 수 있다. 또한, 이러한 프로그램 모듈 중 적어도 일부는 부호화 장치(1000)와 통신 가능한 원격 기억 장치 에 저장될 수도 있다.
프로그램 모듈들은 일 실시예에 따른 기능 또는 동작을 수행하거나, 일 실시예에 따른 추상 데이터 유형을 구현하는 루틴(routine), 서브루틴(subroutine), 프로그램, 오브젝트(object), 컴포넌트(component) 및 데이터 구조(data structure) 등을 포괄할 수 있지만, 이에 제한되지는 않는다.
프로그램 모듈들은 프로세서(1010)에 의해 수행되는 명령어(instruction) 또는 코드(code)로 구성될 수 있다.
부호화 장치(1000)의 데이터 또는 정보의 통신과 관련된 기능은 통신부(1020)를 통해 수행될 수 있다.
도 11은 일 실시예에 따른 부호화 방법의 흐름도이다.
실시예의 부호화 방법은 부호화 장치(100) 또는 부호화 장치(1000)에 의해 수행될 수 있다.
단계(1110)에서, 예측부는 현재 블록, 제1 예측 및 제2 예측에 기반하여 현재 블록의 잔차 신호를 생성할 수 있다.
예측부는 인터 예측부(110), 인트라 예측부(120) 및 감산기(125)를 포함할 수 있다.
예를 들면, 잔차 신호는 잔차 블록을 나타낼 수 있다.
예를 들면, 잔차 블록은 현재 블록 및 예측 블록의 차분일 수 있다. 또는, 잔차 블록은 현재 블록 및 예측 블록의 차분에 기반하여 생성될 수 있다.
예를 들면, 예측 블록은 제1 예측 블록 및 제2 예측 블록의 합일 수 있다. 잔차 블록은 현재 블록에서 제1 예측 블록 및 제2 예측 블록의 합을 뺀 것일 수 있다.
예를 들면, 제2 예측은 제1 예측의 예측 오차에 대한 예측일 수 있다.
제1 예측 블록은 제1 예측에 의해 생성된 블록일 수 있다. 제2 예측 블록은 제2 예측에 의해 생성된 블록일 수 있다. 제2 예측이 사용되지 않은 경우 제2 예측 블록은 널(null) 블록일 수 있다. 널 블록은 블록의 모든 픽셀들의 값들이 "0"인 블록일 수 있다.
예측부는 인터 예측 또는 인트라 예측을 수행함으로써 현재 블록의 잔차 블록을 생성할 수 있다.
일 실시예에서, 예측부는 현재 블록 및/또는 제1 예측 블록에 기반하여 제2 예측 블록을 생성할 수 있다.
일 실시예에서, 예측부는 현재 블록에 대하여 제1 예측을 수행하고, 제1 예측의 결과인 제1 예측 오차에 대해 제2 예측을 수행함으로써 현재 블록의 잔차 신호를 생성할 수 있다. 여기에서, 제1 예측 오차는 현재 블록 및 제1 예측 신호 간의 차이일 수 있다. 잔차 신호는 제1 예측 오차 및 제2 예측 신호 간의 차이일 수 있다.
일 실시예에서, 제1 예측 및 제2 예측은 서로 상이한 종류의 예측들일 수 있다.
일 실시예에서, 제1 예측 및 제2 예측은 서로 동일한 종류의 예측들일 수 있다. 예를 들면, 제1 예측 및 제2 예측의 각각은 인트라 예측일 수 있다. 제1 예측이 인트라 예측이면, 제2 예측도 인트라 예측으로 설정될 수 있다.
일 실시예에서, 제1 예측의 예측 방향 및 제2 예측의 예측 방향은 동일할 수 있다. 제2 예측의 예측 방향은 제1 예측의 예측 방향과 동일하게 설정될 수 있다.
예를 들면, 일 실시예에서, 제1 예측 및 제2 예측의 각각은 인터 예측일 수 있다.
일 실시예에서, 제1 예측의 대상인 블록 및 제2 예측의 대상인 블록은 서로 상이할 수 있다. 여기에서, "예측의 대상인 블록"은 "예측"이 어떤 블록에 대한 예측 블록을 생성하는가를 의미할 수 있다.
예를 들면, 제1 예측의 대상인 블록의 종류 및 제2 예측의 대상인 블록의 종류는 서로 상이할 수 있다. 블록의 종류는 원본 블록, 루마(luma) 블록, 색차(chroma) 블록, 깊이(depth) 블록 및 잔차 블록 등일 수 있다.
예를 들면, 제1 예측의 대상인 블록은 현재 블록 또는 원본 블록일 수 있다.
예를 들면, 제1 예측에 의해 생성된 제1 예측 오차는 제1 예측 오차 블록을 나타낼 수 있다. 제1 예측 오차는 제1 잔차 신호일 수 있다. 또한, 제1 잔차 신호는 제1 잔차 블록을 나타낼 수 있다. 제2 예측의 대상인 블록은 제1 예측 오차 블록 또는 제1 잔차 블록일 수 있다. 이러한 경우, 제1 예측에 의해서는 제1 잔차 신호가 생성될 수 있고, 제2 예측에 의해서는 제2 예측에 제2 예측 오차가 생성될 수 있다. 제2 예측 오차는 제2 잔차 신호일 수 있다. 제2 잔차 신호는 제2 잔차 블록을 나타낼 수 있다.
예측을 위해서는 참조 블록이 사용될 수 있다. 일 실시예에서, 제1 예측의 제1 참조 블록 및 제2 예측의 제2 참조 블록은 서로 상이할 수 있다. 참조 블록들은 종류 및/또는 위치의 측면에서 서로 상이할 수 있다.
일 실시예에서, 제1 예측의 제1 참조 블록의 위치 및 제2 예측의 제2 참조 블록의 위치는 서로 상이할 수 있다. 여기에서, 제1 참조 블록의 위치는 제1 예측의 대상인 블록에 대한 상대적인 위치일 수 있다. 제2 참조 블록의 위치는 제2 예측의 대상인 블록에 대한 상대적인 위치일 수 있다.
일 실시예에서, 제1 예측의 제1 참조 블록은 복수일 수 있다. 제2 예측의 제2 참조 블록은 복수일 수 있다. 제1 예측의 복수의 제1 참조 블록들 및 제2 예측의 복수의 제2 참조 블록들 중 적어도 일부는 서로 상이할 수 있다.
제1 예측의 복수의 제1 참조 블록들 및 제2 예측의 복수의 제2 참조 블록들 중 적어도 하나의 블록의 위치는 복수의 제1 참조 블록들의 위치들 및 복수의 제2 참조 블록들의 위치들 중 하나에만 포함될 수 있다.
일 실시예에서, 제1 예측의 제1 참조 블록의 종류 및 제2 예측의 제2 참조 블록의 종류는 서로 상이할 수 있다. 블록의 종류는 복원된 블록, 복원된 루마(luma) 블록, 복원된 색차(chroma) 블록, 복원된 깊이(depth) 블록, 복원된 제1 잔차 블록 및 복원된 제2 잔차 블록 등일 수 있다.
예를 들면, 제1 예측의 제1 참조 블록은 복원된 블록일 수 있다. 제2 예측의 제2 참조 블록은 복원된 제1 잔차 블록일 수 있다. 제1 예측의 제1 참조 샘플은 복원된 블록의 픽셀일 수 있다. 제2 예측의 제2 참조 샘플은 복원된 제1 잔차 블록의 픽셀일 수 있다.
예를 들면, 제1 예측의 제1 참조 블록은 현재 블록에 이웃한 복원된 이웃 블록일 수 있다. 제2 예측의 제2 참조 블록은 현재 블록에 이웃한 복원된 제1 잔차 블록일 수 있다.
현재 블록에 이웃한 복원된 이웃 잔차 블록은 복원된 이웃 블록의 복원된 잔차 블록에 복원된 이웃 블록의 제2 예측 블록을 더한 것일 수 있다. 또는, 현재 블록에 이웃한 복원된 이웃 잔차 블록은 복원된 이웃 블록 및 복원된 이웃 블록의 제1 예측 블록 간의 차분일 수 있다.
예를 들면, 제1 예측의 대상이 현재 블록인 경우, 현재 블록에 대한 예측을 위해 참조 블록으로서 현재 블록의 주변의 복원된 블록이 사용될 수 있다. 제2 예측의 대상이 제1 잔차 블록인 경우, 제1 잔차 블록에 대한 예측을 위해 제2 참조 블록으로서 현재 블록 또는 제1 잔차 블록의 주변의 복원된 제1 잔차 블록이 사용될 수 있다.
일 실시예에서, 제1 예측의 영역 및 제2 예측의 영역은 서로 상이할 수 있다. 여기에서, "예측의 영역"은 예측의 대상인 블록 중 예측 값이 생성되는 영역을 나타낼 수 있다. 또는, "예측의 영역"은 예측의 대상인 블록에 대응하는 예측 블록 중 예측에 의해 생성된 예측 값이 할당되는 영역을 나타낼 수 있다.
예를 들면, 제1 예측은 현재 블록의 영역에 대한 예측일 수 있다. 제2 예측은 상기의 영역의 일부에 대한 예측일 수 있다. 현재 블록의 영역 중 적어도 일부는 제2 예측에서 제외될 수 있다. 제1 예측의 대상인 블록은 사각형의 영역 내의 블록일 수 있다. 제2 예측은 상기의 사각형의 영역 중 일부에 대해 이루어질 수 있다. 상기의 사각형의 영역 중 적어도 일부는 제2 예측의 대상이 아닐 수 있다.
제1 예측의 대상인 블록의 영역 및 제2 예측의 대상인 블록의 영역이 동일하다고 보는 경우, 제1 예측의 영역은 제1 예측의 대상인 블록의 전체일 수 있다. 제2 예측의 영역은 제2 예측의 대상인 블록의 일부일 수 있다. 또는, 제2 예측은 제2 예측의 대상인 블록의 적어도 일부에 대해서는 제외될 수 있다. 말하자면, 제1 예측은 제1 예측의 대상인 블록의 전체에 대해 수행될 수 있다. 제2 예측은 제2 예측의 대상인 블록의 선택된 일부에 대해 수행될 수 있다.
예를 들면, 제1 예측의 대상인 블록 중 제1 예측의 영역 내의 픽셀에 대해서만 제1 예측에 의해 결정된 예측 값들이 할당될 수 있다. 제1 예측의 대상인 블록 중 제1 예측의 영역 외의 픽셀에는 제1 예측에 의한 예측 값이 할당되지 않을 수 있다. 또는, 제1 예측의 대상인 블록 중 제1 예측의 영역 외의 픽셀에는 기정의된 값이 할당될 수 있다. 기정의된 값은 "0"일 수 있다.
예를 들면, 제2 예측의 대상인 블록 중 제2 예측의 영역 내의 픽셀에 대해서만 제2 예측에 의해 결정된 예측 값들이 할당될 수 있다. 제2 예측의 대상인 블록 중 제2 예측의 영역 외의 픽셀에는 제2 예측에 의한 예측 값이 할당되지 않을 수 있다. 또는, 제2 예측의 대상인 블록 중 제2 예측의 영역 외의 픽셀에는 기정의된 값이 할당될 수 있다. 예를 들면, 기정의된 값은 "0"일 수 있다.
예를 들면, 제1 예측의 대상인 블록의 크기가 NxN일 때, NxN개의 픽셀들의 각각에게 제1 예측에 의해 결정된 예측 값이 할당될 수 있다. 말하자면, 제1 예측의 대상인 블록의 전체의 픽셀들에게 제1 예측에 의해 결정된 예측 값이 할당될 수 있다.
예를 들면, 제2 예측의 대상인 블록의 크기가 NxN일 때, NxN개의 픽셀들 중 하나 이상의 픽셀에게는 제1 예측에 의해 결정된 예측 값이 할당되지 않을 수 있다. 또는, 제2 예측의 대상인 블록의 크기가 NxN일 때, NxN개의 픽셀들 중 하나 이상의 픽셀에게는 기정의된 값이 할당될 수 있다. 예를 들면, 기정의된 값은 "0"일 수 있다.
일 실시예에서, 제1 예측의 영역은 제1 예측의 종류에 기반하여 결정될 수 있다. 예를 들면, 제1 예측의 영역은 제1 예측이 인터 예측인지 여부에 기반하여 결정될 수 있다. 또는, 제1 예측의 영역은 제1 예측이 인트라 예측인지 여부에 기반하여 결정될 수 있다. 또는, 제1 예측의 영역은 제1 예측의 예측 방향에 기반하여 결정될 수 있다.
일 실시예에서, 제2 예측의 영역은 제2 예측의 종류에 기반하여 결정될 수 있다. 예를 들면, 제2 예측의 영역은 제2 예측이 인터 예측인지 여부에 기반하여 결정될 수 있다. 또는, 제2 예측의 영역은 제2 예측이 인트라 예측인지 여부에 기반하여 결정될 수 있다. 또는, 제2 예측의 영역은 제2 예측의 예측 방향에 기반하여 결정될 수 있다.
일 실시예에서, 제2 예측은 선택적인 범위 내의 제2 참조 샘플을 사용하여 수행될 수 있다.
일 실시예에서, 제1 예측을 위해 사용되는 제1 참조 샘플의 영역 및 제2 예측을 위해 사용되는 제2 참조 샘플의 영역은 서로 상이할 수 있다.
전술된 것과 같이, 제1 예측의 영역 및 제2 예측의 영역은 서로 상이할 수 있다. 제1 참조 샘플의 영역은 제1 예측을 통해 제1 예측의 영역에 대한 예측 값들을 생성하기 위해 요구되는 참조 샘플들의 영역일 수 있다. 제2 참조 샘플의 영역은 제2 예측을 통해 제2 예측의 영역에 대한 예측 값들을 생성하기 위해 요구되는 참조 샘플들의 영역일 수 있다.
전술된 것과 같이, 제1 예측의 영역은 제1 예측의 대상인 블록의 전체일 수 있다. 제2 예측의 영역은 제2 예측의 대상인 블록의 일부일 수 있다. 이러한 경우, 제2 참조 샘플의 영역은 제1 참조 샘플의 영역의 일부일 수 있다.
단계(1120)에서, 부호화부는 잔차 신호에 대한 부호화를 수행할 수 있다. 부호화부는 잔차 신호에 대한 부호화를 수행함으로써 부호화된 잔차 신호에 대한 정보를 생성할 수 있다.
부호화부는 변환부(130), 양자화부(140) 및 엔트로피 부호화부(150)를 포함할 수 있다.
단계(1120)는 단계들(1121, 1122 및 1123)을 포함할 수 있다.
단계(1121)에서, 변환부(130)는 잔차 신호의 변환 계수를 생성할 수 있다.
단계(1122)에서, 양자화부(140)는 변환 계수에 대한 양자화를 수행함으로써 양자화된 변환 계수를 생성할 수 있다.
단계(1123)에서, 엔트로피 부호화부(150)는 양자화된 변환 계수에 대한 엔트로피 부호화를 수행함으로써 부호화된 잔차 신호에 대한 정보를 생성할 수 있다.
단계(1130)에서, 엔트로피 부호화부(150)는 부호화된 잔차 신호에 대한 정보를 포함하는 비트스트림을 생성할 수 있다.
비트스트림은 부호화된 잔차 신호에 대한 정보를 포함할 수 있고, 예측에 관련된 정보를 포함할 수 있다.
엔트로피 부호화부(150)는 예측에 관련된 정보를 비트스트림에 포함시킬 수 있다. 예측의 관련된 정보는 엔트로피 부호화될 수 있다.
예를 들면, 예측에 관련된 정보는 현재 블록이 어떠한 방식에 의해 부호화되었는지를 나타내는 예측 방식 정보를 포함할 수 있다.
예를 들면, 예측 방식 정보는 현재 블록이 인트라 예측 및 인트라 예측 중 어떤 예측으로 부호화되었는지를 나타낼 수 있다. 또는, 예측 방식 정보는 현재 블록이 인트라 예측에 의해 부호화되었는지 여부를 나타낼 수 있다. 또는, 예측 방식 정보는 현재 블록이 인터 예측에 의해 부호화되었는지 여부를 나타낼 수 있다.
예를 들면, 예측에 관련된 정보는 인트라 예측의 예측 모드를 나타내는 인트라 예측 모드 정보를 포함할 수 있다.
예를 들면, 예측에 관련된 정보는 현재 블록의 부호화에 있어서 제2 예측의 사용 여부를 나타내는 제2 예측 사용 정보를 포함할 수 있다.
예를 들면 예측에 관련된 정보는 현재 블록의 종류를 나타내는 현재 블록 종류 정보, 제1 예측 블록의 종류를 나타내는 제1 예측 블록 종류 정보, 제2 예측 블록의 종류를 나타내는 제2 예측 블록 종류 정보, 제1 참조 블록의 종류를 나타내는 제1 참조 블록 종류 정보, 제2 참조 블록의 종류를 나타내는 제2 참조 블록 종류 정보, 제1 참조 샘플의 종류를 나타내는 제1 참조 샘플 종류 정보 및 제2 참조 샘플의 종류를 나타내는 제2 참조 샘플 종류 정보 등을 포함할 수 있다.
예를 들면, 예측에 관련된 정보는 제1 예측의 영역을 나타내는 제1 예측 영역 정보 및/또는 제2 예측의 제2 예측 영역을 나타내는 제2 예측 영역 정보를 포함할 수 있다.
예측에 관련된 정보는 실시예들에서 설명된 예측을 위해 사용된 정보를 포함할 수 있다. 엔트로피 부호화부(150)는 예측에 관련된 정보들을 실시예에서 설명된 순서 또는 실시예에 따른 생성의 순서에 따라서 비트스트림에 포함시킬 수 있다.
단계(1140)에서, 통신부(1020)는 비트스트림을 복호화 장치(200) 또는 복호화 장치(1700)로 전송할 수 있다.
단계(1150)에서, 복원된 잔차 신호 생성부는 잔차 신호에 대한 정보에 기반하여 복원된 잔차 신호를 생성할 수 있다.
복원된 잔차 신호 생성부는 역양자화부(160) 및 역변환부(170)를 포함할 수 있다.
단계(1150)는 단계들(1151 및 1152)를 포함할 수 있다.
단계(1151)에서, 역양자화부(160)는 양자화된 변환 계수에 대한 역양자화를 수행함으로써 복원된 변환 계수를 생성할 수 있다.
단계(1152)에서, 변환부(130)는 복원된 변환 계수에 대한 변환을 수행함으로써 복원된 잔차 신호를 생성할 수 있다.
단계(1160)에서, 복원된 블록 생성부는 복원된 잔차 신호, 제1 예측 및 제2 예측에 기반하여 복원된 블록을 생성할 수 있다.
복원된 블록 생성부는 가산부(175)를 포함할 수 있다.
예를 들면, 복원된 잔차 신호 및 예측 신호의 합은 복원된 블록을 나타낼 수 있다. 또는, 복원된 블록은 복원된 잔차 신호 및 예측 신호의 합에 기반하여 생성될 수 있다.
예를 들면, 복원된 블록은 복원된 잔차 블록 및 예측 블록의 합일 수 있다. 예측 블록은 제1 예측 블록 및 제2 예측 블록의 합일 수 있다. 또는, 복원된 블록은 복원된 잔차 블록 및 예측 블록의 합에 기반하여 생성될 수 있다.
예를 들면, 복원된 블록은 복원된 잔차 블록, 제2 예측 블록 및 제1 예측 블록에 의해 생성된 블록일 수 있다. 복원된 블록 생성부는 복원된 잔차 신호 및 제2 예측 신호를 더함으로써 복원된 제1 잔차 신호를 생성할 수 있다. 복원된 블록 생성부는 복원된 제1 잔차 신호 및 제1 예측 신호를 더함으로써 복원된 블록을 생성할 수 있다.
또는, 복원된 블록 생성부는 복원된 잔차 블록 및 제2 예측 블록을 더함으로써 복원된 제1 잔차 블록을 생성할 수 있다. 복원된 블록 생성부는 복원된 제1 잔차 블록 및 제1 예측 블록을 더함으로써 복원된 블록을 생성할 수 있다.
복원된 블록 및 복원된 제1 잔차 신호는 다른 블록의 부호화를 위한 참조 블록으로서 사용될 수 있다.
도 12는 일 실시예에 따른 인트라 예측을 사용하는 제1 예측 및 제2 예측을 나타낸다.
도 11을 참조하여 전술된 단계(1110)에서, 제1 예측 및 제2 예측은 인트라 예측일 수 있다. 도 12에서는 제1 예측 및 제2 예측이 인트라 예측인 경우의 현재 블록의 부호화의 일 예를 도시한다.
현재 블록은 PU일 수 있다. 도 12에서는 현재 블록으로서, 2Nx2N의 크기의 PU가 도시되었다.
우선, 현재 블록의 부호화를 위해서, 예측부는 복수의 예측 모드들 중 어떤 예측 모드를 사용하여 제1 예측을 사용할 것인가를 결정할 수 있다.
예측부는 복수의 예측 모드들의 각각을 사용하여 제1 예측을 수행할 수 있다. 예를 들면, 복수의 예측 모드들의 예측 방향들은 서로 다를 수 있다.
제1 예측에 있어서, 현재 블록의 주변의 복원된 블록들이 참조 블록들로서 사용될 수 있다. 또한, 현재 블록의 주변의 복원된 블록들의 픽셀들이 참조 샘플들로서 사용될 수 있다.
예측부는 제1 예측을 통해 복수의 예측 모드들의 제1 예측 블록들을 생성할 수 있다.
또한, 예측부는 제1 예측을 통해 복수의 예측 모드들의 제1 예측 오차들을 생성할 수 있다. 하나의 예측 모드에 대해, 제1 예측 블록 및 제1 예측 오차가 계산될 수 있다.
제1 예측 오차는 현재 블록 및 제1 예측 블록의 차분(residual)을 나타낼 수 있다. 제1 예측 오차는 제1 잔차 블록을 나타낼 수 있다.
제1 예측 오차가 생성되면, 예측부는 제1 예측 오차를 참조하여, 제1 잔차 블록에서 제2 예측이 적용될 영역을 선택할 수 있다. 선택된 영역은 제1 잔차 블록의 일부일 수 있다.
다음으로, 현재 블록의 부호화를 위해서, 예측부는 제1 잔차 블록의 어떤 일부에 대해서 제2 예측이 적용될 것인가를 결정할 수 있다.
제2 예측은 선택된 영역인 제1 잔차 블록의 일부에 적용될 수 있다. 제2 예측이 적용될 영역을 선택하기 위해 다양한 방법들이 사용될 수 있다.
제2 예측의 예측 영역은 제2 예측에 사용되는 참조 샘플들의 범위에 의해 특정될 수 있다.
제2 예측에 있어서, 현재 블록에 이웃한 복원된 잔차 블록들이 참조 블록들로서 사용될 수 있다. 또한, 현재 블록에 이웃한 복원된 잔차 블록들의 픽셀들이 참조 샘플들로서 사용될 수 있다.
제1 예측의 예측 방향 및 제2 예측의 예측 방향은 동일할 수 있다. 말하자면, 제1 예측의 인트라 예측 모드 및 제2 예측의 인트라 예측 모드는 동일할 수 있다.
도 12에서는, 모드 값이 30인 인트라 예측 모드가 예시적으로 도시되었다.
일반적으로, 제1 예측의 예측 방향 및 제2 예측의 예측 방향이 동일하다면, 제1 예측의 참조 샘플들의 범위 및 제2 예측의 참조 샘플들의 범위는 동일할 수 있다.
제2 예측은 제1 잔차 블록의 일부에 적용될 수 있다. 제2 예측의 참조 샘플들의 범위는 제1 예측의 참조 샘플들의 범위의 일부일 수 있다.
도 12에서, 제2 예측의 참조 샘플들의 범위는 α 및 α+β 사이의 범위로 도시되었다.
α는 제2 예측의 예측 방향에 대한 참조 샘플들 중 제2 예측에 사용될 첫 번째의 참조 샘플을 가리킬 수 있다. 또는, α는 제2 예측의 시작 위치를 가리킬 수 있다.
α+β는 제2 예측의 예측 방향에 대한 참조 샘플들 중 제2 예측에 사용될 마지막의 참조 샘플을 가리킬 수 있다. 또는, α+β는 제2 예측의 마지막 위치를 가리킬 수 있다.
β는 제2 예측에 사용될 참조 샘플들의 개수를 나타낼 수 있다. 또는, β는 제2 예측의 범위 또는 제2 예측의 길이를 나타낼 수 있다.
참조 샘플들의 범위가 결정되면, 결정된 참조 샘플들의 범위 및 예측 방향에 따라서 제2 예측의 영역이 특정될 수 있다. 도 12에서는 잔차 블록 내의 점선들로 특정된 영역이 도시되었다. 제2 예측의 영역은 α 및 α+β의 사이의 범위의 참조 샘플들이 예측 방향으로 진행함에 따라 생성된 영역일 수 있다.
예측부는 예측 방향에 대한 참조 샘플들 중 제2 예측에 사용할 참조 샘플의 범위를 선택할 수 있다. 예측부는 예측 방향에 대한 전체의 참조 샘플들 중 선택된 범위의 참조 샘플들을 사용하여 제2 예측을 수행할 수 있다. 여기에서, 전체의 참조 샘플들은 제1 예측에서 사용된 참조 샘플들에 대응할 수 있다.
제2 예측에 있어서, 선택된 범위의 바깥의 참조 샘플의 값은 널(NULL) 또는 "0"으로 간주될 수 있다. 예를 들면, α의 이전의 참조 샘플의 값은 0으로 간주될 수 있고, α+β의 이후의 참조 샘플의 값은 0으로 간주될 수 있다.
예측부는 제2 예측을 통해 복수의 후보 영역들에 대한 제2 예측 블록들을 생성할 수 있다.
복수의 후보 영역들은 서로 상이할 수 있다. 복수의 후보 영역들은 제1 잔차 블록의 서로 다른 일부들일 수 있다.
예를 들면, 제1 잔차 블록의 영역이 제2 예측에 사용되는 참조 샘플들로서 특정될 수 있다. 이러한 경우 제1 잔차 블록의 일부 또는 제1 잔차 블록에 대한 제2 예측의 영역은 순서쌍 (α, β)으로 표현될 수 있다. 복수의 후보 영역들에 대응하는 (α, β)의 순서쌍들은 서로 상이할 수 있다. 말하자면, 순서쌍 (α, β)은 제2 예측에 사용될 참조 샘플들의 범위를 나타낼 수 있다.
복수의 후보 영역들은 제1 잔차 블록에 대해 특정된 방식에 의해 선택될 수 있는 모든 서로 다른 영역들일 수 있다. 예를 들면, 특정된 방식은 예측 방향일 수 있다.
예를 들면, 제1 잔차 블록의 영역이 제2 예측에 사용되는 참조 샘플들로서 특정될 수 있다. 제2 예측의 예측 모드에서 제1 잔차 블록의 전체에 대해 사용될 수 있는 참조 샘플의 개수가 n 일 때, α는 0 이상 n-1 이하일 수 있다. β는 0 이상 n-1-α 이하일 수 있다. 또한, 제2 예측의 예측 모드에서 제1 잔차 블록의 전체에 대해 사용될 수 있는 참조 샘플이 n개 일 때, (α, β)의 순서쌍들의 개수는 (n+1)n/2 일 수 있다. 말하자면, 제2 예측의 예측 모드에서 제1 잔차 블록의 전체에 대해 사용될 수 있는 참조 샘플이 n개일 때, 복수의 후보 영역들의 개수는 (n+1)n/2 일 수 있다.
예를 들면, 복수의 후보 영역들은 제2 예측에 사용될 참조 샘플들의 범위들에 각각 대응할 수 있다.
α 및 β는 각각 특정된 예측 방향에서의 참조 샘플들의 목록의 인덱스(index)일 수 있다.
α 및 β 등을 사용하여 참조 샘플들의 목록에서의 위치를 가리키기 위해서는 참조 샘플들의 순서가 정해져야 할 수 있다.
일 실시예에서, 우선적으로, 참조 샘플의 X 좌표의 값이 작을수록 참조 샘플의 순서가 더 빠를 수 있다. 다음으로, X 좌표들의 값들의 동일한 참조 샘플들 중에서는 참조 샘플의 Y 좌표의 값이 클수록 참조 샘플의 순서가 더 빠를 수 있다. 예를 들면, 하단 좌측(below-left) 참조 샘플들(731), 좌측(left) 참조 샘플들(733), 상단 좌측(above-left) 코너 참조 샘플(735), 상단(above) 참조 샘플들(737) 및 상단 우측(above-right) 참조 샘플들(739)의 순서로 참조 샘플의 순서가 부여될 수 있다. 하단 좌측 참조 샘플들(731) 중에서는 아래에 위치한 참조 샘플이 위에 위치한 참조 샘플보다 더 빠른 순서를 가질 수 있다. 좌측 참조 샘플들(733) 중에서는 아래에 위치한 참조 샘플이 위에 위치한 참조 샘플보다 더 빠른 순서를 가질 수 있다. 상단 참조 샘플들(737) 중에서는 좌측에 위치한 참조 샘플이 우측에 위치한 참조 샘플보다 더 빠른 순서를 가질 수 있다. 상단 우측 참조 샘플들(739) 중에서는 좌측에 위치한 참조 샘플이 우측에 위치한 참조 샘플보다 더 빠른 순서를 가질 수 있다.
전술된 참조 샘플들의 순서는 일 예에 대한 것이고, 다른 방식의 순서도 사용될 수 있다. 예를 들면, 전술된 순서의 역순으로 참조 샘플들의 순서가 부여될 수 있다.
또한, 참조 샘플들의 순서는 예측 방향에 따라서 결정된 참조 샘플들에 대해서 부여될 수 있다. 말하자면, 전술된 하단 좌측(below-left) 참조 샘플들(731), 좌측(left) 참조 샘플들(733), 상단 좌측(above-left) 코너 참조 샘플(735), 상단(above) 참조 샘플들(737) 및 상단 우측(above-right) 참조 샘플들(739) 중 제2 예측의 예측 방향에 따라 결정된 일부의 참조 샘플들만이 제1 잔차 블록의 전체의 예측을 위해 사용될 수 있다. 결정된 일부의 참조 샘플들에 대해서 순서가 부여될 수 있다.
예를 들면, 제2 예측의 예측 방향이 수직 방향일 경우, 제1 잔차 블록의 전체에 대해 사용될 수 있는 참조 샘플들은 상단 참조 샘플들(737)일 수 있다. 현재 블록의 크기가 2Nx2N일 때, 상단 참조 샘플들(737) 중 최좌측의 참조 샘플의 순서는 0일 수 있고, 상단 참조 샘플들(737) 중 최우측의 참조 샘플의 순서는 2N-1일 수 있다.
또는, 예를 들면, 제2 예측의 예측 방향이 수평 방향일 경우, 제1 잔차 블록의 전체에 대해 사용될 수 있는 참조 샘플들은 좌측 참조 샘플들(733)일 수 있다. 현재 블록의 크기가 2Nx2N일 때, 좌측 참조 샘플들(737) 중 최하단 참조 샘플의 순서는 0일 수 있고, 좌측 참조 샘플들(737) 중 최상단 참조 샘플의 순서는 2N-1일 수 있다.
예측부는 제2 예측을 통해 복수의 후보 영역들에 대한 제2 예측 오차들을 생성할 수 있다. 하나의 영역에 대해, 제2 예측 블록 및 제2 예측 오차가 계산될 수 있다.
제2 예측 오차는 제1 잔차 블록 및 제2 예측 블록의 차분(residual)을 나타낼 수 있다. 제2 예측 오차는 제2 잔차 블록을 나타낼 수 있다.
전술된 것과 같이, 예측부는 복수의 예측 모드들에 대해 복수의 제1 예측 오차들을 생성할 수 있다 또한, 복수의 제1 예측 오차들의 각 제1 예측 오차에 대해서, 예측부는 제2 예측을 통해 제1 예측 오차가 나타내는 제1 잔차 블록의 복수의 후보 영역들에 대한 제2 예측 오차들을 생성할 수 있다.
전술된 과정들을 통해, 예측부는 복수의 예측 모드들의 전체의 후보 영역들에 대하여 제2 예측 오차들을 생성할 수 있다.
예측부는 생성된 제2 예측 오차들 중 최소의 율-왜곡 비용을 갖는 제2 예측 오차를 선택할 수 있다. 복수의 후보 영역들 중 선택된 제2 예측 오차에 대응하는 후보 영역이 현재 블록의 제2 예측이 적용될 일부일 수 있다. 또한, 복수의 예측 모드들 중 선택된 제2 예측 오차에 대응하는 예측 모드가 제1 예측에서 사용될 예측 모드일 수 있다. 말하자면, 어떤 예측 모드의 어떤 영역에 대한 제2 예측 오차가 최소의 율-왜곡 비용을 갖는가에 따라서, 예측부는 현재 블록의 부호화를 위해 사용될 제1 예측의 예측 모드 및 제2 예측의 영역을 결정할 수 있다.
또는, 우선, 예측부는 복수의 예측 모드들 중 최소의 율-왜곡 비용을 갖는 예측 모드를 선택할 수 있다. 이러한 경우, 선택된 예측 모드에 의해 생성된 제1 예측 오차 또는 제1 잔차 블록에 대해서 제2 예측이 수행될 수 있다. 다음으로, 예측부는 제2 예측 오차들 중 최소의 율-왜곡 비용을 갖는 제2 예측 오차를 선택할 수 있다. 말하자면, 예측부는 어떤 제1 예측 오차가 최소의 율-왜곡 비용을 갖는가에 따라서 현재 블록의 부호화를 위해 사용될 제1 예측의 예측 모드를 결정할 수 있고, 어떤 제2 예측 오차가 최소의 율-왜국 비용을 갖는가에 따라서 현재 블록의 부호화를 위해 사용될 제2 예측의 영역을 결정할 수 있다.
도 11을 참조하여 전술된 예측에 관련된 정보는 전술된 선택적인 2차 화면내 예측에 대한 정보를 포함할 수 있다.
예를 들면, 예측에 관련된 정보는 선택적인 2차 화면내 예측(Secondary Secondary Intra-Prediction; SSIP)의 사용 여부를 나타내는 플래그인 SSIP_flag를 포함할 수 있다.
예를 들면, 예측에 관련된 정보는 전술된 α를 나타내는 정보 및 전술된 β를 나타내는 정보를 포함할 수 있다. 말하자면, 예측에 관련된 정보는 제2 예측에 사용될 첫 번째의 참조 샘플을 가리키는 정보 및 제2 예측에 사용될 참조 샘플의 개수를 가리키는 정보를 포함할 수 있다. 또는, 예측에 관련된 정보는 제2 예측에 사용될 첫 번째의 참조 샘플을 가리키는 정보 및 제2 예측에 사용될 마지막의 참조 샘플을 가리키는 정보를 포함할 수 있다.
또는, 예측에 관련된 정보는 제2 예측이 시작하는 위치 및 제2 예측이 어느 위치까지 진행할 것인가를 나타내는 정보를 포함할 수 있다. 예측에 관련된 정보는 제2 예측이 시작하는 위치 및 제2 예측이 끝나는 위치를 나타내는 정보를 포함할 수 있다.
예를 들면, α를 나타내는 정보 또는 제2 예측이 시작하는 위치를 나타내는 정보는 SSIP_start_point일 수 있고, β를 나타내는 정보 또는 제2 예측이 어느 위치까지 진행할 것인가를 나타내는 정보는 SSIP_length일 수 있다.
전술된 결정을 통해 현재 블록의 예측 오차가, 기존의 제1 예측만을 수행하는 것에 비해, 더 감소될 수 있다. 제2 예측은 도 9를 참조하여 전술된 예측 모드의 방향으로 예측 오차의 왜곡이 남는 경향성에 대해서 효율적으로 예측 오차를 감소시킬 수 있다. 말하자면, 제2 예측을 통해 예측 모드의 방향으로 예측 오차의 왜곡이 남는 경향성을 효율적으로 사용함으로써 예측의 성능이 향상될 수 있고, 예측 오차가 감소될 수 있다.
도 13은 일 실시예에 따른 잔차 블록의 생성 방법의 흐름도이다.
도 11을 참조하여 전술된 단계(1110)는 단계들(1310, 1320, 1330, 1340, 1350, 1360, 1370 및 1380)을 포함할 수 있다.
일 실시예에서, 제1 예측의 대상인 블록은 현재 블록일 수 있다. 제1 예측은 인트라 예측일 수 있다.
단계(1310)에서, 예측부는 현재 블록에 대한 제1 예측을 수행함으로써 제1 예측 신호를 생성할 수 있다.
제1 예측 신호는 제1 예측 블록을 나타낼 수 있다.
도 12를 참조하여 전술된 것과 같이, 예측부는 현재 블록의 부호화를 위한 최적의 제1 예측의 예측 모드를 찾기 위해 복수의 예측 모드들의 각 예측 모드에 대하여 제1 예측을 수행할 수 있다. 말하자면, 단계들(1310, 1320 및 1325)은 복수의 예측 모드들의 각 예측 모드에 대하여 수행될 수 있다.
복수의 예측 모드들은 서로 다른 예측 방향들에 대응할 수 있다.
단계(1320)에서, 예측부는 현재 블록 및 제1 예측 신호에 기반하여 제1 예측 오차를 생성할 수 있다.
제1 예측 오차는 제1 예측 오차 블록 또는 제1 잔차 블록을 나타낼 수 있다.
제1 잔차 블록은 현재 블록 및 제1 예측 블록의 차분(residual)을 나타낼 수 있다. 말하자면, 예측부는 현재 블록으로부터 제1 예측 신호가 나타내는 제1 예측 블록을 뺌으로써 제1 예측 오차를 생성할 수 있다.
단계(1325)에서, 예측부는 제1 예측 오차를 사용하여 제1 예측의 율-왜곡 비용을 계산할 수 있다.
예측부는 계산된 제1 예측 오차 및/또는 제1 예측의 율-왜곡 비용을 메모리(1030), 저장소(1040) 또는 버퍼에 저장할 수 있다.
도 12를 참조하여 전술된 것과 같이, 예측부는 현재 블록의 부호화를 위한 최적의 제1 예측의 예측 모드를 찾기 위해 복수의 예측 모드들의 각 예측 모드에 대하여 제1 예측을 수행할 수 있다. 예측부는 복수의 예측 모드들의 제1 예측 오차들을 사용하여 복수의 예측 모드의 율-왜곡 비용들을 계산할 수 있다. 예측부는 계산된 율-왜곡 비용들 중 최소의 율-왜곡 비용을 최소 제1 율-왜곡 비용 RDcost_1로서 저장할 수 있다. 예를 들면, RDcost_1는 1차의 화면내 예측에 있어서 최소의 율-왜곡 비용을 갖는 모드의 율-왜곡 비용일 수 있다.
예측부는 RDcost_1에 대응하는 제1 예측 오차 및 RDcost_1를 저장할 수 있다.
제2 예측은 기정의된 조건에 기반하여 선택적으로 수행될 수 있다.
단계(1330)에서, 예측부는 제2 예측을 수행할지 여부를 결정할 수 있다.
일 실시예에서, 단계(1330)의 결정은 현재 블록이 제2 예측을 사용하여 부호화되는 것을 최종적으로 결정하는 것은 아닐 수 있다. 단계(1130)에서, 예측부는 현재 블록 또는 제1 잔차 블록에 대해 제2 예측이 가능한지 여부를 판단할 수 있다.
예를 들면, 제2 예측을 수행하지 않기로 결정된 경우 현재 블록은 제2 예측을 사용하지 않고 부호화될 수 있다. 제2 예측을 수행하기로 결정된 경우, 제2 예측에 의해 제2 예측 신호 및 제2 예측 오차 등이 생성될 수 있으나, 단계(1360)의 율-왜곡 비용들의 비교를 통해 현재 블록의 부호화에 있어서 제2 예측을 사용할지 여부가 결정될 수 있다.
도 12를 참조하여 전술된 것과 같이, 예측부는 현재 블록의 부호화를 위한 최적의 제1 예측의 예측 모드를 찾기 위해 복수의 예측 모드들의 각 예측 모드에 대하여 제1 예측의 수행 후 제2 예측을 수행할지 여부를 결정할 수 있다. 말하자면, 단계(1330)은 복수의 예측 모드들의 각 예측 모드에 대하여 수행될 수 있다.
제2 예측을 수행하지 않기로 결정된 경우, 현재 블록의 잔차 블록은 제1 예측 오차가 나타내는 블록일 수 있다. 말하자면, 제1 예측 오차가 잔차 블록으로서 제공될 수 있다.
제2 예측을 수행하기로 결정된 경우, 현재 블록의 잔차 블록은 후술될 제2 예측 오차 신호가 나타내는 블록일 수 있다. 말하자면, 제2 예측 오차 신호가 잔차 블록으로서 제공될 수 있다.
예측부는 기정의된 조건에 기반하여 제2 예측을 수행할지 여부를 결정할 수 잇다.
일 실시예에서, 예측부는 제1 예측의 예측 모드에 기반하여 제2 예측을 수행할지 여부를 결정할 수 있다.
예를 들면, 예측부는 제1 예측의 예측 모드가 비방향성 모드이면 제2 예측을 수행하지 않을 수 있다. 또는, 예측부는 제1 예측의 예측 모드가 방향성 모드이면 제2 예측을 수행할 수 있다.
제1 예측의 예측 모드가 복수의 예측 모드들 중 비방향성 모드인 경우, 예측 모드의 방향이 없기 때문에 선택적인 영역 또는 범위에 대한 예측의 수행이 불가능할 수 있다. 따라서, 제1 예측의 예측 모드가 방향성 모드일 경우에만 제2 예측이 수행될 수도 있다.
일 실시예에서, 예측부는 현재 블록의 위치에 기반하여 제2 예측을 수행할지 여부를 결정할 수 있다.
예를 들면, 예측부는 현재 블록이 경계에 인접하면 제2 예측을 수행하지 않을 수 있다. 예를 들면, 예측부는 현재 블록이 상단의 경계 및 좌측의 경계에 인접하면 제2 예측을 수행하지 않을 수 있다. 경계는 픽쳐의 경계, 슬라이스의 경계 또는 타일의 경계일 수 있다.
현재 블록이 상단의 경계 및 좌측의 경계에 인접한 경우, 제2 예측을 위한 제1 잔차 블록이 충분하지 않을 수 있다. 제1 잔차 블록이 부족한 경우, 제2 예측을 수행하기 위한 제2 참조 샘플이 온전하게 생성될 수 없다.
일 실시예에서, 예측부는 현재 블록에 인접한 복원된 블록의 개수에 기반하여 제2 예측을 수행할지 여부를 결정할 수 있다.
예를 들면, 예측부는 현재 블록에 인접한 복원된 블록의 개수가 2개 이하이면 제2 예측을 수행하지 않을 수 있다.
제2 예측을 수행하기로 결정된 경우, 단계(1340)가 수행될 수 있다.
재2 예측을 수행하지 않기로 결정된 경우, 단계(1370) 또는 단계(1120)가 수행될 수 있다. 단계(1120)가 수행되는 경우, 단계(1120)의 잔차 신호는 제1 예측 오차일 수 있다. 말하자면, 제2 예측 없이 제1 예측 만이 수행되는 경우, 제1 예측에 의해 생성된 제1 예측 오차가 현재 블록의 잔차 신호로서 사용될 수 있다.
단계(1340)에서, 예측부는 제1 예측 오차에 대한 제2 예측을 수행함으로써 제2 예측 신호를 생성할 수 있다.
제2 예측 신호는 제2 예측 블록을 나타낼 수 있다.
제2 예측은 인트라 예측일 수 있고, 제2 예측의 예측 방향은 제1 예측의 예측 방향과 동일할 수 있다.
예측부는 제1 잔차 블록의 일부의 영역에 대하여 제2 예측을 수행할 수 있다. 일부의 영역은 제2 예측에 사용될 참조 샘플들에 의해 특정될 수 있다.
제2 예측의 참조 샘플들의 영역은 제1 예측의 참조 샘플들의 영역의 일부일 수 있다.
도 12를 참조하여 전술된 것과 같이, 예측부는 현재 블록의 부호화를 위한 최적의 제2 예측의 영역을 찾기 위해 복수의 후보 영역들의 각 후보 영역에 대하여 제2 예측을 수행할 수 있다.
또한, 도 12를 참조하여 전술된 것과 같이, 예측부는 현재 블록의 부호화를 위한 최적의 제1 예측의 예측 모드 및 최적의 제2 예측의 영역을 찾기 위해, 각 예측 모드의 각 후보 영역에 대하여 제2 예측을 수행할 수 있다. 말하자면, 단계(1340)는 각 예측 모드의 각 후보 영역에 대하여 수행될 수 있다.
여기에서, 최적의 제1 예측의 예측 모드 및 최적의 제2 예측의 영역은 복수의 예측 모드들의 복수의 후보 영역들 중 최소의 율-왜곡 비용을 갖는 후보 영역에 대응하는 예측 모드 및 영역일 수 있다. 말하자면, 복수의 예측 모드들의 복수의 후보 영역들 중 어떤 예측 모드 및 어떤 영역에 대해 제1 예측 및 제2 예측이 수행되었을 때 최소의 율-왜곡 비용이 발생하는가에 기반하여 예측부는 현재 블록의 부호화를 위한 제1 예측의 예측 모드 및 제2 예측의 영역을 결정할 수 있다.
복수의 후보 영역들은 제2 예측에 사용될 참조 샘플들의 범위들에 각각 대응할 수 있다.
예측부는 예측 방향에 대한 참조 샘플들 중 제2 예측에 사용할 참조 샘플의 범위를 선택할 수 있다. 예측부는 예측 방향에 대한 전체의 참조 샘플들 중 선택된 범위의 참조 샘플들을 사용하여 제2 예측을 수행할 수 있다. 제2 예측에 있어서, 선택된 범위 바깥의 참조 샘플의 값은 "0"으로 간주될 수 있다.
단계(1350)에서, 예측부는 제1 예측 오차 및 제2 예측 신호에 기반하여 제2 예측 오차를 생성할 수 있다.
제2 예측 오차는 제2 예측 오차 블록 또는 제2 잔차 블록을 나타낼 수 있다.
제2 잔차 블록은 제1 잔차 블록 및 제2 예측 블록의 차분(residual)을 나타낼 수 있다. 말하자면, 예측부는 제1 예측 오차가 나타내는 제1 잔차 블록으로부터 제2 예측 신호가 나타내는 제2 예측 블록을 뺌으로써 제2 예측 오차 신호를 생성할 수 있다.
단계(1355)에서, 예측부는 제2 예측 오차를 사용하여 제2 예측의 율-왜곡 비용을 계산할 수 있다.
예측부는 계산된 제2 예측 오차 및/또는 제2 예측의 율-왜곡 비용을 메모리(1030), 저장소(1040) 또는 버퍼에 저장할 수 있다.
도 12를 참조하여 전술된 것과 같이, 예측부는 현재 블록의 부호화를 위한 최적의 제2 예측의 영역을 찾기 위해 복수의 영역들의 각 영역에 대하여 제2 예측을 수행할 수 있다. 예측부는 복수의 영역들의 제2 예측 오차들을 사용하여 복수의 영역들의 율-왜곡 비용들을 계산할 수 있다. 예측부는 계산된 율-왜곡 비용들 중 최소의 율-왜곡 비용을 최소 제2 율-왜곡 비용 RDcost_2로서 저장할 수 있다. 예를 들면, RDcost_2는 선택적인 제2 화면내 예측에 있어서 최소의 율-왜곡 비용을 갖는 영역의 율-왜곡 비용일 수 있다.
예측부는 RDcost_2에 대응하는 제2 예측 오차 및 RDcost_2를 저장할 수 있다.
제2 예측은 기정의된 조건에 기반하여 선택적으로 사용될 수 있다.
단계(1360)에서, 예측부는 현재 블록의 부호화에 있어서 제2 예측을 사용할지 여부를 결정할 수 있다.
예측부는 기정의된 조건에 기반하여 현재 블록의 부호화에 있어서 제2 예측을 사용할지 여부를 결정할 수 있다.
예를 들면, 예측부는 제2 예측을 사용함으로써 율-왜곡 비용이 더 감소될 경우 제2 예측을 사용할 것을 결정할 수 있다. 예측부는 제2 예측을 사용하더라도 율-왜곡 비용이 더 감소되지 않는 경우 제2 예측을 사용하지 않을 것을 결정할 수 있다.
예를 들면, 예측부는 제2 예측을 사용하였을 경우의 최소의 율-왜곡 비용이 제2 예측을 사용하지 않았을 경우의 최소의 율-왜곡 비용보다 더 작은 경우 제2 예측을 사용할 것을 결정할 수 있다.
일 실시예에서, 예측부는 RDcost_1 및 RDcost_2 간의 비교에 기반하여 현재 블록의 부호화에 있어서 제2 예측을 사용할지 여부를 결정할 수 있다.
RDcost_2가 RDcost_1 보다 더 작다는 것은 제1 예측만을 사용하였을 때에 비해 제2 예측을 사용함에 따라 현재 블록의 부호화의 율-왜곡 비용이 더 감소할 수 있다는 것을 나타낼 수 있다.
예를 들면, RDcost_1가 RDcost_2의 이하이면, 예측부는 현재 블록의 부호화를 위해 제2 예측을 사용하지 않을 것을 결정할 수 있다. RDcost_1가 RDcost_2보다 더 크면, 예측부는 현재 블록의 부호화를 위해 제2 예측을 사용할 것을 결정할 수 있다.
현재 블록의 부호화를 위해 제2 예측이 사용되지 않을 경우 단계(1370)가 수행될 수 있다.
현재 블록의 부호화를 위해 제2 예측이 사용될 경우 단계(1380)가 수행될 수 있다.
단계(1370)에서, 예측부는 제2 예측을 사용하지 않는 것을 나타내는 설정을 수행할 수 있다.
예측부는 제2 예측 사용 정보가 제2 예측을 사용하지 않는다는 것을 나타내도록 제2 예측 사용 정보의 값을 설정할 수 있다. 예를 들면, 제2 예측 사용 정보의 값이 "0"이면, 제2 예측 사용 정보는 제2 예측을 사용하지 않는다는 것을 나타낼 수 있다.
단계(1370)가 수행되는 경우, 단계(1120)의 잔차 신호는 제1 예측 오차일 수 있다. 말하자면, 현재 블록에 대해 제2 예측이 수행되지 않는 경우, 제1 예측에 기반하여 생성된 제1 예측 오차가 잔차 신호로서 사용될 수 있다.
단계(1380)에서, 예측부는 제2 예측을 사용하는 것을 나타내는 설정을 수행할 수 있다.
예측부는 제2 예측 사용 정보가 제2 예측을 사용한다는 것을 나타내도록 제2 예측 사용 정보의 값을 설정할 수 있다. 예를 들면, 제2 예측 사용 정보의 값이 "1"이면, 제2 예측 사용 정보는 제2 예측을 사용한다는 것을 나타낼 수 있다.
단계(1380)가 수행되는 경우, 단계(1120)의 잔차 신호는 제2 예측 오차일 수 있다. 말하자면, 현재 블록에 대해 제2 예측이 수행되는 경우, 제1 예측 및 제2 예측에 기반하여 생성된 제2 예측 오차가 잔차 신호로서 사용될 수 있다.
도 14는 일 예에 따른 복원된 블록의 생성 방법의 흐름도이다.
도 11을 참조하여 전술된 단계(1160)는 아래의 단계들(1410, 1420 및 1430)을 포함할 수 있다.
단계(1410)에서, 복원된 블록 생성부 현재 블록의 부호화에 대해서 제2 예측이 사용되었는지 여부를 판단할 수 있다.
현재 블록의 부호화에 대해서 제2 예측이 사용된 경우 단계(1420)가 수행될 수 있다.
현재 블록의 부호화에 대해서 제2 예측이 사용되지 않은 경우 단계(1430)가 수행될 수 있다, 제2 예측이 사용되지 않은 경우, 현재 블록의 복원된 제1 예측 오차는 복원된 잔차 신호일 수 있다.
단계(1420)에서, 복원된 블록 생성부는 복원된 잔차 신호 및 제2 예측 신호에 기반하여 복원된 제1 예측 오차를 생성할 수 있다.
복원된 블록 생성부는 현재 블록의 잔차 신호 및 현재 블록의 일부의 영역에 대한 제2 예측 신호에 기반하여 현재 블록의 복원된 제1 예측 오차를 생성할 수 있다.
복원된 제1 예측 오차는 복원된 잔차 신호 및 제2 예측 신호의 합일 수 있다. 또는, 복원된 제1 예측 오차는 복원된 잔차 신호 및 제2 예측 신호에 기반하여 생성될 수 있다.
단계(1430)에서, 복원된 블록 생성부는 복원된 제1 예측 오차 및 제1 예측 신호에 기반하여 복원된 블록을 생성할 수 있다.
복원된 블록 생성부는 현재 블록의 복원된 제1 예측 오차 및 현재 블록의 제1 예측 신호에 기반하여 복원된 블록의 신호를 생성할 수 있다.
말하자면, 제2 예측이 사용된 경우, 복원된 블록을 나타내는 신호는 복원된 잔차 신호, 제2 예측 신호 및 제1 예측 신호의 합일 수 있다. 또는, 제2 예측이 사용된 경우, 복원된 블록을 나타내는 신호는 복원된 잔차 신호, 제2 예측 신호 및 제1 예측 신호에 기반하여 생성될 수 있다.
말하자면, 제2 예측이 사용되지 않은 경우, 복원된 블록을 나타내는 신호는 복원된 잔차 신호 및 제1 예측 신호의 합일 수 있다. 또는, 제2 예측이 사용되지 않은 경우, 복원된 블록을 나타내는 신호는 복원된 잔차 신호 및 제1 예측 신호에 기반하여 생성될 수 있다.
복원된 블록의 신호는 복원된 제1 예측 오차 및 제1 예측 신호의 합일 수 있다. 또는, 복원된 제1 예측 오차는 복원된 잔차 신호 및 제2 예측 신호에 기반하여 생성될 수 있다.
도 15는 일 실시예에 따른 부호화 과정을 도시한다.
도 15에서, + 및 -가 붙은
Figure pat00002
기호는 2개의 신호들에 대한 오차 신호를 생성하는 것을 나타낼 수 있다. + 기호로 입력되는 입력 신호로부터 - 기호로 입력되는 입력 신호를 -으로써 오차 신호가 생성될 수 있다.
+ 및 +가 붙은
Figure pat00003
기호는 2개의 신호들을 합한 신호를 생성하는 것을 나타낼 수 있다. + 기호들로 각각 입력되는 입력 신호들을 더함으로써 2개의 신호들의 합인 신호가 생성될 수 있다.
도 11을 참조하여 전술된 예측부는 제1 예측기 및 제2 예측기를 포함할 수 있다.
점선 내의 과정은 SSIP를 나타낼 수 있다.
마름모는 조건에 따른 분기를 나타낼 수 있다.
"A = B"와 같은 수식에서, "A"는 값이 할당되는 대상을 나타낼 수 있고, "B"는 대상에 할당되는 값을 나타낼 수 있다.
TQ는 변환 및 양자화를 나타낼 수 있다. (TQ)-1은 역변환 및 역양자화를 나타낼 수 있다.
e1는 제1 예측 오차의 신호를 나타낼 수 있다.
Figure pat00004
는 복원된 제1 예측 오차의 신호를 나타낼 수 있다.
e2는 제2 예측 오차의 신호를 나타낼 수 있다.
Figure pat00005
는 복원된 제2 예측 오차의 신호를 나타낼 수 있다.
Figure pat00006
는 도 15에서 도시되지 않았으나, 제2 예측이 사용된 경우,
Figure pat00007
는
Figure pat00008
와 같을 수 있다. 제2 예측이 사용되지 않은 경우,
Figure pat00009
는
Figure pat00010
와 같을 수 있다.
e는 잔차 신호를 나타낼 수 있다.
Figure pat00011
는 복원된 잔차 신호를 나타낼 수 있다.
Figure pat00012
는 제1 예측 신호를 나타낼 수 있다.
Figure pat00013
는 제2 예측 신호를 나타낼 수 있다.
도 16은 일 실시예에 따른 복호화 장치의 구조도이다.
복호화 장치 (1600)는 복호화를 수행하는 범용의 컴퓨터 시스템일 수 있다.
도 16에서 도시된 바와 같이, 복호화 장치(1600)는 버스(1690)를 통하여 서로 통신하는 적어도 하나의 프로세서(1610), 메모리(1630), 사용자 인터페이스(User Interface; UI) 입력 디바이스(1650), UI 출력 디바이스(1660) 및 저장소(1640)를 포함할 수 있다. 또한, 복호화 장치(1600)는 네트워크(1699)에 연결되는 통신부(1620)를 더 포함할 수 있다. 프로세서(1610)는 중앙 처리 장치(Central Processing Unit; CPU), 메모리(1630) 또는 저장소(1640)에 저장된 프로세싱(processing) 명령어(instruction)들을 실행하는 반도체 장치일 수 있다. 메모리(1630) 및 저장소(1640)는 다양한 형태의 휘발성 또는 비휘발성 저장 매체일 수 있다. 예를 들면, 메모리는 롬(ROM)(1631) 및 램(RAM)(1632) 중 적어도 하나를 포함할 수 있다.
프로세서(1610)는 복호화 장치(200)의 엔트로피 복호화부(210), 역양자화부(220), 역변환부(230), 인트라 예측부(240), 인터 예측부(250), 가산기(255), 필터부(260) 및 참조 픽쳐 버퍼(270)를 포함할 수 있다.
기록 매체는 복호화 장치(1600)의 동작을 위한 적어도 하나의 모듈을 저장할 수 있다. 메모리(1630)는 적어도 하나의 모듈을 저장할 수 있고, 적어도 하나의 프로세서(1610)에 의하여 실행되도록 구성될 수 있다.
일 실시예에 따르면, 복호화 장치(1600)의 엔트로피 복호화부(210), 역양자화부(220), 역변환부(230), 인트라 예측부(240), 인터 예측부(250), 가산기(255), 필터부(260) 및 참조 픽쳐 버퍼(270)의 적어도 일부는 프로그램 모듈들일 수 있으며, 외부의 장치 또는 시스템과 통신할 수 있다. 프로그램 모듈들은 운영 체제, 응용 프로그램 모듈 및 기타 프로그램 모듈의 형태로 복호화 장치(1600)에 포함될 수 있다.
프로그램 모듈들은 물리적으로는 여러 가지 공지의 기억 장치 상에 저장될 수 있다. 또한, 이러한 프로그램 모듈 중 적어도 일부는 복호화 장치(1600)와 통신 가능한 원격 기억 장치 에 저장될 수도 있다.
프로그램 모듈들은 일 실시예에 따른 기능 또는 동작을 수행하거나, 일 실시예에 따른 추상 데이터 유형을 구현하는 루틴(routine), 서브루틴(subroutine), 프로그램, 오브젝트(object), 컴포넌트(component) 및 데이터 구조(data structure) 등을 포괄할 수 있지만, 이에 제한되지는 않는다.
프로그램 모듈들은 프로세서(1610)에 의해 수행되는 명령어(instruction) 또는 코드(code)로 구성될 수 있다.
복호화 장치(1600)의 데이터 또는 정보의 통신과 관련된 기능은 통신부(1620)를 통해 수행될 수 있다.
도 17은 일 실시예에 따른 복호화 방법의 흐름도이다.
실시예의 복호화 방법은 복호화 장치(200) 또는 복호화 장치(1600)에 의해 수행될 수 있다.
단계(1710)에서, 통신부(1620)는 부호화 장치(100) 또는 부호화 장치(1100)로부터 비트스트림을 수신할 수 있다.
비트스트림은 부호화된 잔차 신호에 대한 정보를 포함할 수 있고, 예측에 관련된 정보를 포함할 수 있다.
부호화된 잔차 신호에 대한 정보는 엔트로피 부호화된 양자화된 변환 계수를 포함할 수 있다.
예측에 관련된 정보는 엔트로피 복호화될 수 있다.
단계(1720)에서, 엔트로피 복호화부(210)는 비트스트림에 대한 엔트로피 복호화를 수행함으로써 양자화된 변환 계수를 생성할 수 있다. 또한, 엔트로피 복호화부(210)는 비트스트림에 대한 엔트로피 복호화를 수행함으로써 예측에 관련된 정보를 생성할 수 있다.
예를 들면, 예측에 관련된 정보는 현재 블록이 어떠한 방식에 의해 부호화되었는지를 나타내는 예측 방식 정보를 포함할 수 있다.
예를 들면, 예측 방식 정보는 현재 블록이 인트라 예측 및 인트라 예측 중 어떤 예측으로 부호화되었는지를 나타낼 수 있다. 또는, 예측 방식 정보는 현재 블록이 인트라 예측에 의해 부호화되었는지 여부를 나타낼 수 있다. 또는, 예측 방식 정보는 현재 블록이 인터 예측에 의해 부호화되었는지 여부를 나타낼 수 있다.
예를 들면, 예측에 관련된 정보는 인트라 예측의 예측 모드를 나타내는 인트라 예측 모드 정보를 포함할 수 있다.
예를 들면, 예측에 관련된 정보는 현재 블록의 부호화에 있어서 제2 예측의 사용 여부를 나타내는 제2 예측 사용 정보를 포함할 수 있다.
예를 들면 예측에 관련된 정보는 현재 블록의 종류를 나타내는 현재 블록 종류 정보, 제1 예측 블록의 종류를 나타내는 제1 예측 블록 종류 정보, 제2 예측 블록의 종류를 나타내는 제2 예측 블록 종류 정보, 제1 참조 블록의 종류를 나타내는 제1 참조 블록 종류 정보, 제2 참조 블록의 종류를 나타내는 제2 참조 블록 종류 정보, 제1 참조 샘플의 종류를 나타내는 제1 참조 샘플 종류 정보 및 제2 참조 샘플의 종류를 나타내는 제2 참조 샘플 종류 정보 등을 포함할 수 있다.
예를 들면, 예측에 관련된 정보는 제1 예측의 영역을 나타내는 제1 예측 영역 정보 및/또는 제2 예측의 영역을 나타내는 제2 예측 영역 정보를 포함할 수 있다.
또한, 예측에 관련된 정보는 실시예들에서 설명된 예측을 위해 사용된 정보를 포함할 수 있다. 예측에 관련된 정보들은 실시예에서 설명된 순서 또는 실시예에 따른 생성의 순서에 따라서 비트스트림에 포함될 수 있다.
단계(1730)에서, 복원된 잔차 신호 생성부는 양자화된 변환 계수에 기반하여 현재 블록에 대한 복원된 잔차 신호를 생성할 수 있다.
복원된 잔차 신호 생성부는 역양자화부(220) 및 역변환부(230)를 포함할 수 있다.
단계(1730)은 단계들(1731 및 1732)를 포함할 수 있다.
단계(1731)에서, 역양자화부(220)는 양자화된 변환 계수에 대한 역양자화를 수행함으로써 역양자화된 변환 계수를 생성할 수 있다.
단계(1732)에서, 변환부(230)는 역양자화된 변환 계수에 대한 역변환을 수행함으로써 복원된 잔차 신호를 생성할 수 있다.
단계들(1710, 1720 및 1730)을 통해 현재 블록에 대한 복원된 잔차 신호가 생성될 수 있다.
단계(1740)에서, 복원된 블록 생성부는 복원된 잔차 신호, 제2 예측 및 제1 예측에 기반하여 복원된 블록을 생성할 수 있다.
복원된 블록 생성부는 가산부(225), 인트라 예측부(240), 인터 예측부(250), 필터부(260) 및 참조 픽쳐 버퍼(270)를 포함할 수 있다.
복원된 잔차 신호는 복원된 잔차 블록일 수 있다.
예를 들면, 복원된 블록은 복원된 잔차 블록 및 예측 블록의 합일 수 있다. 또는, 복원된 블록은 복원된 잔차 블록 및 예측 블록의 합에 기반하여 생성될 수 있다.
예를 들면, 예측 블록은 제1 예측 블록 및 제2 예측 블록의 합일 수 있다. 또는, 예측 신호는 제1 예측 신호 및 제2 예측 신호의 합일 수 있다.
예를 들면, 복원된 블록은 복원된 잔차 블록, 제1 예측 블록 및 제2 예측 블록의 합일 수 있다. 복원된 신호는 복원된 잔차 신호, 제1 예측 신호 및 제2 예측 신호의 합일 수 있다. 또는, 복원된 블록은 복원된 잔차 블록, 제1 예측 블록 및 제2 예측 블록의 합에 대응할 수 있다.
제1 예측 블록은 제1 예측에 의해 생성된 블록 또는 제1 예측에 의해 생성된 예측 신호가 나타내는 블록일 수 있다. 제2 예측 블록은 제2 예측에 의해 생성된 블록 또는 제2 예측에 의해 생성된 예측 신호가 나타내는 블록일 수 있다.
제2 예측이 사용되지 않은 경우, 제2 예측 신호는 널(null) 신호일 수 있고, 제2 예측 블록은 널(null) 블록일 수 있다. 널 블록은 블록의 모든 픽셀들의 값들이 "0"인 블록일 수 있다.
예를 들면, 현재 블록의 부호화에 대해서 제2 예측이 사용된 경우 복원된 잔차 신호는 도 14를 참조하여 전술된 복원된 제2 예측 오차일 수 있다. 또는, 현재 블록의 부호화에 대해서 제2 예측이 사용된 경우 복원된 잔차 신호는 도 11을 참조하여 전술된 제2 예측 오차가 역양자화 및 역변환에 의해 복원된 신호일 수 있다.
예를 들면, 현재 블록의 부호화에 대해서 제2 예측이 사용되지 않은 복원된 잔차 신호는 도 14를 참조하여 전술된 복원된 제1 예측 오차일 수 있다. 또는, 현재 블록의 부호화에 대해서 제2 예측이 사용되지 않은 경우 복원된 잔차 신호는 도 11을 참조하여 전술된 제1 예측 오차가 역양자화 및 역변환에 의해 복원된 신호일 수 있다.
복원된 블록 생성부는 인터 예측 또는 인트라 예측을 수행함으로써 복원된 블록을 생성할 수 있다.
일 실시예에서, 제1 예측 및 제2 예측은 서로 상이한 종류의 예측들일 수 있다.
일 실시예에서, 제1 예측 및 제2 예측은 서로 동일한 종류의 예측들일 수 있다. 예를 들면, 제1 예측 및 제2 예측의 각각은 인트라 예측일 수 있다. 제1 예측이 인트라 예측이면, 제2 예측도 인트라 예측으로 설정될 수 있다.
일 실시예에서, 제1 예측의 예측 방향 및 제2 예측의 예측 방향은 동일할 수 있다. 제2 예측의 예측 방향은 제1 예측의 예측 방향과 동일하게 설정될 수 있다.
예를 들면, 일 실시예에서, 제1 예측 및 제2 예측의 각각은 인터 예측일 수 있다.
일 실시예에서, 제1 예측의 대상인 블록 및 제2 예측의 대상인 블록은 서로 상이할 수 있다. 여기에서, "예측의 대상인 블록"은 "예측"이 어떤 블록에 대한 예측 블록을 생성하는가를 의미할 수 있다.
예를 들면, 제1 예측의 대상인 블록의 종류 및 제2 예측의 대상인 블록의 종류는 서로 상이할 수 있다. 블록의 종류는 원본 블록, 루마(luma) 블록, 색차(chroma) 블록, 깊이(depth) 블록 및 잔차 블록 등일 수 있다.
예를 들면, 제1 예측의 대상인 블록은 복원된 블록일 수 있다. 제2 예측의 대상인 블록은 예측 오차 블록일 수 있다.
예측을 위해서는 참조 블록이 사용될 수 있다. 일 실시예에서, 제1 예측의 제1 참조 블록 및 제2 예측의 제2 참조 블록은 서로 상이할 수 있다. 참조 블록들은 종류 및/또는 위치의 측면에서 서로 상이할 수 있다.
일 실시예에서, 제1 예측의 제1 참조 블록의 위치 및 제2 예측의 제2 참조 블록의 위치는 서로 상이할 수 있다. 여기에서, 제1 참조 블록의 위치는 제1 예측의 대상인 블록에 대한 상대적인 위치일 수 있다. 제2 참조 블록의 위치는 제2 예측의 대상인 블록에 대한 상대적인 위치일 수 있다.
일 실시예에서, 제1 예측의 제1 참조 블록은 복수일 수 있다. 제2 예측의 제2 참조 블록은 복수일 수 있다. 제1 예측의 복수의 제1 참조 블록들 및 제2 예측의 복수의 제2 참조 블록들 중 적어도 일부는 서로 상이할 수 있다.
제1 예측의 복수의 제1 참조 블록들 및 제2 예측의 복수의 제2 참조 블록들 중 적어도 하나의 블록의 위치는 복수의 제1 참조 블록들의 위치들 및 복수의 제2 참조 블록들의 위치들 중 하나에만 포함될 수 있다.
일 실시예에서, 제1 예측의 제1 참조 블록의 종류 및 제2 예측의 제2 참조 블록의 종류는 서로 상이할 수 있다. 블록의 종류는 복원된 블록, 복원된 루마(luma) 블록, 복원된 색차(chroma) 블록, 복원된 깊이(depth) 블록, 복원된 제1 잔차 블록 및 복원된 제2 잔차 블록 등일 수 있다.
예를 들면, 제1 예측의 제1 참조 블록은 복원된 블록일 수 있다. 제2 예측의 제2 참조 블록은 복원된 제1 잔차 블록일 수 있다. 제1 예측의 제1 참조 샘플은 복원된 블록의 픽셀일 수 있다. 제2 예측의 제2 참조 샘플은 복원된 제1 잔차 블록의 픽셀일 수 있다.
예를 들면, 제1 예측의 제1 참조 블록은 현재 블록에 이웃한 복원된 이웃 블록일 수 있다. 제2 예측의 제2 참조 블록은 현재 블록에 이웃한 복원된 제1 잔차 블록일 수 있다.
현재 블록에 이웃한 복원된 이웃 잔차 블록은 복원된 이웃 블록의 복원된 잔차 블록에 복원된 이웃 블록의 제2 예측 블록을 더한 것일 수 있다. 또는, 현재 블록에 이웃한 복원된 이웃 잔차 블록은 복원된 이웃 블록 및 복원된 이웃 블록의 제1 예측 블록 간의 차분일 수 있다.
예를 들면, 제1 예측의 대상이 현재 블록인 경우, 현재 블록에 대한 예측을 위해 참조 블록으로서 현재 블록의 주변의 복원된 블록이 사용될 수 있다. 제2 예측의 대상이 제1 잔차 블록인 경우, 제1 잔차 블록에 대한 예측을 위해 제2 참조 블록으로서 현재 블록 또는 제1 잔차 블록의 주변의 복원된 제1 잔차 블록이 사용될 수 있다.
일 실시예에서, 제1 예측의 영역 및 제2 예측의 영역은 서로 상이할 수 있다. 여기에서, "예측의 영역"은 예측의 대상인 블록 중 예측 값이 생성되는 영역을 나타낼 수 있다. 또는, "예측의 영역"은 예측의 대상인 블록에 대응하는 예측 블록 중 예측에 의해 생성된 예측 값이 할당되는 영역을 나타낼 수 있다.
예를 들면, 제1 예측은 현재 블록의 영역에 대한 예측일 수 있다. 제2 예측은 상기의 영역의 일부에 대한 예측일 수 있다. 현재 블록의 영역 중 적어도 일부는 제2 예측에서 제외될 수 있다. 제1 예측의 대상인 블록은 사각형의 영역 내의 블록일 수 있다. 제2 예측은 상기의 사각형의 영역 중 일부에 대해 이루어질 수 있다. 상기의 사각형의 영역 중 적어도 일부는 제2 예측의 대상이 아닐 수 있다.
제1 예측의 대상인 블록의 영역 및 제2 예측의 대상인 블록의 영역이 동일하다고 보는 경우, 제1 예측의 영역은 제1 예측의 대상인 블록의 전체일 수 있다. 제2 예측의 영역은 제2 예측의 대상인 블록의 일부일 수 있다. 또는, 제2 예측은 제2 예측의 대상인 블록의 적어도 일부에 대해서는 제외될 수 있다. 말하자면, 제1 예측은 제1 예측의 대상인 블록의 전체에 대해 수행될 수 있다. 제2 예측은 제2 예측의 대상인 블록의 선택된 일부에 대해 수행될 수 있다.
예를 들면, 제1 예측의 대상인 블록 중 제1 예측의 영역 내의 픽셀에 대해서만 제1 예측에 의해 결정된 예측 값들이 할당될 수 있다. 제1 예측의 대상인 블록 중 제1 예측의 영역 외의 픽셀에는 제1 예측에 의한 예측 값이 할당되지 않을 수 있다. 또는, 제1 예측의 대상인 블록 중 제1 예측의 영역 외의 픽셀에는 기정의된 값이 할당될 수 있다. 예를 들면, 기정의된 값은 "0"일 수 있다.
예를 들면, 제2 예측의 대상인 블록 중 제2 예측의 영역 내의 픽셀에 대해서만 제2 예측에 의해 결정된 예측 값들이 할당될 수 있다. 제2 예측의 대상인 블록 중 제2 예측의 영역 외의 픽셀에는 제2 예측에 의한 예측 값이 할당되지 않을 수 있다. 또는, 제2 예측의 대상인 블록 중 제2 예측의 영역 외의 픽셀에는 기정의된 값이 할당될 수 있다. 예를 들면, 기정의된 값은 "0"일 수 있다.
예를 들면, 제1 예측의 대상인 블록의 크기가 NxN일 때, NxN개의 픽셀들의 각각에게 제1 예측에 의해 결정된 예측 값이 할당될 수 있다. 말하자면, 제1 예측의 대상인 블록의 전체의 픽셀들에게 제1 예측에 의해 결정된 예측 값이 할당될 수 있다.
예를 들면, 제2 예측의 대상인 블록의 크기가 NxN일 때, NxN개의 픽셀들 중 하나 이상의 픽셀에게는 제1 예측에 의해 결정된 예측 값이 할당되지 않을 수 있다. 또는, 제2 예측의 대상인 블록의 크기가 NxN일 때, NxN개의 픽셀들 중 하나 이상의 픽셀에게는 기정의된 값이 할당될 수 있다. 예를 들면, 기정의된 값은 "0"일 수 있다.
일 실시예에서, 제1 예측의 영역은 제1 예측의 종류에 기반하여 결정될 수 있다. 예를 들면, 제1 예측의 영역은 제1 예측이 인터 예측인지 여부에 기반하여 결정될 수 있다. 또는, 제1 예측의 영역은 제1 예측이 인트라 예측인지 여부에 기반하여 결정될 수 있다. 또는, 제1 예측의 영역은 제1 예측의 예측 방향에 기반하여 결정될 수 있다.
일 실시예에서, 제2 예측의 영역은 제2 예측의 종류에 기반하여 결정될 수 있다. 예를 들면, 제2 예측의 영역은 제2 예측이 인터 예측인지 여부에 기반하여 결정될 수 있다. 또는, 제2 예측의 영역은 제2 예측이 인트라 예측인지 여부에 기반하여 결정될 수 있다. 또는, 제2 예측의 영역은 제2 예측의 예측 방향에 기반하여 결정될 수 있다.
일 실시예에서, 제2 예측은 선택적인 범위 내의 제2 참조 샘플을 사용하여 수행될 수 있다.
일 실시예에서, 제1 예측을 위해 사용되는 제1 참조 샘플의 영역 및 제2 예측을 위해 사용되는 제2 참조 샘플의 영역은 서로 상이할 수 있다.
전술된 것과 같이, 제1 예측의 영역 및 제2 예측의 영역은 서로 상이할 수 있다. 제1 참조 샘플의 영역은 제1 예측을 통해 제1 예측의 영역에 대한 예측 값들을 생성하기 위해 요구되는 참조 샘플들의 영역일 수 있다. 제2 참조 샘플의 영역은 제2 예측을 통해 제2 예측의 영역에 대한 예측 값들을 생성하기 위해 요구되는 참조 샘플들의 영역일 수 있다.
전술된 것과 같이, 제1 예측의 영역은 제1 예측의 대상인 블록의 전체일 수 있다. 제2 예측의 영역은 제2 예측의 대상인 블록의 일부일 수 있다. 이러한 경우, 제2 참조 샘플의 영역은 제1 참조 샘플의 영역의 일부일 수 있다.
도 18은 일 실시예에 따른 복원된 블록의 생성 방법의 흐름도이다.
도 17을 참조하여 전술된 단계(1740)는 아래의 단계들(1810, 1820, 1830, 1840 및 1850)을 포함할 수 있다.
제2 예측은 기정의된 조건에 기반하여 선택적으로 수행될 수 있다.
단계(1810)에서, 복원된 블록 생성부는 복원된 블록의 생성에 대해서 제2 예측을 사용할 것인지 여부를 판단할 수 있다.
복원된 블록 생성부는 기정의된 조건에 기반하여 복원된 블록의 생성에 대해서 제2 예측을 사용할 것인지 여부를 판단할 수 있다.
일 실시예에서, 복원된 블록 생성부는 제1 예측의 예측 모드에 기반하여 제2 예측을 사용할지 여부를 결정할 수 있다.
예를 들면, 복원된 블록 생성부는 비트스트림으로부터 인트라 예측의 예측 모드를 나타내는 인트라 예측 모드 정보를 획득할 수 있다. 복원된 블록 생성부는 제1 예측의 예측 모드가 비방향성 모드이면 제2 예측을 사용하지 않을 수 있다.
일 실시예에서, 복원된 블록 생성부는 현재 블록의 위치에 기반하여 제2 예측을 사용할지 여부를 결정할 수 있다.
예를 들면, 복원된 블록 생성부는 현재 블록이 경계에 인접하면 제2 예측을 사용하지 않을 수 있다. 예를 들면, 예측부는 현재 블록이 상단의 경계 및 좌측의 경계에 인접하면 제2 예측을 사용하지 않을 수 있다. 경계는 픽쳐의 경계, 슬라이스의 경계 또는 타일의 경계일 수 있다.
일 실시예에서, 복원된 블록 생성부는 현재 블록에 인접한 복원된 블록의 개수에 기반하여 제2 예측을 사용할지 여부를 결정할 수 있다. 복원된 블록은 PU일 수 있다.
예를 들면, 복원된 블록 생성부는 현재 블록에 인접한 복원된 블록의 개수가 2개 이하이면 제2 예측을 사용하지 않을 수 있다.
일 실시예에서, 예측 모드, 현재 블록의 위치 및/또는 인접한 복원된 블록의 개수 등에 의해 제2 예측을 사용할 것인지에 대한 판단이 이루어진 다음으로, 복원된 블록 생성부는 현재 블록의 부호화에 대해서 제2 예측이 사용되었는지 여부에 기반하여 제2 예측을 사용할지 여부를 결정할 수 있다.
예를 들면, 복원된 블록 생성부는 비트스트림으로부터 제2 예측 사용 정보를 획득할 수 있다. 복원된 블록 생성부는 제2 예측 사용 정보가 제2 예측을 사용한다는 것을 나타내는 경우 제2 예측을 사용할 수 있다. 복원된 블록 생성부는 제2 예측 사용 정보가 제2 예측을 사용하지 않는다는 것을 나타낼 경우 제2 예측을 사용하지 않을 수 있다.
현재 블록의 부호화에 대해서 제2 예측을 사용할 경우 단계(1820)가 수행될 수 있다.
현재 블록의 부호화에 대해서 제2 예측이 사용하지 않을 경우 단계(1840)가 수행될 수 있다, 제2 예측이 사용되지 않은 경우, 현재 블록의 복원된 제1 예측 오차는 복원된 잔차 신호일 수 있다.
단계(1820)에서, 복원된 블록 생성부는 제2 예측을 수행하여 제2 예측 신호를 생성할 수 있다.
제2 예측은 도 11 및 도 13을 참조하여 전술된 현재 블록의 부호화에서의 제2 예측에 대응할 수 있다. 예를 들면, 제2 예측 신호는 도 11 및 도 13을 참조하여 전술된 현재 블록의 부호화에서의 제2 예측에 대응할 수 있다.
제2 예측 신호는 제2 예측 블록을 나타낼 수 있다.
제2 예측은 인트라 예측일 수 있고, 제2 예측의 예측 방향은 제1 예측의 예측 방향과 동일할 수 있다.
제2 예측의 참조 블록은 복원된 잔차 블록일 수 있다. 예를 들면, 복원된 블록 생성부는 현재 블록에 이웃한 블록의 복원된 잔차 블록을 참조 블록으로서 사용하는 제2 예측을 수행하여 제2 예측 신호를 생성할 수 있다.
일 실시예에서, 전술된 것과 같이 제2 예측의 영역은 현재 블록의 영역의 일부일 수 있다. 복원된 블록 생성부는 비트스트림으로부터 제2 예측의 예측 영역을 나타내는 제2 예측 영역 정보를 획득할 수 있다. 복원된 블록 생성부는 제2 예측 영역에 대한 제2 예측을 수행할 수 있다.
일 실시예에서, 제2 예측이 적용될 영역은 제2 예측에 사용되는 참조 샘플들의 범위에 기반하여 특정될 수 있다. 제2 예측이 적용될 영역은 제2 예측의 예측 방향에 기반하여 특정될 수 있다. 예를 들면, 제2 예측이 적용될 영역은 제2 예측에 사용되는 참조 샘플들의 범위 및 제2 예측의 예측 방향에 의해 특정될 수 있다.
일 실시예에서, 복원된 블록 생성부는 예측 방향에 대한 전체의 참조 샘플들 중 선택된 범위의 참조 샘플들을 사용하여 제2 예측을 수행할 수 있다. 제2 예측에 있어서, 선택된 범위 바깥의 참조 샘플의 값은 "0"으로 간주될 수 있다.
일 실시예에서, 복원된 블록 생성부는 비트스트림으로부터 제2 예측에 사용될 첫 번째의 참조 샘플을 가리키는 정보 α 및 제2 예측에 사용될 참조 샘플의 개수를 가리키는 정보 β를 획득할 수 있다. 제2 예측에 사용되는 참조 샘플들의 범위는 α 및 β에 의해 특정될 수 있다.
일 실시예에서, 참조 샘플들의 범위는 제2 예측에 사용될 첫 번째의 참조 샘플을 가리키는 정보 α 및 상기 제2 예측에 사용될 참조 샘플의 개수를 가리키는 정보 β에 의해 특정될 수 있다. 제2 예측의 영역은 α 및 α+β의 사이의 범위의 참조 샘플들이 예측 방향으로 진행함에 따라 생성된 영역일 수 있다.
제2 예측에 있어서, 선택된 범위의 바깥의 참조 샘플의 값은 널(NULL) 또는 "0"으로 간주될 수 있다. 예를 들면, α의 이전의 참조 샘플의 값은 0으로 간주될 수 있고, α+β의 이후의 참조 샘플의 값은 0으로 간주될 수 있다.
단계(1830)에서, 복원된 블록 생성부는 복원된 잔차 신호 및 제2 예측 신호에 기반하여 복원된 제1 예측 오차를 생성할 수 있다. 복원된 블록 생성부는 복원된 잔차 신호에 제2 예측 신호를 더함으로써 복원된 제1 예측 오차를 생성할 수 있다.
복원된 블록 생성부는 복원된 잔차 신호 및 일부의 영역에 대한 제2 예측 신호에 기반하여 현재 블록의 복원된 제1 예측 오차를 생성할 수 있다.
복원된 제1 예측 오차는 복원된 잔차 신호 및 제2 예측 신호의 합일 수 있다. 또는, 복원된 제1 예측 오차는 복원된 잔차 신호 및 제2 예측 신호에 기반하여 생성될 수 있다. 또는, 복원된 제1 예측 오차는 복원된 잔차 신호 및 제2 예측 신호의 합에 기반하여 생성될 수 있다.
단계(1840)에서, 복원된 블록 생성부는 현재 블록에 대한 제1 예측을 수행하여 제1 예측 신호를 생성할 수 있다.
제1 예측 신호는 제1 예측 블록을 나타낼 수 있다.
제1 예측에 있어서, 현재 블록의 주변의 복원된 블록들이 참조 블록들로서 사용될 수 있다. 또한, 현재 블록의 주변의 복원된 블록들의 픽셀들이 참조 샘플들로서 사용될 수 있다.
단계(1850)에서, 복원된 블록 생성부는 복원된 제1 예측 오차 및 제1 예측 신호에 기반하여 복원된 블록의 신호를 생성할 수 있다. 복원된 블록 생성부는 복원된 제1 예측 오차에 제1 예측 신호를 더함으로써 복원된 블록의 신호를 생성할 수 있다.
전술된 단계들(1810, 1820, 1830, 1840 및 1850)에 따르면, 제2 예측이 사용된 경우, 복원된 블록은 복원된 잔차 신호, 제2 예측 신호 및 제1 예측 신호의 합일 수 있다. 또는, 제2 예측이 사용된 경우, 복원된 블록을 나타내는 신호는 복원된 잔차 신호, 제2 예측 신호 및 제1 예측 신호에 기반하여 생성될 수 있다.
전술된 단계들(1810, 1820, 1830, 1840 및 1850)에 따르면, 제2 예측이 사용되지 않은 경우, 복원된 블록을 나타내는 신호는 복원된 잔차 신호 및 제1 예측 신호의 합일 수 있다. 또는, 제2 예측이 사용되지 않은 경우, 복원된 블록을 나타내는 신호는 복원된 잔차 신호 및 제1 예측 신호의 합에 기반하여 생성될 수 있다.
복원된 블록 및 복원된 제1 잔차 신호는 다른 블록의 복호화를 위한 참조 블록으로서 사용될 수 있다.
도 19는 일 실시예에 따른 복호화 과정을 도시한다.
도 19에서, + 및 +가 붙은
Figure pat00014
기호는 2개의 신호들을 합한 신호를 생성하는 것을 나타낼 수 있다. + 기호들로 각각 입력되는 입력 신호들을 더함으로써 2개의 신호들의 합인 신호가 생성될 수 있다.
도 19을 참조하여 전술된 복원된 블록 생성부는 제1 예측기 및 제2 예측기를 포함할 수 있다.
점선 내의 과정은 SSIP를 나타낼 수 있다.
마름모는 조건에 따른 분기를 나타낼 수 있다.
(TQ)-1은 역변환 및 역양자화를 나타낼 수 있다.
Figure pat00015
는 예측 오차일 수 있다. 또는,
Figure pat00016
는 복원된 잔차 신호일 수 있다.
Figure pat00017
는 복원된 제1 예측 오차의 신호를 나타낼 수 있다.
Figure pat00018
는 복원된 제2 예측 오차의 신호를 나타낼 수 있다. 제2 예측이 사용된 경우,
Figure pat00019
는
Figure pat00020
와 같을 수 있다. 또는, 제2 예측이 사용된 경우,
Figure pat00021
는
Figure pat00022
가 될 수 있다. 제2 예측이 사용되지 않은 경우,
Figure pat00023
는
Figure pat00024
와 같을 수 있다. 또는, 제2 예측이 사용되지 않은 경우,
Figure pat00025
는
Figure pat00026
가 될 수 있다.
Figure pat00027
는 제1 예측 신호를 나타낼 수 있다.
Figure pat00028
는 제2 예측 신호를 나타낼 수 있다.
전술된 실시예에 따르면, 제2 예측이 사용되는 경우, 제1 예측이 적용되는 선택된 부분 및 제2 예측이 적용되는 나머지의 부분이 분리될 수 있다.
일 실시예에서, 제2 예측이 사용되는 경우, 제1 예측은 현재 블록의 전체에 적용될 수 있다. 이러한 경우, 제2 예측이 적용되는 선택된 부분에 대한 복원된 블록은 복원된 잔차 블록, 제2 예측에 의해 생성된 제2 예측 신호 및 제1 예측에 의해 생성된 제1 예측 신호의 합에 기반하여 생성될 수 있다. 또한, 제2 예측이 적용되지 않는 나머지의 부분에 대한 복원된 블록은 복원된 잔차 블록 및 제1 예측에 의해 생성된 제1 예측 신호의 합에 기반하여 생성될 수 있다.
이러한 경우, 제2 예측은 잔차에 대한 예측일 수 있다. 제2 예측은 현재 블록 및 제1 예측 신호 간의 차이인 제1 잔차 신호에 대한 예측일 수 있다. 제2 예측의 참조 블록은 복원된 잔차 블록일 수 있고, 제2 예측의 참조 픽셀은 복원된 잔차 블록의 픽셀일 수 있다. 말하자면, 제1 잔차 신호에 대한 제2 예측을 통해 제1 잔차 신호 및 제2 예측 신호 간의 차이인 제2 잔차 신호가 생성될 수 있고, 제2 잔차 신호를 사용하여 현재 블록의 부호화된 정보가 생성될 수 있다.
또는, 이러한 경우, 제2 예측이 적용되는 선택된 부분에 대한 복원된 블록은 복원된 잔차 블록, 제2 예측 신호 및 제1 예측 신호의 가중치가 부여된 합(weighted-sum)일 수 있다. 예측에 관련된 정보는 복원된 잔차 블록의 제1 가중치, 제2 예측 신호의 제2 가중치 및 제1 예측 신호의 제3 가중치를 포함할 수 있다. 제2 예측이 사용되지 않는 것은 제2 예측 신호의 제2 가중치가 0으로 설정된 것으로 간주될 수 있다. 또는, 제2 예측이 적용되지 않는 나머지의 부분에 대해서는 제2 예측 신호의 제2 가중치가 0으로 설정된 것으로 간주될 수 있다.
전술된 현재 블록의 부호화에 대한 설명은 현재 블록의 복호화에도 적용될 수 있다. 중복되는 설명은 생략된다. 또한, 전술된 현재 블록의 복호화에 대한 설명은 현재 블록의 부호화에도 적용될 수 있다. 중복되는 설명은 생략된다.
상술한 실시예들에서, 방법들은 일련의 단계 또는 유닛으로서 순서도를 기초로 설명되고 있으나, 본 발명은 단계들의 순서에 한정되는 것은 아니며, 어떤 단계는 상술한 바와 다른 단계와 다른 순서로 또는 동시에 발생할 수 있다. 또한, 당해 기술 분야에서 통상의 지식을 가진 자라면 순서도에 나타난 단계들이 배타적이지 않고, 다른 단계가 포함되거나, 순서도의 하나 또는 그 이상의 단계가 본 발명의 범위에 영향을 미치지 않고 삭제될 수 있음을 이해할 수 있을 것이다.
이상 설명된 본 발명에 따른 실시예들은 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명이 상기 실시예들에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형을 꾀할 수 있다.
따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등하게 또는 등가적으로 변형된 모든 것들은 본 발명의 사상의 범주에 속한다고 할 것이다.

Claims (20)

  1. 현재 블록, 제1 예측 및 제2 예측에 기반하여 현재 블록의 잔차 신호를 생성하는 단계; 및
    상기 잔차 신호에 대한 부호화를 수행함으로써 부호화된 잔차 신호에 대한 정보를 생성하는 단계
    를 포함하고,
    상기 제2 예측은 상기 제1 예측의 예측 오차에 대한 예측인, 부호화 방법.
  2. 현재 블록에 대한 복원된 잔차 신호를 생성하는 복원된 잔차 신호 생성부; 및
    상기 복원된 잔차 신호, 제2 예측 및 제1 예측에 기반하여 현재 블록에 대한 복원된 블록을 생성하는 복원된 블록 생성부
    를 포함하는, 복호화 방법.
  3. 현재 블록에 대한 복원된 잔차 신호를 생성하는 단계; 및
    상기 복원된 잔차 신호, 제2 예측 및 제1 예측에 기반하여 현재 블록에 대한 복원된 블록을 생성하는 단계
    를 포함하는, 복호화 방법.
  4. 제3항에 있어서,
    상기 복원된 블록은 상기 복원된 잔차 신호, 상기 제1 예측에 의해 생성된 제1 예측 신호 및 상기 제2 예측에 의해 생성된 제2 예측 신호의 합에 대응하는, 복호화 방법.
  5. 제3항에 있어서,
    상기 제1 예측 및 상기 제2 예측은 인트라 예측인, 복호화 방법.
  6. 제2항에 있어서,
    상기 제2 예측의 예측 방향은 상기 제1 예측 방향과 동일한, 복호화 방법.
  7. 제3항에 있어서,
    제1 예측의 복수의 제1 참조 블록들 및 제2 예측의 복수의 제2 참조 블록들 중 적어도 일부는 서로 상이한, 복호화 방법.
  8. 제3항에 있어서,
    제1 예측의 제1 참조 블록의 종류 및 제2 예측의 제2 참조 블록의 종류는 서로 상이한, 복호화 방법.
  9. 제3항에 있어서,
    제1 예측의 제1 참조 블록은 현재 블록에 이웃한 복원된 이웃 블록이고,
    제2 예측의 제2 참조 블록은 현재 블록에 이웃한 복원된 이웃 잔차 블록이고,
    상기 복원된 이웃 잔차 블록은 상기 복원된 이웃 블록 및 상기 복원된 이웃 블록의 제1 예측 블록 간의 차분인, 복호화 방법.
  10. 제3항에 있어서,
    상기 제2 예측의 참조 샘플의 영역은 상기 제1 예측의 참조 샘플의 영역의 일부인, 복호화 방법.
  11. 제3항에 있어서,
    상기 제2 예측이 적용될 영역은 상기 제2 예측에 사용되는 참조 샘플들의 범위에 기반하여 특정되는, 복호화 방법.
  12. 제3항에 있어서,
    상기 제2 예측이 적용될 영역은 상기 제2 예측의 예측 방향에 기반하여 특정되는, 복호화 방법.
  13. 제11항에 있어서,
    상기 참조 샘플들의 범위는 상기 제2 예측에 사용될 첫 번째의 참조 샘플을 가리키는 정보 및 상기 제2 예측에 사용될 참조 샘플의 개수를 가리키는 정보에 의해 특정되는, 복호화 방법.
  14. 제11항에 있어서,
    상기 제2 예측이 적용될 영역은 상기 범위의 참조 샘플들이 제2 예측의 예측 방향으로 진행함에 따라 생성된 영역인, 복호화 방법.
  15. 제11항에 있어서,
    상기 범위의 바깥의 참조 샘플의 값은 널 또는 0으로 간주되는, 복호화 방법.
  16. 제3항에 있어서,
    상기 현재 블록의 부호화에 있어서 상기 제2 예측의 사용 여부를 나타내는 제2 예측 사용 정보가 상기 제2 예측을 사용하지 않는다는 것을 나타내는 경우 상기 제2 예측은 사용되지 않는, 복호화 방법.
  17. 제3항에 있어서,
    상기 제1 예측의 예측 모드가 비방향성 모드이면 상기 제2 예측은 사용되지 않는, 복호화 방법.
  18. 제3항에 있어서,
    상기 현재 블록이 상단의 경계 및 좌측의 경계에 인접하면 상기 제2 예측은 사용되지 않고,
    상기 경계는 픽쳐의 경계, 슬라이스의 경계 또는 타일의 경계인, 복호화 방법.
  19. 제3항에 있어서,
    상기 제2 예측이 사용될지 여부는 상기 현재 블록에 인접한 복원된 블록의 개수에 기반하여 결정되는, 복호화 방법.
  20. 제3항에 있어서,
    상기 제2 예측이 사용되지 않은 경우 상기 복원된 블록은 상기 복원된 잔차 신호 및 상기 제1 예측에 의한 제1 예측 신호에 기반하여 생성되는, 복호화 방법.
KR1020170012160A 2016-01-27 2017-01-25 예측을 사용하는 비디오의 부호화 및 복호화를 위한 방법 및 장치 KR20170089777A (ko)

Priority Applications (9)

Application Number Priority Date Filing Date Title
PCT/KR2017/000965 WO2017131473A1 (ko) 2016-01-27 2017-01-26 예측을 사용하는 비디오의 부호화 및 복호화를 위한 방법 및 장치
CN202211613690.9A CN115733978A (zh) 2016-01-27 2017-01-26 通过使用预测对视频进行编码和解码的方法和装置
CN202211613450.9A CN116016911A (zh) 2016-01-27 2017-01-26 通过使用预测对视频进行编码和解码的方法和装置
CN202211613703.2A CN115941948A (zh) 2016-01-27 2017-01-26 通过使用预测对视频进行编码和解码的方法和装置
CN202211615144.9A CN116016912A (zh) 2016-01-27 2017-01-26 通过使用预测对视频进行编码和解码的方法和装置
CN202211613836.XA CN115733979A (zh) 2016-01-27 2017-01-26 通过使用预测对视频进行编码和解码的方法和装置
CN201780009090.2A CN108605123B (zh) 2016-01-27 2017-01-26 通过使用预测对视频进行编码和解码的方法和装置
CN202211613933.9A CN115941949A (zh) 2016-01-27 2017-01-26 通过使用预测对视频进行编码和解码的方法和装置
CN202211613078.1A CN115733977A (zh) 2016-01-27 2017-01-26 通过使用预测对视频进行编码和解码的方法和装置

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020160010260 2016-01-27
KR20160010260 2016-01-27

Publications (1)

Publication Number Publication Date
KR20170089777A true KR20170089777A (ko) 2017-08-04

Family

ID=59654366

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170012160A KR20170089777A (ko) 2016-01-27 2017-01-25 예측을 사용하는 비디오의 부호화 및 복호화를 위한 방법 및 장치

Country Status (2)

Country Link
KR (1) KR20170089777A (ko)
CN (1) CN108605123B (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019245261A1 (ko) * 2018-06-18 2019-12-26 세종대학교 산학협력단 영상 부호화/복호화 방법 및 장치
CN111386707A (zh) * 2017-11-22 2020-07-07 韩国电子通信研究院 图像编码/解码方法和设备以及用于存储比特流的记录介质

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113709477B (zh) * 2020-06-05 2022-12-23 杭州海康威视数字技术股份有限公司 编码方法、解码方法、装置及机器可读存储介质

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101246915B1 (ko) * 2005-04-18 2013-03-25 삼성전자주식회사 동영상 부호화 또는 복호화 방법 및 장치
KR101403338B1 (ko) * 2007-03-23 2014-06-09 삼성전자주식회사 영상의 부호화, 복호화 방법 및 장치
JP5421757B2 (ja) * 2009-12-11 2014-02-19 株式会社Ｋｄｄｉ研究所 画像符号化装置
JP5594841B2 (ja) * 2011-01-06 2014-09-24 Ｋｄｄｉ株式会社 画像符号化装置及び画像復号装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111386707A (zh) * 2017-11-22 2020-07-07 韩国电子通信研究院 图像编码/解码方法和设备以及用于存储比特流的记录介质
US11909961B2 (en) 2017-11-22 2024-02-20 Intellectual Discovery Co., Ltd. Image encoding/decoding method and apparatus, and recording medium for storing bitstream that involves performing intra prediction using constructed reference sample
CN111386707B (zh) * 2017-11-22 2024-05-17 英迪股份有限公司 图像编码/解码方法和设备以及用于存储比特流的记录介质
WO2019245261A1 (ko) * 2018-06-18 2019-12-26 세종대학교 산학협력단 영상 부호화/복호화 방법 및 장치
US11792426B2 (en) 2018-06-18 2023-10-17 Industry Academy Cooperation Foundation Of Sejong University Method and apparatus for encoding/decoding image using a prediction value based on reference pixels

Also Published As

Publication number Publication date
CN108605123B (zh) 2023-01-03
CN108605123A (zh) 2018-09-28

Similar Documents

Publication Publication Date Title
KR102668840B1 (ko) 인터 예측 정보를 사용하는 방법 및 장치
KR20240027646A (ko) 움직임 예측 정보를 유도하는 방법 및 장치
KR102504643B1 (ko) 블록 형태에 기반한 예측 방법 및 장치
KR102675048B1 (ko) 예측 네트워크를 사용하는 영상의 부호화 및 복호화를 위한 방법 및 장치
KR20220080062A (ko) 채널들 간의 선택적인 정보 공유를 사용하는 부호화 및 복호화를 위한 방법 및 장치
KR102664440B1 (ko) 양방향 인트라 예측 방법 및 장치
KR20180107761A (ko) 참조 블록을 사용하는 예측 방법 및 장치
KR20240066144A (ko) 채널들 간의 선택적인 정보 공유를 사용하는 부호화 및 복호화를 위한 방법 및 장치
KR20170113384A (ko) 픽쳐 분할 정보를 사용하는 비디오의 부호화 및 복호화를 위한 방법 및 장치
KR20170058838A (ko) 화면간 예측 향상을 위한 부호화/복호화 방법 및 장치
KR20220082791A (ko) 움직임 예측 정보를 유도하는 방법 및 장치
KR20220136316A (ko) 참조 블록을 사용하는 예측 방법 및 장치
KR102549488B1 (ko) 인터 예측 정보를 사용하는 방법 및 장치
KR102402539B1 (ko) 양방향 인트라 예측 방법 및 장치
KR102448084B1 (ko) 잔차 신호에 대한 예측 방법 및 장치
KR20230035288A (ko) 팔레트 모드를 사용하는 영상 부호화/복호화를 위한 방법, 장치 및 기록 매체
KR20170089777A (ko) 예측을 사용하는 비디오의 부호화 및 복호화를 위한 방법 및 장치
KR20210154760A (ko) 영상 부호화/복호화를 위한 방법, 장치 및 기록 매체
KR20170089778A (ko) 예측을 사용하는 비디오의 부호화 및 복호화를 위한 방법 및 장치
KR102472462B1 (ko) 영상 복잡도에 기반한 적응적 부호화 및 복호화를 위한 방법 및 장치
KR20230146483A (ko) 영상 부호화/복호화를 위한 방법, 장치 및 기록 매체
KR20240051878A (ko) 영상 부호화/복호화를 위한 방법, 장치 및 기록 매체
KR20230168165A (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장하는 기록 매체
KR20240028957A (ko) 영상 부호화/복호화를 위한 방법, 장치 및 기록 매체
KR20230046269A (ko) 영상 부호화/복호화를 위한 방법, 장치 및 기록 매체

Legal Events

Date Code Title Description
A201 Request for examination