KR20180014675A - 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체 - Google Patents

Abstract

화면 내 예측을 수행하는 영상 부호화/복호화 방법 및 장치가 제공된다. 본 발명의 영상 복호화 방법은 현재 블록에 대한 화면 내 예측 모드를 유도하는 단계, 상기 현재 블록에 인접한 적어도 하나의 복원 샘플 라인을 선택하는 단계, 상기 적어도 하나의 복원 샘플 라인에 포함된 적어도 하나의 복원 샘플을 이용하여 참조 샘플을 구성하는 단계, 및 상기 화면 내 예측 모드 및 상기 참조 샘플에 기초하여 상기 현재 블록에 대한 화면 내 예측을 수행하는 단계를 포함한다.

Description

영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체{METHOD AND APPARATUS FOR ENCODING/DECODING IMAGE AND RECORDING MEDIUM FOR STORING BITSTREAM}

본 발명은 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체에 관한 것이다. 구체적으로, 본 발명은 화면 내 예측을 이용한 영상 부호화/복호화 방법, 장치 및 본 발명의 영상 부호화 방법 또는 장치에 의해 생성된 비트스트림을 저장한 기록 매체에 관한 것이다.

최근 HD(High Definition) 영상 및 UHD(Ultra High Definition) 영상과 같은 고해상도, 고품질의 영상에 대한 수요가 다양한 응용 분야에서 증가하고 있다. 영상 데이터가 고해상도, 고품질이 될수록 기존의 영상 데이터에 비해 상대적으로 데이터량이 증가하기 때문에 기존의 유무선 광대역 회선과 같은 매체를 이용하여 영상 데이터를 전송하거나 기존의 저장 매체를 이용해 저장하는 경우, 전송 비용과 저장 비용이 증가하게 된다. 영상 데이터가 고해상도, 고품질화 됨에 따라 발생하는 이러한 문제들을 해결하기 위해서는 더 높은 해상도 및 화질을 갖는 영상에 대한 고효율 영상 부호화(encoding)/복호화(decoding) 기술이 요구된다.

영상 압축 기술로 현재 픽처의 이전 또는 이후 픽처로부터 현재 픽처에 포함된 화소값을 예측하는 화면 간 예측 기술, 현재 픽처 내의 화소 정보를 이용하여 현재 픽처에 포함된 화소값을 예측하는 화면 내 예측 기술, 잔여 신호의 에너지를 압축하기 위한 변환 및 양자화 기술, 출현 빈도가 높은 값에 짧은 부호를 할당하고 출현 빈도가 낮은 값에 긴 부호를 할당하는 엔트로피 부호화 기술 등 다양한 기술이 존재하고 이러한 영상 압축 기술을 이용해 영상 데이터를 효과적으로 압축하여 전송 또는 저장할 수 있다.

본 발명은 압축 효율이 향상된 영상 부호화/복호화 방법 및 장치를 제공하는 것을 목적으로 한다.

또한, 본 발명은 압축 효율이 향상된 화면 내 예측을 이용한 영상 부호화/복호화 방법 및 장치를 제공하는 것을 목적으로 한다.

또한, 본 발명은 본 발명의 영상 부호화/복호화 방법 또는 장치에 의해 생성된 비트스트림을 저장한 기록 매체를 제공하는 것을 목적으로 한다.

본 발명에 따른 영상 복호화 방법은, 현재 블록에 대한 화면 내 예측 모드를 유도하는 단계, 상기 현재 블록에 인접한 적어도 하나의 복원 샘플 라인을 선택하는 단계, 상기 적어도 하나의 복원 샘플 라인에 포함된 적어도 하나의 복원 샘플을 이용하여 참조 샘플을 구성하는 단계, 및 상기 화면 내 예측 모드 및 상기 참조 샘플에 기초하여 상기 현재 블록에 대한 화면 내 예측을 수행하는 단계를 포함할 수 있다.

본 발명의 영상 복호화 방법에 있어서, 상기 적어도 하나의 복원 샘플 라인은 상기 현재 블록의 상단 및 좌측에 인접한 복원 샘플 라인 중 적어도 하나를 포함할 수 있다.

본 발명의 영상 복호화 방법에 있어서, 상기 상단 및 좌측에 인접한 복원 샘플 라인의 수는 상기 현재 블록의 크기, 형태 및 화면 내 예측 모드 중 적어도 하나에 기초하여 결정될 수 있다.

본 발명의 영상 복호화 방법에 있어서, 상기 참조 샘플은 상기 적어도 하나의 복원 샘플의 가중합을 이용하여 유도될 수 있다.

본 발명의 영상 복호화 방법에 있어서, 상기 가중합은 상기 화면 내 예측 모드 및 상기 현재 블록과 상기 복원 샘플 라인과의 거리 중 적어도 하나에 기초하여 수행될 수 있다.

본 발명의 영상 복호화 방법에 있어서, 상기 참조 샘플을 구성하는 단계는, 상기 현재 블록에 인접한 상단행 및 좌측열 중 적어도 하나에 포함된 복원 샘플로부터 상기 현재 블록과 유사한 복원 샘플을 검색하는 단계, 상기 검색된 복원 샘플을 상기 복원 샘플 라인에 포함된 상기 적어도 하나의 복원 샘플로 대체하는 단계를 더 포함할 수 있다.

본 발명의 영상 복호화 방법에 있어서, 상기 현재 블록을 복수의 서브 블록으로 분할하는 단계를 더 포함하고, 상기 복수의 서브 블록의 각각에 대한 화면 내 예측은 상기 현재 블록을 기준으로 구성된 참조 샘플에 기초하여 수행될 수 있다.

본 발명의 영상 복호화 방법에 있어서, 상기 현재 블록을 기준으로 구성된 참조 샘플을 이용하여 상기 복수의 서브 블록 중 하나의 서브 블록에 대한 화면 내 예측을 수행할 때, 상기 하나의 서브 블록에 인접하지 않은 참조 샘플을 보상한 후 화면 내 예측을 수행할 수 있다.

본 발명의 영상 복호화 방법에 있어서, 상기 화면 내 예측을 수행하는 단계는, 상기 적어도 하나의 복원 샘플을 이용하여, 상기 현재 블록 내의 우측열에 포함된 샘플들, 하단행에 포함된 샘플들 및 우하단 샘플 중 적어도 하나의 샘플을 예측하는 단계, 및 상기 예측된 적어도 하나의 샘플을 이용하여, 상기 현재 블록 내의 나머지 샘플들을 예측하는 단계를 포함할 수 있다.

본 발명에 따른 영상 복호화 장치는 현재 블록에 대한 화면 내 예측 모드를 유도하고, 상기 현재 블록에 인접한 적어도 하나의 복원 샘플 라인을 선택하고, 상기 적어도 하나의 복원 샘플 라인에 포함된 적어도 하나의 복원 샘플을 이용하여 참조 샘플을 구성하고, 상기 화면 내 예측 모드 및 상기 참조 샘플에 기초하여 상기 현재 블록에 대한 화면 내 예측을 수행하는 화면 내 예측부를 포함할 수 있다.

본 발명에 따른 영상 부호화 방법은 현재 블록에 대한 화면 내 예측 모드를 결정하는 단계, 상기 현재 블록에 인접한 적어도 하나의 복원 샘플 라인을 선택하는 단계, 상기 적어도 하나의 복원 샘플 라인에 포함된 적어도 하나의 복원 샘플을 이용하여 참조 샘플을 구성하는 단계 및 상기 화면 내 예측 모드 및 상기 참조 샘플에 기초하여 상기 현재 블록에 대한 화면 내 예측을 수행하는 단계를 포함할 수 있다.

본 발명의 영상 부호화 방법에 있어서, 상기 적어도 하나의 복원 샘플 라인은 상기 현재 블록의 상단 및 좌측에 인접한 복원 샘플 라인 중 적어도 하나를 포함할 수 있다.

본 발명의 영상 부호화 방법에 있어서, 상기 상단 및 좌측에 인접한 복원 샘플 라인의 수는 상기 현재 블록의 크기, 형태 및 화면 내 예측 모드 중 적어도 하나에 기초하여 결정될 수 있다.

본 발명의 영상 부호화 방법에 있어서, 상기 참조 샘플은 상기 적어도 하나의 복원 샘플의 가중합을 이용하여 유도될 수 있다.

본 발명의 영상 부호화 방법에 있어서, 상기 가중합은 상기 화면 내 예측 모드 및 상기 현재 블록과 상기 복원 샘플 라인과의 거리 중 적어도 하나에 기초하여 수행될 수 있다.

본 발명의 영상 부호화 방법에 있어서, 상기 참조 샘플을 구성하는 단계는, 상기 현재 블록에 인접한 상단행 및 좌측열 중 적어도 하나에 포함된 복원 샘플로부터 상기 현재 블록과 유사한 복원 샘플을 검색하는 단계, 상기 검색된 복원 샘플을 상기 복원 샘플 라인에 포함된 상기 적어도 하나의 복원 샘플로 대체하는 단계를 더 포함할 수 있다.

본 발명의 영상 부호화 방법에 있어서, 상기 현재 블록을 복수의 서브 블록으로 분할하는 단계를 더 포함하고, 상기 복수의 서브 블록의 각각에 대한 화면 내 예측은 상기 현재 블록을 기준으로 구성된 참조 샘플에 기초하여 수행될 수 있다.

본 발명의 영상 부호화 방법에 있어서, 상기 현재 블록을 기준으로 구성된 참조 샘플을 이용하여 상기 복수의 서브 블록 중 하나의 서브 블록에 대한 화면 내 예측을 수행할 때, 상기 하나의 서브 블록에 인접하지 않은 참조 샘플을 보상한 후 화면 내 예측을 수행할 수 있다.

본 발명에 따른 영상 부호화 장치는 현재 블록에 대한 화면 내 예측 모드를 결정하고, 상기 현재 블록에 인접한 적어도 하나의 복원 샘플 라인을 선택하고, 상기 적어도 하나의 복원 샘플 라인에 포함된 적어도 하나의 복원 샘플을 이용하여 참조 샘플을 구성하고, 상기 화면 내 예측 모드 및 상기 참조 샘플에 기초하여 현재 블록에 대한 화면 내 예측을 수행하는 단계를 수행하는 화면 내 예측부를 포함할 수 있다.

본 발명에 따른 기록 매체는 영상 부호화 방법에 의해 생성된 비트스트림을 저장할 수 있으며, 상기 영상 부호화 방법은 현재 블록에 대한 화면 내 예측 모드를 결정하는 단계, 상기 현재 블록에 인접한 적어도 하나의 복원 샘플 라인을 선택하는 단계, 상기 적어도 하나의 복원 샘플 라인에 포함된 적어도 하나의 복원 샘플을 이용하여 참조 샘플을 구성하는 단계, 및 상기 화면 내 예측 모드 및 상기 참조 샘플에 기초하여 현재 블록에 대한 화면 내 예측을 수행하는 단계를 포함할 수 있다.

본 발명에 따르면, 압축 효율이 향상된 영상 부호화/복호화 방법 및 장치가 제공될 수 있다.

또한, 본 발명에 따르면, 압축 효율이 향상된 화면 내 예측을 이용한 영상 부호화/복호화 방법 및 장치가 제공될 수 있다.

또한, 본 발명에 따르면, 본 발명의 영상 부호화/복호화 방법 또는 장치에 의해 생성된 비트스트림을 저장한 기록 매체를 제공하는 것을 목적으로 한다.

도 1은 본 발명이 적용되는 부호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.
도 2는 본 발명이 적용되는 복호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.
도 3은 영상을 부호화 및 복호화할 때의 영상의 분할 구조를 개략적으로 나타내는 도면이다.
도 4는 부호화 유닛(CU)이 포함할 수 있는 예측 유닛(PU)의 형태를 도시한 도면이다.
도 5는 부호화 유닛(CU)이 포함할 수 있는 변환 유닛(TU)의 형태를 도시한 도면이다.
도 6은 화면 내 예측 과정의 실시예를 설명하기 위한 도면이다.
도 7는 본 발명의 일 실시예에 따라, 현재 블록에 대해 화면 내 예측을 수행하는 방법을 설명하기 위한 도면이다.
도 8은 주변 블록으로부터 현재 블록의 화면 내 예측 모드를 유도하는 방법을 설명하기 위한 도면이다.
도 9는 현재 블록의 화면 내 예측에 이용될 수 있는 주변의 복원 샘플 라인들을 예시적으로 도시한 도면이다.
도 10은 참조 샘플을 재구성하는 일 실시예를 설명하기 위한 도면이다.
도 11은 참조 샘플을 재구성하는 다른 실시예를 설명하기 위한 도면이다.
도 12는 참조 샘플을 재구성하는 또 다른 실시예를 설명하기 위한 도면이다.
도 13은 현재 블록을 분할하여 생성된 복수의 예측 블록을 부/복호화하는 실시예를 설명하기 위한 도면이다.
도 14는 현재 블록을 분할하여 생성된 복수의 예측 블록을 부/복호화하는 다른 실시예를 설명하기 위한 도면이다.
도 15는 가용한 복원 샘플을 이용하여 가용하지 않은 복원 샘플을 대체하는 방법을 설명하기 위한 도면이다.
도 16은 가용한 복원 샘플을 이용하여 가용하지 않은 복원 샘플을 대체하는 다른 방법을 설명하기 위한 도면이다.
도 17은 하나 이상의 복원 샘플 라인들을 이용하는 경우의 참조 샘플의 패딩을 설명하기 위한 예시도이다.
도 18은 패딩된 비가용 참조 샘플을 포함하는 참조 샘플에 대한 필터링을 설명하기 위한 도면이다.
도 19는 비가용 참조 샘플을 포함하는 참조 샘플에 대한 필터링을 설명하기 위한 도면이다.
도 20은 P_ref로부터 참조 샘플의 1차원 배열(1-D reference sample array, p_{1, ref})을 생성하는 일 실시예를 설명하기 위한 도면이다.
도 21은 본 발명의 일 실시예에 따른 화면 내 예측을 설명하기 위한 도면이다.
도 22는 본 발명의 다른 실시예에 따른 화면 내 예측을 설명하기 위한 도면이다.
도 23는 본 발명의 또 다른 실시예에 따른 화면 내 예측을 설명하기 위한 도면이다.

본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭한다. 도면에서의 요소들의 형상 및 크기 등은 보다 명확한 설명을 위해 과장될 수 있다. 후술하는 예시적 실시예들에 대한 상세한 설명은, 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이들 실시예는 당업자가 실시예를 실시할 수 있기에 충분하도록 상세히 설명된다. 다양한 실시예들은 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 여기에 기재되어 있는 특정 형상, 구조 및 특성은 일 실시예에 관련하여 본 발명의 정신 및 범위를 벗어나지 않으면서 다른 실시예로 구현될 수 있다. 또한, 각각의 개시된 실시예 내의 개별 구성요소의 위치 또는 배치는 실시예의 정신 및 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 취하려는 것이 아니며, 예시적 실시예들의 범위는, 적절하게 설명된다면, 그 청구항들이 주장하는 것과 균등한 모든 범위와 더불어 첨부된 청구항에 의해서만 한정된다.

본 발명에서 제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.

본 발명의 어떤 구성 요소가 다른 구성 요소에 “연결되어” 있다거나 “접속되어” 있다고 언급된 때에는, 그 다른 구성 요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있으나, 중간에 다른 구성 요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어"있다거나 "직접 접속되어"있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.

본 발명의 실시예에 나타나는 구성부들은 서로 다른 특징적인 기능들을 나타내기 위해 독립적으로 도시되는 것으로, 각 구성부들이 분리된 하드웨어나 하나의 소프트웨어 구성단위로 이루어짐을 의미하지 않는다. 즉, 각 구성부는 설명의 편의상 각각의 구성부로 나열하여 포함한 것으로 각 구성부 중 적어도 두 개의 구성부가 합쳐져 하나의 구성부로 이루어지거나, 하나의 구성부가 복수 개의 구성부로 나뉘어져 기능을 수행할 수 있고 이러한 각 구성부의 통합된 실시예 및 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명의 권리범위에 포함된다.

본 발명에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 발명에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다. 즉, 본 발명에서 특정 구성을 “포함”한다고 기술하는 내용은 해당 구성 이외의 구성을 배제하는 것이 아니며, 추가적인 구성이 본 발명의 실시 또는 본 발명의 기술적 사상의 범위에 포함될 수 있음을 의미한다.

본 발명의 일부의 구성 요소는 본 발명에서 본질적인 기능을 수행하는 필수적인 구성 요소는 아니고 단지 성능을 향상시키기 위한 선택적 구성 요소일 수 있다. 본 발명은 단지 성능 향상을 위해 사용되는 구성 요소를 제외한 본 발명의 본질을 구현하는데 필수적인 구성부만을 포함하여 구현될 수 있고, 단지 성능 향상을 위해 사용되는 선택적 구성 요소를 제외한 필수 구성 요소만을 포함한 구조도 본 발명의 권리범위에 포함된다.

이하, 도면을 참조하여 본 발명의 실시 형태에 대하여 구체적으로 설명한다. 본 명세서의 실시예를 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 명세서의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략하고, 도면상의 동일한 구성요소에 대해서는 동일한 참조부호를 사용하고 동일한 구성요소에 대해서 중복된 설명은 생략한다.

또한, 이하에서 영상은 동영상(video)을 구성하는 하나의 픽처를 의미할 수 있으며, 동영상 자체를 나타낼 수도 있다. 예를 들면, "영상의 부호화 및/또는 복호화"는 "비디오의 부호화 및/또는 복호화"를 의미할 수 있으며, "비디오를 구성하는 영상들 중 하나의 영상의 부호화 및/또는 복호화"를 의미할 수도 있다. 여기서, 픽처는 영상과 동일한 의미를 가질 수 있다.

용어 설명

부호화기(Encoder): 부호화를 수행하는 장치를 의미할 수 있다.

복호화기(Decoder): 복호화를 수행하는 장치를 의미할 수 있다.

파싱(Parsing): 엔트로피 복호화하여 구문 요소(Syntax Element)의 값을 결정하는 것을 의미하거나, 엔트로피 복호화 자체를 의미할 수 있다.

블록(Block): 샘플(Sample)의 MxN 배열이며, 여기서 M과 N은 양의 정수 값을 의미하며, 블록은 흔히 2차원 형태의 샘플 배열을 의미할 수 있다.

샘플(Sample): 블록을 구성하는 기본 단위이며, 비트 깊이 (bit depth, B_d)에 따라 0부터 2^Bd - 1까지의 값을 표현 할 수 있다. 본 발명에서 화소 및 픽셀은 샘플과 같은 의미로 사용될 수 있다.

유닛(Unit): 영상 부호화 및 복호화의 단위를 의미할 수 있다. 영상의 부호화 및 복호화에 있어서, 유닛은 하나의 영상의 분할에 의해 생성된 영역일 수 있다. 또한, 유닛은 하나의 영상을 세분화 된 유닛으로 분할하여 부호화 혹은 복호화 할 때 그 분할된 단위를 의미할 수 있다. 영상의 부호화 및 복호화에 있어서, 유닛 별로 기정의된 처리가 수행될 수 있다. 하나의 유닛은 유닛에 비해 더 작은 크기를 갖는 하위 유닛으로 더 분할될 수 있다. 기능에 따라서, 유닛은 블록(Block), 매크로블록(Macroblock), 부호화 트리 유닛(Coding Tree Unit), 부호화 트리 블록(Coding Tree Block), 부호화 유닛(Coding Unit), 부호화 블록(Coding Block), 예측 유닛(Prediction Unit), 예측 블록(Prediction Block), 변환 유닛(Transform Unit), 변환 블록(Transform Block) 등을 의미할 수 있다. 또한, 유닛은 블록과 구분하여 지칭하기 위해 휘도(Luma) 성분 블록과 그에 대응하는 색차(Chroma) 성분 블록 그리고 각 블록에 대한 구문 요소를 포함한 것을 의미할 수 있다. 유닛은 다양한 크기와 형태를 가질 수 있으며, 특히 유닛의 형태는 직사각형뿐만 아니라 정사각형, 사다리꼴, 삼각형, 오각형 등 2차원으로 표현할 수 있는 기하학적 도형을 포함할 수 있다. 또한, 유닛 정보에는 부호화 유닛, 예측 유닛, 변환 유닛 등을 가리키는 유닛의 타입, 유닛의 크기, 유닛의 깊이, 유닛의 부호화 및 복호화 순서 등 중 적어도 하나 이상을 포함할 수 있다.

복원된 주변 유닛(Reconstructed Neighbor Unit): 부호화/복호화 대상 유닛 주변에 공간적(Spatial)/시간적(Temporal)으로 이미 부호화 혹은 복호화되어 복원된 유닛을 의미할 수 있다. 이때, 복원된 주변 유닛은 복원된 주변 블록을 의미할 수 있다.

주변 블록(Neighbor block): 부호화/복호화 대상 블록에 인접한 블록을 의미할 수 있다. 부호화/복호화 대상 블록에 인접한 블록은 부호화/복호화 대상 블록에 경계가 맞닿은 블록을 의미할 수 있다. 주변 블록은 부호화/복호화 대상 블록의 인접한 꼭지점에 위치한 블록을 의미할 수 있다. 주변 블록은 복원된 주변 블록을 의미할 수도 있다.

유닛 깊이(Depth): 유닛이 분할된 정도를 의미하며, 트리 구조(Tree Structure)에서 루트 노드(Root Node)는 깊이가 가장 얕고, 리프 노드(Leaf Node)는 깊이가 가장 깊다고 할 수 있다.

심볼(Symbol): 부호화/복호화 대상 유닛 구문 요소 및 부호화 파라미터(coding parameter), 변환 계수(Transform Coefficient)의 값 등을 의미할 수 있다.

파라미터 세트(Parameter Set): 비트스트림 내의 구조 중 헤더 정보에 해당할 수 있으며, 비디오 파라미터 세트(video parameter set), 시퀀스 파라미터 세트(sequence parameter set), 픽처 파라미터 세트(picture parameter set), 적응 파라미터 세트(adaptation parameter set) 중 적어도 하나 이상이 파라미터 세트에 포함될 수 있다. 또한, 파라미터 세트에는 슬라이스(slice) 헤더 및 타일(tile) 헤더 정보를 포함한 의미를 가질 수 있다.

비트스트림(Bitstream): 부호화된 영상 정보를 포함하는 비트의 열을 의미할 수 있다.

변환 유닛(Transform Unit): 변환, 역변환, 양자화, 역양자화, 변환 계수 부호화/복호화와 같이 잔여 신호(residual signal) 부호화/복호화를 수행할 때의 기본 유닛을 의미할 수 있으며, 하나의 변환 유닛은 분할되어 크기가 작은 복수의 변환 유닛으로 분할될 수 있다. 변환 유닛은 다양한 크기와 형태를 가질 수 있으며, 특히 변환 유닛의 형태는 직사각형뿐만 아니라 정사각형, 사다리꼴, 삼각형, 오각형 등 2차원으로 표현할 수 있는 기하학적 도형을 포함할 수 있다.

스케일링(Scaling): 변환 계수 레벨에 인수를 곱하는 과정을 의미할 수 있으며, 결과로 변환 계수를 생성할 수 있다. 스케일링을 역양자화(dequantization)라고도 부를 수 있다.

양자화 매개변수(Quantization Parameter): 양자화 및 역양자화에서 변환 계수 레벨(transform coefficient level)을 스케일링(scaling)할 때 사용하는 값을 의미할 수 있다. 이때, 양자화 매개변수는 양자화 스텝 크기(step size)에 매핑된 값일 수 있다.

잔여 양자화 매개변수(Delta Quantization Parameter): 예측된 양자화 매개변수와 부호화/복호화 대상 유닛의 양자화 매개변수의 차분된 값을 의미할 수 있다.

스캔(Scan): 블록 혹은 행렬 내 계수의 순서를 정렬하는 방법을 의미할 수 있으며, 예를 들어 2차원 배열을 1차원 배열 형태로 정렬하는 것을 스캔이라고 하며, 1차원 배열을 2차원 배열 형태로 정렬하는 것도 스캔 혹은 역 스캔(Inverse Scan)이라고 부를 수 있다.

변환 계수(Transform Coefficient): 변환을 수행하고 나서 생성된 계수 값, 본 발명에서는 변환 계수에 양자화를 적용한 양자화된 변환 계수 레벨(transform coefficient level)도 변환 계수의 의미에 포함될 수 있다.

넌제로 변환 계수(Non-zero Transform Coefficient): 변환 계수 값의 크기가 0이 아닌 변환 계수 혹은 값의 크기가 0이 아닌 변환 계수 레벨을 의미할 수 있다.

양자화 행렬(Quantization Matrix): 영상의 주관적 화질 혹은 객관적 화질을 향상시키기 위해서 양자화 혹은 역양자화 과정에서 이용하는 행렬을 의미할 수 있다. 양자화 행렬을 스케일링 리스트(scaling list)라고도 부를 수 있다.

양자화 행렬 계수(Quantization Matrix Coefficient): 양자화 행렬 내의 각 원소(element)를 의미할 수 있다. 양자화 행렬 계수를 행렬 계수(matrix coefficient)라고도 할 수 있다.

기본 행렬(Default Matrix): 부호화기와 복호화기에서 미리 정의되어 있는 소정의 양자화 행렬을 의미할 수 있다.

비 기본 행렬(Non-default Matrix): 부호화기와 복호화기에서 미리 정의되지 않고, 사용자에 의해서 시그널링되는 양자화 행렬을 의미할 수 있다.

부호화 트리 유닛(Coding Tree Unit): 하나의 휘도 성분(Y) 부호화 트리 블록과 관련된 두 색차 성분(Cb, Cr) 부호화 트리 블록들로 구성될 수 있다. 각 부호화 트리 유닛은 부호화 유닛, 예측 유닛, 변환 유닛 등의 하위 유닛을 구성하기 위하여 쿼드트리(quad tree), 이진트리(binary tree) 등 하나 이상의 분할 방식을 이용하여 분할될 수 있다. 입력 영상의 분할처럼 영상의 복/부호화 과정에서 처리 단위가 되는 픽셀 블록을 지칭하기 위한 용어로 사용될 수 있다.

부호화 트리 블록(Coding Tree Block): Y 부호화 트리 블록, Cb 부호화 트리 블록, Cr 부호화 트리 블록 중 어느 하나를 지칭하기 위한 용어로 사용될 수 있다.

도 1은 본 발명이 적용되는 부호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.

부호화 장치(100)는 비디오 부호화 장치 또는 영상 부호화 장치일 수 있다. 비디오는 하나 이상의 영상들을 포함할 수 있다. 부호화 장치(100)는 비디오의 하나 이상의 영상들을 시간에 따라 순차적으로 부호화할 수 있다.

도 1을 참조하면, 부호화 장치(100)는 움직임 예측부(111), 움직임 보상부(112), 인트라 예측부(120), 스위치(115), 감산기(125), 변환부(130), 양자화부(140), 엔트로피 부호화부(150), 역양자화부(160), 역변환부(170), 가산기(175), 필터부(180) 및 참조 픽처 버퍼(190)를 포함할 수 있다.

부호화 장치(100)는 입력 영상에 대해 인트라 모드 및/또는 인터 모드로 부호화를 수행할 수 있다. 또한, 부호화 장치(100)는 입력 영상에 대한 부호화를 통해 비트스트림을 생성할 수 있고, 생성된 비트스트림을 출력할 수 있다. 예측 모드로 인트라 모드가 사용되는 경우 스위치(115)는 인트라로 전환될 수 있고, 예측 모드로 인터 모드가 사용되는 경우 스위치(115)는 인터로 전환될 수 있다. 여기서 인트라 모드는 화면 내 예측 모드를 의미할 수 있으며, 인터 모드는 화면 간 예측 모드를 의미할 수 있다. 부호화 장치(100)는 입력 영상의 입력 블록에 대한 예측 블록을 생성할 수 있다. 또한, 부호화 장치(100)는 예측 블록이 생성된 후, 입력 블록 및 예측 블록의 차분(residual)을 부호화할 수 있다. 입력 영상은 현재 부호화의 대상인 현재 영상으로 칭해질 수 있다. 입력 블록은 현재 부호화의 대상인 현재 블록 혹은 부호화 대상 블록으로 칭해질 수 있다.

예측 모드가 인트라 모드인 경우, 인트라 예측부(120)는 현재 블록의 주변에 이미 부호화된 블록의 픽셀 값을 참조 화소로서 이용할 수 있다. 인트라 예측부(120)는 참조 화소를 이용하여 공간적 예측을 수행할 수 있고, 공간적 예측을 통해 입력 블록에 대한 예측 샘플들을 생성할 수 있다. 여기서 인트라 예측은 화면 내 예측을 의미할 수 있다.

예측 모드가 인터 모드인 경우, 움직임 예측부(111)는, 움직임 예측 과정에서 참조 영상으로부터 입력 블록과 가장 매치가 잘 되는 영역을 검색할 수 있고, 검색된 영역을 이용하여 움직임 벡터를 도출할 수 있다. 참조 영상은 참조 픽처 버퍼(190)에 저장될 수 있다.

움직임 보상부(112)는 움직임 벡터를 이용하는 움직임 보상을 수행함으로써 예측 블록을 생성할 수 있다. 여기서, 움직임 벡터는 인터 예측에 사용되는 2차원 벡터일 수 있다. 또한 움직임 벡터는 현재 영상 및 참조 영상 간의 오프셋(offset)을 나타낼 수 있다. 여기서 인터 예측은 화면 간 예측을 의미할 수 있다.

감산기(125)는 입력 블록 및 예측 블록의 차분을 사용하여 잔여 블록(residual block)을 생성할 수 있다. 잔여 블록은 잔여 신호로 칭해질 수도 있다.

변환부(130)는 잔여 블록에 대해 변환(transform)을 수행하여 변환 계수(transform coefficient)를 생성할 수 있고, 변환 계수를 출력할 수 있다. 여기서, 변환 계수는 잔여 블록에 대한 변환을 수행함으로써 생성된 계수 값일 수 있다. 변환 생략(transform skip) 모드가 적용되는 경우, 변환부(130)는 잔여 블록에 대한 변환을 생략할 수도 있다.

변환 계수에 양자화를 적용함으로써 양자화된 변환 계수 레벨(transform coefficient level)이 생성될 수 있다. 이하, 실시예들에서는 양자화된 변환 계수 레벨도 변환 계수로 칭해질 수 있다.

양자화부(140)는 변환 계수를 양자화 매개변수에 따라 양자화함으로써 양자화된 변환 계수 레벨(transform coefficient level)을 생성할 수 있고, 양자화된 변환 계수 레벨을 출력할 수 있다. 이때, 양자화부(140)에서는 양자화 행렬을 사용하여 변환 계수를 양자화할 수 있다.

엔트로피 부호화부(150)는, 양자화부(140)에서 산출된 값들 또는 부호화 과정에서 산출된 부호화 파라미터(Coding Parameter) 값들 등에 대하여 확률 분포에 따른 엔트로피 부호화를 수행함으로써 비트스트림(bitstream)을 생성할 수 있고, 비트스트림을 출력할 수 있다. 엔트로피 부호화부(150)는 영상의 픽셀의 정보 외에 영상의 복호화를 위한 정보에 대한 엔트로피 부호화를 수행할 수 있다. 예를 들면, 영상의 복호화를 위한 정보는 구문 요소(syntax element) 등을 포함할 수 있다.

엔트로피 부호화가 적용되는 경우, 높은 발생 확률을 갖는 심볼(symbol)에 적은 수의 비트가 할당되고 낮은 발생 확률을 갖는 심볼에 많은 수의 비트가 할당되어 심볼이 표현됨으로써, 부호화 대상 심볼들에 대한 비트열의 크기가 감소될 수 있다. 따라서 엔트로피 부호화를 통해서 영상 부호화의 압축 효율이 높아질 수 있다. 엔트로피 부호화부(150)는 엔트로피 부호화를 위해 지수 골롬(exponential Golomb), CAVLC(Context-Adaptive Variable Length Coding), CABAC(Context-Adaptive Binary Arithmetic Coding)과 같은 부호화 방법을 사용할 수 있다. 예를 들면, 엔트로피 부호화부(150)는 가변 길이 부호화(Variable Length Coding/Code; VLC) 테이블을 이용하여 엔트로피 부호화를 수행할 수 있다. 또한 엔트로피 부호화부(150)는 대상 심볼의 이진화(binarization) 방법 및 대상 심볼/빈(bin)의 확률 모델(probability model)을 도출한 후, 도출된 이진화 방법 또는 확률 모델을 사용하여 산술 부호화를 수행할 수도 있다.

엔트로피 부호화부(150)는 변환 계수 레벨을 부호화하기 위해 변환 계수 스캐닝(Transform Coefficient Scanning) 방법을 통해 2차원의 블록 형태 계수를 1차원의 벡터 형태로 변경할 수 있다. 예를 들어, 업라이트(up right) 스캐닝을 이용하여 블록의 계수를 스캔함으로써 1차원 벡터 형태로 변경시킬 수 있다. 변환 유닛의 크기 및 화면 내 예측 모드에 따라 업라이트 스캔 대신 2차원의 블록 형태 계수를 열 방향으로 스캔하는 수직 스캔, 2차원의 블록 형태 계수를 행 방향으로 스캔하는 수평 스캔이 사용될 수도 있다. 즉, 변환 유닛의 크기 및 화면 내 예측 모드에 따라 업라이트 스캔, 수직 방향 스캔 및 수평 방향 스캔 중 어떠한 스캔 방법이 사용될지 여부를 결정할 수 있다.

부호화 파라미터(Coding Parameter)는 구문 요소와 같이 부호화기에서 부호화되어 복호화기로 시그널링되는 정보뿐만 아니라, 부호화 혹은 복호화 과정에서 유도되는 정보를 포함할 수 있으며, 영상을 부호화하거나 복호화할 때 필요한 정보를 의미할 수 있다. 예를 들어, 블록 크기, 블록 깊이, 블록 분할 정보, 유닛 크기, 유닛 깊이, 유닛 분할 정보, 쿼드트리 형태의 분할 플래그, 이진트리 형태의 분할 플래그, 이진트리 형태의 분할 방향, 화면 내 예측 모드, 화면 내 예측 방향, 참조 샘플 필터링 방법, 예측 블록 경계 필터링 방법, 필터 탭, 필터 계수, 화면 간 예측 모드, 움직임 정보, 움직임 벡터, 참조 영상 색인, 화면 간 예측 방향, 화면 간 예측 지시자, 참조 영상 리스트, 움직임 벡터 예측기, 움직임 벡터 후보 리스트, 움직임 병합 모드(motion merge mode) 사용 여부, 움직임 병합 후보, 움직임 병합 후보 리스트, 스킵(skip) 모드 사용 여부, 보간 필터 종류, 움직임 벡터 크기, 움직임 벡터 표현 정확도, 변환 종류, 변환 크기, 추가(2차) 변환 사용 여부 정보, 잔여 신호 유무 정보, 부호화 블록 패턴(Coded Block Pattern), 부호화 블록 플래그(Coded Block Flag), 양자화 매개변수, 양자화 행렬, 루프 내 필터 정보, 루프 내 필터 적용 여부 정보, 루프 내 필터 계수, 이진화/역이진화 방법, 문맥 모델, 문맥 빈, 바이패스 빈, 변환 계수, 변환 계수 레벨, 변환 계수 레벨 스캐닝 방법, 영상 디스플레이/출력 순서, 슬라이스 식별 정보, 슬라이스 타입, 슬라이스 분할 정보, 타일 식별 정보, 타일 타입, 타일 분할 정보, 픽처 타입, 비트 심도, 휘도 신호 혹은 색차 신호에 대한 정보 중 적어도 하나 이상의 값 또는 조합된 형태가 부호화 파라미터에 포함될 수 있다.

잔여 신호는 원 신호 및 예측 신호 간의 차이(difference)를 의미할 수 있다. 또는, 잔여 신호는 원신호 및 예측 신호 간의 차이를 변환(transform) 함으로써 생성된 신호일 수 있다. 또는, 잔여 신호는 원 신호 및 예측 신호 간의 차이를 변환 및 양자화함으로써 생성된 신호일 수 있다. 잔여 블록은 블록 단위의 잔여 신호일 수 있다.

부호화 장치(100)가 인터 예측을 통한 부호화를 수행할 경우, 부호화된 현재 영상은 이후에 처리되는 다른 영상(들)에 대하여 참조 영상으로서 사용될 수 있다. 따라서, 부호화 장치(100)는 부호화된 현재 영상을 다시 복호화할 수 있고, 복호화된 영상을 참조 영상으로 저장할 수 있다. 복호화를 위해 부호화된 현재 영상에 대한 역양자화 및 역변환이 처리될 수 있다.

양자화된 계수는 역양자화부(160)에서 역양자화(dequantization)될 수 있고. 역변환부(170)에서 역변환(inverse transform)될 수 있다. 역양자화 및 역변환된 계수는 가산기(175)를 통해 예측 블록과 합해질 수 있다, 역양자화 및 역변환된 계수 및 예측 블록을 합함으로써 복원 블록(reconstructed block) 이 생성될 수 있다.

복원 블록은 필터부(180)를 거칠 수 있다. 필터부(180)는 디블록킹 필터(deblocking filter), 샘플 적응적 오프셋(Sample Adaptive Offset; SAO), 적응적 루프 필터(Adaptive Loop Filter; ALF) 중 적어도 하나 이상을 복원 블록 또는 복원 영상에 적용할 수 있다. 필터부(180)는 인루프 필터(in-loop filter)로 칭해질 수도 있다.

디블록킹 필터는 블록들 간의 경계에 생긴 블록 왜곡을 제거할 수 있다. 디블록킹 필터를 수행할지 여부를 판단하기 위해 블록에 포함된 몇 개의 열 또는 행에 포함된 픽셀을 기초로 현재 블록에 디블록킹 필터 적용할지 여부를 판단할 수 있다. 블록에 디블록킹 필터를 적용하는 경우 필요한 디블록킹 필터링 강도에 따라 강한 필터(Strong Filter) 또는 약한 필터(Weak Filter)를 적용할 수 있다. 또한 디블록킹 필터를 적용함에 있어 수직 필터링 및 수평 필터링 수행시 수평 방향 필터링 및 수직 방향 필터링이 병행 처리되도록 할 수 있다.

샘플 적응적 오프셋은 부호화 에러를 보상하기 위해 픽셀 값에 적정 오프셋(offset) 값을 더할 수 있다. 샘플 적응적 오프셋은 디블록킹을 수행한 영상에 대해 픽셀 단위로 원본 영상과의 오프셋을 보정할 수 있다. 특정 픽처에 대한 오프셋 보정을 수행하기 위해 영상에 포함된 픽셀을 일정한 수의 영역으로 구분한 후 오프셋을 수행할 영역을 결정하고 해당 영역에 오프셋을 적용하는 방법 또는 각 픽셀의 에지 정보를 고려하여 오프셋을 적용하는 방법을 사용할 수 있다.

적응적 루프 필터는 복원 영상 및 원래의 영상을 비교한 값에 기반하여 필터링을 수행할 수 있다. 영상에 포함된 픽셀을 소정의 그룹으로 나눈 후 해당 그룹에 적용될 하나의 필터를 결정하여 그룹마다 차별적으로 필터링을 수행할 수 있다. 적응적 루프 필터를 적용할지 여부에 관련된 정보는 휘도 신호는 부호화 유닛(Coding Unit, CU) 별로 시그널링될 수 있고, 각각의 블록에 따라 적용될 적응적 루프 필터의 모양 및 필터 계수는 달라질 수 있다. 또한, 적용 대상 블록의 특성에 상관없이 동일한 형태(고정된 형태)의 적응적 루프 필터가 적용될 수도 있다.

필터부(180)를 거친 복원 블록은 참조 픽처 버퍼(190)에 저장될 수 있다.　

도 2는 본 발명이 적용되는 복호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.

복호화 장치(200)는 비디오 복호화 장치 또는 영상 복호화 장치일 수 있다.

도 2를 참조하면, 복호화 장치(200)는 엔트로피 복호화부(210), 역양자화부(220), 역변환부(230), 인트라 예측부(240), 움직임 보상부(250), 가산기(255), 필터부(260) 및 참조 픽처 버퍼(270)를 포함할 수 있다.

복호화 장치(200)는 부호화 장치(100)에서 출력된 비트스트림을 수신할 수 있다. 복호화 장치(200)는 비트스트림에 대하여 인트라 모드 또는 인터 모드로 복호화를 수행할 수 있다. 또한, 복호화 장치(200)는 복호화를 통해 복원 영상을 생성할 수 있고, 복원 영상을 출력할 수 있다.

복호화에 사용되는 예측 모드가 인트라 모드인 경우 스위치가 인트라로 전환될 수 있다. 복호화에 사용되는 예측 모드가 인터 모드인 경우 스위치가 인터로 전환될 수 있다.

복호화 장치(200)는 입력된 비트스트림으로부터 복원된 잔여 블록(reconstructed residual block)을 획득할 수 있고, 예측 블록을 생성할 수 있다. 복원된 잔여 블록 및 예측 블록이 획득되면, 복호화 장치(200)는 복원된 잔여 블록과 및 예측 블록을 더함으로써 복호화 대상 블록인 복원 블록을 생성할 수 있다. 복호화 대상 블록은 현재 블록으로 칭해질 수 있다.

엔트로피 복호화부(210)는 비트스트림에 대한 확률 분포에 따른 엔트로피 복호화를 수행함으로써 심볼들을 생성할 수 있다. 생성된 심볼들은 양자화된 변환 계수 레벨(transform coefficient level) 형태의 심볼을 포함할 수 있다. 여기에서, 엔트로피 복호화 방법은 상술된 엔트로피 부호화 방법과 유사할 수 있다. 예를 들면, 엔트로피 복호화 방법은 상술된 엔트로피 부호화 방법의 역과정일 수 있다.

엔트로피 복호화부(210)는 변환 계수 레벨을 복호화하기 위해 변환 계수 스캐닝(Transform Coefficient Scanning) 방법을 통해 1차원의 벡터 형태 계수를 2차원의 블록 형태로 변경할 수 있다. 예를 들어, 업라이트(up right) 스캐닝을 이용하여 블록의 계수를 스캔함으로써 2차원 블록 형태로 변경시킬 수 있다. 변환 유닛의 크기 및 화면 내 예측 모드에 따라 업라이트 스캔 대신 수직 스캔, 수평 스캔이 사용될 수도 있다. 즉, 변환 유닛의 크기 및 화면 내 예측 모드에 따라 업라이트 스캔, 수직 방향 스캔 및 수평 방향 스캔 중 어떠한 스캔 방법이 사용될지 여부를 결정할 수 있다.

양자화된 변환 계수 레벨은 역양자화부(220)에서 역양자화될 수 있고, 역변환부(230)에서 역변환될 수 있다. 양자화된 변환 계수 레벨이 역양자화 및 역변환 된 결과로서, 복원된 잔여 블록이 생성될 수 있다. 이때, 역양자화부(220)는 양자화된 변환 계수 레벨에 양자화 행렬을 적용할 수 있다.

인트라 모드가 사용되는 경우, 인트라 예측부(240)는 복호화 대상 블록 주변의 이미 복호화된 블록의 픽셀 값을 이용하는 공간적 예측을 수행함으로써 예측 블록을 생성할 수 있다.

인터 모드가 사용되는 경우, 움직임 보상부(250)는 움직임 벡터 및 참조 픽처 버퍼(270)에 저장되어 있는 참조 영상을 이용하는 움직임 보상을 수행함으로써 예측 블록을 생성할 수 있다.

복원된 잔여 블록 및 예측 블록은 가산기(255)를 통해 더해질 수 있다. 복원된 잔여 블록 및 예측 블록이 더해짐에 따라 생성된 블록은 필터부(260)를 거칠 수 있다. 필터부(260)는 디블록킹 필터, 샘플 적응적 오프셋 및 적응적 루프 필터 중 적어도 하나 이상을 복원 블록 또는 복원 영상에 적용할 수 있다. 필터부(260)는 복원 영상을 출력할 수 있다. 복원 영상은 참조 픽처 버퍼(270)에 저장되어 인터 예측에 사용될 수 있다.

도 3은 영상을 부호화 및 복호화할 때의 영상의 분할 구조를 개략적으로 나타내는 도면이다. 도 3은 하나의 유닛이 복수의 하위 유닛으로 분할되는 실시예를 개략적으로 나타낸다.

영상을 효율적으로 분할하기 위해, 부호화 및 복호화에 있어서, 부호화 유닛(Coding Unit; CU)이 사용될 수 있다. 여기서 부호화 유닛은 코딩 유닛을 의미할 수 있다. 유닛은 1) 구문 요소(syntax element) 및 2) 영상 샘플들을 포함하는 블록을 합쳐서 지칭하는 용어일 수 있다. 예를 들면, "유닛의 분할"은 "유닛에 해당하는 블록의 분할"을 의미할 수 있다. 블록 분할 정보에는 유닛의 깊이(depth)에 관한 정보가 포함될 수 있다. 깊이 정보는 유닛이 분할되는 회수 및/또는 정도를 나타낼 수 있다.

도 3을 참조하면, 영상(300)은 최대 부호화 유닛(Largest Coding Unit; LCU) 단위로 순차적으로 분할되고, LCU 단위로 분할 구조가 결정된다. 여기서, LCU는 부호화 트리 유닛(Coding Tree Unit; CTU)과 동일한 의미로 사용될 수 있다. 하나의 유닛은 트리 구조(tree structure)를 기초로 깊이 정보(depth)를 가지고 계층적으로 분할될 수 있다. 각각의 분할된 하위 유닛은 깊이 정보를 가질 수 있다. 상기 깊이 정보는 유닛이 분할된 회수 및/또는 정도를 나타내므로, 상기 하위 유닛의 크기에 관한 정보를 포함할 수도 있다.

분할 구조는 LCU(310) 내에서의 부호화 유닛(Coding Unit; CU)의 분포를 의미할 수 있다. CU는 영상을 효율적으로 부호화/복호화하기 위한 유닛일 수 있다. 이러한 분포는 하나의 CU를 복수(2, 4, 8, 16 등을 포함하는 2 이상의 양의 정수)의 CU들로 분할할지 여부에 따라 결정할 수 있다. 분할에 의해 생성된 CU의 가로 크기 및 세로 크기는 각각 분할 전의 CU의 가로 크기의 절반 및 세로 크기의 절반이거나, 분할된 개수에 따라 분할 전의 CU의 가로 크기보다 작은 크기 및 세로 크기보다 작은 크기를 가질 수 있다. 분할된 CU는 동일한 방식으로 가로 크기 및 세로 크기가 감소된 복수의 CU로 재귀적으로 분할될 수 있다.

이때, CU의 분할은 기정의된 깊이까지 재귀적으로 이루어질 수 있다. 깊이 정보는 CU의 크기를 나타내는 정보일 수 있고, 각 CU마다 저장될 수 있다. 예컨대, LCU의 깊이는 0일 수 있고, 최소 부호화 유닛(Smallest Coding Unit; SCU)의 깊이는 기정의된 최대 깊이일 수 있다. 여기서, LCU는 상술된 것과 같이 최대의 부호화 유닛 크기를 가지는 부호화 유닛일 수 있고, SCU는 최소의 부호화 유닛 크기를 가지는 부호화 유닛일 수 있다.

LCU(310)로부터 분할이 시작되고, 분할에 의해 CU의 가로 크기 및 세로 크기가 줄어들 때마다 CU의 깊이는 1씩 증가한다. 각각의 깊이 별로, 분할되지 않는 CU는 2Nx2N 크기를 가질 수 있다. 분할되는 CU의 경우, 2Nx2N 크기의 CU가 NxN 크기를 가지는 복수의 CU들로 분할될 수 있다. N의 크기는 깊이가 1씩 증가할 때마다 절반으로 감소한다.

예를 들어, 하나의 부호화 유닛이 4개의 부호화 유닛으로 분할 될 경우, 분할된 4개의 부호화 유닛의 가로 및 세로 크기는 분할되기 전 부호화 유닛의 가로 및 세로 크기와 비교하여 각각 절반의 크기를 가질 수 있다. 일 예로, 32x32 크기의 부호화 유닛이 4개의 부호화 유닛으로 분할 될 경우, 분할된 4개의 부호화 유닛은 각각 16x16의 크기를 가질 수 있다. 하나의 부호화 유닛이 4개의 부호화 유닛으로 분할 될 경우, 부호화 유닛은 쿼드트리(quad-tree) 형태로 분할되었다고 할 수 있다.

예를 들어, 하나의 부호화 유닛이 2개의 부호화 유닛으로 분할 될 경우, 분할된 2개의 부호화 유닛의 가로 혹은 세로 크기는 분할되기 전 부호화 유닛의 가로 혹은 세로 크기와 비교하여 절반의 크기를 가질 수 있다. 일 예로, 32x32 크기의 부호화 유닛이 2개의 부호화 유닛으로 세로로 분할 될 경우, 분할된 2개의 부호화 유닛은 각각 16x32의 크기를 가질 수 있다. 일 예로, 32x32 크기의 부호화 유닛이 2개의 부호화 유닛으로 가로로 분할 될 경우, 분할된 2개의 부호화 유닛은 각각 32x16의 크기를 가질 수 있다. 하나의 부호화 유닛이 2개의 부호화 유닛으로 분할 될 경우, 부호화 유닛은 이진트리(binary-tree) 형태로 분할되었다고 할 수 있다.

도 3을 참조하면, 깊이가 0인 LCU는 64x64 화소들일 수 있다. 0은 최소 깊이일 수 있다. 깊이가 3인 SCU는 8x8 화소들일 수 있다. 3은 최대 깊이일 수 있다. 이때, LCU인 64x64 화소들의 CU는 깊이 0으로 표현될 수 있다. 32x32 화소들의 CU는 깊이 1로 표현될 수 있다. 16x16 화소들의 CU는 깊이 2로 표현될 수 있다. SCU인 8x8 화소들의 CU는 깊이 3으로 표현될 수 있다.

또한, CU가 분할되는지 여부에 대한 정보는 CU의 분할 정보를 통해 표현될 수 있다. 분할 정보는 1비트의 정보일 수 있다. SCU를 제외한 모든 CU는 분할 정보를 포함할 수 있다. 예를 들면, 분할 정보의 값이 0이면, CU가 분할되지 않을 수 있고, 분할 정보의 값이 1이면, CU가 분할될 수 있다.

도 4는 부호화 유닛(CU)이 포함할 수 있는 예측 유닛(PU)의 형태를 도시한 도면이다.

LCU로부터 분할된 CU 중 더 이상 분할되지 않는 CU는 하나 이상의 예측 유닛(Prediction Unit; PU)들로 나뉘어질 수 있다. 이러한 처리 또한 분할로 칭해질 수 있다.

PU는 예측에 대한 기본 단위일 수 있다. PU는 스킵(skip) 모드, 화면 간 모드 및 화면 내 모드 중 어느 하나로 부호화 및 복호화될 수 있다. PU는 모드에 따라서 다양한 형태로 분할될 수 있다.

또한, 부호화 유닛은 예측 유닛으로 분할되지 않고, 부호화 유닛과 예측 유닛은 동일한 크기를 가질 수 있다.

도 4에서 도시된 것과 같이, 스킵 모드에서는, CU 내에 분할이 존재하지 않을 수 있다. 스킵 모드에서는 분할 없이 CU와 동일한 크기를 갖는 2Nx2N 모드(410)가 지원될 수 있다.

화면 간 모드에서는, CU 내에서 8가지로 분할된 형태들이 지원될 수 있다. 예를 들면, 화면 간 모드에서는 2Nx2N 모드(410), 2NxN 모드(415), Nx2N 모드(420), NxN 모드(425), 2NxnU 모드(430), 2NxnD 모드(435), nLx2N 모드(440) 및 nRx2N 모드(445)가 지원될 수 있다. 화면 내 모드에서는, 2Nx2N 모드(410) 및 NxN 모드(425)가 지원될 수 있다.

하나의 부호화 유닛은 하나 이상의 예측 유닛으로 분할될 수 있고, 하나의 예측 유닛도 하나 이상의 예측 유닛으로 분할 될 수 있다.

예를 들어, 하나의 예측 유닛이 4개의 예측 유닛으로 분할 될 경우, 분할된 4개의 예측 유닛의 가로 및 세로 크기는 분할되기 전 예측 유닛의 가로 및 세로 크기와 비교하여 각각 절반의 크기를 가질 수 있다. 일 예로, 32x32 크기의 예측 유닛이 4개의 예측 유닛으로 분할 될 경우, 분할된 4개의 예측 유닛은 각각 16x16의 크기를 가질 수 있다. 하나의 예측 유닛이 4개의 예측 유닛으로 분할 될 경우, 예측 유닛은 쿼드트리(quad-tree) 형태로 분할되었다고 할 수 있다.

예를 들어, 하나의 예측 유닛이 2개의 예측 유닛으로 분할 될 경우, 분할된 2개의 예측 유닛의 가로 혹은 세로 크기는 분할되기 전 예측 유닛의 가로 혹은 세로 크기와 비교하여 절반의 크기를 가질 수 있다. 일 예로, 32x32 크기의 예측 유닛이 2개의 예측 유닛으로 세로로 분할 될 경우, 분할된 2개의 예측 유닛은 각각 16x32의 크기를 가질 수 있다. 일 예로, 32x32 크기의 예측 유닛이 2개의 예측 유닛으로 가로로 분할 될 경우, 분할된 2개의 예측 유닛은 각각 32x16의 크기를 가질 수 있다. 하나의 예측 유닛이 2개의 예측 유닛으로 분할 될 경우, 예측 유닛은 이진트리(binary-tree) 형태로 분할되었다고 할 수 있다.

도 5는 부호화 유닛(CU)이 포함할 수 있는 변환 유닛(TU)의 형태를 도시한 도면이다.

변환 유닛(Transform Unit; TU)은 CU 내에서 변환, 양자화, 역변환 및 역양자화의 과정을 위해 사용되는 기본 단위일 수 있다. TU는 정사각형 형태 또는 직사각형 등의 형태를 가질 수 있다. TU는 CU의 크기 및/또는 형태에 의존적으로(dependent) 결정될 수도 있다.

LCU로부터 분할된 CU 중, 더 이상 CU들로 분할되지 않는 CU는 하나 이상의 TU들로 분할될 수 있다. 이때, TU의 분할 구조는 쿼드트리(quad-tree) 구조일 수 있다. 예컨대, 도 5에서 도시된 것과 같이, 하나의 CU(510)가 쿼드트리 구조에 따라서 한 번 혹은 그 이상 분할될 수 있다. 하나의 CU가 한 번 이상으로 분할 될 경우 재귀적으로 분할된다고 할 수 있다. 분할을 통해, 하나의 CU(510)는 다양한 크기의 TU들로 구성될 수 있다. 또는, CU를 분할하는 수직 선(vertical line) 및/또는 수평 선(horizontal line)의 개수에 기초하여 하나 이상의 TU로 분할될 수도 있다. CU는 대칭형의 TU로 분할될 수도 있고, 비대칭형의 TU로 분할될 수도 있다. 비대칭형의 TU로의 분할을 위해 TU의 크기/형태에 관한 정보가 시그널링될 수도 있고, CU의 크기/형태에 관한 정보로부터 유도될 수도 있다.

또한, 부호화 유닛은 변환 유닛으로 분할되지 않고, 부호화 유닛과 변환 유닛은 동일한 크기를 가질 수 있다.

하나의 부호화 유닛은 하나 이상의 변환 유닛으로 분할될 수 있고, 하나의 변환 유닛도 하나 이상의 변환 유닛으로 분할 될 수 있다.

예를 들어, 하나의 변환 유닛이 4개의 변환 유닛으로 분할 될 경우, 분할된 4개의 변환 유닛의 가로 및 세로 크기는 분할되기 전 변환 유닛의 가로 및 세로 크기와 비교하여 각각 절반의 크기를 가질 수 있다. 일 예로, 32x32 크기의 변환 유닛이 4개의 변환 유닛으로 분할 될 경우, 분할된 4개의 변환 유닛은 각각 16x16의 크기를 가질 수 있다. 하나의 변환 유닛이 4개의 변환 유닛으로 분할 될 경우, 변환 유닛은 쿼드트리(quad-tree) 형태로 분할되었다고 할 수 있다.

예를 들어, 하나의 변환 유닛이 2개의 변환 유닛으로 분할 될 경우, 분할된 2개의 변환 유닛의 가로 혹은 세로 크기는 분할되기 전 변환 유닛의 가로 혹은 세로 크기와 비교하여 절반의 크기를 가질 수 있다. 일 예로, 32x32 크기의 변환 유닛이 2개의 변환 유닛으로 세로로 분할 될 경우, 분할된 2개의 변환 유닛은 각각 16x32의 크기를 가질 수 있다. 일 예로, 32x32 크기의 변환 유닛이 2개의 변환 유닛으로 가로로 분할 될 경우, 분할된 2개의 변환 유닛은 각각 32x16의 크기를 가질 수 있다. 하나의 변환 유닛이 2개의 변환 유닛으로 분할 될 경우, 변환 유닛은 이진트리(binary-tree) 형태로 분할되었다고 할 수 있다.

변환 수행 시 잔여 블록을 기-정의된 복수의 변환 방법 중 적어도 하나를 사용하여 변환 시킬 수 있다. 일예로, 기-정의된 복수의 변환 방법으로 DCT(Discrete Cosine Transform), DST(Discrete Sine Transform) 또는 KLT 등이 이용될 수 있다. 잔여 블록을 변환하기 위해 어떤 변환 방법이 적용되는지는 예측 유닛의 화면 간 예측 모드 정보, 화면 내 예측 모드 정보, 변환 블록의 크기/형태 중 적어도 하나를 이용하여 결정될 수도 있고, 일정한 경우 변환 방법을 지시하는 정보가 시그널링될 수도 있다.

도 6은 화면 내 예측 과정의 실시예를 설명하기 위한 도면이다.

화면 내 예측 모드는 비방향성 모드 또는 방향성 모드일 수 있다. 비방향성 모드는 DC 모드 또는 Planar 모드일 수 있으며, 방향성 모드는 특정한 방향 또는 각도를 가지는 예측 모드로 개수는 하나 이상의 M개 일 수 있다. 상기 방향성 모드는 모드 번호, 모드 값, 모드 숫자, 모드 각도 중 적어도 하나로 표현될 수 있다.

화면 내 예측 모드의 개수는 상기 비방향성 및 방향성 모드를 포함하는 하나 이상의 N개 일 수 있다.

화면 내 예측 모드의 개수는 블록의 크기에 따라 다를 수 있다. 예를 들어, 블록의 크기가 4x4 또는 8x8 인 경우에는 67개, 16x16인 경우에는 35개, 32x32인 경우에는 19개, 64x64인 경우에는 7개 일 수 있다.

화면 내 예측 모드의 개수는 블록의 크기에 관계없이 N개로 고정될 수 있다. 예를 들어, 블록의 크기에 관계없이 35개 또는 67개 중 적어도 하나로 고정될 수 있다.

화면 내 예측 모드의 개수는 색 성분(color component)의 타입에 따라 상이할 수 있다. 예를 들면, 색 성분이 휘도(luma) 신호인지 아니면 색차(chroma) 신호인지에 따라 예측 모드의 개수가 다를 수 있다.

화면 내 부호화 및/또는 복호화는 주변의 복원된 블록에 포함되는 샘플 값 또는 부호화 파라미터를 이용하여 수행될 수 있다.

현재 블록을 화면 내 예측으로 부호화/복호화 하기 위해 주변의 복원된 블록에 포함되는 샘플들이 부호화/복호화 대상 블록의 참조 샘플로 이용 가능한지 여부를 검사하는 단계가 수행될 수 있다. 부호화/복호화 대상 블록의 참조 샘플로 이용할 수 없는 샘플들이 존재할 경우, 주변의 복원된 블록에 포함된 샘플들 중 적어도 하나 이상을 이용하여 참조 샘플로 이용할 수 없는 샘플들에 샘플 값을 복사 및/또는 보간(interpolation)하여 부호화/복호화 대상 블록의 참조 샘플로 이용할 수 있다.

화면 내 예측 시 화면 내 예측 모드 및 부호화/복호화 대상 블록의 크기 중 적어도 하나 이상에 기반하여 참조 샘플 또는 예측 샘플 중 적어도 하나에 필터를 적용할 수 있다. 이때, 부호화/복호화 대상 블록은 현재 블록을 의미할 수 있으며, 부호화 블록, 예측 블록, 변환 블록 중 적어도 하나 이상을 의미할 수 있다. 참조 샘플 또는 예측 샘플에 적용되는 필터의 종류는 현재 블록의 화면 내 예측 모드 또는 크기/형태 중 적어도 하나 이상에 따라 상이할 수 있다. 상기 필터의 종류는 필터 탭 수, 필터 계수 값 또는 필터 강도 중 적어도 하나 이상에 따라 다를 수 있다.

화면 내 예측 모드 중 비방향성 플래너(Planar) 모드는 대상 부호화/복호화 블록의 예측 블록을 생성할 때, 예측 블록 내 샘플값을 샘플 위치에 따라 현재 샘플의 상단 참조 샘플, 현재 샘플의 좌측 참조 샘플, 현재 블록의 우상단 참조 샘플 현재 블록의 좌하단 참조 샘플의 가중치 합으로 생성할 수 있다.

화면 내 예측 모드 중 비방향성 DC 모드는 대상 부호화/복호화 블록의 예측 블록을 생성할 때, 현재 블록의 상단 참조 샘플들과 현재 블록의 좌측 참조 샘플들의 평균 값으로 생성 할 수 있다. 또한, 부호화/복호화 블록 내 참조 샘플과 인접한 하나 또는 그 이상의 상단 행들 및 하나 또는 그 이상의 왼쪽 열들에 대해서는 참조 샘플 값들을 이용하여 필터링을 수행 할 수도 있다.

화면 내 예측 모드 중 복수개의 방향성 모드(angular mode)들의 경우 우상단 및/또는 좌하단 참조 샘플을 이용하여 예측 블록을 생성 할 수 있으며 방향성 모드는 서로 다른 방향성을 가질 수 있다. 예측 샘플 값 생성을 위해 실수 단위의 보간(interpolation)을 수행 할 수도 있다.

화면 내 예측 방법을 수행하기 위해 현재 예측 블록의 화면 내 예측 모드는 현재 예측 블록의 주변에 존재하는 예측 블록의 화면 내 예측 모드로부터 예측할 수 있다. 주변 화면 내 예측 모드로부터 예측된 모드 정보를 이용하여 현재 예측 블록의 화면 내 예측 모드를 예측하는 경우, 현재 예측 블록과 주변 예측 블록의 화면 내 예측 모드가 동일하면 소정의 플래그 정보를 이용하여 현재 예측 블록과 주변 예측 블록의 화면 내 예측 모드가 동일하다는 정보를 시그널링할 수 있고, 만약 현재 예측 블록과 주변 예측 블록의 화면 내 예측 모드가 상이하면 엔트로피 부호화를 수행하여 부호화/복호화 대상 블록의 화면 내 예측 모드 정보를 부호화할 수 있다.

도 7는 본 발명의 일 실시예에 따라, 현재 블록에 대해 화면 내 예측을 수행하는 방법을 설명하기 위한 도면이다.

도 7에 도시된 바와 같이, 화면 내 예측은 화면 내 예측 모드 유도 단계(S1210), 참조 샘플 구성 단계(S1220) 및/또는 화면 내 예측 수행 단계(S1230)를 포함할 수 있다.

화면 내 예측 모드 유도 단계(S1210)에서, 주변 블록의 화면 내 예측 모드를 이용하거나, 현재 블록의 화면 내 예측 모드를 비트스트림으로부터 복호화(예컨대, 엔트로피 복호화)하거나, 및/또는 주변 블록의 부호화 파라미터를 이용하여 현재 블록의 화면 내 예측 모드를 유도할 수 있다. 또는, 화면 내 예측 모드 유도 단계(S1210)에서, 주변 블록의 화면 내 예측 모드, 주변 블록의 하나 이상의 화면 내 예측 모드의 조합 및/또는 MPM 을 이용하여 유도된 화면 내 예측 모드를 이용하여 현재 블록의 화면 내 예측 모드를 유도할 수 있다.

참조 샘플 구성 단계(S1220)는 참조 샘플 선택 단계 및/또는 참조 샘플 필터링 단계를 수행하여 참조 샘플을 구성할 수 있다.

화면 내 예측 수행 단계(S1230)에서, 비방향성 예측, 방향성 예측, 위치 정보 기반 예측 및/또는 휘도/색차 신호 기반 예측을 이용하여 현재 블록의 화면 내 예측을 수행할 수 있다. 화면 내 예측 수행 단계(S1230)는 예측 샘플에 대한 필터링을 추가적으로 수행할 수 있다. 방향성 예측을 수행하는 경우, 하나 이상의 샘플 단위에 따라 다른 방향성 예측을 수행할 수 있다. 예를 들어, 하나 이상의 샘플 단위는 단일 샘플, 샘플 그룹, 라인 및/또는 서브 블록일 수 있다.

이하에서, 화면 내 예측 모드 유도 단계(S1210)에 대해, 보다 상세히 설명한다.

전술한 바와 같이, 현재 블록에 대한 화면 내 예측 모드를 유도하기 위해, 하나 이상의 주변 블록의 화면 내 예측 모드를 이용하는 방법, 현재 블록의 화면 내 예측 모드를 비트스트림으로부터 복호화하는 방법, 주변 블록의 부호화 파라미터를 이용하는 방법 중 적어도 하나 이상을 이용할 수 있다. 이때, 주변 블록은 현재 블록의 부호화/복호화 이전에 복원된 하나 이상의 블록일 수 있다.

상기 주변 블록이 픽처, 슬라이스, 타일, CTU(Coding Tree Unit) 등 중 적어도 하나의 소정 유닛의 경계 밖에 위치하거나, PCM 모드 또는 화면 간 예측이 적용된 경우, 해당 주변 블록은 가용하지 않은 것으로 판단될 수 있다. 가용하지 않은 주변 블록에 해당하는 화면 내 예측 모드는 DC 모드, Planar 모드 또는 소정의 화면 내 예측 모드로 대체될 수 있다.

현재 블록의 크기는 W x H 일 수 있다. W 및 H 는 각각 양의 정수이며, 동일하거나 상이할 수 있다. W 및/또는 H는 예컨대, 2, 4, 8, 16, 32, 64, 128, 256, 512 중 적어도 하나일 수 있다.

도 8은 주변 블록으로부터 현재 블록의 화면 내 예측 모드를 유도하는 방법을 설명하기 위한 도면이다.

도 8에 있어서, 주변 블록에 표시된 a~k는 해당 주변 블록의 화면 내 예측 모드 또는 모드 번호를 의미할 수 있다. 현재 블록의 화면 내 예측 모드를 유도하기 위해 이용되는 주변 블록의 위치는 기정의된 고정 위치일 수 있다. 또는 상기 주변 블록의 위치에 관한 정보가 부/복호화를 통해 유도될 수 있다. 본 명세서에서 부/복호화는 엔트로피 부호화 및 복호화를 포함하는 의미로 사용될 수 있다.

주변 블록의 화면 내 예측 모드를 이용하는 경우, 주변 블록의 소정의 모드를 현재 블록의 화면 내 예측 모드로 유도할 수 있다. 예컨대, 현재 블록의 소정 위치에 인접한 주변 블록의 화면 내 예측 모드 i, f, b, g, k, j, l 또는 e를 현재 블록의 화면 내 예측 모드로 유도할 수 있다. 상기 소정의 위치는 비트스트림으로부터 부/복호화되거나 또는 부호화 파라미터에 기초하여 유도될 수 있다.

또는 현재 블록의 주변 블록들 중 하나 이상의 주변 블록들이 선택될 수 있다. 상기 선택은 비트스트림을 통해 명시적으로 시그널링되는 정보에 기초하여 수행될 수 있다. 또는 상기 선택은 부호화기와 복호화기에서 미리 설정된 기준에 따라 수행될 수 있다. 선택된 하나 이상의 주변 블록들의 화면 내 예측 모드들로부터 현재 블록의 화면 내 예측 모드가 유도될 수 있다. 예컨대, 현재 블록의 화면 내 예측 모드는 선택된 주변 블록들의 화면 내 예측 모드들의 통계값을 이용하여 유도될 수 있다. 예컨대, 통계값은 최소값, 최대값, 평균값, 가중 평균값, 최빈값 및/또는 중간값(median value)을 포함할 수 있다.

예컨대, 주변 블록들의 화면 내 예측 모드들 b, f, g, i, j의 일부 또는 전부의 통계값을 현재 블록의 화면 내 예측 모드로 유도할 수 있다.

또는, 하나 이상의 주변 블록의 화면 내 예측 모드를 조합함으로써 현재 블록의 화면 내 예측 모드를 유도할 수 있다. 화면 내 예측 모드는 모드 번호, 모드 값, 모드 각도 중 적어도 하나 이상으로 표현될 수 있다. 예를 들어, 주변 블록의 하나 이상의 화면 내 예측 모드의 평균을 현재 블록의 화면 내 예측 모드로 유도할 수 있다. 두 개의 화면 내 예측 모드의 평균은 두 개의 모드 번호의 중간 번호, 두 개의 모드 값의 중간 값, 두 개의 모드 각도의 중간 각도 중 적어도 하나를 의미할 수 있다.

예를 들어, 현재 블록의 (0, 0) 샘플의 좌측과 상단에 인접한 샘플이 속한 주변 블록의 화면 내 예측 모드인 i 와 f의 모드 값의 평균에 해당하는 모드를 현재 블록의 화면 내 예측 모드로 유도할 수 있다. 예를 들어, 현재 블록의 화면 내 예측 모드 Pred_mode는 아래의 수학식 1의 (1) 내지 (3) 중 적어도 하나의 방법으로 유도될 수 있다.

또는, 주변 블록의 화면 내 예측 모드 i가 비방향성 모드인 경우, 현재 블록의 화면 내 예측 모드를 i로 유도할 수 있다. 또는, 주변 블록의 화면 내 예측 모드 f가 방향성 모드인 경우, 현재 블록의 화면 내 예측 모드를 f로 유도할 수 있다.

또는, 현재 블록의 화면 내 예측 모드는 주변 블록들의 화면 내 예측 모드들인 b, f, g, i, j 의 모드 값 중 적어도 하나 이상의 평균에 해당하는 모드로 유도할 수 있다. 예를 들어, 현재 블록의 화면 내 예측 모드 Pred_mode는 아래의 수학식 2의 (1) 내지 (4) 중 적어도 하나의 방법으로 유도될 수 있다.

또는, 인접한 주변 블록의 가용한 화면 내 예측 모드의 평균에 해당하는 모드를 현재 블록의 화면 내 예측 모드로 유도할 수 있다. 예를 들어, 현재 블록의 왼쪽 주변 블록이 픽처, 타일, 슬라이스 및/또는 CTU의 경계의 밖에 위치하거나, PCM 모드 또는 화면 간 모드 중 적어도 하나에 해당되어 가용하지 않은 경우, 위쪽 주변 블록들의 화면 내 예측 모드들(예컨대, f와 g)의 통계값에 해당하는 모드를 현재 블록의 화면 내 예측 모드로 유도할 수 있다.

예컨대, 주변 블록들의 화면 내 예측 모드들의 통계값으로서, 가중 평균 또는 가중합이 이용될 수 있다. 이 때, 가중치는 주변 블록의 화면 내 예측 모드의 방향성에 기초하여 부여될 수 있다. 예를 들어, 상대적으로 큰 가중치가 부여되는 모드들이 미리 정의되거나 시그널링될 수 있다. 예컨대, 상대적으로 큰 가중치가 부여되는 모드들은 수직 방향 모드, 수평 방향 모드, 비방향성 모드 중 적어도 하나 이상일 수 있다. 이들 모드들에 대해서는 동일한 가중치가 부여되거나 상이한 가중치가 부여될 수 있다. 예를 들어, 현재 블록의 화면 내 예측 모드 Pred_mode는 아래의 수학식 3을 이용하여 모드 i와 f의 가중합으로 유도될 수 있다. 아래의 수학식 3에서 모드 f는 상대적으로 큰 가중치가 부여되는 모드(예컨대, 수직 방향 모드)일 수 있다.

또는, 가중합에 이용될 가중치는 주변 블록의 크기에 기초하여 결정될 수 있다. 예를 들어, 현재 블록의 상단에 인접한 블록의 크기가 좌측에 인접한 블록의 크기보다 큰 경우, 상단에 인접한 블록의 화면 내 예측 모드에 보다 큰 가중치를 부여할 수 있다. 또는, 크기가 작은 주변 블록의 화면 내 예측 모드에 더 큰 가중치를 부여할 수도 있다.

또는, 주변 블록의 하나 이상의 화면 내 예측 모드가 비방향성 모드인 경우, 상기 비방향성 모드를 현재 블록의 화면 내 예측 모드로 유도할 수 있다. 또는, 상기 비방향성 모드를 제외한 주변 블록의 화면 내 예측 모드를 이용하여 현재 블록의 화면 내 예측 모드를 유도할 수 있다. 주변 블록의 화면 내 예측 모드가 모두 비방향성 모드인 경우, 현재 블록의 화면 내 예측 모드를 DC 모드 또는 Planar 모드 중 적어도 하나로 유도할 수 있다.

또는, 현재 블록의 화면 내 예측 모드는 주변 블록의 화면 내 예측 모드에 기초한 MPM(Most Probable Mode)을 이용하여 유도될 수 있다. MPM을 이용하는 경우, 현재 블록의 화면 내 예측 모드에 관한 하나 이상의 정보가 부/복호화될 수 있다.

MPM을 이용하는 경우, MPM 리스트가 구성될 수 있다. MPM 리스트는 주변 블록의 화면 내 예측 모드에 기초하여 유도된 화면 내 예측 모드를 포함할 수 있다. MPM 리스트는 N개의 후보 모드를 포함할 수 있다. N은 양의 정수이며, 현재 블록의 크기 및/또는 형태에 따라 값이 달라질 수 있다. 또는, N에 관한 정보가 비트스트림을 통해 시그널링될 수 있다.

예를 들어, 상기 하나 이상의 주변 블록의 화면 내 예측 모드를 이용하여 유도한 현재 블록의 화면 내 예측 모드는 상기 MPM 리스트에 포함되는 후보 모드일 수 있다.

도 8에 도시된 예에서, 현재 블록에 인접한 (-1, H-1), (W-1, -1), (W, -1), (-1, H), (-1, -1) 샘플 위치의 주변 블록의 화면 내 예측 모드들을 이용할 수 있으며, 예컨대, j, g, Planar, DC, l, k, b 의 순서로 MPM 리스트가 구성될 수 있다. 또는, i, f, Planar, DC, l, k, b의 순서로 MPM 리스트가 구성될 수 있다. 이때, 중복되는 모드는 MPM 리스트에 한번만 포함될 수 있다. 중복되는 모드가 존재하여 MPM 리스트가 모두 채워지지 않는 경우, 리스트에 포함된 모드에 기초하여 추가적인 후보 모드를 리스트에 포함시킬 수 있다. 예컨대, 리스트에 포함된 모드의 +N 또는 -N(N은 양의 정수, 예컨대, 1)에 해당하는 모드를 리스트에 추가할 수 있다. 또는 수평 모드, 수직 모드, 45도 모드, 135도 모드, 225도 모드 중 리스트에 포함되지 않은 적어도 하나 이상의 모드를 리스트에 추가할 수 있다.

상기 유도된 MPM 리스트에 현재 블록의 화면 내 예측 모드와 동일한 모드가 존재하는지 여부를 나타내는 지시자(예컨대, prev_intra_luma_pred_flag)가 비트스트림에 부호화되어 있거나, 비트스트림으로부터 복호화될 수 있다.

상기 지시자가 현재 블록의 화면 내 예측 모드와 동일한 모드가 MPM 리스트에 존재함을 나타내는 경우, MPM 리스트에 포함된 모드 중 어떤 모드인지를 나타내는 인덱스 정보(예컨대, mpm_idx)가 비트스트림에 부호화되거나 비트스트림으로부터 복호화될 수 있다. 복호화된 인덱스 정보에 기초하여 현재 블록의 화면 내 예측 모드가 유도될 수 있다.

상기 지시자가 현재 블록의 화면 내 예측 모드와 동일한 모드가 MPM 리스트에 존재하지 않음을 나타내는 경우, 현재 블록의 화면 내 예측 모드에 관한 정보가 비트스트림에 부호화되거나 비트스트림으로부터 복호화될 수 있다. 복호화된 현재 블록의 화면 내 예측 모드에 관한 정보에 기초하여 현재 블록의 화면 내 예측 모드를 유도할 수 있다. 이때, MPM 리스트에 포함되지 않은 화면 내 예측 모드들은 오름 차순 또는 내림 차순 중 적어도 하나로 정렬될 수 있다. 또는 상기 MPM 리스트에 포함되지 않은 화면 내 예측 모드들 중 하나 이상을 선택하여 하나 이상의 그룹을 구성할 수 있다. 예를 들어, 상기 MPM 리스트에 포함된 화면 내 예측 모드의 +N 또는 -N(N은 양의 정수, 예컨대, 1, 2, 3)에 해당하는 모드를 이용하여 하나의 그룹을 구성할 수 있다. 이때, 상기 그룹은 소정의 개수(예컨대, 8, 16)에 해당하는 화면 내 모드로 구성될 수 있으며, 상기 그룹에 포함된 모드는 MPM 리스트에 포함되지 않는 모드일 수 있다.

또는 상기 유도한 MPM 리스트의 소정의 후보를 상기 현재 블록의 화면 내 예측 모드로 유도할 수 있다. 예를 들어, 현재 블록의 화면 내 예측 모드를 MPM 리스트의 첫번째인 리스트 0에 해당하는 모드로 유도할 수 있다. 또는, 리스트내의 소정의 모드에 해당하는 인덱스를 부/복호화하여 해당 모드를 현재 블록의 화면 내 예측 모드로 유도할 수 있다.

상기 MPM 리스트를 구성함에 있어, 소정 크기의 블록에 대해 하나의 MPM 리스트를 구성할 수 있다. 상기 소정 크기의 블록이 다시 복수의 서브 블록들로 분할되는 경우, 복수의 서브 블록들의 각각은 상기 구성된 MPM 리스트를 이용할 수 있다.

예를 들어, 현재 블록이 상기 소정 크기의 블록에 해당하는 경우, 현재 블록에 대한 MPM 리스트를 구성할 수 있다. 현재 블록이 하나 이상의 서브 블록으로 분할되는 경우, 서브 블록들의 각각은 상기 구성된 MPM 리스트를 이용하여 서브 블록의 각각에 대한 화면 내 예측 모드를 유도할 수 있다.

상기 MPM 리스트를 구성함에 있어, 소정 크기의 블록을 분할하여 생성된 서브 블록들에 대한 MPM 리스트는 상기 소정 크기의 블록을 기준으로 각각 구성될 수 있다.

예를 들어, 현재 블록이 상기 소정 크기의 블록에 해당하는 경우, 상기 현재 블록의 주변 블록의 화면 내 예측 모드를 이용하여 현재 블록 내의 각 서브 블록에 대한 MPM 리스트를 구성할 수 있다.

또는 현재 블록의 화면 내 예측 모드는 상기 MPM을 이용하여 유도한 현재 블록의 화면 내 예측 모드와 주변 블록의 화면 내 예측 모드 중 적어도 하나 이상을 이용하여 유도될 수 있다.

예를 들어, 상기 MPM을 이용하여 유도한 현재 블록의 화면 내 예측 모드가 Pred_mpm일때, 주변 블록의 하나 이상의 화면 내 예측 모드를 이용하여 상기 Pred_mpm을 소정의 모드로 변경함으로써 현재 블록의 화면 내 예측 모드를 유도할 수 있다.

예를 들어, 주변 블록의 화면 내 예측 모드와 크기를 비교하여 Pred_mpm을 N 만큼 증가 또는 감소시킬 수 있다. 이때, N은 +1, +2, +3, 0, -1, -2, -3 등 소정의 정수일 수 있다. 예컨대, Pred_mpm이 주변 블록의 화면 내 예측 모드 및/또는 하나 이상의 주변 블록의 화면 내 예측 모드들의 통계값보다 작은 경우, Pred_mpm을 증가시킬 수 있다. 또는, Pred_mpm이 주변 블록의 화면 내 예측 모드보다 큰 경우, Pred_mpm을 감소시킬 수 있다. 또는, Pred_mpm 및/또는 Pred_mpm과 비교되는 값에 기초하여 유도될 수 있다.

도 8에 도시된 예에서, 예를 들어, 상기 Pred_mpm이 f의 모드 값보다 작은 경우, Pred_mpm + 1을 현재 블록의 화면 내 예측 모드로 유도할 수 있다. 또는, 상기 Pred_mpm이 f 와 i의 평균값보다 작은 경우, Pred_mpm + 1을 현재 블록의 화면 내 예측 모드로 유도할 수 있다. 또는, 상기 Pred_mpm이 f 와 i의 평균값보다 작은 경우, 상기 Pred_mpm과 상기 평균 값의 차이의 1/2를 증가할 수 있다. 예를 들어, Pred_mpm + {((f + i + 1) >> 1 - Pred_mpm + 1)>>1} 을 현재 블록의 화면 내 예측 모드로 유도할 수 있다.

또는, 상기 Pred_mpm과 주변 블록의 모드 중 하나가 비방향성 모드이고 다른 하나가 방향성 모드인 경우, 상기 비방향성 모드를 현재 블록의 화면 내 예측 모드로 유도하거나 상기 방향성 모드를 현재 블록의 화면 내 예측 모드로 유도할 수 있다.

전술한 바와 같이, 현재 블록의 화면 내 예측 모드는 부/복호화를 통해 유도될 수 있다. 이때, 주변 블록의 화면 내 예측 모드는 이용되지 않을 수 있다. 예컨대, 현재 블록의 화면 내 예측 모드는 비트스트림을 엔트로피 부/복호화하여 유도될 수 있다.

예를 들어, 현재 블록이 하위 또는 서브 블록으로 분할되는 경우, 상기 현재 블록에 대한 화면 내 예측 모드를 유도하는 방법 중 적어도 하나 이상을 이용하여 상기 분할된 각각의 서브 블록에 대한 화면 내 예측 모드를 유도할 수 있다.

상기 현재 블록의 크기 및 서브 블록의 크기는 MxN일 수 있다. M과 N은 동일하거나 또는 상이한 양의 정수일 수 있다. 예를 들어 현재 블록 또는 서브 블록은 CTU, CU, SU(signalling unit), QTMax, QTMin, BTMax, BTMin, 4x4, 8x8, 16x16, 32x32, 64x64, 128x128, 256x256, 4x8, 8x16, 16x8, 32x64, 32x8, 4x32 등 중 적어도 하나일 수 있다. 이때, QTMax 및 QTMin은 각각 쿼트트리로 분할할 수 있는 최대 및 최소의 크기를 나타낼 수 있으며, BTMax 및 BTMin은 이진트리로 분할할 수 있는 최대 및 최소 크기를 나타낼 수 있다. 이하 서브 블록의 크기는 서브 블록의 분할 구조를 의미할 수 있다.

상기 서브 블록의 크기는 상기 현재 블록의 크기에 따라 달라질 수 있다. 예를 들어, 현재 블록의 가로 및 세로 크기의 N 등분에 해당하는 크기가 서브 블록의 크기일 수 있다. 이때, N은 양의 정수일 수 있으며 2, 4, 8, 16, 32, 64 중 적어도 하나일 수 있다. 예를 들어, 현재 블록의 크기가 32x32 이고 가로, 세로 각각에 대한 등분 N이 4인 경우, 서브 블록의 크기는 8x8일 수 있다.

또는, 상기 서브 블록의 크기는 상기 현재 블록의 크기에 관계없이 소정의 고정된 크기일 수 있다. 예를 들어, 서브 블록의 크기는 현재 블록의 크기에 관계없이 최소 크기일 수 있으며, 예를 들어 4x4일 수 있다.

또는, 상기 서브 블록의 크기는 상기 현재 블록의 주변 블록의 분할 구조에 기반하여 결정될 수 있다. 예를 들어, 인접한 주변 블록이 분할된 경우에 현재 블록을 분할하여 서브 블록의 크기가 결정될 수 있다.

상기 서브 블록의 크기는 상기 현재 블록의 주변 블록의 화면 내 예측 모드에 기반하여 결정될 수 있다. 예를 들어, 주변 블록의 화면 내 예측 모드가 상이한 경계를 기준으로 서브 블록을 분할하여 서브 블록의 크기가 결정될 수 있다.

상기 서브 블록의 크기는 주변 블록의 부호화 파라미터에 기반하여 결정될 수 있다. 예를 들어, 주변 블록이 화면 내 부호화 블록인지 화면 간 부호화 블록인지에 기반하여 서브 블록을 분할하여 결정할 수 있다.

상기 현재 블록의 크기, 서브 블록의 크기, 현재 블록에 대한 N 등분 값 중 적어도 하나 이상은 소정의 크기로 고정될 수 있다.

예를 들어, 상기 현재 블록의 고정된 소정의 크기가 16x16인 경우, 현재 블록의 크기가 16x16이면 현재 블록은 서브 블록으로 분할되고 각각의 서브 블록에 대한 화면 내 예측 모드를 유도할 수 있다.

예를 들어, 상기 현재 블록의 고정된 소정의 크기가 CTU이고 상기 N 등분 값이 4인 경우, 현재 블록의 크기가 CTU이면 CTU의 가로 및 세로를 4등분한 서브 블록 단위로 화면 내 예측 모드를 유도할 수 있다.

상기 하나 이상의 서브 블록은 더 작은 크기의 블록들로 분할될 수 있다. 예를 들어, 상기 현재 블록의 크기가 32x32이고 서브 블록의 크기가 16x16인 경우, 하나 이상의 서브 블록은 8x8, 4x4, 16x8, 4x16 등의 더 작은 블록들로 분할될 수 있다.

상기 현재 블록의 크기, 서브 블록의 크기, 현재 블록에 대한 N 등분 값 중 적어도 하나 이상은 부/복호화될 수 있다.

상기 현재 블록에 대한 서브 블록의 분할 구조는 부/복호화될 수 있다. 이때, 상기 분할된 서브 블록은 다양한 크기 및/또는 형태를 가질 수 있다. 또한, 각 서브 블록에 대해 화면 내 예측 모드를 유도할 수 있다.

현재 블록의 화면 내 예측 모드가 주변 블록의 화면 내 예측 모드를 이용하여 유도됨을 나타내는 지시자(예컨대, 플래그)가 부/복호화될 수 있다. 예를 들어, 상기 지시자는 NDIP_flag (Neighbouring mode Dependant Intra Prediction)일 수 있다. 상기 지시자는 현재 블록 또는 서브 블록 중 적어도 하나의 단위마다 부/복호화될 수 있다. 상기 지시자는 현재 블록 또는 서브 블록의 크기가 소정의 크기 또는 소정의 크기 범위에 해당하는 경우에만 부/복호화될 수 있다. 상기 소정의 크기는 예컨대, 64x64 또는 BTMax일 수 있다. 전술한 바와 같이, 현재 블록은 복수의 서브 블록들로 분할될 수 있다. 서브 블록의 분할 구조는 기정의 되거나 부/복호화에 의해 결정될 수 있다.

현재 블록에 대한 NDIP_flag 가 1인 경우, 현재 블록 또는 현재 블록 내의 각 서브 블록에 대한 화면 내 예측 모드는 주변 블록의 화면 내 예측 모드를 이용하여 유도될 수 있다. 이 경우, 현재 블록 및/또는 서브 블록에 대한 prev_intra_luma_pred_flag, mpm_idx, rem_intra_luma_pred_mode, intra_chroma_pred_mode, split_flag, QB_flag, quadtree_flag, binarytree_flag, Btype_flag 중 적어도 하나 이상의 정보는 부/복호화되지 않을 수 있다.

예를 들어, 현재 블록에 대한 NDIP_flag 가 1인 경우, 현재 블록에 대한 화면 내 예측 모드를 복호화한 후, 상기 복호화한 화면 내 예측 모드와 주변 블록의 화면 내 예측 모드를 이용하여 각 서브 블록에 대한 화면 내 예측 모드를 유도할 수 있다. 이때, 서브 블록에 대한 prev_intra_luma_pred_flag, mpm_idx, rem_intra_luma_pred_mode, intra_chroma_pred_mode, split_flag, QB_flag, quadtree_flag, binarytree_flag, Btype_flag 중 적어도 하나 이상의 정보는 부/복호화되지 않을 수 있다.

현재 블록에 대한 NDIP_flag 가 0인 경우, 현재 블록 또는 서브 블록의 화면 내 예측 모드 및 서브 블록의 분할 정보 중 적어도 하나 이상에 관련된 정보가 부/복호화될 수 있다.

현재 블록 내의 서브 블록들 중 제1 서브 블록에 대한 화면 내 예측 모드는 나머지 서브 블록들과 다른 방법으로 유도될 수 있다. 제1 서브 블록은 현재 블록 내의 복수의 서브 블록들 중 하나일 수 있다. 예컨대, 제1 서브 블록은 Z 스캔 순서 상 첫번째 서브 블록일 수 있다.

제1 서브 블록의 화면 내 예측 모드는 초기(initial) 모드를 의미할 수 있다. 예를 들어, 서브 블록에 대한 화면 내 예측 모드를 각 서브 블록의 왼쪽과 위쪽 블록의 화면 내 예측 모드의 평균으로 유도하는 경우, 상기 초기 모드는 다른 방법으로 유도될 수 있다. 상기 초기 모드를 유도하기 위한 다른 방법은 본 발명에 따른 화면 내 예측 모드를 유도하는 방법 중 적어도 하나일 수 있다.

예를 들어, MPM 리스트의 N번째(예컨대, 첫번째)에 존재하는 모드를 상기 초기 모드로 유도할 수 있다. 또는, 현재 블록 주변에 존재하는 하나 이상의 블록의 화면 내 예측 모드 중 가장 많이 발생하는 모드를 상기 초기 모드로 유도할 수 있다. 또는, 상기 현재 블록에 대해서 부/복호화한 화면 내 예측 모드를 상기 초기 모드로 유도할 수 있다. 또는, 상기 제1 서브 블록에 대해서 부/복호화한 화면 내 예측 모드를 상기 초기 모드로 유도할 수 있다.

현재 블록 내의 서브 블록에 대한 화면 내 예측 모드를 유도함에 있어 임의의 순서로 하나 이상의 서브 블록의 화면 내 예측 모드를 유도할 수 있다. 이때, 상기 임의의 순서는 스캐닝 순서일 수 있으며 래스터 스캔, 업라이트 스캔, 수직 스캔, 수평 스캔, 대각 스캔, 지그재그 스캔 중 적어도 하나에 해당할 수 있다. 상기 스캐닝 순서에 따라 화면 내 예측 모드를 유도하는 서브 블록의 개수는 1개 이상일 수 있다. 상기 임의의 순서는 주변 블록의 화면 내 예측 모드에 따라 적응적으로 결정될 수 있다.

이하에서, 참조 샘플 구성 단계(S1220)에 대해 보다 상세히 설명한다.

상기 현재 블록 또는 현재 블록보다 작은 크기 및/또는 형태를 가지는 서브 블록에 대한 화면 내 예측을 수행함에 있어, 예측을 위해 사용되는 참조 샘플을 구성할 수 있다. 이하에서는 현재 블록을 기준으로 설명하며 상기 현재 블록은 서브 블록을 의미할 수 있다. 상기 참조 샘플은 현재 블록 주변의 복원된 하나 이상의 샘플 또는 샘플 조합을 이용하여 구성할 수 있다. 추가적으로 상기 참조 샘플을 구성함에 있어 필터링이 적용될 수 있다. 이때 복수의 복원 샘플 라인 상의 각 복원 샘플들을 그대로 사용하여 참조 샘플을 구성할 수 있다. 또는, 동일 복원 샘플 라인 상의 샘플 간 필터링 후 참조 샘플을 구성할 수 있다. 또는, 서로 다른 복원 샘플 라인 상의 샘플 간 필터링 후 참조 샘플을 구성할 수 있다. 상기 구성된 참조 샘플은 ref[m, n], 주변의 복원된 샘플 또는 이를 필터링한 샘플은 rec[m, n]으로 나타낼 수 있다. 이때, 상기 m 또는 n은 소정의 정수 값일 수 있다.

도 9는 현재 블록의 화면 내 예측에 이용될 수 있는 주변의 복원 샘플 라인들을 예시적으로 도시한 도면이다.

복수의 복원 샘플 라인은, 예를 들어, 현재 블록의 좌측 및/또는 상단에 인접한 하나 이상의 복원 샘플 라인일 수 있다. 상기 하나 이상의 복원 샘플 라인을 이용하여 하나 이상의 참조 샘플을 구성할 수 있다. 도 9에 도시된 예에서, 4x4 크기의 현재 블록의 좌측 및/또는 상단에 인접한 복수의 복원 샘플 라인 중 적어도 하나의 복원 샘플 라인을 선택하여 현재 블록의 화면 내 부호화를 위한 참조 샘플을 구성할 수 있다. 이때, 좌측 및 상단의 참조 샘플은 동일한 또는 상이한 복원 샘플 라인을 이용하여 구성될 수 있다. 도 9에 도시된 예에서, 수평, 수직 및/또는 대각선 방향을 제외한 방향성 예측 모드의 경우, 하나의 복원 샘플 라인 상에 존재하는 하나 이상의 복원 샘플들을 이용하여 현재 블록의 참조 샘플들을 구성할 수 있다.

예를 들어, 현재 블록의 크기가 W(가로) x H(세로)인 경우, 현재 블록 내의 왼쪽 상단 샘플 위치는 (0, 0)일 때, 해당 샘플 위치를 기준으로 가장 근접한 왼쪽 상단의 참조 샘플의 상대적인 위치를 (-1, -1)로 설정할 수 있다. 현재 블록의 참조 샘플을 유도하기 위해, 주변의 하나 이상의 복원 샘플들의 가중합이 이용될 수 있다. 이 때, 복원 샘플에서 현재 블록까지의 거리 및 현재 블록의 화면 내 예측 모드에 따른 방향성이 고려될 수 있다.

예를 들어, 현재 블록에 인접한 하나 이상의 복원 샘플 라인들을 이용하여 현재 부호화 블록에 대한 참조 샘플을 구성할 때, 현재 블록으로부터의 거리 및 화면 내 예측 모드에 따른 방향성에 따라 서로 다른 가중치를 할당하여 참조 샘플을 구성할 수 있다. 아래의 수학식 4은 현재 블록과 인접한 2개의 복원 샘플 라인을 이용하여 가중합을 이용하여 참조 샘플을 구성하는 예를 보여준다. 상기 가중합은 현재 블록의 정보(화면 내 예측 모드, 크기, 형태 및/또는 분할 정보) 및/또는 주변 블록의 정보(화면 내 예측 모드, 크기, 형태, 분할 정보 등)에 기초하여 수행될 수 있다. 예컨대, 가중합에 적용되는 필터(예를 들어 3-탭 필터, 5-탭 필터, 7-탭 필터 및/또는 N-탭 필터)의 선택은 적어도 하나 이상의 상기 정보를 고려하여 수행될 수 있다.

또는, 현재 블록으로부터의 거리 또는 화면 내 예측 모드 중 적어도 하나에 기반하여 복수의 복원 샘플들의 평균값, 최대값, 최소값, 중간값, 최빈값 중 적어도 하나 이상의 값을 이용하여 참조 샘플을 구성할 수 있다. 이 때 사용되는 복수의 복원 샘플들은 각각의 복원 샘플 라인 또는 서로 다른 복원 샘플 라인상에서 필터링된 복원 샘플들일 수 있다.

또는, 동일한 복원 샘플 라인 및/또는 서로 다른 복원 샘플 라인상에서 연속하는 복수의 복원 샘플들의 값의 변화(변화량)에 기초하여 참조 샘플을 구성할 수 있다. 예컨대, 연속하는 두 개의 복원 샘플들의 값이 임계치 이상 차이나는지 여부, 연속하는 복수의 복원 샘플들의 값이 연속적으로 또는 불연속적으로 변하는지 여부 등 적어도 하나 이상에 기초하여 참조 샘플을 구성할 수 있다. 예컨대, rec[-1, -1]과 rec[-2, -1]이 임계치 이상 차이나는 경우, ref[-1, -1]은 rec[-1, -1]로 결정되거나, rec[-1, -1]에 소정의 가중치를 부여한 가중 평균을 적용한 값으로 결정될 수 있다. 예컨대, 연속하는 복수의 복원 샘플들의 값이 현재 블록에 가까워질수록 n씩 변하는 경우, 참조 샘플 ref[-1, -1] = rec[-1, -1]-n으로 결정될 수 있다.

예를 들어, 현재 블록에 인접한 하나 이상의 복원 샘플 라인들을 이용하여 현재 블록으로부터의 거리 및/또는 방향성에 따라 서로 다른 가중치를 할당하여 현재 부호화 블록에 대한 화면내 예측블록을 구성할 수 있다. 예를 들어, 현재 블록에 인접한 하나 이상의 복원 샘플 라인이 4개이고, 4개의 복원 샘플 라인이 모두 이용 가능하며, 현재 블록의 화면 내 예측 방향이 좌상단 대각 방향(45도)일 때, 도 9에 도시된 바와 같이, 4개의 복원 샘플들(rec[-4, -4], rec[-3, -3], rec[-2, -2], rec[-1, -1])의 가중합을 이용하여 현재 블록 내의 샘플 위치 (0, 0)에 대한 예측 샘플 Pred(0,0)을 유도할 수 있다. 이때 가중합을 수행하기 위해, 전술한 바와 같이, 현재 블록의 정보(화면 내 예측 모드, 크기, 형태 및/또는 분할 정보) 및/또는 주변 블록의 정보(화면 내 예측 모드, 크기, 형태 및/또는 분할 정보) 중 적어도 하나 이상에 기초하여 임의의 필터의 정밀도(precision)를 적응적으로 선택할 수 있다. 가중합의 수행이 적용되는 필터의 길이(Tap-length)는 사용된 하나 이상의 복원 샘플 라인의 수와 같거나 다를 수 있다. 예컨대, 도 9에 도시된 예에서, pred(0,0)은 아래의 수학식 5을 이용하여 유도될 수 있다.

상기 수학식 5에서, 가중치 w1 내지 w4의 합은 1일 수도 있고 1이 아닐 수도 있다. 또한, 각각의 가중치는 양수 또는 음수일 수 있다. 일예로, 가중합의 수행에 적용되는 필터의 정밀도를 4비트로 가정할 때, 소수 연산에 따른 라운딩 에러를 피하기 위해 쉬프트 연산을 수행할 수 있다. 예를 들어, 아래의 수학식 6에서, 가중치 w1은 1, w2는 2, w3는 5, w4는 8일 수 있다. 또한, 쉬프트(shift)는 4, 오프셋(offset)은 8 (1 << (shift-1))을 적용할 수 있다.

예를 들어, 상기 예측 샘플을 구성하기에 앞서 하나 이상의 복원 샘플들(rec[-1, -1], rec[-2, -2], rec[-3, -3], rec[-4, -4])은 각각의 복원 샘플 라인 또는 서로 다른 복원 샘플 라인 상의 적어도 하나 이상의 복원 샘플들을 이용하여 참조 샘플 필터링을 수행한 후, 필터링된 값을 사용하여 가중합을 계산할 수 있다. 이때 참조 샘플 필터링은 현재 블록의 정보(화면 내 예측 모드, 크기, 형태 및/또는 분할 정보) 및/또는 주변 블록의 정보(화면 내 예측 모드, 크기, 형태 및/또는 분할 정보) 중 적어도 하나 이상의 정보에 기초하여 임의의 필터 (예를 들어 3-tap 필터, 5-tap 필터, 7-tap 필터, N-tap 필터 중 적어도 하나 이상)를 선택적으로 적용하여 수행될 수 있다.

예를 들어, 현재 블록에 인접한 하나 이상의 복원 샘플 라인을 이용하여 예측 샘플을 구성할 때, 현재 블록으로부터의 거리 및/또는 화면 내 예측 모드에 따른 방향성을 고려하여 복원 샘플 라인상의 하나 이상의 복원된 샘플들의 평균값, 최대값, 최소값, 중간값 또는 최빈값 중 적어도 하나 이상을 이용하여 예측 샘플을 구성할 수 있다. 이때 사용되는 복수의 복원 샘플 라인 상의 복원 샘플들은 각각의 복원 샘플 라인 또는 서로 다른 복원 샘플 라인 상에서 참조 샘플 필터링을 수행한 후, 필터링된 값을 사용하여, 예측 블록을 생성하기 위한 평균값, 최대값, 최소값, 중간값 또는 최빈값을 계산할 수 있다.

예를 들어, 주변의 복원된 샘플 rec[m, n]로부터 현재 블록과 가장 유사한 복원 블록을 찾은 후, 여기서 얻어진 정보를 통해 화면 내 예측을 수행할 수 있다. 이때, 현재 블록과 유사한 블록에 대한 위치 정보 (m, n) 중 적어도 하나 이상은 엔트로피 부/복호화되거나, 또는 복호화기와 부호화기가 동일한 과정을 수행함으로써, 묵시적으로 유도할 수 있다.

예를 들어, 현재 블록과 가장 유사한 예측 블록을 복원 샘플들로부터 예측할 수 있으며, 현재 블록에 대한 잔차 신호는 현재 블록 및 주변의 복원 샘플들로부터 찾은 현재 블록과 가장 유사한 예측 블록간의 차분값를 이용하여 생성될 수 있다.

예를 들어, 현재 블록과 가장 유사한 예측 블록을 복원 샘플로부터 유도한 후, 이때 유도된 복원 샘플 주변의 하나 이상의 복원 샘플 라인을 현재 블록에 대한 참조 샘플로 이용할 수 있다. 또는, 현재 블록에 대한 하나 이상의 참조 샘플 라인 및 복원 샘플로부터 유도한 현재 블록과 가장 유사한 예측 블록 주변의 하나 이상의 참조 샘플 라인 중 적어도 하나 이상을 이용하여 현재 블록에 대한 참조 샘플을 유도할 수 있다.

일 예로, 현재 블록에 대해 허용된 하나 이상의 참조 샘플 라인에서 최적이라고 판단된 하나의 참조 샘플 라인과 복원 샘플로부터 유도한 현재 블록과 가장 유사한 예측 블록 주변의 하나 이상의 참조 샘플 라인 중 최적이라고 판단된 하나의 참조 샘플 라인의 가중치 합으로 현재 부호화 블록에 대한 참조샘플을 구성 할 수 있다.

일 예로, 현재 블록에 대해 허용된 하나 이상의 참조 샘플 라인들 중에서 선택된 하나의 참조 샘플 라인으로부터 현재 블록에 대한 상단 참조 샘플을 구성할 수 있다. 또한, 복원 샘플로부터 유도한 현재 블록과 가장 유사한 예측 블록 주변의 하나 이상의 참조 샘플 라인들 중에서 선택된 하나의 참조 샘플 라인으로부터 현재 블록에 대한 왼쪽 참조 샘플을 구성할 수 있다. 상기 선택된 하나의 참조 샘플 라인은 하나 이상의 참조 샘플 라인들 중에서 최적이라고 판단된 참조 샘플 라인일 수 있다.

예를 들어, 현재 블록에 대한 화면 내 예측을 수행하여 제1 잔차 신호를 획득하고, 이때 얻어진 최적 화면 내 예측 모드를 복원 샘플로부터 유도한 현재 블록과 가장 유사한 예측 블록에 대해 적용하여 제2 잔차 신호를 획득하고, 제1 잔차 신호와 제2 잔차 신호와의 차분값을 이용하여 현재 블록에 대한 잔차 신호를 생성할 수 있다.

상기 참조 샘플 라인의 길이는 상기 복원 샘플 라인마다 상이할 수 있다. 예를 들어, 복원 샘플 라인 n은 복원 샘플 라인 n-1보다 m개의 샘플만큼 길게 또는 짧게 구성될 수 있다.

또는, 상기 참조 샘플 라인의 각각은 화면 내 예측 모드에 따라 쉬프트됨으로써, 재구성될 수 있다. 예컨대, 화면 내 예측 모드에 의해 참조되는 위치에 참조 샘플이 존재하지 않는 경우, 참조 샘플이 위치할 수 있도록 해당 참조 샘플 라인을 쉬프트할 수 있다. 어떤 참조 샘플 라인을 쉬프트할지 또는 얼마만큼 쉬프트할지는 화면 내 예측 모드, 예측 각도 및/또는 참조 샘플 라인의 위치에 기초하여 결정될 수 있다.

전술한 바와 같이, 가장 가까운 참조 샘플 라인만을 이용하여 참조 샘플을 구성할지 또는 복수의 참조 샘플 라인들을 이용하여 참조 샘플을 구성할지 여부에 관한 정보는 부/복호화될 수 있다. 예컨대 상기 정보는, 시퀀스, 픽쳐, 슬라이스, 타일, CTU, CU, PU, TU 레벨 중 적어도 하나의 레벨에서 부/복호화될 수 있다. 또한, 복수의 참조 샘플 라인들의 이용가능성에 대한 정보가 보다 상위 레벨에서 시그널링될 수도 있다.

현재 블록에 대한 화면내 예측을 위한 참조 샘플을 선택할 수 있다. 예컨대, 현재 블록에 바로 인접한 왼쪽 및/또는 상단의 참조 샘플들을 사용할 수 있다. 또는, 기 복원된 왼쪽 열 및/또는 상단 행에 존재하는 모든 가용한 복원 샘플들을 탐색하여 현재 블록에 대한 최적의 참조 샘플들을 구성할 수 있다.

도 10은 참조 샘플을 재구성하는 일 실시예를 설명하기 위한 도면이다. 도 10에서 굵은 선으로 둘러싸인 부분은 현재 블록을 나타낸다. 또한 각 격자는 하나의 샘플을 나타내고, 각 격자의 음영은 해당 샘플의 샘플 값을 나타낼 수 있다. 즉, 유사한 음영을 갖는 격자는 유사한 샘플 값을 갖는 샘플에 해당할 수 있다.

도 10의 (a)에 도시된 바와 같이, 현재 블록의 상단에 위치한 참조 샘플은 현재 블록과의 상관도가 상대적으로 낮을 수 있다. 이와 같은 경우, 현재 블록의 상단 행에 위치한 가용한 모든 복원 샘플들로부터 현재 블록과의 상관도가 높은 참조 샘플들이 탐색될 수 있다. 탐색된 높은 상관도를 갖는 참조 샘플들을 이용하여, 현재 블록의 상단 참조 샘플 또는 현재 블록의 화면내 예측에 필요한 모든 참조 샘플을 재구성할 수 있다. 도 10의 (a)에 도시된 예에서는, 상단 행의 a 위치에서 b 위치까지의 참조 샘플들이 높은 상관도를 갖는 참조 샘플들로서 탐색될 수 있다. 그 후, 도 10의 (b)에 도시된 바와 같이, 탐색된 높은 상관도를 갖는 참조 샘플들을 이동시킴으로써, 현재 블록의 상단 참조 샘플을 재구성할 수 있다.

도 10에 도시된 예에서, 참조 샘플의 이동(shifting)에 관한 정보 (즉, 가로 방향으로의 쉬프팅에 관한 정보)는 양의 정수 또는 음의 정수 값을 가질 수 있다. 또한, 상기 참조 샘플의 이동에 관한 정보의 디폴트 값은 0일 수 있다. 상기 참조 샘플의 이동에 관한 정보는 부/복호화되거나, 부/복호화기에서 묵시적으로 유도될 수 있다.

예컨대, 현재 블록 내의 좌상단 샘플의 위치를 (0, 0)이라 할 때, (-1, -1) 위치의 좌측에 최적 상단 참조 샘플들이 위치하는 경우, 상기 참조 샘플의 이동에 관한 정보는 음의 값을 가질 수 있다. 또한, (-1, -1) 위치의 우측에 최적 상단 참조 샘플들이 위치하는 경우, 상기 참조 샘플의 이동에 관한 정보는 양의 값을 가질 수 있다. 또는, 상기 정보는 반대의 음양 부호를 가질 수도 있다. 또한, (-1,-1) 위치 이외의 임의의 참조 샘플 위치를 기준으로 음양 부호가 결정될 수도 있다.

참조 샘플의 이동(shifting)의 단위는 현재 블록 및/또는 주변 블록들의 화면 내 예측 모드, 블록 크기, 형태 및/또는 변환(transform) 유닛의 크기, 형태 및/또는 분할 정보 중 적어도 하나 이상의 부호화 정보에 따라 결정될 수 있다. 예컨대, 참조 샘플의 이동은 하나의 픽셀 단위로 수행하거나 또는 임의의 픽셀들 단위로 수행될 수 있다.

예컨대, 현재 블록 내의 좌상단 샘플의 상대적 위치를 (0, 0)이라 할 때, (-1, -1)을 중심으로 임의의 탐색 범위(search range) 내에서 소정의 단위를 사용하여 현재 블록의 최적 상단 참조 샘플들을 구성할 수 있다. 상기 소정의 단위는 예컨대, 하나의 픽셀 단위, 블록의 크기에 기초한 단위 중 적어도 하나 이상일 수 있다. 상기 블록의 크기에 기초한 단위는 예를 들어, 블록의 크기의 1/2, 또는 1/4일 수 있다. 또한 상기 블록은 변환 블록을 포함하여 모든 형태의 블록일 수 있다. 상기 탐색 범위는 현재 블록에 대해 가용한 상단의 복원 샘플들을 모두 포함하는 영역일 수 있다. 또는 탐색 범위는 부/복호화기에서 기정의될 수 있다. 또는 탐색 범위에 관한 정보가 부/복호화되거나, 부/복호화기에서 동일한 방법에 의해 묵시적으로 유도될 수 있다.

예컨대, 현재 블록의 크기가 8x8이고, 이동(shifting) 단위는 현재 블록 크기의 1/2인 4일 수 있다. 이 경우 부/복호화기는 설정된 탐색 범위 내에서 4 픽셀 단위로 이동(shifting)하면서 최적 상단 참조 샘플들을 재구성할 수 있다. 이 때, 예컨대, 한 픽셀 단위의 이동(4 픽셀만큼 이동)을 부호화하기 위해, 상기 참조 샘플의 이동에 관한 정보는 1의 값을 가질 수 있다. 예컨대, 두 픽셀 단위의 이동(8 픽셀만큼 이동)을 부호화하기 위해, 상기 참조 샘플의 이동에 관한 정보는 2의 값을 가질 수 있다.

예컨대, 현재 블록의 변환 유닛의 크기가 8x8이고, 이동(shifting) 단위는 현재 변환 유닛 크기의 1/4인 2일 수 있다. 이 경우 부/복호화기는 설정된 탐색 범위 내에서 2 픽셀 단위로 이동(shifting)하면서 최적 상단 참조 샘플들을 재구성 할 수 있다. 이 때, 한 픽셀 단위의 이동(2 픽셀만큼 이동)을 부호화하기 위해, 상기 참조 샘플의 이동에 관한 정보는 1의 값을 가질 수 있다.

도 11은 참조 샘플을 재구성하는 다른 실시예를 설명하기 위한 도면이다. 도 11에서 굵은 선으로 둘러싸인 부분은 현재 블록을 나타낸다. 또한 각 격자는 하나의 샘플을 나타내고, 각 격자의 음영은 해당 샘플의 샘플 값을 나타낼 수 있다. 즉, 유사한 음영을 갖는 격자는 유사한 샘플 값을 갖는 샘플에 해당할 수 있다.

도 11의 (a)에 도시된 바와 같이, 현재 블록의 좌측에 위치한 참조 샘플은 현재 블록과의 상관도가 상대적으로 낮을 수 있다. 이와 같은 경우, 현재 블록의 좌측 열에 위치한 가용한 모든 복원 샘플들로부터 현재 블록과의 상관도가 높은 참조 샘플들이 탐색될 수 있다. 탐색된 높은 상관도를 갖는 참조 샘플들을 이용하여, 현재 블록의 좌측 참조 샘플 또는 현재 블록의 화면내 예측에 필요한 모든 참조 샘플을 재구성할 수 있다. 도 11의 (a)에 도시된 예에서는, 좌측 열의 a 위치에서 b 위치까지의 참조 샘플들이 높은 상관도를 갖는 참조 샘플들로서 탐색될 수 있다. 그 후, 도 11의 (b)에 도시된 바와 같이, 탐색된 높은 상관도를 갖는 참조 샘플들을 이동시킴으로써, 현재 블록의 좌측 참조 샘플을 재구성할 수 있다.

도 11에 도시된 예에서, 참조 샘플의 이동(shifting)에 관한 정보 (즉, 세로 방향으로의 쉬프팅에 관한 정보)는 양의 정수 또는 음의 정수 값을 가질 수 있다. 또한, 상기 참조 샘플의 이동에 관한 정보의 디폴트 값은 0일 수 있다. 상기 참조 샘플의 이동에 관한 정보는 부/복호화되거나, 부/복호화기에서 묵시적으로 유도될 수 있다.

예컨대, 현재 블록 내의 좌상단 샘플의 위치를 (0, 0)이라 할 때, (-1, -1) 위치의 위쪽에 최적 상단 참조 샘플들이 위치하는 경우, 상기 참조 샘플의 이동에 관한 정보는 음의 값을 가질 수 있다. 또한, (-1, -1) 위치의 아래쪽에 최적 상단 참조 샘플들이 위치하는 경우, 상기 참조 샘플의 이동에 관한 정보는 양의 값을 가질 수 있다. 또는, 상기 정보는 반대의 음양 부호를 가질 수도 있다. 또한, (-1,-1) 위치 이외의 임의의 참조 샘플 위치를 기준으로 음양 부호가 결정될 수도 있다.

참조 샘플의 이동(shifting)의 단위는 현재 블록 및/또는 주변 블록들의 화면 내 예측 모드, 블록 크기, 형태 및/또는 변환(transform) 유닛의 크기, 형태 및/또는 분할 정보 중 적어도 하나 이상의 부호화 정보에 따라 결정될 수 있다. 예컨대, 참조 샘플의 이동은 하나의 픽셀 단위로 수행하거나 또는 임의의 픽셀들 단위로 수행될 수 있다.

예컨대, 현재 블록 내의 좌상단 샘플의 상대적 위치를 (0, 0)이라 할 때, (-1, -1)을 중심으로 임의의 탐색 범위(search range) 내에서 소정의 단위를 사용하여 현재 블록의 최적 좌측 참조 샘플들을 구성할 수 있다. 상기 소정의 단위는 예컨대, 하나의 픽셀 단위, 블록의 크기에 기초한 단위 중 적어도 하나 이상일 수 있다. 상기 블록의 크기에 기초한 단위는 예를 들어, 블록의 크기의 1/2, 또는 1/4일 수 있다. 또한 상기 블록은 변환 블록을 포함하여 모든 형태의 블록일 수 있다. 상기 탐색 범위는 현재 블록에 대해 가용한 좌측의 복원 샘플들을 모두 포함하는 영역일 수 있다. 또는 탐색 범위는 부/복호화기에서 기정의될 수 있다. 또는 탐색 범위에 관한 정보가 부/복호화되거나, 부/복호화기에서 동일한 방법에 의해 묵시적으로 유도될 수 있다.

예컨대, 현재 블록의 크기가 8x8이고, 이동(shifting) 단위는 현재 블록 크기의 1/2인 4일 수 있다. 이 경우 부/복호화기는 설정된 탐색 범위 내에서 4 픽셀 단위로 이동(shifting)하면서 최적 좌측 참조 샘플들을 재구성할 수 있다. 이 때, 예컨대, 한 픽셀 단위의 이동(4 픽셀만큼 이동)을 부호화하기 위해, 상기 참조 샘플의 이동에 관한 정보는 1의 값을 가질 수 있다. 예컨대, 두 픽셀 단위의 이동(8 픽셀만큼 이동)을 부호화하기 위해, 상기 참조 샘플의 이동에 관한 정보는 2의 값을 가질 수 있다.

예컨대, 현재 블록의 변환 유닛의 크기가 8x8이고, 이동(shifting) 단위는 현재 변환 유닛 크기의 1/4인 2일 수 있다. 이 경우 부/복호화기는 설정된 탐색 범위 내에서 2 픽셀 단위로 이동(shifting)하면서 최적 좌측 참조 샘플들을 재구성 할 수 있다. 이 때, 한 픽셀 단위의 이동(2 픽셀만큼 이동)을 부호화하기 위해, 상기 참조 샘플의 이동에 관한 정보는 1의 값을 가질 수 있다.

현재 블록에 대한 참조 샘플의 이동(shifting)은 상단 행에 위치한 가용한 복원 샘플들에 대해서만 적용하거나, 또는 좌측 열상에 위치한 가용한 복원 샘플들에 대해서만 적용할 수 있다. 또는, 상단 행 및 좌측 열에 위치한 가용한 복원 샘플들에 대해 적용할 수 있다. 또한 상기 참조 샘플의 이동(shifting)은 휘도 및 색차 성분 중 적어도 하나 이상의 신호 성분에 적용할 수 있다.

현재 블록에 대한 참조 샘플의 이동(shifting)은 좌측 및/또는 상단에 위치한 가용한 복원 샘플에 대해 동시에 적용될 수 있다. 예를 들어, 양의 방향으로의 이동은 동일한 이동(shifting) 정보에 기초하여, 상단에 위치한 복원 샘플은 오른쪽으로 이동, 좌측에 위치한 복원 샘플은 상단으로 이동하는 것을 의미할 수 있다.

현재 블록에 인접한 하나 이상의 복원 샘플 라인들을 이용하여 현재 블록에 대한 참조 샘플을 재구성하는 경우에도, 상기 참조 샘플의 이동(shifting)에 의한 참조 샘플 재구성이 적용될 수 있다.

예를 들어, 하나 이상의 복원 샘플 라인들을 이용하여 현재 블록에 대한 참조 샘플을 재구성할 때, 각각의 복원 샘플 라인에 대해 본 발명에 따른 상기 참조 샘플의 이동(shifting)을 상단 및 좌측 방향 중 적어도 하나 이상에 적용하여 참조 샘플을 재구성할 수 있다. 부호화기는 RD 기반 비용 함수가 최소가 되는 임의의 복원 샘플 라인으로부터 현재 블록에 대한 참조 샘플을 구성할 수 있다.

예를 들어, 하나 이상의 복원 샘플 라인들을 이용하여 현재 블록에 대한 참조 샘플을 재구성할 때, 하나 이상의 복원 샘플 라인들이 구성하는 영역 내에서 참조 샘플의 이동(shifting)을 적용하여 참조 샘플을 재구성할 수 있다. 예를 들어, 상단 및/또는 좌측 복원 샘플이 최대 4개 라인까지 사용 가능하다고 할 때, 4개의 복원 샘플 라인들이 구성하는 영역 내에서 현재 블록에 대한 최적 상단 및/또는 좌측 참조 샘플을 탐색할 수 있다. 이 경우, 가로 및/또는 세로 방향의 이동(shifting)에 따른 정보(예컨대, 움직임 정보)는 부/복호화되어 전송되거나, 또는 부/복호화기에서 묵시적으로 유도할 수 있다.

하나 이상의 복원 샘플 라인을 이용하여 현재 블록에 대한 참조 샘플을 재구성할 때, 재구성되는 참조 샘플들을 임의의 단위(픽셀 또는 임의의 블록 크기 단위)로 구분하고, 각 단위(구간)별로 서로 다른 복원 샘플 라인으로부터 참조 샘플을 재구성할 수 있다.

임의의 위치(상단 또는 좌측)에서 참조 샘플을 이동(shifting)할 때, 이동(shifting)된 위치에서 현재 블록에서 필요로 하는 모든 참조 샘플이 가용한 경우, 참조 샘플의 이동이 수행될 수 있다. 또는 이동(shifting)된 위치에서 현재 블록에서 필요로 하는 참조 샘플의 전부 또는 일부가 가용하지 않은 경우, 주변의 가용한 참조 샘플을 이용하여 비가용 참조 샘플을 패딩한 후 참조 샘플의 이동이 수행될 수 있다. 예컨대, 참조 샘플의 전부 또는 일부가 픽쳐, 타일, 슬라이스, CTU 및/또는 CU의 경계 밖에 위치하는 경우, 해당 참조 샘플은 비가용한 것으로 판단될 수 있다.

현재 부호화 블록에 대한 화면내 예측을 위한 참조 샘플을 구성한 후, 하나 이상의 참조 샘플 단위로 참조 샘플들을 교환 및/또는 대체하여 현재 부호화 블록에 대한 참조 샘플을 재구성 할 수 있다.

도 12는 참조 샘플을 재구성하는 또 다른 실시예를 설명하기 위한 도면이다. 도 12에서 굵은 선으로 둘러싸인 부분은 현재 블록을 나타낸다. 또한 각 격자는 하나의 샘플을 나타내고, 각 격자의 음영은 해당 샘플의 샘플 값을 나타낼 수 있다. 즉, 유사한 음영을 갖는 격자는 유사한 샘플 값을 갖는 샘플에 해당할 수 있다.

도 12의 (a)에 도시된 바와 같이, 참조 샘플을 구성한 후, 각각 4개의 픽셀들을 포함하는 A, B 구간에 대해 참조 샘플들의 교환 또는 대체가 수행될 수 있다. 예컨대, 참조 샘플의 교환 또는 대체는 현재 블록과의 상관도가 높은 참조 샘플을 재구성하기 위해 수행될 수 있다. 예컨대, 도 12의 (b)에 도시된 바와 같이, B 구간의 값들로 A 구간의 값들을 대체할 수 있다. 또는 A 구간의 참조 샘플들과 B 구간의 참조 샘플들을 교환할 수 있다.

현재 블록에 대한 화면 내 예측 시, 현재 블록의 크기 및/또는 형태에 따라 현재 블록은 하나 이상의 예측 블록으로 분할될 수 있다. 분할된 예측 블록들은 동일한 참조 샘플을 참조함으로써, 현재 블록 내의 하나 이상의 예측 블록들에 대한 화면 내 예측은 병렬로 처리될 수 있다.

도 13은 현재 블록을 분할하여 생성된 복수의 예측 블록을 부/복호화하는 실시예를 설명하기 위한 도면이다.

도 13에 도시된 바와 같이 8x8 크기의 현재 블록은은 8x4 크기의 2개의 예측 블록으로 분할될 수 있다. 각각의 예측 블록에 대해 화면 내 예측을 수행하는 경우, 제1 예측 블록에 대한 상단 참조 샘플과 동일한 참조 샘플을 이용하여 제2 예측 블록에 대한 화면 내 예측을 수행할 수 있다. 그 결과, 제1 예측 블록과 제2 예측 블록에 대한 화면 내 부/복호화는 동시에 수행될 수 있다.

도 14는 현재 블록을 분할하여 생성된 복수의 예측 블록을 부/복호화하는 다른 실시예를 설명하기 위한 도면이다.

도 13에 도시된 예에서, 제1 예측 블록에 대한 상단 참조 샘플은 제2 예측 블록에 대해서는 낮은 상관도를 가질 수 있다. 도 14에 도시된 예에서는, 이러한 점을 감안하여, 제1 예측 블록에 대한 상단 참조 샘플을 보상한 후, 제2 예측 블록에 대한 상단 참조 샘플로서 참조한다. 예컨대, 도 14에 도시된 바와 같이, 제1 예측 블록에서 사용된 상단 참조 샘플을 보상한 참조 샘플을 기준으로 제2 예측 블록에 대한 부/복호화를 수행할 수 있다. 이때 보상에 이용되는 보상값은 주변의 복원 샘플들로부터 계산할 수 있다. 예컨대, 보상값은 좌측 복원 샘플인 a, b의 차분값 A (A = a-b)일 수 있다. 상기 보상값은 그대로 이용되거나, 또는 부/복호화기에서 동일한 규칙에 따라 임의의 크기로 스케일링된 후 이용될 수 있다.

하나 이상의 블록에 대한 화면 내 예측을 병렬적으로 수행하는 경우에도 전술한 방법을 사용할 수 있다. 예를 들어, 도 13 및 도 14에 도시된 예측 블록들 각각이 하나의 블록(8x4)이라 가정할 때, 전술한 방법에 따라 동일한 참조 샘플을 사용하여 화면 내 예측을 병렬적으로 수행할 수 있다.

하나 이상의 블록에 대한 화면 내 예측을 병렬적으로 수행하는 경우에, 제2 예측 블록(또는 아래쪽에 위치한 블록)의 우상단 참조 샘플은 가용하지 않을 수 있다. 이 경우, 제1 예측 블록(또는 위쪽에 위치한 블록)의 우상단 참조 샘플을 복사하여 사용할 수 있다. 또는 제1 예측 블록(또는 위쪽에 위치한 블록)의 우상단 참조 샘플들에 상기 보상을 수행함으로써, 제2 예측 블록(또는 아래쪽에 위치한 블록)에 대한 참조 샘플을 유도할 수 있다. 상기 보상에 이용되는 보상값은 전술한 바와 같이, 주변의 복원 샘플들로부터 계산된 차분값(A) 또는 스케일링된 차분값(A')일 수 있다.

도 14를 참조하여 설명한 예에서, 상기 보상값의 계산에 이용되는 주변의 복원 샘플들 및/또는 상기 스케일링에 이용되는 스케일링 팩터는 현재 블록, 제1 및/또는 제2 예측 블록의 형태, 크기, 위치, 임의의 기준 샘플의 위치 및/또는 현재 예측되는 샘플의 위치에 기초하여 결정될 수 있다.

도 13 및 도 14는 현재 블록을 수평 방향으로 분할하는 경우를 예시한다. 그러나, 현재 블록은 수직 방향으로 하나 이상의 예측 블록으로 분할될 수도 있다. 현재 블록을 수직 방향으로 분할하고, 각각의 블록을 병렬 처리하는 경우, 도 13 및 도 14를 참조하여 설명한 바와 유사하게, 제1 예측 블록의 좌측 참조 샘플로부터 제2 예측 블록의 좌측 참조 샘플을 유도할 수 있다. 이 경우에도, 제1 예측 블록의 좌측 참조 샘플에 대해 보상을 수행할 수 있다. 또한, 상기 보상에 이용되는 보상값은 주변 복원 샘플의 수평 방향의 차분값 또는 스케일링된 차분값일 수 있다.

전술한 다양한 방법에 의해 참조 샘플을 구성한 후, 율-왜곡 최적화(Rate-distortion optimization)에 따른 비용 함수 값이 최소가 되는 부호화 모드로 현재 블록에 대한 화면 내 예측 모드를 결정할 수 있다.

전술한 다양한 방법 중 적어도 하나 이상의 방법으로 참조 샘플 및/또는 예측 샘플을 구성한 것을 나타내는 정보는 부/복호화되거나, 부/복호화기에서 묵시적으로 유도될 수 있다. 참조 샘플의 이동(shifting)에 관한 정보를 명시적으로 부/복호화하는 경우, 적어도 아래의 엔트로피 부호화 방법 중 하나 이상이 사용될 수 있다. 또한, 이진화된 후에는 CABAC(ae(v))으로 최종 부/복호화 될 수도 있다.

- 절삭된 라이스(Truncated Rice) 이진화 방법

- K차수 지수-골롬(K-th order Exp_Golomb) 이진화 방법

- 제한된 K차수 지수-골롬(K-th order Exp_Golomb) 이진화 방법

- 고정 길이(Fixed-length) 이진화 방법

- 단항(Unary) 이진화 방법

- 절삭된 단항(Truncated Unary) 이진화 방법

상기 참조 샘플을 선택함에 있어, 참조 샘플을 포함하고 있는 블록의 가용성(availability) 판단 및/또는 패딩(padding)이 수행될 수 있다. 예를 들어, 참조 샘플을 포함하고 있는 블록이 가용한 경우에는 해당하는 상기 참조 샘플을 이용할 수 있다. 한편, 상기 참조 샘플을 포함하고 있는 블록이 가용하지 않은 경우에는 주변의 가능한 하나 이상의 참조 샘플을 이용하여 상기 가용하지 않은 참조 샘플을 패딩하여 대체할 수 있다.

상기 참조 샘플이 픽처, 타일, 슬라이스, 부호화 트리 블록(CTB), 소정의 경계 중 적어도 하나의 경계 밖에 존재하는 경우, 상기 참조 샘플은 가용하지 않다고 판단될 수 있다.

현재 블록을 제한된 화면 내 예측(CIP: constrained intra prediction)으로 부호화하는 경우에, 상기 참조 샘플을 포함한 블록이 화면 간 모드로 부/복호화되어 있으면 상기 참조 샘플은 가용하지 않다고 판단된 수 있다.

도 15는 가용한 복원 샘플을 이용하여 가용하지 않은 복원 샘플을 대체하는 방법을 설명하기 위한 도면이다.

상기 주변의 복원 샘플이 가용하지 않다고 판단되는 경우, 주변의 가용한 복원 샘플을 이용하여 상기 가용하지 않은 샘플을 대체할 수 있다. 예를 들어, 도 15에 도시된 바와 같이, 가용한 샘플과 가용하지 않은 샘플이 존재하는 경우, 하나 이상의 가용한 샘플을 이용하여 상기 가용하지 않은 샘플을 대체할 수 있다.

비가용 샘플의 샘플값은 소정의 순서에 따라, 가용 샘플의 샘플값으로 대체될 수 있다. 비가용 샘플의 대체에 이용되는 가용 샘플은 비가용 샘플에 인접한 가용 샘플일 수 있다. 인접한 가용 샘플이 없는 경우, 가장 먼저 출현하는 또는 가장 가까운 가용 샘플이 이용될 수 있다. 비가용 샘플의 대체 순서는 예컨대, 좌하단에서 우상단의 순서일 수 있다. 또는 우상단에서 좌하단의 순서일 수 있다. 또는 좌상단 코너에서 우상단 및/또는 좌하단의 순서일 수 있다. 또는 우상단 및/또는 좌하단에서 좌상단 코너의 순서일 수 있다.

도 15에 도시된 바와 같이, 좌하단 샘플 위치인 0부터 시작하여 우상단 샘플의 순서로 비가용 샘플의 대체가 수행될 수 있다. 이 경우, 처음의 가용하지 않은 샘플 4개는 가장 먼저 출현하는 또는 가장 가까운 가용 샘플 a의 값으로 대체될 수 있다. 다음의 가용하지 않은 샘플 13개는 마지막 가용 샘플 b의 값으로 대체될 수 있다.

또는, 비가용 샘플은 가용한 샘플들의 조합을 이용하여 대체될 수 있다. 예를 들어, 비가용 샘플의 양쪽 끝에 인접한 가용 샘플의 평균값을 이용하여 상기 비가용 샘플을 대체할 수 있다. 예컨대, 도 15에 있어서, 처음의 가용하지 않은 샘플 4개는 가용 샘플 a의 값으로 채우고, 다음의 가용하지 않은 샘플 13개는 가용 샘플 b와 c의 평균값으로 채울 수 있다. 또는, 13개의 비가용 샘플은 가용 샘플 b와 c의 샘플값 사이의 임의의 값으로 대체될 수 있다. 이 경우, 비가용 샘플들은 서로 다른 값으로 대체될 수 있다. 예컨대, 비가용 샘플은 가용 샘플 a에 근접할수록 a의 값에 근접한 값으로 대체될 수 있다. 마찬가지로 비가용 샘플은 가용 샘플 b에 근접할수록 b의 값에 근접한 값으로 대체될 수 있다. 즉, 비가용 샘플로부터 가용 샘플 a 및/또는 b까지의 거리에 기초하여, 비가용 샘플의 값이 결정될 수 있다.

비가용 샘플의 대체를 위해 상기 방법들을 포함하는 복수의 방법 중 하나 이상이 선택적으로 적용될 수 있다. 비가용 샘플의 대체 방법은 비트스트림에 포함된 정보에 의해 시그널링 되거나, 부호화기와 복호화기가 미리 정한 방법이 이용될 수 있다. 또는 비가용 샘플의 대체 방법은 미리 정한 방식에 의해 유도될 수 있다. 예컨대, 가용 샘플 a와 b의 값의 차이 및/또는 비가용 샘플의 개수에 기초하여 비가용 샘플의 대체 방법을 선택할 수 있다. 예컨대, 두 개의 가용 샘플의 값의 차이와 임계값의 비교 및/또는 비가용 샘플의 개수와 임계값의 비교에 기초하여 비가용 샘플의 대체 방법이 선택될 수 있다. 예컨대, 두 개의 가용 샘플의 값의 차이가 임계값보다 크거나, 및/또는 비가용 샘플의 개수가 임계값보다 큰 경우, 비가용 샘플들은 서로 다른 값을 갖도록 대체될 수 있다.

비가용 샘플의 대체 방법의 선택은 소정의 단위로 수행될 수 있다. 예컨대, 비디오, 시퀀스, 픽쳐, 슬라이스, 타일, 부호화 트리 유닛, 부호화 유닛, 예측 유닛, 변환 유닛 중 적어도 하나 이상의 단위에 대해 비가용 샘플의 대체 방법이 선택될 수 있다. 이 때, 비가용 샘플의 대체 방법의 선택은 상기 소정의 단위로 시그널링되는 정보에 기초하거나, 상기 소정의 단위로 유도될 수 있다. 또는 부호화기와 복호화기에서 미리 정한 방법이 적용될 수도 있다.

도 16은 가용한 복원 샘플을 이용하여 가용하지 않은 복원 샘플을 대체하는 다른 방법을 설명하기 위한 도면이다.

도 16에 도시된 예에서, 현재 블록의 크기가 8x8 이고, 상단 참조 샘플 중에서 우상단에 위치한 C 블록에 포함된 8개의 샘플들이 비가용 샘플들이다. 이 때, 도 16의 (a)에 도시된 바와 같이, 8개의 비가용 샘플들에 가장 근접한 가용 샘플의 샘플값인 b를 이용하여 8개의 비가용 샘플들을 대체할 수 있다. 또는 도 16의 (b)에 도시된 바와 같이, b 값 대신 임의의 b'값을 이용하여 8개의 비가용 샘플들을 대체할 수 있다.

임의의 b' 값은 예컨대, B 블록에 포함된 참조 샘플들의 경사도(gradient)에 기초하여 유도될 수 있다. b' 값의 계산을 위해, 예컨대, 아래의 의사 코드(pseudo code)가 이용될 수 있다.

B 블록에 포함된 참조 샘플들의 평균(avg.)을 계산한 후, b 값과의 경사도를 고려하여, b'를 유도 (1) Compute avg. (2) delta = avg. - b (3) if (delta > 0) b' = b - scaled_delta (4) if (delta < 0) b' = b + scaled_delta (5) else 기존 방법으로 수행

먼저, B 블록에 포함된 참조 샘플들의 평균을 계산할 수 있다. 현재 블록의 크기가 8x8인 경우 현재 블록 상단의 8개의 복원 샘플들이 평균의 계산이 이용될 수 있다. 이후, 계산된 평균과 샘플값 b 간의 경사도(gradient)를 고려하여 b'를 유도할 수 있다.

상기 계산된 평균과 샘플값 b의 차분값(delta)을 구한 뒤, 만약 차분값이 0보다 크다면 B 블록에 속한 8개의 참조 샘플들의 값은 점차 감소하는 것으로 볼 수 있다. 따라서, 샘플값 b에 상기 감소치를 반영하여 b'를 유도할 수 있다. 만약 차분값이 0보다 작다면 B 블록에 속한 8개의 참조 샘플들의 값은 점차 증가하는 것으로 볼 수 있다. 따라서, 샘플값 b에 상기 증가치를 반영하여 b'를 유도할 수 있다.

상기 의사 코드에서 평균(avg.)은 현재 블록의 가로 크기에 해당하는 가용한 참조 샘플들의 평균일 수 있다. 즉, 도 16에 있어서, 평균은 B 블록에 속한 8개의 참조 샘플들의 평균일 수 있다. 그러나, 평균의 계산에 이용되는 참조 샘플의 수는 이에 한정되지 않는다. 예컨대, 도 16에 있어서, B 블록에 속한 8개의 참조 샘플들 중 적어도 하나 이상의 참조 샘플들을 이용하여 상기 평균을 구할 수 있다. 예컨대, 상기 평균은 비가용 참조 샘플 근처에 위치한 K 개의 가용 참조 샘플들의 평균일 수 있다. 예를 들어, B 블록에 속한 8개의 참조 샘플들 중 오른쪽에 위치한 4개의 참조 샘플들만을 이용해서 상기 평균을 구할 수 있다.

또한, 상기 의사 코드에서 차분값(delta)을 구하기 위해 하나의 가용 참조 샘플의 샘플값 b가 이용되었으나, 이에 한정되지 않는다. 예컨대, B 블록에 속한 8개의 참조 샘플들 중 적어도 하나 이상의 참조 샘플들을 이용하여 상기 차분값을 구할 수 있다. 예컨대, 상기 차분값을 구하기 위한 상기 적어도 하나 이상의 참조 샘플들은 비가용 참조 샘플 근처에 위치한 P개의 가용 참조 샘플들일 수 있다. 예컨대, P개의 참조 샘플들의 평균값을 상기 차분값으로 이용할 수 있다. 이때, 상기 차분값을 구하기 위한 가용 참조 샘플들의 수 P는 상기 평균을 구하기 위한 가용 참조 샘플들의 수 K보다 작을 수 있다.

또한, 상기 K개의 가용 참조 샘플들의 평균값 및/또는 상기 차분값을 유도하기 위한 P개의 가용 참조 샘플들의 평균값 대신에, 다른 통계값이 사용될 수 있다. 상기 통계값은 예컨대, 가중평균값, 최대값, 최소값, 중간값 또는 최빈값 중 하나 이상일 수 있다. 가중평균값이 사용되는 경우, 가중치는 가용 참조 샘플 및/또는 비가용 참조 샘플 각각의 위치에 기초하여 결정될 수 있다. 예컨대, 상기 가중치는 가용 참조 샘플과 비가용 참조 샘플과의 거리에 반비례할 수 있다.

b' 값은 가용 참조 샘플의 샘플값 b에 차분값(delta)에 해당하는 경사도를 보상하여 구할 수 있다. 보상에 이용되는 보상값은 차분값(delta) 또는 차분값을 임의의 스케일링 팩터를 이용하여 스케일링한 값(scaled_delta)일 수 있다. scaled_delta는 delta보다 크거나 또는 작을 수 있다.

도 16의 (a)에 도시된 예에서, 현재 블록의 좌하단에 위치한 8개의 비가용 참조 샘플들은 가용한 참조 샘플의 샘플값인 a로 대체될 수 있다. 또는 도 16의 (b)를 참조하여 설명한 방법을 동일하게 적용하여, 현재 블록의 좌하단에 위치한 8개의 비가용 참조 샘플들은 a' 값으로 대체될 수 있다. 상기 방법들은 상단 및 좌측 참조 샘플들 모두에 대해 적용되거나 또는 임의의 방향에 대해서만 적용될 수 있다. 상기 방법들이 적용되는 임의의 방향은 현재 블록의 크기, 형태, 화면 내 예측 모드를 포함하는 부호화 정보에 기초하여 결정될 수 있다.

또한, 도 16에 도시된 예에서, 우상단 또는 좌하단의 비가용 참조 샘플들은 일괄적으로 a' 또는 b' 값으로 대체될 수 있다. 또는 최초 얻어진 차분값(delta)을 점진적으로 스케일링하여 비가용 참조 샘플들의 각각에 대해 서로 다른 값을 적용할 수도 있다.

현재 블록에 인접한 하나 이상의 복원 샘플 라인들을 이용하는 경우에도 상기 패딩 방법을 적응적으로 적용할 수 있다.

도 17은 하나 이상의 복원 샘플 라인들을 이용하는 경우의 참조 샘플의 패딩을 설명하기 위한 예시도이다.

복수 개(예컨대, 최대 4개)의 복원 샘플 라인을 이용하여 현재 부호화 블록에 대한 참조 샘플을 생성하는 경우, 각각의 복원 샘플 라인에 대해 우상단 또는 좌하단에 위치한 참조 샘플이 가용하지 않을 수 있다. 가용하지 않은 참조 샘플에 대해 전술한 방법에 따라 참조 샘플을 생성한 후, RD 측면에서 최적의 복원 샘플 라인을 현재 블록의 참조 샘플로 설정할 수 있다.

도 17에 도시된 예에서, 최대 4개의 복원 샘플 라인을 이용하여 현재 블록에 대한 참조 샘플을 생성하는 경우, 점선 박스 내의 복원 샘플이 가용하지 않을 수 있다. 이 때, 4개의 복원 샘플 라인들의 가용한 복원 샘플들 중, 최외각에 위치한 가용 복원 샘플(굵은 실선 박스 내의 복원 샘플)의 정보를 이용하여, 가용하지 않은 우상단 또는 좌하단에 위치한 참조 샘플을 생성할 수 있다.

예컨대, 현재 블록의 우상단에 위치한 비가용 참조 샘플을 생성하기 위해 현재 블록의 우상단의 굵은 실선 박스 내의 4개의 가용 복원 샘플들 중 적어도 하나를 이용할 수 있다. 예컨대, 상기 우상단의 굵은 실선 박스 내의 N개의 가용 복원 샘플들의 최대값, 최소값, 중간값, 평균값, 가중평균값 및 최빈값 중 적어도 하나 이상을 이용하여 비참조 샘플을 패딩할 수 있다. 상기 N은 예컨대, 4일 수 있다.

유사하게, 현재 블록의 좌하단에 위치한 비가용 참조 샘플은 현재 블록의 좌하단의 굵은 실선 박스 내의 4개의 가용 복원 샘플들 중 적어도 하나를 이용할 수 있다.

또는, 도 17에 도시된 예에서, 비가용 참조 샘플을 생성하기 위해, 굵은 실선 박스 내의 가용 복원 샘플을 포함하거나 또는 포함하지 않는 하나 이상의 임의의 가용 복원 샘플이 이용될 수 있다.

상기 구성한 하나 이상의 참조 샘플에 대해서 현재 블록의 화면 내 예측 모드, 블록의 크기 및/또는 형태 중 적어도 하나 이상에 기초하여 필터링 적용 여부 및/또는 필터 유형을 다르게 결정할 수 있다. 또한, 휘도 및 색차 성분 중 적어도 하나 이상의 성분에 대해 필터링을 적용할 수 있다.

예를 들어, 상기 복수 개의 참조 샘플 라인에 대해서 필터링 적용 여부를 다르게 결정할 수 있다. 예를 들어, 인접한 첫 번째 참조 샘플 라인에 대해서는 필터링을 적용하고 두 번째 참조 샘플 라인에 대해서는 필터링을 적용하지 않을 수 있다.

또한, 예를 들어, 동일한 참조 샘플에 대해 필터링을 적용한 값과 적용하지 않은 값을 모두 사용할 수 있다. 예를 들어, 현재 블록 및/또는 주변 블록의 정보(화면 내 예측 모드, 블록의 크기, 형태, 변환 유닛의 크기 및/또는 분할 정보) 중 적어도 하나에 따라 3-tap 필터, 5-tap 필터, 7-tap 필터, N-tap 필터 중 적어도 하나 이상을 다르게 선택하여 적용할 수 있다. 이때, N은 정수일 수 있다.

예를 들어, 주변의 가용 참조 샘플값을 이용하여 비가용 참조 샘플들을 동일한 값으로 대체한 경우, 참조 샘플 필터링을 수행하더라도, 동일한 값으로 대체된 상기 참조 샘플들의 필터링된 참조 샘플값들은 모두 동일할 수 있다. 또한 필터링된 참조 샘플값들이 모두 동일하므로, 해당 참조 샘플값들의 가중합을 이용하여 현재 블록의 화면 내 예측을 수행하면, 항상 동일한 예측 샘플값을 얻을 수 있다. 따라서, 상기 경우에는 참조 샘플 필터링 및/또는 예측 샘플값 유도 과정을 생략함으로써 부/복호화기에서의 연산량을 간소화할 수 있다.

도 18은 패딩된 비가용 참조 샘플을 포함하는 참조 샘플에 대한 필터링을 설명하기 위한 도면이다.

도 18의 (a)에 도시된 바와 같이, 현재 블록의 좌하단 및 우상단의 비가용 참조 샘플들은 임의의 값으로 패딩될 수 있다. 도 18에서, 현재 블록의 좌상단 인접 샘플의 위치는 (-1,-1)이다. 도 18의 (b)는 인접한 좌측 및 상단의 참조 샘플을 1차원 배열로 나타낸다. 도 18의 (b)에 도시된 1차원 배열의 참조 샘플들 중에서 패딩된 좌하단 및 우상단 참조 샘플들은 필터링되지 않을 수 있다. 이 때, 패딩된 좌하단 샘플들은 A 블록에 포함되고, 패딩된 우상단 샘플들은 B 블록에 포함된다. 상기 좌하단 및 우상단의 패딩된 참조 샘플들은 제외한 나머지 참조 샘플에 대해서는 상기 필터링이 수행될 수 있다. 전술한 바와 같이, 상기 필터링은 현재 블록 및/또는 주변 블록의 정보(화면 내 예측 모드, 블록의 크기, 형태, 변환 유닛의 크기 및/또는 분할 정보) 중 적어도 하나에 따라 3-tap 필터, 5-tap 필터, 7-tap 필터, N-tap 필터 중 적어도 하나 이상을 다르게 선택하여 적용할 수 있다. 이때, N은 정수일 수 있다. 도 18을 참조하여 설명한 예에서, 1차원 배열의 크기는 (4*nTbs +1) 이며, 이때 nTbs는 현재 블록 또는 변환 블록의 가로 또는 세로의 길이에 해당할 수 있다.

도 19는 비가용 참조 샘플을 포함하는 참조 샘플에 대한 필터링을 설명하기 위한 도면이다. 예컨대, 현재 블록의 크기가 8x8이고, A 블록 내의 좌하단 참조 샘플 및 B 블록 내의 우상단 참조 샘플이 비가용 참조 샘플인 경우, 주변의 가용 참조 샘플값을 이용하여 상기 비가용 참조 샘플들을 동일한 값으로 대체할 수 있다.

도 19의 (a)에 도시된 예에서는, 패딩된 참조 샘플들을 포함하여 모든 참조 샘플들이 필터링된 예를 도시한다. 도 19의 (b)는 패딩된 참조 샘플들을 제외한 참조 샘플들이 필터링된 예를 도시한다.

도 19의 (b)에 도시된 바와 같이, 동일한 값으로 대체된 참조 샘플에 대해서는 참조 샘플 필터링이 수행되지 않을 수 있다. 이때, 참조 샘플 필터링은 A 또는 B 블록에 포함된 참조 샘플을 제외한 나머지 참조 샘플들에 대해서만 적용될 수 있다. 또는 참조 샘플 필터링은 A 또는 B 블록에 포함된 참조 샘플을 제외한 나머지 참조 샘플들 중에서 최외각의 좌측 및/또는 우측 참조 샘플을 제외한 참조 샘플들에 대해서만 적용될 수 있다. 전술한 바와 같이, 상기 필터링은 현재 블록 및/또는 주변 블록의 정보(화면 내 예측 모드, 블록의 크기, 형태, 변환 유닛의 크기 및/또는 분할 정보) 중 적어도 하나에 따라 3-tap 필터, 5-tap 필터, 7-tap 필터, N-tap 필터 중 적어도 하나 이상을 다르게 선택하여 적용할 수 있다. 이때, N은 정수일 수 있다.

예를 들어, 가용 참조 샘플값을 이용하여 비가용 참조 샘플들을 동일한 값으로 대체한 후 동일한 참조 샘플값을 이용하여 화면 내 예측을 수행할 수 있으며, 이 경우, 거리 및/또는 방향성에 따른 가중합의 연산 과정은 생략될 수 있다.

현재 블록에 인접한 하나 이상의 복원 샘플 라인들을 이용하는 경우에도 각각의 복원 샘플 라인들이 비가용 참조 샘플을 포함할 때, 도 19를 참조하여 설명한 방법이 적용될 수 있다.

전술한 방법 중 적어도 하나 이상의 방법으로 참조 샘플을 패딩하거나 필터링한 경우, 이를 나타내기 위한 정보가 부/복호화되거나, 또는 부/복호화기에서 묵시적으로 유도될 수 있다. 상기 정보가 명시적으로 부/복호화되는 경우, 적어도 아래의 엔트로피 부호화 방법 중 하나 이상이 사용될 수 있다. 또한, 이진화된 후 CABAC(ae(v))을 이용하여 최종적으로 부/복호화 될 수 있다.

- 절삭된 라이스(Truncated Rice) 이진화 방법

- K차수 지수-골롬(K-th order Exp_Golomb) 이진화 방법

- 제한된 K차수 지수-골롬(K-th order Exp_Golomb) 이진화 방법

- 고정 길이(Fixed-length) 이진화 방법

- 단항(Unary) 이진화 방법

- 절삭된 단항(Truncated Unary) 이진화 방법

이하에서, 화면 내 예측 수행 단계(S1230)에 대해 보다 상세히 설명한다.

상기 유도된 화면 내 예측 모드 및 참조 샘플을 기반으로 상기 현재 블록 또는 서브 블록에 대한 화면 내 예측을 수행할 수 있다. 이하 상세한 설명에서 현재 블록은 서브 블록을 의미할 수 있다.

화면 내 예측으로서, 예를 들어, 비방향성 화면 내 예측이 수행될 수 있다. 비방향성 모드는 예컨대, DC 모드, Planar 모드 중 적어도 하나일 수 있다.

비방향성 모드가 DC 모드인 경우, 상기 구성한 참조 샘플 중 하나 이상의 참조 샘플의 평균값을 이용하여 화면 내 예측을 수행할 수 있다. 이때, 현재 블록의 경계에 위치한 하나 이상의 예측 샘플에 대해 필터링을 적용할 수 있다. 상기 평균값은 하나 이상일 수 있으며 예측 대상 샘플 위치에 따라 서로 다른 평균값으로 예측을 수행할 수 있다. 현재 블록의 크기 또는 형태 중 적어도 하나에 따라 상기 이용하는 참조 샘플이 다를 수 있다. 예를 들어, 블록의 크기가 소정의 크기 보다 큰 경우, 인접한 하나의 참조 샘플 라인을 이용하고, 소정의 크기 보다 작은 경우, 인접한 두 개의 참조 샘플 라인을 이용할 수 있다.

비방향성 모드가 Planar 모드인 경우, 상기 현재 블록의 화면 내 예측 대상 샘플의 위치에 따라 상기 구성한 하나 이상의 참조 샘플로부터의 거리를 고려한 가중합을 이용하여 화면 내 예측을 수행할 수 있다.

화면 내 예측으로서, 예를 들어, 방향성 화면 내 예측이 수행할 수 있다. 방향성 모드는 예컨대, 수평 모드, 수직 모드 및 소정의 각도를 가지는 모드 중 적어도 하나일 수 있다.

방향성 모드가 수평 및/또는 수직 모드인 경우, 화면 내 예측 대상 샘플의 위치에서 수평 및/또는 수직 선상에 존재하는 하나 이상의 참조 샘플을 이용하여 화면 내 예측을 수행할 수 있다.

방향성 모드가 소정의 각도를 가지는 모드인 경우, 화면 내 예측 대상 샘플의 위치에서 소정의 각도 선상 및 주변에 존재하는 하나 이상의 참조 샘플을 이용하여 화면 내 예측을 수행할 수 있다. 이때, N개의 참조 샘플이 이용될 수 있다. N은 2, 3, 4, 5, 6 등의 양의 정수일 수 있으며, 예를 들어 2-tap, 3-tap, 4-tap, 5-tap, 6-tap 필터 등 N-tap 필터를 적용하여 화면 내 예측을 수행할 수 있다. 이때, 하나 이상의 참조 샘플 라인을 이용할 수 있으며, 각 라인에 적용하는 필터 유형은 서로 다를 수 있다. 상기 각 라인에 필터를 적용한 값의 가중 평균을 산출하여 화면 내 예측을 수행할 수 있다. 상기 방향성 예측에 사용하는 참조 샘플 라인의 개수은 방향성 모드, 현재 블록의 크기 및 형태 중 적어도 하나에 따라 다를 수 있다.

또는, 위치 정보에 기반하여 화면 내 예측을 수행할 수 있다. 이때 위치 정보는 부/복호화될 수 있으며 상기 위치에 있는 복원된 샘플 블록을 현재 블록의 화면 내 예측 블록으로 유도할 수 있다. 또는, 복호화기에서 현재 블록과 유사한 블록을 검색하여 찾아낸 블록을 현재 블록의 화면 내 예측 블록으로 유도할 수 있다.

또는, 휘도 및/또는 색차 신호에 기반하여 화면 내 예측을 수행할 수 있다. 예를 들어, 현재 블록의 복원된 휘도 신호를 이용하여 색차 신호에 대한 화면 내 예측을 수행할 수 있다. 예를 들어, 현재 블록의 복원된 하나의 색차 신호 Cb를 이용하여 다른 색차 신호 Cr에 대한 화면 내 예측을 수행할 수 있다.

전술한 다양한 화면 내 예측 방법을 하나 이상 결합하여 화면 내 예측을 수행할 수 있다. 예를 들어, 소정의 비방향성 화면 내 예측 모드를 이용하여 예측한 블록과 소정의 방향성 화면 내 예측 모드를 이용하여 예측한 블록의 가중합을 통하여 상기 현재 블록에 대한 화면 내 예측 블록을 구성할 수 있다. 이때, 가중치(weight)는 상기 현재 블록의 화면 내 예측 모드, 블록의 크기, 형태 및/또는 샘플의 위치 중 적어도 하나 이상에 따라서 다르게 적용될 수 있다.

또는, 상기 하나 이상의 화면 내 예측 모드를 결합함에 있어, 현재 블록에 대한 화면 내 예측 모드를 이용하여 예측한 값과 MPM 리스트에 있는 소정의 모드를 이용하여 예측한 값의 가중합을 통하여 예측 블록을 구성할 수 있다.

또는, 하나 이상의 참조 샘플 셋(set)을 이용하여 화면 내 예측을 수행할 수 있다. 예를 들어, 상기 구성한 참조 샘플에 필터링을 적용하지 않은 참조 샘플로 화면 내 예측한 블록과 필터링을 적용한 참조 샘플로 화면 내 예측한 블록의 가중합을 통하여 상기 현재 블록에 대한 화면 내 예측을 수행할 수 있다.

상기 화면 내 예측을 수행하는 과정에서 주변의 복원된 샘플을 이용한 필터링 과정을 수행할 수 있다. 이때, 상기 필터링 과정은 현재 블록의 화면 내 예측 모드, 블록의 크기, 형태 및/또는 샘플의 위치 중 적어도 하나에 따라서 수행되거나 수행되지 않을 수 있다. 상기 필터링 과정은 상기 화면 내 예측을 수행하는 과정에 포함되어 하나의 단계로 수행될 수 있다.

상기 현재 블록이 서브 블록으로 분할되고 각 서브 블록에 대한 화면 내 예측 모드를 주변 블록의 화면 내 예측 모드를 이용하여 유도하여 화면 내 예측을 수행함에 있어, 현재 블록 내의 각 서브 블록에 대해 필터링을 적용할 수 있다. 예를 들어, 현재 블록 전체에 로우패스(low-pass) 필터를 적용할 수 있다. 또는 각 서브 블록의 경계에 위치하는 샘플에 대해 필터를 적용할 수 있다. 또는 각 서브 블록의 예측 블록 또는 복원된 블록에 필터를 적용할 수 있으며, 상기 필터를 적용한 서브 블록의 하나 이상의 샘플은 이후의 서브 블록에 대한 화면 내 예측을 수행하는데 이용할 수 있다.

상기 현재 블록이 서브 블록으로 분할되고 각 서브 블록에 대한 화면 내 예측을 수행함에 있어, 각 서브 블록은 부/복호화 블록, 예측 블록, 변환 블록 중 적어도 하나를 의미할 수 있다. 예를 들어, 상기 현재 블록의 크기가 64x64 이고 서브 블록의 크기가 16x16인 경우, 각 서브 블록인 예측 블록에 대한 화면 내 예측 모드 유도 및/또는 화면 내 예측을 수행할 수 있다. 이때, 상기 하나 이상의 서브 블록이 8x8 또는 4x4로 추가 분할되는 경우, 각 8x8 또는 4x4 블록은 변환 블록을 의미할 수 있으며 상기 16x16 블록의 화면 내 예측 모드를 이용하여 추가 분할된 블록에 대한 화면 내 예측을 수행할 수 있다.

상기 방향성 화면 내 예측을 수행함에 있어, 현재 블록은 N개의 방향성 모드 중 하나 이상의 모드를 이용하여 부호화/복호화될 수 있다. 이때, N은 33, 65 등을 포함하는 양의 정수일 수 있다.

상기 방향성 화면 내 예측을 수행함에 있어, 방향성 예측 모드에 따라 상기 구성한 참조 샘플을 재구성할 수 있다. 예를 들어, 상기 방향성 예측 모드가 좌측 및 상단에 존재하는 참조 샘플을 모두 사용하는 모드인 경우, 좌측 또는 상단의 참조 샘플에 대해 1차원 배열을 구성할 수 있다.

도 20은 P_ref로부터 참조 샘플의 1차원 배열(1-D reference sample array, p_{1, ref})을 생성하는 일 실시예를 설명하기 위한 도면이다.

예를 들어, 도 20에 도시된 바와 같이, 좌측에 존재하는 참조 샘플 중 하나 이상을 이용하여 상단의 참조 샘플에 대한 1차원 배열을 구성할 수 있다. 이때, 좌측 참조 샘플 중 상단의 참조 샘플을 구성하기 위해 사용되는 샘플은 상기 방향성 모드에 따라 달라질 수 있다. 상기 좌측 참조 샘플을 이동하여 상단의 참조 샘플을 구성할 수 있고, 또는 하나 이상의 좌측 참조 샘플의 가중합을 이용하여 상단의 참조 샘플을 구성할 수 있다.

상기 방향성 화면 내 예측을 수행함에 있어, 실수 단위의 보간 예측 (interpolated prediction)을 수행할 수 있다. 예를 들어, 각 방향성 예측 모드에 해당하는 각도 파라미터(intraPredAngle)에 기반하여, 현재 블록 안의 샘플 위치에 따라 예측 샘플 보간을 위한 오프셋(offset, iIdx) 및/또는 가중치(weight, iFact) 값을 아래와 같이 결정할 수도 있다.

예를 들어, 1/32 pel 단위의 보간을 가정할 경우 수직의 방향을 갖는 방향성 모드에 대해서 오프셋과 가중치는 아래의 수학식 7과 같이 결정될 수 있다.

상기 수학식 7의 iFact 값에 따라 예측 샘플 값은 다르게 결정될 수 있다. 예를 들어, iFact가 0이 아닌 경우는, 참조 샘플 P_1,ref 에서 예측의 위치는 정수 단위(full sample location)가 아닌 실수 단위이다. 따라서, 실수 위치에 인접한 복수의 참조 샘플(예컨대, 좌우에 인접한 두 개의 참조 샘플)을 이용하여 아래의 수학식 8와 같이 대상 샘플 (x, y) 위치에서의 예측 샘플 값을 생성할 수 있다. 이때, 상기 인접한 복수의 참조 샘플은 좌우에 인접한 4개 또는 6개일 수 있다.

예를 들어, iFact가 0인 경우, 아래의 수학식 9를 이용하여 예측 샘플 값을 생성할 수 있다. 또는, 참조 샘플 P_1,ref 및 좌우에 존재하는 참조 샘플을 이용하여 3-tap [1/4:2/4:1/4] 필터를 적용할 수 있다.

방향성 예측 모드 중 수평 및/또는 수직 모드 중 적어도 하나의 경우는 참조 샘플에 대해 필터링을 수행하지 않을 수 있다. 또한, 참조 샘플에 대한 보간 예측이 필요하지 않을 수 있다. 또한, 상단 또는 좌측의 참조 샘플들 만으로 예측이 가능하기 때문에 상기 참조 샘플에 대한 1차원 배열을 구성하는 과정이 필요하지 않을 수 있다.

이하, 본 발명에 따른 비방향성 예측 수행 단계에 대해 설명한다.

Planar 모드의 경우, 현재 블록의 화면 내 예측 대상 샘플의 위치에 따라 상기 구성한 하나 이상의 참조 샘플로부터의 거리를 고려한 가중합을 계산함으로써, 화면 내 예측을 수행할 수 있다.

도 21은 본 발명의 일 실시예에 따른 화면 내 예측을 설명하기 위한 도면이다.

현재 블록은 8x8 블록이고, 화면 내 예측 모드는 Planar 모드일 수 있다. Planar 모드의 경우, 도 21에 도시된 바와 같이, 현재 블록의 우상단 참조 샘플 TR 및 좌하단 참조 샘플 BL의 가중합을 이용하여, 현재 블록 내의 우하단 샘플 K를 유도할 수 있다. 이때 가중합은 현재 블록 및/또는 주변 블록의 정보(화면 내 예측 모드, 블록 크기, 형태, 변환유닛의 크기 및/또는 분할 정보) 중 적어도 하나 이상에 따라 수행될 수 있다. 도 21에 도시된 예에서, 샘플 K는 TR 및 BL의 가중합을 이용하여 유도하였으나, 이에 한정되지 않는다. 예컨대, 샘플 K는 TR 및 BL의 평균값, 최소값, 최대값, 또는 임의의 가중합을 통해 유도될 수 있다.

도 21에 도시된 예에서, 현재 블록 내의 하단행에 포함된 샘플들(A 블록)은 BL로, 우측열에 포함된 샘플들(B 블록)은 TR로 대체된 후, 현재 블록 내 임의의 위치 (x, y)의 예측 대상 샘플은 각 샘플의 위치에 기초한 가중합으로 예측될 수 있다. 이 때, 예컨대, 아래의 수학식 10이 이용될 수 있다.

또는, 다른 실시예로서, 예를 들어, 현재 블록 내의 하단행에 포함된 샘플들(A 블록)은 BL 및 K의 거리에 따른 가중합으로, 우측열에 포함된 샘플들(B 블록)은 TR 및 K의 거리에 따른 가중합으로 유도될 수 있다. 또한, 현재 블록 내 임의의 위치 (x, y)의 예측 대상 샘플은 각 샘플의 위치에 기초한 가중합으로 예측될 수 있다. 이 때, 예컨대, 상기 수학식 10이 이용될 수 있으며, TR 및 BL 값 대신, TR 및 K의 거리에 따른 상기 가중합, BL 및 K의 거리에 따른 상기 가중합이 각각 이용될 수 있다.

도 22는 본 발명의 다른 실시예에 따른 화면 내 예측을 설명하기 위한 도면이다.

도 22에 도시된 바와 같이, 현재 블록에 대한 화면 내 예측 블록을 생성하기 위해 Planar 모드 및 DC 모드를 혼용한 화면 내 예측을 수행할 수 있다.

도 22에 있어서, 굵은 실선은 8x8 크기의 현재 블록을 나타낸다.

도 22의 (a)에 도시된 바와 같이, 현재 블록의 주변에 인접한 참조 샘플들 중에서 적어도 하나 이상을 사용하여 평균값을 구한 뒤, 현재 블록 내의 좌측열 및 상단행에 위치한 경계 픽셀들(음영 처리된 픽셀들)에 대해 인접한 참조 샘플을 기반으로 3-tap 또는 2-tap 기반 필터링을 수행할 수 있다. 예컨대, 상기 필터링에 사용되는 필터의 모양은 도 22의 (a)에 우측에 도시된 바와 같을 수 있다.

다음으로, 도 22의 (b)에 도시된 바와 같이, 현재 블록의 주변에 인접한 참조 샘플들 중에서 적어도 하나 이상을 사용하여 평균값(DCVal)을 구한 뒤, 현재 블록의 센터 주변의 하나 이상의 샘플로 구성된 예측 대상 블록(이하, “센터 블록”이라 함)에 대해 화면 내 예측을 수행할 수 있다. 이때 상기 예측 대상 블록은 8x8 크기의 현재 블록보다 같거나 작은 2x2, 3x3, 4x4 등의 크기 및/또는 형태를 가질 수 있다.

예를 들어, Planar 모드의 경우와 마찬가지로, 우상단 참조 샘플 TR 및 좌하단 참조 샘플 BL의 가중합을 통해 현재 블록 내의 우하단 샘플 K 를 유도할 수 있다. 이때 가중합은 현재 블록 및/또는 주변 블록의 정보(화면 내 예측 모드, 블록 크기, 형태, 변환유닛의 크기 및/또는 분할 정보) 중 적어도 하나 이상에 따라 수행될 수 있다. 상기에서 샘플 K는 TR 및 BL의 가중합을 이용하여 유도하였으나, 이에 한정되지 않는다. 예컨대, 샘플 K는 TR 및 BL의 평균값, 최소값, 최대값, 또는 임의의 가중치 합을 통해 유도될 수 있다.

예를 들어, 현재 블록 내의 하단행에 포함된 샘플들(A 블록)은 BL로, 우측열에 포함된 샘플들(B 블록)은 TR로 대체될 수 있다. 또는, 현재 블록 내에 하단행에 포함된 샘플들(A 블록)은 BL 및 K의 거리에 따른 가중합으로, 우측열에 포함된 샘플들(B 블록)은 TR 및 K의 거리에 따른 가중합으로 유도될 수 있다.

다음으로, 현재 블록 내의 센터 블록의 좌, 우, 상, 하에 위치한 블록들(도 22의 (c)에서 “1”로 표시된 블록들)에 대한 예측을 수행할 수 있다. 그 후, 남아있는 블록들(도 22의 (d)에서 “2”로 표시된 블록들)에 대한 화면 내 예측을 수행할 수 있다. 예컨대, 상기 남아 있는 블록에 대한 화면 내 예측은 픽셀 별(pixel-wise)로 독립적으로 또는 병렬적으로 처리될 수 있다.

전술한 바와 같이, 현재 블록 내의 경계 픽셀들 및 임의 크기의 센터 블록에 대한 예측을 수행할 수 있다. 또한, 이미 예측된 주변 샘플값을 적어도 하나 이상 사용하여, 적어도 하나 이상의 예측 대상 샘플을 포함하는 서브 블록 별로 화면 내 예측을 수행할 수 있다. 상기 화면 내 예측은 현재 블록 및/또는 주변 블록의 정보(화면 내 예측 모드, 블록 크기, 형태, 변환 유닛의 크기 및/또는 분할 정보) 중 적어도 하나 이상에 따라 수행될 수 있다.

일 예로, 도 22의 (c)에 도시된 4개의 서브 블록들(“1”로 표시된 블록들)의 각각은 센터, 상측, 하측, 좌측 및/또는 우측에 상기 방법에 따라 예측을 수행한 정보를 가지고 있다. 따라서, 서브 블록 별로 각각 독립적으로 또는 병렬적으로 화면 내 예측을 수행할 수 있다. 도 22의 (d)에 도시된 4개의 서브 블록들(“2”로 표시된 블록들) 역시 화면 내 예측이 완료된 주변의 인접 샘플 정보를 기반으로, 예컨대, 가중합을 수행하여, 서브 블록 각각에 대해 독립적으로 또는 병렬적으로 화면 내 예측을 수행할 수 있다.

도 23는 본 발명의 또 다른 실시예에 따른 화면 내 예측을 설명하기 위한 도면이다.

현재 블록에 대한 참조 샘플을 생성한 후, 현재 블록의 크기 및/또는 형태에 따라 현재 블록을 한 개 이상의 서브 블록으로 분할할 수 있다. 이 후, 서브 블록간의 위치를 변경하여 화면 내 예측을 수행할 수 있다. 도 23를 참조하여 설명하는 방법은 방향성 예측뿐만 아니라 비방향성 예측에도 적용될 수 있다.

예를 들어, 도 23에 도시된 바와 같이, 8x8 크기의 현재 블록에 대해 화면 내 예측을 수행할 수 있다. 이 때, 현재 블록을 분할하여 얻어진 4개의 서브 블록들 각각의 위치를 임의로 변경한 후, 화면 내 예측을 수행할 수 있다. 도 23에서, 현재 블록은 4개의 서브 블록으로 분할되는 예를 설명하였으나 이에 한정되지 않으며, 현재 블록은 2이상의 N개의 서브 블록으로 분할될 수 있다.

예를 들어, 현재 블록은 4개의 서브 블록들로 분할될 수 있다. 또한, 분할된 각각의 서브 블록에서 현재 블록 내에 있는 샘플값들을 부/복호화기에서 동일하게 정의된 규칙에 따라 재배열한 후 화면 내 예측을 수행할 수 있다.

예를 들어, 현재 블록을 2개 이상의 서브 블록들로 분할한 후, 서브 블록간 위치를 변경하거나 또는 서브 블록 내의 부호화 샘플들을 재배열할 수 있다. 또는 서브 블록간 위치의 변경과 서브 블록 내의 샘플들의 재배열이 동시에 수행될 수 있다.

도 21 내지 도 23를 참조하여 설명한 방법들 중 적어도 하나 이상의 방법으로 화면 내 예측을 수행했음을 나타내는 정보가 부/복호화될 수 있으며, 또는 부/복호화기에서 묵시적으로 유도될 수 있다. 이때 상기 정보가 명시적으로 부/복호화되는 경우, 적어도 아래의 엔트로피 부호화 방법 중 하나 이상을 사용할 수 있으며, 이진화된 후에 CABAC(ae(v))으로 최종 부/복호화될 수 있다.

- 절삭된 라이스(Truncated Rice) 이진화 방법

- K차수 지수-골롬(K-th order Exp_Golomb) 이진화 방법

- 제한된 K차수 지수-골롬(K-th order Exp_Golomb) 이진화 방법

- 고정 길이(Fixed-length) 이진화 방법

- 단항(Unary) 이진화 방법

- 절삭된 단항(Truncated Unary) 이진화 방법

휘도 및 색차신호 각각에 대하여 상기 화면 내 부/복호화 과정을 수행할 수 있다. 예를 들어, 상기 화면 내 부/복호화 과정에서 화면 내 예측 모드 유도, 블록 분할, 참조 샘플 구성, 화면 내 예측 수행 중 적어도 하나 이상의 방법이 휘도 신호 및 색차 신호에 대해서 다르게 적용될 수 있다.

휘도 및 색차신호에 대한 상기 화면 내 부/복호화 과정을 동일하게 수행할 수 있다. 예를 들어, 휘도 신호에 대하여 적용한 상기 화면 내 부/복호화 과정에서 화면 내 예측 모드 유도, 블록 분할, 참조 샘플 구성, 화면 내 예측 수행 중 적어도 하나를 색차 신호에 동일하게 적용할 수 있다.

상기의 방법들은 부호화기 및 복호화기에서 같은 방법으로 수행할 수 있다. 예를 들어, 상기 화면 내 부/복호화 과정에서 화면 내 예측 모드 유도, 블록 분할, 참조 샘플 구성, 화면 내 예측 수행 중 적어도 하나 이상의 방법이 부호화기 및 복호화기에서 동일하게 적용될 수 있다. 또한, 상기 방법들 적용하는 순서는 부호화기와 복호화기에서 상이할 수 있다. 예를 들어, 상기 현재 블록에 대한 화면 내 부/복호화를 수행함에 있어 부호화기에서는 참조 샘플을 구성한 후, 하나 이상의 화면 내 예측을 수행하여 결정된 화면 내 예측 모드를 부호화할 수 있다.

본 발명의 상기 실시예들은 부호화 블록, 예측 블록, 블록, 유닛 중 적어도 하나 이상의 크기에 따라 적용될 수 있다. 여기서의 크기는 상기 실시예들이 적용되기 위해 최소 크기 및/또는 최대 크기로 정의될 수도 있고, 상기 실시예가 적용되는 고정 크기로 정의될 수도 있다. 또한, 상기 실시예들은 제1 크기에서는 제1의 실시예가 적용될 수 있고, 제2 크기에서는 제2의 실시예가 적용될 수 있다. 즉, 상시 실시예들은 크기에 따라 복합적으로 적용될 수 있다. 또한, 본 발명의 상기 실시예들은 최소 크기 이상 및 최대 크기 이하일 경우에만 적용될 수 있다. 즉, 상기 실시예들을 블록 크기가 일정한 범위 내에 포함될 경우에만 적용될 수 있다.

예를 들어, 부호화/복호화 대상 블록의 크기가 8x8 이상일 경우에만 상기 실시예들이 적용될 수 있다. 예를 들어, 부호화/복호화 대상 블록의 크기가 16x16 이상일 경우에만 상기 실시예들이 적용될 수 있다. 예를 들어, 부호화/복호화 대상 블록의 크기가 32x32 이상일 경우에만 상기 실시예들이 적용될 수 있다. 예를 들어, 부호화/복호화 대상 블록의 크기가 64x64 이상일 경우에만 상기 실시예들이 적용될 수 있다. 예를 들어, 부호화/복호화 대상 블록의 크기가 128x128 이상일 경우에만 상기 실시예들이 적용될 수 있다. 예를 들어, 부호화/복호화 대상 블록의 크기가 4x4일 경우에만 상기 실시예들이 적용될 수 있다. 예를 들어, 부호화/복호화 대상 블록의 크기가 8x8 이하일 경우에만 상기 실시예들이 적용될 수 있다. 예를 들어, 부호화/복호화 대상 블록의 크기가 16x16 이하일 경우에만 상기 실시예들이 적용될 수 있다. 예를 들어, 부호화/복호화 대상 블록의 크기가 8x8 이상이고 16x16 이하일 경우에만 상기 실시예들이 적용될 수 있다. 예를 들어, 부호화/복호화 대상 블록의 크기가 16x16 이상이고 64x64 이하일 경우에만 상기 실시예들이 적용될 수 있다.

본 발명의 상기 실시예들은 시간적 계층(temporal layer)에 따라 적용될 수 있다. 상기 실시예들이 적용 가능한 시간적 계층을 식별하기 위해 별도의 식별자(identifier)가 시그널링되고, 해당 식별자에 의해 특정된 시간적 계층에 대해서 상기 실시예들이 적용될 수 있다. 여기서의 식별자는 상기 실시예가 적용 가능한 최소 계층 및/또는 최대 계층으로 정의될 수도 있고, 상기 실시예가 적용되는 특정 계층을 지시하는 것으로 정의될 수도 있다.

예를 들어, 현재 영상의 시간적 계층이 최하위 계층일 경우에만 상기 실시예들이 적용될 수 있다. 예를 들어, 현재 영상의 시간적 계층 식별자가 0인 경우에만 상기 실시예들이 적용될 수 있다. 예를 들어, 현재 영상의 시간적 계층 식별자가 1 이상인 경우에만 상기 실시예들이 적용될 수 있다. 예를 들어, 현재 영상의 시간적 계층이 최상위 계층일 경우에만 상기 실시예들이 적용될 수 있다.

본 발명의 상기 실시예와 같이 참조 영상 리스트 생성(reference picture list construction) 및 참조 영상 리스트 수정(reference picture list modification) 과정에 사용되는 참조 영상 세트(reference picture set)는 L0, L1, L2, L3 중 적어도 1개 이상의 참조 영상 리스트를 사용할 수 있다.

본 발명의 상기 실시예에 따라 디블록킹 필터(deblocking filter)에서 경계 강도(boundary strength) 산출 시 부호화/복호화 대상 블록의 움직임 벡터를 1개 이상 그리고 최대 N개까지 사용할 수 있다. 여기서 N은 1 이상의 양의 정수를 나타내며, 2, 3, 4 등이 될 수 있다.

움직임 벡터 예측 시 움직임 벡터가 16-화소(16-pel) 단위, 8-화소(8-pel) 단위, 4-화소(4-pel) 단위, 정수-화소(integer-pel) 단위, 1/2-화소(1/2-pel) 단위, 1/4-화소(1/4-pel) 단위, 1/8-화소(1/8-pel) 단위, 1/16-화소(1/16-pel) 단위, 1/32-화소(1/32-pel) 단위, 1/64-화소(1/64-pel) 단위 중 적어도 하나 이상을 가질 때도 본 발명의 상기 실시예들이 적용될 수 있다. 또한 움직임 벡터 예측 수행 시 움직임 벡터는 상기 화소 단위 별로 선택적으로 사용될 수 있다.

본 발명의 상기 실시예들이 적용되는 슬라이스 종류(slice type)이 정의되고, 해당 슬라이스 종류에 따라 본 발명의 상기 실시예들이 적용될 수 있다.

예를 들어, 슬라이스 종류가 T(Tri-predictive)-slice인 경우, 적어도 3개 이상의 움직임 벡터를 이용하여 예측 블록을 생성하고, 적어도 3개 이상의 예측 블록들의 가중 합을 계산하여 부호화/복호화 대상 블록의 최종 예측 블록으로 사용할 수 있다. 예를 들어, 슬라이스 종류가 Q(Quad-predictive)-slice인 경우, 적어도 4개 이상의 움직임 벡터를 이용하여 예측 블록을 생성하고, 적어도 4개 이상의 예측 블록들의 가중 합을 계산하여 부호화/복호화 대상 블록의 최종 예측 블록으로 사용할 수 있다.

본 발명의 상기 실시예들은 움직임 벡터 예측을 이용한 화면 간 예측 및 움직임 보상 방법에 적용될 수 있을 뿐만 아니라, 스킵 모드, 머지 모드 등을 이용한 화면 간 예측 및 움직임 보상 방법에 적용될 수 있다.

본 발명의 상기 실시예들이 적용되는 블록의 형태는 정방형(square) 형태 혹은 비정방형(non-square) 형태를 가질 수 있다.

상술한 실시예들에서, 방법들은 일련의 단계 또는 유닛으로서 순서도를 기초로 설명되고 있으나, 본 발명은 단계들의 순서에 한정되는 것은 아니며, 어떤 단계는 상술한 바와 다른 단계와 다른 순서로 또는 동시에 발생할 수 있다. 또한, 당해 기술 분야에서 통상의 지식을 가진 자라면 순서도에 나타난 단계들이 배타적이지 않고, 다른 단계가 포함되거나, 순서도의 하나 또는 그 이상의 단계가 본 발명의 범위에 영향을 미치지 않고 삭제될 수 있음을 이해할 수 있을 것이다.

상술한 실시예는 다양한 양태의 예시들을 포함한다. 다양한 양태들을 나타내기 위한 모든 가능한 조합을 기술할 수는 없지만, 해당 기술 분야의 통상의 지식을 가진 자는 다른 조합이 가능함을 인식할 수 있을 것이다. 따라서, 본 발명은 이하의 특허청구범위 내에 속하는 모든 다른 교체, 수정 및 변경을 포함한다고 할 것이다.

이상 설명된 본 발명에 따른 실시예들은 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.

이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명이 상기 실시예들에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형을 꾀할 수 있다.

따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등하게 또는 등가적으로 변형된 모든 것들은 본 발명의 사상의 범주에 속한다고 할 것이다.

Claims (20)

1. 현재 블록에 대한 화면 내 예측 모드를 유도하는 단계;
   상기 현재 블록에 인접한 적어도 하나의 복원 샘플 라인을 선택하는 단계;
   상기 적어도 하나의 복원 샘플 라인에 포함된 적어도 하나의 복원 샘플을 이용하여 참조 샘플을 구성하는 단계; 및
   상기 화면 내 예측 모드 및 상기 참조 샘플에 기초하여 상기 현재 블록에 대한 화면 내 예측을 수행하는 단계를 포함하는 영상 복호화 방법.
2. 제1항에 있어서,
   상기 적어도 하나의 복원 샘플 라인은 상기 현재 블록의 상단 및 좌측에 인접한 복원 샘플 라인 중 적어도 하나를 포함하는 영상 복호화 방법.
3. 제2항에 있어서,
   상기 상단 및 좌측에 인접한 복원 샘플 라인의 수는 상기 현재 블록의 크기, 형태 및 화면 내 예측 모드 중 적어도 하나에 기초하여 결정되는 영상 복호화 방법.
4. 제1항에 있어서,
   상기 참조 샘플은 상기 적어도 하나의 복원 샘플의 가중합을 이용하여 유도되는 영상 복호화 방법.
5. 제4항에 있어서,
   상기 가중합은 상기 화면 내 예측 모드 및 상기 현재 블록과 상기 복원 샘플 라인과의 거리 중 적어도 하나에 기초하여 수행되는 영상 복호화 방법.
6. 제1항에 있어서,
   상기 참조 샘플을 구성하는 단계는,
   상기 현재 블록에 인접한 상단행 및 좌측열 중 적어도 하나에 포함된 복원 샘플로부터 상기 현재 블록과 유사한 복원 샘플을 검색하는 단계;
   상기 검색된 복원 샘플을 상기 복원 샘플 라인에 포함된 상기 적어도 하나의 복원 샘플로 대체하는 단계를 더 포함하는 영상 복호화 방법.
7. 제1항에 있어서,
   상기 현재 블록을 복수의 서브 블록으로 분할하는 단계를 더 포함하고,
   상기 복수의 서브 블록의 각각에 대한 화면 내 예측은 상기 현재 블록을 기준으로 구성된 참조 샘플에 기초하여 수행되는 영상 복호화 방법.
8. 제7항에 있어서,
   상기 현재 블록을 기준으로 구성된 참조 샘플을 이용하여 상기 복수의 서브 블록 중 하나의 서브 블록에 대한 화면 내 예측을 수행할 때, 상기 하나의 서브 블록에 인접하지 않은 참조 샘플을 보상한 후 화면 내 예측을 수행하는 영상 복호화 방법.
9. 제1항에 있어서,
   상기 화면 내 예측을 수행하는 단계는,
   상기 적어도 하나의 복원 샘플을 이용하여, 상기 현재 블록 내의 우측열에 포함된 샘플들, 하단행에 포함된 샘플들 및 우하단 샘플 중 적어도 하나의 샘플을 예측하는 단계; 및
   상기 예측된 적어도 하나의 샘플을 이용하여, 상기 현재 블록 내의 나머지 샘플들을 예측하는 단계를 포함하는 영상 복호화 방법.
10. 화면 내 예측부를 포함하는 영상 복호화 장치에 있어서,
    상기 화면 내 예측부는,
    현재 블록에 대한 화면 내 예측 모드를 유도하고, 상기 현재 블록에 인접한 적어도 하나의 복원 샘플 라인을 선택하고, 상기 적어도 하나의 복원 샘플 라인에 포함된 적어도 하나의 복원 샘플을 이용하여 참조 샘플을 구성하고, 상기 화면 내 예측 모드 및 상기 참조 샘플에 기초하여 상기 현재 블록에 대한 화면 내 예측을 수행하는 영상 복호화 장치
11. 현재 블록에 대한 화면 내 예측 모드를 결정하는 단계;
    상기 현재 블록에 인접한 적어도 하나의 복원 샘플 라인을 선택하는 단계;
    상기 적어도 하나의 복원 샘플 라인에 포함된 적어도 하나의 복원 샘플을 이용하여 참조 샘플을 구성하는 단계; 및
    상기 화면 내 예측 모드 및 상기 참조 샘플에 기초하여 상기 현재 블록에 대한 화면 내 예측을 수행하는 단계를 포함하는 영상 부호화 방법.
12. 제11항에 있어서,
    상기 적어도 하나의 복원 샘플 라인은 상기 현재 블록의 상단 및 좌측에 인접한 복원 샘플 라인 중 적어도 하나를 포함하는 영상 부호화 방법.
13. 제12항에 있어서,
    상기 상단 및 좌측에 인접한 복원 샘플 라인의 수는 상기 현재 블록의 크기, 형태 및 화면 내 예측 모드 중 적어도 하나에 기초하여 결정되는 영상 부호화 방법.
14. 제11항에 있어서,
    상기 참조 샘플은 상기 적어도 하나의 복원 샘플의 가중합을 이용하여 유도되는 영상 부호화 방법.
15. 제14항에 있어서,
    상기 가중합은 상기 화면 내 예측 모드 및 상기 현재 블록과 상기 복원 샘플 라인과의 거리 중 적어도 하나에 기초하여 수행되는 영상 부호화 방법.
16. 제11항에 있어서,
    상기 참조 샘플을 구성하는 단계는,
    상기 현재 블록에 인접한 상단행 및 좌측열 중 적어도 하나에 포함된 복원 샘플로부터 상기 현재 블록과 유사한 복원 샘플을 검색하는 단계;
    상기 검색된 복원 샘플을 상기 복원 샘플 라인에 포함된 상기 적어도 하나의 복원 샘플로 대체하는 단계를 더 포함하는 영상 부호화 방법.
17. 제11항에 있어서,
    상기 현재 블록을 복수의 서브 블록으로 분할하는 단계를 더 포함하고,
    상기 복수의 서브 블록의 각각에 대한 화면 내 예측은 상기 현재 블록을 기준으로 구성된 참조 샘플에 기초하여 수행되는 영상 부호화 방법.
18. 제17항에 있어서,
    상기 현재 블록을 기준으로 구성된 참조 샘플을 이용하여 상기 복수의 서브 블록 중 하나의 서브 블록에 대한 화면 내 예측을 수행할 때, 상기 하나의 서브 블록에 인접하지 않은 참조 샘플을 보상한 후 화면 내 예측을 수행하는 영상 부호화 방법.
19. 화면 내 예측부를 포함하는 영상 부호화 장치에 있어서,
    상기 화면 내 예측부는,
    현재 블록에 대한 화면 내 예측 모드를 결정하고, 상기 현재 블록에 인접한 적어도 하나의 복원 샘플 라인을 선택하고, 상기 적어도 하나의 복원 샘플 라인에 포함된 적어도 하나의 복원 샘플을 이용하여 참조 샘플을 구성하고, 상기 화면 내 예측 모드 및 상기 참조 샘플에 기초하여 상기 현재 블록에 대한 화면 내 예측을 수행하는 단계를 수행하는 영상 부호화 장치.
20. 영상 부호화 방법에 의해 생성된 비트스트림을 저장하는 기록 매체로서, 상기 영상 부호화 방법은,
    현재 블록에 대한 화면 내 예측 모드를 결정하는 단계;
    상기 현재 블록에 인접한 적어도 하나의 복원 샘플 라인을 선택하는 단계;
    상기 적어도 하나의 복원 샘플 라인에 포함된 적어도 하나의 복원 샘플을 이용하여 참조 샘플을 구성하는 단계; 및
    상기 화면 내 예측 모드 및 상기 참조 샘플에 기초하여 상기 현재 블록에 대한 화면 내 예측을 수행하는 단계를 포함하는 기록 매체.

Images