KR101924959B1 - 영상 부호화 방법 및 장치 - Google Patents

Abstract

본 발명은 영상 부호화 방법에 관한 것으로, 보다 상세하게는 부호화하고자 하는 코딩유닛에 인접하는 주변 블록들을 이용하여 상기 코딩유닛을 인트라 예측 부호화하는 단계와, 상기 코딩유닛의 율-왜곡 비용과 임계치를 비교하는 단계 및 상기 비교단계의 결과에 따라 상기 코딩유닛의 분할여부를 결정하는 단계를 포함하여, 코딩과정에서의 복잡도를 감소시킴으로써 고속으로 영상을 부호화할 수 있는 영상 부호화 방법을 제공한다.

Description

영상 부호화 방법 및 장치{Method and Apparatus for image encoding}

본 발명은 영상 부호화 방법 및 장치에 관한 것이다.

H.264/AVC 는 고성능의 압축 효율을 갖는 비디오 압축 표준 기술이다. H.264/AVC 에서는 영상 내의 상관성을 제거하기 위한 화면 내 예측 기술, 영상 간의 상관성을 제거하기 위한 화면 간 예측 기술을 통하여 원본 신호를 예측 부호화할 수 있다. H.264/AVC의 부호화기는 원본 신호와 예측 신호의 차이 값인 차분 값에 대하여 이산 여현 변환 부호화와 양자화를 수행한다. 그리고 양자화된 신호는 지그재그 스캐닝 방법으로 정렬된 후 엔트로피부호화된다.

최근에 ITU-T VCEG(Video Coding Experts Group)와 ISO/IEC MPEG(Moving Picture Experts Group)은 JCT-VC(Joint Collaborative Team on Video Coding)을 구성하여 새로운 영상 압축 표준인 HEVC(High Efficiency Video Coding)의 표준화를 진행 중이며, 이는 기존에 제정된 표준인 H.264/AVC에 비교하여 현재 약 40% 이상의 압축 효율의 향상이 달성되어 있는 것으로 알려져 있다. H.264/AVC와 HEVC는 기본적으로 블록 기반의 영상 부호화기이라는 점은 동일하지만 16x16의 고정된 크기인 MB(Macro Block) 단위의 부호화를 수행하는 H.264/AVC와는 다르게 HEVC는 Common test condition 내에서 최대 64x64 크기로부터 8x8 크기까지의 다양한 크기를 갖는 CU(Coding Unit)의 기반에 따른 부호화를 수행한다.

그러나 현재까지 표준화가 진행된 HEVC는 압축 효율은 우수한 반면, 가능한 모든 크기의 CU에 대해 부호화를 수행하여 가장 압축 효율이 우수한 CU를 선택하는 방식을 사용하므로, 매우 높은 연산 복잡도를 갖고 오랜 부호화 시간을 요구하게 된다. 특히, 인트라 부호화 과정에서 CU의 율-왜곡 비용을 비교하여 CU의 분할 여부를 결정하고 다양한 크기의 CU의 구조를 결정하기 때문에 연산 복잡도가 매우 높다.

즉, 다양한 크기를 가지고 있는 CU 단위로 인트라 부호화가 수행되는데, 하나의 CU를 해당 크기 그대로 인트라 부호화할 경우의 율-왜곡 비용(rate distortion cost)과 CU를 4개의 하위 CU로 분할하여 각각을 따로 인트라 부호화할 경우의 율-왜곡 비용의 합을 서로 비교하여 더 작은 율-왜곡 비용을 도출하는 경우를 선택함으로써 CU의 분할 여부를 결정한다. 여기서 CU가 분할되지 않을 경우 split flag가 0으로, CU가 분할될 경우 split flag가 1로 부호화되어 CU의 분할 정보를 복호화기로 전달하게 된다.

이처럼 CU의 분할 여부를 결정할 때 각 CU의 율-왜곡 비용을 계산하기 위해서는 실제 부호화 과정이 모두 수행되어야하기 때문에 부호화기에 많은 연산량이 요구된다. 특히 HEVC의 인트라 부호화의 경우 하나의 블록 당 35가지의 후보 예측 모드를 가질 수 있기 때문에 하나의 CU에 대한 연산량도 많고, 이러한 부호화 과정을 다양한 크기의 CU에 대해 모두 수행한 후 율-왜곡 비용을 비교하기 때문에 부호화기의 복잡도가 매우 높은 문제점이 있다.

이는 실시간 부호화 및 스트리밍 서비스 등의 제공에 있어 제약이 되기 때문에 이를 해결하기 위한 방법이 필요하다.

본 발명은 상기와 같은 문제점을 해결하기 위해 안출된 것으로, 특히 부호화시에 연산을 간단하게 하고, 부호화시간을 단축시키도록 하는 영상 부호화 방법 및 장치을 제공하는 데 그 목적이 있다.

또한, 인코더의 성능을 향상시킴으로써 고속의 인코딩을 통하여 실시간으로 고화질의 화상정보를 제공하도록 하는 영상 부호화 방법 및 장치를 제공하는 데 그 목적이 있다.

상기 목적을 달성하기 위해 안출된 본 발명의 일관점은, 영상 부호화 방법에 있어서, 부호화하고자 하는 코딩유닛에 인접하는 주변 블록들을 이용하여 상기 코딩유닛을 인트라 예측 부호화하는 단계; 상기 코딩유닛의 율-왜곡 비용과 임계치를 비교하는 단계; 및 상기 비교단계의 결과에 따라 상기 코딩유닛의 분할여부를 결정하는 단계;를 포함하는, 영상 부호화 방법을 제공한다.

여기서, 상기 코딩유닛의 율-왜곡 비용이 상기 임계치보다 큰 경우, 상기 코딩유닛의 분할을 수행하며, 상기 코딩유닛의 율-왜곡 비용이 임계치보다 작은 경우, 상기 코딩유닛의 분할을 수행하지 않고, 상기 코딩유닛의 크기, 분할 정보 및 인트라 예측 정보를 부호화하는 것이 바람직하다.

또한, 본 발명의 일실시예에 따른 영상 부호화 방법은 상기 코딩유닛이 SCU(Smallest Coding Unit)인지 체크하는 단계를 더 포함할 수 있다.

또한, 상기 코딩유닛의 분할을 수행한 후, 분할된 코딩유닛들을 각각 인트라 예측 부호화하는 단계를 더 포함할 수도 있다.

여기서, 상기 코딩유닛의 분할은 다양한 개수로 분할될 수도 있지만, 4개의 하위 코딩유닛으로 분할되는 것이 바람직하다.

한편, 본 발명의 일실시예에 따른 영상 부호화 방법의 임계치는, 상기 코딩유닛의 크기 및/또는 영상의 양자화 파라미터 및/또는 영상의 크기에 따라 결정될 수 있다.

또한, 본 발명의 일실시예에 따른 영상 부호화 방법은, LCU(Largest Coding Unit)내의 모든 코딩유닛의 부호화가 수행되었는지 체크하는 단계를 더 포함할 수도 있다. 여기서, 상기 LCU내의 모든 코딩유닛의 부호화가 수행되었으면 상기 LCU의 부호화를 종료하고, 상기 LCU내의 모든 코딩유닛의 부호화가 수행되지 않았으면, 부호화가 수행되지 않는 코딩유닛에 대해 인트라 예측 부호화하는 것이 바람직하다.

본 발명의 다른 관점은, 프로세서(processor); 및 상기 프로세서와 연결되며 상기 프로세서를 구동하기 위한 정보를 저장하는 메모리를 포함하되,상기 프로세서는, 부호화하고자 하는 코딩유닛에 인접하는 주변 블록들을 이용하여 상기 코딩유닛을 인트라 예측 부호화하고 율-왜곡 비용을 산출한 후, 임계치와 비교하고, 상기 비교 결과에 따라 상기 코딩유닛의 분할여부를 결정하도록 구성되는, 인코더(encoder)를 제공한다.

여기서, 상기 코딩유닛의 율-왜곡 비용이 상기 임계치보다 큰 경우, 상기 코딩유닛의 분할을 수행하고, 상기 코딩유닛의 율-왜곡 비용이 임계치보다 작은 경우, 상기 코딩유닛의 분할을 수행하지 않고, 상기 코딩유닛의 크기, 분할 정보 및 인트라 예측 정보를 부호화하는 것이 바람직하다.

본 발명에 의하면 현재 코딩유닛의 율-왜곡 비용과 임계치를 비교함으로써 불필요한 코딩유닛의 분할 과정을 생략하여 부호화 효율은 유지하면서 연산량을 줄이게 되어 인코더의 복잡도를 감소시키는 효과가 있다.

또한, 본 발명에 의하면 실시간 영상 부호화가 가능하여 실시간영상, 고화질영상을 보다 효율적으로 제공할 수 있게 된다.

도 1은 영상 부호화 장치 구조의 일 예를 개략적으로 도시한 것이다.
도 2는 영상 복호화 장치 구조의 일 예를 개략적으로 도시한 것이다.
도 3은 데이터를 처리할 때 CU 단위로 분할되는 것을 개략적으로 설명하는 도면이다.
도 4는 LCU 내에서 CU가 분할되는 과정을 좀더 구체적으로 설명하는 도면이다.
도 5는 본 발명의 일실시예에 따른 영상 부호화방법을 도시한 순서도이다.
도 6a는 64x64 CU가 분할되지 않은 경우와 분할된 경우의 율-왜곡 비용의 분포를 나타낸다.
도 6b는 32x32 CU가 분할되지 않은 경우와 분할된 경우의 율-왜곡 비용의 분포를 나타낸다.
도 6c는 16x16 CU가 분할되지 않은 경우와 분할된 경우의 율-왜곡 비용의 분포를 나타낸다.
도 6d는 8x8 CU가 분할되지 않은 경우와 분할된 경우의 율-왜곡 비용의 분포를 나타낸다.

본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였다.

제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.

어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어"있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어"있다거나 "직접 접속되어"있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.

본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.

이하, 첨부한 도면들을 참조하여, 본 발명의 바람직한 실시예를 보다 상세하게 설명하고자 한다. 이하, 도면상의 동일한 구성요소에 대해서는 동일한 참조부호를 사용하고 동일한 구성요소에 대해서 중복된 설명은 생략한다.

도 1은 영상 부호화 장치 구조의 일 예를 개략적으로 도시한 것이다.

도 1을 참조하면, 상기 영상 부호화 장치(100)는 움직임 예측부(111), 움직임 보상부(112), 인트라 예측부(120), 스위치(115), 감산기(125), 변환부(130), 양자화부(140), 엔트로피 부호화부(150), 역양자화부(160),역변환부(170), 가산기(175), 필터부(180) 및 참조영상 버퍼(190)를 포함한다.

영상 부호화 장치(100)는 입력 영상에 대해 인트라(intra) 모드 또는 인터(inter) 모드로 부호화를 수행하고 비트스트림을 출력한다. 이하 본 발명의 실시예에서는 인트라 예측은 화면 내 예측, 인터 예측은 화면 간 예측과 동일한 의미로 사용될 수 있다. 예측 단위에 대한 최적의 예측 방법을 결정하기 위해 예측 단위에 대해 화면 내예측 방법 및 화면 간 예측 방법이 선택적으로 사용될 수 있다. 영상 부호화 장치(100)는 입력 영상의 원본 블록에 대한 예측 블록을 생성한 후, 원본 블록과 예측 블록의 차분을 부호화한다.

화면 내 예측 모드인 경우, 인트라 예측부(120)(또는 화면 내 예측부도 동일한 의미를 가지는 용어로 사용될 수 있다.)는 현재 블록 주변의 이미 부호화된 블록의 화소값을 이용하여 공간적 예측을 수행하여 예측 블록을 생성한다.

화면 간 예측 모드인 경우, 움직임 예측부(111)는, 움직임 예측 과정에서 참조 영상 버퍼(190)에 저장되어 있는 참조 영상에서 입력 블록과 가장 매치가 잘 되는 영역을 찾아 움직임 벡터를 구한다. 움직임 보상부(112)는 움직임 벡터를 이용하여 움직임 보상을 수행함으로써 예측 블록을 생성한다.

감산기(125)는 입력 블록과 생성된 예측 블록의 차분에 의해 잔여 블록(residual block)을 생성한다. 변환부(130)는 잔여 블록에 대해 변환(transform)을 수행하여 변환 계수(transform coefficient)를 출력한다. 그리고 양자화부(140)는 입력된 변환 계수를 양자화 파라미터에 따라 양자화하여 양자화된 계수(quantized coefficient)를 출력한다. 엔트로피 부호화부(150)는 입력된 양자화된 계수를 확률 분포에 따라 엔트로피 부호화하여 비트스트림(bit stream)을 출력한다.

HEVC는 인터 예측 부호화, 즉 화면 간 예측 부호화를 수행하므로, 현재 부호화된 영상은 참조 영상으로 사용되기 위해 복호화되어 저장될 필요가 있다. 따라서 양자화된 계수는 역양자화부(160)에서 역양자화되고 역변환부(170)에서 역변환된다. 역양자화, 역변환된 계수는 가산기(175)를 통해 예측 블록과 더해지고 복원 블록이 생성된다.

복원 블록은 필터부(180)를 거치고, 필터부(180)는 디블록킹 필터(deblocking filter), SAO(Sample Adaptive Offset), ALF(Adaptive Loop Filter) 중 적어도 하나 이상을 복원 블록 또는 복원 픽쳐에 적용할 수 있다. 필터부(180)는 적응적 인루프(in-loop) 필터로 불릴 수도 있다. 디블록킹 필터는 블록 간의 경계에 생긴 블록 왜곡을 제거할 수 있다. SAO는 코딩 에러를 보상하기 위해 화소값에 적정 오프셋(offset) 값을 더해줄 수 있다. ALF는 복원된 영상과 원래의 영상을 비교한 값을 기초로 필터링을 수행할 수 있으며, 고효율이 적용되는 경우에만 수행될 수도 있다. 필터부(180)를 거친 복원 블록은 참조 영상 버퍼(190)에 저장된다.

도 2는 영상 복호화 장치 구조의 일 예를 개략적으로 도시한 것이다.

도 2를 참조하면, 영상 복호화 장치(200)는 엔트로피 복호화부(210), 역양자화부(220), 역변환부(230), 인트라 예측부(240), 움직임 보상부(250), 필터부(260) 및 참조 영상 버퍼(270)를 포함한다.

영상 복호화 장치(200)는 부호화기에서 출력된 비트스트림을 입력 받아 인트라 모드 또는 인터 모드로 복호화를 수행하고 재구성된 영상, 즉 복원 영상을 출력한다. 인트라 모드인 경우 화면 내 예측 모드를 사용하여 예측 블록을 생성하고 인터 모드인 경우 화면 간 예측 방법을 사용하여 예측 블록을 생성한다. 영상 복호화 장치(200)는 입력 받은 비트스트림으로부터 잔여 블록(residual block)을 얻고 예측 블록을 생성한 후 잔여 블록과 예측블록을 더하여 재구성된 블록, 즉 복원 블록을 생성한다.

엔트로피 복호화부(210)는 입력된 비트스트림을 확률 분포에 따라 엔트로피 복호화하여 양자화된 계수(quantized coefficient)를 출력한다. 양자화된 계수는 역양자화부(220)에서 역양자화되고 역변환부(230)에서 역변환되며, 양자화된 계수가 역양자화/역변환 된 결과, 잔여 블록(residual block)이 생성된다.

화면 내 예측 모드인 경우, 인트라 예측부(240)(또는 화면 간 예측부)는 현재 블록 주변의 이미 부호화된 블록의 화소값을 이용하여 공간적 예측을 수행하여 예측 블록을 생성한다.

화면 간 예측 모드인 경우, 움직임 보상부(250)는 움직임 벡터 및 참조 영상 버퍼(270)에 저장되어 있는 참조영상을 이용하여 움직임 보상을 수행함으로써 예측 블록을 생성한다.

잔여 블록과 예측 블록은 가산기(255)를 통해 더해지고, 더해진 블록은 필터부(260)를 거친다. 필터부(260)는 디블록킹 필터, SAO, ALF 중 적어도 하나 이상을 복원 블록 또는 복원 픽쳐에 적용할 수 있다. 필터부(260)는 재구성된 영상, 즉 복원 영상을 출력한다. 복원 영상은 참조 영상 버퍼(270)에 저장되어 화면 간 예측에 사용될 수 있다.

부호화/복호화 장치의 예측 성능을 향상시키기 위한 방법에는 보간(interpolation) 영상의 정확도를 높이는 방법과 차신호를 예측하는 방법이 있다. 여기서 차신호란 원본 영상과 예측 영상과의 차이를 나타내는 신호이다.

본 발명에서 “차신호”는 문맥에 따라 “차분 신호”, “잔여 블록” 또는 “차분 블록”으로 대체되어 사용될 수 있으며, 해당 기술분야에서 통상의 지식을 가진 자는 발명의 사상, 본질에 영향을 주지 않는 범위 내에서 이를 구분할 수 있을 것이다.

본 발명의 실시예에서는 설명의 편의상 코딩 유닛(Coding Unit, 이하 'CU'라 함)을 부호화 단위라는 용어로 사용하지만, 부호화 뿐만 아니라 복호화를 수행하는 단위가 될 수도 있다. 이하, 본 발명의 실시예에 따른 도 3 내지 도 5에서 설명하는 영상 부호화 방법은 도 1 및 도 2에서 전술한 각 모듈의 기능에서 맞게 구현될 수 있고 이러한 부호화기 및 복호화기는 본 발명의 권리범위에 포함된다. 즉, 본 발명의 실시예에서 후술할 영상 부호화/복호화 방법은 도 1 및 도 2에서 전술한 영상 부호화기 및 영상 복호화기에 포함된 각 구성부에서 수행될 수 있다. 구성부의 의미는 하드웨어적인 의미 뿐만 아니라 알고리즘을 통해 수행될 수 있는 소프트웨어적인 처리 단위도 포함할 수 있다.

상술한 도 1, 도 2의 실시예에 따른 영상 부호화/복호화에서는, 영상의 효율적인 부호화를 위해, 단일 크기의 매크로블록이 다양한 크기로 확장된 CU 구조가 정의될 수 있다. CU는 비디오 부호화기에서 부호화가 수행되는 하나의 단위로서, 쿼드 트리 구조(Quad Tree Structure)를 기초로 깊이(depth) 정보를 가지고 계층적으로 분할될 수 있다. CU는 8×8, 16×16, 32×32, 64×64 등 다양한 크기를 가질 수 있다. 또한 가장 큰 크기의 CU를 LCU(Largest Coding Unit), 가장 작은 크기의 CU를 SCU(Smallest Coding Unit)라 한다. SCU를 제외한 모든 CU는 split_flag 정보를 할당하여 그 값에 따라 해당 CU가 분할된 영역인지 아닌지를 지시하게 된다. 부호화기는 다양한 비디오 신호 특성에 따라, 부호화 과정에서 LCU의 크기를 조절할 수도 있다.

도 3은 CU를 설명하는 도면으로서, 데이터를 처리할 때 CU 단위로 분할을 수행하는 것을 개략적으로 설명하고 있다.

도 3을 참조하면, 영상을 미리 정의된 기본적인 CU 단위로 분할한 후, CU를 분할하면서 부호화가 수행된다. LCU를 시작으로, 필요할 경우 블록의 크기가 가로 세로 절반씩 감소한 4개의 CU로 분할될 수 있다. CU를 분할하는 것은 부호화 측에서 영상의 특성에 따라 결정하는데, 복잡한 영상의 경우에는 더 작은 CU로 분할될 수 있고, 복잡하지 않은 영상에서는 작은 CU로 분할되지 않을 수 있다. 따라서, CU의 분할 여부는 압축 효율과 화질 측면에서의 효율에 따라서 결정된다고 할 수 있다.

CU를 분할할지에 대한 정보는 분할 정보(Split flag)를 통해 표현한다. 이 분할 정보는 더 이상 분할할 수 없는 가장 작은 단위의 CU를 제외한 모든 CU에 포함되어 있으며 분할 정보의 값(split_flag)이 ‘0’일 경우에는 해당 CU를 분할하지 않고, 분할 정보의 값(split_flag)이 ‘1’일 경우에는 해당 CU를 가로 세로 각각 이등분한 4개의 작은 CU로 계층적인 분할을 수행한다.

CU는 한 번 분할될 때마다 깊이(Depth)가 1씩 증가하게 된다. 사이즈가 같은 CU들의 깊이는 동일할 수 있다. CU의 최대 깊이는 미리 정의될 수 있는데, 미리 정의된 최대 깊이 이상으로 CU를 분할할 수 없다. 따라서, CU의 분할은 깊이가 0인 LCU부터 CU가 분할되면서 깊이가 1씩 증가하여 최대 깊이가 될 때까지 분할할 수 있다.

도 3을 참조하면, 깊이 0인 CU(LCU)에 대하여, 분할 정보값이 0인 경우에는 더 이상 분할되지 분할되지 않고, 분할 정보값이 1인 경우에는 네 개의 더 작은 CU로 분할될 수 있다. 이때, 분할된 작은 CU들에 인덱스(0, 1, 2, 3)을 부여하여 구분할 수도 있다.

분할이 되면, 깊이는 증가한다. 도 3의 예는 최대 깊이가 4로 설정된 경우로서, 도시된 바와 같이, 최대 깊이인 4까지 분할되면, 더 이상 분할되지 않는다.

도 3의 우측 그림은 LCU가 2Nx2N 화소 (N=64)이고, 최대 깊이가 4인 경우에, CU가 분할되는 것을 깊이에 따라서 개략적으로 설명하는 도면이다. 여기서는 설명의 편의를 위해 LCU가 128x128인 경우를 예로서 설명하였으나, 본 발명은 이에 한정되지 않으며, LCU는 다른 크기로 정의될 수 있다.

도 4는 LCU 내에서 CU가 분할되는 과정을 좀더 구체적으로 설명하는 도면이다.

도 4에 따르면, LCU(400)의 크기가 64x64 화소이고, 최대 깊이가 3인 경우를 예로서 설명한다. 64x64 화소 단위로 부호화를 수행하지 않는 경우에는, 64x64 화소 CU의 분할 정보(Split flag) 값으로서 분할된다는 것을 지시하는 ‘1’이 저장된다. 따라서, 64x64 화소 CU는 가로 세로 절반씩 작은 32x32 화소의 4개 CU로 분할된다.

64x64 화소 CU에서 분할된 32x32 화소 CU(410, 420, 430)가 더 이상 분할되지 않는 경우에는, 분할 정보값으로서 분할되지 않는다는 것을 지시하는 ‘0’이 저장된다. 이때, CU(410, 420, 430)는 32x32 화소 단위로 인트라 혹은 인터 모드로 부호화를 수행될 수 있다.

32x32 화소 CU(440)가 더 작은 16x16 화소 CU 4개로 분할되는 경우에는, CU(440)에 대한 분할 정보 값으로서 ‘1’이 저장되고, 16x16 화소 CU 4개로 부호화가 수행된다. 미리 설정된 최대 깊이가 3이더라도 16x16 화소 CU가 가장 작은 CU로 설정되어 있다면(깊이 2), 더 이상 분할될 수 없으므로 분할 정보를 포함하지 않을 수 있다. 16x16 화소 CU가 가장 작은 CU로 설정되어 있지 않다면, 16x16 화소가 더 이상 분할되지 않을 때 분할정보로서 ‘0’이 저장된다.

도 5는 본 발명의 일실시예에 따른 영상 부호화방법을 도시한 순서도이다.

도 5를 참조하면, 본 발명의 일시시예에 따른 영상 부호화 방법은, CU를 인트라 예측 부호화하는 단계(S110)와, CU의 분할 여부를 결정하기 위해 인트라 부호화된 CU의 율-왜곡 비용을 임계치와 비교하는 단계(S130)를 포함한다.

상기 인트라 예측 부호화하는 단계(S110)에서는, 하나의 LCU에 대해 인트라 예측 부호화를 수행하거나 이를 작은 크기의 CU로 분할하였을 경우 그 중 하나의 CU에 대해 인트라 예측 부호화를 수행한다. 인트라 예측 부호화를 수행하게 되면 해당 CU의 율-왜곡 비용을 구할 수 있게 된다.

다음으로, 현재 CU가 SCU인지 아닌지 체크하는 단계(S120)를 더 포함할 수 있다. SCU는 분할할 수 있는 가장 작은 단위이므로 CU 분할을 더 이상 수행할 수 없기 때문에 이를 체크하는 단계를 추가한 것이다. 현재 CU가 SCU가 아니면 CU의 율-왜곡 비용을 임계치와 비교하는 단계(S130)로 진행하고, 현재 CU가 SCU이면 CU의 크기, 분할 정보, 인트라 예측 정보를 비트스트림으로 부호화하는 단계(S150)로 진행한다.

상기 율-왜곡 비용을 임계치와 비교하는 단계(S130)는, 인트라 예측 부호화 단계(S110)에서 구한 율-왜곡 비용을 미리 설정한 임계치와 비교하여 해당 CU의 율-왜곡 비용이 임계치보다 작은 경우 해당 CU를 분할하지 않고 CU의 크기, 분할 정보, 인트라 예측 정보를 비트스트림으로 부호화하는 단계(S150)로 진행하며, 해당 CU의 율-왜곡 비용이 임계치보다 클 경우 해당 CU를 4개의 하위 CU로 분할하는 단계(S140)을 수행한 후, 인트라 예측 부호화 단계(S110)으로 돌아가 분할된 하위 CU에 대해 각각 인트라 예측 부호화를 수행한다.

CU의 크기, 분할 정보, 인트라 예측 정보를 비트스트림으로 부호화하는 단계(S150)는, 해당 CU가 더 이상 분할되지 않고 부호화 파라미터가 결정되는 단계로, 현재 CU의 크기와 CU의 분할 정보, 그리고 CU의 인트라 예측 정보를 비트스트림으로 부호화한다.

비트스트림으로 부호화하는 단계(S150) 이후, LCU내의 모든 CU의 부호화가 진행되었는지 체크하는 단계(S160)를 수행한다. LCU내의 모든 CU의 부호화가 수행되지 않았으면 부호화되지 않은 CU에 대해 인트라 예측 부호화 단계(S110)을 수행하고, 모든 CU의 부호화가 완료되면 해당 LCU의 영상부호화가 종료된다.

한편, 율-왜곡 비용을 임계치와 비교하는 단계(S130)에서, 임계치는 CU의 크기에 따라 율-왜곡 분포의 범위와 형태가 달라지기 때문에 CU의 크기에 따라 다르게 정해질 수 있다. 이 경우 CU의 크기에 따른 복수개의 임계치가 미리 설정될 수 있다. 또한, 임계치는 영상의 양자화 파라미터 및/또는 영상의 크기에 따라서 다르게 정해질 수 있다. 이 경우, 영상에 따라 양자화 파라미터와 영상의 크기가 달라지기 때문에 임계치가 영상 프레임마다 다르게 설정될 수 있다. 또한, 양자화 파라미터는 소정 프레임 동안의 평균값을 이용하거나 소정 프레임 주기마다의 양자화 파라미터를 사용할 수 있고, 주변 블록들의 양자화 파라미터 값을 이용할 수도 있다. 각 양자화 파라미터마다 이에 대응되는 임계치가 미리 설정되는 것이 바람직하다.

임계치의 값을 큰 값으로 정의하면, 보다 많은 CU에 대해 분할 여부를 조기에 결정하여 부호화기의 속도를 높여줄 수 있지만, 대신에 부호화 효율은 감소하게 되므로 인코더의 성능, 영상의 품질 등을 고려하여 적절한 임계치를 설정하여야 한다.

도 6a, 도 6b, 도 6c 및 도 6d는 JCT-VC의 시험 영상을 실제로 부호화하여 64x64, 32x32, 16x16, 8x8 CU에 각각에 대한 율-왜곡 비용의 분포를 도시한 것이다.

각 도면에서 가로축은 율-왜곡 비용의 값을 나타내고, 세로축은 해당하는 율-왜곡 비용의 값을 가지고 있는 CU의 빈도를 나타낸다. 또한 각 도면에서 ‘Not split’는 CU가 분할되지 않고 인트라 부호화 되었을 경우의 율-왜곡 비용의 분포를 나타내고, ‘Split’는 CU가 4개의 CU로 분할되어 각각 인트라 부호화되었을 경우 4개의 율-왜곡 비용의 합의 분포를 나타낸다.

도 6a, 6b, 6c, 6d를 참조하면, 각 CU의 크기에 따라 그래프가 약간의 차이가 있지만, 모든 도면에서 CU가 분할되지 않은 ‘Not split’의 경우 적은 율-왜곡 비용을 가지고 있는 CU의 빈도가 많으며, CU가 분할되는 ‘Split’의 경우 상대적으로 큰 율-왜곡 비용을 가지고 있는 CU의 빈도가 많은 것을 알 수 있다. 따라서 임의 CU를 분할하지 않고 계산한 율-왜곡 비용이 미리 정한 임계치보다 작은 경우, 해당 CU는 더 이상 분할할 필요가 없다고 판단하는 것이 타당하다고 할 수 있다.

100: 영상 부호화 장치 111: 움직임 예측부
112: 움직임 보상부 120: 인트라 예측부
125: 감산기 130: 변환부
140: 양자화부 150: 엔트로피 부호화부

Claims (20)

1. 영상 부호화 방법에 있어서,
   부호화하고자 하는 코딩유닛에 인접하는 주변 블록들을 이용하여 상기 코딩유닛을 인트라 예측 부호화하는 단계;
   상기 코딩유닛의 율-왜곡 비용과 임계치를 비교하는 단계; 및
   상기 비교단계의 결과에 따라 상기 코딩유닛의 분할여부를 결정하는 단계;를 포함하며,
   상기 코딩유닛의 분할여부를 결정하는 단계는 (i) 상기 코딩유닛의 율-왜곡 비용이 임계치보다 작은 경우 상기 코딩유닛의 분할을 수행하지 않고 상기 코딩유닛의 크기, 분할 정보 및 인트라 예측 정보를 부호화하고, (ii) 상기 코딩유닛의 율-왜곡 비용이 상기 임계치보다 크거나 동일한 경우 상기 코딩유닛의 분할을 수행하며,
   상기 임계치는 상기 코딩유닛의 크기, 영상의 양자화 파라미터, 영상의 크기, 또는 이들의 조합에 따른 상기 율-왜곡 비용의 분포를 기준으로 설정되는 것을 특징으로 하는, 영상 부호화 방법.
2. 삭제
3. 삭제
4. 청구항 1에 있어서,
   상기 코딩유닛이 SCU(Smallest Coding Unit)인지 체크하는 단계를 더 포함하는, 영상 부호화 방법.
5. 청구항 1에 있어서,
   상기 코딩유닛의 분할을 수행한 후, 분할된 코딩유닛들을 각각 인트라 예측 부호화하는 단계를 더 포함하는, 영상 부호화 방법.
6. 청구항 1에 있어서,
   상기 코딩유닛의 분할은 4개의 하위 코딩유닛으로 분할되는, 영상 부호화 방법.
7. 삭제
8. 삭제
9. 삭제
10. 청구항 1에 있어서,
    LCU(Largest Coding Unit)내의 모든 코딩유닛의 부호화가 수행되었는지 체크하는 단계를 더 포함하는, 영상 부호화 방법.
11. 청구항 10에 있어서,
    상기 LCU내의 모든 코딩유닛의 부호화가 수행되었으면 상기 LCU의 부호화를 종료하는, 영상 부호화 방법.
12. 청구항 10에 있어서,
    상기 LCU내의 모든 코딩유닛의 부호화가 수행되지 않았으면, 부호화가 수행되지 않는 코딩유닛에 대해 인트라 예측 부호화하는, 영상 부호화 방법.
13. 프로세서(processor); 및
    상기 프로세서와 연결되며 상기 프로세서를 구동하기 위한 정보를 저장하는 메모리를 포함하되,
    상기 프로세서는, 부호화하고자 하는 코딩유닛에 인접하는 주변 블록들을 이용하여 상기 코딩유닛을 인트라 예측 부호화하고 율-왜곡 비용을 산출한 후, 임계치와 비교하고, 상기 비교 결과에 따라 상기 코딩유닛의 분할여부를 결정하며,
    상기 프로세서는, (i) 상기 코딩유닛의 율-왜곡 비용이 임계치보다 작은 경우 상기 코딩유닛의 분할을 수행하지 않고 상기 코딩유닛의 크기, 분할 정보 및 인트라 예측 정보를 부호화하고, (ii) 상기 코딩유닛의 율-왜곡 비용이 상기 임계치보다 크거나 동일한 경우 상기 코딩유닛의 분할을 수행하며,
    상기 임계치는 상기 코딩유닛의 크기, 영상의 양자화 파라미터, 영상의 크기, 또는 이들의 조합에 따른 율-왜곡 비용의 분포를 기준으로 설정되는 것을 특징으로 하는, 인코더(encoder).
14. 삭제
15. 청구항 13에 있어서,
    상기 코딩유닛이 SCU(Smallest Coding Unit)인지 체크하는 단계를 더 포함하는, 인코더.
16. 청구항 13에 있어서,
    상기 코딩유닛의 분할을 수행한 후, 분할된 코딩유닛들을 각각 인트라 예측 부호화하는 단계를 더 포함하는, 인코더.
17. 청구항 13에 있어서,
    상기 코딩유닛의 분할은 4개의 하위 코딩유닛으로 분할되는, 인코더.
18. 삭제
19. 청구항 13에 있어서,
    LCU(Largest Coding Unit)내의 모든 코딩유닛의 부호화가 수행되었는지 체크하는 단계를 더 포함하는, 인코더.
20. 청구항 19에 있어서,
    상기 LCU내의 모든 코딩유닛의 부호화가 수행되었으면 상기 LCU의 부호화를 종료하고, 상기 LCU내의 모든 코딩유닛의 부호화가 수행되지 않았으면, 부호화가 수행되지 않는 코딩유닛에 대해 인트라 예측 부호화하는, 인코더.
    
    
    

Images