KR20140129416A - 트랜스폼을 이용한 영상 부호화/복호화 방법 및 장치 - Google Patents

Abstract

본 발명의 영상을 부호화/복호화하는 방법 및 장치에 관한 것으로, 그 부호화 방법은 잔차 신호에 대해 하르 트랜스폼(harr transform)을 적용하여 변환 계수로 변환하는 단계; 변환 계수를 양자화하는 단계; 양자화된 변환 계수가 존재하는 위치에 기초하여 양자화된 변환 계수들을 스캐닝하는 단계; 및 스캐닝된 변환 계수들에 대해 엔트로피 코딩을 수행하는 단계를 포함하고, 변환 단계는 하단의 일부 커널(kernel)들이 0으로 설정된 하르 트랜스폼을 적용하여 변환을 수행한다.

Description

트랜스폼을 이용한 영상 부호화/복호화 방법 및 장치{Method for encoding and decoding image using transform, and apparatus thereof}

본 발명은 영상 부호화/복호화 방법 및 장치에 관한 것으로, 더욱 상세하게는 부호화 및 복호화 시 0 값이 포함된 커널(kernel)을 갖는 트랜스폼을 이용하여 변환을 수행하는 방법에 관한 것이다.

일반적으로 비디오 코딩 시, 인트라 예측과 인터 예측을 이용하여 잔차 신호(residual signal)를 만든다. 잔차 신호를 구하는 이유는 잔차 신호를 가지고 코딩을 했을 때 데이터의 양이 작아서 데이터 압축률이 높아지고, 예측이 좋을수록 잔차 신호의 값이 작게 된다.

인트라 예측 방법은 현재 블록의 주변의 픽셀을 이용하여 현재 블록의 데이터를 예측한다. 실제 값과 예측 값의 차이를 잔차 신호 블록이라고 한다. HEVC의 경우는 인트라 예측 방법이 기존 H.264/AVC에서 사용되던 9개의 예측모드에서 도 1과 같이 35개의 예측모드로 증가하여 더욱 세분화하여 예측을 한다(단 Planar 예측모드 및 DC예측모드는 도 1에서 안보임).

인터 예측 방법의 경우는 현재 블록을 주변의 픽쳐들 내의 블록들과 비교하여 가장 비슷한 블록을 찾는다. 이때 찾은 블록에 대한 위치정보(Vx, Vy)를 모션 벡터라고 한다. 현재블록과 모션 벡터에 의하여 예측된 예측블록간의 블록내 화소 값들의 차이를 잔차 신호(residual signal) 블록이라고 한다 (motion-compensated residual block).

이와 같이 인트라 예측과 인터 예측이 더 세분화 되어 잔차 신호의 데이터 양이 줄어들고 있으며, 효율적인 트랜스폼(transform)을 사용하여 코덱 성능이 떨어지지 않으면서 연산량이 적은 비디오 부호화 및 복호화 방법이 필요하다.

본 발명의 실시 예는 비디오 코덱의 트랜스폼 코딩과정에서 적은 연상량으로 좋은 성능을 가지는 비디오 부호화 및 복호화 방법과, 이를 위한 장치를 제공한다.

다만, 본 발명의 실시 예가 이루고자 하는 기술적 과제는 상기된 바와 같은 기술적 과제들로 한정되지 않으며, 또 다른 기술적 과제들이 존재할 수 있다.

상기한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본 발명의 실시예에 따른 영상 부호화 방법은 잔차 신호에 대해 하르 트랜스폼(harr transform)을 적용하여 변환 계수로 변환하는 단계; 상기 변환 계수를 양자화하는 단계; 상기 양자화된 변환 계수가 존재하는 위치에 기초하여, 상기 양자화된 변환 계수들을 스캐닝하는 단계; 및 상기 스캐닝된 변환 계수들에 대해 엔트로피 코딩을 수행하는 단계를 포함하고, 상기 변환 단계는 하단의 일부 커널(kernel)들이 0으로 설정된 하르 트랜스폼을 적용하여 변환을 수행한다.

본 발명의 실시예에 따른 영상 부호화 장치는, 잔차 신호에 대해 하르 트랜스폼을 적용하여 변환 계수를 구성하는 변환부; 상기 변환 계수를 양자화하는 양자화부; 상기 양자화된 변환 계수가 존재하는 위치에 기초하여, 상기 양자화된 변환 계수들을 스캐닝하는 스캐닝부; 및 상기 스캐닝된 변환 계수들에 대해 엔트로피 코딩을 수행하는 엔트로피 코딩부를 포함하고, 상기 변환부는 하단의 일부 커널들이 0으로 설정된 하르 트랜스폼을 적용하여 변환을 수행한다.

또한, 본 발명의 실시예에 따른 영상 복호화 방법은, 부호화 장치로부터 전달되는 정보에 따라 역스캐닝을 수행하여 양자화된 잔차 신호 블록을 구성하는 단계; 상기 양자화된 잔차 신호 블록에 대해 역양자화를 수행하는 단계; 및 상기 역양화된 잔차 신호 블록에 대해 하르 트랜스폼을 이용한 역변환을 수행하는 단계를 포함하고, 상기 역변환 단계는 하단의 일부 커널들이 0으로 설정된 하르 트랜스폼을 적용하여 역변환을 수행한다.

또한, 본 발명의 실시예에 따른 영상 복호화 장치는, 부호화 장치로부터 전달되는 정보에 따라 역스캐닝을 수행하여 양자화된 잔차 신호 블록을 구성하는 역스캐닝부; 상기 양자화된 잔차 신호 블록에 대해 역양자화를 수행하는 역양자화부; 및 상기 역양화된 잔차 신호 블록에 대해 하르 트랜스폼을 이용한 역변환을 수행하는 역변환부를 포함하고, 상기 역변환부는 하단의 일부 커널들이 0으로 설정된 하르 트랜스폼을 적용하여 역변환을 수행한다.

한편, 상기 영상 부호화 및 복호화 방법은 컴퓨터에서 실행시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체로 구현될 수 있다.

본 발명에 따르면, 비디오 코덱의 트랜스폼 코딩과정에서 적은 연산량으로 좋은 성능을 가지는 비디오 부호화 및 복호화 방법과, 이를 위한 장치를 제공할 수 있다.

또한, 하르 트랜스폼에 특징에 맞추어 스캐닝 순서를 및 방법을 다르게 적용함으로써, 비디오 부호화 효율을 보다 향상시킬 수 있다.

도 1은 인트라 예측 모드들에 대한 예들을 나타내는 도면이다.
도 2는 본 발명의 일실시예에 따른 부호화 장치의 구성을 나타내는 블록도이다.
도 3은 본 발명에 따른 트랜스폼에 적합한 스캐닝 방법에 대한 제1 실시예를 설명하기 위한 도면이다.
도 4는 본 발명에 따른 트랜스폼에 적합한 스캐닝 방법에 대한 제2 실시예를 설명하기 위한 도면이다.
도 5는 본 발명에 따른 트랜스폼에 적합한 스캐닝 방법에 대한 제3 실시예를 설명하기 위한 도면이다.
도 6은 본 발명에 따른 트랜스폼에 적합한 스캐닝 방법에 대한 제4 실시예를 설명하기 위한 도면이다.

아래에서는 첨부한 도면을 참조하여 본원이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본원의 실시 예를 상세히 설명한다. 그러나 본원은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시 예에 한정되지 않는다. 그리고 도면에서 본원을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.

본원 명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다.

본원 명세서 전체에서, 어떤 부재가 다른 부재 “상에” 위치하고 있다고 할 때, 이는 어떤 부재가 다른 부재에 접해 있는 경우뿐 아니라 두 부재 사이에 또 다른 부재가 존재하는 경우도 포함한다.

본원 명세서 전체에서, 어떤 부분이 어떤 구성요소를 "포함" 한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성 요소를 더 포함할 수 있는 것을 의미한다. 본원 명세서 전체에서 사용되는 정도의 용어 "약", "실질적으로" 등은 언급된 의미에 고유한 제조 및 물질 허용오차가 제시될 때 그 수치에서 또는 그 수치에 근접한 의미로 사용되고, 본원의 이해를 돕기 위해 정확하거나 절대적인 수치가 언급된 개시 내용을 비양심적인 침해자가 부당하게 이용하는 것을 방지하기 위해 사용된다. 본원 명세서 전체에서 사용되는 정도의 용어 "~(하는) 단계" 또는 "~의 단계"는 "~ 를 위한 단계"를 의미하지 않는다.

본원 명세서 전체에서, 마쿠시 형식의 표현에 포함된 “이들의 조합”의 용어는 마쿠시 형식의 표현에 기재된 구성 요소들로 이루어진 군에서 선택되는 하나 이상의 혼합 또는 조합을 의미하는 것으로서, 상기 구성 요소들로 이루어진 군에서 선택되는 하나 이상을 포함하는 것을 의미한다.

실제 영상과 그것의 깊이 정보 맵을 부호화하는 방법의 일예로, 현재까지 개발된 비디오 부호화 표준 중에서 최고의 부호화 효율을 가지는 MPEG(Moving Picture Experts Group)과 VCEG(Video Coding Experts Group)에서 공동으로 표준화를 진행 중인 HEVC(High Efficiency Video Coding)를 이용하여 부호화를 수행할 수 있다.

본 발명의 실시예에 따른 영상 부호화 및 복호화 방법은 0 값을 포함하는 커널(kernel)을 갖는 트랜스폼(transform)을 잔차블록에 적용할 수 있다.

본 발명은 동영상 부호화/복호화에 적용되는 기술인 변환(Transform)방법을 사용함에 있어, 하르 트랜스폼(Harr Transform)을 사용하는 경우 적용되는 스캐닝(Scanning) 방법에 관한 것이다.

상세히 설명하면, 하르 트랜스폼에 특징에 맞추어 스캐닝 순서를 및 방법을 다르게 적용하며, 이를 복호화/복호기로 Signaling을 하는 방법과 주변의 모드(mode)정보 등의 주변에서 가져올 수 있는 정보를 이용해 예측하여 Signaling없이도 복호화가 가능한 방법을 모두 포함할 수 있다.

HEVC에서는 색차신호에 대한 서브샘플 값을 보간할 때 DCT-IF (DCT-based interpolation filter)를 이용하여 보간한다. 그 이유는 잔차신호를 더 줄이기 위하여 Luma 블록에 대하여 정수화소(integer pixel) 단위의 움직임 예측보상보다 정교한 1/4 화소단위의 부화소 (sub-integer pixel) 단위 8-point FIR 필터를 이용한 움직임 예측보상을 수행한다(Chroma 블록들에 대하여는 YUV 4:2:0 color format 에서는 1/8 화소단위의 4-point FIR 필터를 이용한 움직임 예측보상을 수행). 그리고, 더욱 정교한 움직임 예측 및 보상을 위하여 Luma에 대하여 1/8 또는 1/16 보간도 사용 가능하다.

일 실시예에 따르면, 인트라 예측과 인터 예측이 세분화됨에 따라 잔차 신호의 데이터에 0 값들이 포함되고 있으므로, 기존에 사용되는 DCT 또는 DST를 이용한 정수형 트랜스폼 (Integer Transform)을 이용하는 것 대신에 일부분의 0도 포함된 커널들을 갖는 트랜스폼을 이용하여 기존 코덱보다 좋은 성능을 보일 수 있다.

일부분의 0을 포함한 커널들의 트랜스폼의 예시로는 하르 트랜스폼(Harr Transform)이 있다. 하르 트랜스폼(Harr Transform)은 위의 수학식 1과 같이 구성된다.

수학식 1은 1차원 포워드 하르 트랜스폼(forward Harr transform) 및 인버스하르 트랜스폼(inverse Harr transform)을 의미한다. 하르 트랜스폼(Harr transform)은 분리가능 트랜스폼(separable transform)이기 때문에 1차원 트랜스폼을 수평으로 적용한 후, 수직으로 적용하여 (그 반대도 마찬가지임) 2차원 트랜스폼을 쉽게 구현할 수 있다.

수학식 2는 본 발명의 일 실시 예에 따른 1차원 2-, 4-, 8-point 하르 트랜스폼(Harr transform)의 기초벡터(basis vectors)를 나타낸다.

수학식 2에서 각각의 행(basis vector)끼리 내적(inner product)은 0 이 되므로 직교 트랜스폼(orthogonal transform)이다. 즉 A-1=AT가 된다. 또한 기초벡터(basis vector)들은 0, ±1, ±√2로 구성된다.

또한 스케일링 펙터(scaling factor)는 8-point 하르 트랜스폼(Harr transform)의 경우, 1/√8 이므로 스케일링 팩터(scaling factor)를 행렬 내부로 넣어 정수형 트랜스폼(transform)을 다음과 같이 디자인 할 수 있다(4-point, 16-point, 32-point Harr transform 도 마찬가지임).

본 발명의 일 실시 예에 따르면, 0를 포함한 기초 벡터(basis vector)들은 잔차블록의 잔차신호가 작은 경우, 비디오 코덱의 트랜스폼 코딩 과정에서 사용하면 좋은 성능을 낸다.

수학식 3은 본 발명의 일 실시 예에 따른 1차원 2-, 4-, 8-point 정수형 하르 트랜스폼(Harr transform)의 기초벡터(basis vectors)를 나타낸다.

본 발명의 일 실시예에 따르면, 8-point 하르 트랜스폼(Harr transform)에서 기초벡터(basis vector)들을 128 프리시젼(precision)으로 계산하면 1/√8 은 45로 √2/√8 은 64로 2/√8은 90이 된다.

따라서, 정수형 기초벡터(basis vector)들은 0, 45, 64, 90으로 구성된다. 따라서 이처럼 정수형 트랜스폼(transform)으로 변형하여 사용하는 것이 가능하다.

일 실시예에 있어서, 1/128의 스케일링 펙터(scaling factor)는 후에 양자화 과정에서 quantization값과 조합하여 사용하는 것이 가능하다. 디코딩(Decoding) 과정에서 1/128의 스케일링 팩터(scaling factor)는 인버스(inverse) quantization과 연동되어 사용가능하고, 하르 인버스 트랜스폼(Harr Inverse transform)은 수학식 3에서 A-1=AT 가 된다(AT 는 transposed matrix를 의미함).

도 2는 본 발명의 일실시예에 따른 영상 부호화 장치의 구성을 블록도로 도시한 것이다.

통상, 부호화 장치는 인코딩 과정과 디코딩 과정을 포함하고, 복호화 장치는 디코딩 과정을 구비한다. 복호화 장치의 디코딩 과정은 부호화 장치의 디코딩 과정과 동일하다. 따라서, 이하에서는 부호화 장치를 위주로 설명하기로 한다.

도 2에서와 같이, 본 발명의 일실시예에 따른 영상 부호화 장치에는 부호화 단위 및 구조, 화면 간(Inter) 예측, 화면 내(Intra) 예측, 보간(Interpolation), 필터링(filtering), 변환(Transform) 방법 등 다양한 새로운 알고리즘들을 포함하고 있다.

도 2를 참조하면, 영상 부호화 장치는 부호화 모드 결정부(110), 인트라 예측부(120), 움직임 보상부(130), 움직임 추정부(131), 변환부호화/양자화부(140), 엔트로피 부호화부(150), 역양자화/변환복호화부(160), 디블록킹 필터링부(170), 픽쳐 저장부(180), 감산부(190) 및 가산부(200)를 포함한다.

부호화 모드 결정부(110)는 입력되는 비디오 신호를 분석하여 픽쳐를 소정 크기의 부호화 블록으로 분할하고, 분할된 소정 크기의 부호화 블록에 대한 부호화 모드를 결정한다. 상기 부호화 모드는 인트라 예측 부호화 및 인터 예측 부호화를 포함한다.

픽쳐는 복수의 슬라이스로 구성되고, 슬라이스는 복수개의 최대 부호화 단위(Largest coding unit: LCU)로 구성된다. 상기 LCU는 복수개의 부호화 단위(CU)로 분할될 수 있고, 부호기는 분할여부를 나타내는 정보(flag)를 비트스트림에 추가할 수 있다. 복호기는 LCU의 위치를 어드레스(LcuAddr)를 이용하여 인식할 수 있다. 분할이 허용되지 않는 경우의 부호화 단위(CU)는 예측 단위(Prediction unit: PU)로 간주되고, 복호기는 PU의 위치를 PU 인덱스를 이용하여 인식할 수 있다.

예측 단위(PU)는 복수개의 파티션으로 나뉠 수 있다. 또한 예측 단위(PU)는 복수개의 변환 단위(Transform unit: TU)로 구성될 수 있다.

부호화 모드 결정부(110)는 결정된 부호화 모드에 따른 소정 크기의 블록 단위(예를 들면, PU 단위 또는 TU 단위)로 영상 데이터를 감산부(190)로 보낸다.

변환부호화/양자화부(140)는 감산부(190)에 의해 산출된 잔차 블록을 공간 영역으로부터 주파수 영역으로 변환 한다. 예를 들면, 잔차 블록에 대해서 2차원의 이산 코사인 변환(DCT) 또는 이산 사인 변환(DST) 기반의 변환을 실행한다.

또한, 변환부호화/양자화부(140)는 변환 계수를 양자화하기 위한 양자화 스텝 사이즈를 결정하고, 결정된 양자화 스텝 사이즈를 이용하여 변환 계수를 양자화한다. 결정된 양자화 스텝 사이즈 및 부호화 모드에 따라 양자화 매트릭스가 결정될 수 있다.

양자화된 2차원의 변환 계수는 미리 정해진 스캐닝 방법 중 하나에 의해 1차원의 양자화 변환 계수로 변환된다. 상기 변환된 1차원의 양자화 변환 계수의 시퀀스는 엔트로피 부호화부(150)로 공급된다.

역양자화/변환복호화부(160)는 변환부호화/양자화부(140)에 의해 양자화된 양자화 계수를 역양자화한다. 또한, 역양자화에 의해 얻어지는 역양자화 계수를 역변환한다. 이에 따라, 주파수 영역으로 변환된 잔차 블록을 공간 영역의 잔차 블록으로 복원할 수 있다.

디블록킹 필터링부(170)는 역양자화/변환부호화부(160)로부터 역양자화 및 역변환된 영상 데이터를 입력 받아 블록킹(blocking) 효과를 제거하기 위한 필터링을 수행한다.

픽쳐 저장부(180)는 필터링된 영상 데이터를 디블록킹 필터링부(170)로부터 입력 받아 픽쳐(picture) 단위로 영상을 복원하여 저장한다. 픽쳐는 프레임 단위의 영상이거나 필드 단위의 영상일 수 있다. 픽쳐 저장부(180)는 다수의 픽쳐를 저장할 수 있는 버퍼(도시되지 않음)를 구비한다. 버퍼에 저장된 다수의 픽쳐는 인트라 예측 및 움직임 추정을 위해 제공된다.

인트라 예측 또는 움직임 추정을 위해 제공되는 상기 픽쳐들은 참조 픽쳐로 불리운다.

움직임 추정부(131)는 상기 픽쳐 저장부(180)에 저장된 적어도 하나의 참조 픽쳐를 제공받아 움직임 추정을 수행하여 움직임 벡터, 참조 픽쳐를 나타내는 인덱스 및 블록 모드를 포함한 모션 데이터(Motion Data)를 출력한다.

예측 정밀도를 최적화하기 위해서, 소수 화소 정밀도, 예를 들면, 1/2 또는 1/4 화소 정밀도로 움직임 벡터를 결정한다. 움직임 벡터가 소수 화소 정밀도를 가질 수 있으므로, 움직임 보상부(130)는 소수 화소 위치의 화소 값을 산출하기 위한 보간 필터를 참조 픽쳐에 적용함으로써, 정수 화소 위치의 화소값으로부터 소수 화소 위치의 화소값을 산출한다.

움직임 보상부(130)는 움직임 추정부(131)로부터 입력된 모션 데이터에 따라, 픽쳐 저장부(180)에 저장된 다수의 참조 픽쳐들 중 움직임 추정에 이용된 참조 픽쳐로부터, 부호화하고자 하는 블록에 대응하는 예측 블록을 추출하여 출력한다.

움직임 보상부(130)는 소수 정밀도의 움직임 보상에 필요한 적응적 보간 필터의 필터 특성을 결정한다. 필터 특성은, 예를 들면, 적응적 보간 필터의 필터 타입을 나타내는 정보, 및, 적응적 보간 필터의 사이즈를 나타내는 정보 등이다.

필터의 사이즈는, 예를 들면, 적응적 보간 필터의 필터 계수의 수인 탭 수 등이다.

구체적으로, 움직임 보상부(130)는 적응적 보간 필터로서, 분리형 및 비분리형 적응적 필터 중 어느 하나를 결정할 수 있다. 그리고 나서, 결정된 적응적 보간 필터의 탭 수, 및, 각 필터 계수의 값을 결정한다. 필터 계수의 값은, 정수 화소와의 상대적인 소수 화소의 위치마다 다르게 결정될 수 있다. 또한, 움직임 보상부(130)는, 필터 계수가 고정인 복수개의 비적응적 보간 필터를 이용할 수도 있다.

움직임 보상부(130)는, 보간 필터의 특성을 소정의 처리 단위로 설정할 수 있다. 예를 들면, 소수 화소 단위, 부호화 기본 단위(부호화 유닛), 슬라이스 단위, 픽쳐 단위, 또는, 시퀀스 단위로 설정할 수 있다. 또한, 1개의 영상 데이터에 대해서, 1개의 특성을 설정해도 된다.

따라서, 소정의 처리 단위 내에서는, 동일한 필터 특성을 이용하므로, 움직임 보상부(130)는 필터 특성을 일시적으로 유지하는 메모리를 구비한다. 이 메모리는 필요에 따라, 필터 특성 및 필터 계수 등을 유지한다. 예를 들면, 움직임 보상부(130)는, Ｉ픽쳐마다 필터 특성을 결정하고, 슬라이스 단위로 필터 계수를 결정할 수 있다.

움직임 보상부(130)는, 픽쳐 저장부(180)로부터 참조 픽쳐를 수신하고, 결정된 적응적 보간 필터를 이용하여 필터 처리를 적용함으로써, 소수 정밀도의 예측 참조 화상을 생성한다.

그리고, 생성된 참조 화상과, 움직임 추정부(131)에 의해 결정된 움직임 벡터에 의거하여 소수 화소 정밀도의 움직임 보상을 행함으로써, 예측 블록을 생성한다.

감산부(190)는 부호화하고자 하는 입력 블록을 픽쳐 간 예측 부호화하는 경우, 움직임 보상부(130)로부터 입력 블록에 대응하는 참조 픽쳐 내의 블록을 입력받아 입력 매크로 블록과의 차분 연산을 수행하여 잔차 신호(residue signal)를 출력한다.

인트라 예측부(120)는 예측이 수행되는 픽처 내부의 재구성된 화소값을 이용하여 인트라 예측 부호화를 수행한다. 인트라 예측부는 예측 부호화할 현재 블록을 입력 받아 현재 블록의 크기에 따라 미리 설정된 복수개의 인트라 예측 모드 중에 하나를 선택하여 인트라 예측을 수행한다. 인트라 예측부(120)는 현재 블록에 인접한 이전에 부호화된 화소들을 이용해 현재 블록의 인트라 예측 모드를 결정하고, 상기 결정된 모드에 대응하는 예측 블록을 생성한다.

현재 픽처에 포함된 영역 중에서 이전에 부호화된 영역은 인트라 예측부(120)가 이용할 수 있도록 다시 복호화되어 픽쳐 저장부(180) 에 저장되어 있다. 인트라 예측부(120)는 픽쳐 저장부(180)에 저장되어 있는 현재 픽처의 이전에 부호화된 영역에서 현재 블록에 인접한 화소 또는 인접하지 않지만 적용 가능한 화소들을 이용하여 현재 블록의 예측 블록을 생성한다.

인트라 예측부(120)는 인트라 블록을 예측하기 위하여 인접 화소를 적응적으로 필터링할 수 있다. 복호기에서의 동일한 동작을 위해 부호기에서 필터링 여부를 알려주는 정보를 전송할 수 있다. 또는 현재 블록의 인트라 예측 모드 및 현재 블록의 크기 정보에 기초하여 필터링 여부를 결정할 수 있다.

영상 부호화 장치에 의해 사용되는 예측 타입은 상기 부호화 모드 결정부에 의해 입력 블록이 인트라 모드 또는 인터 모드로 부호화되는지 여부에 의존한다.

인트라 모드와 인터 모드의 전환은, 인트라/인터 전환 스위치에 의해 제어된다.

엔트로피 부호화부(150)는 변환부호화/양자화부(140)에 의해 양자화된 양자화 계수와 움직임 추정부(131)에 의해 생성된 움직임 정보를 엔트로피 부호화한다. 또한, 인트라 예측 모드, 제어 데이터(예를 들면, 양자화 스텝 사이즈 등) 등도 부호화될 수 있다. 또한, 움직임 보상부(130)에 의해 결정된 필터 계수도 부호화되어 비트 스트림으로서 출력한다.

도 2를 참조하면, 본 발명의 일실시예에 따른 부호화 장치는 기존 HEVC 인코더의 트랜스폼(Transform) 과정에 사용되는 정수형 8x8 DCT, 16x16 DCT, 32x32 DCT 나 4x4 DST 대신, +1/-1로 구성된 4x4, 8x8, 16x16, 32x32 커널들을 갖는 제안된 트랜스폼을 이용하여 구성된다.

또한 제안된 트랜스폼이 인코더에 적용된 경우, 디코더에서는 트랜스폼의 역연산 과정에서도 +1/-1로 구성된 제안된 커널들을 갖는 인버스 트랜스폼(inverse Transform, A-1=AT)을 적용한다.

여기서, 도 2에 따른 부호화 장치에서 제안된 트랜스폼을 사용한 경우, 디코딩 과정에서 제안된 인버스 트랜스폼(inverse transform)을 적용한다.

또 다른 예로서, 임의의 비디오 인코더(encoder)에서 제안된 트랜스폼을 사용한 경우, 디코딩 과정에 제안된 인버스 트랜스폼(inverse transform)을 적용시킨다.

상기한 바와 같이, 본 발명의 일실시예에 따른 영상 복호화 장치의 구성은 도 2에 도시된 영상 부호화 장치의 구성으로부터 도출될 수 있으며, 예를 들어 도 2를 참조하여 설명한 바와 같은 부호화 과정의 역과정을 수행함으로써 영상을 복호화할 수 있다.

본 발명의 일실싱예는 비디오 부호화 및 복호화 방법과, 이를 위한 장치에 관한 것으로, 더욱 상세하게는 0값이 포함된 커널(kernel)을 갖는 Harr Transform을 사용하고 그에 따른 Scanning을 하는 비디오 부호화 및 복호화 방법과, 이를 위한 장치에 관한 것이다.

Transform 이후, Quantization, Scanning, Entropy Encoding 순으로 인코딩은 진행된다.

Transform 계수는 일반적으로 좌측 상단의 계수가 큰 값을 가지고 나머지 계수들은 적은 값을 가지는 경향이 있다. Harr Transform의 Transform 계수는 0이 간헐적으로 나오는 경향이 있다. 즉, 모든 계수를 Scanning할 필요가 없다. 따라서, 특정한 Scanning 방법을 Signaling을 하여 계수가 있는 부분만 Scanning할 수 있도록 한다.

예를 들어, 다음의 수학식 4와 같이, 하르 트랜스폼 시, A4의 경우, 2열과 3열의 kernel을 0로 setting하고 (A’4) vertical transform + horizontal transform을 수행할 수 있다.

한편, A8의 경우, 4열~7열의 kernel을 0로 setting하고 (A’8) vertical transform + horizontal transform을 수행할 수 있다.

또한, A‘4를 이용한 경우 2x2 양자화된 계수만을 scanning 할 수 있으며, A’8을 이용한 경우에 있어서는 4x4 양자화된 계수만을 scanning 할 수 있다.

본 발명은 동영상 부호화/복호화에 적용되는 기술인 변환(트랜스폼 : Transform)방법을 사용함에 있어, 하르 트랜스폼을 사용하는 경우 적용되는 스캐닝(Scanning) 방법에 관한 것이다.

상세히 설명하면, 하르 트랜스폼에 특징에 맞추어 스캐닝 순서를 및 방법을 다르게 적용하며, 이를 복호화/복호기로 Signaling을 하는 방법과 주변의 모드(mode)정보 등의 주변에서 가져올 수 있는 정보를 이용해 예측하여 Signaling없이도 복호화가 가능한 방법을 모두 포함한다.

하르 트랜스폼을 적용한 계수는 양자화(Quantization)과정을 거쳐 Scanning 방법에 따라 Entropy coding을 통해 비트스트림이 생성된다. 여기서 하르 트랜스폼을 통해 스캐닝을 수행하는 방법은 아래와 같은 예와 같이 수행 할 수 있다.

도 3은 본 발명에 따른 트랜스폼에 적합한 스캐닝 방법에 대한 제1 실시예를 설명하기 위해 도시한 것으로, 8x8 블록에 관한 스캐닝 방법에 대한 예를 나타낸 것이다. 이는 다양한 블록 크기에 모두 적용될 수 있다.

도 3에 도시된 바와 같이 왼쪽 상단부터 오른쪽 하단으로 가는 스캐닝 방법, 오른쪽 하단에서 왼쪽 상단으로 가는 스캐닝 방법을 모두 포함하며, 모드 정보에 따라 다양한 방법에 스캐닝이 적용가능 하다.

위 4가지 스캐닝 방법은 간단한 예시이며, 다양한 순서의 스캐닝 방법을 부호화 및 복호화에 동일하게 적용 가능하다.

예측(prediction) 성능이 향상되어, 하르 트랜스폼을 하게 되면 기존의 정수형 DCT 및 정수형 DST에 비하여 양자화 시 더욱 적은 transformed 계수가 존재할 것이므로, 하르 트랜스폼은 0 값이 포함된 커널을 사용함으로써 연산량을 줄일 수 있다.

즉, 하르 트랜스폼은 정수형 DCT, DST와 같이 유사한 특성을 가질 수 있으며, 그에 따라 DC와 AC로 나뉘는 특징을 가지지만, 하르 트랜스폼을 사용하는 이유는 예측을 마친 값이 매우 적다는 가정을 통해 곱셈연산을 없애고 성능이 향상된 트랜스폼을 사용하는데 있다.

이렇게 잔차 신호가 작은 경우 트랜스폼을 마친 계수가 매우 적은 수로 분포할 경우가 발생한다. 이럴 때 다양한 스캐닝 방법을 통해서 엔트로피 코딩시 적용되는 스캐닝 방법을 다양하게 함으로써 최적의 스캐닝 방법을 선택해야 한다.

예를 들어, 인트라 블록에서 수평예측 관련 모드이면 vertical scanning, 수직예측 관련 모드이면 horizontal scanning, 그 외에는 rate-distortion 측면에서 가장 좋은 scanning 방식 결정하여 적용하고 해당 스캐닝 방식에 대한 정보를 디코더로 signalling할 수 있다.

도 4는 8x8단위의 블록의 내부를 4개의 스캐닝 방법으로 나누어 스캐닝하는 방법의 예를 나타낸다. 이 방법 또한 복호화/복호기로 Signaling하여 형태를 전달하거나, 주변 정보를 활용해 약속된 형태로 스캐닝하는 방법을 모두 포함 한다.

도 5는 8x8단위의 블록의 내부를 4개의 서브-블록으로 나누어 스캐닝하는 방법에 대한 일실시예를 설명하기 위한 도면으로, 도 5에 도시된 바와 같은 위치에 계수가 존재 할 때, 8x8단위의 블록을 4개로 나누어 4x4 스캐닝을 통해서 성능 향상을 가져올 수 있는 예를 나타낸다.

도 5에서 분포하는 점은 트랜스폼과 양자화를 마친 계수가 존재하는 위치를 나타내며, 이와 같이 계수의 분포가 왼쪽 상단부터 계수가 곳곳에 존재하는 경우, 분할하는 방법을 통해서 스캐닝을 수행함으로써 엔트로피코딩의 성능 향상 효과를 가져 올 수 있다. 이 경우, 엔트로피 코딩에서는 시작되는 계수와 끝나는 계수의 위치가 성능에 매우 중요한 역할을 한다.

도 6은 좌측 상단에 모든 계수가 분포하는 경우를 나타내며, 이와 같은 경우는 블록을 분할하지 않고 전체 블록의 크기 8x8로 스캐닝하는 경우가 성능 향상이 높거나 혹은 분할 방법과 비교하여 성능이 좋은 방법을 선택적으로 사용할 수 있는 방법을 모두 포함한다.

즉, 본 발명은 계수의 분포에 따라 분할 혹은 분할을 하지 않는 스캐닝 방법을 통해서 성능 향상을 가져오는 방법을 말한다.

본 발명은 하르 트랜스폼을 사용하였을 때 적용 가능한 스캐닝 방법에 관한 것이며, 모든 스캐닝 방법은 위에서 언급한 바와 같이 이는 Signaling을 통해 복호화/복호기로 정보를 전달하는 방법과 Signaling없이 주변의 부호화 환경(모드 정보, MV 정보 등)을 통해서 복호화가 가능한 방법을 모두 포함한다.

상술한 본 발명에 따른 방법은 컴퓨터에서 실행되기 위한 프로그램으로 제작되어 컴퓨터가 읽을 수 있는 기록 매체에 저장될 수 있으며, 컴퓨터가 읽을 수 있는 기록 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있으며, 또한 캐리어 웨이브(예를 들어 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다.

컴퓨터가 읽을 수 있는 기록 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다. 그리고, 상기 방법을 구현하기 위한 기능적인(function) 프로그램, 코드 및 코드 세그먼트들은 본 발명이 속하는 기술분야의 프로그래머들에 의해 용이하게 추론될 수 있다.

또한, 이상에서는 본 발명의 바람직한 실시예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형 실시가 가능한 것은 물론이고, 이러한 변형 실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해 되어서는 안될 것이다.

Claims (13)

1. 영상을 부호화하는 방법에 있어서,
   잔차 신호에 대해 하르 트랜스폼(harr transform)을 적용하여 변환 계수로 변환하는 단계;
   상기 변환 계수를 양자화하는 단계;
   상기 양자화된 변환 계수가 존재하는 위치에 기초하여, 상기 양자화된 변환 계수들을 스캐닝하는 단계; 및
   상기 스캐닝된 변환 계수들에 대해 엔트로피 코딩을 수행하는 단계를 포함하고,
   상기 변환 단계는
   하단의 일부 커널(kernel)들이 0으로 설정된 하르 트랜스폼을 적용하여 변환을 수행하는 영상 부호화 방법.
2. 제1항에 있어서, 상기 스캐닝 단계는
   상기 하르 트랜스폼의 특징에 맞추어 순서를 상이하게 설정하는 영상 부호화 방법.
3. 제1항에 있어서, 상기 스캐닝 단계는
   잔차 신호 블록을 복수의 서브-블록들로 분할하여 각각의 분할된 서브-블록별로 스캐닝을 수행하는 영상 부호화 방법.
4. 제3항에 있어서,
   상기 양자화된 변환 계수가 존재하는 위치에 따라, 상기 서브-블록들로의 분할 여부 및 분할되는 서브-블록들의 개수 중 적어도 하나가 결정되는 영상 부호화 방법.
5. 제1항에 있어서, 상기 스캐닝 단계는
   인트라 예측 모드에 따라, 상기 양자화된 변환 계수에 대해 수행되는 스캐닝 순서를 상이하게 적용하는 결정하는 영상 부호화 방법.
6. 제1항에 있어서,
   상기 양자화된 변환 계수에 대해 수행된 스캐닝 방식에 대한 정보를 복호화 장치로 시그널링하는 단계를 더 포함하는 영상 부호화 방법.
7. 영상을 부호화하는 장치에 있어서,
   잔차 신호에 대해 하르 트랜스폼을 적용하여 변환 계수를 구성하는 변환부;
   상기 변환 계수를 양자화하는 양자화부;
   상기 양자화된 변환 계수가 존재하는 위치에 기초하여, 상기 양자화된 변환 계수들을 스캐닝하는 스캐닝부; 및
   상기 스캐닝된 변환 계수들에 대해 엔트로피 코딩을 수행하는 엔트로피 코딩부를 포함하고,
   상기 변환부는
   하단의 일부 커널들이 0으로 설정된 하르 트랜스폼을 적용하여 변환을 수행하는 영상 부호화 장치.
8. 제7항에 있어서, 상기 스캐닝부는
   잔차 신호 블록을 복수의 서브-블록들로 분할하여 각각의 분할된 서브-블록별로 스캐닝을 수행하는 영상 부호화 장치.
9. 제8항에 있어서,
   상기 양자화된 변환 계수가 존재하는 위치에 따라, 상기 서브-블록들로의 분할 여부 및 분할되는 서브-블록들의 개수 중 적어도 하나가 결정되는 영상 부호화 장치.
10. 영상을 복호화하는 방법에 있어서,
    부호화 장치로부터 전달되는 정보에 따라 역스캐닝을 수행하여 양자화된 잔차 신호 블록을 구성하는 단계;
    상기 양자화된 잔차 신호 블록에 대해 역양자화를 수행하는 단계; 및
    상기 역양화된 잔차 신호 블록에 대해 하르 트랜스폼을 이용한 역변환을 수행하는 단계를 포함하고,
    상기 역변환 단계는
    하단의 일부 커널들이 0으로 설정된 하르 트랜스폼을 적용하여 역변환을 수행하는 영상 복호화 방법.
11. 제10항에 있어서, 상기 부호화 장치로부터 전달되는 정보는
    상기 잔차 신호 블록이 분할된 복수의 서브-블록들 각각에 대해 존재하는 영상 복호화 방법.
12. 제11항에 있어서, 상기 부호화 장치로부터 전달되는 정보는
    상기 서브-블록들로의 분할 여부 및 분할되는 서브-블록들의 개수 중 적어도 하나에 대한 정보를 포함하는 영상 복호화 방법.
13. 영상을 복호화하는 장치에 있어서,
    부호화 장치로부터 전달되는 정보에 따라 역스캐닝을 수행하여 양자화된 잔차 신호 블록을 구성하는 역스캐닝부;
    상기 양자화된 잔차 신호 블록에 대해 역양자화를 수행하는 역양자화부; 및
    상기 역양화된 잔차 신호 블록에 대해 하르 트랜스폼을 이용한 역변환을 수행하는 역변환부를 포함하고,
    상기 역변환부는
    하단의 일부 커널들이 0으로 설정된 하르 트랜스폼을 적용하여 역변환을 수행하는 영상 복호화 장치.

Images