KR20200028373A

KR20200028373A - 비디오의 부호화 방법 및 장치, 복호화 방법 및 장치

Info

Publication number: KR20200028373A
Application number: KR1020200027991A
Authority: KR
Inventors: 홍윤미; 한우진; 천민수; 천지엔러
Original assignee: 삼성전자주식회사
Priority date: 2010-09-28
Filing date: 2020-03-05
Publication date: 2020-03-16
Also published as: BR112013007023A2; US20190394490A1; CN103125116A; EP2985700A3; US20160255372A1; KR20120032458A; KR20190058423A; US20180041775A1; WO2012044076A3; US10038918B2; WO2012044076A2; JP2013542665A; CN105263028A; JP2014233095A; US20130188730A1; EP2624556A2; CN105512093A; KR101982819B1; KR102087990B1; US9350997B2

Abstract

비디오의 부호화 방법 및 장치, 그 복호화 방법 및 장치가 개시된다. 본 발명에 따른 비디오 부호화 방법은 소정 크기의 블록의 주파수 변환에 이용되는 변환 행렬에 기초하여 고속 변환 행렬을 생성하고, 고속 변환 행렬을 이용하여 소정 크기의 블록을 변환하여 변환 블록을 생성하며, 주파수 변환에 이용되는 변환 행렬과 고속 변환 행렬 사이의 차이값을 보정하기 위하여 변환 블록에 대한 스케일링을 수행하는 것을 특징으로 한다.

Description

비디오의 부호화 방법 및 장치, 복호화 방법 및 장치{Video encoding apparatus and method, and video decoding method and apparatus}

본 발명은 비디오 부호화, 복호화 방법 및 장치에 관한 것으로, 보다 상세히는 큰 크기의 블록을 변환하는 방법 및 장치, 및 큰 크기의 변환 블록을 역변환하는 방법 및 장치에 관한 것이다.

H.264 및 MPEG-4와 같은, 현재 국제 비디오 코딩 표준에서, 비디오 신호는 시퀀스, 프레임, 슬라이스, 매크로 블록 및 블록으로 계층적으로 분할되며, 블록은 최소 처리 유닛이 된다. 인코딩 측면에서, 인트라-프레임 또는 인터-프레임 예측을 통하여, 블록의 예측 잔류 오류가 획득되며, 블록 변환은 에너지가 소수의 계수에 집중될 수 있도록 실행되고, 양자화, 스캐닝, 런 렝스 코딩(Run Length Coding) 및 엔트로피 코딩을 통하여, 이미지 데이터는 압축되며, 코딩된 비트스트림으로 기록된다. 디코딩 측면에서, 처리 절차는 반대가 된다. 우선, 엔트로피 코딩의 블록 변환 계수가 비트 스트림으로부터 추출된다. 그리고 나서, 역양자화 및 역변환을 통하여, 블록의 예측 잔류 오류는 재구성되며, 예측 정보는 블록의 비디오 데이터를 재구성하기 위하여 사용된다. 인코딩-디코딩 처리절차에서, 변환 모듈은 비디오 압축의 기초이며, 변환성능은 코덱의 일반적인 성능에 직접적으로 영향을 준다.

이산 코사인 변환(DCT)은 MPEG-1 및 H.261과 같은 초기 비디오 코딩 표준에서 채택되었다. 1974년 이산 코사인 변환의 제안 이후에, DCT는 이미지 및 비디오 코딩 분야에서 널리 사용되었다. 변환 도메인 내의 이미지 요소의 상관성을 제거하며, 고효율 이미지 압축을 위한 기반을 마련하기 때문에, 그것의 변환 성능은 모든 차선 변환(sub-optimal transform)중 우수하다. 그러나, DCT 변환 행렬은 부동 소수점 수(floating point number)로 표현되기 때문에, 대량의 부동 소수점 계산으로 인하여 많은 시스템 자원이 소모된다. 변환 효율을 개선하는 한편, 큰 크기의 블록에 대한 변환을 수행하기 위하여 새로운 DCT 변환 알고리즘의 필요성이 증가되었다.

본 발명이 해결하고자 하는 기술적 과제는 큰 크기의 블록에 대한 고속 주파수 변환을 가능하게 하는 비디오 부호화 방법 및 장치, 그 복호화 방법 및 장치를 제공하는데 있다. 또한, 본 발명이 해결하고자 하는 기술적 과제는 고속 주파수 변환을 이용할 때 발생할 수 있는 변환 오차를 양자화 과정 또는 역양자화 과정에서 스케일링 또는 디스케일링 과정을 통해 보상할 수 있는 비디오 부호화 방법 및 장치, 그 복호화 방법 및 장치를 제공하는데 있다.

전술한 기술적 과제를 해결하기 위한 본 발명의 일 실시예에 따른 비디오의 부호화 방법은 소정 크기의 블록의 주파수 변환에 이용되는 변환 행렬에 기초하여 고속 변환 행렬을 생성하는 단계; 상기 고속 변환 행렬을 이용하여 상기 소정 크기의 블록을 변환하여 변환 블록을 생성하는 단계; 상기 주파수 변환에 이용되는 변환 행렬과 상기 고속 변환 행렬 사이의 차이값을 보정하기 위하여 상기 변환 블록에 대한 스케일링을 수행하는 단계를 포함하는 것을 특징으로 한다.

본 발명의 일 실시예에 따른 비디오의 부호화 장치는 소정 크기의 블록의 주파수 변환에 이용되는 변환 행렬에 기초하여 고속 변환 행렬을 생성하고, 상기 고속 변환 행렬을 이용하여 상기 소정 크기의 블록을 변환하여 변환 블록을 생성하는 변환부; 및 상기 주파수 변환에 이용되는 변환 행렬과 상기 고속 변환 행렬 사이의 차이값을 보정하기 위하여 상기 변환 블록에 대한 스케일링을 수행하는 양자화부를 포함하는 것을 특징으로 한다.

본 발명의 일 실시예에 따른 비디오의 복호화 방법은 소정 크기의 양자화된 변환 블록을 수신하는 단계; 상기 양자화된 변환 블록의 주파수 역변환에 이용되는 역변환 행렬과 상기 역변환 행렬에 기초하여 생성되는 고속 역변환 행렬 사이의 차이값을 보정하기 위하여 상기 변환 블록에 대한 디스케일링을 수행하는 단계; 및 상기 고속 역변환 행렬을 이용하여 상기 디스케일링된 변환 블록을 역변환하여 역변환 블록을 생성하는 단계를 포함하는 것을 특징으로 한다.

본 발명의 일 실시예에 따른 비디오의 복호화 장치는 소정 크기의 양자화된 변환 블록의 주파수 역변환에 이용되는 역변환 행렬과 상기 역변환 행렬에 기초하여 생성되는 고속 역변환 행렬 사이의 차이값을 보정하기 위하여 상기 변환 블록에 대한 디스케일링을 수행하는 역양자화부; 및 상기 고속 역변환 행렬을 이용하여 상기 디스케일링된 변환 블록을 역변환하여 역변환 블록을 생성하는 역변환부를 포함하는 것을 특징으로 한다.

본 발명에 따르면 큰 크기의 블록에 대한 변환 및 역변환시에 부동 소수점 연산이 아닌 정수 기반의 연산 과정을 통해서 복잡도를 감소시키고 연산 속도를 증가시키는 영상의 변환 및 역변환 방법을 제공할 수 있다.

또한, 본 발명에 따르면 양자화 과정 또는 역양자화 과정에서 스케일링 및 디스케일링을 수행함으로써 부동 소수점 연산에 기반한 변환 과정과의 오차값을 보상할 수 있다.

도 1은 본 발명의 일 실시예에 따른 비디오 부호화 장치를 도시한다.
도 2는 4 포인트, 8 포인트, 16 포인트, 32 포인트 이산 코사인 변환의 흐름도(flow graph)를 도시한다.
도 3은 본 발명의 일 실시예에 따른 스케일링 행렬의 생성하는 방법을 나타낸 플로우 차트이다.
도 4a 내지 도 4f는 본 발명의 일 실시예에 따라서 16x16 블록의 변환시에 이용되는 양자화 파라메터(QP)에 따른 스케일링 행렬(MF)의 예를 도시한다.
도 5a 내지 도 5f는 본 발명의 일 실시예에 따라서 32x32 블록에 적용되는 양자화 파라메터(QP)에 따른 스케일링 행렬(MF)의 예를 도시한다.
도 6a 내지 도 6f는 본 발명의 일 실시예에 따라서 16x16 블록에 적용되는 양자화 파라메터(QP)에 따른 디스케일링 행렬(V)을 도시한다.
도 7a 내지 도 7f는 본 발명의 일 실시예에 따라서 32x32 블록에 적용되는 양자화 파라메터(QP)에 따른 디스케일링 행렬(V)의 예를 도시한다.
도 8은 본 발명의 다른 실시예에 따른 32 포인트 이산 코사인 변환의 흐름도(flow graph)를 도시한다.
도 9은 도 8의 32 포인트 이산 코사인 변환을 구성하는 버터플라이 구조의 연산 과정을 나타낸 참조도이다.
도 10은 본 발명의 일 실시예에 따른 비디오 부호화 방법을 나타낸 플로우 차트이다.
도 11은 본 발명의 일 실시예에 따른 비디오 복호화 장치를 나타낸 블록도이다.
도 12는 본 발명의 일 실시예에 따른 비디오 복호화 방법을 나타낸 플로우 차트이다.

이하, 첨부된 도면을 참조하여 본 발명의 바람직한 실시예들에 대하여 구체적으로 설명한다.

도 1은 본 발명의 일 실시예에 따른 비디오 부호화 장치를 도시한다.

도 1을 참조하면, 본 발명의 일 실시예에 따른 비디오 부호화 장치(100)는 예측부(110), 감산부(115), 변환부(120), 양자화부(130) 및 엔트로피 부호화부(140)를 포함한다.

예측부(110)는 입력 영상을 소정 크기의 블록들로 분할하고, 분할된 각 블록에 대하여 인터 예측 또는 인트라 예측을 통해 예측 블록을 생성한다. 구체적으로, 예측부(110)는 이전에 부호화된 후 복원된 참조 픽처의 소정 탐색 범위 내에서 현재 블록과 유사한 영역을 가리키는 움직임 벡터를 생성하는 움직임 예측 및 보상 과정을 통해 예측 블록을 생성하는 인터 예측 및 현재 블록에 인접한 주변 블록의 데이터를 이용하여 예측 블록을 생성하는 인트라 예측을 수행한다.

감산부(115)는 현재 블록의 예측 블록과 원 영상 데이터를 감산한 레지듀얼을 생성한다.

변환부(120)는 레지듀얼을 주파수 영역으로 변환한다. 특히, 본 발명의 실시예들에서는 기존의 4x4, 8x8의 상대적으로 작은 크기에 대해서 정의되었던 이산 코사인 변환 행렬을 확장하여 16x16 이상의 큰 크기의 블록에도 적용될 수 있는 새로운 이산 코사인 변환 방식을 제공한다. 후술되는 바와 같이 본 발명의 일 실시예에 따른 변환부(120)는 기존의 이산 코사인 변환에 이용되는 변환 행렬의 원소들을 유리수 값으로 치환함으로써 생성된 고속 변환 행렬을 이용하여, 부동 소수점 연산이 아닌 정수 기반의 덧셈 및 뺄셈 연산과 시프트 연산에 의하여 이산 코사인 변환을 수행함으로써 연산의 복잡도를 감소시키는 한편 연산 속도를 증가시킨다. 또한, 본 발명의 다른 실시예에 따른 변환부(120)는 기존의 이산 코사인 변환에 이용되는 변환 행렬의 원소들에 2의 거듭제곱을 곱한 다음 반올림한 원소들로 구성된 고속 변환 행렬을 이용하여 이산 코사인 변환을 수행함으로써 전체적인 연산 복잡도를 감소시킨다.

양자화부(130)는 변환된 레지듀얼을 양자화한다. 특히, 본 발명의 일 실시예에 따른 양자화부(130)는 변환부(120)에서 고속 변환 행렬을 이용한 변환 결과 값과 실제 부동 소수점 연산에 기반한 이산 코사인 변환 행렬을 이용한 변환 결과 사이의 오차값을 감소시키기 위하여 소정의 스케일링을 수행한다. 구체적인 스케일링 및 양자화 과정에 대해서는 후술한다.

엔트로피 부호화부(140)는 양자화된 영상 데이터에 대하여 가변 길이 부호화를 수행하여 비트스트림을 생성한다.

이하, 도 1의 변환부(120)에서 수행되는 변환 과정에 대하여 구체적으로 설명한다.

변환부(120)는 NxN(N은 정수) 입력 블록에 대해서 열 방향 변환(column-wise transform) 및 행 방향 변환(row-wise transform)을 수행하여 NxN 변환 블록을 생성한다. NxN 입력 블록을 Input, 행 방향의 DCT 변환 행렬을 Transform_hor, 열 방향의 DCT 변환 행렬을 Transform_ver, 변환 결과값을 Output이라고 한다면, 변환부(120)은 다음의 수학식; Output=Transform_hor x Input x Transform_ver 과 같은 행렬 연산을 수행하여 변환 결과값 Output을 출력한다. 여기서, 첫 번째 행렬 곱셈 Transform_hor x Input는 N×N 입력 블록인 Input의 각 행에 대해서 1차원 수평 방향 이산 코사인 변환을 수행하는 것에 해당되며, Transform_hor x Input에 Transform_ver 를 곱하는 것은 1차원 수직 방향 이산 코사인 변환을 수행하는 것에 해당된다. 행 방향의 DCT 변환 행렬 Transform_hor과 열 방향의 DCT 변환 행렬 Transform_ver 는 서로 이항(transpose) 행렬 관계이다. 본 발명을 설명함에 있어서, NxN 입력 블록에 대한 주파수 변환 및 주파수 역변환을 수행하는 NxN 크기의 변환 행렬 및 역변환 행렬을 중심으로 설명하지만, 본 발명에 따른 사상은 임의의 axb(a,b는 정수) 크기의 주파수 변환 행렬 및 주파수 역변환 행렬을 이용하는 경우에도 적용될 수 있음을 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 이해할 수 있을 것이다.

수직 변환 행렬의 (i,k)번째(i,k는 정수)에 위치한 원소를 Ai_k라고 하면, NxN 입력 블록의 변환을 위한 수직 변환 행렬의 (i,k)번째의 원소 Ai_k 는 다음의 수학식 1과 같이 정의될 수 있다.

(i,k=0,...,N-1 ,

,

)

수직 변환 행렬과 수평 변환 행렬은 서로 이항 관계(transpose)에 있으므로, 수평 변환 행렬의 (i,k)번째의 원소 B_ik는 수직 변환 행렬과 유사하게 코사인 함수를 이용한 값으로 표현된다. 본 발명의 일 실시예에 따른 변환부(120)는 이산 코사인 변환에 이용되는 변환 행렬의 원소들을 유리수 값으로 치환함으로써 생성된 고속 변환 행렬을 이용하여, 덧셈 및 뺄셈 연산과 시프트 연산에 의하여 이산 코사인 변환을 수행할 수 있다. 또한, 본 발명의 다른 실시예에 따른 변환부(120)는 이산 코사인 변환에 이용되는 변환 행렬의 원소들에 2의 거듭제곱을 곱한 다음 반올림한 원소들로 구성된 고속 변환 행렬을 이용하여 이산 코사인 변환을 수행할 수 있다.

도 2는 4 포인트, 8 포인트, 16 포인트, 32 포인트 이산 코사인 변환의 흐름도(flow graph)를 도시한다.

도 2를 참조하면, f0 내지 f31은 일차원 이산 코사인 변환의 입력값들을 나타낸다. 동시에 f0 내지 f31은 일차원 이산 코사인 역변환의 출력값이 될 수 있다. F0 내지 F31은 일차원 이산 코사인 변환의 출력값들을 나타내는 동시에 일차원 이산 코사인 역변환의 입력값이다. 이산 코사인 변환시에 데이터 처리 방향은 좌측에서 우측이며, 이산 코사인 역변환시에 데이터 처리 방향은 우측에서 좌측이다. 점에서 교차하는 2개의 라인은 2개의 수의 덧셈을 나타낸다. 각 라인 위의 값은 해당 계수에 의한 곱셈을 나타낸다. cθ는 cosθ, sθ는 sinθ를 나타내며, '-'는 부정(negation)을 나타낸다. 점선으로 표시된 도면 부호 210은 4 포인트 일차원 이산 코사인 변환의 흐름도, 도면 부호 220은 8 포인트 일차원 이산 코사인 변환의 흐름도, 도면 부호 230은 16 포인트 일차원 이산 코사인 변환의 흐름도, 도면 부호 240은 32 포인트 일차원 이산 코사인 변환의 흐름도를 나타낸다.

흐름도(200)에 도시된 이산 코사인 변환의 단점은 cθ 및 sθ가 θ의 값에 따라서 무리수(irrational number)가 될 수 있기 때문에 연산 복잡도가 증가할 수 있다는 것이다. 이러한 이산 코사인 변환 과정은 하드웨어로 구현시에 복잡도를 증가시킨다. 따라서, 본 발명의 일 실시예에 따른 변환부(120)은 이산 코사인 변환에 이용되는 원소들의 삼각함수 값을 유리수 값으로 치환함으로써 원래의 이산 코사인 변환 행렬과 유사한 고속 변환 행렬을 생성한다. 또한, 본 발명의 다른 실시예에 따른 변환부(120)는 이산 코사인 변환에 이용되는 원소들에 소정의 상수, 예를 들어 2^n을 곱한 다음 반올림함으로써 고속 변환 행렬을 생성한다.

구체적으로, 도 2를 참조하면, N이 16인 경우, 즉 16x16 크기의 입력 블록에 대한 1차원 이산 코사인 변환 수행시에 도면 부호 230으로 도시된 흐름도를 따라서 입력 블록의 16개의 행 단위 및 16개의 열 단위 별로 1차원 이산 코사인 변환이 수행된다. 16개의 입력값을 f=[f0, f1, f2, ..., f14, f15]^T, 변환 결과값을 F=[F0, F1, F2, ..., F14, F15]^T, 도면 부호 230에 따른 입력값에 대한 변환 과정을 나타낸 변환 행렬을 Original_A라고 한다면 1차원 이산 코사인 변환은 F=Original_Axf 로 표현된다.

전술한 바와 같이, cosθ 및 sinθ는 θ의 값에 따라서 무리수가 될 수 있기 때문에, 본 발명의 일 실시예에 따른 변환부(120)은 변환 행렬(Original_A)의 원소들에 포함된 cosθ 및 sinθ를 유리수 값으로 치환한다. 구체적으로, 변환부(120)는 N=16인 경우라면, cos 0은 a0으로, cos(πx(1/2)/16)은 a1으 로, cos(πx(2/2)/16)은 a2로, cos(πx(3/2)/16)은 a3로, cos(πx(4/2)/16)는 a4로, cos(πx(5/2)/16)는 a5로, cos(πx(6/2)/16)는 a6로, cos(πx(7/2)/16)는 a7, cos(πx(8/2)/16)는 a8, cos(πx(9/2)/16)는 a9, cos(πx(10/2)/16)는 a10, cos(πx(11/2)/16)는 a11, cos(πx(12/2)/16)는 a12, cos(πx(13/2)/16)는 a13, cos(πx(14/2)/16)는 a14, cos(πx(15/2)/16)는 a15로 치환한다. sinθ 성분은 sinθ=cos(90-θ)와 같은 관계를 이용하여 마찬가지로 ai 변수들로 치환될 수 있다. 여기서, ai 변수들은 유리수이면서, 분모는 쉬프트(shift) 연산이 가능한 2의 거듭제곱인 값을 갖는 것이 바람직하다. 이와 같이 변수 ai가 2의 거듭제곱 형태인 유리수(dyadic rational)인 제한 조건을 설정하는 이유는, 분모가 2의 거듭제곱 형태인 경우 라이트 쉬프트 연산(>>)을 이용하여 변환 과정시 필요한 나눗셈 연산 등을 대체할 수 있기 때문이다.

일 예로, N이 16인 경우, 16개의 변수들 ai는 다음의 값들; a1=63/64, a2= 62/64, a3= 61/64, a4 = 59/64, a5 = 56/64, a6 = 53/64, a7 = 49/64, a8 = 45/64, a9 = 40/64, a10 = 35/64, a11 = 30/64, a12 = 24/64, a13 = 18/64, a14 = 12/64 및 a15 = 6/64을 갖을 수 있다.

N이 16인 경우, 즉 16x16 입력 블록에 대하여 치환된 16x16 변환 행렬(A)를 이용한 1차원 이산 코사인 변환을 수행하는 단계는, Xi(i는 0 부터 15까지의 정수)를 변환되어야 할 입력값, Bi, Ci, Di, Ei, Fi를 중간값, Yi를 변환된 결과값을 나타낸다고 할 때, 다음의 연산 과정과 같이 표현될 수 있다.

{

/stage 0

B0 = X0 + X15;B15 = X0 - X15;B1 = X1 + X14;B14 = X1 - X14;B2 = X2 + X13;B13 = X2 - X13;B3 = X3 + X12;B12 = X3 - X12;B4 = X4 + X11;B11 = X4 - X11;B5 = X5 + X10;B10 = X5 - X10;B6 = X6 + X9;B9 = X6 - X9;B7 = X7 + X8;B8 = X7 - X8;

/stage 1

C0 = B0 + B7;C7 = B0 - B7;C1 = B1 + B6;C6 = B1 - B6;C2 = B2 + B5;C5 = B2 - B5;C3 = B3 + B4;C4 = B3 - B4;C10 = ( 45 * ( B13 - B10 ) ) >> 6;C13 = ( 45 * ( B13 + B10 ) ) >> 6;C11 = ( 45 * ( B12 - B11 ) ) >> 6;C12 = ( 45 * ( B12 + B11 ) ) >> 6;

/stage 2

D0 = C0 + C3;D3 = C0 - C3;D8 = B8 + C11;D11 = B8 - C11;D12 = B15 - C12;D15 = B15 + C12;D1 = C1 + C2;D2 = C1 - C2;D9 = B9 + C10;D10 = B9 - C10;D13 = B14 - C13;D14 = B14 + C13;D5 = ( 45 * ( C6 - C5 ) ) >> 6;D6 = ( 45 * ( C6 + C5 ) ) >> 6;

/stage 3

Y0 = ( 45 * ( D0 + D1 ) ) >> 6;Y8 = ( 45 * ( D0 - D1 ) ) >> 6;Y4 = ( 59 * D3 + 24 * D2 ) >> 6;Y12 = ( 24 * D3 - 59 * D2 ) >> 6;E4 = C4 + D5;E5 = C4 - D5;E6 = C7 - D6;E7 = C7 + D6;E9 = ( 24 * D14 - 59 * D9 ) >> 6;E10 = (-59 * D13 - 24 * D10 ) >> 6;E13 = ( 24 * D13 - 59 * D10 ) >> 6;E14 = ( 59 * D14 + 24 * D9 ) >> 6;

/stage 4

Y2 = ( 12 * E4 + 62 * E7 ) >> 6;Y10 = ( 53 * E5 + 35 * E6 ) >> 6;Y6 = ( 53 * E6 - 35 * E5 ) >> 6;Y14 = ( 12 * E7 - 62 * E4 ) >> 6;F8 = D8 + E9;F9 = D8 - E9;F10 = D11 - E10;F11 = D11 + E10;F12 = D12 + E13;F13 = D12 - E13;F14 = D15 - E14;F15 = D15 + E14;

/stage 5

Y1 = ( 6 * F8 + 63 * F15 ) >> 6;Y9 = ( 49 * F9 + 40 * F14 ) >> 6;Y5 = ( 30 * F10 + 56 * F13 ) >> 6;Y13 = ( 61 * F11 + 18 * F12 ) >> 6;Y3 = ( 61 * F12 - 18 * F11 ) >> 6;Y11 = ( 30 * F13 - 56 * F10 ) >> 6;Y7 = ( 49 * F14 - 40 * F9 ) >> 6;Y15 = ( 6 * F15 - 63 * F8 ) >> 6;

}

다른 예로서 N이 32인 경우도 전술한 N이 16인 경우와 유사하게, 32x32 크기의 블록의 1차원 이산 코사인 변환에 이용되는 32x32 변환 행렬(Original_A)을 구성하는 원소들을 32개의 변수들(ai, i는 0부터 31까지의 정수)에 기초한 값들로 치환하여 고속 변환 행렬(A)을 생성한다. 도 2를 다시 참조하면, N이 32인 경우, 즉 32x32 크기의 입력 블록에 대한 1차원 이산 코사인 변환 수행시에 도면 부호 240으로 도시된 흐름도를 따라서 입력 블록의 32개의 행 단위 및 32개의 열 단위 별로 1차원 이산 코사인 변환이 수행된다. 32개의 입력값을 f=[f0, f1, f2, ..., f30, f31]^T, 변환 결과값을 F=[F0, F1, F2, ..., F30, F31]^T, 도면 부호 240에 따른 입력값에 대한 변환 과정을 나타낸 변환 행렬을 Original_A라고 한다면 1차원 이산 코사인 변환은 F=Original_Axf 로 표현된다. 본 발명의 일 실시예에 따른 변환부(120)은 32x32 변환 행렬(Original_A)을 구성하는 원소들의 cos(πx(i/2)/32)(i는 0부터 31까지의 정수)인 성분을 유리수인 32개의 ai 변수들로 치환하여 고속 변환 행렬(A)를 생성한다.

N이 32인 경우, 32개의 변수들 ai는 다음의 값들; a1 = 255/256, a2 = 254/256, a3 = 253/256, a4 = 251/256, a5 = 248/256, a6 = 244/256, a7 = 241/256, a8 = 236/256, a9 = 231/256, a10 = 225/256, a11 = 219/256, a12 = 212/256, a13 = 205/256, a14 = 197/256, a15 = 189/256, a16 = 181/256, a17 = 171/256, a18 = 162/256, a19 = 152/256, a20 = 142/256, a21 = 131/256, a22 = 120/256, a23 = 109/256, a24 = 97/256, a25 = 86/256, a26 = 74/256, a27 = 62/256, a28 = 49/256, a29 = 37/256, a30 = 25/256 및 a31 = 12/256 을 갖을 수 있다.

N이 32인 경우, 즉 32x32 입력 블록에 대하여 고속 변환 행렬(A)를 이용한 1차원 이산 코사인 변환을 수행하는 단계는 Xi(i는 0 부터 31까지의 정수), Ai, Bi, Ci, Di, Ei, Fi는 중간값, Yi는 변환된 결과값을 나타낸다고 할 때, 다음의 연산 과정과 같이 표현될 수 있다.

{

/stage 0

A0 = X0 + X31;A31 = X0 - X31;A1 = X1 + X30;A30 = X1 - X30;A2 = X2 + X29;A29 = X2 - X29;A3 = X3 + X28;A28 = X3 - X28;A4 = X4 + X27;A27 = X4 - X27;A5 = X5 + X26;A26 = X5 - X26;A6 = X6 + X25;A25 = X6 - X25;A7 = X7 + X24;A24 = X7 - X24;A8 = X8 + X23;A23 = X8 - X23;A9 = X9 + X22;A22 = X9 - X22;A10 = X10 + X21;A21 = X10 - X21;A11 = X11 + X20;A20 = X11 - X20;A12 = X12 + X19;A19 = X12 - X19;A13 = X13 + X18;A18 = X13 - X18;A14 = X14 + X17;A17 = X14 - X17;A15 = X15 + X16;A16 = X15 - X16;

/stage 1

B0 = A0 + A15;B15 = A0 - A15;B1 = A1 + A14;B14 = A1 - A14;B2 = A2 + A13;B13 = A2 - A13;B3 = A3 + A12;B12 = A3 - A12;B4 = A4 + A11;B11 = A4 - A11;B5 = A5 + A10;B10 = A5 - A10;B6 = A6 + A9;B9 = A6 - A9;B7 = A7 + A8;B8 = A7 - A8;B20 = ( 181*( A27 - A20 ) ) >> 8;B27 = ( 181*( A27 + A20 ) ) >> 8;B21 = ( 181*( A26 - A21 ) ) >> 8;B26 = ( 181*( A26 + A21 ) ) >> 8;B22 = ( 181*( A25 - A22 ) ) >> 8;B25 = ( 181*( A25 + A22 ) ) >> 8;B23 = ( 181*( A24 - A23 ) ) >> 8;B24 = ( 181*( A24 + A23 ) ) >> 8;

/stage 2

C0 = B0 + B7;C7 = B0 - B7;C1 = B1 + B6;C6 = B1 - B6;C2 = B2 + B5;C5 = B2 - B5;C3 = B3 + B4;C4 = B3 - B4;C10 = ( 181*( B13 - B10 ) ) >> 8;C13 = ( 181*( B13 + B10 ) ) >> 8;C11 = ( 181*( B12 - B11 ) ) >> 8;C12 = ( 181*( B12 + B11 ) ) >> 8;C16 = A16 + B23;C23 = A16 - B23;C24 = A31 - B24;C31 = A31 + B24;C17 = A17 + B22;C22 = A17 - B22;C25 = A30 - B25;C30 = A30 + B25;C18 = A18 + B21;C21 = A18 - B21;C26 = A29 - B26;C29 = A29 + B26;C19 = A19 + B20;C20 = A19 - B20;C27 = A28 - B27;C28 = A28 + B27;

/stage 3

D0 = C0 + C3;D3 = C0 - C3;D8 = B8 + C11;D11 = B8 - C11;D12 = B15 - C12;D15 = B15 + C12;D1 = C1 + C2;D2 = C1 - C2;D9 = B9 + C10;D10 = B9 - C10;D13 = B14 - C13;D14 = B14 + C13;D5 = ( 181*( C6 - C5 ) ) >> 8;D6 = ( 181*( C6 + C5 ) ) >> 8;D18 = ( 97*C29 - 236*C18 ) >> 8;D20 = ( - 236*C27 - 97*C20 ) >> 8;D26 = (- 236*C21 + 97*C26 ) >> 8;D28 = ( 97*C19 + 236*C28 ) >> 8;D19 = ( 97*C28 - 236*C19 ) >> 8;D21 = (- 236*C26 - 97*C21 ) >> 8;D27 = (- 236*C20 + 97*C27 ) >> 8;D29 = ( 97*C18 + 236*C29 ) >> 8;

/stage 4

Y0 = ( 181*( D0 + D1 ) ) >> 8;Y16 = ( 181*( D0 - D1 ) ) >> 8;Y8 = ( 236*D3 + 97*D2 ) >> 8;Y24 = ( 97*D3 - 236*D2 ) >> 8;E4 = C4 + D5;E5 = C4 - D5;E6 = C7 - D6;E7 = C7 + D6;E9 = ( 97*D14 - 236*D9 ) >> 8;E10 =(-236*D13 - 97*D10) >> 8;E13 = (97*D13 - 236*D10 ) >> 8;E14 = ( 236*D14 + 97*D9 ) >> 8;E16 = C16 + D19;E19 = C16 - D19;E20 = C23 - D20;E23 = C23 + D20;E24 = C24 + D27;E27 = C24 - D27;E28 = C31 - D28;E31 = C31 + D28;E17 = C17 + D18;E18 = C17 - D18;E21 = C22 - D21;E22 = C22 + D21;E25 = C25 + D26;E26 = C25 - D26;E29 = C30 - D29;E30 = C30 + D29;

/stage 5

Y4 = ( 49*E4 + 251*E7 ) >> 8;Y20 = ( 212*E5 + 142*E6 ) >> 8;Y12 = ( 212*E6 - 142*E5 ) >> 8;Y28 = ( 49*E7 - 251*E4 ) >> 8;F8 = D8 + E9;F9 = D8 - E9;F10 = D11 - E10;F11 = D11 + E10;F12 = D12 + E13;F13 = D12 - E13;F14 = D15 - E14;F15 = D15 + E14;F17 = ( 49*E30 - 251*E17 ) >> 8;F18 = ( - 251*E29 - 49*E18 ) >> 8;F21 = ( 212*E26 - 142*E21 ) >> 8;F22 = ( - 142*E25 - 212*E22 ) >> 8;F25 = ( 212*E25 - 142*E22 ) >> 8;F26 = ( 142*E26 + 212*E21 ) >> 8;F29 = ( 49*E29 - 251*E18 ) >> 8;F30 = ( 251*E30 + 49*E17 ) >> 8;

/stage 6

Y2 = ( 25*F8 + 254*F15 ) >> 8;Y18 = ( 197*F9 + 162*F14 ) >> 8;Y10 = ( 120*F10 + 225*F13 ) >> 8;Y26 = ( 244*F11 + 74*F12 ) >> 8;Y6 = ( 244*F12 - 74*F11 ) >> 8;Y22 = ( 120*F13 - 225*F10 ) >> 8;Y14 = ( 197*F14 - 162*F9 ) >> 8;Y30 = ( 25*F15 - 254*F8 ) >> 8;G16 = E16 + F17;G17 = E16 - F17;G18 = E19 - F18;G19 = E19 + F18;G20 = E20 + F21;G21 = E20 - F21;G22 = E23 - F22;G23 = E23 + F22;G24 = E24 + F25;G25 = E24 - F25;G26 = E27 - F26;G27 = E27 + F26;G28 = E28 + F29;G29 = E28 - F29;G30 = E31 - F30;G31 = E31 + F30;

/stage 7

Y1 = ( 12*G16 + 255*G31 ) >> 8;Y17 = ( 189*G17 + 171*G30 ) >> 8;Y9 = ( 109*G18 + 231*G29 ) >> 8;Y25 = ( 241*G19 + 86*G28 ) >> 8;Y5 = ( 62*G20 + 248*G27 ) >> 8;Y21 = ( 219*G21 + 131*G26 ) >> 8;Y13 = ( 152*G22 + 205*G25 ) >> 8;Y29 = ( 253*G23 + 37*G24 ) >> 8;Y3 = ( 253*G24 - 37*G23 ) >> 8;Y19 = ( 152*G25 - 205*G22 ) >> 8;Y11 = ( 219*G26 - 131*G21 ) >> 8;Y27 = ( 62*G27 - 248*G20 ) >> 8;Y7 = ( 241*G28 - 86*G19 ) >> 8;Y23 = ( 109*G29 - 231*G18 ) >> 8;Y15 = ( 189*G30 - 171*G17 ) >> 8;Y31 = ( 12*G31 - 255*G16 ) >> 8;

}

전술한 바와 같이 본 발명의 다른 실시예에 따른 변환부(120)는 이산 코사인 변환에 이용되는 원소들에 2^n을 곱한 다음 반올림함으로써 고속 변환 행렬을 생성한다. 구체적으로, 1차원 이산 코사인 변환에 이용되는 변환 행렬(Original_A)을 구성하는 원소들에 2^n(n은 정수)를 곱한 후 반올림하는 다음의 수학식; A=round(Original_A*2^n) 에 따라서 이산 코사인 변환 행렬(Original_A)의 원소들의 값을 변환하여 고속 변환 행렬(A)을 생성한다.

한편, 본 발명의 실시예들에 따른 변환부(120)는 원래의 NxN 변환 행렬(Original_A) 대신에 고속 변환 행렬(A)를 이용하여 변환을 수행하기 때문에, 원래의 NxN 변환 행렬(Original_A)과 치환된 변환 행렬(A)에 의한 결과값 사이에는 오차가 발생한다. 따라서, 본 발명의 일 실시예에 따르면 양자화 단계에서 변환 블록에 대한 스케일링을 수행함으로써 이러한 오차를 최소화한다.

도 3은 본 발명의 일 실시예에 따른 스케일링 행렬의 생성하는 방법을 나타낸 플로우 차트이다.

도 3을 참조하면, 단계 310에서 각 i번째 행의 원소가 Si(i는 1부터 N까지의 정수)의 값을 갖는 NxN 크기의 중간 행렬(S)의 각 원소와 NxN 크기의 고속 변환 행렬(A)의 동일 위치의 원소들을 각각 곱한 값(SⓧA)과, 원래의 NxN 변환 행렬(Original_A) 사이의 차이인 변환 오차 행렬(Original_A-SⓧA )을 획득한다. ⓧ는 원소 단위 곱셈(element-by-element multiplication, element-wise multiplication) 연산을 나타내는 것으로, 행렬의 동일 위치의 원소가 곱해진다.

예를 들어, 16x16 크기의 중간 행렬(S)는 다음과 같다.

단계 320에서 변환 오차 행렬(Original_A-SⓧA)의 대각 성분을 제외한 나머지 원소들의 제곱합이 최소가 되도록 하는 Si 값들을 획득한다. Si 값들은 다양한 최적화 알고리즘을 이용하여 결정될 수 있다. 일 예로 S1의 초기값을 (1/4*2^(1/2))로 하고 Nelder-Mead Sipmlex 방법과 같은 최적화 알고리즘을 적용하여 Si값들을 결정할 수 있다.

단계 330에서 획득된 Si값들을 적용한 NxN 크기의 중간 행렬(S)의 각 원소와 중간 행렬(S)의 전치 행렬(S^T)의 동일 위치의 원소들을 각각 곱한 행렬(SⓧS^T)에 기초하여 스케일링 행렬을 생성한다.

중간 행렬(S)의 각 원소와 중간 행렬의 전치 행렬(S^T)의 동일 위치의 원소를 곱한 행렬(SⓧS^T)을 PF라고 하면, 스케일링 행렬(MF)는 다음의 수학식; MF=PF*2^m/Qstep 과 같이 계산될 수 있다. 여기서, Qstep은 양자화 스텝, m은 양의 정수이다.

도 4a 내지 도 4f는 본 발명의 일 실시예에 따라서 16x16 블록의 변환시에 이용되는 양자화 파라메터(QP)에 따른 스케일링 행렬(MF)의 예를 도시한다. 도 4에서는 스케일링 행렬 계산시 m=10인 경우이다.

도 4a 내지 도 4f에 도시된 바와 같은 스케일링 행렬(MF)은 모든 양자화 스텝에 대하여 정의될 필요없이 처음의 6단계의 Qstep 값인 (0.625, 0.6875, 0.8125, 0.875, 1, 1.25)에 대해서 정의된다. 왜냐하면 양자화 파라메터(QP)가 6 증가하면 양자화 스텝(Qstep)이 2배로 증가하기 때문에, 스케일링 행렬(MF)는 처음의 6단계의 Qstep 값에 대해서 정의되고, 나머지 QP에 따른 스케일링 행렬(MF)는 (QP mod 6) 값에 따라서 선택될 수 있다. 또한, 도 4a 내지 도 4f에 도시된 스케일링 행렬(MF)은 일 실시예에 불과하며, 도시된 스케일링 행렬(MF)의 각 원소는 ±1, ±2의 범위 내에서 조절될 수 있다.

이와 같은 스케일링 행렬(MF)는 32x32 블록에 대해서도 전술한 16x16 블록에 대한 스케일링 행렬을 구하는 과정과 유사한 과정을 통해 획득될 수 있다. 도 5a 내지 도 5f는 이와 같은 과정을 통해 획득된 32x32 블록에 적용되는 양자화 파라메터(QP)에 따른 스케일링 행렬(MF)의 예를 도시한다. 또한, 도 5a 내지 도 5f에 도시된 스케일링 행렬(MF)은 일 실시예에 불과하며, 도시된 스케일링 행렬(MF)의 각 원소는 ±1, ±2의 범위 내에서 조절될 수 있다. 한편, 본 발명의 일 실시예에 따르면, 블록 크기마다 별도의 스케일링 행렬(MF)를 적용하는 것이 아니라, 소정 크기의 블록에 대해서만 양자화 파라메터(QP)를 기준으로 6개의 스케일링 행렬(MF)를 설정한 다음, 소정 크기의 블록보다 작거나 큰 블록의 스케일링 행렬은 소정 크기의 블록과의 크기 비율에 따라서 소정 크기의 블록에 대해서 설정된 스케일링 행렬의 원소를 증가시키거나 감소시킨 스케일링 행렬(MF)을 이용하도록 할 수 있다. 즉, MxM 블록에 대해서 양자화 파라메터에 따라서 6개의 스케일링 행렬(MF)를 설정한 다음, NxN 블록에 대한 스케일링 행렬로써는 MxM 블록에 대해서 설정된 스케일링 행렬의 각 원소를 (M/N)배 시킨 스케일링 행렬을 이용한다. 예를 들어, 32x32 블록에 대해서 스케일링 행렬(MF)을 설정한 경우, 2x2, 4x4, 8x8, 16x16 블록들은 32x32 블록에 대해서 설정된 스케일링 행렬(MF)의 각 원소를 16배, 8배, 4배 및 2배 증가시킨 스케일링 행렬을 이용하도록 할 수 있다. 유사하게, 32x32 블록에 대해서 스케일링 행렬(MF)을 설정한 경우, 64x64, 128x128 블록들은 32x32 블록에 대해서 설정된 스케일링 행렬(MF)의 각 원소를 (1/2)배 및 (1/4)배 감소시킨 스케일링 행렬을 이용하도록 할 수 있다. 이와 같이, 소정 크기의 블록에 대해서만 스케일링 행렬을 설정하고 다른 크기의 블록의 경우 크기 비율에 따라서 증가하거나 감소된 스케일링 행렬을 이용하는 경우, 블록 크기에 따른 스케일링 행렬의 원소값 사이의 비율만큼 양자화 또는 역양자화를 수행하여 원래 값으로 복원되도록 할 수 있다. 전술한 바와 같이, 소정 크기의 블록에 대해서만 스케일링 행렬을 설정하고 다른 크기의 블록의 경우 크기 비율에 따라서 증가하거나 감소된 스케일링 행렬을 이용하는 경우, 스케일링 행렬(MF)의 저장을 위한 메모리를 감소시킬 수 있으므로 효율적이다.

전술한 바와 같이, 양자화부(130)는 변환부(120)에서 고속 변환 행렬(A)을 이용한 변환 결과값과 실제 부동 소수점 연산에 기반한 이산 코사인 변환 행렬(Original_A)을 이용한 변환 결과 사이의 오차값을 감소시키기 위하여 스케일링 행렬(MF) 또는 소정의 스케일링 상수를 적용하여 변환 블록에 대한 스케일링을 수행한다. 구체적으로, 양자화부(130)는 스케일링 행렬(MF) 및 시프트 연산을 적용하여 NxN 크기의 블록을 변환한 변환 블록에 대한 스케일링 및 양자화를 동시에 수행할 수 있다. 양자화는 스케일링 행렬(MF)와 NxN 크기의 블록을 변환한 변환 블록을 곱한 값에 소정의 오프셋을 더한 값을 다음의 수학식; q=floor(QP/6)+m 의 q 비트만큼 비트 시프트 연산함으로써 수행된다. Zij를 양자화된 계수값, Wij를 변환 계수, f를 오프셋이라고 하면,

이고,

이다. 여기서, '.MF'는 행렬의 동일 위치의 원소를 곱하는 벡터곱 연산을 의미한다. 전술한 바와 같이, 벡터곱 연산은 ⓧ와 같이 표현될 수도 있다.

한편, 역양자화 단계에서는 이산 코사인 역변환에 이용되는 원래의 NxN 역변환 행렬(Original_A^-1)과 NxN 고속 역변환 행렬(A^-1) 사이의 역변환 결과의 차이값을 보정하기 위한 디스케일링 행렬 및 시프트 연산을 적용하여 역양자화를 수행한다.

본 발명의 일 실시예에 따르면, 디스케일링 행렬(V)는 전술한 스케일링 행렬(MF)의 생성시에도 이용되는 중간 행렬(S)의 각 원소와 중간 행렬의 전치 행렬(S^T)의 동일 위치의 원소를 각각 곱한 행렬(SⓧS^T)인 PF에 기초하여 생성될 수 있다. 구체적으로, 양자화 스텝을 Qstep, 중간 행렬(S)의 각 원소와 중간 행렬의 전치 행렬(S^T)의 동일 위치의 원소들을 각각 곱한 행렬을 PF, n은 양의 정수라고 할 때, 디스케일링 행렬(V)은 다음의 수학식; V=Qstep*PF*2^n 을 통해 획득된다.

디스케일링 행렬(V)이 결정되면, 디스케일링 및 역양자화 과정은 디스케일링 행렬(V)와 양자화된 변환 계수를 곱한 값에 대해서 floor(QP/6)(floor[x]는 x보다 작거나 같은 최대 정수, QP는 양자화 파라메터) 비트만큼 비트 시프트 연산을 통해 수행될 수 있다. 즉, Zij를 양자화된 계수값, Wij를 변환 계수라고 하면 다음의 수학식; Wij=(Zij).V<<floor(QP/6)을 통해 양자화된 계수 Zij를 역양자화한 Wij를 획득할 수 있다. '.V'는 행렬의 동일 위치의 원소를 곱하는 벡터곱 연산을 의미한다. 전술한 바와 같이, 벡터곱 연산은 ⓧ와 같이 표현될 수도 있다.

도 6a 내지 도 6f는 본 발명의 일 실시예에 따라서 16x16 블록에 적용되는 양자화 파라메터(QP)에 따른 디스케일링 행렬(V)을 도시한다. 도 6a 내지 도 6f에서는 디스케일링 행렬 계산시 m=10인 경우를 나타낸다. 디스케일링 행렬(V) 역시 도 4의 스케일링 행렬과 같이 모든 양자화 스텝에 대하여 정의될 필요는 없고, 처음의 6단계의 Qstep 값인 (0.625, 0.6875, 0.8125, 0.875, 1, 1.25)에 대해서 정의될 수 있다. 나머지 QP에 따른 디스케일링 행렬(V)는 (QP mod 6) 값에 따라서 선택될 수 있다. . 또한, 도 6a 내지 도 6f에 도시된 디스케일링 행렬(V)은 일 실시예에 불과하며, 도시된 디스케일링 행렬(V)의 각 원소는 ±1, ±2의 범위 내에서 조절될 수 있다.

유사하게, 32x32 입력 블록에 적용되는 양자화 파라메터에 따른 디스케일링 행렬(V)도 전술한 16x16 블록에 적용되는 디스케일링 행렬(V) 생성 과정과 유사한 과정을 통해 획득될 수 있다. 도 7a 내지 도 7f는 본 발명의 일 실시예에 따라서 32x32 블록에 적용되는 양자화 파라메터(QP)에 따른 디스케일링 행렬(V)의 예를 도시한다.또한, 도 7a 내지 도 7f에 도시된 디스케일링 행렬(V)은 일 실시예에 불과하며, 도시된 디스케일링 행렬(V)의 각 원소는 ±1, ±2의 범위 내에서 조절될 수 있다. 한편, 본 발명의 일 실시예에 따르면, 블록 크기마다 별도의 디스케일링 행렬(V)를 적용하는 것이 아니라, 소정 크기의 블록에 대해서만 양자화 파라메터(QP)를 기준으로 6개의 디스케일링 행렬(V)를 설정한 다음, 소정 크기의 블록보다 작거나 큰 블록의 디스케일링 행렬은 소정 크기의 블록과의 크기 비율에 따라서 소정 크기의 블록에 대해서 설정된 디스케일링 행렬의 원소를 증가시키거나 감소시킨 디스케일링 행렬(V)을 이용하도록 할 수 있다. 즉, MxM 블록에 대해서 양자화 파라메터에 따라서 6개의 디스케일링 행렬(V)를 설정한 다음, NxN 블록에 대한 디스케일링 행렬로써는 MxM 블록에 대해서 설정된 디스케일링 행렬의 각 원소를 (M/N)배 시킨 디스케일링 행렬을 이용한다. 예를 들어, 32x32 블록에 대해서 디스케일링 행렬(V)을 설정한 경우, 2x2, 4x4, 8x8, 16x16 블록들은 32x32 블록에 대해서 설정된 디스케일링 행렬(V)의 각 원소를 16배, 8배, 4배 및 2배 증가시킨 디스케일링 행렬을 이용하도록 할 수 있다. 유사하게, 32x32 블록에 대해서 디스케일링 행렬(V)을 설정한 경우, 64x64, 128x128 블록들은 32x32 블록에 대해서 설정된 디스케일링 행렬(MF)의 각 원소를 (1/2)배 및 (1/4)배 감소시킨 디스케일링 행렬을 이용하도록 할 수 있다. 이와 같이, 소정 크기의 블록에 대해서만 디스케일링 행렬을 설정하고 다른 크기의 블록의 경우 크기 비율에 따라서 증가하거나 감소된 디스케일링 행렬을 이용하는 경우, 블록 크기에 따른 디스케일링 행렬의 원소값 사이의 비율만큼 양자화 또는 역양자화를 수행하여 원래 값으로 복원되도록 할 수 있다. 전술한 바와 같이, 소정 크기의 블록에 대해서만 디스케일링 행렬을 설정하고 다른 크기의 블록의 경우 크기 비율에 따라서 증가하거나 감소된 디스케일링 행렬을 이용하는 경우, 디스케일링 행렬(V)의 저장을 위한 메모리를 감소시킬 수 있으므로 효율적이다.

도 8은 본 발명의 다른 실시예에 따른 32 포인트 이산 코사인 변환의 흐름도(flow graph)를 도시한다.

도 8에서, x0 내지 x31은 입력값, y0 내지 y31은 이산 코사인 변환의 출력값들을 나타낸다. 변환시에 데이터 처리 방향은 좌측에서 우측이며, 역변환시에 데이터 처리 방향은 우측에서 좌측이다. 점에서 교차하는 2개의 라인은 2개의 수의 덧셈을 나타낸다. '-'는 부정(negation)을 나타낸다. 각 라인 위의 값 R(θ)는 도 9에 도시된 바와 같은 버터플라이 구조에 기초한 연산 과정을 나타낸다.

도 9은 도 8의 32 포인트 이산 코사인 변환을 구성하는 버터플라이 구조의 연산 과정을 나타낸 참조도이다.

도 9을 참조하면, 버터 플라이 구조의 연산은 입력값 [X1,X2]에 대해서 다음의 수학식;

과 같은 연산을 통해 출력값 [Y1, Y2]를 출력하는 것이다.

도 8의 흐름도에 따라서 이산 코사인 변환을 수행하는 경우, R(θ)에 따라서 cosθ 및 sinθ가 이용된다. 전술한 도 2의 흐름도를 이용한 변환 과정과 유사하게, 변환부(120)은 θ값에 따른 cosθ 및 sinθ 값을 분모가 2의 거듭제곱꼴인 유리수(dyadic rational)를 이용하여 대체한 고속 변환 행렬(A) 또는 도 8의 흐름도에 따른 이산 코사인 변환의 각 원소에 2^n을 곱한 후 반올림하여 생성된 고속 변환 행렬(A)를 이용하여 덧셈, 뺄셈 및 쉬프트 연산만을 수행하여 입력 블록에 대한 이산 코사인 변환을 수행할 수 있다.

구체적으로, 32x32 입력 블록에 대하여 고속 변환 행렬(A)를 이용한 1차원 이산 코사인 변환을 수행하는 단계는 Xi(i는 0 부터 31까지의 정수), Ai, Bi, Ci, Di, Ei는 중간값, Yi는 변환된 결과값을 나타낸다고 할 때, 다음의 연산 과정과 같이 표현될 수 있다.

{

/stage 0

A0 = X0 + X15;A1 = X1 + X14; A2 = X2 + X13;A3 = X3 + X12;A4 = X4 + X11;A5 = X5 + X10;A6 = X6 + X9;A7 = X7 + X8;A8 = X7 - X8;A9 = X6 - X9;A10 = X5 - X10;A11 = X4 - X11;A12 = X3 - X12;A13 = X2 - X13;A14 = X1 - X14;A15 = X0 - X15;

/stage 1

B0 = A0 + A7;B7 = A0 - A7;B1 = A1 + A6;B6 = A1 - A6;B2 = A2 + A5;B5 = A2 - A5;B3 = A3 + A4;B4 = A3 - A4;

B8 = (49*A8 + 40*A15) >> 6;B15 = (-40*A8 + 49*A15) >> 6;B9 = (30*A9 - 56*A14) >> 6;B14 = (56*A9 + 30*A14) >> 6;B10 = (61*A10 + 18*A13) >> 6;B13 = (-18*A10 + 61*A13) >> 6;B11 = (6*A11 - 63*A12) >> 6;B12 = (63*A11 + 6*A12) >> 6;

/stage 2

C0 = B0 + B3;C3 = B0 - B3;C1 = B1 + B2;C2 = B1 - B2;

C4 = (6*B4 + 31*B7, 5);C7 = (-31*B4 + 6*B7, 5);C5 = (35*B5 + 53*B6) >> 6;C6 = (-53*B5 + 35*B6) >> 6;

C8 = B8 + B11;C11 = B8 - B11;C9 = B9 + B10;C10 = B9 - B10;

C12 = B12 + B15;C15 = B12 - B15;C13 = B13 + B14;C14 = B13 - B14;

/stage 3

D0 = (45*(C0 + C1)) >> 6;D1 = (45*(-C0 + C1)) >> 6;

D2 = (24*C2 + 59*C3) >> 6;D3 = (-59*C2 + 24*C3) >> 6;

D4 = C4 + C5;D5 = C4 - C5;D6 = -C6 + C7;D7 = C6 + C7;

D8 = C8 + C14;D14 = C8 - C14;D9 = C9 + C15;D15 = C9 - C15;D10 = C10 + C11; D11 = C10 - C11;D12 = C12 + C13;D13 = C12 - C13;

/stage 4

E5 = (45*(D5 + D7)) >> 6;E7 = (45*(-D5 + D7)) >> 6;

E8 = (24*D8 - 59*D9) >> 6;E9 = (59*D8 + 24*D9) >> 6;

E11 = (45*(D11 + D12)) >> 6;E12 = (45*(-D11 + D12)) >> 6;

E14 = (24*D14 - 59*D15) >> 6;E15 = (59*D14 + 24*D15) >> 6;

/stage 5

Y0 = D0;Y8 = -D1;Y4 = D2;Y12 = D3;Y2 = D4;Y6 = E5;Y14 = D6;Y10 = -E7;Y3 = E8;Y13 = E9;Y9 = D10;Y15 = E11;Y1 = E12;Y7 = D13;Y11 = -E14;Y5 = E15;

}

한편, 본 발명의 다른 실시예에 따른 양자화부(130)는 변환 블록에 소정의 스케일링 상수를 곱하여 스케일링을 수행할 수 있다. 구체적으로, 양자화부(130)는 스케일링 상수(QMat) 및 시프트 연산을 적용하여 NxN 변환 블록에 대한 스케일링 및 양자화를 동시에 수행할 수 있다. 양자화 및 스케일링은 스케일링 상수(QMat)와 NxN 변환 블록을 곱한 값에 소정의 오프셋을 더한 값을 다음의 수학식; q=floor(QP/6)+m 의 q 비트만큼 비트 시프트 연산함으로써 수행된다. Zij를 양자화된 계수값, Wij를 변환 계수, f를 오프셋이라고 하면,

이고,

이다.

스케일링 상수(QMat)는 양자화 파라메터(QP)에 기초하여 선택될 수 있으며, 스케일링 상수(QMat)는 모든 양자화 스텝에 대하여 정의될 필요없이 처음의 6단계의 Qstep 값인 (0.625, 0.6875, 0.8125, 0.875, 1, 1.25)에 대해서 정의된다. 전술한 바와 같이 양자화 파라메터(QP)가 6 증가하면 양자화 스텝(Qstep)이 2배로 증가하기 때문에, 스케일링 상수(QMat)는 처음의 6단계의 Qstep 값에 대해서 정의되고, 나머지 QP에 따른 스케일링 상수(QMat)는 (QP mod 6) 값에 따라서 선택될 수 있다.

일 예로, i=(QP mod 6)라고 가정할 경우, 전술한 도 2 또는 도 8의 흐름도에 따라서 이산 코사인 변환된 16x16 변환 블록의 스케일링을 위한 스케일링 상수(QMati)는 다음과 같이 정의될 수 있다.

QMat0=81, QMat1=89, QMat2=105, QMat3=113, QMat4=129; QMat5=146

스케일링 상수(QMati)는 상기 예에 한정되지 않고, ±1, ±2의 범위 내에서 조절될 수 있다. 즉, 전술한 예에 한정되지 않고 스케일링 상수(QMati)는 QMati±1, QMati±2의 범위 내에서 조절될 수 있다.

또한, 전술한 도 2 또는 도 8의 흐름도에 따라서,이산 코사인 변환된 32x32 변환 블록의 스케일링을 위한 스케일링 상수(QMati)는 다음과 같이 정의될 수 있다.

QMat0=40, QMat1=44, QMat2=52, QMat3=56, QMat4=64; QMat5=72

스케일링 상수(Qmati)는 상기 예에 한정되지 않고, ±1, ±2의 범위 내에서 조절될 수 있다. 즉, 전술한 예에 한정되지 않고 스케일링 상수(QMati)는 QMati±1, QMati±2의 범위 내에서 조절될 수 있다. 일 예로, QMat0=40, QMat1=45, QMat2=51, QMat3=57, QMat4=64; QMat5=72가 스케일링 상수(Qmati)로 이용될 수 있다.

한편, 역양자화 단계에서는 이산 코사인 역변환에 이용되는 원래의 NxN 역변환 행렬(Original_A^-1)과 NxN 고속 변환 행렬(A)의 역행렬인 NxN 고속 역변환 행렬(A^-1) 사이의 차이값을 보정하기 위한 디스케일링 상수 및 시프트 연산을 적용하여 역양자화를 수행할 수 있다.

본 발명의 다른 실시예에 따르면, 디스케일링 상수(DQMat)는 양자화 파라메터(QP)에 따라서 결정될 수 있다. 디스케일링 상수(DQMat)가 결정되면, 역양자화및 디스케일링은 디스케일링 상수(DQMat)와 양자화된 변환 계수를 곱한 값에 대해서 floor(QP/6)(floor[x]는 x보다 작거나 같은 최대 정수, QP는 양자화 파라메터) 비트만큼 비트 시프트 연산을 통해 수행될 수 있다. 즉, Zij를 양자화된 변환 계수값, Wij를 변환 계수라고 하면 다음의 수학식; Wij=(Zij)*DQMat<<floor(QP/6)을 통해 양자화된 계수 Zij를 디스케일링 및 역양자화한 Wij를 획득할 수 있다.

또한, 디스케일링 상수(DQMat)는 모든 양자화 스텝에 대하여 정의될 필요없이 처음의 6단계의 Qstep 값인 (0.625, 0.6875, 0.8125, 0.875, 1, 1.25)에 대해서 정의된다. 왜냐하면 양자화 파라메터(QP)가 6 증가하면 양자화 스텝(Qstep)이 2배로 증가하기 때문에, 디스케일링 상수(DQMat)는 처음의 6단계의 Qstep 값에 대해서 정의되고, 나머지 QP에 따른 디스케일링 상수(DQMat)는 (QP mod 6) 값에 따라서 선택될 수 있다.

일 예로, i=(QP mod 6)라고 가정할 경우, 전술한 도 2 또는 도 8의 흐름도에 따라서 이산 코사인 변환된 16x16 변환 블록의 디스케일링을 위한 스케일링 상수(DQMati)는 다음과 같이 정의될 수 있다.

DQMat0=81, DQMat1=89, DQMat2=105, DQMat3=113, DQMat4=129; DQMat5=146

디스케일링 상수(DQmati)는 상기 예에 한정되지 않고, ±1, ±2의 범위 내에서 조절될 수 있다. 즉, 전술한 예에 한정되지 않고 디스케일링 상수(DQMati)는 DQMati±1, DQMati±2의 범위 내에서 조절될 수 있다.

또한, 전술한 도 2 또는 도 8의 흐름도에 따라서,이산 코사인 변환된 32x32 변환 블록의 디스케일링을 위한 디스케일링 상수(DQMati)는 다음과 같이 정의될 수 있다.

DQMat0=40, DQMat1=44, DQMat2=52, DQMat3=56, DQMat4=64; DQMat5=72

디스케일링 상수(DQmati)는 상기 예에 한정되지 않고, ±1, ±2의 범위 내에서 조절될 수 있다. 즉, 전술한 예에 한정되지 않고 디스케일링 상수(DQMati)는 DQMati±1, DQMati±2의 범위 내에서 조절될 수 있다. 일 예로, DQMat0=40, DQMat1=45, DQMat2=51, DQMat3=57, DQMat4=64; QMat5=72가 디스케일링 상수(DQMati)로 이용될 수 있다.

도 10은 본 발명의 일 실시예에 따른 비디오 부호화 방법을 나타낸 플로우 차트이다.

도 10을 참조하면, 단계 1010에서 변환부(120)은 NxN(N은 정수) 크기의 블록의 1차원 이산 코사인 변환에 이용되는 NxN 변환 행렬에 기초하여 고속 변환 행렬을 생성한다. 전술한 바와 같이, 변환부(120)은 이산 코사인 변환에 이용되는 변환 행렬의 원소들을 유리수 값으로 치환하거나, 이산 코사인 변환에 이용되는 변환 행렬의 원소들에 2의 거듭제곱을 곱한 다음 반올림한 원소들로 구성된 고속 변환 행렬을 이용하여 함으로써 고속 변환 행렬을 생성한다.

단계 1020에서, 변환부(120)은 고속 변환 행렬을 이용하여 NxN 크기의 블록을 변환하여 NxN 변환 블록을 생성한다.

단계 1030에서, 양자화부(130)은 1차원 이산 코사인 변환에 이용되는 NxN 변환 행렬과 고속 변환 행렬 사이의 차이값을 보정하기 위하여 NxN 변환 블록에 대한 스케일링을 수행한다. 전술한 바와 같이, 양자화부(130)는 변환부(120)에서 고속 변환 행렬(A)을 이용한 변환 결과값과 실제 부동 소수점 연산에 기반한 이산 코사인 변환 행렬(Original_A)을 이용한 변환 결과 사이의 오차값을 감소시키기 위하여 양자화 파라메터(QP)에 따라서 결정되는 스케일링 행렬(MF) 또는 스케일링 상수(QMat)를 적용하여 변환 블록에 대한 스케일링을 수행한다.

도 11은 본 발명의 일 실시예에 따른 비디오 복호화 장치를 나타낸 블록도이다.

도 11을 참조하면, 본 발명의 일 실시예에 따른 비디오 복호화 장치(1100)는 엔트로피 복호화부(1110), 역양자화부(1120), 역변환부(1130) 및 예측부(1140)를 포함한다.

엔트로피 복호화부(1110)는 입력 비트스트림으로부터 복호화되는 현재 블록의 예측 모드 정보, 참조 픽처 정보 및 레지듀얼 정보를 추출한다.

역양자화부(1120)는 엔트로피 복호화부(110)에서 엔트로피 복호화된 양자화된 변환 계수들을 역양자화한다. 특히, 본 발명의 일 실시예에 따른 역양자화부(1120)는 양자화된 NxN 변환 블록의 1차원 이산 코사인 역변환에 이용되는 NxN 역변환 행렬과 NxN 역변환 행렬에 기초하여 생성되는 고속 역변환 행렬 사이의 차이값을 보정하기 위하여 NxN 변환 블록에 대한 디스케일링을 수행한다.

역변환부(10030)는 역양자화된 변환 계수들을 역변환한다. 역변환 결과, 블록 단위에 대한 레지듀얼 값들이 복원된다. 역변환 과정은 본 발명의 다양한 실시예를 통해서 획득된 NxN 고속 변환 행렬(A)의 역행렬(A^-1)을 이용한 N 포인트 이산 코사인 역변환을 통해 수행될 수 있다. 역변환부(1130)는 이산 코사인 역변환에 이용되는 역변환 행렬의 원소들을 유리수 값으로 치환하거나, 이산 코사인 역변환에 이용되는 역변환 행렬의 원소들에 2의 거듭제곱을 곱한 다음 반올림한 원소들을 이용하여 생성된 고속 역변환 행렬을 이용하여 이산 코사인 역변환을 수행한다.

전술한 도 2의 흐름도에 따라서 변환된 16x16 변환 블록의 이산 코사인 역변환 과정은, Xi(i는 0 부터 15까지의 정수)를 입력값, Bi, Ci, Di, Ei, Fi는 중간값, Yi는 역변환 결과값이라고 할 때, 다음의 연산 과정과 같이 표현될 수 있다.

{

/stage 0

F8 = ( 6*X1 - 63*X15 ) >> 6;F9 = ( 49*X9 - 40*X7 ) >> 6;F10 = ( 30*X5 - 56*X11 ) >> 6;F11 = ( 61*X13 - 18*X3 ) >> 6;F12 = ( 61*X3 + 18*X13 ) >> 6;F13 = ( 30*X11 + 56*X5 ) >> 6;F14 = ( 49*X7 + 40*X9 ) >> 6;F15 = ( 6*X15 + 63*X1 ) >> 6;

/stage 1

E4 = ( 12*X2 - 62*X14 ) >> 6;E5 = ( 53*X10 - 35*X6 ) >> 6;E6 = ( 53*X6 + 35*X10 ) >> 6;E7 = ( 12*X14 + 62*X2 ) >> 6;E8 = F8 + F9;E9 = F8 - F9;E10 = F11 - F10;E11 = F11 + F10;E12 = F12 + F13;E13 = F12 - F13;E14 = F15 - F14;E15 = F15 + F14;

/stage 2

D0 = ( 45*( X0 + X8 ) ) >> 6;D1 = ( 45*( X0 - X8 ) ) >> 6;D2 = ( 24*X4 - 59*X12 ) >> 6;D3 = ( 59*X4 + 24*X12 ) >> 6;D4 = E4 + E5;D5 = E4 - E5;D6 = E7 - E6;D7 = E7 + E6;D9 = ( 24*E14 - 59*E9 ) >> 6;D10 = ( - 59*E13 - 24*E10 ) >> 6;D13 = ( 24*E13 - 59*E10 ) >> 6;D14 = ( 59*E14 + 24*E9 ) >> 6;

/stage 3

C0 = D0 + D3;C3 = D0 - D3;C8 = E8 + E11;C11 = E8 - E11;C12 = E15 - E12;C15 = E15 + E12;C1 = D1 + D2;C2 = D1 - D2;C9 = D9 + D10;C10 = D9 - D10;C13 = D14 - D13;C14 = D14 + D13;C5 = ( 45*( D6 - D5 ) ) >> 6;C6 = ( 45*( D6 + D5 ) ) >> 6;

/stage 4

B0 = C0 + D7;B7 = C0 - D7;B1 = C1 + C6;B6 = C1 - C6;B2 = C2 + C5;B5 = C2 - C5;B3 = C3 + D4;B4 = C3 - D4;B10 = ( 45*( C13 - C10 ) ) >> 6;B13 = ( 45*( C13 + C10 ) ) >> 6;B11 = ( 45*( C12 - C11 ) ) >> 6;B12 = ( 45*( C12 + C11 ) ) >> 6;

/stage 5

Y0 = B0 + C15;Y15 = B0 - C15;Y1 = B1 + C14;Y14 = B1 - C14;Y2 = B2 + B13;Y13 = B2 - B13;Y3 = B3 + B12;Y12 = B3 - B12;Y4 = B4 + B11;Y11 = B4 - B11;Y5 = B5 + B10;Y10 = B5 - B10;Y6 = B6 + C9;Y9 = B6 - C9;Y7 = B7 + C8;Y8 = B7 - C8;

}

또한, 전술한 도 2의 흐름도에 따라서 변환된 32x32 변환 블록의 이산 코사인 역변환 과정은, Xi(i는 0 부터 31까지의 정수)를 입력값, Ai, Bi, Ci, Di, Ei, Fi는 중간값, Yi는 역변환 결과값이라고 할 때, 다음의 연산 과정과 같이 표현될 수 있다.

{

/stage 0

G16 = ( 12*X1 - 255*X31) >> 8;G17 = ( 189*X17 - 171*X15) >> 8;G18 = ( 109*X9 - 231*X23) >> 8;G19 = ( 241*X25 - 86*X7) >> 8;G20 = ( 62*X5 - 248*X27) >> 8;G21 = ( 219*X21 - 131*X11) >> 8;G22 = ( 152*X13 - 205*X19) >> 8;G23 = ( 253*X29 - 37*X3) >> 8;G24 = ( 253*X3 + 37*X29) >> 8;G25 = ( 152*X19 + 205*X13) >> 8;G26 = ( 219*X11 + 131*X21) >> 8;G27 = ( 62*X27 + 248*X5) >> 8;G28 = ( 241*X7 + 86*X25) >> 8;G29 = ( 109*X23 + 231*X9) >> 8;G30 = ( 189*X15 + 171*X17) >> 8;G31 = ( 12*X31 + 255*X1) >> 8;

/stage 1

F8 = ( 25*X2 - 254*X30) >> 8;F9 = ( 197*X18 - 162*X14) >> 8;F10 = ( 120*X10 - 225*X22) >> 8;F11 = ( 244*X26 - 74*X6) >> 8;F12 = ( 244*X6 + 74*X26) >> 8;F13 = ( 120*X22 + 225*X10) >> 8;F14 = ( 197*X14 + 162*X18) >> 8;F15 = ( 25*X30 + 254*X2) >> 8;F16 = G16 + G17;F17 = G16 - G17;F18 = G19 - G18;F19 = G19 + G18;F20 = G20 + G21;F21 = G20 - G21;F22 = G23 - G22;F23 = G23 + G22;F24 = G24 + G25;F25 = G24 - G25;F26 = G27 - G26;F27 = G27 + G26;F28 = G28 + G29;F29 = G28 - G29;F30 = G31 - G30;F31 = G31 + G30;

/stage 2

E4 = ( 49*X4 - 251*X28) >> 8;E5 = ( 212*X20 - 142*X12) >> 8;E6 = ( 212*X12 + 142*X20) >> 8;E7 = ( 49*X28 + 251*X4) >> 8;E8 = F8 + F9;E9 = F8 - F9;E10 = F11 - F10;E11 = F11 + F10;E12 = F12 + F13;E13 = F12 - F13;E14 = F15 - F14;E15 = F15 + F14;E17 = ( 49*F30 - 251*F17) >> 8;E18 = ( - 251*F29 - 49*F18) >> 8;E21 = ( 212*F26 - 142*F21) >> 8;E22 = ( - 142*F25 - 212*F22) >> 8;E25 = ( 212*F25 - 142*F22) >> 8;E26 = ( 142*F26 + 212*F21) >> 8;E29 = ( 49*F29 - 251*F18) >> 8;E30 = ( 251*F30 + 49*F17) >> 8;

/stage 3

D0 = ( 181*( X0 + X16 )) >> 8;D1 = ( 181*( X0 - X16 )) >> 8;D2 = ( 97*X8 - 236*X24) >> 8;D3 = ( 236*X8 + 97*X24) >> 8;D4 = E4 + E5;D5 = E4 - E5;D6 = E7 - E6;D7 = E7 + E6;D9 = ( 97*E14 - 236*E9) >> 8;D10 = (-236*E13 - 97*E10) >> 8;D13 = ( 97*E13 - 236*E10) >> 8;D14 = (236*E14 + 97*E9) >> 8;D16 = F16 + F19;D19 = F16 - F19;D20 = F23 - F20;D23 = F23 + F20;D24 = F24 + F27;D27 = F24 - F27;D28 = F31 - F28;D31 = F31 + F28;D17 = E17 + E18;D18 = E17 - E18;D21 = E22 - E21;D22 = E22 + E21;D25 = E25 + E26;D26 = E25 - E26;D29 = E30 - E29;D30 = E30 + E29;

/stage 4

C0 = D0 + D3;C3 = D0 - D3;C8 = E8 + E11;C11 = E8 - E11;C12 = E15 - E12;C15 = E15 + E12;C1 = D1 + D2;C2 = D1 - D2;C9 = D9 + D10;C10 = D9 - D10;C13 = D14 - D13;C14 = D14 + D13;C5 = ( 181*( D6 - D5 )) >> 8;C6 = ( 181*( D6 + D5 )) >> 8;C18 = ( 97*D29 - 236*D18) >> 8;C20 = (- 236*D27 - 97*D20) >> 8;C26 = (- 236*D21 + 97*D26) >> 8;C28 = ( 97*D19 + 236*D28) >> 8;C19 = ( 97*D28 - 236*D19) >> 8;C21 = (- 236*D26 - 97*D21) >> 8;C27 = (- 236*D20 + 97*D27) >> 8;C29 = ( 97*D18 + 236*D29) >> 8;

/stage 5

B0 = C0 + D7;B7 = C0 - D7;B1 = C1 + C6;B6 = C1 - C6;B2 = C2 + C5;B5 = C2 - C5;B3 = C3 + D4;B4 = C3 - D4;B10 = ( 181*( C13 - C10 )) >> 8;B13 = ( 181*( C13 + C10 )) >> 8;B11 = ( 181*( C12 - C11 )) >> 8;B12 = ( 181*( C12 + C11 )) >> 8;B16 = D16 + D23;B23 = D16 - D23;B24 = D31 - D24;B31 = D31 + D24;B17 = D17 + D22;B22 = D17 - D22;B25 = D30 - D25;B30 = D30 + D25;B18 = C18 + C21;B21 = C18 - C21;B26 = C29 - C26;B29 = C29 + C26;B19 = C19 + C20;B20 = C19 - C20;B27 = C28 - C27;B28 = C28 + C27;

/stage 6

A0 = B0 + C15;A15 = B0 - C15;A1 = B1 + C14;A14 = B1 - C14;A2 = B2 + B13;A13 = B2 - B13;A3 = B3 + B12;A12 = B3 - B12;A4 = B4 + B11;A11 = B4 - B11;A5 = B5 + B10;A10 = B5 - B10;A6 = B6 + C9;A9 = B6 - C9;A7 = B7 + C8;A8 = B7 - C8;A20 = ( 181*( B27 - B20 )) >> 8;A27 = ( 181*( B27 + B20 )) >> 8;A21 = ( 181*( B26 - B21 )) >> 8;A26 = ( 181*( B26 + B21 )) >> 8;A22 = ( 181*( B25 - B22 )) >> 8;A25 = ( 181*( B25 + B22 )) >> 8;A23 = ( 181*( B24 - B23 )) >> 8;A24 = ( 181*( B24 + B23 )) >> 8;

/stage 7

Y0 = A0 + B31;Y31 = A0 - B31;Y1 = A1 + B30;Y30 = A1 - B30;Y2 = A2 + B29;Y29 = A2 - B29;Y3 = A3 + B28;Y28 = A3 - B28;Y4 = A4 + A27;Y27 = A4 - A27;Y5 = A5 + A26;Y26 = A5 - A26;Y6 = A6 + A25;Y25 = A6 - A25;Y7 = A7 + A24;Y24 = A7 - A24;Y8 = A8 + A23;Y23 = A8 - A23;Y9 = A9 + A22;Y22 = A9 - A22;Y10 = A10 + A21;Y21 = A10 - A21;Y11 = A11 + A20;Y20 = A11 - A20;Y12 = A12 + B19;Y19 = A12 - B19;Y13 = A13 + B18;Y18 = A13 - B18;Y14 = A14 + B17;Y17 = A14 - B17;Y15 = A15 + B16;Y16 = A15 - B16;

}

또한, 전술한 도 8의 흐름도에 따라서 변환된 16x16 변환 블록의 이산 코사인 역변환 과정은, Xi(i는 0 부터 15까지의 정수)를 입력값, Ai, Bi, Ci, Di, Ei는 중간값, Yi는 역변환 결과값이라고 할 때, 다음의 연산 과정과 같이 표현될 수 있다.

{

/stage 0

D0 = X0;D1 = -X8;D2 = X4;D3 = X12;D4 = X2;E5 = X6 ;D6 = X14;E7 = -X10;E8 = X3;E9 = X13;D10 = X9;E11 = X15;E12 = X1;D13 = X7;E14 = -X11;E15 = X5;

/stage 1

D5 = (45*(E5 - E7)) >> 6;D7 = (45*(E5 + E7)) >> 6;

D8 = (24*E8 + 59*E9) >> 6;D9 = (-59*E8 + 24*E9) >> 6;

D11 = (45*(E11 - E12)) >> 6;D12 = (45*(E11 + E12)) >> 6;

D14 = (24*E14 + 59*E15) >> 6;D15 = (-59*E14 + 24*E15) >> 6;

/stage 2

C0 = (45*(D0 - D1)) >> 6;C1 = (45*(D0 + D1)) >> 6;

C2 = (24*D2 - 59*D3) >> 6;C3 = (59*D2 + 24*D3) >> 6;

C4 = D4 + D5;C5 = D4 - D5;C6 = -D6 + D7;C7 = D6 + D7;

C8 = D8 + D14;C14 = D8 - D14;C9 = D9 + D15;C15 = D9 - D15;C10 = D10 + D11; C11 = D10 - D11;C12 = D12 + D13;C13 = D12 - D13;

/stage 3

B0 = C0 + C3;B3 = C0 - C3;B1 = C1 + C2;B2 = C1 - C2;

B4 = (6*C4 - 31*C7, 5);B7 = (31*C4 + 6*C7, 5);B5 = (35*C5 - 53*C6) >> 6;B6 = (53*C5 + 35*C6) >> 6;

B8 = C8 + C11;B11 = C8 - C11;B9 = C9 + C10;B10 = C9 - C10;

B12 = C12 + C15;B15 = C12 - C15;B13 = C13 + C14;B14 = C13 - C14;

/stage 4

A0 = B0 + B7;A7 = B0 - B7;A1 = B1 + B6;A6 = B1 - B6;A2 = B2 + B5;A5 = B2 - B5;A3 = B3 + B4;A4 = B3 - B4;

A8 = (49*B8 - 40*B15) >> 6;A15 = (40*B8 + 49*B15) >> 6;A9 = (30*B9 + 56*B14) >> 6;A14 = (-56*B9 + 30*B14) >> 6;A10 = (61*B10 - 18*B13) >> 6;A13 = (18*B10 + 61*B13) >> 6;A11 = (6*B11 + 63*B12) >> 6;A12 = (-63*B11 + 6*B12) >> 6;

/stage 5

Y0 = A0 + A15;Y1 = A1 + A14;Y2 = A2 + A13;Y3 = A3 + A12;Y4 = A4 + A11;Y5 = A5 + A10;Y6 = A6 + A9;Y7 = A7 + A8;Y8 = A7 - A8;Y9 = A6 - A9;Y10 = A5 - A10;Y11 = A4 - A11;Y12 = A3 - A12;Y13 = A2 - A13;Y14 = A1 - A14;Y15 = A0 - A15;

}

또한, 전술한 도 8의 흐름도에 따라서 변환된 32x32 변환 블록의 이산 코사인 역변환 과정은, Xi(i는 0 부터 31까지의 정수)를 입력값, Zi, Ai, Bi, Ci, Di, Ei, Fi는 중간값, Yi는 역변환 결과값이라고 할 때, 다음의 연산 과정과 같이 표현될 수 있다.

{

/stage 0

D0= X0;E24 = X1;E12 = X2;F16 = -X3;D4 = X4; F31 = X5; E8 = X6; E26 = -X7;D2 = X8; E21 = X9; E15 = X10; F29 = X11;E5 = X12; F18 = -X13; D13 = X14; D22 = X15;D1 = -X16; D25 = X17; D10 = X18; F19 = -X19;E7 = -X20; F28 = -X21 ; E14 = -X22; E20 = -X23;D3 = X24; E27 = -X25; E9 = X26; F30 = -X27;D6 = X28; F17 = -X29 ; E11 = X30; E23 = -X31;

/stage 1

E16 = (251*F16 + 49*F17) >> 8;E17 = (-49*F16 + 251*F17) >> 8;E18 = (212*F18 + 142*F19) >> 8;E19 = (-142*F18 + 212*F19) >> 8;

E28 = (212*F28 + 142*F29) >> 8;E29 = (-142*F28 + 212*F29) >> 8;E30 = (251*F30 + 49*F31) >> 8;E31 = (-49*F30 + 251*F31) >> 8;

/stage 2

D5 = (181*(E5 - E7)) >> 8;D7 = (181*(E5 + E7)) >> 8;

D8 = (97*E8 + 236*E9) >> 8;D9 = (-236*E8 + 97*E9) >> 8;

D11 = (181*(E11 - E12)) >> 8;D12 = (181*(E11 + E12)) >> 8;

D14 = (97*E14 + 236*E15) >> 8;D15 = (-236*E14 + 97*E15) >> 8;

D16 = E16 + E18;C18 = E16 - E18;C17 = E17 + E19;D19 = E17 - E19;

D20 = (236*E20 - 97*E21) >> 8;D21 = (97*E20 + 236*E21) >> 8;D23 = (181*(E23 - E24)) >> 8;D24 = (181*(E23 + E24)) >> 8;D26 = (236*E26 - 97*E27) >> 8;D27 = (97*E26 + 236*E27) >> 8;D28 = - E28 + E30;C30 = E28 + E30;C29 = - E29 + E31;D31 = E29 + E31;

/stage 3

C0 = (181*(D0 - D1)) >> 8;C1 = (181*(D0 + D1)) >> 8;

C2 = (97*D2 - 236*D3) >> 8;C3 = (236*D2 + 97*D3) >> 8;

C4 = D4 + D5;C5 = D4 - D5;C6 = -D6 + D7; C7 = D6 + D7;

C16 = (181*(D16 - D19)) >> 8;C19 = (181*(D16 + D19)) >> 8;C20 = D20 + D26;C26 = D20 - D26;C21 = D21 + D27;C27 = D21 - D27;C22 = D22 + D23;C23 = D22 - D23;C24 = D24 + D25;C25 = D24 - D25;C28 = (181*(D28 - D31)) >> 8;C31 = (181*(D28 + D31)) >> 8;

/stage 4

B0 = C0 + C3;B3 = C0 - C3;B1 = C1 + C2;B2 = C1 - C2;

B4 = (49*C4 - 251*C7) >> 8;B7 = (251*C4 + 49*C7) >> 8;B5 = (142*C5 - 212*C6) >> 8;B6 = (212*C5 + 142*C6) >> 8;

B8 = C8 + C11;B11 = C8 - C11;B9 = C9 + C10;B10 = C9 - C10;

B12 = C12 + C15;B15 = C12 - C15;B13 = C13 + C14;B14 = C13 - C14;

B16 = C16 + C28;B28 = C16 - C28;B17 = C17 + C29;B29 = C17 - C29;B18 = C18 + C30;B30 = C18 - C30;B19 = C19 + C31;B31 = C19 - C31;

B20 = C20 + C23;B23 = C20 - C23;B21 = C21 + C22;B22 = C21 - C22;

B24 = C24 + C27;B27 = C24 - C27;B25 = C25 + C26;B26 = C25 - C26;

/stage 5

A8 = (197*B8 - 162*B15) >> 8;A15 = (162*B8 + 197*B15) >> 8;A9 = (120*B9 + 225*B14) >> 8;A14 = (-225*B9 + 120*B14) >> 8;A10 = (244*B10 - 74*B13) >> 8;A13 = (74*B10 + 244*B13) >> 8;A11 = (25*B11 + 254*B12) >> 8;A12 = (-254*B11 + 25*B12) >> 8;

A16 = B16 + B23;A23 = B16 - B23;A17 = B17 + B22;A22 = B17 - B22;A18 = B18 + B21;A21 = B18 - B21;A19 = B19 + B20;A20 = B19 - B20;

A24 = B24 + B31;A31 = B24 - B31;A25 = B25 + B30;A30 = B25 - B30;A26 = B26 + B29;A29 = B26 - B29;A27 = B27 + B28;A28 = B27 - B28;

/stage 6

Z0 = A0 + A15;Z1 = A1 + A14;Z2 = A2 + A13;Z3 = A3 + A12;Z4 = A4 + A11;Z5 = A5 + A10;Z6 = A6 + A9;Z7 = A7 + A8;Z8 = A7 - A8;Z9 = A6 - A9;Z10 = A5 - A10;Z11 = A4 - A11;Z12 = A3 - A12;Z13 = A2 - A13;Z14 = A1 - A14;Z15 = A0 - A15;

Z16 = (171*A16 + 189*A31) >> 8;Z31 = (-189*A16 + 171*A31) >> 8;Z17 = (205*A17 - 152*A30) >> 8;Z30 = (152*A17 + 205*A30) >> 8;Z18 = (131*A18 + 219*A29) >> 8;Z29 = (-219*A18 + 131*A29) >> 8;Z19 = (231*A19 - 109*A28) >> 8;Z28 = (109*A19 + 231*A28) >> 8;Z20 = (86*A20 + 241*A27) >> 8;Z27 = (-241*A20 + 86*A27) >> 8;Z21 = (248*A21 - 62*A26) >> 8;Z26 = (62*A21 + 248*A26) >> 8;Z22 = (37*A22 + 253*A25) >> 8;Z25 = (-253*A22 + 37*A25) >> 8;Z23 = (255*A23 - 12*A24) >> 8;Z24 = (12*A23 + 255*A24) >> 8;

/stage 7

Y0 = Z0 + Z31;Y31 = Z0 - Z31;Y1 = Z1 + Z30;Y30 = Z1 - Z30;Y2 = Z2 + Z29;Y29 = Z2 - Z29;Y3 = Z3 + Z28;Y28 = Z3 - Z28;Y4 = Z4 + Z27;Y27 = Z4 - Z27;Y5 = Z5 + Z26;Y26 = Z5 - Z26;Y6 = Z6 + Z25;Y25 = Z6 - Z25;Y7 = Z7 + Z24;Y24 = Z7 - Z24;Y8 = Z8 + Z23;Y23 = Z8 - Z23;Y9 = Z9 + Z22;Y22 = Z9 - Z22;Y10 = Z10 + Z21;Y21 = Z10 - Z21;Y11 = Z11 + Z20;Y20 = Z11 - Z20;Y12 = Z12 + Z19;Y19 = Z12 - Z19;Y13 = Z13 + Z18;Y18 = Z13 - Z18;Y14 = Z14 + Z17;Y17 = Z14 - Z17;Y15 = Z15 + Z16;Y16 = Z15 - Z16;

}

도 12는 본 발명의 일 실시예에 따른 비디오 복호화 방법을 나타낸 플로우 차트이다.

도 12를 참조하면, 단계 1210에서 역양자화부(1120)는 NxN 크기의 양자화된 변환 블록을 수신하고, 양자화된 NxN 변환 블록의 1차원 이산 코사인 역변환에 이용되는 NxN 역변환 행렬과 NxN 역변환 행렬에 기초하여 생성된 고속 역변환 행렬 사이의 차이값을 보정하기 위하여 NxN 변환 블록에 대한 디스케일링을 수행한다. 전술한 바와 같이, 디스케일링은 역양자화 과정과 동시에 수행될 수 있으며, 양자화 파라메터(QP)에 따라서 결정되는 디스케일링 행렬(V) 또는 디스케일링 상수(DQMat)를 적용하여 양자화된 변환 계수에 대한 디스케일링을 수행한다.

단계 1220에서, 역변환부(1130)는 고속 역변환 행렬을 이용하여 디스케일링된 NxN 변환 블록을 역변환하여 NxN 역변환 블록을 생성한다. 전술한 바와 같이, 고속 역변환 행렬은 본 발명의 다양한 실시예를 통해서 획득된 NxN 고속 변환 행렬(A)의 역행렬(A^-1)로써, 이산 코사인 역변환에 이용되는 역변환 행렬의 원소들을 유리수 값으로 치환하거나, 이산 코사인 역변환에 이용되는 역변환 행렬의 원소들에 2의 거듭제곱을 곱한 다음 반올림한 원소들을 이용하여 생성된 고속 역변환 행렬을 이용하여 이산 코사인 역변환을 수행한다.

이상과 같이 본 발명은 비록 한정된 실시예와 도면에 의해 설명되었으나, 본 발명이 상기의 실시예에 한정되는 것은 아니며, 이는 본 발명이 속하는 분야에서 통상의 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다. 따라서, 본 발명의 사상은 아래에 기재된 특허청구범위에 의해서만 파악되어야 하고, 이와 균등하거나 또는 등가적인 변형 모두는 본 발명 사상의 범주에 속한다 할 것이다. 또한, 본 발명에 따른 시스템은 컴퓨터로 읽을 수 있는 기록매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 기록매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 기록매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광데이터 저장장치 등을 포함한다. 또한 컴퓨터가 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다.

Claims

비디오의 복호화 방법에 있어서,
소정 크기의 양자화된 변환 블록을 수신하는 단계;
양자화 파라미터에 기초하여 상기 양자화된 변환 블록에 포함된 변환 계수의 디스케일링에 이용되는 디스케일링 상수를 결정하는 단계;
상기 결정된 디스케일링 상수를 이용하여 상기 양자화된 변환 블록에 포함된 변환 계수들을 디스케일링하는 단계;
상기 디스케일링된 변환 계수들을 포함하는 변환 블록에 대한 역변환을 수행하는 단계; 및
상기 역변환된 변환 블록을 이용하여 상기 역변환된 변환 블록에 대응되는 현재 블록을 복원하는 단계를 포함하고,
상기 디스케일링 상수는
i가 상기 양자화 파라미터를 6으로 나눈 나머지일 때, i가 0일 때의 디스케일링 상수는 40이고, i가 1일 때의 디스케일링 상수는 45이고, i가 2일 때의 디스케일링 상수는 51이고, i가 3일 때의 디스케일링 상수는 57이고, i가 4일 때의 디스케일링 상수는 64이고, i가 5일 때의 디스케일링 상수는 72인 것을 특징으로 하는 비디오 복호화 방법.
비디오 복호화를 위한 인스트럭션을 포함하는 메모리와 상기 인스트럭션을 수행하는 프로세서를 포함하는 비디오 복호화 장치에 있어서,
상기 프로세서는,
소정 크기의 양자화된 변환 블록을 수신하고,
양자화 파라미터에 기초하여 상기 양자화된 변환 블록에 포함된 변환 계수의 디스케일링에 이용되는 디스케일링 상수를 결정하고,
상기 결정된 디스케일링 상수를 이용하여 상기 양자화된 변환 블록에 포함된 변환 계수들을 디스케일링하고,
상기 디스케일링된 변환 계수들을 포함하는 변환 블록에 대한 역변환을 수행하고,
상기 역변환된 변환 블록을 이용하여 상기 역변환된 변환 블록에 대응되는 현재 블록을 복원하는 것을 특징으로 하고,
상기 디스케일링 상수는
i가 상기 양자화 파라미터를 6으로 나눈 나머지일 때, i가 0일 때의 디스케일링 상수는 40이고, i가 1일 때의 디스케일링 상수는 45이고, i가 2일 때의 디스케일링 상수는 51이고, i가 3일 때의 디스케일링 상수는 57이고, i가 4일 때의 디스케일링 상수는 64이고, i가 5일 때의 디스케일링 상수는 72인 것을 특징으로 하는 비디오 복호화 장치.
비디오의 부호화 방법에 있어서,
현재 블록에 대한 예측 블록을 획득하는 단계;
상기 현재 블록과 상기 현재 블록의 예측 블록의 차이를 나타내는 레지듀얼 블록을 변환함으로써 상기 현재 블록의 변환 블록을 획득하는 단계;
양자화 파라미터에 기초하여 상기 변환 블록에 포함된 변환 계수의 양자화에 이용되는 스케일링 상수를 결정하는 단계;
상기 결정된 스케일링 상수를 이용하여 상기 변환 블록에 포함된 변환 계수들을 양자화하는 단계;
상기 양자화된 변환 블록을 엔트로피 부호화하는 단계; 및
상기 양자화된 변환 블록을 나타내는 양자화된 변환 블록 정보를 포함하는 비트스트림을 출력하는 단계를 포함하고,
상기 스케일링 상수는
i가 상기 양자화 파라미터를 6으로 나눈 나머지일 때, i가 0일 때의 스케일링 상수는 40이고, i가 1일 때의 스케일링 상수는 45이고, i가 2일 때의 스케일링 상수는 51이고, i가 3일 때의 스케일링 상수는 57이고, i가 4일 때의 스케일링 상수는 64이고, i가 5일 때의 스케일링 상수는 72인 것을 특징으로 하는 비디오 부호화 방법.
비디오 부호화를 위한 인스트럭션을 포함하는 메모리와 상기 인스트럭션을 수행하는 프로세서를 포함하는 비디오 부호화 장치에 있어서,
상기 프로세서는,
현재 블록의 예측 블록을 획득하고, 상기 현재 블록과 상기 현재 블록의 예측 블록의 차이를 나타내는 레지듀얼 블록을 변환함으로써 상기 현재 블록의 변환 블록을 획득하고,
양자화 파라미터에 기초하여 상기 변환 블록에 포함된 변환 계수의 양자화에 이용되는 스케일링 상수를 결정하고,
상기 결정된 스케일링 상수를 이용하여 상기 변환 블록에 포함된 변환 계수들을 양자화하고,
상기 양자화된 변환 블록을 엔트로피 부호화하고,
상기 양자화된 변환 블록을 나타내는 양자화된 변환 블록 정보를 포함하는 비트스트림을 출력하는 것을 특징으로 하고,
상기 스케일링 상수는
i가 상기 양자화 파라미터를 6으로 나눈 나머지일 때, i가 0일 때의 스케일링 상수는 40이고, i가 1일 때의 스케일링 상수는 45이고, i가 2일 때의 스케일링 상수는 51이고, i가 3일 때의 스케일링 상수는 57이고, i가 4일 때의 스케일링 상수는 64이고, i가 5일 때의 스케일링 상수는 72인 것을 특징으로 하는 비디오 부호화 장치.
비트스트림이 저장된 컴퓨터로 판독가능한 기록 매체에 있어서,
상기 비트스트림은,
현재 블록의 양자화된 변환 블록을 나타내는 양자화된 변환 블록 정보;
양자화 파라미터를 나타내는 양자화 파라미터 정보; 및
상기 현재 블록의 예측 모드를 나타내는 예측 모드 정보를 포함하고,
상기 예측 모드에 기초하여 상기 현재 블록의 예측 블록이 획득되고,
상기 양자화된 변환 블록 정보로부터 양자화된 변환 블록이 획득되고,
상기 양자화 파라미터 정보로부터 획득된 양자화 파라미터에 기초하여 상기 양자화된 변환 블록에 포함된 변환 계수의 디스케일링에 이용되는 디스케일링 상수가 결정되고,
상기 결정된 디스케일링 상수를 이용하여 상기 양자화된 변환 블록에 포함된 변환 계수들이 디스케일링되고,
상기 디스케일링된 변환 계수들을 포함하는 변환 블록에 대한 역변환이 수행되고,
상기 디스케일링 상수는
i가 상기 양자화 파라미터를 6으로 나눈 나머지일 때, i가 0일 때의 디스케일링 상수는 40이고, i가 1일 때의 디스케일링 상수는 45이고, i가 2일 때의 디스케일링 상수는 51이고, i가 3일 때의 디스케일링 상수는 57이고, i가 4일 때의 디스케일링 상수는 64이고, i가 5일 때의 디스케일링 상수는 72인 것을 특징으로 하는 컴퓨터로 판독가능한 기록 매체.
비트스트림이 저장된 컴퓨터로 판독가능한 기록 매체에 있어서,
상기 비트스트림은,
현재 블록의 양자화된 변환 블록을 나타내는 양자화된 변환 블록 정보;
양자화 파라미터를 나타내는 양자화 파라미터 정보; 및
상기 현재 블록의 예측 모드를 나타내는 예측 모드 정보를 포함하고,
상기 예측 모드에 기초하여 상기 현재 블록의 예측 블록이 획득되고,
상기 양자화된 변환 블록 정보로부터 양자화된 변환 블록이 획득되고,
상기 양자화 파라미터 정보로부터 획득된 양자화 파라미터에 기초하여 상기 양자화된 변환 블록에 포함된 변환 계수의 디스케일링에 이용되는 디스케일링 상수가 결정되고,
상기 결정된 디스케일링 상수를 이용하여 상기 양자화된 변환 블록에 포함된 변환 계수들이 디스케일링되고,
상기 디스케일링된 변환 계수들을 포함하는 변환 블록에 대한 역변환이 수행되고,
상기 역변환된 변환 블록을 이용하여 상기 역변환된 변환 블록에 대응되는 현재 블록이 복원되고,
상기 디스케일링 상수는
i가 상기 양자화 파라미터를 6으로 나눈 나머지일 때, i가 0일 때의 디스케일링 상수는 40이고, i가 1일 때의 디스케일링 상수는 45이고, i가 2일 때의 디스케일링 상수는 51이고, i가 3일 때의 디스케일링 상수는 57이고, i가 4일 때의 디스케일링 상수는 64이고, i가 5일 때의 디스케일링 상수는 72인 것을 특징으로 하는 컴퓨터로 판독가능한 기록 매체.