KR19980022377A - 적응형 격자 양자화기법에 의한 비디오신호 부호화 및 또는 복호화방법 - Google Patents

Abstract

본 발명은 적응형 격자 양자화기법에 의한 비디오신호 부호화 및/또는 복호화방법에 관한 것이다. 이를 위하여, 영상 시퀀스의 입력 프레임은 변환 또는 변환되지 않은 소위 벡터라 불리는 픽셀 데이타의 블록들로 분할된다. 벡터들의 집합은 소위 매크로블록으로 불리는 블록들로 분할된다. 각 매크로블록에 있는 벡터들에 대해서는 다차원으로 벡터 성분의 범위를 검사하는 격자형 벡터 양자화가 수행되며, 벡터 성분의 범위에 따라 격자형 벡터의 밀도를 조절한다. 양자화란 다차원 공간에서 가장 인접한 격자형 벡터에 대한 각 입력 벡터의 대체를 의미한다. 매크로블록내의 각 양자화된 벡터는 격자형 벡터의 인덱스로 변환된다. 후속의 허프만 부호화 또는 산술 부호화가 있건 없건 간에 매크로블록의 범위와 인덱스 집합에 관한 오버헤드 정보는 수신측에 전송되거나 저장된다.

Description

적응형 격자 양자화기법에 의한 비디오신호 부호화 및/또는 복호화방법

본 발명은 디지털 저장매체 및 전송매체에 있어서 비디오신호 부호화 및/또는 복호화방법에 관한 것으로서, 특히 벡터 격자형 양자화기(Vector Lattice Quantizer:이하 VLQ라 약함)를 이용한 비디오신호 부호화 및/또는 복호화방법에 관한 것이다.

VLQ는 많은 디지털 비디오신호 대역폭 압축 시스템에서 광범하게 사용되어 왔다. 격자란 일련의 벡터 즉, A={x: x=U1*A1+U2*A2+...+UN*AN}로 정의된다. 여기서, An(n=1, 2,..., N)은 격자의 기본 벡터들이고, Un은 정수이다. 특히 응용시, VLQ는 격자를 절단(Truncation) 및 스케일링하며 절단된 격자외부에 있는 벡터를 양자화하기 위한 방법을 고안하는 것을 가정한다. 절단이란 L개의 격자점 x가 출력점 Yi 이 되도록 선택하여 각 소스 벡터 X를 가장 근접한 격자점 Yi으로 대체하는 것을 의미한다.

절단 및 스케일링은 보통 일정 갯수의 격자 벡터 L에 대하여 적당한 분산으로 발생된 벡터 상에서 다양한 유클리디안 거리 스케일 팩터를 시험함으로써 수행되며 평균자승오차(mean square error)를 최소화하는 스케일 팩터를 선택한다. 이러한 분산은 부호화이전에 알 수 있어야 한다. 주어진 L개의 격자 벡터들에 대한 격자를 어디서 절단해야 하는지를 알기 위해서는 분산의 원점에서부터 여러 반경거리에서 쉘(shell)내의 격자 벡터의 갯수를 계산할 수 있어야 한다. 그러나, 그와 같은 계산 알고리즘으로는 가우시안(Gaussian) 또는 라플라시안(Laplacian) 분산과 같이 대칭적 분산에 대한 것만 알려져 있다.

사실, 소스 벡터의 실제적인 분산은 완전히 달라질 수 있다. 잘못 절단하게 되면 잘 알려진 대로 두가지의 왜곡 즉, 오버로드 양자와 잡음 및 그래뉼 양자화 잡음을 초래한다. 전자는 절단 경계밖의 벡터를 클리핑함으로 인한 것이고, 후자는 절단 영역이내의 벡터 성분의 라운딩에 관한 것이다. 문제는 그들간의 균형을 발견하는 데에 있다.

다른 문제는 여하한 형태의 분산에 대해서도 L을 계산하는 알고리즘이 없다는 것이다. 이는 실제로 VLQ를 사용하지 않고 상기 언급된 분산들을 이용하게 되면 격자 벡터 L의 여분의 갯수가 나오게 됨을 의미하며 이는 코드북의 부피를 늘리고 시스템 자원에 부담을 준다.

보통 기존의 방법은 일정한 절단 및 스케일링 절차를 사용한다. 반면에, 일정한 VLQ는 큰 노옴(Norm)이나 콘트라스트를 갖는 벡터를 양자화하기 위해서 넓은 범위와 낮은 콘트라스트를 갖는 벡터에 대해서는 소량의 왜곡을 동시에 보장할 수 있어야 한다. 이 모순적인 요건은 기존의 방법들의 성능을 향상시킴에 있어서 중요한 장애가 된다. 보통 L을 낮춤으로써 압축을 증가시키려는 것은 복호화된 비디오신호의 가시적인 품질을 급속히 떨어뜨리게 된다.

따라서 본 발명의 목적은 상술한 종래 기술이 갖는 문제점을 해결하기 위하여, 동일한 비트율을 가진 콘트라스트 전 영역에 대한 비디오신호의 보다 나은 재생과 낮은 비트율로 동일한 화질의 재생을 가능하게 하는 비디오신호의 부호화 방법을 제공하는 데에 있다.

본 발명의 다른 목적은 이와 같이 부호화된 비디오신호를 복호화하는 방법을 제공하는 데에 있다.

도 1은 본 발명의 일실시예에 따른 적응형 VLQ 부호화기의 블록도이다.

도 2는 본 발명의 일실시예에 따른 적응형 VLQ 복호화기의 블록도이다.

도 3은 2차원의 경우에 대한 VLQ 양자화의 일예를 도시한 것이다.

상기 목적을 달성하기 위하여 본 발명에 의한 적응형 격자 양자화기법에 의한 비디오신호 부호화방법은 변환 또는 변환되지 않은 입력 비디오신호의 각 프레임을 벡터들로 분할하는 단계, 일련의 상기 벡터들을 매크로블록으로 분할하는 단계, 상기 매크로블록내의 각 벡터에 대하여, 벡터성분의 범위를 다차원으로 검사하고 상기 매크로블록에서 벡터성분의 범위에 따라 격자형 벡터의 밀도를 조절하는 격자형 벡터 양자화를 수행하는 단계, 상기 각 양자화된 벡터를 격자형 벡터의 인덱스로 변환하는 단계, 및 상기 매크로블록에서 벡터성분의 범위와 인덱스 집합에 관한 오버헤드 정보를 전송하거나 저장하는 단계를 구비하는 것을 특징으로 한다.

상기 목적을 달성하기 위하여 본 발명에 의한 적응형 격자 양자화기법에 의한 비디오신호 복호화방법은 매크로블록에서 벡터성분의 범위와 인덱스 집합에 관한 오버헤드 정보를 복호화하는 단계; 격자형 벡터의 각 복호화된 인덱스를 양자화된 벡터로 변환하는 단계; 및 양자화된 벡터 성분의 값을 매크로블록내의 벡터성분의 범위에 따라 복원하는 단계를 구비하는 것을 특징으로 한다.

이하, 본 발명의 실시예에 대하여 첨부된 도면을 참조하여 상세히 설명하기로 한다.

양자화 왜곡에 대한 인간의 시감도(HVS)는 영상의 부위에 따라 다른 것으로 알려져 있다. 콘트라스트 또는 분산이 큰 신호 부분에서는 시감도가 감소하나 분산이 적은 평탄한 부분에서는 시감도가 증가한다. 이와 같이 시감도가 줄어드는 이유는 마스킹 효과에 의한 것으로 알려져 있다. 또한 이 효과는 국부적인 것으로 알려져 있다. 즉, 비디오신호가 크게 변화하는 부근에서만 타당하다. 신호의 분산이 큰 부분으로부터 어느 정도의 거리 상에서 인간의 시감도는 최고수준으로 환원된다.

신호의 국부적인 분산(작은 픽셀 블록에서 측정된 분산)도 블록별로 상당히 변할 수 있다. 더욱이, 다차원의 경우, 변환되지 않은 비디오신호의 국부적인 분포 모양이 가우시안 및 라플라시안 분포와는 상당한 거리가 있다.

또한, 신호의 분산이 크고(HVAR) 인간의 시감도는 낮은(LSENS) 부분(신호의 분산이 낮고(LVAR) 인간의 시감도는 높은(HSENS) 부분)들은 영상 공간에서 일치한다. 이는 VLQ가 블록방식이며, 그 양자화 스텝사이즈는 블록에서의 분산(또는 변화도)에 정비례하게 스케일링되어야 함을 의미한다. 적당한 매크로블록의 스케일링 및 사이즈를 선택함으로써 VLQ의 특성 향상을 위한 각 매크로블록내에서의 다음과 같은 중요한 조건(즉, HVAR 및 LSENS 또는 LVAR 및 HSENS)을 확실하게 할 수 있다.

이러한 개념에 의거하여, 본 발명에 따른 비디오신호 부호화 방법에서는 비디오 시퀀스의 입력 프레임은 변환된 혹은 변환되지 않은 벡터로 불리는 픽셀 데이터 블록으로 세분화된다. 일련의 벡터는 매크로블록으로 세분화된다. 각 매크로블록의 벡터에 대해서는 격자 벡터의 밀도를 조정하기 위해 다차원의 벡터성분 범위를 검사하는 격자 벡터 양자화가 수행된다. 양자화란 다차원 공간 내에서 가장 근접한 격자 벡터에 대한 각 입력 벡터의 대체를 의미하는 것이다. 매크로블록의 각 벡터는 이후의 허프만 혹은 산술적 부호화가 수행되거나 수행되지 않는 격자 벡터의 인덱스이다. 매크로블록 범위에 대한 오버헤드 정보와 이후의 호프만 혹은 산술적 부호화를 포함하거나 포함하지 않는 인덱스 세트가 수신단으로 전송되거나 저장된다.

본 발명의 일실시예에 따른 적응형 VLQ 기법에 의한 비디오신호 부호화장치가 도 1에 도시되어 있다. 먼저, 비디오 신호 부호화기의 입력 프레임은 디지탈화되고 벡터라 하는 픽셀 데이터의 공간적으로 중첩되지 않는 블록으로 세분화된다. 벡터에서 픽셀의 수는 다를 수 있으나, 보통은 4, 8 혹은 16 이다. 일련의 벡터는 매크로블록으로 세분화된다. 매크로블록의 크기는 벡터 크기의 정수배이어야 한다. 보통 매크로블록의 크기는 16*16 혹은 32*32 이다. 다차원에서 다양한 기준의 벡터 범위가 사용될 수 있다. 본 발명에서 제안된 방법에 사용되는 것중의 한 기준에 따르면, 매크로블록내의 벡터 성분들의 최대값 및 최소값이 다르다. N-차원 벡터 X =(x1, x2, ..., xN)의 경우, 벡터의 최대값은 Xmax=(xmax1, xmax2, ...,xmaxN) 이고, 최소값은 Xmin=(xmin1, xmin2, ..., xminN) 이다. 이 값들은 한 매크로블록내의 벡터 세트에 대한 하이퍼 평면(hyperplanes) 탄젠트이다. 도 3에 도시된 바와 같이, 더 많은 하이퍼 평면들이 예를 들면, 가로축에 대한 45도 각도 위치에 존재할 수 있다. 이 하이퍼 평면은 벡터성분들의 다양한 선형 조합에 의해 얻어진다. 예를 들면, 45도 각도와 4차원의 경우 단순히 축을 45도 회전시켜 변형을 달성할 수 있다. 본 방법에 있어서, 다음과 같은 변형 즉, F[0]=(1,1,1,1), F[1]=(1,-1,-1,-1), F[2] =(-1,1,-1,-1), F[3]=(-1,-1,1,-1), F[4]=(-1,-1,-1,1)이 유용한 것으로 판명되었다. 각 벡터 F[i]는 소정의 하이퍼 평면을 나타낸다. 변형된 소스 벡터는 다음과 같은 간단한 연산 즉, X*=F[0]*x[0]+F[1]*x[1]+F[2]*X[2]+F[3]*x[3]에 의해 얻어질 수 있다. 45도 각도에서 탄젠트 하이퍼 평면은 변환된 벡터성분의 최대값 및 최소값을 서치함으로써 구할 수 있다. 예를 들어, X*max=(x*max1, x*max2, ..., x*maxN) 이고 X*min=(x*min1, x*min2, ..., x*minN) 인 벡터의 경우 (여기서 N=5), 더 많은 하이퍼 평면이 다차원 공간에서 벡터의 범위를 설명하는데 사용될 수 있다. 이때, 하이퍼 평면으로 둘러싸인 볼록체는 다면체이다. 도 3에 도시된 바와 같이, 항상 하이퍼 평면의 외부에 존재하는 격자 벡터를 그 같은 하이퍼 평면을 이용하여 쉽게 결정할 수 있다. 그 결과, 격자의 선단 절단의 문제점을 해결할 수 있다. 서술된 동작은 도 1의 범위 추출기(11)에 의한 것이다.

한편, 오버헤드로서, 범위 벡터중의 직사각형 세트만이 사용된다. 다른 벡터들은 선단 절단 단계에서만 사용된다. 즉, 한 벡터의 각 양자화된 성분이 특정 범위에 있을 경우에 검사된다. 여기서, X*∈(x*mini, x*maxi) 이고 xi∈(xmini, maxi) 이며, I=1, ..., N 이어야 한다. 양자화된 결과가 이 조건을 충족시키지 못할 경우, 현재 벡터를 표현하기 위한 다른 격자 벡터에 대한 서치가 개시된다. 이때, 기존의 모든 서치 전략이 사용될 수 있다.

언급된 벡터 세트는 매크로블록당 한번 보내진 오버헤드 정보를 구성한다. 예를 들면, 32*32 픽셀로 된 매크로블록과 4차원 벡터 성분을 나타내기 위한 8 비트 결정에 있어서, 64 비트(4*8+4*8=64)를 갖게 되어 픽셀당 0.0625 비트(64/1024=0.0625)가 된다. 차원의 증가는 오버헤드가 지수적으로 증가하는 LBG와 같은 양자화기와는 반대로 오버헤드를 선형적으로 증가시킨다.

원칙적으로, VLQ는 모든 존재하는 격자를 구성할 수 있으나, Zn 과 Dn 격자가 VLQ에 사용되기에 충분하다. Zn을 얻기 위하여, 각 차원용의 스칼라 양자화기를 사용해야만 한다. 여기서, Zn 격자는 스칼라 코드북의 산물이고, Dn 격자는 합성분을 포함하여 Zn 격자 벡터로 구성된다.

도 1에 있어서, VLQ(13)에서 각 차원용 양자화 벡터가 얻어진다. 양자화 레벨의 수가 결정되고 단계만이 매크로블록의 현 범위로 조정된다. 단계 벡터 S=(s1,s2,...,sQ)는 si=(xmaxi - xmini)/Q 로서 얻어질 수 있다. 여기서 Q는 소정의 레벨을 나타낸다. 모든 유형의 성분값에서 사사오입(rounding)이 가능하다. 예를 들면, J.H. Covay 와 J.A. Sloan이 발표한 절차가 잘 알려져 있다 (Fast Quantizing and Decoding Algorithms for Lattice Quantizers and Codes, IEEE Transactions on Information Theory, Vol. IT-28, No.2, March, 1982).

이렇게 하여 얻어진 인덱스와 오버헤드 정보는 허프만 혹은 산술적 부호화 절차를 거쳐 비디오신호의 통계적 중복을 제거하게 된다.

도 2에 도시된 복호화기의 경우, 도 1의 부호화기의 역동작이 수행된다. 통계적 부호화가 사용될 경우 허프만 혹은 산술적 복호화 절차가 수행되어 인덱스 및 오버헤드 벡터 성분의 값들을 복원하게 된다. 범위 복원기(21)에서, 양자화된 값과 단계 벡터 성분을 곱하여 인덱스의 양자화 벡터 성분으로의 변환과 그 실제값들의 복원이 이루어진다. 예를 들면, I=(I1, I2, ..., IN) 과 S=(s1, s2, ..., sN)이 각각 양자화 및 단계 벡터일 경우, 복원된 벡터 XR=(xr1, xr2, ..., xrN) 는 xri=Ii*si (여기서, i=1, 2, ..., N)에 의해 얻어진다.

상술한 바와 같이 본 발명에 의한 적응형 격자 양자화기법에 의한 비디오신호 부호화 및/또는 복호화방법에서는, 동일한 비트율을 가진 콘트라스트 전 영역에 대한 비디오신호의 보다 나은 재생과 낮은 비트율로 동일한 화질의 재생을 가능하게 한다.

Claims (3)

1. 변환 또는 변환되지 않은 입력 비디오신호의 각 프레임을 벡터들로 분할하는 단계, 일련의 상기 벡터들을 매크로블록으로 분할하는 단계, 상기 매크로블록내의 각 벡터에 대하여, 벡터성분의 범위를 다차원으로 검사하고 상기 매크로블록에서 벡터성분의 범위에 따라 격자형 벡터의 밀도를 조절하는 격자형 벡터 양자화를 수행하는 단계, 상기 각 양자화된 벡터를 격자형 벡터의 인덱스로 변환하는 단계 및 상기 매크로블록에서 벡터성분의 범위와 인덱스 집합에 관한 오버헤드 정보를 전송하거나 저장하는 단계를 구비하는 것을 특징으로 하는 적응형 격자 양자화기법에 의한 비디오신호 부호화방법.
2. 제1항에 의한 부호화방법으로 부호화된 비디오신호를 복호화하기 위하여, 매크로블록에서 벡터성분의 범위와 인덱스 집합에 관한 오버헤드 정보를 복호화하는 단계, 격자형 벡터의 각 복호화된 인덱스를 양자화된 벡터로 변환하는 단계 및 양자화된 벡터 성분의 값을 매크로블록내의 벡터성분의 범위에 따라 복원하는 단계를 구비하는 것을 특징으로 하는 적응형 격자 양자화기법에 의한 비디오신호 복호화방법.
3. 변환 또는 변환되지 않은 입력 비디오신호의 각 프레임을 벡터들로 분할하는 단계 일련의 상기 벡터들을 매크로블록으로 분할하는 단계 상기 매크로블록내의 각 벡터에 대하여, 벡터성분의 범위를 다차원으로 검사하고 상기 매크로블록에서 벡터성분의 범위에 따라 격자형 벡터의 밀도를 조절하는 격자형 벡터 양자화를 수행하는 단계 상기 각 양자화된 벡터를 격자형 벡터로 변환하는 단계 상기 매크로블록에서 벡터성분의 범위와 인덱스 집합에 관한 오버헤드 정보를 전송하거나 저장하는 단계 상기 매크로블록에서 벡터성분의 범위와 인덱스 집합에 관한 오버헤드 정보를 복호화하는 단계 상기 격자형 벡터의 각 복호화된 인덱스를 양자화된 벡터로 변환하는 단계 및 양자화된 벡터 성분의 값을 매크로블록내의 벡터성분의 범위에 따라 복원하는 단계를 구비하는 것을 특징으로 하는 적응형 격자 양자화기법에 의한 비디오신호 부호화 및 복호화방법.