KR100540349B1

KR100540349B1 - An adaptive method for selecting quantizers

Info

Publication number: KR100540349B1
Application number: KR1020020086453A
Authority: KR
Inventors: 나동원; 이상규; 김용구; 이상우
Original assignee: 에스케이 텔레콤주식회사; 온타임텍 주식회사
Priority date: 2002-12-30
Filing date: 2002-12-30
Publication date: 2006-01-11
Also published as: KR20040061048A

Abstract

본 발명은 적응적 양자기 선택방법에 관한 것으로서, 특히 블록 기반의 비디오 압축기에서 효율적 변화 계수 부호화 및 발생 비트 제어를 위한 양자기 선택에 관한 것이다.BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an adaptive quantizer selection method, and more particularly, to quantizer selection for efficient coefficient coding and generation bit control in a block-based video compressor.

본 발명에 의하면, MPEG-4에 정의된 프레임 레벨 율-제어를 수행하고, 발생한 비트 및 왜곡 정보를 각 매크로블록마다 기록한 후 이를 매크로블록 수준의 모델 파라미터 설정에 이용함으로써 양자기 재 선택을 수행한다. 이렇게 수행된 프레임 수준의 부호화 결과 및 매크로블록 수준의 결과는 마지막에 율-왜곡 개념에 입각해서 취사 선택함으로써 낮은 비트율에서의 부수적인 추가 이득을 얻도록 한다.According to the present invention, quantum reselection is performed by performing frame level rate-control defined in MPEG-4, recording the generated bit and distortion information for each macroblock, and using the same for setting macroblock level model parameters. . The frame level encoding result and the macroblock level result thus performed are finally selected based on the rate-distortion concept to obtain an additional additional gain at a low bit rate.

따라서, 기존의 모델 기반 율-제어 기법에서 모델 파라미터의 효과적인 추정 및 이를 적용한 효율적 양자기 선택을 통해 비디오 데이터의 통계적 비안정성으로부터 초래되는 화질 열화 현상을 제거하고 보다 높은 비트 효율을 얻을 수 있다.Therefore, in the existing model-based rate-control scheme, through the efficient estimation of model parameters and the efficient quantizer selection using the same, the image quality degradation caused by statistical instability of video data can be eliminated and higher bit efficiency can be obtained.

양자기, 프레임 레벨, 매크로블록 레벨, 율-제어, 모델 파라미터Quantizer, frame level, macroblock level, rate-control, model parameters

Description

An adaptive method for selecting quantizers

도 1은 일반적인 프레임 레벨 율-제어 기법에 대한 흐름도이다.1 is a flow diagram for a general frame level rate-control scheme.

도 2는 일반적인 매크로블록 레벨 율-제어 기법에 대한 흐름도이다.2 is a flow diagram for a general macroblock level rate-control scheme.

도 3은 기존의 MPEG-4 파라미터 업데이트 방식을 나타낸 개념도이다.3 is a conceptual diagram illustrating a conventional MPEG-4 parameter update method.

도 4는 본 발명에 따라 적응적 양자기 선택 과정을 설명하기 위한 율-제어 기법의 흐름도이다.4 is a flow chart of a rate-control technique for explaining the adaptive quantizer selection process in accordance with the present invention.

본 발명은 적응적 양자기 선택방법에 관한 것이다. 보다 상세하게는 블록 기반의 비디오 압축기에서 효율적 변화 계수 부호화 및 발생 비트 제어를 위한 양자기 선택에 관한 것이다.The present invention relates to an adaptive quantizer selection method. More particularly, the present invention relates to quantizer selection for efficient change coefficient encoding and generation bit control in a block-based video compressor.

율-제어(Rate-Control) 기술은 기본적으로 비디오 복호기 버퍼의 오버/언더 플로우(over/underflow)를 막아주는 기능을 수행하는데, 이는 버퍼 상황에 따라 적절하게 양자기를 선택하고 이를 이용하여 변환 계수 부호화를 수행함으로써 발생되는 비트 수를 조절하는 것이다.Rate-Control technology basically performs the function of preventing over / underflow of the video decoder buffer. It selects the quantizer appropriately according to the buffer situation and uses it to transform coefficient coding. Is to adjust the number of bits generated by

즉, 움직임 보상 이후의 잔여 신호에 대해 적절한 비트 할당을 수행함으로써 복호기 버퍼의 상태를 안정화하는데, 여기서 할당하는 비트 수나 잔여 신호의 통계적 특성 변이에 따라 실제 부호화 오차가 발생하기 때문에 율-제어 기술은 부호화된 비디오의 화질을 결정짓는 매우 중요한 부호기 요소이다.That is, the state of the decoder buffer is stabilized by performing appropriate bit allocation on the residual signal after motion compensation, and the rate-control technique encodes because an actual encoding error occurs according to the number of bits allocated or the statistical characteristic variation of the residual signal. It is a very important encoder element that determines the quality of the video.

율-제어 기술은 90년대 초반 MPEG-1 규격화와 더불어 산학계에 큰 관심사가 되어왔는데, 현재 가장 보편적이면서도 효율적인 기법으로 알려져 있는 방식이 모델 기반의 율-제어 방법이다. 모델 기반의 율-제어 기법에서는 양자기 선택에 따라 발생하는 비트의 수와 부호화 이후의 왜곡에 대한 모델을 각기 설정하고, 이러한 모델에 근거할 때 가장 효율적인 양자기 선택은 어떤 것인지에 대한 문제를 해결하고 있다.Rate-control technology has been of great interest to industry and academia along with MPEG-1 standardization in the early 1990s, and the model-based rate-control method is now known as the most common and efficient technique. In the model-based rate-control technique, we set up the models for the number of bits generated by the quantum selection and the distortion after the encoding, respectively, and solve the problem of what is the most efficient quantum selection based on these models. have.

따라서, 율-왜곡에 관한 적합한 모델의 설정이 율-제어 기법의 성능에 있어 가장 중요한 요소 중 하나라 할 수 있는데, 최근 가장 폭 넓게 사용되는 모델은 다음과 같은 2차 모델(Quadratic Model) 이다.Therefore, setting up a suitable model for rate-distortion is one of the most important factors in the performance of rate-control technique. Recently, the most widely used model is the quadratic model.

여기서, 수학식 2의 율-모델은 비트율이 매우 낮은 경우 수학식 3과 같이 변형되어 사용되기도 한다.Here, the rate-model of Equation 2 may be modified and used as Equation 3 when the bit rate is very low.

이와 같은 모델 기반 율-제어 기법을 보다 효과적으로 동작시키기 위해서는 모델에서 사용하는 모델 파라미터를 안정적으로 추정할 수 있는 기법이 반드시 필요하다. 기존의 율-제어 방식에서는 이와 같은 모델 파라미터 추정이 가지는 비인과성(non-causality) 때문에 단순히 이전 프레임에서 추정된 모델 파라미터를 사용하도록 되어 있다.In order to operate the model-based rate-control technique more effectively, a technique for stably estimating the model parameters used in the model is essential. In the existing rate-control scheme, the model parameter estimated in the previous frame is simply used because of the non-causality of the model parameter estimation.

하지만, 비디오 데이터의 경우 각 장면이 가지는 영상의 통계적 특성이 짧은 시간 영역에서 크게 변화할 수 있을 뿐 아니라 한 장면 내의 통계적 영상 특성 또한 국부성을 띠기 때문에 이와 같은 모델 파라미터의 선택은 때로 매우 비 효율적인 비트 할당을 유발하게 되고, 그 결과로 영상 내 혹은 비디오 클립의 일부 화질이 현격히 저하될 수 있다.However, in the case of video data, the selection of model parameters is sometimes very inefficient because the statistical characteristics of the image of each scene can vary greatly in a short time domain, and the statistical image characteristics in a scene are also localized. This can lead to allocations, which can result in significant degradation in the quality of some of the video or video clips.

본 발명은 상기한 문제점을 해결하기 위한 것으로서 본 발명은 기존의 모델 기반 율-제어 기법에서 모델 파라미터의 효과적인 추정 및 이를 적용한 효율적 양자기 선택을 통해 비디오 데이터의 통계적 비안정성으로부터 초래되는 화질 열화 현상을 제거하고 보다 높은 비트 효율을 얻는 것을 주 목적으로 한다.The present invention is to solve the above problems, the present invention is to solve the image degradation caused by the statistical instability of the video data through the effective estimation of the model parameters in the existing model-based rate-control technique and the efficient quantizer selection to apply it The main objective is to eliminate and obtain higher bit efficiency.

상기한 본 발명의 목적을 달성하기 위한 기술적 사상으로서 본 발명은As the technical idea for achieving the above object of the present invention

블록 기반의 비디오 압축기에서 효율적인 양자기 선택방법에 있어서, An efficient quantizer selection method in a block-based video compressor,

프레임 수준의 율-제어를 수행하는 제 1단계와;Performing a frame-level rate-control;

상기 결과에 의해 발생한 비트 및 왜곡 정보를 각 매크로블록마다 기록하는 제 2단계와;A second step of recording bit and distortion information generated by the result for each macroblock;

상기 기록된 결과를 이용하여 각 매크로블록의 범주 구분 및 각 범주의 대표 모델 파라미터를 추정하는 제 3단계와;A third step of estimating a category classification of each macroblock and a representative model parameter of each category using the recorded results;

상기 각 범주의 매크로블록에 대한 양자기 선택 및 부호화를 수행하는 제 4단계와;A fourth step of performing quantizer selection and encoding on the macroblocks of each category;

상기 수행 결과에 율-왜곡 방식을 적용하여 취사 선택하는 제 5단계와;A fifth step of applying the rate-distortion method to the result of the cooking;

상기 취사 선택에 대한 최종 결과를 산출하는 제 6단계를 포함하는 것을 특징으로 하는 적응적 양자기 선택방법을 제공한다.And a sixth step of calculating a final result of the cooking selection.

이하, 본 발명의 실시예에 대한 구성 및 그 작용을 첨부한 도면을 참조하면서 상세히 설명하기로 한다.Hereinafter, with reference to the accompanying drawings, the configuration and operation of the embodiment of the present invention will be described in detail.

1) 프레임 수준 율-제어1) frame level rate-control

프레임 수준의 율-제어 기법은 MPEG-4에 정의된 방법을 그대로 사용하는데, 기본적으로 상기의 수학식 3의 율-모델과 수학식 1의 왜곡-모델을 사용하였다. 도 1을 참고하여 프레임 레벨 율-제어 알고리즘에 대하여 좀 더 상세히 살펴보기로 한다.The frame-level rate-control technique uses the method defined in MPEG-4 as it is, and basically uses the rate-model of Equation 3 and the distortion-model of Equation 1 above. A frame level rate control algorithm will be described in more detail with reference to FIG. 1.

단계 S12에서 각 프레임에 할당되는 비트 수는 다음과 같이 결정된다.In step S12, the number of bits allocated to each frame is determined as follows.

Rs는 부호화한 뒤 얻고자 하는 비트율, Rr은 현재 시퀀스를 부호화하기 위해 남아 있는 비트수, Nr은 앞으로 부호화할 프레임의 수를 의미한다.Rs is the bit rate to be obtained after encoding, Rr is the number of bits remaining for encoding the current sequence, and Nr is the number of frames to be encoded in the future.

또한, 단계 S13의 양자기 선택은 다음의 수학식 5와 같이 결정된다.Further, the quantum selection in step S13 is determined as in Equation 5 below.

여기서, 만약 A1이 0이거나

이면 다음의 수학식 6을 사용하여 양자기 결정이 수행된다.Where A1 is 0 or

In this case, quantum determination is performed using Equation 6 below.

여기서, Hp는 이전 프레임에서 헤더를 부호화하는데 필요했던 비트수를 의미한다. 이렇게 얻어진 양자기 값은 연속된 프레임 간의 화질을 어느 정도 일정하게 유지하기 위해서 다음의 수학식 7과 같이 25% 범위 내에서만 변화 가능하도록 수정한다.Here, Hp means the number of bits needed to encode the header in the previous frame. The quantizer values thus obtained are modified so that they can only be changed within a range of 25%, as shown in Equation 7 below, in order to maintain a certain quality between successive frames.

마지막으로, 단계 S14에서 수행하는 모델 파라미터 업데이트는 최근 W개의 프레임을 부호화하고 얻은 율-왜곡 결과를 활용하여 다음과 같이 수행한다.Finally, the model parameter update performed in step S14 is performed using the rate-distortion result obtained by encoding the latest W frames as follows.

여기서, Qp는 이전 W 프레임들의 양자화 값이고, Rp는 발생된 비트수 중에서 헤더를 뺀 값을 MAD로 나눈 값이다.Here, Qp is a quantization value of previous W frames, and Rp is a value obtained by subtracting the header from the generated number of bits by MAD.

상기의 수학식들을 이용하여 모델 파라미터를 업데이트하고 나면, 이 중 Outlier들을 제거하여 다시 모델 파라미터를 업데이트 하게 된다. 우선 Outlier를 제거하기 위해 윈도우 W내의 프레임에 대하여 모델식에 의해 얻어진 비트 수와 실제 얻어진 비트 수 사이의 에러를 수학식 11에 의해 구한 뒤, 수학식 12의 표준 편차를 넘는 프레임을 윈도우에서 제거하고 다시 모델 파라미터 업데이트를 수행하게 되는 것이다.After the model parameters are updated using the above equations, the outliers are removed to update the model parameters. First, in order to remove the outlier, the error between the number of bits obtained by the model expression and the number of bits actually obtained for the frame in the window W is obtained by Equation 11, and then the frame exceeding the standard deviation of Equation 12 is removed from the window. The model parameter update will be performed again.

2) 매크로블록 수준 율-제어2) macroblock level rate-control

매크로 블록 수준의 율-제어는 기본적으로 수학식 1의 왜곡 모델과 수학식 2로 주어지는 율-모델을 기반으로 한다. 도 2를 참조하여 매크로레벨 수준 율-제어 알고리즘에 대하여 상세히 살펴보기로 한다.Rate-control at the macroblock level is based on the distortion model of Equation 1 and the rate-model given by Equation 2. A macrolevel level rate-control algorithm will be described in detail with reference to FIG. 2.

먼저 단계 S21에서는 N(프레임 내 매크로블록의 수)과 Ttex (현재 프레임 부호화에 사용할 수 있는 총 비트 수)를 초기화하고 수학식 13과 같은 매개 변수를 초기화 한다.First, in step S21, N (number of macroblocks in a frame) and Ttex (total number of bits available for current frame encoding) are initialized, and parameters such as Equation 13 are initialized.

단계 S22에서 i번째 매크로블록이 사용할 타겟 비트 및 양자기는 각각 수학식 14, 15와 같이 계산한다.In step S22, the target bit and the quantizer to be used by the i-th macroblock are calculated as shown in Equations 14 and 15, respectively.

또한, 단계 S23에서 카운터 업데이트는 과 를 의미한다. 여기서 는 i번째 매크로블록을 부호화 한 결과 비트 수를 나타낸다.In addition, the counter update in step S23 means and. Where is the number of bits resulting from encoding the i-th macroblock.

마지막으로, 단계 S24에서의 모델 파라미터 갱신은 수학식 16을 통해 이루어진다.Finally, the model parameter update in step S24 is made through equation (16).

여기서,here,

이고,

는 이전 프레임에서 업데이트가 완료된 이전 프레임의 모델 파라미터이며, skip은 현재 프레임에서 COD=1로 부호화된 매크로 블록의 수를 나타낸다.ego,

Denotes a model parameter of the previous frame in which the update is completed in the previous frame, and skip indicates the number of macroblocks coded with COD = 1 in the current frame.

3) 적응적 율-제어 기법3) Adaptive Rate-Control Technique

상술한 2)의 매크로블록 수준 율-제어 방식의 파라미터 갱신 과정을 살펴보면, 현재 프레임 내에 존재하는 i번째 매크로 블록까지의 부호화 결과로부터 추정된 모델 파라미터의 평균을 이전 프레임에서 추정된 모델 파라미터와 가중 평균을 구하도록 되어있음을 알 수 있다. 도 3에 도시된 기존 MPEG-4의 파라미터 업데이트 방식을 참조하여 좀 더 상세히 살펴보기로 한다.Looking at the parameter update process of the macroblock level rate-control scheme of 2) described above, the average of the model parameter estimated from the encoding result up to the i-th macroblock existing in the current frame is the weighted average of the model parameter estimated in the previous frame. It can be seen that The parameter update method of the existing MPEG-4 shown in FIG. 3 will be described in more detail.

현재 프레임의 부호화 초기에는 이전 프레임에서 추정된 모델 파라미터에 의존해 부호화를 수행하고, 점차 현재 프레임의 후반부로 부호화를 진행하면서 현재 프레임에서 구해진 모델 파라미터에 따라 부호화를 수행하도록 파라미터 갱신을 수행하는 것이다.In the initial encoding of the current frame, encoding is performed depending on the model parameter estimated in the previous frame, and gradually parameterization is performed to perform encoding according to the model parameter obtained in the current frame while encoding is gradually performed to the second half of the current frame.

하지만, 이와 같은 파라미터 갱신 기법은 현재 프레임(혹은 잔여 신호)의 율-왜곡 특성이 이전 프레임의 그것과 크게 다른 경우, 부호화의 초기에 할당된 비트(Ttex)의 대부분을 써버리고, 후반부의 매크로블록에서는 남은 비트가 없어 제대로 부호화를 수행하지 못하거나, 혹은 반대로 후반부의 매크로블록에서 할당된 비트의 대부분을 소모하여 프레임 전체로 보아서는 부호 효율이 크게 감소하는 단점을 내포한다.However, such a parameter update technique uses most of the initially allocated bits (Ttex) of encoding if the rate-distortion characteristic of the current frame (or residual signal) is significantly different from that of the previous frame, and the latter macroblock. In this case, there is no remaining bit, so that encoding cannot be performed properly, or conversely, most of the bits allocated in the latter macroblock are consumed, and the coding efficiency is greatly reduced in the whole frame.

따라서, 적은 추가 계산으로 이와 같은 단점을 극복하기 위해 본 발명에서는 우선 프레임 수준의 율-제어를 수행하고(S41), 그 결과로 발생하는 각 매크로블록의 MAD, 발생 비트 수 그리고 선택된 양자기 단계를 기록한다(S42).Therefore, in order to overcome this disadvantage with less additional calculation, the present invention first performs frame-level rate-control (S41), and then performs MAD, number of generated bits, and selected quantizer steps of each macroblock as a result. Record (S42).

그 후, 기록된 결과를 활용하여 매크로블록 수준의 율-제어를 수행하는데 우선 수학식 17의 오른쪽 항을 사용하여 각 매크로블록에서의 모델 파라미터 A를 구하고(S43), 그 결과를 크게 다음과 같은 2가지 방식을 통해 활용한다(S44).Then, the rate-control at the macroblock level is performed by using the recorded results. First, the model parameter A in each macroblock is obtained using the right term of Equation 17 (S43), and the result is large as follows. It utilizes through two ways (S44).

첫째, 각 매크로블록의 모델 파라미터를 (0, 51) (51, 102) (102, 153) (153, 204) (204, 255) (255, 306) (306, 357) (357, ∞)의 8계층으로 구분하고, 각 계층에 속하는 모델 파라미터의 평균 값을 각 계층의 대표 모델 파라미터로 삼는다.First, model parameters of each macroblock are (0, 51) (51, 102) (102, 153) (153, 204) (204, 255) (255, 306) (306, 357) (357, ∞). It is divided into eight layers and the average value of the model parameter belonging to each layer is used as the representative model parameter of each layer.

둘째, 각 계층에 속하는 매크로 블록들은 각 계층에 속하는 모델 파라미터와 수학식 14, 수학식 15를 이용하여 양자기 선택을 수행하고, 모델 파라미터 갱신은 수행하지 않는다.Second, macroblocks belonging to each layer perform quantum selection using model parameters belonging to each layer and equations (14) and (15), and do not perform model parameter update.

도 4의 마지막 단계 S45인 율-왜곡 최적 선택은 낮은 비트율에서의 부호화에서는 매크로블록 마다 양자기를 선택하는데 사용된 비트가 부호화에 사용되어 더욱 효율을 높일 수 있다는 점에 착안하여 프레임 수준에서 발생한 프레임 전체의 왜곡 D_F와 발생 비트 B_F를 매크로블록 수준의 율-제어에서의 결과 DM, BM과 비교하는 과정으로 수학식 18, 19를 계산하고 그 결과 더 작은 비용 함수를 발생시키는 쪽의 결과를 선택하는 것이다.The rate-distortion optimal selection of the final step S45 of FIG. 4 shows that in the case of encoding at a low bit rate, the entire frame generated at the frame level, considering that bits used to select quantizers for each macroblock may be used for encoding, thereby increasing efficiency. Comparing Distortion D _F and the generated bit B _F with the result of rate-control at the macroblock level with DM and BM, Equations (18) and (19) are computed, and the result is selected to generate a smaller cost function. It is.

상술한 바와 같이, 본 발명에 따르면 MPEG-4에 정의된 프레임 레벨 율-제어를 수행하고, 발생한 비트 및 왜곡 정보를 각 매크로블록마다 기록한 후 이를 매크로블록 수준의 모델 파라미터 설정에 이용함으로써 양자기 재 선택을 수행한다. 이렇게 수행된 프레임 수준의 부호화 결과 및 매크로블록 수준의 결과는 마지막에 율-왜곡 개념에 입각해서 취사 선택함으로써 낮은 비트율에서의 부수적인 추가 이득을 얻도록 한다As described above, according to the present invention, by performing the frame level rate-control defined in MPEG-4, recording the generated bit and distortion information for each macroblock, and using the same for setting the macroblock level model parameter. Make a selection. The frame level encoding result and the macroblock level result thus performed are finally selected based on the rate-distortion concept to obtain an additional additional gain at a low bit rate.

이상에서와 같이 본 발명에 의한 적응성 양자기 선택방법에 따르면, 기존의 모델 기반 율-제어 기법에서 모델 파라미터의 효과적인 추정 및 이를 적용한 효율적 양자기 선택을 통해 비디오 데이터의 통계적 비안정성으로부터 초래되는 화질 열화 현상을 제거하고 보다 높은 비트 효율을 얻을 수 있는 이점이 있다.As described above, according to the adaptive quantizer selection method according to the present invention, image degradation caused by statistical instability of video data through efficient estimation of model parameters and efficient quantizer selection using the conventional model-based rate-control scheme. There is an advantage that the phenomenon can be eliminated and higher bit efficiency can be obtained.

Claims

An efficient quantizer selection method in a block-based video compressor,

Performing a frame-level rate-control;

A second step of recording bit and distortion information generated by the result for each macroblock;

A third step of dividing the model parameters of each macroblock into eight layers by using the recorded results, and estimating an average value of the model parameters belonging to each layer as a representative model parameter of each layer;

A fourth step of performing quantizer selection and encoding of a macro block by using a model parameter belonging to each layer, a bit and a quantizer calculation equation;

The rate-distortion method is applied to the result, but the distortion and generation bits of the entire frame generated at the frame level are compared with those of the rate-control at the macroblock level, and then the smaller cost function is generated. A fifth step of cooking selection;

And a sixth step of calculating a final result for the cooking selection.

delete