KR100203714B1 - 비트 발생량 조절기능을 갖는 영상 부호화 시스템 - Google Patents

Abstract

본 발명은, MC-DCT, 양자화를 포함하는 부호화 시스템에 있어서, 움직임 보상 오차값에 근거하여 예측되는 이전 영상과 입력 영상간의 시간 복잡도와 움직임 추정 및 보상을 위해 복원된 이전 프레임의 공간 복잡도에 근거하여 현재 부호화하고자 하는 영상의 복잡도를 산출하고, 그 산출결과에 따라 2차원 저역 통과 필터를 이용하여 입력 영상신호의 고주파 성분을 선택적으로 제거함으로써, 부호화후의 비트 발생량을 적응적으로 조절할 수 있도록 한 비트 발생량 조절기능을 갖는 영상 부호화 시스템에 관한 것으로, 이를 위하여 본 발명은, 움직임 추정, 보상을 위해 복원된 이전 프레임 각각에 대해 공간 복잡도값을 산출한 다음 각각 산출된 각 이전 프레임의 공간 복잡도값들을 평균하여 기설정된 복수의 이전 프레임에 대한 평균 공간 복잡도값을 산출하고, 에러신호에 대해 각 매크로 블록 단위로 각 픽셀값을 가산하여 움직임 보상 오차값을 산출한 다음 각각 산출된 각 매크로 블록의 움직임 보상 오차값들을 평균하여 기설정된 복수의 이전 프레임에 대한 움직임 평균 오차값을 산출하며, 산출된 평균 공간 복잡도값과 움직임 평균 오차값에 의거하여 최종 복잡도값을 산출하는 시, 공간 복잡도 계산 수단; 산출된 최종 복잡도값을 DCT, 양자화 및 엔트로피 부호화를 갖는 부호화 수단을 통해 현재 부호화하고자 하는 프레임의 복잡도로서 참조하며, 부호화를 위해 입력되는 현재 프레임의 주파수 통과 대역폭을 제한하기 위한 기설정된 복수의 필터계수 결정신호들중 산출된 최종 복잡도값에 대응하는 필터계수 결정신호를 발생하는 제어수단 ; 및 발생된 필터계수 결정신호에 의거하여, 입력되는 현재 프레임을 움직임 추정, 보상을 위한 현재 프레임 신호로서 부호화 수단에 필터링없이 제공하거나 복수의 필터계수중 발생된 필터계수 결정신호에 따라 결정된 필터계수에 의거하여 입력 현재 프레임 신호에 2차원 저역 통과 필터링을 선택적으로 적용하여 그 통과 대역을 제한함으로써 고주파 성분을 제거한 프레임 신호를 움직임 추정, 보상을 위한 현재 프레임 신호로써 부호화 수단에 제공하는 2차원 저역 통과 필터링 수단을 포함함으로써, 부호화 수단에서의 양자화시 과도한 스텝 사이즈의 증가 없이 부호화후 발생되는 비트량을 효과적으로 조절할수 있는 것이다.

Description

비트 발생량 조절기능을 갖는 영상 부호화 시스템

제1도는 본발명의 바람직한 실시예에 따른 비트 발생량 조절기능을 갖는 영상 부호화 시스템의 블록구성도.

제2도는 본 발명에 따라 일예로서 8×8 픽셀 블록에 대한 예시도.

제3도는 본 발명에 따라 일예로서 3×3 차수의 2차원 저역통과 필터계수를 도시한 예시도.

제4도는 본 발명에 따라 일예로서 (3,3) 위치에서의 2차원 필터링 과정을 도시한 예시도.

* 도면의 주요부분에 대한 부호의 설명

100, 170 : 프레임 메모리 110 : 감산기

120 : 영상 부호와 블록 130 : 엔트로피 부호와 블록

140 : 전송버퍼 150 : 영상 복호화 블록

160 : 가산기 180 : 현재 프레임 예측 블록

210 : 시,공간 복잡도 계산 블록 220 : 필터 제어 블록

230 : 저역 통과 필터링 블록

본 발명은 영상 신호를 압축 부호화하는 영상 부호와 시스템에 관한 것으로, 더욱 상세하게는 움직임 보상 차분 펄스 부호 변조 (MC-DPCM)기법을 이용하여 영상신호를 압축 부호화할 때, 움직임 보상 오차값에 근거하여 예측되는 이전 영상과 입력 영상간의 시간 복잡도(variance)와 움직임 추정 및 보상을 위해 복원된 이전 프레임의 공간 복잡도에 근거하여 예측되는 입력 영상신호의 복잡도 (variance) 를 참조하여 부호화후의 발생 비트량을 적응적으로 조절하는 데 적합한 비트 발생량 조절기능을 갖는 영상 부호화 시스템에 관한 것이다.

이 기술분야에 잘 알려진 바와같이 이산된 영상신호의 전송은 아날로그 신호보다 좋은 화질을 유지할 수 있다. 일련의 이미지 프레임으로 구성된 비디오 신호가 디지탈 형태로 표현될 때, 특히 고품질 텔레비젼(일명 HDTV 라함)의 경우 상당한 양의 데이타가 전송되어야 한다. 그러나 종래의 전송 채널의 사용 가능한 주파수 영역은 제한되어 있으므로, 많은 양의 디지탈 데이타를 전송하기 위해서는 전송되는 데이타를 압축하여 그 양을 줄일 필요가 있다. 이와같이 데이타를 압축하는 다양한 압축 기법 중에서, 확률적 부호화 기법과 시간적, 공간적 압축기법을 결합한 하이브리드 부호화 기법이 가장 효율적인 것으로 알려져 있으며, 이러한 기법들은, 예를들면 세계 표준화 기구에 의해 그 표준안이 이미 제정된 MPEG-1 및 MPEG-2 등의 권고안에 광범위하게 개시되어 있다.

대부분의 하이브리드 부호화 기법은 움직임 보상 DPCM (차분펄스 부호변조), 2차원 DCT (이산 코사인 변화), DCT계수의 양자화, VLC(가변장부호화)등을 이용한다. 움직임 보상 DPCM은 현재 프레임과 이전 프레임간의 물체의 움직임을 결정하고, 물체의 움직임에 따라 현재 프레임을 예측하여 현재 프레임과 예측치간의 차이를 나타내는 차분신호를 만들어내는 방법이다. 이 방법은 예를 들어 Staffan Ericsson의 Fixed and Adaptive Predictors for Hybrid Predictive/Transform Coding, IEEE Transactions on Communication. COM-33, NO. 12 (1985년, 12월), 또는 Ninomi y와 Ohtsuka 의 A motion Compensated Interframe Coding Scheme for Televis ion Pictures, IEEE Transactions on Communication, COM-30, NO.1 (1982년 , 1월)에 기재되어 있다.

일반적으로, 이차원 DCT 는 영상 데이타간의 공간적 리던던시를 이용하거나 제거하는 것으로써, 디지탈 영상 데이타 블럭, 예를 들면 8 × 8 블럭을 DCT변환계수로 변환한다. 이 기법은 Chen과 Pratt의 Scene Adaptive Coder, IEEE Transactions on Communication, COM-32, NO.3(1984년, 3월)에 개시되어 있다. 이러한 DCT변환계수는 양자화기, 지그재그 주사, VLC등을 통해 처리됨으로써 전송할 데이타의 양을 효과적으로 감축(또는 압축)할수 있다.

보다 상세하게, 움직임 보상 DPCM에서는 현재 프레임과 이전 프레임간에 추정된 물체의 움직임에 따라, 현재 프레임을 이전 프레임으로부터 예측한다. 이와같이 추정된 움직임은 이전 프레임과 현재 프레임간의 변위를 나타내는 2차원 움직임 벡터로 나타낼 수 있다.

통상적으로, 물체의 변위를 추정하는 데에는 여러가지 접근방법이 있다. 이들은 일반적으로 두개의 타입으로 분류되는데, 그중 하나는 블럭 매칭 알고리즘을 이용하는 블럭단위 움직임 추정방법이고 다른 하나는 화소순환 알고리즘을 이용하는 화소단위 움직임 추정방법이다.

상기와 같이 물체의 변위를 추정하는 움직임 추정방법중, 화소단위 움직임 추정방법을 이용하면 변위는 각각의 화소 전부에 대해 구해진다. 이러한 방법은 화소값을 더 정확히 추정할 수 있고 스케일 변화(예를들어, 영상면에 수직한 움직임인 주밍(zooming))도 쉽게 다룰수 있다는 장점을 갖는 반면에, 움직임 벡터가 모든 화소 각각에 대해 결정되기 때문에, 다량의 움직임 벡터들이 발생하는데 실질적으로 모든 움직임 벡터를 수신기로 전송하다는 것은 불가능하다.

또한, 블럭단위 움직임 추정에서는, 현재 프레임의 소정 크기의 블럭을 이전 프레임의 소정 범위의 탐색영역내에서 한 화소씩 이동하면서 대응 블럭들과 비교하여 그 오차값이 최소인 최적 정합 블럭을 결정하며, 이것으로부터, 전송되는 현재 프레임에 대해 블럭 전체에 대한 프레임간 변위 벡터(프레임간에 블럭이 이동한 정도)가 추정된다. 여기에서, 현재 프레임과 이전 프레임간의 대응하는 두 블럭간의 유사성 판단은, 이 기술 분야에 잘 알려진 바와 같은, 평균 절대차와 평균 제곱차 등이 주로 사용된다.

한편, 상술한 바와 같은 부호화 기법, 즉 움직임 보상 DPCM,2차원 DCT, DCT계수의 양자화 및 VLC(또는 엔트로피 부호화)등의 부호화 기법을 통해 부호화된 영상 비트 스트림은 영상 부호화 시스템의 출력측에 구비되는 전송 버퍼에 저장된 다음 전송시점이 되면 원격지 수신측으로의 송신을 위해 전송기로 보내진다. 이때, 여기에서의 전송시점은 전송 버퍼의 크기(즉, 용량)와 전송율에 관계되며, 전송 버퍼에서의 오동작(데이터 오버플로우(overflow) 또는 데이터 언더플로우(underflow))이 발생하지 않도록 제어된다.

보다 상세하게, 여러가지 요인(예를들면, 영상의 복잡도)으로 인해 부호화시에 각 프레임마다 발생되는 비트량이 달라지게 되는데, 이러한 점을 고려하여 영상 부호화 시스템에서는, 평균 전송율이 일정하게 유지될수 있도록 출력측 전송 버퍼의 제어를 수행한다. 즉, 영상 부호화 시스템에서는 출력측 전송 버퍼의 데이터 충만상태 정보에 근거하여 현재 부호화하고 있는 프레임 이전까지의 비트 발생량을 조사하고 있다가 현재 프레임에서 할당해야 하는 비트량을 조절한다. 다시말해, 종래의 전형적인 영상 부호화 시스템에서는 출력측 전송 버퍼의 데이터 충만상태 정보에 의거하여 실질적으로 양자화 스텝 사이즈 (QP)를 제어함으로써 부호화 시스템에서의 발생 비트량을 조절, 즉 이전까지 비트 발생량이 많으면 양자화 스텝 사이즈를 크게 조절하여 비트 발생량을 줄이고, 이와 반대의 경우에는 양자화 스텝 사이즈를 작게 조절하여 비트 발생량을 늘리는 등의 방법을 통해 비트 발생량을 조절하고 있다.

그러나, 상술한 바와같이 출력측 전송 버퍼의 데이터 충만상태 정보에 의거하여 양자화 스텝 사이즈를 조절함으로써 비트 발생량을 조절하는 종래방법은, 각 프레임에 해당하는 영상 데이터를 동일한 전송율로 부호화하여 전송하고자 하는 경우에 있어서, 부호화하고자 하는 영상이 복잡한 경우(고주파 성분이 다량 발생)에는 비트 발생량이 많아지게 되는데 이로 인해 양자화 스텝 사이즈가 커져 결과적으로 재생 영상에서의 심각한 화질열화가 야기된다는 문제를 갖는다. 여기에서 발생하는 고주파 성분은 실질적으로 인간의 시각특성에 매우 둔감한 성분(재생 영상의 화질에 거의 영향을 미치지 않는 성분)이다.

따라서, 본 발명은 상술한 종래기술의 문제점을 해결하기 위한 것으로, MC-DCT, 양자화를 포함하는 부호화 시스템에 있어서, 움직임 보상 오차값에 근거하여 예측하는 이전 영상과 입력 영상간의 시간 복잡도와 움직임 추정 및 보상을 위해 복원된 이전 프레임의 공간 복잡도에 근거하여 현재 부호화하고자 하는 영상의 복잡도를 산출하고, 그 산출결과에 따라 2차원 저역 통과 필터를 이용하여 입력 영상신호의 고주파 성분을 선택적으로 제거함으로써, 부호화후의 비트 발생량을 적응적으로 조절할 수 있는 비트 발생량 조절기능을 갖는 영상 부호화 시스템을 제공하는 데 그 목적이 있다.

상기 목적을 달성하기 위하여 본 발명은, 입력되는 현재 프레임과, 이 현재 프레임 및 재구성된 이전 프레임을 이용하는 매크로 블록단위의 움직임 추정, 보상을 통해 얻어지는 예측 프레임간의 에러신호에 대해 이산 코사인 변환, 양자화 및 엔트로피 부호화를 포함하는 부호화 수단을 통해 압축 부호화하여 부호화된 비트 스트림을 발생하며, 상기 양자화는 출력측 버퍼에 저장되는 상기 비트 스트림의 충만상태 정보에 의거하여 그 스텝 사이즈가 조절되는 비트 발생량 조절기능을 갖는 영상 부호화 시스템에 있어서, 상기 움직임 추정, 보상을 위해 복원된 상기 이전 프레임 각각에 대해 공간 복잡도를 산출한 다음 각각 산출된 상기 각 이전 프레임의 공간 복잡도값을 평균하여 기설정된 복수의 이전 프레임에 대한 평균 공간 복잡도값을 산출하고, 상기 에러신호에 대해 각 매크로 블록 단위로 각 픽셀값을 가산하여 움직임 보상 오차값을 산출한 다음 각각 산출된 각 매크로 블록의 움직임 보상 오차값들을 평균하여 기설정된 복수의 이전 프레임에 대한 움직임 평균 오차값을 산출하며, 상기 산출된 평균 공간 복잡도값과 움직임 평균 오차값에 의거하여 최종 복잡도값을 산출하는 시,공간 복잡도 계산 수단; 상기 산출된 최종 복잡도값을 상기 부호화 수단을 통해 현재 부호화하고자 하는 프레임의 복잡도로서 참조하며, 부호화를 위해 입력되는 상기 현재 프레임의 주파수 통과 대역폭을 제한하기 위한 기설정된 복수의 필터계수 결정신호들중 상기 산출된 최종 복잡도값에 대응하는 필터계수 결정신호를 발생하는 제어수단; 및 상기 발생된 필터계수 결정신호에 의거하여, 상기 입력되는 현재 프레임을 상기 움직임 추정, 보상을 위한 현재 프레임 신호로써 상기 부호화 수단에 필터링없이 제공하거나 복수의 필터계수중 상기 발생된 필터계수 결정신호에 따라 결정된 필터계수에 의거하여 상기 입력 현재 프레임 신호에 2차원 저역 통과 필터링을 선택적으로 적용하여 그 통과 대역을 제한함으로써 고주파 성분을 제거한 프레임 신호를 상기 움직임 추정, 보상을 위한 현재 프레임 신호로써 상기 부호화 수단에 제공하는 2차원 저역 통과 필터링 수단을 더 포함하는 것을 특징으로 하는 비트 발생량 조절기능을 갖는 영상 부호화 시스템을 제공한다.

본 발명의 상기 및 기타 목적과 여러가지 장점은 이 기술분야에 숙련된 사람들에 의해 첨부된 도면을 참조하여 하기에 기술되는 본 발명의 바람직한 실시예로 부터 더욱 명확하게 될 것이다.

이하 첨부된 도면을 참조하여 본 발명의 바람직한 실시예에 대하여 상세하게 설명한다.

제1도는 본 발명의 바람직한 실시예에 따른 비트 발생량 조절기능을 갖는 영상 부호화 시스템에 대한 블럭구성도를 나타낸다. 동도면에 도시된 바와같이, 본 발명의 영상 부호화 시스템은 제1프레임 메모리(100), 감산기(110), 영상 부호화 블럭(120), 엔트로피 부호화 블럭(130), 전송 버퍼(140), 영상복호화 블럭(150), 가산기(160), 제2프레임 메모리(170), 현재 프레임 예측블록(180), 시,공간 복잡도 계산블럭(210), 필터 제어 블록(220) 및 저역 통과 필터링 블록(230)을 포함한다.

제1도를 참조하면, 입력되는 현재 프레임 신호는 제1 프레임 메모리(100)에 저장된 다음 저역 통과 필터링블록(230)으로 입력되며, 저역 통과 필터링 블록(230)에서는 후술되는 필터 제어 블록(220)으로부터 제공되는 움직임 추정, 보상을 위해 복원된 이전 프레임의 공간 복잡도와 움직임 보상 오차값에 따른 영상의 시간 복잡도에 의거해 산출되는 제어신호(주파수 영역 구분을 위한 대역폭 결정신호)에 따라 입력 프레임 신호의 주파수를 적응적으로 제한, 즉 2차원 저역 통과 필터링을 이용하여 입력 영상의 고주파 성분 (비교적 인간의 시각에 둔감한 부분임)을 제거하는데, 이러한 저역 통과 필터링 블록(230)에 대한 구체적인 동작과정에 대해서는 제2도를 참조하여 후에 상세하게 기술될 것이다. 그런다음, 이와같이 고주파 성분이 적응적으로 제거되는 현재 프레임 신호는 라인 L11을 통해 감산기(110)와 현재 프레임 예측 블럭(180)에 각각 제공된다.

먼저, 감산기(110)에서는 라인 L11을 통해 저역 통과 필터링 블록(230)에서 제공되는 현재 프레임 신호로부터 라인 L19를 통해 후술되는 현재 프레임 예측 블럭(180)으로 부터 제공되는 이동 물체에 대하여 움직임 보상된 예측된 현재 프레임 신호를 감산하며, 그 결과 데이타, 즉 차분화소값을 나타내는 에러신호를 라인 L12상에 발생한다. 그런다음, 라인 L12상의 에러신호는 영상 부호화 블럭(120)을 통해 이산 코사인 변환 (DCT)과 이 기술분야에서 잘 알려진 양자화 방법들 중의 어느 하나를 이용함으로서, 일련의 양자화된 DCT 변환계수들로 부호화된다. 이때, 영상 부호화 블럭(120)에서의 에러신호에 대한 양자화는 라인 L21을 통해 후술되는 출력측 전송 버퍼(140)로 부터 제공되는 데이타 충만상태 정보에 따라 결정되는 양자화 파라메터(QP)에 의거하여 그 스텝 사이즈가 조절된다.

또한, 본 발명에 따라, 라인 L12상의 에러신호는 후술되는 시, 공간 복잡도계산 블록(210)으로 제공되며, 시, 공간 복잡도 계산 블록(210)은 라인 L12상의 에러신호를 가산함으로써, 각 프레임의 움직임 보상 오차값을 산출하는 데, 이와같이 산출된 움직임 보상 오차값을 이용하여 부호화하고자 하는 프레임의 시간 복잡도를 계산하며, 본 발명에서는 이와같이 계산된 시간 복잡도 후술되는 복원된 이전 프레임의 공간 복잡도를 종합하여 산출되는 최종 복잡도에 근거하여 2차원 저역 통과 필터링을 이용하여 입력 영상에서 인간의 시각특성에 비교적 둔감한 고주파 성분을 적응적(또는 선택적)으로 제한한다. 따라서, 본 발명에서는 부호화된 비트 발생량의 증가가 수반되는 복잡한 영상이라할지라도 재생 영상에서 화질염화를 야기시키는 양자화 스텝 사이즈를 적절하게 조절할 수 있다. 이와 같이 산출된 영상의 시간 복잡도와 공간 복잡도 정보에 근거해 설정되는 대역폭 결정신호를 이용하여 양자화 단계에서의 저역 통과 필터링시에 그 대역폭을 적응적으로 제한하는 구체적인 과정에 대해서는 후에 상세하게 기술될 것이다.

다음에, 라인 L13 사의 양자화된 DCT 변환계수들은 엔트로피 부호화 블럭(130)과 영상 복호화 블럭(150)으로 각각 보낸진다. 여기에서, 엔트로피 부호화 블럭(130)에 제공된 양자화된 DCT 변환계수들은, 예를 들면 가변길이 부호화 기법등을 통해 부호화되어 츨력측의 전송버퍼(140)에 제공되며, 이와 같이 부호화된 영상신호는 수신측으로의 전송을 위해 도시 생략된 전송기로 전달된다.

한편, 영상 부호화 블럭(12)으로 부터 영상 복호화 블럭(150)에 제공되는 라인 L13상의 양자화된 DCT변환계수들은 역양자화 및 역이산 코사인 변환을 통해 다시 복원된 프레임 신호로 변환된 다음, 가산기(160)에 제공되며, 가산기(160)에서는 영상 복호화 블럭(150)으로 부터의 복원된 프레임 신호와 라인 L19를 통해 후술되는 현재 프레임 예측 블럭(180)으로 부터 제공되는 예측된 현재 프레임 신호를 가산하여 재구성된 이전 프레임 신호를 생성하며, 이와같이 재구성된 이전 프레임 신호는 제2 프레임 메모리(170)에 저장된다. 따라서, 이러한 경로를 통해 부호화 처리되는 매 프레임에 대한 바로 이전 프레임 신호가 계속적으로 갱신되며, 이와같이 갱신되는 재구성된 이전 프레임 신호는 움직임 추정, 보상을 위해 후술되는 현재 프레임 예측블럭(180)으로 제공된다.

또한 제2프레임 메모리(170)에 저장하는 복원되어 재구성된 이전 프레임 신호는 본 발명에 따른 입력 프레임의 공간 복잡도 계산을 위해 라인 L16을 통해 후술되는 시, 공간 복잡도 계산 블럭(210)으로 제공된다.

다른 한편, 현재 프레임 예측 블럭(180)에서는, 본 발명에 따른 저역 통과 필터링 블록(230)으로부터 제공되는 라인 L11상의 고주파 성분이 선택적으로 제거되거나 또는 고주파 성분이 제거되지 않은 현재 프레임 신호와 상기한 제2프레임 메모리(170)로 부터 제공되는 라인 L15상의 재구성된 이전 프레임 신호에 기초하여 블럭 매칭 알고리즘을 이용해 재구성된 이전 프레임의 기설정 탐색범위(예를들면, 16 × 16 또는 32 × 32 탐색범위)에서 소정의 블럭 (예를 들면, 8 × 8 또는 16 × 16 DCT블록)단위로 현재 프레임을 예측한 다음 라인 L19상에 예측된 현재 프레임 신호를 발생하여 상술한 감산기(110)와 가산기 (160)에 각각 제공한다. 이때, 라인 L19상의 스위치(SW)는 도시 생략된 시스템 제어기로부터의 제어신호 (CS)에 따라 그 접점이 온/오프되는 것으로, 스위치(SW)가 온일때는 현재의 부호화 모드가 인터모드임을 의미하고 반대로 오프일때는 현재의 부호화 모드가 인트라 모드임을 의미한다. 따라서, 감산기(110)에서는 인터모드 부호화시에 현재 프레임 신호화 예측 프레임 신호간의 에러신호를 영상 부호화 블록(120)에 제공하고, 인트라 모드 부호화시 현재 프레임 신호 자체를 영상 부호화 블록(120)에 제공한다.

또한, 현재 프레임 예측블럭(180)은 선택되는 각 블록(8 × 8 또는 16 × 16 블록)들에 대한 움직임 벡터들의 세트를 라인 L17상에 발생하여 전술한 엔트로피 부호화 블럭(130)에 제공한다. 여기에서, 검출되는 움직임 벡터들의 세트들은 현재 프레임의 블록(8 × 8 또는 16 × 16블록)과 이전 프레임내의 기설정 탐색영역(예를들면, 16 × 16 또는 32 × 32 탐색범위)에서 예측된 가장 유사한 블럭간의 변위이다. 따라서, 전술한 엔트로피 부호화 블록(130)에서는 라인 L17상의 움직임 벡터들의 세트들과 더불어 라인 L13상의 양자화된 DCT 변환계수들은, 예를들면 가변길이 부호화 기법등을 통해 부호화하여 부호화된 비트 스트림을 발생한다.

한편, 본 발명에 따른 시, 공간 복잡도 계산 블록(210)에서는 현재 프레임과 복원된 이전 프레임간의 움직임 보상을 통해 얻어진 예측 프레임과 현재 프레임간의 에러 신호에 의거하여 입력 영상의 시간 복잡도에 대한 평균 오차 AE(Average Error)를 산출하고, 또한 움직임 추정, 보상을 위한 이전 프레임의 공간 복잡도 ACT (Activity)를 산출한 다음, 이들 두 복잡도값 (AE,ACT)를 이용하여 양자화 단계 전에 고주파 성분을 적응적으로 제거하도록 결정하는 가중치를 발생하기 위한 복잡도 C(Complexity)를 발생한다. 이와같이 본 발명에 따라 시간 영역상의 복잡도와 공간영역상의 복잡도를 모두 참조하여 입력 영상의 복잡도를 산출하는 경우, 단지 한 영역상의 복잡도(시간영역 또는 공간영역의 복잡도)만을 참조하는 것에 비해 그 계산량은 다소 많아질 수도 있으나 보다 고정확하게 입력 영상의 복잡도를 산출할 수가 있을 것이다,

먼저 시, 공간 복잡도 계산 블록(210)에서는 공간 복잡도값 ACT의 계산을 위해, 라인 L16을 통해 제2 프레임 메모리 (170)으로부터 제공되는 복원된 이전 프레임에 대한 영상의 공간 복잡도를 계산, 즉 영상신호의 분산값(표준편차)를 이용하여 부호화할 영상신호의 정보량에 관계되는 공간복잡도를 계산하고, 이와같이 계산된 이전 프레임의 공간 복잡도를 현재 부호화하고자하는 프레임의 영상 복잡도로써 참조하며, 본 발명에서는 이와같이 계산된 이전 프레임의 공간 복잡도와 후술되는 시간 복잡도에 근거하여 입력 영상신호에서 인간의 시각특성에 비교적 둔감한 고주파 성분을 적응적(또는 선택적)으로 제거(즉, 필터링)한다.

본 발명에서는 복원된 이전 프레임의 공간 복잡도 계산시에 영상신호의 분산값(표준편차)를 이용하는데 , 여기에서 이용되는 분산값의 경우 그 값이 큰 경우에는 DCT를 수행한 결과의 값이 고주파 성분 (인간의 시각특성이 비교적 둔감한 성분)을 많이 포함할 것이므로 변환계수의 분포가 데이터를 압축하는데 부적절하게 된다. 이상적인 데이터 압축에 좋은 영상은 고주파 성분이 존재하지 않고 단지 DC 성분만이 존재하는 경우로서 변환된 계수의 분포는 (0,0)의 위치에 있는 한 값만이 있게 된다. 또한, 분산값이 큰 경우에는 움직임 보상이 제대로 수행되지 않을 수 있어, 결과적으로 움직임 보상된 영상의 구조가 부호화하기에 적절하지 않게 된다. 따라서, 이와같은 공간 복잡도는 영상신호의 정보량, 즉 실질적으로 부호화하여 전송해야 할 데이터량으로 해석할수 있다.

예를 들어, 한 프레임이 M×N의 크기를 갖는다고 가정하고, 부호화후에 복원되어 재구성된 이전 프레임의 영상을 Ip, 부호화를 위해 입력되는 프레임의 영상을 Ic라 할 때, 각 프레임의(x,y)의 위치에서의 Ip영상의 픽셀 값은 Ip(x,y)이다. 이때, 현재 입력되는 Ic영상에 대한 복잡도의 계산은 움직임 추정 및 보상을 위해 부호화(DCT,양자화)후에 복원된 이전 프레임의 영상신호에 대하여 다음(1)식과 같이 계산되는 영상의 공간 복잡도(ACT)로 이용할 수 있다.

상기(1)식에서 MIp는 복원되 이전 프레임인 Ip영상에 대한 평균값을 의미하는데, 이러한 Ip영상에 대한 평균값 MIp는 다음의 (2)과 같이 계산된다.

상기한 바와같이 현재 부호화하고자하는 프레임의 복잡도로서 복원된 이전 프레임의 ACT값을 이용하는 이유는 영상신호의 특성이 매 프레임마다 급격하게 변하지 않기 때문이다.

따라서, 이와같이 산출되는 공간복잡도 ACT값은 영상의 정보량 (비트발생량)에 관련된다고 볼수 있는데, 만일 현재 부호화된 영상이 복잡한 경우에는 산출되는 공간복잡도 ACT값이 상대적으로 커질 것이고, 그 반대의 경우에는 산출되는 공간복잡도 ACT값이 작아 지게 될 것이다.

이러한 관점에 비추어볼 때, 부호화시에 산출되는 복원된 이전 프레임간의 공간 복잡도 ACT값은 곧 전송할 정보량에 관계되는 값으로 해석할 수 있을 것이다. 그리고, 본 발명에 따른 복원된 이전 프레임의 공간 복잡도 ACT값 산출에 있어서는, 부호화 시스템이 움직임 추정 및 보상을 수행하는 과정에서 필요로 하는 재구성된 이전 프레임 신호를 프레임 메모리에 저장하고 있으므로, 이와같은 부호화 시스템의 일부를 이용하면 원하는 복원된 이전 프레임의 공간 복잡도 ACT값을 쉽게 얻을 수 있을 것이다.

다른한편, 시간 복잡도의 산출을 위해, 본 발명의 시, 공간 복잡도 계산블록(210)에서는 움직임 보상 과정에서 발생되는 오차를 계산하는 데, 이러한 움직임 보상 오차값은 소정 단위 (모든 MPEG스펙에서는 움직임 추정이 16 × 16 단위(즉, 매크로 블록)의 블록으로 수행되며, 이 경우 이전 프레임내의 탐색블록의 크기는 32 × 32 단위임)의 움직임 추정에 의해 검출된 움직임 벡터를 이용하여 재구성된 이전 프레임으로부터 움직임 보상을 수행하여 얻은 라인 L19상의 예측된 현재 프레임 신호화 라인 L11상의 현재 프레임 신호화의 에러신호를 가산함으로써 산출할수 있다.

예를 들어, 재구성된 이전 프레임의 영상을 Ip라 하고 현재 입력되는 프레임의 영상을 Ic라 할 때, (x,y)의 위치에서 각 픽셀의 값은 Ip(x,y), Ic(x,y)가 될 것이다. 이때의 움직임 추정은, 전술한 바와같이 M × N 블록(예를들면, 16 × 16의 매크로 블록)단위로 수행되므로 i,j 번째의 매크로 블록에 대한 움직임 벡터를 MVX(i,j), MVY(i,j)라 하면, i,j번째 매크로 블록에 대한 움직임 보상 오차값 E(i,j)는 다음의 (3)식에 의해 계산된다. 이때, 움직임 벡터는 전술한 현재 프레임 예측 블록(180)에서의 움직임 추정과정에서 이미 검출된 값이다.

상기한 (3)식에서 L은 매크로 블록의 가로및 세로의 크기를 의미하는데, 한 프레임의 영상신호가 M×N크기를 갖으며 한 매크로 블록이 L×L의 크기를 갖는다면, 이 영상신호에 대한 매크로 블록의 개수는 (M/L)×(N/L)이 될 것이다. 예를 들어 352x288 의 입력 영상신호에 대하여 16×16 의 매크로 블록을 가정하면, 매크로 블록의 개수는 (352/16)×(288/16) 이므로 22×18, 즉 396개에 해당한다.

다음에, 시,공간 복잡도 계산 블록(210)에서는 상술한 바와같은 과정을 통해 한 프레임의 각 매크로 블록에 대한 움직임 보상 오차값이 구해지면, 다시 아래의 (4)식을 이용하여 한 프레임의 전체 영상에 대한 평균 오차 AE 값을 산출하는 데, 여기에서 산출되는 한 프레임의 평균 오차 AE 값은 전체 영상에 대하여 그 움직임 보상 오차값을 평균하여 얻은 값이다.

상기한 (4)식에서 P,Q는 각각 가로 및 세로 방향의 매크로 블록의 개수에 해당하는 값이다. 여기에서, 상기(4)식을 이용하여 계산된 평균 오차 AE값은 실질적으로 영상 데이터의 복잡성을 잘 반영하는 값이라 할 수 있다. 따라서, 본 발명에서는 이와같은 모든 매크로 블록의 움직임 보상 오차값을 평균하여 산출한 평균 오차 AE값을 부호화를 위해 입력되는 다음 영상신호의 복잡도로서 이용한다. 이때, 산출되는 평균 오차 AE 값은 영상의 정보량(비트발생량)에 관련된다고 볼수 있는데, 만일 현재 부호화된 영상이 복잡한 경우에는 산출되는 평균 오차 AE값이 상대적으로 커질 것이고, 그 반대의 경우에는 산출되는 평균 오차 AE 값이 작아지게 될 것이다.

또한 영상신호를 부호화 하는 과정에서 산출되는 각 프레임의 평균 오차 AE 값이 제로(0)인 경우, 수신측의 복호화 시스템에서는 이전에 부호화되어 전송된 영상만으로 현재의 영상신호를 재생 할수 있으므로, 부호화 시스템에서는 현재의 영상 데이터를 전송할 필요가 없는 것이다. 이러한 관점에 비춰볼 때, 부호화시에 산출되는 각 프레임의 평균 오차 AE 값은 곧 전송할 정보량에 관계되는 값으로 해석할 수 있을 것이다. 그리고, 본 발명에 따른 각 프레임의 평균 오차 AE값 산출에 있어서는, 부호화 시스템이 움직임 보상을 수행하는 과정에서 검출되는 움직임 벡터와 재구성된 이전 프레임 신호를 프레임 메모리에 저장하고 있으므로, 이와같은 각 부호화 시스템의 일부를 이용하면 추가의 계산을 할 필요없이 단지 위에서 기술한 각 매크로 블록의 보상 오차값 E(i,j)를 평균하여 원하는 평균 오차 AE값을 쉽게 구현할수 있을 것이다. 그런다음, 시,공간 복잡도 계산 블럭(210)에서는 상술한 바와같은 과정을 통해 산출된 공간 복잡도 ACT와 시간 복잡도를 위한 움직임 오차 평균값 AE 를 의거하여 최종적으로 산출되는 복잡도 C[C=(ACT+AE)/2]를 발생하여 다음단의 필터 제어 블록(220)으로 제공된다.

한편, 필터 제어 블록(220)은 상기한 시,공간 복잡도 계산 블록(210)으로부터 제공되는 최종복잡도 C 값에 의거하여 입력 영상의 주파수 제한을 위한 주파수 필터계수 결정신호 B를 라인 L23상에 발생하여 저역통과 필터링 블록(230)에 제공한다. 여기에서, 발생되어 저역 통과 필터링 블록(230)으로 제공되는 영역 구분을 위한 필터계수 결정신호 B는 입력 프레임 신호의 주파수 대역을 제한한다. 이때, 주파수 영역을 구분하는 데 필요한 필터계수 결정신호 B는 아래와 같은 방법으로 계산되며, 이 필터계수 결정신호 B를 이용하여 본 발명에 따라 제한 하고자 하는 입력 영상의 주파수 영역을 설정하는 과정에 대해서는 첨부된 제 2를 참조하여 후에 상세하게 기술될 것이다.

보다 상세하게, 필터 제어 블록(220)에서 시,공간 복잡도 계산 블록(210)으로부터 출력되는 최종 복잡도 C값을 이용하여 주파수 영역 구분을 위한 필터계수 결정신호 B를 출력하는 과정은 다음의 (5)식과 같다.

상기 (5) 식에서 MC와 SC를 구하는 과정은 다음과 같다. 즉, 영상신호의 프레임 전송율이 30 인 경우에는 1초 동안 계산되는 C값 30개를 평균한 MC 이고, 이 값의 표준편차가 SC 이다. 따라서, 이와같이 구한 MC, SC 값과 매 프레임에 발생되는 C 값을 비교함으로써 영역 구분값 B를 구할수 있다. 즉, 필터 제어 블록(220)에서는 이전의 30 프레임 동안 발생된 C 값의 평균과 표준편차를 이용하여 영역 구분값 B 를 결정하는 것이다. 그 결과, 이러한 과정을 통해 얻어지는 현재 발생된 C 값은 다시 30개 프레임의 평균값과 표준편차를 구하는 데 이용된다. 따라서, 필터 제어 블록(220)에서는 이전에 발생되 30개 프레임의 C값중에서 처음 구해진 C값(시간적으로 가장 오래된 C값)을 버리고 시,공간 복잡도 계산 블록(210)으로 부터 새로 입력된 C값을 이용하여 평균과 표준편차를 구하는 것이다. 물론, 현재 발생된 C값도 31번째 프레임이 지나면 평균과 표준편차를 구하는데 이용되지 않게 된다.

상기한 (5)식으로부터 명백한 바와같이, 영역 구분값 B는 1부터 4사이의 정수값을 갖는데, 이것은 전술한 감산기(110)로 부터 출력되는 에러신호(라인 L11상의 현재 프레임과 라인 L19상의 예측 프레임간의 차분신호)를 이산 코사인 변환한 DCT 변환계수들에 대한 양자화 전의 2차원 저역 통과 필터링시에 C값에 따라 그 대역폭을 적응적으로 조절하기 위해서이다.

한편, 저역 통과 필터링 블록(230)에서는 상기한 필터제어 블록(220)으로 부터의 필터계수 결정신호 B에 의거하여 입력 영상신호의 필터링을 수행하지 않거나 혹은 입력 영상신호에 2차원 저역 통과 필터링을 적용하여 그 통과 대역을 적응적으로 제한(즉, 고주파 성분의 선택적인 필터링)함으로써, 인간의 시각특성에 비교적 둔감한 고주파 성분을 제거한 영상신호를 라인 L11상에 발생한다.

보다 상세하게, 본 발명에 따른 입력 영상신호의 저역 통과 필터링 방법은, 입력되는 영상신호에 저역통과 필터를 곱함으로써 수행된다. 즉, N×M의 한 블록(예를들면, 8×8 블록)의 영상에 대한 각 픽셀의 값을 f(x,y)라 할 때, 일예로서 제2도에 도시된 바와같이 한 블록이 8 × 8 의 블록인 경우, 픽셀의 수평 및 수직 방향으로의 위치값 x및 y는 0에서 7사이의 정수값을 갖으며, 각 값들은 0에서 255 사이의 레벨값을 갖는다. 즉, 제2도로부터 알수 있는 바와 같이, 8 × 8 블록의 각 픽셀의 수평및 수직방향의 위치값은 f(0,0)에서 f(7,7)의 값을 갖는다.

한편, 본 발명에서의 저역 통과 필터로서는, 일예로서 제3도에 도시된 바와같이, 2차원 저역 통과 필터계수가 3개의 차수를 갖는 9차수를 갖는 것이라 가정하여 도시하였다. 이러한 2차원 저역 통과 필터의 필터계수 k는 필터계수 결정신호 B 에 따라 결정되는 값으로써 이러한 B값은 1 보다 큰 상수값을 갖는다. 만일 B값이 2인 경우에는 k(0,0)의 값은 1/2이고, 그 이외의 k 값은 1/16의 값을 갖는다. 이 상수값은 영상신호를 저역 통과 필터링하고자 하는 주파수 대역에 관계되는데 이 상수값이 커질수록 주파수 대역은 작아진다. 만일 상수값 B가 최소값인 1 인 경우, 본 발명의 저역 통과 필터링 블록(230)에서는 입력 프레임 신호에 대해 2차원 저역 통과 필터링을 수행하지 않고 그대로 통과시키게 된다.

따라서, 저역 통과 필터링 블록(230)에서 본 발명에 따라 영상신호를 2차원 저역 통과 필터링하는 과정은, 예를 들면 F(3,3)의 위치에서 필터링을 수행하는 과정을 보여주는 제4도에 도시된 바와같다. 제4도에 있어서, 필터계수와 겹치는 픽셀간의 곱을 모두 더하면 필터링한 결과를 얻게된다. (x,y)의 위치에서 2차원 저역 통과 필터링된 신호를 Z(x,y)라고하면, 이값은 아래의 (6)식에 의해 계산된다.

상기한 (6)식에서 T는 필터의 차수를 의미하므로, T= 3이다. 따라서 u값은 -1에서 1사이의 정수값을 갖는다. 또한 상기한 (6)식에서 k(u,v)값은 필터계수값이고, f(x,y)값은 픽셀값이다. 만일 상기한 (6)식에서f(x-u,y-u) 의(x-u),(y-u)값이 0보다 작아지면 0으로 하고, 혹은 전체 한 프레임의 영상 크기에 해당하는 M-1값보다 커지는 경우에는 M-1값으로 해준다. 이것은, 그 영역, 즉 수평 및 수직 방향으로 0에서 M-1사이에서만 픽셀값이 존재하므로 이 영역을 넘는 경우에는 끝값으로 설정해 주는 방법인 것으로, 이러한 필터링 방법은 이 기술분야에 이미 공지된 기술이다. 따라서 상기한 (6)식에서와 같이 모든 픽셀의 위치에서 필터링을 수행하면, 일예로서 제4도에 도시된 바와같이, 수평 및 수직 방향으로 2차원 필터링한 결과를 얻을 수 있다.

그 결과, 저역 통과 필터링 블록(230)에서는 라인 L23상의 필터계수 결정신호 B에 기초하여 영상의 복잡도가 큰 것으로 판단되는 경우, 입력 영상신호에 2차원 저역 통과 필터링을 적용하여 그 통과 대역을 제한함으로써, 인간의 시각특성에 비교적 둔감한 고주파 성분을 제거한 영상신호를 라인 L11상에 발생하여 제1도의 감산기(110) 및 현재 프레임 예측 블록(180)으로 각각 제공하게 된다.

따라서, 제1도의 영상 부호화 블록(120)에서는, 복잡한 영상의 경우, 상술한 바와같이 선택적인 2차원 저역통과 필터링을 통해 인간의 시각에 비교적 둔감한 영상의 고주파 성분을 제거한 상태에서 부호화(양자화)를 수행하게 되므로, 시각적으로 중요한 성분인 저주파 신호에 대해 양자화 오차가 적게 생기도록 하면서 부호화할 수 있는 것이다. 만일, 복잡한 영상임에도 불구하고 본 발명에서와 같이 주파수의 통과 대역폭을 적응적으로 제한(고주파 성분 제거)하지 않게 되면, 결과적으로 부호화후에 발생되는 비트량이 많아져 양자화 스텝 사이즈가 커지게 되므로 모든 주파수 대역 (고주파에서 저주파 대역)에 대하여 양자화 오차가 많이 발생되고, 그 결과 수신측의 재생 영상에서 양자화로 인한 화질열화가 야기될 것이다.

이상 설명한 바와 같이 본 발명에 따르면, 부호화시의 움직임 추정 및 보상을 위해 부호화후에 복원되어 재구성된 이전 프레임을 이용하여 매 프레임마다 계산되는 공간복잡도 정보와 움직임 보상 오차값에 근거하여 예측되는 이전 영상과 입력영상시간의 시간 복잡도값 정보를 이용하여 현재 부호화하고자 하는 입력영상의 최종 복잡도를 계산하고, 그 최종 복잡도 계산결과에 따라 현재 입력 영상이 복잡한 영상인 경우, 2차원 저역 통과 필터링을 통해 인간의 시각에 둔감한 영상의 고주파 성분을 일차적으로 제거한 다음 MC-DCT, 양자화 등의 부호화를 수행하도록 함으로써, 양자화 단계에서의 과도한 스텝 사이즈의 증가없이 부호화후 발생되는 비트량을 효과적으로 조절할 수 있다. 따라서, 본 발명에 의하면, 부호화된 영상을 복원하여 디스플레이할 때, 재생 영상에서 필연적으로 나타나는 양자화 오차로 인한 화질열화를 효과적으로 감소시킬수 있다.

Claims (5)

1. 입력되는 현재 프레임과, 이 현재 프레임및 재구성된 이전 프레임을 이용하는 매크로 블록단위의 움직임 추정, 보상을 통해 얻어지는 예측 프레임간의 에러신호에 대해 이산 코사인 변환, 양자화 및 엔트로피 부호화를 포함하는 부호화 수단을 통해 압축 부호화하여 부호화된 비트 스트림을 발생하며, 상기 양자화는 출력측 버퍼에 저장되는 상기 비트 스트림의 충만상태 정보에 의거하여 그 스텝 사이즈가 조절되는 비트 발생량 조절기능을 갖는 영상 부호화 시스템에 있어서, 상기 움직임 추정, 보상을 위해 복원된 상기 이전 프레임 각각에 대해 공간 복잡도값을 산출한 다음 각각 산출된 상기 각 이전 프레임의 공간 복잡도값들을 평균하여 기설정된 복수의 이전 프레임에 대한 평균 공간 복잡도값을 산출하고, 상기 에러신호에 대해 각 매크로 블록 단위로 각 픽셀값을 가산하여 움직임 보상 오차값을 산출한 다음 각각 산출된 각 매크로 블록의 움직임 보상 오차값들을 평균하여 기설정된 복수의 이전 프레임에 대한 움직임 평균 오차값을 산출하며, 상기 산출된 평균 공간 복잡도값과 움직임 평균 오차값에 의거하여 최종 복잡도값을 산출하는 시, 공간 복잡도 계산 수단; 상기 산출된 최종 복잡도값을 상기 부호화 수단을 통해 현재 부호화하고자 하는 프레임의 복잡도로서 참조하며, 부호화를 위해 입력되는 상기 현재 프레임의 주파수 통과 대역폭을 제한하기 위한 기설정된 복수의 필터계수 결정신호들중 상기 산출된 최종 복잡도값에 대응하는 필터계수 결정신호를 발생하는 제어수단 ; 및 상기 발생된 필터계수 결정신호에 의거하여, 상기 입력되는 현재 프레임을 상기 움직임 추정, 보상을 위한 현재 프레임 신호로써 상기 부호화 수단에 필터링없이 제공하거나 복수의 필터계수중 상기 발생된 필터계수 결정신호에 따라 결정된 필터계수에 의거하여 상기 입력 현재 프레임 신호에 2차원 저역 통과 필터링을 선택적으로 적용하여 그 통과 대역을 제한함으로써 고주파 성분을 제거한 프레임 신호를 상기 움직임 추정, 보상을 위한 현재 프레임 신호로써 상기 부호화 수단에 제공하는 2차원 저역 통과 필터링 수단을 더 포함하는 것을 특징으로 하는 비트 발생량 조절기능을 갖는 영상 부호화시스템.
2. 제1항에 있어서, 상기 기설정된 각 대역폭 결정신호는, 상기 산출된 각 프레임의 평균 공간 복잡도값, 상기 각 프레임의 평균 공간 복잡도값을 평균하여 얻은 초당 전송되는 복수의 프레임에 대한 제1의 평균 에러치, 이 제1의 평균 에러치의 제1의 표준편차, 상기 산출된 각 프레임의 움직임 평균 오차값, 상기 각 프레임의 움직임 평균 오차값을 평균하여 얻은 초당 전송되는 복수의 프레임에 대한 제2 의 평균 에러치및 이 제2의 평균 에러치의 제2의 표준편차를 이용하여 결정되는 것을 특징으로하는 비트 발생량 조절기능을 갖는 영상 부호화 시스템.
3. 제1항 또는 제2항에 있어서, 상기 기설정된 복수의 각 필터계수 결정신호는, 상기 현재 프레임 신호의 각 블록들의 선택적인 대역폭 제한을 위해 각각 다른 정수값을 갖는 4개의 필터계수 결정신호를 포함하는 것을 특징으로 하는 비트 발생량 조절기능을 갖는 영상 부호화 시스템.
4. 제3항에 있어서, 상기 각 필터계수는 3×3의 차수를 갖는것을 특징으로 하는 비트 발생량 조절기능을 갖는 영상부호화시스템.
5. 제1항에 있어서, 상기 현재 프레임에 대한 2차원 저역 통과 필터링은, 8×8 블록단위로 수행되는 것을 특징으로 하는 비트 발생량 조절기능을 갖는 영상 부호화 시스템.