KR100203699B1 - 비트 발생량 조절기능을 갖는 영상 부호화 시스템 - Google Patents
비트 발생량 조절기능을 갖는 영상 부호화 시스템 Download PDFInfo
- Publication number
- KR100203699B1 KR100203699B1 KR1019960013796A KR19960013796A KR100203699B1 KR 100203699 B1 KR100203699 B1 KR 100203699B1 KR 1019960013796 A KR1019960013796 A KR 1019960013796A KR 19960013796 A KR19960013796 A KR 19960013796A KR 100203699 B1 KR100203699 B1 KR 100203699B1
- Authority
- KR
- South Korea
- Prior art keywords
- signal
- current frame
- frame
- filter coefficient
- encoding
- Prior art date
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/136—Incoming video signal characteristics or properties
- H04N19/137—Motion inside a coding unit, e.g. average field, frame or block difference
- H04N19/139—Analysis of motion vectors, e.g. their magnitude, direction, variance or reliability
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/124—Quantisation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/13—Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
- H04N19/625—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using discrete cosine transform [DCT]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/80—Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Discrete Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Abstract
본 발명은, 물체의 움직임 추정 및 보상을 통해 매 프레임마다 발생되는 움직임 보상 오차값 정보에 근거하여 현재 부호화하고자 하는 영상의 복잡도를 산출하고, 그 산출결과에 따라 2차원 저역 통과 필터링을 이용하여 입력 영상신호의 고주파 성분을 선택적으로 제거함으로써, 부호화후의 비트 발생량을 적응적으로 조절할 수 있도록 한 비트 발생량 조절기능을 갖는 영상 부호화 시스템에 관한 것으로, 이를 위하여 본 발명은, 현재 프레임 및 재구성된 이전 프레임을 이용하는 움직임 추정, 보상을 통해 얻어지는 예측 프레임간의 에러신호에 대해 각 매크로 블록 단위로 각 픽셀값을 가산하여 움직임 보상 오차값을 산출하고, 산출된 각 매크로 블록의 움직임 보상 오차값들을 평균하여 기설정된 복수의 프레임에 대한 움직임 평균 오차값을 부호화 수단을 통해 현재 부호화하고자하는 프레임의 복잡도로서 참조하며, 부호화를 위해 입력되는 현재 프레임의 주파수 통과 대역폭을 제한하기 위한 기설정된 복수의 필터계수 결정신호들중 산출된 평균 오차값에 대응하는 필터계수 결정신호를 발생하는 제어수단; 및 발생된 필터계수 결정신호에 의거하여, 입력되는 현재 프레임을 움직임 추정, 보상을 위한 현재 프레임 신호로서 부호화 수단에 필터링없이 제공하거나 복수의 필터계수중 발생된 필터계수 결정신호에 따라 결정된 필터계수에 의거하여 입력 현재 프레임 신호에 2차원 저역 통과 필터링을 선택적으로 적용하여 그 통과 대역을 제한함으로써 고주파 성분을 제거한 프레임 신호를 움직임 추정, 보상을 위한 현재 프레임 신호로써 부호화 수단에 제공하는 2차원 저역 통과 필터링 수단을 포함함으로써, 부호화 수단에서의 양자화시 과도한 스텝 사이즈의 증가없이 부호화후 발생되는 비트량을 효과적으로 조절할 수 있는 것이다.
Description
제1도는 본 발명의 바람직한 실시예에 따른 비트 발생량 조절기능을 갖는 영상 부호화 시스템의 블록구성도.
제2도는 본 발명에 따라 일예로서 8 × 8 필셀블록에 대한 예시도.
제3도는 본 발명에 따른 일예로서 3 × 3 차수의 2차원 저역통과 필터계수를 도시한 예시도.
제4도는 본 발명에 따른 일예로서 (3,3) 위치에서의 2차원 필터링 과정을 도시한 예시도.
* 도면의 주요부분에 대한 부호의 설명
100,170 : 프레임 메모리 110 : 감산기
120 : 영상 부호화 블록 130 : 엔트로피 부호화 블록
140 : 전송버퍼 150 : 영상 복호화 블록
160 : 가산기 180 : 현재 프레임 예측 블록
210 : 움직임 오차 계산 블록 220 : 필터 제어 블록
230 : 저역 통과 필터링 블록
본 발명은 영상신호를 압축 부호화하는 영상 부호화 시스템에 관한 것으로, 더욱 상세하게는 움직임 보상 차분 펄스 부호 변조 (MC-DPCM) 기법을 이용하여 영상신호를 압축 부호화할 때, 발생하는 움직임 보상 오차값에 근거하여 예측되는 입력 영상 신호의 복잡도(Variance)를 참조하여 부호화후의 발생 비트량을 적응적으로 조절하는데 적합한 비트 발생량 조절기능을 갖는 영상 부호화 시스템에 관한 것이다.
이 기술분야에 잘 알려진 바와 같이 이산된 영상신호의 전송은 아날로그 신호보다 좋은 화질을 유지할 수 있다. 일련의 이미지 프레임으로 구성된 비디오 신호가 디지탈 형태로 표현될 때, 특히 고품질 텔레비젼(일명 HDTV라 함)의 경우 상당한 양의 데이타가 전송되어야 한다. 그러나 종래의 전송 채널의 사용가능한 주파수 영역은 제한되어 있으므로, 많은 양의 디지탈 데이타를 전송하기 위해서는 전송되는 데이타를 압축하여 그 양을 줄일 필요가 있다. 이와 같이 데이타를 압축하는 다양한 압축 기법 중에서, 확률적 부호화 기법과 시간적, 공간적 압축기법을 결합한 하이브리드 부호화 기법이 가장 효율적인 것으로 알려져 있으며, 이러한 기법들은, 예를 들면 세계 표준화 기구에 의해 그 표준안이 이미 제정된 MPEG-1 및 MPEG-2 등의 권고안에 광범위하게 개시되어 있다.
대부분의 하이브리드 부호화 기법은 움직임 보상 DPCM(차분 펄스 부호 변조), 2차원 DCT(이산 코사인 변환), DCT 계수의 양자화, VLC(가변장 부호화)등을 이용한다. 움직임 보상 DPCM은 현재 프레임과 이전 프레임간의 물체의 움직임을 결정하고, 물체의 움직임에 따라 현재 프레임을 예측하여 현재 프레임과 예측치간의 차이를 나타내는 차분신호를 만들어내는 방법이다. 이 방법은 예를 들어 Staffan Ericsson의 Fixed and Adaptive Predictors for Hybrid Predictive/Transform Coding, IEEE Transactions on Communication, COM-33, NO. 12(1985년, 12월), 또는 Ninomiy와 Ohtsuka의 A motion Compensated Interframe Coding Scheme for Telelvison Pictures, IEEE Transactions on Communication, COM-30, NO.1(1982년 , 1월)에 기재되어 있다.
일반적으로, 이차원 DCT는 영상 데이타간의 공간적 리던던시를 이용하거나 제거하는 것으로써, 디지탈 영상 데이타 블럭, 예를 들면 8 × 8 블럭을 DCT변환계수로 변환한다. 이 기법은 chen과 Pratt의 Scene Adaptive Coder, IEEE Transactions on Communication, COM-32, NO.3(1984년, 3월)에 개시되어 있다. 이러한 DCT변환계수는 양자화기, 지그재그 주사, VLC 등을 통해 처리됨으로써 전송할 데이타의 양을 효과적으로 감축(또는 압축)할 수 있다.
보다 상세하게, 움직임 보상 DPCM에서는 현재 프레임과 이전 프레임간에 추정된 물체의 움직임에 따라, 현재 프레임을 이전 프레임으로부터 예측한다. 이와 같이 추정된 움직임은 이전 프레임과 현재 프레임간의 변위를 나타내는 2차원 움직임 벡터로 나타낼 수 있다.
통상적으로, 물체의 변위를 추정하는 데에는 여러가지 접근방법이 있다. 이들은 일반적으로 두개의 타입으로 분류되는데, 그중 하나는 블럭 매칭 알고리즘을 이용하는 블럭단위 움직임 추정방법이고 다른 하나는 화소순환 알고리즘을 이용하는 화소단위 움직임 추정방법이다.
상기와 같이 물체의 변위를 추정하는 움직임 추정방법 중, 화소단위 움직임 추정방법을 이용하면 변위는 각각의 화소 전부에 대해 구해진다. 이러한 방법은 화소값을 더 정확히 추정할 수 있고 스케일 변화(예를 들어, 영상면에 수직한 움직임인 주밍(zooming))도 쉽게 다룰 수 있다는 장점을 갖는 반면에, 움직임 벡터가 모든 화소 각각에 대해 결정되기 때문에, 다량의 움직임 벡터들이 발생하는데 실질적으로 모든 움직임 벡터를 수신기로 전송한다는 것은 불가능하다.
또한, 블럭단위 움직임 추정에서는, 현재 프레임의 소정 크기의 블럭을 이전 프레임의 소정 범위의 탐색영역내에서 한 화소씩 이동하면서 대응 블럭들과 비교하여 그 오차값이 최소한 최적 정합 블럭을 결정하며, 이것으로부터, 전송되는 현재 프레임에 대해 블럭 전체에 대한 프레임간 변위 벡터(프레임간에 블럭이 이동한 정도)가 추정된다. 여기에서, 현재 프레임과 이전 프레임간의 대응하는 두 블럭간의 유사성 판단은, 이 기술 분야에 잘 알려진 바와 같은, 평균 절대차와 평균 제곱차 등이 주로 사용된다.
한편, 상술한 바와 같은 부호화 기법, 즉 움직임 보상 DPCM, 2차원 DCT, DCT계수의 양자화 및 VLC(또는 엔트로피 부호화) 등의 부호화 기법을 통해 부호화된 영상 비트 스트림은 영상 부호화 시스템의 출력측에 구비되는 전송 버퍼에 저장된 다음 전송시점이 되면 원격지 수신측으로의 송신을 위해 전송기로 보내진다. 이때, 여기에서의 전송시점은 전송 버퍼의 크기(즉, 용량)와 전송율에 관계되며, 전송 버퍼에서의 오동작(데이터 오버플로우(overflow) 또는 데이터 언더플로우(underflow))이 발생하지 않도록 제어된다.
보다 상세하게, 여러가지 요인(예를 들면, 영상의 복잡도)으로 인해 부호화시에 각 프레임마다 발생되는 비트량이 달라지게 되는데, 이러한 점을 고려하여 영상 부호화 시스템에서는, 평균 전송율이 일정하게 유지될 수 있도록 출력측 전송 버퍼의 제어를 수행한다. 즉, 영상 부호화 시스템에서는 출력측 전송 버퍼의 데이터 충만상태 정보에 근거하여 현재 부호화하고 있는 프레임 이전까지의 비트 발생량을 조사하고 있다고 현재 프레임에서 할당해야 하는 비트량을 조절한다. 다시말해, 종래의 전형적인 영상 부호화 시스템에서는 출력측 전송 버퍼의 데이터 충만상태 정보에 의거하여 실질적으로 양자화 스텝 사이즈(QP)를 제어함으로써 부호화 시스템에서의 발생 비트량을 조절, 즉 이전까지 비트 발생량이 많으면 양자화 스텝 사이즈를 크게 조절하여 비트 발생량을 줄이고, 이와 반대의 경우에는 양자화 스텝 사이즈를 작게 조절하여 비트 발생량을 늘리는 등의 방법을 통해 비트 발생량을 조절하고 있다.
그러나, 상술한 바와 같이 출력측 전송 버퍼의 데이터 충만상태 정보에 의거하여 양자화 스텝 사이즈를 조절함으로써 비트 발생량을 조절하는 종래 방법은, 각 프레임에 해당하는 영상 데이터를 동일한 전송율로 부호화하여 전송하고자 하는 경우에 있어서, 부호화하고자 하는 영상이 복잡한 경우(고주파 성분이 다량 발생)에는 비트 발생량이 많아지게 되는데 이로 인해 양자화 스텝 사이즈가 커져 결과적으로 재생 영상에서의 심각한 화질열화가 야기된다는 문제를 갖는다. 여기에서 발생하는 고주파 성분은 실질적으로 인간의 시각특성에 매우 둔감한 성분(재생 영상의 화질에 거의 영향을 미치지 않는 성분)이다.
따라서, 본 발명은 상술한 종래 기술의 문제점을 해결하기 위한 것으로, 물체의 움직임 추정 및 보상을 통해 매 프레임마다 발생되는 움직임 보상 오차값 정보에 근거하여 현재 부호화하고자 하는 영상의 복잡도를 산출하고, 그 산출결과에 따라 2차원 저역 통과 필터를 이용하여 입력 영상신호의 고주파 성분을 선택적으로 제거함으로써, 부호화후의 비트 발생량을 적응적으로 조절할 수 있는 비트 발생량 조절기능을 갖는 영상 부호화 시스템을 제공하는데 그 목적이 있다.
상기 목적을 달성하기 위하여 본 발명은, 입력되는 현재 프레임과, 이 현재 프레임 및 재구성된 이전 프레임을 이용하는 매크로 블록단위의 움직임 추정, 보상을 통해 얻어지는 예측 프레임간의 에러신호에 대해 이산 코사인 변환, 양자화 및 엔트로피 부호화를 포함하는 부호화 수단을 통해 압축 부호화하여 부호화된 비트 스트림을 발생하며, 상기 양자화는 출력측 버퍼에 저장되는 상기 비트 스트림의 충만상태 정보에 의거하여 그 스텝 사이즈가 조절되는 비트 발생량 조절기능을 갖는 영상 부호화 시스템에 있어서, 상기 에러신호에 대해 각 매크로 블록 단위로 각 픽셀값을 가산하여 움직임 보상 오차값을 산출하고, 산출된 각 매크로 블록의 움직임 보상 오차값들을 평균하여 기설정된 복수의 프레임에 대한 움직임 평균 오차값을 산출하는 움직임 오차 계산 수단; 상기 산출된 복수의 프레임의 평균 오차값을 상기 부호화 수단을 통해 현재 부호화하고자 하는 프레임의 복잡도로서 참조하며, 부호화를 위해 입력되는 상기 현재 프레임의 주파수 통과 대역폭을 제한하기 위한 기설정된 복수의 필터계수 결정신호들 중 상기 산출된 평균 오차값에 대응하는 필터계수 결정신호를 발생하는 제어수단; 및 상기 발생된 필터계수 결정신호에 의거하여, 상기 입력되는 현재 프레임을 상기 움직임 추정, 보상을 위한 현재 프레임 신호로써 상기 부호화 수단에 필터링없이 제공하거나 복수의 필터계수 중 상기 발생된 필터계수 결정신호에 따라 결정된 필터계수에 의거하여 상기 입력 현재 프레임 신호에 2차원 저역 통과 필터링을 선택적으로 적용하여 그 통과 대역을 제한함으로써 고주파 성분을 제거한 프레임 신호를 상기 움직임 추정, 보상을 위한 현재 프레임 신호로써 상기 부호화 수단에 제공하는 2차원 저역 통과 필터링 수단을 더 포함하는 것을 특징으로 하는 비트 발생량 조절기능을 갖는 영상 부호화 시스템을 제공한다.
본 발명의 상기 및 기타 목적과 여러가지 장점은 이 기술분야에 숙련된 사람들에 의해 첨부된 도면을 참조하여 하기에 기술되는 본 발명의 바람직한 실시예로부터 더욱 명확하게 될 것이다.
이하 첨부된 도면을 참조하여 본 발명의 바람직한 실시예에 대하여 상세하게 설명한다.
제1도는 본 발명의 바람직한 실시예에 따른 비트 발생량 조절기능을 갖는 영상 부호화 시스템에 대한 블럭구성도를 나타낸다. 동도면에 도시된 바와 같이, 본 발명의 영상 부호화 시스템은 제1프레임 메모리(100), 감산기(110), 영상 부호화 블럭(120), 엔트로피 부호화 블럭(130), 전송 버퍼(140), 영상 복호화 블럭(150), 가산기(160), 제2프레임 메모리(170), 현재 프레임 예측 블록(180), 움직임 오차 계산 블럭(210), 필터 제어 블록(220) 및 저역 통과 필터링 블록(230)을 포함한다.
제1도를 참조하면, 입력되는 현재 프레임 신호는 제1프레임 메모리(100)에 저장된 다음 주파수 선택 블록(230)으로 입력되며, 저역 통과 필터링 블록(230)에서는 후술되는 필터 제어 블록(220)으로부터 제공되는 움직임 보상 오차값에 따른 영상의 복잡도에 의거해 산출되는 제어신호(주파수 영역 구분을 위한 대역폭 결정신호)에 따라 입력 프레임 신호의 주파수를 적응적으로 제한, 즉 2차원 저역 통과 필터링을 이용하여 입력 프레임 신호의 고주파 성분(비교적 인간의 시각에 둔감한 부분임)을 선택적으로 필터링하는데, 이러한 저역 통과 필터링 블록(230)에 대한 구체적인 동작과정에 대해서는 첨부된 제2도 내지 제4도를 참조하여 후에 상세하게 기술될 것이다. 그런 다음, 이와 같이 고주파 성분이 적응적으로 제거되는 현재 프레임 신호는 라인 L11을 통해 감산기(110)와 현재 프레임 예측 블럭(180)에 각각 제공된다.
먼저, 감산기(110)에서는 라인 L11을 통해 저역 통과 필터링 블록(230)에서 제공되는 현재 프레임 신호로부터 라인 L19를 통해 후술되는 현재 프레임 예측 블럭(180)으로부터 제공되는 이동 물체에 대하여 움직임 보상된 예측된 현재 프레임 신호를 감산하며, 그 결과 데이타, 즉 차분화소값을 나타내는 에러신호를 라인 L12상에 발생한다. 그런 다음, 라인 L12상의 에러신호는 영상 부호화 블럭(120)을 통해 이산 코사인 변환(DCT)과 이 기술분야에서 잘 알려진 양자화 방법들 중의 어느 하나를 이용함으로서, 일련의 양자화된 DCT 변환계수들로 부호화된다. 이때, 영상 부호화 블럭(120)에서의 에러신호에 대한 양자화는 라인 L21을 통해 후술되는 출력측 전송 버퍼(140)로 부터 제공되는 데이타 충만상태 정보에 따라 결정되는 양자화 파라메터(QP)에 의거하여 그 스텝 사이즈가 조절된다.
또한, 본 발명에 따라, 라인 L12상의 에러신호는 후술되는 움직임 오차 계산 블록(210)으로 제공되며, 움직임 오차 계산 블록(210)은 라인 L12상의 에러신호를 가산함으로써, 각 프레임의 움직임 보상 오차값을 산출하는데, 이와 같이 산출된 움직임 보상 오차값을 이용하여 부호화하고자 하는 프레임의 복잡도를 계산하며, 본 발명에서는 이와 같이 계산된 복잡도에 근거하여 2차원 저역 통과 필터링을 이용하여 영상 부호화 블록(120)에서의 양자화 단계에서 인간의 시각특성에 비교적 둔감한 고주파 성분을 적응적(또는 선택적)으로 제한한다.
다음에, 라인 L13상의 양자화된 DCT 변환계수들은 엔트로피 부호화 블럭(130)과 영상 복호화 블럭(150)으로 각각 보낸진다. 여기에서, 엔트로피 부호화 블럭(130)에 제공된 양자화된 DCT 변환계수들은, 예를 들면 가변길이 부호화 기법 등을 통해 부호화되어 츨력측의 전송 버퍼(140)에 제공되며, 이와 같이 부호화된 영상신호는 수신측으로의 전송을 위해 도시 생략된 전송기로 전달된다.
한편, 영상 부호화 블럭(120)으로부터 영상 복호화 블럭(150)에 제공되는 라인 L13상의 양자화된 DCT 변환계수들은 역양자화 및 역이산 코사인 변환을 통해 다시 복원된 프레임 신호로 변환된 다음, 가산기(160)에 제공되며, 가산기(160)에서는 영상 복호화 블럭(150)으로부터의 복원된 프레임 신호와 라인 L19를 통해 후술되는 현재 프레임 예측 블럭(180)으로부터 제공되는 예측된 현재 프레임 신호를 가산하여 재구성된 이전 프레임 신호를 생성하며, 이와 같이 재구성된 이전 프레임 신호는 제2프레임 메모리(170)에 저장된다. 따라서, 이러한 경로를 통해 부호화 처리되는 매 프레임에 대한 바로 이전 프레임 신호가 계속적으로 갱신되며, 이와 같이 갱신되는 재구성된 이전 프레임 신호는 움직임 추정, 보상을 위해 후술되는 현재 프레임 예측 블럭(180)으로 제공된다.
다른 한편, 현재 프레임 예측 블럭(180)에서는, 본 발명에 따른 저역 통과 필터링 블록(230)으로부터 제공되는 라인 L11상의 고주파 성분이 선택적으로 제거되거나 또는 고주파 성분이 제거되지 않은 현재 프레임 신호와 상기한 제2프레임 메모리(170)로부터 제공되는 라인 L15상의 재구성된 이전 프레임 신호에 기초하여 블럭 매칭 알고리즘을 이용해 재구성된 이전 프레임의 기설정 탐색범위(예를 들면, 16 × 16 또는 32 × 32 탐색범위)에서 소정의 블럭(예를 들면, 8 × 8 또는 16 × 16 DCT 블록)단위로 현재 프레임을 예측한 다음 라인 L19상에 예측된 현재 프레임 신호를 발생하여 상술한 감산기(110)와 가산기(160)에 각각 제공한다. 이때, 라인 L19상의 스위치(SW)는 도시 생략된 시스템 제어기로부터의 제어신호(CS)에 따라 그 접점이 온/오프되는 것으로, 스위치(SW)가 온일 때는 현재의 부호화 모드가 인터모드임을 의미하고 반대로 오프일 때는 현재의 부호화 모드가 인트라 모드임을 의미한다. 따라서, 감산기(110)에서는 인터모드 부호화시에 현재 프레임 신호와 예측 프레임 신호간의 에러신호를 영상 부호화 블록(120)에 제공하고, 인트라 모드 부호화시에 현재 프레임 신호 자체를 영상 부호화 블록(120)에 제공한다.
또한, 현재 프레임 예측 블럭(180)은 선택되는 각 블록(8 × 8 또는 16 × 16 블록)들에 대한 움직임 벡터들의 세트를 라인 L17상에 발생하여 전술한 엔트로피 부호화 블럭(130)에 제공한다. 여기에서, 검출되는 움직임 벡터들의 세트들은 현재 프레임의 블록(8 × 8 또는 16 × 16블록)과 이전 프레임내의 기설정 탐색영역(예를 들면, 16 × 16 또는 32 × 32 탐색범위)에서 예측된 가장 유사한 블럭간의 변위이다. 따라서, 전술한 엔트로피 부호화 블록(130)에서는 라인 L17상의 움직임 벡터들의 세트들과 더불어 라인 L13상의 양자화된 DCT 변환계수들은, 예를 들면 가변길이 부호화 기법 등을 통해 부호화하여 부호화된 비트 스트림을 발생한다.
한편, 본 발명의 움직임 오차 계산 블록(210)에서는 움직임 보상 과정에서 발생되는 오차를 계산하는데, 이러한 움직임 보상 오차값은 소정 블록단위(모든 MPEG 스펙에서는 움직임 추정이 16 × 16 단위(즉, 매크로 블록)의 블록으로 수행되며, 이 경우 이전 프레임내의 탐색블록의 크기는 32 × 32 단위임)의 움직임 추정에 의해 검출된 움직임 벡터를 이용하여 재구성된 이전 프레임으로부터 움직임 보상을 수행하여 얻은 라인 L19상의 예측된 현재 프레임 신호와 라인 L11상의 현재 프레임 신호와의 에러신호를 가산함으로써 산출할 수 있다.
예를 들어, 재구성된 이전 프레임의 영상을 Ip라 하고 현재 입력되는 프레임의 영상을 Ic라 할 때, (x,y)의 위치에서 각 픽셀의 값은 Ip(x,y), Ic(x,y)가 될 것이다. 이때의 움직임 추정은, 전술한 바와 같이 M × N 블록(예를 들면, 16 × 16의 매크로 블록)단위로 수행되므로 i,j 번째의 매크로 블록에 대한 움직임 벡터를 MVX(i,j), MVY(i,j)라 하면, i,j번째 매크로 블록에 대한 움직임 보상 오차값 E(i,j)는 다음의 (1)식에 의해 계산된다. 이때, 움직임 벡터는 전술한 현재 프레임 예측 블록(180)에서의 움직임 추정과정에서 이미 검출된 값이다.
상기한 (1)식에서 L은 매크로 블록의 가로 및 세로의 크기를 의미하는데, 한 프레임의 영상신호가 M × N크기를 갖으며 한 매크로 블록이 L × L의 크기를 갖는다면, 이 영상신호에 대한 매크로 블록의 개수는 (M/L)×(N/L)이 될 것이다. 예를 들어 352 × 288의 입력 영상신호에 대하여 16 × 16 의 매크로 블록을 가정하면, 매크로 블록의 개수는 (352/16)×(288/16) 이므로 22 × 18, 즉 396개에 해당한다.
다음에, 움직임 오차 계산 블록(210)에서는 상술한 바와 같은 과정을 통해 한 프레임의 각 매크로 블록에 대한 움직임 보상 오차값이 구해지면, 다시 아래의 (2)식을 이용하여 한 프레임의 전체 영상에 대한 평균 오차 AE 값을 산출하는데, 여기에서 산출되는 한 프레임의 평균 오차 AE 값은 전체 영상에 대하여 그 움직임 보상 오차값을 평균하여 얻은 값이다.
상기한 (2)식에서 P,Q는 각각 가로 및 세로 방향의 매크로 블록의 개수에 해당하는 값이다. 여기에서, 상기 (2)식을 이용하여 계산된 평균 오차 AE값은 실질적으로 영상 데이터의 복잡성을 잘 반영하는 값이라 할 수 있다. 따라서, 본 발명에서는 이와 같은 모든 매크로 블록의 움직임 보상 오차값을 평균하여 산출한 평균 오차 AE값을 부호화를 위해 입력되는 다음 영상신호의 복잡도로서 이용한다. 이때, 산출되는 평균 오차 AE 값은 영상의 정보량(비트 발생량)에 관련된다고 볼 수 있는데, 만일 현재 부호화된 영상이 복잡한 경우에는 산출되는 평균 오차 AE값이 상대적으로 커질 것이고, 그 반대의 경우에는 산출되는 평균 오차 AE 값이 작아지게 될 것이다.
또한, 영상신호를 부호화하는 과정에서 산출되는 각 프레임의 평균 오차 AE 값이 제로(0)인 경우, 수신측의 복호화 시스템에서는 이전에 부호화되어 전송된 영상만으로 현재의 영상신호를 재생할 수 있으므로, 부호화 시스템에서는 현재의 영상 데이터를 전송할 필요가 없는 것이다. 이러한 관점에 비춰볼 때, 부호화시에 산출되는 각 프레임의 평균 오차 AE 값은 곧 전송할 정보량에 관계되는 값으로 해석할 수 있을 것이다. 그리고, 본 발명에 따른 각 프레임의 평균 오차 AE 값 산출에 있어서는, 부호화 시스템이 움직임 보상을 수행하는 과정에서 검출되는 움직임 벡터와 재구성된 이전 프레임 신호를 프레임 메모리에 저장하고 있으므로, 이와 같은 각 부호화 시스템의 일부를 이용하면 추가의 계산을 할 필요없이 단지 위에서 기술한 각 매크로 블록의 보상 오차값 E(i,j)를 평균하여 원하는 평균 오차 AE 값을 쉽게 구현할 수 있을 것이다. 그런 다음, 상기와 같이 움직임 오차 계산 블럭(210)에서 산출된 평균 오차 AE 값은 다음단의 필터 제어 블록(220)으로 제공된다.
한편, 필터 제어 블록(220)은 상기한 움직임 오차 계산 블록(210)으로부터 제공되는 평균 오차 AE 값에 의거하여 입력 영상의 주파수 제한을 위한 필터계수 결정신호 C를 라인 L23상에 발생하여 저역 통과 필터링 블록(230)에 제공한다. 여기에서, 발생되어 저역 통과 필터링 블록(230)으로 제공되는 영역 구분을 위한 필터계수 결정신호 C는 입력 프레임 신호의 주파수 대역을 제한한다. 이때, 주파수 영역을 구분하는데 필요한 필터계수 결정신호 C는 아래와 같은 방법으로 계산되며, 이 필터계수 결정신호 C를 이용하여 본 발명에 따라 제한하고자 하는 입력 영상의 주파수 영역을 설정하는 과정에 대해서는 첨부된 제2도 내지 제4도를 참조하여 하기에 상세하게 기술될 것이다.
보다 상세하게, 필터 제어 블록(220)에서 움직임 오차 계산 블록(210)으로부터 출력되는 평균 오차 AE 값을 이용하여 주파수 영역 구분을 위한 필터계수 결정신호 C를 출력하는 과정은 다음의 (3)식과 같다.
상기 (3)식에서 MAE와 SAE를 구하는 과정은 다음과 같다. 즉, 영상신호의 프레임 전송율이 30인 경우에는 1초 동안 계산되는 AE 값 30개를 평균한 MAE이고, 이 값의 표준편차가 SAE이다. 따라서, 이와 같이 구한 MAE, SAE 값과 매 프레임에 발생되는 AE 값을 비교함으로써 영역 구분값 C를 구할 수 있다. 즉, 필터 제어 블록(220)에서는 이전의 30 프레임 동안 발생된 AE 값의 평균과 표준편차를 이용하여 영역 구분값 C를 결정하는 것이다. 그 결과, 이러한 과정을 통해 얻어지는 현재 발생된 AE 값은 다시 30개 프레임의 평균값과 표준편차를 구하는데 이용된다. 따라서, 필터 제어 블록(220)에서는 이전에 발생된 30개 프레임의 AE 값 중에서 처음 구해진 AE 값(시간적으로 가장 오래된 AE 값)을 버리고 움직임 오차 계산 블럭(210)으로부터 새로 입력된 AE 값을 이용하여 평균과 표준편차를 구하는 것이다. 물론, 현재 발생된 AE 값도 31번째 프레임이 지나면 평균과 표준편차를 구하는데 이용되지 않게 된다.
상기한 (3)식으로부터 명백한 바와 같이, 영역 구분값 C는 1 부터 4 사이의 정수값을 갖는데, 이것은 전술한 감산기(110)로부터 출력되는 에러신호(라인 L11상의 현재 프레임과 라인 L19상의 예측 프레임간의 차분신호)를 이산 코사인 변환한 DCT 변환계수들에 대한 양자화 전의 2차원 저역 통과 필터링시에 AE 값에 따라 그 대역폭을 적응적으로 조절하기 위해서이다.
한편, 저역 통과 필터링 블록(230)에서는 상기한 필터 제어 블록(220)으로부터의 필터계수 결정신호 C에 의거하여 입력 영상신호의 필터링을 수행하지 않거나 혹은 입력 영상신호에 2차원 저역 통과 필터링을 적용하여 그 통과 대역을 적응적으로 제한(즉, 고주파 성분의 선택적인 필터링)함으로써, 인간의 시각특성에 비교적 둔감한 고주파 성분을 제거한 영상신호를 라인 L11상에 발생한다.
보다 상세하게, 본 발명에 따른 입력 영상신호의 저역 통과 필터링 방법은, 입력되는 영상신호에 저역 통과 필터를 곱함으로써 수행된다. 즉, N × M의 한 블록(예를 들면, 8 × 8 블록)의 영상에 대한 각 픽셀의 값을 f(x,y)라 할 때, 일예로서 제2도에 도시된 바와 같이 한 블록이 8 × 8 의 블록인 경우, 픽셀의 수평 및 수직 방향으로의 위치값 x 및 y는 0에서 7 사이의 정수값을 갖으며, 각 값들은 0에서 255 사이의 레벨값을 갖는다. 즉, 제2도로부터 알 수 있는 바와 같이, 8 × 8 블록의 각 픽셀의 수평 및 수직 방향의 위치값은 f(0,0)에서 f(7,7)의 값을 갖는다.
한편, 본 발명에서의 저역 통과 필터로서는, 일예로서 제3도에 도시된 바와 같이, 2차원 저역 통과 필터계수가 3개의 차수를 갖는 9차수를 갖는 것이라 가정하여 도시하였다. 이러한 2차원 저역 통과 필터의 필터계수 k는 필터계수 결정신호 C값에 따라 결정되는 값으로써 이러한 C값은 1보다 큰 상수값을 갖는다. 만일 C값이 2인 경우에는 k(0,0)의 값은 1/2이고, 그 이외의 k 값은 1/16의 값을 갖는다. 이 상수값은 영상신호를 저역 통과 필터링하고자 하는 주파수 대역에 관계되는데 이 상수값이 커질수록 주파수 대역은 작아진다. 만일 상수값 C가 최소값인 1 인 경우, 본 발명의 저역 통과 필터링 블록(230)에서는 입력 프레임 신호에 대해 2차원 저역 통과 필터링을 수행하지 않고 그대로 통과시키게 된다.
따라서, 저역 통과 필터링 블록(230)에서 본 발명에 따라 영상신호를 2차원 저역 통과 필터링하는 과정은, 예를 들면 F(3,3)의 위치에서 필터링을 수행하는 과정을 보여주는 제4도에 도시된 바와 같다. 제4도에 있어서, 필터계수와 겹치는 픽셀간의 곱을 모두 더하면 필터링한 결과를 얻게 된다. (x,y)의 위치에서 2차원 저역 통과 필터링된 신호를 Z(x,y)라고 하면, 이 값은 아래의 (4)식에 의해 계산된다.
상기한 (4)식에서 T는 필터의 차수를 의미하므로, T= 3이다. 따라서 u값은 -1에서 1 사이의 정수값을 갖는다. 또한 상기한 (4)식에서 k(u,v)값은 필터계수값이고, f(x,y)값은 픽셀값이다. 만일 상기한 (4)식에서 f(x-u,y-u)의 (x-u),(y-u)값이 0 보다 작아지면 0으로 하고, 혹은 전체 한 프레임의 영상 크기에 해당하는 M-1값보다 커지는 경우에는 M-1값으로 해 준다. 이것은, 그 영역, 즉 수평 및 수직 방향으로 0에서 M-1 사이에서만 픽셀값이 존재하므로 이 영역을 넘는 경우에는 끝값으로 설정해 주는 방법인 것으로, 이러한 필터링 방법은 이 기술분야에 이미 공지된 기술이다. 따라서 상기한 (4)식에서와 같이 모든 픽셀의 위치에서 필터링을 수행하면, 일예로서 제4도에 도시된 바와 같이, 수평 및 수직 방향으로 2차원 필터링한 결과를 얻을 수 있다.
그 결과, 저역 통과 필터링 블록(230)에서는 라인 L23상의 필터계수 결정신호 C에 기초하여 영상의 복잡도가 큰 것으로 판단되는 경우, 입력 영상신호에 2차원 저역 통과 필터링을 적용하여 그 통과 대역을 제한함으로써, 인간의 시각특성에 비교적 둔감한 고주파 성분을 제거한 영상신호를 라인 L11상에 발생하여 제1도의 감산기(110) 및 현재 프레임 예측 블록(180)으로 각각 제공하게 된다.
따라서, 제1도의 영상 부호화 블록(120)에서는, 복잡한 영상의 경우, 상술한 바와 같이 선택적인 2차원 저역 통과 필터링을 통해 인간의 시각에 비교적 둔감한 영상의 고주파 성분을 제거한 상태에서 부호화(양자화)를 수행하게 되므로, 시각적으로 중요한 성분인 저주파 신호에 대해 양자화 오차가 적게 생기도록 하면서 부호화할 수 있는 것이다. 만일, 복잡한 영상임에도 불구하고 본 발명에서와 같이 주파수의 통과 대역폭을 적응적으로 제한(고주파 성분 제거)하지 않게 되면, 결과적으로 부호화후에 발생되는 비트량이 많아져 양자화 스텝 사이즈가 커지게 되므로 모든 주파수 대역(고주파에서 저주파 대역)에 대하여 양자화 오차가 많이 발생되고, 그 결과 수신측의 재생 영상에서 양자화로 인한 화질열화가 야기될 것이다.
이상 설명한 바와 같이 본 발명에 따르면, 물체의 움직임 추정 및 보상을 통해 매 프레임마다 발생되는 움직임 보상 오차값 정보를 이용하여 현재 부호화하고자 하는 영상의 복잡도를 계산하고, 그 계산결과에 따라 현재 입력 영상이 복잡한 영상인 경우, 2차원 저역 통과 필터링을 통해 인간의 시각에 둔감한 영상의 고주파 성분을 일차적으로 제거한 다음 MC-DCT, 양자화 등의 부호화를 수행하도록 함으로써, 양자화 단계에서의 과도한 스텝 사이즈의 증가없이 부호화후 발생되는 비트량을 효과적으로 조절할 수 있다. 따라서, 본 발명에 의하면, 부호화된 영상을 복원하여 디스플레이할 때, 재생 영상에서 필연적으로 나타나는 양자화 오차로 인한 화질열화를 효과적으로 감소시킬 수 있다.
Claims (5)
- 입력되는 현재 프레임과, 이 현재 프레임 및 재구성된 이전 프레임을 이용하는 매크로 블록단위의 움직임 추정, 보상을 통해 얻어지는 예측 프레임간의 에러신호에 대해 이산 코사인 변환, 양자화 및 엔트로피 부호화를 포함하는 부호화 수단을 통해 압축 부호화하여 부호화된 비트 스트림을 발생하며, 상기 양자화는 출력측 버퍼에 저장되는 상기 스트림의 충만상태 정보에 의거하여 그 스텝 사이즈가 조절되는 비트 발생량 조절기능을 갖는 영상 부호화 시스템에 있어서, 상기 에러신호에 대해 각 매크로 블록 단위로 각 픽셀값을 가산하여 움직임 보상 오차값을 산출하고, 산출된 각 매크로 블록의 움직임 보상 오차값들을 평균하여 기설정된 복수의 프레임에 대한 움직임 평균 오차값을 산출하는 움직임 오차 계산 수단; 상기 산출된 복수의 프레임의 평균 오차값을 상기 부호화 수단을 통해 현재 부호화하고자 하는 프레임의 복잡도로서 참조하며, 부호화를 위해 입력되는 상기 현재 프레임의 주파수 통과 대역폭을 제한하기 위한 기설정된 복수의 필터계수 결정신호들 중 상기 산출된 평균 오차값에 대응하는 필터계수 결정신호를 발생하는 제어수단; 및 상기 발생된 필터계수 결정신호에 의거하여, 상기 입력되는 현재 프레임을 상기 움직임 추정, 보상을 위한 현재 프레임 신호로써 상기 부호화 수단에 필터링없이 제공하거나 복수의 필터계수 중 상기 발생된 필터계수 결정신호에 따라 결정된 필터계수에 의거하여 상기 입력 현재 프레임 신호에 2차원 저역 통과 필터링을 선택적으로 적용하여 그 통과 대역을 제한함으로써 고주파 성분을 제거한 프레임 신호를 상기 움직임 추정, 보상을 위한 현재 프레임 신호로써 상기 부호화 수단에 제공하는 2차원 저역 통과 필터링 수단을 더 포함하는 것을 특징으로 하는 비트 발생량 조절기능을 갖는 영상 부호화시스템.
- 제1항에 있어서, 상기 기설정된 각 필터계수 결정신호는, 상기 산출된 각 프레임의 평균 오차값, 상기 각 프레임의 평균 오차값을 평균하여 얻은 초당 전송되는 복수의 프레임에 대한 평균 에러치 및 이 평균 에러치의 표준편차를 이용하여 결정되는 것을 특징으로 하는 비트 발생량 조절기능을 갖는 영상 부호화 시스템.
- 제1항 또는 제2항에 있어서, 상기 기설정된 복수의 각 필터계수 결정신호는, 상기 현재 프레임 신호의 각 블록들의 선택적인 대역폭 제한을 위해 각각 다른 정수값을 갖는 4개의 필터계수 결정신호를 포함하는 것을 특징으로 하는 비트 발생량 조절기능을 갖는 영상 부호화 시스템.
- 제3항에 있어서, 상기 각 필터계수는 3 × 3의 차수를 갖는 것을 특징으로 하는 비트 발생량 조절기능을 갖는 영상 부호화 시스템
- 제1항에 있어서, 상기 현재 프레임에 대한 2차원 저역 통과 필터링은, 8 × 8 블록단위로 수행되는 것을 특징으로 하는 비트 발생량 조절기능을 갖는 영상 부호화 시스템.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1019960013796A KR100203699B1 (ko) | 1996-04-30 | 1996-04-30 | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1019960013796A KR100203699B1 (ko) | 1996-04-30 | 1996-04-30 | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR970073143A KR970073143A (ko) | 1997-11-07 |
KR100203699B1 true KR100203699B1 (ko) | 1999-06-15 |
Family
ID=19457298
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1019960013796A KR100203699B1 (ko) | 1996-04-30 | 1996-04-30 | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR100203699B1 (ko) |
-
1996
- 1996-04-30 KR KR1019960013796A patent/KR100203699B1/ko not_active IP Right Cessation
Also Published As
Publication number | Publication date |
---|---|
KR970073143A (ko) | 1997-11-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR100203710B1 (ko) | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 | |
KR100425640B1 (ko) | 비디오신호처리를위한노이즈추정및감소장치 | |
US5757969A (en) | Method for removing a blocking effect for use in a video signal decoding apparatus | |
US5694492A (en) | Post-processing method and apparatus for removing a blocking effect in a decoded image signal | |
US5614954A (en) | Motion compensation apparatus for use in an image encoding system | |
KR100229796B1 (ko) | 열화영상에 대한 보상기능을 갖는 영상 복호화 시스템 | |
KR100203714B1 (ko) | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 | |
KR100203682B1 (ko) | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 | |
KR100203699B1 (ko) | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 | |
KR100203663B1 (ko) | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 | |
KR100203630B1 (ko) | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 | |
KR100203676B1 (ko) | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 | |
KR100203703B1 (ko) | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 | |
KR100203709B1 (ko) | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 | |
KR100203707B1 (ko) | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 | |
KR100203677B1 (ko) | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 | |
KR100203627B1 (ko) | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 | |
KR100203696B1 (ko) | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 | |
KR100203624B1 (ko) | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 | |
KR100203678B1 (ko) | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 | |
KR100203659B1 (ko) | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 | |
KR100203698B1 (ko) | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 | |
KR100203675B1 (ko) | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 | |
KR100203708B1 (ko) | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 | |
KR100203683B1 (ko) | 비트 발생량 조절기능을 갖는 영상 부호화 시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant | ||
FPAY | Annual fee payment |
Payment date: 20110302 Year of fee payment: 13 |
|
LAPS | Lapse due to unpaid annual fee |