KR100203663B1 - 비트 발생량 조절기능을 갖는 영상 부호화 시스템 - Google Patents

비트 발생량 조절기능을 갖는 영상 부호화 시스템 Download PDF

Info

Publication number
KR100203663B1
KR100203663B1 KR1019960013791A KR19960013791A KR100203663B1 KR 100203663 B1 KR100203663 B1 KR 100203663B1 KR 1019960013791 A KR1019960013791 A KR 1019960013791A KR 19960013791 A KR19960013791 A KR 19960013791A KR 100203663 B1 KR100203663 B1 KR 100203663B1
Authority
KR
South Korea
Prior art keywords
frame
encoding
signal
current frame
quantization error
Prior art date
Application number
KR1019960013791A
Other languages
English (en)
Other versions
KR970073157A (ko
Inventor
김종일
Original Assignee
전주범
대우전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 전주범, 대우전자주식회사 filed Critical 전주범
Priority to KR1019960013791A priority Critical patent/KR100203663B1/ko
Publication of KR970073157A publication Critical patent/KR970073157A/ko
Application granted granted Critical
Publication of KR100203663B1 publication Critical patent/KR100203663B1/ko

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • H04N19/139Analysis of motion vectors, e.g. their magnitude, direction, variance or reliability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/625Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using discrete cosine transform [DCT]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation

Abstract

본 발명은, MC-DCT, 양자화를 포함하는 부호화 시스템에 있어서, 부호화를 위해 입력되는 현재 프레임과 복원된 이전 프레임간의 양자화 오차값에 근거하여 현재 부호화하고자 하는 영상의 복잡도를 산출하고, 그 산출결과에 따라 2차원 저역 통과 필터를 이용하여 입력영상신호의 고주파 성분을 선택적으로 제거함으로써, 부호화후의 비트 발생량을 적응적으로 조절할 수 있도록 한 비트 발생량 조절기능를 갖는 영상 부호화 시스템에 관한 것으로, 이를 위하여 본 발명은, 현재 프레임과 재구성된 이전 프레임간의 픽셀값 차분신호에 의거하여 각 프레임별로 양자화 오차값을 산출하고, 산출된 해당 프레임의 양자화 오차값들을 평균하여 기설정된 복수의 프레임에 대한 평균 양자화 오차값을 산출하는 양자화 오차 계산 수단; 산출된 복수의 프레임의 평균 양자화 오차값을 부호화 수단을 통해 현재 부호화하고자 하는 프레임의 복잡도로서 참조하며, 부호화를 위해 입력되는 현재 프레임의 주파수 통과 대역폭를 적응적으로 제한하기 위한 기설정된 복수의 필터계수 결정신호들증 산출된 평균 양자화 오차값에 대응하는 필터계수 결정신호를 발생하는 제어수단; 및 발생된 필터계수 결정신호에 의거하여, 입력되는 현재 프레임을 움직임 추정, 보상을 위한 현재 프레임 신호로써 부호화 수단에 필터링없이 제공하거나 복수의 필터계수중 발생된 필터계수 결정신호에 따라 결정된 필터계수에 의거하여 입력 현재 프레임 신호에 2차원 저역 통과 필터링을 선택적으로 적용하여 그 통과 대역을 제한함으로써 고주파 성분을 제거한 프레임 신호를 움직임 추정, 보상을 위한 현재 프레임 신호로써 부호화 수단에 제공하는 2차원 저역 통과 필터링 수단을 포함함으로써, 부호화 수단에서의 양자화시 과도한 스텝 사이즈의 증가 없이 부호화후 발생되는 비트량을 효과적으로 조절할 수 있는 것이다.

Description

비트 발생량 조절기능을 갖는 영상 부호화 시스템(IMPROVED IMAGE CODING SYSTEM HAVING FUNCTIONS FOR CONTROLLING GENERATED AMOUNT OF CODED BIT STREEM)
제1도는 본 발명의 바람직한 실시예에 따른 비트 발생량 조절기능을 갖는 영상 부호화 시스템의 블럭구성도.
제2도는 본 발명에 따라 일예로서 8×8 픽셀 블럭에 대한 예시도.
제3도는 본 발명에 따른 일예로써 3×3 차수의 2차원 저역통과 필터계수를 도시한 예시도.
제4도는 본 발명에 따른 일례로써 (3, 3)위치에서의 2차원 필터링 과정을 도시한 예시도.
* 도면의 주요부분에 대한 부호의 설명
100, 170 : 프레임 메모리 110 : 감산기
120 : 영상 부호화 블럭 130 : 엔트로피 부호화 블럭
140 : 전송 버퍼 150 : 영상 복호화 블럭
160 : 가산기 180 : 현재 프레임 예측 블럭
210 : 양자화 오차 계산 블럭 220 : 필터 제어 블럭
230 : 저역 통과 필터링 블럭
본 발명은 영상신호를 압축 부호화하는 영상부호화 시스템에 관한 것으로, 더욱 상세하게는 움직임 보상 차분 펄스 부호변조(MC-DPCM) 기법을 이용하여 영상신호를 압축 부호화할 때, 부호화를 위한 현재 프레임과 복원된 이전 프레임간의 양자화 오차값에 근거하여 예측되는 입력 영상신호의 복잡도(Variance)를 참조하여 부호화후의 발생 비트량을 적응적으로 조절하는 데 적합한 비트 발생량 조절기능을 갖는 영상 부호화 시스템에 관한 것이다.
이 기술분야에 잘 알려진 바와 같이 이산된 영상신호의 전송은 아날로그 신호보다 좋은 화질을 유지할 수 있다. 일련의 이미지 프레임으로 구성된 비디오 신호가 디지탈 형태로 표현될 때, 특히 고품질 텔레비젼(일명 HDTV 라 함)의 경우 상당한 양의 데이터가 전송되어야 한다. 그러나 종래의 전송 채널의 사용 가능한 주파수 영역은 제한되어 있으므로, 많은 양의 디지탈 데이터를 전송하기 위해서는 전송되는 데이터를 압축하여 그 양을 줄일 필요가 있다. 이와 같이 데이터를 압축하는 다양한 압축 기법 중에서, 확률적 부호화 기법과 시간적, 공간적 압축기법을 결합한 하이브리드 부호화 기법이 가장 효율적인 것으로 알려져 있으며, 이러한 기법들은, 예를 들면 세계 표준화 기구에 의해 그 표준안이 이미 제정된 MPEG-1및 MPEG-2 등의 권고안에 광법위하게 개시되어 있다.
대부분의 하이브리드 부호화 기법은 움직인 보상 DPCM (차분 펄스 부호 변조), 2차원 DCT(이산 코사인 변환), DCT 계수의 양자화, VLC(가변장 부호화)등응 이용한다. 움직임 보상 DPCM은 현재 프레임과 이전 프레임간의 물체의 움긱임를 결정하고, 물체의 움직임에 따라 현재 프레임을 예측하여 현재 프레임과 예측치간의 차이를 나타내는 차분신호를 만들어내는 방법이다. 이 방법은 예를 들어 Staffan Ericsson 의 Fixed and Adaptive Predictors for Hybrid Predictive/Transform Coding, IEEE Transactions on Communication, COM-33, NO.12 (1985년, 12월), 또는 Ninomiy와 Ohtsuka의 A motion Compensated Interframe Coding Scheme for Television Pictures, IEEE Transactions on Communication, COM-30, NO.1(1982년, 1월)에 기재되어 있다.
일반적으로, 이차원 DCT 영상 데이터간의 공간적 리던던시를 이용하거나 제거하는 것으로써, 디지탈 영상 데이터 블럭, 예를 들면 8×8 블럭을 DCT 변환계수로 변환한다. 이 기법은 Chen 과 Pratt 의 Scene Adaptive Coder, IEEE Transactions on Communication, COM-32, NO.3 (1984년, 3월)에 개시되어있다. 이러한 DCT 변환계수는 양자화기, 지그재그 주사, VLC 등을 통해 처리됨으로써 전송할 데이터의 양을 효과적으로 감축(또는 압축)할 수 있다.
보다 상세하게, 움직임 보다 DPCM 에서는 현재 프레임과 이전 프레임간에 추정된 물체의 움직임에 따라, 현재 프레임을 이전 프레임으로 부터 예측한다. 이와 같이 추정된 움직임은 이전 프레임과 현재 프레임간의 변위를 나타내는 2차원 움직임 벡터로 나타낼 수 있다.
통상적으로, 물체의 변위를 추정하는 데에는 여러 가지 접근방법이 있다. 이들은 일반적으로 두 개의 타입으로 분류되는데, 그중 하나는 블럭 매칭 알고리즘를 이용하는 블럭단위 움직임 추정방법이고 다른 하나는 화소순환 알고리즘을 이용하는 화소단위 움직임 추정방법이다.
상기와 같이 물체의 변위를 추정하는 움직임 추정방법중, 화소단위 움직임 추정방법을 이용하면 변위는 각각의 화소 전부에 대해 구해진다. 이러한 방법은 화소값을 더 정확히 추정할 수 있고 스케일변화(예를 들어, 영상면에 수직한 움직임인 주밍(zooming))도 쉽게 다룰 수 있다는 장점을 갖는 반면에, 움직임 벡터가 모든 화소 각각에 대해 결정되기 때문에, 다량의 움긱임 벡터들이 발생하는 데 실질적으로 모든 움직임 벡터를 수신기로 전송하다는 것은 불가능하다.
또한, 블럭단위 움직임 추정에서는, 현재프레임의 소정크기의 블럭을 이전 프레임의 소정 범위의 탐색영역내에서 한 화소씩 이동하면서 대응 블럭들과 비교하여 그 오차값이 최소인 최적정합블럭을 결정하며, 이것으로 부터, 전송되는 현재 프레임에 대해 블럭 전체에 대한 프레임간 변위 벡터(프레임간에 블럭이 이동한 정도)가 추정된다. 여기에서, 현재 프레임과 이전 프레임간의 대응하는 두 블럭간의 유사성 판단은, 이 기술분야에 잘 알려진 바와 같은, 평균절대차와 평균 제곱차 등이 주로 사용된다.
한편, 상술한 바와 같은 부호화 기법, 즉 움직임 보상 DPCM, 2차원 DCT, DCT 계수의 양자화 및 VLC(또는 엔트로피 부호화) 등의 부호화 기법을 통해 부호화된 영상 비트 스트림은 영상 부호화 시스템의 출력측에 구비되는 전송 버퍼에 저장된 다음 전송시점이 되면 원격지 수신측으로의 송신을 위해 전송기로 보내진다. 이때, 여기에서의 전송시점은 전송 버퍼의 크기(즉, 용량)와 전송율에 관계되며, 전송 버퍼에서의 오동작(데이터 오버플로우(overflow)또는 데이터 언더플로우(underflow))이 발생하지 않도록 제어된다.
보다 상세하게, 여러 가지 요인(예를 들면, 영상의 복잡도)으로 인해 부호화시에 각 프레임마다 발생되는 비트량이 달라지게 되는데, 이러한 점을 고려하여 영상 부호화 시스템에서는, 평균 전송율이 일정하게 유지될 수 있도록 출력측 전송 버퍼의 제어를 수행한다. 즉, 영상 부호화 시스템에서는 출력측 전송 버퍼의 데이터 충만상태 정보에 근거하여 현재 부호화하고 있는 프레임 이전까지의 비트 발생량을 조사하고 있다고 현재 프레임에서 할당해야 하는 비트량을 조절한다. 다시말해, 종래의 전형적인 영상 부호화 시스템에서는 출력측 전송버퍼의 데이터 충만상태 정보에 의거하여 실질적으로 양자화 스텝사이즈(QP)를 제어함으로써 부호화 시스템에서의 발생 비트량을 조절, 즉 이전까지 비트발생량이 많으면 양자화 스텝 사이즈를 크게 조절하여 비트 발생량을 줄이고, 이와 반대의 경우에는 양자화 스텝사이즈를 작게 조절하여 비트 발생량을 늘리는 등의 방법을 통해 비트 발생량을 조절하고 있다.
그러나, 상술한 바와 같이 출력측 전송 버퍼의 데이터 충만상태 정보에 의거하여 양자화 스텝 사이즈를 조절함으로써 비트 발생량을 조절하는 종래방법은, 각 프레임에 해당하는 영상 데이터를 동일한 전송율로 부호화하여 전송하고자 하는 경우에 있어서, 부호화하고자 하는 영상이 복잡한 경우(고주파 성분이 다량 발생)에는 비트 발생량이 많아지게 되는데 이로 인해 양자화 스텝 사이즈가 커져 결과적으로 재생 영상에서의 심각한 화질열화가 야기된다는 문제를 갖는다. 여기에서 발생하는 고주파 성분은 실질적으로 인간의 시각특성에 매우 둔감한 성분(재생 영상의 화질에 거의 영향을 미치지 않는 성분)이다.
따라서, 본 발명은 상술한 종래기술의 문제점을 해결하기 위한 것으로, MC-DCT, 양자화를 포함하는 부호화 사스템에 있어서, 부호화를 위해 입력되는 현재 프레임과 복원된 이전 프레임간의 양자화 오차값에 근건하여 현재 부호화하고자 하는 영상의 복잡도를 산출하고, 그 산출결과에 따라 2차원 저역 통과 필터를 이용하여 입력 영상신호의 고주파 성분을 선택적으로 제거함으로써 부호화후의 비트 발생량을 적응적으로 조절할 수 있는 비트 발생량 조절기능을 갖는 영상 부호화 시스템을 제공하는 데 그 목적이 있다.
상기 목적을 달성하기 위하여 본 발명은, 입력되는 현재 프레임과, 이 현재 프레임 및 재구성된 이전 프레임을 이용하는 매크로 블럭단위의 움직임 추정, 보상을 통해 얻어지는 예측 프레임간의 에러신호에 대해 이산 코사인 변환, 양자화 및 엔트로피 부호화를 포함하는 부호화 수단을 통해 압축 부호화하여 부호화된 비트 스트림을 발생하며, 상기 양자화는 출력측 버퍼에 저장되는 상기 비트 스트림의 충만상태 정보에 의거하여 그 스텝 사이즈가 조절되는 비트 발생량 조절기능을 갖는 영상 부호화 시스템에 있어서, 상기 현재 프레임과 재구성된 이전 프레임간의 픽셀값 차분신호에 의거하여 각 프레임별로 양자화 오차값을 산출하고, 산출된 해당 프레임의 양자화 오차값들을 평균하여 기설정된 복수의 프레임에 대한 평균 양자화 오차값을 산출하는 양자화 오차 계산 수단; 상기 산출된 복수의 프레임의 평균 양자화 오차값을 상기 부호화 수단을 통해 현재 부호화하고자 하는 프레임의 복잡도로서 참조하며, 부호화를 위해 입력되는 상기 현재 프레임의 주파수 통과 대역폭을 적응적으로 제한하기 위한 기설정된 복수의 필터계수 결정신호들증 상기 산출된 평균 양자화 오차값에 대응하는 필터계수 결정신호를 발생하는 제어수단; 및 상기 발생된 필터계수 결정신호에 의거하여, 상기 입력되는 현재 프레임을 상기 움직임 추정, 보상을 위한 현재 프레임 신호로써 상기 부호하 수단에 필터링없이 제공하거나 복수의 필터계수중 상기 발생된 필터계수 결정신호에 따라 결정된 필터계수에 의거하여 상기 입력 현재 프레임 신호에 2차원 저역 통과 필터링을 선택적으로 적용하여 그 통과 대역을 제한함으로써 고주파 성분을 제거한 프레임 신호를 상기 움직임 추정, 보상을 위한 현재 프레임 신호로써 상기 부호화 수단에 제공하는 2차원 저역 통과 필터링 수단을 더 포함하는 것을 특징으로 하는 비트 발생량 조절기능을 갖는 영상 부호화 시스템을 제공한다.
본 발명의 상기 및 기타 목적과 여러 가지 장점은 이 기술분야에 숙련된 사람들에 의해 첨부된 도면을 참조하여 하기에 기술되는 본 발명의 바람직한 실시예로부터 더욱 명확하게 될 것이다.
이하 첨부된 도면을 참조하여 본 발명의 바람직한 실시예에 대하여 상세하게 설명한다.
제1도는 본 발명의 바람직한 실시예에 따른 비트 발생량 조절기능을 갖는 영상 부호화 시스템에 대한 블럭구성도를 나타낸다. 동도면에 도시된 바와 같이, 본 발명의 영상 부호화 시스템은 제1프레임 메모리(100), 감산기(110), 영상 부호화 블럭(120), 엔트로피 부호화 블럭(130), 전송 버퍼(140), 영상 복호화 블럭(150), 가산기(160), 제2프레임 메모리(170), 현재 프레임 예측 블럭(180), 양자화 오차 계산 블럭(210), 필터 제어 블럭(220) 및 저역 통과 필터링 블럭(230)을 포함한다.
제1도를 참조하면, 입력되는 현재 프레임 신호는 제1프레임 메모리(100)에 저장된 다음 저역 통과 필터링 블럭(230)으로 입력되며, 저역 통과 필터링 블럭(230)에서는 후술되는 필터 제어 블럭(220)으로 부터 제공되는 현재 프레임과 복원되어 재구성된 이전 프레임간의 양자화 오차값에 따른 영상의 복잡도에 의거해 산출되는 제어신호(주파수 영역 구분을 위한 필터계수 결정신호)에 따르 입력프레임 신호의 주파수를 적응적으로 제한, 즉 2차원 저역 통과 필터링을 이용하여 입력 영상의 고주파 성분(비교적 인간의 시각에 둔감한 부분임)을 제거하는데, 이러한 저역 통과 필터링 블럭(230)에 대한 구체적인 동작과정에 대해서는 제2도를 참조하여 후에 상세하게 기술될 것이다. 그런다음, 이와 같이 고주파 성분이 적응적으로 제거되는 현재 프레임 신호는 라인 L11을 통해 감산기(110), 현제프레임 예측블럭(180) 및 본 발명에서 특징부를 이루는 양자화 오차 계산블럭(210)에 각각 제공된다.
먼저, 감산기(110)에서는 라인 L11을 통해 제1프레임메모리(100)에서 제공되는 현재 프레임 신호로 부터 라인 L19를 통해 후술되는 현재 프레임 예측 블럭(180)으로 부터 제공되는 이동 물체에 대하여 움직임 보상된 예측된 현재 프레임 신호를 감산하며, 그 결과데이타, 극 차분화소값을 나타내는 에러신호는 영상 부호화 블럭(120)을 통해 이산 코사인 변환(DCT)과 이 기술분야에서 잘 알려진 양자화 방법들중의 어느 하나를 이용함으로서, 일련의 양자화된 DCT변환계수들로 부호화된다. 이때, 영상 부호화 블럭(120)에서의 에러신호에 대한 양자화는 라인 L21을 통해 후술되는 출력측 전송버퍼(140)로 부터 제공되는 데이터 충만상태 정보에 따라 결정되는 양자화 파라메터(QP)에 의거하여 그 스텝 사이즈가 조절된다.
또한, 본발명에 따라, 라인 L11상의 에러신호는 후술되는 양자화 오차 계산 블럭(210)으로 제공되며, 양자화 오차 계산 블럭(210)은 라인 L11상의 현재 프레임에 대한 입력 영상신호와 라인 L16을 통해 후술되는 제2프레임 메모리(170)로 부터 제공되는 복원된 이전 프레임에 대한 영상신호르 이용하여 양자화 오차값을 계산, 즉 부호화(DCT, 양자화)전의 입력 영상과 부호화후 복원된 이전 영상간의 차이신호로써 나타날 수 있는 양자화 오차값을 계산하고, 이 계산된 양자화 오차값을 부호화하고자 하는 현재 프레임의 복잡도로써 참조한다. 본 발명에서는 이와 같이 계산된 복잡도에 근건하여 저역통과 필터링 블럭(230)에서 2차원 저역 통과 필터링을 이용하여 인간의 시각특성에 비교적 둔감한 고주파 성분을 적응적(또는 선택적)으로 제거(즉, 필터링)한다.
한편, 제1도에서의 상세한 도시는 생략되었으나 저역 통과 필터링 블럭(230)에서는 본 발명에 따라 후술되는 필터 제어블럭(220)으로 부터 제공되는 산출된 양자화 오차값 정보에 근거한 필터계수 결정신호에 의거해 2차원 저역 통과 필터링을 이용하여 인간의 시각특성에 비교적 둔감한 고주파 성분을 제거(즉, 필터링)을 결정한다. 따라서, 본 발명에서는 부호화된 비트 발생량의 증가가 수반되는 복잡한 영상이라 할지라도 재생 영상에서의 화질열화를 야기시키는 영상 부호화 블럭(120)에서의 양자화 단계에서 양자화 스텝 사이즈를 적절하게 조절할 수 있다. 이와 같이 산출된 양자화 오차값 정보에 근거해 설정되는 필터계수 결정신호를 이용하여 입력 프레임의 통과 대역폭을 적응적으로 제한하는 구체적인 과정에 대해서는 후에 상세하게 기술될 것이다.
다음에, 라인 L13 상의 양자화된 DCT 변환계수들은 엔트로피 부호화 블럭(130)과 영상 북호화 블럭(150)으로 각각 보내진다. 여기에서, 엔트로피 부호화 블럭(130)에 제공된 양자화된 DCT 변환계수들은, 예를 들면 가변길이 부호화 기법 등을 통해 부호화되어 출력측의 전송 버퍼(140)에 제공되며, 이와 같이 부호화된 영상신호는 수신측으로의 전송을 위해 도시 생략된 전송기로 전달된다.
한편, 영상 부호화 블럭(120)으로 부터 영상 복호화 블럭(150)에 제공되는 라인 L13 상의 양자화된 DCT 변환계수들은 역양자화 및 역이산 코사인 변환을 통해 다시 복원된 프레임 신호로 변환된 다음, 가산기(160)에 제공되며, 가산기(160)에서는 영상 복호화 블럭(150)으로 부터의 복원된 프레임 신호와 라인 L19를 통해 후술되는 현재 프레임 예측 블럭(180)으로 부터 제공되는 예측된 현재 프레임신호를 가산하여 재구성된 이전 프레임 신호를 생성하며, 이와 같이 재구성된 이전 프레임 신호는 제2프레임 메모리(170)에 저장된다. 따라서, 이러한 경로를 통해 부호화 처리되는 매프레임에 대한 바로 이전 프레임 신호가 계속적으로 갱산되며, 이와 같이 갱신되는 재구성된 이전 프레임 신호는 움직임 추정, 보상을 위해 후술되는 현재 프레임 예측 블럭(180)으로 제공된다.
또한, 제2프레임 메모리(170)에 저장되는 복원되어 재구성된 이전 프레임 신호는 본 발명에 따른 프레임의 복잡도 계산을 위해 라인 L16을 통해 후술되는 양자화 오차 계산 블럭(210)으로 제공된다.
다른한편, 현재 프레임 예측 블럭(180)에서는, 본 발명에 따른 저역 통과 필터링 블럭(230)으로 부터 제공되는 라인 L11상의 고주파 성분이 선택적으로 제거되거나 또는 고주파 성분이 제거되지 않은 현재프레임 신호와 상기한 제2프레임 메모리(170)로 부터 제공되는 라인 L15 상의 재구성된 이전 프레임 신호에 기초하여 블럭 매칭 알고리즘을 이용해 재구성된 이전 프레임의 기설정 탐색범위(예를 들면, 16×16 또는 32×32 탐색범위)에서 소정의 블럭(예를 들면, 8×8 또는 16×16 DCT 블럭)단위 현재 프레임을 예측한 다음 라인 L19상에 예측된 현재 프레임 신호를 발생하여 상술한 감산기(110)와 가산기(160)에 각각 제공한다. 이때, 라인 L19상의 스위치(SW)는 도시 생략된 시스템 제어기로 부터의 제어신호(CS)에 따라 그 접점이 온/오프되는 것으로, 스위치(SW)가 온 일때는 현재의 부호화 모드가 인터모드임을 의미하고 반대로 오프일때는 현재의 부호화 모드가 인트라 모드임을 의미한다. 따라서, 감산기(110)에서는 인터모드 부호화시에 현재 프레임 신호와 예측 프레임 신호간의 에러신호를 영상부호화 블럭(120)에 제공하고, 인트라 모드 부호화시에 현재 프레임 신호 자체를 영상 부호화 블럭(120)에 제공한다.
또한, 현재 프레임 예측 블럭(180)은 선택되는 각 블럭(8×8 또는 16×16 블럭)들에 대한 움직임 벡터들의 세트를 라인 L17 상에 발생하여 전술한 엔트로피 부호화 블럭(130)에 제공한다. 여기에서, 검출되는 움직임 벡터들의 세트들은 현재 프레임의 블럭(8×8 또는 16×16 블럭)과 이전 프레임내의 기설정 탐색영역(예를 들면, 16×16 또는 32×32 탐색범위)에서 예측된 가장 유사한 블럭간의 변위이다. 따라서, 전술한 엔트로피 부호화 블럭(130)에서는 라인 L17 상의 움직임 벡터들의 세트들과 더불어 라인 L13 상의 양자화된 DCT 변환계수들은 , 예를 들면 가변길이 부호화 기법 등을 통해 부호화하여 부호화된 비트 스트림을 발생한다.
한편, 본 발명의 양자화 오차 계산 블럭(210)에서는 부호화를 위해 입력되는 라인 L11상의 현재 프레임과 부호화후에 복원되어 재구성된 라인 L16 상의 이전 프레임간의 양자화 오차를 계산, 즉 부호화(DCT, 양자화)전의 입력 영상과 부호화후에 복원된 이전 영상간의 차이신호로써 나타날 수 있는 각 프레임마다의 양자화 오차값을 계산하며, 이와 같이 계산된 양자화 오차값은 부호화하고자 하는 다음 프레임의 복잡도로써 참조된다.
예를 들어, 한 프레임이 M×N의 크기를 갖는다고 가정하고, 부후화후에 복원되어 재구성된 이전 프레임의 영상을 Ip, 부호화를 위해 입력되는 현재 프레임의 영상을 Ic 라 할 때, 각 프레임의 (x,y)위치에서의 각 필셀값은 Ip(x,y) 와 Ic(x,y)에 해당되고, 이때의 양자화 오차 QE(Quantization Error)는 아래의 (1)식에 의해 계산된다.
여기에서, 상기 (1)식을 이용하여 계산된 양자화 오차 QE값은 실질적으로 영상 데이터의 복잡성을 잘 반영하는 값이라 할 수 있다. 따라서, 본 발명에서는 이와 같이 현재 프레임과 부호화후에 복원되어 재구성된 이전 프레임을 이용하여 계산된 양자화 오차 QE 값을 부호화를 위해 입력되는 다음 영상신호의 복잡도로서 이용한다. 이때, 산출되는 양자화 오차 QE 값은 영상의 정보량(비트 발생량)에 관련된다고 볼 수 있는 데, 만일 현재 부호화된 영상의 복잡한 경우에는 산출되는 양자화 오차 QE 값이 상대적으로 커질 것이고, 그 반대의 경우에는 산출되는 양자화 오차 QE값이 작아지게 될 것이다.
이러한 관점에 비추어볼 때, 부호화시에 산출되는 현재 프레임과 복원된 이전 프레임간의 양자화 오차 QE 값은 곧 전송할 정보량에 관계되는 값으로 해석할 수 있을 것이다. 그리고, 본 발명에 따른 각 프레임의 평균 오차 AE값 산출에 있어서는, 부호화 시스템이 움직임 추정 및 보상을 수행하는 과정에서 필요로 하는 재구성된 프레임 신호를 프레임 메모리에 저장하고 있으므로, 이와 같은 각 부호화 시스템의 일부를 이용하면 추가의 계산을 할 필요없이 단지 위에서 기술한 현재 프레임과 복원된 이전 프레임간의 차이신호로써 나타낼 수 있는 원하는 양자화 오차 QE 값을 쉽게 구현할 수 있을 것이다. 그런다음, 상기와 같이 양자화 오차 계산 블럭(210)에서 산출된 양자화 오차 QE 값은 다음단의 필터 제어 블럭(220)으로 제공된다.
한편, 필터 제어 블럭(220)은 상기한 양자화 오차 계산블럭(210)으로 부터 제공되는 양자화 오차 QE값에 의거하여 입력 영상의 주파수 제한을 위한 주파수 필터계수 결정신호 C를 라인 L23 상에 발생하여 저역 통과 필터링 블럭(230)에 제공한다. 여기에서, 발생되어 저역 통과 필터링 블럭(230)으로 제공되는 영역 구분을 위한 필터계수 결정신호 C는 입력 프레임 신호의 주파수 대역을 제한한다. 이때, 주파수 영역을 구분하는 데 필요한 필터계수 려정신호 C는 아래와 같은 방법으로 계산되며, 이 필터계수 결정신호 C를 이용하여 본 발명에 따라 제한하고자 하는 입력 영상의 주파수 영역을 설정하는 과정에 대해서는 첨부된 제2도를 참조하여 후에 상세하게 기술될 것이다.
보다 상세하게, 필터 제어 블럭(220)에서 양자화 오차 계산 블럭(210)으로 부터 출력되는 양자화 오차 QE값을 이용하여 주파수 영역 구분을 위한 필터계수 결정신소 C를 출력하는 과정은 다음의 (2)식과 같다.
상기(2)식에서 MQE 와 SQE를 구하는 과정은 다음과 같다.
즉, 영상신호의 프레임 전송율이 30인 경우에는 1초동안 계산되는 QE값 30개를 평균한 값이 MQE이고, 이 값의 표준편차가 SQE이다. 따라서, 이와 같이 구한 MAE, SQE값과 매 프레임에 발생되는 QE값을 비교함으로써 영역 구분값 C를 구할 수 있다. 즉, 필터 제어블럭(220)에서는 이전의 30프레임 동안 발생된 QE값의 평균과 표준편차를 이용하여 영역 구분값 B 를 결정하는 것이다. 그 결과, 이러한 과정을 통해 얻어지는 현재 발새된 QE값은 다시 30개 프레임의 평균값과 표준편차를 구하는 데이용된다. 따라서, 필터 제어블럭(220)에서는 이전에 발생된 30개 프레임의 QE값중에서 처음구해진 QE값(시간적으로 가장 오래된 QE 값)을 버리고 양자화 오차계산 블럭(210)으로 부터 새로 입력된 QE값을 이용하여 평균과 표준편차를 구하는 것이다. 물론, 현재 발생된 QE값도 31번째 프레임이 지나면 평균과 표준편차를구하는 데 이용되지 않게 된다.
상기한 (2)식으로 부터 명백한 바와 같이, 영역 구분값 C는 1부터 4 사이의 정수값을 갖는데, 이것은 전술한 감산기(110)으로 부터 출력되는 에러신호(라인 L11상의 현재 프레임과 라인 L19 상의 예측프레임간의 차분신호)를 이산 코사인 변환환 DCT변환계수들에 대한 양자화 전의 2차원 저역 통과 필터링시에 QE값에 따라 그 대역폭을 적응적으로 조절하기 위해서이다.
한편, 저역 통과 필터링 블럭(230)에서는 상기한 필터 제어블럭(220)으로 부터의 필터계수 결정신호 C에 의거하여 입력영상신호의 필터링을 수행하지 않거나 혹은 입력 영상신호에 2차원 저역통과 필터링을 적용하여 그 통과 대역을 적응적으로 제한(즉, 고주파 성분의 선택적인 필터링)함으로써, 인간의 시각특성에 비교적 둔감한 고주파 성분을 제거한 영상신호를 라인 L11상에 발생한다.
보다 상세하게, 본 발명에 따른 입력 영상신호의 저역 통과 필터링 방법은, 입력되는 영상신호에 저역 통과 필터를 곱함으로써 수행된다. 즉, N×M의 한 블롤(예를 들면, 8×8 블럭)의 영상에 대한 각 필셀의 값을f(x,y)라 할 때, 일예로서 제2도에 도시된 바와 같이 한블럭이 8×8 의 블럭인 경우, 픽셀의 수평 및 수직 방향으로의 위치값 x 및 y 는 0 에서 7 사이의 정수값을 갖으며, 각 값들은 0 에서 255사이의 레벨값을 갖는다. 즉, 제2도로 부터 알 수 있는 바와 같이, 8×8 블럭의 각 픽셀의 수평 및 수직 방향의 위치값은 f(0,0) 에서 f(7,7)의 값을 갖는다.
한편, 본 발명에서의 저역 통과 필터로서는, 일예로서 제3도에 도시된 바와 같이, 2차원 저역통과 필터계수가 3개의 차수를 갖는 9차수를 갖는 것이라 가정하여 도시하였다. 이러한 2차원 저역 통과 필터의 필터계수 k 는 필터계수 결정신호 C값에 따라 결정되는 값으로써 이러한 C값은 1보다 큰 상수값을 갖는다. 만일 C 값이 2인 경우에는 k(0,0) 의 값은 1/2이고, 그 이외의 k값은 1/16 의 값을 갖는다. 이 상수값은 영상신호를 저역 통과 필터링하고자 하는 주파수 대역에 관계되는데 이 상수값이 커질수록 주파수 대역은 작아진다. 만일 상수값 C가 최소값인 1인 경우, 본 발명의 저역 통과 필터링 블럭(230)에서는 입력 프레임 신호에 대해 2차원 저역통과 필터링을 수행하지 않고 그대로 통과시키게 된다.
따라서, 저역 통과 필터링 블럭(230)에서 본 발명에 따라 영상신호를 2차원 저역 통과 필터링하는 과정은, 예를 들면 f(3,3) 의 위치에서 필터링을 수행하는 과정을 보여주는 제4도에 도시된 바와같다. 제4도에 있어서, 필터계수와 겹치는 픽셀간의 곱을 모두 더하면 필터링한 결과를 얻게 된다. (x,y)의 위치에서 2차원 저역 통과 필터링된 신호를 Z(x,y) 라고 하면, 이 값은 아래의 (3)식에 의해 계산된다.
상기한 (3)식에서 T 는 필터의 차수를 의미하므로, T = 3 이다. 따라서, u값은 -1에서 1사이의 정수값을 갖는다. 또한, 상기한 (3)식에서 k(u,v) 값은 필터계수값이고, f(x,y) 값은 픽셀값이다. 만일, 상기한 (3)식에서 f(x-u,y-v) 의 (x-u), (y-v) 값이 0 보다 작아지면 0으로 하고, 혹은 전체 한 프레임의 영상 크기에 해당하는 M-1값보다 커지는 경우에는 M-1값으로 해 준다. 이것은, 그 영역, 즉 수평 및 수직 방향으로 0 에서 M-1사이에서만 픽셀값이 존재하므로 이 영역을 넘는 경우에는 끝값으로 설정해 주는 방법인 것으로, 이러한 필터링 방법은 이 기술분야에 이미 공지된 기술이다. 따라서, 상기한 (3)식에서와 같이 모든 픽셀의 위치에서 필터링을 수행하면, 일예로서 제4도에 도시된 바와 같이, 수평 및 수직 방향으로 2차원 필터링한 결과를 얻을 수 있다.
그 결과, 저역 통과 필터링 블럭(230)에서는 라인 L23 상의 필터계수 결정신호 C에 기초하여 영상의 복잡도가 큰 것으로 판단되는 경우, 입력 영상신호에 2차원 저역 통과 필터링을 적용하여 그 통과 대역을 제한함으로써, 인간의 시각특성에 비교적 둔감한 고주파 성분을 제거한 영상신호를 라인 L11상에 발생하여 제1도의 감산기(110), 현재 프레임 예측 블럭(180) 및 본 발명의 양자화 오차 계산 블럭(210)으로 각각 제공하게 된다.
따라서, 제1도의 영상 부호화 블럭(120)에서는, 복잡한 영상의 경우, 상술한 바와 같이 선택적인 2차원 저역 통과 필터링을 통해 인간의 시각에 비교적 둔감한 영상의 고주파 성분을 제거한 상태에서 부호화(양자화)를 수행하게 되므로, 시각적으로 중요한 성분인 저주파 신호에 대해 양자화 오차가 적게 생기도록 하면서 부호화할 수 있는 것이다. 만일, 복잡한 영상임에도 불구하고 본 발명에서와 같이 주파수의 통과 대역폭을 적응적으로 제한(고주파 성분 제거)하지 않게 되면, 결과적으로 부호화후에 발생되는 비트량이 많아져 양자화 스텝사이즈가 커지게 되므로 모든 주파수 대역(고주파에서 저주파 대역)에 대하여 양자화 오차가 많이 발생되고, 그 결과 수신측의 재생 영상에서 양자화로 인한 화질열화가 야기될 것이다.
이상 설명한 바와 같이 본 발명에 따르면, 부호화를 위해 입력되는 현재 프레임과 움직임 추정 및 보상을 이해 부호화후에 복원되어 재구성된 이전 프레임을 이용하여 매 프레임마다 계산되는 양자화 오차값 정보를 이용하여 현재 부호화하고자 하는 영상의 복잡도를 계산하고, 그 계산결과에 따라 현재 입력 영상이 복잡한 영상인 경우, 그에 상응하는 가중치를 주어 인간의 시각에 둔감한 영상의 고주파 성분을 일차적으로 제거한 다음 MC-DCT, 양자화 등의 부호화를 수행하도록 함으로써, 양자화 단계에서의 과도한 스텝사이즈가 증가 없이 부호화후 발생되는 비트량을 효과적으로 조절할 수 있다. 따라서, 본 발명에 의하면, 부호화된 영상을 복원하여 디스플레이할 때, 재생 영상에서 필연적으로 나타나는 양자화 오차로 인한 화질열화를 효과적으로 감소시킬수 있다.

Claims (5)

  1. 입력되는 현재 프레임과, 이 현재 프레임 및 재구성된 이전 프레임을 이용하는 매크로 블럭단위의 움직임 추정, 보상을 통해 덛어지는 예측 프레임간의 에러신호에 대해 이산 코사인 변환, 양자화 및 엔트로피 부호화를 포함하는 부호화 수단를 통해 압축 부호화하여 부호화된 비트 스트림을 발생하며, 상기 양자화는 출력측 버퍼에 저장되는 상기 비트 스트림의 충만상태 정보에 의거하여 그 스텝사이즈가 조절되는 비트 발생량 조절기능을 갖는 영상 부호하 시스템에 있어서, 상기 현재 프레임과 재구성된 이전 프레임간의 픽셀값 차분신호에 의거하여 각 프레임별로 양자화 오차값을 산출하고, 산출된 해당 프레임의 양자화 오차값들을 평균하여 기설정된 복수의 프레임에 대한 평균 양자화 오차값을 산출하는 양자화 오차 계산 수단; 상기 산출된 복수의 프레임의 평균 양자화 오차값을 상기 부호화 수단을 통해 현재 부호화하고자 하는 프레임의 복잡도로서 참조하며, 부호화를 위해 입력되는 상기 현재 프레임의 주파수 통과 대역폭을 적응적으로 제한하기 위한 기설정된 복수의 필터계수 결정신호들중 상기 산출된 평균 양자화 오차값에 대응하는 필터계수 결정신호를 발생하는 제어수단; 및 상기 발생된 필터계수 결정신호에 의거하여, 상기 입력되는 현재 프레임을 상기 움직임 추정, 보상을 위한 현재 프레임 신호로써 상기 부호화 수단에 필터링없이 제공하거나 복수의 필터계수중 상기 발생된 필터계수 결정신호에 따라 결정된 필터계수에 의거하여 상기 입력 현재 프레임 신호에 2차원 저역 통과 필터링을 선택적으로 적용하여 그 통과 대역을 제한함으로써 고주파 성분을 제거한 프레임 신호를 상기 움직임 추정, 보상을 위한 현재 프레임 신호로써 상기 부호화 수단에 제공하는 2차원 저역 통과 필터링 수단을 더 포함하는 것을 특징으로 하는 비트 발생량 조절기능을 갖는 영상 부호화 시스템.
  2. 제1항에 있어서, 상기 기설정된 각 필터계수 결정신호는, 상기 산출된 각 프레임의 평균 양자화 오차값, 상기 각 프레임의 평균 양자화 오차값을 평균하여 얻은 초당 전송되는 복수의 프레임에 대한 평균 에러치 및 이 평균 에러치의 표준편차를 이용하여 결정되는 것을 특징으로 하는 비트발생량 조절기능을 갖는 영상 부호화 시스템.
  3. 제1항 또는 제2항에 있어서, 상기 기설정된 복수의 각 필터계수 결정신호는, 상기 현재 프레임 신호의 각 블럭들의 선택적인 대역폭 제한을 위해 각각 다른 정수값을 갖는 4 개의 필터계수 결정신호를 포함하는 것을 특징으로 하는 비트 발생량 조절기능을 갖는 영상 부호화 시스템.
  4. 제3항에 있어서, 상기 각 필터계수는, 3×3 의 치수를 갖는 것을 특징으로하는 비트 발생량 조절기능을 갖는 영상 부호화 시스템.
  5. 제1항에 있어서, 상기 현재 프레임에 대한 2차원 저역 통과 필터링은 8×8 블럭단위로 수행되는 것을 특징으로 하는 비트 발생량 조절기능을 갖는 영상 부호화 시스템.
KR1019960013791A 1996-04-30 1996-04-30 비트 발생량 조절기능을 갖는 영상 부호화 시스템 KR100203663B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1019960013791A KR100203663B1 (ko) 1996-04-30 1996-04-30 비트 발생량 조절기능을 갖는 영상 부호화 시스템

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1019960013791A KR100203663B1 (ko) 1996-04-30 1996-04-30 비트 발생량 조절기능을 갖는 영상 부호화 시스템

Publications (2)

Publication Number Publication Date
KR970073157A KR970073157A (ko) 1997-11-07
KR100203663B1 true KR100203663B1 (ko) 1999-06-15

Family

ID=19457293

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1019960013791A KR100203663B1 (ko) 1996-04-30 1996-04-30 비트 발생량 조절기능을 갖는 영상 부호화 시스템

Country Status (1)

Country Link
KR (1) KR100203663B1 (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100504772B1 (ko) * 1997-12-27 2005-10-21 엘지전자 주식회사 부호화알고리즘선택방법

Also Published As

Publication number Publication date
KR970073157A (ko) 1997-11-07

Similar Documents

Publication Publication Date Title
KR100203710B1 (ko) 비트 발생량 조절기능을 갖는 영상 부호화 시스템
KR100425640B1 (ko) 비디오신호처리를위한노이즈추정및감소장치
EP0680219B1 (en) Improved post-processing method for use in an image signal decoding system
US5614954A (en) Motion compensation apparatus for use in an image encoding system
KR100229796B1 (ko) 열화영상에 대한 보상기능을 갖는 영상 복호화 시스템
KR100203714B1 (ko) 비트 발생량 조절기능을 갖는 영상 부호화 시스템
KR100203663B1 (ko) 비트 발생량 조절기능을 갖는 영상 부호화 시스템
EP0886972B1 (en) Improved post-processing for removing blocking effects in decoded image signal
KR100203682B1 (ko) 비트 발생량 조절기능을 갖는 영상 부호화 시스템
KR100203676B1 (ko) 비트 발생량 조절기능을 갖는 영상 부호화 시스템
KR100203630B1 (ko) 비트 발생량 조절기능을 갖는 영상 부호화 시스템
KR100203677B1 (ko) 비트 발생량 조절기능을 갖는 영상 부호화 시스템
KR100203675B1 (ko) 비트 발생량 조절기능을 갖는 영상 부호화 시스템
KR100203699B1 (ko) 비트 발생량 조절기능을 갖는 영상 부호화 시스템
KR100203678B1 (ko) 비트 발생량 조절기능을 갖는 영상 부호화 시스템
KR100203627B1 (ko) 비트 발생량 조절기능을 갖는 영상 부호화 시스템
KR100203709B1 (ko) 비트 발생량 조절기능을 갖는 영상 부호화 시스템
KR100203624B1 (ko) 비트 발생량 조절기능을 갖는 영상 부호화 시스템
KR100203659B1 (ko) 비트 발생량 조절기능을 갖는 영상 부호화 시스템
KR100203674B1 (ko) 비트 발생량 조절기능을 갖는 영상 부호화 시스템
KR100203703B1 (ko) 비트 발생량 조절기능을 갖는 영상 부호화 시스템
KR100203708B1 (ko) 비트 발생량 조절기능을 갖는 영상 부호화 시스템
KR100203698B1 (ko) 비트 발생량 조절기능을 갖는 영상 부호화 시스템
KR100203623B1 (ko) 비트 발생량 조절기능을 갖는 영상 부호화 시스템
KR100203707B1 (ko) 비트 발생량 조절기능을 갖는 영상 부호화 시스템

Legal Events

Date Code Title Description
A201 Request for examination
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20110302

Year of fee payment: 13

LAPS Lapse due to unpaid annual fee