KR0178900B1 - A dct encoder using subsampling method - Google Patents

A dct encoder using subsampling method Download PDF

Info

Publication number
KR0178900B1
KR0178900B1 KR1019950005797A KR19950005797A KR0178900B1 KR 0178900 B1 KR0178900 B1 KR 0178900B1 KR 1019950005797 A KR1019950005797 A KR 1019950005797A KR 19950005797 A KR19950005797 A KR 19950005797A KR 0178900 B1 KR0178900 B1 KR 0178900B1
Authority
KR
South Korea
Prior art keywords
signal
subsampling
discrete cosine
encoder
pixel information
Prior art date
Application number
KR1019950005797A
Other languages
Korean (ko)
Other versions
KR960036694A (en
Inventor
정해묵
Original Assignee
배순훈
대우전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 배순훈, 대우전자주식회사 filed Critical 배순훈
Priority to KR1019950005797A priority Critical patent/KR0178900B1/en
Publication of KR960036694A publication Critical patent/KR960036694A/en
Application granted granted Critical
Publication of KR0178900B1 publication Critical patent/KR0178900B1/en

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/625Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using discrete cosine transform [DCT]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

본 발명은 서브 샘플링을 이용한 이산 여현 변환 부호기에 관한 것으로, 보간기(18)를 부호기 부분의 서브 샘플링부(10)에 추가 설치하여 원래의 입력 화상 신호와 서브 샘플링부(10) 및 보간기(18)를 통과한 신호의 차이 즉, 보간시 발생할 수 있는 유실 화소 정보 신호를 서브 샘플링된 신화와 별도로 이산 여현 변환(DCT)처리한 후 양자화하고 부호화하여 전송함으로써, 복호기 부분에서 보간(Interpolation)을 할 때 전송된 유실 화소 정보 신호를 이용해 원래의 화상에 가까운 화상을 복원하는데 이점이 있다.The present invention relates to a discrete cosine transform encoder using subsampling, wherein an interpolator 18 is additionally installed in the subsampling unit 10 of the encoder portion, and the original input image signal, the subsampling unit 10 and the interpolator ( 18, i.e., the discrete pixel information signal that may occur during interpolation, that is, the discrete pixel cosine transform (DCT), is quantized, encoded, and transmitted separately from the subsampled myth, thereby interpolating in the decoder part. In this case, there is an advantage in restoring an image close to the original image by using the lost pixel information signal.

Description

서브 샘플링을 이용한 이산 여현 변환 부호기Discrete Cosine Transform Coder Using Subsampling

제1도는 HD-MAC의 서브 샘플링 방식에 대한 도면,1 is a diagram for a sub-sampling scheme of HD-MAC,

제1a도는 HD-MAC 휘도 신호 모드별 서브 샘플링 도면,1a is a subsampling diagram for each HD-MAC luminance signal mode;

제1b도는 HD-MAC 휘도 신호 샘플 패턴에 따른 모드별 겹침 방지용 2차원 필터 통과 대역 표시도.Figure 1b is a two-dimensional filter pass band display for overlapping prevention for each mode according to the HD-MAC luminance signal sample pattern.

제2도는 MUSE의 서브 샘플링 방식에 대한 도면,2 is a diagram of a sub-sampling scheme of MUSE,

제2a도는 MUSE의 필드 옵셋 서브 샘플링 방법을 나타내는 표시도,2a is a display diagram showing a field offset subsampling method of MUSE;

제2b도는 MUSE의 휘도 신호 서브 샘플링 시스템 흐름도,2b is a flowchart of a luminance signal subsampling system of MUSE;

제2c도는 MUSE의 서브 샘플링 계통도.Figure 2c is a subsampling schematic of MUSE.

제3a도는 원 화상의 전체 화소 신호를 나타내는 도면,3A is a diagram showing all pixel signals of an original image;

제3b도는 상기 제3a도의 화상 신호에 대해서 1차 서브 샘플링한 도면,FIG. 3B is a diagram of primary sub-sampling of the image signal of FIG. 3A;

제3c도는 상기 제3b도의 화상 신호에 대해서 2차 서브 샘플링한 도면,FIG. 3C is a second sub-sample of the image signal of FIG. 3B;

제3d도는 서브 샘플링을 하기 위한 마름모꼴 필터의 특성을 나타낸 도면.3d is a diagram showing the characteristics of a lozenge filter for subsampling.

제4a도는 변환 부호화를 나타낸 블럭도,4a is a block diagram showing transform coding;

제4b도는 이산 여현 변환의 원리를 도시한 도면.4b illustrates the principle of discrete cosine transform.

제5도는 본 발명에 따른 부호기에 대한 부분 블럭도이다.5 is a partial block diagram of an encoder according to the present invention.

* 도면의 주요부분에 대한 부호의 설명* Explanation of symbols for main parts of the drawings

10 : 서브 샘플링부 12 : 제1이산 여현 변환부10: sub-sampler 12: first discrete cosine converter

14 : 제1양자화기 16 : 제1부호화기14: first quantizer 16: the first encoder

18 : 보간기 20 : 감산기18: interpolator 20: subtractor

22 : 제2이산 여현 변환부 24 : 제2양자화기22: second discrete cosine converter 24: second quantizer

26 : 제2부호화기26: second encoder

본 발명은 서브 샘플링을 이용한 이산 여현 변환 부호기에 관한 것으로, 특히 보간기를 부호기 부분의 서브 샘플링부에 추가 설치하여 원래의 입력화상 신호와 서브 샘플링부 및 보간기를 통과한 신호의 차이 즉, 보간시 발생할 수 있는 유실 화소 정보 신호를 서브 샘플링된 신호와 별도로 이산 여현 변환(DCT)처리한 후 양자화하고 부호화하여 전송함으로써, 복호기 부분에서 보간(Interpolation)을 할 때 전송된 유실 화소 정보 신호를 이용해 원래의 화상에 가까운 화상을 복원하기 위한 부호기에 관한 것이다.The present invention relates to a discrete cosine transform coder using subsampling, and in particular, an interpolator is additionally installed in a subsampling part of an encoder part so that a difference between an original input image signal and a signal passing through a subsampling part and an interpolator, i.e., occurs during interpolation. By performing discrete cosine transform (DCT) processing and then quantizing, encoding, and transmitting the missing pixel information signal separately from the sub-sampled signal, the original image using the missing pixel information signal transmitted when interpolation is performed in the decoder part. An encoder for restoring an image close to the

고선명텔레비전(HDTV)는 현행 텔레비전보다 2배 이상의 수직, 수평 해상도를 가지며, 크로스 칼라(Cross color)등과 같은 현행 텔레비전의 문제점을 개선할 뿐만 아니라, 16:9의 애스펙트 비를 가지며, CD 음질 수준의 디지탈 오디오 성능을 갖는 것으로, 한마디로 현행 텔레비전보다 선명한 영상과 깨끗한 음질을 제공하는 차세대 텔레비전을 말한다.High-definition television (HDTV) has more than twice the vertical and horizontal resolution of current televisions, improves the problems of current televisions such as cross color, and has an aspect ratio of 16: 9 and CD sound quality. By having digital audio performance, we say next-generation TV which provides clear picture and clean sound quality more than current TV.

HDTV 시스템은 전송 방식을 기준으로 크게 두가지로 구분된다.HDTV systems can be classified into two types based on the transmission method.

첫째는 디지탈 신호를 그대로 아날로그 신호로 간주하여 전송하는 샘플치(Sampled value) 전송 방식으로 일본의 MUSE(Multiple Sub-Nyquist Sampling Encoding)와 유럽의 HD-MAC(High Definition-Multiplex Analog Components)이 여기에 해당된다. 둘째는 신호 처리에서 송신까지 디지탈화한 전디지탈(Full-digital)방식으로 현재 미국을 필두로 급속히 실용화의 단계에 이르고 있다.The first is a sampled value transmission method in which digital signals are regarded as analog signals and are transmitted by multiple sub-nyquist sampling encoding (MUSE) in Japan and high definition-multiplex analog components (HD-MAC) in Europe. Yes. The second is a full-digital system that digitalizes from signal processing to transmission, and is rapidly reaching the stage of practical application, starting with the United States.

일본의 MUSE나 유럽의 HD-MAC이 서브 샘플링(Subsampling)과 시분할 멀티플렉싱(TDM; Time Division Multiplexing)에 의해 영상 신호의 대역을 압축하고 이를 아날로그 신호 형태로 전송하기 때문에 채널에서의 잡음에 의해 화질의 열화가 커지는 반면, 전디지탈(Full-digital)방식에 있어서는 수신측에서는 신호대 잡음비가 어떤 임계치 이상으로 유지되기만 하면 채널 에러가 발생하더라도 에러 정정을 하여 송신측의 화질이 수신측에 거의 완전하게 전달된다.Japan's MUSE and Europe's HD-MAC compress video bands by subsampling and time division multiplexing (TDM) and transmit them in the form of analog signals. On the other hand, in the full-digital method, the deterioration becomes large. On the receiving side, even if a channel error occurs as long as the signal-to-noise ratio is maintained above a certain threshold, even if a channel error occurs, the image quality of the transmitting side is almost completely transmitted to the receiving side.

HDTV 신호는 엄청난 데이터량을 갖고 있기 때문에 전송하기 위해 데이터를 압축할 필요성이 제기된다. 압축방법으로는 여러가지가 있으나 최근 많은 관심의 대상이 되고 있는 대역 부호화방법을 예를 들면, 이산 신호를 주파수 대역에서 여러개의 필터를 사용하여 복수개의 연속되는 대역으로 분할하여, 신호 계열마다 서브 샘플링(Subsampling), 부호화, 전송을 행하는 방법을 말한다.Since HDTV signals have a huge amount of data, the need arises to compress the data for transmission. There are various compression methods, but the band coding method, which has recently been of great interest, is divided into a plurality of consecutive bands by using a plurality of filters in a frequency band, and subsampling for each signal series ( Subsampling), encoding, and transmission method.

서브 샘플링 방식을 HDTV 시스템중 유럽의 HD-MAC과 일본의 MUSE를 중심으로 살펴보면 다음과 같다.The sub-sampling method is based on HD-MAC in Europe and MUSE in Japan among HDTV systems.

제1도는 HD-MAC의 서브 샘플링 방식에 대한 그림으로, HD-MAC에는 세가지 다른 공간적 서브 샘플링 방식이 있다. 즉, 각각 80ms 모드, 40ms모드, 20ms 모드에 사용되는 서브 샘플링 방식이 있다. 정지 모드(속도범위:0-0.5sample/frame)에서 리프레쉬 간격은 80ms이고, 느린 이동 모드(0.5-12sample/frame)에서 리프레쉬 간격은 40ms 이며, 이동 모드(12이상 sample/frame)에서 리프레쉬 간격은 20ms이다.FIG. 1 is a diagram of a sub-sampling method of HD-MAC. There are three different spatial sub-sampling methods in HD-MAC. That is, there are subsampling methods used in the 80ms mode, the 40ms mode, and the 20ms mode, respectively. The refresh interval is 80ms in the stop mode (speed range: 0-0.5sample / frame), the refresh interval is 40ms in the slow movement mode (0.5-12sample / frame), and the refresh interval in the move mode (12 or more samples / frame). 20 ms.

제1a도는 고화질 샘플 격자에서 휘도 신호를 서브 샘플링한 것으로, 표시되어 있는 수치화된 점들은 수치화된 필드들의 샘플링된 값이다. (블럭의 크기는 16*16이나 여기서는 편의상 8*8만 도시함)FIG. 1A is a subsampled luminance signal in a high quality sample grid, and the displayed digitized points are sampled values of the digitized fields. (The size of the block is 16 * 16, but here only 8 * 8 is shown.)

80ms 모드에서는 80ms동안 (4 필드) 1, 2, 3, 4 번호가 쓰인 위치의 샘플을 송신한다. 80ms 모드에서는 80ms 동안 움직임이 없음을 가정하므로 4 필드( 두 프레임)중 2필드(한 프레임)에서만 샘플을 취해도 된다. 그런데, D/D2-MAC에 영상 신호를 실어 송신하는 경우 한 블럭당 8*4 샘플(32 샘플)만 보낼 수 있으므로, 1 위치의 샘플은 첫 번째 필드에 2, 3, 4 위치의 샘플들은 각각 두 번째, 세 번째, 네 번째 필드에 실어 송신한다.In 80ms mode, samples of positions 1, 2, 3 and 4 are written for 80 ms (4 fields). In 80ms mode, it is assumed that there is no motion for 80ms, so samples may only be taken in 2 fields (one frame) of 4 fields (two frames). However, when transmitting a video signal to D / D2-MAC, only 8 * 4 samples (32 samples) can be sent per block, so samples at one position are samples at positions 2, 3, and 4 respectively in the first field. Send on the second, third, and fourth fields.

여기서 32 샘플이 8*4 블럭에 속해야 하므로, 라인 3, 7, 11, 15 의 샘플들은 각각 라인 1, 5, 9, 13 의 샘플들 사이에 끼우고, 라인 4, 6, 10, 14 의 샘플들 사이에 끼워서 송신하며, 이를 셔플링(Shuffling)이라고 한다. (여기서 첫 번째 라인을 라인 1로 정의한다. ) 디코더에서는 4 필드동안 보내진 샘플(128 샘플)들을 모아 16*16 블럭으로 보간(Interpolation)하게 된다.Since 32 samples must belong to an 8 * 4 block, the samples of lines 3, 7, 11 and 15 are sandwiched between the samples of lines 1, 5, 9 and 13, respectively, and the samples of lines 4, 6, 10 and 14 The transmission is sandwiched between them, which is called shuffling. The first line is defined as line 1. In the decoder, samples (128 samples) sent during 4 fields are collected and interpolated into 16 * 16 blocks.

40ms 모드에서는 40ms 동안(2 필드) 1, 2 번호가 쓰인 위치의 샘플을 송신한다. 제1a도에서 홀수번째 라인들은 홀수 필드에 속한 라인이고 짝수 라인들은 짝수 필드에 속하므로 40ms 모드에서는 홀수 필드의 샘플만 송신하는 것을 알 수 있다. 그런데, D/D2-MAC에 영상 신호를 실어 송신하는 경우, 역시 한 블럭당 8*4 샘플(32샘플)만 보낼 수 있으므로, 1 위치의 샘플은 홀수 필드에 싣고 2 위치의 샘플들은 짝수 필드에 실어 송신한다. 여기서는 샘플들이 8*4 구조로 샘플링되므로 셔플링(Shuffling)이 필요없다. 디코더에서는 2 필드동안 보내진 샘플(64샘플)들을 모아 16*8 블럭으로 보간(Interpolation)하여 홀수 필드내의 40ms 모드 블럭을 만들고, 짝수 필드의 40ms 블럭은 움직임 보상(Motion Compensation)방법을 통하여 채우게 된다.In 40ms mode, samples of positions 1 and 2 are written for 40ms (2 fields). In FIG. 1A, since the odd-numbered lines belong to the odd field and the even lines belong to the even field, only the samples of the odd field are transmitted in the 40 ms mode. However, when transmitting a video signal to D / D2-MAC, only 8 * 4 samples (32 samples) can be sent per block, so samples at one position are placed in the odd field and samples at the second position are placed in the even field. Send it. Here, the samples are sampled in an 8 * 4 structure, so there is no need for shuffling. In the decoder, samples (64 samples) sent during two fields are collected and interpolated into 16 * 8 blocks to form a 40ms mode block in an odd field, and a 40ms block in an even field is filled by a motion compensation method.

20ms 모드에서는 20ms 동안 (1 필드) 홀수 필드에서는 1 위치의 샘플을 송신하고 짝수 필드에서는 2 위치의 샘플을 송신한다.In 20ms mode, samples of one position are transmitted in the odd field and samples of two positions in the even field for 20ms (one field).

여기서는 샘플들이 4*8 구조로 샘플링되므로 8*4 형태로 셔플링(Shuffling)이 필요하다. 디코더에서는 한 필드동안 보내진 샘플(32 샘플)들을 모아 16*8 블럭으로 보간(Interpolation)하여 홀수 필드나 짝수 필드 내의 20ms 모드 블럭을 각각 만들게 된다.Here, samples are sampled in a 4 * 8 structure, so shuffling in 8 * 4 form is necessary. The decoder collects 32 samples sent during one field and interpolates 16x8 blocks to form 20ms mode blocks in odd or even fields.

각 모드의 서브 샘플링은 공간적으로 추림(Decimation)이며 이때 겹침(Aliasing)을 방지하기 위해서는 2 차원 저역 통과 필터링을 하여야 한다.The subsampling of each mode is spatial deduction, and two-dimensional low pass filtering should be performed to prevent aliasing.

제1b도는 각 모드별 2차원 저역 필터의 통과 대역을 도시한 것으로, 세 모드의 서브 샘플링 방식이 모두 기본적으로 대각 표본화(Quincunx Sampling)이므로 통과 대역이 마름모 꼴로 도시되나, 제1b도에서는 마름모꼴의 오른쪽 상변만 도시한 것이다.Figure 1b shows the passband of the two-dimensional low-pass filter for each mode. Since all three modes of sub-sampling are basically diagonal sampling (Quincunx Sampling), the passband is shown in a lozenge, but in Figure 1b, the right side of the diamond Only the upper side is shown.

대각 표본화(Quincunx Sampling)의 경우에도 사각형 저역 통과 필터로도 겹침(Aliasing)을 방지하는 필터를 실현할 수 있으나, 사람의 시각이 대각선방향보다는 수직이나 수평 방향의 고주파 성분에 민감하므로 수직이나 수평방향의 고주파 성분이 강조되는 마름모꼴 필터를 이용한다. 그런데, 마름모꼴의 필터를 사용하면 수직과 수평 성분이 두개의 1 차원 필터링으로 분리가 되지 않으므로 2 차원 필터링을 통해야만 구현 가능하게 된다.Even in the case of diagonal sampling (Quincunx Sampling), a rectangular low pass filter can realize a filter that prevents aliasing.However, since the human eye is sensitive to high frequency components in the vertical or horizontal direction rather than the diagonal direction, Use a lozenge filter with high frequency emphasis. However, when a rhombic filter is used, the vertical and horizontal components are not separated into two one-dimensional filterings, and thus only two-dimensional filtering can be implemented.

MUSE의 서브 샘플링 방식은 동화상, 정지화상의 각 모드에 대하여 동일한 샘플링 패턴을 가지며 이러한 점은 HD-MAC에서 사용한 방법과는 다르게 화소마다의 움직임을 검출하여 처리하는 MUSE 방식에 있어서 별도의 모드 정보를 전송할 필요가 없으며 특히, 엔코더와 디코더간에 모드 정보에 오류에 의한 심각한 화질 열화를 배제할 수 있는 이점이 있다.The sub-sampling method of MUSE has the same sampling pattern for each mode of moving picture and still picture, which is different from the method used in HD-MAC. There is no need to transmit, and in particular, there is an advantage in that a serious image quality deterioration due to an error in mode information between the encoder and the decoder can be excluded.

제2a도는 MUSE의 서브 샘플링 방법으로서 샘플 위치를 필드마다 바꾸어 결국 4필드 시퀀셜(Sequential)로 샘플링 화소를 취하는 필드간 오프셋 서브 샘플링을 하는 것이다. 또한 이대로는 화질이 열화하기 때문에 인접한 주사선이나 필드, 프레임간은 상관이 강해 거의 그림이나 무늬의 모양이 같으므로 상관을 이용해서 보간을 해 부족한 샘플치를 보상한다.FIG. 2A is a sub-sampling method of MUSE, in which the sample position is changed for each field, and the inter-field offset sub-sampling takes sampling pixels in four-field sequential. In addition, since the image quality deteriorates, the correlation between adjacent scan lines, fields, and frames is strong, and almost the same shape of a picture or pattern, so interpolation is performed using correlation to compensate for insufficient sample values.

제2b도는 MUSE의 휘도(Y) 신호 서브 샘플링 시스템 흐름도를 나타낸 것으로, 휘도(Y) 신호는 정지 화상 영역과 동화상 영역으로 신호 대역을 나누어, 정지 화상은 정세한 화상이 필요하기 때문에 대역을 넓게 취해 한개의 화소마다 샘플치를 추출해낼 때 필드간에서 수평 방향으로 하나의 화소를 엇갈리게 즉 인접한 두 필드간의 샘플치에 대해 필드간 오프셋 샘플링을 하고, 동화상 영역은 넓은 대역이 필요하지 않으므로 필드 내의 샘플치에 대해 전치 필터를 통해 정지 화상 영역에 가산한다. 색차신호(C)인 R-Y 와 B-Y 신호도 주사선마다 추출해내어 1 라인째는 R-Y 신호를, 2라인째는 B-Y 신호를, 3 라인째는 또다시 R-Y 신호를 교대로 전송하는 선순차 신호로 필드간 오프셋 서브 샘플링을 한다.Figure 2b shows a flow chart of the luminance (Y) signal subsampling system of the MUSE. The luminance (Y) signal divides the signal band into a still picture area and a moving picture area. When extracting the sample value for each pixel, one pixel is staggered in the horizontal direction between fields, that is, inter-field offset sampling is performed for sample values between two adjacent fields, and since the moving image area does not need a wide band, Is added to the still image area through the prefilter. The RY and BY signals, which are the chrominance signals C, are also extracted for each scan line, and the first line is the RY signal, the second line is the BY signal, and the third line is the sequential signal. Perform offset subsampling.

제3a도는 원 화상의 전체 화소 신호를 나타내는 것이고, 제3b도는 제3a도에 대해서 1차 서브 샘플링한 것이며, 제3c도는 1차 서브 샘플링된 제3b도에 대해서 2차 서브 샘플링한 것이다.FIG. 3A shows the entire pixel signal of the original image, FIG. 3B shows the primary sub-sampling with respect to FIG. 3A, and FIG. 3C shows the secondary sub-sample with respect to FIG. 3B with the primary sub-sampled.

서브 샘플링이란 바둑판 모양으로 되어 있는 원 화상의 화소를 모두 이용하지 않고 중간 중간의 화소들을 빼내는 것이라고 말할 수 있으며, 예를 들어 제3a도에서 사선 방향으로 화소를 하나씩 빼면 제3b도와 같이 되는데 이를 대각 부표본화(Quincunx Subsampling)라 한다. 대각 부표본화(Quincunx Subsampling)는 화상 처리에서 많이 쓰이는데 그 이유는 샘플링 했을 때 나타나는 겹침 잡음(Aliasing Noise)이 눈에 가장 덜 띄기 때문이다. 대각 표본화(Quincunx Sampling)의 경우에도 사각형 저역 통과 필터로도 겹침(Aliasing)을 방지하는 필터를 실현할 수 있으나, 사람의 시각이 대각선 방향보다는 수직이나 수평 방향의 고주파 성분에 민감하므로 수직이나 수평 방향의 고주파 성분이 강조되는 마름모 꼴 필터를 이용한다. 그런데, 마름모 꼴의 필터를 사용하면 수직과 수평 성분이 두개의 1차원 필터링으로 분리가 되지 않으므로 2차원 필터링을 통해야만 구현 가능하게 된다.Subsampling can be said to take out the pixels in the middle without using all the pixels of the original image in the shape of a checkerboard. For example, subtracting one pixel in the diagonal direction in FIG. It is called Quincunx Subsampling. Quincunx Subsampling is used a lot in image processing because of the least noticeable overlapping noise that appears when sampling. Even in the case of diagonal sampling (Quincunx Sampling), a rectangular low pass filter can realize a filter that prevents aliasing.However, since the human eye is sensitive to high frequency components in the vertical or horizontal direction rather than the diagonal direction, Use a lozenge filter with high frequency emphasis. However, when a rhombic filter is used, the vertical and horizontal components are not separated into two one-dimensional filterings, and thus only two-dimensional filtering can be implemented.

제3d도는 서브 샘플링을 하기 위한 마름모꼴 같은 형태의 특성을 지니는 필터로서, 제3a도와 같은 원 화상을 필터링 한 후 3화소점 위치(X표시)의 화소를 뽑아내야 하고, 다시 3화소점 위치(X표시)에 화소를 메우기 위해서는 3화소점 위치(X표시)의 빈 공간에 1화소점 위치(○표시)의 화소를 삽입한 후 다시 제3d도와 같은 마름모꼴 필터링을 하면 된다. 이처럼 3화소점 위치(X표시)의 빈 공간을 다시 메우는 것을 보간(Interpolation)이라고 한다.3d is a filter having a rhombic shape for subsampling, and after filtering the original image as shown in FIG. 3a, the pixel of the 3 pixel point position (X mark) must be extracted, and again, the 3 pixel point position (X). In order to fill the pixels in the display), the pixel at the one pixel point position (○ mark) is inserted into the empty space at the three pixel point position (X mark), and then the rhombic filtering as shown in FIG. This filling of the empty space at the 3 pixel point position (X mark) is called interpolation.

1차 서브 샘플링된 제3b도와 같은 화상을 2차적으로 한번 더 서브 샘플링을 하면 제3c도와 같은 화상을 얻을 수 있다.If the second subsampled image is the same as the first subsampled 3b, the second image can be obtained.

사람의 시각 구조는 피사체가 이동하는 동화상 영역에서는 피사체의 해상도를 잘 인식하지 못하고, 피사체가 정지해 있는 정지 화상 영역에서는 피사체의 해상도를 잘 인색해내기 때문에, 동화상 영역보다는 정지 화상 영역의 해상도를 높일 필요가 있다. 따라서, 피사체의 정지 화상 영역에서는 해상도를 높여야 하므로 제3b도 화상중에서는 1화소점 위치(○표시)의 화소들만 전송하고 2화소점 위치(△표시)의 화소들은 이전 프레임의 화소들을 이용하여 전송한다.Since the human visual structure does not recognize the resolution of the subject well in the moving image area where the subject moves, and the subject's resolution is stingy in the still image area where the subject is still, the resolution of the still image area is increased. There is a need. Therefore, since the resolution must be increased in the still image area of the subject, only the pixels of one pixel point position (○ mark) are transmitted in the image of FIG. 3B, and the pixels of the two pixel point position (△ mark) are transmitted using the pixels of the previous frame. do.

즉, 정지 화상 영역에서는 1화서점 위치(○표시)의 화소들과 2화소점 위치(△표시)의 화소들을 프레임별로 번갈아 선택하여 전송한다.That is, in the still image area, the pixels at the one book point position (○ mark) and the pixels at the two pixel point position (Δ mark) are alternately selected for each frame and transmitted.

피사체의 동화상 영역에서는 제3c도와 같이 두번에 걸쳐 서브 샘플링된 1화소점 위치(○표시)의 화소들을 전송한다.In the moving image area of the subject, as shown in FIG. 3C, pixels of one pixel point position (○ mark) subsampled twice are transmitted.

본 발명에서 이용하게 될 변환 부호화 방법중 DCT(이산 여현 변환)에 대해서 살펴보기로 한다. 화상의 자기 상관이 높다는 것은 완만하게 변화되는 부분이 많다는 것을 의미하며, 주파수 측면에서 보면 낮은 주파수 성분에 에너지가 집중되어 있다고 간주할 수 있다.The DCT (Discrete Cosine Transform) of the transform encoding method to be used in the present invention will be described. The high autocorrelation of the image means that there are many parts that change slowly, and in terms of frequency, the energy is concentrated in low frequency components.

시간 계열의 신호를 주파수 계열의 신호로 변환하는 방법으로는 퓨리에 변환이 있는데, DCT(이산 여현 변환)도 시간 계열의 화소치를 행렬 연산에 따라 주파수 계열의 신호로 변환한다.The Fourier transform is a method of converting a signal of a time series into a signal of a frequency series. The DCT (Discrete Cosine Transform) also converts a pixel of a time series into a frequency signal according to a matrix operation.

DCT(이산 여현 변환)는 영상 신호의 공간 방향으로의 상관성이 큰 것에 바탕을 둔 것으로, 영상의 모든 화소에 분산된 에너지를 DC가 포함된 낮은 주파수를 갖는 몇개의 변환 계수에 집중시킨 후 이들의 장점을 적절히 이용하는 방식이다.Discrete Cosine Transform (DCT) is based on the large correlation of the video signal in the spatial direction, and concentrates the energy dispersed in all the pixels of the image in several transform coefficients with low frequencies including DC. It's a way to take advantage of the benefits.

제4a도는 변환 부호화에 대한 블럭도로서, DCT(이산 여현 변환)는 변환 부호화중의 하나에 속한다. 전송단에서는 입력된 신호를 변환한 후 양자화하고 부호화하여 전송한다. 수신단에서는 부호화된 신호를 복호화하여 역변환을 하게 된다.4A is a block diagram for transform coding, in which DCT (Discrete Cosine Transform) belongs to one of transform coding. The transmitter converts the input signal, quantizes it, encodes it, and transmits it. The receiving end performs inverse transform by decoding the encoded signal.

제4b도는 DCT(이산 여현 변환)의 원리를 나타낸 도면으로서, 8*8 화소치들을 한 블럭으로 하여 DCT(이산 여현 변환)를 수행하면 8*8의 주파수 성분에 대응하는 계수로 변환된다.4B is a diagram showing the principle of DCT (Discrete Cosine Transformation). When DCT (Discrete Cosine Transformation) is performed using 8 * 8 pixel values as one block, it is converted into a coefficient corresponding to a frequency component of 8 * 8.

화상은 낮은 주파수 성분에 에너지가 주로 집중되어 있으므로 낮은 주파수 성분에 대해서는 세밀하게 양자화하고, 에너지가 적게 분포되어 있는 고주파 성분에 대해서는 성긴 양자화를 행하면 양자화에 따라 발생하는 오차를 줄일 수 있다.Since energy is mainly concentrated in low frequency components, fine quantization of low frequency components and sparse quantization of high frequency components with less energy can reduce errors caused by quantization.

이와 같은 양자화는 높은 공간 주파수에서 시감도가 저하한다는 시각 특성에도 적합하다. 입력 영상신호를 서브 샘플링하여 DCT 처리를 한 후 양자화하고 부호화하여 화상 정보를 전송하면, 복호기에서는 원 영상을 보간(Interpolation)을 통해 복원하게 된다.Such quantization is also suitable for the visual characteristic that visibility is reduced at high spatial frequencies. When the image information is transmitted by subsampling the input image signal, performing quantization, encoding, and transmitting the image information, the decoder reconstructs the original image through interpolation.

이처럼 입력 영상 신호를 서브 샘플링하면 화소 정보를 반으로 줄일 수 있다는 이점이 있다. 그러나, 종래의 복호기 부분에서 보간(Interpolation)을 할 때 화소 정보가 유실될 수 있기 때문에 복원된 영상이 원래의 영상보다 화질이 떨어진다는 문제점이 있었다.As described above, subsampling an input video signal can reduce pixel information in half. However, there is a problem that the reconstructed image is of lower quality than the original image because pixel information may be lost when interpolation is performed in the conventional decoder.

이데 본 발명은 상기한 바와 같은 종래의 문제점을 해결하기 위해 보간기를 부호기 부분의 서브 샘플링부에 추가 설치하여 원래의 입력 화상 신호와 서브 샘플링부 및 보간기를 통과한 신호의 차이 즉, 보간시 발생할 수 있는 유실 화소 정보 신호를 서브 샘플링된 신호와 별도로 DCT처리를 한 후 양자화 하고 부호화하여 전송함으로써, 복호기 부분에서 보간(Interpolation)할 때 전송된 유실 화소 정보 신호를 이용해 원래의 화상에 가까운 화상을 복원하는데 그 목적이 있다.However, in order to solve the above-described problems, the present invention may further include an interpolator installed in the subsampling unit of the encoder, so that the difference between the original input image signal and the signal passing through the subsampling unit and the interpolator may occur. DCT processing is performed separately from the sub-sampled signal, and then quantized, encoded, and transmitted, thereby restoring an image close to the original image using the missing pixel information signal transmitted during interpolation in the decoder. The purpose is.

상기와 같은 목적을 달성하기 위한 본 발명의 부호기는, 입력 화상 신호의 화소 정보를 감소시키기 위해 서브 샘플링을 수행하는 서브 샘플링부; 상기 서브 샘플링부에서 나온 서브 샘플링된 시간 계열의 화소치를 한 블럭이 8*8인 행렬의 연산에 따라 주파수 계열의 신호로 변환시키기 위한 제1이산 여현 변환부; 상기 제1이산 여현 변환부에서 변환된 화상 신호에 대해 데이타 비트를 할당하여 디지탈 수치화하는 제1양자화기; 상기 제1양자화기에서 양자화된 화상 신호를 부호화해주는 제1부호화기; 상기 서브 샘플링부에서 나온 서브 샘플링된 화상 신호를 보간해 주기 위한 보간기; 상기 입력 화상 신호와 상기 보간기에서 보간된 서브 샘플링 신호의 자신호를 만들어내기 위한 감산기; 상기 감산기에서 나온 상기 입력 화상 신호와 상기 보간기에서 보간된 서브 샘플링 신호의 차 신호를 한 블럭이 8*8인 행렬의 연산에 따라 주파수 계열의 신호로 변환시키기 위한 제2이산 여현 변환부; 상기 제2이산 여현 변환부에서 변환된 상기 차 신호에 데이타 비트를 할당하여 디지탈 수치화하는 제2양자화기; 및 상기 제2양자화기에서 양자화된 상기 차 신호를 부호화해주는 제2부호화기를 포함하여 구성된 것을 특징으로 한다. 이하, 첨부한 도면을 참조하여 본 발명에 대해서 상세히 설명하기로 한다.The encoder of the present invention for achieving the above object comprises a sub-sampling unit for performing sub-sampling to reduce the pixel information of the input image signal; A first discrete cosine transformer for converting the pixel values of the sub-sampled time series from the sub-sampling unit into a signal of a frequency series according to an operation of a matrix having one block of 8 * 8; A first quantizer configured to digitally quantize data bits to the image signals converted by the first discrete cosine converter; A first encoder for encoding an image signal quantized by the first quantizer; An interpolator for interpolating a subsampled image signal from the subsampling unit; A subtractor for generating a self signal of the input image signal and the sub-sampling signal interpolated in the interpolator; A second discrete cosine converting unit for converting a difference signal between the input image signal from the subtractor and the sub-sampling signal interpolated by the interpolator into a signal of a frequency sequence according to an operation of a matrix having one block of 8 * 8; A second quantizer configured to digitally quantize data bits to the difference signals converted by the second discrete cosine converter; And a second encoder for encoding the difference signal quantized by the second quantizer. Hereinafter, with reference to the accompanying drawings will be described in detail with respect to the present invention.

제5도는 본 발명에 따른 부호기의 부분 블럭도로서, 입력화상신호에 대하여 서브샘플링을 수행하는 서브샘플링부(10), 입력화상신호의 샘플링된 시간 계열의 화소치를 한 블럭이 8*8인 행렬의 연산에 따라 주파수 계열의 신호로 변환시키기 위한 제1이산 여현 변환부(12); 상기 제1이산 여현 변환부(12)에서 변환된 화상 신호에 대해 데이타 비트를 할당하여 디지탈 수치화하는 제1양자화기(14); 상기 제1양자화기(14)에서 양자화된 화상 신호를 부호화해주는 제1부호화기(16); 상기 서브 샘플링부(10)에서 나온 서브 샘플링된 화상 신호를 보간해 주기 위한 보간기(18); 상기 입력 화상 신호와 상기 보간기(18)에서 보간된 서브 샘플링 신호의 차신호를 만들어내기 위한 감산기(20); 상기 감산기(20)에서 나온 입력 화상 신호와 상기 보간기에서 보간된 서브 샘플링 신호의 차 신호를 한 블럭이 8*8인 행렬의 연산에 따라 주파수 계열의 신호로 변환시키기 위한 제2이산 여현 변환부(22); 상기 제2이산 여현 변환부(22)에서 변환된 상기 차 신호에 대해 데이타 비트를 할당하여 디지탈 수치화하는 제2양자화기(24); 및 상기 제2양자화기(24)에서 양자화된 상기 차 신호를 부호화해주는 제2부호화기(26)로 이루어진다.5 is a partial block diagram of an encoder according to the present invention, in which a subsampling unit 10 which performs subsampling on an input image signal, and a matrix in which one block of pixel values of the sampled time series of the input image signal are 8 * 8. A first discrete cosine converting unit 12 for converting into a signal of a frequency series in accordance with the operation of; A first quantizer (14) for allocating data bits to digital digitization of the image signal converted by the first discrete cosine converter (12); A first encoder 16 for encoding an image signal quantized by the first quantizer 14; An interpolator (18) for interpolating the subsampled image signal from the subsampling unit (10); A subtractor (20) for generating a difference signal between the input image signal and the subsampling signal interpolated by the interpolator (18); A second discrete cosine converter for converting a difference signal between the input image signal from the subtractor 20 and the sub-sampling signal interpolated by the interpolator into a signal of frequency series according to a matrix of 8 * 8 blocks (22); A second quantizer (24) for digitally quantizing data bits for the difference signals converted by the second discrete cosine transform unit (22); And a second encoder 26 for encoding the difference signal quantized by the second quantizer 24.

제5도를 참조하여 본 발명의 동작을 살펴보면 다음과 같다.Referring to Figure 5 looks at the operation of the present invention.

서브 샘플링부(10)에서는 입력 화상 신호의 화소 정보를 감소시키기 위해 바둑판처럼 되어 있는 원 화상의 화소들을 모두 이용하지 않고 중간 중간의 화소들을 추출해낸다.In order to reduce pixel information of the input image signal, the sub-sampling section 10 extracts the pixels in the middle without using all the pixels of the original image which are like a checkerboard.

제1이산 여현 변환부(12)에서는 상기 서브 샘플링부(10)에서 나온 서브 샘플링된 시간 계열의 화소치를 한 블럭이 8*8인 행렬의 연산에 따라 주파수 계열의 신호로 변환시킨다.The first discrete cosine transforming unit 12 converts the pixel values of the sub-sampled time series from the sub-sampling unit 10 into signals of a frequency series in accordance with a matrix operation in which one block is 8 * 8.

제1양자화기(14)에서는 상기 제1이산 여현 변환부(12)에서 변환된 화상 신호에 대해 데이타 비트를 할당하여 디지탈 수치화한다. 각각의 양자화 간격 사이의 값은 종합해서 하나의 부호로 할당되며, 복원시에는 이 범위를 대표하는 양자화 대표값이 사용된다. 제1부호화기(16)에서는 상기 제1양자화기(14)에서 양자화된 화상 신호를 부호화해주는 작용을 한다.The first quantizer 14 assigns data bits to the image signal converted by the first discrete cosine transforming unit 12 to digitally digitize them. The values between the respective quantization intervals are collectively assigned to one code, and in reconstruction, a quantization representative value representing this range is used. The first encoder 16 functions to encode an image signal quantized by the first quantizer 14.

보간기(18)에서는 상기 서브 샘플링부(10)에서 나온 서브 샘플링된 화상신호를 보간해 주는 작용을 한다. 감산기(20)에서는 상기 입력 화상 신호와 상기 보간기(18)에서 보간된 서브 샘플링 신호의 차이를 이용하여 차 신호를 만들어낸다.The interpolator 18 serves to interpolate the subsampled image signal from the subsampling unit 10. The subtractor 20 generates a difference signal by using a difference between the input image signal and the subsampling signal interpolated by the interpolator 18.

제2이산 여현 변환부(22)에서는 상기 감산기(20)에서 감산된 차 신호를 한 블럭이 8*8인 행렬의 연산에 따라 주파수 계열의 신호로 변환시켜주는 작용을 한다.The second discrete cosine transformer 22 converts the difference signal subtracted by the subtractor 20 into a signal of a frequency series according to a matrix operation of one block of 8 * 8.

제2양자화기(24)에서는 상기 제2이산 여현 변환부(22)에서 변환된 상기 차 신호에 대해 데이타 비트를 할당하여 디지탈 수치화하는 역할을 한다.The second quantizer 24 performs digital digitization by allocating data bits to the difference signal converted by the second discrete cosine transform unit 22.

제2부호화기(26)에서는 상기 제2양자화기(24)에서 양자화된 상기 차신호를 부호화해주는 작용을 한다.The second encoder 26 functions to encode the difference signal quantized by the second quantizer 24.

이상에서 살펴본 바와 같이 본 발명은 보간기(18)를 부호기 부분의 서브 샘플링부(10)에 추가 설치하여 원래의 입력 화상 신호와 서브 샘플링부(10) 및 보간기(18)를 통과한 신호의 차이 즉, 보간시 발생할 수 있는 유실 화소정보 신호를 서브 샘플링된 신호와 별도로 이산 여현 변환(DCT)처리한 후 양자화하고 부호화하여 전송함으로써, 복호기 부분에서 보간(Interpolation)을 할 때 전송된 유실 화소 정보 신호를 이용해 원래의 화상에 가까운 화상을 복원하는데 그 효과가 있다.As described above, according to the present invention, the interpolator 18 is additionally installed in the sub-sampling unit 10 of the encoder portion, so that the original input image signal and the signal passing through the sub-sampling unit 10 and the interpolator 18 are separated. In other words, the lost pixel information signal that may occur during interpolation is subjected to discrete cosine transform (DCT) processing separately from the sub-sampled signal, and then quantized, encoded, and transmitted, so that the lost pixel information transmitted when interpolation is performed in the decoder part. It is effective to restore an image close to the original image using the signal.

Claims (1)

입력 화상 신호의 화소 정보를 감소시키기 위해 서브 샘플링을 수행하기 위한 서브샘플링부(10), 상기 서브샘플링부(10)에서 공급되는 서브 샘플링된 시간 계열의 화소치를 한 블럭이 8*8인 행렬의 연산에 따라 주파수 계열의 신호로 변환시키기 위한 제 1이산여현변환부(12), 상기 제1이산여현변환부(12)에서 변환된 화상 신호에 대해 데이타 비트를 할당하여 디지탈 수치화하는 제1양자화기(14)와, 상기 제1양자화기(14)에서 양자화된 화상신호를 부호화하는 제1부호화기(16)를 구비하는 서브샘플링을 이용한 이산여현변환 부호기에 있어서, 상기 서브 샘플링부(10)에서 공급되는 서브 샘플링된 화상신호를 보간하는 보간기(18); 상기 입력화상신호와 상기 보간기(18)에서 보간된 서브 샘플링 신호의 차 신호를 생성하여 서브샘플링시의 유실화소정보신호를 출력하는 감산기(20); 상기 감산기(20)에서 출력되는 서브샘플링시의 유실화소정보신호를 한 블럭이 8*8인 행렬의 연산에 따라 주파수 계열의 신호로 변환시키기 위한 제2이산여현변환부(22); 상기 제2이산여현변환부(22)에서 변환된 상기 서브샘플링시의 유실화소 정보신호에 대해 데이타 비트를 할당하여 디지탈 수치화하는 제2양자화기(24); 및 상기 제2양자화기(24)에서 양자화된 상기 서브샘플링시의 유실화소정보 신호를 부호화하는 제2부호화기(26)를 포함하여 구성된 서브 샘플링을 이용한 이산 여현 변환 부호기.A subsampling unit 10 for performing subsampling to reduce pixel information of an input image signal, and a pixel value of a subsampled time series pixel value supplied from the subsampling unit 10 A first quantizer for digitally quantizing by allocating data bits to an image signal converted by the first discrete cosine transforming unit 12 for converting into a signal of a frequency series according to the operation (14) and a discrete cosine transform encoder using subsampling having a first encoder (16) for encoding an image signal quantized by the first quantizer (14), supplied by the subsampling unit (10). An interpolator 18 for interpolating a subsampled image signal to be output; A subtractor 20 generating a difference signal between the input image signal and the subsampling signal interpolated by the interpolator 18 and outputting a lost pixel information signal during subsampling; A second discrete cosine transforming unit (22) for converting the lost pixel information signal outputted from the subtractor (20) into a signal of a frequency sequence according to an operation of a matrix having one block of 8 * 8; A second quantizer (24) for allocating data bits to digitally digitized the lost pixel information signal during subsampling converted by the second discrete cosine transforming unit (22); And a second encoder (26) for encoding the lost pixel information signal during the subsampling quantized by the second quantizer (24).
KR1019950005797A 1995-03-20 1995-03-20 A dct encoder using subsampling method KR0178900B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1019950005797A KR0178900B1 (en) 1995-03-20 1995-03-20 A dct encoder using subsampling method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1019950005797A KR0178900B1 (en) 1995-03-20 1995-03-20 A dct encoder using subsampling method

Publications (2)

Publication Number Publication Date
KR960036694A KR960036694A (en) 1996-10-28
KR0178900B1 true KR0178900B1 (en) 1999-05-01

Family

ID=19410133

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1019950005797A KR0178900B1 (en) 1995-03-20 1995-03-20 A dct encoder using subsampling method

Country Status (1)

Country Link
KR (1) KR0178900B1 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5923789A (en) * 1996-08-07 1999-07-13 General Electric Company Band limited interpolation and projection of spatial 3-D images
KR100670459B1 (en) * 2004-12-10 2007-01-16 엘지전자 주식회사 Video coding and decoding system

Also Published As

Publication number Publication date
KR960036694A (en) 1996-10-28

Similar Documents

Publication Publication Date Title
US5049993A (en) Format conversion preprocessing method and circuit
KR100289587B1 (en) An image signal encoding method and an image signal encoding apparatus, an image signal decoding method and an image signal decoding apparatus, and an image signal recording medium
JP3215413B2 (en) Information compression method and apparatus for compatible decoding of high resolution television signals
US5055927A (en) Dual channel video signal transmission system
KR950000830B1 (en) Method and apparatus for coding digital video signal
WO1993010628A1 (en) Motion filter for digital television system
JPH04235495A (en) Method, deviice and system of compressing digitized picture signal
EP0618729B1 (en) Video-signal transmitting and receiving apparatus and method thereof
EP0836327B1 (en) Video coding/decoding apparatus and method
HUT63528A (en) Method, coder and decoder for transmitting and compatible receiving standardized television signals
JPH0937243A (en) Moving image coder and decoder
KR0178900B1 (en) A dct encoder using subsampling method
Beuker et al. Analysis of interlaced video signals and its applications
NZ230454A (en) Enhanced definition tv system: generating signal in alternate formats
US5438368A (en) System for the compatible processing of a progressively scanned image signal in line interlaced format
AU645200B2 (en) Method and apparatus for video signal bandwidth reduction with high quality compatible signal
US5303060A (en) Apparatus for recording and/or reproducing HDTV signals
CA2068719C (en) Transmission system
EP0944264B1 (en) Apparatus and method of encoding/decoding moving picture and storage medium storing encoded moving picture
US7003036B2 (en) Encoder, decoder, encoding method and decoding method for color moving image and method of transferring bitstream of color moving image
JP2916719B2 (en) Encoding method, encoding device, and encoding / decoding device
JPH01261989A (en) Method for processing color video signal
Schamel Motion-adaptive four-channel HDTV subband/DCT coding
JPH0530494A (en) Picture encoding and decoding device
Arragon et al. Instrumentation of a compatible HD-MAC coding system using DATV

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
LAPS Lapse due to unpaid annual fee