KR101259063B1 - A image processing device and blocking effect removal method of the same - Google Patents

A image processing device and blocking effect removal method of the same Download PDF

Info

Publication number
KR101259063B1
KR101259063B1 KR1020060050383A KR20060050383A KR101259063B1 KR 101259063 B1 KR101259063 B1 KR 101259063B1 KR 1020060050383 A KR1020060050383 A KR 1020060050383A KR 20060050383 A KR20060050383 A KR 20060050383A KR 101259063 B1 KR101259063 B1 KR 101259063B1
Authority
KR
South Korea
Prior art keywords
value
luminance
compensation
target pixel
blocks
Prior art date
Application number
KR1020060050383A
Other languages
Korean (ko)
Other versions
KR20070116392A (en
Inventor
김길태
Original Assignee
엘지디스플레이 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지디스플레이 주식회사 filed Critical 엘지디스플레이 주식회사
Priority to KR1020060050383A priority Critical patent/KR101259063B1/en
Publication of KR20070116392A publication Critical patent/KR20070116392A/en
Application granted granted Critical
Publication of KR101259063B1 publication Critical patent/KR101259063B1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • H04N19/45Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder performing compensation of the inverse transform mismatch, e.g. Inverse Discrete Cosine Transform [IDCT] mismatch
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/625Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using discrete cosine transform [DCT]

Abstract

본 발명은 영상처리장치 및 이의 블록화 현상 제거장치에 관한 것으로써, 본 발명의 실시예에 의한 영상처리장치는 DCT부와 양자화기를 구비하는 8×8부호화기 및, 역양자화기와, 역DCT부와, 블록분산부를 구비하는 복호화기로 구성되어 있다. The present invention relates to an image processing apparatus and an apparatus for removing blocking phenomenon thereof, wherein an image processing apparatus according to an embodiment of the present invention comprises an 8x8 encoder and a dequantizer, an inverse quantizer, an inverse quantizer, It is comprised by the decoder provided with a block dispersion part.

상기 블록분산부는 복호화된 영상신호를 블록단위로 저장하는 8×8진행부와, 상기 8×8진행부에 저장된 영상신호를 통해 블록간의 휘도차이값, 및 휘도값을 보상하고자하는 목적화소에 해당하는 보상변수를 결정하는 제어부와, 상기 보상변수를 통해 보상값을 결정하는 승산기와, 상기 목적화소와 보상값을 가산하는 가산기로 구성되어 있다.The block spreader corresponds to an 8x8 progression unit for storing the decoded video signal in units of blocks, and a target pixel for compensating the luminance difference value and the luminance value between blocks through the video signal stored in the 8x8 progression unit. And a control unit for determining a compensation variable, a multiplier for determining a compensation value through the compensation variable, and an adder for adding the target pixel and the compensation value.

본 발명의 실시예에 의한 영상처리장치의 블록화 현상 제거방법은 블록단위로 화소의 휘도값을 저장하는 단계와, 블록간의 휘도차이값을 추출하는 단계와, 상기 목적화소의 휘도보상정도에 따른 보상값을 결정하는 단계와, 상기 목적화소의 휘도값에 상기 보상값을 가산하는 단계로 이루어져 있다.According to an embodiment of the present invention, there is provided a method of removing a blocking phenomenon of an image processing apparatus. Determining a value, and adding the compensation value to the luminance value of the target pixel.

따라서, 여파기를 통한 반복여파과정을 거치지 않아, 영상신호를 실시간으로 처리할 수 있으며, 간단한 구조의 블록분산부를 구비하여 블록간의 휘도차를 보상하므로써 효율적으로 블록화 현상을 방지 할 수 있다.Therefore, the video signal can be processed in real time without undergoing the repeated filtering process through the filter, and the block dispersing phenomenon can be efficiently prevented by compensating the luminance difference between blocks with a simple block dispersing unit.

Description

영상 처리장치 및 이의 블록화 현상 제거방법 {A image processing device and blocking effect removal method of the same} Image processing device and blocking effect removal method of the same}

도 1a 및 도 1b는 일반적인 부호화기 및 복호화기의 구성을 개략적으로 도시한 블록도이다.1A and 1B are block diagrams schematically illustrating the configuration of a general encoder and a decoder.

도 2는 영상신호를 반복저역여파처리한 신호와 반복저역임계여파처리한 신호를 설명하기 위한 그래프이다.2 is a graph for explaining a signal obtained by performing repeated low pass filtering on a video signal and a signal obtained by performing repeated low pass filtering.

도 3a 및 도 3b 는 본 발명의 실시예에 의한 영상표시장치의 구성을 개략적으로 도시한 블록도이다.3A and 3B are block diagrams schematically illustrating a configuration of an image display apparatus according to an embodiment of the present invention.

도 4는 도 3b 의 복호화기의 블록분산부를 구체적으로 도시한 블록도이다.FIG. 4 is a block diagram specifically illustrating a block spreader of the decoder of FIG. 3B.

도 5는 도 4의 블록분산부의 8×8진행부에서 영상신호의 처리방법을 설명하기 위한 모식도이다.FIG. 5 is a schematic diagram for describing a method of processing an image signal in an 8 × 8 progression unit of the block dispersion unit of FIG. 4.

도 6은 도 4의 블록분산부의 블록화 현상 제거방법을 설명하기 위한 흐름도이다.FIG. 6 is a flowchart for describing a method of removing a block phenomenon of the block spreader of FIG. 4.

<도면의 주요부분에 대한 명칭><Name of main part of drawing>

80 : 복호화기 82 : 8×8진행부80: decoder 82: 8 × 8 progression section

84 : 제어부 86 : 승산기84 control unit 86 multiplier

88 : 가산기88: adder

본 발명은 영상 처리(processing)장치에 관한 것으로, 특히 영상신호 압축 및 복원시의 양자화 및 역양자화 과정에서 발생하는 블록화 현상을 제거하는 영상 처리장치에 관한 것이다.BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an image processing apparatus, and more particularly, to an image processing apparatus for removing a blocking phenomenon occurring during quantization and dequantization during image signal compression and reconstruction.

최근 대량의 아날로그 정보들이 디지털로 전환되는 추세이며, 특히 그 크기가 매우 방대한 영상정보의 송/수신 또는 저장시에 한정된 데이터 전송대역폭을 효율적으로 이용하기 위해 다양한 영상신호의 압축 및 복원 기술이 제안되었다.Recently, a large amount of analog information has been converted to digital, and various video signal compression and decompression techniques have been proposed to efficiently use a limited data transmission bandwidth when transmitting / receiving or storing video information having a very large size.

여기서, 영상신호의 압축이란 영상 신호에 내재하는 중복성(Redundancy)을 제거한다는 의미로서, 영상 신호에 내재하는 중복성에는, 동작하는 부분이외에는 전 화면과 후 화면이 서로 같다는 시간의 중복성(temporal redundancy)과, 화면내에서도 이웃하는 화소간에는 서로 비슷하다는 공간적 중복성(spatial redundancy)과, 부호화 후 특정 값의 출현빈도가 높거나 낮다는 통계적 중복성(Statistical redundancy)등이 있다.Here, the compression of the video signal means removing redundancy inherent in the video signal. The redundancy inherent in the video signal includes a temporal redundancy in which the front screen and the back screen are equal to each other except for an active part. In addition, there are spatial redundancy that is similar to each other among neighboring pixels even in a screen, and statistical redundancy that a frequency of occurrence of a specific value is high or low after encoding.

일반적으로 이러한 중복성을 제거하기 위한 방법으로 이산여현변환(Discrete Cosine Transform, 이하 DCT) 과정을 거치는데, 이 DCT 과정은 시간계열의 신호를 주파수계열의 신호로 변환하는 과정이며, 시간계열의 화소값을 행렬 연산에 따라 주파수 계열의 신호로 변환하는 과정이다. 이러한 DCT은 영상신호는 공간방향으로의 상관성이 큰 것에 바탕을 둔 것으로서, 영상의 모든 화소에 분산된 에너지를 직류성분을 포함한 낮은 주파수를 갖는 몇 개의 변환 계수에 집중시킨 후 이들의 장점을 적절히 이용하는 방식이다. 따라서, DCT과정을 거친 데이터들 즉, DCT 계수들은 행렬연산 결과가 저주파수 방향으로 집중하게 되고, 이후 양자화 과정을 통해서 데이터의 크기를 줄인다.In general, as a method for removing such redundancy, a discrete cosine transform (DCT) process is used. The DCT process is a process of converting a signal of a time sequence into a signal of a frequency sequence, and a pixel value of a time sequence. Is a process of converting the signal into a frequency series signal according to a matrix operation. The DCT is based on the high correlation of the video signal in the spatial direction. The DCT concentrates the energy dispersed in all the pixels of the image on a few conversion coefficients having a low frequency including a DC component, and then uses the advantages of the DCT. That's the way. Therefore, the DCT data, that is, the DCT coefficients, concentrate the matrix calculation result in the low frequency direction, and then reduce the size of the data through the quantization process.

양자화는 일반적으로 실수값을 갖는 각 DCT 계수들을 한정된 데이터 길이로 표현하기위한 과정이다. 이와 같은 양자화 과정에서 양자화 잡음이 발생하여 데이터의 손실이 발생하게 된다. 이러한 데이터의 손실을 줄이기 위해 데이터가 집중되어 있는 DCT 계수의 저주파수 성분은 조밀하게 양자화하고, 데이터가 적은 DCT 계수의 고주파수 성분은 성기게 양자화하여 데이터손실을 최소화하여 데이터양을 줄인다. 그러나 어느 정도의 손실은 감수해야 했다.Quantization is a process for representing each DCT coefficients having a real value with a limited data length. In such a quantization process, quantization noise occurs and data loss occurs. In order to reduce such data loss, the low frequency components of the DCT coefficients in which the data are concentrated are densely quantized, and the high frequency components of the DCT coefficients with little data are sparsely quantized to minimize the data loss to reduce the amount of data. But some loss had to be paid.

도 1a 및 도 1b는 일반적인 영상 부호화기(Encoder) 및 복호화기(Decoder)의 구성을 개략적으로 도시한 도면으로써, 도 1a에 도시한 바와 같이 부호화기(1)는 스무싱(smoothing)과정을 통한 영상의 잡음을 제거하는 여과기(2)와, 신호의 시간계열의 영역을 주파수계열의 영역으로 변환하는 DCT부(3)와, 실제 데이터의 크기를 줄이는 양자화기(4)로 구성된다.1A and 1B schematically illustrate the configuration of a typical encoder and decoder, and as illustrated in FIG. 1A, the encoder 1 may perform an image smoothing process. A filter 2 for removing noise, a DCT unit 3 for converting a time sequence region of a signal into a frequency sequence region, and a quantizer 4 for reducing the size of actual data.

여과기(2)는 일반적인 대역제한여파기로써, 입력되는 소정단위의 영상신호에 포함되어 있는 저주파신호만을 통과시켜 고주파성분을 제거하고, 이 고주파성분이 제거된 저역여파신호를 DCT부(3)로 출력한다.The filter 2 is a general band-limiting filter, and removes high frequency components by passing only low frequency signals included in an input video signal of a predetermined unit, and outputs the low frequency signals from which the high frequency components have been removed to the DCT unit 3. do.

DCT부(3)는 상기의 공간적인 중복성을 제거하는 수단으로써, 화면내에 인접하는 화소들간의 높은 상관도를 이용하여 블록단위(8×8)씩 DCT 계수로 변환하고, 이를 양자화기(4)로 출력한다.As a means of removing the spatial redundancy, the DCT unit 3 converts the DCT coefficients by block units (8 × 8) by using a high correlation between adjacent pixels in the screen, and the quantizer 4 Will output

양자화기(4)는 실수값을 갖는 DCT 계수를 입력받아 각 주파수성분을 한정된 데이터 길이로 표현하기 위해 상기 DCT 계수값을 일정한 스텝간격의 집합으로 구분하고, 각 입력 DCT 계수값이 속하는 집합을 찾아 그 집합의 대표값으로 부호화된 비트스트링을 발생한다.The quantizer 4 receives DCT coefficients having a real value and divides the DCT coefficient values into a set of predetermined step intervals to express each frequency component with a limited data length, and finds a set to which each input DCT coefficient value belongs. Generates a bitstring encoded by the representative value of the set.

이러한 과정을 거쳐 부호화된 비트스트링은 복호화기(5)를 통해 영상신호로 복원된다. 도 1b를 참조하면, 상기 복호화기(5)는 부호화된 비트스트링을 입력받아 양자화과정시에 나누어주었던 특정상수를 곱해주는 역양자화기(6)와, 역 DCT 과정을 수행하는 역 DCT부(7)로 구성된다.Through this process, the encoded bitstring is reconstructed into a video signal by the decoder 5. Referring to FIG. 1B, the decoder 5 receives an encoded bitstring and multiplies a specific constant divided during quantization, and an inverse DCT unit 7 for performing an inverse DCT process. It consists of

이러한 과정을 거쳐 출력되는 복원 영상신호는 양자화 및 역양자화 과정을 거치면서 양자화 잡음으로 인한 블록화 현상(Blocking effect)이 발생한다. 즉, 일반적으로 DCT 과정은 블록단위(8×8)로 진행되기 때문에 양자화시 및 역영자화 과정을 거친 영상신호는 인접한 블록간에 휘도차이로 인하여 블록경계가 현저하게 눈에 띄는 현상이 발생하게 된다.The reconstructed video signal output through this process generates a blocking effect due to quantization noise while undergoing quantization and inverse quantization. That is, in general, since the DCT process is performed in block units (8 × 8), a block boundary becomes noticeable due to a difference in luminance between adjacent blocks due to quantization and inverse magnetization.

이러한 문제를 해결하기 위해, 상기 여파기(2)에 저역임계여파기를 다수개를 구비하여 반복적으로 저역여파하는 방법이 개시되었는데, 1994년 전자공학회논문지-B 제32권 1호에 게재된 "블록화현상 제거를 위한 반복임계저역여파기"논문을 참조 하여 이를 개략적으로 설명하면 하기와 같다.In order to solve this problem, a method for repeatedly low-pass filtering having a plurality of low-pass filter in the filter (2) has been disclosed, the "blocking phenomenon" published in the Journal of the Institute of Electronics Engineers B, No. 32, 1994 It will be described schematically with reference to the paper "Repeating critical low pass filter for removal" as follows.

상기 논문을 참조하면, 부호화시에 발생하는 블록화현상을 제거하기 위해 반복적인 저역여파(Low pass filtering)과정을 거치고, 또한 반복적인 저역여파과정으로 인하여 발생하는 화질의 흐려짐 현상을 방지하기 위해 임계값(T)를 설정한다. 이에 대한 수식은 하기 식 1과 같다.Referring to the above paper, a repetitive low pass filtering process is used to remove a block phenomenon occurring during encoding, and a threshold value is used to prevent blurring of image quality caused by the repetitive low pass filtering process. Set (T). The equation for this is shown in Equation 1 below.

Figure 112006039608310-pat00001
..............식 1
Figure 112006039608310-pat00001
Equation 1

여기서 출력

Figure 112006039608310-pat00002
은 t번 저역여파과정을 거친 출력화소이고, in[i,j]는 저역여파하고자 하는 영상의 화소이며, LPF는 저역여파기이다. 다수개의 저역여파기를 구비하고, t번 저역여파하여 원 영상신호와의 차이가 임계값(T)를 넘으면 반복적인 저역여파를 멈추고 임계값(T)을 넘지 않으면 저역여파를 반복한다.Where output
Figure 112006039608310-pat00002
Is the output pixel after t low pass filtering, in [i, j] is the pixel of the image to be low filtered, and LPF is the low filter. A plurality of low-pass filters are provided, and the low-pass filter is repeated t times, and when the difference with the original video signal exceeds the threshold value T, the repeated low frequency filter stops.

이에 따라, 반복임계저역여파 방식은 도 2에 도시한 바와 같이, 원 신호는 반복저역여파과정만을 거친 신호와는 달리 원 영상신호와 거의 동일한 복원신호로 복호화되어 효율적으로 블록화 현상을 방지할 수 있으나, 반복적인 특성으로 인하여 영상신호의 변화에 따라 처리시간이 지체된다. 따라서, 영상이 실시간(Real time)으로 처리되는 분야에서는 적용에 어려움이 있었다.Accordingly, in the repeated critical low pass method, as shown in FIG. 2, unlike the signal that has undergone only the repeated low pass process, the original signal is decoded into a reconstruction signal that is almost the same as that of the original video signal, thereby effectively preventing the blocking phenomenon. Due to the repetitive characteristics, processing time is delayed due to the change of the video signal. Therefore, there is a difficulty in application in the field in which the image is processed in real time.

본 발명의 영상 처리장치 및 이의 블록화 현상 제거방법은 영상의 부호화 및 복호화 과정시에 발생하는 블록화 현상을 방지하기 위한 저역여과부의 반복처리과정을 거치지 않고 블록화 현상을 제거하는 영상처리장치를 제공하는데 있다.An image processing apparatus and a method of removing a blocking phenomenon thereof according to the present invention provide an image processing apparatus for removing a blocking phenomenon without undergoing an iterative processing of a low pass filter to prevent a blocking phenomenon occurring during encoding and decoding of an image. .

이하, 도 3a 및 도 3b를 참조하여 본 발명의 실시예에 의한 영상처리장치를 설명하면 하기와 같다. Hereinafter, an image processing apparatus according to an embodiment of the present invention will be described with reference to FIGS. 3A and 3B.

도 3a 및 도 3b는 본 발명의 실시예에 의한 영상처리장치를 도시한 도면으로써, 도 3a는 입력되는 원 영상신호를 DCT방식으로 부호화하는 부호화기(10)와, 도 3b는 부호화된 비트스트링을 다시 복원 영상신호로 복호화하는 복호화기(50)로 구성된다.3A and 3B illustrate an image processing apparatus according to an exemplary embodiment of the present invention. FIG. 3A illustrates an encoder 10 encoding an input original image signal using a DCT scheme, and FIG. 3B illustrates an encoded bitstring. And a decoder 50 for decoding the reconstructed video signal.

부호화기(10)는 DCT부(20)와 양자화기(30)로 구성되며, DCT부(20)는 원 영상신호를 부호화 및 복호화 과정시 발생하는 블록화 현상을 제거하기 위한 반복임계저역여파과정을 거치지 않고, 원 영상신호를 블록단위(8×8)로 직접 입력받아 이산변환과정을 거쳐 시간성분의 영상신호를 주파수성분의 DCT계수로 변환한다. 또한, 양자화기(30)는 이러한 형태로 변환된 실수값을 갖는 DCT계수를 입력받아 각 주파수성분을 한정된 데이터 길이로 표현하기 위해, 상기 DCT계수를 일정한 스텝간격의 집합으로 구분하고 각 입력 DCT계수의 값이 속하는 집합을 찾아 그 집합의 대표값으로 부호화된 비트스트링을 발생한다.The encoder 10 is composed of a DCT unit 20 and a quantizer 30, and the DCT unit 20 is subjected to an iterative threshold low pass process to remove a blocking phenomenon generated during encoding and decoding an original video signal. Instead, the raw video signal is directly input in block units (8x8) and subjected to discrete conversion to convert the video signal of the time component into the DCT coefficient of the frequency component. In addition, the quantizer 30 receives a DCT coefficient having a real value converted into such a form and expresses each frequency component as a limited data length, and divides the DCT coefficient into a set of predetermined step intervals and inputs each input DCT coefficient. Find the set to which the value of belongs and generate a bitstring encoded with the representative value of the set.

복호화기(50)는 역양자화기(60), 역DCT부(70) 및 블록분산부(80)로 구성되며, 역 양자화기(60)는 부호화된 비트스트링을 다시 역양자화하고, 역DCT부(70)를 통해 역양자화된 DCT 계수를 다시 영상신호로 복원한다. The decoder 50 is composed of an inverse quantizer 60, an inverse DCT unit 70, and a block spreader 80. The inverse quantizer 60 inversely quantizes an encoded bitstring. Through 70, the inverse quantized DCT coefficients are reconstructed into a video signal.

블록분산부(80)는 블록(8×8)단위로 수직 및 수평라인상으로 발생하는 블록경계에서의 휘도차이로 인한 블록경계의 부각현상, 특히 인간의 시각특성상 보다 현저하게 부각되는 수직라인상의 블록화 현상을 제거하기 위해 인접한 블록간의 휘도차를 수직블록경계를 중심으로 1화소씩 좌우 4화소까지 단계적으로 분산시킨다.The block dispersion unit 80 has an incidence of the block boundary due to the luminance difference in the block boundary that occurs on the vertical and horizontal lines in units of blocks (8 × 8). In order to eliminate the blocking phenomenon, the luminance difference between adjacent blocks is distributed stepwise to four pixels left and right by the vertical block boundary.

도 5는 도 4의 블록분산부를 구체적으로 도시한 블록도로써, 복호화된 영상신호를 입력받는 8×8진행부(82)와, 이 8×8진행부(82)에 저장된 화소정보를 통해 제어신호를 발생하는 제어부(84)와, 상기 제어신호를 입력받아 목적화소의 휘도값을 보상하는 승산기(86) 및 가산기(88)로 구성되어있다.FIG. 5 is a block diagram illustrating the block diverter of FIG. 4 in detail, and is controlled through an 8 × 8 progression unit 82 receiving a decoded video signal and pixel information stored in the 8 × 8 progression unit 82. The controller 84 generates a signal, and a multiplier 86 and an adder 88 which receive the control signal and compensate the luminance value of the target pixel.

8×8진행부(82)는 역DCT부(도 3b의 70)로부터 복호화된 영상신호를 블록단위(8×8)로 입력받아, 제어부(84)가 처리가능한 형태로 저장한다.The 8x8 progression unit 82 receives the decoded video signal from the inverse DCT unit (70 in FIG. 3B) in block units (8x8), and stores it in a form that the control unit 84 can process.

제어부(84)는 상기 8×8진행부(82)에 배치된 화소의 블록간의 경계로부터 상대적 위치를 판별하여 블록간의 휘도차를 추출하고 보상변수를 결정한다.The controller 84 determines the relative position from the boundary between the blocks of the pixels arranged in the 8x8 progression unit 82, extracts the luminance difference between the blocks, and determines the compensation variable.

보다 구체적으로, 8×8진행부(82)에 저장되는 4개의 블록(A,B,C,D)의 화소들의 배치는 도 5와 같다. 여기서 각 블록간의 인접한 수직블록경계(V) 및 수평블록경계(H)에 블록화 현상이 발생하며, 특히 인간의 시각특성상 수직블록경계(V)의 블록화현상은 수평블록경계(H)의 블록화 현상보다 현저하게 부각된다.More specifically, the arrangement of the pixels of the four blocks A, B, C, and D stored in the 8 × 8 progression unit 82 is shown in FIG. 5. Here, the blocking phenomenon occurs in the adjacent vertical block boundary (V) and the horizontal block boundary (H) between each block, and in particular, the blocking phenomenon of the vertical block boundary (V) is higher than that of the horizontal block boundary (H). It is remarkable.

도 5에 도시한 바와 같이, 화소의 휘도값을 하기 식 2으로 정의한다.As shown in FIG. 5, the luminance value of a pixel is defined by following formula (2).

Figure 112006039608310-pat00003
..............식 2
Figure 112006039608310-pat00003
Equation 2

상기 식 2에서 i,j는 상기 8×8진행부(82)에 저장된 화소의 행과 열을 나타내고, m,n은 각각 블록경계를 중심으로 화소의 수평라인상 및 수직라인상의 상대적 위치를 나타낸다. 즉, m,n값은 수직 및 수평블록경계(V,H)를 중심으로 -4부터 3까지의 정수값을 갖게 되며, 한 블록의 최초 화소의 m,n 값은 각각 0,0이 된다.In Equation 2, i and j represent rows and columns of pixels stored in the 8 × 8 progression unit 82, and m and n represent relative positions on the horizontal line and the vertical line of the pixel with respect to the block boundary, respectively. . That is, the m and n values have integer values from -4 to 3 around the vertical and horizontal block boundaries V and H, and the m and n values of the first pixel of one block are 0 and 0, respectively.

이에 따라, 수직블록경계(V)에서 블록간의 휘도차는 하기의 식 3으로 정의된다.Accordingly, the luminance difference between blocks in the vertical block boundary V is defined by Equation 3 below.

Figure 112006039608310-pat00004
..............식 3
Figure 112006039608310-pat00004
Equation 3

바람직하게는, 제어부(84)는 수직블록경계(V)를 중심으로 i+n행,j-1열의 화소의 휘도값과, i+n행,j열의 화소의 휘도값과의 차를 구하는 감산기를 포함한다.Preferably, the control unit 84 calculates a difference between luminance values of pixels in i + n rows and j-1 columns and luminance values of pixels in i + n rows and j columns around the vertical block boundary V. It includes.

또한, 상기 제어부(84)는 8×8진행부(82)에 입력된 화소들에 대하여 수평라인상에서 상대적 위치를 판별하고, 이에 대응하여 거듭제곱계수(K)를 발생하여 승산기(86)로 출력한다.In addition, the controller 84 determines a relative position on the horizontal line with respect to the pixels input to the 8x8 progression unit 82, generates a power factor K corresponding thereto, and outputs the result to the multiplier 86. do.

승산기(86)는 상기 제어부(84)로부터 입력되는 수직블록경계(V)의 휘도차를 보상변수와 승산하여 보상값을 결정한다. 여기서 수직블록경계(V)에 인접할수록 보상정도를 크게 하고, 이격될수록 보상정도를 작게 하여야 한다. 이를 위해 상기 보상변수는 수직블록경계를 기준으로 상대적 위치에 따라 차등한 값으로 결정되며, 이에 따라 수직블록경계(V)의 휘도차를 각 화소에 점진적으로 분산시키게 된다.The multiplier 86 multiplies the luminance difference of the vertical block boundary V input from the controller 84 with the compensation variable to determine the compensation value. In this case, the closer to the vertical block boundary (V), the greater the compensation, and the farther apart, the smaller the compensation. To this end, the compensation variable is determined as a differential value depending on the relative position with respect to the vertical block boundary, thereby gradually dispersing the luminance difference of the vertical block boundary (V) to each pixel.

바람직하게는, 상기 보상변수는

Figure 112006039608310-pat00005
으로 정의된다. 여기서 이 보상변수 의 거듭제곱계수(K)는 휘도차를 보상하고자 하는 복원 영상신호의 목적화소와 수직블록경계(V)와의 이격정도이다. 이에 따라, 상기 제어부(84)로부터 입력되는 판별신호에 대응하여, 상기 거듭제곱계수(K)는 1 내지 4의 정수값이 되고, 보상변수가 1/2의 거듭제곱의 형태이므로 이 승산기의 승산과정은 비트쉬프트연산만으로 구현가능하다. 따라서, 상기 승산기(86)는 보상정도계수에 대응하여 수직블록경계(V)에서 블록간의 휘도차를 라이트 비트쉬프트(Right bit shift)하고, 가산기(88)로 출력한다.Preferably, the compensation variable is
Figure 112006039608310-pat00005
Is defined. Here, the power factor K of the compensation variable is the distance between the target pixel and the vertical block boundary V of the reconstructed video signal to compensate for the luminance difference. Accordingly, in response to the discrimination signal input from the controller 84, the power factor K is an integer value of 1 to 4, and since the compensation variable is in the form of a power of 1/2, the multiplier of this multiplier is multiplied. The process can be implemented only by bit shift operation. Accordingly, the multiplier 86 performs a right bit shift on the luminance difference between blocks in the vertical block boundary V in response to the compensation accuracy coefficient, and outputs the result to the adder 88.

또한, 상기 보상변수가 1/2의 거듭제곱의 형태로 정의되지 않을 경우, 승산과정은 비트쉬프트연산이 아닌 일반적인 승산연산으로 구현되며, 이때는 상기 수직블록경계에서 블록간의 휘도차와 보상변수를 승산하여 보상값을 결정하고, 이를 가산기(88)로 입력한다.In addition, when the compensation variable is not defined in the form of a power of 1/2, the multiplication process is implemented as a general multiplication operation rather than a bit shift operation. In this case, the luminance difference between the blocks and the compensation variable are multiplied in the vertical block boundary. To determine the compensation value and input it to the adder 88.

이후, 가산기(88)는 상기 목적화소의 휘도값과 상기 승산기로부터 입력되는 보상값을 가산하여 출력하게 된다.Thereafter, the adder 88 adds and outputs the luminance value of the target pixel and the compensation value input from the multiplier.

상술한 동작의 블록분산부를 식으로 나타내면 하기 식 4와 같다. The block dispersion unit of the above-described operation is represented by the following equation (4).

Figure 112006039608310-pat00006
..............식 4
Figure 112006039608310-pat00006
Equation 4

상기의 식에서 모든 변수는 정수이며, x는 블록화 현상이 제거된 화소, f는 목적화소, B는 수직블록경계에서 블록간의 휘도차, m,n은 각각 행과 열, 그리고 k 는 거듭제곱계수를 나타낸다. In the above equation, all variables are integers, x is a pixel from which blocking has been removed, f is a target pixel, B is a luminance difference between blocks in a vertical block boundary, m and n are rows and columns, and k is a power factor. Indicates.

여기서 상기 k는 n값이 0보다 작으면 즉, 목적화소가 수직블록경계의 좌측일 경우 k값은 n값의 절대값과 동일한 값으로 결정되며, n값이 0보다 크거나 같을 경우, n+1의 값으로 결정된다. Where k is equal to the absolute value of n, if n is less than 0, i.e., if the target pixel is to the left of the vertical block boundary, then n + is greater than or equal to 0, Determined by a value of 1.

또한, 상기 보상변수가 1/2의 거듭제곱의 형태가 아니라면, 보상값에서 상기 수직블록경계의 휘도차와 승산되는 값이 달라짐은 당연하다.In addition, unless the compensation variable is in the form of a power of 1/2, it is natural that the value multiplied by the luminance difference of the vertical block boundary in the compensation value is different.

도 6은 본 발명의 실시예에 따른 블록화 현상 제거방법의 흐름도로써, 본 발명의 실시예에 따른 블록화 현상 제거방법은 블록단위로 화소의 휘도값을 저장하는 단계(S1)와; 블록간의 휘도차를 추출하는 단계(S2)와; 휘도를 보상하려는 목적화소의 열값(n)을 추출하는 단계(S3)와; 상기 목적화소의 위치에 따라 거듭제곱계수를 정의하는 단계(S4-1 내지 S4-4)와; 보상값을 결정하는 단계(S5)와; 상기 목적화소의 휘도값을 보상값과 가산하는 단계(S6)를 포함한다. 6 is a flowchart of a blocking phenomenon removing method according to an embodiment of the present invention, the blocking phenomenon removing method according to an embodiment of the present invention comprises the steps of storing the luminance value of the pixel in blocks (S1); Extracting a luminance difference between blocks (S2); Extracting a column value n of the target pixel to compensate for brightness (S3); Defining a power factor according to the position of the target pixel (S4-1 to S4-4); Determining a compensation value (S5); And adding the luminance value of the target pixel to the compensation value (S6).

블록단위로 화소의 휘도값을 저장하는 단계(S1)는, 역DCT부터 입력되는 복호화된 영상신호를 블록단위(8×8)로 저장하는 단계로 이루어진다.The step S1 of storing the luminance value of the pixel in block units includes storing the decoded video signal input from the inverse DCT in block units (8x8).

블록간의 휘도차를 추출하는 단계(S2)는, 상기 블록단위(8×8)로 저장된 영상신호에서 각 행의 블록경계와 최초 인접한 화소들 중 우측화소의 휘도값에서 좌측화소의 휘도값을 감산하는 단계로 이루어진다.In the extracting of the luminance difference between blocks (S2), the luminance value of the left pixel is subtracted from the luminance value of the right pixel among the pixels adjacent to the block boundary of each row in the image signal stored in the block unit (8x8). It consists of steps.

휘도값을 보상하려는 목적화소의 열값(n)을 추출하는 단계(S3)는, 블록경계를 중심으로 -4부터 3까지의 휘도값을 보상하려는 목적화소의 열값(n)을 추출하는 단계로 이루어진다.The step S3 of extracting the column value n of the target pixel to compensate for the luminance value comprises extracting the column value n of the target pixel to compensate for the luminance values from -4 to 3 around the block boundary. .

상기 목적화소의 위치에 따라 거듭제곱계수(k)를 정의하는 단계(S4-1 내지 S4-4)는, 상기 추출된 목적화소의 열값(n)이 값이 0보다 작을 경우, 거듭제곱계수(k)는 목적화소의 열값(n)의 절대값(|n|)과 동일한 값으로 결정되는 단계와, 상기 목적화소의 열값(n)이 0보다 크거나 같은 경우, 목적화소의 열값(n)에 1을 가산한 값(n+1)으로 결정되는 단계로 이루어진다.Defining the power factor k according to the position of the target pixel (S4-1 to S4-4), if the value of the column value n of the extracted target pixel is less than 0, the power factor ( k) is determined to be equal to the absolute value (| n |) of the column value n of the target pixel, and when the column value n of the target pixel is greater than or equal to 0, the column value n of the target pixel. It is determined by the value (n + 1) to add 1 to.

보상값을 결정하는 단계(S5)는, 비트쉬프트회로를 상기 블록경계(V)에서 휘도차를 상기 거듭제곱계수(k)만큼 라이트비트쉬프트(Right bit shift)하는 단계로 이루어진다.The determining of the compensation value (S5) includes performing a bit shift circuit in the block boundary V to right bit shift the luminance difference by the power factor k.

상기 목적화소값과 보상값을 가산하는 단계(S6)는, 상기 역DCT부터 입력되는 복호화된 영상신호 중 보상하려는 목적신호와 상기 보상값을 가산하는 단계로 이루어진다. The adding of the target pixel value and the compensation value (S6) may include adding the compensation signal and the target signal to be compensated among the decoded video signals inputted from the inverse DCT.

따라서, 본 발명의 실시예에 의한 영상처리장치는 원 영상신호를 압축하는 부호화기에 구비되는 여파기를 절감하고, 압축 영상신호를 복원하는 복호화기에 블록분산부를 더 구비하여, 블록간의 휘도차를 블록경계에서부터 점진적으로 분산한다. Accordingly, the image processing apparatus according to the embodiment of the present invention reduces the filter provided in the encoder for compressing the original video signal, and further includes a block dispersing unit in the decoder for restoring the compressed video signal, thereby reducing the luminance difference between blocks. Gradually spread out from.

상기에서는 본 발명의 바람직한 실시예를 참조하여 설명하였지만, 해당 기술분야의 숙련된 당업자는 하기의 특허청구범위에 기재된 본 발명의 기술적 사상 및 영역으로부터 벗어나지 않는 범위내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다. It will be apparent to those skilled in the art that various modifications and variations can be made in the present invention without departing from the spirit or scope of the invention as defined in the appended claims. It can be understood that

따라서, 본 발명의 실시예에 의한 영상처리장치는, 부호화된 영상신호의 복호화시에 발생하는 블록화현상을 제거하기 위해 부호화기에 필연적으로 구비되는 다수개의 저역여파기를 절감하고, 복호화기에 단순한 연산을 수행하는 블록분산부를 구비하여, 실시간으로 처리되는 영상신호의 부호화시에 발생하는 블록화 현상을 효율적으로 제거할 수 있다.Accordingly, the image processing apparatus according to the embodiment of the present invention reduces a plurality of low pass filters that are inevitably provided in the encoder to remove a block phenomenon occurring when the encoded image signal is decoded, and performs a simple operation on the decoder. A block dispersing unit may be provided to efficiently remove a blockage phenomenon occurring during encoding of a video signal processed in real time.

Claims (10)

영상신호를 블록단위로 입력받아, 시간계열성분의 영상신호를 주파수계열성분의 DCT계수로 변환하는 DCT부와, 상기 DCT계수를 특정집합의 부호화된 비트스트링으로 변환하는 양자화기를 구비하는 부호화기와;An encoder comprising a DCT unit for receiving a video signal in block units and converting a video signal of a time sequence component into a DCT coefficient of a frequency sequence component, and a quantizer for converting the DCT coefficient into a coded bit string of a specific set; 상기 부호화기로부터 부호화된 비트스트링을 DCT계수로 변환하는 역양자화기와, 상기 주파수계열성분의 DCT계수를 시간계열성분의 복호화된 영상신호로 변환하는 역DCT부를 구비하는 복호화기 및; A decoder comprising an inverse quantizer for converting the bitstring encoded by the encoder into a DCT coefficient, and an inverse DCT unit for converting the DCT coefficient of the frequency sequence component into a decoded video signal of a time sequence component; 상기 복호화기에서 출력되는 복호화된 영상신호를 블록단위로 입력받아, 상기 복호화된 영상신호의 블록간의 휘도차를 주변의 다른 화소들로 분산시키는 블록분산부를 구비하고,A block spreader which receives the decoded video signal output from the decoder in units of blocks and distributes the luminance difference between the blocks of the decoded video signal to other pixels in the vicinity; 상기 블록분산부는 The block dispersion unit 상기 블록단위로 복호화된 영상신호를 입력받아 저장하는 8×8진행부와;An 8x8 progress unit which receives and stores the decoded video signal in units of blocks; 상기 8×8진행부에 저장된 영상신호를 입력받아 행 단위로 블록간의 휘도차를 추출하고, 휘도값을 보상하고자 하는 목적화소의 휘도보상정도인 보상변수를 결정하는 제어부와;A control unit which receives a video signal stored in the 8x8 progress unit, extracts a luminance difference between blocks in units of rows, and determines a compensation variable that is a luminance compensation degree of a target pixel to compensate for the luminance value; 상기 휘도차와 상기 보상변수를 승산하여 보상값을 결정하는 승산기와;A multiplier for determining a compensation value by multiplying the luminance difference and the compensation variable; 상기 보상값과 상기 목적화소의 휘도값을 가산하는 가산기를 구비하고,An adder for adding the compensation value and the luminance value of the target pixel; 상기 보상변수는 1/2의 거듭제곱형태인The compensation variable is a power of 1/2 것을 특징으로 하는 영상처리장치.Image processing apparatus, characterized in that. 제 1항에 있어서, 상기 복호화기는 The method of claim 1, wherein the decoder 블록화 제거를 위한 여파기를 구비하지 않는 것을 특징으로 하는 영상처리장치.An image processing apparatus, comprising: no filter for blocking removal. 삭제delete 제 1항에 있어서, 상기 블록간의 휘도차는The method of claim 1, wherein the luminance difference between the blocks 블록간의 경계를 중심으로 최초 우측화소의 휘도값에서 최초 좌측화소의 휘도값을 감산한 결과값인 것을 특징으로 하는 영상처리장치.And a result obtained by subtracting the luminance value of the first left pixel from the luminance value of the first right pixel centering on the boundary between blocks. 삭제delete 제 1항에 있어서, 상기 승산기는The multiplier of claim 1 wherein the multiplier 상기 휘도차이값을 블록경계를 기준으로 상기 목적화소의 위치값에 대응하는 횟수만큼 라이트 비트쉬프트 하는 것을 특징으로 하는 영상처리장치.And write bit shifting the luminance difference value by the number of times corresponding to a position value of the target pixel based on a block boundary. 블록단위로 복호화된 영상신호를 입력받아 저장하는 8×8진행부와; 상기 8×8진행부에 저장된 영상신호를 입력받아 블록간의 행 단위로 휘도차를 추출하고, 휘도값을 보상하고자하는 목적화소의 보상정도를 나타내는 보상변수를 결정하는 제어부와; 상기 휘도차와 상기 보상변수를 승산하여 보상값을 결정하는 승산기와; 상기 보상값과 상기 목적화소의 휘도값을 가산하는 가산기를 구비하는 것을 특징으로 하는 영상처리장치의 블록화 현상 제거방법에 있어서,An 8x8 progression unit which receives and stores the decoded video signal in block units; A control unit which receives a video signal stored in the 8 × 8 processing unit, extracts a luminance difference in units of rows between blocks, and determines a compensation variable indicating a compensation degree of a target pixel to compensate for the luminance value; A multiplier for determining a compensation value by multiplying the luminance difference and the compensation variable; In the block processing phenomenon removal method of the image processing apparatus, characterized in that it comprises an adder for adding the compensation value and the luminance value of the target pixel. 블록단위로 화소의 휘도값을 저장하는 단계와;Storing luminance values of pixels in block units; 블록간의 휘도차를 추출하는 단계와;Extracting a luminance difference between blocks; 상기 목적화소의 휘도보상정도에 따른 보상값을 결정하는 단계와;Determining a compensation value according to the luminance compensation degree of the target pixel; 상기 목적화소의 휘도값에 상기 보상값을 가산하는 단계를 포함하고,Adding the compensation value to the luminance value of the target pixel; 상기 목적화소의 휘도보상정도에 따른 보상값을 결정하는 단계는Determining a compensation value according to the luminance compensation degree of the target pixel 휘도값을 보상하려는 목적화소의 열값을 추출하는 단계와;Extracting a column value of the target pixel to compensate for the luminance value; 상기 추출된 목적화소의 열값이 값이 0보다 작을 경우, 상기 목적화소의 열값의 절대값 만큼 상기 블록간의 휘도차를 라이트비트쉬프트하는 단계와;If the extracted column value of the target pixel is less than 0, right-bit shifting the luminance difference between the blocks by an absolute value of the column value of the target pixel; 상기 목적화소의 열값(n)이 0보다 크거나 같은 경우, 상기 목적화소의 열값에 1을 가산한값 만큼 상기 블록간의 휘도차를 라이트비트쉬프트하는 단계를 포함하는 If the column value n of the target pixel is greater than or equal to 0, performing a light bit shift on the luminance difference between the blocks by a value obtained by adding 1 to the column value of the target pixel. 것을 특징으로 하는 영상처리장치의 블록화 현상 제거방법.Blocking phenomenon removal method of the image processing apparatus, characterized in that. 제7 항에 있어서, 블록단위로 화소의 휘도값을 저장하는 단계는 The method of claim 7, wherein storing the luminance value of the pixel in block units 복호화된 영상신호를 블록단위(8×8)로 저장하는 단계를 포함하는 것을 특징으로 하는 영상처리장치의 블록화 현상 제거방법.And storing the decoded video signal in block units (8x8). 제7 항에 있어서, 블록간의 휘도차를 추출하는 단계는8. The method of claim 7, wherein extracting the luminance difference between blocks 각 행의 블록경계와 최초 인접한 화소들 중 우측화소의 휘도값에서 좌측화소의 휘도값을 감산하는 단계를 포함하는 것을 특징으로 하는 영상처리장치의 블록화 현상 제거방법.And subtracting the luminance value of the left pixel from the luminance value of the right pixel among the pixels adjacent to the block boundary of each row. 삭제delete
KR1020060050383A 2006-06-05 2006-06-05 A image processing device and blocking effect removal method of the same KR101259063B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020060050383A KR101259063B1 (en) 2006-06-05 2006-06-05 A image processing device and blocking effect removal method of the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020060050383A KR101259063B1 (en) 2006-06-05 2006-06-05 A image processing device and blocking effect removal method of the same

Publications (2)

Publication Number Publication Date
KR20070116392A KR20070116392A (en) 2007-12-10
KR101259063B1 true KR101259063B1 (en) 2013-04-29

Family

ID=39142202

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020060050383A KR101259063B1 (en) 2006-06-05 2006-06-05 A image processing device and blocking effect removal method of the same

Country Status (1)

Country Link
KR (1) KR101259063B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10991346B2 (en) 2019-09-19 2021-04-27 Samsung Display Co., Ltd. Controller, related display apparatus, and related method for controlling display panel

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR0147549B1 (en) * 1992-02-28 1998-09-15 강진구 The compensation method of image blocking phenomenon
KR100202495B1 (en) 1996-11-29 1999-06-15 전주범 Quad tree decoder and method
KR100212330B1 (en) 1996-10-30 1999-08-02 전주범 Quadtree decoding method
KR100516685B1 (en) 2003-04-29 2005-09-22 삼성전자주식회사 Apparatus and method for deblocking in decoded image

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR0147549B1 (en) * 1992-02-28 1998-09-15 강진구 The compensation method of image blocking phenomenon
KR100212330B1 (en) 1996-10-30 1999-08-02 전주범 Quadtree decoding method
KR100202495B1 (en) 1996-11-29 1999-06-15 전주범 Quad tree decoder and method
KR100516685B1 (en) 2003-04-29 2005-09-22 삼성전자주식회사 Apparatus and method for deblocking in decoded image

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10991346B2 (en) 2019-09-19 2021-04-27 Samsung Display Co., Ltd. Controller, related display apparatus, and related method for controlling display panel

Also Published As

Publication number Publication date
KR20070116392A (en) 2007-12-10

Similar Documents

Publication Publication Date Title
JP3678482B2 (en) Video data post-processing method
EP0808068B1 (en) Methods and apparatus for removing blocking effect in a motion picture decoder
JP3109854B2 (en) Image coding method and apparatus
JP3678481B2 (en) Video data post-processing method
KR100846774B1 (en) Filtering method for removing block artifacts and/or ringing noise and apparatus therefor
CN101742306A (en) High dynamic range codecs
JPH07131757A (en) Picture processor
CN102754440B (en) Method for encoding images, picture coding device and camera system
KR100708202B1 (en) Filtering method for removing block artifacts
JP2022058366A (en) Encoding device, decoding device, and program
KR101312632B1 (en) A method and apparatus for encoding/decoding of N-bit video data
JP2000078578A (en) Technique for video communication using encoding match filter device
KR101259063B1 (en) A image processing device and blocking effect removal method of the same
KR101345294B1 (en) Method and apparatus for quantizing image
CN100579169C (en) Decoding apparatus, dequantizing method, and program thereof
KR20160065787A (en) Apparatus and Method for Encoding and Decoding Using Intra Prediction
JP6564315B2 (en) Encoding device, decoding device, and program
Sahooinst et al. Haar wavelet transform image compression using various run length encoding schemes
JP4784386B2 (en) Decoding device, inverse quantization method, and program
JP2019068385A (en) Encoder, control method thereof, and control program, and imaging apparatus
KR100230841B1 (en) Block cancelation method and apparatus in moving picture decoder
JP3653799B2 (en) Image encoding device
KR100229795B1 (en) Improved image decoding system
KR100287214B1 (en) Method and system for encoding motion pictures
KR100299485B1 (en) Noise removal method for motion picture encoding

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20160329

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20170320

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20190318

Year of fee payment: 7