KR20100121972A - The method for deciding intra prediction mode of image data - Google Patents

The method for deciding intra prediction mode of image data Download PDF

Info

Publication number
KR20100121972A
KR20100121972A KR1020090040937A KR20090040937A KR20100121972A KR 20100121972 A KR20100121972 A KR 20100121972A KR 1020090040937 A KR1020090040937 A KR 1020090040937A KR 20090040937 A KR20090040937 A KR 20090040937A KR 20100121972 A KR20100121972 A KR 20100121972A
Authority
KR
South Korea
Prior art keywords
intra prediction
prediction mode
candidate group
macro
macro block
Prior art date
Application number
KR1020090040937A
Other languages
Korean (ko)
Other versions
KR101033769B1 (en
Inventor
김성건
최광무
한환수
조성진
Original Assignee
한국과학기술원
선문대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국과학기술원, 선문대학교 산학협력단 filed Critical 한국과학기술원
Priority to KR1020090040937A priority Critical patent/KR101033769B1/en
Publication of KR20100121972A publication Critical patent/KR20100121972A/en
Application granted granted Critical
Publication of KR101033769B1 publication Critical patent/KR101033769B1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • H04N19/436Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation using parallelised computational arrangements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

PURPOSE: A method for deciding an intra prediction mode of image data is provided to remarkably shorten a performance time by processing an intra prediction mode determination process in a higher parallel level when encoding image data. CONSTITUTION: A sub macro calculator calculates sub macro blocks(S100), and a candidate group selector performs similar intra prediction at intra prediction modes for each macro block(S200). An intra prediction mode determining unit calculates the dependence between macro blocks, and determines a final intra prediction mode of a minimum cost at the intra prediction modes from the intra prediction mode candidate group(S300).

Description

영상 데이터의 인트라 예측 모드 결정 방법{THE METHOD FOR DECIDING INTRA PREDICTION MODE OF IMAGE DATA}{THE METHOD FOR DECIDING INTRA PREDICTION MODE OF IMAGE DATA}

본 발명은 영상 데이터의 압축 부호와에 관한 기술로서, 더욱 상세하게는 영상 데이터를 부호화할 때, 인트라 예측 연산을 병렬로 처리하여 수행 시간을 단축할 수 있는 영상 데이터의 인트라 예측 모드 결정 방법에 관한 것이다. The present invention relates to a compression code of image data, and more particularly, to a method of determining an intra prediction mode of image data that can reduce execution time by processing intra prediction operations in parallel when encoding image data. will be.

주지된 바와 같이, 동영상 압축에 관한 표준들, 예를 들어 H.264/AVC 에서는 동영상을 부호화할 때 하나의 그림을 여러 매크로 블록으로 나누고 매크로 블록 간의 공간적 또는 시간적 연관 관계를 이용하여 압축의 효율을 높인다. As is well known, standards for video compression, such as H.264 / AVC, break down a picture into several macroblocks when encoding a video and use spatial or temporal associations between the macroblocks to improve the efficiency of compression. Increase

인트라 예측은 매크로 블록 간의 공간적 연관 관계를 이용하는 것으로, 부호화하려는 매크로 블록의 화소값을 그 블록에 인접한 화소들의 값으로부터 예측하는 것을 말한다. Intra prediction uses spatial associations between macro blocks, and predicts pixel values of a macro block to be encoded from values of pixels adjacent to the block.

인트라 예측을 통해 계산되는 예측값은 매크로 블록의 크기와 예측에 사용하는 인접화소를 참조하는 방식에 따라 달라지는데, 동영상 압축에 관한 표준들에서는 매크로 블록의 크기와 인접화소 참조 방식을 조합하여 인트라 예측 모드의 종류를 몇 가지로 지정하고 그 중 하나를 선택해 부호화를 수행하도록 하고 있다.The predicted value calculated by intra prediction depends on the size of the macro block and the method of referring to the neighboring pixel used for prediction. In the standard for video compression, the combination of the size of the macro block and the adjacent pixel reference method is used for the intra prediction mode. Several kinds are specified and one of them is selected to perform encoding.

각 매크로 블록을 어떤 인트라 예측 모드를 사용하여 부호화할 것인지를 결정할 때는 부호화에 소요되는 비트율과 복호화된 매크로 블록의 왜곡을 가급적 최소화하도록 해야 한다. 그러나 현재까지는 최소의 코스트를 가지는 모드를 찾기 위한 산술적 방법이 존재하지 않으므로, 최적의 모드를 선택하기 위해서는 가능한 모든 인트라 예측 모드에 대해 부호화 비용을 계산한 후, 그 중 비용이 가장 적은 모드를 최종 모드로 선택해야 한다. 그러나, 이러한 방법은 상당히 많은 연산량을 소요하므로 수행시간이 길어진다는 문제점이 있다.When determining which intra prediction mode each macro block is to be encoded, the bit rate required for encoding and distortion of the decoded macro block should be minimized as much as possible. However, to date, there is no arithmetic method to find the mode with the lowest cost. Therefore, in order to select the optimal mode, the coding cost is calculated for all possible intra prediction modes, and the least expensive mode is the final mode. Must be selected. However, such a method requires a large amount of computation and has a long execution time.

이러한 긴 수행시간의 문제점을 극복하기 위하여, 인트라 예측 모드 결정에 필요한 연산을 병렬로 수행하는 방법이 제시되어 왔다. 그러나 종래의 기술은 매크로 블록 간의 의존성에 의하여 그 성능이 제한적이었다.In order to overcome the problem of such a long execution time, a method of performing the operations required for determining the intra prediction mode in parallel has been proposed. However, the prior art has limited performance due to the dependence between macroblocks.

도 1 은 H.264/AVC 표준안에서 정의하는 4x4 인트라 예측 모드에 따른 매크로 블록 간의 의존성을 나타내는 일예시도이다.FIG. 1 is an exemplary diagram illustrating dependency among macroblocks according to a 4x4 intra prediction mode defined in the H.264 / AVC standard.

인트라 예측은 인접 화소값을 이용하므로 매크로 블록을 부호화하기 위해서는 인접한 매크로 블록의 복호화 결과가 필요하다. 따라서, 어떤 매크로 블록을 인트라 예측을 통해 부호화하기 위해서 먼저 부호화 및 복호화 되어야 할 인접 매크로 블록이 존재하게 되는데, 이를 매크로 블록 간의 의존성이라 한다. Since intra prediction uses adjacent pixel values, decoding results of adjacent macro blocks are required to encode macro blocks. Therefore, in order to encode a macroblock through intra prediction, there is an adjacent macroblock to be encoded and decoded first, which is called dependency between macroblocks.

이러한 의존성은 인트라 예측 모드 결정 과정을 병렬로 처리하는데 있어 제약 사항으로 작용한다. 전술한 바와 같이 매크로 블록 간의 의존성은 각 매크로 블록들이 부호화되어야 할 순서를 제한하기 때문이다.This dependency is a constraint in processing the intra prediction mode decision process in parallel. As described above, the dependency between macro blocks limits the order in which each macro block should be encoded.

도 2 는 임의의 입력 예에 대하여 매크로 블록 간의 의존성에 따른 처리 순 서와 병렬도를 나타낸 일예시도이다. 도 2 에서, 매크로 블록의 이름을 구성하는 숫자는 처리 순서를 의미하며, 같은 숫자를 가진 매크로 블록은 동시에 병렬로 처리할 수 있다. 2 is an exemplary view showing a processing sequence and a parallel view according to dependencies between macroblocks for any input example. In Figure 2, the numbers constituting the name of the macro block means the processing order, macro blocks having the same number can be processed in parallel at the same time.

도 2 에 도시된 바와 같이, 매크로 블록 간의 의존성에 의하여 병렬도가 최대 3으로 제한되고 있는 것을 알 수 있는데, 최근 개발되고 있는 병렬 처리 하드웨어들이 지원하는 병렬도에 비하면 크게 낮은 정도이므로 충분한 성능 이득을 얻을 수 없는 문제가 생긴다. 이러한 문제는 고화질의 영상을 실시간으로 압축 부호화하는 장치의 개발을 어렵게 한다.As shown in FIG. 2, it can be seen that the degree of parallelism is limited to a maximum of 3 due to the dependency between macroblocks. However, since the degree of parallelism is significantly lower than the degree of parallelism supported by recently developed parallel processing hardware, sufficient performance gain is obtained. There is a problem that cannot be obtained. This problem makes it difficult to develop an apparatus for compressing and encoding high quality images in real time.

본 발명은 상기와 같은 문제점을 감안하여 안출된 것으로, 영상 데이터의 부호화 시, 많은 연산량을 소요하는 인트라 예측 모드 결정 과정을 높은 병렬도로 처리함으로써, 그 수행시간을 대폭 감소시킬 수 있는 영상 데이터의 인트라 예측 모드 결정 방법을 제공하는데 그 특징적인 목적이 있다. SUMMARY OF THE INVENTION The present invention has been made in view of the above-mentioned problems, and the intra prediction of the image data, which can greatly reduce the execution time by processing an intra prediction mode decision process that requires a large amount of computation when encoding the image data, has a high parallelism. Its purpose is to provide a method of determining prediction modes.

이러한 기술적 과제를 달성하기 위하여, 본 발명은, (a) 보조 매크로 계산수단이 주어진 영상의 맨 가장자리에 위치하는 매크로 블록의 특정 행 또는 열을 바탕으로, 특정의 단일 값을 화소값으로 가지는 보조 매크로 블록의 행 또는 열을 계산하는 과정; (b) 후보 그룹 선택수단이 상기 보조 매크로 계산수단을 통해 계산된 보조 매크로 블록의 행 또는 열을 상기 영상에 인접시킨 후, 각 매크로 블록들에 대하여 모든 인트라 예측 모드들에 대한 유사 인트라 예측을 수행함으로써, 소정 개수의 인트라 예측 모드들로 이루어진 인트라 예측 모드 후보 그룹을 선택하는 과정; 및 (c) 인트라 예측 모드 결정수단이 상기 후보 그룹 선택수단을 통해 선택한 인트라 예측 모드 후보 그룹을 바탕으로, 각 매크로 블록 간의 의존성을 계산함으로써, 서로 독립적인 매크로 블록에 대해, 인트라 예측 모드 후보 그룹에 속하는 인트라 예측 모드 중, 최소의 비용을 가지는 최종 인트라 예측 모드를 결정하는 단계; 를 포함하는 것을 특징으로 한다. In order to achieve the above technical problem, the present invention provides an auxiliary macro having (a) an auxiliary macro having a specific single value as a pixel value based on a specific row or column of a macro block located at the far edge of a given image. Calculating the rows or columns of the block; (b) the candidate group selecting means closes the row or column of the auxiliary macro block calculated by the auxiliary macro calculating means to the image, and then performs similar intra prediction for all intra prediction modes for each macro block. Thereby selecting an intra prediction mode candidate group consisting of a predetermined number of intra prediction modes; And (c) the intra prediction mode determining means calculates the dependencies between the macro blocks based on the intra prediction mode candidate group selected by the candidate group selecting means, thereby determining intra prediction mode candidate groups for the macro blocks that are independent of each other. Determining a final intra prediction mode having the least cost among the intra prediction modes that belong; Characterized in that it comprises a.

상기와 같은 본 발명에 따르면, 영상 데이터의 부호화 시에 많은 연산량을 소요하는 인트라 예측 모드 결정과정을 높은 병렬도로 처리함으로써, 그 수행시간을 대폭 감소시킬 수 있는 효과가 있다.According to the present invention as described above, it is possible to significantly reduce the execution time by processing the intra prediction mode determination process, which requires a large amount of computation when encoding the image data in a high parallelism.

또한 본 발명에 따르면, 입력 영상의 경계 외부에 보조 매크로 블록을 추가함으로써, 영상의 맨 가장자리에 위치하는 매크로 블록들 간의 의존성을 추가로 제거할 수 있는 효과도 있다. In addition, according to the present invention, by adding an auxiliary macro block outside the boundary of the input image, there is an effect that can further remove the dependency between macro blocks located at the far edge of the image.

그리고 본 발명에 따르면, 매크로 블록간 의존성을 감소시켜, 처리과정의 병렬도를 높임으로써, 최근 개발되고 있는 고병렬도의 하드웨어의 성능을 충분히 활용할 수 있도록 하는 효과도 있다. In addition, according to the present invention, by reducing the dependency between macroblocks and increasing the degree of parallelism of the processing, there is also an effect that can fully utilize the performance of the high-parallel hardware currently developed.

본 발명의 구체적 특징 및 이점들은 첨부도면에 의거한 다음의 상세한 설명으로 더욱 명백해질 것이다. 이에 앞서 본 발명에 관련된 공지 기능 및 그 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는, 그 구체적인 설명을 생략하였음에 유의해야 할 것이다.Specific features and advantages of the present invention will become more apparent from the following detailed description based on the accompanying drawings. In the meantime, when it is determined that the detailed description of the known functions and configurations related to the present invention may unnecessarily obscure the subject matter of the present invention, it should be noted that the detailed description is omitted.

이하, 첨부된 도면을 참조하여 본 발명을 상세하게 설명한다. Hereinafter, with reference to the accompanying drawings will be described in detail the present invention.

이에 앞서, 도 3 은 본 발명에 따른 영상 데이터의 인트라 예측 모드 결정 시스템(S)을 개념적으로 도시한 구성도로서, 도시된 바와 같이 보조 매크로 계산수단(100), 후보 그룹 선택수단(200) 및 인트라 예측 모드 결정수단(300)을 포함하여 이루어지며, 모든 처리과정은, 주어진 영상의 맨 가장자리에 위치하는 매크로 블록을 기초로, 특정 화소값을 갖는 보조 매크로 블록의 행 또는 열을 계산하는 보조 매크로 계산수단(100), 계산된 보조 매크로 블록의 행 또는 열을 영상에 인접시킨 후, 각 매크로 블록들에 대한 유사 인트라 예측을 수행하고, 인트라 예측 모드들로 구성된 인트라 예측 모드 후보 그룹을 선택하는 후보 그룹 선택수단(200), 및 선택된 인트라 예측 모드 후보 그룹을 바탕으로, 각 매크로 블록간의 의존성을 계산하여, 서로 독립적인 매크로 블록에 대해, 인트라 예측 모드 후보 그룹에 속하는 인트라 예측 모드 중, 최소의 비용을 가지는 최종의 인트라 예측 모드를 결정하는 인트라 예측 모드 결정수단(300)을 통해 수행되는 것으로 이해하는 것이 바람직하다. Prior to this, FIG. 3 conceptually illustrates an intra prediction mode determination system S of image data according to the present invention. As shown in FIG. 3, the auxiliary macro calculation means 100, the candidate group selecting means 200, and Intra prediction mode determination means 300, and all the processing, based on the macro block located at the far edge of the given image, the auxiliary macro for calculating the row or column of the auxiliary macro block having a specific pixel value After calculating means 100, the row or column of the calculated auxiliary macro block is adjacent to the image, performs similar intra prediction for each macro block, and a candidate for selecting an intra prediction mode candidate group composed of intra prediction modes. Based on the group selection means 200 and the selected intra prediction mode candidate group, the dependency between each macroblock is calculated to be independent of each other. For preferably understood as being performed via the intra-prediction mode of intra-prediction mode candidate belonging to the group, the intra-prediction mode determined for determining the final intra-prediction mode having the lowest cost means 300.

본 발명에 따른 영상 데이터의 인트라 예측 모드 결정 방법에 관하여 도 4 내지 도 6 을 참조하여 설명하면 다음과 같다. A method of determining an intra prediction mode of image data according to the present invention will be described with reference to FIGS. 4 to 6 as follows.

도 4 는 본 발명에 따른 영상 데이터의 인트라 예측 모드 결정 방법에 관한 전체 흐름도로서, 도시된 바와 같이 보조 매크로 계산수단(100)은 주어진 영상의 맨 가장자리에 위치하는 매크로 블록의 특정 행 또는 열을 바탕으로, 특정의 단일 값을 화소값으로 가지는 보조 매크로 블록의 행 또는 열을 계산한다(S100).4 is a flowchart illustrating a method of determining an intra prediction mode of image data according to an exemplary embodiment of the present invention. As shown in FIG. 4, the auxiliary macro calculating means 100 may be based on a specific row or column of a macro block located at the far edge of a given image. In operation S100, a row or a column of an auxiliary macro block having a specific single value as a pixel value is calculated.

여기서, 보조 매크로 블록은 가급적 가장자리에 위치한 매크로 블록들이 자신을 참조하여 예측될 수 있도록 만들어져야 하며, 보조 매크로 블록의 부호화 및 복호화 과정을 생략하기 위하여 양자화 손실이 없는 특정의 단일 값을 화소값으로 가지도록 해야한다.Here, the auxiliary macro block should be made so that the macro blocks located at the edges can be predicted with reference to themselves, and have a specific single value without quantization loss as the pixel value in order to omit the encoding and decoding process of the auxiliary macro block. Should be.

이때, 보조 매크로 계산수단(100)은 보조 매크로 블록의 단일 화소값은 인접할 매크로 블록의 화소값들의 평균값으로 계산한다. At this time, the auxiliary macro calculation means 100 calculates a single pixel value of the auxiliary macro block as an average value of pixel values of adjacent macro blocks.

이후, 후보 그룹 선택수단(200)은 보조 매크로 계산수단(100)을 통해 계산된 보조 매크로 블록의 행 또는 열을 상기 영상에 인접시킨 후, 각 매크로 블록들에 대하여 모든 인트라 예측 모드들에 대한 유사 인트라 예측을 수행함으로써, 소정 개수의 인트라 예측 모드들로 이루어진 인트라 예측 모드 후보 그룹을 선택한다(S200).Then, the candidate group selecting means 200 adjacent the row or column of the auxiliary macro block calculated by the auxiliary macro calculating means 100 to the image, and then similar to all intra prediction modes for each macro block. By performing intra prediction, an intra prediction mode candidate group consisting of a predetermined number of intra prediction modes is selected (S200).

구체적으로, 각 매크로 블록의 인트라 예측 모드 후보 그룹 선택 시 기준이 되는 비용(

Figure 112009028173093-PAT00001
, the cost of Prediction Mode Estimation)은 다음의 [수식 1] 과 같다.Specifically, the cost of selecting the intra prediction mode candidate group of each macro block (
Figure 112009028173093-PAT00001
The cost of Prediction Mode Estimation is shown in Equation 1 below.

[수식 1][Equation 1]

Figure 112009028173093-PAT00002
Figure 112009028173093-PAT00002

일반적인 동영상 부호화 방식에서 매크로 블록을 인트라 예측 모드 P로 예측할 경우의 비용은, 매크로 블록을 예측 모드 P로 추정(reconstruction)했을 때의 추정 샘플(

Figure 112009028173093-PAT00003
)와 원본 샘플 S 사이의 왜곡 정도(
Figure 112009028173093-PAT00004
)와, 매크로 블록을 예측 모드 P로 부호화할 때 소요되는 비트율(Rate)을 특정 비율(
Figure 112009028173093-PAT00005
)로 조합하여 계산한다.In the general video coding scheme, the cost of predicting a macroblock in the intra prediction mode P is based on an estimated sample when the macroblock is reconstructed in the prediction mode P.
Figure 112009028173093-PAT00003
) And the amount of distortion between original sample S
Figure 112009028173093-PAT00004
) And the bit rate (Rate) required to encode the macroblock in prediction mode P
Figure 112009028173093-PAT00005
Calculate by combining

이 과정에서 본 발명에 따른 후보 그룹 선택수단(200)은 실제 부호화 및 복호화를 수행하지 않기 위하여, 비트율(Rate)을 0으로, 추정 샘플(

Figure 112009028173093-PAT00006
)을 계산할 때 사용되는 주변 블록의 화소값은 복호화된 샘플이 아닌 원본의 입력 화소값을 이용 하여 비용을 계산한다. In this process, the candidate group selecting means 200 according to the present invention does not perform the actual encoding and decoding, so that the bit rate is 0 and the estimated sample (
Figure 112009028173093-PAT00006
) Is calculated using the original input pixel values, not the decoded samples.

이때, 왜곡(Distortion)은 SAD(Sum of Absolute Difference), SATD(Sum of Absolute Transformed Difference), SSD(Sum of Squared Difference), MAD(Mean of Absolute Difference) 등을 포함하여 여러 가지 방법으로 계산할 수 있다.In this case, the distortion may be calculated in various ways, including sum of absolute difference (SAD), sum of absolute transformed difference (SATD), sum of squared difference (SSD), mean of absolute difference (MAD), and the like. .

또한, 후보 그룹 선택수단(200)은 인트라 예측 모드 후보 그룹에 속하게 될 모드들을 선택할 때, 가능한 모든 인트라 예측 모드에 대해 비용을 계산한다. In addition, the candidate group selecting means 200 calculates the cost for all possible intra prediction modes when selecting the modes to belong to the intra prediction mode candidate group.

그 중 최소값을

Figure 112009028173093-PAT00007
이라 할 때, 비용이
Figure 112009028173093-PAT00008
인 모드를 선택하는 것이 바람직하다. 이때,
Figure 112009028173093-PAT00009
는 0 이상의 값이며,
Figure 112009028173093-PAT00010
= 10일 수 있다.The minimum of
Figure 112009028173093-PAT00007
When I say, the cost
Figure 112009028173093-PAT00008
It is preferable to select the phosphorus mode. At this time,
Figure 112009028173093-PAT00009
Is a value greater than or equal to 0
Figure 112009028173093-PAT00010
= 10.

그리고, 인트라 예측 모드 결정수단(300)은 후보 그룹 선택수단(200)을 통해 선택한 인트라 예측 모드 후보 그룹을 바탕으로, 각 매크로 블록 간의 의존성을 계산함으로써, 서로 독립적인 매크로 블록에 대해, 인트라 예측 모드 후보 그룹에 속하는 인트라 예측 모드 중, 최소의 비용을 가지는 최종 인트라 예측 모드를 결정한다(S300).In addition, the intra prediction mode determining unit 300 calculates the dependencies between the macro blocks based on the intra prediction mode candidate group selected through the candidate group selecting unit 200, thereby making the intra prediction modes independent of each other. Among intra prediction modes belonging to the candidate group, a final intra prediction mode having a minimum cost is determined (S300).

구체적으로, 인트라 예측 모드 결정수단(300)은, 각 매크로 블록 간의 의존성을 계산하기 위하여, 부호화되기 위하여 참조하는 인접 매크로 블록이 없거나, 보조 매크로 블록 또는 이미 부호화 및 복호화 된 매크로 블록만을 참조하는 매크로 블록들에 대하여, 인트라 예측 모드 후보에 속하는 모든 인트라 예측 모드에 대한 부호화 비용(

Figure 112009028173093-PAT00011
, the cost of Mode Decision)을 다음의 [수식 2] 와 같이 계 산한다.In detail, the intra prediction mode determining unit 300 includes no macro blocks that are referred to to be encoded or only refer to auxiliary macro blocks or macro blocks that are already encoded and decoded in order to calculate dependencies between the macroblocks. For each intra prediction mode belonging to the intra prediction mode candidate,
Figure 112009028173093-PAT00011
Calculate the cost of Mode Decision as shown in Equation 2.

[수식 2][Equation 2]

Figure 112009028173093-PAT00012
Figure 112009028173093-PAT00012

부호화 비용을 계산할 때는, 예측 모드 후보 그룹을 결정하기 위한 비용을 계산할 때와는 달리, 왜곡(D)과 비트율(R)을 계산할 때 실제 부호화 및 복호화 과정을 고려하기 위해, 복호화된 샘플(C)과 양자화 파라미터(QP)를 포함하여 계산을 수행한다 (여기서,

Figure 112009028173093-PAT00013
는 왜곡(D)과 비트율(R)을 조합하기 위한 상수). 이때, 상기 조건을 만족하는 매크로 블록이 다수 존재하는 경우, 여러 개의 스레드에서 동시에 계산을 수행하는 것이 바람직하다.When calculating the encoding cost, unlike when calculating the cost for determining the prediction mode candidate group, the decoded sample (C) to consider the actual encoding and decoding process when calculating the distortion (D) and the bit rate (R). And the quantization parameter (QP) to perform the calculation (where
Figure 112009028173093-PAT00013
Is a constant for combining distortion (D) and bit rate (R). In this case, when there are a large number of macro blocks satisfying the above condition, it is preferable to perform calculations on several threads at the same time.

도 5 는 본 발명에 따른 H.264/AVC 표준안에서 정의하는 4x4 인트라 예측 모드로 이루어진 인트라 예측 모드 후보 그룹에 따른 매크로 블록 간의 의존성을 나타낸 일예시도로서, 도시된 바와 같이 인트라 예측 모드 후보 그룹에 어떤 모드가 속하는가에 따라 모든 인트라 예측 모드의 비용을 계산할 때에 비해 참조하는 인접 매크로 블록의 수가 줄어드는 것을 알 수 있다.FIG. 5 is an exemplary diagram illustrating dependency between macroblocks according to an intra prediction mode candidate group consisting of 4x4 intra prediction modes defined in the H.264 / AVC standard according to the present invention. It can be seen that the number of neighboring macroblocks to reference is reduced compared to when calculating the costs of all intra prediction modes according to which mode belongs.

도 6 은 본 발명에 따른 임의의 입력 예에 대하여 보조 매크로 블록을 추가했을 때, 매크로 블록 간의 의존성과 처리 순서를 나타낸 일예시도로서, 도시된 바와 같이 보조 매크로 블록을 추가함으로써, 입력 그림의 맨 가장자리에 있는 매크로 블록들 중 일부의 인트라 예측 모드 후보 그룹이 변경되어 매크로 블록 간의 의 존성과 처리 단계가 줄어드는 것을 알 수 있다. FIG. 6 is an exemplary view illustrating dependencies and processing procedures between macroblocks when an auxiliary macroblock is added to any input example according to the present invention, and by adding an auxiliary macroblock as shown, FIG. It can be seen that the intra prediction mode candidate group of some of the macro blocks at the edge is changed to reduce the dependence and processing steps between the macro blocks.

지금까지 상술한 바와 같은, 본 발명에 따른 영상 데이터의 인트라 예측 모드 결정 방법은, 인트라 예측 모드 결정에 소요되는 연산량과 매크로 블록 간의 의존성을 줄이기 위해서, 모든 인트라 예측 모드에 대해 코스트를 계산하는 대신 먼저 각 매크로 블록에 대해 소정 개수의 가능한 인트라 예측 모드로 이루어진 인트라 예측 모드 후보 그룹을 선택하는 방법을 택한다. 이 때 입력 그림의 경계 외부에 보조 매크로 블록을 추가하면 그림의 맨 가장자리에 위치하는 매크로 블록들 간의 의존성을 추가로 제거할 수 있는 특징적인 장점을 갖는다.As described above, the method of determining the intra prediction mode of the image data according to the present invention, in order to reduce the dependency between the amount of computation required to determine the intra prediction mode and the macroblock, instead of calculating the cost for all the intra prediction modes first. A method of selecting an intra prediction mode candidate group consisting of a predetermined number of possible intra prediction modes for each macro block is selected. In this case, adding an auxiliary macro block outside the boundary of the input picture has a characteristic advantage of further removing dependency between macro blocks located at the far edge of the picture.

이상으로 본 발명의 기술적 사상을 예시하기 위한 바람직한 실시예와 관련하여 설명하고 도시하였지만, 본 발명은 이와 같이 도시되고 설명된 그대로의 구성 및 작용에만 국한되는 것이 아니며, 기술적 사상의 범주를 일탈함이 없이 본 발명에 대해 다수의 변경 및 수정이 가능함을 당업자들은 잘 이해할 수 있을 것이다. 따라서, 그러한 모든 적절한 변경 및 수정과 균등물들도 본 발명의 범위에 속하는 것으로 간주되어야 할 것이다. As described above and described with reference to a preferred embodiment for illustrating the technical idea of the present invention, the present invention is not limited to the configuration and operation as shown and described as described above, it is a deviation from the scope of the technical idea It will be understood by those skilled in the art that many modifications and variations can be made to the invention without departing from the scope of the invention. Accordingly, all such suitable changes and modifications and equivalents should be considered to be within the scope of the present invention.

도 1 은 H.264/AVC 표준안에서 정의하는 4x4 인트라 예측 모드에 따른 매크로 블록 간의 의존성을 나타내는 일예시도.1 is an exemplary diagram showing the dependencies between macroblocks according to the 4x4 intra prediction mode defined in the H.264 / AVC standard.

도 2 는 임의의 입력 예에 대하여 매크로 블록 간의 의존성에 따른 처리 순서와 병렬도를 나타낸 일예시도.Fig. 2 is an exemplary view showing a processing sequence and a parallel view according to dependencies between macro blocks for any input example.

도 3 은 본 발명에 따른 영상 데이터의 인트라 예측 모드 결정 시스템(S)을 개념적으로 도시한 구성도.3 is a block diagram conceptually showing an intra prediction mode determination system S of image data according to the present invention;

도 4 는 본 발명에 따른 영상 데이터의 인트라 예측 모드 결정 방법에 관한 전체 흐름도.4 is an overall flowchart of a method of determining intra prediction modes of image data according to the present invention;

도 5 는 본 발명에 따른 H.264/AVC 표준안에서 정의하는 4x4 인트라 예측 모드로 이루어진 인트라 예측 모드 후보 그룹에 따른 매크로 블록 간의 의존성을 나타낸 일예시도.5 is an exemplary diagram showing the dependency between macroblocks according to an intra prediction mode candidate group consisting of a 4x4 intra prediction mode defined in the H.264 / AVC standard according to the present invention.

도 6 은 본 발명에 따른 임의의 입력 예에 대하여 보조 매크로 블록을 추가했을 때, 매크로 블록 간의 의존성과 처리 순서를 나타낸 일예시도. Fig. 6 is an exemplary diagram showing dependencies and processing procedures between macroblocks when an auxiliary macroblock is added to any input example according to the present invention.

** 도면의 주요 부분에 대한 부호의 설명 **** Description of symbols for the main parts of the drawing **

S: 영상 데이터의 인트라 예측 모드 결정S: Determining Intra Prediction Mode of Image Data

100: 보조 매크로 계산수단 200: 후보 그룹 선택수단100: auxiliary macro calculation means 200: candidate group selection means

300: 인트라 예측 모드 결정수단300: means for determining intra prediction mode

Claims (4)

영상 데이터의 인트라 예측 모드 결정 방법에 있어서, In the intra prediction mode determination method of the image data, (a) 보조 매크로 계산수단(100)이 주어진 영상의 맨 가장자리에 위치하는 매크로 블록의 특정 행 또는 열을 바탕으로, 특정의 단일 값을 화소값으로 가지는 보조 매크로 블록의 행 또는 열을 계산하는 과정;(a) a process in which the auxiliary macro calculating means 100 calculates a row or column of an auxiliary macro block having a specific single value as a pixel value based on a specific row or column of a macro block located at the far edge of a given image ; (b) 후보 그룹 선택수단(200)이 상기 보조 매크로 계산수단(100)을 통해 계산된 보조 매크로 블록의 행 또는 열을 상기 영상에 인접시킨 후, 각 매크로 블록들에 대하여 모든 인트라 예측 모드들에 대한 유사 인트라 예측을 수행함으로써, 소정 개수의 인트라 예측 모드들로 이루어진 인트라 예측 모드 후보 그룹을 선택하는 과정; 및 (b) the candidate group selecting means 200 adjacent the row or column of the auxiliary macro block calculated by the auxiliary macro calculating means 100 to the image, and then applies all intra prediction modes to each macro block. Selecting an intra prediction mode candidate group consisting of a predetermined number of intra prediction modes by performing a similar intra prediction on the second prediction mode; And (c) 인트라 예측 모드 결정수단(300)이 상기 후보 그룹 선택수단(200)을 통해 선택한 인트라 예측 모드 후보 그룹을 바탕으로, 각 매크로 블록 간의 의존성을 계산함으로써, 서로 독립적인 매크로 블록에 대해, 인트라 예측 모드 후보 그룹에 속하는 인트라 예측 모드 중, 최소의 비용을 가지는 최종 인트라 예측 모드를 결정하는 단계; 를 포함하는 것을 특징으로 하는 영상 데이터의 인트라 예측 모드 결정 방법.(c) the intra prediction mode determining means 300 calculates the dependencies between the macro blocks on the basis of the intra prediction mode candidate group selected by the candidate group selecting means 200, thereby making the intra blocks independent of each other. Determining a final intra prediction mode having a minimum cost among intra prediction modes belonging to the prediction mode candidate group; Intra prediction mode determination method of the image data comprising a. 제 1 항에 있어서, The method of claim 1, 상기 (a) 과정에서, In the above (a) process, 상기 보조 매크로 블록의 단일 화소값은, 인접할 매크로 블록의 화소값들의 평균값으로 계산하는 것을 특징으로 하는 영상 데이터의 인트라 예측 모드 결정 방법.The single pixel value of the auxiliary macro block is calculated as an average value of pixel values of adjacent macro blocks. 제 1 항에 있어서, The method of claim 1, 상기 (b) 과정에서, In the step (b), 각 매크로 블록의 인트라 예측 모드 후보 그룹 선택 시 기준이 되는 비용(
Figure 112009028173093-PAT00014
)은, 추정 샘플(
Figure 112009028173093-PAT00015
)와 원본 샘플 S 사이의 왜곡 정도(
Figure 112009028173093-PAT00016
)와, 매크로 블록을 예측 모드 P로 부호화할 때 소요되는 비트율(Rate)을 특정 비율(
Figure 112009028173093-PAT00017
)로 조합하는 하기의 [수식 1] 을 통해 계산하되,
The cost of selecting the intra prediction mode candidate group for each macro block (
Figure 112009028173093-PAT00014
) Is an estimated sample (
Figure 112009028173093-PAT00015
) And the amount of distortion between original sample S
Figure 112009028173093-PAT00016
) And the bit rate (Rate) required to encode the macroblock in prediction mode P
Figure 112009028173093-PAT00017
) By using the following formula [1],
[수식 1][Equation 1]
Figure 112009028173093-PAT00018
Figure 112009028173093-PAT00018
실제 부호화 및 복호화를 수행하지 않기 위하여, 비트율(Rate)을 0으로, 추정 샘플(
Figure 112009028173093-PAT00019
)을 계산할 때 사용되는 주변 블록의 화소값은 복호화된 샘플이 아닌 원본의 입력 화소값을 이용하여 비용을 계산하는 것을 특징으로 하는 영상 데이터의 인트라 예측 모드 결정 방법.
In order not to perform actual encoding and decoding, the bit rate is set to 0, and an estimated sample (
Figure 112009028173093-PAT00019
The pixel value of the neighboring block used to calculate the cost is calculated using the input pixel value of the original rather than the decoded sample.
제 1 항에 있어서, The method of claim 1, 상기 (c) 과정에서,In the step (c), 각 매크로 블록 간의 의존성을 계산하기 위하여, 부호화되기 위하여 참조하는 인접 매크로 블록이 없거나, 보조 매크로 블록 또는 이미 부호화 및 복호화 된 매크로 블록만을 참조하는 매크로 블록들에 대하여, 인트라 예측 모드 후보에 속하는 모든 인트라 예측 모드에 대한 부호화 비용(
Figure 112009028173093-PAT00020
)을 다음의 [수식 2] 를 통해 계산하되,
In order to calculate the dependency between each macroblock, all intra predictions belonging to the intra prediction mode candidate for macroblocks that do not have adjacent macroblocks to be referred to to be encoded or refer only to the auxiliary macroblock or only macroblocks already encoded and decoded. Encoding cost for the mode (
Figure 112009028173093-PAT00020
) Is calculated using the following [Equation 2],
[수식 2][Equation 2]
Figure 112009028173093-PAT00021
Figure 112009028173093-PAT00021
왜곡(D)과 비트율(R)을 계산할 때 실제 부호화 및 복호화 과정을 고려하기 위해, 복호화된 샘플(C)과 양자화 파라미터(QP)를 포함하여 계산을 수행하며,
Figure 112009028173093-PAT00022
는 왜곡(D)과 비트율(R)을 조합하기 위한 상수인 것을 특징으로 하는 영상 데이터의 인트라 예측 모드 결정 방법.
In order to consider the actual encoding and decoding process when calculating the distortion (D) and the bit rate (R), the calculation is performed including the decoded sample (C) and the quantization parameter (QP),
Figure 112009028173093-PAT00022
Is a constant for combining the distortion (D) and the bit rate (R).
KR1020090040937A 2009-05-11 2009-05-11 The method for deciding intra prediction mode of image data KR101033769B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020090040937A KR101033769B1 (en) 2009-05-11 2009-05-11 The method for deciding intra prediction mode of image data

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020090040937A KR101033769B1 (en) 2009-05-11 2009-05-11 The method for deciding intra prediction mode of image data

Publications (2)

Publication Number Publication Date
KR20100121972A true KR20100121972A (en) 2010-11-19
KR101033769B1 KR101033769B1 (en) 2011-05-09

Family

ID=43407056

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020090040937A KR101033769B1 (en) 2009-05-11 2009-05-11 The method for deciding intra prediction mode of image data

Country Status (1)

Country Link
KR (1) KR101033769B1 (en)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012074248A2 (en) * 2010-11-29 2012-06-07 에스케이텔레콤 주식회사 Method and apparatus for encoding/decoding images to minimize redundancy of intra-prediction mode
WO2012081879A1 (en) * 2010-12-14 2012-06-21 Oh Soo Mi Method for decoding inter predictive encoded motion pictures
WO2012087077A3 (en) * 2010-12-23 2012-09-07 삼성전자 주식회사 Method and device for encoding intra prediction mode for image prediction unit, and method and device for decoding intra prediction mode for image prediction unit
KR20140057672A (en) * 2010-08-17 2014-05-13 엠앤케이홀딩스 주식회사 Method for decoding intra-predictions
KR101525325B1 (en) * 2013-12-09 2015-06-03 중앙대학교 산학협력단 Intra prediction mode determination method and apparatus
KR20150069110A (en) * 2013-12-13 2015-06-23 한양대학교 산학협력단 Method for video parallel processing based on dependency of intra prediction and apparatus for video decoding using the method
US9473789B2 (en) 2010-12-14 2016-10-18 M&K Holdings Inc. Apparatus for decoding a moving picture
US11284072B2 (en) 2010-08-17 2022-03-22 M&K Holdings Inc. Apparatus for decoding an image

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ES2677193B1 (en) * 2015-08-28 2019-06-19 Kt Corp Procedure and device to process video signals

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5089878B2 (en) 2005-10-28 2012-12-05 パナソニック株式会社 Image encoding device
JP4939273B2 (en) 2007-03-29 2012-05-23 キヤノン株式会社 Image coding apparatus and image coding method

Cited By (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140057672A (en) * 2010-08-17 2014-05-13 엠앤케이홀딩스 주식회사 Method for decoding intra-predictions
US11284072B2 (en) 2010-08-17 2022-03-22 M&K Holdings Inc. Apparatus for decoding an image
US9491478B2 (en) 2010-08-17 2016-11-08 M&K Holdings Inc. Method for decoding in intra prediction mode
US9729872B2 (en) 2010-11-29 2017-08-08 Sk Telecom Co., Ltd. Method and apparatus for encoding/decoding images to minimize redundancy of intra-prediction mode
CN103238333A (en) * 2010-11-29 2013-08-07 Sk电信有限公司 Method and apparatus for encoding/decoding images to minimize redundancy of intra-rediction mode
WO2012074248A2 (en) * 2010-11-29 2012-06-07 에스케이텔레콤 주식회사 Method and apparatus for encoding/decoding images to minimize redundancy of intra-prediction mode
CN103238333B (en) * 2010-11-29 2016-08-31 Sk电信有限公司 Carry out encoding/decoding image so that the method and apparatus that minimizes of the redundancy of intra prediction mode
WO2012074248A3 (en) * 2010-11-29 2012-07-26 에스케이텔레콤 주식회사 Method and apparatus for encoding/decoding images to minimize redundancy of intra-prediction mode
KR101316060B1 (en) * 2010-12-14 2013-10-10 엠앤케이홀딩스 주식회사 Decoding method of inter coded moving picture
WO2012081879A1 (en) * 2010-12-14 2012-06-21 Oh Soo Mi Method for decoding inter predictive encoded motion pictures
US9549198B2 (en) 2010-12-14 2017-01-17 M & K Holdings Inc. Apparatus for decoding a moving picture
US9432689B2 (en) 2010-12-14 2016-08-30 M & K Holdings Inc Method of decoding moving picture
US9451279B2 (en) 2010-12-14 2016-09-20 M & K Holdings Inc Method for decoding a moving picture
US9467713B2 (en) 2010-12-14 2016-10-11 M&K Holdings Inc. Apparatus for decoding a moving picture
US9473789B2 (en) 2010-12-14 2016-10-18 M&K Holdings Inc. Apparatus for decoding a moving picture
KR20190077298A (en) * 2010-12-23 2019-07-03 삼성전자주식회사 Method and apparatus for decoding image
KR20170101840A (en) * 2010-12-23 2017-09-06 삼성전자주식회사 Method and apparatus for decoding image
RU2643476C2 (en) * 2010-12-23 2018-02-01 Самсунг Электроникс Ко., Лтд. Method and device for coding intra-frame prediction mode for image predicting unit and method and device for decoding intra-frame prediction mode for image predicting unit
US10021384B2 (en) 2010-12-23 2018-07-10 Samsung Electronics Co., Ltd. Method and device for encoding intra prediction mode for image prediction unit, and method and device for decoding intra prediction mode for image prediction unit
RU2676234C1 (en) * 2010-12-23 2018-12-26 Самсунг Электроникс Ко., Лтд. Method and apparatus for encoding intraframe prediction mode for image prediction unit and method and device for decoding intraframe prediction mode for image prediction unit
RU2697628C1 (en) * 2010-12-23 2019-08-15 Самсунг Электроникс Ко., Лтд. Method and a device for encoding an intra-frame prediction mode for an image prediction unit and method and device for decoding an intra-frame prediction mode for an image prediction unit
KR20190137761A (en) * 2010-12-23 2019-12-11 삼성전자주식회사 Method and apparatus for decoding image
US10630986B2 (en) 2010-12-23 2020-04-21 Samsung Electronics Co., Ltd. Method and device for encoding intra prediction mode for image prediction unit, and method and device for decoding intra prediction mode for image prediction unit
US11070811B2 (en) 2010-12-23 2021-07-20 Samsung Electronics Co., Ltd. Method and device for encoding intra prediction mode for image prediction unit, and method and device for decoding intra prediction mode for image prediction unit
WO2012087077A3 (en) * 2010-12-23 2012-09-07 삼성전자 주식회사 Method and device for encoding intra prediction mode for image prediction unit, and method and device for decoding intra prediction mode for image prediction unit
US11509899B2 (en) 2010-12-23 2022-11-22 Samsung Electronics Co., Ltd. Method and device for encoding intra prediction mode for image prediction unit, and method and device for decoding intra prediction mode for image prediction unit
KR101525325B1 (en) * 2013-12-09 2015-06-03 중앙대학교 산학협력단 Intra prediction mode determination method and apparatus
KR20150069110A (en) * 2013-12-13 2015-06-23 한양대학교 산학협력단 Method for video parallel processing based on dependency of intra prediction and apparatus for video decoding using the method

Also Published As

Publication number Publication date
KR101033769B1 (en) 2011-05-09

Similar Documents

Publication Publication Date Title
KR101033769B1 (en) The method for deciding intra prediction mode of image data
RU2762933C2 (en) Encoding and decoding of video with high resistance to errors
EP3448038B1 (en) Decoding method for intra predicting a block by first predicting the pixels at the boundary
KR100728031B1 (en) Method and apparatus for deciding encoding mode for variable block size motion estimation
KR100667808B1 (en) Method and apparatus for intra prediction encoding and decoding for image
CA2935332C (en) Video decoder, video encoder, video decoding method, and video encoding method
KR100952340B1 (en) Method and Apparatus for Determing Encoding Mode by Using Temporal and Spartial Complexity
KR101818997B1 (en) Methods of encoding and decoding using multi-level prediction and apparatuses for using the same
KR20070005848A (en) Method and apparatus for intra prediction mode decision
EP2775718B1 (en) Method, device, and program for coding and decoding of images
CN105721878A (en) Image Processing Device And Method For Intra-Frame Predication In Hevc Video Coding
WO2017122604A1 (en) Moving image encoding device, moving image encoding method, and recording medium for recording moving image encoding program
JP2006165840A (en) Movement compensation image encoding device and encoding method
KR100677118B1 (en) Motion estimation method and apparatus thereof
JP4994877B2 (en) Method and system for selecting a macroblock coding mode in a video frame sequence
CN106899850B (en) HEVC intra-frame prediction method and device based on SATD
KR20140031974A (en) Image coding method, image decoding method, image coding device, image decoding device, image coding program, and image decoding program
JP5713719B2 (en) Video encoding device
JP2009027762A (en) Movement compensation image encoding device and encoding method
CN112911312B (en) Encoding and decoding method, device and equipment
KR101366088B1 (en) Method and apparatus for encoding and decoding based on intra prediction
KR101902933B1 (en) Apparatus for image coding/decoding and the method thereof
JP2010010768A (en) Image encoding apparatus and image encoding method
KR20160013416A (en) Space Prediction System for High Efficiency Video Coding and Method thereof
KR101491864B1 (en) hybrid predicting apparatus for entropy encoding, and method therefor

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20140530

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20150528

Year of fee payment: 5

FPAY Annual fee payment

Payment date: 20160425

Year of fee payment: 6

FPAY Annual fee payment

Payment date: 20180409

Year of fee payment: 8

LAPS Lapse due to unpaid annual fee