KR20070076243A - Method of enhancing video quality of movie file in mobile communication network and apparatus implementing the same - Google Patents
Method of enhancing video quality of movie file in mobile communication network and apparatus implementing the same Download PDFInfo
- Publication number
- KR20070076243A KR20070076243A KR1020060005397A KR20060005397A KR20070076243A KR 20070076243 A KR20070076243 A KR 20070076243A KR 1020060005397 A KR1020060005397 A KR 1020060005397A KR 20060005397 A KR20060005397 A KR 20060005397A KR 20070076243 A KR20070076243 A KR 20070076243A
- Authority
- KR
- South Korea
- Prior art keywords
- video
- quality
- filter
- roi
- region
- Prior art date
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61H—PHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
- A61H39/00—Devices for locating or stimulating specific reflex points of the body for physical therapy, e.g. acupuncture
- A61H39/08—Devices for applying needles to such points, i.e. for acupuncture ; Acupuncture needles or accessories therefor
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61H—PHYSICAL THERAPY APPARATUS, e.g. DEVICES FOR LOCATING OR STIMULATING REFLEX POINTS IN THE BODY; ARTIFICIAL RESPIRATION; MASSAGE; BATHING DEVICES FOR SPECIAL THERAPEUTIC OR HYGIENIC PURPOSES OR SPECIFIC PARTS OF THE BODY
- A61H2201/00—Characteristics of apparatus not provided for in the preceding codes
- A61H2201/16—Physical interface with patient
- A61H2201/1683—Surface of interface
- A61H2201/1685—Surface of interface interchangeable
Landscapes
- Health & Medical Sciences (AREA)
- Rehabilitation Therapy (AREA)
- Epidemiology (AREA)
- Pain & Pain Management (AREA)
- Physical Education & Sports Medicine (AREA)
- Life Sciences & Earth Sciences (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
Description
도 1은 본 발명에 의한 동영상 화질 개선 장치의 내부 구성 블럭도.1 is a block diagram illustrating an internal configuration of a video quality improving apparatus according to the present invention.
도 2(a)는 본 발명에 의한 동영상 화질 개선 장치의 디블록킹 필터에서 디블록킹 영역을 결정하기 위한 알고리즘을 도시한 플로우챠트.2 (a) is a flowchart illustrating an algorithm for determining a deblocking region in a deblocking filter of a video quality improving apparatus according to the present invention.
도 2(b)는 본 발명에 의한 동영상 화질 개선 장치의 디블록킹 필터를 거친 영상에 있어서 블록 경계에서의 픽셀값 추이를 도시한 그래프.FIG. 2 (b) is a graph showing the pixel value transition at the block boundary in the image which has passed the deblocking filter of the video quality improving apparatus according to the present invention. FIG.
도 3(a) 내지 3(c)는 본 발명에 의한 동영상 화질 개선 장치의 엣지개선 필터에서 고주파 성분의 추출에 필요한 대역별 필터링 결과를 도시한 그래프.3 (a) to 3 (c) are graphs showing the results of band-by-band filtering required for extracting high frequency components from an edge enhancement filter of a video quality improving apparatus according to the present invention.
도 3(d)는 본 발명에 의한 동영상 화질 개선 장치의 엣지개선 필터를 거친 영상의 고주파 영역 픽셀값 도시한 그래프.Figure 3 (d) is a graph showing a high frequency region pixel value of the image passed through the edge enhancement filter of the video image quality improving apparatus according to the present invention.
도 4(a) 내지 4(b)는 각각 본 발명에 의한 동영상 화질 개선 장치의 명암개선 필터를 거치기 전과 거친 후의 영상 히스토그램.4 (a) to 4 (b) are histograms of images before and after passing the contrast enhancement filter of the apparatus for improving video quality according to the present invention, respectively.
도 5는 본 발명에 의한 동영상 화질 개선 방법의 각 단계를 순차적으로 도시한 플로우챠트.5 is a flowchart sequentially showing each step of the video quality improving method according to the present invention.
도 6은 본 발명에 의한 동영상 화질 개선 방법이 이동통신망의 동영상 링백톤(RBT) 서비스에 적용되는 경우의 이동통신 시스템 구성도.6 is a block diagram of a mobile communication system when the video quality improvement method according to the present invention is applied to a video ring back tone (RBT) service of a mobile communication network.
도 7은 본 발명에 의한 동영상 화질 개선 방법이 이동통신망의 부재중 동영상 메시지 서비스(VMS)에 적용되는 경우의 이동통신 시스템 구성도.7 is a block diagram of a mobile communication system when the method for improving video quality according to the present invention is applied to an out of office video message service (VMS) of a mobile communication network.
본 발명은 이동통신단말기에서 재생되는 동영상의 화질을 개선하는 방법 및 이를 구현하는 장치에 관한 것으로서, 더욱 상세하게는 입력된 동영상의 화면 전체 영역에 대하여 1차적으로 화질 개선 프로세스를 수행하는 전처리부 및 상기 전처리를 거친 동영상의 특정 관심 영역에 대하여 2차적으로 화질 개선 프로세스를 수행하는 ROI(Region Of Interest)필터를 포함하여 이루어지는 동영상 화질 개선 장치에 관한 것이다.The present invention relates to a method for improving the image quality of a video played in a mobile communication terminal and an apparatus for implementing the same, and more particularly, a pre-processing unit for performing a quality improvement process on an entire screen area of an input video. The present invention relates to an apparatus for improving video quality including a region of interest (ROI) filter which performs a quality improvement process on a specific region of interest of a video that has been preprocessed.
현재 동영상의 압축/해제를 위해 여러 종류의 코덱(Codec : encoder/decoder의 준 합성어)이 사용되고 있는데, 이러한 코덱은 동영상 데이터를 보다 적은 양의 데이터로 압축하여 저장 공간 또는 네트워크상에서의 부하를 줄이기 위하여 사용된다. 코덱의 종류로는 MPEG, H.26x, AVI, RM 등 많은 종류가 존재하며, 이 중 3G 이동통신 표준을 제정하는 3GPP 또는 3GPP2에서는 국제 표준기구(ISO 또는 ITU-T)에서 정의한, H.263, MPEG4-visual 및 H.264(AVC)를 채택하였는데 이 중에서 이동통 신망에서의 통신 등과 같은 실시간 통신을 위하여 가장 많이 쓰이는 코덱은 H.263이다.Currently, various codecs (Codec: quasi-composite of encoder / decoder) are used to compress / decompress video. These codecs compress video data into smaller amounts of data to reduce the load on storage space or network. Used. There are many kinds of codecs such as MPEG, H.26x, AVI, RM, etc. Among them, 3GPP or 3GPP2, which establishes 3G mobile communication standard, is defined by H.263 as defined by the International Standards Organization (ISO or ITU-T). MPEG-4 visual and H.264 (AVC) are adopted. Among them, H.263 is the most commonly used codec for real-time communication such as mobile communication network.
H.263은 매우 낮은 비트율로 데이터를 압축하는 ITU-T의 권고안이다. H.263은 기본적으로 기존 권고안인 H.261을 바탕으로 하며, 프레임간의 예측을 통한 시간적 중복성과, DCT (Discrete Cosine Transform)을 이용한 공간적 중복성을 최대한 제거하는 복합 (hybrid) 압축 방법을 채택하고 있다. H.263방식으로 압축을 행한 동영상의 경우 기존 음성 트렁크에서 서비스 가능한 43kbps와 같은 낮은 비트레이트(bitrate)에서는 화질이 매우 좋지 않은 것을 확인하였다. 이는 H.263의 경우 실시간 인코딩을 목적으로 하여 제작된 것이 원인이며 특히 낮은 bitrate일 경우 그 정도가 더 심해지는 문제점이 있었다.H.263 is an ITU-T recommendation to compress data at very low bit rates. H.263 is basically based on H.261, an existing recommendation, and adopts a hybrid compression method that removes temporal redundancy through prediction between frames and spatial redundancy using DCT (Discrete Cosine Transform). . In case of the video compressed by H.263 method, it was confirmed that the image quality is not very good at low bitrate such as 43kbps that can be serviced in the existing voice trunk. This is due to the fact that H.263 was produced for real-time encoding purposes, and especially in the case of low bitrates.
본 발명은 위와 같은 문제점을 해결하기 위해 제안된 것으로서, 이동통신단말기로 전송되는 저화질의 동영상 파일에 있어서 화면의 특정 부분에 대하여 집중적으로 원본에 가깝게 복구하는 보정을 가함으로써 최종적인 이동통신단말기의 사용자가 고화질의 동영상으로 느낄 수 있도록 하는 수단 내지 방법을 제공하는 데에 그 목적이 있다.The present invention has been proposed to solve the above problems, the user of the final mobile communication terminal by applying a correction to intensively recover close to the original for a specific portion of the screen in a low-quality video file transmitted to the mobile communication terminal An object of the present invention is to provide a means or method for allowing a user to feel high quality video.
본 발명의 다른 목적은 상기 특정 부분의 보정을 실시하기에 앞서 동영상 화면 전체에 대한 전반적인 보정을 수행하는 전처리 수단을 제공함으로써 화질 개선의 효과를 배가시키는 데에 있다.Another object of the present invention is to provide an effect of improving image quality by providing preprocessing means for performing overall correction on the entire video screen before correcting the specific portion.
본 발명의 다른 목적은 이동통신망의 규격에 따라 인코딩된 채로 입력된 동영상과 원본인 채로 입력된 동영상을 구분하되 전자(前者)에 대해서만 일시적인 디코딩 과정을 거치도록 함으로써 보정 효율을 높이도록 하는 데에 있다.Another object of the present invention is to distinguish between a video input encoded with a mobile communication network and an original video input as an original, but to improve the correction efficiency by performing a temporary decoding process only for the former. .
위와 같은 목적을 달성하기 위한 본 발명은 이동통신망에서의 동영상 화질을 개선하기 위한 장치에 관한 것으로서, 입력된 동영상의 화면 전체 영역에 대하여 1차적으로 화질 개선 프로세스를 수행하는 전처리부 및 상기 전처리를 거친 동영상의 특정 관심 영역에 대하여 2차적으로 화질 개선 프로세스를 수행하는 ROI(Region Of Interest)필터를 포함하여 이루어진다.The present invention for achieving the above object relates to a device for improving the video quality in a mobile communication network, the pre-processing unit and the pre-processing to perform the image quality improvement process for the entire area of the screen of the input video first It includes a ROI (Region Of Interest) filter for performing a secondary image quality improvement process for a particular region of interest of the video.
이때, 상기 입력된 동영상이 소정의 비디오 규격으로 인코딩되어 있는 경우 이를 해당 비디오 규격에 따라 디코딩하여 상기 전처리부에 전달하는 디코더(Decoder)가 더 포함될 수 있다.In this case, when the input video is encoded in a predetermined video standard, a decoder may be further decoded according to the corresponding video standard and transmitted to the preprocessor.
여기서, 상기 ROI필터는 입력받은 동영상을 H.263 표준에 따라 인코딩하되, 해당 동영상에 있어서 관심 영역과 비관심 영역에 대한 양자화 계수를 서로 달리하여 인코딩함으로써 필터링을 수행할 수 있다.Here, the ROI filter may encode the received video according to the H.263 standard, but may perform filtering by encoding quantization coefficients of the ROI and the ROI differently in the corresponding video.
또한, 상기 전처리부는 동영상 화면에 블록단위로 발생하는 경계를 보정하기 위한 디블록킹필터, 동영상 화면을 구성하는 각 이미지들의 경계가 명확해지도록 보정하기 위한 엣지개선필터 및 동영상 화면의 명도가 증가되도록 보정하기 위한 명암개선필터 중 어느 하나 이상을 포함하여 이루어질 수 있으며, 이때 인코딩되지 않은 원본 동영상이 입력되는 경우라면 상기 전처리부의 엣지개선필터, 명암개선필터 또는 상기 ROI필터 중에서 선택된 어느 하나로 입력될 수 있다.The preprocessing unit may further include a deblocking filter for correcting a boundary generated in units of blocks on the video screen, an edge improvement filter for correcting the boundary of each image constituting the video screen, and a brightness of the video screen. One or more of the contrast enhancement filter may be included. If the original video is not encoded, it may be input to any one selected from an edge enhancement filter, a contrast enhancement filter, or the ROI filter of the preprocessor.
한편, 위와 같은 목적을 달성하기 위한 본 발명은 이동통신망에서의 동영상 화질을 개선하기 위한 방법에 관한 것으로서, 입력된 동영상 화면의 전체 영역에 대하여 1차적으로 화질 개선 프로세스를 수행하는 전처리 단계 및 해당 동영상의 특정 관심 영역에 대하여 2차적으로 화질 개선 프로세스를 수행하는 ROI(Region Of Interest)필터링 단계를 포함하여 이루어진다.On the other hand, the present invention for achieving the above object relates to a method for improving the video quality in a mobile communication network, the pre-processing step for performing the quality improvement process for the entire area of the input video screen and the corresponding video And a region of interest (ROI) filtering step of performing an image quality improvement process on a specific ROI.
이때, 상기 전처리 단계 이전에는 상기 입력된 동영상이 소정의 비디오 규격으로 인코딩되어 있는 경우 이를 해당 비디오 규격에 따라 디코딩하는 디코딩 단계가 더 포함될 수 있다.In this case, before the preprocessing step, a decoding step of decoding the input video according to a corresponding video standard may be further included.
여기서, 상기 ROI필터링 단계는 입력받은 동영상을 H.263 표준에 따라 인코딩하되, 해당 동영상에 있어서 관심 영역과 비관심 영역에 대한 양자화 계수를 서로 달리하여 인코딩함으로써 필터링을 수행하는 것일 수 있다.Here, the ROI filtering step may be performed by encoding the received video according to the H.263 standard, but encoding the quantized coefficients of the ROI and the uninterested region differently from each other in the corresponding video.
또한, 상기 전처리 단계는 동영상 화면에 블록단위로 발생하는 경계를 보정하는 디블록킹 필터링 단계, 동영상 화면을 구성하는 각 이미지들의 경계가 명확해지도록 보정하는 엣지개선 필터링 단계 및 동영상 화면의 명도가 증가되도록 보정하는 명암개선 필터링 단계중 어느 하나 이상을 포함하여 이루어진다.The preprocessing step may include a deblocking filtering step of correcting a boundary generated in units of blocks on the video screen, an edge improvement filtering step of correcting the boundary of each image constituting the video screen, and an increase of brightness of the video screen. It includes one or more of the contrast enhancement filtering step to correct.
한편,인코딩되지 않은 원본 동영상이 입력되는 경우, 상기 전처리 단계의 엣지개선 단계, 명암개선 단계 또는 상기 ROI필터링 단계 중에서 선택된 어느 하나에서부터 수행될 수 있다.On the other hand, when an unencoded original video is input, it may be performed from any one selected from an edge improvement step, a contrast improvement step, or the ROI filtering step of the preprocessing step.
이하, 본 발명의 바람직한 실시 예에 대하여 첨부도면을 참조하여 상세히 설명한다. 우선 각 도면의 구성요소들에 대해 참조부호를 부가함에 있어서, 동일한 구성요소들에 한해서는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 부호로 표기되었음에 유의하여야 한다. 그리고 본 발명을 설명함에 있어서, 관련된 공지 기능 혹은 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings. First, in adding reference numerals to the elements of each drawing, it should be noted that the same elements are denoted by the same reference numerals as much as possible even if they are shown in different drawings. In the following description of the present invention, if it is determined that a detailed description of a related known function or configuration may unnecessarily obscure the subject matter of the present invention, the detailed description thereof will be omitted.
도 1은 본 발명에 의한 동영상 화질 개선 장치(100)의 내부 구성을 도시하는 블럭도이다. 이와 같은 화질 개선 장치(100)는 크게 전처리부(120)와 ROI(Region Of Interest) 필터(130)를 포함하여 이루어지며, 여기에 선택적으로 디코더(110) 가 더 추가될 수 있다.1 is a block diagram showing an internal configuration of a video image
한편, 디코더(Decoder)(110)는 당해 동영상 화질 개선 장치에 입력되는 동영상이 H.263 또는 MPEG 등과 같은 소정의 비디오 규격으로 인코딩되어 있는 경우, 입력 동영상에 본 발명에 의한 화질 개선 프로세스를 적용하기에 앞서서 입력 동영상을 디코딩하는 역할을 담당한다. 물론, 입력되는 동영상이 인코딩되지 않은 상태인 원본 동영상인 경우라면 이와 같은 디코더(110)를 거칠 필요가 없다. Meanwhile, the decoder 110 applies the image quality improvement process according to the present invention to the input video when the video inputted to the video quality improvement apparatus is encoded in a predetermined video standard such as H.263 or MPEG. It is responsible for decoding the input video before. Of course, if the input video is the original video in the unencoded state, it is not necessary to go through such a decoder 110.
전처리부(120)는 온라인상의 이동통신망 또는 오프라인상의 기록매체를 통해 입력된 동영상의 화면 전체 영역에 대해 1차적인 화질 개선 프로세스를 수행한다.The
본 발명에서의 입력 동영상은 휴대폰이나 유선 화상 단말기 등에 의해서 한 번 인코딩되어 압축된 동영상 파일이거나 인코딩 이전의 원본 동영상 파일이다. 이 중에서 인코딩된 파일은 이미 영상에 관한 정보가 상당 부분 손실되어 있는데 대표 적으로는 압축으로 인해 이미지에 블록 단위의 경계가 발생하는 현상, 이미지의 경계부분이 뿌옇게 흐려지는 현상, 색상이 손상되어 명도가 떨어지는 현상 등을 들 수 있다. 전처리부(120)는 본 발명에 있어서 화질 개선을 위한 주요 단계인 ROI 필터링를 행하기에 앞서서 상기 압축으로 인해 손실된 영상을 최대한 원본에 가깝도록 보정하는 역할을 담당한다.The input video in the present invention is a video file that has been encoded and compressed once by a mobile phone or a wired video terminal, or the original video file before encoding. Among them, the encoded file has already lost a lot of information about the image. Typically, compression causes block boundaries in the image, blurring of the edges of the image, color corruption, brightness Falling phenomenon; and the like. The
본 실시예에서는 이러한 전처리 프로세스로서 디블록킹 필터링, 엣지개선 필터링, 명암개선 필터링을 순차적으로 거치도록 하고 있으며, 이들 각각의 프로세스를 구현하기 위한 구성으로 디블록킹 필터(Deblocking Filter)(121), 엣지개선 필터(Edge Enhancement Filter)(122), 명암개선 필터(Contrast Enhancement Filter)(133)를 제공하고 있다. 여기서, 상기 3개의 프로세스 모두를 반드시 채택해야 하는 것은 아니며 설계자에 따라 필요한 프로세스만을 선택할 수도 있다. 또한, 이와 같은 전처리 프로세스로 반드시 상기 3개 종류의 필터링 프로세스에 한하는 것은 아니며 상기 프로세스 중 일부를 동영상의 전체 화면에 대한 종래의 각종 화질 개선 프로세스로 대체하거나 여기에 더 추가할 수도 있음은 본 발명이 속하는 기술분야에서 통상의 지식을 가지는 자에게 자명하다.In this embodiment, the deblocking filtering, edge improvement filtering, and contrast improvement filtering are sequentially performed as the preprocessing process, and the deblocking filter 121 and the edge improvement are configured to implement the respective processes. An Edge Enhancement Filter 122 and a Contrast Enhancement Filter 133 are provided. Here, not all three processes are necessarily required, and only a process required by a designer may be selected. In addition, the pre-processing process is not necessarily limited to the three types of filtering processes, and some of the processes may be replaced with or added to various conventional image quality improvement processes for the entire screen of the video. It is obvious to those of ordinary skill in the art.
디블록킹 필터(121)는 동영상 화면에 블록단위로 경계가 생기는 것을 보정해 주는 역할을 담당한다. The deblocking filter 121 plays a role of correcting that a boundary is generated in units of blocks on the video screen.
이동통신망에서 이용되는 H.263 또는 MPEG 등의 동영상 인코딩(압축) 알고리즘은 속도 향상을 위해 하나의 화면(또는 픽처)을 다수의 블록으로 구분하여 처리 하는데, H.263 QCIF의 경우 176x144 픽셀이 한 화면을 이루며 이것을 16x16단위로 블록화한다. 이와 같은 블록 단위 압축처리로 인하여 차후 디코딩 처리를 통해 동영상을 재생해보면 블록 단위로 영상에 경계가 생기는 것을 볼 수 있다. 디블록킹 필터(131)는 그와 같은 경계를 없애기 위해 블록간에 저역통과 필터(Low Pass Filter)를 적용한다. 그러나 블록 안에서 실제 엣지 부분을 저역통과 필터링(Low Pass Filtering)하면 이미지가 전체적으로 흐려지는 현상이 일어날 수 있기 때문에 저역통과필터링은 선별적으로 수행되어야 한다. 따라서 각 블록에서 엣지가 있는 부분을 찾아내고 에지가 적용되지 않은 부분까지만 저역통과필터를 적용한다.Video encoding (compression) algorithms such as H.263 or MPEG, which are used in mobile communication networks, divide one screen (or picture) into a number of blocks to improve speed. For H.263 QCIF, 176x144 pixels It forms a screen and blocks it in 16x16 units. As a result of the block-based compression process, when the video is played through the decoding process, it can be seen that the boundary of the image is formed in the block unit. The deblocking filter 131 applies a low pass filter between blocks to remove such boundaries. However, low pass filtering should be performed selectively because low pass filtering of the actual edges in the block may cause the image to be blurred overall. Therefore, we find the edge of each block and apply the low pass filter only to the part where no edge is applied.
본 발명에서의 디블록킹 프로세스는 두 파트로 나누어 수행된다. The deblocking process in the present invention is performed in two parts.
첫번째 파트는 블록 내에서 디블록킹 필터가 동작하는 영역인 run 을 결정하는 단계로서 이에 대한 알고리즘이 도 2(a)의 플로우챠트에 도시되어 있다. 여기서 right_run[i]는 i번째 블록에서의 오른쪽 run값을 의미하며, right[j]는 해당 블록에서 오른쪽으로 j번 째 픽셀값을 의미한다. j값이 8을 넘어서는 안 되는 이유는 최종 이미지 처리 단위인 블록이 8x8므로 그 이상 넘어가면 다음 블록까지 영향을 미치게 되기 때문이다. alpha값은 이미지에서 에지라고 생각되는 값의 Threshold값이다. 블록을 경계로 상기와 같은 검출작업을 통해 right_run, left_run, top_run, bottom_run 을 모든 블록 경계마다 얻은 후 이를 통해 디블록킹 수행 영역을 결정한다.The first part is the step of determining run which is an area in which a deblocking filter operates in a block, and an algorithm thereof is shown in the flowchart of FIG. Here, right_run [i] means the right run value in the i-th block, and right [j] means the j-th pixel value to the right in the block. The reason j should not exceed 8 is because the block that is the final image processing unit is 8x8. The alpha value is the threshold value of the value that is considered to be an edge in the image. The right_run, left_run, top_run, and bottom_run are obtained for every block boundary through the above-described detection operation on the block boundary, and then the deblocking execution region is determined.
디블록킹의 두 번째 파트는 상기와 같은 알고리즘에 의해 결정된 영역에 대해 저역통과 필터링을 수행하는 단계이다. 이를 위해 아래와 같은 수식의 사인파형 필터(sine waveform filter)를 사용한다.The second part of the deblocking is the step of performing lowpass filtering on the region determined by the above algorithm. To this end, a sine waveform filter of the following equation is used.
수학식 1에서 Mean 은 블록 경계 사이의 두 픽셀값의 평균을 의미하고 Amplitude 는 Mean과 디블록킹 영역의 boundary 값의 차이, 즉 적용할 사인파형 필터의 크기를 의미한다. 변수 t는 블록간의 경계를 중심으로 픽셀의 위치를 나타낸다. 위와 같은 필터를 각 블록마다 수평/수직 방향으로 적용하여 블록킹 현상을 제거한다. 참고로 도 2(b)는 디블록킹 필터를 거친 영상에 있어서 블록 경계에서의 픽셀값 추이를 도시하고 있으며, 여기서 흰색 포인트는 디코딩된 입력 이미지의 픽셀값이고, 검정색 포인트는 디블록킹 필터를 거친 후의 픽셀값을 가리킨다. 흑백 이미지에 있어서 픽셀값 0은 검정색을 그리고 픽셀값 255는 흰색을 의미한다. 도 2(b)에서 블록간의 경계를 기준으로 입력 이미지(흰색 포인트의 추이)는 경계가 생겼지만, 디블록킹 필터를 거친 출력 이미지(검은색 포인트의 추이)는 경계가 부드럽게 이어짐을 알 수 있다.In
다음으로, 엣지개선필터(122)는 동영상 화면을 구성하는 각 이미지들의 경계가 명확해지도록 보정하는 역할을 담당한다.Next, the edge improvement filter 122 serves to correct the boundary of each image constituting the video screen to be clear.
H.263은 손실 압축기법을 이용하는데, 손실 압축 기법이란 이미지의 픽셀 정보를 주파수로 변환하여 사람의 눈에 큰 영향을 미치지 않는 고주파를 제거하여 용량을 줄이는 기법을 말한다. 이렇게 되면 용량은 줄지만 이미지의 경계 부분이 흐려지는 현상이 나타나게 되는데 엣지개선필터(122)는 이와 같은 이유로 손상된 부분을 원상에 가깝게 복원한다. 이와 같이 엣지 부분이 뚜렷하게 되면 사람의 눈에는 보다 선명하게 보이므로 주관적으로 화질이 개선되는 효과를 기대할 수 있다.H.263 uses a lossy compression method, which is a technique of converting pixel information of an image into a frequency to reduce the capacity by removing high frequencies that do not have a significant effect on the human eye. In this case, the capacity is reduced, but the boundary of the image is blurred. The edge improvement filter 122 restores the damaged portion closer to the original for the same reason. In this way, if the edge portion becomes clearer, it is more clearly visible to the human eye, and thus the image quality can be improved subjectively.
본 실시예에서는 엣지개선을 위하여 언샤프 마스킹(Unsharp masking) 기법을 사용한다. 이 기법은 경계 부분의 선명도를 증가시키기 위하여 다음과 같은 수식을 적용한다.In this embodiment, an Unsharp masking technique is used for edge improvement. This technique applies the following formula to increase the sharpness of the boundary.
수학식 2에서 v(m,n)은 엣지가 개선된 후의 신호이고, u(m,n)은 입력 신호, g(m,n)은 영상의 좌표 (m,n)에서 구해진 고주파 성분 그리고 λ는 경계 부분을 얼마나 강화시킬 것인지 결정해주는 상수이다. Unsharp masking 기법은 수학식 2처럼 입력 신호에 고주파 성분을 더함으로써 영상에서의 경계 부분을 강화하는 알고리즘 이다. 여기서 g(m,n)은 다음과 같이 구해진다.In Equation 2, v (m, n) is a signal after the edge is improved, u (m, n) is an input signal, g (m, n) is a high frequency component obtained from coordinates (m, n) of the image, and λ. Is a constant that determines how much to strengthen the boundary. The unsharp masking technique is an algorithm that reinforces the boundary of an image by adding high frequency components to an input signal as shown in Equation 2. Where g (m, n) is obtained as follows.
일반적으로 신호 처리 과정에서 저주파 성분은 신호의 평균을 통하여 구하고 고주파 성분은 현 픽셀 값에서 저주파 성분을 제거함으로써 얻어진다. 수학식 3에서 살펴보면 g(m,n)은 (m,n)의 위치에서 입력 신호에서의 저주파 성분을 뺀 값으로서 결국 고주파 성분을 구한 것과 같다. In general, in the signal processing, low frequency components are obtained by averaging signals and high frequency components are obtained by removing low frequency components from current pixel values. In Equation 3, g (m, n) is a value obtained by subtracting low frequency components from an input signal at a position of (m, n), which is equivalent to obtaining high frequency components.
도 3(a) 내지 3(c)는 위에서 살펴본 알고리즘을 통해 비교적 간단한 신호인 일차원 신호에 대한 고주파 성분 g(m,n)을 추출하는 과정을 도시하고 있고, 도 3(d)는 도 3(a) 내지 3(c)에서 구해진 고주파 성분을 입력 신호에 더함으로써 최종적으로 경계에서의 엣지값이 강조된 결과를 보여준다. 3 (a) to 3 (c) illustrate a process of extracting a high frequency component g (m, n) for a one-dimensional signal which is a relatively simple signal through the algorithm described above, and FIG. 3 (d) shows FIG. By adding the high frequency components obtained in a) to 3 (c) to the input signal, the result of the edge value at the boundary is finally highlighted.
전처리부(120)의 마지막 구성인 명암개선필터(123)는 동영상 화면의 명도가 증가하도록 보정하는 역할을 담당한다. The contrast enhancement filter 123, which is the last component of the
본 발명에서 화질 개선하고자 하는 대상의 디코딩된 동영상은 일반적으로 명암이 낮은 상태이므로 이를 증가시키기 위한 알고리즘으로 자동 히스토그램 워핑(automatic histogram warping) 기법을 적용한다. 자동 히스토그램 워핑 기법은 영 상의 히스토그램이 특정 부분에 집중되어 있을 때, 이 부분이 전체 범위에 골고루 분포할 수 있도록 워핑해 준다. 히스토그램이 집중되어 있는 부분이 여러 곳일 수도 있으므로 이 경우도 자동으로 발견하여 골고루 분포할 수 있도록 한다. 도 4(a)에서 도시하는 입력 영상의 히스토그램은 특정 부분에 픽셀들이 집중되어 있는 경우를 보여준다. 이를 자동 히스토그램 워핑 기법을 이용하여 처리하면 도 4(b)의 히스토그램에서 확인할 수 있듯이 픽셀들이 보다 더 넓은 영역에 분포되는 것을 알 수 있다.In the present invention, since the decoded video of the object to be improved in image quality is generally low in contrast, an automatic histogram warping technique is applied as an algorithm for increasing it. Automatic histogram warping ensures that when a histogram of an image is concentrated in a particular part, it is evenly distributed over the entire range. Since there may be several places where the histogram is concentrated, this case is automatically detected and distributed evenly. The histogram of the input image illustrated in FIG. 4A shows a case where pixels are concentrated in a specific portion. If this is processed using the automatic histogram warping technique, as can be seen in the histogram of FIG. 4 (b), it can be seen that the pixels are distributed in a wider area.
다음으로, ROI(Region Of Interest) 필터(130)는 동영상의 특정 관심 영역에 대하여 2차적으로 화질 개선 프로세스를 수행하는 역할을 담당하며, 구체적으로는 입력받은 동영상을 H.263 표준에 따라 인코딩하되, 해당 동영상에 있어서 관심 영역과 비관심 영역에 대한 양자화 계수를 서로 달리하여 인코딩함으로써 필터링을 수행한다.Next, the ROI (Region Of Interest) filter 130 performs a secondary image quality improvement process for a specific region of interest of the video, and specifically encodes the received video according to the H.263 standard. In this video, filtering is performed by encoding quantization coefficients of the ROI and the ROI differently from each other.
일반적으로 사람이 동영상을 볼 때에는 화면 전체에 대해 집중하기보다 어떠한 특정 부분만을 집중해서 보는 경향이 있다. 예를 들어 영상 편지를 보낼 때 송신자는 카메라를 보고 말을 하게 될 것이며, 수신자는 송신자의 얼굴을 집중해서 보게 될 것이다. 이때 이미지 해상도가 전체적으로 일정한 것보다는 배경의 해상도가 떨어진다고 해도 얼굴의 해상도가 높게 되면 주관적으로 볼 때는 화질이 향상되었다고 느끼게 된다. Generally, when people watch a video, they tend to focus on a certain part rather than focusing on the whole screen. For example, when sending a video letter, the sender will look at the camera and speak, while the recipient will focus on the sender's face. At this time, even if the resolution of the background is lower than the resolution of the image as a whole, if the resolution of the face is high, subjectively, the image quality is improved.
따라서, ROI 필터(130)는 비관심 영역보다 관심 영역에 더 많은 비트량을 할당하는 원리를 이용하며, 구체적으로는 ROI 영역과 비ROI 영역에 대해 서로 다른 양자화 계수를 할당하는 방식으로 구현된다. 이를 위해 ROI 필터(130)는 ROI 영역을 구분하는 ROI결정 알고리즘과, ROI 영역과 비ROI 영역에 대해 각각의 양자화 계수를 할당하는 비트율 제어 알고리즘으로 구성된다. 참고로 양자화 계수가 크면 압축률은 높아지는 반면 화질은 떨어지게 되고 양자화 계수가 작으면 압축률은 낮아지는 반면 화질은 좋아지는 특징이 있다.Accordingly, the ROI filter 130 uses the principle of allocating more bits to the ROI than the uninterested region. Specifically, the ROI filter 130 is implemented by assigning different quantization coefficients to the ROI region and the non-ROI region. To this end, the ROI filter 130 is composed of a ROI determination algorithm for dividing the ROI region and a bit rate control algorithm for allocating respective quantization coefficients to the ROI region and the non-ROI region. For reference, if the quantization coefficient is large, the compression rate is high, but the image quality is low. If the quantization coefficient is small, the compression rate is low, but the image quality is improved.
이제, 위와 같은 구성을 가지는 화질 개선 장치를 이용하여 이동통신망에서 입력된 동영상의 화질을 보정하는 방법에 대해 살펴보기로 한다. 참고로 도 5는 본 발명에 의한 동영상 화질 개선 방법의 각 단계를 순차적으로 도시하고 있다.Now, a method of correcting an image quality of a video input from a mobile communication network using the image quality improving apparatus having the above configuration will be described. For reference, FIG. 5 sequentially illustrates each step of the video quality improving method according to the present invention.
이동통신망으로부터 화질 개선 장치에 동영상이 입력되는 경우, 해당 동영상이 H.263, MPEG 등과 같은 비디오 규격으로 인코딩되어 있는 경우에 한하여(S501) 디코더로 입력된다.When a video is input from the mobile communication network to the image quality improving apparatus, the video is input to the decoder only when the video is encoded in a video standard such as H.263, MPEG, or the like (S501).
디코더는 해당 비디오 규격에 따라 해당 동영상을 디코딩하여 이후의 전처리 프로세스 및 ROI 보정 프로세스가 원활하게 수행될 수 있도록 처리한 이후에 전처리부로 전송한다(S503).The decoder decodes the corresponding video according to the corresponding video standard and transmits the decoded video to the preprocessor after the preprocessing process and the ROI correction process are performed smoothly.
전처리부는 동영상 화면의 전체 영역에 대하여 1차적으로 화질 개선 프로세스를 수행하는데, 구체적으로는 동영상 화면에 블록단위로 발생하는 경계를 보정하는 디블록킹 필터링 프로세스(S505), 동영상 화면을 구성하는 각 이미지들의 경계가 명확해지도록 보정하는 엣지개선 필터링 프로세스(S507) 및 동영상 화면의 명도가 증가하도록 보정하는 명암개선 필터링 프로세스(S509)를 수행한다. 이때, 각 프 로세스 단계에서는 입력되는 동영상을 분석하여 해당 프로세스를 거칠 필요가 있는 지를 판단한 후 보정의 필요성이 있는 경우에 한하여 해당 프로세스를 진행시키는 것이 바람직하며, 설계자의 선택에 따라 원하는 특정 프로세스만을 거치도록 하는 것도 가능하다.The preprocessing unit primarily performs an image quality improvement process on the entire area of the video screen, specifically, a deblocking filtering process (S505) for correcting a boundary occurring in units of blocks on the video screen, and each image constituting the video screen. An edge enhancement filtering process (S507) for correcting the boundary and a contrast enhancement filtering process (S509) for correcting the brightness of the moving picture are increased. At this time, it is preferable to proceed with the process only when there is a need for correction after analyzing the input video at each process step to determine whether it is necessary to go through the corresponding process, and go through only a specific process desired by the designer. It is also possible to do so.
전처리 프로세스를 거친 동영상은 ROI 필터를 통해 해당 동영상 화면의 특정 관심 영역에 대해 2차적으로 화질 개선 프로세스를 수행하여 주관적으로 양질의 화면으로 느낄 수 있도록 한다(S511). 이때, 2차 화질 개선 프로세스는 해당 동영상을 H.263 표준에 따라 인코딩하되, 해당 동영상에 있어서 관심 영역과 비관심 영역에 대한 양자화 계수를 서로 달리하여 인코딩하는 것을 그 내용을 한다.The video, which has undergone the preprocessing process, performs a second quality improvement process on a particular ROI of the corresponding video screen through the ROI filter to subjectively feel a high quality screen (S511). In this case, the secondary image quality improvement process encodes the video according to the H.263 standard, but encodes the video by differently encoding quantization coefficients for the ROI and the ROI in the video.
한편, 당해 동영상 화질 개선 장치에 입력되는 동영상이 H.263, MPEG 등과 같은 비디오 규격으로 인코딩되지 않은 원본 동영상인 경우 상기 S503 단계는 생략되어야 하며, S505 또는 S505~S507 단계는 동영상의 특성에 따라 선택적으로 생략될 수 있다.On the other hand, if the video inputted to the video quality improving apparatus is an original video not encoded in a video standard such as H.263, MPEG, etc., step S503 should be omitted, and steps S505 or S505 to S507 are optional depending on the characteristics of the video. May be omitted.
이하에서는 본 발명에 의한 동영상 화질 개선 방법이 이동통신 서비스에 응용되는 실시예를 살펴보기로 한다. 참고로 도 6은 이동통신망의 동영상 링백톤(RBT, Ring Back Tone) 서비스에 적용되는 경우를 도시하고 있고, 도 7은 이동통신망의 부재중 동영상 메시지 서비스(VMS, Video Messaging Service)에 적용되는 경우를 도시하고 있다.Hereinafter, an embodiment in which the video quality improving method according to the present invention is applied to a mobile communication service will be described. For reference, FIG. 6 illustrates a case of applying to a video ring back tone (RBT) service of a mobile communication network, and FIG. 7 illustrates a case of applying to a missed video messaging service (VMS) of a mobile communication network. It is shown.
이동통신을 이용한 화상통화가 활성화되면서 가장 많이 사용될 수 있는 서비 스로 동영상 RBT(Ring Back Tone), VMS(Video Messaging Service)를 들 수 있는데, 이 중 동영상 RBT는 사용자가 원하는 동영상을 압축하여 소정의 서버에 저장해 놓고 송신자가 수신자에게 전화를 할 때 수신자가 전화를 받을 때까지 동영상 RBT가 송신자의 단말기에서 실행되도록 하는 서비스를 말하며, VMS는 수신자가 전화를 받지 않을 경우 송신자가 남기고 싶은 메시지를 동영상으로 보내는 서비스를 말한다.As the video call using mobile communication, the most popular services are video ring back tone (RBT) and video messaging service (VMS). Among these, video RBT compresses a user's desired video to a predetermined server. Is a service that allows a video RBT to run on the sender's terminal until the receiver receives a call when the sender calls the recipient, and VMS sends a message as a video that the sender wants to leave if the receiver does not answer the call. Say service.
먼저, 동영상 링백톤 서비스에 대한 응용예를 설명해보면, 송신측 이동통신단말기(10)가 이동통신망을 통해 상대방 이동통신단말기(15)로 전화를 거는 경우, 교환국(도면에 미도시)에서는 수신측(15)에서 통화 연결을 수락할 때까지 송신측(10)에 링백톤 신호를 송신하게 되는데, 이때 컨텐츠 제공 사업자의 RBT 서버(20)는 상기 교환국에 동영상 컨텐츠를 제공하여 단순 링백톤 신호 대신 동영상 링백톤이 송신측(10)에 전송되도록 한다. First, an application example of the video ringback tone service will be described. When the sending
여기서, RBT 서버(20)에는 본 발명에 의한 동영상 화질 개선 장치가 장착되어 있으므로 단순히 동영상 컨텐츠를 제공하는 것이 아니라 저화질의 동영상이지만 화면 중에서 필요한 부분에 대해서는 집중적으로 화질 보정을 실시한 후에 제공함으로써 이동통신망에서 동영상의 활용 가치를 높여주는 역할을 하게 된다.Here, since the
다음으로, 부재중 동영상 메시지 서비스에 대한 응용예를 설명해보면, 송신측(10)에서는 이동통신망을 통해 수신측(15)으로 전화를 걸지만 상대방이 일정 시간 이상으로 통화중이거나 전화를 받지 않는 경우 또는 비디오 사서함으로 착신전환이 되어 있어 전화통화가 불가능한 경우라면, 송신자는 자신의 단말기(10)를 통해 상대방에게 전할 메시지를 녹화한 후 교환국의 VMS 서버(30)로 전송하여 저장시 킨다.Next, an application example of the missed video message service will be described. If the
이때, VMS 서버(30)에도 역시 본 발명에 의한 동영상 화질 개선 장치가 장착되어 있으므로 차후 상대방이 VMS 서버(30)에 접속하여 자신의 메시지를 확인하려 할 경우 저장된 동영상은 비록 저화질이지만 화면 중 송신자의 얼굴 등과 같이 필요한 부분에 대해서는 집중적으로 화질 보정을 실시한 후에 상대방에게 제공함으로써 더욱 명확하게 송신자를 파악할 수 있도록 한다.At this time, the
이상, 본 발명의 상세한 설명에서는 구체적인 실시예에 관해 설명하였으나, 본 발명의 범위에서 벗어나지 않는 한도 내에서 여러 가지 변형이 가능함은 물론이다. 그러므로 본 발명의 범위는 설명된 실시예에 국한되지 않으며, 후술 되는 특허청구의 범위뿐만 아니라 이 특허청구의 범위와 균등한 것들에 의해 정해져야 할 것이다.In the foregoing detailed description of the present invention, specific embodiments have been described, but various modifications are possible without departing from the scope of the present invention. Therefore, the scope of the present invention should not be limited to the described embodiments, but should be defined not only by the scope of the following claims, but also by those equivalent to the scope of the claims.
이와 같은 구성을 가지는 본 발명에 의하면, 한정된 대역폭 내에서 전송이 이루어지는 이동통신망에서의 동영상 특성상 저용량 및 저화질일 수밖에 없다는 종래의 문제점을 극복하여 동영상의 목적에 따라 화면의 특정 부분에 대해서만 집중적으로 화질 개선을 꾀함으로써 적은 비용으로 만족할 만한 수준의 화질을 확보할 수 있게 된다. 또한, 이와 같은 특정 부분 보정이 실시되기 전이 소정의 전처리 과정을 통해 동영상 화면 전체에 대해 일정 수준의 화질 보정을 수행함으로써 전반적인 화질 개선도 기대할 수 있으며, 이동통신망의 규격에 따라 인코딩된 채로 입력 된 동영상과 원본인 채로 입력된 동영상을 구분하되 전자(前者)에 대해서만 일시적인 디코딩 과정을 거치도록 함으로써 보정 효율을 높일 수 있다.According to the present invention having such a configuration, the image quality in a mobile communication network in which transmission is performed within a limited bandwidth overcomes the conventional problem of low capacity and low quality, and intensively improves image quality only for a specific part of the screen according to the purpose of the video. By doing so, a satisfactory level of image quality can be obtained at low cost. In addition, overall image quality improvement can be expected by performing a certain level of image quality correction on the entire video screen through a predetermined preprocessing process before the specific partial correction is performed, and the video inputted while being encoded according to the standard of the mobile communication network It is possible to improve the correction efficiency by distinguishing between the input video and the original, but performing a temporary decoding process only for the former.
또한, 차세대 이동통신 서비스로서 링백톤 서비스, 부재중 동영상 메시지 서비스 기타 동영상이 사용되는 서비스들에 본 발명을 적용함으로써 한정된 대역폭의 이동통신망을 통해서도 양질의 서비스가 이루어질 수 있으므로 동영상의 활용폭을 한층 넓힐 수 있게 된다.In addition, by applying the present invention to services that use ringback tone service, missed video message service, and other video as next generation mobile communication service, high-quality service can be achieved through mobile communication network of limited bandwidth. do.
Claims (10)
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020060005397A KR100764345B1 (en) | 2006-01-18 | 2006-01-18 | Method of enhancing video quality of movie file in mobile communication network and apparatus implementing the same |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020060005397A KR100764345B1 (en) | 2006-01-18 | 2006-01-18 | Method of enhancing video quality of movie file in mobile communication network and apparatus implementing the same |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20070076243A true KR20070076243A (en) | 2007-07-24 |
KR100764345B1 KR100764345B1 (en) | 2007-10-08 |
Family
ID=38501220
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020060005397A KR100764345B1 (en) | 2006-01-18 | 2006-01-18 | Method of enhancing video quality of movie file in mobile communication network and apparatus implementing the same |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR100764345B1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8718376B2 (en) | 2010-01-26 | 2014-05-06 | Samsung Electronics Co., Ltd. | Apparatus and method for enhancing image in portable terminal |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100584549B1 (en) * | 2002-01-31 | 2006-05-30 | 삼성전자주식회사 | Filtering method for removing block artifacts and/or ringing noise and apparatus therefor |
KR100543608B1 (en) * | 2003-01-03 | 2006-01-20 | 엘지전자 주식회사 | Bit rate control system based on object |
-
2006
- 2006-01-18 KR KR1020060005397A patent/KR100764345B1/en not_active IP Right Cessation
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8718376B2 (en) | 2010-01-26 | 2014-05-06 | Samsung Electronics Co., Ltd. | Apparatus and method for enhancing image in portable terminal |
Also Published As
Publication number | Publication date |
---|---|
KR100764345B1 (en) | 2007-10-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108028920B (en) | Method and device for high-level deblocking filtering in video coding and decoding | |
KR101058759B1 (en) | Decoder side region of interest video processing | |
US6438165B2 (en) | Method and apparatus for advanced encoder system | |
US10027966B2 (en) | Apparatus and method for compressing pictures with ROI-dependent compression parameters | |
CA2037444C (en) | Video signal hybrid-coding systems | |
WO2014117182A1 (en) | Conditional concealment of lost video data | |
KR20100006551A (en) | Video encoding techniques | |
EP1821548B1 (en) | Method for pre-suppressing image noise. | |
EP2810432A1 (en) | Video coding using eye tracking maps | |
CN1914925A (en) | Image compression for transmission over mobile networks | |
KR100823145B1 (en) | Improvement device and quantization for the quality of image with ROI and the method for operating | |
US7782940B2 (en) | Methods for encoding or decoding in a videoconference system to reduce problems associated with noisy image acquisition | |
KR100608036B1 (en) | Method and apparatus for image data segmentation | |
KR100764345B1 (en) | Method of enhancing video quality of movie file in mobile communication network and apparatus implementing the same | |
Ngan et al. | Very low bit rate video coding using H. 263 coder | |
US11297353B2 (en) | No-reference banding artefact predictor | |
JP3800435B2 (en) | Video signal processing device | |
JPH06133303A (en) | Moving picture coder | |
Jung | Comparison of video quality assessment methods | |
Naccari et al. | Perceptually optimized video compression | |
Kim et al. | Adaptive edge-preserving smoothing and detail enhancement for video preprocessing of H. 263 | |
KR100885441B1 (en) | Filtering method for block boundary region | |
Chubach et al. | Motion-distribution based dynamic texture synthesis for video coding | |
Tancharoen et al. | Automatic face color segmentation based rate control for low bit-rate video coding | |
US11854165B2 (en) | Debanding using a novel banding metric |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant | ||
G170 | Publication of correction | ||
FPAY | Annual fee payment |
Payment date: 20120928 Year of fee payment: 6 |
|
FPAY | Annual fee payment |
Payment date: 20130925 Year of fee payment: 7 |
|
FPAY | Annual fee payment |
Payment date: 20140926 Year of fee payment: 8 |
|
LAPS | Lapse due to unpaid annual fee |