JP4412042B2 - Frame cyclic noise reduction method - Google Patents

Frame cyclic noise reduction method Download PDF

Info

Publication number
JP4412042B2
JP4412042B2 JP2004123969A JP2004123969A JP4412042B2 JP 4412042 B2 JP4412042 B2 JP 4412042B2 JP 2004123969 A JP2004123969 A JP 2004123969A JP 2004123969 A JP2004123969 A JP 2004123969A JP 4412042 B2 JP4412042 B2 JP 4412042B2
Authority
JP
Japan
Prior art keywords
amount
signal
motion
frame
noise reduction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004123969A
Other languages
Japanese (ja)
Other versions
JP2005311575A (en
Inventor
一樹 澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2004123969A priority Critical patent/JP4412042B2/en
Publication of JP2005311575A publication Critical patent/JP2005311575A/en
Application granted granted Critical
Publication of JP4412042B2 publication Critical patent/JP4412042B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Picture Signal Circuits (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Control Of Gas Discharge Display Tubes (AREA)

Description

本発明は、入力画像信号の1フィールドを複数のサブフィールドに分割し、前記サブフィールド毎の発光の組合せによって表示手段の発光を制御して階調を表現するサブフィールド画像表示装置に用いるフレーム巡回型ノイズ低減方法およびノイズ装置に関する。   The present invention divides one field of an input image signal into a plurality of subfields, and controls the light emission of the display means by the combination of the light emission for each subfield to represent a frame cycle used in a subfield image display device for expressing gradation. The present invention relates to a mold noise reduction method and a noise device.

プラズマディスプレイパネル(PDP)などの、2値表示が基本である表示装置を用いて多階調画像を表示する場合、画像の1フィールド分を複数のサブフィールドに分割し、それぞれのサブフィールドに所定の輝度重みをもたせて各サブフィールド毎に発光の有無を制御して画像表示を行う方法が知られている。例えば、256階調を表示するためには、図1に示すように入力信号の1フィールドを8つのサブフィールド(SF)に分割し、それぞれのサブフィールドの輝度重みを「1」、「2」、「4」、「8」、「16」、「32」、「64」、「128」とする。また入力信号は8ビットのディジタル信号とすると、これを最下位ビットから順に8つのサブフィールド画像に割り当てて表示する。また、サブフィールドの並びは、特に限定されるものではないが、たとえば図1(a)に示すように輝度重みの小さいものから大きいものへ順に並ぶもの(以下昇順コーディングと称す)や図1(b)に示すように輝度重みの大きいものから小さいものへ順に並ぶもの(以下降順コーディングと称す)などがある。各サブフィールドの輝度の時間方向の積分で中間調を表現するもので、これら8つのサブフィールドの組み合わせにより、この場合8ビット256階調の階調表示を行うことができる(たとえば非特許文献1)。   When displaying a multi-gradation image using a display device such as a plasma display panel (PDP) that is based on binary display, one field of the image is divided into a plurality of subfields, and each subfield has a predetermined value. There is known a method of displaying an image by controlling the presence or absence of light emission for each subfield with a luminance weight of. For example, to display 256 gradations, as shown in FIG. 1, one field of the input signal is divided into eight subfields (SF), and the luminance weight of each subfield is set to “1”, “2”. , “4”, “8”, “16”, “32”, “64”, “128”. If the input signal is an 8-bit digital signal, it is assigned to eight subfield images in order from the least significant bit. The arrangement of the subfields is not particularly limited. For example, as shown in FIG. 1A, the subfields are arranged in descending order of luminance weight (hereinafter referred to as ascending coding) or FIG. As shown in b), there are those arranged in order from the one with the largest luminance weight to the smallest one (hereinafter referred to as descending coding). A halftone is expressed by integrating the luminance of each subfield in the time direction. In this case, gradation display of 8 bits and 256 gradations can be performed by combining these eight subfields (for example, Non-Patent Document 1). ).

また、入力される映像信号に乗っているノイズを低減し、S/N比を改善するノイズリダクション制御方法およびノイズリダクション制御装置が数多く提案されており、プラズマディスプレイのようなサブフィールド画像表示装置においても用いられている(たとえば特許文献1参照)。そのなかで、比較的ノイズ低減に効果的なものとして、フレーム巡回型ノイズ低減方法が知られている(たとえば非特許文献2)。一般に、画像信号はフレーム間における画像情報の自己相関性が強く、一方、画像信号に含まれるノイズ成分は自己相関性がない。フレーム巡回型ノイズ低減装置は、このことに着目しノイズ低減を行う方法で、画像信号をフレーム周期毎に時間平均することでノイズ成分を低減することができる。しかし、動画部分についてフレーム周期の時間平均をとると、複数フレームにわたる動画像も平均化されてしまい、結果的にボケや尾引き等の残像が発生し解像度が低下してしまう。そのため、実用的なノイズ低減装置として、画像信号の動きを検出し、動き量に応じて時間平均の程度(巡回量)を制御するフレーム巡回型ノイズ低減装置がいくつか提案されている(たとえば特許文献2参照)。図7は特許文献2に掲載されているフレーム巡回型ノイズ低減装置の概略構成を示すブロック図である。このようにフレーム間の差分信号をもとに動き量を求め、動画領域においては動き量に応じて巡回量k(kは0から1の間で設定)を小さく設定し残像を抑え、静止画領域においては巡回量kを大きく設定しノイズ抑制効果を得ている。
特開2001−36770号公報 特開平6−225178号公報 内池平樹、御子柴茂生 共著 「プラズマディスプレイのすべて」 工業調査会出版 165頁〜177頁 吹抜敬彦 著 「TV画像の多次元信号処理」 日刊工業新聞社 190頁
In addition, many noise reduction control methods and noise reduction control devices that reduce noise on the input video signal and improve the S / N ratio have been proposed. In a subfield image display device such as a plasma display. Is also used (see, for example, Patent Document 1). Among them, a frame cyclic noise reduction method is known as a relatively effective noise reduction method (for example, Non-Patent Document 2). In general, an image signal has strong autocorrelation of image information between frames, while a noise component included in the image signal has no autocorrelation. The frame recursive noise reduction device pays attention to this, and can reduce noise components by averaging the image signals for each frame period by a method of performing noise reduction. However, if the time average of the frame period is taken for the moving image portion, moving images over a plurality of frames are also averaged, resulting in afterimages such as blurring and tailing, resulting in a reduction in resolution. Therefore, as a practical noise reduction device, several frame cyclic noise reduction devices that detect the movement of an image signal and control the degree of time average (cyclic amount) according to the amount of motion have been proposed (for example, patents). Reference 2). FIG. 7 is a block diagram showing a schematic configuration of a frame cyclic noise reduction device described in Patent Document 2. In FIG. In this way, the amount of motion is obtained based on the difference signal between frames, and in the moving image area, the cyclic amount k (k is set between 0 and 1) is set small according to the amount of motion to suppress afterimages and still images. In the region, the traveling amount k is set large to obtain a noise suppression effect.
JP 2001-36770 A JP-A-6-225178 Co-authored by Hiraki Uchiike and Shigeo Miko “All about Plasma Displays” 165-177 Takahiko Fukiki "Multi-dimensional signal processing of TV images" Nikkan Kogyo Shimbun, p. 190

しかしながら、フレーム巡回型ノイズ低減装置において、動画部に動画ボケなどの画質劣化を招かないように巡回係数を制御するなど種々の方法が提案されているが、いずれもノイズ低減処理を行うにあたり、ノイズ低減効果と動画部のボケの程度はトレードオフ関係にあるため、良好なノイズ低減効果を得ながら動画部のボケを完全に抑えることは難しい。ほとんどの場合、ノイズ低減効果を犠牲にしながら動画部のボケを抑えるか、あるいは動画部のある程度のボケは妥協し、目立ちにくい程度に抑えながらノイズ低減効果を得るよう調整するなどがなされている。   However, in the frame cyclic noise reduction device, various methods have been proposed such as controlling the cyclic coefficient so as not to cause image quality degradation such as moving image blur in the moving image portion. Since the reduction effect and the degree of blur in the moving image portion are in a trade-off relationship, it is difficult to completely suppress the blur in the moving image portion while obtaining a good noise reduction effect. In most cases, the blur of the moving image portion is suppressed while sacrificing the noise reduction effect, or a certain amount of blur in the moving image portion is compromised and adjusted to obtain a noise reduction effect while suppressing the blurring to a less noticeable level.

また、入力画像信号の1フィールドを複数のサブフィールドに分割し、前記サブフィールド毎の発光の組合せによって表示手段の発光を制御して階調を表現するサブフィールド画像表示装置では、各サブフィールドの輝度の時間方向の積分で中間調を表現しようとしているため、動画像などで視線が移動した場合、時間の経過とともに本来の画素位置とは異なる位置の画像のそれぞれのビットの重みを積分することになり、中間調表示が大きく乱れてしまい、動画疑似輪郭と呼ばれる輪郭上の乱れや、画像のエッジ部が不鮮明になってしまう(以下サブフィールドボケと称す)などの画質劣化が視認される場合がある。以下、サブフィールドボケの発生メカニズムについて説明する。   Also, in a subfield image display apparatus that divides one field of an input image signal into a plurality of subfields and controls the light emission of the display means by the combination of light emission for each subfield to express gradation, Since we are trying to express halftones by integrating the luminance in the time direction, when the line of sight moves in a moving image, etc., integrate the weight of each bit of the image at a position different from the original pixel position over time. When halftone display is greatly distorted and image quality deterioration such as distorted contours called moving image pseudo contours or blurred edges of images (hereinafter referred to as subfield blur) is observed. There is. The subfield blur generation mechanism is described below.

図2は、図1(a)の昇順コーディングを用いて、入力映像信号レベル63を表示した際の時間の経過に沿ったサブフィールドの発光状態と網膜上での視認強度分布を示している。レベル63を表現する場合、図中に示すように画素AからEにおいて輝度重み「1」、「2」、「4」、「8」、「16」、「32」が点灯することになる。静止画においては各サブフィールドの発光「1」、「2」、「4」、「8」、「16」、「32」は図中破線で示す視線に沿って同じ画素位置の発光が網膜上同じ位置において順に積分されるため、視認強度は均一になる。それに対し図3に示すように、映像が左に移動する場合、視線の移動により時間の経過とともに図中破線の矢印で示す視線をたどり本来の画素位置とは異なる位置のサブフィールドの発光を積分するため、視認強度は不均一となり、図中に示すようにエッジ部分においてエッジボケが発生してしまう。このようにサブフィールド画像表示においては、動画部には特にエッジ部の解像度が低下するといったサブフィールドボケが発生してしまう。また、図4は入力映像信号レベルが255の場合のサブフィールドボケの発生を示している。図より入力信号レベルが63の場合と比べ255の場合は、点灯サブフィールド数が多い、すなわち1フィールド内の発光時間が長いため、サブフィールドボケの程度は大きくなってしまう。   FIG. 2 shows the subfield emission state and the visual intensity distribution on the retina over time when the input video signal level 63 is displayed using the ascending coding of FIG. When the level 63 is expressed, luminance weights “1”, “2”, “4”, “8”, “16”, and “32” are lit in the pixels A to E as shown in the drawing. In the still image, the light emission “1”, “2”, “4”, “8”, “16”, “32” of each subfield is emitted on the retina along the line of sight indicated by the broken line in the figure. Since integration is performed sequentially at the same position, the visual strength is uniform. On the other hand, as shown in FIG. 3, when the image moves to the left, the line of sight moves along the line of sight as indicated by the dashed arrow in FIG. For this reason, the visual strength becomes non-uniform, and edge blurring occurs at the edge portion as shown in the figure. As described above, in the subfield image display, the subfield blurring in which the resolution of the edge portion particularly decreases occurs in the moving image portion. FIG. 4 shows the occurrence of sub-field blur when the input video signal level is 255. From the figure, when the input signal level is 255 compared with 63, the number of lighting subfields is large, that is, the light emission time in one field is long, so the degree of subfield blurring becomes large.

ここでは図1(a)に示す昇順コーディングを例に説明したが、原理的にサブフィールドの並びを変えることでは、このサブフィールドボケはなくならない。また、通常の画像表示装置に動画像を表示した際の観測者の表示画像上の視線の動きは、表示画像装置上の画像の動きと強い相関があるため、以下では視線の動きと、画像の動きと特に区別することなく表記するものとする。   Here, the ascending order coding shown in FIG. 1A has been described as an example, but in principle, the subfield blur is not eliminated by changing the arrangement of the subfields. In addition, since the movement of the line of sight on the display image of the observer when a moving image is displayed on a normal image display apparatus has a strong correlation with the movement of the image on the display image apparatus, in the following, the movement of the line of sight and the image It shall be written without distinction from the movement of

図2、図3、図4によりエッジ部が急峻な入力映像信号を例にサブフィールドボケについて説明したが、実際、TVカメラで撮影された映像中のエッジ部分はボケてしまっていることが多い。このような場合、図1(a)に示すような昇順コーディングのサブフィールド表示では、図5に示すように入力映像中の動画部において移動方向に沿って信号レベルが減少するエッジ部での視認されるボケの程度は、サブフィールドボケにより入力映像よりも大きくなる。また図1(b)のような降順コーディングにおいては、図6に示すように入力映像中の動画部において移動方向に沿って信号レベルが増加するエッジ部において視認されるボケの程度が大きくなる。   Subfield blur has been described with reference to FIG. 2, FIG. 3, and FIG. 4 using an input video signal with a sharp edge as an example. However, in fact, the edge portion in a video shot by a TV camera is often blurred. . In such a case, in the ascending coding subfield display as shown in FIG. 1A, as shown in FIG. 5, in the moving image portion in the input video, the visual recognition is performed at the edge portion where the signal level decreases along the moving direction. The degree of blurring is greater than the input video due to subfield blurring. Further, in descending order coding as shown in FIG. 1B, as shown in FIG. 6, the degree of blurring visually recognized at the edge portion where the signal level increases in the moving direction in the moving image portion in the input video is increased.

このサブフィールドボケの程度は、入力映像においてエッジ部のボケの程度が大きければ大きいほどより目立つようになる。また、入力映像信号レベルが高ければ高いほど、動画部の移動速度が速ければ速いほど視認されるサブフィールドボケの程度は大きくなる。   The degree of sub-field blur becomes more conspicuous as the degree of blur at the edge portion in the input video increases. In addition, the higher the input video signal level is, the higher the moving speed of the moving image portion is, the greater the degree of subfield blur that is visually recognized.

また、ここではサブフィールドの並びを図1(a)、(b)のように規則的に輝度重みの小さいものから順に並べた場合と、大きいものから順に並べた場合を例に説明したが、不規則に配置した場合でもサブフィールドボケは発生する。   In addition, here, the case where the arrangement of the subfields is regularly arranged in ascending order of luminance weight as shown in FIGS. 1A and 1B and the case where the subfields are arranged in order from the largest is described as an example. Even when arranged irregularly, subfield blur occurs.

また、フレーム巡回型ノイズ低減装置は、フレーム差分値から動画部の動き量を検出し、動き量に応じて巡回量を制御している。図8は、上部は画素位置と信号レベルの関係を表しており、右側の急峻なエッジを持つ映像信号と左側の傾きを持ったエッジ部が同じ動き幅Aで左方向に移動した場合の状態を示している。また下部にはそれぞれのエッジ部の現フレーム映像信号と前フレーム映像信号とのフレーム差分値を求めたものを示している。図8の下部に示すフレーム差分値の比較から、同じ動き幅であってもエッジの信号レベル変化の状態によって、求まるフレーム差分値の大きさが異なることがわかる。この事はフレーム差分値から動き量を求める場合、表示映像が同じ動き幅であったとしても、必ずしも同じ動き量を得られないということを意味している。また急峻なエッジ部においてはフレーム差分値は十分に大きな値を得ることができるが、傾きを持ったエッジ部は、得られるフレーム差分値が小さくなるため動き量は小さくなる。したがって巡回量は静止よりに決定され、結果的に尾引きや残像が発生しやすくなる。また、サブフィールドボケは信号レベルが高い場合に、より顕著に発生するため傾きを持ったエッジ付近の信号レベルが高い場合に、サブフィールドボケはさらに悪化してしまうことになる。   The frame recursive noise reduction device detects the moving amount of the moving image part from the frame difference value, and controls the recurring amount according to the moving amount. FIG. 8 shows the relationship between the pixel position and the signal level in the upper part, and a state in which the video signal having the sharp edge on the right side and the edge part having the left slope move leftward with the same movement width A. Is shown. In the lower part, the frame difference value between the current frame video signal and the previous frame video signal at each edge is obtained. From the comparison of the frame difference values shown in the lower part of FIG. 8, it can be seen that the size of the obtained frame difference value differs depending on the state of the signal level change of the edge even if the movement width is the same. This means that when the motion amount is obtained from the frame difference value, the same motion amount cannot always be obtained even if the display image has the same motion width. In addition, although the frame difference value can be sufficiently large at the steep edge portion, the amount of motion is small at the edge portion having an inclination because the obtained frame difference value is small. Therefore, the amount of patrol is determined rather than stationary, and as a result, tailing and afterimages are likely to occur. In addition, sub-field blur occurs more significantly when the signal level is high, so that the sub-field blur is further deteriorated when the signal level near the inclined edge is high.

したがって、サブフィールド画像表示装置において、先に紹介したフレーム巡回型ノイズ低減装置を用いて、ノイズ除去を行う場合、動画部の空間的な信号レベル変化によっては、得られるフレーム差分値が小さく、動き量も小さくなってしまうため、静止よりの巡回量が決定され、尾引きや残像が発生しやすくなり、結果的にサブフィールドボケを悪化させてしまう。   Therefore, in the subfield image display device, when noise removal is performed using the frame cyclic noise reduction device introduced above, depending on the spatial signal level change of the moving image portion, the obtained frame difference value is small, Since the amount is also reduced, the amount of circulation from stillness is determined, tailing and afterimages are likely to occur, and as a result, subfield blur is worsened.

本発明は、このような問題点を解決するためになされたもので、入力画像信号の信号レベルに応じて動き量の補正を行うことで、差分値が小さい部分においても、動画ボケの発生を抑制し、サブフィールドボケの悪化を防ぎかつノイズ低減効果を維持しながらノイズ低減可能なフレーム巡回型ノイズ低減方法およびノイズ低減装置を提供するものである。   The present invention has been made to solve such a problem, and by correcting the amount of motion according to the signal level of the input image signal, motion blur is generated even in a portion where the difference value is small. The present invention provides a frame recursive noise reduction method and a noise reduction apparatus that can suppress noise, prevent deterioration of subfield blur, and maintain noise reduction effect while reducing noise.

本発明のフレーム巡回型ノイズ低減方法は、入力画像信号の信号レベルに応じて、動き量の補正を行うことを特徴とする。また本発明のノイズ低減装置は、上記フレーム巡回型ノイズ低減方法を用いたフレーム巡回型ノイズ低減装置である。   The frame cyclic noise reduction method of the present invention is characterized in that the amount of motion is corrected according to the signal level of the input image signal. The noise reduction device of the present invention is a frame cyclic noise reduction device using the frame cyclic noise reduction method.

本発明のフレーム巡回型ノイズ低減方法およびノイズ低減装置によれば、サブフィールド画像表示装置に対して用いることで、ノイズ低減効果を維持しながら、サブフィールドボケの発生を抑制することができる。   According to the frame cyclic noise reduction method and the noise reduction apparatus of the present invention, it is possible to suppress the occurrence of subfield blur while maintaining the noise reduction effect by being used for the subfield image display apparatus.

以下本発明の実施の形態について、図面を参照しながら説明する。   Embodiments of the present invention will be described below with reference to the drawings.

(実施の形態1)
図9は本発明の実施の形態1によるフレーム巡回型ノイズ低減方法を説明するためのフレーム巡回型ノイズ低減装置の概略構成を示すブロック図である。上記ノイズ低減装置は、フレームメモリ10、差分値算出部20、動き量検出部30、巡回量決定部40、乗算器50、乗算器60、加算器70から構成されている。
(Embodiment 1)
FIG. 9 is a block diagram showing a schematic configuration of a frame cyclic noise reduction apparatus for explaining the frame cyclic noise reduction method according to Embodiment 1 of the present invention. The noise reduction apparatus includes a frame memory 10, a difference value calculation unit 20, a motion amount detection unit 30, a cyclic amount determination unit 40, a multiplier 50, a multiplier 60, and an adder 70.

差分値算出部20は、1フレーム前の画像信号と現フレームの画像信号とを入力し、それらの差分を求め差分値信号として出力する。差分値信号は、動き量検出部30に入力される。動き量検出部30は、差分値算出部20から出力されたフレーム間の差分信号と現フレーム映像信号に基づき画像中の動画部の動き量を検出するものであり、検出した動き量を現フレーム映像信号の信号レベルに応じて補正処理を行ったものを動き量信号として出力する。動き量信号は、巡回量決定部40に入力される。   The difference value calculation unit 20 inputs the image signal of the previous frame and the image signal of the current frame, calculates the difference between them, and outputs it as a difference value signal. The difference value signal is input to the motion amount detection unit 30. The motion amount detection unit 30 detects the motion amount of the moving image part in the image based on the difference signal between the frames output from the difference value calculation unit 20 and the current frame video signal, and the detected motion amount is detected as the current frame. A signal subjected to correction processing according to the signal level of the video signal is output as a motion amount signal. The motion amount signal is input to the tour amount determination unit 40.

また、巡回量決定部40は、動き量信号が入力され動き量信号レベル毎に、巡回量を決定し巡回量kとして出力する。巡回量kは乗算器50、乗算器60に入力される。   Further, the travel amount determination unit 40 receives the motion amount signal, determines the travel amount for each motion amount signal level, and outputs it as the travel amount k. The cyclic amount k is input to the multiplier 50 and the multiplier 60.

また、巡回量kは画像信号をフレーム周期毎に時間平均する程度を表しており、k=0の場合は時間平均せず、kが大きくなるにつれて時間平均の程度が大きくなる(ただし、0≦k≦1とする)。これは言い換えるとkが大きくなるにつれてノイズ低減効果は大きくなることを意味している。またその一方で動画部においては動きボケが発生しやすくなることも意味している。   The cyclic amount k represents the degree of time averaging of the image signal for each frame period. When k = 0, time averaging is not performed, and the degree of time averaging increases as k increases (however, 0 ≦ k ≦ 1). In other words, this means that the noise reduction effect increases as k increases. On the other hand, it also means that motion blur tends to occur in the moving image portion.

乗算器50は、入力画像信号、すなわち現フレームの画像信号に(1−k)を乗じる。また、乗算器60は、フレームメモリ10からの出力、すなわち前フレームの画像信号に巡回量kを乗じる。加算器70は、乗算器50および乗算器60からの出力を加算し出力画像信号として出力する。また、加算器70からの出力はフレームメモリ10に蓄積され、次のフレームにおける処理に使用される。   The multiplier 50 multiplies the input image signal, that is, the image signal of the current frame by (1-k). The multiplier 60 multiplies the output from the frame memory 10, that is, the image signal of the previous frame by the cyclic amount k. The adder 70 adds the outputs from the multiplier 50 and the multiplier 60 and outputs the result as an output image signal. The output from the adder 70 is accumulated in the frame memory 10 and used for processing in the next frame.

次に、動き量検出部30の構成および動作について説明する。本実施の形態における動き量検出部30の概略構成を示すブロック図を図10に示す。絶対値部31は、差分値算出部20から入力される差分信号の絶対値を算出し、絶対値信号を補正部32に出力する。補正部32は、絶対値部31から入力される絶対値信号と現フレーム映像信号が入力される。補正部32では、現フレーム映像信号の信号レベルに応じて、絶対値部31からの出力である絶対値信号を補正するための補正値信号を算出する。その補正値信号を加算器33に出力する。加算器33では絶対値部31からの出力である絶対値信号と補正部32からの出力である補正値信号とを加算し、補正信号としてリミッタ部34に出力する。リミッタ部34では、加算器33からの出力である補正信号に対し、ある値を超えないように制限をかける。例えば動き量として扱う信号が8ビットで最大値が255であれば、255を超える信号には制限をかけて255を出力するようにする。制限をかけたリミッタ信号はローパスフィルタ部35に入力される。ローパスフィルタ部35では、フレーム差分信号中にあるノイズによる影響をなるべく抑えるために設けたもので、特に突発的なノイズによる差分値を動きとして扱わないようにするために、平滑化処理を行う。平滑化処理手法としては、一般的なものとしては例えばメディアンフィルタなどがあるが、突発的なノイズによる検出を平滑化により抑えることができるフィルタであれば、他のフィルタを用いても良い。そして、ローパスフィルタ部35で平滑化処理を行った信号を動き量信号とし巡回量決定部40に出力する。   Next, the configuration and operation of the motion amount detection unit 30 will be described. FIG. 10 is a block diagram showing a schematic configuration of the motion amount detection unit 30 in the present embodiment. The absolute value unit 31 calculates the absolute value of the difference signal input from the difference value calculation unit 20 and outputs the absolute value signal to the correction unit 32. The correction unit 32 receives the absolute value signal input from the absolute value unit 31 and the current frame video signal. The correction unit 32 calculates a correction value signal for correcting the absolute value signal output from the absolute value unit 31 according to the signal level of the current frame video signal. The correction value signal is output to the adder 33. The adder 33 adds the absolute value signal that is output from the absolute value unit 31 and the correction value signal that is output from the correction unit 32, and outputs the result to the limiter unit 34 as a correction signal. The limiter unit 34 limits the correction signal that is output from the adder 33 so as not to exceed a certain value. For example, if the signal handled as the motion amount is 8 bits and the maximum value is 255, a signal exceeding 255 is limited and 255 is output. The limited limiter signal is input to the low-pass filter unit 35. The low-pass filter unit 35 is provided to suppress the influence of noise in the frame difference signal as much as possible, and performs a smoothing process in order not to treat a difference value due to sudden noise as a motion. As a smoothing processing method, for example, a median filter is generally used, but other filters may be used as long as the filter can suppress detection by sudden noise by smoothing. Then, the signal smoothed by the low-pass filter unit 35 is output as a motion amount signal to the circulation amount determination unit 40.

巡回量決定部40は動き量検出部30からの出力である動き量信号の値を巡回量kの値に変換するための変換テーブルを格納したROMとなっており、入力信号である動き量信号に応じた巡回量kを出力する。例えば、動き量と巡回量との関係は図12に示すような関係となるように、ROMに変換テーブルを格納する。なお本発明の実施の形態1では動き量と巡回量の関係は図12に示すような関係を例としているが、これに限定するものではなく、他の関係においても同じ効果を得ることができる。   The travel amount determination unit 40 is a ROM that stores a conversion table for converting the value of the motion amount signal that is output from the motion amount detection unit 30 into the value of the tour amount k, and is a motion amount signal that is an input signal. The amount of patrol k corresponding to is output. For example, the conversion table is stored in the ROM so that the relationship between the motion amount and the circulation amount is as shown in FIG. In the first embodiment of the present invention, the relationship between the amount of movement and the amount of circulation is an example of the relationship shown in FIG. 12, but the relationship is not limited to this, and the same effect can be obtained in other relationships. .

具体的な動き量補正方法および補正信号算出方法について説明する。   A specific motion amount correction method and correction signal calculation method will be described.

動き量検出部30では、現フレーム画像信号と前フレーム画像信号との差分値から巡回量を決定するための動き量を算出する。その際に現フレーム画像信号の信号レベルに応じて補正部32において算出した補正値を動き量に加算し、空間的に現フレーム画像信号の信号レベルが高い部分においては、動き量がなるべく動きよりの値をとるように補正を行う。補正部32では、絶対値部31において求めた、現フレーム画像信号と前フレーム画像信号との差分の絶対値である絶対値信号に対し、係数を乗じることで補正値を算出している。また、係数は、絶対値信号を現フレーム画像信号の最大値で除算することで得る。例えば8ビット256階調であるならば、最大値は255となり、計算式で表すと、係数=絶対値信号/255となる。この係数を絶対値信号に乗じたものと絶対値信号を加算する。また、この加算した結果の値が場合によっては255を超える場合がある。たとえば動き量信号を8ビットの信号として扱う場合は、最大値が255となるため、超える信号に対しリミッタ部34においてリミッタ処理を行う。次にリミッタ処理を施したリミッタ信号は、突発的なノイズにより発生したフレーム差分値の動き量への影響を抑制するために、ローパスフィルタ部35において平滑化処理を施している。平滑化処理を施した結果を動き量信号として、巡回量決定部40に出力し、巡回量決定部40では変換テーブルにより動き量信号に応じた巡回量kの値が出力されることになる。   The motion amount detection unit 30 calculates a motion amount for determining the cyclic amount from the difference value between the current frame image signal and the previous frame image signal. At this time, the correction value calculated by the correction unit 32 according to the signal level of the current frame image signal is added to the motion amount, and the motion amount is as much as possible from the motion in a portion where the signal level of the current frame image signal is spatially high. Correction is performed to take the value of. The correction unit 32 calculates a correction value by multiplying the absolute value signal, which is the absolute value of the difference between the current frame image signal and the previous frame image signal, obtained by the absolute value unit 31 by a coefficient. The coefficient is obtained by dividing the absolute value signal by the maximum value of the current frame image signal. For example, in the case of 8-bit 256 gradation, the maximum value is 255, and when expressed by a calculation formula, coefficient = absolute value signal / 255. The absolute value signal is added to the product of this coefficient multiplied by the absolute value signal. In addition, the value resulting from the addition may exceed 255 in some cases. For example, when the motion amount signal is handled as an 8-bit signal, the maximum value is 255, and thus the limiter unit 34 performs limiter processing on the exceeding signal. Next, the limiter signal subjected to the limiter process is subjected to a smoothing process in the low-pass filter unit 35 in order to suppress the influence of the frame difference value generated by sudden noise on the motion amount. The result of the smoothing process is output as a motion amount signal to the tour amount determination unit 40, and the tour amount determination unit 40 outputs the value of the tour amount k corresponding to the motion amount signal from the conversion table.

図11はフレーム差分絶対値と動き量の関係を示すグラフで、破線で示すフレーム差分絶対値と補正前動き量との関係と実線で示す補正後のフレーム差分絶対値と動き量との関係の比較を行っている。例えば先に説明した補正方法に従えば、現フレーム映像信号レベルが50の場合は、補正処理後のフレーム差分絶対値と動き量との関係は、図中入力信号レベル50の示すラインで表すことができる。また、同じ処理で現フレーム映像信号レベルが100、255の場合のフレーム差分絶対値と動き量の関係は、図中入力信号レベル100と255に示す関係で表すことができる。このように、現フレーム画像信号レベル1〜255に対しては、それぞれ対応する補正後のラインは255種類存在することになる。本実施の形態では、動き量検出部30にてリアルタイム処理により、補正された動き量を出力することになる。   FIG. 11 is a graph showing the relationship between the frame difference absolute value and the motion amount. The relationship between the frame difference absolute value indicated by the broken line and the motion amount before correction, and the relationship between the corrected frame difference absolute value and the motion amount indicated by the solid line. A comparison is made. For example, according to the correction method described above, when the current frame video signal level is 50, the relationship between the corrected frame difference absolute value and the amount of motion is represented by a line indicated by the input signal level 50 in the figure. Can do. Further, the relationship between the absolute value of the frame difference and the amount of motion when the current frame video signal level is 100 and 255 by the same processing can be expressed by the relationship indicated by the input signal levels 100 and 255 in the figure. Thus, there are 255 types of corrected lines corresponding to the current frame image signal levels 1 to 255, respectively. In the present embodiment, the motion amount detection unit 30 outputs the corrected motion amount by real-time processing.

図13は、図8の左側に示す、傾きを持ったエッジ部が、信号レベル最大値が255で左に動き、幅A=5画素/F(F:1TVフィールド期間である16.7msを示す。)で移動している状態で、下部には各画素位置における動き量の関係を示している。図13右側には本実施の形態1における補正処理を施した補正処理後の動き量を、左側には補正処理前の動き量を示している。図11下部の動き量の補正前と補正後を比較すると、補正前に比べて補正処理後の動き量は、より動き量が大きくなる方向に補正されていることがわかる。   FIG. 13 shows a sloped edge portion shown on the left side of FIG. 8 that moves to the left with a maximum signal level value of 255 and a width A = 5 pixels / F (F: 16.7 ms which is a 1 TV field period). .) Shows the relationship between the amount of motion at each pixel position. The right side of FIG. 13 shows the amount of movement after the correction process performed in the first embodiment, and the left side shows the amount of movement before the correction process. Comparing before and after the correction of the motion amount in the lower part of FIG. 11, it can be seen that the motion amount after the correction processing is corrected in a direction in which the motion amount becomes larger than before the correction.

図8に示すように、同じ動き幅であってもフレーム差分値の大きさが異なり求まる動き量に大きく差が生じる部分において、入力画像信号レベルに応じて、信号レベルが大きい部分は、より動き量が動きよりに、すなわち動き量が大きくなるように補正することで、動きよりの巡回量が決定されるため、動き部分における尾引きや残像を抑制し、またサブフィールドボケの悪化を防ぐことができる。   As shown in FIG. 8, even in the same movement width, in the part where the difference in the magnitude of the frame difference value differs greatly, the part where the signal level is large is more moved according to the input image signal level. By correcting so that the amount of motion is larger than the amount of motion, that is, the amount of motion is larger, the amount of circulation is determined from the motion, so that tailing and afterimages in the motion portion are suppressed and subfield blurring is prevented from deteriorating. Can do.

このように、本実施の形態におけるノイズ低減装置は、図7に示した従来例とは異なり、現フレーム画像信号レベルに応じて動き量を補正することにより、ノイズ低減効果を維持しながら動画部の映像信号のボケを抑えることができ、サブフィールド画像表示装置に用いる場合、サブフィールドボケの悪化を抑えることができる。   Thus, unlike the conventional example shown in FIG. 7, the noise reduction apparatus according to the present embodiment corrects the amount of motion according to the current frame image signal level, thereby maintaining the noise reduction effect while moving the moving image portion. The blur of the video signal can be suppressed, and when used in the subfield image display device, the deterioration of the subfield blur can be suppressed.

(実施の形態2)
本発明の実施の形態2によるフレーム巡回型ノイズ低減方法を以下に説明する。本実施の形態によるフレーム巡回型ノイズ低減方法を実現するためのノイズ低減装置の概略構成は図9に示すブロック図と同じであるが、実施の形態1において説明したものとは、動き量検出部30の構成が異なる。すなわち、動き量検出部30は、実施の形態1では、図10に示したように、回路によるリアルタイム処理にて補正処理を行うように構成されているが、本実施の形態2では、図14にその概略構成のブロック図を示すように、補正処理の計算方法は実施の形態1と全く同じであるが、リアルタイム処理を行うのではなく、あらかじめ計算にて求めた現フレーム画像信号レベル毎の各フレーム差分絶対値における補正後の動き量を変換テーブルに格納し、変換テーブルにて補正を行うように構成されている。
(Embodiment 2)
A frame cyclic noise reduction method according to Embodiment 2 of the present invention will be described below. The schematic configuration of the noise reduction apparatus for realizing the frame cyclic noise reduction method according to the present embodiment is the same as the block diagram shown in FIG. 9, but the motion amount detection unit described in the first embodiment is 30 configurations are different. That is, the motion amount detection unit 30 is configured to perform correction processing by real-time processing by a circuit as shown in FIG. 10 in the first embodiment, but in the second embodiment, FIG. As shown in the block diagram of the schematic configuration, the calculation method of the correction process is exactly the same as in the first embodiment, but it does not perform real-time processing, but for each current frame image signal level obtained by calculation in advance. The motion amount after correction in each frame difference absolute value is stored in a conversion table, and correction is performed using the conversion table.

図14に示した動き量検出部30の構成および動作について以下に説明する。絶対値部31から出力される現フレーム画像信号と前フレーム画像信号とのフレーム差分値の絶対値信号が、補正変換テーブル36に入力され、現フレーム映像信号レベルに応じて補正後の補正信号が出力され、実施の形態1と同じように、ローパスフィルタ部35では、ノイズによる突発的な検出を平滑化処理により抑えるために、例えばメディアンフィルタなどにより、平滑化処理を行う。ローパスフィルタ処理後の信号を動き量信号として巡回量決定部40に出力する。以降の処理は実施の形態1と同じである。   The configuration and operation of the motion amount detection unit 30 shown in FIG. 14 will be described below. An absolute value signal of a frame difference value between the current frame image signal and the previous frame image signal output from the absolute value unit 31 is input to the correction conversion table 36, and a correction signal after correction according to the current frame video signal level is generated. As in the first embodiment, the low-pass filter unit 35 performs smoothing processing using, for example, a median filter in order to suppress sudden detection due to noise by smoothing processing. The signal after the low-pass filter processing is output to the travel amount determination unit 40 as a motion amount signal. The subsequent processing is the same as in the first embodiment.

本発明の実施の形態2においては、動き量補正を変換テーブルにて行うことにより、回路規模を削減し簡単な構成で実現することができる。また、効果は実施の形態1と同じで、現フレーム画像信号レベルに応じて動き量を補正することにより、ノイズ低減効果を維持しながら動画部の映像信号のボケを抑えることができ、サブフィールド画像表示装置に用いる場合、サブフィールドボケの悪化を抑えることができる。   In the second embodiment of the present invention, by performing the motion amount correction using the conversion table, the circuit scale can be reduced and realized with a simple configuration. The effect is the same as in the first embodiment. By correcting the amount of motion according to the current frame image signal level, it is possible to suppress blurring of the video signal in the moving image portion while maintaining the noise reduction effect. When used in an image display device, it is possible to suppress deterioration of subfield blur.

以上述べたように本発明のフレーム巡回型ノイズ低減方法によれば、入力画像信号の1フィールドを複数のサブフィールドに分割し、前記サブフィールド毎の発光の組合せによって表示手段の発光を制御して階調を表現するサブフィールド画像表示装置に対して用いるフレーム巡回型ノイズ低減方法で、例えばPDP、DMD素子を用いたDLPなどの表示デバイスにおいて、動画部の解像度劣化等の動画質劣化を招くことなく映像信号に対し良好なノイズ低減効果を得ることができる。   As described above, according to the frame cyclic noise reduction method of the present invention, one field of the input image signal is divided into a plurality of subfields, and the light emission of the display means is controlled by the combination of the light emission for each subfield. A frame cyclic noise reduction method used for a sub-field image display device that expresses gradation, which causes degradation of moving image quality such as resolution degradation of a moving image portion in a display device such as a DLP using a PDP or DMD element. Therefore, a good noise reduction effect can be obtained for the video signal.

サブフィールドの並びの例を説明するための図The figure for explaining the example of the arrangement of the subfield サブフィールド画像表示における中間調表現の原理を説明するための図Diagram for explaining the principle of halftone expression in subfield image display サブフィールド画像表示における動画部解像度劣化のメカニズムを説明するための図The figure for explaining the mechanism of the resolution degradation of moving picture part in the subfield picture display サブフィールド画像表示における動画部解像度劣化の映像信号レベルによる程度の違いを説明するための図The figure for demonstrating the difference of the grade by the video signal level of the moving image part resolution degradation in a subfield image display 昇順コーディングにおける動画部解像度劣化の例を説明するための図The figure for demonstrating the example of the animation part resolution degradation in ascending order coding 降順コーディングにおける動画部解像度劣化の例を説明するための図The figure for demonstrating the example of the animation part resolution degradation in descending order coding 従来のフレーム巡回型ノイズ低減装置の概略構成を示すブロック図A block diagram showing a schematic configuration of a conventional frame cyclic noise reduction device 映像信号レベルの空間的変化の違いによるフレーム差分値の大きさの違いを説明するための図The figure for demonstrating the difference in the magnitude | size of the frame difference value by the difference in the spatial change of a video signal level 本発明の実施の形態1によるフレーム巡回型ノイズ低減方法を説明するためのフレーム巡回型ノイズ低減装置の概略構成を示すブロック図The block diagram which shows schematic structure of the frame cyclic noise reduction apparatus for demonstrating the frame cyclic noise reduction method by Embodiment 1 of this invention. 図9に示した動き量検出部の概略構成を示すブロック図The block diagram which shows schematic structure of the motion amount detection part shown in FIG. 本発明の実施の形態1における現フレーム画像信号レベルによる動き量補正の前と後のフレーム差分値と動き量の関係を示す図The figure which shows the relationship between the frame difference value before and after the motion amount correction | amendment by the present frame image signal level in Embodiment 1 of this invention, and a motion amount. 本発明の実施の形態1における動き量と巡回量の関係を示す図The figure which shows the relationship between the amount of movement and the amount of patrols in Embodiment 1 of this invention. 本発明の実施の形態1における動き量補正処理の効果を示す図The figure which shows the effect of the motion amount correction process in Embodiment 1 of this invention. 本発明の実施の形態2における動き量検出部30の概略構成を示すブロック図The block diagram which shows schematic structure of the motion amount detection part 30 in Embodiment 2 of this invention.

符号の説明Explanation of symbols

10 フレームメモリ
20 差分値算出部
30 動き量検出部
31 絶対値部
32 補正部
33 加算器
34 リミッタ部
35 ローパスフィルタ部
36 補正変換テーブル
40 巡回量決定部
50、60 乗算器
70 加算器
DESCRIPTION OF SYMBOLS 10 Frame memory 20 Difference value calculation part 30 Motion amount detection part 31 Absolute value part 32 Correction part 33 Adder 34 Limiter part 35 Low pass filter part 36 Correction conversion table 40 Cyclic amount determination part 50, 60 Multiplier 70 Adder

Claims (1)

入力画像信号の1フレームを複数のサブフィールドに分割し、前記サブフィールド毎の発光の組合せによって表示手段の発光を制御して階調を表現するサブフィールド画像表示装置に対して用い、動き量を検出し前記動き量に応じて巡回量を決定するフレーム巡回型ノイズ低減方法であって、
前記動き量は、現フレーム画像信号と前フレーム画像信号との差分の絶対値を現フレーム画像信号の最大値で除算することで求められた係数を前記絶対値に乗じて求められ、前記入力画像信号のレベルが高いほど前記動き量が動きよりの値をとるように補正されることを特徴とするフレーム巡回型ノイズ低減方法。
One frame of the input image signal is divided into a plurality of subfields and used for a subfield image display device that expresses gradation by controlling the light emission of the display means according to the combination of light emission for each subfield, and the amount of motion is A frame cyclic noise reduction method for detecting and determining a cyclic amount according to the amount of motion,
The amount of motion is obtained by multiplying the absolute value by a coefficient obtained by dividing the absolute value of the difference between the current frame image signal and the previous frame image signal by the maximum value of the current frame image signal. A frame cyclic noise reduction method, wherein the amount of motion is corrected so as to take a value greater than motion as the signal level is higher .
JP2004123969A 2004-04-20 2004-04-20 Frame cyclic noise reduction method Expired - Fee Related JP4412042B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004123969A JP4412042B2 (en) 2004-04-20 2004-04-20 Frame cyclic noise reduction method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004123969A JP4412042B2 (en) 2004-04-20 2004-04-20 Frame cyclic noise reduction method

Publications (2)

Publication Number Publication Date
JP2005311575A JP2005311575A (en) 2005-11-04
JP4412042B2 true JP4412042B2 (en) 2010-02-10

Family

ID=35439864

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004123969A Expired - Fee Related JP4412042B2 (en) 2004-04-20 2004-04-20 Frame cyclic noise reduction method

Country Status (1)

Country Link
JP (1) JP4412042B2 (en)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007166400A (en) * 2005-12-15 2007-06-28 Toshiba Corp Noise reduction apparatus and noise reduction method
JP5186088B2 (en) * 2006-05-23 2013-04-17 Hoya株式会社 Endoscope device
JP2010226314A (en) * 2009-03-23 2010-10-07 Casio Computer Co Ltd Video processing apparatus, method and program
JP5370345B2 (en) * 2010-11-25 2013-12-18 株式会社ニコン Image processing apparatus, imaging apparatus, and image processing program
US8830359B2 (en) 2010-03-30 2014-09-09 Nikon Corporation Image processing apparatus, imaging apparatus, and computer readable medium
JP7222723B2 (en) * 2019-01-17 2023-02-15 株式会社ジャパンディスプレイ Display device

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2904277B2 (en) * 1987-11-05 1999-06-14 キヤノン株式会社 Noise reduction device
JP3266416B2 (en) * 1994-04-18 2002-03-18 ケイディーディーアイ株式会社 Motion compensated interframe coding / decoding device
JP3414265B2 (en) * 1997-11-18 2003-06-09 松下電器産業株式会社 Multi-tone image display device
JP3526020B2 (en) * 1999-12-02 2004-05-10 松下電器産業株式会社 Noise reduction device
JP3611773B2 (en) * 2000-06-22 2005-01-19 松下電器産業株式会社 Noise reduction apparatus, noise reduction method, and medium recording noise reduction program
JP4069679B2 (en) * 2002-05-24 2008-04-02 松下電器産業株式会社 Image processing method and image processing apparatus
JP2004093857A (en) * 2002-08-30 2004-03-25 Matsushita Electric Ind Co Ltd Video display device

Also Published As

Publication number Publication date
JP2005311575A (en) 2005-11-04

Similar Documents

Publication Publication Date Title
KR100666391B1 (en) Frame circulating type noise reduction method and frame circulating type noise reduction device
RU2413384C2 (en) Device of image processing and method of image processing
KR100803545B1 (en) Driving device for plasma display panel, and driving method thereof
EP2262255B1 (en) Image processing apparatus and image processing method
JP2006072359A (en) Method of controlling display apparatus
US20080253669A1 (en) Image processing method and image display apparatus using the same
US20070041446A1 (en) Display apparatus and control method thereof
JPWO2004002135A1 (en) Motion detection device and noise reduction device using the same
KR20090127690A (en) Display apparatus and control method of the same
US20100079669A1 (en) Image display apparatus and image display method
JP2008158732A (en) Image processor
JP2009098574A (en) Image processing apparatus, image display device and image processing method
JP3747317B2 (en) Method for identifying moving image false contour occurrence location, image signal processing method, and image signal processing apparatus
KR100603242B1 (en) Moving picture processing method and system thereof
JP2004266755A (en) Image processing apparatus, image display apparatus, and image processing method
JP4412042B2 (en) Frame cyclic noise reduction method
WO2011086877A1 (en) Video processing device and video display device
KR100825355B1 (en) Image display apparatus and method for driving the same
JP2010015061A (en) Image display device, integrated circuit, and computer program
KR100792455B1 (en) False contour noise reducing apparatus and method thereof
KR20020024669A (en) Error Diffusion Algorithm for Dynamic False Contour Depreciation of Plasma Display Panel
JP5486791B2 (en) Image processing device
JPH117266A (en) System and device for displaying video on display panel
JPH11327497A (en) Video signal processing device and display device
JP4403361B2 (en) Display processing method, display processing apparatus, and display system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070227

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20070313

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090612

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090616

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090806

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091027

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091109

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121127

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131127

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees