JP4558370B2 - Image processing apparatus and method, program, and recording medium - Google Patents

Image processing apparatus and method, program, and recording medium Download PDF

Info

Publication number
JP4558370B2
JP4558370B2 JP2004128250A JP2004128250A JP4558370B2 JP 4558370 B2 JP4558370 B2 JP 4558370B2 JP 2004128250 A JP2004128250 A JP 2004128250A JP 2004128250 A JP2004128250 A JP 2004128250A JP 4558370 B2 JP4558370 B2 JP 4558370B2
Authority
JP
Japan
Prior art keywords
image data
image
structure component
component
generated
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004128250A
Other languages
Japanese (ja)
Other versions
JP2005309945A (en
Inventor
一樹 横山
和彦 上田
光康 浅野
哲治 稲田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2004128250A priority Critical patent/JP4558370B2/en
Publication of JP2005309945A publication Critical patent/JP2005309945A/en
Application granted granted Critical
Publication of JP4558370B2 publication Critical patent/JP4558370B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Description

本発明は、画像処理装置および画像処理方法、プログラム、並びに記録媒体に関し、特に、画像内の物体の輪郭等に相当する画素値の急峻なエッジを検出し、エッジ以外の成分を増幅させ、画像のコントラストを向上させるようにする画像処理装置および画像処理方法、プログラム、並びに記録媒体に関する。   The present invention relates to an image processing apparatus, an image processing method, a program, and a recording medium, and in particular, detects sharp edges of pixel values corresponding to the contours of objects in an image, amplifies components other than edges, and The present invention relates to an image processing apparatus, an image processing method, a program, and a recording medium that improve the contrast of the recording medium.

画像内の物体の輪郭等に相当する画素値の変化が急峻なエッジを保存した状態で、当該エッジ以外の画素値を平滑化する非線形フィルタ(非線形平滑化器)を用いる画像処理装置が存在する(例えば、特許文献1参照)。   There exists an image processing apparatus using a non-linear filter (non-linear smoother) that smooths pixel values other than the edge in a state where an edge having a sharp change in pixel value corresponding to the contour of an object in the image is stored. (For example, refer to Patent Document 1).

図1は、この非線形フィルタを用いた従来の画像処理装置の一例の構成を示している。この画像処理装置には、フレーム単位で、デジタルデータである画像データS1が入力されるものとする。画像データS1は、フレームを構成する各画素の画素値(フレーム画像の画像データ)である。また、この画像処理装置では、画像データのうちの輝度信号に対して処理を施すものとする。   FIG. 1 shows a configuration of an example of a conventional image processing apparatus using this nonlinear filter. It is assumed that image data S1, which is digital data, is input to this image processing apparatus in units of frames. The image data S1 is a pixel value (image data of a frame image) of each pixel constituting the frame. In this image processing apparatus, it is assumed that the luminance signal in the image data is processed.

この画像処理装置において、非線形フィルタ1は、入力された画像データS1からフレーム画像内の物体の輪郭等に相当するストラクチャ成分ST1を抽出し、ストラクチャ補正部2および減算部3に出力する。ストラクチャ補正部2は、予め設定されている変換曲線に基づき、非線形フィルタ1から入力されたストラクチャ成分ST1のコントラストを補正し、その結果得られる補正済のストラクチャ成分ST2を加算部5に出力する。   In this image processing apparatus, the nonlinear filter 1 extracts a structure component ST1 corresponding to the contour of an object in a frame image from the input image data S1, and outputs the structure component ST1 to the structure correction unit 2 and the subtraction unit 3. The structure correction unit 2 corrects the contrast of the structure component ST1 input from the nonlinear filter 1 based on a preset conversion curve, and outputs the corrected structure component ST2 obtained as a result to the addition unit 5.

減算部3は、入力された画像データS1から、非線形フィルタ1によって抽出されたストラクチャ成分ST1を減算することにより、フレーム画像の細部を構成するテクスチャ成分(振幅成分)TX1を生成し、増幅部4に出力する。増幅部4は、減算部3から入力されたテクスチャ成分TX1を所定の増幅ゲインで増幅し、その結果得られる増幅済のストラクチャ成分ST2を加算部5に出力する。加算部5は、補正済のストラクチャ成分ST2と増幅済のストラクチャ成分ST2とを加算することにより画像データS2を生成する。   The subtractor 3 subtracts the structure component ST1 extracted by the nonlinear filter 1 from the input image data S1, thereby generating a texture component (amplitude component) TX1 constituting the details of the frame image, and an amplifier 4 Output to. The amplification unit 4 amplifies the texture component TX1 input from the subtraction unit 3 with a predetermined amplification gain, and outputs the amplified structure component ST2 obtained as a result to the addition unit 5. The adding unit 5 generates the image data S2 by adding the corrected structure component ST2 and the amplified structure component ST2.

図2は、この画像処理装置によるストラクチャ補正の手順を、画像データの振幅特性の変化で示したものである。なお、図2に示されたグラフの縦軸および横軸は、画像データのうちの輝度信号のレベルを示し、白100%である白レベルと、黒100%である黒レベルとの間の振幅値をとる。なお、輝度レベルの白100%は、IRE(Institute of Radio Engineers)と称する画像信号の相対的な比を表す単位において、100IREと定められている。日本のテレビジョン放送に採用されているNTSC(National Television System Committee)規格では、白レベルが100IRE、黒レベルが0IREとされている。   FIG. 2 shows the structure correction procedure by this image processing apparatus by the change of the amplitude characteristic of the image data. The vertical and horizontal axes of the graph shown in FIG. 2 indicate the level of the luminance signal in the image data, and the amplitude between the white level that is 100% white and the black level that is 100% black. Takes a value. Note that 100% of the brightness level of white is determined to be 100IRE in a unit representing a relative ratio of image signals called IRE (Institute of Radio Engineers). According to the NTSC (National Television System Committee) standard adopted for Japanese television broadcasting, the white level is 100IRE and the black level is 0IRE.

すなわち、入力される画像データS1は、非線形フィルタ1および減算部3に入力され、非線形フィルタ1によりストラクチャ成分ST1が抽出される。また、減算部3により画像データS1からストラクチャ成分ST1が減算されて、テクスチャ成分TX1が生成される。   That is, the input image data S1 is input to the nonlinear filter 1 and the subtracting unit 3, and the structure component ST1 is extracted by the nonlinear filter 1. Further, the subtracting unit 3 subtracts the structure component ST1 from the image data S1 to generate the texture component TX1.

ストラクチャ成分ST1は、ストラクチャ補正部2により、予め設定されている変換曲線に基づいてストラクチャ成分ST2に補正される。図2の例では、輝度の低域側(黒側)が増加され、高域側(白側)が減少されるように補正されている。   The structure component ST1 is corrected to the structure component ST2 by the structure correction unit 2 based on a preset conversion curve. In the example of FIG. 2, correction is performed so that the low frequency side (black side) of luminance is increased and the high frequency side (white side) is decreased.

一方、テクスチャ成分TX1は、増幅部4により、所定の増幅ゲインで増幅され、加算部5により、補正済のストラクチャ成分ST2と加算される。この加算結果が画像データS2である。   On the other hand, the texture component TX1 is amplified by the amplification unit 4 with a predetermined amplification gain, and is added to the corrected structure component ST2 by the addition unit 5. This addition result is the image data S2.

画像データS2は、ストラクチャ補正部2においてそのストラクチャ成分のコントラストが補正され、増幅部4においてそのテクスチャ成分が増幅されているので、フレーム画像全体のコントラストが向上され、かつ、フレーム画像内の細部が強調されたものとなっていることが期待される。   In the image data S2, the contrast of the structure component is corrected in the structure correction unit 2 and the texture component is amplified in the amplification unit 4, so that the contrast of the entire frame image is improved and the details in the frame image are reduced. It is expected to be emphasized.

特開2003−348377号公報JP 2003-348377 A

しかしながら、上述した従来の画像処理装置では、入力データS1の画像特性に拘わらず、テクスチャ成分ST1にコントラスト補正を施す際に単一の変換曲線を用いているので、画像データS1の画像特性によってはコントラスト補正という観点で十分な効果を得られない場合があるという課題があった。   However, in the conventional image processing apparatus described above, a single conversion curve is used when performing contrast correction on the texture component ST1 regardless of the image characteristics of the input data S1, so depending on the image characteristics of the image data S1. There has been a problem that a sufficient effect may not be obtained in terms of contrast correction.

本発明はこのような状況に鑑みてなされたものであり、処理対象とする画像の画像特性に応じたコントラスト補正を行えるようにするものである。   The present invention has been made in view of such circumstances, and enables contrast correction according to the image characteristics of an image to be processed.

本発明の画像処理装置は、画像データ内の画素値の変化が急峻なエッジ以外の画素値を平滑化することで、画像データの画像の輪郭を構成するストラクチャ成分を生成する平滑化手段と、生成されたストラクチャ成分を画像データから減算し、画像データの画像の細部を構成するテクスチャ成分を生成する減算手段と、画像データの輝度のヒストグラムを画像データの画像特性として検出する検出手段と、検出された画像特性としての輝度のヒストグラムを利用して、頻度が高い帯域ほど対応する傾きが大きい線分が連結してなる変換曲線を生成する生成手段と、生成された変換曲線に基づき、ストラクチャ成分を補正する補正手段と、補正されたストラクチャ成分とテクスチャ成分とを加算する加算手段とを含む。 The image processing apparatus of the present invention, by smoothing the pixel values of the non-sharp edge change of the pixel values in the image data, and smoothing means for generating a structure component which constitutes the outline of the image of the image data, Subtracting means for subtracting the generated structure component from the image data to generate a texture component constituting the details of the image of the image data, detecting means for detecting a histogram of luminance of the image data as image characteristics of the image data, and detection Using a luminance histogram as an image characteristic, generating means for generating a conversion curve formed by connecting line segments having higher slopes corresponding to higher frequency bands , and a structure component based on the generated conversion curve And a correction means for correcting the correction and an addition means for adding the corrected structure component and texture component.

本発明の画像処理装置は、成されたテクスチャ成分を増幅する増幅手段をさらに含むことができ、前記加算手段は、正されたストラクチャ成分と、幅されたテクスチャ成分とを加算するようにすることができる。 The image processing apparatus of the present invention may further include an amplifying means for amplifying that were generated texture component, wherein the addition means, so that adds the auxiliary Tadashisa the structure component, and amplified texture component Can be.

本発明の画像処理方法は、画像データ内の画素値の変化が急峻なエッジ以外の画素値を平滑化することで、画像データの画像の輪郭を構成するストラクチャ成分を生成する平滑化ステップと、生成されたストラクチャ成分を画像データから減算し、画像データの画像の細部を構成するテクスチャ成分を生成する減算ステップと、画像データの輝度のヒストグラムを画像データの画像特性として検出する検出ステップと、検出された画像特性としての輝度のヒストグラムを利用して、頻度が高い帯域ほど対応する傾きが大きい線分が連結してなる変換曲線を生成する生成ステップと、生成された変換曲線に基づき、ストラクチャ成分を補正する補正ステップと、補正されたストラクチャ成分とテクスチャ成分とを加算する加算ステップとを含む。 The image processing method of the present invention, by smoothing the pixel values of the non-sharp edge change of the pixel values in the image data, a smoothing step of generating a structure component which constitutes the outline of the image of the image data, A subtracting step for subtracting the generated structure component from the image data to generate a texture component constituting the details of the image of the image data, a detecting step for detecting a histogram of luminance of the image data as an image characteristic of the image data, and detection Using the luminance histogram as the image characteristics, a generation step for generating a conversion curve formed by connecting line segments having higher slopes corresponding to higher frequency bands , and a structure component based on the generated conversion curve And a correction step for correcting the correction and an addition step for adding the corrected structure component and texture component

本発明の記録媒体のプログラムは、画像データ内の画素値の変化が急峻なエッジ以外の画素値を平滑化することで、画像データの画像の輪郭を構成するストラクチャ成分を生成する平滑化ステップと、生成されたストラクチャ成分を画像データから減算し、画像データの画像の細部を構成するテクスチャ成分を生成する減算ステップと、画像データの輝度のヒストグラムを画像データの画像特性として検出する検出ステップと、検出された画像特性としての輝度のヒストグラムを利用して、頻度が高い帯域ほど対応する傾きが大きい線分が連結してなる変換曲線を生成する生成ステップと、生成された変換曲線に基づき、ストラクチャ成分を補正する補正ステップと、補正されたストラクチャ成分とテクスチャ成分とを加算する加算ステップとを含む処理をコンピュータに実行させる。 Recording medium program of the present invention, by smoothing the pixel values of the non-sharp edge change of the pixel values in the image data, a smoothing step of generating a structure component which constitutes the outline of the image of the image data A subtracting step for subtracting the generated structure component from the image data to generate a texture component constituting the details of the image of the image data; a detecting step for detecting a histogram of luminance of the image data as an image characteristic of the image data; using the histogram of the luminance of the detected image characteristics, a generation step of generating a conversion curve frequency is linked inclination is large segments corresponding higher band, based on the generated conversion curve, structure Correction step for correcting the component, and addition step for adding the corrected structure component and texture component To execute a process including the computer.

本発明のプログラムは、画像データ内の画素値の変化が急峻なエッジ以外の画素値を平滑化することで、画像データの画像の輪郭を構成するストラクチャ成分を生成する平滑化ステップと、生成されたストラクチャ成分を画像データから減算し、画像データの画像の細部を構成するテクスチャ成分を生成する減算ステップと、画像データの輝度のヒストグラムを画像データの画像特性として検出する検出ステップと、検出された画像特性としての輝度のヒストグラムを利用して、頻度が高い帯域ほど対応する傾きが大きい線分が連結してなる変換曲線を生成する生成ステップと、生成された変換曲線に基づき、ストラクチャ成分を補正する補正ステップと、補正されたストラクチャ成分とテクスチャ成分とを加算する加算ステップとを含む処理をコンピュータに実行させる。 Program of the present invention, by smoothing the pixel values of the non-sharp edge change of the pixel values in the image data, a smoothing step of generating a structure component which constitutes the outline of the image of the image data is generated A subtracting step for subtracting the obtained structural component from the image data to generate a texture component constituting the details of the image of the image data, a detecting step for detecting a histogram of luminance of the image data as an image characteristic of the image data, and Using a luminance histogram as an image characteristic, a generation step for generating a conversion curve formed by connecting line segments with larger slopes corresponding to higher frequency bands , and correcting the structure component based on the generated conversion curve And a correction step that adds the corrected structure component and the texture component. Cause the computer to execute.

本発明の画像処理装置および方法、並びにプログラムにおいては、画像データのストラクチャ成分とテクスチャ成分が生成される。また、画像データの画像特性が検出され、検出された画像特性に対応して変換曲線が生成され、生成された変換曲線に基づいてストラクチャ成分が補正される。さらに、補正されたストラクチャ成分とテクスチャ成分とが加算される。   In the image processing apparatus and method, and the program of the present invention, a structure component and a texture component of image data are generated. Further, the image characteristic of the image data is detected, a conversion curve is generated corresponding to the detected image characteristic, and the structure component is corrected based on the generated conversion curve. Further, the corrected structure component and texture component are added.

本発明によれば、処理対象とする画像の画像特性に応じたコントラスト補正を行うことが可能となる。   According to the present invention, it is possible to perform contrast correction according to the image characteristics of an image to be processed.

以下に本発明の実施の形態を説明するが、請求項に記載の構成要件と、発明の実施の形態における具体例との対応関係を例示すると、次のようになる。この記載は、請求項に記載されている発明をサポートする具体例が、発明の実施の形態に記載されていることを確認するためのものである。従って、発明の実施の形態中には記載されているが、構成要件に対応するものとして、ここには記載されていない具体例があったとしても、そのことは、その具体例が、その構成要件に対応するものではないことを意味するものではない。逆に、具体例が構成要件に対応するものとしてここに記載されていたとしても、そのことは、その具体例が、その構成要件以外の構成要件には対応しないものであることを意味するものでもない。   Embodiments of the present invention will be described below. Correspondences between constituent elements described in the claims and specific examples in the embodiments of the present invention are exemplified as follows. This description is to confirm that specific examples supporting the invention described in the claims are described in the embodiments of the invention. Therefore, even if there are specific examples that are described in the embodiment of the invention but are not described here as corresponding to the configuration requirements, the specific examples are not included in the configuration. It does not mean that it does not correspond to a requirement. On the contrary, even if a specific example is described here as corresponding to a configuration requirement, this means that the specific example does not correspond to a configuration requirement other than the configuration requirement. not.

さらに、この記載は、発明の実施の形態に記載されている具体例に対応する発明が、請求項に全て記載されていることを意味するものではない。換言すれば、この記載は、発明の実施の形態に記載されている具体例に対応する発明であって、この出願の請求項には記載されていない発明の存在、すなわち、将来、分割出願されたり、補正により追加されたりする発明の存在を否定するものではない。   Further, this description does not mean that all the inventions corresponding to the specific examples described in the embodiments of the invention are described in the claims. In other words, this description is an invention corresponding to the specific example described in the embodiment of the invention, and the existence of an invention not described in the claims of this application, that is, in the future, a divisional application will be made. It does not deny the existence of an invention that is added by correction.

請求項1に記載の画像処理装置(例えば、図3の画像処理装置20)は、
前記画像データ内の画素値の変化が急峻なエッジ以外の画素値を平滑化することで、前記画像データの画像の輪郭を構成するストラクチャ成分を生成する平滑化手段(例えば、図3の非線形フィルタ23)と、
生成された前記ストラクチャ成分を前記画像データから減算し、前記画像データの画像の細部を構成するテクスチャ成分を生成する減算手段(例えば、図3の減算部25)と、
前記画像データの輝度のヒストグラムを画像データの画像特性として検出する検出手段(例えば、図3の画像特性検出部21)と、
検出された前記画像特性としての輝度のヒストグラムを利用して、頻度が高い帯域ほど対応する傾きが大きい線分が連結してなる変換曲線を生成する生成手段(例えば、図3の補正曲線生成部22)と、
生成された前記変換曲線に基づき、前記ストラクチャ成分を補正する補正手段(例えば、図3のストラクチャ補正部24)と、
補正された前記ストラクチャ成分と前記テクスチャ成分とを加算する加算手段(例えば、図3の加算部27)と
を含む。
The image processing apparatus according to claim 1 (for example, the image processing apparatus 20 in FIG. 3)
Wherein the image change of the pixel values in the data to smooth the pixel values of the non-sharp edges, the smoothing means for generating a structure component which constitutes the outline of the image of the image data (e.g., non-linear filter of FIG. 3 23)
Subtracting means (for example, a subtracting unit 25 in FIG. 3) that subtracts the generated structure component from the image data and generates a texture component that constitutes image details of the image data;
Detecting means (for example, the image characteristic detecting unit 21 in FIG. 3) for detecting a histogram of luminance of the image data as image characteristics of the image data;
Using the detected luminance histogram as the image characteristic, generating means (for example, a correction curve generating unit shown in FIG. 3) that generates a conversion curve formed by connecting line segments having higher slopes corresponding to higher frequency bands . 22)
Correction means (for example, the structure correction unit 24 in FIG. 3) for correcting the structure component based on the generated conversion curve;
Adding means for adding the corrected structure component and the texture component (for example, the adding unit 27 in FIG. 3).

請求項2に記載の画像処理装置は、
成された前記テクスチャ成分を増幅する増幅手段(例えば、図3の増幅部26)をさらに含み、
前記加算手段は、正された前記ストラクチャ成分と、幅された前記テクスチャ成分とを加算す
An image processing apparatus according to claim 2 is provided.
Amplifying means for amplifying that were generated the texture component (e.g., the amplifying unit 26 of FIG. 3) further comprises,
It said adding means, be summed and complement Tadashisa the said structure component, and said texture component is amplified.

請求項3に記載の画像処理方法は、
前記画像データ内の画素値の変化が急峻なエッジ以外の画素値を平滑化することで、前記画像データの画像の輪郭を構成するストラクチャ成分を生成する平滑化ステップ(例えば、図7のステップS3)と、
生成された前記ストラクチャ成分を前記画像データから減算し、前記画像データの画像の細部を構成するテクスチャ成分を生成する減算ステップ(例えば、図7のステップS5)と、
前記画像データの輝度のヒストグラムを画像データの画像特性として検出する検出ステップ(例えば、図7のステップS1)と、
検出された前記画像特性としての輝度のヒストグラムを利用して、頻度が高い帯域ほど対応する傾きが大きい線分が連結してなる変換曲線を生成する生成ステップ(例えば、図7のステップS2)と、
生成された前記変換曲線に基づき、前記ストラクチャ成分を補正する補正ステップ(例えば、図7のステップS4)と、
補正された前記ストラクチャ成分と前記テクスチャ成分とを加算する加算ステップ(例えば、図7のステップS7)と
を含む。
The image processing method according to claim 3,
By smoothing the pixel value other than the sharp edge change of the pixel values in the image data, the smoothing step of generating a structure component which constitutes the outline of the image of the image data (e.g., step S3 of FIG. 7 )When,
Subtracting the generated structure component from the image data to generate a texture component that constitutes image details of the image data (for example, step S5 in FIG. 7);
A detection step (for example, step S1 in FIG. 7) for detecting a histogram of luminance of the image data as an image characteristic of the image data;
A generation step (for example, step S2 in FIG. 7) that uses a detected luminance histogram as the image characteristic to generate a conversion curve formed by connecting line segments having a larger slope corresponding to a higher frequency band . ,
A correction step (for example, step S4 in FIG. 7) for correcting the structure component based on the generated conversion curve;
An adding step (for example, step S7 in FIG. 7) for adding the corrected structure component and the texture component.

なお、本発明のプログラム、および本発明の記録媒体に記録されているプログラムの請求項に記載の構成要件と、発明の実施の形態における具体例との対応関係は、上述した本発明の画像処理方法のものと同様であるので、その記載は省略する。   Note that the correspondence between the configuration requirements described in the claims of the program of the present invention and the program recorded on the recording medium of the present invention and the specific example in the embodiment of the present invention is the image processing of the present invention described above. Since it is the same as that of the method, its description is omitted.

以下、本発明を適用した具体的な実施の形態について、図面を参照しながら詳細に説明する。   Hereinafter, specific embodiments to which the present invention is applied will be described in detail with reference to the drawings.

図3は、本発明の一実施の形態である画像処理装置の構成例を示している。この画像処理装置20には、フレーム単位で、デジタルデータである画像データS1が入力されるものとする。画像データS1は、フレームを構成する各画素の画素値(フレーム画像の画像データ)である。また、画像処理装置20では、画像データのうちの輝度信号に対して処理を施すものとする。   FIG. 3 shows a configuration example of an image processing apparatus according to an embodiment of the present invention. It is assumed that image data S1 that is digital data is input to the image processing apparatus 20 in units of frames. The image data S1 is a pixel value (image data of a frame image) of each pixel constituting the frame. The image processing apparatus 20 performs processing on the luminance signal in the image data.

画像処理装置20において、画像特性検出部21は、入力される画像データS1の輝度を複数の帯域に分割してヒストグラムを検出し、その検出結果を示す検出信号CN1を補正曲線生成部22に出力する。補正曲線生成部22は、画像特性検出部21からの検出信号CN1に基づき、ヒストグラムの帯域の数と同数の線分を連結して補正曲線を生成する。このとき、頻度が高い帯域ほど対応する線分の傾きを大きくする。   In the image processing device 20, the image characteristic detection unit 21 detects the histogram by dividing the luminance of the input image data S 1 into a plurality of bands, and outputs a detection signal CN 1 indicating the detection result to the correction curve generation unit 22. To do. The correction curve generation unit 22 generates a correction curve by connecting the same number of line segments as the number of bands of the histogram based on the detection signal CN1 from the image characteristic detection unit 21. At this time, the slope of the corresponding line segment is increased as the frequency is higher.

図4乃至図6は、検出された輝度のヒストグラム(図4A乃至図6A)と、それに基づいて生成される補正曲線(図4B乃至図6B)の例を示している。ただし、図4B乃至図6Bの横軸は補正前の輝度、縦軸は補正後の輝度を示すものとする。   4 to 6 show examples of detected luminance histograms (FIGS. 4A to 6A) and correction curves (FIGS. 4B to 6B) generated based on the histograms. 4B to 6B, the horizontal axis represents the luminance before correction, and the vertical axis represents the luminance after correction.

図4Aに示す例のように、輝度の中間帯域の頻度が高い場合、図4Bに示す例のように、生成される補正曲線は、中間帯域に相当する線分の傾きが大きくなり、全体としてS字形の曲線となる。また、図5Aに示す例のように、輝度の頻度が高帯域になるに従って高くなる場合、図5Bに示す例のように、生成される補正曲線は、高帯域になるに従って傾きが大きくなり、全体として下に凸の曲線となる。さらに、図6Aに示す例のように、輝度の頻度が高帯域になるに従って低くなる場合、図6Bに示す例のように、生成される補正曲線は、高帯域になるに従って傾きが小さくなり、全体として上に凸の曲線となる。   As in the example shown in FIG. 4A, when the frequency of the luminance intermediate band is high, the generated correction curve has a large slope of the line segment corresponding to the intermediate band, as in the example shown in FIG. 4B. S-shaped curve. Further, when the luminance frequency increases as the frequency increases as in the example illustrated in FIG. 5A, the generated correction curve has a slope that increases as the frequency increases as illustrated in FIG. 5B. As a whole, it becomes a downwardly convex curve. Further, when the luminance frequency decreases as the frequency increases as in the example illustrated in FIG. 6A, the generated correction curve decreases in inclination as the frequency increases as illustrated in FIG. 6B. As a whole, the curve is convex upward.

図3に戻る。非線形フィルタ23は、入力される画像データS1からフレーム画像内の物体の輪郭等に相当するストラクチャ成分ST1を抽出し、ストラクチャ補正部24および減算部25に出力する。ストラクチャ補正部24は、補正曲線生成部22によって生成された変換曲線に基づき、非線形フィルタ23から入力されるストラクチャ成分ST1のコントラストを補正し、その結果得られる補正済のストラクチャ成分ST2を加算部27に出力する。減算部25は、入力される画像データS1から、非線形フィルタ23によって抽出されたストラクチャ成分ST1を減算することにより、フレーム画像の細部を構成するテクスチャ成分(振幅成分)TX1を抽出して増幅部26に出力する。   Returning to FIG. The non-linear filter 23 extracts the structure component ST1 corresponding to the contour of the object in the frame image from the input image data S1 and outputs it to the structure correction unit 24 and the subtraction unit 25. The structure correction unit 24 corrects the contrast of the structure component ST1 input from the nonlinear filter 23 based on the conversion curve generated by the correction curve generation unit 22, and adds the corrected structure component ST2 obtained as a result to the addition unit 27. Output to. The subtractor 25 subtracts the structure component ST1 extracted by the nonlinear filter 23 from the input image data S1, thereby extracting the texture component (amplitude component) TX1 constituting the details of the frame image and amplifying unit 26. Output to.

増幅部26は、減算部25から入力されるテクスチャ成分TX1を所定の増幅ゲインで増幅し、その結果得られる増幅済のテクスチャ成分TX2を加算部27に出力する。加算部27は、補正済のストラクチャ成分ST2と増幅済のテクスチャ成分TX2とを加算することにより画像データS2を生成する。 Amplification unit 26, a texture component TX1 which is inputted from the subtraction unit 25 to a predetermined amplification gain, and outputs the texture component TX 2 amplification already obtained as a result to the adder 27. The adding unit 27 generates the image data S2 by adding the corrected structure component ST2 and the amplified texture component TX2 .

次に、画像処理装置20によるコントラスト補正処理について、図7のフローチャートを参照して説明する。このコントラスト補正処理は、例えば、画像処理装置20に、フレーム単位の画像データS1が入力されたときに開始される。なお、このコントラスト補正処理は、フレーム単位で行われる。   Next, contrast correction processing by the image processing apparatus 20 will be described with reference to the flowchart of FIG. This contrast correction process is started, for example, when image data S1 in units of frames is input to the image processing apparatus 20. This contrast correction process is performed in units of frames.

ステップS1において、画像特性検出部21は、入力された画像データS1の輝度を複数の帯域に分割してヒストグラムを検出し、その検出結果を示す検出信号CN1を補正曲線生成部22に出力する。ステップS2において、補正曲線生成部22は、画像特性検出部21からの検出信号CN1に基づき、頻度が高い帯域ほど対応する傾きが大きい線分が連結して成る補正曲線を生成する。   In step S <b> 1, the image characteristic detection unit 21 detects the histogram by dividing the luminance of the input image data S <b> 1 into a plurality of bands, and outputs a detection signal CN <b> 1 indicating the detection result to the correction curve generation unit 22. In step S <b> 2, the correction curve generation unit 22 generates a correction curve formed by connecting line segments having larger slopes corresponding to higher frequency bands based on the detection signal CN <b> 1 from the image characteristic detection unit 21.

ステップS3において、非線形フィルタ23は、入力された画像データS1からフレーム画像内の物体の輪郭等に相当するストラクチャ成分ST1を抽出し、ストラクチャ補正部24および減算部25に出力する。ステップS4において、ストラクチャ補正部24は、補正曲線生成部22によって生成された変換曲線に基づき、非線形フィルタ23から入力されたストラクチャ成分ST1のコントラストを補正し、その結果得られる補正済のストラクチャ成分ST2を加算部27に出力する。   In step S <b> 3, the nonlinear filter 23 extracts the structure component ST <b> 1 corresponding to the contour of the object in the frame image from the input image data S <b> 1 and outputs the structure component ST <b> 1 to the structure correction unit 24 and the subtraction unit 25. In step S4, the structure correction unit 24 corrects the contrast of the structure component ST1 input from the nonlinear filter 23 based on the conversion curve generated by the correction curve generation unit 22, and the corrected structure component ST2 obtained as a result thereof. Is output to the adder 27.

ステップS5において、減算部25は、入力された画像データS1から、非線形フィルタ23によって抽出されたストラクチャ成分ST1を減算することにより、フレーム画像の細部を構成するテクスチャ成分(振幅成分)TX1を抽出して増幅部26に出力する。ステップS6において、増幅部26は、減算部25から入力されたテクスチャ成分TX1を所定の増幅ゲインで増幅し、その結果得られる増幅済のテクスチャ成分TX2を加算部27に出力する。ステップS7において、加算部27は、補正済のストラクチャ成分ST2と増幅済のテクスチャ成分TX2とを加算することにより画像データS2を生成する。以上で、コントラスト補正処理の説明を終了する。 In step S5, the subtraction unit 25 extracts the texture component (amplitude component) TX1 constituting the details of the frame image by subtracting the structure component ST1 extracted by the nonlinear filter 23 from the input image data S1. And output to the amplifying unit 26. In step S <b> 6, the amplification unit 26 amplifies the texture component TX < b> 1 input from the subtraction unit 25 with a predetermined amplification gain, and outputs the amplified texture component TX 2 obtained as a result to the addition unit 27. In step S7, the addition unit 27 generates the image data S2 by adding the corrected structure component ST2 and the amplified texture component TX2 . This is the end of the description of the contrast correction process.

コントラスト補正処理によって生成された画像データS2は、画像データS1の画像特性(具体的には、輝度のヒストグラム)に適用的に生成された補正曲線を用いて、ストラクチャ成分のコントラスト成分が補正されているので、コントラスト補正がより効果的に作用したものとなる。   In the image data S2 generated by the contrast correction process, the contrast component of the structure component is corrected by using a correction curve that is applied to the image characteristics (specifically, the luminance histogram) of the image data S1. Therefore, the contrast correction works more effectively.

なお、画像特性検出部21において、入力画像データS1の輝度のヒストグラムの代わりに(あるいは追加して)、例えば、入力画像データS1の輝度の平均値、最大値、または最小値の少なくとも1つを検出し、その検出結果に基づき、補正曲線生成部22が補正曲線を生成するようにしてもよい。   In the image characteristic detection unit 21, instead of (or in addition to) the luminance histogram of the input image data S1, for example, at least one of the average value, the maximum value, or the minimum value of the luminance of the input image data S1 is obtained. Detection may be performed, and the correction curve generation unit 22 may generate a correction curve based on the detection result.

ところで、上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば図8に示すように構成される汎用のパーソナルコンピュータなどに、記録媒体からインストールされる。   By the way, the series of processes described above can be executed by hardware, but can also be executed by software. When a series of processing is executed by software, a program constituting the software may execute various functions by installing a computer incorporated in dedicated hardware or various programs. For example, a general-purpose personal computer configured as shown in FIG. 8 is installed from the recording medium.

このパーソナルコンピュータ50は、CPU(Central Processing Unit)51を内蔵している。CPU51にはバス54を介して、入出力インタフェース55が接続されている。バス54には、ROM(Read Only Memory)52およびRAM(Random Access Memory)53が接続されている。   The personal computer 50 includes a CPU (Central Processing Unit) 51. An input / output interface 55 is connected to the CPU 51 via the bus 54. A ROM (Read Only Memory) 52 and a RAM (Random Access Memory) 53 are connected to the bus 54.

入出力インタフェース55には、ユーザが操作コマンドを入力するキーボード、マウス等の入力デバイスよりなる入力部56、画像データの映像等を表示するディスプレイよりなる出力部57、プログラムや各種データを格納するハードディスクドライブなどよりなる記憶部58、およびLAN(Local Area Network)アダプタなどよりなり、インタネットに代表されるネットワークを介した通信処理を実行する通信部59が接続されている。また、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini Disc)を含む)、もしくは半導体メモリなどの記録媒体61に対してデータを読み書きするドライブ60が接続されている。   The input / output interface 55 includes a keyboard for inputting operation commands by a user, an input unit 56 including an input device such as a mouse, an output unit 57 including a display for displaying image data, and a hard disk for storing programs and various data. A storage unit 58 made up of a drive and the like, and a communication unit 59 made up of a LAN (Local Area Network) adapter and the like, which executes communication processing via a network represented by the Internet, are connected. Also, a magnetic disk (including a flexible disk), an optical disk (including a CD-ROM (Compact Disc-Read Only Memory), a DVD (Digital Versatile Disc)), a magneto-optical disk (including an MD (Mini Disc)), or a semiconductor A drive 60 for reading / writing data from / to a recording medium 61 such as a memory is connected.

このパーソナルコンピュータ50に上述した一連の処理を実行させるプログラムは、記録媒体61に格納された状態でパーソナルコンピュータ50に供給され、ドライブ60によって読み出されて記憶部58に内蔵されるハードディスクドライブにインストールされている。記憶部58にインストールされているプログラムは、入力部56に入力されるユーザからのコマンドに対応するCPU51の指令によって、記憶部58からRAM53にロードされて実行される。   A program for causing the personal computer 50 to execute the above-described series of processing is supplied to the personal computer 50 while being stored in the recording medium 61, read by the drive 60, and installed in a hard disk drive built in the storage unit 58. Has been. The program installed in the storage unit 58 is loaded from the storage unit 58 to the RAM 53 and executed by a command of the CPU 51 corresponding to a command from the user input to the input unit 56.

なお、本明細書において、プログラムに基づいて実行されるステップは、記載された順序に従って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。   In this specification, the steps executed based on the program are executed in parallel or individually even if they are not necessarily processed in time series, as well as processes executed in time series according to the described order. It also includes processing.

また、プログラムは、単一のコンピュータにより処理されるものであってもよいし、複数のコンピュータによって分散処理されるものであってもよい。さらに、プログラムは、遠方のコンピュータに転送されて実行されるものであってもよい。   The program may be processed by a single computer, or may be processed in a distributed manner by a plurality of computers. Furthermore, the program may be transferred to a remote computer and executed.

なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に従って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。   In the present specification, the step of describing the program recorded in the recording medium is not limited to the processing performed in time series according to the described order, but is not necessarily performed in time series, either in parallel or individually. The process to be executed is also included.

非線形フィルタを用いた従来の画像処理装置の構成の一例を示すブロック図である。It is a block diagram which shows an example of a structure of the conventional image processing apparatus using a nonlinear filter. 図1の画像処理装置による処理の概要を示す図である。It is a figure which shows the outline | summary of the process by the image processing apparatus of FIG. 本発明を適用した画像処理装置の構成例を示すブロック図である。It is a block diagram which shows the structural example of the image processing apparatus to which this invention is applied. 輝度のヒストグラムと、それに対応する変換曲線の例を示す図である。It is a figure which shows the example of the histogram of a brightness | luminance, and the conversion curve corresponding to it. 輝度のヒストグラムと、それに対応する変換曲線の例を示す図である。It is a figure which shows the example of the histogram of a brightness | luminance, and the conversion curve corresponding to it. 輝度のヒストグラムと、それに対応する変換曲線の例を示す図である。It is a figure which shows the example of the histogram of a brightness | luminance, and the conversion curve corresponding to it. 図3の画像処理装置によるコントラスト補正処理を説明するフローチャートである。4 is a flowchart for explaining contrast correction processing by the image processing apparatus in FIG. 3. 本発明が適用される汎用コンピュータの構成例を示すブロック図である。It is a block diagram which shows the structural example of the general purpose computer to which this invention is applied.

符号の説明Explanation of symbols

21 画像特性検出部, 22 補正曲線生成部, 23 非線形フィルタ, 24 ストラクチャ補正部, 25 減算部, 26 増幅部, 27 加算部   21 image characteristic detection unit, 22 correction curve generation unit, 23 nonlinear filter, 24 structure correction unit, 25 subtraction unit, 26 amplification unit, 27 addition unit

Claims (5)

画像データを処理する画像処理装置において、
前記画像データ内の画素値の変化が急峻なエッジ以外の画素値を平滑化することで、前記画像データの画像の輪郭を構成するストラクチャ成分を生成する平滑化手段と、
生成された前記ストラクチャ成分を前記画像データから減算し、前記画像データの画像の細部を構成するテクスチャ成分を生成する減算手段と、
前記画像データの輝度のヒストグラムを前記画像データの画像特性として検出する検出手段と、
検出された前記画像特性としての輝度のヒストグラムを利用して、頻度が高い帯域ほど対応する傾きが大きい線分が連結してなる変換曲線を生成する生成手段と、
生成された前記変換曲線に基づき、前記ストラクチャ成分を補正する補正手段と、
補正された前記ストラクチャ成分と前記テクスチャ成分とを加算する加算手段と
を含む画像処理装置。
In an image processing apparatus that processes image data,
Smoothing means for smoothing pixel values other than edges where the change in pixel value in the image data is steep, thereby generating a structure component that constitutes the contour of the image of the image data;
Subtracting means for subtracting the generated structure component from the image data and generating a texture component that constitutes image details of the image data;
Detecting means for detecting a luminance histogram of the image data as an image characteristic of the image data;
A generation unit that generates a conversion curve formed by connecting line segments having a larger slope corresponding to a higher frequency band using a histogram of luminance as the detected image characteristic;
Correction means for correcting the structure component based on the generated conversion curve;
An image processing apparatus comprising: an adding unit that adds the corrected structure component and the texture component.
生成された前記テクスチャ成分を増幅する増幅手段をさらに含み、
前記加算手段は、補正された前記ストラクチャ成分と、増幅された前記テクスチャ成分とを加算する
請求項1に記載の画像処理装置。
Amplifying means for amplifying the generated texture component;
The image processing apparatus according to claim 1, wherein the adding unit adds the corrected structure component and the amplified texture component.
画像データを処理する画像処理方法において、
前記画像データ内の画素値の変化が急峻なエッジ以外の画素値を平滑化することで、前記画像データの画像の輪郭を構成するストラクチャ成分を生成する平滑化ステップと、
生成された前記ストラクチャ成分を前記画像データから減算し、前記画像データの画像の細部を構成するテクスチャ成分を生成する減算ステップと、
前記画像データの輝度のヒストグラムを前記画像データの画像特性として検出する検出ステップと、
検出された前記画像特性としての輝度のヒストグラムを利用して、頻度が高い帯域ほど対応する傾きが大きい線分が連結してなる変換曲線を生成する生成ステップと、
生成された前記変換曲線に基づき、前記ストラクチャ成分を補正する補正ステップと、
補正された前記ストラクチャ成分と前記テクスチャ成分とを加算する加算ステップと
を含む画像処理方法。
In an image processing method for processing image data,
The change in the pixel values in the image data to smooth the pixel values of the non-sharp edges, the smoothing step of generating a structure component which constitutes the outline of the image of the image data,
A subtracting step of subtracting the generated structure component from the image data to generate a texture component that constitutes image details of the image data;
A detection step of detecting a luminance histogram of the image data as an image characteristic of the image data;
Using a luminance histogram as the detected image characteristic, a generation step for generating a conversion curve formed by connecting line segments having a larger slope corresponding to a higher frequency band ; and
A correction step of correcting the structure component based on the generated conversion curve;
An image processing method comprising: an adding step of adding the corrected structure component and the texture component.
画像データを処理するためのプログラムであって、
前記画像データ内の画素値の変化が急峻なエッジ以外の画素値を平滑化することで、前記画像データの画像の輪郭を構成するストラクチャ成分を生成する平滑化ステップと、
生成された前記ストラクチャ成分を前記画像データから減算し、前記画像データの画像の細部を構成するテクスチャ成分を生成する減算ステップと、
前記画像データの輝度のヒストグラムを前記画像データの画像特性として検出する検出ステップと、
検出された前記画像特性としての輝度のヒストグラムを利用して、頻度が高い帯域ほど対応する傾きが大きい線分が連結してなる変換曲線を生成する生成ステップと、
生成された前記変換曲線に基づき、前記ストラクチャ成分を補正する補正ステップと、
補正された前記ストラクチャ成分と前記テクスチャ成分とを加算する加算ステップと
を含む処理をコンピュータに実行させるプログラム。
A program for processing image data,
The change in the pixel values in the image data to smooth the pixel values of the non-sharp edges, the smoothing step of generating a structure component which constitutes the outline of the image of the image data,
A subtracting step of subtracting the generated structure component from the image data to generate a texture component that constitutes image details of the image data;
A detection step of detecting a luminance histogram of the image data as an image characteristic of the image data;
Using a luminance histogram as the detected image characteristic, a generation step for generating a conversion curve formed by connecting line segments having a larger slope corresponding to a higher frequency band ; and
A correction step of correcting the structure component based on the generated conversion curve;
A program that causes a computer to execute a process including an adding step of adding the corrected structure component and the texture component.
画像データを処理するためのプログラムであって、
前記画像データ内の画素値の変化が急峻なエッジ以外の画素値を平滑化することで、前記画像データの画像の輪郭を構成するストラクチャ成分を生成する平滑化ステップと、
生成された前記ストラクチャ成分を前記画像データから減算し、前記画像データの画像の細部を構成するテクスチャ成分を生成する減算ステップと、
前記画像データの輝度のヒストグラムを前記画像データの画像特性として検出する検出ステップと、
検出された前記画像特性としての輝度のヒストグラムを利用して、頻度が高い帯域ほど対応する傾きが大きい線分が連結してなる変換曲線を生成する生成ステップと、
生成された前記変換曲線に基づき、前記ストラクチャ成分を補正する補正ステップと、
補正された前記ストラクチャ成分と前記テクスチャ成分とを加算する加算ステップと
を含む処理をコンピュータに実行させるプログラムを記録したコンピュータ読み取り可能な記録媒体。
A program for processing image data,
The change in the pixel values in the image data to smooth the pixel values of the non-sharp edges, the smoothing step of generating a structure component which constitutes the outline of the image of the image data,
A subtracting step of subtracting the generated structure component from the image data to generate a texture component that constitutes image details of the image data;
A detection step of detecting a luminance histogram of the image data as an image characteristic of the image data;
Using a luminance histogram as the detected image characteristic, a generation step for generating a conversion curve formed by connecting line segments having a larger slope corresponding to a higher frequency band ; and
A correction step of correcting the structure component based on the generated conversion curve;
A computer-readable recording medium storing a program for causing a computer to execute a process including an adding step of adding the corrected structure component and the texture component.
JP2004128250A 2004-04-23 2004-04-23 Image processing apparatus and method, program, and recording medium Expired - Fee Related JP4558370B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004128250A JP4558370B2 (en) 2004-04-23 2004-04-23 Image processing apparatus and method, program, and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004128250A JP4558370B2 (en) 2004-04-23 2004-04-23 Image processing apparatus and method, program, and recording medium

Publications (2)

Publication Number Publication Date
JP2005309945A JP2005309945A (en) 2005-11-04
JP4558370B2 true JP4558370B2 (en) 2010-10-06

Family

ID=35438628

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004128250A Expired - Fee Related JP4558370B2 (en) 2004-04-23 2004-04-23 Image processing apparatus and method, program, and recording medium

Country Status (1)

Country Link
JP (1) JP4558370B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4240324B2 (en) 2006-01-16 2009-03-18 ソニー株式会社 Image processing apparatus, image processing method, program for image processing method, and recording medium recording program for image processing method
JP4273428B2 (en) 2006-01-31 2009-06-03 ソニー株式会社 Image processing apparatus, image processing method, program for image processing method, and recording medium recording program for image processing method
JP5657375B2 (en) 2010-12-24 2015-01-21 オリンパス株式会社 Endoscope apparatus and program

Also Published As

Publication number Publication date
JP2005309945A (en) 2005-11-04

Similar Documents

Publication Publication Date Title
US7853095B2 (en) Apparatus, method, recording medium and program for processing signal
KR101086424B1 (en) Apparatus and method for processing digital image
US7734111B2 (en) Image processing apparatus, image processing method, and computer product
US7106346B2 (en) Signal processing apparatus and method, recording medium, and program
JP4497160B2 (en) Image processing apparatus and method, and program
CN108513044B (en) Image smoothing method, electronic device and computer readable storage medium
US20090310880A1 (en) Signal processing apparatus and method, and program
JP4558370B2 (en) Image processing apparatus and method, program, and recording medium
JP4214480B2 (en) Image processing apparatus and method, and program
WO2017203941A1 (en) Image processing device, image processing method, and program
JP2003274181A (en) Device for reducing noise
JP4293039B2 (en) Image processing apparatus, image processing method, program, and recording medium
US20160110854A1 (en) Image processing apparatus, image processing method, and program
JP2009020781A (en) Histogram calculation circuit, histogram calculation method, and program
JP3928605B2 (en) Noise removal apparatus, noise removal method, and program
US8411985B2 (en) Image processing device, image processing method and non-transitory computer readable medium recording image processing program
US20060215927A1 (en) Signal processing device and method, recording medium, and program
JP5135134B2 (en) Image processing apparatus and method
KR100468683B1 (en) Wideband dynamic-range expanding device and methods
JP5099437B2 (en) Image processing apparatus and method, and program
JP2005333176A (en) Signal processing apparatus and method, recording medium, and program
JP6031993B2 (en) Image processing apparatus and image processing method
JP4687894B2 (en) Image processing apparatus and image processing program
JP2005328277A (en) Signal processor and method, recording medium, and program
TWI383665B (en) System and method of contrast enhancement

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070417

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080708

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080908

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20081202

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090204

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20090210

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20090319

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100618

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100721

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130730

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees