JP2006050559A - Image correcting apparatus and method, and image correction program - Google Patents

Image correcting apparatus and method, and image correction program Download PDF

Info

Publication number
JP2006050559A
JP2006050559A JP2005166420A JP2005166420A JP2006050559A JP 2006050559 A JP2006050559 A JP 2006050559A JP 2005166420 A JP2005166420 A JP 2005166420A JP 2005166420 A JP2005166420 A JP 2005166420A JP 2006050559 A JP2006050559 A JP 2006050559A
Authority
JP
Japan
Prior art keywords
color
color correction
reliability
calculated
correction value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005166420A
Other languages
Japanese (ja)
Other versions
JP4515964B2 (en
Inventor
Sukekazu Kameyama
祐和 亀山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Holdings Corp
Original Assignee
Fuji Photo Film Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Photo Film Co Ltd filed Critical Fuji Photo Film Co Ltd
Priority to JP2005166420A priority Critical patent/JP4515964B2/en
Publication of JP2006050559A publication Critical patent/JP2006050559A/en
Application granted granted Critical
Publication of JP4515964B2 publication Critical patent/JP4515964B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Color Image Communication Systems (AREA)
  • Image Processing (AREA)
  • Processing Of Color Television Signals (AREA)
  • Facsimile Image Signal Circuits (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To perform proper image correction processing using a plurality of color correction values. <P>SOLUTION: Provided image data are used, to respectively calculate two color correction values in two correction value calculating circuits 12, 13. Further, a target skin color chromaticity value and significance levels indicating which of the two color correction values should be regarded as important are inputted from an input device 2. Respective reliability for the two color correction values are calculated on the basis of the two color correction values and the inputted target skin color chromaticity value. On the basis of the calculated reliability, the inputted importance and the two color correction values, both of the reliability and the importance are reflected, to calculate a new color correction value in a color correction value calculating circuit 15. <P>COPYRIGHT: (C)2006,JPO&NCIPI

Description

本発明は,デジタル画像データに対して色補正処理(色変換処理)を施す画像処理装置および方法,ならびに画像処理方法をコンピュータに実行させるためのプログラムに関するものである。   The present invention relates to an image processing apparatus and method for performing color correction processing (color conversion processing) on digital image data, and a program for causing a computer to execute the image processing method.

写真ネガフイルムやリバーサルフイルムに記録された画像をスキャナ等により読み取ることにより得られたデジタル画像データ,あるいはデジタルカメラ,カメラ付き携帯電話機により取得されたデジタル画像データからカラープリントを作成する場合においては,撮影時におけるシーンと同様の印象となるようにデジタル画像データに対してカラーバランスを補正する色補正処理を施してプリント画像を作成するようにしている。撮影により取得された画像から,撮影時の光源を推定する,あるいは画像全体のカラーバランスを推定し,無彩色が適切な無彩色となるように色補正処理を行って,プリント画像のカラーバランスが適切なものとなるようにしている。   When creating a color print from digital image data obtained by reading an image recorded on a photographic negative film or reversal film with a scanner, or from digital image data acquired by a digital camera or camera-equipped mobile phone, The digital image data is subjected to a color correction process for correcting the color balance so as to create an image similar to the scene at the time of shooting, thereby creating a print image. Estimate the light source at the time of shooting or estimate the color balance of the entire image from the image acquired by shooting, and perform color correction processing so that the achromatic color becomes an appropriate achromatic color. We try to be appropriate.

特許文献1では,入力された画像データからまず顔領域を検出し,検出された顔領域の色が所望の色になるように,画像データ全体に対して色変換処理(色補正)を施している。   In Patent Document 1, a face area is first detected from input image data, and color conversion processing (color correction) is performed on the entire image data so that the color of the detected face area becomes a desired color. Yes.

特許文献1のものでは,画像中の顔領域(肌色領域)のみに注目した色補正をしている。顔領域(肌色領域)は個人差があるので,色補正が不自然になる可能性が高い。
特開2000−182043号公報
In Patent Document 1, color correction is performed by paying attention only to a face area (skin color area) in an image. Since face areas (skin color areas) vary among individuals, there is a high possibility that color correction will be unnatural.
JP 2000-182043 A

この発明は上記事情に鑑みなされたものであり,より適切な画像データの色補正(色バランス補正)ができるようにすることを目的とする。   The present invention has been made in view of the above circumstances, and an object thereof is to enable more appropriate color correction (color balance correction) of image data.

この発明はまた,ユーザの希望に沿った画像データの色補正ができるようにすることを目的とする。   Another object of the present invention is to enable color correction of image data in accordance with the user's wishes.

この発明による画像補正装置は,与えられる画像データに基づいて,異なる色補正値算出処理によってそれぞれ色補正値を算出する複数種類の色補正値算出手段,上記複数種類の色補正値算出手段によって算出された複数の色補正値のそれぞれについての信頼度を算出する信頼度算出手段,上記信頼度算出手段によって算出された複数の色補正値のそれぞれについての信頼度を用いて,上記複数の色補正値のそれぞれを重み付けし,重み付けされた複数の色補正値を加算することによって得られる新たな色補正値を算出する加算色補正値算出手段,および上記加算色補正値算出手段によって算出された新たな色補正値に基づいて,上記画像データを色補正する補正手段を備えたことを特徴とする。   An image correction apparatus according to the present invention is calculated by a plurality of types of color correction value calculation means for calculating color correction values by different color correction value calculation processes based on given image data, and the plurality of types of color correction value calculation means. Reliability calculation means for calculating reliability for each of the plurality of color correction values obtained, and using the reliability for each of the plurality of color correction values calculated by the reliability calculation means, the plurality of color corrections Each of the values is weighted, and an added color correction value calculating means for calculating a new color correction value obtained by adding a plurality of weighted color correction values, and the new color calculated by the added color correction value calculating means And a correction means for correcting the color of the image data based on a correct color correction value.

この発明による画像補正方法は,与えられる画像データに基づいて,異なる色補正値算出処理によってそれぞれ色補正値を算出し,算出した複数の色補正値のそれぞれについての信頼度を算出し,算出した複数の色補正値のそれぞれについての信頼度を用いて,上記複数の色補正値のそれぞれを重み付けし,重み付けされた複数の色補正値を加算することによって得られる新たな色補正値を算出し,算出した新たな色補正値に基づいて,上記画像データを色補正することを特徴とする。   The image correction method according to the present invention calculates color correction values by different color correction value calculation processes based on given image data, calculates the reliability for each of the calculated color correction values, and calculates Using the reliability for each of the plurality of color correction values, a new color correction value obtained by weighting each of the plurality of color correction values and adding the plurality of weighted color correction values is calculated. The image data is color-corrected based on the calculated new color correction value.

この発明はさらに,画像補正処理をコンピュータに実行させるためのプログラム(コンピュータを,画像補正装置として機能させるためのプログラム)も提供している。このプログラムは,記憶装置(ハードディスク,メモリ・カード,CD−ROM,DVD−ROM等)から与えられる画像データに基づいて,与えられる画像データに基づいて,異なる色補正値算出処理によってそれぞれ色補正値を算出する処理,算出した複数の色補正値のそれぞれについての信頼度を算出する処理,算出した複数の色補正値のそれぞれについての信頼度を用いて,上記複数の色補正値のそれぞれを重み付けし,重み付けされた複数の色補正値を加算することによって得られる新たな色補正値を算出する処理,および算出した新たな色補正値に基づいて,上記画像データを色補正する処理をコンピュータに実行させるものである。これらの全ての処理をコンピュータに含まれるCPUによって実行させるようにしてもよいし,一部の処理を専用のハードウェア装置によって実行させるようにしてもよい。   The present invention further provides a program for causing a computer to execute image correction processing (a program for causing a computer to function as an image correction apparatus). This program is based on image data given from a storage device (hard disk, memory card, CD-ROM, DVD-ROM, etc.), and each color correction value is calculated by different color correction value calculation processing based on the given image data. Weighting each of the plurality of color correction values using the processing for calculating the reliability, the processing for calculating the reliability for each of the plurality of calculated color correction values, and the reliability for each of the plurality of calculated color correction values. Then, a process for calculating a new color correction value obtained by adding a plurality of weighted color correction values, and a process for correcting the color of the image data based on the calculated new color correction value are performed on the computer. To be executed. All of these processes may be executed by a CPU included in the computer, or a part of the processes may be executed by a dedicated hardware device.

与えられる画像データに基づいて,異なる色補正値算出処理によってそれぞれ色補正値が算出される。すなわち,複数の色補正値が算出される。   Based on the given image data, color correction values are calculated by different color correction value calculation processes. That is, a plurality of color correction values are calculated.

複数種類の色補正値算出処理は,色補正値を算出する処理という点では共通しているが,その処理内容(色補正値算出に用いるデータ,アルゴリズム等)が異なる,そのような色補正値算出処理のそれぞれを意味する。たとえば,画像データによって表される画像中に含まれる一の特定色(たとえば,肌色,白色等)を表す色情報が理想色情報に沿う色情報を持つように色補正値を算出する処理,複数の特定色(たとえば,肌色とグレー色)を表す色情報が,理想色情報に沿う色情報を持つように色補正値を算出処理,色温度や光源種を推定し,推定した色温度や光源種に応じた色補正値を算出する処理等が知られている。これらの複数種類の色補正値算出処理のうち,いずれか2以上の算出処理を色補正値算出処理(手段)として採用することができる。   Multiple types of color correction value calculation processing are common in terms of color correction value calculation processing, but the processing content (data, algorithm, etc. used for color correction value calculation) is different. Each of the calculation processes is meant. For example, a process of calculating a color correction value so that color information representing one specific color (for example, skin color, white color, etc.) included in an image represented by image data has color information that conforms to ideal color information, Color correction value is calculated so that the color information representing a specific color (for example, skin color and gray color) has color information that matches the ideal color information, the color temperature and the light source type are estimated, and the estimated color temperature and light source A process for calculating a color correction value corresponding to a seed is known. Of these multiple types of color correction value calculation processes, any two or more calculation processes can be employed as the color correction value calculation process (means).

複数種類の色補正値算出手段によって算出された複数の色補正値のそれぞれについて,信頼度が算出される。この信頼度は,算出された色補正値が適切に色補正することができる値であるかどうか(その程度)を表す。   The reliability is calculated for each of the plurality of color correction values calculated by the plurality of types of color correction value calculation means. This reliability indicates whether or not the calculated color correction value is a value that allows appropriate color correction (the degree thereof).

たとえば,上記画像データに含まれる代表色についての色情報と,上記代表色についての理想色情報と,上記複数種類の色補正値算出手段によって算出された複数の色補正値のそれぞれに基づいて上記色情報を補正することによって得られる複数の補正後色情報とに基づいて,複数の色補正のそれぞれについての信頼度が算出される。   For example, the color information about the representative color included in the image data, the ideal color information about the representative color, and the plurality of color correction values calculated by the plurality of types of color correction value calculation means, Based on the plurality of corrected color information obtained by correcting the color information, the reliability for each of the plurality of color corrections is calculated.

一例を挙げると,色空間(たとえば,色度空間)において,上記色情報と上記理想色情報とを結ぶことによって得られる理想線分ベクトルと,上記色情報と複数の上記補正後色情報のそれぞれを結ぶことによって得られる複数の補正線分ベクトルのそれぞれとがなす角度は,複数の色補正値のそれぞれが,どの程度信頼できるものであるかどうかを表す値として取り扱うことができる。理想線分ベクトルと,ある色補正値に基づく補正線分ベクトルのなす角度が小さければ,その色補正値は理想的な色補正を実現できる可能性が高いと評価することができる。この場合,その色補正値に対する信頼度は高くなる(大きな値の信頼度が対応付けられる)。逆に,理想線分ベクトルと,ある色補正値に基づく補正線分ベクトルのなす角度が大きければ,その色補正値は,理想とはかけ離れた色補正を行うような色補正値である可能性が高い。この場合,その色補正値の信頼度は低くなる(小さい値の信頼度が対応付けられる)。   For example, in a color space (for example, chromaticity space), an ideal line segment vector obtained by connecting the color information and the ideal color information, the color information, and the plurality of corrected color information, respectively. The angle formed by each of the plurality of correction line segment vectors obtained by connecting the two can be treated as a value indicating how reliable each of the plurality of color correction values is. If the angle formed between the ideal line segment vector and a correction line segment vector based on a certain color correction value is small, it can be evaluated that the color correction value is highly likely to realize ideal color correction. In this case, the reliability with respect to the color correction value becomes high (a reliability with a large value is associated). Conversely, if the angle between the ideal line vector and a correction line vector based on a certain color correction value is large, the color correction value may be a color correction value that performs color correction far from the ideal. Is expensive. In this case, the reliability of the color correction value is low (the reliability with a small value is associated).

もちろん,理想線分ベクトルと補正線分ベクトルとがなす角度に基づく信頼度算出以外の信頼度算出を,採用することもできる。色空間において,上記色情報と複数の上記補正後色情報のそれぞれを結ぶことによって得られる複数の補正線分ベクトルのそれぞれの大きさに基づいて,複数の色補正値のそれぞれについての信頼度を算出してもよく,色空間において,上記色情報と複数の上記補正後色情報のそれぞれを結ぶことによって得られる複数の補正線分ベクトルの向きに応じて,複数の色補正値のそれぞれについての信頼度を算出してもよい。一の色補正値について複数の信頼度を算出し,それらの信頼度を乗算して得られる値を,その色補正値の信頼度として扱ってもよい。   Of course, reliability calculation other than the reliability calculation based on the angle formed by the ideal line segment vector and the correction line segment vector may be employed. In the color space, the reliability of each of the plurality of color correction values is determined based on the size of each of the plurality of correction line segment vectors obtained by connecting each of the color information and the plurality of corrected color information. In the color space, a plurality of color correction values for each of a plurality of color correction values may be calculated according to the directions of a plurality of correction line segment vectors obtained by connecting each of the color information and the plurality of corrected color information. The reliability may be calculated. A value obtained by calculating a plurality of reliability levels for one color correction value and multiplying the reliability levels may be treated as the reliability level of the color correction value.

算出された複数の色補正値のそれぞれについての信頼度が用いられて,算出された複数の色補正値のそれぞれが重み付けられ,重み付けされた複数の色補正値を加算することによって新たな色補正値が算出される。算出された新たな色補正値が用いられて画像データが色補正される。   The reliability for each of the plurality of calculated color correction values is used, each of the plurality of calculated color correction values is weighted, and a new color correction is performed by adding the plurality of weighted color correction values. A value is calculated. The image data is color-corrected using the calculated new color correction value.

この発明によると,画像データの色補正に用いられる新たな色補正値は,信頼度によって上記複数の色補正値のそれぞれが重み付けされ,重み付けされた複数の色補正値を加算することによって得られるので,上記複数の色補正値に対する信頼度が反映された値(色補正値)になる。不適切な色補正値が算出される可能性が低くなるので,より適切な色補正値を得ることができるようになる。   According to the present invention, a new color correction value used for color correction of image data is obtained by weighting each of the plurality of color correction values according to reliability and adding the plurality of weighted color correction values. Therefore, the value (color correction value) reflects the reliability of the plurality of color correction values. Since the possibility that an inappropriate color correction value is calculated is reduced, a more appropriate color correction value can be obtained.

好ましくは,複数の色補正値のそれぞれに対する重要度が入力される。この重要度の入力は,ユーザの希望を取り入れるためのものであり,複数の色補正値のうち,ユーザが重要と考える色補正値については大きい値の重要度が,重要ではないと考える色補正値については小さい値の重要度が入力される。この場合には,算出された複数の色補正値のそれぞれについての信頼度および入力された複数の色補正値のそれぞれに対する重要度が用いられて,算出された複数の色補正値のそれぞれが重み付けられる。より適切な色補正値であって,かつユーザの好みに応じた色補正値を得ることができる。   Preferably, the importance for each of the plurality of color correction values is input. This input of importance is intended to incorporate the user's wishes, and among the plurality of color correction values, color correction that the importance of a large value is not important for the color correction value that the user considers important. For the value, the importance of a small value is input. In this case, the reliability for each of the plurality of calculated color correction values and the importance for each of the plurality of input color correction values are used, and each of the plurality of calculated color correction values is weighted. It is done. A more appropriate color correction value and a color correction value according to the user's preference can be obtained.

もちろん,信頼度または重要度のうちのいずれかが,重み付けにおいてより大きく重み付けられるようにしてもよい。信頼度の影響を強く受けた新たな色補正値,重要度の影響を強く受けた新たな色補正値を得ることができる。   Of course, either reliability or importance may be weighted more heavily in weighting. It is possible to obtain a new color correction value strongly influenced by the reliability and a new color correction value strongly influenced by the importance.

以下添付図面に従って,本発明の実施形態について説明する。   Embodiments of the present invention will be described below with reference to the accompanying drawings.

図1は,デジタルプリントシステムの全体構成を示すブロック図である。デジタルプリントシステムは,画像補正装置1と,画像補正装置1に接続された周辺機器(入力装置2,表示装置3,記憶装置4およびプリンタ5)とによって構成される。図2は,ディジタルプリンタシステムの中核的な装置である画像補正装置1の詳細な電気的構成を,データの流れとともに示すブロック図である。図2において,図1に示す周辺機器のうち表示装置3およびプリンタ5の図示は省略されている。   FIG. 1 is a block diagram showing the overall configuration of the digital print system. The digital print system includes an image correction device 1 and peripheral devices (input device 2, display device 3, storage device 4, and printer 5) connected to the image correction device 1. FIG. 2 is a block diagram showing a detailed electrical configuration of the image correction apparatus 1 which is a core apparatus of the digital printer system together with a data flow. In FIG. 2, the display device 3 and the printer 5 are omitted from the peripheral devices shown in FIG.

画像補正装置1は,与えられる画像データによって表される画像の色バランスが,より適切な色バランスを持つように画像データを補正するための装置である。画像補正装置1は,与えられる画像データに対して色バランス補正を施し,色バランス補正後の画像データを出力する。以下,この明細書において,色バランス補正を,単に「色補正」と言うことにする。   The image correction apparatus 1 is an apparatus for correcting image data so that the color balance of an image represented by given image data has a more appropriate color balance. The image correction apparatus 1 performs color balance correction on given image data and outputs the image data after color balance correction. Hereinafter, in this specification, the color balance correction is simply referred to as “color correction”.

画像補正装置1に接続された入力装置2(キーボード,マウス等)は,色補正処理のためのパラメータ(目標(理想)肌色色度値および2つの重要度)の入力に用いられる。表示装置3(CRTディスプレイ,液晶ディスプレイ等)の表示画面には,入力装置2から入力されるパラメータの設定のための画面,色補正前および色補正後の画像データによって表される画像等が表示される。記憶装置(ハードディスク,メモリ・カード,CD−ROM等)4には画像データが記憶されており,記憶装置4から読み出された画像データに対して,画像補正装置1において色補正処理が行なわれる。プリンタ5は,色補正後の画像データによって表される画像を印画紙等にプリントする。   An input device 2 (keyboard, mouse, etc.) connected to the image correction device 1 is used to input parameters for color correction processing (target (ideal) skin color chromaticity value and two importance levels). On the display screen of the display device 3 (CRT display, liquid crystal display, etc.), a screen for setting parameters input from the input device 2, an image represented by image data before and after color correction, and the like are displayed. Is done. Image data is stored in a storage device (hard disk, memory card, CD-ROM, etc.) 4, and color correction processing is performed in the image correction device 1 on the image data read from the storage device 4. . The printer 5 prints an image represented by the color-corrected image data on photographic paper or the like.

図2を参照して,画像補正装置1は,顔領域区画回路11,肌色領域に基づく色補正値算出回路(第1の色補正値算出回路)12,グレー色領域に基づく色補正値算出回路(第2の色補正値算出回路)13,信頼度算出回路14,重要度および信頼度に基づく色補正値算出回路15,および画像補正回路16を備えている。   Referring to FIG. 2, an image correction apparatus 1 includes a face area partition circuit 11, a color correction value calculation circuit based on a skin color area (first color correction value calculation circuit) 12, and a color correction value calculation circuit based on a gray color area. (Second color correction value calculation circuit) 13, a reliability calculation circuit 14, a color correction value calculation circuit 15 based on importance and reliability, and an image correction circuit 16 are provided.

画像補正装置1において,画像補正回路16が,記憶装置4から読み出された画像データ(以下,オリジナル画像データという)に対して色補正処理を行う。画像補正回路16において行われる色補正処理の詳細は後述する。   In the image correction apparatus 1, the image correction circuit 16 performs color correction processing on image data read from the storage device 4 (hereinafter referred to as original image data). Details of the color correction processing performed in the image correction circuit 16 will be described later.

画像補正回路16において行なわれる色補正処理は,重要度および信頼度に基づく色補正値算出回路15において算出される色補正値に従う。重要度および信頼度に基づく色補正値算出回路15は,信頼度算出回路14において算出される信頼度(詳細は後述する),入力装置2から入力される重要度(詳細は後述する),肌色領域に基づく色補正値算出回路12によって得られる色補正値,およびグレー色領域に基づく色補正値算出回路13によって得られる色補正値に基づいて,画像補正回路16において行われる色補正処理に用いられるべき色補正値(新たな色補正値)を算出する。   The color correction processing performed in the image correction circuit 16 follows the color correction value calculated in the color correction value calculation circuit 15 based on importance and reliability. The color correction value calculation circuit 15 based on the importance and the reliability includes a reliability calculated in the reliability calculation circuit 14 (details will be described later), an importance input from the input device 2 (details will be described later), and skin color. Based on the color correction value obtained by the color correction value calculation circuit 12 based on the area and the color correction value obtained by the color correction value calculation circuit 13 based on the gray color area, it is used for the color correction processing performed in the image correction circuit 16. A color correction value (new color correction value) to be calculated is calculated.

はじめに,肌色領域に基づく色補正値算出処理,およびグレー色領域に基づく色補正値算出処理について説明する。肌色領域に基づく色補正値算出処理およびグレー色領域に基づく色補正値算出処理では,上述の顔領域区画回路11,肌色領域に基づく色補正値算出回路12,およびグレー色領域に基づく色補正値算出回路13が動作する。   First, a color correction value calculation process based on a skin color area and a color correction value calculation process based on a gray color area will be described. In the color correction value calculation process based on the skin color area and the color correction value calculation process based on the gray color area, the face area partition circuit 11, the color correction value calculation circuit 12 based on the skin color area, and the color correction value based on the gray color area The calculation circuit 13 operates.

オリジナル画像データによって表される画像には,人物の顔を表す画像領域(以下,顔画像部分という)が含まれており,かつグレー画像領域(グレー色の物体等を表す画像領域;以下グレー画像部分という)が含まれているものとする。顔画像部分およびグレー画像部分が含まれている画像を表すオリジナル画像データが,記憶装置4から読み出される。   The image represented by the original image data includes an image area representing a human face (hereinafter referred to as a face image portion) and a gray image area (an image area representing a gray object or the like; hereinafter a gray image). Part)). Original image data representing an image including a face image portion and a gray image portion is read from the storage device 4.

記憶装置4から読出されたオリジナル画像データは,顔領域区画回路11,肌色領域に基づく色補正値算出回路12およびグレー色領域に基づく色補正値算出回路13にそれぞれ入力する。   The original image data read from the storage device 4 is input to the face area dividing circuit 11, the color correction value calculation circuit 12 based on the skin color area, and the color correction value calculation circuit 13 based on the gray color area.

顔領域区画回路11は,オリジナル画像データによって表される画像(以下,オリジナル画像という)中に含まれる顔画像部分を区画する処理を行う。顔領域区画回路11において行われる顔画像部分の区画処理には,従来または新規の種々の区画(検出)手法を用いることができる。たとえば,画像を複数領域に分割して測光し,測光により得られたデータを色相および彩度に変換し,これらの2次元ヒストグラムを作成するとともに,このヒストグラムを単峰の山毎に分解し,さらに画像の各画素がいずれの山に属するかを判断して画素を分割された山に対応する群に分解し,各群毎に画像を分割して顔候補領域を抽出し,抽出した領域の画像サイズと主要画像サイズ情報から得られる画像サイズとを比較して最も一致する領域を顔領域として抽出手法を採用することができる(特開平5−100328号参照)。画像を複数領域に分割し,非人物領域を除外した後に人物の頭部の輪郭を表す形状パターンを検出し,検出したパターンに応じて顔候補領域を検出し,さらに人物の顔の輪郭を表す形状パターン,顔の内部構造を表す形状パターンおよび人物の胴体の輪郭を表す形状パターンをそれぞれ検出し,検出したパターンにより顔候補領域の整合性を判定し,人物の顔に相当する領域である確度が最も高い領域を判定することにより,顔領域を抽出する手法でもよい(特開平8−122944号参照)。画像内に学習枠を設定し,該学習枠により規定される画像部分を表す画像データを学習して,該学習枠を代表する1つまたは複数の代表特徴ベクトルを抽出し,同画像内に探索枠を設定するとともに,上記の代表特徴ベクトルの各々と探索枠により規定される画像部分を表す画像データから抽出された複数の特徴ベクトルとの類似度に基づき,探索枠内から被写体領域を抽出する手法(特願2002−378989号)を用いることもできる。   The face area partitioning circuit 11 performs processing for partitioning a face image portion included in an image represented by original image data (hereinafter referred to as an original image). For the section processing of the face image portion performed in the face area partitioning circuit 11, various conventional or new section (detection) techniques can be used. For example, the image is divided into a plurality of areas, photometry is performed, the data obtained by photometry is converted into hue and saturation, these two-dimensional histograms are created, and this histogram is decomposed into unimodal peaks, Further, it is judged which pixel each pixel of the image belongs to, and the pixels are divided into groups corresponding to the divided mountains, and the face candidate region is extracted by dividing the image for each group, and the extracted region By comparing the image size with the image size obtained from the main image size information, an extraction method can be adopted in which the most matching region is used as the face region (see Japanese Patent Laid-Open No. 5-100328). After dividing the image into multiple regions, excluding non-human regions, a shape pattern representing the contour of the person's head is detected, a face candidate region is detected according to the detected pattern, and the contour of the person's face is represented The shape pattern, the shape pattern representing the internal structure of the face, and the shape pattern representing the contour of the human torso are detected, and the consistency of the face candidate area is determined based on the detected pattern, and the accuracy corresponding to the human face A method of extracting a face region by determining a region having the highest value (see Japanese Patent Laid-Open No. 8-122944) may be used. A learning frame is set in the image, image data representing an image portion defined by the learning frame is learned, one or more representative feature vectors representing the learning frame are extracted, and the search is performed in the image In addition to setting a frame, a subject area is extracted from the search frame based on the similarity between each of the above representative feature vectors and a plurality of feature vectors extracted from image data representing the image portion defined by the search frame. A technique (Japanese Patent Application No. 2002-378989) can also be used.

もちろん,デジタルプリントシステムの操作者が,入力装置2(マウス等)を用いて,オリジナル画像中の顔画像部分を,その他の画像部分と区画するようにしてもよい(手動による顔領域区画)。この場合には,顔領域区画回路11は,画像補正装置1に必ずしも必要とされない。   Of course, the operator of the digital print system may use the input device 2 (such as a mouse) to partition the face image portion in the original image from other image portions (manual face region partition). In this case, the face area dividing circuit 11 is not necessarily required for the image correction apparatus 1.

顔領域区画回路11は,区画(検出)した顔画像部分(顔画像領域内)に含まれる画素のそれぞれ1(または0),顔画像部分以外の画像部分(顔画像領域外)に含まれる画素のそれぞれを0(または1)とした2値データ(画素アドレスごとに,1または0が対応付けられたデータ)を出力する。図3(A)はオリジナル画像の一例を,図3(B)は顔領域区画回路11によって顔画像部分が区画された様子を,図3(C)は顔画像部分に含まれる画素のそれぞれを1,顔画像部分以外の画像部分に含まれる画素のそれぞれを0とした,顔領域区画回路11から出力される2値データ(マスクデータ)を,それぞれ模式的に示している。   The face area dividing circuit 11 includes 1 (or 0) of pixels included in the sectioned (detected) face image part (in the face image area) and pixels included in an image part other than the face image part (outside the face image area). Binary data (data in which 1 or 0 is associated with each pixel address) with 0 (or 1) being output. 3A shows an example of an original image, FIG. 3B shows a state in which the face image portion is divided by the face area dividing circuit 11, and FIG. 3C shows each pixel included in the face image portion. 1 schematically shows binary data (mask data) output from the face area dividing circuit 11 in which each pixel included in an image portion other than the face image portion is set to 0.

顔領域区画回路11から出力される2値データは,オリジナル画像中に含まれる顔画像部分の位置および範囲(領域位置)を示す。以下,顔領域区画回路11から出力される2値データを顔領域情報と呼ぶ。   The binary data output from the face area dividing circuit 11 indicates the position and range (area position) of the face image portion included in the original image. Hereinafter, the binary data output from the face area dividing circuit 11 is referred to as face area information.

顔領域区画回路11から出力された顔領域情報は,肌色領域に基づく色補正値算出回路12およびグレー色領域に基づく色補正値算出回路13にそれぞれ入力する。また,入力装置2から入力された目標肌色色度値(肌色を表す色度として適切とされる理想的な色度値)も,肌色領域に基づく色補正値算出回路12およびグレー色領域に基づく色補正値算出回路13にそれぞれ入力する。   The face area information output from the face area dividing circuit 11 is input to the color correction value calculation circuit 12 based on the skin color area and the color correction value calculation circuit 13 based on the gray color area, respectively. Further, the target skin color chromaticity value (ideal chromaticity value appropriate as the chromaticity representing the skin color) input from the input device 2 is also based on the color correction value calculation circuit 12 based on the skin color area and the gray color area. Each is input to the color correction value calculation circuit 13.

肌色領域に基づく色補正値算出回路12は,顔画像部分(肌色の画素を確実に多数含む部分である)の色(肌色)が,上記目標肌色色度値に沿った色度値を持つように色補正するための色補正値(係数)を算出する回路である。グレー色領域に基づく色補正値算出回路13は,グレー画像部分が目標グレー色度値に沿った色度値を持つように色補正するための色補正値(係数)を算出する回路である。肌色領域に基づく色補正値算出回路12およびグレー色領域に基づく色補正値算出回路13は,色補正値を算出するために用いる画像部分,色補正値算出処理,アルゴリズム等は異なるものの,いずれも色補正値を算出する回路である点で共通する。   The color correction value calculation circuit 12 based on the skin color region is configured so that the color (skin color) of the face image portion (which is a portion that surely includes many skin color pixels) has a chromaticity value that matches the target skin color chromaticity value. This is a circuit for calculating a color correction value (coefficient) for color correction. The color correction value calculation circuit 13 based on the gray color region is a circuit that calculates a color correction value (coefficient) for performing color correction so that the gray image portion has a chromaticity value along the target gray chromaticity value. Although the color correction value calculation circuit 12 based on the skin color area and the color correction value calculation circuit 13 based on the gray color area are different in the image portion, color correction value calculation processing, algorithm, and the like used for calculating the color correction value, they are all This is common in that it is a circuit for calculating a color correction value.

肌色領域に基づく色補正値算出回路12は,顔領域区画回路11から与えられる顔領域情報を用いて,オリジナル画像データに含まれる顔画像部分を表すデータを抽出し,抽出した顔画像部分を表すデータによって表される顔画像部分を構成する画素ごとのRGB値から得られる代表RGB値(たとえば,平均RGB値)を算出する。そして平均RGB値を色度値に変換して得られる平均肌色色度値と,入力装置2から入力される目標肌色色度値とに基づいて,R値に対するゲイン係数,G値に対するゲイン係数,およびB値に対するゲイン係数を算出する。たとえば,特開2000−182043号公報に記載されている手法(色度値を利用したゲイン係数の算出)によってこれらのゲイン係数を求めることができる。   The color correction value calculation circuit 12 based on the skin color area extracts the data representing the face image part included in the original image data using the face area information given from the face area dividing circuit 11, and represents the extracted face image part. A representative RGB value (for example, an average RGB value) obtained from the RGB value for each pixel constituting the face image portion represented by the data is calculated. Then, based on the average skin color chromaticity value obtained by converting the average RGB value into the chromaticity value and the target skin color chromaticity value input from the input device 2, a gain coefficient for the R value, a gain coefficient for the G value, And a gain coefficient for the B value is calculated. For example, these gain coefficients can be obtained by a method described in Japanese Patent Application Laid-Open No. 2000-182043 (calculation of gain coefficients using chromaticity values).

肌色領域に基づく色補正値算出回路12によって得られるR値についてのゲイン係数をGr1,G値についてのゲイン係数をGg1,B値についてのゲイン係数Gb1(これらを総称して,第1のゲイン係数という)を用いて,次に示す式1の入出力関係が得られる。 The gain coefficient for the R value obtained by the color correction value calculation circuit 12 based on the skin color region is G r1 , the gain coefficient for the G value is G g1 , and the gain coefficient G b1 for the B value (collectively, the first The following input / output relationship of Equation 1 is obtained.

1=Gr1・R
1=Gg1・G ・・・式1
1=Gb1・B
R 1 = G r1 · R
G 1 = G g1 · G Equation 1
B 1 = G b1・ B

式1において,R,G,Bはオリジナル画像を構成する画素ごとのR値,G値およびB値,R1,G1,B1 は,肌色領域に基づく色補正値算出回路12によって得られたゲイン係数に基づく色補正処理が行われた場合の色補正後のR値,G値,B値である。 In Equation 1, R, G and B are R values, G values and B values for each pixel constituting the original image, and R 1 , G 1 and B 1 are obtained by the color correction value calculation circuit 12 based on the skin color area. R values, G values, and B values after color correction when color correction processing based on the gain coefficient is performed.

なお,肌色領域に基づく色補正値算出回路12は,上述のゲイン係数をGr1,Gg1およびGb1を算出するものであり,画像補正自体は行わない。上記式1を,説明の便宜上,次に示す式2によって表現することにする。 Note that the color correction value calculation circuit 12 based on the skin color area calculates G r1 , G g1, and G b1 using the above gain coefficients, and does not perform image correction itself. For convenience of explanation, the above formula 1 is expressed by the following formula 2.

肌色領域に基づく色補正値(第1のゲイン係数)=(Gr1,Gg1,Gb1) ・・式2 Color correction value based on skin color area (first gain coefficient) = (G r1 , G g1 , G b1 )

なお,第1のゲイン係数は,色度値を用いて求めることもできるし,RGB値または真数RGB値に基づいて,第1のゲイン係数を求めることもできる。また,色補正によって画像の明るさが変化しないように,第1のゲイン係数をさらに調整するようにしてもよい。   Note that the first gain coefficient can be obtained by using the chromaticity value, or the first gain coefficient can be obtained based on the RGB value or the true RGB value. Further, the first gain coefficient may be further adjusted so that the brightness of the image does not change due to the color correction.

グレー色領域に基づく色補正値算出回路13は,たとえば,特開2003−209856号公報に記載の方法に基づいて,R値に対するゲイン係数,G値に対するゲイン係数,B値に対応するゲイン係数を算出することができる。次のようにして,ゲイン係数を算出することができる。   For example, the color correction value calculation circuit 13 based on the gray color region calculates the gain coefficient corresponding to the R value, the gain coefficient corresponding to the G value, and the gain coefficient corresponding to the B value based on the method described in Japanese Patent Laid-Open No. 2003-209856. Can be calculated. The gain coefficient can be calculated as follows.

(i) 顔画像部分(肌色領域)の代表RGB値(たとえば,平均RGB値)を求め,求められた平均RGB値を色度値(平均肌色色度値)に変換し,変換によって得られた平均肌色色度値に対応する平均肌色色温度を得る。
(ii)入力装置2から入力された目標肌色色度値に対応する目標肌色色温度を得る。
(iii) 目標肌色色温度に対応するグレー色の色温度(目標グレー色色温度)を求め,求められた目標グレー色色温度に対応する目標グレー色色度値を求める。
(iv)少なくとも上記顔画像部分の平均肌色色温度を利用して,オリジナル画像中のグレー色領域(グレー色画素群)を検出する。
(v) 検出されたグレー色領域を代表する色度値(たとえば,平均グレー色色度値)を求める。
(vi) 上記グレー色領域(グレー色画素群)の画素数が最大になるように,上記平均肌色色温度および平均グレー色色度値を修正する((iv)〜(vi)が繰返される)。
(vii) 目標グレー色色度値および修正された平均グレー色色度値と,修正前の平均グレー色色度値とに基づいて,R値に対するゲイン係数Gr2,G値に対するゲイン係数Gg2,およびB値に対するゲイン係数Gb2を算出する。
(i) A representative RGB value (for example, an average RGB value) of a face image portion (skin color region) is obtained, and the obtained average RGB value is converted into a chromaticity value (average skin color chromaticity value) and obtained by conversion. An average skin color temperature corresponding to the average skin color chromaticity value is obtained.
(ii) A target skin color color temperature corresponding to the target skin color chromaticity value input from the input device 2 is obtained.
(iii) A gray color temperature (target gray color temperature) corresponding to the target skin color temperature is obtained, and a target gray color chromaticity value corresponding to the obtained target gray color temperature is obtained.
(iv) A gray color region (gray color pixel group) in the original image is detected using at least the average skin color temperature of the face image portion.
(v) A chromaticity value representative of the detected gray color area (for example, an average gray color chromaticity value) is obtained.
(vi) The average skin color temperature and the average gray color chromaticity value are corrected so that the number of pixels in the gray color region (gray pixel group) is maximized ((iv) to (vi) are repeated).
(vii) Based on the target gray color chromaticity value, the corrected average gray color chromaticity value, and the average gray color chromaticity value before correction, the gain coefficient G r2 for the R value, the gain coefficient G g2 for the G value, and B A gain coefficient G b2 for the value is calculated.

グレー色領域に基づく色補正値算出回路13によって得られるゲイン係数Gr2,Gg2,およびGb2(これらを総称して,第2のゲイン係数という)を用いて,次に示す式3の入出力関係が得られる。 Using the gain coefficients G r2 , G g2 , and G b2 (collectively referred to as the second gain coefficient) obtained by the color correction value calculation circuit 13 based on the gray color region, Output relationship is obtained.

2=Gr2・R
2=Gg2・G ・・・式3
2=Gb2・B
R 2 = G r2 · R
G 2 = G g2 · G Equation 3
B 2 = G b2・ B

式3において,R,G,Bはオリジナル画像を構成する画素ごとのR値,G値およびB値,R2,G2,B2 は,グレー色領域に基づく色補正値算出回路13によって得られたゲイン係数に基づく色補正処理が行われた場合の色補正後のR値,G値,B値である。 In Equation 3, R, G, and B are R values, G values, and B values for each pixel constituting the original image, and R 2 , G 2 , and B 2 are obtained by the color correction value calculation circuit 13 based on the gray color region. R values, G values, and B values after color correction when color correction processing based on the obtained gain coefficient is performed.

なお,グレー色領域に基づく色補正値算出回路13は,上述の第2のゲイン係数Gr2,Gg2,およびGb2を算出するものであり,画像補正自体は行わない。上記式3を,説明の便宜上,次に示す式4によって表現することにする。 Note that the color correction value calculation circuit 13 based on the gray color area calculates the above-described second gain coefficients G r2 , G g2 , and G b2 , and does not perform image correction itself. For convenience of explanation, the above expression 3 is expressed by the following expression 4.

グレー色領域に基づく色補正値(第2のゲイン係数)=(Gr2,Gg2,Gb2
・・式4
Color correction value based on gray color region (second gain coefficient) = (G r2 , G g2 , G b2 )
..Formula 4

肌色領域に基づく色補正値算出回路12によって算出された色補正値(第1のゲイン係数)およびグレー色領域に基づく色補正値算出回路13によって算出された色補正値(第2のゲイン係数)は,いずれも信頼度算出回路14に与えられる。   The color correction value (first gain coefficient) calculated by the color correction value calculation circuit 12 based on the skin color area and the color correction value (second gain coefficient) calculated by the color correction value calculation circuit 13 based on the gray color area Are given to the reliability calculation circuit 14.

次に信頼度算出回路14の処理について説明する。   Next, the process of the reliability calculation circuit 14 will be described.

信頼度算出回路14には,オリジナル画像データ,顔領域区画回路11から出力された顔領域情報,肌色領域に基づく色補正値(第1のゲイン係数),グレー色領域に基づく色補正値(第2のゲイン係数),および入力装置2から入力された目標肌色色度値が,入力する。   The reliability calculation circuit 14 includes original image data, face area information output from the face area dividing circuit 11, a color correction value (first gain coefficient) based on a skin color area, and a color correction value (first gain coefficient based on a gray color area). 2) and the target skin color chromaticity value input from the input device 2 are input.

信頼度算出回路14は,上述した肌色領域に基づく色補正値算出回路12において算出された色補正値(第1のゲイン係数)と,グレー色領域に基づく色補正値算出回路13において算出された色補正値(第2のゲイン係数)を用いて,それぞれオリジナル画像データを色補正した場合に,補正後の画像の色が,目標とする画像の色からどの程度乖離しているかを求め,その乖離の度合に応じて与えられる数値(この数値を「信頼度」という)を得るものである。   The reliability calculation circuit 14 calculates the color correction value (first gain coefficient) calculated in the color correction value calculation circuit 12 based on the above-described skin color area and the color correction value calculation circuit 13 based on the gray color area. When the original image data is color corrected using the color correction value (second gain coefficient), determine how far the corrected image color is from the target image color. A numerical value given according to the degree of deviation (this numerical value is referred to as “reliability”) is obtained.

信頼度(確度または適切度と言ってもよい)の算出には,いくつかの手法を採用することができるが,ここでは,代表的な信頼度算出について詳細に説明する。   Several methods can be employed to calculate the reliability (which may be called accuracy or appropriateness). Here, representative reliability calculation will be described in detail.

代表的な信頼度算出では,色度空間(rb空間)を利用する。図4および図5は色度空間(rb空間)を示している。   In typical reliability calculation, a chromaticity space (rb space) is used. 4 and 5 show a chromaticity space (rb space).

図4に示す色度空間には,次の3つ点がプロットされている。
(1) オリジナル画像中の顔画像部分(肌色領域)を表すデータに基づく代表肌色色度値(ro,bo)(たとえば,顔画像部分の平均色度値を,代表肌色色度値とする)
(2) 目標肌色色度値(rt,bt)(入力装置2から入力される)
(3) 肌色領域に基づく色補正値(第1のゲイン係数)にしたがう色補正後の代表肌色色度値(r1,b1)
The following three points are plotted in the chromaticity space shown in FIG.
(1) Representative skin color chromaticity values (ro, bo) based on data representing the face image portion (skin color region) in the original image (for example, the average chromaticity value of the face image portion is used as the representative skin color chromaticity value)
(2) Target skin color chromaticity value (rt, bt) (input from the input device 2)
(3) Representative skin color chromaticity value (r1, b1) after color correction according to the color correction value (first gain coefficient) based on the skin color area

図5に示す色度空間において,次の3つの点がプロットされている。   In the chromaticity space shown in FIG. 5, the following three points are plotted.

(1) オリジナル画像中の顔画像部分(肌色領域)を表すデータに基づく代表肌色色度値(ro,bo)
(2) 目標肌色色度値(rt,bt)
(3) グレー色領域に基づく色補正値(第2のゲイン係数)にしたがう色補正後の代表肌色色度値(r2,b2)
(1) Representative skin color chromaticity values (ro, bo) based on data representing the face image part (skin color region) in the original image
(2) Target skin color chromaticity value (rt, bt)
(3) Representative skin color chromaticity value (r2, b2) after color correction according to the color correction value (second gain coefficient) based on the gray color region

図4に示す色度空間は,代表肌色色度値(ro,bo)が目標肌色色度値(rt,bt)を持つように色補正されること(線分ベクトルA)が理想であるが,上記式1に基づく色補正を仮に行った場合,代表肌色色度値(ro,bo)は色補正後の代表肌色色度値(r1,b1)に色補正されること(線分ベクトルB1 )を表している。図4に示す色度空間において,線分ベクトルAと線分ベクトルB1とがなす角度θ1が,肌色領域に基づく補正値算出回路12によって得られた色補正値(ゲイン係数)を用いて色補正したときの,理想的な色補正からの乖離度として扱われる。   The chromaticity space shown in FIG. 4 is ideally color-corrected (line segment vector A) so that the representative skin color chromaticity values (ro, bo) have the target skin color chromaticity values (rt, bt). When the color correction based on the above equation 1 is performed, the representative skin color chromaticity value (ro, bo) is color corrected to the representative skin color chromaticity value (r1, b1) after color correction (line segment vector B1 ). In the chromaticity space shown in FIG. 4, the angle θ1 formed by the line segment vector A and the line segment vector B1 is corrected using the color correction value (gain coefficient) obtained by the correction value calculation circuit 12 based on the skin color area. It is treated as the degree of deviation from the ideal color correction.

同様にして,図5に示す色度空間は,代表肌色色度値(ro,bo)が目標肌色色度値(rt,bt)を持つように色補正されること(線分ベクトルA)が理想であるが,上記式3(式4)に基づく色補正を仮に行った場合,代表肌色色度値(ro,bo)は色補正後の代表肌色色度値(r2,b2)に色補正されること(線分ベクトルB2) を表している。図5に示す色度空間において,線分ベクトルAと線分ベクトルB1とがなす角度θ2が,グレー色領域に基づく補正値算出回路13によって得られた色補正値(ゲイン係数)を用いて色補正したときの,理想的な色補正からの乖離度として扱われる。   Similarly, in the chromaticity space shown in FIG. 5, color correction (line segment vector A) is performed so that the representative skin color chromaticity values (ro, bo) have the target skin color chromaticity values (rt, bt). Ideally, if color correction based on Equation 3 (Equation 4) is performed, the representative skin color chromaticity value (ro, bo) is corrected to the representative skin color chromaticity value (r2, b2) after color correction. (Line segment vector B2). In the chromaticity space shown in FIG. 5, the angle θ2 formed by the line segment vector A and the line segment vector B1 is determined using the color correction value (gain coefficient) obtained by the correction value calculation circuit 13 based on the gray color area. It is treated as the degree of deviation from the ideal color correction when corrected.

図6は,上述の乖離度を表す角度θt(t=1,2,・・・)と,この角度に応じて算出される信頼度ft(θt)との関係を示す関数グラフの一例を示している。信頼度は0〜1までのいずれかの値として得られる。   FIG. 6 shows an example of a function graph showing the relationship between the angle θt (t = 1, 2,...) Representing the above-described divergence and the reliability ft (θt) calculated according to this angle. ing. The reliability is obtained as any value from 0 to 1.

以上,代表的な信頼度算出について説明したが,線分ベクトルB1と線分ベクトルB2の大きさを信頼度としてもよく,線分ベクトルB1自体の向き,線分ベクトルB2自体の向きを信頼度としてもよい。また,色度空間において,肌色代表色の肌黒体軌跡への近づきの程度と,グレー色代表色のグレー黒体軌跡への近づきの程度に基づいて,信頼度を算出してもよい。これらの複数の信頼度のうちのいずれかまたは全部を乗算して得られる値を信頼度としてもよい。いずれにしても,信頼度算出回路14は,上述した肌色領域に基づく色補正値算出回路12において算出された色補正値(第1のゲイン係数)と,グレー色領域に基づく色補正値算出回路13において算出された色補正値(第2のゲイン係数)とについて,補正後の画像の色が,目標とする画像の色からどの程度乖離しているかに応じて,信頼度をそれぞれ算出する。   Although the representative reliability calculation has been described above, the magnitudes of the line segment vector B1 and the line segment vector B2 may be used as the reliability, and the direction of the line segment vector B1 itself and the direction of the line segment vector B2 itself are determined as reliability. It is good. In the chromaticity space, the reliability may be calculated based on the degree of proximity of the skin color representative color to the skin black body locus and the degree of proximity of the gray color representative color to the gray black body locus. A value obtained by multiplying any or all of the plurality of reliability levels may be set as the reliability level. In any case, the reliability calculation circuit 14 includes the color correction value (first gain coefficient) calculated in the color correction value calculation circuit 12 based on the above-described skin color area and the color correction value calculation circuit based on the gray color area. With respect to the color correction value (second gain coefficient) calculated in step 13, the reliability is calculated according to how far the corrected image color deviates from the target image color.

信頼度算出回路14によって得られた,肌色領域に基づく色補正値の信頼度(以下,肌色信頼度という)およびグレー色領域に基づく色補正値の信頼度(以下,グレー色信頼度という)は,重要度および信頼度に基づく色補正値算出回路15に入力する。   The reliability of the color correction value based on the skin color area (hereinafter referred to as skin color reliability) and the reliability of the color correction value based on the gray color area (hereinafter referred to as gray color reliability) obtained by the reliability calculation circuit 14 are as follows. The color correction value calculation circuit 15 based on importance and reliability is input.

次に,重要度および信頼度に基づく色補正値算出回路15の処理について説明する。重要度および信頼度に基づく色補正値算出回路15には,上述の肌色信頼度,グレー色信頼度,入力装置2から入力される重要度が入力する。重要度とは,肌色領域に基づく色補正値算出回路12において算出された色補正値(第1のゲイン係数)と,グレー色領域に基づく色補正値算出回路13において算出された色補正値(第2のゲイン係数)のうち,いずれの色補正値を,どの程度重視して利用するかを表す値であり,ユーザの好み(要望)を反映した値である。   Next, processing of the color correction value calculation circuit 15 based on importance and reliability will be described. The color correction value calculation circuit 15 based on the importance and reliability inputs the above-described skin color reliability, gray color reliability, and importance input from the input device 2. The importance level refers to the color correction value (first gain coefficient) calculated by the color correction value calculation circuit 12 based on the skin color area and the color correction value (first gain coefficient) calculated by the color correction value calculation circuit 13 based on the gray color area ( Of the second gain coefficient), this is a value representing how much color correction value is used with emphasis, and reflects the user's preference (request).

重要度および信頼度に基づく色補正値算出回路15は,次に説明する3通りの算出処理のうちのいずれかを実行する。   The color correction value calculation circuit 15 based on importance and reliability executes any one of the following three calculation processes.

(第1の算出処理)
第1の算出処理では,次に示す式5によって,重要度および信頼度に基づく色補正値(Gr,Gg,Gb)(以下,「新たな色補正値」という)を算出する。
(First calculation process)
In the first calculation process, a color correction value (Gr, Gg, Gb) (hereinafter referred to as “new color correction value”) based on importance and reliability is calculated by the following equation (5).

Figure 2006050559
Figure 2006050559

式5において,wtは次に示す式6および式7によって表される。   In Equation 5, w t is expressed by Equation 6 and Equation 7 below.

Figure 2006050559
Figure 2006050559

Figure 2006050559
Figure 2006050559

式5〜式7において,変数t は色補正値(または色補正値算出回路)の種類を区別するものである。この実施例では,2種類の色補正値が算出されるので,t=1または2になる。変数kは算出される色補正値の数であり,この実施例ではk=2になる。また,式5〜式7におけるwt(この実施例では,w1とw2 である)は,算出される色補正値のそれぞれについての重みを表す。式6におけるIt(この実施例では,I1とI2 である)は,入力装置2から入力される色補正値ごとの重要度を,Ct(この実施例では,C1とC2 である)は,色補正値ごとの信頼度をそれぞれ表す。これらのことは,後述する第2の算出処理および第3の算出処理でも同じである。   In Expressions 5 to 7, the variable t distinguishes the type of color correction value (or color correction value calculation circuit). In this embodiment, since two types of color correction values are calculated, t = 1 or 2. The variable k is the number of calculated color correction values. In this embodiment, k = 2. In addition, w t (in this embodiment, w 1 and w 2) in Expression 5 to Expression 7 represents a weight for each calculated color correction value. In the equation 6, It (I1 and I2 in this embodiment) is the importance for each color correction value input from the input device 2, and Ct (C1 and C2 in this embodiment) is the color. The reliability for each correction value is shown. These are the same in the second calculation process and the third calculation process described later.

第1の算出処理(式5〜式7に基づく補正値算出)では,より大きい信頼度を持つ色補正値が,新たな色補正値(Gr,Gg,Gb)により大きく反映され,かつより大きい重要度を持つ色補正値が,新たな色補正値(Gr,Gg,Gb)により大きく反映されることが分かる。ユーザがいずれの色補正値を重要視するか(ユーザの好み)に応じつつ,かつより適切な色補正値が反映された,新たな色補正値を得ることができる。   In the first calculation process (correction value calculation based on Expressions 5 to 7), a color correction value having a higher reliability is greatly reflected by a new color correction value (Gr, Gg, Gb) and is larger. It can be seen that the color correction value having importance is greatly reflected by the new color correction values (Gr, Gg, Gb). A new color correction value reflecting a more appropriate color correction value can be obtained while depending on which color correction value the user places importance on (the user's preference).

なお,信頼度のみに基づいて新たな色補正値を算出する場合には,入力装置2から入力される2つの重要度を同値(たとえばI1=1,I2=1)にすればよいのは言うまでもない。   Needless to say, when a new color correction value is calculated based only on the reliability, the two importance levels input from the input device 2 may be set to the same value (for example, I1 = 1, I2 = 1). Yes.

(第2の算出処理)
第2の算出処理は,次に示す式8によって,新たな色補正値(Gr,Gg,Gb)を算出する。
(Second calculation process)
In the second calculation process, a new color correction value (Gr, Gg, Gb) is calculated by the following equation 8.

Figure 2006050559
Figure 2006050559

式8において,重みwtは,次に示す式9によって表される。   In Expression 8, the weight w t is expressed by Expression 9 shown below.

Figure 2006050559
Figure 2006050559

第2の算出処理(式8および式9)では,重要度It がより大きく反映されて,新たな色補正値が得られる。なお,すべての重みwt を加算した値が「1」であること(上記式7)は,第1の算出処理と同じである。   In the second calculation process (Equation 8 and Equation 9), the importance It is reflected more greatly, and a new color correction value is obtained. Note that the value obtained by adding all the weights w t is “1” (the above formula 7) is the same as the first calculation process.

(第3の算出処理)
第3の算出処理は,上述した式8によって,新たな色補正値(Gr,Gg,Gb)を算出する点では,上述の第2の算出処理と同じである。第3の算出処理は,重みwtが,次に示す式10によって表される点が異なる。
(Third calculation process)
The third calculation process is the same as the second calculation process described above in that a new color correction value (Gr, Gg, Gb) is calculated by the above-described equation 8. The third calculation process is different in that the weight wt is expressed by the following formula 10.

Figure 2006050559
Figure 2006050559

第3の算出処理(式8および式10)では,信頼度Ct がより大きく反映された新たな色補正値が得られる。なお,すべての重みwt を加算した値が「1」であること(上記式7)は,第1の算出処理と同じである。   In the third calculation process (Equation 8 and Equation 10), a new color correction value in which the reliability Ct is more largely reflected is obtained. Note that the value obtained by adding all the weights w t is “1” (the above formula 7) is the same as the first calculation process.

上述した第1〜第3の算出処理のうちのいずれの算出処理を用いるかは,たとえば,ユーザが入力装置2を用いて選択することができるようにしておけばよい。選択された第1〜第3の算出処理のうちのいずれかの算出処理によって,新たな色補正値(Gr,Gg,Gb)が算出される。   Which one of the first to third calculation processes described above should be used may be selected by the user using the input device 2, for example. A new color correction value (Gr, Gg, Gb) is calculated by any one of the selected first to third calculation processes.

重要度および信頼度に基づく色補正値算出回路15において算出された,新たな色補正値(Gr,Gg,Gb)は,画像補正回路16に入力する。新たな色補正値(Gr,Gg,Gb)に基づいて,オリジナル画像データ(顔画像部分を表すデータのみであってもよい)が色補正される。   The new color correction values (Gr, Gg, Gb) calculated by the color correction value calculation circuit 15 based on importance and reliability are input to the image correction circuit 16. Based on the new color correction values (Gr, Gg, Gb), the original image data (which may be only data representing the face image portion) is color-corrected.

なお,上述した肌色領域に基づく色補正値算出回路12において算出された色補正値(第1のゲイン係数)と,グレー色領域に基づく色補正値算出回路13において算出された色補正値(第2のゲイン係数)が全く異なるものである場合(たとえば,上述の線分ベクトルB1と線分ベクトルB2の方向が全く異なる方向である場合等)には,いずれかの色補正値の算出が失敗している可能性が高い。そのような場合には,画像補正回路16において,新たな色補正値(Gr,Gg,Gb)による色補正効果を弱めるようにしてもよい。   The color correction value (first gain coefficient) calculated in the color correction value calculation circuit 12 based on the above-described skin color area and the color correction value (first gain coefficient) calculated in the color correction value calculation circuit 13 based on the gray color area. 2) is completely different (for example, when the direction of the above-described line segment vector B1 and line segment vector B2 is completely different), the calculation of one of the color correction values has failed. It is highly possible that In such a case, the image correction circuit 16 may weaken the color correction effect by the new color correction values (Gr, Gg, Gb).

上述した実施例では,肌色領域に基づく色補正値算出回路12によって算出された色補正値およびグレー色領域に基づく色補正値算出回路13によって算出された色補正値の2つの色補正値に基づいて,新たな色補正値を算出しているが,他の手法によって算出される色補正値(たとえば,特開2000−148978号公報に記載の色補正値算出処理に基づいて算出される色補正値)を,この実施例において算出される2つの色補正値のいずれかに代えて,または加えて,用いるようにしてもよい。   In the embodiment described above, based on the two color correction values of the color correction value calculated by the color correction value calculation circuit 12 based on the skin color area and the color correction value calculated by the color correction value calculation circuit 13 based on the gray color area. Although a new color correction value is calculated, a color correction value calculated by another method (for example, a color correction calculated based on a color correction value calculation process described in Japanese Patent Application Laid-Open No. 2000-148978). Value) may be used instead of or in addition to one of the two color correction values calculated in this embodiment.

また,上述した実施例では,色補正値算出回路(色補正値)ごとに,重みおよび信頼度を算出しかつ重要度を入力させているが,さらにRGBのそれぞれについて独立に,重みおよび信頼度を算出しかつ重要度を入力させるようにしてもよい。   In the above-described embodiment, the weight and reliability are calculated and the importance is input for each color correction value calculation circuit (color correction value). May be calculated and the degree of importance may be input.

上述した実施例では,色補正値としてゲイン係数を用いているが,ゲイン係数に代えて,入力値と出力値との対応関係を格納したルックアップテーブルを,色補正値としてもよいのは言うまでもない。   In the above-described embodiments, the gain coefficient is used as the color correction value. However, it goes without saying that a lookup table storing the correspondence between the input value and the output value may be used as the color correction value instead of the gain coefficient. Yes.

デジタルプリントシステムの全体構成を示すブロック図である。1 is a block diagram illustrating an overall configuration of a digital print system. 画像補正装置の詳細な電気的構成を,データの流れとともに示すブロック図である。It is a block diagram which shows the detailed electrical structure of an image correction apparatus with the flow of data. (A)はオリジナル画像データによって表される画像の一例を,(B)は顔画像部分が区画(検出)された様子を,(C)はマスク画像の一例をそれぞれ示す。(A) shows an example of an image represented by original image data, (B) shows a state in which a face image portion is partitioned (detected), and (C) shows an example of a mask image. 代表肌色色度値と目標肌色色度値とを結ぶ線分ベクトルと,代表肌色色度値と一の色補正値に従う補正後の代表肌色色度値とを結ぶ線分ベクトルとがなす角度を示す。An angle formed by a line segment vector connecting the representative skin color chromaticity value and the target skin color chromaticity value and a line segment vector connecting the representative skin color chromaticity value and the corrected representative skin color chromaticity value according to one color correction value Show. 代表肌色色度値と目標肌色色度値とを結ぶ線分ベクトルと,代表肌色色度値と他の色補正値にしたがう補正後の代表肌色色度値とを結ぶ線分ベクトルとがなす角度を示す。The angle formed by the line segment vector connecting the representative skin color chromaticity value and the target skin color chromaticity value and the line segment vector connecting the representative skin color chromaticity value and the representative skin color chromaticity value after correction according to other color correction values Indicates. 信頼度の算出のための関数グラフを示す。The function graph for calculation of reliability is shown.

符号の説明Explanation of symbols

1 画像補正装置
2 入力装置
3 表示装置
4 記憶装置
5 プリンタ
11 顔領域区画回路
12 肌色領域に基づく色補正値算出回路
13 グレー色領域に基づく色補正値算出回路
14 信頼度算出回路
15 重要度および信頼度に基づく色補正値算出回路
16 画像補正回路

1 Image Correction Device 2 Input Device 3 Display Device 4 Storage Device 5 Printer
11 Face area division circuit
12 Color correction value calculation circuit based on skin color area
13 Color correction value calculation circuit based on gray color area
14 Reliability calculation circuit
15 Color correction value calculation circuit based on importance and reliability
16 Image correction circuit

Claims (10)

与えられる画像データに基づいて,異なる色補正値算出処理によってそれぞれ色補正値を算出する複数種類の色補正値算出手段,
上記複数種類の色補正値算出手段によって算出された複数の色補正値のそれぞれについての信頼度を算出する信頼度算出手段,
上記信頼度算出手段によって算出された複数の色補正値のそれぞれについての信頼度を用いて,上記複数の色補正値のそれぞれを重み付けし,重み付けされた複数の色補正値を加算することによって得られる新たな色補正値を算出する加算色補正値算出手段,および
上記加算色補正値算出手段によって算出された新たな色補正値に基づいて,上記画像データを色補正する補正手段,
を備えた画像補正装置。
A plurality of types of color correction value calculation means for calculating color correction values by different color correction value calculation processes based on given image data;
Reliability calculation means for calculating reliability for each of the plurality of color correction values calculated by the plurality of types of color correction value calculation means;
Using the reliability for each of the plurality of color correction values calculated by the reliability calculation means, each of the plurality of color correction values is weighted, and the weighted color correction values are added. An added color correction value calculating means for calculating a new color correction value, and a correcting means for color correcting the image data based on the new color correction value calculated by the added color correction value calculating means,
An image correction apparatus comprising:
上記複数種類の色補正値算出手段によって算出された複数の色補正値のそれぞれについての重要度を入力する重要度入力手段をさらに備え,
上記加算色補正値算出手段は,
上記信頼度算出手段によって算出された複数の色補正値のそれぞれについての信頼度および上記重要度入力手段から入力された複数の色補正値のそれぞれについての重要度を用いて,上記複数の色補正値のそれぞれを重み付けするものである,
請求項1に記載の画像補正装置。
An importance input means for inputting importance for each of the plurality of color correction values calculated by the plurality of types of color correction value calculation means;
The additional color correction value calculation means is:
Using the reliability for each of the plurality of color correction values calculated by the reliability calculation means and the importance for each of the plurality of color correction values input from the importance input means, the plurality of color corrections Each of the values is weighted,
The image correction apparatus according to claim 1.
上記信頼度算出手段は,
上記画像データに含まれる代表色についての色情報と,上記代表色についての理想色情報と,上記複数種類の色補正値算出手段によって算出された複数の色補正値のそれぞれに基づいて上記色情報を補正することによって得られる複数の補正後色情報とに基づいて,複数の色補正のそれぞれについての信頼度を算出するものである,請求項1または2に記載の画像補正装置。
The reliability calculation means is:
The color information based on each of color information about the representative color included in the image data, ideal color information about the representative color, and a plurality of color correction values calculated by the plurality of types of color correction value calculation means. The image correction apparatus according to claim 1, wherein the reliability of each of the plurality of color corrections is calculated based on the plurality of corrected color information obtained by correcting the color.
上記信頼度算出手段は,
色空間において,上記色情報と上記理想色情報とを結ぶことによって得られる理想線分ベクトルと,上記色情報と複数の上記補正後色情報のそれぞれを結ぶことによって得られる複数の補正線分ベクトルのそれぞれとがなす角度に応じて,複数の色補正値のそれぞれについての信頼度を算出するものである,請求項3に記載の画像補正装置。
The reliability calculation means is:
In a color space, an ideal line segment vector obtained by connecting the color information and the ideal color information, and a plurality of correction line segment vectors obtained by connecting each of the color information and the plurality of corrected color information. The image correction apparatus according to claim 3, wherein the reliability of each of the plurality of color correction values is calculated in accordance with an angle formed by each of the image correction apparatus.
上記信頼度算出手段は,
色空間において,上記色情報と複数の上記補正後色情報のそれぞれを結ぶことによって得られる複数の補正線分ベクトルのそれぞれの大きさに基づいて,複数の色補正値のそれぞれについての信頼度を算出するものである,請求項3に記載の画像補正装置。
The reliability calculation means is:
In the color space, the reliability of each of the plurality of color correction values is determined based on the size of each of the plurality of correction line segment vectors obtained by connecting each of the color information and the plurality of corrected color information. The image correction apparatus according to claim 3, which is to be calculated.
上記信頼度算出手段は,
色空間において,上記色情報と複数の上記補正後色情報のそれぞれを結ぶことによって得られる複数の補正線分ベクトルの向きに応じて,複数の色補正値のそれぞれについての信頼度を算出するものである,請求項3に記載の画像補正装置。
The reliability calculation means is:
Calculating the reliability of each of a plurality of color correction values according to the directions of a plurality of correction line segment vectors obtained by connecting each of the color information and the plurality of corrected color information in a color space; The image correction apparatus according to claim 3, wherein
与えられる画像データに基づいて,異なる色補正値算出処理によってそれぞれ色補正値を算出し,
算出した複数の色補正値のそれぞれについての信頼度を算出し,
算出した複数の色補正値のそれぞれについての信頼度を用いて,上記複数の色補正値のそれぞれを重み付けし,重み付けされた複数の色補正値を加算することによって得られる新たな色補正値を算出し,
算出した新たな色補正値に基づいて,上記画像データを色補正する,
画像補正方法。
Based on the given image data, each color correction value is calculated by different color correction value calculation processing,
Calculate the reliability for each of the calculated color correction values,
A new color correction value obtained by weighting each of the plurality of color correction values and adding the plurality of weighted color correction values using the reliability of the calculated plurality of color correction values. Calculate
Based on the calculated new color correction value, color correction is performed on the image data.
Image correction method.
算出した複数の色補正値のそれぞれについての重要度の入力を受付け,
算出した複数の色補正値のそれぞれについての信頼度および入力された複数の色補正値のそれぞれについての重要度を用いて,上記複数の色補正値のそれぞれを重み付けする,
請求項7に記載の画像補正方法。
Accept the input of importance for each of the calculated color correction values,
Each of the plurality of color correction values is weighted using the reliability for each of the calculated plurality of color correction values and the importance for each of the plurality of input color correction values.
The image correction method according to claim 7.
与えられる画像データに基づいて,異なる色補正値算出処理によってそれぞれ色補正値を算出する処理,
算出した複数の色補正値のそれぞれについての信頼度を算出する処理,
算出した複数の色補正値のそれぞれについての信頼度を用いて,上記複数の色補正値のそれぞれを重み付けし,重み付けされた複数の色補正値を加算することによって得られる新たな色補正値を算出する処理,および
算出した新たな色補正値に基づいて,上記画像データを色補正する処理,
をコンピュータに実行させる画像補正プログラム。
A process for calculating color correction values by different color correction value calculation processes based on given image data,
A process for calculating the reliability of each of the calculated color correction values,
A new color correction value obtained by weighting each of the plurality of color correction values and adding the plurality of weighted color correction values using the reliability of the calculated plurality of color correction values. A process for calculating and color correcting the image data based on the calculated new color correction value;
Correction program that causes a computer to execute
算出した複数の色補正値のそれぞれについての重要度の入力を受付ける処理をコンピュータにさらに実行させ,
上記新たな色補正値を算出する処理は,
算出した複数の色補正値のそれぞれについての信頼度および入力された複数の色補正値のそれぞれについての重要度を用いて,上記複数の色補正値のそれぞれを重み付けする, 請求項9に記載の画像補正プログラム。

Causing the computer to further execute a process of accepting an input of importance for each of the calculated color correction values,
The process of calculating the new color correction value is as follows:
The weight of each of the plurality of color correction values is weighted using the reliability for each of the calculated plurality of color correction values and the importance for each of the plurality of input color correction values. Image correction program.

JP2005166420A 2004-06-29 2005-06-07 Image correction apparatus and method, and image correction program Expired - Fee Related JP4515964B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005166420A JP4515964B2 (en) 2004-06-29 2005-06-07 Image correction apparatus and method, and image correction program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2004190598 2004-06-29
JP2005166420A JP4515964B2 (en) 2004-06-29 2005-06-07 Image correction apparatus and method, and image correction program

Publications (2)

Publication Number Publication Date
JP2006050559A true JP2006050559A (en) 2006-02-16
JP4515964B2 JP4515964B2 (en) 2010-08-04

Family

ID=36028530

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005166420A Expired - Fee Related JP4515964B2 (en) 2004-06-29 2005-06-07 Image correction apparatus and method, and image correction program

Country Status (1)

Country Link
JP (1) JP4515964B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008117221A (en) * 2006-11-06 2008-05-22 Sony Corp Image processing apparatus, image processing method, and program
JP2019062483A (en) * 2017-09-27 2019-04-18 富士ゼロックス株式会社 Image processing apparatus, image processing system, and program

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001320591A (en) * 2000-05-12 2001-11-16 Fuji Photo Film Co Ltd Color balance adjustment method and device, and recording medium

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001320591A (en) * 2000-05-12 2001-11-16 Fuji Photo Film Co Ltd Color balance adjustment method and device, and recording medium

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008117221A (en) * 2006-11-06 2008-05-22 Sony Corp Image processing apparatus, image processing method, and program
US8170296B2 (en) 2006-11-06 2012-05-01 Sony Corporation Image processing apparatus, image processing method, and program
JP2019062483A (en) * 2017-09-27 2019-04-18 富士ゼロックス株式会社 Image processing apparatus, image processing system, and program

Also Published As

Publication number Publication date
JP4515964B2 (en) 2010-08-04

Similar Documents

Publication Publication Date Title
US7663788B2 (en) Image correcting apparatus and method, and image correction program
US8743272B2 (en) Image processing apparatus and method of controlling the apparatus and program thereof
US7936919B2 (en) Correction of color balance of face images depending upon whether image is color or monochrome
US20050280869A1 (en) Image correcting apparatus and method, and image correcting program, and look-up table creating apparatus and method, and look-up table creating program
US8248431B2 (en) Image processing apparatus, image processing method, program, and recording medium
JPWO2004051575A1 (en) Feature region extraction apparatus, feature region extraction method, and feature region extraction program
JP6663285B2 (en) Image generation method and image generation system
JP2007129535A (en) Image processor, image processing method, program thereof, and computer-readable recording medium recorded with same program
US6850272B1 (en) Image processing method and system
JP6840957B2 (en) Image similarity calculation device, image processing device, image processing method, and recording medium
JP2009033361A (en) Color adjustment unit, image-forming device, and program
JP2008131542A (en) Color correction apparatus, and color correction program
JP2018137636A (en) Image processing device and image processing program
JP4460368B2 (en) Image correction apparatus and method, and image correction program
JP4515964B2 (en) Image correction apparatus and method, and image correction program
JP2009038737A (en) Image processing apparatus
EP2541469B1 (en) Image recognition device, image recognition method and image recognition program
JP4708866B2 (en) Lookup table creation device and method, and lookup table creation program
JP4522229B2 (en) Image processing method and apparatus
JP4594225B2 (en) Image correction apparatus and method, and image correction program
JP4578398B2 (en) Image correction apparatus and method, and image correction program
JP2009230557A (en) Object detection device, object detection method, object detection program, and printer
JP2008147714A (en) Image processor and image processing method
JP2005176028A (en) Image processing method, image processing program and image processor
JP2005208732A (en) Image processing apparatus and method

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20061211

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080204

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090624

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090707

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090907

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20091110

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100209

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20100217

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100420

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100513

R150 Certificate of patent or registration of utility model

Ref document number: 4515964

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130521

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140521

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees