JP2006301981A - Pupil correction processing apparatus and method thereof - Google Patents

Pupil correction processing apparatus and method thereof Download PDF

Info

Publication number
JP2006301981A
JP2006301981A JP2005123060A JP2005123060A JP2006301981A JP 2006301981 A JP2006301981 A JP 2006301981A JP 2005123060 A JP2005123060 A JP 2005123060A JP 2005123060 A JP2005123060 A JP 2005123060A JP 2006301981 A JP2006301981 A JP 2006301981A
Authority
JP
Japan
Prior art keywords
pupil
reduced
digital image
color correction
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005123060A
Other languages
Japanese (ja)
Other versions
JP4650078B2 (en
Inventor
Kazunobu Shima
和伸 志摩
Masayoshi Kamitsuji
雅義 上辻
Noriyuki Nishi
規之 西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Noritsu Koki Co Ltd
Original Assignee
Noritsu Koki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Noritsu Koki Co Ltd filed Critical Noritsu Koki Co Ltd
Priority to JP2005123060A priority Critical patent/JP4650078B2/en
Publication of JP2006301981A publication Critical patent/JP2006301981A/en
Application granted granted Critical
Publication of JP4650078B2 publication Critical patent/JP4650078B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a pupil correction processing apparatus and a method thereof which are capable of surely and efficiently executing color correction processing of pupil areas in a digital image wherein a red-eye phenomenon that pupils of eyes are photographed in red or the like occurs. <P>SOLUTION: The pupil correction processing apparatus includes a pupil area detection means 40 for detecting pupil areas of a subject from the digital image and a pupil area color correction means for performing color correction processing for pupil areas of the digital image detected by the pupil area detection means 40. The pupil area detection means 40 includes a reduction processing part 41 for performing reduction processing to reduce the digital image to a reduction digital image, a reduction pupil detection part 42 for detecting reduction pupil areas being pupil areas in the reduction digital image, and a pupil detection part 43 for detecting pupil areas of the digital image on the basis of the reduction pupil areas. <P>COPYRIGHT: (C)2007,JPO&INPIT

Description

本発明は、人物の目の瞳孔部分が赤く撮影されるといった赤目現象等が発生しているデジタル画像における瞳画像を自然な色に補正処理する瞳補正処理装置及びその方法に関する。   The present invention relates to a pupil correction processing apparatus and method for correcting a pupil image in a digital image in which a red-eye phenomenon or the like in which a pupil portion of a person's eyes is photographed in red is a natural color.

人物がストロボ撮影された写真画像において、目の瞳部分が赤く撮影される赤目現象等がしばしば発生するが、このような赤目現象を補正するために、従来より、デジタル画像入力手段によりデジタル画像として入力された写真画像から人物の瞳の領域を検出して瞳孔部分の彩度等を補正して自然な色に補正するカラー補正処理手段を備えた写真処理装置が提案されている。   In a photographic image in which a person is photographed with a stroboscope, a red-eye phenomenon, etc., in which the pupil part of the eye is photographed in red often occurs. There has been proposed a photographic processing apparatus provided with color correction processing means for detecting a human pupil region from an input photographic image and correcting the saturation of the pupil portion to correct natural colors.

上述の写真処理装置では、現像済み写真フィルムからフィルムスキャナで読み取られ、或いはデジタルスチルカメラで撮影されメモリカードに記憶された画像がメディアドライバで読み取られた後に、プレジャッジ画面でモニタに表示されたサムネイル画像に対して、赤目現象等の発生から瞳領域のカラー補正が必要とオペレータにより判断され、プレジャッジ画面に表示されている瞳領域のカラー補正アイコンが操作されると、瞳領域のカラー補正のためのカラー補正処理手段が起動されるように構成されている。   In the above photographic processing apparatus, an image read from a developed photographic film with a film scanner or taken with a digital still camera and stored in a memory card is read with a media driver, and then displayed on a monitor on a pre-judge screen. If the operator determines that the color correction of the pupil area is necessary for the thumbnail image due to the occurrence of the red-eye phenomenon, and the color correction icon for the pupil area displayed on the pre-judge screen is operated, the color correction of the pupil area is performed. The color correction processing means for is configured to be activated.

前記カラー補正処理手段は、フィルムスキャナやメディアドライバから読み取られた高解像度の画像データを所定の縮小アルゴリズムを用いて縮小する縮小処理手段と、モニタに表示された縮小画像に対してオペレータ操作により瞳領域を含む大まかな目の領域を指定する領域指定手段と、指定された領域のヒストグラムを生成してその値から瞳領域の画素をオペレータによる操作または自動検出により特定する瞳検出手段と、検出された瞳領域に対してオペレータの操作に基づき彩度等を調整する瞳補正手段とを備えて構成され、プリントデータの生成時に前記領域指定手段で指定された領域の座標データと前記瞳補正手段によるカラー補正パラメータ等に基づき、高解像度の画像データに対して対応する領域を座標変換により認識し、当該領域に対して生成されるヒストグラムから瞳領域の画素を自動検出し、当該画素をカラー補正パラメータに基づいて自動補正するように構成されていた。   The color correction processing means includes a reduction processing means for reducing high-resolution image data read from a film scanner or a media driver by using a predetermined reduction algorithm, and a pupil image by an operator operation on the reduced image displayed on the monitor. Area specifying means for specifying a rough eye area including the area, pupil detection means for generating a histogram of the specified area and specifying the pixels of the pupil area from the value by operation by the operator or automatic detection; and And a pupil correction unit that adjusts the saturation and the like based on the operation of the operator with respect to the pupil region. The coordinate data of the region designated by the region designation unit when print data is generated and the pupil correction unit Based on color correction parameters, etc., the corresponding area for high-resolution image data is recognized by coordinate transformation, and Pixels pupil area from the histograms generated for the area to automatically detect and is configured to automatically corrected based on the pixel in the color correction parameters.

ここに、縮小処理手段を設けて縮小処理後の画像データに対して補正操作を行なうのはプレジャッジ画面において種々の補正処理を実行する際の演算負荷を軽減して高速に処理するためであり、前記縮小処理は、例えば、縮小デジタル画像が高解像度のデジタル画像と比較して極度に劣化しないように、前記デジタル画像における各画素に対して、図11に示すように、特定画素Ps(i,j)となる画素を含んだ目的縮小サイズに応じた所定数の画素群Pg(i,j)における画素データの平均値を算出し、前記算出された平均値を前記特定画素Ps(i,j)の新たな画素データとして置換する等といった平滑化処理を実施するとともに、目的縮小サイズとなるように画素の間引き処理が行なわれ、前記間引き処理により尚もまだ残っている前記新たな画素データとなった画素Ps’(i,j)の座標が新たな座標Ps’(k,l)に置換される圧縮処理が行なわれている(i=0、1,2,・・・,m−1、j=0、1,2,・・・,n−1、k=0,1,2,・・・,(n−1)/p、l=0,1,2,・・・,(m−1)/q、pはy軸方向の縮小係数、qはx軸方向の縮小係数)。
特開平11−308474号公報 特開2000−231639号公報
The reason why the reduction processing means is provided to perform the correction operation on the image data after the reduction processing is to reduce the calculation load when executing various correction processes on the pre-judge screen and to perform high-speed processing. In the reduction process, for example, as shown in FIG. 11, a specific pixel Ps (i) is applied to each pixel in the digital image so that the reduced digital image is not extremely deteriorated compared with a high-resolution digital image. , J), an average value of pixel data in a predetermined number of pixel groups Pg (i, j) corresponding to the target reduction size including the pixel corresponding to the target pixel Ps (i, j) is calculated. j) Smoothing processing such as replacement as new pixel data is performed, and pixel thinning processing is performed so as to obtain a target reduced size. The thinning processing still remains. A compression process is performed in which the coordinates of the pixel Ps ′ (i, j) that has become the new pixel data are replaced with the new coordinates Ps ′ (k, l) (i = 0, 1, 2, ..., m-1, j = 0, 1, 2, ..., n-1, k = 0, 1, 2, ..., (n-1) / p, l = 0, 1, 2,..., (M−1) / q, p is a reduction factor in the y-axis direction, and q is a reduction factor in the x-axis direction.
Japanese Patent Laid-Open No. 11-308474 Japanese Patent Laid-Open No. 2000-231539

しかし、上述した縮小デジタル画像における個々の画素データは元のデジタル画像の画素が平均化処理されたものであるために、瞳検出手段により生成される縮小デジタル画像に対するヒストグラムに基づいて検出された瞳領域と元のデジタル画像に対するヒストグラムに基づいて検出される瞳領域が相違する、つまり誤検出されることがあるという問題があった。   However, since the individual pixel data in the reduced digital image described above is obtained by averaging the pixels of the original digital image, the pupil detected based on the histogram for the reduced digital image generated by the pupil detection means. There is a problem that the pupil area detected based on the histogram for the area and the original digital image is different, that is, erroneously detected.

同様に、前記縮小デジタル画像における個々の画素データと前記デジタル画像における個々の画素データとが異なる値であることから、縮小デジタル画像に対する補正パラメータに基づいて元のデジタル画像がカラー補正処理されても適正な色に補正されない場合もあった。   Similarly, since individual pixel data in the reduced digital image and individual pixel data in the digital image have different values, even if the original digital image is subjected to color correction processing based on correction parameters for the reduced digital image. In some cases, the color was not corrected properly.

上述の写真処理装置では、プレジャッジ画面において前記縮小デジタル画像に対する瞳領域の検出及び補正について適正な補正がなされたか否かがオペレータにより確認されているが、作業効率の向上化等のため前記デジタル画像における瞳領域の検出及びカラー補正の確認が行なわれることなく自動的に補正処理が実行されてプリント処理されるので、出力された写真プリントが適正にカラー補正処理されていないときもあり、このような場合には、再度カラー補正処理を最初から行ない直す必要があり、却って作業効率が低下するといった問題が発生していた。   In the above-described photographic processing apparatus, it is confirmed by an operator whether or not an appropriate correction has been made for detection and correction of the pupil region with respect to the reduced digital image on the pre-judge screen. Since the correction process is automatically executed and the print process is performed without detecting the pupil area in the image and confirming the color correction, the output photo print may not be properly color-corrected. In such a case, it is necessary to perform the color correction process again from the beginning, which causes a problem that the work efficiency is lowered.

本発明は、上述した従来の問題点に鑑み、目の瞳が赤く撮影されるといった赤目現象等が発生しているデジタル画像における瞳領域のカラー補正処理を確実に且つ効率よく実行可能な瞳補正処理装置及びその方法を提供する点にある。   In view of the above-described conventional problems, the present invention is a pupil correction capable of reliably and efficiently performing pupil region color correction processing in a digital image in which a red-eye phenomenon or the like occurs such that the pupil of the eye is photographed in red. The object is to provide a processing apparatus and method.

上述の目的を達成するため、本発明による瞳補正処理装置の第一の特徴構成は、特許請求の範囲の書類の請求項1に記載した通り、記録媒体に記録された画像を読取るデジタル画像入力手段と、前記デジタル画像入力手段により読み取られたデジタル画像から被写体の瞳領域を検出する瞳領域検出手段と、前記瞳領域検出手段により検出されたデジタル画像の瞳領域に対してカラー補正処理する瞳領域カラー補正手段とを備えた瞳補正処理装置であって、前記瞳領域検出手段は、前記デジタル画像を縮小した縮小デジタル画像に縮小処理する縮小処理部と、前記縮小デジタル画像の瞳領域である縮小瞳領域を検出する縮小瞳検出部と、前記縮小瞳領域に基づいて前記デジタル画像の瞳領域を検出する瞳検出部とを備える点にある。   In order to achieve the above object, a first characteristic configuration of a pupil correction processing apparatus according to the present invention is a digital image input for reading an image recorded on a recording medium as described in claim 1 of the document of the claims. A pupil region detection unit that detects a pupil region of a subject from the digital image read by the digital image input unit; and a pupil that performs color correction processing on the pupil region of the digital image detected by the pupil region detection unit A pupil correction processing device including a region color correction unit, wherein the pupil region detection unit is a reduction processing unit that reduces the digital image to a reduced digital image, and a pupil region of the reduced digital image A reduction pupil detection unit that detects a reduction pupil region and a pupil detection unit that detects a pupil region of the digital image based on the reduction pupil region.

上述の構成によれば、デジタル画像を縮小処理した縮小デジタル画像の瞳領域である縮小瞳領域に基づいて前記デジタル画像の瞳領域を検出するため、前記縮小デジタル画像で検出された縮小瞳領域に対応する前記デジタル画像における領域を瞳領域として検出することから前記デジタル画像における瞳領域の誤検出を発生させることなく、確実に前記デジタル画像における瞳領域を検出することができるのである。   According to the above configuration, since the pupil area of the digital image is detected based on the reduced pupil area that is the pupil area of the reduced digital image obtained by reducing the digital image, the reduced pupil area detected in the reduced digital image is detected. Since the corresponding region in the digital image is detected as a pupil region, the pupil region in the digital image can be reliably detected without causing erroneous detection of the pupil region in the digital image.

同第二の特徴構成は、同請求項2に記載した通り、上述の第一の特徴構成に加えて、前記縮小瞳検出部は、前記検出した縮小瞳領域に対応する所定の座標または所定の大きさを検出し、前記瞳検出部は、前記検出された所定の座標または所定の大きさに基づいて前記デジタル画像の瞳領域を検出する点にある。   In the second feature configuration, as described in claim 2, in addition to the first feature configuration described above, the reduced pupil detection unit may include a predetermined coordinate corresponding to the detected reduced pupil region or a predetermined coordinate. The size is detected, and the pupil detection unit is configured to detect a pupil region of the digital image based on the detected predetermined coordinates or a predetermined size.

上述の構成によれば、前記瞳検出部が前記縮小瞳検出部により検出された縮小瞳領域に対応する所定の座標または所定の大きさに基づいて瞳領域を検出するため、確実に前記デジタル画像における瞳領域を検出することができるのである。   According to the above configuration, since the pupil detection unit detects a pupil region based on predetermined coordinates or a predetermined size corresponding to the reduced pupil region detected by the reduced pupil detection unit, the digital image is surely received. The pupil region at can be detected.

同第三の特徴構成は、同請求項3に記載した通り、上述の第二の特徴構成に加えて、前記所定の座標が前記縮小瞳領域を円領域に近似した場合における中心の座標であり、前記所定の大きさが前記縮小瞳領域を円領域に近似した場合における半径である点にある。   The third feature configuration is the coordinate of the center when the predetermined coordinate approximates the reduced pupil region to a circular region in addition to the second feature configuration described above, as described in claim 3. The predetermined size is a radius when the reduced pupil region is approximated to a circular region.

上述の構成によれば、通常は円形である人物の目の瞳孔部分の形状に対応して、前記縮小瞳領域を円領域に近似した場合における中心の座標とその半径に基づいてデジタル画像の瞳領域を検出するため確実に前記デジタル画像における瞳領域を検出することができるのである。また、前記縮小瞳検出部から瞳検出部に転送されるデータは、多くとも前記縮小瞳領域を円領域に近似した場合における中心の座標とその半径を転送すれば、前記デジタル画像における瞳領域を特定することができるようになるため、縮小瞳領域の全ての座標等のデータを転送する必要はなく、前記瞳領域を特定するためのデータ転送に要する時間を短縮することができ、更には、データ転送に必要とされるメモリ容量を削減することができるのである。   According to the above configuration, the pupil of the digital image is based on the coordinates of the center and the radius when the reduced pupil region is approximated to a circular region, corresponding to the shape of the pupil portion of the human eye, which is usually circular. In order to detect the region, the pupil region in the digital image can be reliably detected. In addition, the data transferred from the reduced pupil detection unit to the pupil detection unit can at least transfer the pupil region in the digital image by transferring the coordinates of the center and the radius when the reduced pupil region is approximated to a circular region. Since it becomes possible to specify, it is not necessary to transfer data such as all coordinates of the reduced pupil region, the time required for data transfer to specify the pupil region can be shortened, The memory capacity required for data transfer can be reduced.

同第四の特徴構成は、同請求項4に記載した通り、上述の第二の特徴構成に加えて、前記所定の座標が前記縮小瞳領域の重心の座標であり、前記所定の大きさが前記重心の座標から前記重心の座標に対して所定の角度方向における前記縮小瞳領域の外縁部までの複数の距離である点にある。   In the fourth feature configuration, as described in claim 4, in addition to the second feature configuration described above, the predetermined coordinates are coordinates of the center of gravity of the reduced pupil region, and the predetermined size is The point is a plurality of distances from the coordinates of the center of gravity to the outer edge of the reduced pupil region in a predetermined angular direction with respect to the coordinates of the center of gravity.

上述の構成によれば、通常は円形である人物の目の瞳孔部分が、例えば、半分だけ瞼によって遮られることにより円形とはいえない形状となっていても、前記縮小瞳領域の重心の座標と、前記重心の座標から前記重心の座標に対して所定の角度方向における前記縮小瞳領域の外縁部までの複数の距離とに基づいてデジタル画像の瞳領域を検出するため確実に前記デジタル画像における瞳領域を検出することができるのである。また、前記縮小瞳検出部から瞳検出部に転送されるデータは、多くとも前記縮小瞳領域の重心の座標と、前記重心の座標から前記重心の座標に対して所定の角度方向における前記縮小瞳領域の外縁部までの複数の距離とを転送すれば、前記デジタル画像における瞳領域を特定することができるようになるため、縮小瞳領域の全ての座標等のデータを転送する必要はなく、前記瞳領域を特定するためのデータ転送に要する時間を短縮することができ、更には、データ転送に必要とされるメモリ容量を削減することができるのである。   According to the above-described configuration, the coordinates of the center of gravity of the reduced pupil region can be obtained even if the pupil portion of a normally circular human eye has a shape that cannot be said to be circular, for example, by being blocked by a half of the eyelid. And a plurality of distances from the coordinates of the center of gravity to the outer edge of the reduced pupil area in a predetermined angular direction with respect to the coordinates of the center of gravity. The pupil region can be detected. The data transferred from the reduced pupil detection unit to the pupil detection unit includes at most the coordinates of the center of gravity of the reduced pupil region and the reduced pupil in a predetermined angular direction from the coordinates of the center of gravity to the coordinates of the center of gravity. By transferring a plurality of distances to the outer edge of the region, it becomes possible to specify the pupil region in the digital image, so there is no need to transfer all coordinates and other data of the reduced pupil region, The time required for data transfer for specifying the pupil region can be shortened, and further, the memory capacity required for data transfer can be reduced.

同第五の特徴構成は、同請求項5に記載した通り、上述の第二の特徴構成に加えて、前記所定の座標が前記縮小瞳領域の外縁座標である点にある。   The fifth feature configuration is that, in addition to the second feature configuration described above, the predetermined coordinate is an outer edge coordinate of the reduced pupil region, as described in the fifth aspect.

上述の構成によれば、通常は円形である人物の目の瞳孔部分が、例えば、半分だけ瞼によって遮られることにより円形とはいえない形状となっていても、前記縮小瞳領域の外縁座標に基づいてデジタル画像の瞳領域を検出するため確実に前記デジタル画像における瞳領域を検出することができるのである。また、前記縮小瞳検出部から瞳検出部に転送されるデータは、多くとも前記縮小瞳領域の外縁座標を転送すれば、前記デジタル画像における瞳領域を特定することができるようになるため、縮小瞳領域の全ての座標等のデータを転送する必要はなく、前記瞳領域を特定するためのデータ転送に要する時間を短縮することができ、更には、データ転送に必要とされるメモリ容量を削減することができるのである。   According to the above-described configuration, even if the pupil portion of the human eye, which is usually circular, has a shape that cannot be said to be circular due to, for example, half being blocked by the eyelid, the outer edge coordinates of the reduced pupil region are Based on this, the pupil region of the digital image can be reliably detected because the pupil region of the digital image is detected. Further, the data transferred from the reduced pupil detection unit to the pupil detection unit can specify the pupil region in the digital image by transferring the outer edge coordinates of the reduced pupil region at most. It is not necessary to transfer all data such as the coordinates of the pupil area, the time required to transfer the data for specifying the pupil area can be shortened, and further the memory capacity required for data transfer can be reduced. It can be done.

同第六の特徴構成は、同請求項6に記載した通り、上述の第二から第五の何れかの特徴構成に加えて、前記瞳領域カラー補正手段は、前記縮小瞳検出部により検出された縮小瞳領域に対するカラー補正値を算出するカラー補正値算出部と、前記カラー補正値算出部により算出されたカラー補正値に基づいて前記デジタル画像の瞳領域に対してカラー補正処理するカラー補正部とを備える点にあり、前記瞳領域にカラー補正処理を行なうことができるのである。   In the sixth feature configuration, in addition to any one of the second to fifth feature configurations described above, the pupil region color correction unit is detected by the reduced pupil detection unit. A color correction value calculation unit that calculates a color correction value for the reduced pupil region, and a color correction unit that performs color correction processing on the pupil region of the digital image based on the color correction value calculated by the color correction value calculation unit The color correction processing can be performed on the pupil region.

同第七の特徴構成は、同請求項7に記載した通り、上述の第六の特徴構成に加えて、前記瞳領域カラー補正手段は、前記カラー補正値算出部により算出されたカラー補正値から前記縮小瞳領域のカラーデータを生成するカラーデータ生成部を備え、前記カラー補正部は、前記カラーデータ生成部により生成されたカラーデータに基づいて前記デジタル画像の瞳領域に対してカラー補正処理する点にある。   In the seventh feature configuration, as described in the seventh aspect, in addition to the sixth feature configuration described above, the pupil region color correction unit is configured to calculate from the color correction value calculated by the color correction value calculation unit. A color data generation unit configured to generate color data of the reduced pupil region, and the color correction unit performs color correction processing on the pupil region of the digital image based on the color data generated by the color data generation unit; In the point.

上述の構成によれば、前記カラー補正部は、前記縮小瞳領域のカラー補正処理を行なったカラーデータに基づいて前記デジタル画像の瞳領域に対してカラー補正処理を行なうため、例えば、前記縮小瞳領域のカラー補正処理を行なったカラーデータから前記デジタル画像の瞳領域の画素数に対応するように補間カラーデータを生成し、前記デジタル画像の瞳領域のカラーデータと、前記補間カラーデータを含む前記縮小瞳領域のカラー補正処理を行なったカラーデータとを置き換える置換処理等のカラー補正処理を行なうため、前記瞳領域に対して行なったカラー補正処理後の色と、前記縮小瞳領域に対して行なったカラー補正処理後の色とを確実に一致させることができるのである。   According to the above-described configuration, the color correction unit performs color correction processing on the pupil region of the digital image based on color data that has been subjected to color correction processing on the reduced pupil region. Interpolation color data is generated from the color data subjected to color correction processing of the area so as to correspond to the number of pixels in the pupil area of the digital image, and the color data of the pupil area of the digital image and the interpolation color data are included. In order to perform color correction processing such as replacement processing for replacing the color data subjected to color correction processing of the reduced pupil region, the color after the color correction processing performed on the pupil region and the reduced pupil region are performed. Thus, the color after the color correction process can be surely matched.

同第八の特徴構成は、同請求項8に記載した通り、上述の第七の特徴構成に加えて、前記カラー補正部は、前記所定の座標または前記所定の座標と前記所定の大きさとから得られる座標におけるカラーデータに基づいて前記デジタル画像の瞳領域に対してカラー補正処理する点にある。   In the eighth feature configuration, as described in claim 8, in addition to the seventh feature configuration described above, the color correction unit may include the predetermined coordinates or the predetermined coordinates and the predetermined size. The color correction processing is performed on the pupil region of the digital image based on the color data at the obtained coordinates.

上述の構成によれば、前記所定の座標または前記所定の座標と前記所定の大きさとから得られる座標におけるカラーデータに基づいて前記デジタル画像の瞳領域に対してカラー補正処理を行なうため、前記カラーデータ生成部からに前記カラー補正部に転送されるデータは、多くとも前記所定の座標または前記所定の座標と前記所定の大きさとから得られる座標におけるカラーデータを転送すれば、前記デジタル画像における瞳領域のカラー補正処理ができるようになるのである。つまり、前記縮小瞳領域の全ての座標におけるカラーデータを転送する必要がなく、前記瞳領域のカラー補正処理を行なうためのデータ転送に要する時間を短縮することができ、更には、データ転送に必要とされるメモリ容量を削減することができるのである。   According to the above configuration, the color correction processing is performed on the pupil region of the digital image based on color data at the predetermined coordinates or the coordinates obtained from the predetermined coordinates and the predetermined size. Data transferred from the data generation unit to the color correction unit can be obtained by transferring color data at the predetermined coordinates or coordinates obtained from the predetermined coordinates and the predetermined size at most. The color correction processing of the area can be performed. In other words, it is not necessary to transfer color data at all coordinates of the reduced pupil area, the time required for data transfer for performing color correction processing of the pupil area can be shortened, and further required for data transfer. It is possible to reduce the memory capacity.

上述の目的を達成するため、本発明による瞳補正処理方法の第一の特徴構成は、同請求項9に記載した通り、記録媒体に記録された画像を読取るデジタル画像入力ステップと、前記デジタル画像入力ステップにより読み取られたデジタル画像から被写体の瞳領域を検出する瞳領域検出ステップと、前記瞳領域検出手段により検出されたデジタル画像の瞳領域に対してカラー補正処理する瞳領域カラー補正ステップとからなる瞳補正処理方法であって、前記瞳領域検出ステップは、前記デジタル画像を縮小した縮小デジタル画像に縮小処理する縮小処理ステップと、前記縮小デジタル画像の瞳領域である縮小瞳領域を検出する縮小瞳検出ステップと、前記縮小瞳領域に基づいて前記デジタル画像の瞳領域を検出する瞳検出ステップとからなる点にある。   In order to achieve the above object, a first characteristic configuration of a pupil correction processing method according to the present invention is, as described in claim 9, a digital image input step of reading an image recorded on a recording medium, and the digital image A pupil region detection step for detecting a pupil region of a subject from the digital image read in the input step; and a pupil region color correction step for performing color correction processing on the pupil region of the digital image detected by the pupil region detection means. In the pupil correction processing method, the pupil region detecting step includes a reduction processing step for reducing the digital image to a reduced digital image, and a reduction for detecting a reduced pupil region that is a pupil region of the reduced digital image. A point comprising a pupil detection step and a pupil detection step of detecting a pupil region of the digital image based on the reduced pupil region A.

同第二の特徴構成は、同請求項10に記載した通り、上述の第一の特徴構成に加えて、前記縮小瞳検出ステップは、前記検出した縮小瞳領域に対応する所定の座標または所定の大きさを検出し、前記瞳検出ステップは、前記検出された所定の座標または所定の大きさに基づいて前記デジタル画像の瞳領域を検出する点にある。   In the second feature configuration, as described in claim 10, in addition to the first feature configuration described above, the reduced pupil detection step includes a predetermined coordinate corresponding to the detected reduced pupil region or a predetermined coordinate. The size is detected, and the pupil detection step is to detect a pupil region of the digital image based on the detected predetermined coordinates or a predetermined size.

同第三の特徴構成は、同請求項11に記載した通り、上述の第二の特徴構成に加えて、前記所定の座標が前記縮小瞳領域を円領域に近似した場合における中心の座標であり、前記所定の大きさが前記縮小瞳領域を円領域に近似した場合における半径である点にある。   The third feature configuration is the coordinate of the center when the predetermined coordinate approximates the reduced pupil region to a circular region in addition to the second feature configuration described above, as described in claim 11. The predetermined size is a radius when the reduced pupil region is approximated to a circular region.

同第四の特徴構成は、同請求項12に記載した通り、上述の第二の特徴構成に加えて、前記所定の座標が前記縮小瞳領域の重心の座標であり、前記所定の大きさが前記重心の座標から前記重心の座標に対して所定の角度方向における前記縮小瞳領域の外縁部までの複数の距離である点にある。   In the fourth feature configuration, as described in claim 12, in addition to the second feature configuration described above, the predetermined coordinates are coordinates of the center of gravity of the reduced pupil region, and the predetermined size is The point is a plurality of distances from the coordinates of the center of gravity to the outer edge of the reduced pupil region in a predetermined angular direction with respect to the coordinates of the center of gravity.

同第五の特徴構成は、同請求項13に記載した通り、上述の第二の特徴構成に加えて、前記所定の座標が前記縮小瞳領域の外縁座標である点にある。   The fifth feature configuration is that, in addition to the second feature configuration described above, the predetermined coordinates are outer edge coordinates of the reduced pupil region, as described in claim 13.

同第六の特徴構成は、同請求項14に記載した通り、上述の第二から第五の何れかの特徴構成に加えて、前記瞳領域カラー補正ステップは、前記縮小瞳検出ステップにより検出された縮小瞳領域に対するカラー補正値を算出するカラー補正値算出ステップと、前記カラー補正値算出ステップにより算出されたカラー補正値に基づいて前記デジタル画像の瞳領域に対してカラー補正処理するカラー補正ステップとからなる点にある。   In the sixth feature configuration, in addition to any one of the second to fifth feature configurations described above, the pupil region color correction step is detected by the reduced pupil detection step. A color correction value calculation step for calculating a color correction value for the reduced pupil region, and a color correction step for performing color correction processing on the pupil region of the digital image based on the color correction value calculated by the color correction value calculation step It is in the point which consists of.

同第七の特徴構成は、同請求項15に記載した通り、上述の第六の特徴構成に加えて、前記瞳領域カラー補正ステップは、前記カラー補正値算出ステップにより算出されたカラー補正値から前記縮小瞳領域のカラーデータを生成するカラーデータ生成ステップを備え、前記カラー補正ステップは、前記カラーデータ生成ステップにより生成されたカラーデータに基づいて前記デジタル画像の瞳領域に対してカラー補正処理する点にある。   In the seventh feature configuration, as described in claim 15, in addition to the sixth feature configuration described above, the pupil region color correction step may include a color correction value calculated by the color correction value calculation step. A color data generation step for generating color data of the reduced pupil region, wherein the color correction step performs color correction processing on the pupil region of the digital image based on the color data generated by the color data generation step; In the point.

同第八の特徴構成は、同請求項16に記載した通り、上述の第七の特徴構成に加えて、前記カラー補正ステップは、前記所定の座標または前記所定の座標と前記所定の大きさとから得られる座標におけるカラーデータに基づいて前記デジタル画像の瞳領域に対してカラー補正処理する点にある。   In the eighth feature configuration, in addition to the seventh feature configuration described above, the color correction step may include the predetermined coordinates or the predetermined coordinates and the predetermined size. The color correction processing is performed on the pupil region of the digital image based on the color data at the obtained coordinates.

以上説明した通り、本発明によれば、目の瞳が赤く撮影されるといった赤目現象等が発生しているデジタル画像における瞳領域のカラー補正処理を確実に且つ効率よく実行可能な瞳補正処理装置及びその方法を提供することができるようになった。   As described above, according to the present invention, a pupil correction processing apparatus that can reliably and efficiently perform color correction processing of a pupil region in a digital image in which a red-eye phenomenon or the like occurs such that the pupil of the eye is photographed in red. And the method can be provided.

以下、本発明によるデジタル画像の瞳補正処理装置を写真処理装置に適用した実施の形態について説明する。前記写真処理装置1の外観構成は、図2に示すように、印画紙Pに対して出力画像データに基づいた露光処理を行なうとともに、露光された印画紙を現像処理する写真プリンタ2と、デジタル画像に対するプリントオーダ情報を設定入力するとともに各種の画像補正処理を行なう操作ステーション3とを備えて構成され、前記操作ステーション3によりデジタル画像に対して編集処理されたプリントデータが前記写真プリンタ2に出力されて所望の写真プリントが生成されるように構成されている。   Hereinafter, an embodiment in which a pupil correction processing apparatus for digital images according to the present invention is applied to a photographic processing apparatus will be described. As shown in FIG. 2, the external structure of the photographic processing apparatus 1 includes a photographic printer 2 that performs an exposure process on the photographic paper P based on output image data and develops the exposed photographic paper, and a digital printer. An operation station 3 for setting and inputting print order information for an image and performing various image correction processes is provided, and print data edited on the digital image by the operation station 3 is output to the photo printer 2. And a desired photographic print is generated.

前記写真プリンタ2の概観構成は図2、図3に示すように、感光材料としてのロール状の印画紙Pを収容し、また、感光材料供給部として前記印画紙Pを供給する二系統の印画紙マガジン21と、前記印画紙マガジン21から供給された印画紙Pを所定のプリントサイズに切断するシートカッター22と、前記切断後の印画紙Pの背面に画像番号等のプリント情報を印字するバックプリント部23と、前記写真プリント対象データに基づいて印画紙Pを露光する露光処理部24と、前記露光処理後の印画紙Pを現像、漂白、定着するための各処理液が充填された複数の処理槽25a、25b、25cが印画紙Pの搬送経路に沿って配置された現像処理部25と、現像処理後に乾燥処理された印画紙Pが排出される横送りコンベア26と、横送りコンベア26に集積された複数枚の印画紙(写真プリント)Pが写真プリントの注文単位で仕分けられるプリント仕分け処理部としてのソータ27とを備えて構成されている。前記露光処理部24は、プリント対象データに基づいて印画紙Pを送りながらR(赤)、G(緑)、B(青)の3原色の光線の露光を行う露光ヘッドを備えており、露光時には印画紙Pを副走査方向に搬送しながら、この搬送速度と同期して主走査方向に沿ったライン状に露光を行うよう構成されている。尚、露光ヘッドとしては、露光仕様に応じて、蛍光ビーム方式、液晶シャッター方式、DMD方式又はFOCRT方式などの採用が可能である。   As shown in FIGS. 2 and 3, the general structure of the photographic printer 2 is a two-line printing that contains a roll-like photographic paper P as a photosensitive material and supplies the photographic paper P as a photosensitive material supply unit. A paper magazine 21; a sheet cutter 22 for cutting the photographic paper P supplied from the photographic paper magazine 21 into a predetermined print size; and a back for printing print information such as an image number on the back of the photographic paper P after the cutting. A printing unit 23, an exposure processing unit 24 for exposing the photographic paper P based on the photographic print target data, and a plurality of processing solutions for developing, bleaching, and fixing the exposed photographic paper P. Processing tanks 25a, 25b, and 25c are arranged along the conveyance path of the photographic paper P, the horizontal feeding conveyor 26 that discharges the photographic paper P dried after the development processing, and the horizontal feeding A plurality of paper that is integrated in the conveyor 26 (photographic print) P is constituted by a sorter 27 as the print sorting unit for sorting the order unit of the photographic print. The exposure processing unit 24 includes an exposure head that exposes light beams of three primary colors of R (red), G (green), and B (blue) while feeding the photographic paper P based on print target data. In some cases, the photographic printing paper P is conveyed in the sub-scanning direction, and exposure is performed in a line along the main scanning direction in synchronization with the conveying speed. As the exposure head, a fluorescent beam method, a liquid crystal shutter method, a DMD method, a FOCRT method, or the like can be adopted depending on the exposure specification.

つまり、前記写真プリンタ2は、2つの印画紙マガジン21に納めたロール状の印画紙Pを搬送してプリントサイズに切断するとともに、このように切断された印画紙Pに対し、露光処理部24で露光処理を行い、この露光処理後の印画紙Pを複数の現像処理槽を有した現像処理部25に送って現像する。そして、現像処理され、乾燥処理の後に当該写真プリンタ2の上部の横送りコンベア26からソータ27に送られた印画紙Pを、つまり写真プリントPをソータ27の複数のトレイにプリント注文毎に仕分けた状態で集積するように構成されている。   That is, the photographic printer 2 conveys the roll-shaped photographic paper P stored in the two photographic paper magazines 21 and cuts it to the print size, and the exposure processing unit 24 applies the photographic paper P thus cut. Then, the exposure process is performed, and the photographic paper P after the exposure process is sent to the development processing unit 25 having a plurality of development processing tanks for development. Then, after the development process and the drying process, the photographic paper P sent to the sorter 27 from the lateral feed conveyor 26 at the top of the photographic printer 2, that is, the photographic prints P are sorted into a plurality of trays of the sorter 27 for each print order It is constituted so that it may accumulate in the state.

前記操作ステーション3の外観構成は、図2に示すように、現像済みの写真フィルムFから画像をデジタル画像として読み込むフィルムスキャナ31と、デジタルスチルカメラ等で撮影されたデジタル画像が格納されたメモリカード等のデジタル画像記憶メディアMから前記デジタル画像を読み取るメディアドライバ32と、コントローラ33としての汎用コンピュータ等とを備えて構成されている。尚、前記コントローラ33には、汎用のオペレーティングシステムの管理下で動作し当該写真処理装置1の各種制御が実行されるアプリケーションプログラムがインストールされ、オペレータとの操作インターフェースとしてモニタ34、キーボード35、マウス36等が接続されている。   As shown in FIG. 2, the operation station 3 has a film scanner 31 that reads an image from a developed photographic film F as a digital image, and a memory card that stores a digital image taken by a digital still camera or the like. And a media driver 32 for reading the digital image from the digital image storage medium M, and a general-purpose computer as the controller 33. The controller 33 is installed with an application program that operates under the control of a general-purpose operating system and executes various controls of the photographic processing apparatus 1, and has a monitor 34, a keyboard 35, and a mouse 36 as operation interfaces with the operator. Etc. are connected.

前記コントローラ33のハードウェア及びソフトウェアの協働により実行されるデジタル画像の瞳領域におけるカラー補正処理にかかる機能ブロック構成は、図1に示すように、デジタル画像入力手段としての前記フィルムスキャナ31やメディアドライバ32によって読み取られたデジタル画像等を格納するメモリ37と、前記読み取られたデジタル画像に基づいた画像情報や入力情報等からなるグラフィック操作画面を生成し前記モニタ34に前記グラフィック操作画面の表示を行うとともに前記グラフィック操作画面に対する前記キーボード35またはマウス36からの入力操作に基づいて各種の制御コマンドを生成するグラフィックユーザーインターフェース(GUI)部38と、前記メモリ37に格納されたデジタル画像に対して前記制御コマンドに基づいて瞳領域を検出し前記瞳領域をカラー補正処理する瞳補正処理部39とを備えて構成されている。   As shown in FIG. 1, the functional block configuration relating to the color correction processing in the pupil region of the digital image, which is executed by the cooperation of the hardware and software of the controller 33, includes the film scanner 31 and the media as digital image input means. A memory 37 for storing a digital image read by the driver 32 and a graphic operation screen including image information and input information based on the read digital image are generated, and the graphic operation screen is displayed on the monitor 34. A graphic user interface (GUI) unit 38 for generating various control commands based on an input operation from the keyboard 35 or mouse 36 to the graphic operation screen; and a digital image stored in the memory 37 The pupil area to detect the pupil area based on the serial control command is constituted by a pupil correction processing unit 39 to the color correction process.

前記フィルムスキャナ31は、前記フィルムFに記録された画像を低解像度ではあるものの高速で読み取るプレスキャンモードと、低速ではあるものの高解像度で読み取る本スキャンモードの二モードで作動するように構成され、通常はプレスキャンモードで読み込まれた低解像度のコマ画像がプレジャッジ画面で表示され、オペレータによりプリントオーダ情報の入力や各種の画像補正処理がなされ、このときの各種補正パラメータに基づいて本スキャンモードで読み込まれた高解像度の画像データに対して最終の補正が行なわれてプリントデータが生成される。   The film scanner 31 is configured to operate in two modes: a pre-scan mode that reads an image recorded on the film F at a high speed although it has a low resolution, and a main scan mode that reads a high resolution at a low speed, Normally, the low-resolution frame image read in the pre-scan mode is displayed on the pre-judge screen, and the operator inputs print order information and various image correction processes. Based on the various correction parameters at this time, the main scan mode is displayed. The final correction is performed on the high-resolution image data read in (1) to generate print data.

同様にメディアドライバ32で読み込まれたサムネイル画像、サムネイル画像が存在しない場合には高解像度の画像から縮小処理されたサムネイル画像がプレジャッジ画面で表示され、各種の補正処理が行なわれた後にその補正パラメータに基づいて高解像度のデジタル画像が補正処理される。   Similarly, if there is no thumbnail image read by the media driver 32 or a thumbnail image, a thumbnail image reduced from a high resolution image is displayed on the pre-judge screen, and after various correction processes are performed, the correction is performed. A high-resolution digital image is corrected based on the parameters.

前記プレジャッジ画面に表示されたサムネイル画像に対して高精細な補正処理が必要となる場合にはその都度高解像度のデジタル画像が読み込まれてその縮小画像を表示する一コマ拡大モードに移行して詳細な補正処理が実行される。   When high-definition correction processing is required for the thumbnail image displayed on the pre-judge screen, each time a transition is made to a one-frame enlargement mode in which a high-resolution digital image is read and the reduced image is displayed. Detailed correction processing is executed.

例えば、プレジャッジ画面でオペレータにより赤目現象の発生等から瞳領域のカラー補正が必要と認識されたサムネイル画像がマウス36でダブルクリックされると一コマ拡大モードに移行して、本スキャンモードにより読み込まれた高解像度のデジタル画像、或いはメディアドライバ32から読み込まれた高解像度のデジタル画像が前記メモリ37に格納され、前記メモリ37に格納された高解像度のデジタル画像に基づいて以下に説明する瞳補正処理部39が起動される。   For example, when a thumbnail image recognized as needing color correction of the pupil area by the operator on the pre-judge screen is double-clicked with the mouse 36, the mode shifts to the single frame enlargement mode and is read in the main scan mode. The high-resolution digital image read or the high-resolution digital image read from the media driver 32 is stored in the memory 37, and the pupil correction described below is based on the high-resolution digital image stored in the memory 37. The processing unit 39 is activated.

前記瞳補正処理部39は、前記メモリ37に格納されたデジタル画像の瞳領域を検出する瞳領域検出手段40と、前記瞳領域検出手段40により検出されたデジタル画像の瞳領域に対してカラー補正処理する瞳領域カラー補正手段46とを備えて構成されている。   The pupil correction processing unit 39 detects the pupil area of the digital image stored in the memory 37, and performs color correction on the pupil area of the digital image detected by the pupil area detection means 40. It comprises pupil region color correction means 46 for processing.

前記瞳領域検出手段40は、前記メモリ37に格納されたデジタル画像を縮小した縮小デジタル画像に縮小処理する縮小処理部41と、前記縮小処理部41により縮小処理された縮小デジタル画像の瞳領域である縮小瞳領域を検出する縮小瞳検出部42と、前記縮小瞳検出部42により検出された縮小瞳領域に基づいて前記メモリ37に格納されたデジタル画像の瞳領域を検出する瞳検出部43とを備えて構成されている。   The pupil region detection means 40 is a reduction processing unit 41 that performs reduction processing to a reduced digital image obtained by reducing the digital image stored in the memory 37, and a pupil region of the reduced digital image reduced by the reduction processing unit 41. A reduced pupil detector 42 for detecting a reduced pupil region; a pupil detector 43 for detecting a pupil region of a digital image stored in the memory 37 based on the reduced pupil region detected by the reduced pupil detector 42; It is configured with.

前記縮小処理部41は、前記メモリ37に格納されたデジタル画像における各画素に対して、特定画素となる画素を含んだ目的縮小サイズに応じた所定数の画素群における画素データの平均値を算出して、前記算出された平均値を前記特定画素の新たな画素データとして置換する平滑化処理を実行し、さらに必要な場合には目的縮小サイズとなるように画素の間引き処理を行ない、前記間引き処理により尚もまだ残っている前記新たな画素データとなった各画素の座標を新たな座標に置換する圧縮処理を実行することで、縮小デジタル画像を生成するように構成されている。尚、前記デジタル画像が前記縮小デジタル画像に縮小処理される縮小率は、予め前記デジタル画像のサイズに応じた縮小率が定められた構成となっている。   The reduction processing unit 41 calculates, for each pixel in the digital image stored in the memory 37, an average value of pixel data in a predetermined number of pixel groups according to a target reduction size including a pixel as a specific pixel. Then, smoothing processing is performed to replace the calculated average value with new pixel data of the specific pixel, and if necessary, pixel thinning processing is performed so as to obtain a target reduced size, and the thinning processing is performed. It is configured to generate a reduced digital image by executing a compression process that replaces the coordinates of each pixel that has become the new pixel data still remaining by the process with the new coordinates. Note that the reduction rate at which the digital image is reduced to the reduced digital image has a predetermined reduction rate corresponding to the size of the digital image.

前記縮小瞳検出部42は、前記GUI38を介して前記モニタ34に表示される前記縮小処理部41により縮小処理された縮小デジタル画像に対して、例えば、図4に示すように、オペレータにより前記マウス36またはキーボード35を介して操作指定される二点P1(x1,y1)、P2(x2,y2)を対角とした矩形領域Eにおけるヒストグラムを生成して彩度が所定の閾値範囲となる連続画素領域を縮小瞳領域として検出するように構成されている。   For example, as shown in FIG. 4, the reduced pupil detection unit 42 applies the mouse to the reduced digital image reduced by the reduction processing unit 41 displayed on the monitor 34 via the GUI 38. A histogram is generated in a rectangular area E with two points P1 (x1, y1) and P2 (x2, y2) designated by operation via the keyboard 36 or the keyboard 35, and the saturation is continuously within a predetermined threshold range. The pixel area is detected as a reduced pupil area.

尚、前記縮小瞳領域の検出は、前記彩度の所定の閾値範囲を予め設定しておくことで、オペレータにより前記矩形領域Eが操作指定された後に自動的に実施される構成としてもよいし、前記彩度の所定の閾値範囲を前記マウス36またはキーボード35を介して設定可能な構成としてもよい。オペレータによる前記縮小瞳領域の微調整が可能となるとともに、赤目現象となっている瞳の他、種々の色となっている瞳に対しても検出が可能となる。   The detection of the reduced pupil area may be automatically performed after the rectangular area E is designated by the operator by setting a predetermined threshold range of the saturation in advance. The predetermined threshold range of the saturation may be set via the mouse 36 or the keyboard 35. The operator can finely adjust the reduced pupil region, and can detect not only the red eye phenomenon but also the pupils of various colors.

また、前記縮小瞳領域の検出は、彩度の他に、明度や色度、または、これらの組合せに基づいた値が所定の閾値範囲となる連続画素領域を縮小瞳領域として検出するように構成してもよい。   Further, the detection of the reduced pupil region is configured to detect, as the reduced pupil region, a continuous pixel region in which a value based on lightness, chromaticity, or a combination thereof is within a predetermined threshold range in addition to saturation. May be.

更に、前記縮小瞳検出部42は、前記検出した縮小瞳領域を円領域として近似し、前記円領域の中心座標と前記円領域の半径を算出するように構成されている。例えば、前記縮小瞳領域において、画素の列方向(x軸方向)への連続画素数が最大となっている画素行における前記連続画素数と画素の行方向(y軸方向)への連続画素数が最大となっている画素列における前記連続画素数との平均画素数の半値を前記円領域の半径として検出し、また、画素の列方向(x軸方向)への連続画素数が最大となっている画素行におけるy座標を前記円領域の中心位置のy座標とし、画素の行方向(y軸方向)への連続画素数が最大となっている画素列におけるx座標を前記円領域の中心位置のx座標として検出するように構成されている。   Further, the reduced pupil detection unit 42 is configured to approximate the detected reduced pupil region as a circular region, and calculate the center coordinates of the circular region and the radius of the circular region. For example, in the reduced pupil region, the number of continuous pixels in the pixel row where the number of continuous pixels in the pixel column direction (x-axis direction) is maximum and the number of continuous pixels in the pixel row direction (y-axis direction). The half value of the average number of pixels with respect to the number of continuous pixels in the pixel column having the maximum is detected as the radius of the circular area, and the number of continuous pixels in the pixel column direction (x-axis direction) is maximum. The y coordinate in the pixel row is the y coordinate of the center position of the circle region, and the x coordinate in the pixel column in which the number of continuous pixels in the row direction (y-axis direction) of the pixel is the maximum The position is detected as the x coordinate.

つまり、前記縮小瞳検出部42の動作について、図5のフローチャートに基づいて説明すると、縮小デジタル画像に対して、オペレータにより前記マウス36またはキーボード35を介して操作指定される二点P1、P2を対角とした矩形領域Eが指定されると(SA1)、前記縮小瞳検出部42は、前記矩形領域Eを抽出し(SA2)、前記矩形領域Eにおける各画素に対して(SA3、SA4、SA5、SA6、SA7、SA8)、画素データにおける明度Mが所定の第一明度閾値Mth1と所定の第二明度閾値Mth2の範囲以内で(SA9)、かつ、彩度Sが所定の第一彩度閾値Sth1と所定の第二彩度閾値Sth2範囲以内となる画素を検出する(SA10、SA11)。前記矩形領域Eにおける各画素の検出が終了すると、前記検出された画素が所定数の連続画素となっている連続画素領域を縮小瞳領域として検出する(SA12)。   That is, the operation of the reduced pupil detection unit 42 will be described with reference to the flowchart of FIG. 5. Two points P1 and P2 that are designated by the operator to operate the reduced digital image via the mouse 36 or the keyboard 35 are displayed. When a diagonal rectangular area E is designated (SA1), the reduced pupil detection unit 42 extracts the rectangular area E (SA2), and for each pixel in the rectangular area E (SA3, SA4, SA5, SA6, SA7, SA8), the lightness M in the pixel data is within the range of the predetermined first lightness threshold Mth1 and the predetermined second lightness threshold Mth2 (SA9), and the saturation S is the predetermined first saturation. Pixels within the range between the threshold Sth1 and the predetermined second saturation threshold Sth2 are detected (SA10, SA11). When the detection of each pixel in the rectangular area E is completed, a continuous pixel area in which the detected pixels are a predetermined number of continuous pixels is detected as a reduced pupil area (SA12).

前記縮小瞳検出部42は、前記検出した縮小瞳領域における画素の各列に対する行方向の連続画素数を計測し(SA13)、前記連続画素数が最大となる列におけるx座標を検出する(SA14)。また、前記検出した縮小瞳領域における画素の各行に対する列方向の連続画素数を計測し(SA15)、前記連続画素数が最大となる行におけるy座標を検出する(SA16)。更に、前記計測した画素の行方向で最大となる連続画素数と画素の列方向で最大となる連続画素数との平均の半値を検出する(SA17)。つまり、前記縮小瞳検出部42は、前記検出した縮小瞳領域を円領域として近似し、その中心座標とその半径を検出する。   The reduced pupil detection unit 42 measures the number of consecutive pixels in the row direction for each column of pixels in the detected reduced pupil region (SA13), and detects the x coordinate in the column where the number of consecutive pixels is maximum (SA14). ). Further, the number of continuous pixels in the column direction for each row of pixels in the detected reduced pupil region is measured (SA15), and the y coordinate in the row where the number of continuous pixels is maximum is detected (SA16). Further, an average half value of the maximum number of continuous pixels in the row direction of the measured pixels and the maximum number of continuous pixels in the pixel column direction is detected (SA17). In other words, the reduced pupil detection unit 42 approximates the detected reduced pupil region as a circular region, and detects the center coordinates and the radius thereof.

尚、前記縮小瞳検出部42は、前記検出された縮小瞳領域に対して種々のサイズの基準円を重ね合わせ、前記縮小瞳領域と最も一致度の高いサイズの基準円を検出し、また、前記縮小瞳領域に対して最も一致度の高い位置となっているときの前記基準円の位置を検出し、このときにおける前記基準円の半径、及び、中心座標とを検出する構成としてもよい。   The reduced pupil detection unit 42 superimposes reference circles of various sizes on the detected reduced pupil area, detects a reference circle having a size having the highest degree of coincidence with the reduced pupil area, and A configuration may be adopted in which the position of the reference circle when the degree of coincidence is the highest with respect to the reduced pupil region is detected, and the radius and center coordinates of the reference circle at this time are detected.

前記瞳検出部43は、前記縮小瞳検出部42により検出された中心座標と半径に基づいて、前記メモリ37に格納されているデジタル画像の瞳領域を検出するもので、前記メモリ37に格納されているデジタル画像が前記縮小処理部41によって縮小デジタル画像に縮小処理された縮小率に応じた拡大率に基づいて前記中心座標と半径とを変換し、前記変換された中心座標と半径により得られる前記デジタル画像内の円領域を特定し、前記特定された円領域を瞳領域として検出するように構成されている。尚、前記拡大率は、前記縮小率に応じた拡大率が予め定められた構成となっている。例えば、前記縮小率が1/N倍であった場合には、前記拡大率はN倍と設定することができ、更にこのとき、前記縮小デジタル画像における縮小瞳領域の中心座標が(xa,ya)で、半径がrであった場合には、変換された中心座標は(N・xa,N・ya)として、また、変換された半径はN・rとして算出することができる。   The pupil detection unit 43 detects the pupil region of the digital image stored in the memory 37 based on the center coordinates and radius detected by the reduced pupil detection unit 42, and is stored in the memory 37. The center coordinate and the radius are converted based on the enlargement rate corresponding to the reduction rate of the digital image being reduced to the reduced digital image by the reduction processing unit 41, and obtained by the converted center coordinate and radius. A circular area in the digital image is specified, and the specified circular area is detected as a pupil area. Note that the enlargement ratio has a predetermined enlargement ratio corresponding to the reduction ratio. For example, when the reduction ratio is 1 / N times, the enlargement ratio can be set to N times. At this time, the central coordinates of the reduced pupil region in the reduced digital image are (xa, ya If the radius is r, the converted center coordinates can be calculated as (N · xa, N · ya), and the converted radius can be calculated as N · r.

前記瞳検出部43の動作について、図6のフローチャートに基づいて説明すると、前記瞳検出部43は、前記縮小瞳検出部42により前記縮小瞳領域における中心座標と半径が検出されると(SB1)、前記メモリ37に格納されているデジタル画像が前記縮小処理部41により縮小デジタル画像に縮小処理された縮小率の確認を行い(SB2)、前記縮小デジタル画像の縮小率に応じた拡大率を求める(SB3)。   The operation of the pupil detection unit 43 will be described with reference to the flowchart of FIG. 6. When the reduced pupil detection unit 42 detects the center coordinates and the radius in the reduced pupil region, the pupil detection unit 43 (SB1). The reduction rate of the digital image stored in the memory 37 is reduced to the reduced digital image by the reduction processing unit 41 (SB2), and the enlargement rate corresponding to the reduction rate of the reduced digital image is obtained. (SB3).

また、前記瞳検出部43は、前記縮小瞳領域における中心座標と半径とを前記拡大率に基づいて変換し(SB4)、前記変換された中心座標と半径とにより得られる前記デジタル画像内の円領域を特定し(SB5)、前記円領域を前記デジタル画像における瞳領域として検出する(SB6)。   The pupil detection unit 43 converts the center coordinates and radius in the reduced pupil region based on the enlargement ratio (SB4), and a circle in the digital image obtained by the converted center coordinates and radius. An area is specified (SB5), and the circular area is detected as a pupil area in the digital image (SB6).

前記瞳領域カラー補正手段46は、前記縮小瞳検出部42より検出された縮小瞳領域に対してカラー補正処理を行ない、前記カラー補正処理に適用されたカラー補正値を算出するカラー補正値算出部44と、前記瞳検出部43により検出された瞳領域に対して前記カラー補正値算出部44により算出されたカラー補正値に基づいてカラー補正処理を行なうカラー補正部45とを備えて構成されている。   The pupil area color correction unit 46 performs a color correction process on the reduced pupil area detected by the reduced pupil detection unit 42, and calculates a color correction value applied to the color correction process. 44, and a color correction unit 45 that performs color correction processing on the pupil region detected by the pupil detection unit 43 based on the color correction value calculated by the color correction value calculation unit 44. Yes.

前記カラー補正値算出部44は、前記GUI38を介して前記モニタ34に表示される前記縮小デジタル画像の縮小瞳領域に対して、オペレータにより前記マウス36またはキーボード35を介して順次試されるカラー補正値、例えば、彩度や色度、明度等毎に夫々設定される補正率等の入力操作指示に基づいて順次カラー補正処理を行なうとともに、前記GUI38を介して前記カラー補正処理をおこなった縮小瞳領域のカラー補正処理画像を前記モニタ34に表示し、オペレータにより最終的に選択された縮小瞳領域のカラー補正処理画像に適用されているカラー補正値を算出するように構成されている。   The color correction value calculation unit 44 performs color correction values sequentially tried by the operator via the mouse 36 or the keyboard 35 on the reduced pupil area of the reduced digital image displayed on the monitor 34 via the GUI 38. For example, a reduced pupil region in which color correction processing is sequentially performed based on input operation instructions such as a correction rate set for each of saturation, chromaticity, lightness, and the like, and the color correction processing is performed via the GUI 38 The color correction processing image is displayed on the monitor 34, and the color correction value applied to the color correction processing image of the reduced pupil region finally selected by the operator is calculated.

前記カラー補正部45は、前記瞳検出部43により検出された前記デジタル画像における瞳領域の画素に対して、前記カラー補正値算出部44により算出されたカラー補正値に基づいてカラー補正処理を行なうように構成されている。   The color correction unit 45 performs color correction processing on the pixels in the pupil region in the digital image detected by the pupil detection unit 43 based on the color correction value calculated by the color correction value calculation unit 44. It is configured as follows.

つまり、前記カラー補正部45は、前記カラー補正値算出部44により算出されたカラー補正値としての彩度や色度、明度等の補正率を、前記瞳検出部43により検出された前記デジタル画像における瞳領域の画素値に積算処理する等により反映して新たな画素値を算出することで、カラー補正処理を行なうように構成されている。   That is, the color correction unit 45 detects the digital image detected by the pupil detection unit 43 with a correction rate such as saturation, chromaticity, and brightness as the color correction value calculated by the color correction value calculation unit 44. The color correction processing is performed by calculating a new pixel value by reflecting the pixel value in the pupil region in the image by integration processing or the like.

以下、デジタル画像の瞳領域におけるカラー補正処理の動作について、図7のフローチャートに基づいて説明する。プレジャッジ画面でオペレータにより赤目現象の発生等から瞳領域のカラー補正が必要と認識されたサムネイル画像がマウス36でダブルクリックされ、一コマ拡大モードに移行し、本スキャンモードにより読み込まれた高解像度のデジタル画像、或いはメディアドライバ32から読み込まれた高解像度のデジタル画像が前記メモリ37に格納されると(SC1)、前記縮小処理部41は、前記デジタル画像データを前記デジタル画像サイズに応じた縮小処理を行うことで縮小デジタル画像を生成する(SC2)。   Hereinafter, the operation of the color correction process in the pupil region of the digital image will be described based on the flowchart of FIG. A high-resolution image read in the main scan mode by double-clicking with the mouse 36 on the thumbnail image that the operator recognized on the pre-judge screen as a result of red-eye phenomenon, etc. When the high-resolution digital image read from the media driver 32 is stored in the memory 37 (SC1), the reduction processing unit 41 reduces the digital image data according to the digital image size. By performing the processing, a reduced digital image is generated (SC2).

前記縮小処理部41により縮小デジタル画像が生成されると、前記モニタ34には、前記GUIを介して前記縮小デジタル画像が表示される(SC3)。前記モニタ34上における前記縮小デジタル画像に対して、オペレータにより前記マウス36またはキーボード35を介して前記矩形領域Eが指定されると(SC4)、前記縮小瞳検出部42は、上述したように前記矩形領域E内において縮小瞳領域の自動検出を行ない(SC5)、前記縮小瞳領域を円領域として近似し、その中心座標とその半径を検出する(SC6)。   When the reduced digital image is generated by the reduction processing unit 41, the reduced digital image is displayed on the monitor 34 via the GUI (SC3). When the rectangular area E is designated by the operator via the mouse 36 or the keyboard 35 for the reduced digital image on the monitor 34 (SC4), the reduced pupil detection unit 42, as described above, The reduced pupil region is automatically detected in the rectangular region E (SC5), the reduced pupil region is approximated as a circular region, and its center coordinates and its radius are detected (SC6).

一方、前記カラー補正値算出部44は、前記GUI38を介して前記モニタ34に表示される前記縮小デジタル画像の瞳領域に対して、オペレータにより前記マウス36またはキーボード35を介して順次試されるカラー補正値の操作指示に基づいて順次カラー補正処理を行なうとともに(SC7、SC8)、前記GUI38を介して前記カラー補正処理を行なった瞳領域のカラー補正処理画像を前記モニタ34に表示し(SC9)、オペレータにより最終的に選択された瞳領域のカラー補正処理画像に適用されているカラー補正値を算出する(SC10、SC11)。   On the other hand, the color correction value calculation unit 44 performs color correction sequentially tried by the operator via the mouse 36 or the keyboard 35 on the pupil region of the reduced digital image displayed on the monitor 34 via the GUI 38. The color correction processing is sequentially performed based on the value operation instruction (SC7, SC8), and the color correction processing image of the pupil region subjected to the color correction processing via the GUI 38 is displayed on the monitor 34 (SC9). A color correction value applied to the color correction processing image of the pupil region finally selected by the operator is calculated (SC10, SC11).

前記瞳検出部43は、上述したように、前記縮小瞳検出部42により検出された中心座標と半径に基づいて、前記メモリ37に格納されているデジタル画像の瞳領域を検出する(SC12)。   As described above, the pupil detection unit 43 detects the pupil region of the digital image stored in the memory 37 based on the center coordinates and the radius detected by the reduced pupil detection unit 42 (SC12).

前記カラー補正部45は、前記瞳検出部43により検出された前記デジタル画像における瞳領域の画素に対して、前記カラー補正値算出部44により算出されたカラー補正値に基づいてカラー補正処理を行なう(SC13)。   The color correction unit 45 performs color correction processing on the pixels in the pupil region in the digital image detected by the pupil detection unit 43 based on the color correction value calculated by the color correction value calculation unit 44. (SC13).

尚、前記瞳領域のカラー補正処理が行なわれたデジタル画像は、プリントデータ生成部45によりプリントデータに変換された後、前記写真プリンタ2により写真プリントとして出力される。   The digital image that has been subjected to the color correction processing of the pupil region is converted into print data by the print data generation unit 45 and then output as a photographic print by the photographic printer 2.

以下、別の実施形態について説明する。上述では、前記縮小瞳検出部42は、前記検出した縮小瞳領域を円領域として近似することで、前記円領域の中心座標と前記円領域の半径を算出し、前記瞳検出部43が、前記円領域の中心座標と前記円領域の半径に基づいて前記デジタル画像の瞳領域を検出した場合について説明したが、前記縮小瞳検出部42は、前記検出した縮小瞳領域の重心の座標と、前記重心の座標から前記重心の座標に対して所定の角度方向における前記縮小瞳領域の外縁部までの複数の距離とを算出し、前記瞳検出部43が、前記縮小瞳領域の重心の座標と、前記重心の座標から前記重心の座標に対して所定の角度における前記縮小瞳領域の外縁部までの複数の距離とに基づいて前記デジタル画像の瞳領域を検出する構成としてもよい。尚、以下説明の便宜上、前記縮小瞳検出部42を縮小瞳検出部50のように、また前記瞳検出部43を瞳検出部51のように符号を代えて説明する。   Hereinafter, another embodiment will be described. In the above description, the reduced pupil detection unit 42 approximates the detected reduced pupil region as a circular region to calculate the center coordinates of the circular region and the radius of the circular region, and the pupil detection unit 43 Although the case where the pupil region of the digital image is detected based on the center coordinates of the circular region and the radius of the circular region has been described, the reduced pupil detection unit 42, the coordinates of the center of gravity of the detected reduced pupil region, Calculating a plurality of distances from the coordinates of the center of gravity to the outer edge of the reduced pupil region in a predetermined angular direction with respect to the coordinates of the center of gravity, and the pupil detection unit 43 includes the coordinates of the center of gravity of the reduced pupil region; The pupil region of the digital image may be detected based on a plurality of distances from the coordinates of the center of gravity to the outer edge of the reduced pupil region at a predetermined angle with respect to the coordinates of the center of gravity. For convenience of explanation, the reduced pupil detection unit 42 will be described as a reduced pupil detection unit 50, and the pupil detection unit 43 will be described as a pupil detection unit 51 with different reference numerals.

前記縮小瞳検出部50は、上述と同様に縮小瞳領域を検出した後に、前記検出した縮小瞳領域の重心の座標と、前記重心の座標から前記重心の座標に対して所定の角度方向における前記縮小瞳領域の外縁部までの複数の距離とを算出するように構成されている。   The reduced pupil detection unit 50 detects the reduced pupil area in the same manner as described above, and then the coordinates of the center of gravity of the detected reduced pupil area and the coordinates in the predetermined angular direction from the coordinates of the center of gravity to the coordinates of the center of gravity. A plurality of distances to the outer edge of the reduced pupil region are calculated.

前記縮小瞳領域の重心の座標は、例えば、前記縮小瞳領域におけるx座標の値の平均値とy座標の値の平均値とすることができる。つまり、前記算出されたx座標の値の平均値を前記縮小瞳領域の重心の座標におけるx座標の値とすることが、また、前記算出されたy座標の値の平均値を前記縮小瞳領域の重心の座標におけるy座標の値とすることができる。   The coordinates of the center of gravity of the reduced pupil region can be, for example, the average value of the x coordinate values and the average value of the y coordinate values in the reduced pupil region. That is, the average value of the calculated x-coordinate values is set as the x-coordinate value in the coordinates of the center of gravity of the reduced pupil region, and the average value of the calculated y-coordinate values is set as the reduced pupil region. The value of the y coordinate in the coordinates of the center of gravity of

前記重心の座標から前記重心の座標に対して所定の角度方向における前記縮小瞳領域の外縁部までの複数の距離は、例えば、図8に示すように、前記重心の座標と前記重心の座標に対して所定の角度方向における前記縮小瞳領域の外縁部の各座標とのズレ量をx軸方向とy軸方向とにおいて夫々個別に算出した値とすることができる。尚、前記複数の距離は、前記重心の座標から等角度間隔で異なる方向に位置する前記縮小瞳領域の外縁部の座標と、前記重心の座標とにおける各距離とすれば、後述する前記瞳検出部51による前記瞳領域の検出が比較的精度よく実施することが可能となり好ましい。   A plurality of distances from the coordinates of the center of gravity to the outer edge of the reduced pupil region in a predetermined angle direction with respect to the coordinates of the center of gravity are, for example, the coordinates of the center of gravity and the coordinates of the center of gravity as shown in FIG. On the other hand, the amount of deviation from each coordinate of the outer edge of the reduced pupil region in a predetermined angular direction can be a value calculated individually in the x-axis direction and the y-axis direction. If the plurality of distances are the distances between the coordinates of the outer edge of the reduced pupil region located in different directions at equal angular intervals from the coordinates of the center of gravity, and the coordinates of the center of gravity, the pupil detection described later is performed. It is preferable that the detection of the pupil region by the unit 51 can be performed with relatively high accuracy.

つまり、前記縮小瞳検出部50の動作について、図9のフローチャートに基づいて説明すると、前記縮小瞳検出部50は、上述と同様に縮小瞳領域を検出した後に(SD1)、前記縮小瞳領域におけるx座標の値の平均値とy座標の値の平均値とを算出する(SD2、SD3)。また、前記算出されたx座標の値の平均値とy座標の値の平均値を前記縮小瞳領域の重心の座標とし、前記重心の座標に対して所定の角度方向における前記縮小瞳領域の外縁部の座標を検出する(SD4)。例えば、前記重心の座標に対してR°間隔で360/Rの方向における前記縮小瞳領域の外縁部の各座標を検出する。   In other words, the operation of the reduced pupil detection unit 50 will be described with reference to the flowchart of FIG. 9. After the reduced pupil detection unit 50 detects the reduced pupil region as described above (SD1), An average value of x-coordinate values and an average value of y-coordinate values are calculated (SD2, SD3). The average value of the calculated x-coordinate values and the average value of the y-coordinate values are used as the coordinates of the center of gravity of the reduced pupil region, and the outer edge of the reduced pupil region in a predetermined angle direction with respect to the coordinates of the center of gravity. The coordinates of the part are detected (SD4). For example, each coordinate of the outer edge portion of the reduced pupil region in the direction of 360 / R at intervals of R ° with respect to the coordinates of the center of gravity is detected.

前記縮小瞳検出部50は、前記検出された縮小瞳領域の外縁部の各座標と、前記縮小瞳領域の重心の座標との距離を検出する。つまり、前記検出された縮小瞳領域の外縁部の各座標におけるx座標の値と前記重心の座標におけるx座標の値の差と、前記各外縁部の座標におけるy座標の値と前記重心の座標におけるy座標の値の差とを算出する(SD5、SD6)。   The reduced pupil detection unit 50 detects the distance between each coordinate of the detected outer edge portion of the reduced pupil region and the coordinates of the center of gravity of the reduced pupil region. That is, the difference between the x-coordinate value at each coordinate of the detected outer edge of the reduced pupil region and the x-coordinate value at the center of gravity coordinate, the y-coordinate value at each outer edge coordinate, and the coordinates of the center of gravity And the difference between the values of the y-coordinates at (SD5, SD6).

前記瞳検出部51は、前記メモリ37に格納されているデジタル画像が前記縮小処理部41によって縮小デジタル画像に縮小処理された縮小率に応じた拡大率に基づいて、前記縮小瞳検出部50によって検出された縮小瞳領域の重心の座標と前記複数の距離とを変換し、前記変換された重心座標から前記変換された距離だけ離れた位置に対応する各座標を算出する。また、前記算出された各座標に包囲される前記デジタル画像内の領域を特定し、前記特定された領域を瞳領域として検出するように構成されている。尚、前記拡大率は、上述と同様に前記縮小率に応じた拡大率が予め定められた構成となっている。例えば、前記縮小率が1/N倍であった場合には、前記拡大率はN倍と設定することができ、更にこのとき、前記縮小デジタル画像における縮小瞳領域の重心の座標が(xa,ya)で、前記距離が(xb,yb)であった場合には、変換された中心座標は(N・xa,N・ya)として、また、変換された距離は(N・xb,N・yb)として算出することができる。   The pupil detection unit 51 uses the reduction pupil detection unit 50 based on an enlargement rate corresponding to a reduction rate obtained by reducing the digital image stored in the memory 37 into a reduced digital image by the reduction processing unit 41. The coordinates of the center of gravity of the detected reduced pupil region and the plurality of distances are converted, and each coordinate corresponding to a position separated from the converted center of gravity coordinates by the converted distance is calculated. Further, an area in the digital image surrounded by the calculated coordinates is specified, and the specified area is detected as a pupil area. Note that the enlargement ratio is determined in advance according to the reduction ratio, as described above. For example, when the reduction ratio is 1 / N times, the enlargement ratio can be set to N times. At this time, the coordinates of the center of gravity of the reduced pupil region in the reduced digital image are (xa, ya) and the distance is (xb, yb), the converted center coordinates are (N · xa, N · ya), and the converted distance is (N · xb, N · yb).

また、前記複数の距離が、前記重心の座標から等角度間隔で異なる方向に位置する前記縮小瞳領域の外縁部の座標と、前記重心の座標とにおける各距離となっていれば、これらを変換して得られる前記各座標が、比較的等間隔で配置されるため、前記座標等の情報量が比較的少なくても、これらの座標によって包囲される領域、つまり、瞳領域を比較的精度よく検出することができ好ましい。   Further, if the plurality of distances are the distances between the coordinates of the outer edge of the reduced pupil region and the coordinates of the center of gravity located in different directions at equal angular intervals from the coordinates of the center of gravity, these are converted. The coordinates obtained in this manner are arranged at relatively equal intervals, so even if the amount of information such as the coordinates is relatively small, the area surrounded by these coordinates, that is, the pupil area, is relatively accurately detected. This can be detected.

つまり、前記瞳検出部51の動作について、図10のフローチャートに基づいて説明すると、前記瞳検出部51は、前記縮小瞳検出部50により前記縮小瞳領域における前記重心の座標と前記複数の距離が検出されると(SE1)、前記メモリ37に格納されているデジタル画像が前記縮小処理部41により縮小デジタル画像に縮小処理された縮小率の確認を行い(SE2)、前記縮小デジタル画像の縮小率に応じた拡大率を求める(SE3)。   That is, the operation of the pupil detection unit 51 will be described with reference to the flowchart of FIG. 10. The pupil detection unit 51 uses the reduced pupil detection unit 50 to determine the coordinates of the center of gravity in the reduced pupil region and the plurality of distances. When detected (SE1), the reduction ratio of the digital image stored in the memory 37 is reduced to the reduced digital image by the reduction processing unit 41 (SE2), and the reduction ratio of the reduced digital image is confirmed. The enlargement ratio corresponding to is obtained (SE3).

また、前記縮小瞳領域の重心の座標と前記複数の距離とを、前記拡大率に基づいて変換し(SE4)、前記変換された重心の座標と前記複数の距離とから、前記変換された重心座標から前記変換された距離だけ離れた位置に対応する各座標を算出する(SE5)。更に、前記算出された各座標に包囲される前記デジタル画像内の領域を特定し、前記特定された領域を瞳領域として検出する(SE6)
上述では、前記縮小瞳検出部50は、前記検出した縮小瞳領域の重心の座標と、前記重心の座標から前記重心の座標に対して所定の角度方向における前記縮小瞳領域の外縁部までの複数の距離とを算出し、前記瞳検出部51が、前記縮小瞳領域の重心の座標と、前記重心の座標から前記重心の座標に対して所定の角度における前記縮小瞳領域の外縁部までの複数の距離とに基づいて前記デジタル画像の瞳領域を検出する場合について説明したが、前記縮小瞳検出部50は、前記検出した縮小瞳領域の外縁部における所定数の座標を検出し、前記瞳検出部51が、前記縮小瞳領域の外縁部における所定数の座標に基づいて前記デジタル画像の瞳領域を検出する構成としてもよい。前記拡大率に基づいて前記縮小瞳領域の外縁部の各座標を変換し、前記変換された各座標に包囲される前記デジタル画像の領域を瞳領域として検出することができる。
Further, the coordinates of the center of gravity of the reduced pupil region and the plurality of distances are converted based on the magnification (SE4), and the converted center of gravity is calculated from the converted coordinates of the center of gravity and the plurality of distances. Each coordinate corresponding to a position away from the coordinate by the converted distance is calculated (SE5). Further, an area in the digital image surrounded by the calculated coordinates is specified, and the specified area is detected as a pupil area (SE6).
In the above description, the reduced pupil detection unit 50 includes a plurality of coordinates of the detected center of gravity of the reduced pupil region, and a plurality of coordinates from the center of gravity to the outer edge of the reduced pupil region in a predetermined angle direction with respect to the coordinates of the center of gravity. The pupil detection unit 51 calculates a plurality of coordinates from the center of gravity of the reduced pupil region to the outer edge of the reduced pupil region at a predetermined angle with respect to the coordinates of the center of gravity. In the above description, the reduced pupil detection unit 50 detects a predetermined number of coordinates in the outer edge of the detected reduced pupil region, and detects the pupil. The unit 51 may be configured to detect the pupil region of the digital image based on a predetermined number of coordinates at the outer edge of the reduced pupil region. The coordinates of the outer edge of the reduced pupil area can be converted based on the magnification ratio, and the digital image area surrounded by the converted coordinates can be detected as a pupil area.

また、前記瞳領域カラー補正手段46は、前記カラー補正値算出部44により算出されたカラー補正値から前記縮小瞳領域のカラーデータを生成するカラーデータ生成部を備え、前記カラー補正部45は、前記カラーデータ生成部により生成されたカラーデータに基づいて前記デジタル画像の瞳領域に対してカラー補正処理する構成としてもよい。例えば、前記カラー補正部45は、前記縮小瞳領域のカラー補正処理を行なって得られるカラーデータ、つまり、前記カラーデータ生成部により生成されるカラーデータから前記デジタル画像の瞳領域の画素数に対応するように補間カラーデータを生成し、前記デジタル画像の瞳領域のカラーデータと、前記補間カラーデータを含む前記縮小瞳領域のカラー補正処理を行なったカラーデータとを置き換える置換処理を行なえばよい。尚、前記補間カラーデータは、例えば、最近隣内挿法や共1次内挿法、3次たたみ込み内挿法(バイキュービック)等を用いて生成することができる。   The pupil region color correction unit 46 includes a color data generation unit that generates color data of the reduced pupil region from the color correction value calculated by the color correction value calculation unit 44, and the color correction unit 45 includes: A color correction process may be performed on the pupil region of the digital image based on the color data generated by the color data generation unit. For example, the color correction unit 45 corresponds to the number of pixels in the pupil region of the digital image from color data obtained by performing color correction processing on the reduced pupil region, that is, color data generated by the color data generation unit. In this way, interpolation color data is generated, and replacement processing is performed to replace the color data of the pupil region of the digital image and the color data subjected to color correction processing of the reduced pupil region including the interpolation color data. The interpolated color data can be generated by using, for example, nearest neighbor interpolation, bilinear interpolation, or cubic convolution (bicubic).

また、前記カラー補正部45は、所定の座標または前記所定の座標と所定の大きさとから得られる座標におけるカラーデータに基づいて前記デジタル画像の瞳領域に対してカラー補正処理する構成としてもよい。例えば、前記所定の座標を前記縮小瞳領域検出部により検出された縮小瞳領域を円領域に近似した中心座標とし、前記所定の大きさを前記円領域の半径とし、前記所定の座標と所定の大きさとから得られる座標を前記円領域の円周部に相当する座標とすることができる。また或いは、前記所定の座標を前記縮小瞳領域検出部により検出された縮小瞳領域の重心の座標とし、前記所定の大きさを前記重心の座標から前記重心の座標に対して所定の角度方向における前記縮小瞳領域の外縁部までの複数の距離とし、前記所定の座標と所定の大きさとから得られる座標を前記重心の座標に対して所定の角度方向に位置する前記縮小瞳領域の外縁部の座標とすることができる。更には、前記所定の座標を前記所定の座標を前記縮小瞳領域検出部により検出された縮小瞳領域の外縁部の座標としてもよい。何れにしても、適宜、補間カラーデータを生成し、前記デジタル画像の瞳領域のカラーデータと、前記補間カラーデータを含む前記縮小瞳領域のカラー補正処理を行なったカラーデータとを置き換える置換処理を行なえばよい。   Further, the color correction unit 45 may be configured to perform color correction processing on the pupil region of the digital image based on color data at predetermined coordinates or coordinates obtained from the predetermined coordinates and a predetermined size. For example, the predetermined coordinates are set as center coordinates approximating a reduced pupil area detected by the reduced pupil area detection unit to a circular area, the predetermined size is set as a radius of the circular area, and the predetermined coordinates and a predetermined The coordinates obtained from the size can be coordinates corresponding to the circumferential portion of the circular region. Alternatively, the predetermined coordinates are set as the coordinates of the center of gravity of the reduced pupil area detected by the reduced pupil area detection unit, and the predetermined size is set in a predetermined angle direction from the coordinates of the center of gravity to the coordinates of the center of gravity. A plurality of distances to the outer edge of the reduced pupil region, and a coordinate obtained from the predetermined coordinate and a predetermined size is a coordinate of the outer edge of the reduced pupil region located in a predetermined angular direction with respect to the coordinate of the center of gravity. It can be a coordinate. Furthermore, the predetermined coordinates may be used as the coordinates of the outer edge portion of the reduced pupil region detected by the reduced pupil region detection unit. In any case, a replacement process that appropriately generates interpolated color data and replaces the color data of the pupil area of the digital image with the color data that has been subjected to the color correction process of the reduced pupil area including the interpolated color data. Just do it.

尚、上述した実施形態は、本発明の一例に過ぎず、本発明の作用効果を奏する範囲において各ブロックの具体的構成等を適宜変更設計できることは言うまでもない。   Note that the above-described embodiment is merely an example of the present invention, and it is needless to say that the specific configuration and the like of each block can be changed and designed as appropriate within the scope of the effects of the present invention.

デジタル画像の瞳領域におけるカラー補正処理にかかる機能ブロック構成の説明図Explanatory drawing of a functional block configuration concerning color correction processing in the pupil region of a digital image 写真処理装置の外観構成の説明図Explanatory drawing of the external structure of the photo processing device 写真プリンタの概観構成の説明図Illustration of the photo printer's general structure 縮小デジタル画像に対する矩形領域の指定方法の説明図Illustration of how to specify a rectangular area for a reduced digital image 縮小瞳検出部の動作について説明するためのフローチャートFlow chart for explaining the operation of the reduced pupil detector 瞳検出部の動作について説明するためのフローチャートFlow chart for explaining the operation of the pupil detection unit デジタル画像の瞳領域におけるカラー補正処理の動作について説明するためのフローチャートFlow chart for explaining the operation of color correction processing in the pupil region of a digital image 重心の座標と、前記重心の座標から前記重心の座標に対して所定の角度方向における縮小瞳領域の外縁部までの複数の距離との説明図Explanatory diagram of the coordinates of the center of gravity and a plurality of distances from the coordinates of the center of gravity to the outer edge of the reduced pupil region in a predetermined angular direction with respect to the coordinates of the center of gravity 別実施形態における縮小瞳検出部の動作について説明するためのフローチャートThe flowchart for demonstrating operation | movement of the reduction pupil detection part in another embodiment. 別実施形態における瞳検出部の動作について説明するためのフローチャートThe flowchart for demonstrating operation | movement of the pupil detection part in another embodiment. デジタル画像を縮小デジタル画像に変換するための縮小処理の説明図Explanatory drawing of the reduction process for converting a digital image into a reduced digital image

符号の説明Explanation of symbols

1:写真処理装置
2:写真プリンタ
3:操作ステーション
31:フィルムスキャナ
32:メディアドライバ
33:コントローラ
34:モニタ
35:キーボード
36:モニタ
37:メモリ
38:GUI
39:瞳補正処理部
40:瞳領域検出手段
41:縮小処理部
42、50:縮小瞳検出部
43、51:瞳検出部
44:カラー補正値算出部
45:カラー補正部
46:瞳領域カラー補正手段
1: Photo processing device 2: Photo printer 3: Operation station 31: Film scanner 32: Media driver 33: Controller 34: Monitor 35: Keyboard 36: Monitor 37: Memory 38: GUI
39: Pupil correction processing unit 40: Pupil region detection means 41: Reduction processing unit 42, 50: Reduction pupil detection unit 43, 51: Pupil detection unit 44: Color correction value calculation unit 45: Color correction unit 46: Pupil region color correction means

Claims (16)

記録媒体に記録された画像を読取るデジタル画像入力手段と、前記デジタル画像入力手段により読み取られたデジタル画像から被写体の瞳領域を検出する瞳領域検出手段と、前記瞳領域検出手段により検出されたデジタル画像の瞳領域に対してカラー補正処理する瞳領域カラー補正手段とを備えた瞳補正処理装置であって、
前記瞳領域検出手段は、前記デジタル画像を縮小した縮小デジタル画像に縮小処理する縮小処理部と、前記縮小デジタル画像の瞳領域である縮小瞳領域を検出する縮小瞳検出部と、前記縮小瞳領域に基づいて前記デジタル画像の瞳領域を検出する瞳検出部とを備える瞳補正処理装置。
Digital image input means for reading an image recorded on a recording medium, pupil area detection means for detecting a pupil area of a subject from the digital image read by the digital image input means, and digital detected by the pupil area detection means A pupil correction processing device including a pupil region color correction unit that performs color correction processing on a pupil region of an image,
The pupil region detecting means includes a reduction processing unit that reduces the digital image to a reduced digital image, a reduced pupil detection unit that detects a reduced pupil region that is a pupil region of the reduced digital image, and the reduced pupil region And a pupil detection unit that detects a pupil region of the digital image based on the above.
前記縮小瞳検出部は、前記検出した縮小瞳領域に対応する所定の座標または所定の大きさを検出し、前記瞳検出部は、前記検出された所定の座標または所定の大きさに基づいて前記デジタル画像の瞳領域を検出する請求項1に記載の瞳補正処理装置。   The reduced pupil detection unit detects a predetermined coordinate or a predetermined size corresponding to the detected reduced pupil region, and the pupil detection unit detects the predetermined coordinate or the predetermined size based on the detected predetermined coordinate or a predetermined size. The pupil correction processing device according to claim 1, wherein the pupil region of the digital image is detected. 前記所定の座標が前記縮小瞳領域を円領域に近似した場合における中心の座標であり、前記所定の大きさが前記縮小瞳領域を円領域に近似した場合における半径である請求項2に記載のデジタル画像の瞳補正処理装置。   3. The predetermined coordinate is a center coordinate when the reduced pupil region is approximated to a circular region, and the predetermined size is a radius when the reduced pupil region is approximated to a circular region. Digital image pupil correction processing device. 前記所定の座標が前記縮小瞳領域の重心の座標であり、前記所定の大きさが前記重心の座標から前記重心の座標に対して所定の角度方向における前記縮小瞳領域の外縁部までの複数の距離である請求項2に記載の瞳補正処理装置。   The predetermined coordinates are coordinates of the center of gravity of the reduced pupil area, and the predetermined size is a plurality of coordinates from the coordinates of the center of gravity to the outer edge of the reduced pupil area in a predetermined angle direction with respect to the coordinates of the center of gravity. The pupil correction processing apparatus according to claim 2, which is a distance. 前記所定の座標が前記縮小瞳領域の外縁座標である請求項2に記載の瞳補正処理装置。   The pupil correction processing apparatus according to claim 2, wherein the predetermined coordinates are outer edge coordinates of the reduced pupil region. 前記瞳領域カラー補正手段は、前記縮小瞳検出部により検出された縮小瞳領域に対するカラー補正値を算出するカラー補正値算出部と、前記カラー補正値算出部により算出されたカラー補正値に基づいて前記デジタル画像の瞳領域に対してカラー補正処理するカラー補正部とを備える請求項2から5の何れかに記載の瞳補正処理装置。   The pupil region color correction means is based on a color correction value calculation unit that calculates a color correction value for the reduced pupil region detected by the reduced pupil detection unit, and a color correction value calculated by the color correction value calculation unit. The pupil correction processing apparatus according to claim 2, further comprising a color correction unit that performs color correction processing on a pupil region of the digital image. 前記瞳領域カラー補正手段は、前記カラー補正値算出部により算出されたカラー補正値から前記縮小瞳領域のカラーデータを生成するカラーデータ生成部を備え、前記カラー補正部は、前記カラーデータ生成部により生成されたカラーデータに基づいて前記デジタル画像の瞳領域に対してカラー補正処理する請求項6に記載の瞳補正処理装置。   The pupil region color correction unit includes a color data generation unit that generates color data of the reduced pupil region from the color correction value calculated by the color correction value calculation unit, and the color correction unit includes the color data generation unit. The pupil correction processing apparatus according to claim 6, wherein color correction processing is performed on a pupil region of the digital image based on the color data generated by the step. 前記カラー補正部は、前記所定の座標または前記所定の座標と前記所定の大きさとから得られる座標におけるカラーデータに基づいて前記デジタル画像の瞳領域に対してカラー補正処理する請求項7に記載の瞳補正処理装置。   The color correction unit according to claim 7, wherein the color correction unit performs color correction processing on the pupil region of the digital image based on color data at the predetermined coordinates or coordinates obtained from the predetermined coordinates and the predetermined size. Pupil correction processing device. 記録媒体に記録された画像を読取るデジタル画像入力ステップと、前記デジタル画像入力ステップにより読み取られたデジタル画像から被写体の瞳領域を検出する瞳領域検出ステップと、前記瞳領域検出手段により検出されたデジタル画像の瞳領域に対してカラー補正処理する瞳領域カラー補正ステップとからなる瞳補正処理方法であって、
前記瞳領域検出ステップは、前記デジタル画像を縮小した縮小デジタル画像に縮小処理する縮小処理ステップと、前記縮小デジタル画像の瞳領域である縮小瞳領域を検出する縮小瞳検出ステップと、前記縮小瞳領域に基づいて前記デジタル画像の瞳領域を検出する瞳検出ステップとからなる瞳補正処理方法。
A digital image input step for reading an image recorded on a recording medium, a pupil region detection step for detecting a pupil region of a subject from the digital image read by the digital image input step, and the digital detected by the pupil region detection means A pupil correction processing method comprising a pupil region color correction step for performing color correction on a pupil region of an image,
The pupil region detecting step includes a reduction processing step for reducing the digital image to a reduced digital image, a reduced pupil detection step for detecting a reduced pupil region that is a pupil region of the reduced digital image, and the reduced pupil region A pupil correction processing method comprising: a pupil detection step of detecting a pupil region of the digital image based on
前記縮小瞳検出ステップは、前記検出した縮小瞳領域に対応する所定の座標または所定の大きさを検出し、前記瞳検出ステップは、前記検出された所定の座標または所定の大きさに基づいて前記デジタル画像の瞳領域を検出する請求項9に記載の瞳補正処理方法。   The reduced pupil detecting step detects a predetermined coordinate or a predetermined size corresponding to the detected reduced pupil region, and the pupil detecting step is based on the detected predetermined coordinate or a predetermined size. The pupil correction processing method according to claim 9, wherein a pupil region of the digital image is detected. 前記所定の座標が前記縮小瞳領域を円領域に近似した場合における中心の座標であり、前記所定の大きさが前記縮小瞳領域を円領域に近似した場合における半径である請求項10に記載の瞳補正処理方法。   11. The predetermined coordinate is a center coordinate when the reduced pupil region is approximated to a circular region, and the predetermined size is a radius when the reduced pupil region is approximated to a circular region. Pupil correction processing method. 前記所定の座標が前記縮小瞳領域の重心の座標であり、前記所定の大きさが前記重心の座標から前記重心の座標に対して所定の角度方向における前記縮小瞳領域の外縁部までの複数の距離である請求項10に記載の瞳補正処理方法。   The predetermined coordinates are coordinates of the center of gravity of the reduced pupil area, and the predetermined size is a plurality of coordinates from the coordinates of the center of gravity to the outer edge of the reduced pupil area in a predetermined angle direction with respect to the coordinates of the center of gravity. The pupil correction processing method according to claim 10, which is a distance. 前記所定の座標が前記縮小瞳領域の外縁座標である請求項10に記載の瞳補正処理方法。   The pupil correction processing method according to claim 10, wherein the predetermined coordinates are outer edge coordinates of the reduced pupil region. 前記瞳領域カラー補正ステップは、前記縮小瞳検出ステップにより検出された縮小瞳領域に対するカラー補正値を算出するカラー補正値算出ステップと、前記カラー補正値算出ステップにより算出されたカラー補正値に基づいて前記デジタル画像の瞳領域に対してカラー補正処理するカラー補正ステップとからなる請求項10から13の何れかに記載の瞳補正処理方法。   The pupil region color correction step is based on the color correction value calculation step for calculating a color correction value for the reduced pupil region detected by the reduction pupil detection step, and the color correction value calculated by the color correction value calculation step. The pupil correction processing method according to claim 10, further comprising a color correction step of performing color correction processing on the pupil region of the digital image. 前記瞳領域カラー補正ステップは、前記カラー補正値算出ステップにより算出されたカラー補正値から前記縮小瞳領域のカラーデータを生成するカラーデータ生成ステップを備え、前記カラー補正ステップは、前記カラーデータ生成ステップにより生成されたカラーデータに基づいて前記デジタル画像の瞳領域に対してカラー補正処理する請求項14に記載の瞳補正処理方法。   The pupil region color correction step includes a color data generation step of generating color data of the reduced pupil region from the color correction value calculated in the color correction value calculation step, and the color correction step includes the color data generation step. The pupil correction processing method according to claim 14, wherein a color correction process is performed on a pupil region of the digital image based on the color data generated by the step. 前記カラー補正ステップは、前記所定の座標または前記所定の座標と前記所定の大きさとから得られる座標におけるカラーデータに基づいて前記デジタル画像の瞳領域に対してカラー補正処理する請求項15に記載の瞳補正処理方法。   16. The color correction process according to claim 15, wherein the color correction step performs color correction processing on the pupil region of the digital image based on color data at the predetermined coordinates or coordinates obtained from the predetermined coordinates and the predetermined size. Pupil correction processing method.
JP2005123060A 2005-04-21 2005-04-21 Pupil correction processing apparatus and method Expired - Fee Related JP4650078B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005123060A JP4650078B2 (en) 2005-04-21 2005-04-21 Pupil correction processing apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005123060A JP4650078B2 (en) 2005-04-21 2005-04-21 Pupil correction processing apparatus and method

Publications (2)

Publication Number Publication Date
JP2006301981A true JP2006301981A (en) 2006-11-02
JP4650078B2 JP4650078B2 (en) 2011-03-16

Family

ID=37470187

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005123060A Expired - Fee Related JP4650078B2 (en) 2005-04-21 2005-04-21 Pupil correction processing apparatus and method

Country Status (1)

Country Link
JP (1) JP4650078B2 (en)

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11308474A (en) * 1998-04-21 1999-11-05 Fuji Photo Film Co Ltd Image processor
JP2000134486A (en) * 1998-10-22 2000-05-12 Canon Inc Image processing unit, image processing method and storage medium
JP2001148780A (en) * 1999-09-07 2001-05-29 Fuji Photo Film Co Ltd Method for setting red-eye correction area and red-eye correction method
JP2002077657A (en) * 2000-09-01 2002-03-15 Toshiba Corp Apparatus of image processing, method thereof and recording medium
JP2003016431A (en) * 2001-06-28 2003-01-17 Mitsubishi Electric Corp Generating device for portrait
JP2005167697A (en) * 2003-12-03 2005-06-23 Canon Inc Electronic camera having red-eye correction function
JP2006190106A (en) * 2005-01-06 2006-07-20 Fuji Photo Film Co Ltd Pattern detection program and pattern detection apparatus

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11308474A (en) * 1998-04-21 1999-11-05 Fuji Photo Film Co Ltd Image processor
JP2000134486A (en) * 1998-10-22 2000-05-12 Canon Inc Image processing unit, image processing method and storage medium
JP2001148780A (en) * 1999-09-07 2001-05-29 Fuji Photo Film Co Ltd Method for setting red-eye correction area and red-eye correction method
JP2002077657A (en) * 2000-09-01 2002-03-15 Toshiba Corp Apparatus of image processing, method thereof and recording medium
JP2003016431A (en) * 2001-06-28 2003-01-17 Mitsubishi Electric Corp Generating device for portrait
JP2005167697A (en) * 2003-12-03 2005-06-23 Canon Inc Electronic camera having red-eye correction function
JP2006190106A (en) * 2005-01-06 2006-07-20 Fuji Photo Film Co Ltd Pattern detection program and pattern detection apparatus

Also Published As

Publication number Publication date
JP4650078B2 (en) 2011-03-16

Similar Documents

Publication Publication Date Title
JP2017076846A (en) Image processing apparatus and image processing method
JP2007172502A (en) Print data generation device, print data generation method and program
US7437019B2 (en) Apparatus and method for image processing, image processing program and recording medium storing the image processing program
JP2007124077A (en) Image composite method and image forming apparatus
JP4650078B2 (en) Pupil correction processing apparatus and method
JP3902173B2 (en) Image scaling method and photo printing apparatus for implementing the method
JP2003080789A (en) Image output apparatus
JP6946894B2 (en) Image forming device and image forming method
JP2005316550A (en) Image processor, image reader, image inspection device and program
JP2005159387A (en) Method of determining density characteristic curve and density correction management apparatus for executing this method
JP2006350426A (en) Pupil region detection device, pupil correction processor and pupil region detection method
JPH09200496A (en) Automatic image editing device
JP2004056358A (en) Image processing method, image processing program, and recording medium for recording image processing program
JP4793648B2 (en) Image correction unit and image correction program
JP2007074664A (en) Image processing method, image processing program and image processing apparatus
JP2003198838A (en) Image processing system and image processing method
JP2005159388A (en) Contrast adjusting method, and contrast adjusting apparatus for executing this method
JP2007248612A (en) Photograph processing apparatus, photograph processing order receiving device, and index print processing method
JP2006333274A (en) Image processing apparatus and method thereof
JP2004295199A (en) Plate inspection apparatus, printing system, plate inspection method of layout data and program
JP4431948B2 (en) A tilt correction method, a tilt correction program, and a photo printing apparatus with a tilt correction function
JP4433285B2 (en) Image processing method for correcting unnecessary area of image
JP2004312091A (en) Digital photograph printer
JP2004297173A (en) Image processing apparatus and method
JP2005244899A (en) Copying apparatus and summarized copying method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080124

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100825

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100831

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101027

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101116

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101129

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131224

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131224

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees