JP4123954B2

JP4123954B2 - 赤目領域補正方法、赤目領域補正処理プログラム、画像処理装置

Info

Publication number: JP4123954B2
Application number: JP2003030541A
Authority: JP
Inventors: 茂土井田
Original assignee: Nikon Corp
Current assignee: Nikon Corp
Priority date: 2003-02-07
Filing date: 2003-02-07
Publication date: 2008-07-23
Anticipated expiration: 2023-02-07
Also published as: JP2004242141A

Description

【０００１】
【発明の属する技術分野】
本発明は、画像処理において、赤目領域を補正する赤目領域補正方法、赤目領域補正処理プログラム、および、赤目領域補正処理プログラムの実行が可能な画像処理装置に関する。
【０００２】
【従来の技術】
フラッシュ撮影をしたとき、人の目が赤くなったり金色になったりするいわゆる赤目現象が知られている。このような赤目現象が生じている赤目領域を有する画像において、赤目領域の色を変更して赤目を補正する方法が種々提案されている。
【０００３】
【特許文献１】
特開平１０−２３３９２９号公報
【特許文献２】
特開２００２−２７１８０８号公報
【０００４】
【発明が解決しようとする課題】
しかし、赤目を補正する方法において、赤目領域と補正領域とは必ずしも一致しない。補正領域が実際の赤目領域からはみ出した状態で補正すると、白目領域や瞼領域を補正し、不自然な結果となってしまう。
【０００５】
本発明は、赤目領域と補正領域とが必ずしも一致していなくても、違和感なく補正する赤目領域補正方法、赤目領域補正処理プログラム、および、赤目領域補正処理プログラムの実行が可能な画像処理装置を提供する。
【０００６】
【課題を解決するための手段】
請求項１の発明は、赤目領域補正方法に適用され、Ｒ色成分、Ｇ色成分、Ｂ色成分の色情報を有する画素が複数集まって構成されるＲＧＢ表色系により表される画像であって、赤目現象が生じている赤目領域を有する画像を取得する画像取得ステップと、取得した画像において、赤目領域に対応する領域を特定する領域特定ステップと、特定した領域を構成する各画素において、Ｒ色成分の色情報の値と、Ｇ色成分とＢ色成分の色情報の値との相違の程度を示す値に基づき、各色成分の色情報の値を変更する色変更ステップとを有し、色変更ステップにおいて、補正前の各画素のＲ色成分、Ｇ色成分、Ｂ色成分の色情報の値をＲ、Ｇ、Ｂとしたとき、補正後のＲ色成分、Ｇ色成分、Ｂ色成分の色情報の値Ｒ１、Ｇ１、Ｂ１を、次の式
Ｒ１＝α（Ｒ＋Ｇ＋Ｂ）−βＧ−γＢ
Ｇ１＝βＧ
Ｂ１＝γＢ
から求める、ただし、α、β、γは次の条件
０≦α≦１
Ｇ１＜Ｒ１
Ｂ１＜Ｒ１
を満たすことを特徴とするものである。
請求項２の発明は、請求項１に記載の赤目領域補正方法において、βを求めるのにαと（Ｒ−Ｇ）を使用し、γを求めるのにαと（Ｒ−Ｂ）を使用することを特徴とするものである。
請求項３の発明は、赤目領域補正方法に適用され、Ｒ色成分、Ｇ色成分、Ｂ色成分の色情報を有する画素が複数集まって構成されるＲＧＢ表色系により表される画像であって、赤目現象が生じている赤目領域を有する画像を取得する画像取得ステップと、取得した画像において、赤目領域に対応する領域を特定する領域特定ステップと、特定した領域を構成する各画素において、Ｒ色成分の色情報の値と、Ｇ色成分とＢ色成分の色情報の値との相違の程度を示す値に基づき、各色成分の色情報の値を変更する色変更ステップとを有し、色変更ステップにおいて、補正前の各画素のＲ色成分、Ｇ色成分、Ｂ色成分の色情報の値をＲ、Ｇ、Ｂとしたとき、補正後のＲ色成分、Ｇ色成分、Ｂ色成分の色情報の値Ｒ１、Ｇ１、Ｂ１を、次の式
Ｒ１＝α（Ｒ＋Ｇ＋Ｂ）−βＧ−γＢ
Ｇ１＝βＧ
Ｂ１＝γＢ
α＝ｆ（Ｒ，Ｇ，Ｂ）
β＝α｛（Ｒ−Ｇ）／Ｒ｝｛（Ｒ＋Ｇ＋Ｂ）／３Ｇ−１｝＋１
γ＝α｛（Ｒ−Ｂ）／Ｒ｝｛（Ｒ＋Ｇ＋Ｂ）／３Ｂ−１｝＋１
から求め、ここでｆ（Ｒ，Ｇ，Ｂ）は、Ｒ色成分の色情報とＧ色成分の色情報とＢ色成分の色情報との関数であることを特徴とするものである。
請求項４の発明は、赤目領域補正方法に適用され、Ｒ色成分、Ｇ色成分、Ｂ色成分の色情報を有する画素が複数集まって構成されるＲＧＢ表色系により表される画像であって、赤目現象が生じている赤目領域を有する画像を取得する画像取得ステップと、取得した画像において、赤目領域に対応する領域を特定する領域特定ステップと、特定した領域を構成する各画素において、Ｒ色成分の色情報の値と、Ｇ色成分とＢ色成分の色情報の値との相違の程度を示す値に基づき、各色成分の色情報の値を変更する色変更ステップとを有し、色変更ステップにおいて、補正前の各画素のＲ色成分、Ｇ色成分、Ｂ色成分の色情報の値をＲ、Ｇ、Ｂとしたとき、補正後のＲ色成分、Ｇ色成分、Ｂ色成分の色情報の値Ｒ１、Ｇ１、Ｂ１を、次の式
Ｒ１＝α（Ｒ＋Ｇ＋Ｂ）−βＧ−γＢ
Ｇ１＝βＧ
Ｂ１＝γＢ
α＝（Ｇ＋Ｂ）／２Ｒ
β＝α｛（Ｒ−Ｇ）／Ｒ｝｛（Ｒ＋Ｇ＋Ｂ）／３Ｇ−１｝＋１
γ＝α｛（Ｒ−Ｂ）／Ｒ｝｛（Ｒ＋Ｇ＋Ｂ）／３Ｂ−１｝＋１
から求めることを特徴とするものである。
請求項５の発明は、赤目領域補正方法に適用され、Ｒ色成分、Ｇ色成分、Ｂ色成分の色情報を有する画素が複数集まって構成されるＲＧＢ表色系により表される画像であって、赤目現象が生じている赤目領域を有する画像を取得する画像取得ステップと、取得した画像において、赤目領域に対応する領域を特定する領域特定ステップと、特定した領域を構成する各画素において、Ｒ色成分の色情報の値と、Ｇ色成分とＢ色成分の色情報の値との相違の程度を示す値に基づき、各色成分の色情報の値を変更する色変更ステップとを有し、色変更ステップにおいて、補正前の各画素のＲ色成分、Ｇ色成分、Ｂ色成分の色情報の値をＲ、Ｇ、Ｂとしたとき、補正後のＲ色成分、Ｇ色成分、Ｂ色成分の色情報の値Ｒ１、Ｇ１、Ｂ１を、次の式
Ｒ１＝α（Ｒ＋Ｇ＋Ｂ）−βＧ−γＢ
Ｇ１＝βＧ
Ｂ１＝γＢ
α＝｛（Ｇ＋Ｂ）／２Ｒ｝ ^{０．１Ｒ／（Ｒ＋Ｇ＋Ｂ）}
β＝α｛（Ｒ−Ｇ）／Ｒ｝｛（Ｒ＋Ｇ＋Ｂ）／３Ｇ−１｝＋１
γ＝α｛（Ｒ−Ｂ）／Ｒ｝｛（Ｒ＋Ｇ＋Ｂ）／３Ｂ−１｝＋１
から求めることを特徴とする赤目補正方法。
請求項６の発明は、赤目領域補正方法に適用され、複数の色成分の色情報を有する画素が複数集まって構成される画像であって、赤目現象が生じている赤目領域を有する画像を取得する画像取得ステップと、取得した画像において、赤目領域に対応する領域を特定する領域特定ステップと、特定した領域を構成する各画素において、赤目領域の赤目現象に最も起因する色成分の色情報の値と他の色成分の色情報の値との相違の程度を示す値に基づき、各色成分の色情報の値を変更する色変更ステップとを有し、色変更ステップは、特定した領域を構成する各画素において、変更後の各色成分の色情報の値の総和が変更前の各色成分の色情報の値の総和より小さくなるように、かつ、特定した領域を構成する各画素において、変更後の赤目領域の赤目現象に最も起因する色成分の色情報の値が変更後の他の色成分の色情報の値より大きくなるように、各色成分の色情報の値を変更することを特徴とするものである。
請求項７の発明は、赤目領域補正処理プログラムに適用され、請求項１〜６いずれか１項に記載の赤目領域補正方法のステップをコンピュータに実行させることを特徴とするものである。
請求項８の発明は、コンピュータ読みとり可能な記録媒体に適用され、請求項７の赤目領域補正処理プログラムを記録したことを特徴とするものである。
請求項９の発明は、画像処理装置に適用され、請求項７の赤目領域補正処理プログラムを搭載し、実行することを特徴とするものである。
【０００７】
【発明の実施の形態】
図１は、本発明の色不良領域補正方法を実施する一実施の形態を示す図である。符号１は、一般に市販されているパーソナルコンピュータ（以下パソコンと言う）である。パソコン１は、ＣＰＵ、メモリ、ハードディスク、Ｉ／Ｏポート、各種のインターフェース等からなる制御装置２と、各種画像や情報を表示するモニタ３と、キーボード４と、マウス５と、ＣＤ−ＲＯＭ駆動装置６とからなる。ＣＤ−ＲＯＭ駆動装置６は、ＣＤ−ＲＯＭやＤＶＤなどの記録媒体７が搭載され、各種のデジタルデータを読み込むことができる。制御装置２は、ＵＳＢ等のインターフェースを介してデジタルカメラ（電子カメラ）８と接続可能である。また、モデムやＬＡＮボード等を介してインターネット９とも接続可能である。
【０００８】
本実施の形態のパソコン１は、記録媒体７、デジタルカメラ８、あるいはインターネット９を介した他のコンピュータ１０等から、デジタルカメラ等で撮像して得られた画像データを取得することができる。パソコン１は、画像処理プログラムを実行することが可能であり、取得した画像データに各種の画像処理を加えることが可能である。本実施の形態では、画像処理の１つとして赤目現象を補正する処理を行うことができる。
【０００９】
画像処理プログラムは、制御装置２内部のハードディスクに格納され、制御装置２のメモリに読みこまれて、制御装置２により実行される。画像処理プログラムは、記録媒体７等に格納されて、あるいは、インターネット９などの電気通信回線を通じてデータ信号としてパソコン１に提供される。提供された画像処理プログラムは、制御装置２内部のハードディスクに格納される。インターネット９を通じて画像処理プログラムが提供される場合、インターネット９を介して接続されるサーバコンピュータから提供される。図１において、例えば、コンピュータ１０がサーバコンピュータとなり得る。サーバコンピュータ１０は、内部のハードディスク等の記録媒体に提供すべき画像処理プログラムを格納している。
【００１０】
以下、本実施の形態における赤目現象の補正処理について説明する。赤目現象とは、カメラ等を使用して人物をフラッシュ撮影したとき、撮影された人物の目がウサギの目のように赤く写る現象をいう。目が赤くなるのは、目の網膜の毛細血管が写るためであり、正確には目の瞳孔部分が赤くなる。撮影条件によっては金色になる場合もあり、このような金目も、まとめて赤目現象と言う。すなわち、赤目現象とは、フラッシュ撮影などにより人物の目が違和感のある色になっている場合を言い、言いかえれば瞳孔あたりの領域で色不良が生じている場合を言う。また、動物の目においても赤目現象が生じる場合もある。
【００１１】
図２は、本実施の形態における赤目補正処理のフローチャートを示す図である。赤目補正処理は、パソコン１で実行される画像処理プログラムの一部である。前述したように、赤目領域は色不良領域であり、赤目補正処理は色不良領域補正処理と言える。通常、画像処理プログラムは、画像データを取得し、取得した画像データを使用して画像をモニタに表示した後、ユーザが各種の画像処理コマンドを選択する。そのコマンドの１つとして赤目補正が選択されると、赤目補正処理に入る。しかし、ここでは画像データの取得から赤目補正処理として説明する。
【００１２】
ステップＳ１において、赤目を補正すべき画像の画像データを取得する。画像データは、記録媒体７、デジタルカメラ８、あるいはインターネット９を介した他のコンピュータ１０等から取得し、制御装置２内部のハードディスクに格納されている。そこから、制御装置２内部のメモリに読みこまれる。ステップＳ２において、制御装置２はメモリに読みこんだ画像データをモニタ３に表示する。ここでは、フラッシュ撮影された人物像が表示される。その人物像は赤目現象が生じている。ステップＳ３では、モニタ３に表示された表示画像上で、ユーザがマウス５等を使用して赤目領域の内部の点を指定するのを待つ。
【００１３】
図３および図４を使用して赤目領域内部の点を指定する様子を説明する。図３は、赤目が生じている黒目部分を拡大した図である。符号１０１は黒目部分である。黒目部分とは白目以外の部分で、虹彩および瞳孔部分である。人の目は、明るさに応じて虹彩が調整され、瞳孔の大きさが調整される。この瞳孔部分に赤目現象が生じる。瞳孔は円形をしているが、赤目領域は必ずしも円形を呈するものではない。目の撮影角度やフラッシュライトの反射の具合により必ずしも円形にはならない。図３において、符号１０２で示される領域が、赤目現象が生じている領域である。
【００１４】
ユーザは、図３のような黒目部分が表示された画像上で、マウス５等のポインティングデバイスで赤目領域１０２の内部の任意の点を指定する。図３では、点１０３が指定されたとする。
【００１５】
図４は、画像データを画素が認識できる程度にまで拡大した図である。画像データは、格子状に配列された複数の画素から構成される。データ自体が格子状に並んでいるものではないが、撮像素子を構成する画素、あるいは、画像を表示する場合の表示画素が格子状に配列されている。画像データの各画素は、表色系で規定される色成分の色情報を有する。例えば、ＲＧＢ表色系の場合、各画素は、Ｒ（赤）成分の色情報と、Ｇ（緑）成分の色情報と、Ｂ（青）成分の色情報を有する。
【００１６】
デジタルカメラ等で撮影する場合、例えば単板式ＲＧＢベイア配列の撮像素子で撮像された画像データは、各画素には１つの色成分の色情報しか有しない。このようにして得られた画像データに、各種の補間処理を施すことにより、各画素にＲＧＢの色成分の色情報を有するようになる。本実施の形態で処理する画像データでは、各画素はすでにＲＧＢの色成分の色情報を有している。すなわち、表色系で規定される複数の色成分の色情報を有している。また、ここでいう色情報とは、各色のフィルターを通して照射された光に対応して撮像素子の各画素で蓄積された電荷に対応した値である。本実施の形態では、色情報の値を８ビットのデータとして表す。具体的には、０〜２５５の値で表すものとする。
【００１７】
ステップＳ３では、ユーザがマウス５で赤目領域１０２の内部の点１０３を指定すると、制御装置２は、点１０３に対応する画素１１１を指定する。さらに、本実施の形態では、画素１１１の周辺（近傍）の画素１１２〜１１５も指定する。
【００１８】
図２のステップＳ４では、ステップＳ３で指定された点を起点に、赤目領域１０２のエッジ、すなわち赤目領域１０２の境界を探索する。図３を参照してさらに説明する。指定された点に対応する画素１１１を起点に符号１０４で示される８つの方向にエッジを探索する。水平方向、垂直方向、４５度方向、１３５度方向の、それぞれにおいて相反する２方向の計８方向である。図４で指定された周辺の他の画素１１２〜１１５についても、同様に、それぞれの画素を起点に８方向にエッジを探索する。
【００１９】
図４で指定された５つの画素を起点とする８方向は、それぞれ重複しない方向である。すなわち、８×５＝４０方向が重複しないように、かつ、１画素ずつずれて設定されるように、画素１１１および周辺の画素１１２〜１１５が選択されている。画素１１１のみを起点に８方向について探索するだけでもよいが、上記のように４０方向について探索することにより、より精度よくエッジを探索することができる。
【００２０】
図５は、エッジ探索の様子を説明する図である。エッジ探索は、探索方向１２１に並ぶ隣り合った画素群の色情報の値の比較により行う。図５（ａ）は、画素群が１画素の場合を示す。図５（ｂ）は、画素群が３画素の場合を示す。
【００２１】
図５（ａ）において、注目画素１２２とその隣接画素１２３との間で、色情報の比較を行う。注目画素１２２のＲＧＢの各色成分の色情報の値をそれぞれＲ、Ｇ、Ｂとし、隣接画素１２３のＲＧＢの各色成分の色情報の値をそれぞれＲ’、Ｇ’、Ｂ’とする。注目画素１２２と隣接画素１２３が、式（１）または式（２）を満たすか否かを判断し、探索方向１２１に画素を順次ずらして判断を繰り返す。そして、注目画素１２２と隣接画素１２３が、式（１）または式（２）を満たしたとき、注目画素１２２をエッジ（境界）画素とする。式（１）（２）のｔ、ｌは条件（３）によるものとする。
Ｒ／（Ｒ＋Ｇ＋Ｂ）−Ｒ’／（Ｒ’＋Ｇ’＋Ｂ’）≧ｔ（１）
（Ｒ＋Ｇ＋Ｂ）／３−（Ｒ’＋Ｇ’＋Ｂ’）／３≧ｌ（２）
０．１≦ｔ≦０．１２、ｌ≒３０（３）
【００２２】
式（１）は赤目領域１０２（図３）のエッジを見つけるための式である。基本的には、赤目領域１０２のエッジは、黒目部分１０１の内部にある。しかし、場合によってはエッジを見つけることができずに白目部分へと探索が広がることもある。式（２）は、輝度変化の大きい白目部分と黒目部分の境界をエッジとして抽出するものである。この式により、黒目部分１０１を超えてエッジを見つけるという誤探索を防止することができる。なお、条件（３）は、各種の実験やシミュレーションによって算出したものである。また、各色成分の色情報の値が８ビット、０〜２５５の値であることを前提とした値である。条件（３）以外の値であっても、赤目領域１０２のエッジ、および、黒目部分１０１のエッジを的確に見つけることができる値であればよい。
【００２３】
図５（ａ）のように、１画素の比較でも赤目領域１０２のエッジを見つけることが可能である。しかし、エッジがある程度鮮明である必要がある。図５（ｂ）の３画素群比較は、エッジが少々不鮮明であってもエッジを検出することが可能である。注目画素を符号１２４とし、注目画素１２４を含む注目画素群１２５と、注目画素１２４に隣接する隣接画素群１２６との間で、色情報の比較を行う。図５（ｂ）の例では、注目画素群１２５と隣接画素群１２６は隣接するが、構成画素は重複しない。しかし、注目画素群と隣接画素群の画素を、重複するように設定してもよい。３画素群の場合、１画素あるいは２画素重複させるようにしてもよい。
【００２４】
各画素群において各色成分の色情報の３つの画素の平均を計算する。注目画素群１２５のＲＧＢの各色成分の色情報の平均値をそれぞれＲ、Ｇ、Ｂとし、隣接画素群１２６のＲＧＢの各色成分の色情報の平均値をそれぞれＲ’、Ｇ’、Ｂ’とする。注目画素群１２５と隣接画素群１２６が、前述した式（１）または式（２）を満たすか否かを判断し、探索方向１２１に画素を順次ずらして判断を繰り返す。そして、注目画素群１２５と隣接画素群１２６が、式（１）または式（２）を満たしたとき、注目画素群１２５の注目画素１２４をエッジ（境界）画素とする。
【００２５】
なお、各種実験の結果、３画素の画素群で比較を行うのが最も効果的であった。ただし、２画素や４画素や５画素等の３画素以外の複数の画素でもよい。
【００２６】
図５は、探索方向が水平方向の例を示すものである。垂直方向においても同様である。探索方向が、４５度方向や１３５度方向の場合は、その斜め方向に並ぶ画素を選択する。例えば、４５度方向であれば、注目画素とその右斜め上の画素との比較を行う。画素群の場合は、注目画素とその斜め左下の画素、さらにその斜め左下の画素を注目画素群とし、注目画素の斜め右上の画素と、さらにその斜め右上の画素と、さらにまたその斜め右上の画素を隣接画素群とする。
【００２７】
式（１）で赤目領域１０２のエッジが検出できなかった場合に備えて、式（２）で黒目部分１０１を検出するようにした。しかし、黒目部分１０１も検出できない場合も生じる。そのような場合、何ら制限を設けなければ画像の端部まで探索することになる。これを、防止するために、起点から所定数の画素範囲を探索することにする。目の大きさ等を考慮して例えば４０画素までとする。この値は、適宜変更してもよい。このようにすることにより、無駄な探索を防止することができる。
【００２８】
以上の探索により、赤目領域１０２のエッジを適切に検出できた場合、黒目部分１０１のエッジしか検出できなかった場合、さらにいずれも検出できなかった場合が生じる。図６は、その様子を説明する図である。ただし、説明の便宜上８方向しか記載していない。水平方向１３１、１３５度方向１３４、４５度方向１３６、垂直方向１３７では、赤目領域１０２のエッジ１３９、１４０、１４２、１４３が検出できた。水平方向１３５では、黒目部分１０１のエッジ１４１が検出できた。４５度方向１３２、垂直方向１３３、１３５度方向１３８では、いずれのエッジも検出できなかった。
【００２９】
このようにいずれのエッジも検出できない場合が生じるが、本実施の形態では、所定の数以上のエッジが検出できた場合、探索が成功したとする。所定の数とは探索方向数のｎ倍とする。ｎは１／２程度あるいはそれ以上の値が適当である。例えば、ｎ＝１／２とすると、探索方向の半分以上においてエッジが検出できれば探索が成功したとする。８方向の場合は４個以上であり、４０方向の場合は２０個以上である。
【００３０】
ステップＳ４においてエッジ画素（境界点）が検出されると、すなわち、エッジが抽出できると、ステップＳ５において、検出されたエッジ情報に基づき赤目領域１０２に対応する領域を特定する。領域の特定とは、検出されたエッジ情報に基づく楕円や多角形などの幾何学的図形を当てはめることにより行う。図形を当てはめることにより、検出できなかったエッジの箇所を補うことができ、一つの閉じた領域として指定することができる。図形を当てはめるとは、数学的には、検出されたエッジ情報に基づく楕円や多角形などの幾何学的図形の領域指定関数を求めることである。
【００３１】
本実施の形態では、当てはめる図形を楕円とする。図７は、その様子を説明する図である。図６で説明したように、エッジ画素（境界点）１３９〜１４３の５つが検出できたとする。この５つのエッジ画素１３９〜１４３をすべて含む最小の長方形１５１を求める（図７（ａ））。次に、求められた長方形１５１に内接する楕円１５２を求める（図７（ｂ））。このようにして求めた楕円１５２を、赤目領域１０２に対応する領域として当てはめ、赤目領域１０２に対応する領域を特定する。すなわち、エッジ画素１３９〜１４３をすべて含む最小の長方形１５１に内接する楕円１５２の領域指定関数を求める。ここで、長方形１５１と、それに内接する楕円１５２を求めることは、すなわち楕円１５２の中心の位置と、長軸および短軸の長さとを求めることと同義である。
【００３２】
なお、上記のように楕円１５２で赤目領域１０２を近似すると、図７（ｂ）における領域１５３のように、本来赤目領域１０２の一部であるにもかかわらず、特定された領域１５２に含まれない場合が生じる。このような現象を極力防止するために、図２のステップＳ３〜Ｓ５を複数回繰り返すようにする。すなわち、ユーザは赤目領域１０２の内部の点を少しずらしながら複数指定する。複数の指定により、複数の形状の異なる楕円が特定される。この、形状が異なる複数の楕円の論理和を取った領域を特定する。このようにすることにより、より一層実際の赤目領域１０２に近似した領域を特定することができる。なお、ステップＳ３で、ユーザが複数の点を一度に指定するようにしてもよい。
【００３３】
なお、当てはめる図形を楕円としたのは、瞳孔が円形であること、また実際に生じている赤目領域の形状や、各種の実験結果等を考慮して判断したものである。ただし、楕円以外の形状、例えば円形にしてもよい。また、単に検出したエッジを直線で結んだ多角形や、最小２乗法によって検出したエッジすべてに近い境界線で規定される図形で当てはめてもよい。
【００３４】
図２のステップＳ６では、ステップＳ５において特定された領域の色を変更（補正）する。色の補正は、例えば、黒やグレイ（灰色）などの一色の色で塗りつぶすなど各種の方法が考えられる。しかし、色の補正を行う領域と実際に色不良となっている領域とが一致していればよいが、一致していない場合不自然な色補正となる。本実施の形態においても、上記の通り赤目領域１０２を楕円１５２で近似しているため、実際の赤目領域１０２と補正領域１５２とは一致しない。従って、本実施の形態では、以下に説明する色の補正方法を採用する。
【００３５】
ステップＳ６において、ステップＳ５によって抽出された色不良領域内の色の補正を画素毎に行う。補正前の各画素の各色成分の色情報の値をＲ、Ｇ、Ｂ、補正後をＲ１、Ｇ１、Ｂ１とする。補正後のＲ１、Ｇ１、Ｂ１を、補正係数α、β、γを使用した式（４）、（５）、（６）によって求める。
Ｒ１＝α（Ｒ＋Ｇ＋Ｂ）−βＧ−γＢ（４）
Ｇ１＝βＧ（５）
Ｂ１＝γＢ（６）
【００３６】
上記補正係数α、β、γは、以下の考え方に基づき事前に求められている。次式（７）は、補正前の輝度（Ｒ＋Ｇ＋Ｂ）に補正係数αを掛けて補正後の輝度（Ｒ１＋Ｇ１＋Ｂ１）を導き出す式である。αは、条件（８）を満たすものとする。条件（８）は、補正後の輝度を補正前の輝度より小さくするための条件である。
α（Ｒ＋Ｇ＋Ｂ）＝Ｒ１＋Ｇ１＋Ｂ１（７）
０≦α≦１（８）
【００３７】
さらに、補正後のＧ１、Ｂ１は、条件（９）（１０）で示すように、補正後のＲ１より小さくなるようにする。補正後の目の色が、緑色っぽくなったり、青色っぽくなったりするのを防ぐためである。
Ｇ１＜Ｒ１（９）
Ｂ１＜Ｒ１（１０）
上記式（４）〜（７）、条件（８）〜（１０）より、補正係数α、β、γの取り得る範囲が決まり、補正後の各色成分の色情報の値の取り得る範囲が決まる。このような範囲で、適切な補正係数を求めるための式を、各種シミュレーションや実験を繰り返し求める。以下、補正係数を具体的に求める式について説明する。
【００３８】
まず、αを求める式について説明する。αは、あらかじめユーザーによって上記範囲内で任意の値に定めてもよいが、本実施の形態では次のようにして決める。特定された領域内において、赤味の目立つ箇所を強く補正すること、肌色領域はなるべく補正を少なくすること、高輝度なキャッチライトは補正しないようにすること。これらの条件を満たすため、式（１１）に示すように、補正前の画素のＲ成分の色情報とそれに対するＧ成分の色情報、Ｂ成分の色情報とに依存させた形で表す。すなわち、αはＲ成分の色情報とＧ成分の色情報とＢ成分の色情報との関数で表される値とする。これにより、より自然な補正へと近づける事が可能になる。
α＝ｆ（Ｒ，Ｇ，Ｂ）（１１）
【００３９】
例えば、式（１２）に示すような値とする。また、式（１３）のようにすることによって、Ｒ成分の色情報に強く依存させることも可能である。このように、αの値を、画素のＧ成分の色情報、Ｂ成分の色情報に対するＲ成分の色情報の大きさを係数に使用しているため、前述した条件を満たした形となる。また、逆に赤色に限らず、画素の色相を計算し、肌色の条件に近いかそうでないかを含めた形にすることも可能である。式（１１）に示した係数の決定法に関しては、その他各種色変換などによって求めた数値を使用しても、赤目領域内の補正に有効であればよい。
α＝（Ｇ＋Ｂ）／２Ｒ（１２）
α＝｛（Ｇ＋Ｂ）／２Ｒ｝^{０．１Ｒ／（Ｒ＋Ｇ＋Ｂ）} （１３）
【００４０】
次にβ、γの値を求める式について説明する。赤目領域はＲ成分の色情報の値が、Ｇ成分の色情報、Ｂ成分の色情報の値と比べて大きいほど目立った赤目となる。言い換えると、Ｒ成分が、赤目現象の赤色に最も起因している色成分である。このことからβ、γの値を決めるのに、Ｒ成分の色情報の値とＧ成分の色情報の色情報の値の差分（Ｒ−Ｇ）、Ｒ成分の色情報の値とＢ成分の色情報の値の差分（Ｒ−Ｂ）を使用する。これにより、肌色部分、白目部分はそれぞれの差分が低いため、補正を小さくするような係数に設定することができる。また輝度が高い時はその画素はキャッチライトの可能性があるため補正前後で画素値の変化を少なくする等の条件も考慮し係数を決定する。
【００４１】
式（１４）（１５）は、β、γの算出式である。上記求めた係数αも用いている。これにより、Ｒ成分の色情報とＧ成分の色情報Ｂ成分の色情報との差分およびαの値に応じて補正後のＲ１，Ｇ１，Ｂ１の値が定まる。αは、β、γを強調するか否かの要因ともなる。
β＝α｛（Ｒ−Ｇ）／Ｒ｝｛（Ｒ＋Ｇ＋Ｂ）／３Ｇ−１｝＋１（１４）
γ＝α｛（Ｒ−Ｂ）／Ｒ｝｛（Ｒ＋Ｇ＋Ｂ）／３Ｂ−１｝＋１（１５）
【００４２】
白目や人肌の場合、また、キャッチライトの場合、Ｒ成分の色情報とＧ成分の色情報およびＲ成分の色情報とＢ成分の色情報との差分が小さい。その結果、上述したαの値は１に近くなる。また、β、γの値も１に近くなる。これにより、輝度の変化は少なく、各色成分の色情報の補正の程度は小さくなる。すなわち、赤目領域として特定された領域に白目や瞼などの人肌が含まれる場合、それらの部分はあまり補正されないようになる。一方、赤目の場合、すなわちＲ成分の色情報が強い場合は、Ｒ成分の色情報の強さに応じて輝度が低くなるように補正され、かつ、Ｒ成分の色情報およびＧ成分の色情報およびＢ成分の色情報の値が近づくように補正される。必ずしも黒や灰色などの無彩色にまで補正されないが、赤目がめだたないような色に補正される。さらに、キャッチライトはそのままの状態近くに保たれる。
【００４３】
上記説明した（Ｒ＋Ｇ＋Ｂ）は画素の輝度を示し、（Ｒ−Ｇ）や（Ｒ−Ｂ）は各画素における色差を示す。これらは、各画素の特徴量を示していると言える。従って、本実施の形態では、これらの特徴量に基づき色の補正をしていると言える。前述した条件（８）〜（１０）より、これらの特徴量の取り得る範囲が決まる。このような特徴量の範囲で、適切な補正が行えるような式を導き出すため、各種シミュレーションや実験を繰り返した。その結果得られた式が、上記式（１２）〜（１５）である。
【００４４】
以上説明したような本実施の形態の赤目補正処理方法を実施すると、次のような効果を奏する。
（１）補正すべき赤目領域などの色不良領域を、違和感のない自然な色状態へ容易に補正することができる。
（２）本実施の形態では、赤目として特定された領域に白目や肌色部分が含まれる場合、その部分をあまり強く補正しない。その結果、赤目領域の特定をそれほど厳密にしなくても、違和感のない赤目補正が実現できる。すなわち、赤目領域として特定された領域と実際に赤目が生じている領域とが一致していなくても、違和感のない赤目補正が実現できる。このため、赤目領域の特定方法は、容易な手法や従来ある手法であってもよい。
（３）キャッチライトを残したままで赤目を補正することができる。すなわち、違和感のない自然な色の補正が可能となる。例えば、画素の各色成分の色情報の値を画素の中の最も小さい値を示す色成分の色情報の値に統一するように補正することにくらべても、キャッチライトをよりそのままの状態で残すことができる。
【００４５】
上記の実施の形態では、パソコン１で赤目補正処理を行う例を説明をしたが、この内容に限定する必要はない。デジタルカメラ上でそのような処理プログラムを搭載し処理するようにしてもよい。また、カメラから直接画像データを取得してプリントするプリンタにおいて、そのような処理プログラムを搭載し処理するようにしてもよい。すなわち、画像データを処理するあらゆる画像処理装置に本発明を適用することができる。
【００４６】
上記の実施の形態では、赤目内部の点をユーザが指定し、その点を起点にエッジを求める処理をして赤目領域を特定する例を説明をしたが、この内容に限定する必要はない。その他の手法で赤目領域を特定する場合であってもよい。実際の赤目領域と赤目領域として特定した領域とが完全に一致しないような手法すべてに本発明を適用することができる。この場合、赤目領域として特定された領域は、実際の赤目領域に比べて若干広めに設定されるのが好ましい。このため、本実施の形態の手法や従来技術の手法で赤目領域を特定したのち、その領域を若干広げるような処理をするようにしてもよい。
【００４７】
上記の実施の形態では、ＲＧＢ表色系の例で説明をしたが、この内容に限定する必要はない。その他の表色系の画像データであってもよい。
【００４８】
上記の実施の形態では、単純にＲ＋Ｇ＋Ｂで輝度を示す例で説明をしたが、この内容に限定する必要はない。各色成分に所定の係数を掛けて求める輝度であってもよい。
【００４９】
上記の実施の形態では、補正係数β、γを求める式において、色成分の色情報の差分（相違）の程度を示す値として色差Ｒ−Ｇ、Ｒ−Ｂの値を使用する例で説明したが、必ずしもこれらの内容に限定する必要はない。Ｒ／ＧやＲ／Ｂなどの比例割合を示す値を使用するものであってもよい。このような色成分の色情報の比例割合も色情報の差分の程度を示している値といえる。
【００５０】
上記の実施の形態では、補正係数α、β、γを求める式として式（１１）〜（１４）を示したが、必ずしもこれらの式に限定する必要はない。色成分の色情報の差分や比例割合を利用した式であって、白目や人肌やキャッチライト部分の色については補正をしない、あるいは補正の程度を弱めるような効果が現れる式であればどのようなものでもよい。
【００５１】
上記では、種々の実施の形態および変形例を説明したが、本発明はこれらの内容に限定されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も本発明の範囲内に含まれる。
【００５２】
【発明の効果】
本発明は、以上説明したように構成しているので、補正すべき赤目領域を、自然な色状態へ、容易に違和感なく補正することができる。
【図面の簡単な説明】
【図１】本発明の色不良領域補正方法を実施する一実施の形態を示す図である。
【図２】本実施の形態における赤目補正処理のフローチャートを示す図である。
【図３】赤目が生じている黒目部分を拡大した図である。
【図４】画像データを画素が認識できる程度にまで拡大した図である。
【図５】エッジ探索の様子を説明する図である。
【図６】探索結果の様子を説明する図である。
【図７】楕円図形をあてはめる様子を説明する図である。
【符号の説明】
１パーソナルコンピュータ
２制御装置
３モニタ
４キーボード
５マウス
６ＣＤ−ＲＯＭ駆動装置
７記録媒体
８デジタルカメラ
９インターネット
１０コンピュータ

Claims

赤目領域補正方法であって、
Ｒ色成分、Ｇ色成分、Ｂ色成分の色情報を有する画素が複数集まって構成されるＲＧＢ表色系により表される画像であって、赤目現象が生じている赤目領域を有する画像を取得する画像取得ステップと、
前記取得した画像において、前記赤目領域に対応する領域を特定する領域特定ステップと、
前記特定した領域を構成する各画素において、Ｒ色成分の色情報の値と、Ｇ色成分とＢ色成分の色情報の値との相違の程度を示す値に基づき、各色成分の色情報の値を変更する色変更ステップとを有し、
前記色変更ステップにおいて、補正前の各画素のＲ色成分、Ｇ色成分、Ｂ色成分の色情報の値をＲ、Ｇ、Ｂとしたとき、補正後のＲ色成分、Ｇ色成分、Ｂ色成分の色情報の値Ｒ１、Ｇ１、Ｂ１を、次の式
Ｒ１＝α（Ｒ＋Ｇ＋Ｂ）−βＧ−γＢ
Ｇ１＝βＧ
Ｂ１＝γＢ
から求める、ただし、α、β、γは次の条件
０≦α≦１
Ｇ１＜Ｒ１
Ｂ１＜Ｒ１
を満たすことを特徴とする赤目領域補正方法。
請求項１に記載の赤目領域補正方法において、
前記βを求めるのに前記αと（Ｒ−Ｇ）を使用し、
前記γを求めるのに前記αと（Ｒ−Ｂ）を使用することを特徴とする赤目領域補正方法。
赤目領域補正方法であって、
Ｒ色成分、Ｇ色成分、Ｂ色成分の色情報を有する画素が複数集まって構成されるＲＧＢ表色系により表される画像であって、赤目現象が生じている赤目領域を有する画像を取得する画像取得ステップと、
前記取得した画像において、前記赤目領域に対応する領域を特定する領域特定ステップと、
前記特定した領域を構成する各画素において、Ｒ色成分の色情報の値と、Ｇ色成分とＢ色成分の色情報の値との相違の程度を示す値に基づき、各色成分の色情報の値を変更する色変更ステップとを有し、
前記色変更ステップにおいて、補正前の各画素のＲ色成分、Ｇ色成分、Ｂ色成分の色情報の値をＲ、Ｇ、Ｂとしたとき、補正後のＲ色成分、Ｇ色成分、Ｂ色成分の色情報の値Ｒ１、Ｇ１、Ｂ１を、次の式
Ｒ１＝α（Ｒ＋Ｇ＋Ｂ）−βＧ−γＢ
Ｇ１＝βＧ
Ｂ１＝γＢ
α＝ｆ（Ｒ，Ｇ，Ｂ）
β＝α｛（Ｒ−Ｇ）／Ｒ｝｛（Ｒ＋Ｇ＋Ｂ）／３Ｇ−１｝＋１
γ＝α｛（Ｒ−Ｂ）／Ｒ｝｛（Ｒ＋Ｇ＋Ｂ）／３Ｂ−１｝＋１
から求め、ここでｆ（Ｒ，Ｇ，Ｂ）は、Ｒ色成分の色情報とＧ色成分の色情報とＢ色成分の色情報との関数であることを特徴とする赤目領域補正方法。
赤目領域補正方法であって、
Ｒ色成分、Ｇ色成分、Ｂ色成分の色情報を有する画素が複数集まって構成されるＲＧＢ表色系により表される画像であって、赤目現象が生じている赤目領域を有する画像を取得する画像取得ステップと、
前記取得した画像において、前記赤目領域に対応する領域を特定する領域特定ステップと、
前記特定した領域を構成する各画素において、Ｒ色成分の色情報の値と、Ｇ色成分とＢ色成分の色情報の値との相違の程度を示す値に基づき、各色成分の色情報の値を変更する色変更ステップとを有し、
前記色変更ステップにおいて、補正前の各画素のＲ色成分、Ｇ色成分、Ｂ色成分の色情報の値をＲ、Ｇ、Ｂとしたとき、補正後のＲ色成分、Ｇ色成分、Ｂ色成分の色情報の値Ｒ１、Ｇ１、Ｂ１を、次の式
Ｒ１＝α（Ｒ＋Ｇ＋Ｂ）−βＧ−γＢ
Ｇ１＝βＧ
Ｂ１＝γＢ
α＝（Ｇ＋Ｂ）／２Ｒ
β＝α｛（Ｒ−Ｇ）／Ｒ｝｛（Ｒ＋Ｇ＋Ｂ）／３Ｇ−１｝＋１
γ＝α｛（Ｒ−Ｂ）／Ｒ｝｛（Ｒ＋Ｇ＋Ｂ）／３Ｂ−１｝＋１
から求めることを特徴とする赤目領域補正方法。
赤目領域補正方法であって、
Ｒ色成分、Ｇ色成分、Ｂ色成分の色情報を有する画素が複数集まって構成されるＲＧＢ表色系により表される画像であって、赤目現象が生じている赤目領域を有する画像を取得する画像取得ステップと、
前記取得した画像において、前記赤目領域に対応する領域を特定する領域特定ステップと、
前記特定した領域を構成する各画素において、Ｒ色成分の色情報の値と、Ｇ色成分とＢ色成分の色情報の値との相違の程度を示す値に基づき、各色成分の色情報の値を変更する色変更ステップとを有し、
前記色変更ステップにおいて、補正前の各画素のＲ色成分、Ｇ色成分、Ｂ色成分の色情報の値をＲ、Ｇ、Ｂとしたとき、補正後のＲ色成分、Ｇ色成分、Ｂ色成分の色情報の値Ｒ１、Ｇ１、Ｂ１を、次の式
Ｒ１＝α（Ｒ＋Ｇ＋Ｂ）−βＧ−γＢ
Ｇ１＝βＧ
Ｂ１＝γＢ
α＝｛（Ｇ＋Ｂ）／２Ｒ｝ ^{０．１Ｒ／（Ｒ＋Ｇ＋Ｂ）}
β＝α｛（Ｒ−Ｇ）／Ｒ｝｛（Ｒ＋Ｇ＋Ｂ）／３Ｇ−１｝＋１
γ＝α｛（Ｒ−Ｂ）／Ｒ｝｛（Ｒ＋Ｇ＋Ｂ）／３Ｂ−１｝＋１
から求めることを特徴とする赤目領域補正方法。
赤目領域補正方法であって、
複数の色成分の色情報を有する画素が複数集まって構成される画像であって、赤目現象が生じている赤目領域を有する画像を取得する画像取得ステップと、
前記取得した画像において、前記赤目領域に対応する領域を特定する領域特定ステップと、
前記特定した領域を構成する各画素において、前記赤目領域の赤目現象に最も起因する色成分の色情報の値と他の色成分の色情報の値との相違の程度を示す値に基づき、各色成分の色情報の値を変更する色変更ステップとを有し、
前記色変更ステップは、前記特定した領域を構成する各画素において、変更後の各色成分の色情報の値の総和が変更前の各色成分の色情報の値の総和より小さくなるように、かつ、前記特定した領域を構成する各画素において、変更後の前記赤目領域の赤目現象に最も起因する色成分の色情報の値が変更後の前記他の色成分の色情報の値より大きくなるように、各色成分の色情報の値を変更することを特徴とする赤目領域補正方法。
請求項１〜６いずれか１項に記載の赤目領域補正方法のステップをコンピュータに実行させるための赤目領域補正処理プログラム。
請求項７の赤目領域補正処理プログラムを記録したコンピュータ読みとり可能な記録媒体。
請求項７の赤目領域補正処理プログラムを搭載し、実行する画像処理装置。