JP4457586B2 - 赤目領域補正方法、赤目領域補正処理プログラム、記録媒体、画像処理装置 - Google Patents

Description

【０００１】
【発明の属する技術分野】
本発明は、画像処理において、色不良領域などの特定の色領域を特定する色領域特定方法、色領域特定処理プログラム、および、色領域特定方法を用い、色不良領域を補正する色不良領域補正方法、色不良領域補正処理プログラム、および、色領域特定処理プログラムまたは色不良領域補正処理プログラムのいずれか、またはその両方の実行が可能な画像処理装置に関する。特に、フラッシュ撮影時の赤目現象による色不良を改善する技術に関する。
【０００２】
【従来の技術】
フラッシュ撮影をしたとき、人の目が赤くなったり金色になったりするいわゆる赤目現象が知られている。この赤目を修正する装置が開示されている（特許文献１）。この赤目修正装置では、色不良となった瞳を含むなるべく小さな矩形領域をユーザーが指定する。そして、指定された領域内部全体において、色度の平均値等のパラメータから、赤目の場合、金目の場合、それぞれについてしきい値処理を行うことにより色不良画素を見つけて補正するものである。
【０００３】
【特許文献１】
特開平７−１３２７４号公報
【０００４】
【発明が解決しようとする課題】
しかし、瞳の色不良を単純に赤目といっても、撮影環境や照明条件などの影響によって、普通の赤色をした赤目、明るい赤色をした金目と呼ばれるもの、またはグラデーションを持った赤目など、様々な種類のものが存在する。ある指定領域内のしきい値処理だけでこれらの色不良画素を全て正確に見つけることは困難である。その結果、赤目として認識しないもの、もしくは赤目内部を一部のみしか認識しないなど、確実な補正ができなくなる場合がある。また、ユーザーによる矩形領域指定においては、目以外の赤色のものを含んだ領域指定をしないようにする必要があり面倒である。さらに、指定領域内全てのデータをパラメータとして使用する場合、データ処理が指定領域の大きさに依存するため、必ずしも有効な手段とは言えない。
【０００５】
本発明は、様々な撮影条件下で撮影された様々な画像において、色不良領域などの所定の領域を容易にかつ確実に特定する色領域特定方法、色領域特定処理プログラム、および、色不良時の補正に色領域特定方法を用いた色不良領域補正方法、色不良領域補正処理プログラム、および、色領域特定処理プログラムまたは色不良領域補正処理プログラムのいずれか、またはその両方の実行が可能な画像処理装置を提供する。
【０００６】
【課題を解決するための手段】
請求項１の発明は、赤目領域補正方法に適用され、赤目現象を補正すべき画像を取得する画像取得ステップと、画像取得ステップで取得した画像上で、補正すべき赤目領域の内部の点を指定する指定ステップと、指定ステップで指定された点に基づき複数の起点を設定し、設定した複数の起点の各々からそれぞれ放射状に延びる複数の方向と赤目領域の境界とが交差する複数の境界点を検出することにより、赤目領域の境界を探索する探索ステップと、探索ステップで検出された複数の境界点に基づき赤目領域に対応する楕円形状の領域を特定する領域特定ステップと、特定された領域の色を変更する色変更ステップとを有し、指定ステップでは複数の点を指定し、指定ステップで指定された複数の点毎に、探索ステップと領域特定ステップとを組み合わせて複数回行い、色変更ステップでは探索ステップと領域特定ステップとを複数回行うことにより特定された複数の楕円形状の領域の論理和により得られる領域の色を変更するものである。
請求項２の発明は、赤目領域補正方法に適用され、赤目現象を補正すべき画像を取得する画像取得ステップと、画像取得ステップで取得した画像上で、補正すべき赤目領域の内部の点を指定する指定ステップと、指定ステップで指定された点に基づき複数の起点を設定し、設定した複数の起点の各々からそれぞれ放射状に延びる複数の方向と赤目領域の境界とが交差する複数の境界点を検出することにより、赤目領域の境界を探索する探索ステップと、探索ステップで検出された複数の境界点に基づき赤目領域に対応する楕円形状の領域を特定する領域特定ステップと、特定された領域の色を変更する色変更ステップとを有し、指定ステップと探索ステップと領域特定ステップとを組み合わせて複数回行い、色変更ステップでは指定ステップと探索ステップと領域特定ステップとを組み合わせて複数回行うことにより特定された複数の楕円形状の領域の論理和により得られる領域の色を変更するものである。
請求項３の発明は、赤目領域補正方法に適用され、赤目現象を補正すべき画像を取得する画像取得ステップと、画像取得ステップで取得した画像上で、補正すべき赤目領域の内部の点を指定する指定ステップと、指定ステップで指定された点に基づき複数の起点を設定し、設定した複数の起点の各々からそれぞれ放射状に延びる複数の方向と赤目領域の境界とが交差する複数の境界点を検出することにより、赤目領域の境界を探索する探索ステップと、探索ステップで検出された複数の境界点に基づき赤目領域に対応する楕円形状の領域を特定する領域特定ステップと、特定された領域の色を変更する色変更ステップとを有し、領域特定ステップにおいて特定された領域内の複数の点を起点として、さらに探索ステップと領域特定ステップとを組み合わせて複数回行い、色変更ステップでは探索ステップと領域特定ステップとを複数回行うことにより特定された複数の楕円形状の領域の論理和により得られる領域の色を変更するものである。
請求項４の発明は、請求項１〜３のいずれか１項記載の赤目領域補正方法において、複数の楕円形状の領域は、それぞれ軸の角度が異なることとするものである。
請求項５の発明は、赤目領域補正方法に適用され、赤目現象を補正すべき画像を取得する画像取得ステップと、画像取得ステップで取得した画像上で、補正すべき赤目領域の内部の点を指定する指定ステップと、指定ステップで指定された点に基づき複数の起点を設定し、設定した複数の起点の各々からそれぞれ放射状に延びる複数の方向と赤目領域の境界とが交差する複数の境界点を検出することにより、赤目領域の境界を探索する探索ステップと、探索ステップで検出された複数の境界点に基づき赤目領域に対応する楕円形状の領域を特定する領域特定ステップと、特定された領域の色を変更する色変更ステップとを有し、領域特定ステップでは複数の境界点に基づきそれぞれ軸の角度が異なる複数の楕円形状の領域を特定し、色変更ステップでは領域特定ステップにより特定された複数の楕円形状の領域の論理和により得られる領域の色を変更するものである。
請求項６の発明は、請求項５記載の赤目領域補正方法において、指定ステップと探索ステップと領域特定ステップとを組み合わせて複数回行い、色変更ステップでは指定ステップと探索ステップと領域特定ステップとを組み合わせて複数回行うことによりそれぞれ特定された複数組の楕円形状の領域の論理和により得られる領域の色を変更するものである。
請求項７の発明は、請求項１〜６のいずれか１項記載の赤目領域補正方法において、画像は複数の画素から構成され、各画素は複数の色成分の色情報を有し、色変更ステップは、特定された赤目領域を構成する各画素の複数の色成分の色情報の値を、その画素の複数の色成分の元の色情報に基づいた値で統一することとするものである。
請求項８の発明は、請求項１〜６のいずれか１項記載の赤目領域補正方法において、画像は複数の画素から構成され、各画素は複数の色成分の色情報を有し、色変更ステップは、特定された赤目領域を構成する各画素の複数の色成分の色情報の値を、その画素の複数の色成分の元の色情報の最低値以上の値で統一することとするものである。
請求項９の発明は、請求項１〜８のいずれか１項記載の赤目領域補正方法において、指定ステップは、画像取得ステップで取得した画像上に指定された点の周囲の所定範囲内から赤目領域に位置する候補点を抽出し、その抽出された候補点を補正すべき赤目領域の内部の点として指定するものである。
請求項１０の発明は、請求項９記載の赤目領域補正方法において、指定ステップは、抽出された候補点について、周囲の色情報に基づいてその候補点が赤目領域に含まれるのが妥当か否かを判定し、妥当でないと判定された候補点を除外するものである。
請求項１１の発明は、請求項９または１０に記載の赤目領域補正方法において、指定ステップは、抽出された候補点に位置する画素の色情報に基づいて、探索ステップにおける探索の優先度をその候補点に対して設定するものである。
請求項１２の発明は、請求項９〜１１のいずれか１項記載の赤目領域補正方法において、探索ステップは、指定ステップで抽出された候補点の周囲の色情報に基づいて得られたしきい値に基づいて、赤目領域の境界を探索するものである。
請求項１３の発明は、赤目領域補正処理プログラムに適用され、請求項１〜１２いずれか１項に記載の赤目領域補正方法のステップをコンピュータに実行させるものである。
請求項１４の発明は、コンピュータ読みとり可能な記録媒体に適用され、請求項１３の赤目領域補正処理プログラムを記録したものである。
請求項１５の発明は、画像処理装置に適用され、請求項１３の赤目領域補正処理プログラムを搭載し、実行するものである。
【０００７】
【発明の実施の形態】
−第１の実施の形態−
図１は、本発明の色不良領域補正方法を実施する一実施の形態を示す図である。符号１は、一般に市販されているパーソナルコンピュータ（以下パソコンと言う）である。パソコン１は、ＣＰＵ、メモリ、ハードディスク、Ｉ／Ｏポート、各種のインターフェース等からなる制御装置２と、各種画像や情報を表示するモニタ３と、キーボード４と、マウス５と、ＣＤ−ＲＯＭ駆動装置６とからなる。ＣＤ−ＲＯＭ駆動装置６は、ＣＤ−ＲＯＭやＤＶＤなどの記録媒体７が搭載され、各種のデジタルデータを読み込むことができる。制御装置２は、ＵＳＢ等のインターフェースを介してデジタルカメラ（電子カメラ）８と接続可能である。また、モデムやＬＡＮボード等を介してインターネット９とも接続可能である。
【０００８】
本実施の形態のパソコン１は、記録媒体７、デジタルカメラ８、あるいはインターネット９を介した他のコンピュータ１０等から、デジタルカメラ等で撮像して得られた画像データを取得することができる。パソコン１は、画像処理プログラムを実行することが可能であり、取得した画像データに各種の画像処理を加えることが可能である。本実施の形態では、画像処理の１つとして赤目現象を補正する処理を行うことができる。
【０００９】
画像処理プログラムは、制御装置２内部のハードディスクに格納され、制御装置２のメモリに読みこまれて、制御装置２により実行される。画像処理プログラムは、記録媒体７等に格納されて、あるいは、インターネット９などの電気通信回線を通じてデータ信号としてパソコン１に提供される。提供された画像処理プログラムは、制御装置２内部のハードディスクに格納される。インターネット９を通じて画像処理プログラムが提供される場合、インターネット９を介して接続されるサーバコンピュータから提供される。図１において、例えば、コンピュータ１０がサーバコンピュータとなり得る。サーバコンピュータ１０は、内部のハードディスク等の記録媒体に提供すべき画像処理プログラムを格納している。
【００１０】
以下、本実施の形態における赤目現象の補正処理について説明する。赤目現象とは、カメラ等を使用して人物をフラッシュ撮影したとき、撮影された人物の目がウサギの目のように赤く写る現象をいう。目が赤くなるのは、目の網膜の毛細血管が写るためであり、正確には目の瞳孔部分が赤くなる。撮影条件によっては金色になる場合もあり、このような金目も、まとめて赤目現象と言う。すなわち、赤目現象とは、フラッシュ撮影などにより人物の目が違和感のある色になっている現象であり、言いかえれば瞳孔あたりの領域で色不良が生じている現象である。また、動物の目において赤目現象が生じる場合もある。
【００１１】
図２は、本実施の形態における赤目補正処理のフローチャートを示す図である。赤目補正処理は、パソコン１で実行される画像処理プログラムの一部である。前述したように、赤目領域は色不良領域の一種であり、赤目補正処理は色不良領域補正処理と言える。通常、画像処理プログラムは、画像データを取得し、取得した画像データを使用して画像をモニタに表示した後、ユーザが各種の画像処理コマンドを選択する。そのコマンドの１つとして赤目補正が選択されると、赤目補正処理に入る。しかし、ここでは画像データの取得から赤目補正処理として説明する。
【００１２】
ステップＳ１において、赤目を補正すべき画像の画像データを取得する。画像データは、記録媒体７、デジタルカメラ８、あるいはインターネット９を介した他のコンピュータ１０等から取得し、制御装置２内部のハードディスクに格納されている。そこから、制御装置２内部のメモリに読みこまれる。ステップＳ２において、制御装置２はメモリに読みこんだ画像データをモニタ３に表示する。ここでは、フラッシュ撮影され、赤目現象が生じている人物像が表示されているものとして説明する。ステップＳ３において、モニタ３に表示された表示画像上で、ユーザがマウス５等を使用して赤目領域の内部の点を指定するのを待つ。
【００１３】
図３および図４を使用して赤目領域内部の点を指定する様子を説明する。図３は、赤目が生じている黒目部分を拡大した図である。符号１０１は黒目部分である。黒目部分とは白目以外の部分で、虹彩および瞳孔部分である。人の目は、明るさに応じて虹彩が調整され、瞳孔の大きさが調整される。この瞳孔部分に赤目現象が生じる。瞳孔は円形をしているが、赤目領域は必ずしも円形を呈するものではない。目の撮影角度やフラッシュライトの反射の具合により必ずしも円形にはならない。図３において、符号１０２で示される領域が、赤目現象が生じている領域である。
【００１４】
ユーザは、図３のような黒目部分が表示された画像上で、マウス５等のポインティングデバイスで赤目領域１０２の内部の任意の点を指定する。図３では、点１０３が指定されたとする。
【００１５】
図４は、画像データを画素が認識できる程度にまで拡大した図である。画像データは、格子状に配列された複数の画素から構成される。データ自体が格子状に並んでいるものではないが、撮像素子を構成する画素、あるいは、画像を表示する場合の表示画素が格子状に配列されている。画像データの各画素は、表色系で規定される色成分の色情報を有する。例えば、ＲＧＢ表色系の場合、各画素は、Ｒ（赤）成分の色情報と、Ｇ（緑）成分の色情報と、Ｂ（青）成分の色情報を有する。
【００１６】
デジタルカメラ等で撮影する場合、例えば単板式ＲＧＢベイア配列の撮像素子で撮像された画像データは、各画素には１つの色成分の色情報しか有しない。このようにして得られた画像データに、各種の補間処理を施すことにより、各画素にＲＧＢの色成分の色情報を有するようになる。本実施の形態で処理する画像データでは、各画素はすでにＲＧＢの色成分の色情報を有している。すなわち、表色系で規定される複数の色成分の色情報を有している。また、ここでいう色情報とは、各色のフィルターを通して受光された光量に対応して撮像素子の各画素で蓄積された電荷に対応した値である。本実施の形態では、色情報の値を８ビットのデータとして表す。具体的には、０〜２５５の値で表すものとする。
【００１７】
ステップＳ３では、ユーザがマウス５等で赤目領域１０２の内部の点１０３を指定すると、制御装置２は、点１０３に対応する画素１１１のＲＧＢの各色成分の色情報の値をそれぞれＲ０、Ｇ０、Ｂ０としたときに、これらが式（１）または（１）’を満たすか否かを判定する。式（１）または（１）’を満たす場合、ユーザにより指定された点は赤目領域内部の点であると判断して、画素１１１を指定する。ここで、式（１）は赤目領域であることを表し、式（１）’はキャッチライトであることを表す。キャッチライトは赤目領域に含まれるが、式（１）では表すことができないため、式（１）’が用いられる。さらに、本実施の形態では、画素１１１の周辺（近傍）の画素１１２〜１１５も指定する。式（１）または（１）’を満たさない場合、ユーザにより指定された点は赤目領域内部の点ではないと判断して、再度ユーザにより点を指定されるのを待つ。
【数１】
Ｒ０≧（Ｇ０＋Ｂ０） （１）
Ｒ０＞２００ かつ Ｇ０＞２００ かつ Ｂ０＞２００ （１）’
なお、本発明は上述の式（１）や式（１）’の評価式に限られず、赤目領域やキャッチライトを的確に判定できる式であればよい。
【００１８】
図２のステップＳ４では、ステップＳ３で指定された点を起点に、赤目領域１０２のエッジ、すなわち赤目領域１０２の境界を探索する。図３を参照してさらに説明する。指定された点に対応する画素１１１を起点に符号１０４で示される８つの方向にエッジを探索する。水平方向、垂直方向、４５度方向、１３５度方向の、それぞれにおいて相反する２方向の計８方向である。図４で指定された周辺の他の画素１１２〜１１５についても、同様に、それぞれの画素を起点に８方向にエッジを探索する。
【００１９】
図４で指定された５つの画素を起点とする８方向は、それぞれ重複しない方向である。すなわち、８×５＝４０方向が重複しないように、かつ、１画素ずつずれて設定されるように、画素１１１および周辺の画素１１２〜１１５が選択されている。画素１１１のみを起点に８方向について探索するだけでもよいが、上記のように４０方向について探索することにより、より精度よくエッジを探索することができる。
【００２０】
図５は、エッジ探索の様子を説明する図である。エッジ探索は、探索方向１２１に並ぶ隣り合った画素群の色情報の値の比較により行う。図５（ａ）は、画素群が１画素の場合を示す。図５（ｂ）は、画素群が３画素の場合を示す。
【００２１】
図５（ａ）において、注目画素１２２とその隣接画素１２３との間で、色情報の比較を行う。注目画素１２２のＲＧＢの各色成分の色情報の値をそれぞれＲ、Ｇ、Ｂとし、隣接画素１２３のＲＧＢの各色成分の色情報の値をそれぞれＲ’、Ｇ’、Ｂ’とする。注目画素１２２と隣接画素１２３が、式（２）または式（３）を満たすか否かを判断し、探索方向１２１に画素を順次ずらして判断を繰り返す。そして、注目画素１２２と隣接画素１２３が、式（２）または式（３）を満たしたとき、注目画素１２２をエッジ（境界）画素とする。式（２）（３）のｔ、ｌは条件（４）によるものとする。
【数２】
Ｒ／（Ｒ＋Ｇ＋Ｂ）−Ｒ’／（Ｒ’＋Ｇ’＋Ｂ’）≧ｔ （２）
（Ｒ＋Ｇ＋Ｂ）／３−（Ｒ’＋Ｇ’＋Ｂ’）／３≧ｌ （３）
０．１≦ｔ≦０．１２、ｌ≒３０ （４）
【００２２】
式（２）は赤目領域１０２（図３）のエッジを見つけるための式である。基本的には、赤目領域１０２のエッジは、黒目部分１０１の内部にある。しかし、場合によってはエッジを見つけることができずに白目部分へと探索が広がることもある。式（３）は、輝度変化の大きい白目部分と黒目部分の境界をエッジとして抽出するものである。この式により、黒目部分１０１を超えてエッジを見つけるという誤探索を防止することができる。なお、条件（４）は、各種の実験やシミュレーションによって算出したものである。また、各色成分の色情報の値が８ビット、０〜２５５の値であることを前提とした値である。条件（４）以外の値であっても、赤目領域１０２のエッジ、および、黒目部分１０１のエッジを的確に見つけることができる値であればよい。
【００２３】
図５（ａ）のように、１画素の比較でも赤目領域１０２のエッジを見つけることが可能である。しかし、エッジがある程度鮮明である必要がある。図５（ｂ）の３画素群比較は、エッジが少々不鮮明であってもエッジを検出することが可能である。注目画素を符号１２４とし、注目画素１２４を含む注目画素群１２５と、注目画素１２４に隣接する隣接画素群１２６との間で、色情報の比較を行う。図５（ｂ）の例では、注目画素群１２５と隣接画素群１２６は隣接するが、構成画素は重複しない。しかし、注目画素群と隣接画素群の画素を、重複するように設定してもよい。３画素群の場合、１画素あるいは２画素重複させるようにしてもよい。
【００２４】
各画素群において各色成分の色情報の３つの画素の平均を計算する。注目画素群１２５のＲＧＢの各色成分の色情報の平均値をそれぞれＲ、Ｇ、Ｂとし、隣接画素群１２６のＲＧＢの各色成分の色情報の平均値をそれぞれＲ’、Ｇ’、Ｂ’とする。注目画素群１２５と隣接画素群１２６が、前述した式（２）または式（３）を満たすか否かを判断し、探索方向１２１に画素を順次ずらして判断を繰り返す。そして、注目画素群１２５と隣接画素群１２６が、式（２）または式（３）を満たしたとき、注目画素群１２５の注目画素１２４をエッジ（境界）画素とする。
【００２５】
なお、各種実験の結果、３画素の画素群で比較を行うのが最も効果的であった。ただし、２画素や４画素や５画素等の３画素以外の複数の画素でもよい。
【００２６】
図５は、探索方向が水平方向の例を示すものである。垂直方向においても同様である。探索方向が、４５度方向や１３５度方向の場合は、本実施の形態ではその斜め方向に並ぶ画素を選択した。例えば、４５度方向であれば、注目画素とその右斜め上の画素との比較を行う。画素群の場合は、注目画素とその斜め左下の画素、さらにその斜め左下の画素を注目画素群とし、注目画素の斜め右上の画素と、さらにその斜め右上の画素と、さらにまたその斜め右上の画素を隣接画素群とする。なお、画像群はこのように探索方向と同方向に配列したものだけで構成されたものに限られず、たとえば探索方向に対して垂直方向に配列された画素で画素群を構成してもよい。
【００２７】
式（２）で赤目領域１０２のエッジが検出できなかった場合に備えて、式（３）で黒目部分１０１を検出するようにした。しかし、黒目部分１０１も検出できない場合も生じる。そのような場合、何ら制限を設けなければ画像の端部まで探索することになる。これを、防止するために、起点から所定数の画素範囲を探索することにする。目の大きさ等を考慮して例えば４０画素までとする。この値は、適宜変更してもよい。このようにすることにより、無駄な探索を防止することができる。
【００２８】
以上の探索により、赤目領域１０２のエッジを適切に検出できた場合、黒目部分１０１のエッジしか検出できなかった場合、さらにいずれも検出できなかった場合が生じる。図６は、その様子を説明する図である。ただし、説明の便宜上８方向しか記載していない。水平方向１３１、１３５度方向１３４、４５度方向１３６、垂直方向１３７では、赤目領域１０２のエッジ１３９、１４０、１４２、１４３が検出できた。水平方向１３５では、黒目部分１０１のエッジ１４１が検出できた。４５度方向１３２、垂直方向１３３、１３５度方向１３８では、いずれのエッジも検出できなかった。
【００２９】
このようにいずれのエッジも検出できない場合が生じるが、本実施の形態では、所定の数以上のエッジが検出できた場合、探索が成功したとする。所定の数とは探索方向数のｎ倍とする。ｎは１／２程度あるいはそれ以上の値が適当である。例えば、ｎ＝１／２とすると、探索方向の半分以上においてエッジが検出できれば探索が成功したとする。８方向の場合は４個以上であり、４０方向の場合は２０個以上である。
【００３０】
ステップＳ４においてエッジ画素（境界点）が検出されると、すなわち、エッジが抽出できると、ステップＳ５において、検出されたエッジ情報に基づき赤目領域１０２に対応する領域を特定する。領域の特定とは、検出されたエッジ情報に基づく楕円や多角形などの幾何学的図形を当てはめることにより行う。図形を当てはめることにより、検出できなかったエッジの箇所を補うことができ、一つの閉じた領域として指定することができる。図形を当てはめるとは、数学的には、検出されたエッジ情報に基づく楕円や多角形などの幾何学的図形の領域指定関数を求めることである。
【００３１】
本実施の形態では、当てはめる図形を楕円とする。図７は、その様子を説明する図である。図６で説明したように、エッジ画素（境界点）１３９〜１４３の５つが検出できたとする。この５つのエッジ画素１３９〜１４３をすべて含む最小の長方形１５１を求める（図７（ａ））。次に、求められた長方形１５１に内接する楕円１５２を求める（図７（ｂ））。このようにして求めた楕円１５２を、赤目領域１０２に対応する領域として当てはめ、赤目領域１０２に対応する領域を特定する。すなわち、エッジ画素１３９〜１４３をすべて含む最小の長方形１５１に内接する楕円１５２の領域指定関数を求める。ここで、長方形１５１と、それに内接する楕円１５２を求めることは、すなわち楕円１５２の中心の位置と、長軸および短軸の長さとを求めることと同義である。
【００３２】
なお、上記のように楕円１５２で赤目領域１０２を近似すると、図７（ｂ）における領域１５３のように、本来赤目領域１０２の一部であるにもかかわらず、特定された領域１５２に含まれない場合が生じる。このような現象を極力防止するために、図２のステップＳ３〜Ｓ５を複数回繰り返すようにする。すなわち、ユーザは赤目領域１０２の内部の点を少しずらしながら複数指定する。複数の指定により、複数の形状の異なる楕円が特定される。この、形状が異なる複数の楕円の論理和を取った領域を特定する。このようにすることにより、より一層実際の赤目領域１０２に近似した領域を特定することができる。なお、ステップＳ３で、ユーザが複数の点を一度に指定するようにしてもよい。
【００３３】
なお、当てはめる図形を楕円としたのは、瞳孔が円形であること、また実際に生じている赤目領域の形状や、各種の実験結果等を考慮して判断したものである。ただし、楕円以外の形状、例えば円形にしてもよい。また、単に検出したエッジを直線で結んだ多角形や、最小２乗法によって検出したエッジすべてに近い境界線で規定される図形で当てはめてもよい。
【００３４】
図２のステップＳ６では、ステップＳ５において特定された領域の色を変更（補正）する。色の補正は、例えば、黒やグレイ（灰色）などの一色の色で塗りつぶすなど各種の方法が考えられる。しかし、一色の色で塗りつぶすと、キャッチライトまで塗りつぶすことになってしまい、非常に不自然な補正となってしまう。そこで、本実施の形態では、キャッチライトを残したままの自然な補正とするために、補正領域の輝度の濃淡情報を残したままの補正を考える。領域内の各画素において、ＲＧＢそれぞれの色成分の色情報を最小値Ｍｉｎ（Ｒ，Ｇ，Ｂ）で統一する。あるいは、各画素において、ＲＧＢそれぞれの色成分の色情報を、輝度情報Ｙ＝（Ｒ＋Ｇ＋Ｂ）／３に統一する方法にしてもよい。これらの場合、各画素において複数の色成分の色情報の最小値あるいはそれよりも大きな値で統一することになる。また、画像が明るすぎる場合は、最小値Ｍｉｎ（Ｒ，Ｇ，Ｂ）や輝度情報Ｙ＝（Ｒ＋Ｇ＋Ｂ）／３に所定の比率（例えば１／２）を掛けた値で統一してもよい。すなわち、各画素において複数の色成分の元の色情報に基づいた値で統一する。これにより、補正領域の輝度の濃淡情報を残したまま、赤色をなくすことができる。すなわち、キャッチライトを残しながら、赤色や金色を無彩色に変更することができる。
【００３５】
なお、以上の手順で赤目補正を行うが、楕円で近似する場合、どうしても赤目領域の一部が補正できない場合が生じる。上記に説明したように、ステップＳ３〜Ｓ５を複数回繰り返しても赤目領域が残る場合が生じる。そのような場合には、赤目補正処理後の画像データを使用して、再度図２の処理を行うようにすればよい。例えば、図７（ｂ）の領域１５３の赤目領域がどうしても残る場合、補正後の画像データを使用して再度赤目補正処理を行う。その場合、領域１５３が赤目領域とされ、領域１５３と楕円１５２のエッジが検出されるようになるので、確実に領域１５３の赤目が補正されるようになる。
【００３６】
以上説明したような本実施の形態の赤目補正処理方法を実施すると、次のような効果を奏する。
（１）補正すべき赤目領域などの色不良領域を、自然な色状態へ、容易に、短時間で、確実に補正することができる。
（２）ユーザが赤目領域の内部を指定できるようにしているので、探索対象の赤目領域が確実に指定される。すなわち、赤目領域以外の赤色領域を誤って検出することがなくなる。また、目を含む領域を指定する場合に比べて、極めて指定が容易となる。ユーザは、例えばマウスで一発クリックするだけでよい。
（３）ユーザが指定した赤目領域の内部の点を起点に赤目領域のエッジ（境界）を探索するようにしているので、様々な種類の赤目領域を容易に短時間に確実に特定することができる。例えば、様々な形状の赤目領域を容易に短時間に確実に特定することができる。また、グラデーションがある赤目であっても、探索条件の適当な設定により確実に特定することができる。さらに、指定された目を含む領域全体において画像処理をする場合に比べて、処理時間が極めて短時間で済む。すなわち、赤目領域内部の範囲の画像処理だけで済む。また、探索のアルゴリズムが簡単で、プログラムの開発等が容易となる。
（４）放射状に延びる複数の方向を探索しているので、２次元的な形状が容易にかつ確実に探索することができる。
（５）ユーザの１回の指定で探索の起点を複数選択するので、容易な操作でより精度の高いエッジ（境界）探索が可能となる。
（６）エッジ（境界）の探索処理は、色成分の色情報値の比較で行っているので、処理が簡単である。
（７）複数の画素群の比較で探索処理を行う場合、エッジが少々不鮮明（ボケている）であっても、確実にエッジを探索することができる。特に、３画素群が効果的である。
（８）探索したエッジ情報に基づき楕円形状を当てはめているので、円形の瞳孔において生じる赤目領域をより正確に近似でき、かつ、数学的な処理が容易である。また、楕円などの図形を当てはめるので、探索が成功しなかった方向についても補うことができる。
（９）色補正において、補正領域の輝度の濃淡情報を残したまま補正しているので、キャッチライトを残したままで赤目を補正することができる。すなわち、違和感のない自然な色の補正が可能となる。
（１０）複数回処理により複数の異なる楕円を特定してその論理和を取るので、赤目領域をより一層正確に近似できる。
（１１）補正後の画像データを使用して、さらに、赤目補正処理を行うので、隈なく赤目補正が可能となる。
【００３７】
−第２の実施の形態−
本発明の色不良領域補正方法を実施する第２の実施の形態を以下に説明する。第２の実施の形態では、第１の実施の形態で説明した赤目補正処理方法のうち、エッジ探索起点の選択、エッジの探索、赤目領域の特定において、異なる処理方法を用いる。第２の実施の形態は、第１の実施の形態と同一の、図１に示す構成により実施される。
【００３８】
第２の実施の形態における赤目補正処理のフローチャートを図８に示す。この赤目補正処理は、第１の実施の形態と同じく、パソコン１で実行される画像処理プログラムの一部である。ステップＳ１、Ｓ２では、第１の実施の形態と同一の処理を実行する。
【００３９】
ステップＳ３Ａでは、モニタ３に表示された表示画像上で、ユーザがマウス５等を使用して赤目付近の点を指定するのを待つ。ここでユーザが指定する点は、図２のステップＳ３における処理のように必ずしも赤目領域内部である必要はなく、赤目付近の点であれば、赤目領域の外でもよい。あるいは、ステップＳ３において、式（１）および（１）’の条件により、ユーザが指定した点が赤目領域外と判断された場合に、ステップＳ３Ａを実行するようにしてもよい。ユーザが指定した点に基づき、フラッシュ撮影の際に目に生じるストロボ光源のキャッチライトを探索し、探索されたキャッチライトの画素全てを指定する。
【００４０】
ユーザが指定した点に基づき、キャッチライトを探索する方法を、図９により説明する。図９は、赤目が生じている画像の目の部分を拡大した図である。符号２０１がキャッチライトであり、符号２０５が黒目２０６のうち赤目が生じている部分である。
【００４１】
ユーザのマウス５等のポインティングデバイスの操作によって、赤目領域付近の点が、カーソル２０２により指定される。このとき、指定された点を中心とした所定範囲、たとえば２０画素四方を範囲とする、領域２０３が設定される。ここで、領域２０３をあまり広い範囲とすると、たとえば、眼鏡の縁に生じているキャッチライト等も認識してしまうことがある。したがって、領域２０３はこれらも考慮して適切な範囲とする。次に、領域２０３の内部において、式（５）を満たす画素を特定する。ここで、式（５）のＲ０、Ｇ０、Ｂ０は、それぞれ領域２０３の内部にある画素のＲＧＢの各色成分の色情報の値を表す。なお、式（５）の条件は、各色成分の色情報の値が８ビット、０〜２５５の値であることを前提とした値である。式（５）の値以外であっても、キャッチライトを的確に見つけることができる値であればよい。
【数３】
Ｒ０＞２００ かつ Ｇ０＞２００ かつ Ｂ０＞２００ （５）
【００４２】
式（５）を満たす画素を全て特定したら、特定された画素による画素群が、所定の大きさ、たとえば１０画素四方の、領域２０４の内部にあるか否かを判別する。領域２０４の内部にある場合は、特定された画素群はキャッチライトであると判断して、これらを全て指定する画素とする。領域２０４の内部にない場合は、特定された画素群はキャッチライトでないと判断して、これらの画素は指定する画素から除外する。この処理を行うことで、眼鏡の反射による部分などを除外することができる。このようにして、キャッチライトの画素を指定する。図９に示す例では、領域２０１の画素群は領域２０４の内部にあり、キャッチライトの画素として指定される。
【００４３】
なお、上述した方法によってキャッチライトの画素を指定できなかった場合には、たとえば、ユーザによって赤目領域付近の点が再度指定されるのを待ち、同じ処理を繰り返してもよい。あるいは、ユーザによって赤目内部の点が指定されるのを待ち、図２のＳ３における処理と同様の処理内容を実行してもよい。
【００４４】
次のステップＳ４Ａでは、ステップＳ３Ａで指定された画素を全て起点として、赤目領域のエッジを探索する。このとき、起点からの探索方向、およびエッジ探索において比較する画素群は、図２のＳ４における処理と同様である。すなわち、起点の画素に対して、水平方向、垂直方向、４５度方向、１３５度方向の、それぞれにおいて相反する２方向の計８方向を探索する。また、図５に示すように、探索方向１２１に並ぶ、隣り合った画素群の色情報の値を比較する。
【００４５】
以下、図５（ａ）に示す注目画素１２２とその隣接画素１２３との間で色情報の比較を行うときの、本実施の形態における条件を説明する。注目画素１２２のＲＧＢの各色成分の色情報の値Ｒ、Ｇ、Ｂと、隣接画素１２３のＲＧＢの各色成分の色情報の値Ｒ’、Ｇ’、Ｂ’とが、式（６）を満たすか否かを判断することにより、エッジを探索する。そして、第１の実施の形態と同様に、探索方向１２１に画素を順次ずらして判断を繰り返し、注目画素１２２と隣接画素１２３が、式（６）を満たしたとき、注目画素１２２をエッジ（境界）画素とする。ここで、式（６）のｒおよびｒ’は式（７）、ＣｒおよびＣｒ’は式（８）、ｆ（ｄ）は式（１０）によるものとする。また、式（８）におけるＹおよびＹ’は、式（９）によるものとする。
【数４】
ｒ・Ｃｒ＞ｆ（ｄ） かつ ｒ’・Ｃｒ’≦ｆ（ｄ） （６）
ｒ＝Ｒ／（Ｒ＋Ｇ＋Ｂ）、ｒ’＝Ｒ’／（Ｒ’＋Ｇ’＋Ｂ’） （７）
Ｃｒ＝０．７１３（Ｒ−Ｙ）、Ｃｒ’＝０．７１３（Ｒ’−Ｙ’）（８）
Ｙ＝０．５８７Ｇ＋０．１１４Ｂ＋０．２９９Ｒ 、
Ｙ’＝０．５８７Ｇ’＋０．１１４Ｂ’＋０．２９９Ｒ’ （９）
ｆ（ｄ）＝Ｓ１（ｄ≦ｕのとき）またはＳ２（ｄ＞ｕのとき） （１０）
【００４６】
ｆ（ｄ）は、式（１０）に表されるように、ｄの値によって、Ｓ１またはＳ２（Ｓ１＜Ｓ２）のどちらかの値をとる関数である。ｆ（ｄ）の値は、エッジを判定するための判定値として用いられる。ここで、ｄの値は、探索の起点から探索位置までの距離を表し、起点とする画素から注目画素１２２までの画素数によって、表すことができる。ｄがしきい値ｕ以下のときは、赤目の部分が小さく、エッジが鮮明でない可能性があるため、ｆ（ｄ）＝Ｓ１として、判定値を小さくする。ｄがしきい値ｕを越えると、赤目の部分が大きく、エッジが鮮明であると考えられるため、ｆ（ｄ）＝Ｓ２として、判定値を大きくする。判定値Ｓ１、Ｓ２およびしきい値ｕは、各種の実験やシミュレーションによって調整され、最適化された値が用いられる。また、ＹおよびＣｒ、Ｙ’およびＣｒ’は、ＹＣｂＣｒ信号として一般に用いられている信号フォーマットによるものであり、ＹおよびＹ’は輝度信号、ＣｒおよびＣｒ’は赤の色差信号を表す。
【００４７】
なお、上記では、１画素の比較について説明したが、図２のステップＳ４における処理と同様に、図５（ｂ）のように３画素群の比較や、それ以外の複数画素群の比較によって、エッジを探索してもよい。このときのＲＧＢ各色成分の色情報の値は、ステップＳ４と同様に、比較する画素群の平均値が用いられる。複数画素群を比較することで、エッジが少々不鮮明であっても、エッジを検出することが可能となる。
【００４８】
また、探索開始点から探索位置までの距離により、２つのエッジ判定値のどちらかを用いることとしたが、エッジ判定値の数を変えてもよい。任意の数のエッジ判定値と、それに対応する数の、探索開始点から探索位置までの距離に対するしきい値を設定することができる。
【００４９】
ここで、式（６）で赤目領域のエッジが検出できなかった場合、何ら制限を設けなければ画像の端部まで無駄に探索することになり、処理時間の増大を招くことになる。それを避けるため、８方向の探索方向において、起点から最初にエッジを検出した位置までの距離に対して、一定の範囲内、たとえば２倍までの距離を、最大の探索範囲とする。
【００５０】
図１０を用いて以下に説明する。赤目領域２１１に対して、符号２１２に示す点の画素を起点として、符号２１３に示す８方向にエッジを探索する。その結果、符号２１４に示す点の画素が、赤目領域のエッジとして最初に検出されたとする。このとき、起点２１２からエッジ２１４までの８−近傍距離が、たとえば２０であったとすると、２０の２倍、すなわち符号２１２に示す点の画素からの８−近傍距離が４０以内の範囲２１５が、最大の探索範囲として設定される。範囲２１５を越えても赤目領域のエッジが検出できなかった場合は、その方向における探索は中断される。
【００５１】
なお、上述の説明では、起点から最初にエッジを検出した点までの距離に対して、その２倍までの距離を最大の探索範囲としたが、この値は適宜変更してもよい。あるいは、第１の実施の形態と同様に、式（３）で黒目部分を検出するようにするとともに、所定数の画素範囲を探索することとしてもよい。
【００５２】
図１１（ａ）に、エッジの検出結果の例を示す。ただし、説明の便宜上、１つの起点に対する分しか記載していない。黒目部分２２１における赤目領域２２２に対して、符号２２３に示す点の画素を起点として、符号２２４〜２３１に示す８方向へのエッジ探索を行った。その結果、１３５°方向２２７および垂直方向２３０では、エッジを検出できなかった。その他の方向では、エッジ２３２〜２３７が検出できた。
【００５３】
このようにエッジが検出できない場合があるが、第１の実施の形態と同様に、探索方向数のｎ倍以上（ｎは１／２程度あるいはそれ以上の値）のエッジが検出できた場合、探索が成功したとする。たとえば、ｎ＝１／２とし、起点となる画素数が１０画素であったとすると、探索方向は計８０方向となり、４０個以上のエッジが検出できた場合に探索が成功したことになる。
【００５４】
ステップＳ５Ａでは、ステップＳ４Ａで検出したエッジ情報に楕円を当てはめることにより、赤目領域に対応する領域を特定する。ここで、第１の実施の形態では１つであった楕円を、本実施の形態ではもう１つ加えて２つとすることで、赤目領域をより近似する領域を特定する。以下、図１１を用いて説明する。ステップＳ４Ａで、図１１（ａ）に示すとおり、赤目領域２２２に対してエッジ２３２〜２３７が検出できたとする。このとき、第１の実施の形態と同様にして、図１１（ｂ）に示すとおり、エッジ２３２〜２３７をすべて含む最小の長方形２４０と、長方形２４０に内接する楕円２４１とを、まず求める。しかし、これだけでは、図７（ｂ）における領域２４２のように、本来赤目領域２２２の一部であるにもかかわらず、楕円２４１に含まれない領域が生じる。
【００５５】
そこで、図１１（ｃ）に示すとおり、エッジ２３２〜２３７を全て含む最小の長方形を、もう一つ求める。ここで求める長方形２４３は、図１１（ｂ）における長方形２４０とは異なり、四辺が４５°方向または１３５°方向の探索方向２２５、２２７、２２９、２３１のいずれかと平行な長方形である。次に、長方形２４３に内接する楕円２４４を求める。すなわち、楕円２４４は、図１１（ｂ）における楕円２４１から、軸（長軸および短軸）の角度を４５°変えることにより、決定される楕円である。
【００５６】
上記のようにして、楕円２４１および楕円２４４を求めたら、図１１（ｄ）に示すように、楕円２４１と楕円２４４との論理和によって示される領域２４５を求める。この領域２４５を、赤目領域２２２に対応する領域とする。このようにすることで、１つの楕円だけではカバーできなかった領域２４２についても、そのほとんどの部分を、赤目領域２２２に対応する領域２４５の中に含めることができる。すなわち、赤目領域により近似した領域を特定することができる。
【００５７】
なお、上述の説明では、軸の角度を４５°変えた楕円を２つ求め、その論理和により赤目領域に対応する領域を特定することとしたが、楕円の数は適宜変更してもよい。軸の角度が異なる任意の数の楕円を求め、それらの論理和による領域を、赤目領域に対応する領域として特定することができる。
【００５８】
ステップＳ６では、第１の実施の形態と同一の処理により、ステップＳ５Ａにおいて特定された領域の色を補正する。このようにして、赤目領域の色が補正される。なお、本実施の形態においても、第１の実施の形態と同様に、ステップＳ３Ａ〜Ｓ５Ａを複数回繰り返してもよい。
【００５９】
以上説明したような本実施の形態の赤目補正処理方法を実施すると、第１の実施の形態による作用効果に加えて、次のような効果を奏する。
（１）ユーザが指定する点を、赤目領域の内部に限定しないこととしたので、赤目領域が小さく指定が困難である場合にも、確実に指定することができる。
（２）キャッチライトの画素全てを探索開始点としたので、より多くのエッジ（境界）を検出することができる。
（３）輝度情報と色差情報に基づいてエッジ（境界）を検出しているので、より人間の視覚感覚に近いエッジ検出を行うことができる。
（４）探索の起点からの距離に応じて、エッジ判定値を変えることとしたので、画像の大きさによって変化するエッジ（境界）の鮮明さに応じて、より確実にエッジを検出することができる。
（５）探索の起点から、最初にエッジ（境界）を検出した点までの距離に基づいて、最大の探索範囲を決めることとしたので、目の画像の大きさに影響を受けることなく、安定したエッジ探索が可能となるとともに、不要な探索による処理時間の増大や、エッジの誤検出を防ぐことができる。
（６）探索したエッジ情報に基づき、軸の角度が異なる複数の楕円を当てはめ、その論理和の領域を赤目領域に対応させているので、一度ユーザから点を指定されると、より正確に赤目領域を近似できる。
【００６０】
−第３の実施の形態−
本発明の色不良領域補正方法を実施する第３の実施の形態を以下に説明する。第３の実施の形態では、一度赤目領域に対応させて特定した領域に基づいて、さらに領域を特定する処理を繰り返し行う。そして、特定された領域全ての論理和を、最終的に赤目領域に対応する領域とする。第３の実施の形態は、第１および第２の実施の形態と同一の、図１に示す構成により実施される。
【００６１】
第３の実施の形態における赤目補正処理のフローチャートを図１２に示す。この赤目補正処理は、第１および第２の実施の形態と同じく、パソコン１で実行される画像処理プログラムの一部である。ステップＳ１〜Ｓ３では、第１の実施の形態と同一の処理を実行する。
【００６２】
ステップＳ４Ｂでは、ステップＳ３で指定された点を起点に、赤目領域のエッジを探索する。このときの起点は、ステップＳ３でユーザに指定された点に対応する画素のみとする。すなわち、図４を用いて説明すると、画素１１１のみを起点としてエッジを探索し、画素１１２〜１１５を起点としたエッジ探索は行わない。エッジを検出する条件は、第１の実施の形態と同じく、式（２）〜（４）によるものとする。この処理により、８方向の探索方向に対して最大８個のエッジが検出される。このうち、所定の数以上、たとえば４個以上のエッジが検出された場合は、探索が成功したとする。
【００６３】
ステップＳ５では、ステップＳ４Ｂで検出したエッジ情報に基づき、第１の実施の形態と同一の処理により、赤目領域を特定する。この領域は、たとえば図７（ｂ）において、楕円１５２で示される領域である。
【００６４】
次に、ステップＳ５１では、１回目のステップＳ５で特定した赤目領域内に含まれる全ての画素を、探索の起点としたかを判定する。全ての画素は探索の起点としていないと判定した場合は、ステップＳ５２へ進む。全ての画素を探索の起点としたと判定した場合は、ステップＳ５３へ進む。最初にステップＳ５１を実行する場合は、ステップＳ３でユーザに指定された点に対応する画素以外は、探索の起点としていない。そのため、全ての画素は探索の起点としていないと判定し、ステップＳ５２へ進む（赤目領域内に含まれる画素が、ユーザに指定された点に対応する画素の１画素しかない場合を除く）。
【００６５】
ステップＳ５２では、ステップＳ５で特定した赤目領域内に含まれる画素のうち、まだ探索の起点としていない画素の１つを、探索の起点として設定する。ステップＳ５２の処理が終わると、ステップＳ４Ｂに戻って、設定した画素を起点としたエッジ探索を実施する。このように、ステップＳ４Ｂ〜Ｓ５１と、ステップＳ５２とを繰り返し行うことで、一旦赤目領域内として特定した領域における、全ての画素を探索起点とした、新たな赤目領域が特定される。この新たに特定される赤目領域の数は、ステップＳ５２で探索起点とした画素の数だけ存在することになる。
【００６６】
ステップＳ５３では、それまで実行したステップＳ５で特定した赤目領域の全てについて、その論理和を求める。そして、この求めた領域を、新たな赤目領域とする。次のステップＳ６では、第１の実施の形態と同一の処理により、ステップＳ５３において赤目領域とした領域の色を補正する。このようにして、赤目領域の色が補正される。
【００６７】
以上説明したような本実施の形態の赤目補正処理方法を実施すると、第１の実施の形態による作用効果に加えて、次のような効果を奏する。一度特定した領域内の全ての画素を探索の起点として、領域を繰り返し特定し、それら全ての領域の論理和を、赤目領域に対応させているので、一度ユーザから点を指定されると、さらにより正確に赤目領域を近似できる。
【００６８】
−第４の実施の形態−
本発明の色不良領域補正方法を実施する第４の実施の形態を以下に説明する。本実施形態では、ユーザに指定された画像上の点の周囲に赤目領域の候補点を抽出し、抽出された候補点の周囲の色情報によって、その候補点の中からエッジ探索の開始点を決定し、さらにエッジ探索のしきい値を決定する。第４の実施の形態は、第１〜第３の実施の形態と同一の、図１に示す構成により実施される。
【００６９】
第４の実施の形態における赤目補正処理のフローチャートを図１３に示す。この赤目補正処理は、第１〜第３の実施の形態と同じく、パソコン１で実行される画像処理プログラムの一部である。ステップＳ１とＳ２では、第１の実施の形態と同一の処理ステップを実行して、モニタ３に赤目補正処理の対象画像を表示する。
【００７０】
ステップＳ３Ｂでは、モニタ３に表示された表示画像上で、ユーザがマウス５等を使用して赤目付近の点を指定するのを待つ。ここでユーザが指定する点は必ずしも赤目領域内部である必要はなく、赤目付近の点であれば、赤目領域の外でもよい。なお、このステップＳ３Ｂでは、第２の実施の形態で図８に示すステップＳ３Ａにおいてユーザが指定した点に基づいてキャッチライトを探索したのとは異なり、ユーザが点を指定したら、直ちに次のステップＳ３Ｃへ進む。
【００７１】
ステップＳ３Ｃでは、ステップＳ３Ｂにおいて指定された点に基づいて、赤目領域に含まれる色不良領域の探索開始候補点（以下、候補点とする）の抽出を行う。その方法を次に説明する。
【００７２】
ステップＳ３Ｃにおいて実行する候補点の抽出について、その詳細な処理内容のフローチャートを図１４に示す。ステップＳ３１において、ステップＳ２でユーザに指定された点の周囲の所定範囲内に含まれる画素の全てに対して、その画素がキャッチライトまたは赤目を表すか否かを判定する。このとき、判定の対象とする画素の色情報について、はじめに下記の式（１１）によってＨＳＶ値を求める。なお、以下の説明におけるＲ，Ｇ，Ｂは、それぞれＲ（赤）、Ｇ（緑）、Ｂ（青）の各成分値を表す。また、Ｈ，Ｓ，Ｖは、それぞれＨ（色相）、Ｓ（彩度）、Ｖ（明度）の各成分値を表す。
【数５】
Ｖ＝Max（Ｒ，Ｇ，Ｂ）
Ｓ＝２５５（Ｖ−Ｘ）／Ｖ
Ｈ＝（５．０＋ｂ）／６．０（ｒ＝Ｖ かつ ｇ＝Ｘ のとき）
＝（１．０−ｇ）／６．０（ｒ＝Ｖ かつ ｇ≠Ｘ のとき）
＝（１．０＋ｒ）／６．０（ｇ＝Ｖ かつ ｂ＝Ｘ のとき）
＝（３．０−ｂ）／６．０（ｇ＝Ｖ かつ ｂ≠Ｘ のとき）
＝（３．０＋ｇ）／６．０（ｂ＝Ｖ かつ ｒ＝Ｘ のとき）
＝（５．０−ｒ）／６．０（ｂ＝Ｖ かつ ｒ≠Ｘ のとき）・・（１１）
ただし、
Ｘ＝Min（Ｒ，Ｇ，Ｂ）
ｒ＝（Ｖ−Ｒ）／（Ｖ−Ｘ）
ｇ＝（Ｖ−Ｇ）／（Ｖ−Ｘ）
ｂ＝（Ｖ−Ｂ）／（Ｖ−Ｘ）
Min（Ｒ，Ｇ，Ｂ）：ＲＧＢ各値のうち最小の値
Max（Ｒ，Ｇ，Ｂ）：ＲＧＢ各値のうち最大の値
【００７３】
上記の式（１１）によって判定対象画素のＨＳＶ値を求めたら、次にその各画素について、下記の式（１２）、（１３）によりキャッチライトまたは赤目を表すか否かを判定する。
【数６】
Ｒ＞２００ かつ Ｇ＞２００ かつ Ｂ＞２００ ・・・・・・・（１２）
【数７】
（Ｇ＋Ｂ）／Ｒ＜０．８ かつ Ｈ＞０．８
かつ Ｃｒ・Ｒ／（Ｒ＋Ｇ＋Ｂ）＞１５ ・・・・・・・・・・（１３）
ただし
Ｃｒ＝０．７１３（Ｒ−Ｙ）
Ｙ＝０．５８７Ｇ＋０．１１４Ｂ＋０．２９９Ｒ
【００７４】
上記の式（１２）は、第２の実施の形態で説明したキャッチライトを見つけるための式（５）と同じ式である。判定対象画素のいずれかが式（１２）を満たし、さらにその式（１２）を満たす画素によって形成される画素群が、第２の実施の形態と同様に所定の大きさ、たとえば１０画素四方以下の大きさである場合、その画素はキャッチライトであると判定する。また、上記の式（１３）は、赤目であるか否かを判定するための式である。判定対象画素のいずれかが式（１３）を満たす場合、その画素は赤目であると判定する。
【００７５】
なお、式（１２）および（１３）はそれぞれキャッチライトまたは赤目を表す式の一例であり、本発明はこれに限定されるものではない。キャッチライトや赤目であること又は色不良領域の特徴的な色を的確に判定できる式であれば、どのようなものを用いてもよい。
【００７６】
以上説明した判定処理により、判定対象画素であるステップＳ２でユーザに指定された点の周囲の所定範囲内に含まれる画素のそれぞれについて、ステップＳ３１において、キャッチライトまたは赤目であるか否かを判定する。このようにしてステップＳ３１においてキャッチライトまたは赤目であると判定された画素を、次のステップＳ３２において、赤目領域の候補画素として抽出する。なお、ステップＳ３１においてキャッチライトまたは赤目であると判定された画素が一つもなかった場合は、ステップＳ３２において、ステップＳ２でユーザが指定した点に位置する画素を赤目領域の候補画素として抽出する。このようにして抽出された候補画素について、ステップＳ３３において、その周囲の色情報を取得する。
【００７７】
ステップＳ３３において候補画素の周囲の情報を取得する方法を、図１５を用いて説明する。図１５は、ステップＳ３２において抽出された候補画素の１つ（候補点４０３とする）が画像上に位置し、その候補点４０３の周辺部分を拡大したものであり、その中には目領域４００が含まれている。目領域４００には黒目部分４０１が含まれており、その内部には前述のように赤目が生じている。その赤目領域を符号４０２に示す。
【００７８】
ステップＳ３３では、候補点４０３に対して、その周囲の色情報を取得する。ここでは、候補点４０３を中心とした符号４０４に示す直径ｅの円形の範囲について、その内部の色情報を取得することとする。なお、これに限らず、様々な形状や大きさの範囲について色情報を取得することとできる。
【００７９】
範囲４０４の内部の色情報として、範囲４０４内部に含まれるすべての画素を対象とし、赤み度Ｒｎの平均値および最大値と、彩度Ｓの平均値とを求める。なお、ここでいう赤み度Ｒｎは、下記の式（１４）によって表されるものとする。
【数８】
Ｒｎ＝Ｃｒ・Ｒ／（Ｒ＋Ｇ＋Ｂ） ・・・・・・・・・・・・・・（１４）
【００８０】
以上説明したようにして、範囲４０４内のすべての画素による赤み度Ｒｎの平均値および最大値と、彩度Ｓの平均値とを求めることにより、候補点４０３の周囲の色情報を取得する。ステップＳ３２において複数の候補画素が抽出されているときは、同様にして、すべての候補画素による候補点について周囲の色情報を取得する。
【００８１】
ステップＳ３４において、ステップＳ３３で取得された色情報に基づいて、各候補画素が赤目領域の画素として妥当であるか否かを判定する。すなわち、各候補画素による候補点が赤目領域に含まれるのが妥当であるか否かを判定する。妥当でないと判定された候補画素（候補点）は、これ以降の処理対象より除外される。ここで妥当であると判定された画素は、図１３のステップＳ４において、エッジ探索を行うときの探索開始点とされる。この判定は、たとえば、各候補画素の彩度Ｓの値を基準値Ｓｒと比較することにより行われる。このときの彩度の基準値Ｓｒは、ステップＳ３３で取得された色情報に基づいて決定される。
【００８２】
たとえば、ステップＳ３３で取得された範囲４０４内のすべての画素による彩度Ｓの平均値を基準値Ｓｒとし、各候補画素の彩度Ｓがこの基準値Ｓｒを中心値とした所定範囲内、たとえば±１０％以内に入っているか否かを判定する。所定範囲内に入っている場合、その候補画素は赤目領域の画素として妥当であると判定し、入っていない場合は、その候補画素は赤目領域の画素として妥当でないと判定する。このとき、妥当と判定された複数の候補画素に対して、各候補画素の色情報に基づいて、ステップＳ４においてそれらの画素を探索開始点としてエッジ探索を行うときの優先度をこのステップＳ３４で設定してもよい。たとえば、各候補画素のそれぞれの赤み度Ｒｎを上記の式（１４）により計算し、その値が全候補画素の赤み度Ｒｎの平均値と最大値の中間値以上である候補画素については、ステップＳ４で優先的にエッジ探索を行うようにする。
【００８３】
ステップＳ３５において、ステップＳ３３で取得された色情報に基づいて、エッジ探索時のしきい値Ｔを設定する。たとえば、ステップＳ３３で取得された範囲４０４内のすべての画素による赤み度Ｒｎの平均値と最大値により、たとえばそれらの中間値をしきい値Ｔとする。なお、ここで設定されたしきい値は、図１３のステップＳ４において、エッジ探索を行うときに用いられる。
【００８４】
ステップＳ３５を実行した後、図１４の処理フローを終了する。これにより、図１３のステップＳ３Ｃの処理が終了する。このようにして、赤目領域に含まれる候補点が抽出され、図１３のステップＳ４に移行する。ステップＳ４以降は、第１の実施の形態と同一の処理ステップを実行する。このとき、ステップＳ３Ｃで抽出された候補点を起点として、ステップＳ４における赤目領域のエッジ探索を行う。
【００８５】
以上説明したような本実施の形態の赤目補正処理方法を実施すると、第１の実施の形態による作用効果に加えて、次のような効果を奏する。
（１）ユーザが指定する点を赤目領域内部に限定しないこととし、ユーザに指定された点の周囲から赤目またはキャッチライトを表す画素を赤目領域内部の候補点として抽出しているので、赤目領域が小さく指定が困難である場合にも、確実に赤目領域内部の点を指定することができる。
（２）抽出された候補点の周囲の色情報に基づいて赤目領域に含まれるのが妥当か否かを判定し、妥当でないと判定された候補点を除外しているので、赤目領域に含まれない画素を探索開始点としないことができる。
（３）抽出された候補点の色情報に基づいてエッジ探索の優先度を設定しているので、赤目領域の内部に確実に含まれる点を優先的にエッジ探索の起点とすることができる。
（４）抽出された候補点の周囲の色情報に基づいてエッジ探索のしきい値を設定しているので、赤目領域の色状態に応じたエッジ探索ができる。
【００８６】
上記の実施の形態では、パソコン１で赤目補正処理を行う例を説明したが、この内容に限定する必要はない。デジタルカメラ上でそのような処理プログラムを搭載し処理するようにしてもよい。また、カメラから直接画像データを取得してプリントするプリンタにおいて、そのような処理プログラムを搭載し処理するようにしてもよい。すなわち、画像データを処理するあらゆる画像処理装置に本発明を適用することができる。言いかえれば、取得した画像において補正対象の内部の点を指定し、指定された点に基づく点を起点として補正対象とする色不良領域を特定し、特定された色不良領域の色補正を行うような画像処理方法を実行する画像処理装置において、本発明を適用できる。また、色不良領域の色補正だけに限られず、特定の色を示す領域を特定するだけでも本発明の適用範囲内である。特に、特定の色を表す領域のみを特定し、異なる画像を当てはめたりするような画像処理に対しても、本発明に開示された領域探索の手法は有効である。具体的には、図２、８、１２および１３のフローチャートにおいて、Ｓ６のステップを実行する前で終わるものでも構わない。
【００８７】
上記の実施の形態では、ＲＧＢ表色系の例で説明をしたが、この内容に限定する必要はない。その他の表色系の画像データであってもよい。
【００８８】
上記の実施の形態では、赤目補正処理として様々な処理内容を組み合わせた例を説明したが、この組み合わせに限定する必要はない。各実施の形態の処理内容は、他の実施の形態の処理内容と、任意に組み合わせて実行することができる。
【００８９】
上記では、種々の実施の形態および変形例を説明したが、本発明はこれらの内容に限定されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も本発明の範囲内に含まれる。
【００９０】
【発明の効果】
本発明は、以上説明したように構成しているので、補正すべき色不良領域を、自然な色状態へ、容易に、短時間で、確実に補正することができる。
【図面の簡単な説明】
【図１】本発明の色不良領域補正方法を実施する一実施の形態を示す図である。
【図２】第１の実施の形態における赤目補正処理のフローチャートを示す図である。
【図３】赤目が生じている黒目部分を拡大した図である。
【図４】画像データを画素が認識できる程度にまで拡大した図である。
【図５】エッジ探索の様子を説明する図である。
【図６】探索結果の様子を説明する図である。
【図７】楕円図形をあてはめる様子を説明する図である。
【図８】第２の実施の形態における赤目補正処理のフローチャートを示す図である。
【図９】ユーザが指定した点よりキャッチライトを探索する様子を説明する図である。
【図１０】起点から最初にエッジを検出した位置までの距離に対して、一定の範囲内を、エッジの最大探索範囲とする様子を説明する図である。
【図１１】複数の楕円図形をあてはめ、その論理和の領域を特定する様子を説明する図である。
【図１２】第３の実施の形態における赤目補正処理のフローチャートを示す図である。
【図１３】第４の実施の形態における赤目補正処理のフローチャートを示す図である。
【図１４】第４の実施の形態における赤目補正処理のうち、候補点の抽出処理のフローチャートを示す図である。
【図１５】候補点の周囲の色情報を取得する様子を説明する図である。
【符号の説明】
１ パーソナルコンピュータ
２ 制御装置
３ モニタ
４ キーボード
５ マウス
６ ＣＤ−ＲＯＭ駆動装置
７ 記録媒体
８ デジタルカメラ
９ インターネット
１０ コンピュータ

Claims (15)

1. 赤目現象を補正すべき画像を取得する画像取得ステップと、
   前記画像取得ステップで取得した画像上で、補正すべき赤目領域の内部の点を指定する指定ステップと、
   前記指定ステップで指定された点に基づき複数の起点を設定し、設定した複数の起点の各々からそれぞれ放射状に延びる複数の方向と前記赤目領域の境界とが交差する複数の境界点を検出することにより、前記赤目領域の境界を探索する探索ステップと、
   前記探索ステップで検出された複数の境界点に基づき前記赤目領域に対応する楕円形状の領域を特定する領域特定ステップと、
   前記特定された領域の色を変更する色変更ステップとを有し、
   前記指定ステップでは複数の点を指定し、
   前記指定ステップで指定された複数の点毎に、前記探索ステップと前記領域特定ステップとを組み合わせて複数回行い、
   前記色変更ステップでは前記探索ステップと前記領域特定ステップとを複数回行うことにより特定された複数の楕円形状の領域の論理和により得られる領域の色を変更することを特徴とする赤目領域補正方法。
2. 赤目現象を補正すべき画像を取得する画像取得ステップと、
   前記画像取得ステップで取得した画像上で、補正すべき赤目領域の内部の点を指定する指定ステップと、
   前記指定ステップで指定された点に基づき複数の起点を設定し、設定した複数の起点の各々からそれぞれ放射状に延びる複数の方向と前記赤目領域の境界とが交差する複数の境界点を検出することにより、前記赤目領域の境界を探索する探索ステップと、
   前記探索ステップで検出された複数の境界点に基づき前記赤目領域に対応する楕円形状の領域を特定する領域特定ステップと、
   前記特定された領域の色を変更する色変更ステップとを有し、
   前記指定ステップと前記探索ステップと前記領域特定ステップとを組み合わせて複数回行い、
   前記色変更ステップでは前記指定ステップと前記探索ステップと前記領域特定ステップとを組み合わせて複数回行うことにより特定された複数の楕円形状の領域の論理和により得られる領域の色を変更することを特徴とする赤目領域補正方法。
3. 赤目現象を補正すべき画像を取得する画像取得ステップと、
   前記画像取得ステップで取得した画像上で、補正すべき赤目領域の内部の点を指定する指定ステップと、
   前記指定ステップで指定された点に基づき起点を設定し、設定した起点からそれぞれ放射状に延びる複数の方向と前記赤目領域の境界とが交差する複数の境界点を検出することにより、前記赤目領域の境界を探索する探索ステップと、
   前記探索ステップで検出された複数の境界点に基づき前記赤目領域に対応する楕円形状の領域を特定する領域特定ステップと、
   前記特定された領域の色を変更する色変更ステップとを有し、
   前記領域特定ステップにおいて特定された領域内の複数の点を起点として、さらに前記探索ステップと前記領域特定ステップとを組み合わせて複数回行い、
   前記色変更ステップでは前記探索ステップと前記領域特定ステップとを複数回行うことにより特定された複数の楕円形状の領域の論理和により得られる領域の色を変更することを特徴とする赤目領域補正方法。
4. 請求項１〜３のいずれか１項記載の赤目領域補正方法において、
   前記複数の楕円形状の領域は、それぞれ軸の角度が異なることを特徴とする赤目領域補正方法。
5. 赤目現象を補正すべき画像を取得する画像取得ステップと、
   前記画像取得ステップで取得した画像上で、補正すべき赤目領域の内部の点を指定する指定ステップと、
   前記指定ステップで指定された点に基づき複数の起点を設定し、設定した複数の起点の各々からそれぞれ放射状に延びる複数の方向と前記赤目領域の境界とが交差する複数の境界点を検出することにより、前記赤目領域の境界を探索する探索ステップと、
   前記探索ステップで検出された複数の境界点に基づき前記赤目領域に対応する楕円形状の領域を特定する領域特定ステップと、
   前記特定された領域の色を変更する色変更ステップとを有し、
   前記領域特定ステップでは前記複数の境界点に基づきそれぞれ軸の角度が異なる複数の楕円形状の領域を特定し、
   前記色変更ステップでは前記領域特定ステップにより特定された複数の楕円形状の領域の論理和により得られる領域の色を変更することを特徴とする赤目領域補正方法。
6. 請求項５記載の赤目領域補正方法において、
   前記指定ステップと前記探索ステップと前記領域特定ステップとを組み合わせて複数回行い、
   前記色変更ステップでは前記指定ステップと前記探索ステップと前記領域特定ステップとを組み合わせて複数回行うことによりそれぞれ特定された複数組の楕円形状の領域の論理和により得られる領域の色を変更することを特徴とする赤目領域補正方法。
7. 請求項１〜６のいずれか１項記載の赤目領域補正方法において、
   前記画像は複数の画素から構成され、各画素は複数の色成分の色情報を有し、
   前記色変更ステップは、前記特定された赤目領域を構成する各画素の複数の色成分の色情報の値を、その画素の複数の色成分の元の色情報に基づいた値で統一することを特徴とする赤目領域補正方法。
8. 請求項１〜６のいずれか１項記載の赤目領域補正方法において、
   前記画像は複数の画素から構成され、各画素は複数の色成分の色情報を有し、
   前記色変更ステップは、前記特定された赤目領域を構成する各画素の複数の色成分の色情報の値を、その画素の複数の色成分の元の色情報の最低値以上の値で統一することを特徴とする赤目領域補正方法。
9. 請求項１〜８のいずれか１項記載の赤目領域補正方法において、
   前記指定ステップは、前記画像取得ステップで取得した画像上に指定された点の周囲の所定範囲内から前記赤目領域に位置する候補点を抽出し、その抽出された候補点を補正すべき赤目領域の内部の点として指定することを特徴とする赤目領域補正方法。
10. 請求項９記載の赤目領域補正方法において、
    前記指定ステップは、前記抽出された候補点について、周囲の色情報に基づいてその候補点が前記赤目領域に含まれるのが妥当か否かを判定し、妥当でないと判定された候補点を除外することを特徴とする赤目領域補正方法。
11. 請求項９または１０に記載の赤目領域補正方法において、
    前記指定ステップは、前記抽出された候補点に位置する画素の色情報に基づいて、前記探索ステップにおける探索の優先度をその候補点に対して設定することを特徴とする赤目領域補正方法。
12. 請求項９〜１１のいずれか１項記載の赤目領域補正方法において、
    前記探索ステップは、前記指定ステップで抽出された候補点の周囲の色情報に基づいて得られたしきい値に基づいて、前記赤目領域の境界を探索することを特徴とする赤目領域補正方法。
13. 請求項１〜１２いずれか１項に記載の赤目領域補正方法のステップをコンピュータに実行させるための赤目領域補正処理プログラム。
14. 請求項１３の赤目領域補正処理プログラムを記録したコンピュータ読みとり可能な記録媒体。
15. 請求項１３の赤目領域補正処理プログラムを搭載し、実行する画像処理装置。

Images