JP2004208132A

JP2004208132A - 色不良領域補正方法、色不良領域補正処理プログラム、画像処理装置

Info

Publication number: JP2004208132A
Application number: JP2002376314A
Authority: JP
Inventors: Shigeru Tsuchiida; 茂土井田
Original assignee: Nikon Corp
Current assignee: Nikon Corp
Priority date: 2002-12-26
Filing date: 2002-12-26
Publication date: 2004-07-22

Abstract

【課題】様々な撮影条件下において撮影された様々な画像において、色不良領域をより容易にかつ確実に補正する色不良領域補正方法、色不良領域補正処理プログラム、および、色不良領域補正処理プログラムの実行が可能な画像処理装置を提供すること。
【解決手段】パソコン１上において、赤目現象が生じている画像データを読みこんでその画像をモニタ３に表示し、赤目領域に対応する領域を特定する。特定された領域に対して、妥当性の評価・領域の変更を行い、最終的な赤目領域に対応する領域を特定する。この最終的に特定された領域に対して、各画素のＲＧＢの各色成分の色情報を使用し、色不良領域の色補正を行う。
【選択図】図２

Description

【０００１】
【発明の属する技術分野】
本発明は、画像処理において、色不良領域を補正する色不良領域補正方法、色不良領域補正処理プログラム、および、色不良領域補正処理プログラムの実行が可能な画像処理装置に関する。特に、フラッシュ撮影時の赤目現象による色不良を改善する技術に関する。
【０００２】
【従来の技術】
フラッシュ撮影をしたとき、人の目が赤くなったり金色になったりするいわゆる赤目現象が知られている。この赤目を修正する装置が、特開平７−１３２７４号公報に開示されている。この赤目修正装置では、色不良となった瞳を含むなるべく小さな矩形領域をユーザーが指定する。そして、指定された領域内部全体において、色度の平均値等のパラメータから、赤目の場合、金目の場合、それぞれについてしきい値処理を行うことにより色不良画素を見つけて補正するものである。
【０００３】
【特許文献１】
特開平７−１３２７４号公報
【０００４】
【発明が解決しようとする課題】
しかし、瞳の色不良を単純に赤目といっても、撮影環境や照明条件などの影響によって、普通の赤色をした赤目、明るい赤色をした金目と呼ばれるもの、またはグラデーションを持った赤目など、様々な種類のものが存在する。よって、完全な赤目領域の色修正を考えると被写体によっては赤目周辺の瞼付近にはみ出して補正してしまうことがある。
【０００５】
本発明は、様々な撮影条件下において撮影された様々な画像において、色不良領域をより容易にかつ確実に補正する色不良領域補正方法、色不良領域補正処理プログラム、および、色不良領域補正処理プログラムの実行が可能な画像処理装置を提供する。
【０００６】
【課題を解決するための手段】
請求項１の発明は、複数の画素で構成された画像内で特定された領域の色不良を補正する色不良領域補正方法において適用され、特定された領域の色情報に基づき、特定された領域が色不良を補正するのに妥当であるか否かを評価し、妥当でないと評価された場合、特定された領域を変更し、変更された領域の色不良を補正するものである。
請求項２の発明は、複数の画素で構成された画像内で特定された領域の赤目現象を補正する色不良領域補正方法において適用され、特定された領域の色情報に基づき、特定された領域が赤目現象を補正するのに妥当であるか否かを評価し、妥当でないと評価された場合、特定された領域を変更し、変更された領域の赤目現象を補正するものである。
請求項３の発明は、請求項２記載の色不良領域補正方法において、特定された領域を構成する複数の画素が実質的に肌または白目を表すか否かを判定し、特定された領域を構成する複数の画素のうち少なくとも一部の画素群が実質的に肌または白目を表すと判定された場合、特定された領域が妥当でないと評価して、実質的に肌または白目を表すと判定された画素群のうち少なくとも一部の画素を特定された領域より除外することにより、特定された領域を変更するものである。請求項４の発明は、請求項３記載の色不良領域補正方法において、画素群のうち少なくとも一部の画素を特定された領域より除外するとき、画素群のうち特定された領域の境界部分の画素を含む注目画素について、その注目画素の左右隣に位置する画素の両方または上下隣に位置する画素の両方が特定された領域に含まれるか否かを判定し、注目画素の左右隣に位置する画素の両方または上下隣に位置する画素の両方が特定された領域に含まれると判定された場合は、その注目画素を特定された領域より除外しないものである。
請求項５の発明は、請求項３記載の色不良領域補正方法において、画素群のうち少なくとも一部の画素を特定された領域より除外する処理は、画素群のうち特定された領域の境界部分の画素を含む注目画素について順次行うこととし、注目画素について、その注目画素の左右隣に位置する画素の両方または上下隣に位置する画素の両方が特定された領域に含まれるか否かを判定し、注目画素の左右隣に位置する画素の両方または上下隣に位置する画素の両方が特定された領域に含まれると判定された場合は、その注目画素を特定された領域より除外しないこととし、除外しないこととされた注目画素以外の注目画素を特定された領域より除外し、注目画素を除外することにより変更された特定された領域の境界部分の画素を新たな注目画素とし、特定された領域より除外される注目画素がなくなるまで、画素群のうち少なくとも一部の画素を特定された領域より除外する処理を繰り返し行うものである。
請求項６の発明は、色不良領域補正処理プログラムに適用され、請求項１〜５いずれか１項に記載の色不良領域補正方法をコンピュータに実行させるものである。
請求項７の発明は、コンピュータ読みとり可能な記録媒体に適用され、請求項６の色不良領域補正処理プログラムを記録したものである。
請求項８の発明は、画像処理装置に適用され、請求項６の色不良領域補正処理プログラムを搭載し、その色不良領域補正処理プログラムを実行するものである。
【０００７】
【発明の実施の形態】
図１は、本発明の色不良領域補正方法を実施する一実施の形態を示す図である。符号１は、一般に市販されているパーソナルコンピュータ（以下パソコンと言う）である。パソコン１は、ＣＰＵ、メモリ、ハードディスク、Ｉ／Ｏポート、各種のインターフェース等からなる制御装置２と、各種画像や情報を表示するモニタ３と、キーボード４と、マウス５と、ＣＤ−ＲＯＭ駆動装置６とからなる。ＣＤ−ＲＯＭ駆動装置６は、ＣＤ−ＲＯＭやＤＶＤなどの記録媒体７が搭載され、各種のデジタルデータを読み込むことができる。制御装置２は、ＵＳＢ等のインターフェースを介してデジタルカメラ（電子カメラ）８と接続可能である。また、モデムやＬＡＮボード等を介してインターネット９とも接続可能である。
【０００８】
本実施の形態のパソコン１は、記録媒体７、デジタルカメラ８、あるいはインターネット９を介した他のコンピュータ１０等から、デジタルカメラ等で撮像して得られた画像データを取得することができる。パソコン１は、画像処理プログラムを実行することが可能であり、取得した画像データに各種の画像処理を加えることが可能である。本実施の形態では、画像処理の１つとして赤目現象を補正する処理を行うことができる。
【０００９】
画像処理プログラムは、制御装置２内部のハードディスクに格納され、制御装置２のメモリに読みこまれて、制御装置２により実行される。画像処理プログラムは、記録媒体７等に格納されて、あるいは、インターネット９などの電気通信回線を通じてデータ信号としてパソコン１に提供される。提供された画像処理プログラムは、制御装置２内部のハードディスクに格納される。インターネット９を通じて画像処理プログラムが提供される場合、インターネット９を介して接続されるサーバコンピュータから提供される。図１において、例えば、コンピュータ１０がサーバコンピュータとなり得る。サーバコンピュータ１０は、内部のハードディスク等の記録媒体に提供すべき画像処理プログラムを格納している。
【００１０】
以下、本実施の形態における赤目現象の補正処理について説明する。赤目現象とは、カメラ等を使用して人物をフラッシュ撮影したとき、撮影された人物の目がウサギの目のように赤く写る現象をいう。目が赤くなるのは、目の網膜の毛細血管が写るためであり、正確には目の瞳孔部分が赤くなる。撮影条件によっては金色になる場合もあり、このような金目も、まとめて赤目現象と言う。すなわち、赤目現象とは、フラッシュ撮影などにより人物の目が違和感のある色になっている場合を言い、言いかえれば瞳孔あたりの領域で色不良が生じている場合を言う。また、動物の目においても赤目現象が生じる場合もある。
【００１１】
図２（ａ）は、本実施の形態における赤目補正処理のフローチャートを示す図である。赤目補正処理は、パソコン１で実行される画像処理プログラムの一部である。前述したように、赤目領域は色不良領域であり、赤目補正処理は色不良領域補正処理と言える。通常、画像処理プログラムは、画像データを取得し、取得した画像データを使用して画像をモニタに表示した後、ユーザが各種の画像処理コマンドを選択する。そのコマンドの１つとして赤目補正が選択されると、赤目補正処理に入る。しかし、ここでは画像データの取得から赤目補正処理として説明する。
【００１２】
ステップＳ１において、赤目を補正すべき画像の画像データを取得する。画像データは、記録媒体７、デジタルカメラ８、あるいはインターネット９を介した他のコンピュータ１０等から取得し、制御装置２内部のハードディスクに格納されている。そこから、制御装置２内部のメモリに読みこまれる。ステップＳ２において、制御装置２はメモリに読みこんだ画像データをモニタ３に表示する。ここでは、フラッシュ撮影された人物像が表示される。その人物像は赤目現象が生じている。ステップＳ３では、図２（ｂ）に示すサブルーチンを実行し、モニタ３に表示された表示画像中に、補正すべき赤目領域を抽出する。
【００１３】
以下に、図２（ｂ）に示すサブルーチンの処理を説明する。ステップＳ３１では、モニタ３に表示された表示画像上で、ユーザがマウス５等を使用して赤目領域の内部の点を指定するのを待つ。
【００１４】
図３および図４を使用して赤目領域内部の点を指定する様子を説明する。図３は、赤目が生じている黒目部分を拡大した図である。符号１０１は黒目部分である。黒目部分とは白目以外の部分で、虹彩および瞳孔部分である。人の目は、明るさに応じて虹彩が調整され、瞳孔の大きさが調整される。この瞳孔部分に赤目現象が生じる。瞳孔は円形をしているが、赤目領域は必ずしも円形を呈するものではない。目の撮影角度やフラッシュライトの反射の具合により必ずしも円形にはならない。図３において、符号１０２で示される領域が、赤目現象が生じている領域である。
【００１５】
ユーザは、図３のような黒目部分が表示された画像上で、マウス５等のポインティングデバイスで赤目領域１０２の内部の任意の点を指定する。図３では、点１０３が指定されたとする。
【００１６】
図４は、画像データを画素が認識できる程度にまで拡大した図である。画像データは、格子状に配列された複数の画素から構成される。データ自体が格子状に並んでいるものではないが、撮像素子を構成する画素、あるいは、画像を表示する場合の表示画素が格子状に配列されている。画像データの各画素は、表色系で規定される色成分の色情報を有する。例えば、ＲＧＢ表色系の場合、各画素は、Ｒ（赤）成分の色情報と、Ｇ（緑）成分の色情報と、Ｂ（青）成分の色情報を有する。
【００１７】
デジタルカメラ等で撮影する場合、例えば単板式ＲＧＢベイア配列の撮像素子で撮像された画像データは、各画素には１つの色成分の色情報しか有しない。このようにして得られた画像データに、各種の補間処理を施すことにより、各画素にＲＧＢの色成分の色情報を有するようになる。本実施の形態で処理する画像データでは、各画素はすでにＲＧＢの色成分の色情報を有している。すなわち、表色系で規定される複数の色成分の色情報を有している。また、ここでいう色情報とは、各色のフィルターを通して照射された光に対応して撮像素子の各画素で蓄積された電荷に対応した値である。本実施の形態では、色情報の値を８ビットのデータとして表す。具体的には、０〜２５５の値で表すものとする。
【００１８】
ステップＳ３１では、ユーザがマウス５で赤目領域１０２の内部の点１０３を指定すると、制御装置２は、点１０３に対応する画素１１１のＲＧＢの各色成分の色情報の値をそれぞれＲ０、Ｇ０、Ｂ０としたときに、これらが式（１）または（１）’を満たすか否かを判定する。式（１）または（１）’を満たす場合、ユーザにより指定された点は赤目領域内部の点であると判断して、画素１１１を指定する。ここで、式（１）は赤目領域であることを表し、式（１）’はキャッチライトであることを表す。キャッチライトは赤目領域に含まれるが、式（１）では表すことができないため、式（１）’が用いられる。さらに、本実施の形態では、画素１１１の周辺（近傍）の画素１１２〜１１５も指定する。式（１）または（１）’を満たさない場合、ユーザにより指定された点は赤目領域内部の点ではないと判断して、再度ユーザにより点を指定されるのを待つ。
Ｒ０≧（Ｇ０＋Ｂ０）（１）
Ｒ０＞２００かつＧ０＞２００かつＢ０＞２００（１）’
【００１９】
ステップＳ３２では、ステップＳ３１で指定された点を起点に、赤目領域１０２のエッジ、すなわち赤目領域１０２の境界を探索する。図３を参照してさらに説明する。指定された点に対応する画素１１１を起点に符号１０４で示される８つの方向にエッジを探索する。水平方向、垂直方向、４５度方向、１３５度方向の、それぞれにおいて相反する２方向の計８方向である。図４で指定された周辺の他の画素１１２〜１１５についても、同様に、それぞれの画素を起点に８方向にエッジを探索する。
【００２０】
図４で指定された５つの画素を起点とする８方向は、それぞれ重複しない方向である。すなわち、８×５＝４０方向が重複しないように、かつ、１画素ずつずれて設定されるように、画素１１１および周辺の画素１１２〜１１５が選択されている。画素１１１のみを起点に８方向について探索するだけでもよいが、上記のように４０方向について探索することにより、より精度よくエッジを探索することができる。
【００２１】
図５は、エッジ探索の様子を説明する図である。エッジ探索は、探索方向１２１に並ぶ隣り合った画素群の色情報の値の比較により行う。図５（ａ）は、画素群が１画素の場合を示す。図５（ｂ）は、画素群が３画素の場合を示す。
【００２２】
図５（ａ）において、注目画素１２２とその隣接画素１２３との間で、色情報の比較を行う。注目画素１２２のＲＧＢの各色成分の色情報の値をそれぞれＲ、Ｇ、Ｂとし、隣接画素１２３のＲＧＢの各色成分の色情報の値をそれぞれＲ’、Ｇ’、Ｂ’とする。注目画素１２２と隣接画素１２３が、式（２）または式（３）を満たすか否かを判断し、探索方向１２１に画素を順次ずらして判断を繰り返す。そして、注目画素１２２と隣接画素１２３が、式（２）または式（３）を満たしたとき、注目画素１２２をエッジ（境界）画素とする。式（２）（３）のｔ、ｌは条件（４）によるものとする。
Ｒ／（Ｒ＋Ｇ＋Ｂ）−Ｒ’／（Ｒ’＋Ｇ’＋Ｂ’）≧ｔ（２）
（Ｒ＋Ｇ＋Ｂ）／３−（Ｒ’＋Ｇ’＋Ｂ’）／３≧ｌ（３）
０．１≦ｔ≦０．１２、ｌ≒３０（４）
【００２３】
式（２）は赤目領域１０２（図３）のエッジを見つけるための式である。基本的には、赤目領域１０２のエッジは、黒目部分１０１の内部にある。しかし、場合によってはエッジを見つけることができずに白目部分へと探索が広がることもある。式（３）は、輝度変化の大きい白目部分と黒目部分の境界をエッジとして抽出するものである。この式により、黒目部分１０１を超えてエッジを見つけるという誤探索を防止することができる。なお、条件（４）は、各種の実験やシミュレーションによって算出したものである。また、各色成分の色情報の値が８ビット、０〜２５５の値であることを前提とした値である。条件（４）以外の値であっても、赤目領域１０２のエッジ、および、黒目部分１０１のエッジを的確に見つけることができる値であればよい。
【００２４】
図５（ａ）のように、１画素の比較でも赤目領域１０２のエッジを見つけることが可能である。しかし、エッジがある程度鮮明である必要がある。図５（ｂ）の３画素群比較は、エッジが少々不鮮明であってもエッジを検出することが可能である。注目画素を符号１２４とし、注目画素１２４を含む注目画素群１２５と、注目画素１２４に隣接する隣接画素群１２６との間で、色情報の比較を行う。図５（ｂ）の例では、注目画素群１２５と隣接画素群１２６は隣接するが、構成画素は重複しない。しかし、注目画素群と隣接画素群の画素を、重複するように設定してもよい。３画素群の場合、１画素あるいは２画素重複させるようにしてもよい。
【００２５】
各画素群において各色成分の色情報の３つの画素の平均を計算する。注目画素群１２５のＲＧＢの各色成分の色情報の平均値をそれぞれＲ、Ｇ、Ｂとし、隣接画素群１２６のＲＧＢの各色成分の色情報の平均値をそれぞれＲ’、Ｇ’、Ｂ’とする。注目画素群１２５と隣接画素群１２６が、前述した式（２）または式（３）を満たすか否かを判断し、探索方向１２１に画素を順次ずらして判断を繰り返す。そして、注目画素群１２５と隣接画素群１２６が、式（２）または式（３）を満たしたとき、注目画素群１２５の注目画素１２４をエッジ（境界）画素とする。
【００２６】
なお、各種実験の結果、３画素の画素群で比較を行うのが最も効果的であった。ただし、２画素や４画素や５画素等の３画素以外の複数の画素でもよい。
【００２７】
図５は、探索方向が水平方向の例を示すものである。垂直方向においても同様である。探索方向が、４５度方向や１３５度方向の場合は、その斜め方向に並ぶ画素を選択する。例えば、４５度方向であれば、注目画素とその右斜め上の画素との比較を行う。画素群の場合は、注目画素とその斜め左下の画素、さらにその斜め左下の画素を注目画素群とし、注目画素の斜め右上の画素と、さらにその斜め右上の画素と、さらにまたその斜め右上の画素を隣接画素群とする。
【００２８】
式（２）で赤目領域１０２のエッジが検出できなかった場合に備えて、式（３）で黒目部分１０１を検出するようにした。しかし、黒目部分１０１も検出できない場合も生じる。そのような場合、何ら制限を設けなければ画像の端部まで探索することになる。これを、防止するために、起点から所定数の画素範囲を探索することにする。目の大きさ等を考慮して例えば４０画素までとする。この値は、適宜変更してもよい。このようにすることにより、無駄な探索を防止することができる。
【００２９】
以上の探索により、赤目領域１０２のエッジを適切に検出できた場合、黒目部分１０１のエッジしか検出できなかった場合、さらにいずれも検出できなかった場合が生じる。図６は、その様子を説明する図である。ただし、説明の便宜上８方向しか記載していない。水平方向１３１、１３５度方向１３４、４５度方向１３６、垂直方向１３７では、赤目領域１０２のエッジ１３９、１４０、１４２、１４３が検出できた。水平方向１３５では、黒目部分１０１のエッジ１４１が検出できた。４５度方向１３２、垂直方向１３３、１３５度方向１３８では、いずれのエッジも検出できなかった。
【００３０】
このようにいずれのエッジも検出できない場合が生じるが、本実施の形態では、所定の数以上のエッジが検出できた場合、探索が成功したとする。所定の数とは探索方向数のｎ倍とする。ｎは１／２程度あるいはそれ以上の値が適当である。例えば、ｎ＝１／２とすると、探索方向の半分以上においてエッジが検出できれば探索が成功したとする。８方向の場合は４個以上であり、４０方向の場合は２０個以上である。
【００３１】
ステップＳ３２においてエッジ画素（境界点）が検出されると、すなわち、エッジが抽出できると、ステップＳ３３において、検出されたエッジ情報に基づき赤目領域１０２に対応する領域を特定する。領域の特定とは、検出されたエッジ情報に基づく楕円や多角形などの幾何学的図形を当てはめることにより行う。図形を当てはめることにより、検出できなかったエッジの箇所を補うことができ、一つの閉じた領域として指定することができる。図形を当てはめるとは、数学的には、検出されたエッジ情報に基づく楕円や多角形などの幾何学的図形の領域指定関数を求めることである。
【００３２】
本実施の形態では、当てはめる図形を楕円とする。図７は、その様子を説明する図である。図６で説明したように、エッジ画素（境界点）１３９〜１４３の５つが検出できたとする。この５つのエッジ画素１３９〜１４３をすべて含む最小の長方形１５１を求める（図７（ａ））。次に、求められた長方形１５１に内接する楕円１５２を求める（図７（ｂ））。このようにして求めた楕円１５２を、赤目領域１０２に対応する領域として当てはめ、赤目領域１０２に対応する領域を特定する。すなわち、エッジ画素１３９〜１４３をすべて含む最小の長方形１５１に内接する楕円１５２の領域指定関数を求める。ここで、長方形１５１と、それに内接する楕円１５２を求めることは、すなわち楕円１５２の中心の位置と、長軸および短軸の長さとを求めることと同義である。
【００３３】
なお、上記のように楕円１５２で赤目領域１０２を近似すると、図７（ｂ）における領域１５３のように、本来赤目領域１０２の一部であるにもかかわらず、特定された領域１５２に含まれない場合が生じる。このような現象を極力防止するために、図２（ｂ）のステップＳ３１〜Ｓ３３を複数回繰り返すようにする。すなわち、ユーザは赤目領域１０２の内部の点を少しずらしながら複数指定する。複数の指定により、複数の形状の異なる楕円が特定される。この、形状が異なる複数の楕円の論理和を取った領域を特定する。このようにすることにより、より一層実際の赤目領域１０２に近似した領域を特定することができる。なお、ステップＳ３１で、ユーザが複数の点を一度に指定するようにしてもよい。
【００３４】
なお、当てはめる図形を楕円としたのは、瞳孔が円形であること、また実際に生じている赤目領域の形状や、各種の実験結果等を考慮して判断したものである。ただし、楕円以外の形状、例えば円形にしてもよい。また、単に検出したエッジを直線で結んだ多角形や、最小２乗法によって検出したエッジすべてに近い境界線で規定される図形で当てはめてもよい。
【００３５】
以上説明したようにして、図２（ａ）のステップＳ３において、図２（ｂ）に示すサブルーチンの処理が終わる。次に、図２（ａ）のステップＳ４においては、ステップＳ３で特定した赤目領域に対応する領域が、妥当であるかどうかを評価する。妥当でなければ、この領域を変更する処理を行う。
【００３６】
以下に、ステップＳ３で特定した赤目領域に対応する領域が、妥当であるかどうかを評価する方法を、図８を用いて説明する。図８は、赤目現象が生じている目の部分の画像例を示している。符号１６０に示す領域は、黒目１６１の内部に存在する赤目領域である。なお、符号１６２に示す部分は、白目を表す。ステップＳ３において、赤目領域１６０に対し、符号１６３で示す楕円型の領域が特定されたとする。
【００３７】
特定された楕円型の領域１６３は、次の３つの領域に分割することができる。１つ目の領域は、黒目１６１上にある、符号１６４に示す領域である。２つ目の領域は、黒目１６１および白目１６２のどちらからもはみ出している領域、すなわち肌（瞼）の部分に当たる、符号１６５に示す領域である。３つ目の領域は、白目１６２にはみ出している、符号１６６に示す領域である。これらの領域のうち、２つ目の領域１６５、および３つ目の領域１６６は、黒目の部分ではない。そのため、領域１６５および１６６に対して、後述するステップＳ６における赤目を黒目に補正するための色修正を行うと、本来の肌または白目の色とは異なる色となり、不自然な結果となる。したがって、赤目領域に対応する領域として領域１６５および１６６は妥当でないと評価する。一方、１つ目の領域１６４は、黒目の部分であり、後述するステップＳ６における赤目を黒目に補正するための色修正を行うことによって、赤目領域１６０が黒目に補正される。したがって、赤目領域に対応する領域として領域１６４は妥当であると評価する。
【００３８】
図９（ａ）は、図８の領域１６３を含む一部分を、画像を構成する各画素が確認できる程度にまで拡大した図である。図９（ａ）の網掛け部に示す画素群１７０は、図８の領域１６３の一部である。画素群１７０のうち符号１７１〜１７７に示す画素のそれぞれに対して、上記に説明した領域の妥当性の評価を、次に説明する方法によって行う。ここで、画素１７１〜１７７は、図８の領域１６３の境界部分（周囲の部分）に当たる画素である。
【００３９】
例として、画素１７２に注目して説明する。注目画素１７２のＲＧＢの各色成分の色情報の値をそれぞれＲ１、Ｇ１、Ｂ１とし、注目画素１７２が式（５）または（６）を満たすか否かを判定する。式（５）および（６）におけるα、ｒ、ｇ、ｂの値は、条件（７）によるものとする。注目画素１７２が式（５）または（６）を満たす場合は、赤目領域に対応する領域として注目画素１７２は妥当でないとし、注目画素１７２を次に説明する領域変更の処理の対象とする。注目画素１７２が式（５）および（６）を満たさない場合は、赤目領域に対応する領域として注目画素１７２は妥当であるとし、注目画素１７２を領域変更の処理の対象とはしない。
α（Ｇ１＋Ｂ１）≧Ｒ１（５）
Ｒ１＞ｒかつＧ１＞ｇかつＢ１＞ｂ（６）
α≒１．０５、７０≦ｒ，ｇ，ｂ≦１００（７）
【００４０】
式（５）は、注目画素１７２が肌の部分（図８の領域１６５）を表すか否かを判定するための式である。式（６）は、注目画素１７２が白目の部分（図８の領域１６６）を表すか否かを判定するための式である。注目画素１７２が式（５）または（６）を満たすことにより、赤目領域に対応する領域として妥当でないと判別できる。ただし、式（５）によって判別されるのは肌の部分には限定されず、また、式（６）によって判別されるのは白目の部分に限定されない。たとえば、白っぽい肌の場合には、式（６）によって肌の部分が判別されることもある。なお、条件（７）は、各種の実験やシミュレーションによって算出したものである。また、各色成分の色情報の値が８ビット、０〜２５５の値であることを前提とした値である。条件（７）以外の値であっても、肌あるいは白目であるか否かを的確に判定できる値であればよい。
【００４１】
式（５）、（６）により注目画素１７２が赤目領域に対応する領域として妥当でないと評価された場合、注目画素１７２に対して領域変更の処理を次の方法によって行う。画像全体における注目画素１７２の位置を、横軸をｉ、縦軸をｊとして（ｉ，ｊ）と表したとき、注目画素１７２が式（８）または（９）を満たすか否かを判定する。ここで、式（８）および（９）における関数ｆ（ｘ，ｙ）は、式（１０）によって表される。注目画素１７２が式（８）および（９）を満たさない場合は、注目画素１７２を画素群１７０から除外する。注目画素１７２が式（８）または（９）を満たす場合は、注目画素１７２を画素群１７０から除外しない。
ｆ（ｉ＋１，ｊ）＝１かつｆ（ｉ−１，ｊ）＝１（８）
ｆ（ｉ，ｊ＋１）＝１かつｆ（ｉ，ｊ−１）＝１（９）
ｆ（ｘ，ｙ）＝１（赤目領域に対応する領域内であるとき）
＝０（赤目領域に対応する領域外であるとき）（１０）
【００４２】
式（１０）で表される関数ｆ（ｘ，ｙ）は、画素の座標位置によって決まる関数である。関数ｆ（ｘ，ｙ）は、座標（ｘ，ｙ）で表される画素が赤目領域に対応する領域にあるかどうかによって、１または０のどちらかの値をとる。例として、図９（ａ）の画素のいずれかを、画像全体における横軸の座標をｘ₁、縦軸の座標をｙ₁として、座標（ｘ₁，ｙ₁）で表すとする。この画素が、画素群１７０、すなわち図２（ａ）のステップＳ３において特定された赤目領域に対応する領域にある場合、ｆ（ｘ₁，ｙ₁）＝１となる。逆に、この画素が画素群１７０にない場合は、ｆ（ｘ₁，ｙ₁）＝０となる。
【００４３】
すなわち、式（８）は、注目画素１７２の左右隣に位置する画素の両方が画素群１７０にあるか否かを判別するものであり、式（９）は、注目画素１７２の上下隣に位置する画素の両方が画素群１７０にあるか否かを判別するものである。式（８）および（９）により、図８の領域１６３の一部が、領域変更の処理によってえぐれて凹形状にならないようにする。これは、領域１６３は赤目領域１６０を含んだ黒目１６１上にあれば補正する必要はなく、Ｘ方向、Ｙ方向の両方で比較すれば無用に領域を変更されるのを防ぐことができ、凹形状になることはないからである。これにより、赤目補正処理をするべき画素まで誤って領域から除外してしまうのを防ぐことができる。
【００４４】
以上説明した処理内容により、注目画素１７２は、次のように処理される。ここで、画素群１７０は、図８の肌の部分の領域１６５に含まれるものとする。このとき、注目画素１７２は肌を表す画素であり、式（５）（または（６））を満たす。よって、注目画素１７２は、赤目領域に対応する領域として妥当でないと評価される。次に、注目画素１７２の上下左右の画素１７８〜１８１のうち、画素１７８および画素１８１は、図９（ａ）に示すように、画素群１７０に含まれない。そのため、注目画素１７２は、式（８）および（９）を満たさない。よって、注目画素１７２は、領域変更の処理により画素群１７０から除外される。
【００４５】
画素１７１および１７３〜１７７に対しても、画素１７２と同様の処理が行われる。これらの画素のうち、画素１７１、１７４、１７５および１７７は、左右隣に位置する画素の両方、または上下隣に位置する画素の両方のいずれかが画素群１７０に含まれることはなく、式（８）および（９）を満たさない。したがって、画素１７１、１７４、１７５および１７７も、画素１７２と同様に、画素群１７０から除外される。その結果、図９（ｂ）に示すように、画素群１７０、すなわち図８の領域１６５が変更される。
【００４６】
次に、図９（ｂ）においても、上記に説明した図９（ａ）と同様の処理を繰り返す。このときには、画素１７９、１８０、１７３、１８２、１７６および１８４が、新たな注目画素（領域の境界部分にあたる画素）として処理の対象となる。このようにして、式（５）または（６）を満たす画素のうち、領域変更の処理によって新たに注目画素となる画素に対して、順次処理を行う。注目画素の全てが式（８）または（９）を満たすと判定され、最終的に画素群１７０から除外される画素がなくなるまで、この領域変更の処理を繰り返す。
【００４７】
以上説明した領域の妥当性の評価および領域変更の処理により、図８の領域１６３が変化していく様子を、図１０（ａ）に示す。領域１６３のうち、肌の部分にはみ出した領域１６５と、白目部分にはみ出した領域１６６とは、処理を繰り返すことにより、矢印２０１に示す方向に境界が変更されていく。そして、最終的には図１０（ｂ）に示すように、領域１６５および１６６は消失し、領域１６３に代わる新たな赤目領域に対応する領域２０２が特定される。
【００４８】
以上説明したようにして図２（ａ）のステップＳ４が終わると、ステップＳ４で最終的に特定された領域を、ステップＳ５において最終的な補正領域として特定する。次のステップＳ６では、ステップＳ５において特定された領域の色を変更（補正）する。色の補正は、例えば、黒やグレイ（灰色）などの一色の色で塗りつぶすなど各種の方法が考えられる。しかし、一色の色で塗りつぶすと、キャッチライトまで塗りつぶすことになってしまい、非常に不自然な補正となってしまう。そこで、本実施の形態では、キャッチライトを残したままの自然な補正とするために、補正領域の輝度の濃淡情報を残したままの補正を考える。領域内の各画素において、ＲＧＢそれぞれの色成分の色情報を最小値Ｍｉｎ（Ｒ，Ｇ，Ｂ）で統一する。あるいは、各画素において、ＲＧＢそれぞれの色成分の色情報を、輝度情報Ｙ＝（Ｒ＋Ｇ＋Ｂ）／３に統一する方法にしてもよい。これらの場合、各画素において複数の色成分の色情報の最小値あるいはそれよりも大きな値で統一することになる。また、画像が明るすぎる場合は、最小値Ｍｉｎ（Ｒ，Ｇ，Ｂ）や輝度情報Ｙ＝（Ｒ＋Ｇ＋Ｂ）／３に所定の比率（例えば１／２）を掛けた値で統一してもよい。すなわち、各画素において複数の色成分の元の色情報に基づいた値で統一する。これにより、補正領域の輝度の濃淡情報を残したまま、赤色をなくすことができる。すなわち、キャッチライトを残しながら、赤色や金色を無彩色に変更することができる。
【００４９】
なお、以上の手順で赤目補正を行うが、楕円で近似する場合、どうしても赤目領域の一部が補正できない場合が生じる。上記に説明したように、ステップＳ３１〜Ｓ３３を複数回繰り返しても赤目領域が残る場合が生じる。そのような場合には、赤目補正処理後の画像データを使用して、再度図２（ａ）の処理を行うようにすればよい。例えば、図７（ｂ）の領域１５３の赤目領域がどうしても残る場合、補正後の画像データを使用して再度赤目補正処理を行う。その場合、領域１５３が赤目領域とされ、領域１５３と楕円１５２のエッジが検出されるようになるので、確実に領域１５３の赤目が補正されるようになる。このとき、図２（ａ）のステップＳ４における、領域の妥当性の評価および領域変更の処理については、補正前の原画像を用いて行うようにする。
【００５０】
以上説明したような本実施の形態の赤目補正処理方法を実施すると、次のような効果を奏する。
（１）補正すべき赤目領域などの色不良領域を、自然な色状態へ、容易に、短時間で、確実に補正することができる。
（２）一度特定された領域を変更するようにしているので、様々な色不良補正方法に適用することができる。
（３）特定された領域が肌や白目であることを判定し、赤目領域に対応する領域として妥当であるかどうか評価することとしているので、肌や白目部分にはみ出した領域を変更して、確実に補正することができる。
（４）赤目領域に対応する領域として妥当でないと評価された画素でも、その左右隣に位置する画素の両方、または上下隣に位置する画素の両方がともに領域内である場合、その画素に対しては領域から除外しないこととしているので、赤目補正処理の対象とするべき画素まで誤って領域から除外してしまうのを防ぐことができる。
【００５１】
上記の実施の形態では、パソコン１で赤目補正処理を行う例を説明をしたが、この内容に限定する必要はない。デジタルカメラ上でそのような処理プログラムを搭載し処理するようにしてもよい。また、カメラから直接画像データを取得してプリントするプリンタにおいて、そのような処理プログラムを搭載し処理するようにしてもよい。すなわち、画像データを処理するあらゆる画像処理装置に本発明を適用することができる。
【００５２】
上記の実施の形態では、領域の妥当性の評価および領域変更の処理をする対象として、領域１６３を例にして説明した。この領域１６３は、ユーザが指定した点に基づき検出された赤目領域のエッジにより、特定された領域である。しかし、対象とする領域を、この内容に限定する必要はない。例えば、ユーザが画像上で領域を指定し、その指定された領域内部全体において赤目による色不良画素を見つけ、これを補正するようなものに適用することもできる。すなわち、赤目を補正する領域として特定された領域であれば、どのような方法によって特定された領域を対象としてもよい。
【００５３】
上記の実施の形態では、ＲＧＢ表色系の例で説明をしたが、この内容に限定する必要はない。その他の表色系の画像データであってもよい。
【００５４】
上記では、種々の実施の形態および変形例を説明したが、本発明はこれらの内容に限定されるものではない。本発明の技術的思想の範囲内で考えられるその他の態様も本発明の範囲内に含まれる。
【００５５】
【発明の効果】
本発明は、以上説明したように構成しているので、補正すべき色不良領域を、自然な色状態へ、容易に、短時間で、確実に補正することができる。
【図面の簡単な説明】
【図１】本発明の色不良領域補正方法を実施する一実施の形態を示す図である。
【図２】本実施の形態における赤目補正処理のフローチャートを示す図であり、（ａ）はメインの処理、（ｂ）はサブルーチンの処理を示している。
【図３】赤目が生じている黒目部分を拡大した図である。
【図４】画像データを画素が認識できる程度にまで拡大した図である。
【図５】エッジ探索の様子を説明する図である。
【図６】探索結果の様子を説明する図である。
【図７】楕円図形をあてはめる様子を説明する図である。
【図８】赤目領域に対応する領域として特定された領域が、妥当であるかどうかを評価する方法を説明する図である。
【図９】領域変更の処理によって特定された領域から画素を除外する様子を説明する図であり、（ａ）は除外する前の様子、（ｂ）は除外した後の様子を示している。
【図１０】赤目領域に対応する領域を変更していく様子を説明する図であり、（ａ）は変更前の様子、（ｂ）は変更後の様子を示している。
【符号の説明】
１パーソナルコンピュータ
２制御装置
３モニタ
４キーボード
５マウス
６ＣＤ−ＲＯＭ駆動装置
７記録媒体
８デジタルカメラ
９インターネット
１０コンピュータ

Claims

複数の画素で構成された画像内で特定された領域の色不良を補正する色不良領域補正方法において、
前記特定された領域の色情報に基づき、前記特定された領域が色不良を補正するのに妥当であるか否かを評価し、
妥当でないと評価された場合、前記特定された領域を変更し、
前記変更された領域の色不良を補正することを特徴とする色不良領域補正方法。
複数の画素で構成された画像内で特定された領域の赤目現象を補正する色不良領域補正方法において、
前記特定された領域の色情報に基づき、前記特定された領域が赤目現象を補正するのに妥当であるか否かを評価し、
妥当でないと評価された場合、前記特定された領域を変更し、
前記変更された領域の赤目現象を補正することを特徴とする色不良領域補正方法。
請求項２記載の色不良領域補正方法において、
前記特定された領域を構成する複数の画素が実質的に肌または白目を表すか否かを判定し、
前記特定された領域を構成する複数の画素のうち少なくとも一部の画素群が実質的に肌または白目を表すと判定された場合、前記特定された領域が妥当でないと評価して、前記実質的に肌または白目を表すと判定された画素群のうち少なくとも一部の画素を前記特定された領域より除外することにより、前記特定された領域を変更することを特徴とする色不良領域補正方法。
請求項３記載の色不良領域補正方法において、
前記画素群のうち少なくとも一部の画素を前記特定された領域より除外するとき、前記画素群のうち前記特定された領域の境界部分の画素を含む注目画素について、その注目画素の左右隣に位置する画素の両方または上下隣に位置する画素の両方が前記特定された領域に含まれるか否かを判定し、
前記注目画素の左右隣に位置する画素の両方または上下隣に位置する画素の両方が前記特定された領域に含まれると判定された場合は、その注目画素を前記特定された領域より除外しないことを特徴とする色不良領域補正方法。
請求項３記載の色不良領域補正方法において、
前記画素群のうち少なくとも一部の画素を前記特定された領域より除外する処理は、前記画素群のうち前記特定された領域の境界部分の画素を含む注目画素について順次行うこととし、
前記注目画素について、その注目画素の左右隣に位置する画素の両方または上下隣に位置する画素の両方が前記特定された領域に含まれるか否かを判定し、
前記注目画素の左右隣に位置する画素の両方または上下隣に位置する画素の両方が前記特定された領域に含まれると判定された場合は、その注目画素を前記特定された領域より除外しないこととし、
前記除外しないこととされた注目画素以外の前記注目画素を前記特定された領域より除外し、
前記注目画素を除外することにより変更された前記特定された領域の境界部分の画素を新たな注目画素とし、
前記特定された領域より除外される注目画素がなくなるまで、前記画素群のうち少なくとも一部の画素を前記特定された領域より除外する処理を繰り返し行うことを特徴とする色不良領域補正方法。
請求項１〜５いずれか１項に記載の色不良領域補正方法をコンピュータに実行させるための色不良領域補正処理プログラム。
請求項６の色不良領域補正処理プログラムを記録したコンピュータ読みとり可能な記録媒体。
請求項６の色不良領域補正処理プログラムを搭載し、その色不良領域補正処理プログラムを実行する画像処理装置。