JP2007124112A - 画像処理方法および装置ならびにプログラム - Google Patents

Abstract

【課題】ミックス光源下における主要被写体を考慮したホワイトバランス調整処理をより高い精度で実現する。
【解決手段】パラメータ取得部３２が、画像Ｐ0′中の所定の構造物の一例である顔部分Ｐ0f′を、ミックス光源による光源条件下における人間の顔部分が表された複数のサンプル画像に基づいてＡＡＭ等の統計的手法によって生成された数学モデルＭに適応させることによって、顔部分Ｐ0f′における光源条件を表す主成分に対する重みづけ係数λ_d1, λ_d2,・・・, λ_dJを取得し、ホワイトバランス調整部３３が、取得された重みづけ係数に基づいてホワイトバランスの調整量Ｗ₁, Ｗ₂,・・・を取得し、取得された調整量に基づいて顔部分Ｐ0f′のホワイトバランスを調整する。
【選択図】図４

Description

本発明は、入力画像のホワイトバランスを調整する画像処理を行う方法や装置、この方法をコンピュータに実行させるためのプログラムに関するものであり、特に、複数の光源下における所定の構造物が表された画像のホワイトバランスの調整に関するものである。

写真画像を理想的な色で再現するために、その写真画像のホワイトバランスを調整する画像処理が行われている。

例えば、撮像された画像中の肌色領域を判別し、その肌色と判別された領域の色情報を用いて、撮影光源の色温度を推定し、推定された色温度に基づいてホワイトバランスを調整することが知られている（例えば、特許文献１）。

しかし、特許文献１記載の方法は、単一光源の下で撮影された画像を前提としたものであり、複数の光源（以下、ミックス光源）の下で撮影された画像の場合、適切な色再現ができない可能性が高い。例えば、蛍光灯下の室内の北窓付近の被写体を撮影した画像では、北窓付近は白く、室内は緑味になってしまう。

そこで、ミックス光源の下で撮影されたカラー画像を、複数の小画面に分割し、分割された各小画面毎に、撮影光源の色温度を推定し、各小画面毎の推定色温度のヒストグラムを作成し、作成されたヒストグラムに基づいて各小画面をグループ分けし、グループ毎に、再度撮影光源の色温度を推定し、グループ毎の色温度推定結果により、各グループ毎にホワイトバランス補正量を算出し、グループ内の各小画面に対し、グループ毎に算出されたホワイトバランス補正量によりそれぞれホワイトバランス補正を施すことによって、ミックス光源下におけるホワイトバランスの調整を行う方法が提案されている。
特開２００２−１５２７７２号公報 特開２００２−２７１６３８号公報

しかしながら、特許文献２記載のホワイトバランス調整処理では、人物の顔等の主要被写体を考慮した処理を行っていないため、画像中の主要被写体部分に最適化した色再現を行うことができない可能性が高い。また、これを解決するために、特許文献１記載のホワイトバランス調整処理を特許文献２記載の方法と組み合わせた方法を用いたとしても、特許文献１記載の方法では、肌色領域の平均値に基づいて調整を行っており、影による濃淡の影響や信号の飛び、個人差による肌色のばらつき等も平均値に影響してしまうので、調整精度や光源の色温度の推定精度に影響してしまう。

本発明はこのような事情に鑑みてなされたものであり、ミックス光源下における主要被写体を考慮したホワイトバランス調整処理をより高い精度で実現し、より色再現性の高い画像の再生を可能にする画像処理方法および装置ならびにプログラムを提供することを目的とするものである。

本発明による画像処理の方法は、複数の光源（ミックス光源）による異なる光源条件下における所定の構造物が表された複数の画像に対して所定の統計処理を行うことによって得られた、光源条件を表す１以上の統計的特徴量を含む１以上の統計的特徴量と、その構造物の個別の特徴に応じて統計的特徴量に対する重みづけをする重みづけパラメータとによって、その構造物を表現するモデルに、複数の光源による光源条件下で撮像された入力画像中のその構造物を適応させることによって、その入力画像中の構造物における光源条件を表す統計的特徴量に対する重みづけパラメータを取得し、取得された重みづけパラメータの値に基づいて、少なくともその入力画像中のその構造物の領域のホワイトバランスを調整することを特徴とする。

本発明による画像処理装置は上記の画像処理を行う装置である。すなわち、ミックス光源による異なる光源条件下における所定の構造物が表された複数の画像に対して所定の統計処理を行うことによって得られた、光源条件を表す１以上の統計的特徴量を含む１以上の統計的特徴量と、その構造物の個別の特徴に応じて統計的特徴量に対する重みづけをする重みづけパラメータとによって、その構造物を表現するモデルに、複数の光源による光源条件下で撮像された入力画像中のその構造物を適応させることによって、その入力画像中の構造物における光源条件を表す統計的特徴量に対する重みづけパラメータを取得するパラメータ取得手段と、パラメータ取得手段によって取得された重みづけパラメータの値に基づいて、少なくともその入力画像中のその構造物の領域のホワイトバランスを調整するホワイトバランス調整手段とを設けたことを特徴とする。

さらに、本発明による画像処理プログラムは、コンピュータに上記の画像処理方法を実行させる（上記各手段として機能させる）ものである。

次に、本発明による画像処理方法、装置、プログラムの詳細について説明する。

本発明による「（所定の）構造物を表現するモデル」の具体的実現手法としては、ＡＡＭ(Active Appearance Models)の手法を利用することが考えられる。ＡＡＭは、モデルに基づいて画像の内容の解釈を試みるアプローチの１つであり、例えば、顔を解釈の対象とする場合、学習対象となる複数の画像中の顔部分の形状や、形状を正規化した後の輝度の情報に対して主成分分析を行うことによって顔の数学モデルを生成し、新たな入力画像中の顔部分を、数学モデルにおける各主成分と各主成分に対する重みづけパラメータで表現し、顔画像を再構成する手法である（Ｔ．Ｆ．クーツ(Cootes), Ｇ．Ｊ．エドワーズ(Edwards), Ｃ．Ｊ．テイラー(Taylor)、「動的見えモデル(Active Appearance Models)」、第５回計算機視覚欧州会議報(In Proc. 5th European Conference on Computer Vision)、ドイツ、シュプリンガー(Springer)、1998年、vol.2、p.p.484-498；以下、参考文献１とする）。

「複数の光源」とは、色温度の異なる複数の光源を意味する。具体的には、自然光と人工光の組合せ、異なる種類の人工光の組合せが考えられる。自然光の具体例としては、日の出・日の入り時の日光、晴天時の昼光（日光）、日陰・曇天での日光、月光等が挙げられ、一方、人工光の具体例としては、レフレクターランプ、ハロゲンランプなどの電球（タングステン）の光、白色、昼白色、昼光色等の蛍光灯による光、ろうそくの光（炎）等が挙げられる。

「光源条件」とは、光源の種類、位置、照射範囲、強度等の条件をいう。すなわち、どの光源が画像中の各位置にどの程度の強度で照射されているかを表すものである。

「所定の構造物」は、モデル化に適したもの、すなわち、その構造物の画像中における形状や色の変動が一定の範囲に収まるもの、特に、統計処理を行うことによって形状や色についての説明力のより高い統計的特徴量が得られるものであることが好ましい。また、画像中の主題部分、すなわち主要被写体部分であることが好ましい。具体例としては人間の顔が挙げられる。

「複数の光源（ミックス光源）による異なる光源条件下における所定の構造物が表された複数の画像」は、所定の構造物を実際に撮影することによって得られた画像であってもよいし、特定の光源条件において撮影された画像に基づくシミュレーションによって生成された画像であってもよい。

「所定の統計処理」としては、所定の構造物を、その構造物を表す画素の数よりも少ない次元数の統計的特徴量に圧縮して表すことができる次元圧縮処理が好ましい。具体例としては主成分分析等の多変量解析手法が考えられる。また、「所定の統計処理」として主成分分析を行った場合、「統計的特徴量」とは、主成分分析によって得られる複数の主成分を意味する。

なお、上記の説明力の高低とは、所定の統計処理が主成分分析である場合を例にすると、上位の主成分ほど説明力が高く、下位主成分ほど説明力が低いという意味になる。

「統計的特徴量」には、少なくともその構造物の色に基づく情報が表現されている必要がある。光源条件は、色の分布によって画像中に表現されるものだからである。

また、「光源条件を表す統計的特徴量」は、１つの統計的特徴量であってもよいし、複数の統計的特徴量であってもよい。

「入力画像中の（所定の）構造物」は、自動的に検出するようにしてもよいし、手動で検出するようにしてもよい。また、本発明は、入力画像中の前記構造物を検出する処理（手段）をさらに有していてもよいし、入力画像から前記構造物の部分を予め検出しておいてもよい。

また、本発明におけるモデルを所定の構造物の属性毎に複数準備しておき、入力画像中のその構造物の属性を表す情報を取得し、取得された属性に応じてモデルを選択する処理（手段）を付加し、選択されたモデルに入力画像中のその構造物を適応させることによって、重みづけパラメータを取得するようにしてもよい。

ここで、「属性」とは、例えば、所定の構造物が人間の顔の場合、性別や年齢、人種等が考えられる。また、個人を特定する情報であってもよい。この場合には、属性毎のモデルは個人毎のモデルを意味する。

この「属性」の具体的取得方法としては、画像に対する公知の認識処理（例えば、特開平11-175724号公報記載）や、ＧＰＳ情報等の画像の付帯情報からの推定・取得が考えられる。

「その構造物を表現するモデルに、入力画像中のその構造物を適応させる」とは、入力画像中のこの構造物をモデルによって表現するための演算処理等を意味する。具体的には、上記のＡＡＭの手法を用いた場合を例にすると、数学モデルにおける各主成分に対する重みづけパラメータの値を求めることを意味する。

「取得された（光源条件を表す統計的特徴量に対する）重みづけパラメータに基づいて」「ホワイトバランスを調整する」具体的方法は、光源条件がどのような統計的特徴量によって表されるかによって異なるが、取得された重みづけパラメータに基づいて、予め実験的、統計的に求めておいた、重みづけパラメータとホワイトバランス調整処理の内容との関係を参照することによって、ホワイトバランスの調整処理の内容を求め、その内容に応じてホワイトバランス調整処理を行うことが考えられる。例えば、光源条件を表す統計的特徴量が所定の構造物に対する各光源の照射強度を表すものであれば、各光源の照射強度を表す重みづけパラメータの値の組合せとホワイトバランス調整量との関係を予め実験的、統計的に求めておき、取得された重みづけパラメータの値に基づいてこの関係を参照することによって、ホワイトバランスの調整量を取得し、取得された調整量に応じてホワイトバランスの調整を行うことが考えられる。また、光源条件を表す統計的特徴量が所定の構造物に対する各光源の照射範囲を表すものであれば、各光源の照射範囲を表す重みづけパラメータの値から、所定の構造物の領域において、その光源の色温度に応じたホワイトバランス調整処理を行う範囲を求め、その範囲についてそのホワイトバランス調整処理を行うことが考えられる。この場合、各光源の照射範囲を表す重みづけパラメータの値と画像中の所定の構造物の領域におけるホワイトバランス調整処理を行う範囲との関係は予め実験的、統計的に求めておいたものである。

ホワイトバランスの調整処理は、入力画像中のその構造物の領域だけでなく、その構造物に隣接する、その構造物と同じ色の領域に対しても行ってもよい。ここで、この構造物が人間の顔の場合、「その構造物に隣接する、その構造物と同じ色の領域」には、例えば、首の領域が該当する。

また、光源条件が、複数の光源の各々が所定の構造物を照射する照射範囲を表すものである場合、所定の構造物に対する光源毎の照射範囲に対して、その照射されている光源に応じたホワイトバランスの調整を行うとともに、光源毎の所定の構造物に対する照射範囲に基づいて、入力画像中の所定の構造物以外の周辺領域に対する光源毎の照射範囲を推定し、推定された周辺領域に対する光源毎の照射範囲に対して、その光源に応じたホワイトバランスの調整を行うようにしてもよい。例えば、光源条件を表す重みづけパラメータの値から、所定の構造物の左半分に対しては蛍光灯が照射されており、右半分に対しては、タングステン光が照射されていると判断される場合には、それらの光源の境界線を画像端まで延長することによって入力画像を２つの領域に分割し、所定の構造物のうち蛍光灯が照射されている側を含む領域に対しては、蛍光灯用のホワイトバランス調整処理を行い、もう一方の領域に対しては、タングステン光用のホワイトバランス調整処理を行うようにすることが考えられる。

また、入力画像が、複数の所定の構造物を含む場合、所定の構造物の各々について、光源条件を表す統計的特徴量に対する重みづけパラメータを取得し、所定の構造物の領域のホワイトバランスを調整するとともに、取得された重みづけパラメータによって表される所定の構造物の各々の位置における光源条件に基づいて、入力画像中の所定の構造物以外の周辺領域の光源条件を推定し、推定された光源条件に応じて周辺領域のホワイトバランスを調整するようにしてもよい。

また、ホワイトバランスの調整処理を入力画像中の一部の領域に対して行う場合には、調整処理を行わない領域に近づくにつれて調整処理の度合（強度）が小さくなるように、ホワイトバランスの調整処理を行うようにしてもよい。さらに、ミックス光源を構成する各光源に応じたホワイトバランス調整処理を行う場合には、その光源に応じたホワイトバランスの調整処理の種類毎に上記のように処理を行うようにしてもよい。

本発明の画像処理方法および装置ならびにプログラムによれば、複数の光源（ミックス光源）による光源条件を表す統計的特徴量を含む１以上の統計的特徴量とその統計的特徴量に対する重みづけパラメータとによって画像中の所定の構造物を表現するモデルに、ミックス光源による光源条件下で撮像された入力画像中のその構造物を適応させることによって、その入力画像中の構造物における光源条件を表す統計的特徴量に対する重みづけパラメータを取得し、取得された重みづけパラメータの値に基づいて、その入力画像中のその構造物の領域のホワイトバランスを調整することができる。このように、本発明では、ミックス光源下の所定の構造物における光源条件を表す統計的特徴量に対応する重みづけパラメータに応じて適切なホワイトバランスの調整を行うので、所定の構造物に最適化した調整が可能になるとともに、影による濃淡や信号の飛び等の光源条件以外の要素の影響が少ない、光源条件を高精度に反映したホワイトバランスの調整処理が可能になり、より色再現性の高い画像を再生することができるようになる。

また、ホワイトバランスの調整処理を、その構造物に隣接する、その構造物と同じ色の領域に対しても行うようにした場合には、その構造物とその隣接領域との間での色再現上の違和感をなくすことができ、より好ましい画像の再生が可能になる。

また、光源条件が、複数の光源の各々が所定の構造物を照射する照射範囲を表すものである場合において、光源毎の所定の構造物に対する照射範囲に基づいて、入力画像中の所定の構造物以外の周辺領域に対する光源毎の照射範囲を推定し、推定された周辺領域に対する光源毎の照射範囲に対しても、その光源に応じたホワイトバランスの調整を行うようにしたり、入力画像が複数の所定の構造物を含む場合において、所定の構造物の各々について、光源条件を表す統計的特徴量に対する重みづけパラメータを取得し、取得された重みづけパラメータによって表される所定の構造物の各々の位置における光源条件に基づいて、入力画像中の所定の構造物以外の周辺領域の光源条件を推定し、推定された光源条件に応じて周辺領域のホワイトバランスの調整を行うようにしたりすれば、入力画像中の所定の構造物の領域だけでなく、その周辺の領域についてもホワイトバランスの調整を行うことが可能になり、画像全体として違和感のない色再現ができ、さらに好ましい画像の再生ができるようになる。

ホワイトバランスの調整処理を入力画像中の一部の領域に対して行う場合において、調整処理を行わない領域に近づくにつれて調整処理の度合（強度）が小さくなるように、ホワイトバランスの調整処理を行うようにすれば、ホワイトバランス調整を行う領域と行わない領域との間での色再現上の違和感がなくなり、さらに好ましい画像の再生が可能になる。同様に、ミックス光源を構成する各光源に応じて異なるホワイトバランス調整処理を行う場合には、光源毎のホワイトバランスの調整処理毎に上記のように処理を行うようにすれば、異なるホワイトバランスの調整処理を領域の境界部分の違和感がなくなり、さらに好ましい画像の再生が可能になる。

また、入力画像中のその構造物を検出する処理（手段）を付加した場合には、その構造物の自動検出が可能になり、操作性が向上する。

また、本発明におけるモデルを所定の構造物の属性毎に複数備えるとともに、入力画像中のその構造物の属性を取得し、取得された属性に応じたモデルを選択する処理（手段）を付加し、選択されたモデルに入力画像中のその構造物を適応させることによって、重みづけパラメータを取得するようにした場合、入力画像中のその構造物を、より適切なモデルに適応させることが可能になるため、処理精度が向上し、より高品質の画像が得られる。

なお、この構造物を人間の顔とした場合には、顔が画像中の主題部分となっていることが多いため、その主題部分に最適化したホワイトバランスの調整を行うことが可能になり、より好ましい画像の再生が可能になる。また、顔は肌色であることが既知であるため、ホワイトバランスの調整にも好適である。

以下、図面を参照しつつ、本発明の実施の形態について説明する。

図１は、本発明の実施形態となるデジタル写真プリンタのハードウェア構成を模式的に表したものである。図に示したように、このデジタル写真プリンタは、フィルムスキャナ５１、フラットヘッドスキャナ５２、メディアドライブ５３、ネットワークアダプタ５４、ディスプレイ５５、キーボード５６、マウス５７、ハードディスク５８、写真プリント出力機５９が演算・制御装置５０に接続された構成となっている。

演算・制御装置５０は、ＣＤ−ＲＯＭ等の記憶媒体からインストールされたプログラムの実行により、この装置内のＣＰＵや主記憶装置、各種入出力インターフェースと連携して、画像の入力、補正、加工、出力のフローを制御したり、画像の補正や加工のための画像処理の演算を行ったりするものである。本発明によるホワイトバランス調整処理はこの装置で行われる。

フィルムスキャナ５１は、現像機（図示なし）によって現像済みのＡＰＳネガフィルムや１３５ネガフィルムを光電的に読み取って、これらのネガフィルムに記録されている写真画像を表すデジタル画像データＰ0を取得するものである。

フラットヘッドスキャナ５２は、Ｌサイズ写真プリント等のハードコピーに表された写真画像を光電的に読み取って、デジタル画像データＰ0を取得するものである。

メディアドライブ５３は、メモリカードやＣＤ、ＤＶＤ等の記録媒体に記録された写真画像を表す画像データＰ0を取得するものである。また、これらの記録媒体に、出力対象の画像データＰ2を書き込むことも可能である。なお、このメモリカードには、例えば、デジタルカメラによって、撮影された画像の画像データが書き込まれている。また、ＣＤやＤＶＤ等には、例えば、前回のプリント注文時に、フィルムスキャナによって読み取られた画像の画像データが書き込まれている。

ネットワークアダプタ５４は、公知のネットワークフォトサービスシステムにおける注文受付機（図示なし）から画像データＰ0を取得するものである。この画像データＰ0は、ユーザからの写真プリントの注文に基づく画像データであり、ユーザのパソコンからインターネット経由で送信してきたものである。また、ラボ店の店頭に設置された写真注文受付機から送信されてきたものであってもよい。

ディスプレイ５５は、このデジタル写真プリンタにおける画像の入力、補正、加工、出力のための操作画面を表示するものであり、操作内容を選択するためのメニューや処理対象の画像等が表示される。また、キーボード５６やマウス５７は、処理内容を指示するものである。

ハードディスク５８には、このデジタル写真プリンタを制御するプログラムが記憶されている他、フィルムスキャナ５１、フラットヘッドスキャナ５２、メディアドライブ５３、ネットワークアダプタ５４において取得された画像データＰ0や、画像補正後の画像データＰ1、画像加工後の画像データ（出力対象の画像データ）Ｐ2も一時的に記憶される。

写真プリント出力機５９は、出力対象の画像を表す画像データＰ2に基づいたレーザーによる印画紙への走査露光、現像、乾燥を行うとともに、プリント情報等の裏印字、印画紙のプリント単位での切断や注文単位でのソート等を行うものである。なお、写真プリントの方式は、レーザー露光熱現像転写方式等であってもよい。

図２は、このデジタル写真プリンタの機能と処理の流れを示すブロック図である。図に示したように、機能の観点からは、このデジタル写真プリンタは、写真プリント対象の画像の画像データＰ0を入力する画像入力手段１と、画像データＰ0を入力として、所定の画像処理条件に基づく画像処理を行って、画像データＰ0による画像（以下、画像データとその画像データによる画像を同じ符号で表す）の画質の自動補正を行う画像補正手段２と、自動補正後の画像データＰ1を入力として、操作者からの指示に基づいた画像処理を行う画像加工手段３と、加工済みの画像データＰ2を入力として、写真プリントの出力や記録メディアへの出力を行う画像出力手段４とから構成されている。

画像補正手段２では、コントラスト補正、シャープネス補正、ノイズ軽減・除去等の処理が行われる他、本発明によるホワイトバランスの調整処理も行われる。また、画像加工手段３では、画像補正手段２による処理結果の手作業による修正や、トリミング、拡大・縮小、セピア化、白黒化、装飾フレームとの合成等の画像の加工が行われる。

このデジタル写真プリンタの操作とこのプリンタで行われる処理の流れは以下のようになる。

まず、画像入力手段１による画像データＰ0の入力が行われる。操作者は、現像済みのフィルムに記録された画像からのプリント等の出力を行う場合には、そのフィルムをフィルムスキャナ５１にセットしておき、メモリカード等の記録メディアに記録された画像データからのプリント等の出力を行う場合には、その記録メディアをメディアドライブ５３にセットしておく。一方、ディスプレイ５５には、画像データの入力元を選択する画面が表示され、操作者はキーボード５６やマウス５７の操作によって、入力元の選択を行う。入力元としてフィルムが選択された場合には、フィルムスキャナ５１は、セットされたフィルムを光電的に読み取り、デジタル変換することによって、生成された画像データＰ0を演算・制御装置５０に送信する。写真プリント等のハードコピー原稿が選択された場合には、フラットヘッドスキャナ５２は、セットされた写真プリント等のハードコピー原稿を光電的に読み取り、デジタル変換することによって、生成された画像データＰ0を演算・制御装置５０に送信する。メモリカード等の記録メディアが選択された場合には、演算・制御装置５０は、メディアドライブ５３にセットされたメモリカード等の記録メディアに記憶されている画像データＰ0を読み込む。また、ネットワークフォトサービスシステムや店頭での写真受付注文機による注文の場合には、演算・制御装置５０が、ネットワークアダプタ５４経由で画像データＰ0を受信する。このようにして取得された画像データＰ0は、ハードディスク５８に一時的に記憶される。

次に、画像補正手段２が、画像Ｐ0による画像に対する自動画質補正処理を行う。具体的には、演算・制御装置５０で実行される画像処理プログラムにより、予め、このデジタル写真プリンタに設定されているセットアップ条件に基づいて、公知のコントラスト補正、シャープネス補正、ノイズ軽減・除去等の処理の他、本発明のホワイトバランス調整処理が行われ、処理済みの画像データＰ1が出力される。出力された画像データＰ1は演算・制御装置５０のメモリに格納される。なお、ハードディスク５９に一時的に記憶するようにしてもよい。

その後、画像加工手段３は、補正後の画像Ｐ1のサムネイル画像を生成し、ディスプレイ５５に表示させる。図３（ａ）は、ディスプレイ５５に表示される画面の一例である。操作者が、表示されたサムネイル画像を確認し、画質の手動補正が必要なものや、画像の加工の注文があるものを、マウス５７やキーボード５６の操作によって選択すると（図３（ａ）では左上の画像DSCF0001を選択）、図３（ｂ）に一例を示すように、選択されたサムネイル画像が拡大されてディスプレイ５５に表示されるとともに、その画像に対する手動補正や加工の処理内容を選択するボタンが表示される。操作者は、表示されたボタンの中から所望のものをマウス５７やキーボード５６の操作によって選択し、必要に応じて、選択された処理内容のさらに詳細な設定等を行う。画像加工手段３は、選択された処理内容に応じた画像処理を行い、処理済みの画像データＰ2を出力する。出力された画像データＰ2は演算・制御装置５０のメモリに格納される。なお、ハードディスク５９に一時的に記憶するようにしてもよい。なお、以上の画像加工手段３による、ディスプレイ５５への画面表示、マウス５７やキーボード５６による入力の受付、手動補正や加工の画像処理等は、演算・制御装置５０で実行されているプログラムによって制御される。

最後に、画像出力手段４が、画像Ｐ2の出力を行う。ここでは、演算・制御装置５０が、ディスプレイ５５に出力先を選択する画面を表示させ、操作者は、マウス５７やキーボード５６の操作によって、所望の出力先を選択する。演算・制御装置５０は、選択された出力先に対して画像データＰ2を送信する。写真プリント出力を行う場合には、画像データＰ2は写真プリント出力機５９に送信され、画像Ｐ2が写真プリントとして出力される。ＣＤ等の記録メディアに出力を行う場合には、メディアドライブ５３にセットされたＣＤ等に画像データＰ2の書込みが行われる。

ここで、画像補正手段２によって行われる本発明によるホワイトバランス調整処理の詳細について以下に説明する。図４は、このホワイトバランス調整処理の詳細を表すブロック図である。図に示したように、ミックス光源下で撮影された画像Ｐ0′中の顔部分Ｐ0f′を検出する顔検出部３１と、異なるミックス光源の光源条件下における人間の顔部分が表された複数のサンプル画像に基づいてＡＡＭ（前記の参考文献１参照）の手法によって生成された数学モデルＭに、検出された顔部分Ｐ0f′を適応させることによって、顔部分Ｐ0f′における光源条件を表す主成分に対する重みづけパラメータＣを取得するパラメータ取得部３２と、取得されたパラメータＣに基づいて参照テーブルＴを参照してホワイトバランスの調整量Ｗを取得し、取得された調整量Ｗに基づいて顔部分Ｐ0f′のホワイトバランスを調整し、もとの画像Ｐ0′中の顔部分Ｐ0f′を調整処理後の顔部分Ｐ1f′に置換した画像Ｐ1′を生成するホワイトバランス調整部３３とによって、このホワイトバランス調整処理が実現される。なお、これらの処理の制御は演算・制御装置５０にインストールされたプログラムによって行われる。

この数学モデルＭは、図５のフローチャートに基づいて生成されたものであり、上記のプログラムとともに予めインストールされている。以下では、この数学モデルＭの生成過程について説明する。

まず、サンプルとなるミックス光源による光源条件下における人間の顔部分が表された複数の顔画像（サンプル画像）の各々に対して、図６に示すように、顔形状を表す特徴点を設定する（ステップ#1）。ここでは、特徴点の数は１２２箇所とする（ただし、図６では簡潔に表現するため６０箇所しか表していない）。各特徴点は、例えば、１番目の特徴点は左目の左端、３８番目の特徴点は眉の間の中央というように、顔のどの部位を示すものであるかが予め定められている。また、各特徴点は、手作業によって設定してもよいし、認識処理によって自動的に設定するようにしてもよいし、自動的に設定後、必要に応じて手作業で修正するようにしてもよい。

次に、各サンプル画像中に設定された特徴点に基づいて、顔の平均形状を算出する（ステップ#2)。具体的には、各サンプル画像における、同じ部位を示す特徴点毎の位置座標の平均を求める。

さらに、各サンプル画像における顔形状を表す特徴点とその平均形状の位置座標に基づいて主成分分析を行う（ステップ#3)。その結果、任意の顔形状は次式（１）によって近似することができる。

ここで、Ｓは顔形状の各特徴点の位置座標を並べて表現される形状ベクトル（ｘ₁,ｙ₁,・・・,ｘ₁₂₂，ｙ₁₂₂）であり、Ｓ₀は平均顔形状における各特徴点の位置座標を並べて表現される平均顔形状ベクトル、ｐ_iは主成分分析によって得られた顔形状についての第ｉ主成分を表す固有ベクトル、ｂ_iは各固有ベクトルｐ_iに対する重みづけ係数を表す。図７は、主成分分析によって得られた上位２つの主成分の固有ベクトルｐ₁、ｐ₂に対する重みづけ係数ｂ₁、ｂ₂の値を変化させた場合の顔形状の変化の様子を模式的に表したものである。変化の幅は、サンプル画像の各々の顔形状を上式（１）で表した場合における重みづけ係数ｂ₁、ｂ₂の値の標準偏差sdに基づいて、-3sdから+3sdまでの間であり、各主成分についての３つの顔形状の中央のものは平均値の場合である。この例では、主成分分析の結果、第１主成分としては顔の輪郭形状に寄与する成分が抽出されており、重みづけ係数ｂ₁を変化させることによって、細長い顔（-3sd）から丸顔（+3sd）まで顔形状が変化することがわかる。同様に、第２主成分としては口の開閉状態と顎の長さに寄与する成分が抽出されており、重みづけ係数ｂ₂を変化させることによって、口が開いた状態で顎の長い顔（-3sd）から口が閉じられた状態で顎が短い顔（+3sd）まで顔の形状が変化することがわかる。なお、ｉの値が小さいほど、形状に対する説明力が高い、すなわち、顔形状への寄与が大きいことを意味する。

次に、各サンプル画像をステップ#2で得られた平均顔形状に変換（ワーピング）する（ステップ#4）。具体的には、各特徴点について、各サンプル画像と平均顔形状との間でのシフト量を算出し、そのシフト量に基づいて、式（２）から（５）の２次元５次多項式により各サンプル画像の画素毎の平均顔形状へのシフト量を算出し、各サンプル画像を画素毎に平均顔形状へワーピングする。

ここで、ｘ，ｙは各サンプル画像中の各特徴点の座標、ｘ′，ｙ′はワーピングされる平均顔形状上の座標、Δｘ，Δｙは平均形状へのシフト量、ｎは次数、ａij，ｂijは係数である。なお、多項式近似の係数は最小自乗法を用いて求める。このとき、ワーピング後の座標が整数ではなく小数点以下を含む位置に移動する画素については、４近傍から１次近似で画素値を求める。つまり、ワーピング後の座標を囲む４つの画素に対して、ワーピング後の座標から各画素の座標までの距離に比例して画素値をそれぞれ分配するようにする。図８は、２つのサンプル画像について、各々の画像中の顔形状を平均顔形状に変換した状態を表したものである。

さらに、平均顔形状に変換後のサンプル画像毎の各画素のＲ，Ｇ，Ｂ三原色の画素値を変数として主成分分析を行う（ステップ#5)。その結果、任意の顔画像の平均顔形状下でのＲ，Ｇ，Ｂ三原色の画素値は次式（６）によって近似することができる。

ここで、Ａは平均顔形状下での各画素のＲ，Ｇ，Ｂ三原色の各々の画素値を並べて表現されるベクトル（ｒ₁, ｇ₁, ｂ₁, ｒ₂, ｇ₂, ｂ₂,・・・,ｒ_m, ｇ_m, ｂ_m）（ｒ、ｇ、ｂは各々Ｒ，Ｇ，Ｂの三原色の画素値、１からｍは各画素を識別する添え字、ｍは平均顔形状での総画素数）であるが、ベクトルの成分の並び順は上記の順に限定されず、例えば、（ｒ₁，ｒ₂，・・・，ｒ_m，ｇ₁，ｇ₂，・・・，ｇ_m，ｂ₁，ｂ₂，・・・，ｂ_m）のような順であってもよい。また、Ａ₀は平均顔形状における各サンプル画像の画素毎のＲ，Ｇ，Ｂ三原色の各々の画素値の平均値を並べて表現される平均ベクトル、ｑ_iは主成分分析によって得られた顔のＲ，Ｇ，Ｂ三原色の画素値についての第ｉ主成分を表す固有ベクトル、λ_iは各固有ベクトルｑ_iに対する重みづけ係数を表す。なお、主成分の順位ｉの値が小さいほど、Ｒ，Ｇ，Ｂ三原色の画素値に対する説明力が高い、すなわち、Ｒ，Ｇ，Ｂ三原色の画素値への寄与が大きいことを意味する。

図９は、主成分分析によって得られた主成分のうち第ｉ₁、第ｉ₂の主成分を表す固有ベクトルｑ_i1、ｑ_i2に対する重みづけ係数λ_i1、λ_i2の値を変化させた場合の顔の画素値の変化の様子を模式的に表したものである。変化の幅は、サンプル画像の各々の顔の画素値を上式（６）で表した場合における重みづけ係数λ_i1、λ_i2の値の標準偏差sdに基づいて、-3sdから+3sdまでの間であり、各主成分についての３つの顔画像の中央のものは平均値の場合である。この例では、主成分分析の結果、第ｉ₁主成分としてはヒゲの有無に寄与する成分が抽出されており、重みづけ係数λ_i1を変化させることによって、ヒゲの濃い顔（-3sd）からヒゲのない顔（+3sd）まで変化することがわかる。同様に、第ｉ₂主成分としては顔にかかる影の状態に寄与する成分が抽出されており、重みづけ係数λ_i2を変化させることによって、顔の右側に影がかかった顔（-3sd）から左側に影がかかった顔（+3sd）まで変化することがわかる。なお、各主成分がどのような要素に寄与しているかは人間の解釈によって決定される。

本実施形態において、例えば、顔部分に均一なミックス光源が照射されている複数のサンプル画像が用いられた場合、ミックス光源を構成する光源毎にその照射強度を表す主成分が抽出されうる。図１０は、ある光源の照射強度を表す主成分の固有ベクトルに対する重みづけ係数の値を変化させた場合の顔の画素値の変化の様子を、図９と同様にして模式的に表したものである。例えばこの光源がタングステン光によるものであるとすると、係数の値が-3sdから+3sdまで変化するのに伴って、この光源の影響が大きくなり、画像Ｐ0′中の顔部分Ｐ0f′の色調が、赤みがかったもの（色温度が低い）に変化する。したがって、ミックス光源を構成する各光源を表す主成分の固有ベクトルに対する重みづけ係数を総合的に判断することによって、ミックス光源を構成する各光源の混合比が得られる。

以上のステップ#1から#5までの処理によって、顔の数学モデルＭが生成される。すなわち、この数学モデルＭは、顔形状を表す複数の固有ベクトルｐ_iと、平均顔形状下での顔の画素値を表す固有ベクトルｑ_iによって表現されるものであり、各固有ベクトルの合計数が、顔画像を形成する画素数よりも大幅に少ない、次元圧縮されたものとなっている。なお、上記参考文献１記載の実施例では、約10,000画素により形成される顔画像に対して122の特徴点を設定して上記の処理を行うことによって、顔形状についての23の固有ベクトルと顔の画素値についての114の固有ベクトルで表される顔画像の数学モデルが生成され、各固有ベクトルに対する重みづけ係数を変化させることによって、約98％の顔形状や画素値のバリエーションを表現できることが示されている。

次に、この数学モデルＭを利用したＡＡＭの手法に基づくホワイトバランス調整処理の流れについて、図４を参照しながら説明する。

まず、顔検出部３１が、ミックス光源下で撮影された画像の画像データＰ0′を読み込み、画像Ｐ0′中の顔部分Ｐ0f′を検出する。具体的には、特開２００５−１０８１９５号公報（参考文献２）に記載されているように、画像Ｐ0′の各画素におけるエッジの向きと大きさを表す勾配ベクトルの向きを表す第１の特徴量を、複数の第１の識別器（後述）に入力することによって画像Ｐ0′中に顔候補領域が存在するかどうかを判定し、さらに、顔候補領域が存在する場合には、その領域を抽出し、抽出された顔候補領域の各画素における勾配ベクトルの大きさを正規化し、正規化後の勾配ベクトルの大きさと向きを表す第２の特徴量を、第２の識別器（後述）に入力することによって、抽出された顔候補領域が真の顔領域であるかどうかを判定し、真の顔領域であれば、その領域を顔部分Ｐ0f′として検出することが考えられる。ここで、第１／第２の識別器は、学習用サンプルとなる顔であることがわかっている複数の画像と顔でないことがわかっている複数の画像の各々について算出された第１／第２の特徴量を入力とする、AdaBoost等のマシンラーニングの手法を用いた学習処理によって各々得られたものである。

なお、顔部分Ｐ１fの検出方法としては、特表２００４−５２７８６３号公報（参考文献３）に記載されているような固有顔表現と画像自体との相関スコアを用いる方法の他、知識ベース、特徴抽出、肌色検出，テンプレートマッチング、グラフマッチング、統計的手法(ニューラルネットワーク、SVM、HMM)等の様々な公知の手法を用いることができる。なお、画像Ｐ0′がディスプレイ５５に表示された際に、マウス５７やキーボード５６の操作により、手作業で顔形状Ｐ0f′を指定するようにしてもよいし、自動検出の結果を手作業で修正するようにしてもよい。

次に、パラメータ取得部３２は、顔部分Ｐ0f′を数学モデルＭに適応させる処理を行う。具体的には、上記式（１）（６）の上位の主成分の固有ベクトルｐ_i、ｑ_iに対する重みづけ係数ｂ_i、λ_iから順に係数の値を変化させながら、上記式（１）（６）に基づいて画像を再構成し、再構成された画像と顔部分Ｐ0f′との差異が最小となる時の重みづけ係数ｂ_i、λ_iを求める（詳細は、参考文献３参照）。なお、ここでは、重みづけ係数λ_iのうち、ミックス光源を構成する各光源の照射強度を表す係数をλ_d1, λ_d2,・・・, λ_dJとし、図４におけるパラメータＣとする。なお、重みづけ係数ｂ_i、λ_iの値は、モデル生成時のサンプル画像を上記（１）（６）で表したときのｂ_i、λ_iの分布の標準偏差sdに基づき、例えば-3sdから+3sdまでの範囲の値のみを許容し、その範囲を超える場合には、上記の分布における平均値を設定するようにすることが好ましい。これにより、モデルの誤適応を回避することができる。

ホワイトバランス調整部３３は、まず、求められた重みづけ係数λ_d1, λ_d2,・・・, λ_dJに基づいて参照テーブルＴを参照してホワイトバランスの調整量Ｗを取得する。ここで、参照テーブルＴについて説明する。図１１は、参照テーブルＴの構成と値の例を示したものである。このテーブルは、予め実験的、統計的に求めておいたパラメータλ_d1, λ_d2,・・・, λ_dJの値とホワイトバランスの調整量Ｗ₁, Ｗ₂,・・・との対応づけを定義したものである。ここで、ホワイトバランスの調整量Ｗ₁, Ｗ₂,・・・は、例えば、パラメータλ_d1, λ_d2,・・・, λ_dJの各値に対応する色温度と出力媒体の色温度の平均値における色度点がグレーになるように定めることが考えられる（特開2000-244940号公報参照）。なお、光源Ｌ₁，Ｌ₂によるミックス光源下でのＲ，Ｇ，Ｂ各色のホワイトバランス調整量ＷＢr，ＷＢg，ＷＢbの値は、光源Ｌ₁の単一光源下でのＲ，Ｇ，Ｂ各色のホワイトバランス調整量をＷＢr₁，ＷＢg₁，ＷＢb₁とし、光源Ｌ₂の単一光源下でのＲ，Ｇ，Ｂ各色のホワイトバランス係数をＷＢr₂，ＷＢg₂，ＷＢb₂とすると、各光源Ｌ₁，Ｌ₂の混合比ｍを用いて次式（７）〜（９）により算出できることが知られており（特開2005-033609号公報参照）、本実施形態においても、参照テーブルＴを設定する際に、各λ_d1, λ_d2,・・・, λ_dJの値に基づいてミックス光源を構成する各光源の混合比を求め、予め求めておいた各光源の単一光源下での最適なホワイトバランス調整量に基づいて、ホワイトバランス調整量Ｗ₁, Ｗ₂,・・・を求めることも可能である。

また、参照テーブルを用いずに、パラメータλ_d1, λ_d2,・・・, λ_dJを入力として、ホワイトバランスの調整量を出力する関数を定義し、その関数に基づいてホワイトバランスの調整量Ｗ₁, Ｗ₂,・・・を求めるようにしてもよい。さらに、次式（１０）のように、各重みづけ係数λ_d1, λ_d2,・・・, λ_dJの線形結合を合成パラメータＣとして求めたり（α_iは、重みづけ係数λ_iに対応する主成分の光源条件に対する寄与度を表す係数）、各重みづけ係数の値の組合せと合成パラメータＣの値を対応づける高次元の参照テーブルによって合成パラメータＣを求めたりし、この合成パラメータＣとホワイトバランス調整量とを対応づける参照テーブルや関数を用いてホワイトバランス調整量Ｗ₁, Ｗ₂,・・・を求めてもよい。

次に、ホワイトバランス調整部３３は、求められたホワイトバランスの調整量Ｗ₁, Ｗ₂,・・・に基づいて、顔部分Ｐ0f′に対して公知のホワイトバランス調整処理を行う。具体的には、次式（１１）に示す変換処理を行う。

ここで、Ｒ′、Ｇ′、Ｂ′はホワイトバランス調整後の顔部分Ｐ1f′の各画素のＲＧＢ値、Ｒ、Ｇ、Ｂは調整前の顔部分Ｐ0f′の各画素のＲＧＢ値、Ｗはホワイトバランスの調整量を表す行列である。

さらに、ホワイトバランス調整部３３は、画像Ｐ0′の顔部分Ｐ0f′を変換後の顔部分Ｐ1f′に置換した画像Ｐ1′を生成する。

なお、この変換処理を顔部分Ｐ0f′だけでなく、画像Ｐ0′全体に適用して画像Ｐ1′を生成してもよい。また、顔部分Ｐ0f′の周辺の肌色領域（例えば首部分等）を公知の手法（例えば特許文献２記載の手法）によって検出し、検出された肌色領域に対しても同様の変換処理を行ってもよい。さらに、画像Ｐ0′の一部の領域に対してのみこの変換処理を行う場合には、変換処理を行わない領域に近づくにつれて、ホワイトバランスの調整量が小さくなるように、調整量を変化させながら、この変換処理を行うようにしてもよい。この場合、画像Ｐ0′の変換処理対象の領域を変換後の領域に置き換えて画像Ｐ1′を生成する。

以上のように、本発明の実施形態となるホワイトバランス調整処理によれば、パラメータ取得部３２が、顔検出部３１によって検出された画像Ｐ0′中の顔部分Ｐ0f′を、ミックス光源による光源条件下における人間の顔部分が表された複数のサンプル画像に基づいてＡＡＭの手法によって生成された数学モデルＭに適応させることによって、顔部分Ｐ0f′における光源条件を表す主成分に対する重みづけ係数λ_d1, λ_d2,・・・, λ_dJを取得し、ホワイトバランス調整部３３が、取得された重みづけ係数λ_d1, λ_d2,・・・, λ_dJに基づいて参照テーブルＴを参照してホワイトバランスの調整量Ｗ₁, Ｗ₂,・・・を取得し、取得された調整量Ｗ₁, Ｗ₂,・・・に基づいて顔部分Ｐ0f′のホワイトバランスを調整する。したがって、ミックス光源を構成する各光源の顔部分Ｐ0fに対する影響度合を重みづけ係数λ_d1, λ_d2,・・・, λ_dJとして求めることができ、この重みづけ係数に応じて適切なホワイトバランスの調整を行うので、画像中の主要被写体である顔部分Ｐ0fに最適化した調整が可能になるとともに、影による濃淡や信号の飛び等の光源条件以外の要素の影響が少ない、光源条件を高精度に反映したホワイトバランスの調整処理が可能になり、より色再現性の高い画像を再生することができるようになる。

なお、上記の実施形態では、ミックス光源下で撮影された入力画像を用いて説明を行ったが、単一光源下で撮影された画像が入力された場合にも、その単一光源以外の光源の照射強度を表す主成分に対応する重みづけ係数が、その光源が存在しないことを表す値となるだけであるから、その単一光源の照射強度を表す主成分に対応する重みづけ係数のみを実質的に用いて適切にホワイトバランス調整を行うことが可能である。

次に、上記の実施形態におけるホワイトバランス調整処理の変形例について説明する。

上記の実施形態では、顔部分に均一なミックス光源が照射されている複数のサンプル画像に基づいて、ミックス光源を構成する光源毎にその照射強度を表す主成分を抽出したモデルが生成されていた場合を前提としていたが、ミックス光源を構成する各光源の顔部分における照射範囲を表す主成分を抽出したモデルを用いることも考えられる。

図１２は、このようなモデルを生成するためのサンプル画像の撮影環境を模式的に表したものである。図に示したように、被写体となる人物Ｓの左右から異なる光源Ｌ₁, Ｌ₂を照射する。このとき、各光源Ｌ₁, Ｌ₂の顔部分における照射範囲を変化させながら複数のサンプル画像を撮影していき、さらに、光源の左右、種類を変えて同様の撮影を行う。このようにして得られたサンプル画像を用いてＡＡＭによる数学モデルＭ′を生成した場合、光源の種類毎に図１３に示すような主成分が抽出されうる。図に示したように、係数の値が-3sdから0まで変化するのに伴って、その光源の顔部分に対する照射範囲が顔の左端からだんだん広くなっていき、係数の値が0のとき、顔全体に照射された状態となる。さらに、係数の値が0から+3sdまで変化するのに伴って、その光源の顔部分に対する照射範囲が顔の左端からだんだん狭くなっていく。

また、この場合には、ホワイトバランス調整部３３が参照する参照テーブルＴ′には、光源毎の照射範囲を表す重みづけ係数と顔部分に対する照射範囲の位置情報（例えば、顔の幅に対して左端または右端から何％の位置までが照射範囲であるか）との関係を、予め実験的、統計的に求めて定義しておく。

パラメータ取得部３２が、入力画像Ｐ0′の顔部分Ｐ0f′をこの数学モデルＭ′に適応させた場合、光源毎に顔部分Ｐ0f′に対する照射範囲を表す重みづけ係数の値が求まる。ホワイトバランス調整部３３は、上記の参照テーブルＴ′を参照し、各光源の顔部分Ｐ0f′に対する照射範囲の位置情報を求め、求められた照射範囲に対して、その光源に応じたホワイトバランス調整量で式（１１）の変換処理を行う。なお、光源毎のホワイトバランス調整量は予め実験的、統計的に求めておいた値を用いる。

これにより、複数の光源により、被写体の部分によって照射されている光源が異なる場合にも、各々の部分に照射されている光源を適切に特定することによって、顔部分のすべての領域に対して適切なホワイトバランスの調整処理を行うことが可能になる。

さらに、上記の説明では、画像中の顔部分のみを対象にしてホワイトバランス調整処理を行っているが、対象範囲を画像全体に広げることも考えられる。例えば、パラメータ取得部３２によって取得された光源毎の照射範囲を表す重みづけ係数の値に基づいて、ホワイトバランス調整部３３が参照テーブルＴ′を参照し、各光源の照射範囲の境界を特定した結果、図１４（ａ）に示すように、顔の左半分と右半分で異なる光源が照射されていることが特定された場合には、この境界線を画像の上下端まで延長し、図１４（ｂ）に示すように、境界線の左側は、顔の左半分を照射している光源に応じたホワイトバランス調整処理を行い、境界線の右側は、顔の右半分を照射している光源に応じたホワイトバランス調整処理を行うようにすることが考えられる。

このようにすることにより、入力画像中の顔部分だけでなく、その周辺の領域についてもホワイトバランスの調整を行うことが可能になり、画像全体として違和感のない色再現ができ、さらに好ましい画像の再生ができるようになる。

なお、これらの場合、光源毎に、その光源に応じた調整処理を行わない領域に近づくにつれて、ホワイトバランスの調整量が小さくなるように、調整量を変化させながら、この変換処理を行うようにすることが好ましい。これにより、異種のホワイトバランス調整処理の境界部分における色再現の違和感を軽減することができ、より好ましい画像の再生が実現される。

次に、入力画像中に複数の顔が存在する場合における画像全体に対するホワイトバランス調整処理について説明する。

まず、最初の実施形態のように、顔部分に均一なミックス光源が照射されている複数のサンプル画像に基づいて、ミックス光源を構成する光源毎にその照射強度を表す主成分を抽出したモデルが生成されていた場合（図１０参照）、顔検出部３１が入力画像Ｐ0′から複数の顔部分Ｐ0f₁′、Ｐ0f₂′・・・を検出し、検出された顔部分Ｐ0f₁′、Ｐ0f₂′・・・の各々について、パラメータ取得部３２が数学モデルＭへの適応を行うことによって、各顔部分Ｐ0f₁′、Ｐ0f₂′・・・における、各光源の照射強度を表す重みづけ係数を求めることができる。例えば、図１５（ａ）は、入力画像中の３人の人物Ｓ₁、Ｓ₂、Ｓ₃の各々の顔部分に対する３種類の光源Ｌ₁、Ｌ₂、Ｌ₃の照射強度を表す重みづけ係数の値の一例を画像中に示したものである。この場合、人物Ｓ₁、Ｓ₂、Ｓ₃の顔部分の水平方向の位置における光源Ｌ₁、Ｌ₂、Ｌ₃の照射強度を、この水平方向の位置を横軸、照射強度を縦軸とする座標平面にプロットすると、図１５（ｂ）のようになる。さらに、光源毎に各点を直線で結ぶことによって、すなわち、光源毎に線形補間を行うことによって、画像中の水平方向の各位置における各光源の照射強度を推定することができる。なお、補間方法は上記のような線形補間に限定されず、曲線による補間を行ってもよい。

ホワイトバランス調整部３３は、このようにして推定された画像中の水平方向の各位置における各光源の照射強度を表す重みづけ係数の値の組合せに基づいて、図１１に例示した参照テーブルＴを参照して、各位置におけるホワイトバランス調整量を求め、求められた調整量に基づいて式（１１）の変換処理を行う。

このようにすることにより、入力画像中の顔部分だけでなく、その周辺の領域についてもミックス光源を構成する各光源の照射強度を推定してホワイトバランスの調整を行うことが可能になり、画像全体として違和感のない色再現ができ、さらに好ましい画像の再生ができるようになる。

また、上記の変形例のように、ミックス光源を構成する各光源の顔部分における照射範囲を表す主成分を抽出したモデルが生成されていた場合でも（図１３参照）、画像中の顔部分を複数検出し、各々の顔部分についてモデル適応を行うことにより、例えば図１６（ａ）のように、入力画像中の７人の人物の顔部分における各光源の照射範囲の境界を特定することができる。ここで、各顔部分における照射範囲の境界線を延長していくことにより、図１６（ｂ）のように、入力画像全体に対する各光源の照射範囲を推定することができる。この図では、画像の周辺を囲む１つの光源と画像の中央部の別の光源とが存在する。

これにより、図１４のように入力画像中の１つの顔部分に基づいて画像全体における各光源の照射範囲を推定する場合よりも高い精度で、画像全体における各光源の照射範囲を推定することができる。したがって、このようにして推定された各光源の照射範囲に対して、各光源に応じたホワイトバランス調整量で処理を行うことにより、画像全体としてより違和感のない色再現ができ、さらに好ましい画像の再生ができるようになる。

さらに、図１６（ｃ）のように各光源の照射範囲の境界線を直線ではなく曲線で近似することにより、各光源の現実の照射範囲にさらに近づけることが可能になり、このようにして得られた各光源の照射範囲に対して、各光源に応じたホワイトバランス調整量で処理を行うことにより、画像全体としてより自然な色再現ができ、さらに好ましい画像の再生ができるようになる。

次に、上記の実施形態に対する、その他の観点からの変形例について説明する。

なお、上記の実施形態では、数学モデルＭが１つだけ存在するようにしていたが、人種別、年齢別、性別等の属性別に複数の数学モデルＭ_i（i=1,2,・・・）を生成しておいてもよい。図１７は、この場合のホワイトバランス調整処理の詳細を表すブロック図である。図に示したように、画像データＰ0′に基づいて、画像中の被写体の属性情報Ａ_Kを取得する属性取得部３４と、取得した属性情報Ａ_Kに基づいて、その属性を有する被写体を表すサンプル画像のみから生成された数学モデルＭ_Kを選択するモデル選択部３５とを有している点で、上記の実施形態（図４）とは異なる。

ここで、複数の数学モデルＭ_iは、例えば、同じ人種、年代、性別等を有する被写体表すサンプル画像のみから前述の方法（図５参照）に基づいて各々生成されたものであり、サンプル画像における共通の属性を表す属性情報Ａ_iと関連づけられて記憶されている。

属性取得部３４は、画像Ｐ0′に対する公知の認識処理（例えば、特開平11-175724号公報記載）を行うことによって、被写体の属性を判定し、属性情報Ａ_Kを取得してもよいし、撮影時に被写体の属性を画像データＰ0′の付帯情報としてヘッダ等に記録しておき、記録された情報を取得するようにしてもよい。また、付帯情報に基づいて被写体の属性を推定するようにしてもよい。例えば、撮影場所のＧＰＳ情報があれば、そのＧＰＳ情報に対応する国や地域を特定することができるので、撮影された被写体の人種をある程度推定することができることに着目し、ＧＰＳ情報と人種情報を関連づける参照テーブルを予め用意しておき、撮影時にＧＰＳ情報を取得して画像データＰ0′のヘッダ領域に記録するデジタルカメラ（例えば、特開2004-153428号公報記載）で得られた画像データＰ0′を入力として、画像データＰ0′のヘッダ領域に記録されているＧＰＳ情報を取得し、取得したＧＰＳ情報に基づいて前記の参照テーブルを参照し、そのＧＰＳ情報に関連づけられた人種情報を被写体の人種として推定することが考えられる。

モデル選択部３５は、属性取得部３４によって得られた属性情報Ａ_Kと関連づけられた数学モデルＭ_Kを取得し、パラメータ取得部３２は、画像Ｐ1の顔部分Ｐ0f′を数学モデルＭ_Kに適応させる。

このように、複数の属性に応じた数学モデルＭ_iを予め用意しておき、モデル選択部３５が、属性取得部３４で取得した画像Ｐ0′の被写体の属性Ａ_Kと関連づけられた数学モデルＭ_Kを選択し、パラメータ取得部３２が、選択された数学モデルＭ_Kに顔形状Ｐ0f′を適応させるようにした場合には、数学モデルＭ_Kには属性Ａ_Kの違いに起因する顔形状や輝度のバリエーションを説明する固有ベクトルは存在しないので、顔形状や輝度を決定する他の要因を表す固有ベクトルのみに基づいて、顔形状Ｐ0f′を表現することが可能になり、処理精度が向上し、より高品質の画像が得られる。

なお、処理精度の向上の観点からは、属性別の数学モデルをさらに特化させ、被写体の個人別の数学モデルを構築しておくことが好ましい。この場合には、画像Ｐ0f′と個人を特定する情報とを関連づけておく必要がある。

また、上記の実施形態では、数学モデルは予めデジタル写真プリンタにインストールされているものとしているが、人種別の数学モデルを予め準備しておき、そのプリンタの出荷先の国や地域によって、インストールする数学モデルを変えることも処理精度の向上の観点からは好ましい。

さらに、この数学モデルを生成する機能をデジタル写真プリンタに実装するようにしてもよい。具体的には、図５のフローチャートに基づいて説明した処理を行わせるプログラムを演算・制御装置５０にインストールしておけばよい。また、出荷時にはデフォルトの数学モデルをインストールしておき、そのデジタル写真プリンタへの入力画像を用いて、その数学モデルをカスタマイズ（変更）できるようにしたり、デフォルトの数学モデルとは異なる新たなモデルを生成するようにしたりすることも考えられる。これは、前記のように個人別のモデルを生成する場合に特に有効である。

また、上記の実施形態では、顔形状とＲ，Ｇ，Ｂ三原色の画素値についての別個の重みづけ係数ｂ_i、λ_iによって、個別の顔画像を表現していたが、顔形状とＲ，Ｇ，Ｂ三原色の画素値のバリエーションには相関性があることから、重みづけ係数ｂ_i、λ_iを結合して得られるベクトル（ｂ₁,ｂ₂,・・・,ｂ_i,・・・,λ₁,λ₂,・・・,λ_i,・・・）に対してさらに主成分分析を行うことにより、次式（１２）（１３）に示したように、顔形状とＲ，Ｇ，Ｂ三原色の画素値の両方を制御する新しいアピアランスパラメータｃを得ることができる。

ここで、アピアランスパラメータｃとベクトルＱ_Sによって平均顔形状からの形状の変動分が表現され、アピアランスパラメータｃとベクトルＱ_Aによって顔の画素値の平均からの画素値の変動分要素が表現される。

このモデルを用いた場合には、パラメータ取得部３２は、アピアランスパラメータｃの値を変化させながら、上記式（１３）に基づいて平均顔形状下での顔の画素値を求め、さらに、上記式（１２）に基づいて平均顔形状からの変換を行うことによって、顔画像を再構成し、再構成された画像と顔部分Ｐ0f′との差異が最小となる時のアピアランスパラメータｃを求めることになる。

本発明の他の実施形態としては、上記のホワイトバランス調整処理をデジタルカメラに実装することが考えられる。すわなち、デジタルカメラのオートホワイトバランス（ＡＷＢ）機能として実装した場合である。図１８は、このようなデジタルカメラの構成を模式的に表したものである。図に示すように、このデジタルカメラは、レンズ、絞り、シャッター、ＣＣＤ等からなり、被写体の撮像を行う撮像部７１、撮像部７１のＣＣＤに蓄積された電荷によるアナログ信号をデジタル化して、デジタル画像データＰ0を得るＡ／Ｄ変換部７２、画像データＰ0等に対して各種画像処理を行う画像処理部７３、メモリカードに記録する画像データの圧縮処理やメモリカードから読み込んだ圧縮形式の画像データに対する伸長処理を行う圧縮／伸長部７４、ストロボ等からなり、ストロボ発光を行うストロボ部７５、各種操作ボタン等からなり、撮影条件や画像処理条件等の設定を行う操作部７６、画像データが記録されるメモリカードとのインターフェースとなるメディア記録部７７、液晶ディスプレイ等からなり、スルー画や撮影された画像、各種設定メニュー等を表示する表示部７８、前記各部による処理の制御を行う制御部７０、制御プログラムや画像データ等を記憶する内部メモリ７９を有している。

ここで、図２の画像入力手段１は撮像部７１とＡ／Ｄ変換部７２、画像補正手段２は画像処理部７３、画像加工手段３は画像処理部７３と操作部７６と表示部７８、画像出力手段４はメディア記録部７７によって、制御部７０による制御の下で内部メモリ７９も使用しつつ、各々の機能が実現される。

次に、このデジタルカメラの操作と処理の流れについて説明する。

まず、撮影者によるシャッターの全押し操作によって、撮像部７１がレンズに入射した被写体光をＣＣＤの光電面に結像させ、光電変換の後、アナログ画像信号を出力し、Ａ／Ｄ変換部７２が、出力されたアナログ画像信号をデジタル画像信号に変換し、デジタル画像データＰ0として出力することによって、画像入力手段１として機能する。

次に、画像処理部７３が、階調補正処理、濃度補正処理、色補正処理、シャープネス処理等を行うとともに、本発明のホワイトバランス調整処理も行い、処理済みの画像データＰ1を出力することによって、画像補正手段２として機能する。ここで、ホワイトバランス調整処理は、制御部７０が、内部メモリ７９に記憶されているホワイトバランス調整用プログラムを起動し、内部メモリ７９に予め記憶されている数学モデルＭや参照テーブルＴを用いた前述のホワイトバランス調整処理（図４等参照）を画像処理部７３に行わせることによって実現される。

ここで、画像Ｐ1が表示部７８により液晶ディスプレイに表示される。表示レイアウトとしては、図３（ａ）に示したサムネイル形式による複数の画像の表示が考えられる。撮影者は、操作部７６の操作ボタンの操作により、加工対象の画像を選択して拡大表示し、メニュー選択によりさらなる画像の手動補正や加工を行い、処理済みの画像データＰ２を出力する。以上のようにして、画像加工手段３の機能が実現される。

そして、圧縮／伸長部７４が画像データＰ2をＪＰＥＧなどの圧縮形式に基づく圧縮処理を行い、メディア記録部７７経由でこのデジタルカメラに装填されたメモリカードに圧縮後の画像データを書き込むことによって、画像出力手段４の機能が実現される。

このように、本発明のホワイトバランス調整処理をデジタルカメラの画像処理機能として実装することによって、上記のデジタル写真プリンタの場合と同様の効果を得ることができる。

なお、手動補正や加工処理は、メモリカードに一旦記録された画像に対しても行えるようにしてもよい。具体的には、メモリカードに記憶されている画像データを圧縮／伸長部７４が伸長（解凍）した後、伸長済みの画像データによる画像を表示部７８の液晶ディスプレイに表示し、撮影者が、前記と同様の操作によって所望の画像処理を選択し、画像処理部７３が、選択された画像処理を行う。

また、図１１等で説明した被写体の属性別の数学モデルをデジタルカメラに実装してもよいし、図５で示した数学モデルの生成処理を実装してもよい。ここで、個々のデジタルカメラによる撮影の被写体となる人物はある程度限定されることが多いことから、そのデジタルカメラで主に被写体となる人物の顔についての個人別の数学モデルを生成するようにすれば、顔の個人差による変動のないモデルを生成できるため、その人物の顔に対するホワイトバランス調整処理をきわめて高い精度で行うことが可能になる。

上記の実施形態のほか、本発明のホワイトバランス調整処理をパソコン等に行わせるプログラムを、画像編集ソフトウェアに組み込むことも考えられる。これにより、ユーザは、このソフトウェアが記憶されているＣＤ−ＲＯＭ等の記憶媒体からパソコン等にインストールしたり、インターネット上の所定のサイトからこのソフトウェアをダウンロードしてインストールしたりすることによって、自分のパソコンでの画像の編集加工の１パターンとして、本発明のホワイトバランス調整処理を利用することが可能になる。

本発明の実施形態となるデジタル写真プリンタのハードウェア構成を模式的に示した図 本発明の実施形態となるデジタル写真プリンタおよびデジタルカメラの機能と処理の流れを示すブロック図 本発明の実施形態となるデジタル写真プリンタおよびデジタルカメラのディスプレイに表示される画面の一例を示す図 本発明の一態様となるホワイトバランス調整処理の詳細を表すブロック図 本発明における顔画像の数学モデルを生成する処理の流れを表すフローチャート 顔の特徴点の設定例を表す図 顔形状に対する主成分分析によって得られた主成分の固有ベクトルに対する重みづけ係数の値を変化させた場合の顔形状の変化の様子を模式的に表した図 サンプル画像中の顔形状を平均顔形状に変換し、平均顔形状下での輝度の様子を表した図 顔の画素値に対する主成分分析によって得られた主成分の固有ベクトルに対する重みづけ係数の値を変化させた場合の顔の画素値の変化の様子を模式的に表した図 ミックス光源を構成する一光源の照射強度を表す主成分の固有ベクトルに対する重みづけ係数の値を変化させた場合の顔の画素値の変化の様子を模式的に表した図 本発明のホワイトバランス調整処理で用いられる参照テーブルの構成と値の一例を示す図 顔部分における照射範囲が異なる複数の光源下でのサンプル画像の撮影環境を模式的に表した図 ミックス光源を構成する一光源の顔部分における照射範囲を表す主成分の固有ベクトルに対する重みづけ係数の値を変化させた場合の顔の画素値の変化の様子を模式的に表した図 （ａ）ミックス光源を構成する２種類の光源の、画像中の顔部分における照射範囲を模式的に示した図 （ｂ）顔部分における各光源の照射範囲に基づいて、画像全体における各光源の照射範囲を推定した図 （ａ）入力画像中の３人の人物と、各人物の顔部分に対する３種類の光源の照射強度を表す重みづけ係数の値の一例を画像中に示した図 （ｂ）画像の水平方向における各光源の照射強度の分布を示した図 （ａ）入力画像中の複数の人物について、ミックス光源を構成する２種類の光源の画像中の顔部分における照射範囲を模式的に示した図 （ｂ）顔部分における各光源の照射範囲に基づいて、画像全体における各光源の照射範囲を推定した図 （ｃ）画像全体における各光源の照射範囲を曲線で近似した図 本発明の一態様となるホワイトバランス調整処理の発展的態様を表すブロック図 本発明の他の実施形態となるデジタルカメラの構成を模式的に示した図

符号の説明

１ 画像入力手段
２ 画像補正手段
３ 画像加工手段
４ 画像出力手段
３１ 顔検出部
３２ パラメータ取得部
３３ ホワイトバランス調整部
３４ 属性取得部
３５ モデル選択部
５１ フィルムスキャナ
５２ フラットヘッドスキャナ
５３ メディアドライブ
５４ ネットワークアダプタ
５５ ディスプレイ
５６ キーボード
５７ マウス
５８ ハードディスク
５９ 写真プリント出力機
７０ 制御部
７１ 撮像部
７２ Ａ／Ｄ変換部
７３ 画像処理部
７４ 圧縮／伸長部
７５ ストロボ部
７６ 操作部
７７ メディア記録部
７８ 表示部
７９ 内部メモリ

Claims (11)

1. 複数の光源による異なる光源条件下における所定の構造物が表された複数の画像に対して所定の統計処理を行うことによって得られた、前記光源条件を表す１以上の統計的特徴量を含む１以上の統計的特徴量と、前記構造物の個別の特徴に応じて該統計的特徴量に対する重みづけをする重みづけパラメータとによって、前記構造物を表現するモデルに、複数の光源による光源条件下で撮像された入力画像中の前記構造物を適応させることによって、該入力画像中の前記構造物における前記光源条件を表す統計的特徴量に対する重みづけパラメータを取得し、
   取得された前記重みづけパラメータの値に基づいて、少なくとも前記入力画像中の前記構造物の領域のホワイトバランスを調整することを特徴とする画像処理方法。
2. 複数の光源による異なる光源条件下における所定の構造物が表された複数の画像に対して所定の統計処理を行うことによって得られた、前記光源条件を表す１以上の統計的特徴量を含む１以上の統計的特徴量と、前記構造物の個別の特徴に応じて該統計的特徴量に対する重みづけをする重みづけパラメータとによって、前記構造物を表現するモデルに、複数の光源による光源条件下で撮像された入力画像中の前記構造物を適応させることによって、該入力画像中の前記構造物における前記光源条件を表す統計的特徴量に対する重みづけパラメータを取得するパラメータ取得手段と、
   該パラメータ取得手段によって取得された前記重みづけパラメータの値に基づいて、少なくとも前記入力画像中の前記構造物の領域のホワイトバランスを調整するホワイトバランス調整手段とを備えたことを特徴とする画像処理装置。
3. 前記ホワイトバランス調整手段が、ホワイトバランスの調整が行われる領域において、該調整を行わない領域に近づくにつれて該調整の度合が小さくなるように、ホワイトバランスの調整を行うものであることを特徴とする請求項２記載の画像処理装置。
4. 前記光源条件が、前記複数の光源の各々が前記構造物を照射する照射範囲を表すものであり、
   前記ホワイトバランス調整手段が、前記光源毎の前記構造物に対する照射範囲に対して、該光源に応じたホワイトバランスの調整を行うとともに、前記光源毎の前記構造物に対する照射範囲に基づいて、前記入力画像中の前記構造物以外の周辺領域に対する前記光源毎の照射範囲を推定し、推定された前記周辺領域に対する前記光源毎の照射範囲に対して、該光源に応じたホワイトバランスの調整を行うものであることを特徴とする請求項２記載の画像処理装置。
5. 前記ホワイトバランス調整手段が、前記複数の光源の各々に応じたホワイトバランスの調整を行う際に、該調整を行わない領域に近づくにつれて該調整の度合が小さくなるように、ホワイトバランスの調整を行うものであることを特徴とする請求項４記載の画像処理装置。
6. 前記入力画像が、複数の前記構造物を含むものであり、
   前記パラメータ取得手段が、前記構造物の各々について、前記光源条件を表す統計的特徴量に対する重みづけパラメータを取得するものであり、
   前記ホワイトバランス調整手段が、前記構造物の領域の各々のホワイトバランスを調整するとともに、取得された前記重みづけパラメータによって表される前記構造物の各々の位置における前記光源条件に基づいて、前記入力画像中の前記構造物以外の周辺領域の光源条件を推定し、推定された光源条件に応じて該周辺領域のホワイトバランスを調整するものであることを特徴とする請求項２から５のいずれか１項記載の画像処理装置。
7. 前記ホワイトバランス調整手段が、前記パラメータ取得手段によって取得された前記光源条件を表す統計的特徴量に対する重みづけパラメータに基づいて、前記構造物に隣接する該構造物と同じ色の領域に対してもホワイトバランスの調整を行うものであることを特徴とする請求項２記載の画像処理装置。
8. 前記入力画像中の前記構造物を検出する検出手段をさらに備え、
   前記パラメータ取得手段が、前記モデルに、検出された前記構造物を適応させることによって、前記重みづけパラメータを取得するものであることを特徴とする請求項２から７のいずれか１項記載の画像処理装置。
9. 前記入力画像中の前記構造物の属性を取得し、前記所定の構造物の属性毎に該構造物が表現された複数の前記モデルから、取得された属性に応じた前記モデルを選択する選択手段をさらに備え、
   前記パラメータ取得手段が、選択されたモデルに前記構造物を適応させることによって、前記重みづけパラメータを取得するものであることを特徴とする請求項２から８のいずれか１項記載の画像処理装置。
10. 前記所定の構造物が人間の顔であることを特徴とする請求項２から９のいずれか１項記載の画像処理装置。
11. コンピュータに、
    複数の光源による異なる光源条件下における所定の構造物が表された複数の画像に対して所定の統計処理を行うことによって得られた、前記光源条件を表す１以上の統計的特徴量を含む１以上の統計的特徴量と、前記構造物の個別の特徴に応じて該統計的特徴量に対する重みづけをする重みづけパラメータとによって、前記構造物を表現するモデルに、複数の光源による光源条件下で撮像された入力画像中の前記構造物を適応させることによって、該入力画像中の前記構造物における前記光源条件を表す統計的特徴量に対する重みづけパラメータを取得するパラメータ取得手段と、
    該パラメータ取得手段によって取得された前記重みづけパラメータの値に基づいて、少なくとも前記入力画像中の前記構造物の領域のホワイトバランスを調整するホワイトバランス調整手段として機能させることを特徴とする画像処理プログラム。

Images