JP2007195097A - 撮像装置、画像処理方法、及び画像処理プログラム - Google Patents

Abstract

【課題】画像データからより高精度に撮影シーンを判別することによって、主要被写体のオーバー、アンダー露光、順光、逆光シーンなどに応じた、より適切な補正処理を達成し、より適切な補正画像を得ることができる撮像装置、画像処理方法、及び画像処理プログラムを提供する。
【解決手段】背景にある肌色近似の画素を誤抽出することもなく、主要被写体である顔を適切に抽出し、画像のシーン判別のための指標算出に利用することにより、画像データからより高精度に撮影シーンを判別することができ、また主要被写体のオーバー、アンダー露光、順光、逆光シーンなどのシーン判別結果に応じた、より適切な補正処理を達成することができる。
【選択図】図１５

Description

本発明は、撮影画像の画像処理を行う撮像装置、画像処理方法、及び画像処理プログラムに関する。

近年デジタルスチルカメラ（携帯電話やラップトップパソコン等の機器に組み込まれたものも含み、以下ＤＳＣと略称する）が広く普及し、従来のカラー写真フィルムのシステムと同様に、ハードコピー画像として出力したり、ＣＲＴ等の媒体に表示したり、ＣＤ−Ｒ（ＣＤ−Ｒｅｃｏｒｄａｂｌｅ）等の記録媒体に記録するシステムが広く利用されている。

しかし、ＤＳＣなどで撮影された画像を、上記のように種々の媒体を通じて画像として鑑賞するに当たっては、撮影時の露出調整の不備等により、一般的にそのままでは鑑賞用画像として適切な画像を得ることはできない場合が多い。つまり、適正な鑑賞用の画像とするためには、撮影時の露出の過不足を補うために、適当な画像の階調補正処理が行われることが望ましい。

またそれ以外にも、例えば、逆光状態での撮影や、フラッシュを使用した近接撮影など、撮影時の光源状態の影響で、画像内で大きな輝度の偏りが生じている場合には、そのままでは鑑賞目的として適切な画像とはいえず、何らかの補正処理を行うことが望ましい。

このような問題点を解決するために、従来より階調変換処理などの補正処理が行われている。例えば、アンダーやオーバーの露光に対して、平均輝度を補正する変換処理に加えて、画像中に輝度の偏りの大きい大領域が生ずる場合には、判別分析や重回帰分析により補正値を算出して変換処理するなどの方法が行われたりしている。

しかしながら、こういった判別回帰分析方法では、例えば、フラッシュ近接撮影と、逆光シーンでの撮影とで算出される補正値が類似しているなど、撮影シーンを適切に判別した上での補正処理を行うことが困難な場合があった。

上記のような補正方法に代わる方法として、画像中の輝度値の分布を用いて適切な補正値を求める方法が提案されている（例えば、特許文献１参照）。また画像中の顔領域候補を抽出し、その平均輝度の偏りの大きさからシーン判別する方法が提案されている（例えば、特許文献２参照）。

特許文献１では、画像中の輝度の累積画素数（頻度数）を示すヒストグラムから、高輝度領域と低輝度領域を削除し、さらに頻度数を制限して、輝度平均を算出し、基準輝度との差分値から補正値を求めている。

また、特許文献２では、色相彩度のヒストグラムやパターンマッチングなどによる顔領域の候補を抽出し、その平均輝度の画像全体に対する偏りを算出し、偏りが大きい場合には、一次元の濃度ヒストグラムに基づき、逆光シーンと近接フラッシュ撮影とを判別している。

また、一般的な画像では人物が被写体に含まれることが多く、特に最も注目されるのは顔であることに着目し、画像情報の内、肌色画素の情報に基づいた画像補正を行う方法が開発されている（例えば、特許文献３参照）。

特許文献３では、デジタル画像中から、肌色画素を抽出し、肌色画素の統計量に基づいて算出された階調変換量をデジタル画像に適用することで、画像の明度を改善する方法が提案されている。
特開２００２−２４７３９３号公報 特開２０００−１４８９８０号公報 特開２００３−１０８９８８号公報

特許文献１に記載の技術は、肌色画素逆光シーンや近接フラッシュ撮影での輝度の偏りの大きい領域の影響は低減されるが、例えば人物を主要被写体とする撮影シーンなどでは、顔領域の輝度が十分に適切な値には補正しきれないなどという問題がある。

また特許文献２に記載の技術では、典型的な逆光シーンや近接フラッシュ撮影では顔領域の特定を補償する効果を達成できるが、典型的な構図に当てはまらないと、補償効果が得られなくなるという問題がある。

また特許文献３に記載の技術では、人物の顔を適正な明るさにする効果はあるものの、画像中の顔の数やその位置の多様さに対応するために、肌色条件を広めに設定し肌色画素を抽出する必要がある。そのため、肌以外の対象を抽出し、返って好ましくない画像補正を行ってしまうこともある。

本発明の目的は、上記の課題を解決し、背景にある肌色近似の画素を誤抽出することもなく、主要被写体である顔を適切に抽出することで、画像データからより高精度に撮影シーンを判別することができ、主要被写体のオーバー、アンダー露光、順光、逆光シーンなどに応じて、より適切な補正処理を達成し、より適切な補正画像を得ることができる撮像装置、画像処理方法、及び画像処理プログラムを提供することである。

本発明は上記の課題を解決するために、以下の特徴を有するものである。

１． 撮影レンズを透過した光を受光した複数の検出エリアからの出力信号に基づいて、前記複数の検出エリアから合焦エリアを選定するＡＦ制御手段と、前記ＡＦ制御手段により選定された合焦エリアにおいてフォーカスされた画像を、撮影によって第１の画像として取得する第１の画像取得手段と、前記第１の画像から画像サイズを縮小した第２の画像を取得する第２の画像取得手段と、前記第２の画像に基づき撮影シーンの判別処理を行うシーン判別処理手段と、前記シーン判別処理手段によって得られたシーン判別結果に基づき、前記第１の画像に対する階調処理条件を設定する階調処理条件設定手段と、を有し、前記シーン判別処理手段はさらに、前記第２の画像の前記合焦エリアに相当する画素の近傍画素の色情報に基づいて、前記第２の画像を解析し、シーンの判別処理を行う、ことを特徴とする撮像装置。

２． 前記シーン判別処理手段は、前記第２の画像の画像データについて色情報を取得し、前記第２の画像の前記合焦エリアに相当する画素の近傍画素のうち、第１の肌色条件を満たす画素の色情報に基づいて、第２の肌色条件を算出し、前記第２の画像の画像データを複数の色相領域に分割するための、前記第２の肌色条件を満たす色相とその他の色相とを決定する分割色相決定手段と、前記第２の画像の画像データの色情報に基づいて、前記画像データを所定の明度と前記分割色相決定手段により決定された色相との組み合わせからなる階級に分類し、当該分類された階級ごとに、前記画像データ全体に占める割合を示す第１の占有率を算出する第１の占有率算出手段と、取得された前記色情報に基づいて、前記画像データを画面の外縁からの距離と明度の組み合わせからなる階級に分類し、当該分類された階級ごとに、前記画像データ全体に占める割合を示す第２の占有率を算出する第２の占有率算出手段と、前記第１の占有率に予め設定された第１の係数を乗算することにより、指標１を算出する第１の指標算出手段と、前記第１の占有率に予め設定された第２の係数を乗算することにより、指標２を算出する第２の指標算出手段と、前記第２の占有率に予め設定された第３の係数を乗算することにより、指標３を算出する第３の指標算出手段と、少なくとも前記画像データの画面中央部における肌色の平均輝度に、予め設定された第４の係数を乗算することにより、指標４を算出する第４の指標算出手段と、前記指標１、前記指標２、前記指標３、及び前記指標４に基づいて、前記画像データのシーンを特定するシーン判別手段と、を有する、ことを特徴とする１に記載の撮像装置。

３． 前記階調処理条件設定手段は、前記第２の画像に基づき階調調整パラメータを算出する階調調整パラメータ算出手段を有し、前記シーン判別処理手段によるシーン判別結果と前記階調調整パラメータ算出手段により算出された前記階調調整パラメータとに基づき、前記第１の画像に対する階調処理条件を設定する、ことを特徴とする１または２に記載の撮像装置。

４． 前記階調処理条件設定手段により設定された階調処理条件に基づき、前記第１の画像に対する階調変換処理を行う階調変換処理手段を有する、ことを特徴とする１乃至３の何れか１項に記載の撮像装置。

５． 撮影レンズを透過した光を受光した複数の検出エリアからの出力信号に基づいて、前記複数の検出エリアから合焦エリアを選定するＡＦ制御工程と、前記ＡＦ制御工程で選定された合焦エリアにおいてフォーカスされた画像を、撮影によって第１の画像として取得する第１の画像取得工程と、前記第１の画像から画像サイズを縮小した第２の画像を取得する第２の画像取得工程と、前記第２の画像に基づき撮影シーンの判別処理を行うシーン判別処理工程と、前記シーン判別処理工程によって得られたシーン判別結果に基づき、前記第１の画像に対する階調処理条件を設定する階調処理条件設定工程と、を備え、前記シーン判別処理工程ではさらに、前記第２の画像の前記合焦エリアに相当する画素の近傍画素の色情報に基づいて、前記第２の画像を解析し、シーンの判別処理を行う、ことを特徴とする画像処理方法。

６． 前記シーン判別処理工程は、前記第２の画像の画像データについて色情報を取得し、前記第２の画像の前記合焦エリアに相当する画素の近傍画素のうち、第１の肌色条件を満たす画素の色情報に基づいて、第２の肌色条件を算出し、前記第２の画像の画像データを複数の色相領域に分割するための、前記第２の肌色条件を満たす色相とその他の色相とを決定する分割色相決定工程と、前記第２の画像の画像データの色情報に基づいて、前記画像データを所定の明度と前記分割色相決定手段により決定された色相との組み合わせからなる階級に分類し、当該分類された階級ごとに、前記画像データ全体に占める割合を示す第１の占有率を算出する第１の占有率算出工程と、取得された前記色情報に基づいて、前記画像データを画面の外縁からの距離と明度の組み合わせからなる階級に分類し、当該分類された階級ごとに、前記画像データ全体に占める割合を示す第２の占有率を算出する第２の占有率算出工程と、前記第１の占有率に予め設定された第１の係数を乗算することにより、指標１を算出する第１の指標算出工程と、前記第１の占有率に予め設定された第２の係数を乗算することにより、指標２を算出する第２の指標算出工程と、前記第２の占有率に予め設定された第３の係数を乗算することにより、指標３を算出する第３の指標算出工程と、少なくとも前記画像データの画面中央部における肌色の平均輝度に、予め設定された第４の係数を乗算することにより、指標４を算出する第４の指標算出工程と、前記指標１、前記指標２、前記指標３、及び前記指標４に基づいて、前記画像データのシーンを特定するシーン判別工程と、を備える、ことを特徴とする５に記載の画像処理方法。

７． 前記階調処理条件設定工程は、前記第２の画像に基づき階調調整パラメータを算出する階調調整パラメータ算出工程を備え、前記シーン判別処理工程におけるシーン判別結果と前記階調調整パラメータ算出工程において算出された前記階調調整パラメータとに基づき、前記第１の画像に対する階調処理条件を設定する、ことを特徴とする５または６に記載の画像処理方法。

８． 前記階調処理条件設定工程において設定された階調処理条件に基づき、前記第１の画像に対する階調変換処理を行う階調変換処理工程を備える、ことを特徴とする５乃至７の何れか１項に記載の画像処理方法。

９． コンピュータに画像処理を実行させるための画像処理プログラムであって、撮影レンズを透過した光を受光した複数の検出エリアからの出力信号に基づいて、前記複数の検出エリアから合焦エリアを選定するＡＦ制御機能と、前記ＡＦ制御機能により選定された合焦エリアにおいてフォーカスされた画像を、撮影によって第１の画像として取得する第１の画像取得機能と、前記第１の画像から画像サイズを縮小した第２の画像を取得する第２の画像取得機能と、前記第２の画像に基づき撮影シーンの判別処理を行うシーン判別処理機能と、前記シーン判別処理機能によって得られたシーン判別結果に基づき、前記第１の画像に対する階調処理条件を設定する階調処理条件設定機能と、を有し、前記シーン判別処理機能はさらに、前記第２の画像の前記合焦エリアに相当する画素の近傍画素の色情報に基づいて、前記第２の画像を解析し、シーンの判別処理を行う、ことを特徴とする画像処理プログラム。

１０． 前記シーン判別処理機能は、前記第２の画像の画像データについて色情報を取得し、前記第２の画像の前記合焦エリアに相当する画素の近傍画素のうち、第１の肌色条件を満たす画素の色情報に基づいて、第２の肌色条件を算出し、前記第２の画像の画像データを複数の色相領域に分割するための、前記第２の肌色条件を満たす色相とその他の色相とを決定する分割色相決定機能と、前記第２の画像の画像データの色情報に基づいて、前記画像データを所定の明度と前記分割色相決定機能により決定された色相との組み合わせからなる階級に分類し、当該分類された階級ごとに、前記画像データ全体に占める割合を示す第１の占有率を算出する第１の占有率算出機能と、取得された前記色情報に基づいて、前記画像データを画面の外縁からの距離と明度の組み合わせからなる階級に分類し、当該分類された階級ごとに、前記画像データ全体に占める割合を示す第２の占有率を算出する第２の占有率算出機能と、前記第１の占有率に予め設定された第１の係数を乗算することにより、指標１を算出する第１の指標算出機能と、前記第１の占有率に予め設定された第２の係数を乗算することにより、指標２を算出する第２の指標算出機能と、前記第２の占有率に予め設定された第３の係数を乗算することにより、指標３を算出する第３の指標算出機能と、少なくとも前記画像データの所定の部分における肌色の平均輝度に、予め設定された第４の係数を乗算することにより、指標４を算出する第４の指標算出機能と、前記指標１、前記指標２、前記指標３、及び前記指標４に基づいて、前記画像データのシーンを特定するシーン判別機能と、を有する、ことを特徴とする９に記載の画像処理プログラム。

１１． 前記階調処理条件設定機能は、前記第２の画像に基づき階調調整パラメータを算出する階調調整パラメータ算出機能を有し、前記シーン判別処理機能によるシーン判別結果と前記階調調整パラメータ算出機能により算出された前記階調調整パラメータとに基づき、前記第１の画像に対する階調処理条件を設定する、ことを特徴とする９または１０に記載の画像処理プログラム。

１２． 前記階調処理条件設定機能により設定された階調処理条件に基づき、前記第１の画像に対する階調変換処理を行う階調変換処理機能を有する、ことを特徴とする９乃至１１の何れか１項に記載の画像処理プログラム。

本発明によれば、背景にある肌色近似の画素を誤抽出することもなく、主要被写体である顔を適切に抽出し、画像のシーン判別のための指標算出に利用することにより、画像データからより高精度に撮影シーンを判別することができ、また主要被写体のオーバー、アンダー露光、順光、逆光シーンなどのシーン判別結果に応じて、より適切な補正処理を達成し、より適切な補正画像を得ることのできる撮像装置、画像処理方法、及び画像処理プログラムが提供できる。

以下、図面を参照して、本発明の実施形態を説明する。まず、本実施形態に係る撮像装置の構成例について説明する。

（撮像装置１の構成）
図１（ａ）に、本発明の実施形態に係る撮像装置１の前面図を示し、図１（ｂ）に、撮像装置１の背面図を示す。撮像装置１は、例えば、デジタルカメラであり、金属または合成樹脂等の材料で構成された筐体２１の内部または表面に、十字キー２２、撮影光学系２３、フラッシュ２４、ファインダ２５、電源スイッチ２６、表示部２７、レリーズボタン２８が設けられている。

図２に、撮像装置１の内部構成を示す。撮像装置１は、図２に示すように、プロセッサ３１、メモリ３２、ＣＣＤ（Ｃｈａｒｇｅ Ｃｏｕｐｌｅｄ Ｄｅｖｉｃｅ）等の撮像素子３３、多点ＡＦセンサ３４、撮影光学系２３、タイミングジェネレータ４１、シャッタユニット４２、絞りユニット４３、フォーカスユニット４４、表示部２７、操作部３８、画像データ出力部３７により構成される。またプロセッサ３１には、撮影制御や撮影画像の処理を行う撮影処理部２０と画像処理を行う画像処理部１０がある。

十字キー２２は、上下左右の４方向のボタンからなり、ユーザが種々のモードを選択または設定するためのものである。

撮影光学系２３は、複数のレンズ、鏡胴等によって構成され、ズーム機能を有している。撮影光学系２３は、レンズが受光した光を撮像素子３３に結像させる。またその一部は、多点ＡＦセンサ３４に結像する。フラッシュ２４は、被写体輝度が低い時に、プロセッサ３１からの制御信号により補助光を照射する。

ファインダ２５は、ユーザが接眼して撮影対象及び撮影領域を確認するためのものである。電源スイッチ２６は、撮像装置１における動作のＯＮ／ＯＦＦを操作するためのスイッチである。

表示部２７は、液晶パネルにより構成され、プロセッサ３１から入力される表示制御信号に従って、撮像素子３３に現在写っている画像、過去に撮影した画像、メニュー画面、設定画面等を表示する。

レリーズボタン２８は、筐体２１の上面に設けられており、ユーザによる半押し状態（予備撮影）と全押し状態（本撮影）とを区別して検出可能な２段階押し込みスイッチである。

メモリ３２は、撮影によって得られた画像データを記憶（保存）する。また、メモリ３２は、撮像装置１において実行される各種処理プログラム及び当該処理プログラムで利用されるデータ等を記憶する。

画像データ出力部３７は、保存用の記録媒体（ＳＤメモリカードまたはマルチメディアカード（ＭＭＣ）等）にメモリ３２内の画像データを転送、記録する、あるいは外部装置へ転送する。画像データ出力部３７はプロセッサ３１により制御される。

撮像素子３３は、結像された光を電荷に変換する。これにより、例えば、図１４（ａ）に示すような画像データが得られる。この画像には、撮像範囲（撮影範囲）にある物、すなわち、撮影対象物（撮影の目標物）とそれ以外の物（背景）とが含まれている。この全体画像の各画素のＲＧＢ値は、例えば、２５６階調で表される。

多点ＡＦセンサ３４は、同じく結像された光を電荷に変換し、撮影処理部２０にデータを渡す。撮影処理部２０内のＡＦ制御部５２でＡＦ制御のために用いられる。ＡＦ制御については後述する。

シャッタユニット４２は、レリーズボタン２８によって検出された状態（半押し状態または全押し状態）に基づいて撮像素子３３をリセットするタイミング及び電荷変換を行うタイミングなどを制御する。タイミングの制御はタイミングジェネレータ４１により行われる。シャッタユニット４２による露光量制御については後述する。

撮像素子３３が受光する光量の調節は、絞りユニット４３及び／またはシャッタユニット４２によって行われる。フォーカスユニット４４は、撮影光学系２３を駆動させ撮影被写体に対して焦点を合わせる制御動作を実行する。

（撮影処理部２０の内部構成）
図３に、撮影処理部２０の内部構成を示す。撮影処理部２０は、撮影時に撮影条件に関わる制御や、撮影された画像の処理を行う。図３を用いて、撮影処理部２０の内部構成を説明する。

図３に示すように、撮影処理部２０は、撮影条件に関わるＡＥ制御部５１、ＡＦ制御部５２、そして撮影された画像に対して画像処理を行う画素補間部５３、ＡＷＢ制御部５４、ガンマ補正部５５などにより構成される。

ＡＥ制御部５１は、画像撮影時にその露光量の自動制御を行う。通常、撮影待機時の露光量制御は、絞り開放でシャッタ速度を制御することによって行われ、撮影時の露光量は絞りとシャッタ速度とで制御される。

ＡＥ制御部５１における撮影待機時の露光量制御は、例えば以下のように行われる（図４（ａ）のフローチャート参照）。

まず絞りユニット４３により、絞りが開放固定絞りに設定される（ステップＳ１１１）。ＡＥ制御部５１により、撮像素子３３によって得られた画像データから所定の測光エリアのデータが読み出され（ステップＳ１１２）、輝度値に相当する情報が取得される（ステップＳ１１３）。この輝度値に相当する情報は、ＡＥ制御のための情報として用いられ、簡易的にＲＧＢ３色成分のうちのＧ値が用いられることが多い（以下これを輝度情報Ｇと呼ぶ）。この輝度情報Ｇに応じて撮像素子３３の次のフレームにおける電荷蓄積時間が設定され（ステップＳ１１４）、タイミングジェネレータ４１により、所定の輝度レベルとなるように、次のフレームにおける電荷蓄積時間が制御される（ステップＳ１１７）。これがシャッタ速度の制御であり、電荷が蓄積される様子を図５に示す。すなわち、取得した輝度レベルが大きい（明るい）ときは電荷蓄積時間が短くなり、輝度レベルが小さい（暗い）ときは電荷蓄積時間が長くなることで、露光量を安定させる。

このように撮影待機時の露光量制御が行われることで、撮影者は液晶などの表示部２７で露光量制御されたライブビュー画像を観察することができる。

ＡＥ制御部５１における実際の撮影時の露光量制御は、上記のシャッタ速度制御に加えて、絞りの制御も行われる（図４（ｂ）のフローチャート参照）。上記同様（ステップＳ１１２、Ｓ１１３）に得られた測光エリアの輝度情報Ｇに応じて、絞りユニット４３が制御され、絞り値が設定される（ステップＳ１１６）。すなわち、取得した輝度レベルが大きい（明るい）ときは絞り値を小さくし、輝度レベルが小さい（暗い）ときは絞り値を大きくすることで、露光量を安定させる。シャッタ速度と組み合わせての調節レベルは、予め定められたプログラム線図のデータに基づき、例えば、撮像素子３３の電荷蓄積時間が絞り値に応じて調整されるなどの制御が行われる（ステップＳ１１５、Ｓ１１７）。

このように撮影時に露光量制御が行われることで、撮影者は任意の、あるいは既定の、絞り値とシャッタ速度の組み合わせで、撮影画像に対する露光量設定を自動的に行うことができる。

ＡＦ制御部５２は、画像撮影時に画像の焦点を合わせる自動制御を行う。この合焦点制御は、例えば以下のように撮影光学系２３を駆動することで合焦点位置を検知し、その位置に合わせて停止させることで行われる。

まず、撮像素子３３によって得られた画像データに基づいて、所定の検出エリア（以下、測距エリアという）での合焦点操作を行う一般的な場合を説明する（図６のフローチャート参照）。

撮影光学系２３の駆動が開始されると（ステップＳ１２１）、その駆動に伴い逐次、ＡＦ制御部５２は、撮像素子３３によって得られた画像データから所定の測距エリアのデータを読み出し（ステップＳ１２２）、このデータに応じてコントラスト情報を取得する（ステップＳ１２３）。これは、合焦点位置に達したかどうかを検知するためであり、次のように判定される。すなわち、コントラスト情報は、測距エリアのデータの各隣接画素間の差を取ることにより、エッジ部のシャープさに依存するように設定、算出されるものであり、測距エリア全体での総和が最大に達した状態が合焦点と判断される（ステップＳ１２４、Ｓ１２５）。合焦点位置でないと判断された場合は、撮影光学系２３の移動が継続される（ステップＳ１２６）。

撮影光学系２３の移動に伴うコントラスト情報の変化と合焦点位置検出の様子を図７に示す。上記動作は、光学系を駆動しながら逐次コントラスト情報を取得して、合焦点位置を求めるという測距演算が行われたものであり、その焦点距離に合わせて撮影光学系２３は停止される（ステップＳ１２７）。

このようなＡＦ制御により、撮影時に常に自動的にピントのあった撮影画像を得ることができる。

ＡＦ制御には、上述のように撮像素子３３によって得られた画像データを用いて合焦点操作を行う場合以外に、別途ＡＦセンサを設けてＡＦ制御のための測距を行う場合もある。また、予め測距エリアが定められているのではなく、被写体に応じて、測距演算によるその被写体との距離情報などに基づき、複数の測距エリアの中から焦点を合わせるべき合焦エリアを選択する場合もある。本実施形態では多点ＡＦセンサ３４を用いて合焦エリアを選択するが、その詳細については後述する。

画素補間部５３は、撮像素子３３におけるＲＧＢ各色成分を分散配置したＣＣＤ配列に対して、各色成分ごとに画素間の補間を行い、同一画素位置で各色成分値が得られるように画像データを処理する（図８のフローチャート参照）。

画素補間部５３は、撮像素子３３によって得られたＲＧＢ画像データ（ステップＳ１４１）をＲＧＢの各画素フィルタパターンでマスキングし（ステップＳ１４２、Ｓ１４４、Ｓ１４６）、その後で平均補間（画素補間ともいう）を行う（ステップＳ１４３、Ｓ１４５、Ｓ１４７）。このうち、高帯域にまで画素を有するＧの画素フィルタパターンは、周辺４画素の中間２値の平均値に置換して平均補間を行うメディアン（中間値）フィルタであり、ＲとＢの画素フィルタパターンは、周辺９画素から同色に対して平均補間を行うものである。

ＡＷＢ制御部５４は、撮影画像におけるホワイトバランスを自動的に調整する。撮影された画像は、その中にＲＧＢのカラーバランスがとれている（総和すればホワイト）被写体領域があるものという想定で、その領域のホワイトバランスを達成するように、画像のＲＧＢの各成分値に対するレベル調整を行う。このホワイトバランス処理は、例えば以下のように行われる（図９のフローチャート参照）。

ＡＷＢ制御部５４は、撮像素子３３によって得られた画像データの輝度や彩度のデータから（ステップＳ１３１）、本来ホワイトであると思われる領域を推測する（ステップＳ１３２）。その領域について、ＲＧＢ各成分値の平均強度、及びＧ／Ｒ比、Ｇ／Ｂ比を求め、Ｇ値に対するＲ値、Ｂ値の補正ゲインを算出する（ステップＳ１３３、Ｓ１３４）。これに基づき、画像全体における各色成分に対するゲインの補正を行う（ステップＳ１３５）。

このようなＡＷＢ制御により、撮影時に生ずる画面全体のカラーバランスの崩れを自動的に補正することができ、実際の被写体の照明状態に拘わらず、安定した色調の画像を得ることができる。

ガンマ補正部５５は、撮影画像の階調性を出力機器の特性に適するように変換する処理を行う。

ガンマ特性とは階調特性のことであり、入力階調に対してどのように出力階調を設定するかを補正値あるいは補正曲線などで示すものである。図１０に入力値に対して、補正した出力値を示す補正曲線の例を示す。ガンマ補正は、この補正値あるいは補正曲線などに従い、入力値に対する出力値への変換を行う変換処理となる。出力機器によってこの階調特性は異なるため、その出力機器に適した階調とするために、このガンマ特性の補正を行う必要がある。これにより撮影されたリニア画像はノンリニア画像に変換されることになる。

出力機器としては一般的にはモニタが設定され、一般的なモニタのガンマ特性に合うように撮影画像のガンマ補正は行われる。

（ＡＦ制御時の合焦エリアの選定動作）
ＡＦ制御時に行われる合焦エリアの選定動作について、図１１を用いて説明する。図１１は、多点ＡＦセンサ３４の配置図である。

図１１において、多点ＡＦセンサは、Ａ、Ｂ１、Ｂ２、Ｃ１、Ｃ２、そしてＤ１〜Ｄ４の９個のセンサからなる。多点ＡＦセンサはマルチＡＦセンサとも呼ばれ、それぞれが独立した測距機能を有し、それぞれの測距エリアを代表する。本実施形態では、図１１のように配置した９個のセンサからなるが、センサの数や配置については、目的に応じて適切に選定すればよい。

撮像される画面６０に対して各センサは図１１のように配置され、それぞれが代表する測距エリアに対して合焦するための被写体距離情報を求め、その情報に基づきどの測距エリアで合焦するべきか、すなわち合焦エリアの選定がＡＦ制御部５２で行われる。従ってＡＦ制御部５２は、ＡＦ制御手段として機能する。

合焦エリアは予め定められている場合もあるが、本実施形態では、ＡＦセンサ３４を用いて複数の測距エリアから合焦エリアを選定する。その意図は、撮影時にフォーカスしたい主要被写体（人間など）の画面内での位置が、場合によって異なることがあるため、その主要被写体の画面内での位置に応じて、画面内に配置したどの測距エリアを合焦エリアとするかを定めることである。

主要被写体の位置に合焦エリアを合わせるために、各測距エリアでの被写体との距離情報を用いるが、合焦エリアの選定方法については後述する。

図１２は、多点ＡＦセンサ３４を用いた合焦エリアの選定を含むＡＦ制御の流れを示すフローチャートである。図１２を用いてＡＦ制御時の合焦エリアの選定動作を説明する。

図１２に示した処理全体は、ＡＦ制御工程として機能する、すなわちＡＦ制御機能であり、ＡＦ制御部５２が撮影光学系２３及びフォーカスユニット４４等を制御して実行する。図１２のフローのステップＳ１５１からステップＳ１５７において合焦エリアの選定動作を行い、ステップＳ１５８で選択された合焦エリアにおいてフォーカスするように撮影光学系２３を移動する。

図１２において、ＡＦ制御の処理が開始されると、撮影光学系２３がリセット状態（通常は無限遠の被写体にフォーカスする光学系位置）になり、駆動が開始される（ステップＳ１５１）。その駆動に伴い逐次、ＡＦ制御部５２は、図１１のように配置されたそれぞれのＡＦセンサ毎にそれぞれの測距エリア毎のデータを読み出し（ステップＳ１５２）、このデータに応じて、それぞれの測距エリア毎の、その光学系位置でのコントラスト情報を取得する（ステップＳ１５３）。

これは、それぞれの測距エリア毎に合焦点位置に達したかどうかを検知するためであり、次のように判定される。すなわち、それぞれの測距エリア毎のコントラスト情報は、それぞれの測距エリアのデータの各隣接画素間の差を取ることにより、エッジ部のシャープさに依存するように設定、算出されるものであり、それぞれの測距エリア全体での総和が最大に達した状態（光学系位置）がそれぞれの測距エリアでの合焦点と判断される。すなわち、それぞれの測距エリア毎の合焦点までの光学系駆動量（デフォーカス量）に基づいて、それぞれの測距エリアでの被写体との距離情報が得られる。

ステップＳ１５４では、その時点の光学系位置でのコントラスト情報が記憶され、ステップＳ１５５では撮影光学系２３の駆動が終了（撮影可能な最近接距離にフォーカスする光学系位置まで移動）したかどうかが判定される。撮影光学系２３の駆動が終了の場合（ステップＳ１５５：ＹＥＳ）は、ステップＳ１５７が実行される。撮影光学系２３の駆動が終了していない場合（ステップＳ１５５：ＮＯ）は、撮影光学系２３の移動が継続され（ステップＳ１５６）、ステップＳ１５２からの処理が、撮影光学系２３の駆動が終了するまで繰り返される。

撮影光学系２３の移動に伴うコントラスト情報の変化と合焦点位置検出の様子は既に図７に示した通りである。

上記動作は、撮影光学系２３を移動しながら逐次コントラスト情報を取得して、合焦点位置を求めるという測距演算が、それぞれの測距エリア毎に行われたものであり、そのそれぞれの測距エリア毎の合焦点位置に対応する光学系駆動量により、それぞれの測距エリア毎のデフォーカス量が算出される（ステップＳ１５７）。このデフォーカス量は、それぞれの測距エリア毎の被写体との距離情報を表す。

それぞれの測距エリア毎の被写体との距離情報が求められると、ステップＳ１５８で、各測距エリアの中から焦点を合わせるべき合焦エリアが選定される。すなわち画面内での主要被写体の位置が推定され、それに対応する測距エリアが合焦エリアとして選定される。

画面内で二次元的に分布した距離情報から主要被写体の位置を推定する方法は様々に考案されており、公知の技術を使用することができる。通常、主要被写体は画面中央に位置することが多いこと、主要被写体は背景と比べて撮像装置との距離が近い場合が多いこと、しかし対象物の距離が近すぎたり、近くても端部に位置したり、その対象物が小さすぎるときは、主要被写体とは考えにくいこと、などの被写体距離に関わる経験則などを用いた選定アルゴリズムが開発されている。

また主要被写体は人間であることが多いことから、人間を判別する他の情報をも合わせて用いることで、画面内の人間の位置に合わせて測距エリアを選定する技術も考案されている。例えば、肌の色や、顔としての特徴などを用いて判別するなどの手法を合わせて用いたりもされている。

合焦エリアが選定されると、その合焦エリアのデフォーカス量（その測距エリアでの合焦点位置までの光学系駆動量であり、被写体との距離情報を表す）に従って、撮影光学系２３を駆動し、その合焦エリアで被写体にフォーカスして（ステップＳ１５９）、ＡＦ制御処理を終了する。

またこの選定された合焦エリアは、上記のように撮影時に焦点を合わせるだけでなく、本実施形態においては、合焦エリアの位置がメモリ３２に一時的に保持され、後述のシーン判別処理の精度向上のためにも用いられる。シーン判別処理については、後で詳細に説明する。

（画像処理部１０の内部構成）
図１３に、画像処理部１０の内部構成を示す。画像処理部１０は、撮像装置１における撮影画像に対して、シーン判別に基づく階調の補正動作を制御するものであり、撮影処理部２０での処理後に、あるいはその処理とは独立して、画像取得、シーン判別、階調処理条件設定などの一連の処理を実行する。図１３を用いて、画像処理部１０の内部構成を説明する。

図１３に示すように、画像処理部１０は、第１画像取得部１０１、第２画像取得部１０２、占有率算出部１０３、指標算出部１０４、シーン判別部１０５、階調処理条件設定部１０７、そして階調変換処理部１０８により構成される。

第１画像取得部１０１は、レリーズボタン２８が全押しされたタイミングで、撮像素子３３に写った最新の画像の画像データを第１の画像として取得する。すなわち、第１画像取得部１０１は第１の画像取得手段として機能する。

また撮影時のＡＦ制御において選定された合焦エリア位置も合わせて取得する。またその合焦エリアでのデフォーカス量、すなわち被写体距離に基づく撮影倍率も取得する。本実施形態で取得する合焦エリア位置は、撮影時のＡＦ制御部５２における合焦エリア選定結果に基づくもので、後でのシーン判別処理に用いるため、一時的に画像データに付加記録されるものである。また、撮影倍率も同様である。撮影倍率の算出については後述する。取得した第１の画像の画像データ、及び合焦エリア位置はメモリ３２に保持される。

第２画像取得部１０２は、取得した第１の画像を、Ｎ×Ｍ個の矩形の領域（垂直方向にＭ個及び水平方向にＮ個に分割された領域）に分割する。図１４（ａ）に、第１の画像の一例を示し、図１４（ｂ）に、当該第１の画像が２２×１４個の領域に分割された例を示す。なお、分割領域の数は特に限定されない。本実施形態では、分割された各領域を画像データの「画素」と見なし、分割された画像を実質的にサイズが縮小された画像として扱う。この縮小された画像が、第２の画像であり、上記操作により第２の画像を取得することになる。従って第２画像取得部１０２は、第２の画像取得手段として機能する。

占有率算出部１０３は、第２の画像の画像データ、すなわち画像を構成する各画素に対して、色情報を取得する。また前述の合焦エリア位置及び撮影倍率に対応する第２の画像での近傍画素の色情報に基づいて、第２の画像の画像データを複数領域（肌色領域とその他領域）に分割する色相（分割色相）を決定するとともに、前記取得された色情報に基づいて、第２の画像の画像データ各画素を、明度と上記分割色相の組み合わせからなる所定の階級に分類し（図１８参照）、分類された階級毎に、当該階級に属する画素が画像全体に占める割合を示す第１の占有率を算出する。すなわち、占有率算出部１０３は分割色相決定手段、及び第１の占有率算出手段として機能する。

また、占有率算出部１０３は、第２の画像の各画素を、第２の画像の画面の外縁からの距離と明度との組み合わせからなる所定の階級に分類し（図１９参照）、分類された階級毎に、当該階級に属する画素が画像全体に占める割合を示す第２の占有率を算出する。すなわち、占有率算出部１０３は第２の占有率算出手段としても機能する。

占有率算出部１０３において実行される、分割色相の決定を含む占有率算出処理については、後に図１７を参照して詳細に説明する。

指標算出部１０４は、占有率算出部１０３で算出された第１の占有率に、撮影条件に応じて予め設定された係数を乗算することにより、撮影シーンを特定するための指標１、及び指標２を算出する。すなわち、指標算出部１０４は第１の指標算出手段、及び第２の指標算出手段として機能する。

また、指標算出部１０４は、占有率算出部１０３で算出された第２の占有率に、撮影条件に応じて予め設定された係数を乗算することにより、撮影シーンを特定するための指標３を算出する。すなわち、指標算出部１０４は第３の指標算出手段としても機能する。

さらに、指標算出部１０４は、第２の画像の画面中央部における平均輝度値と、最大輝度値と平均輝度値との差分値のそれぞれに、撮影条件に応じて予め設定された係数を乗算することにより、撮影シーンを特定するための指標４を算出する。すなわち、指標算出部１０４は第４の指標算出手段として機能する。

また、指標算出部１０４は、第２の画像の画面中央部における肌色領域の平均輝度値（指標７とする）と、指標１及び指標３に、それぞれ、撮影条件に応じて予め設定された係数を乗算して和をとることにより、新たな指標５を算出する。

また、指標算出部１０４は、当該平均輝度値と、指標２及び指標３に、それぞれ、撮影条件に応じて予め設定された係数を乗算して和をとることにより、新たな指標６を算出する。

指標算出部１０４において実行される指標算出処理については、後に図２０を参照して詳細に説明する。

シーン判別部１０５は、指標算出部１０４で算出された各指標に基づいて、第１の画像の撮影シーンを判別する。すなわち、シーン判別部１０５はシーン判別手段として機能する。ここで、撮影シーンとは、順光、逆光、近接フラッシュ等の被写体を撮影する時の光源条件を示しており、主要被写体（主に人物のことを指すが、これに限るものではない）のオーバー度、アンダー度などもこれに含まれる。撮影シーン判別の方法については、後に詳細に説明する。

以上のように、占有率算出部、指標算出部、そしてシーン判別部がシーン判別処理手段として機能する。

階調処理条件設定部１０７は、階調処理条件設定手段として機能し、シーン判別部１０５で判別された撮影シーンに基づいて、第１の画像に対する階調処理条件（図２７参照）を設定する。

また、階調処理条件設定部１０７は、指標算出部１０４で算出された各指標に基づいて、第１の画像に対する階調調整のための階調調整パラメータを算出する。従って、上記階調処理条件設定部１０７は、階調調整パラメータ算出手段として機能する。階調処理条件の設定については、後に図２６を参照して詳細に説明する。

階調変換処理部１０８は、階調変換処理手段として機能し、上記階調処理条件設定部１０７において設定された階調処理条件に従い、第１の画像に対する階調変換処理を実行する。

プロセッサ３１は、上記画像処理部１０で行われる処理以外に、公知技術に基づいて、自動ホワイトバランス処理、ガンマ変換処理などの撮影処理部２０での処理や、またその他画像処理、画像フォーマット変換、画像データの記録などの処理動作を制御する機能を有する。

またプロセッサ３１における各部の処理は、基本的にハードウエア処理によって行われるが、一部についてはメモリ３２に記憶（保存）されているプログラムを実行するなどしてソフトウェア処理によって行われる。

（撮像装置１の動作フロー）
次に、本実施形態における撮像装置１の動作について説明する。以下では、撮影対象物を「主要被写体」と呼んでいる。

まず、図１５のフローチャートを参照して、撮像装置１で実行される処理の全体の流れを説明する。なお、これらの処理はプログラムを用いてコンピュータに実行させることができる。以下で説明する各工程は、画像処理プログラムの各機能としても同様の説明ができる。

まず、電源スイッチ２６がＯＮに操作されると（電源が投入されると）、メモリ３２のリセット等の前処理が行われる（ステップＳ１）。ユーザは、主要被写体が撮像装置１の被写界に入るように撮像装置１をその主要被写体の方に向け、撮影のための操作を開始する。レリーズボタン２８が押されて撮影が行われる（ステップＳ２）。撮像素子３３に結像した画像は電気信号として取り込まれ、ＣＣＤ配列に基づく補間処理が行われる（ステップＳ４）。ステップＳ５では、撮影画像として、第１の画像が取得され、メモリ３２に保持される。第１の画像はリニア画像であり、ＲＡＷ画像と呼称される。

一方、撮影が行われると、ステップＳ３では、合焦エリア位置情報、及び撮影倍率の取り込みが行われる。ここで取得する合焦エリア位置情報、及び撮影倍率は、撮影時のＡＦ制御において選定された合焦エリア位置、及びその合焦エリアでの被写体距離情報に基づく撮影倍率であり、後で撮影画像のシーン判別処理が行われる際に利用されるものである。撮影倍率の算出については後述する。取得した合焦エリア位置情報及び撮影倍率はメモリ３２に保持される。ステップＳ５及びステップＳ３は第１の画像取得工程として機能する。

撮影により取得された第１の画像は、ＡＷＢ（自動ホワイトバランス）の処理を施される（ステップＳ６）。これは以下に述べる第２の画像の取得が行われてから、第１の画像と第２の画像とに対して別途処理されてもよい。

ＡＷＢ処理の後、第１の画像の画像データは、一方で複数の分割領域からなる分割画像、すなわち第２の画像として取得される（ステップＳ７）。分割画像の各分割領域は第２の画像の画素であり、第２の画像は第１の画像のサイズを縮小した画像となる。図１４（ａ）に、第１の画像の一例を示し、図１４（ｂ）に、当該第１の画像が２２×１４個のセルに分割された例を示す。各セルが第２の画像の一画素に相当する。実際の画像データのサイズ縮小方法は、単純平均やバイリニア法やバイキュービック法など公知の技術を用いることができる。ステップＳ７は第２の画像取得工程として機能する。

次いで、シーン判別処理工程であるステップＳ８では、取得された第２の画像の画像データに基づいて、撮影シーンを判別するシーン判別処理が行われる。ステップＳ８における撮影シーン判別処理については、後に図１６を参照して説明する。

次いで、階調処理条件設定工程であるステップＳ９では、ステップＳ８のシーン判別処理で得られた各指標及び撮影シーンの判別結果に基づいて、第１の画像の階調変換処理のために必要な条件を設定する処理が行われる。ステップＳ７の階調処理条件設定処理については、後に図２６を参照して説明する。

一方、ＡＷＢ処理後の第１の画像については、ガンマ変換処理が行われ、ノンリニア画像に変換される（ステップＳ１０）。但し、ガンマ変換処理は階調の変換処理であり、次に述べるステップＳ１１の階調変換処理と合わせて行ってもよい。

階調変換処理工程であるステップＳ１１では、第２の画像に基づいて設定された階調処理条件に基づいて、撮影画像である第１の画像の画像データに対する階調変換処理が行われる。ガンマ変換は視覚に合わせてノンリニアの階調に変換したが、ステップＳ１１の階調変換は撮影シーンの光源条件などによる階調への影響を補正するものであり、ステップＳ８でのシーン判別結果によりステップＳ９で設定した処理条件に基づき階調変換処理を行う。

なお本実施形態では、ステップＳ９、ステップＳ１１で階調処理条件を設定し、変換処理する形態としているが、撮影された第１の画像に対する画像処理以外に、例えばその撮影シーンに対する最適な画像を取得するための露出条件をリアルタイムに算出し、撮影操作に反映するといった処理などを行うようにしてもよい。

次いで、画像記録のため、画像フォーマットの変換が行われる（ステップＳ１２）。一般的にはＪＰＥＧ形式の画像に変換処理される。その後ＪＰＥＧ形式の画像データが、保存用の記録媒体（ＳＤメモリカードまたはマルチメディアカード（ＭＭＣ）等）に記録される（ステップＳ１３）。次の撮影に移るか、あるいは電源スイッチ２６がＯＦＦに操作されると、撮像装置１における動作は終了する。

（シーン判別処理のフロー）
次に、図１６のフローチャート及び図１７〜図２５を参照して、撮像装置１でのシーン判別処理（図１５のステップＳ８）について説明する。

シーン判別処理は、図１６に示すように、色空問変換処理（ステップＳ２０）、占有率算出処理（ステップＳ２１）、指標算出処理（ステップＳ２２）、シーン判別（ステップＳ２３）の各処理により構成される。但し、占有率算出処理（ステップＳ２１）は、図１７のフローチャートに示すように分割色相決定処理を含む。以下、図１７〜図２５を参照して、図１６に示す各処理について詳細に説明する。

まず、図１６のステップＳ２０において、色空間変換処理が行われる。

まず、撮影された第１の画像から得られた第２の画像の各画素のＲＧＢ値、輝度値及びホワイトバランスを示す情報が取得される。なお、輝度値としては、ＲＧＢ値を公知の変換式に代入して算出した値を用いてもよい。次いで、取得されたＲＧＢ値がＨＳＶ表色系に変換され、画像の色情報が取得される。ＨＳＶ表色系とは、画像データを色相（Ｈｕｅ）、彩度（Ｓａｔｕｒａｔｉｏｎ）、明度（ＶａｌｕｅまたはＢｒｉｇｈｔｎｅｓｓ）の３つの要素で表すものであり、マンセルにより提案された表色体系を元にして考案されたものである。ＨＳＶ表色系への変換は、ＨＳＶ変換プログラム等を用いて行われ、通常、入力であるＲ、Ｇ、Ｂに対して、算出された色相値Ｈは、スケールを０〜３６０と定義し、彩度値Ｓ、明度値Ｖは、単位を０〜２５５と定義している。

なお、本実施形態において、「明度」は特に注釈を設けない限り一般に用いられる「明るさ」の意味である。以下の記載において、ＨＳＶ表色系のＶ（０〜２５５）を「明度」として用いるが、他の如何なる表色系の明るさを表す単位系を用いてもよい。その際、本実施形態で記載する各種係数等の数値を、改めて算出し直すことは言うまでもない。

また、本実施形態において、「色相」は特に注釈を設けない限り一般に用いられる「色」の意味である。以下の記載において、ＨＳＶ表色系のＨ（０〜３６０）を「色相」として用いるが、例えば赤色差値（Ｃｒ）や青色差値（Ｃｂ）によって表現される色を用いてもよい。その際、本実施形態で記載する各種係数等の数値を、改めて算出し直すことは言うまでもない。ステップＳ２０では、上記のようにして求められたＨ、Ｓ、Ｖの値が色情報として取得される。

次に、ステップＳ２１では、占有率算出処理が行われる。図１７のフローチャートを参照して、占有率算出処理について説明する。
＜分割色相決定処理＞
まず、第１の画像取得工程で取得された合焦エリア位置の情報に基づいて、第２の画像を分割するための分割色相が決定される。

ステップＳ２８では、第２の画像の合焦エリア位置に相当する画素の近傍画素で第１の肌色条件を満たす画素が抽出される。

第１の肌色条件について説明する。

前述の色空問変換処理で算出されたＨＳＶ値に基づいて、第２の画像の各画素が、色相と明度と輝度の色情報を持つ。これらの各画素の色情報に基づいて肌色に相当する画素を抽出するが、色相（Ｈ）については、色相値が０〜３９、３３０〜３５９の範囲を肌色色相領域（Ｈ１及びＨ２）とし、特に下記の式（１）を満たす色相’（Ｈ）を肌色領域（Ｈ１）とし、式（１）を満たさない領域を（Ｈ２）とする。

１０＜彩度（Ｓ）＜１７５；
色相’（Ｈ）＝色相（Ｈ）＋６０ （０≦色相（Ｈ）＜３００のとき）；
色相’（Ｈ）＝色相（Ｈ）−３００ （３００≦色相（Ｈ）＜３６０のとき）．
輝度（Ｙ）＝Ｒ×０．３０＋Ｇ×０．５９＋Ｂ×０．１１ （Ａ）
として、
色相’（Ｈ）／輝度（Ｙ）＜３．０×（彩度（Ｓ）／２５５）＋０．７ （１）
すなわち、上の式（１）を第１の肌色条件とする。なお、式（Ａ）及び式（１）において明度（Ｖ）を用いることも可能である。

第２の画像の合焦エリア位置に相当する画素の近傍画素は、次のように定める。

取得した合焦エリアの位置に対応する、第２の画像における画素を選定し、画素ｘとする。画素ｘを中心として、少なくとも５＊５画素の範囲の画素を近傍画素とする。近傍画素の範囲の大きさは、第２の画像の画像サイズに応じて、適宜設定すればよいが、第２の画像の画像サイズの３０％以下であることが好ましい。

第１の画像の撮影時の撮影倍率を取得し、撮影倍率から近傍画素の画素数を決定することは、さらに好ましい。撮影倍率βは、次のように定義できる。

１／β＝ｂ／ｆ’
但し、撮影倍率をβ、被写体距離をｂ、３５ｍｍフィルム換算レンズ焦点距離をｆ’とする。

フィルム面距離をａ、レンズ焦点距離をｆとすると、１／ａ＋１／ｂ＝１／ｆより上の式が求められる。また、フィルム面距離ａとレンズ焦点距離ｆは既知であるので、被写体距離ｂを求めることができる。また、３５ｍｍフィルム換算レンズ焦点距離ｆ’は、レンズ焦点距離ｆに係数をかけて求めることができる。この係数は３５ｍｍフィルムのサイズと撮像素子（ＣＣＤ）のサイズの比であり、撮像素子の画角と３５ｍｍフィルムの画角が異なることを補正するものである。一般に撮像素子は３５ｍｍフィルムより画角が小さいため、画像を３５ｍｍフィルムと同一サイズに伸ばした状態で比較すると倍率は大きくなり、ｆ’はｆより大きくなる。

上述のように撮影倍率βが求められるので、βが大きくなるほど、画像サイズの３０％を上限として近傍画素の画素数を大きくし、βが小さくなるほど、５＊５画素を下限として近傍画素の画素数を少なくするように設定することが望ましい。

近傍画素が決定すると、近傍画素から上記第１の肌色条件を満たす画素を抽出する。

ステップＳ２９では、抽出された第１の肌色条件を満たす画素に対して、色相、彩度、輝度についての統計量を求め、それに基づき、第２の肌色条件を算出する。この第２の肌色条件に基づいて、分割色相を決定する。

色相、彩度、輝度について求める統計量は、それぞれ平均値、分散、メジアン、モードなどから適切な統計量を選び、それらを用いて、より緩やかな第１の肌色条件を修正し、第２の画像に対してより精度の向上した第２の肌色条件を求める。

第２の肌色条件は、上の式（１）を修正し、彩度の範囲を狭くしたものが適切である。

第２の肌色条件が定まると、肌色色相領域（Ｈ１及びＨ２）のうち、第２の肌色条件を満たす色相’（Ｈ）を肌色領域（Ｈ１）とし、第２の肌色条件を満たさない領域を（Ｈ２）とする。また、色相値が４０〜１６０の緑色色相領域（Ｈ３）、色相値が１６１〜２５０の青色色相領域（Ｈ４）を加えて４つの分割色相を決定する。なお、その他の赤色色相領域（Ｈ５）は、撮影シーンの判別への寄与が少ないとの知見から、以下の計算では用いない。

このようにステップＳ２８とステップＳ２９は、分割色相決定工程として機能する。
＜占有率算出処理＞
次に、色空問変換処理で算出されたＨＳＶ値に基づいて、第２の画像の各画素が、上記分割色相決定処理により決定された分割色相と明度との組み合わせからなる階級に分類され、分類された階級毎に累積画素数を算出することによって２次元ヒストグラムが作成される（ステップＳ３０）。

図１８に、明度と色相の組み合わせからなる階級を示す。ステップＳ３０では、明度（Ｖ）は、明度値が０〜５（ｖ１）、６〜１２（ｖ２）、１３〜２４（ｖ３）、２５〜７６（ｖ４）、７７〜１０９（ｖ５）、１１０〜１４９（ｖ６）、１５０〜２５５（ｖ７）の７つの階級に分割される。図１８に示すように、最も低明度の階級における明度の範囲よりも、最も高明度の階級における明度の範囲の方が広い。

色相（Ｈ）は、前述の分割色相決定処理で述べたように、色相値が０〜３９、３３０〜３５９の肌色色相領域（Ｈ１及びＨ２）、色相値が４０〜１６０の緑色色相領域（Ｈ３）、色相値が１６１〜２５０の青色色相領域（Ｈ４）に分割され、かつ肌色色相領域は、さらに、前述の第２の肌色条件を満たす肌色領域（Ｈ１）と、それ以外の領域（Ｈ２）に分割される。

従って、第２の画像における階級の数は４×７＝２８個となる。また、最大の明度値（２５５）の１割の値以内に、少なくとも３つの階級（ｖ１、ｖ２、ｖ３）を有する。

ステップＳ３０の後、第２の画像の各画素が、画面の外縁からの距離と明度の組み合わせからなる所定の階級に分類され、分類された階級毎に累積画素数を算出することによって２次元ヒストグラムが作成される（ステップＳ３１）。

図１９（ａ）に、ステップＳ３１において、第２の画像の画面の外縁からの距離に応じて分割された３つの領域ｎ１〜ｎ３を示す。領域ｎ１が外枠であり、領域ｎ２が外枠の内側の領域であり．領域ｎ３が第２の画像の中央部の領域である。ここでｎ１〜ｎ３は略同等の画素数となるように分割することが好ましい。また本実施形態においては３つの分割としたがこれに限定されるものではない。

また、ステップＳ３１において、明度は、上述のようにｖ１〜ｖ７の７つの領域に分割するものとする。図１９（ｂ）に、３つの領域ｎ１〜ｎ３と明度の組み合わせからなる階級を示す。図１９（ｂ）に示すように、第２の画像を画面の外縁からの距離と明度の組み合わせからなる階級に分類した場合の階級の数は３×７＝２１個となる。

ステップＳ３０において２次元ヒストグラムが作成されると、明度と上記分割色相の組み合わせからなる階級毎に算出された累積画素数の全画素数（Ｎ×Ｍ個）に占める割合を示す第１の占有率が算出される（ステップＳ３２）。すなわちステップＳ３０とステップＳ３２は第１の占有率算出工程として機能する。

明度領域ｖｉ、色相領域Ｈｊの組み合わせからなる階級において算出された第１の占有率をＲｉｊとすると、各階級における第１の占有率は表１のように表される。

ステップＳ３１において２次元ヒストグラムが作成されると、画面の外縁からの距離と明度の組み合わせからなる所定の階級毎に算出された累積画素数の全画素数に占める割合を示す第２の占有率が算出され（ステップＳ３３）、本占有率算出処理が終了する。すなわちステップＳ３１とステップＳ３３は第２の占有率算出工程として機能する。

明度領域ｖｉ、画面領域ｎｊの組み合わせからなる各階級において算出された第２の占有率をＱｉｊとすると、各階級における第２の占有率は表２のように表される。

なお、各画素を画面の外縁からの距離、上記分割明度及び色相からなる階級に分類し、分類された階級毎に累積画素数を算出することによって３次元ヒストグラムを作成してもよい。以下では、２次元ヒストグラムを用いる方式を採用するものとする。
＜指標算出処理＞
次に、図２０のフローチャートを参照して、指標算出処理（図１６のステップＳ２２）について説明する。

まず、第１の指標算出工程であるステップＳ４０では、占有率算出処理において階級毎に算出された第１の占有率に、撮影条件に応じて予め設定された係数（第１の係数）を乗算して和をとることにより、撮影シーンを特定するための指標１が算出される。指標１は、主要被写体のオーバー度を表す指標であり、「主要被写体がオーバー」と判別されるべき画像のみを他の撮影シーンから分離するためのものである。

次いで、第２の指標算出工程であるステップＳ４１では、同じく階級毎に算出された第２の占有率に、撮影条件に応じて予め設定された第１の係数とは異なる係数（第２の係数）を乗算して和をとることにより、撮影シーンを特定するための指標２が算出される。指標２は、空色高明度、顔色低明度等の逆光撮影時の特徴を複合的に表す指標であり、「逆光」、「主要被写体がアンダー」と判別されるべき画像のみを他の撮影シーンから分離するためのものである。

以下、指標１及び指標２の算出方法について詳細に説明する。

表３に、指標１を算出するために必要な第１の係数を階級別に示す。表３に示された各階級の係数は、表１に示した各階級の第１の占有率Ｒｉｊに乗算する重み係数であり、撮影条件に応じて予め設定されている。

表３によると、高明度（ｖ６）の肌色色相領域（Ｈ１）に分布する領域から算出される第１の占有率には、正（＋）の係数が用いられ、それ以外の色相である青色色相領域から算出される第１の占有率には、負（−）の係数が用いられる。図２１は、肌色領域（Ｈ１）における第１の係数と、その他の領域（緑色色相領域（Ｈ３））における第１の係数を、明度全体に渡って連続的に変化する曲線（係数曲線）として示したものである。表３及び図２１によると、高明度（Ｖ＝７７〜１５０）の領域では、肌色領域（Ｈ１）における第１の係数の符号は正（＋）であり、その他の領域（例えば、緑色色相領域（Ｈ３））における第１の係数の符号は負（−）であり、両者の符号が異なっていることがわかる。

明度領域ｖｉ、色相領域Ｈｊにおける第１の係数をＣｉｊとすると、指標１を算出するためのＨｋ領域の和は、式（２）のように定義される。

従って、Ｈ１〜Ｈ４領域の和は、下記の式（２−１）〜（２−４）のように表される。

Ｈ１領域の和＝Ｒ１１×０＋Ｒ２１×０＋（中略）…＋Ｒ７１×（−８） （２−１）
Ｈ２領域の和＝Ｒ１２×（−２）＋Ｒ２２×（−１）＋（中略）
…＋Ｒ７２×（−１０） （２−２）
Ｈ３領域の和＝Ｒ１３×５＋Ｒ２３×（−２）＋（中略）…＋Ｒ７３×（−１２）
（２−３）
Ｈ４領域の和＝Ｒ１４×０＋Ｒ２４×（−１）＋（中略）…＋Ｒ７４×（−１２）
（２−４）
指標１は、式（２−１）〜（２−４）で示されたＨ１〜Ｈ４領域の和を用いて、式（３）のように定義される。

指標１＝Ｈ１領域の和＋Ｈ２領域の和＋Ｈ３領域の和＋Ｈ４領域の和＋１．５ （３）
表４に、指標２を算出するために必要な第２の係数を階級別に示す。表４に示された各階級の係数は、表１に示した各階級の第１の占有率Ｒｉｊに乗算する重み係数であり、撮影条件に応じて予め設定されている。

表４によると、肌色色相領域（Ｈ１）の中間明度に分布する領域（ｖ４、ｖ５）から算出される占有率には負（−）の係数が用いられ、肌色色相嶺域（Ｈ１）の低明度（シャドー）領域（ｖ２、ｖ３）から算出される占有率には係数０が用いられる。図２２は、肌色領域（Ｈ１）における第２の係数を、明度全体にわたって連続的に変化する曲線（係数曲線）として示したものである。表４及び図２２によると、肌色色相領域の、明度値が２５〜１５０の中間明度領域の第２の係数の符号は負（−）であり、明度値６〜２４の低明度（シャドー）領域の第２の係数は０であり、両領域での係数に大きな違いがあることがわかる。

明度領域ｖｉ、色相領域Ｈｊにおける第２の係数をＤｉｊとすると、指標２を算出するためのＨｋ領域の和は、式（４）のように定義される。

従って、Ｈ１〜Ｈ４領域の和は、下記の式（４−１）〜（４−４）のように表される。

Ｈ１領域の和＝Ｒ１１×０＋Ｒ２１×０＋（中略）…＋Ｒ７１×２ （４−１）
Ｈ２領域の和＝Ｒ１２×（−２）＋Ｒ２２×（−１）＋（中略）…＋Ｒ７２×２
（４−２）
Ｈ３領域の和＝Ｒ１３×２＋Ｒ２３×１＋（中略）…＋Ｒ７３×３ （４−３）
Ｈ４領域の和＝Ｒ１４×０＋Ｒ２４×（−１）＋（中略）…＋Ｒ７４×３ （４−４）
指標２は、式（４−１）〜（４−４）で示されたＨ１〜Ｈ４領域の和を用いて、式（５）のように定義される。

指標２＝Ｈ１領域の和＋Ｈ２領域の和＋Ｈ３領域の和＋Ｈ４領域の和＋１．７ （５）
指標１及び指標２は、第２の画像の明度と色相の分布量に基づいて算出されるため、画像がカラー画像である場合の撮影シーンの判別に有効である。

指標１及び指標２が算出されると、第３の指標算出工程であるステップＳ４２で、占有率算出処理において階級毎に算出された第２の占有率に、撮影条件に応じて予め設定された第３の係数（第１の係数、第２の係数とは異なる係数）を乗算して和をとることにより、撮影シーンを特定するための指標３が算出される。指標３は、主要被写体がアンダーな逆光と主要被写体がオーバーな画像間における、画像データの画面の中心と外側の明暗関係の差異を示すものである。

以下、指標３の算出方法について説明する。

表５に、指標３を算出するために必要な第３の係数を階級別に示す。表５に示された各階級の係数は、表２に示した各階級の第２の占有率Ｑｉｊに乗算する重み係数であり、撮影条件に応じて予め設定されている。

図２３は、画面領域ｎ１〜ｎ３における第３の係数を、明度全体に渡って連続的に変化する曲線（係数曲線）として示したものである。

明度領域ｖｉ、画面領域ｎｊにおける第３の係数をＥｉｊとすると、指標３を算出するためのｎｋ領域（画面領域ｎｋ）の和は、式（６）のように定義される。

従って、ｎ１〜ｎ３領域の和は、下記の式（６−１）〜（６−３）のように表される。

ｎ１領域の和＝Ｑ１１×１２＋Ｑ２１×１０＋（中略）…＋Ｑ７１×０ （６−１）
ｎ２領域の和＝Ｑ１２×５＋Ｑ２２×３＋（中略）…＋Ｑ７２×０ （６−２）
ｎ３領域の和＝Ｑ１３×（−１）＋Ｑ２３×（−４）＋（中略）…＋Ｑ７３×（−８）
（６−３）
指標３は、式（６−１）〜（６−３）で示されたｎ１〜ｎ３領域の和を用いて、式（７）のように定義される。

指標３＝ｎ１領域の和＋ｎ２領域の和＋ｎ３領域の和＋０．７ （７）
指標３は、第２の画像の明度の分布位置による構図的な特徴（全体画像の画面の外縁からの距離）に基づいて算出されるため、カラー画像だけでなくモノクロ画像の撮影シーンを判別するのにも有効である。

また、例えば合焦エリア位置に応じて、画面の外縁からの距離と明度の所定の階級から算出される第２占有率に対して乗算される第３の係数の重みを変えることで、より高精度にシーンを判別する指標を算出することが可能である。

指標１〜３が算出されると、第４の指標算出工程であるステップＳ４３で、第２の画像の画面中央部における肌色の平均輝度値と、第２の画像の最大輝度値と平均輝度値との差分値のそれぞれに、撮影条件に応じて予め設定された係数を乗算することにより、撮影シーンを特定するための指標４が算出される。

以下、図２４のフローチャートを参照して、指標４の算出処理について詳細に説明する。

まず、第２の画像のＲＧＢ（Ｒｅｄ、Ｇｒｅｅｎ、Ｂｌｕｅ）値から、式（Ａ）を用いて輝度Ｙが算出される。次いで、第２の画像の画面中央部における肌色領域の平均輝度値ｘ１が算出される（ステップＳ５０）。ここで、画面中央部とは、例えば図１９（ａ）に示した領域ｎ３により構成される領域である。次いで、第２の画像の最大輝度値と平均輝度値との差分値ｘ２＝最大輝度値−平均輝度値が算出される（ステップＳ５１）。

次いで、第２の画像の輝度の標準偏差ｘ３が算出され（ステップＳ５２）、画面中央部における平均輝度値ｘ４が算出される（ステップＳ５３）。次いで、第２の画像における肌色領域の最大輝度値Ｙｓｋｉｎ＿ｍａｘと最小輝度値Ｙｓｋｉｎ＿ｍｉｎの差分値と、肌色領域の平均輝度値Ｙｓｋｉｎ＿ａｖｅとの比較値ｘ５が算出される（ステップＳ５４）。この比較値ｘ５は、下記の式（８−１）のように表される。

ｘ５＝（Ｙｓｋｉｎ＿ｍａｘ−Ｙｓｋｉｎ＿ｍｉｎ）／２−Ｙｓｋｉｎ＿ａｖｅ
（８−１）
次いで、ステップＳ５０〜Ｓ５４で算出された値ｘ１〜ｘ５の値の各々に、撮影条件に応じて予め設定された第４の係数を乗算して和をとることにより、指標４が算出され（ステップＳ５５）、指標４算出処理が終了する。指標４は、下記の式（８−２）のように定義される。

指標４＝０．０５×ｘ１＋１．４１×ｘ２＋（−０．０１）×ｘ３＋（−０．０１）
×ｘ４＋０．０１×ｘ５−５．３４ （８−２）
この指標４は、第２の画像の画面の構図的な特徴だけでなく、輝度ヒストグラム分布情報を持ち合わせており、特に、主要被写体がオーバーである撮影シーンとアンダー撮影シーンの判別に有効である。

指標４が算出されると、ステップＳ４４（図２０参照）で、指標１、指標３、及び第２の画像の画面中央部における肌色領域の平均輝度値に、撮影条件に応じて予め設定された重み係数を乗算することにより、指標５が算出される。

さらにステップＳ４５で、指標２、指標３、及び第２の画像の画面中央部における肌色領域の平均輝度値に、撮影条件に応じて予め設定された重み係数を乗算することにより、指標６が算出され、本指標算出処理が終了する。

以下、指標５及び指標６の算出方法について詳細に説明する。

第２の画像の画面中央部における肌色領域の平均輝度値を指標７とする。ここでの画面中央部とは、例えば、図１９（ａ）の領域ｎ２及び領域ｎ３から構成される領域である。このとき、指標５は、指標１、指標３、指標７を用いて式（９）のように定義され、指標６は、指標２、指標３、指標７を用いて式（１０）のように定義される。

指標５＝０．５４×指標１＋０．５０×指標３＋０．０１×指標７−０．６５ （９）
指標６＝０．８３×指標２＋０．２３×指標３＋０．０１×指標７−１．１７（１０）
ここで式（９）及び式（１０）において各指標に乗算される係数は、撮影条件に応じて予め設定されている。

なお、図２４における平均輝度値（例えば、全体平均輝度値）の算出方法としては、撮像装置１の各受光部から得られた個別輝度データの単純な加算平均値を求めてもよいし、撮像装置１の測光方式としてよく用いられる中央重点平均測光に類似した、画面中心付近の受光部より得られた輝度データに重み付けを高く、画面の周辺付近の受光部より得られた輝度データに重み付けを低くして加算平均値を求める手法を用いてもよい。また、焦点検出領域に対応した受光部付近より得られた輝度データに重み付けを高くし、焦点検出位置から離れた受光部より得られた輝度データに重み付けを低くして加算平均値を求める手法等を用いてもよい。
＜シーン判別＞
図１６に戻って、シーン判別を説明する。

指標４〜６が算出されると、これらの指標の値に基づいて撮影シーンが判別される（ステップＳ２３）。表６に、指標４、指標５及び指標６の値による撮影シーンの判別内容を示す。

図２５は、表６に示した判別内容を、指標４〜６の座標系を用いて表した判別マップである。

（階調処理条件設定のフロー）
次に、図２６のフローチャートを参照して、第１の画像のガンマ変換処理後の画像に対する階調処理条件設定（図１５のステップＳ９）について説明する。
＜階調調整方法選択＞
まず、判別された撮影シーンに応じて、ステップＳ７０で第１の画像データのガンマ変換処理後に対する階調調整の方法が決定され、ステップＳ７１で階調調整パラメータが算出されると、ステップＳ７３で階調処理条件（階調変換曲線）が決定される。なお、本実施形態では、ステップＳ７０とステップＳ７３とにおいて階調調整方法と階調調整量の双方を決定する場合を示すが、階調調整量のみを選択、あるいは決定してもよい。

ステップＳ７０で階調調整方法を決定する場合、図２７に示すように、撮影シーンが順光である場合は階調調整方法Ａ（図２７（ａ））が選択され、逆光である場合は階調調整方法Ｂ（図２７（ｂ））が選択され、主要被写体がオーバーである場合は階調調整方法Ｃ（図２７（ｃ））が選択され、アンダーである場合は、階調調整方法Ｂ（図２７（ｂ））が選択される。

なお本実施形態においては、第１の画像のガンマ変換後の画像へ適用する階調変換曲線を決定する方法を示したが、階調変換工程をガンマ変換の前に実施する場合には、図２７の階調変換曲線に対して、ガンマ変換の逆変換を施した曲線で階調変換が行われる。
＜階調調整パラメータ算出＞
階調調整方法が決定されると、ステップＳ７１では、指標算出処理で算出された各指標に基づいて、階調調整に必要なパラメータが算出される。すなわち、ステップＳ７１は階調調整パラメータ算出工程として機能する。以下、階調調整パラメータの算出方法について説明する。なお、以下では、８ｂｉｔの撮影画像データは１６ｂｉｔへと事前に変換されているものとし、撮影画像データの値の単位は１６ｂｉｔであるものとする。

階調調整に必要なパラメータ（階調調整パラメータ）として、下記のＰ１〜Ｐ９のパラメータが算出される。

Ｐ１：撮影画面全体の平均輝度
Ｐ２：ブロック分割平均輝度
Ｐ３：肌色領域（Ｈ１）の平均輝度
Ｐ４：輝度補正値１＝Ｐ１−Ｐ２
Ｐ５：再現目標修正値＝輝度再現目標値（３０３６０）−Ｐ４
Ｐ６：オフセット値１＝Ｐ５−Ｐ１
Ｐ７：キー補正値
Ｐ７’：キー補正値２
Ｐ８：輝度補正値２
Ｐ９：オフセット値２＝Ｐ５−Ｐ８−Ｐ１
ここで、図２８及び図２９を参照して、パラメータＰ２（ブロック分割平均輝度）の算出方法について説明する。

まず、画像データを正規化するために、ＣＤＦ（累積密度関数）を作成する。次いで、得られたＣＤＦから最大値と最小値を決定する。この最大値と最小値は、ＲＧＢ毎に求める。ここで、求められたＲＧＢ毎の最大値と最小値を、それぞれ、Ｒｍａｘ、Ｒｍｉｎ、Ｇｍａｘ、Ｇｍｉｎ、Ｂｍａｘ、Ｂｍｉｎとする。

次いで、画像データの任意の画素（Ｒｘ、Ｇｘ、Ｂｘ）に対する正規化画像データを算出する。ＲプレーンにおけるＲｘの正規化データをＲｐｏｉｎｔ、ＧプレーンにおけるＧｘの正規化データをＧｐｏｉｎｔ、ＢプレーンにおけるＢｘの正規化データをＢｐｏｉｎｔとすると、正規化データＲｐｏｉｎｔ、Ｇｐｏｉｎｔ、Ｂｐｏｉｎｔは、それぞれ、式（１１）〜式（１３）のように表される。

Ｒｐｏｉｎｔ＝｛（Ｒｘ−Ｒｍｉｎ）／（Ｒｍａｘ−Ｒｍｉｎ）｝×６５５３５
（１１）
Ｇｐｏｉｎｔ＝｛（Ｇｘ−Ｇｍｉｎ）／（Ｇｍａｘ−Ｇｍｉｎ）｝×６５５３５
（１２）
Ｂｐｏｉｎｔ＝｛（Ｂｘ−Ｂｍｉｎ）／（Ｂｍａｘ−Ｂｍｉｎ）｝×６５５３５
（１３）
次いで、式（１４）により画素（Ｒｘ、Ｇｘ、Ｂｘ）の輝度Ｎｐｏｉｎｔを算出する。

Ｎｐｏｉｎｔ＝（Ｂｐｏｉｎｔ＋Ｇｐｏｉｎｔ＋Ｒｐｏｉｎｔ）／３ （１４）
図２８（ａ）は、正規化する前のＲＧＢ画素の輝度の度数分布（ヒストグラム）である。図２８（ａ）において、横軸は輝度、縦軸は画素の頻度である。このヒストグラムは、ＲＧＢ毎に作成する。輝度のヒストグラムが作成されると、式（１１）〜式（１３）により、画像データに対し、プレーン毎に正規化を行う。図２８（ｂ）は、式（１４）により算出された輝度のヒストグラムを示す。撮影画像データが６５５３５で正規化されているため、各画素は、最大値が６５５３５で最小値が０の間で任意の値をとる。

図２８（ｂ）に示す輝度ヒストグラムを所定の範囲で区切ってブロックに分割すると、図２８（ｃ）に示すような度数分布が得られる。図２８（ｃ）において、横軸はブロック番号（輝度）、縦軸は頻度である。

次いで、図２８（ｃ）に示された輝度ヒストグラムから、ハイライト、シャドー領域を削除する処理を行う。これは、白壁や雪上シーンでは、平均輝度が非常に高くなり、暗闇のシーンでは平均輝度は非常に低くなっているため、ハイライト、シャドー領域は、平均輝度制御に悪影響を与えてしまうことによる。そこで、図２８（ｃ）に示した輝度ヒストグラムのハイライト領域、シャドー領域を制限することによって、両領域の影響を減少させる。図２９（ａ）（または図２８（ｃ））に示す輝度ヒストグラムにおいて、高輝度領域（ハイライト領域）及び低輝度領域（シャドー領域）を削除すると、図２９（ｂ）のようになる。

次いで、図２９（ｃ）に示すように、輝度ヒストグラムにおいて、頻度が所定の閾値より大きい領域を削除する。これは、頻度が極端に多い部分が存在すると、この部分のデータが、撮影画像全体の平均輝度に強く影響を与えてしまうため、誤補正が生じやすいことによる。そこで、図２９（ｃ）に示すように、輝度ヒストグラムにおいて、閾値以上の画素数を制限する。図２９（ｄ）は、画素数の制限処理を行った後の輝度ヒストグラムである。

正規化された輝度ヒストグラムから、高輝度領域及び低輝度領域を削除し、さらに、累積画素数を制限することによって得られた輝度ヒストグラム（図２９（ｄ））の各ブロック番号と、それぞれの頻度に基づいて、輝度の平均値を算出したものがパラメータＰ２である。

パラメータＰ１は、画像データ全体の輝度の平均値であり、パラメータＰ３は、画像データのうち肌色領域（Ｈ１）の輝度の平均値である。パラメータＰ７のキー補正値、パラメータＰ７’のキー補正値２、パラメータＰ８の輝度補正値２は、それぞれ、式（１５）、式（１６）、式（１７）のように定義される。

Ｐ７（キー補正値）＝｛Ｐ３−（（指標６／６）×１８０００＋２２０００）｝
／２４．７８ （１５）
Ｐ７’（キー補正値２）＝｛Ｐ３−（（指標４／６）×１００００＋３００００）｝
／２４．７８ （１６）
Ｐ８（輝度補正値２）＝（指標５／６）×１７５００ （１７）
＜シーンごとの階調処理条件設定＞
図２６に戻り、階調調整パラメータが算出されると、ステップＳ７３では、その算出された階調調整パラメータに基づいて、撮影画像データに対する階調変換曲線の決定、すなわち階調処理条件が設定される。

すなわち、既に決定された階調調整方法に対応して予め設定された複数の階調変換曲線の中から、シーンに応じて選択されたパラメータの値に対応する階調変換曲線が選択（決定）される。あるいは、パラメータの値に基づいて、階調変換曲線を算出するようにしてもよい。

階調変換曲線が決定されると、階調処理条件設定は終了する。

以下、各撮影シーン（光源条件及び露出条件）ごとに、階調変換曲線の決定方法（ステップＳ７３での階調処理条件の決定）について説明する。

＜順光の場合＞
撮影シーンが順光である場合、パラメータＰ６を用いて、Ｐ１をＰ５と一致させるオフセット補正（８ｂｉｔ値の平行シフト）を下記の式（１８）により行う。

出力画像のＲＧＢ値＝入力画像のＲＧＢ値＋Ｐ６ （１８）
従って、撮影シーンが順光の場合、図２７（ａ）に示す複数の階調変換曲線の中から、式（１８）に対応する階調変換曲線が選択される。または、式（１８）に基づいて階調変換曲線を算出（決定）してもよい。

〈逆光の場合〉
撮影シーンが逆光である場合、図２７（ｂ）に示す複数の階調変換曲線の中から、パラメータＰ７（キー補正値）に対応する階調変換曲線が選択される。図２７（ｂ）の階調変換曲線の具体例を図３０に示す。パラメータＰ７の値と、選択される階調変換曲線の対応関係を以下に示す。

−５０＜Ｐ７＜＋５０ の場合→Ｌ３
＋５０≦Ｐ７＜＋１５０ の場合→Ｌ４
＋１５０≦Ｐ７＜＋２５０ の場合→Ｌ５
−１５０＜Ｐ７≦−５０ の場合→Ｌ２
−２５０＜Ｐ７≦−１５０ の場合→Ｌ１
なお、撮影シーンが逆光の場合、この階調変換処理とともに、覆い焼き処理を併せて行うことが好ましい。この場合、逆光度を示す指標６に応じて覆い焼き処理の程度も調整されることが望ましい。

〈アンダーの場合〉
撮影シーンがアンダーである場合、図２７（ｂ）に示す複数の階調変換曲線の中から、パラメータＰ７’（キー補正値２）に対応する階調変換曲線が選択される。具体的には、撮影シーンが逆光の場合の階調変換曲線の選択方法と同様に、図３０に示す階調変換曲線の中から、パラメータＰ７’の値に対応した階調変換曲線が選択される。なお、撮影シーンがアンダーである場合は、逆光の場合に示したような覆い焼き処理は行わない。

〈主要被写体がオーバーの場合〉
主要被写体がオーバーである場合、パラメータＰ９を用いてオフセット補正（８ｂｉｔ値の平行シフト）を式（１９）により行う。

出力画像のＲＧＢ値＝入力画像のＲＧＢ値十Ｐ９ （１９）
従って、主要被写体がオーバーの場合、図２７（ｃ）に示す複数の階調変換曲線の中から、パラメータＰ９に対応する階調変換曲線が選択される。または、式（１９）に基づいて階調変換曲線を算出（決定）してもよい。なお、式（１９）のパラメータＰ９の値が、予め設定された所定値αを上回った場合、図１２に示す曲線Ｌ１〜Ｌ５の中から、キー補正値がＰ９−αに対応する曲線が選択される。

なお、本実施形熊では、実際に撮影画像データに対して階調変換処理を施す場合、上述の階調変換処理条件を１６ｂｉｔから８ｂｉｔへ変更するものとする。

以上のように、上記実施形態によれば、背景にある肌色近似の画素を誤抽出することもなく、主要被写体である顔を適切に抽出し、画像のシーン判別のための指標算出に利用することにより、画像データからより高精度に撮影シーンを判別することができ、また主要被写体のオーバー、アンダー露光、順光、逆光シーンなどのシーン判別結果に応じて、より適切な補正処理を達成し、より適切な補正画像を得ることができる。

なお本発明の実施形態は、上記の実施形態に限定されるものではなく、本発明の趣旨に則る限り、様々な変更された形態もその範囲に含まれるものである。

本発明の実施形態に係る撮像装置１の外観構成例を示す図である。 撮像装置１の内部構成を示すブロック図である。 撮像処理部２０の内部構成を示すブロック図である。 ＡＥ制御部での露光量制御を示すフローチャートである。 シャッタ速度の制御において撮像素子に電荷が蓄積する様子を示す図である。 ＡＦ制御部での画像の焦点を合わせる制御を示すフローチャートである。 撮影光学系の移動に伴うコントラスト情報の変化と合焦点位置検出の様子を示す図である。 画素補間部での、ＲＧＢ各色成分ごとに画素間の補間を行う画像データの処理を示すフローチャートである。 ＡＷＢ制御部での、撮影画像におけるホワイトバランスを自動的に調整する処理を示すフローチャートである。 ガンマ補正曲線の例を示す図である。 多点ＡＦセンサ（測距エリア）の配置を示す図である。 多点ＡＦセンサを用いた場合の、ＡＦ制御部での合焦エリアの選定動作、及び画像の焦点を合わせる制御を示すフローチャートである。 画像処理部１０の内部構成を示すブロック図である。 撮影された第１の画像の一例を示す図（ａ）と、第１の画像を分割し、Ｍ×Ｎ画素の縮小画像とした第２の画像の一例を示す図（ｂ）である。 撮像装置１において実行される処理の全体の流れを示すフローチャートである。 画像処理部１０において実行されるシーン判別処理を示すフローチャートである。 占有率算出処理を示すフローチャートである。 明度と色相からなる階級を示す図である。 画面の外縁からの距離に応じて決定される領域ｎ１〜ｎ３を示す図（ａ）と、領域ｎ１〜ｎ３と明度からなる階級を示す図（ｂ）である。 指標算出処理を示すフローチャートである。 指標１を算出するための、第１の占有率に乗算する第１の係数を表す曲線を示す図である。 指標２を算出するための、第１の占有率に乗算する第２の係数を表す曲線を示す図である。 指標３を算出するための、第２の占有率に乗算する第３の係数を表す曲線を領域別（ｎ１〜ｎ３）に示す図である。 指標４算出処理を示すフローチャートである。 撮影シーン（順光、オーバー、逆光、アンダー）と指標４〜６の関係を示すプロット図である。 階調処理条件設定を示すフローチャートである。 各階調調整方法に対応する階調変換曲線を示す図である。 輝度の度数分布（ヒストグラム）（ａ）、正規化されたヒストグラム（ｂ）及びブロック分割されたヒストグラム（ｃ）を示す図である。 輝度のヒストグラムからの低輝度領域及び高輝度領域の削除を説明する図（（ａ）及び（ｂ））と、輝度の頻度の制限を説明する図（（ｃ）及び（ｄ））である。 撮影シーンが逆光またはアンダーである場合の階調処理条件を表す階調変換曲線を示す図である。

符号の説明

１ 撮像装置
１０ 画像処理部
２０ 撮像処理部
２１ 筐体
２２ 十字キー
２３ 撮影光学系
２４ フラッシュ
２５ ファインダ
２６ 電源スイッチ
２７ 表示部
２８ レリーズボタン
３１ プロセッサ
３２ メモリ
３３ 撮像素子
３４ 多点ＡＦセンサ
３７ 画像データ出力部
３８ 操作部
４１ タイミングジェネレータ
４２ シャッタユニット
４３ 絞りユニット
４４ フォーカスユニット
５１ ＡＥ制御部
５２ ＡＦ制御部
５３ 画素補間部
５４ ＡＷＢ制御部
５５ ガンマ補正部
１０１ 第１画像取得部
１０２ 第２画像取得部
１０３ 占有率算出部
１０４ 指標算出部
１０５ シーン判別部
１０７ 階調処理条件設定部
１０８ 階調変換処理部

Claims (12)

1. 撮影レンズを透過した光を受光した複数の検出エリアからの出力信号に基づいて、前記複数の検出エリアから合焦エリアを選定するＡＦ制御手段と、
   前記ＡＦ制御手段により選定された合焦エリアにおいてフォーカスされた画像を、撮影によって第１の画像として取得する第１の画像取得手段と、
   前記第１の画像から画像サイズを縮小した第２の画像を取得する第２の画像取得手段と、
   前記第２の画像に基づき撮影シーンの判別処理を行うシーン判別処理手段と、
   前記シーン判別処理手段によって得られたシーン判別結果に基づき、前記第１の画像に対する階調処理条件を設定する階調処理条件設定手段と、を有し、
   前記シーン判別処理手段はさらに、
   前記第２の画像の前記合焦エリアに相当する画素の近傍画素の色情報に基づいて、前記第２の画像を解析し、シーンの判別処理を行う、
   ことを特徴とする撮像装置。
2. 前記シーン判別処理手段は、
   前記第２の画像の画像データについて色情報を取得し、
   前記第２の画像の前記合焦エリアに相当する画素の近傍画素のうち、第１の肌色条件を満たす画素の色情報に基づいて、第２の肌色条件を算出し、前記第２の画像の画像データを複数の色相領域に分割するための、前記第２の肌色条件を満たす色相とその他の色相とを決定する分割色相決定手段と、
   前記第２の画像の画像データの色情報に基づいて、前記画像データを所定の明度と前記分割色相決定手段により決定された色相との組み合わせからなる階級に分類し、当該分類された階級ごとに、前記画像データ全体に占める割合を示す第１の占有率を算出する第１の占有率算出手段と、
   取得された前記色情報に基づいて、前記画像データを画面の外縁からの距離と明度の組み合わせからなる階級に分類し、当該分類された階級ごとに、前記画像データ全体に占める割合を示す第２の占有率を算出する第２の占有率算出手段と、
   前記第１の占有率に予め設定された第１の係数を乗算することにより、指標１を算出する第１の指標算出手段と、
   前記第１の占有率に予め設定された第２の係数を乗算することにより、指標２を算出する第２の指標算出手段と、
   前記第２の占有率に予め設定された第３の係数を乗算することにより、指標３を算出する第３の指標算出手段と、
   少なくとも前記画像データの画面中央部における肌色の平均輝度に、予め設定された第４の係数を乗算することにより、指標４を算出する第４の指標算出手段と、
   前記指標１、前記指標２、前記指標３、及び前記指標４に基づいて、前記画像データのシーンを特定するシーン判別手段と、を有する、
   ことを特徴とする請求項１に記載の撮像装置。
3. 前記階調処理条件設定手段は、
   前記第２の画像に基づき階調調整パラメータを算出する階調調整パラメータ算出手段を有し、
   前記シーン判別処理手段によるシーン判別結果と前記階調調整パラメータ算出手段により算出された前記階調調整パラメータとに基づき、前記第１の画像に対する階調処理条件を設定する、
   ことを特徴とする請求項１または２に記載の撮像装置。
4. 前記階調処理条件設定手段により設定された階調処理条件に基づき、前記第１の画像に対する階調変換処理を行う階調変換処理手段を有する、
   ことを特徴とする請求項１乃至３の何れか１項に記載の撮像装置。
5. 撮影レンズを透過した光を受光した複数の検出エリアからの出力信号に基づいて、前記複数の検出エリアから合焦エリアを選定するＡＦ制御工程と、
   前記ＡＦ制御工程で選定された合焦エリアにおいてフォーカスされた画像を、撮影によって第１の画像として取得する第１の画像取得工程と、
   前記第１の画像から画像サイズを縮小した第２の画像を取得する第２の画像取得工程と、
   前記第２の画像に基づき撮影シーンの判別処理を行うシーン判別処理工程と、
   前記シーン判別処理工程によって得られたシーン判別結果に基づき、前記第１の画像に対する階調処理条件を設定する階調処理条件設定工程と、を備え、
   前記シーン判別処理工程ではさらに、
   前記第２の画像の前記合焦エリアに相当する画素の近傍画素の色情報に基づいて、前記第２の画像を解析し、シーンの判別処理を行う、
   ことを特徴とする画像処理方法。
6. 前記シーン判別処理工程は、
   前記第２の画像の画像データについて色情報を取得し、
   前記第２の画像の前記合焦エリアに相当する画素の近傍画素のうち、第１の肌色条件を満たす画素の色情報に基づいて、第２の肌色条件を算出し、前記第２の画像の画像データを複数の色相領域に分割するための、前記第２の肌色条件を満たす色相とその他の色相とを決定する分割色相決定工程と、
   前記第２の画像の画像データの色情報に基づいて、前記画像データを所定の明度と前記分割色相決定手段により決定された色相との組み合わせからなる階級に分類し、当該分類された階級ごとに、前記画像データ全体に占める割合を示す第１の占有率を算出する第１の占有率算出工程と、
   取得された前記色情報に基づいて、前記画像データを画面の外縁からの距離と明度の組み合わせからなる階級に分類し、当該分類された階級ごとに、前記画像データ全体に占める割合を示す第２の占有率を算出する第２の占有率算出工程と、
   前記第１の占有率に予め設定された第１の係数を乗算することにより、指標１を算出する第１の指標算出工程と、
   前記第１の占有率に予め設定された第２の係数を乗算することにより、指標２を算出する第２の指標算出工程と、
   前記第２の占有率に予め設定された第３の係数を乗算することにより、指標３を算出する第３の指標算出工程と、
   少なくとも前記画像データの画面中央部における肌色の平均輝度に、予め設定された第４の係数を乗算することにより、指標４を算出する第４の指標算出工程と、
   前記指標１、前記指標２、前記指標３、及び前記指標４に基づいて、前記画像データのシーンを特定するシーン判別工程と、を備える、
   ことを特徴とする請求項５に記載の画像処理方法。
7. 前記階調処理条件設定工程は、
   前記第２の画像に基づき階調調整パラメータを算出する階調調整パラメータ算出工程を備え、
   前記シーン判別処理工程におけるシーン判別結果と前記階調調整パラメータ算出工程において算出された前記階調調整パラメータとに基づき、前記第１の画像に対する階調処理条件を設定する、
   ことを特徴とする請求項５または６に記載の画像処理方法。
8. 前記階調処理条件設定工程において設定された階調処理条件に基づき、前記第１の画像に対する階調変換処理を行う階調変換処理工程を備える、
   ことを特徴とする請求項５乃至７の何れか１項に記載の画像処理方法。
9. コンピュータに画像処理を実行させるための画像処理プログラムであって、
   撮影レンズを透過した光を受光した複数の検出エリアからの出力信号に基づいて、前記複数の検出エリアから合焦エリアを選定するＡＦ制御機能と、
   前記ＡＦ制御機能により選定された合焦エリアにおいてフォーカスされた画像を、撮影によって第１の画像として取得する第１の画像取得機能と、
   前記第１の画像から画像サイズを縮小した第２の画像を取得する第２の画像取得機能と、
   前記第２の画像に基づき撮影シーンの判別処理を行うシーン判別処理機能と、
   前記シーン判別処理機能によって得られたシーン判別結果に基づき、前記第１の画像に対する階調処理条件を設定する階調処理条件設定機能と、を有し、
   前記シーン判別処理機能はさらに、
   前記第２の画像の前記合焦エリアに相当する画素の近傍画素の色情報に基づいて、前記第２の画像を解析し、シーンの判別処理を行う、
   ことを特徴とする画像処理プログラム。
10. 前記シーン判別処理機能は、
    前記第２の画像の画像データについて色情報を取得し、
    前記第２の画像の前記合焦エリアに相当する画素の近傍画素のうち、第１の肌色条件を満たす画素の色情報に基づいて、第２の肌色条件を算出し、前記第２の画像の画像データを複数の色相領域に分割するための、前記第２の肌色条件を満たす色相とその他の色相とを決定する分割色相決定機能と、
    前記第２の画像の画像データの色情報に基づいて、前記画像データを所定の明度と前記分割色相決定機能により決定された色相との組み合わせからなる階級に分類し、当該分類された階級ごとに、前記画像データ全体に占める割合を示す第１の占有率を算出する第１の占有率算出機能と、
    取得された前記色情報に基づいて、前記画像データを画面の外縁からの距離と明度の組み合わせからなる階級に分類し、当該分類された階級ごとに、前記画像データ全体に占める割合を示す第２の占有率を算出する第２の占有率算出機能と、
    前記第１の占有率に予め設定された第１の係数を乗算することにより、指標１を算出する第１の指標算出機能と、
    前記第１の占有率に予め設定された第２の係数を乗算することにより、指標２を算出する第２の指標算出機能と、
    前記第２の占有率に予め設定された第３の係数を乗算することにより、指標３を算出する第３の指標算出機能と、
    少なくとも前記画像データの所定の部分における肌色の平均輝度に、予め設定された第４の係数を乗算することにより、指標４を算出する第４の指標算出機能と、
    前記指標１、前記指標２、前記指標３、及び前記指標４に基づいて、前記画像データのシーンを特定するシーン判別機能と、を有する、
    ことを特徴とする請求項９に記載の画像処理プログラム。
11. 前記階調処理条件設定機能は、
    前記第２の画像に基づき階調調整パラメータを算出する階調調整パラメータ算出機能を有し、
    前記シーン判別処理機能によるシーン判別結果と前記階調調整パラメータ算出機能により算出された前記階調調整パラメータとに基づき、前記第１の画像に対する階調処理条件を設定する、
    ことを特徴とする請求項９または１０に記載の画像処理プログラム。
12. 前記階調処理条件設定機能により設定された階調処理条件に基づき、前記第１の画像に対する階調変換処理を行う階調変換処理機能を有する、
    ことを特徴とする請求項９乃至１１の何れか１項に記載の画像処理プログラム。

Images